KR20150052247A - 스케일러블 비디오 코딩에서의 변환 베이시스 조정 - Google Patents

스케일러블 비디오 코딩에서의 변환 베이시스 조정 Download PDF

Info

Publication number
KR20150052247A
KR20150052247A KR1020157008569A KR20157008569A KR20150052247A KR 20150052247 A KR20150052247 A KR 20150052247A KR 1020157008569 A KR1020157008569 A KR 1020157008569A KR 20157008569 A KR20157008569 A KR 20157008569A KR 20150052247 A KR20150052247 A KR 20150052247A
Authority
KR
South Korea
Prior art keywords
transform
video information
video
adjusted
matrix
Prior art date
Application number
KR1020157008569A
Other languages
English (en)
Inventor
마르타 카르체비츠
리웨이 궈
로할스 호엘 솔레
Original Assignee
퀄컴 인코포레이티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 퀄컴 인코포레이티드 filed Critical 퀄컴 인코포레이티드
Publication of KR20150052247A publication Critical patent/KR20150052247A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46—Embedding additional information in the video signal during the compression process

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

특정 양태들에 따라 비디오 정보를 코딩하기 위한 장치는 메모리 유닛 및 메모리 유닛과 통신하는 프로세서를 포함한다. 메모리 유닛은 레퍼런스 계층 및 대응하는 인핸스먼트 계층과 연관된 비디오 정보를 저장한다. 프로세서는 레퍼런스 계층 및 인핸스먼트 계층과 연관된 비디오 정보에 적어도 부분적으로 기초하여 레지듀 블록 정보를 획득한다. 프로세서는 비디오 정보와 연관된 변환 함수에 기초하여 조정된 변환 함수를 결정한다. 프로세서는 조정된 변환 함수 및 레지듀 블록 정보에 기초하여 변환 블록을 결정한다.

Description

스케일러블 비디오 코딩에서의 변환 베이시스 조정{TRANSFORM BASIS ADJUSTMENT IN SCALABLE VIDEO CODING}
본 개시는 비디오 코딩에 관한 것이다.
디지털 비디오 능력들은 디지털 텔레비전들, 디지털 직접 브로드캐스트 시스템들, 무선 브로드캐스트 시스템들, 개인 디지털 보조기들 (PDA들), 랩탑 또는 데스크탑 컴퓨터들, 태블릿 컴퓨터들, e-북 리더들, 디지털 카메라들, 디지털 레코딩 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 디바이스들, 비디오 게임 콘솔들, 셀룰러 또는 위성 무선 전화기들, 소위 "스마트 폰들", 비디오 텔레컨퍼런싱 디바이스들, 비디오 스트리밍 디바이스들 등을 포함한, 광범위한 디바이스들에 통합될 수 있다. 디지털 비디오 디바이스들은 MPEG-2, MPEG-4, ITU-T H.263, ITU-T H.264/MPEG-4, 파트 10, 어드밴스드 비디오 코딩 (AVC), 현재 개발 중인 고 효율 비디오 코딩 (HEVC) 표준, 및 그러한 표준들의 확장들에 의해 정의된 표준들에서 설명된 기술들과 같은 비디오 코딩 기술들을 구현한다. 비디오 디바이스들은 그러한 비디오 코딩 기술들을 구현함으로써 디지털 비디오 정보를 더 효율적으로 송신, 수신, 인코딩, 디코딩, 및/또는 저장할 수도 있다.
비디오 코딩 기술들은 비디오 시퀀스들에 내재한 리던던시를 감소 또는 제거하기 위해 공간 (인트라-픽처) 예측 및/또는 시간 (인터-픽처) 예측을 포함한다. 블록 기반 비디오 코딩에 대해, 비디오 슬라이스 (예를 들어, 비디오 프레임 또는 비디오 프레임의 부분) 는 비디오 블록들로 파티셔닝될 수도 있으며, 이 비디오 블록들은 또한 트리블록들, 코딩 유닛들 (CU들) 및/또는 코딩 노드들로서 지칭될 수도 있다. 픽처의 인트라-코딩된 (I) 슬라이스에서의 비디오 블록들은 동일 픽처의 이웃 블록들에서의 레퍼런스 샘플들에 대한 공간 예측을 이용하여 인코딩된다. 픽처의 인터-코딩된 (P 또는 B) 슬라이스에서의 비디오 블록들은 동일 픽처의 이웃 블록들에서의 레퍼런스 샘플들에 대한 공간 예측, 또는 다른 레퍼런스 픽처들에서의 레퍼런스 샘플들에 대한 시간 예측을 이용할 수도 있다. 픽처들은 프레임들로서 지칭될 수도 있으며, 레퍼런스 픽처들은 레퍼런스 프레임들로서 지칭될 수도 있다.
공간 또는 시간 예측은 코딩될 블록에 대한 예측 블록을 발생시킨다. 잔차 (residual) 데이터는 코딩될 오리지널 블록과 예측 블록 간의 픽셀 차이들을 나타낸다. 인터-코딩된 블록은 예측 블록을 형성하는 레퍼런스 샘플들의 블록을 포인팅하는 모션 벡터, 및 코딩된 블록과 예측 블록 간의 차이를 나타내는 잔차 데이터에 따라 인코딩된다. 인트라-코딩된 블록은 인트라-코딩 모드 및 잔차 데이터에 따라 인코딩된다. 추가적인 압축을 위해, 잔차 데이터는 픽셀 도메인으로부터 변환 도메인으로 변환되어, 잔차 변환 계수들을 발생시킬 수도 있으며, 그 후, 이 잔차 변환 계수들은 양자화될 수도 있다. 2차원 어레이로 초기에 배열되는 양자화된 변환 계수들은 변환 계수들의 1차원 벡터를 생성하기 위해 스캐닝될 수도 있으며, 엔트로피 인코딩이 훨씬 더 많은 압축을 달성하도록 적용될 수도 있다.
일반적으로, 본 개시는 스케일러블 비디오 코딩 동안 변환 함수를 조건부로 또는 적응적으로 조정함으로써 코딩 성능을 개선하는 것에 관련된다.
하나 이상의 예들의 상세들이 첨부 도면들 및 하기의 설명에서 개시된다. 다른 특징들, 목적들, 및 이점들은 그 설명 및 도면들로부터, 그리고 청구항들로부터 명백할 것이다.
일 실시형태에 있어서, 비디오 정보를 코딩하도록 구성된 장치는 메모리 유닛 및 프로세서를 포함한다. 메모리 유닛은 레퍼런스 계층 및 대응하는 인핸스먼트 계층과 연관된 비디오 정보를 저장하도록 구성된다. 프로세서는 메모리 유닛과 통신한다. 프로세서는 레퍼런스 계층 및 인핸스먼트 계층과 연관된 비디오 정보에 적어도 부분적으로 기초하여 레지듀 (residue) 블록 정보를 획득하도록 구성된다. 프로세서는 또한, 비디오 정보와 연관된 변환 함수에 기초하여 조정된 변환 함수를 결정하도록 구성된다. 프로세서는 또한, 조정된 변환 함수 및 레지듀 블록 정보에 기초하여 변환 블록을 결정하도록 구성된다.
다른 실시형태에 있어서, 비디오 정보를 디코딩하는 방법은 레퍼런스 계층 및 대응하는 인핸스먼트 계층과 연관된 비디오 정보를 저장하는 단계를 포함한다. 그 방법은 또한, 레퍼런스 계층 및 인핸스먼트 계층과 연관된 비디오 정보에 적어도 부분적으로 기초하여 레지듀 블록 정보를 획득하는 단계를 포함한다. 그 방법은 또한, 비디오 정보와 연관된 변환 함수에 기초하여 조정된 변환 함수를 결정하는 단계를 포함한다. 그 방법은 또한, 조정된 변환 함수 및 레지듀 블록 정보에 기초하여 변환 블록을 결정하는 단계를 포함한다. 그 방법은 또한, 변환 블록을 이용하여 비디오 정보를 디코딩하는 단계를 포함한다.
다른 실시형태에 있어서, 비디오 정보를 인코딩하는 방법이 제공된다. 그 방법은 레퍼런스 계층 및 대응하는 인핸스먼트 계층과 연관된 비디오 정보를 저장하는 단계를 포함한다. 그 방법은 또한, 레퍼런스 계층 및 인핸스먼트 계층과 연관된 비디오 정보에 적어도 부분적으로 기초하여 레지듀 블록 정보를 획득하는 단계를 포함한다. 그 방법은 또한, 비디오 정보와 연관된 변환 함수에 기초하여 조정된 변환 함수를 결정하는 단계를 포함한다. 그 방법은 또한, 조정된 변환 함수 및 레지듀 블록 정보에 기초하여 변환 블록을 결정하는 단계를 포함한다. 그 방법은 또한, 변환 블록을 이용하여 비디오 정보를 인코딩하는 단계를 포함한다.
또다른 실시형태에 있어서, 비디오 정보를 코딩하기 위한 장치가 제공된다. 그 장치는 레퍼런스 계층 및 대응하는 인핸스먼트 계층과 연관된 비디오 정보를 저장하는 수단을 포함한다. 그 장치는 또한, 레퍼런스 계층 및 인핸스먼트 계층과 연관된 비디오 정보에 적어도 부분적으로 기초하여 레지듀 블록 정보를 획득하는 수단을 포함한다. 그 장치는 또한, 비디오 정보와 연관된 변환 함수에 기초하여 조정된 변환 함수를 결정하는 수단을 포함한다. 그 장치는 또한, 조정된 변환 함수 및 레지듀 블록 정보에 기초하여 변환 블록을 결정하는 수단을 포함한다.
또다른 실시형태에 있어서, 컴퓨터 판독가능 매체는, 컴퓨팅 디바이스에 의해 실행될 경우, 컴퓨팅 디바이스로 하여금 레퍼런스 계층 및 대응하는 인핸스먼트 계층과 연관된 비디오 정보를 저장하게 하는 컴퓨터 실행가능 명령들을 갖는다. 그 명령은 또한, 컴퓨팅 디바이스로 하여금 레퍼런스 계층 및 인핸스먼트 계층과 연관된 비디오 정보에 적어도 부분적으로 기초하여 레지듀 블록 정보를 획득하게 한다. 그 명령은 또한, 컴퓨팅 디바이스로 하여금 비디오 정보와 연관된 변환 함수에 기초하여 조정된 변환 함수를 결정하게 한다. 그 명령은 또한, 컴퓨팅 디바이스로 하여금 조정된 변환 함수 및 레지듀 블록 정보에 기초하여 변환 블록을 결정하게 한다.
도 1 은 본 개시에서 설명된 양태들에 따른 기술들을 활용할 수도 있는 예시적인 비디오 인코딩 및 디코딩 시스템을 도시한 블록 다이어그램이다.
도 2 는 본 개시에서 설명된 양태들에 따른 기술들을 구현할 수도 있는 비디오 인코더의 예를 도시한 블록 다이어그램이다.
도 3 은 본 개시에서 설명된 양태들에 따른 기술들을 구현할 수도 있는 비디오 디코더의 예를 도시한 블록 다이어그램이다.
도 4 는 다차원 스케일러빌리티(scalability)들의 예를 도시한 블록 다이어그램이다.
도 5 은 SVC 코딩 구조의 일 실시형태의 블록 다이어그램이다.
도 6 은 다양한 액세스 유닛들을 형성하는 코딩된 슬라이스들의 비트스트림의 일 실시형태를 도시한 블록 다이어그램이다.
도 7 은 공동-위치된 블록의 일 실시형태를 도시한 블록 다이어그램이다.
도 8 은 변환 베이시스 조정의 방법의 플로우차트이다.
본 개시에서 설명된 기술들은 일반적으로 스케일러블 비디오 코딩 (SVC) 및 3D 비디오 코딩에 관련된다. 예를 들어, 그 기술들은 고효율 비디오 코딩 (HEVC) 스케일러블 비디오 코딩 (SVC) 확장과 관련되고, 그와 함께 또는 그 내에서 이용될 수도 있다. SVC 확장에 있어서, 비디오 정보의 다중의 계층들이 존재할 수 있다. 최저부 레벨의 계층은 베이스 계층 (BL) 으로서 기능할 수도 있고, 최상부의 계층은 인핸스드 계층 (EL) 로서 기능할 수도 있다. "인핸스드 계층" 은 종종 "인핸스먼트 계층" 으로서 지칭되고, 이들 용어들은 상호대체가능하게 사용될 수도 있다. 중간의 모든 계층들은 EL들 또는 BL들 중 어느 하나 또는 그 양자로서 기능할 수도 있다. 예를 들어, 중간의 계층은 베이스 계층 또는 임의의 개재하는 인핸스먼트 계층들과 같이 그 밑의 계층들에 대해 EL 일 수도 있고, 동시에, 그 위의 인핸스먼트 계층들에 대해 BL 로서 기능할 수도 있다.
어떠한 계층간 (interlayer) 예측도 활용되지 않는 비디오 코딩에 있어서, DC 및 저 주파수 (LF) 컴포넌트들이 변환 이후 대부분의 레지듀 에너지를 갖는 경향이 있다. (DC/LF 컴포넌트들이 큰 진폭을 갖는 경향이 있지만 HF 컴포넌트들은 낮은 진폭을 갖는 경향이 있는) 이러한 특성은, 압축 효율을 달성하기 위해 특정 비디오 코딩 프로세스에서 활용되었다. 하지만, 스케일러블 비디오 코딩의 레지듀는 계층간 예측으로 인한 (예를 들어, 하기에서 설명되는 인트라 BL 모드에서의 예측으로 인한) 상이한 분배 특성들을 가질 수 있다. 특히, SVC 에 있어서, 레지듀는 더 노이즈-유사성이고, 에너지는 전체 주파수 도메인 또는 더 큰 주파수 도메인에 걸쳐 확산할 수 있다. 실제로, 비-SVC 비디오 코딩과 달리, SVC 에 있어서, HF 컴포넌트들은 DC 또는 LF 컴포넌트들보다 더 많은 에너지를 가질 수 있다는 것이 가능하다. 따라서, 정규의 비-SVC 비디오 코딩에 대해 사용된 종래의 방법들은 스케일러블 비디오 코딩에 대해 잘 작동하지 않을 수도 있다. 변환 베이시스 조정은 SVC 를 구현할 경우에 압축 효율을 개선하는 것을 도울 수 있다. 그러한 기술들은 하기에서 더 상세히 설명된다. 부가적으로, 이들 기술들은 (예를 들어, 하기 도 1 및 도 2 에 관하여 설명되는 바와 같이) 인코더에 의해 및/또는 (예를 들어, 하기 도 1 및 도 3 에 관하여 설명되는 바와 같이) 디코더에 의해 구현될 수도 있다.
오직 예시의 목적들로, 본 개시에서 설명된 기술들은 오직 2개의 계층들 (예를 들어, 베이스 계층과 같은 하위 레벨 계층, 및 인핸스드 계층과 같은 상위 레벨 계층) 을 포함한 예들로 설명된다. 본 개시에서 설명된 예들은 다중의 베이스 계층들 및 인핸스먼트 계층들을 갖는 예들로 또한 확장될 수 있음이 이해되어야 한다.
비디오 코딩 표준들은, 그 스케일러블 비디오 코딩 (SVC) 및 멀티뷰 비디오 코딩 (MVC) 확장들을 포함하여, ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 및 ITU-T H.264 (ISO/IEC MPEG-4 AVC 로서 또한 공지됨) 를 포함한다. 부가적으로, 새로운 비디오 코딩 표준, 즉, 고효율 비디오 코딩 (HEVC) 은 ITU-T 비디오 코딩 전문가 그룹 (VCEG) 및 ISO/IEC 모션 픽처 전문가 그룹 (MPEG) 의 JCT-VC (Joint Collaboration Team on Video Coding) 에 의해 개발되고 있다. HEVC 의 최근 드래프트는 2012년 6월 7일자 http://wg11.sc29.org/jct/doc_end_user/current_document.php?id=5885/JCTVC-I1003-v2 로부터 입수가능하다. "HEVC 워킹 드래프트 7" 로서 지칭되는 HEVC 표준의 다른 최근 드래프트는 2012년 6월 7일자 http://phenix.it-sudparis.eu/jct/doc_end_user/documents/9_Geneva/wg11/JCTVC-I1003-v3.zip 로부터 다운로드가능하다. HEVC 워킹 드래프트 7 에 대한 전체 인용은 문서 HCTVC-I1003 (Bross 등의 "High Efficiency Video Coding (HEVC) Text Specification Draft 7," ITU-T SG16 WP3 및 ISO/IEC JTC1/SC29/WG11 의 JCT-VC (Joint Collaborative Team on Video Coding), 9차 회의: Geneva, Switzerland, 2012년 4월 27일 내지 2012년 5월 7일) 이다. 이들 참증들 각각은 참조로 전부 포함된다.
스케일러블 비디오 코딩 (SVC) 은 품질 (또한, 신호 대 노이즈 (SNR) 로서 지칭됨) 스케일러빌리티, 공간 스케일러빌리티, 및/또는 시간 스케일러빌리티를 제공하는데 이용될 수도 있다. 인핸스드 계층은 베이스 계층과는 상이한 공간 분해능을 가질 수도 있다. 예를 들어, EL 과 BL 간의 공간 애스펙트비는 1.0, 1.5, 2.0 또는 다른 상이한 비율들일 수 있다. 즉, EL 의 공간 애스펙트는 BL 의 공간 애스펙트의 1.0, 1.5, 또는 2.0배와 동일할 수도 있다. 일부 예들에 있어서, EL 의 스케일링 팩터는 BL보다 더 클 수도 있다. 예를 들어, EL 에서의 픽처들의 사이즈는 BL 에서의 픽처들의 사이즈보다 더 클 수도 있다. 이러한 방식으로, 제한은 아니지만, EL 의 공간 분해능은 BL 의 공간 분해능보다 더 크다는 것이 가능할 수도 있다.
H.264 에 대한 SVC 확장에 있어서, 현재 블록의 예측은, SVC 에 대해 제공되는 상이한 계층들을 이용하여 수행될 수도 있다. 그러한 예측은 계층간 예측으로서 지칭될 수도 있다. 계층간 예측 방법들이 계층간 리던던시를 감소하기 위해 SVC 에서 활용될 수도 있다. 계층간 예측의 일부 예들은 계층간 인트라 예측, 계층간 모션 예측, 및 계층간 잔차 예측을 포함할 수도 있다. 계층간 인트라 예측은 베이스 계층에서의 공동-위치된 블록들의 복원을 이용하여 인핸스먼트 계층에서의 현재 블록을 예측한다. 계층간 모션 예측은 베이스 계층의 모션을 이용하여 인핸스먼트 계층에서의 모션을 예측한다. 계층간 잔차 예측은 베이스 계층의 레지듀를 이용하여 인핸스먼트 계층의 레지듀를 예측한다.
계층간 잔차 예측에 있어서, 베이스 계층의 레지듀는 인핸스먼트 계층에서의 현재 블록을 예측하는데 이용될 수도 있다. 레지듀는 비디오 유닛에 대한 시간 예측과 소스 비디오 유닛 간의 차이로서 정의될 수도 있다. 잔차 예측에 있어서, 베이스 계층의 레지듀가 또한 현재 블록을 예측함에 있어서 고려된다. 예를 들어, 현재 블록은 인핸스먼트 계층으로부터의 레지듀, 인핸스먼트 계층으로부터의 시간 예측, 및 베이스 계층으로부터의 레지듀를 이용하여 복원될 수도 있다. 현재 블록은 다음의 수학식에 따라 복원될 수도 있다.
Figure pct00001
여기서,
Figure pct00002
는 현재 블록의 복원을 나타내고, re는 인핸스먼트 계층으로부터의 레지듀를 나타내고, Pe 는 인핸스먼트 계층으로부터의 시간 예측을 나타내며, rb 는 베이스 계층으로부터의 레지듀 예측을 나타낸다.
인핸스먼트 계층에서의 매크로블록 (MB) 에 대한 계층간 잔차 예측을 이용하기 위해, 베이스 계층에서의 공동-위치된 매크로블록은 인터 MB 이어야 하고, 공동-위치된 베이스 계층 매크로블록의 레지듀는 (예를 들어, SVC 에서의 계층들이 상이한 공간 분해능들을 가질 수도 있기 때문에) 인핸스먼트 계층의 공간 분해능 비율에 따라 업샘플링될 수도 있다. 계층간 잔차 예측에 있어서, 인핸스먼트 계층의 레지듀와 업샘플링된 베이스 계층의 레지듀 간의 차이는 비트스트림에서 코딩될 수도 있다. 베이스 계층의 레지듀는 베이스 계층 및 인핸스먼트 계층의 양자화 스텝들 간의 비율에 기초하여 정규화될 수도 있다.
H.264 에 대한 SVC 확장은 디코더에 대한 낮은 복잡도를 유지하기 위해 모션 보상을 위한 단일-루프 디코딩을 요구한다. 일반적으로, 모션 보상은 다음과 같이 현재 블록에 대한 레지듀 및 시간 예측을 가산함으로써 수행된다.
Figure pct00003
여기서,
Figure pct00004
는 현재 프레임을 나타내고, r 은 레지듀를 나타내며, P 는 시간 예측을 나타낸다. 단일-루프 디코딩에 있어서, SVC 에서의 각각의 지원된 계층은 단일 모션 보상 루프로 디코딩될 수 있다. 이를 달성하기 위해, 상위 계층들을 계층간 인트라 예측하기 위해 이용되는 모든 계층들은 제약된 인트라-예측을 이용하여 코딩된다. 제약된 인트라-예측에 있어서, 인트라 모드 MB들은 이웃한 인터-코딩된 MB들로부터의 어떠한 샘플들도 참조하지 않고도 인트라-코딩된다. 한편, HEVC 는 SVC 에 대한 다중-루프 디코딩을 허용하며, 여기서, SVC 계층은 다중의 모션 보상 루프들을 이용하여 디코딩될 수도 있다. 예를 들어, 베이스 계층이 먼저 완전히 디코딩되고, 그 후, 인핸스먼트 계층이 디코딩된다.
수학식 (1) 에서 공식화된 잔차 예측은 H.264 SVC 확장에서 효율적인 기술일 수도 있다. 하지만, 그 성능은 HEVC SVC 확장에서, 특히, 다중-루프 디코딩이 HEVC SVC 확장에서 이용될 경우에 더 개선될 수 있다.
다중-루프 디코딩의 경우에 있어서, 차이 도메인 모션 보상이 잔차 예측 대신 이용될 수도 있다. SVC 에 있어서, 인핸스먼트 계층은 픽셀 도메인 코딩 또는 차이 도메인 코딩을 이용하여 코딩될 수도 있다. 픽셀 도메인 코딩에 있어서, 인핸스먼트 계층 픽셀들에 대한 입력 픽셀들은 비-SVC HEVC 계층에 대해서와 같이 코딩될 수도 있다. 한편, 차이 도메인 코딩에 있어서, 인핸스먼트 계층에 대한 차이 값들이 코딩될 수도 있다. 차이 값들은 인핸스먼트 계층에 대한 입력 픽셀들과 대응하는 스케일링된 베이스 계층 복원 픽셀들 간의 차이일 수도 있다. 그러한 차이 값들은 차이 도메인 모션 보상에 대한 모션 보상에 있어서 이용될 수도 있다.
차이 도메인을 이용한 인터-코딩에 대해, 현재 예측된 블록은 인핸스먼트 계층 레퍼런스 픽처에서의 대응하는 예측된 블록 샘플들과 스케일링된 베이스 계층 레퍼런스 픽처에서의 대응하는 예측된 블록 샘플들 간의 차이 값들에 기초하여 결정된다. 차이 값들은 차이 예측된 블록으로서 지칭될 수도 있다. 공동-위치된 베이스 계층 복원 샘플들은 인핸스먼트 계층 예측 샘플들을 획득하기 위해 차이 예측된 블록에 부가된다.
하지만, 계층간 예측에서 차이 도메인 모션 보상을 이용하는 것은 모션 추정 및 모션 보상의 2개 세트들을 도입하는데, 왜냐하면 모션 추정 및 모션 보상은 종종 픽셀 도메인 및 차이 도메인 양자에 대해 사용되기 때문이다. 모션 추정 및 모션 보상의 2개 세트들을 도입하는 것은 더 높은 버퍼 및 계산 비용을 야기할 수 있으며, 이는 인코더 또는 디코더에 대해 실용적이지 않을 수도 있다. 부가적으로, 모션 벡터들의 2개 세트들을 코딩하는 것은, 모션 벡터들의 2개 세트들이 상이한 특성들을 갖고 코딩 유닛 (CU) 레벨에서 인터리빙될 경우에 모션 필드가 비정규적으로 될 수도 있기 때문에, 코딩 효율을 감소시킬 수도 있다. 더욱이, 차이 도메인에서의 모션 추정은 베이스 계층 및 인핸스먼트 계층이 동일 모션을 공유할 것을 요구한다. 추가로, 차이 도메인 모션 보상은 단일-루프 디코딩으로 작동하지 않는데, 왜냐하면 2개 계층들 간의 차동 픽처들의 도출은 각각의 계층의 완전히 복원된 픽처들에 기초하기 때문이다. 이에 따라, 차이 도메인 모션 보상을 이용할 경우 모션 추정 및 모션 보상의 2개 세트들을 가짐에 있어서 리던던시를 회피하는 것이 유리할 것이다. 또한, 단일-루프 디코딩에 있어서 차이 도메인 모션 보상을 확장하는 것이 유리할 것이다.
본 개시에서 설명된 기술들은 SVC 에 있어서 계층간 잔차 예측 및 차이 도메인 모션 보상에 관한 문제들을 다룰 수도 있다. 그 기술들은 일반화된 잔차 예측 (GRP) 프레임워크 내에서 적용될 수도 있다. 상기 설명된 바와 같이, 계층간 잔차 예측은 현재 비디오 유닛, 예를 들어, 블록 또는 프레임을 예측함에 있어서 레퍼런스 계층의 레지듀를 이용한다. 일반화된 잔차 예측에 있어서, 현재 비디오 유닛의 계층간 잔차 예측은 현재 계층의 레지듀, 현재 계층의 시간 예측, 및 레퍼런스 계층의 레지듀에 기초할 수도 있다. 레퍼런스 계층의 레지듀는 가중 팩터에 의해 조정될 수도 있다. 가중 팩터는 다양한 타입들의 정보에 기초하고 다양한 타입들의 정보를 포함할 수도 있다. 그러한 정보의 예들은 가중 후보들의 수, 가중 스텝, 가중 인덱스, 및 가중 테이블을 포함할 수도 있다.
본 개시의 양태들에 따른 GRP 프레임워크는 가중 팩터를 통합함으로써 다양한 타입들의 잔차 예측을 수용할 수도 있다. 가중 팩터를 적절히 조정하는 것은 잔차 예측을 위한 유효 코딩 이득들을 야기할 수도 있다. 부가적으로, GRP 프레임워크에 있어서, 잔차 예측은, 종래의 잔차 예측에 있어서 반드시 베이스 계층은 아닌 레퍼런스 계층을 이용하여 수행될 수도 있다. 예를 들어, 레퍼런스 계층은 현재의 인핸스먼트 계층으로부터 도출될 수도 있다. GRP 는 또한, 가중 팩터가 1 로 설정될 경우 종래의 잔차 예측을 수용할 수도 있다. GRP 프레임워크는 단일-루프 디코딩 및 다중-루프 디코딩 양자로 이용될 수도 있다. 부가적으로, GRP 프레임워크에 있어서, 차이 도메인에서의 모션 추정은 필수적인 것은 아닐 수도 있으며, 따라서, 현재 계층 및 인핸스먼트 계층이 모션 추정을 위해 동일한 모션을 공유해야 하는 것도 아니다. GRP 프레임워크는 다수의 상이한 타입들의 잔차 예측에 적용할 수 있으며, 수학식 (1) 에서 정의된 바와 같은 종래의 잔차 예측 및 차이 도메인 모션 보상이 GRP 프레임워크를 이용하는 2개의 특정 시나리오들이다. 그 기술들은 HEVC 의 스케일러블 확장에 있어서 모션 보상의 성능을 개선할 수도 있으며, 또한, HEVC 의 3D 비디오 코딩 확장에 적용할 수도 있다.
신규한 시스템들, 장치들, 및 방법들의 다양한 양태들이 첨부 도면들을 참조하여 이하 더 충분히 설명된다. 하지만, 본 개시는 다수의 상이한 형태들로 구현될 수도 있으며, 본 개시 전반에 걸쳐 제시된 임의의 특정 구조 또는 기능으로 한정되는 것으로서 해석되지 않아야 한다. 대신, 이들 양태들은, 본 개시가 철저하고 완벽할 것이며 또한 본 개시의 범위를 당업자에게 충분히 전달할 것이도록 제공된다. 본 명세서에서의 교시들에 기초하여, 당업자는, 본 발명의 임의의 다른 양태와 독립적으로 구현되든 또는 임의의 다른 양태와 결합되든, 본 개시의 범위가 본 명세서에 개시된 신규한 시스템들, 장치들, 및 방법들의 임의의 양태를 커버하도록 의도됨을 인식할 것이다. 예를 들어, 본 명세서에서 기재된 임의의 수의 양태들을 이용하여 일 장치가 구현될 수도 있거나 일 방법이 실시될 수도 있다. 부가적으로, 본 발명의 범위는, 본 명세서에서 기재된 본 발명의 다양한 양태들에 부가한 또는 그 이외의 구조 및 기능, 또는 다른 구조, 기능을 이용하여 실시되는 그러한 장치 또는 방법을 커버하도록 의도된다. 본 명세서에서 개시된 임의의 양태는 청구항의 하나 이상의 엘리먼트들에 의해 구현될 수도 있음이 이해되어야 한다.
특정 양태들이 본 명세서에서 설명되지만, 이들 양태들의 다수의 변형들 및 치환들은 본 개시의 범위 내에 있다. 선호된 양태들의 일부 이익들 및 이점들이 언급되지만, 본 개시의 범위는 특정 이익들, 사용들, 또는 목적들에 한정되도록 의도되지 않는다. 대신, 본 개시의 양태들은 상이한 무선 기술들, 시스템 구성들, 네트워크들, 및 송신 프로토콜들에 널리 적용가능하도록 의도되며, 이들 중 일부는 도면들에서, 그리고 선호된 양태들의 다음의 설명에서 예로써 예시된다. 상세한 설명 및 도면들은 한정하는 것보다는 본 개시의 단지 예시일 뿐이며, 본 개시의 범위는 첨부된 청구항들 및 그 균등물들에 의해 정의된다.
비디오 인코딩 및 디코딩 시스템
도 1 은 본 개시에서 설명된 양태들에 따른 기술들을 활용할 수도 있는 예시적인 비디오 인코딩 및 디코딩 시스템을 도시한 블록 다이어그램이다. 도 1 에 도시된 바와 같이, 시스템 (10) 은, 목적지 디바이스 (14) 에 의해 더 나중 시간에 디코딩될 인코딩된 비디오 데이터를 제공하는 소스 디바이스 (12) 를 포함한다. 특히, 소스 디바이스 (12) 는 비디오 데이터를, 컴퓨터 판독가능 매체 (16) 를 통해 목적지 디바이스 (14) 에 제공한다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 데스크탑 컴퓨터들, 노트북 (예를 들어, 랩탑) 컴퓨터들, 태블릿 컴퓨터들, 셋탑 박스들, 소위 "스마트" 폰들과 같은 전화기 핸드셋들, 소위 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 비디오 스트리밍 디바이스 등을 포함한 광범위한 디바이스들 중 임의의 디바이스를 포함할 수도 있다. 일부 경우들에 있어서, 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 무선 통신을 위해 장비될 수도 있다.
목적지 디바이스 (14) 는 디코딩될 인코딩된 비디오 데이터를 컴퓨터 판독가능 매체 (16) 를 통해 수신할 수도 있다. 컴퓨터 판독가능 매체 (16) 는 인코딩된 비디오 데이터를 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로 이동 가능한 임의의 타입의 매체 또는 디바이스를 포함할 수도 있다. 일 예에 있어서, 컴퓨터 판독가능 매체 (16) 는, 소스 디바이스 (12) 로 하여금 인코딩된 비디오 데이터를 직접 목적지 디바이스 (14) 로 실시간으로 송신할 수 있게 하는 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조되고, 목적지 디바이스 (14) 로 송신될 수도 있다. 통신 매체는 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적인 송신 라인들과 같은 임의의 무선 또는 유선 통신 매체를 포함할 수도 있다. 통신 매체는 로컬 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크와 같은 패킷 기반 네트워크의 부분을 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로의 통신을 용이하게 하는데 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.
일부 예들에 있어서, 인코딩된 데이터는 출력 인터페이스 (22) 로부터 저장 디바이스 (도시 안됨) 로 출력될 수도 있다. 유사하게, 인코딩된 데이터는 입력 인터페이스 (28) 에 의해 저장 디바이스로부터 액세스될 수도 있다. 저장 디바이스는 하드 드라이브, 블루-레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 휘발성 또는 비휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적합한 디지털 저장 매체들과 같은 다양한 분산된 또는 국부적으로 액세스된 데이터 저장 매체들 중 임의의 데이터 저장 매체를 포함할 수도 있다. 추가의 예에 있어서, 저장 디바이스는, 소스 디바이스 (12) 에 의해 생성된 인코딩된 비디오를 저장할 수도 있는 파일 서버 또는 다른 중간 저장 디바이스에 대응할 수도 있다. 목적지 디바이스 (14) 는 저장 디바이스로부터의 저장된 비디오 데이터에 스트리밍 또는 다운로드를 통해 액세스할 수도 있다. 파일 서버는, 인코딩된 비디오 데이터를 저장하고 그 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로 송신하는 것이 가능한 임의의 타입의 서버일 수도 있다. 예시적인 파일 서버들은 웹 서버 (예를 들어, 웹 사이트용), FTP 서버, 네트워크 접속형 저장 (NAS) 디바이스들, 또는 로컬 디스크 드라이브를 포함한다. 목적지 디바이스 (14) 는 인코딩된 비디오 데이터에, 인터넷 커넥션을 포함한 임의의 표준 데이터 커넥션을 통해 액세스할 수도 있다. 이는 파일 서버 상에 저장되는 인코딩된 비디오 데이터에 액세스하기에 적합한 무선 채널 (예를 들어, Wi-Fi 커넥션), 유선 커넥션 (예를 들어, DSL, 케이블 모뎀 등), 또는 이들 양자의 조합을 포함할 수도 있다. 인코딩된 비디오 데이터의 저장 디바이스로부터의 송신은 스트리밍 송신, 다운로드 송신, 또는 이들의 조합일 수도 있다.
본 개시의 기술들은 무선 어플리케이션들 또는 설정들에 반드시 한정되는 것은 아니다. 그 기술들은, 공중 경유 (over-the-air) 텔레비전 브로드캐스트들, 케이블 텔레비전 송신들, 위성 텔레비전 송신들, HTTP 상으로의 동적 적응 스트리밍 (DASH) 과 같은 인터넷 스트리밍 비디오 송신들, 데이터 저장 매체 상으로 인코딩된 디지털 비디오, 데이터 저장 매체 상으로 저장된 디지털 비디오의 디코딩, 또는 다른 어플리케이션들과 같은 다양한 멀티미디어 어플리케이션들 중 임의의 멀티미디어 어플리케이션의 지원으로 비디오 코딩에 적용될 수도 있다. 일부 예들에 있어서, 시스템 (10) 은 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 및/또는 비디오 전화와 같은 어플리케이션들을 지원하기 위해 일방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.
도 1 의 예에 있어서, 소스 디바이스 (12) 는 비디오 소스 (18), 비디오 인코더 (20), 및 출력 인터페이스 (22) 를 포함한다. 목적지 디바이스 (14) 는 입력 인터페이스 (28), 비디오 디코더 (30), 및 디스플레이 디바이스 (32) 를 포함한다. 본 개시에 따르면, 소스 디바이스 (12) 의 비디오 인코더 (20) 는 다중의 표준들 또는 표준 확장들에 부합하는 비디오 데이터를 포함하는 비트스트림을 코딩하기 위한 기술들을 적용하도록 구성될 수도 있다. 다른 예들에 있어서, 소스 디바이스 및 목적지 디바이스는 다른 컴포넌트들 또는 배열들을 포함할 수도 있다. 예를 들어, 소스 디바이스 (12) 는 외부 카메라와 같은 외부 비디오 소스 (18) 로부터 비디오 데이터를 수신할 수도 있다. 유사하게, 목적지 디바이스 (14) 는 통합된 디스플레이 디바이스를 포함하는 것보다 외부 디스플레이 디바이스와 인터페이싱할 수도 있다.
도 1 의 도시된 시스템 (10) 은 단지 일 예일 뿐이다. 현재 블록에 대한 모션 벡터 예측자들을 위한 후보 리스트에 대해 후보들을 결정하기 위한 기술들은 임의의 디지털 비디오 인코딩 및/또는 디코딩 디바이스에 의해 수행될 수도 있다. 비록 일반적으로 본 개시의 기술들이 비디오 인코딩 디바이스에 의해 수행되지만, 그 기술들은 또한, 통상적으로 "CODEC" 로서 지칭되는 비디오 인코더/디코더에 의해 수행될 수도 있다. 더욱이, 본 개시의 기술들은 또한 비디오 프리프로세서에 의해 수행될 수도 있다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 는, 단지, 소스 디바이스 (12) 가 목적지 디바이스 (14) 로의 송신을 위한 코딩된 비디오 데이터를 생성하는 그러한 코딩 디바이스들의 예들일 뿐이다. 일부 예들에 있어서, 디바이스들 (12, 14) 은, 디바이스들 (12, 14) 각각이 비디오 인코딩 및 디코딩 컴포넌트들을 포함하도록 실질적으로 대칭적인 방식으로 동작할 수도 있다. 따라서, 시스템 (10) 은 예를 들어, 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 또는 비디오 전화를 위해, 비디오 디바이스들 (12, 14) 간의 일방향 또는 양방향 비디오 송신을 지원할 수도 있다.
소스 디바이스 (12) 의 비디오 소스 (18) 는 비디오 카메라와 같은 비디오 캡처 디바이스, 이전에 캡처된 비디오를 포함하는 비디오 아카이브, 및/또는 비디오 콘텐츠 제공자로부터 비디오를 수신하기 위한 비디오 피드 인터페이스를 포함할 수도 있다. 추가적인 대안으로서, 비디오 소스 (18) 는 컴퓨터 그래픽 기반 데이터를 소스 비디오로서, 또는 라이브 비디오, 아카이브된 비디오, 및 컴퓨터 생성 비디오의 조합으로서 생성할 수도 있다. 일부 경우들에 있어서, 비디오 소스 (18) 가 비디오 카메라이면, 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 소위 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 하지만, 상기 언급된 바와 같이, 본 개시에서 설명되는 기술들은 일반적으로 비디오 코딩에 적용가능할 수도 있으며, 무선 및/또는 유선 어플리케이션들에 적용될 수도 있다. 각각의 경우에 있어서, 캡쳐되거나 사전-캡쳐되거나 또는 컴퓨터 생성된 비디오는 비디오 인코더 (20) 에 의해 인코딩될 수도 있다. 그 후, 인코딩된 비디오 정보는 출력 인터페이스 (22) 에 의해 컴퓨터 판독가능 매체 (16) 상으로 출력될 수도 있다.
컴퓨터 판독가능 매체 (16) 는 무선 브로드캐스트 또는 유선 네트워크 송신과 같은 일시적인 매체들, 또는 하드 디스크, 플래시 드라이브, 컴팩트 디스크, 디지털 비디오 디스크, 블루-레이 디스크, 또는 다른 컴퓨터 판독가능 매체들과 같은 저장 매체들 (즉, 비-일시적인 저장 매체들) 을 포함할 수도 있다. 일부 예들에 있어서, 네트워크 서버 (도시 안됨) 는 인코딩된 비디오 데이터를 소스 디바이스 (12) 로부터 수신하고, 인코딩된 비디오 데이터를, 예를 들어, 네트워크 송신, 직접 유선 통신 등을 통해 목적지 디바이스 (14) 에 제공할 수도 있다. 유사하게, 디스크 스탬핑 설비와 같은 매체 생성 설비의 컴퓨팅 디바이스는 인코딩된 비디오 데이터를 소스 디바이스 (12) 로부터 수신하고, 인코딩된 비디오 데이터를 포함하는 디스크를 생성할 수도 있다. 따라서, 컴퓨터 판독가능 매체 (16) 는, 다양한 예들에 있어서, 다양한 형태들의 하나 이상의 컴퓨터 판독가능 매체들을 포함하도록 이해될 수도 있다.
목적지 디바이스 (14) 의 입력 인터페이스 (28) 는 컴퓨터 판독가능 매체 (16) 로부터 정보를 수신한다. 컴퓨터 판독가능 매체 (16) 의 정보는 비디오 인코더 (20) 에 의해 정의되고 또한 비디오 디코더 (30) 에 의해 이용되는 신택스 정보를 포함할 수도 있으며, 이 신택스 정보는 블록들 및 다른 코딩된 유닛들, 예를 들어, GOP들의 특성 및/또는 프로세싱을 기술하는 신택스 엘리먼트들을 포함한다. 디스플레이 디바이스 (32) 는 디코딩된 비디오 데이터를 사용자에게 디스플레이하며, 음극선관 (CRT), 액정 디스플레이 (LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (OLED) 디스플레이, 또는 다른 타입의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중 임의의 디바이스를 포함할 수도 있다.
비디오 인코더 (20) 및 비디오 디코더 (30) 는 현재 개발 중인 고 효율 비디오 코딩 (HEVC) 표준과 같은 비디오 코딩 표준에 따라 동작할 수도 있고, HEVC 테스트 모델 (HM) 에 부합할 수도 있다. 대안적으로, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 MPEG-4, 파트 10, 어드밴스드 비디오 코딩 (AVC) 으로서 대안적으로 지칭되는 ITU-T H.264 표준과 같은 다른 전매특허 또는 산업 표준들, 또는 그러한 표준들의 확장들에 따라 동작할 수도 있다. 하지만, 본 개시의 기술들은, 상기 리스트된 표준들 중 임의의 표준을 포함하지만 이에 한정되지 않는 임의의 특정 코딩 표준에 한정되지 않는다. 비디오 코딩 표준들의 다른 예들은 MPEG-2 및 ITU-T H.263 을 포함한다. 비록 도 1 에 도시되지는 않지만, 일부 양태들에 있어서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 오디오 인코더 및 디코더와 각각 통합될 수도 있으며, 오디오 및 비디오 양자의 인코딩을 공통 데이터 스트림 또는 별개의 데이터 스트림들로 처리하기 위해 적절한 MUX-DEMUX 유닛들 또는 다른 하드웨어 및 소프트웨어를 포함할 수도 있다. 적용가능하다면, MUX-DEMUX 유닛들은 ITU H.223 멀티플렉서 프로토콜, 또는 사용자 데이터그램 프로토콜 (UDP) 과 같은 다른 프로토콜들에 부합할 수도 있다.
비디오 인코더 (20) 및 비디오 디코더 (30) 각각은 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서들 (DSP들), 주문형 집적회로들 (ASIC들), 필드 프로그래밍가능 게이트 어레이들 (FPGA들), 별도의 로직, 소프트웨어, 하드웨어, 펌웨어 또는 이들의 임의의 조합들과 같은 다양한 적합한 인코더 회로 중 임의의 회로로서 구현될 수도 있다. 기술들이 부분적으로 소프트웨어로 구현될 경우, 디바이스는 적합한 비-일시적인 컴퓨터 판독가능 매체에 소프트웨어에 대한 명령들을 저장하고, 본 개시의 기술들을 수행하기 위해 하나 이상의 프로세서들을 사용하는 하드웨어로 명령들을 실행할 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 각각은 하나 이상의 인코더들 또는 디코더들에 포함될 수도 있으며, 이들 중 어느 하나는 개별 디바이스에 있어서 결합된 인코더/디코더 (CODEC) 의 부분으로서 통합될 수도 있다. 비디오 인코더 (20) 및/또는 비디오 디코더 (30) 를 포함하는 디바이스는 집적 회로, 마이크로 프로세서, 및/또는 셀룰러 전화기와 같은 무선 통신 디바이스를 포함할 수도 있다.
JCT-VC 는 HEVC 표준의 개발에 관하여 작업하고 있다. HEVC 표준화 노력들은 HEVC 테스트 모델 (HM) 로서 지칭되는 비디오 코딩 디바이스의 진화하는 모델에 기초한다. HM 은 예를 들어, ITU-T H.264/AVC 에 따른 기존의 디바이스들에 대하여 비디오 코딩 디바이스들의 수개의 부가적인 능력들을 가정한다. 예를 들어, H.264 가 9개의 인트라-예측 인코딩 모드들을 제공하지만, HM 은 33개 만큼 많은 인트라-예측 인코딩 모드들을 제공할 수도 있다.
일반적으로, HM 의 작업 모델은, 비디오 프레임 또는 픽처가 루마 및 크로마 샘플들 양자를 포함하는 트리블록들 또는 최대 코딩 유닛들 (LCU) 의 시퀀스로 분할될 수도 있음을 설명한다. 비트스트림 내 신택스 데이터는 LCU 에 대한 사이즈를 정의할 수도 있으며, 이 LCU 는 픽셀들의 수의 관점에서 최대 코딩 유닛이다. 슬라이스는 코딩 순서에 있어서의 다수의 연속적인 트리블록들을 포함한다. 비디오 프레임 또는 픽처는 하나 이상의 슬라이스들로 파티셔닝될 수도 있다. 각각의 트리블록은 쿼드트리에 따라 코딩 유닛들 (CU들) 로 분할될 수도 있다. 일반적으로, 쿼드트리 데이터 구조는 CU 당 하나의 노드를 포함하며, 루트 노드는 트리블록에 대응한다. CU 가 4개의 서브-CU들로 분할되면, CU 에 대응하는 노드는 4개의 리프 (leaf) 노드들을 포함하며, 이들 각각은 서브-CU들 중 하나에 대응한다.
쿼드트리 데이터 구조의 각각의 노드는 대응하는 CU에 대해 신택스 정보를 제공할 수도 있다. 예를 들어, 쿼드트리에서의 노드는 그 노드에 대응하는 CU 가 서브-CU들로 분할되는지를 나타내는 분할 플래그를 포함할 수도 있다. CU 에 대한 신택스 엘리먼트들은 재귀적으로 정의될 수도 있으며, CU 가 서브-CU들로 분할되는지 여부에 의존할 수도 있다. CU 가 더 분할되지 않으면, 리프-CU 로서 지칭된다. 본 개시에 있어서, 오리지널 리프-CU 의 명시적인 분할이 존재하지 않더라도, 리프-CU 의 4개의 서브-CU들은 또한 리프-CU 들로서 지칭될 것이다. 예를 들어, 16x16 사이즈의 CU 가 추가로 분할되지 않으면, 16x16 CU 가 결코 분할되지 않았더라도, 4개의 8x8 서브-CU들이 또한 리프-CU들로서 지칭될 것이다.
CU 가 사이즈 구별을 갖지 않는다는 점을 제외하고는, CU 는 H.264 표준의 매크로블록과 유사한 목적을 가진다. 예를 들어, 트리블록은 4개의 자식 노드들 (서브-CU들로도 또한 지칭됨) 로 분할될 수도 있고, 각각의 자식 노드는 결국 부모 노드일 수도 있으며 또다른 4개의 자식 노드들로 분할될 수도 있다. 쿼드트리의 리프 노드로서 지칭되는 최종의 미분할된 자식 노드는, 리프-CU 로서 또한 지칭되는 코딩 노드를 포함한다. 코딩된 비트스트림과 연관된 신택스 데이터는 트리블록이 분할될 수도 있는 최대 횟수를 정의할 수도 있으며 (이는 최대 CU 깊이로서 지칭됨), 또한 코딩 노드들의 최대 사이즈를 정의할 수도 있다. 이에 따라, 비트스트림은 또한 최소의 코딩 유닛 (SCU) 을 정의할 수도 있다. 본 개시는, HEVC 의 컨텍스트에서의 CU, PU, 또는 TU 중 임의의 것을, 또는 다른 표준들의 컨텍스트에서의 유사한 데이터 구조들 (예를 들어, H.264/AVC 에서의 매크로블록들 및 그 서브-블록들) 을 지칭하기 위해 용어 "블록" 을 사용한다.
CU 는 코딩 노드, 그리고 코딩 노드와 연관된 예측 유닛들 (PU들) 및 변환 유닛들 (TU들) 을 포함한다. CU 의 사이즈는 코딩 노드의 사이즈에 대응하고, 형상이 정방형이어야 한다. CU 의 사이즈는 8x8 픽셀들로부터, 최대 64x64 픽셀들 이상을 갖는 트리블록의 사이즈까지 이를 수도 있다. 각각의 CU 는 하나 이상의 PU들 및 하나 이상의 TU들을 포함할 수도 있다. CU 와 연관된 신택스 데이터는, 예를 들어, 하나 이상의 PU들로의 CU 의 파티셔닝을 기술할 수도 있다. 모드들을 파티셔닝하는 것은 CU 가 스킵되거나 직접 모드 인코딩되거나, 인트라-예측 모드 인코딩되거나, 또는 인터-예측 모드 인코딩되는지 여부 간에 상이할 수도 있다. PU들은 형상이 비-정방형이도록 파티셔닝될 수도 있다. CU 와 연관된 신택스 데이터는 또한, 예를 들어, 쿼드트리에 따라 하나 이상의 TU들로의 CU 의 파티셔닝을 기술할 수도 있다. TU 는 형상이 정방형이거나 비-정방형 (예를 들어, 직방형) 일 수 있다.
HEVC 표준은 TU들에 따른 변환들에 대해 허용하며, 이는 상이한 CU들에 대해 상이할 수도 있다. TU들은 통상적으로, 파티셔닝된 LCU 에 대해 정의된 소정의 CU 내에서의 PU들의 사이즈에 기초하여 사이징되지만, 이것이 항상 그 경우인 것은 아닐 수도 있다. TU들은 통상적으로 PU들과 동일한 사이즈이거나 그 보다 더 작다. 일부 예들에 있어서, CU 에 대응하는 잔차 샘플들은 "잔차 쿼드트리 (RQT)" 로서 공지된 쿼드트리 구조를 이용하여 더 작은 유닛들로 세분될 수도 있다. RQT 의 리프 노드들은 변환 유닛들 (TU들) 로서 지칭될 수도 있다. TU들과 연관된 픽셀 차이 값들은 변환 계수들을 생성하도록 변환될 수도 있으며, 이 변환 계수들은 양자화될 수도 있다.
리프-CU 는 하나 이상의 예측 유닛들 (PU들) 을 포함할 수도 있다. 일반적으로, PU 는 대응하는 CU 의 부분 또는 그 모두에 대응하는 공간 영역을 나타내며, PU 에 대한 레퍼런스 샘플을 취출하기 위한 데이터를 포함할 수도 있다. 더욱이, PU 는 예측과 관련된 데이터를 포함한다. 예를 들어, PU 가 인트라-모드 인코딩될 경우, PU 에 대한 데이터는, 그 PU 에 대응하는 TU 에 대한 인트라-예측 모드를 기술하는 데이터를 포함할 수도 있는 잔차 쿼드트리 (RQT) 에 포함될 수도 있다. 다른 예로서, PU 가 인터-모드 인코딩될 경우, PU 는 그 PU 에 대한 하나 이상의 모션 벡터들을 정의하는 데이터를 포함할 수도 있다. PU 에 대한 모션 벡터를 정의하는 데이터는 예를 들어, 모션 벡터의 수평 컴포넌트, 모션 벡터의 수직 컴포넌트, 모션 벡터에 대한 분해능 (예를 들어, 1/4 픽셀 정밀도 또는 1/8 픽셀 정밀도), 모션 벡터가 포인팅하는 레퍼런스 픽처, 및/또는 모션 벡터에 대한 레퍼런스 픽처 리스트 (예를 들어, 리스트 0, 리스트 1, 또는 리스트 C) 를 기술할 수도 있다.
하나 이상의 PU들을 갖는 리프-CU 는 또한 하나 이상의 변환 유닛들 (TU들) 을 포함할 수도 있다. 변환 유닛들은, 상기 논의된 바와 같이 RQT (TU 쿼드트리 구조로서도 또한 지칭됨) 를 이용하여 특정될 수도 있다. 예를 들어, 분할된 플래그는 리프-CU 가 4개의 변환 유닛들로 분할되는지 여부를 표시할 수도 있다. 그 후, 각각의 변환 유닛은 추가의 서브-TU들로 추가로 분할될 수도 있다. TU 가 추가로 분할되지 않을 경우, 리프-TU 로서 지칭될 수도 있다. 일반적으로, 인트라 코딩에 대해, 리프-CU 에 속하는 리프-TU들 모두는 동일한 인트라 예측 모드를 공유한다. 즉, 동일한 인트라-예측 모드는 일반적으로, 리프-CU 의 모든 TU들에 대한 예측된 값들을 계산하기 위해 적용된다. 인트라 코딩에 대해, 비디오 인코더는 인트라 예측 모드를 이용하여 각각의 리프-TU 에 대한 잔차 값을, TU 에 대응하는 CU 의 부분과 오리지널 블록 간의 차이로서 계산할 수도 있다. TU 는 반드시 PU 의 사이즈로 한정될 필요는 없다. 따라서, TU들은 PU 보다 더 크거나 더 작을 수도 있다. 인트라 코딩에 대해, PU 는 동일한 CU 에 대한 대응하는 리프-TU 와 공동위치될 수도 있다. 일부 예들에 있어서, 리프-TU 의 최대 사이즈는 대응하는 리프-CU 의 사이즈에 대응할 수도 있다.
더욱이, 리프-CU들의 TU들은 또한, 잔차 쿼드트리들 (RQT들) 로서 지칭되는 개별 쿼드트리 데이터 구조들과 연관될 수도 있다. 즉, 리프-CU 는, 리프-CU가 어떻게 TU들로 파티셔닝되는지를 나타내는 쿼드트리를 포함할 수도 있다. TU 쿼드트리의 루트 노드는 일반적으로 리프-CU 에 대응하지만, CU 쿼드트리의 루트 노드는 일반적으로 트리블록 (또는 LCU) 에 대응한다. 분할되지 않은 RQT 의 TU들은 리프-TU들로서 지칭된다. 일반적으로, 본 개시는, 달리 언급되지 않으면, 리프-CU 및 리프-TU 를 지칭하기 위해 각각 용어들 CU 및 TU 를 사용한다.
비디오 시퀀스는 통상적으로, 비디오 프레임들 또는 픽처들의 시리즈를 포함한다. 픽처들의 그룹 (GOP) 은 일반적으로 비디오 픽처들의 하나 이상의 시리즈를 포함한다. GOP 는, 그 GOP 에 포함된 다수의 픽처들을 기술하는 신택스 데이터를 GOP 의 헤더, 픽처들의 하나 이상의 헤더, 또는 다른 곳에 포함할 수도 있다. 픽처의 각각의 슬라이스는 개별 슬라이스에 대한 인코딩 모드를 기술하는 슬라이스 신택스 데이터를 포함할 수도 있다. 비디오 인코더 (20) 는 통상적으로, 비디오 데이터를 인코딩하기 위해 개별적인 비디오 슬라이스들 내의 비디오 블록들에 대해 동작한다. 비디오 블록은 CU 내의 코딩 노드에 대응할 수도 있다. 비디오 블록들은 고정 또는 가변 사이즈들을 가질 수도 있으며, 특정 코딩 표준에 따라 사이즈가 상이할 수도 있다.
일 예로서, HM 은 다양한 PU 사이즈들에서의 예측을 지원한다. 특정 CU 의 사이즈가 2Nx2N 이라고 가정하면, HM 은 2Nx2N 또는 NxN 의 PU 사이즈들에서 인트라-예측을 지원하고, 그리고 2Nx2N, 2NxN, Nx2N, 또는 NxN 의 대칭적인 PU 사이즈들에서 인터-예측을 지원한다. HM 은 또한, 2NxnU, 2NxnD, nLx2N, 및 nRx2N 의 PU 사이즈들에서 인터-예측을 위한 비대칭 파티셔닝을 지원한다. 비대칭 파티셔닝에 있어서, CU 의 일 방향은 파티셔닝되지 않지만 다른 방향은 25% 및 75% 로 파티셔닝된다. 25% 파티션에 대응하는 CU 의 부분은 "n" 이후에 "상", "하", "좌", 또는 "우" 의 표시에 의해 표시된다. 따라서, 예를 들어, "2NxnU" 는, 상부에서의 2Nx0.5N PU 및 하부에서의 2Nx1.5N PU 로 수평으로 파티셔닝된 2Nx2N CU 를 지칭한다.
본 개시에 있어서, "NxN" 및 "N 바이 N" 은 수직 및 수평 치수들의 관점에서의 비디오 블록의 픽셀 치수들, 예를 들어, 16x16 픽셀들 또는 16 바이 16 픽셀들을 지칭하도록 상호대체가능하게 사용될 수도 있다. 일반적으로, 16x16 블록은 수직 방향에서 16개의 픽셀들 (y = 16) 및 수평 방향에서 16개의 픽셀들 (x = 16) 을 가질 것이다. 유사하게, NxN 블록은 일반적으로, 수직방향에서 N개의 픽셀들 및 수평 방향에서 N개의 픽셀들을 가지며, 여기서, N 은 음이 아닌 정수 값을 나타낸다. 블록에 있어서의 픽셀들은 행 및 열로 배열될 수도 있다. 더욱이, 블록들은 반드시 수평 방향에서 수직 방향에서와 동일한 수의 픽셀들을 가질 필요는 없을 수도 있다. 예를 들어, 블록들은 NxM 픽셀들을 포함할 수도 있으며, 여기서, M 은 반드시 N 과 동일할 필요는 없다.
CU 의 PU들을 이용한 인트라-예측 또는 인터-예측 코딩 이후, 비디오 인코더 (20) 는 CU 의 TU들에 대한 잔차 데이터를 계산할 수도 있다. PU들은 공간 도메인 (픽셀 도메인으로서도 또한 지칭됨) 에 있어서 예측 픽셀 데이터를 생성하는 방법 또는 모드를 기술하는 신택스 데이터를 포함할 수도 있고, TU들은 변환, 예를 들어, 이산 코사인 변환 (DCT), 정수 변환, 웨이블릿 변환, 또는 잔차 비디오 데이터에 대한 개념적으로 유사한 변환의 적용 이후에 변환 도메인에 있어서 계수들을 포함할 수도 있다. 잔차 데이터는 인코딩되지 않은 픽처의 픽셀들과 PU들에 대응하는 예측 값들 간의 픽셀 차이들에 대응할 수도 있다. 비디오 인코더 (20) 는 CU 에 대한 잔차 데이터를 포함하는 TU들을 형성하고, 그 후, TU들을 변환하여 CU 에 대한 변환 계수들을 생성할 수도 있다.
변환 계수들을 생성하기 위한 임의의 변환들 이후, 비디오 인코더 (20) 는 변환 계수들의 양자화를 수행할 수도 있다. 양자화는 그 최광의 통상적인 의미를 갖도록 의도된 광의의 용어이다. 일 실시형태에 있어서, 양자화는, 변환 계수들이 그 계수들을 나타내는데 사용되는 데이터의 양을 가능하게는 감소시키도록 양자화되어 추가의 압축을 제공하는 프로세스를 지칭한다. 양자화 프로세스는 그 계수들의 일부 또는 그 모두와 연관되는 비트 깊이를 감소시킬 수도 있다. 예를 들어, n비트 값은 양자화 동안 m비트 값으로 라운드-다운될 수도 있으며, 여기서, n 은 m 보다 크다.
양자화 이후, 비디오 인코더는 변환 계수들을 스캔하여, 양자화된 변환 계수들을 포함한 2차원 매트릭스로부터 1차원 벡터를 생성할 수도 있다. 그 스캔은, 더 높은 에너지 (및 따라서 더 낮은 주파수) 계수들을 어레이의 앞에 배치하고 그리고 더 낮은 에너지 (및 따라서 더 높은 주파수) 계수들을 어레이의 뒤에 배치하도록 설계될 수도 있다. 일부 예들에 있어서, 비디오 인코더 (20) 는 양자화된 변환 계수들을 스캔하기 위한 미리정의된 스캔 순서를 활용하여, 엔트로피 인코딩될 수 있는 직렬화된 벡터를 생성할 수도 있다. 다른 예들에 있어서, 비디오 인코더 (20) 는 적응적 스캔을 수행할 수도 있다. 1차원 벡터를 형성하기 위해 양자화된 변환 계수들을 스캔한 이후, 비디오 인코더 (20) 는, 예를 들어, 컨텍스트 적응적 가변 길이 코딩 (CAVLC), 컨텍스트 적응적 바이너리 산술 코딩 (CABAC), 신택스 기반 컨텍스트 적응적 바이너리 산술 코딩 (SBAC), 확률 간격 파티셔닝 엔트로피 (PIPE) 코딩, 또는 다른 엔트로피 인코딩 방법에 따라 1차원 벡터를 엔트로피 인코딩할 수도 있다. 비디오 인코더 (20) 는 또한, 비디오 데이터를 디코딩함에 있어서 비디오 디코더 (30) 에 의한 사용을 위해 인코딩된 비디오 데이터와 연관된 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다.
CABAC 를 수행하기 위해, 비디오 인코더 (20) 는 컨텍스트 모델 내의 컨텍스트를, 송신될 심볼에 할당할 수도 있다. 컨텍스트는, 예를 들어, 심볼의 이웃하는 값들이 제로가 아닌지 여부와 관련될 수도 있다. CAVLC 를 수행하기 위해, 비디오 인코더 (20) 는 송신될 심볼에 대한 가변 길이 코드를 선택할 수도 있다. VLC 에서의 코드워드들은, 상대적으로 더 짧은 코드들이 더 가능성있는 심볼들에 대응하지만 더 긴 코드들은 덜 가능성있는 심볼들에 대응하도록 구성될 수도 있다. 이러한 방식으로, VLC 의 사용은, 예를 들어, 송신될 각각의 심볼에 대한 동일 길이 코드워드들을 사용하는 것에 비해 비트 절약을 달성할 수도 있다. 확률 결정은 심볼에 할당된 컨텍스트에 기초할 수도 있다.
비디오 인코더 (20) 는 추가로, 블록 기반 신택스 데이터, 프레임 기반 신택스 데이터, 및 GOP 기반 신택스 데이터와 같은 신택스 데이터를, 예를 들어, 프레임 헤더, 블록 헤더, 슬라이스 헤더, 또는 GOP 헤더에서 비디오 디코더 (30) 로 전송할 수도 있다. GOP 신택스 데이터는 개별 GOP 에서의 다수의 프레임들을 기술할 수도 있고, 프레임 신택스 데이터는 대응하는 프레임을 인코딩하는데 사용된 인코딩/예측 모드를 표시할 수도 있다.
비디오 인코더
도 2 는 본 개시에서 설명된 양태들에 따른 기술들을 구현할 수도 있는 비디오 인코더의 예를 도시한 블록 다이어그램이다. 비디오 인코더 (20) 의 유닛들 중 하나 이상은 본 개시의 기술들 중 임의의 기술 또는 그 모든 기술들을 수행하도록 구성될 수도 있다. 일 예로서, 변환 프로세싱 유닛 (52) 및 역변환 유닛 (60) 은 도 8 에 관하여 하기에 설명되는 기술들과 같은, 본 개시에서 설명된 적응적 변환 기술들 중 임의의 기술 또는 그 모든 기술들을 수행하도록 구성될 수도 있다. 하지만, 본 개시의 양태들은 그것에 한정되지 않는다. 일부 예들에 있어서, 본 개시에서 설명된 기술들은 비디오 인코더 (20) 의 다양한 컴포넌트들 중에서 공유될 수도 있다. 일부 예들에 있어서, 그에 부가하여 또는 그 대신에, 프로세서 (도시 안됨) 가 본 개시에서 설명된 기술들 중 임의의 기술 또는 그 모든 기술들을 수행하도록 구성될 수도 있다.
비디오 인코더 (20) 는 비디오 슬라이스들 내에서 비디오 블록들의 인트라-코딩 및 인터-코딩을 수행할 수도 있다. 인트라-코딩은 소정의 비디오 프레임 또는 픽처 내 비디오에 있어서 공간 리던던시를 감소 또는 제거하기 위해 공간 예측에 의존한다. 인터-코딩은 비디오 시퀀스의 인접한 프레임들 또는 픽처들 내 비디오에 있어서 시간 리던던시를 감소 또는 제거하기 위해 시간 예측에 의존한다. 인트라-모드 (I 모드) 는 수개의 공간 기반 코딩 모드들 중 임의의 모드를 지칭할 수도 있다. 단방향 예측 (P 모드) 또는 양방향 예측 (B 모드) 과 같은 인터-모드들은 수개의 시간 기반 코딩 모드들 중 임의의 모드를 지칭할 수도 있다.
도 2 에 도시된 바와 같이, 비디오 인코더 (20) 는 인코딩될 비디오 프레임 내의 현재 비디오 블록을 수신한다. 도 2 의 예에 있어서, 비디오 인코더 (20) 는 모드 선택 유닛 (40), 레퍼런스 프레임 메모리 (64), 합산기 (50), 변환 프로세싱 유닛 (52), 양자화 유닛 (54), 및 엔트로피 인코딩 유닛 (56) 을 포함한다. 모드 선택 유닛 (40) 은 차례로, 모션 보상 유닛 (44), 모션 추정 유닛 (42), 인트라-예측 유닛 (46), 및 파티션 유닛 (48) 을 포함한다. 비디오 블록 복원을 위해, 비디오 인코더 (20) 는 또한 역양자화 유닛 (58), 역변환 유닛 (60), 및 합산기 (62) 를 포함한다. 디블로킹 (deblocking) 필터 (도 2 에 도시 안됨) 가 또한 블록 경계들을 필터링하여 복원된 비디오로부터 블록키니스 아티팩트들을 제거하기 위해 포함될 수도 있다. 요구된다면, 디블로킹 필터는 통상적으로 합산기 (62) 의 출력을 필터링할 것이다. 부가적인 필터들 (인-루프 (in loop) 또는 포스트 루프) 이 또한 디블로킹 필터에 부가하여 이용될 수도 있다. 그러한 필터들은 간략화를 위해 도시되지 않지만, 요구된다면, (인-루프 필터로서) 합산기 (50) 의 출력을 필터링할 수도 있다.
인코딩 프로세스 동안, 비디오 인코더 (20) 는 인코딩될 비디오 프레임 또는 슬라이스를 수신한다. 그 프레임 또는 슬라이스는 다중의 비디오 블록들로 분할될 수도 있다. 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 시간 예측을 제공하기 위해 하나 이상의 레퍼런스 프레임들에 있어서의 하나 이상의 블록들에 대해 수신된 비디오 블록의 인터-예측 코딩을 수행한다. 대안적으로, 인트라-예측 유닛 (46) 은 공간 예측을 제공하기 위해 코딩될 블록과 동일한 프레임 또는 슬라이스에 있어서의 하나 이상의 이웃하는 블록들에 대해 수신된 비디오 블록의 인트라-예측 코딩을 수행할 수도 있다. 비디오 인코더 (20) 는, 예를 들어, 비디오 데이터의 각각의 블록에 대한 적절한 코딩 모드를 선택하기 위해 다중의 코딩 패스들을 수행할 수도 있다.
더욱이, 파티션 유닛 (48) 은 이전 코딩 패스들에 있어서의 이전 파티셔닝 방식들의 평가에 기초하여 비디오 데이터의 블록들을 서브-블록들로 파티셔닝할 수도 있다. 예를 들어, 파티션 유닛 (48) 은, 레이트-왜곡 분석 (예를 들어, 레이트-왜곡 최적화) 에 기초하여, 처음에 프레임 또는 슬라이스를 LCU들로 파티셔닝하고, LCU들 각각을 서브-CU들로 파티셔닝할 수도 있다. 모드 선택 유닛 (40) 은 추가로, LCU 의 서브-CU들로의 파티셔닝을 표시하는 쿼드트리 데이터 구조를 생성할 수도 있다. 쿼드트리의 리프 노드 CU들은 하나 이상의 PU들 및 하나 이상의 TU들을 포함할 수도 있다.
모드 선택 유닛 (40) 은, 예를 들어, 에러 결과들에 기초하여 코딩 모드들 중 하나, 즉, 인트라 모드 또는 인터 모드를 선택할 수도 있고, 결과적인 인트라- 또는 인터-코딩된 블록을 합산기 (50) 에 제공하여 잔차 블록 데이터를 생성하고, 합산기 (62) 에 제공하여 레퍼런스 프레임으로서의 사용을 위한 인코딩된 블록을 복원한다. 모드 선택 유닛 (40) 은 또한, 모션 벡터들, 인트라-모드 표시자들, 파티션 정보, 및 다른 그러한 신택스 정보와 같은 신택스 엘리먼트들을 엔트로피 인코딩 유닛 (56) 에 제공한다.
모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 고도로 통합될 수도 있지만, 개념적인 목적을 위해 별개로 도시된다. 모션 추정 유닛 (42) 에 의해 수행된 모션 추정은, 비디오 블록들에 대한 모션을 추정하는 모션 벡터들을 생성하는 프로세스이다. 모션 벡터는, 예를 들어, 현재 프레임 (또는 다른 코딩된 유닛) 내에서 코딩되는 현재 블록에 대한 레퍼런스 프레임 (또는 다른 코딩된 유닛) 내 예측 블록에 대한 현재 비디오 프레임 또는 픽처 내 비디오 블록의 PU 의 변위를 표시할 수도 있다. 예측 블록은 픽셀 차이의 관점에서 코딩될 블록과 밀접하게 매칭되도록 발견되는 블록이며, 이 픽셀 차이는 절대 차이의 합 (SAD), 제곱 차이의 합 (SSD), 또는 다른 상이한 메트릭들에 의해 결정될 수도 있다. 일부 예들에 있어서, 비디오 인코더 (20) 는 레퍼런스 프레임 메모리 (64) 에 저장된 레퍼런스 픽처들의 서브-정수 픽셀 포지션들에 대한 값들을 계산할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 레퍼런스 픽처의 1/4 픽셀 포지션들, 1/8 픽셀 포지션들, 또는 다른 분수 픽셀 포지션들의 값들을 보간할 수도 있다. 따라서, 모션 추정 유닛 (42) 은 풀 픽셀 포지션들 및 분수 픽셀 포지션들에 대한 모션 탐색을 수행하고, 분수 픽셀 정밀도로 모션 벡터를 출력할 수도 있다.
모션 추정 유닛 (42) 은 인터-코딩된 슬라이스에 있어서의 비디오 블록의 PU 에 대한 모션 벡터를, 그 PU 의 포지션을 레퍼런스 픽처의 예측 블록의 포지션과 비교함으로써 계산한다. 레퍼런스 픽처는 제 1 레퍼런스 픽처 리스트 (리스트 0) 또는 제 2 레퍼런스 픽처 리스트 (리스트 1) 로부터 선택될 수도 있으며, 이 리스트들 각각은 레퍼런스 프레임 메모리 (64) 에 저장된 하나 이상의 레퍼런스 픽처들을 식별한다. 모션 추정 유닛 (42) 은 계산된 모션 벡터를 엔트로피 인코딩 유닛 (56) 및 모션 보상 유닛 (44) 으로 전송한다.
모션 보상 유닛 (44) 에 의해 수행된 모션 보상은 모션 추정 유닛 (42) 에 의해 결정된 모션 벡터에 기초하여 예측 블록을 페치 또는 생성하는 것을 수반할 수도 있다. 다시, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 일부 예들에 있어서 기능적으로 통합될 수도 있다. 현재 비디오 블록의 PU 에 대한 모션 벡터를 수신할 시, 모션 보상 유닛 (44) 은, 모션 벡터가 레퍼런스 픽처 리스트들 중 하나에 포인팅하는 예측 블록을 로케이팅할 수도 있다. 합산기 (50) 는, 하기에서 논의되는 바와 같이, 코딩되는 현재 비디오 블록의 픽셀 값들로부터 예측 블록의 픽셀 값들을 감산하여 픽셀 차이 값들을 형성함으로써 잔차 비디오 블록을 형성한다. 일반적으로, 모션 추정 유닛 (42) 은 루마 컴포넌트들에 대한 모션 추정을 수행하고, 모션 보상 유닛 (44) 은 크로마 컴포넌트들 및 루마 컴포넌트들 양자에 대한 루마 컴포넌트들에 기초하여 계산된 모션 벡터들을 이용한다. 모드 선택 유닛 (40) 은 또한, 비디오 슬라이스의 비디오 블록들을 디코딩함에 있어서 비디오 디코더 (30) 에 의한 사용을 위해 비디오 블록들 및 비디오 슬라이스와 연관된 신택스 엘리먼트들을 생성할 수도 있다.
인트라-예측 유닛 (46) 은, 상기 설명된 바와 같은 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행된 인터-예측에 대한 대안으로서, 현재 블록을 인트라-예측 또는 계산할 수도 있다. 특히, 인트라-예측 유닛 (46) 은 현재 블록을 인코딩하는데 이용하기 위한 인트라-예측 모드를 결정할 수도 있다. 일부 예들에 있어서, 인트라-예측 유닛 (46) 은 예를 들어 별도의 인코딩 패스들 동안에 다양한 인트라-예측 모드들을 이용하여 현재 블록을 인코딩할 수도 있으며, 인트라-예측 유닛 (46) (또는 일부 예들에서는 모드 선택 유닛 (40)) 은 테스팅된 모드들로부터의 이용을 위해 적절한 인트라-예측 모드를 선택할 수도 있다.
예를 들어, 인트라-예측 유닛 (46) 은 다양한 테스팅된 인트라-예측 모드들에 대한 레이트-왜곡 분석을 이용하여 레이트-왜곡 값들을 계산하고, 테스팅된 모드들 중 최상의 레이트-왜곡 특성들을 갖는 인트라-예측 모드를 선택할 수도 있다. 레이트-왜곡 분석은 일반적으로, 인코딩된 블록과 그 인코딩된 블록을 생성하도록 인코딩되었던 오리지널의 인코딩되지 않은 블록 간의 왜곡 (또는 에러) 의 양뿐 아니라 인코딩된 블록을 생성하는데 사용된 비트 레이트 (즉, 비트들의 수) 를 결정한다. 인트라-예측 유닛 (46) 은 다양한 인코딩된 블록들에 대한 왜곡들 및 레이트들로부터의 비율들을 계산하여, 어느 인트라-예측 모드가 그 블록에 대한 최상의 레이트-왜곡 값을 나타내는지를 결정할 수도 있다.
블록에 대한 인트라-예측 모드를 선택한 이후, 인트라-예측 유닛 (46) 은 블록에 대한 선택된 인트라-예측 모드를 표시하는 정보를 엔트로피 인코딩 유닛 (56) 에 제공할 수도 있다. 엔트로피 인코딩 유닛 (56) 은 선택된 인트라-예측 모드를 표시한 정보를 인코딩할 수도 있다. 비디오 인코더 (20) 는 송신된 비트스트림에, 복수의 인트라-예측 모드 인덱스 테이블들 및 복수의 변형된 인트라-예측 모드 인덱스 테이블들 (코드워드 매핑 테이블들로서도 또한 지칭됨) 을 포함할 수도 있는 구성 데이터, 다양한 블록들에 대한 인코딩 컨텍스트들의 정의들, 및 컨텍스트들 각각에 대한 사용을 위한 가장 가능성있는 인트라-예측 모드, 인트라-예측 모드 인덱스 테이블, 및 변형된 인트라-예측 모드 인덱스 테이블의 표시들을 포함할 수도 있다.
비디오 인코더 (20) 는 모드 선택 유닛 (40) 으로부터의 예측 데이터를, 코딩되는 오리지널 비디오 블록으로부터 감산함으로써 잔차 비디오 블록을 형성한다. 합산기 (50) 는 이러한 감산 연산을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 변환 프로세싱 유닛 (52) 은 이산 코사인 변환 (DCT) 또는 개념적으로 유사한 변환과 같은 변환을 잔차 블록에 적용하여, 잔차 변환 계수 값들을 포함하는 비디오 블록을 생성한다. 변환 프로세싱 유닛 (52) 은, DCT 와 개념적으로 유사한 다른 변환들을 수행할 수도 있다. 웨이블릿 변환들, 정수 변환들, 서브-대역 변환들, 또는 다른 타입들의 변환들이 또한 이용될 수 있다. 어떠한 경우라도, 변환 프로세싱 유닛 (52) 은 변환을 잔차 블록에 적용하여, 잔차 변환 계수들의 블록을 생성한다. 그 변환은 잔차 정보를 픽셀 값 도메인으로부터 주파수 도메인과 같은 변환 도메인으로 변환할 수도 있다. 변환 프로세싱 유닛 (52) 은 도 8 에 관하여 및 하기에서 설명되는 적응적 변환 방법을 수행하도록 구성될 수도 있다.
변환 프로세싱 유닛 (52) 은 결과적인 변환 계수들을 양자화 유닛 (54) 으로 전송할 수도 있다. 양자화 유닛 (54) 은 비트 레이트를 추가로 감소시키기 위해 변환 계수들을 양자화한다. 양자화 프로세스는 그 계수들의 일부 또는 그 모두와 연관되는 비트 깊이를 감소시킬 수도 있다. 양자화의 정도는 양자화 파라미터를 조정함으로써 변경될 수도 있다. 그 후, 일부 예들에 있어서, 양자화 유닛 (54) 은, 양자화된 변환 계수들을 포함하는 매트릭스의 스캔을 수행할 수도 있다. 대안적으로, 엔트로피 인코딩 유닛 (56) 은 스캔을 수행할 수도 있다.
양자화 이후, 엔트로피 인코딩 유닛 (56) 은 양자화된 변환 계수들을 엔트로피 코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 컨텍스트 적응적 가변 길이 코딩 (CAVLC), 컨텍스트 적응적 바이너리 산술 코딩 (CABAC), 신택스 기반 컨텍스트 적응적 바이너리 산술 코딩 (SBAC), 확률 간격 파티셔닝 엔트로피 (PIPE) 코딩, 또는 다른 엔트로피 인코딩 기술을 수행할 수도 있다. 컨텍스트 기반 엔트로피 인코딩의 경우, 컨텍스트는 이웃하는 블록들에 기초할 수도 있다. 엔트로피 인코딩 유닛 (56) 에 의한 엔트로피 인코딩 이후, 인코딩된 비트스트림은 다른 디바이스 (예를 들어, 비디오 디코더 (30)) 로 송신되거나 또는 더 나중의 송신 또는 취출을 위해 아카이브될 수도 있다.
역양자화 유닛 (58) 및 역변환 유닛 (60) 은, 예를 들어, 레퍼런스 블록으로서의 더 나중 사용을 위해 픽셀 도메인에서 잔차 블록을 복원하도록, 각각, 역양자화 및 역변환을 적용한다. 역변환 유닛 (60) 은 도 8 에 관하여 및 하기에서 설명되는 적응적 변환 방법을 수행하도록 구성될 수도 있다.
모션 보상 유닛 (44) 은 레퍼런스 프레임 메모리 (64) 의 프레임들 중 하나의 예측 블록에 잔차 블록을 부가함으로써 레퍼런스 블록을 계산할 수도 있다. 모션 보상 유닛 (44) 은 또한, 하나 이상의 보간 필터들을 복원된 잔차 블록에 적용하여, 모션 추정에서 사용하기 위한 서브-정수 픽셀 값들을 계산할 수도 있다. 합산기 (62) 는 복원된 잔차 블록을, 모션 보상 유닛 (44) 에 의해 생성된 모션 보상된 예측 블록에 부가하여, 레퍼런스 프레임 메모리 (64) 로의 저장을 위한 복원된 비디오 블록을 생성한다. 복원된 비디오 블록은, 후속 비디오 프레임에서의 블록을 인터-코딩하기 위해 레퍼런스 블록으로서 모션 추정 유닛 (42) 및 모션 보상 유닛 (44)에 의해 사용될 수도 있다.
비디오 디코더
도 3 은 본 개시에서 설명된 양태들에 따른 기술들을 구현할 수도 있는 비디오 디코더의 예를 도시한 블록 다이어그램이다. 비디오 디코더 (30) 의 유닛들 중 하나 이상은 본 개시의 기술들 중 임의의 기술 또는 그 모든 기술들을 수행하도록 구성될 수도 있다. 일 예로서, 역변환 유닛 (78) 은 도 8 에 관하여 하기에 설명되는 기술들과 같은, 본 개시에서 설명된 적응적 변환 기술들 중 임의의 기술 또는 그 모든 기술들을 수행하도록 구성될 수도 있다. 하지만, 본 개시의 양태들은 그것에 한정되지 않는다. 일부 예들에 있어서, 본 개시에서 설명된 기술들은 비디오 디코더 (30) 의 다양한 컴포넌트들 중에서 공유될 수도 있다. 일부 예들에 있어서, 그에 부가하여 또는 그 대신에, 프로세서 (도시 안됨) 가 본 개시에서 설명된 기술들 중 임의의 기술 또는 그 모든 기술들을 수행하도록 구성될 수도 있다.
도 3 의 예에 있어서, 비디오 디코더 (30) 는 엔트로피 디코딩 유닛 (70), 모션 보상 유닛 (72), 인트라 예측 유닛 (74), 역양자화 유닛 (76), 역변환 유닛 (78), 레퍼런스 프레임 메모리 (82) 및 합산기 (80) 를 포함한다. 일부 예들에 있어서, 비디오 디코더 (30) 는 비디오 인코더 (20)(예를 들어, 도 1 및 도 2 참조) 에 대하여 설명된 인코딩 패스와 일반적으로 상호적인 디코딩 패스를 수행할 수도 있다. 모션 보상 유닛 (72) 은 엔트로피 디코딩 유닛 (70) 으로부터 수신된 모션 벡터들에 기초하여 예측 데이터를 생성할 수도 있지만, 인트라-예측 유닛 (74) 은 엔트로피 디코딩 유닛 (70) 으로부터 수신된 인트라-예측 모드 표시자들에 기초하여 예측 데이터를 생성할 수도 있다.
디코딩 프로세스 동안, 비디오 디코더 (30) 는, 인코딩된 비디오 슬라이스의 비디오 블록들 및 관련 신택스 엘리먼트들을 나타내는 인코딩된 비디오 비트스트림을 비디오 인코더 (20) 로부터 수신한다. 비디오 디코더 (30) 의 엔트로피 디코딩 유닛 (70) 은 비트스트림을 엔트로피 디코딩하여, 양자화된 계수들, 모션 벡터들 또는 인트라-예측 모드 표시자들, 및 다른 신택스 엘리먼트들을 생성한다. 엔트로피 디코딩 유닛 (70) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 모션 보상 유닛 (72) 으로 포워딩한다. 비디오 디코더 (30) 는 신택스 엘리먼트들을 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨로 수신할 수도 있다.
비디오 슬라이스가 인트라-코딩된 (I) 슬라이스로서 코딩된 경우, 인트라 예측 유닛 (74) 은 현재 프레임 또는 픽처의 이전에 디코딩된 블록들로부터의 데이터 및 시그널링된 인트라 예측 모드에 기초하여 현재 비디오 슬라이스의 비디오 블록에 대한 예측 데이터를 생성할 수도 있다. 비디오 프레임이 인터-코딩된 (예를 들어, B, P 또는 GPB) 슬라이스로서 코딩된 경우, 모션 보상 유닛 (72) 은 엔트로피 디코딩 유닛 (70) 으로부터 수신된 다른 신택스 엘리먼트들 및 모션 벡터들에 기초하여 현재 비디오 슬라이스의 비디오 블록에 대한 예측 블록들을 생성한다. 예측 블록들은 레퍼런스 픽처 리스트들 중 하나 내에서의 레퍼런스 픽처들 중 하나로부터 생성될 수도 있다. 비디오 디코더 (30) 는 레퍼런스 프레임 메모리 (82) 에 저장된 레퍼런스 픽처들에 기초한 디폴트 구성 기술들을 이용하여 레퍼런스 프레임 리스트들, 즉, 리스트 0 및 리스트 1 을 구성할 수도 있다. 모션 보상 유닛 (72) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱함으로써 현재 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 그 예측 정보를 사용하여, 디코딩되는 현재 비디오 블록에 대한 예측 블록들을 생성한다. 예를 들어, 모션 보상 유닛 (72) 은 수신된 신택스 엘리먼트들 중 일부를 사용하여, 비디오 슬라이스의 비디오 블록들을 코딩하는데 사용되는 예측 모드 (예를 들어, 인트라-예측 또는 인터-예측), 인터-예측 슬라이스 타입 (예를 들어, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스에 대한 레퍼런스 픽처 리스트들 중 하나 이상에 대한 구성 정보, 슬라이스의 각각의 인터-인코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터-코딩된 비디오 블록에 대한 인터-예측 상태, 및 현재 비디오 슬라이스에 있어서의 비디오 블록들을 디코딩하기 위한 다른 정보를 결정한다.
모션 보상 유닛 (72) 은 또한, 보간 필터들에 기초하여 보간을 수행할 수도 있다. 모션 보상 유닛 (72) 은 비디오 블록들의 인코딩 동안 비디오 인코더 (20) 에 의해 사용된 바와 같은 보간 필터들을 이용하여, 레퍼런스 블록들의 서브-정수 픽셀들에 대한 보간된 값들을 계산할 수도 있다. 이 경우, 모션 보상 유닛 (72) 은 수신된 신택스 엘리먼트들로부터 비디오 인코더 (20) 에 의해 사용된 보간 필터들을 결정하고, 보간 필터들을 이용하여 예측 블록들을 생성할 수도 있다.
역양자화 유닛 (76) 은 비트스트림에서 제공되고 엔트로피 디코딩 유닛 (70) 에 의해 디코딩되는 양자화된 변환 계수들을 역양자화, 예를 들어, 양자화해제한다. 역양자화 프로세스는 비디오 슬라이스에 있어서의 각각의 비디오 블록에 대해 비디오 디코더 (30) 에 의해 계산된 양자화 파라미터 (QPY) 의 이용을 포함하여, 적용되어야 하는 양자화의 정도 및 유사하게 역양자화의 정도를 결정할 수도 있다.
역변환 유닛 (78) 은 픽셀 도메인에서 잔차 블록들을 생성하기 위해, 역변환, 예를 들어, 역 DCT, 정수 역변환, 또는 개념적으로 유사한 역변환 프로세스를 변환 계수들에 적용한다. 역변환 유닛 (78) 은 도 8 에 관하여 및 하기에서 설명되는 적응적 변환 방법을 수행하도록 구성될 수도 있다.
모션 보상 유닛 (72) 이 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 현재 비디오 블록에 대한 예측 블록을 생성한 이후, 비디오 디코더 (30) 는 역변환 유닛 (78) 으로부터의 잔차 블록들을 모션 보상 유닛 (72) 에 의해 생성된 대응하는 예측 블록들과 합산함으로써 디코딩된 비디오 블록을 형성한다. 합산기 (80) 는 이러한 합산 연산을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 요구된다면, 디블로킹 필터가 또한, 블록키니스 아티팩트들을 제거하기 위해, 디코딩된 블록들을 필터링하는데 적용될 수도 있다. (코딩 루프에 있어서 또는 코딩 루프 이후에) 다른 루프 필터들이 또한 픽셀 천이들을 평활하게 하거나 그렇지 않으면 비디오 품질을 개선하기 위해 이용될 수도 있다. 그 후, 소정의 프레임 또는 픽처에 있어서의 디코딩된 비디오 블록들이 레퍼런스 픽처 메모리 (82) 에 저장되고, 이 레퍼런스 픽처 메모리는 후속적인 모션 보상을 위해 사용되는 레퍼런스 픽처들을 저장한다. 레퍼런스 프레임 메모리 (82) 는 또한, 도 1 의 디스플레이 디바이스 (32) 와 같은 디스플레이 디바이스 상으로의 더 나중의 프리젠테이션을 위해 디코딩된 비디오를 저장한다.
스케일러블 비디오 코딩 (SVC)
다차원 스케일러빌리티들 (400) 의 일 예가 도 4 에 도시된다. 도시된 실시형태에 있어서, 스케일러빌리티들은 3개 차원들로 인에이블된다: 즉, x축을 따라 도시된 바와 같은 시간 (402) (또는 시간); y축을 따라 도시된 바와 같은 공간 (404); 및 z축을 따라 도시된 바와 같은 품질 (406). 시간 (402), 즉, 시간 차원에 있어서, 7.5 Hz, 15 Hz 또는 30 Hz 등과 같지만 이에 한정되지 않는 다양한 값들을 갖는 프레임 레이트들이 시간 스케일러빌리티 (T) 에 의해 지원될 수 있다. 공간 스케일러빌리티 (404) (S) 가 지원될 경우, QCIF, CIF 및 4CIF 등과 같은 상이한 분해능들이 인에이블된다. 각각의 특정 공간 분해능 및 프레임 레이트에 대해, SNR (신호 대 노이즈 비, 또는 품질, Q) 계층들 (406) 이 픽처 품질을 개선하기 위해 부가될 수 있다. 일단 비디오 콘텐츠가 그러한 스케일러블 방식으로 인코딩되었으면, 추출기 툴은 어플리케이션 요건들에 따라 실제 전달된 콘텐츠를 적응하는데 이용될 수도 있으며, 이 어플리케이션 요건들은, 예를 들어, 클라이언트들 및/또는 송신 채널과 같은 다양한 팩터들 또는 파라미터들에 의존할 수 있다. 도 4 에 도시된 예에 있어서, 각각의 입방체 (408) 는 동일한 프레임 레이트 (시간 레벨), 공간 분해능, 및 SNR 계층들을 갖는 픽처들을 포함한다. 더 우수한 표현은 임의의 차원 (402, 404, 406) 에서 그 입방체들 (408) (예를 들어, 픽처들) 을 부가함으로써 달성될 수 있다. 결합된 스케일러빌리티는, 인에이블된 2개의, 3개의 또는 훨씬 더 많은 스케일러빌리티들이 존재할 경우에 지원된다.
최저 공간 (410) 및 품질 (412) 계층을 갖는 픽처들은 H.264/AVC 와 양립가능하다. 일반적으로, 최저 시간 레벨 (414) 의 픽처들은 시간 베이스 계층을 형성한다. 이들 최저 시간 레벨 픽처들은 상위 시간 레벨들의 픽처들로 인핸스(enhance)될 수 있다. H.264/AVC 양립가능 계층에 부가하여, 수개의 공간 및/또는 SNR 인핸스먼트 계층들이 공간 및/또는 품질 스케일러빌리티들을 제공하기 위해 부가될 수 있다. SNR 스케일러빌리티는 또한 품질 스케일러빌리티로서 지칭된다. 각각의 공간 (404) 또는 SNR (406) 인핸스먼트 계층 자체는, H.264/AVC 양립가능 계층과 동일한 시간 스케일러빌리티 구조로 시간적으로 스케일가능할 수도 있다. 하나의 공간 (404) 또는 SNR (406) 인핸스먼트 계층에 대해, 의존하는 하위 계층은 또한, 그 특정 공간 또는 SNR 인핸스먼트 계층의 베이스 계층으로서 지칭된다.
SVC 코딩 구조 (500) 의 예가 도 5 에 도시된다. 최저 공간 및 품질 계층을 갖는 픽처들 (QCIF 분해능을 갖는 계층 0 (502) 및 계층 1 (504) 에서의 픽처들) 은 H.264/AVC 와 양립가능하다. 그들 중에서, 최저 시간 레벨의 그 픽처들은, 도 5 의 계층 0 (502) 에 도시된 바와 같이 시간 베이스 계층을 형성한다. 이 시간 베이스 계층 (계층 0 (502)) 은 상위 시간 레벨들 (예를 들어, 계층 1 (504) 내지 계층 4 (510) 등) 의 픽처들로 인핸스될 수 있다. H.264/AVC 양립가능 계층에 부가하여, 수개의 공간 및/또는 SNR 인핸스먼트 계층들이 공간 및/또는 품질 스케일러빌리티들을 제공하기 위해 부가될 수 있다. 예를 들어, 인핸스먼트 계층은 계층 2 (506) 와 동일한 분해능을 갖는 CIF 표현일 수 있다. 그 예에 있어서, 계층 3 (508) 은 SNR 인핸스먼트 계층 (CIF, 15 Hz, 512 Kbps) 이다. 그 예에 도시된 바와 같이, 각각의 공간 또는 SNR 인핸스먼트 계층 자체는, H.264/AVC 양립가능 계층과 동일한 시간 스케일러빌리티 구조로 시간적으로 스케일가능할 수도 있다.
부가적으로, 인핸스먼트 계층은 공간 분해능 및 프레임 레이트 양자를 인핸스할 수 있다. 예를 들어, 계층 4 (510) 는 4CIF 인핸스먼트 계층을 제공하고, 이는 프레임 레이트를 15 Hz 로부터 30 Hz 까지 추가로 증가시킨다.
도 6 에 도시된 바와 같이, 동일한 시간 인스턴스에서의 코딩된 슬라이스들은 비트스트림 순서로 연속적이고, SVC 의 컨텍스트에서 하나의 액세스 유닛 (600) (AU) 을 형성한다. 그 후, 그 SVC 액세스 유닛들 (600) 은 디코딩 순서를 따르고, 이 디코딩 순서는 디스플레이 순서와는 상이할 수 있고, 예를 들어, 시간 예측 관계에 의해 판정될 수 있다.
변환
비디오 코딩의 일 실시형태에 있어서, 이미지 블록이, 복원된 시간적으로 및/또는 공간적으로 이웃하는 블록들에 있어서의 픽셀들을 이용하여 먼저 예측된다. 그 후, 예측 에러 (종종, "레지듀" 로서 지칭됨) 가 변환되고 양자화될 수도 있다. 예를 들어, S 가 사이즈 NxN 의 레지듀 블록이면, 변환된 블록 (K) 은 다음과 같이 매트릭스 승산을 이용하여 도출될 수 있다.
K = A * S * B
여기서, K, A, 및 B 는 또한 사이즈 NxN 이다. A 는 수직 변환 매트릭스이고 B 는 수평 변환 매트릭스이다. 일부 실시형태들에 있어서, A 및 B 는 서로의 트랜스포즈이다 (예를 들어, B = A’, 여기서, "’" 는 트랜스포즈를 의미함). 다른 실시형태들에 있어서, A 및 B 는 서로의 트랜스포즈가 아니다. A 및 B 가 서로의 트랜스포즈일 경우, 이전의 수학식은
K = A * S * A’
이 된다.
각각의 변환 (A 및 B) 은 다양한 변환들 중 임의의 변환을 포함할 수 있다. 일부 실시형태들에 있어서, 변환은 이산 코사인 변환 (DCT), 이산 사인 변환 (DST), 하다마드 변환, Haar 변환 등 중 하나를 포함한다.
인트라 BL 모드
스케일러블 코딩에 있어서, "인트라 BL 모드" 로 지칭되는 인핸스먼트 계층에 대한 특정 코딩 모드가 존재한다. 인트라 BL 모드에 있어서, 인핸스먼트 계층 블록에서의 텍스처는 베이스 계층에서의 대응하는 (종종, "공동-위치됨", 예를 들어, 동일한 공간 위치에 위치됨으로서 지칭됨) 블록들의 텍스처를 이용하여 예측된다. 대응하는 또는 공동-위치된 블록의 일 예시가 도 7 에 도시된다. 제 1 블록 (702) 은 베이스 계층 (704) 과 같이 하위-레벨 계층에 위치된다. 제 2 블록 (706) 은 베이스 계층 (704) 의 인핸스먼트 계층 (708) 에 위치된다. 제 2 블록 (706) (종종, "현재 블록", 또는 현재 코딩되고 있는 블록으로서 지칭됨) 은 베이스 계층 블록 (702) 에 대하여 공동-위치된다. 베이스 계층 (704) 에서의 블록 (702) 은, 인핸스먼트 계층 (708) 이미지가 베이스 계층 (704) 이미지와는 상이하거나 더 큰 사이즈를 가지면 업-샘플링될 수도 있다. 예측 에러 (예를 들어, 레지듀) 가 변환되고, 양자화되고, 엔트로피 인코딩될 수도 있다.
SVC 레지듀의 변환
상기 언급된 바와 같이, 스케일러블 비디오 코딩의 레지듀는 계층간 예측으로 인해 (예를 들어, 인트라 BL 모드에서의 예측으로 인해) 비-SVC 코딩에 비해 상이한 에너지 분배 특성들을 가질 수 있다. SVC 레지듀는 더 노이즈-유사성이고, 에너지는 전체 주파수 도메인 또는 더 큰 주파수 도메인에 걸쳐 확산할 수 있다. 상기 언급된 바와 같이, 비-SVC 비디오 코딩과 달리, SVC 에 있어서, HF 컴포넌트들은 DC 또는 LF 컴포넌트들보다 더 많은 에너지를 가질 수 있다는 것이 가능하다. 따라서, 정규의 비-SVC 비디오 코딩에 대해 사용된 종래의 방법들은 스케일러블 비디오 코딩에 대해 잘 작동하지 않을 수도 있다. 변환 베이시스 조정은 SVC 를 구현할 경우에 압축 효율을 개선하는 것을 도울 수 있다.
변환 매트릭스 조정
일 실시형태에 있어서, 비디오 코딩을 위해 사용된 변환 매트릭스 (A) 는 적응적으로 조정된다. H 는 조정 후의 변환 매트릭스이다. 함수 (F) 는 조정 프로세스를 정의하는데 사용된다.
H = F(A)
실시예 1:
예를 들어, 그 조정은 전체 베이시스 함수들을 플립핑하는 것 (예를 들어, 변환 베이시스들 모두 또는 그 일부의 순서를 반전시키는 것) 을 포함할 수도 있다.
실시예 1.a (수직 플립핑, 행 스와핑). A 는 다음과 같이 4x4 변환 매트릭스이다:
A[4][4] =
{{64, 64, 64, 64},
{83, 36, -36, -83},
{64, -64, -64, 64},
{36, -83, 83, -36}}
각각의 행은 변환 베이시스 함수이다. 제 1 (상부) 행은 DC 컴포넌트에 대응하는 변환 베이시스이다. 후속 행들은 (증가하는 순서로, 그리고 최고 주파수 컴포넌트에 대응하는 마지막 (저부) 행에서) 상위 주파수 컴포넌트들에 대한 변환 베이시스들이다.
이 실시형태에 있어서, F(A) 는:
H[3-i][j] = A[i][j]; i = 0, .. 3, j = 0, .. 3
이고, 조정 후의 변환 매트릭스 (H) 는:
H[4][4] =
{{36, -83, 83, -36}
{64, -64, -64, 64},
{83, 36, -36, -83},
{64, 64, 64, 64}}
가 된다.
실시예 1.b (수평 플립핑, 베이시스 엘리먼트 스와핑):
이 실시형태에 있어서, F(A) 는:
H[i][3-j] = A[i][j]; i = 0, .. 3, j = 0, .. 3
이고, 조정 후의 변환 매트릭스 (H) 는:
H[4][4] =
{{64, 64, 64, 64},
{-83, -36, 36, 83},
{64, -64, -64, 64},
{-36, 83, -83, 36}}
이 된다.
실시예 2: 이 실시형태에서, H 에서의 행 i 는 A 에서의 행 i1 이다.
H[i][j] = A[i1][j]; i = 0, .. 3, j = 0, .. 3
i 와 i1 간의 관계는 함수 (G) 를 이용하여 정의될 수도 있다:
i1 = G(i).
실시예 3, 이 실시형태에 있어서, 변환 조정은 오직 변환 베이시스들의 서브세트에만 적용될 수 있다. 예를 들어, i 의 일부 값들에 대해, i = G(i) 이며, 예를 들어, 이들 변환 베이시스들은 A 및 H 양자에서 동일한 위치들에 있다.
도 8 은, 예를 들어, 양자화 이전에 잔차 블록을 변환하는데 사용된 변환 매트릭스를 적응적으로 조정하는 방법의 일 실시형태를 도시한다. 방법 (800) 은 블록 802 에서 시작한다. 블록 804 에서, 레지듀 블록 정보가 획득된다. 예를 들어, 레지듀는 상기 설명된 기술들 중 임의의 기술을 이용하여 결정될 수도 있다. 블록 806 에서, 잔차 블록을 인코딩하거나 디코딩하는데 사용된 변환 함수가 조정된다. 변환 함수는 본 명세서에서 설명된 기술들 중 임의의 기술에 따라 조정될 수도 있다. 예를 들어, 변환 함수는 수직 플립핑, 수평 플립핑, 스와핑 행 스와핑 베이시스 엘리먼트들 등에 의해 조정될 수도 있다. 변환은 또한 역변환을 포함할 수도 있다.
블록 808 에서, 조정된 변환된 레지듀 블록이 결정된다. 조정된 변환된 레지듀 블록은 조정된 변환 함수 및 레지듀 블록에 기초하여 결정된다. 예를 들어, 조정된 변환된 레지듀 블록은 변환 블록으로서 지칭될 수도 있다. 방법 (800) 은 블록 810 에서 종료한다.
방법 (800) 은 본 명세서에서 설명된 코딩 디바이스들 중 임의의 디바이스에 의해 구현될 수도 있다. 예를 들어, 일 실시형태에 있어서, 도 2 의 인코더 (20) 의 변환 프로세싱 유닛 (52) 및/또는 역변환 유닛 (60) 은 방법 (500) 을 수행하여 비디오 데이터를 인코딩하도록 구성된다. 다른 실시형태에 있어서, 도 3 의 디코더 (30) 의 역변환 유닛 (78) 은 방법 (800) 을 수행하여 인코딩된 비디오 비트스트림을 역변환하도록 구성된다.
다른 실시형태에 있어서, 변환 베이시스 조정은 제 1 변환 (예를 들어, 수평 변환), 제 2 변환 (예를 들어, 수직 변환), 또는 이들 양자에 적용될 수 있다. 수평 변환 및 수직 변환 (조정 전) 은 각각 서로의 트랜스포즈이거나 아닐 수 있다. 일 실시형태에 있어서, 수평 변환 및 수직 변환은 이산 사인 변환 (DST) 및 그 트랜스포즈된 버전이다. 다른 실시형태에 있어서, 수평 변환은 이산 코사인 변환 (DCT) 이고 수직 변환은 DST 일 수 있다.
다른 실시형태에 있어서, 변환 베이시스 조정은 사이드 정보, 또는 부가적인 비디오 정보에 기초하여 적응적으로 적용될 수 있다. 예를 들어, 변환 조정을 적용할지 여부 및/또는 변환 조정을 적용하는 방법 (예를 들어, F() 및/또는 G() 가 구현될 방법) 은, 예컨데, 부가적인 비디오 정보 (예를 들어, 사이드 정보) 에 기초하여 적응적으로 결정될 수도 있다.
사이드 정보는 CU 모드, CU 사이즈, TU 사이즈, 프레임 타입, 프레임 사이즈, 양자화 파라미터 (QP), 시간 계층 등을 포함하지만 이에 한정되지 않는다. 변환 선택은, CU 사이즈, TU 사이즈, 프레임 타입, 프레임 사이즈, QP, 시간 계층, 파싱된 레지듀 계수 정보 (예를 들어, 마지막 비-제로 계수의 포지션, 비-제로 계수들의 수, 계수들의 진폭 등) 와 같지만 이에 한정되지 않는 사이드 정보에 기초하여 적응적으로 결정될 수 있다.
예를 들어, 일 실시형태에 있어서, 변환 베이시스 조정은 오직 인트라 BL 모드에 대해서만 인에이블된다. 다른 실시형태에 있어서, 변환 베이시스 조정은, 오직 인핸스먼트 계층 QP 와 베이스 계층 QP 간의 차이가 매우 근접할 경우 (예를 들어, 그 차이가 임계치보다 작을 경우) 에만 인에이블된다. 예를 들어, 하나의 비-한정적인 실시형태에 있어서, QP 차이 임계치는 6 으로 설정된다. 인핸스먼트 계층 QP 와 베이스 계층 QP 간의 차이가 6 보다 작거나 같으면, 변환 베이시스 조정이 인에이블된다. 다른 QP 차이 임계치들이 사용될 수도 있다. 예를 들어, 일 실시형태에 있어서, QP 차이 임계치는 2 내지 10 의 범위에 있다. 다른 실시형태에 있어서, 변환 베이시스 조정은 오직 상기 조건들 양자가 만족될 경우에만 인에이블된다.
다른 실시형태에 있어서, 변환 베이시스 조정을 인에이블할지 여부 및/또는 그 방법은 또한, 대응하는 베이스 계층에서의 대응하는 블록 (예를 들어, 공동-위치된 블록), 예를 들어, Blk_BL 등에서의 정보에 기초할 수 있다. 예를 들어, 변환 베이시스 조정을 인에이블할지 여부 및/또는 그 방법은 픽셀 특성들, 예를 들어, Blk_BL 의 픽셀 특성들에 기초할 수 있다. 픽셀 특성들은, 예를 들어, 텍스처의 방향, 픽셀들의 진폭, 픽셀 값들의 평균, 픽셀 값들의 분산, (예를 들어, Blk_BL 의) 구배 방향/값 등일 수 있지만 이에 한정되지 않는다. 다른 특성들이 이들 특성들 중 임의의 하나 이상 대신에 또는 그에 부가하여 고려될 수 있다. 예를 들어, 변환 베이시스 조정을 인에이블할지 여부 및/또는 그 방법은 그 위치에 대한 베이스 계층에서 검출된 레지듀 구조, 베이스 계층과 예측 블록 간의 차이 등에 기초할 수 있다.
변환 베이시스 조정을 수행할지 여부 또는 그 방법의 선택은 또한, 코딩 모드 (예를 들어, Blk_BL 의 코딩 모드), 예를 들어, Blk_BL 이 인트라 또는 인터 또는 스킵 모드인지 여부, 인트라 예측 등에 기초할 수 있다. 변환 베이시스 조정을 수행할지 여부 또는 그 방법의 선택은 또한, Blk_BL 에 대한 조정 방법들 (온/오프 판정을 포함) 을 테스팅하는 것 및 Blk_BL 에서 최상의 성능 (예를 들어, 최상의 에너지 집중 특성) 을 제공하는 하나를 선택하는 것에 의해 도출될 수 있다.
일 실시형태에 있어서, 함수, 예를 들어, F(), G() 등 또는 베이시스 함수들에 적용할 스와핑은 현재 프레임에서 또는 이전 프레임들에서 수집된 통계치들에 의존할 수도 있다. 변환 베이시스 조정을 인에이블할지 여부 및/또는 그 방법은, 예를 들어, 각각의 최대 코딩 유닛 (LCU), 코딩 유닛 (CU), 예측 유닛 (PU) 또는 변환 유닛 (TU) 에 대해, 시퀀스 파라미터 세트 (SPS), 픽처 파라미터 세트 (PPS), 슬라이스 헤더, 또는 하위 레벨에서 인코더에 의해 시그널링될 수 있다. 시그널링은 적용된 스와핑, 또는 이전의 변환에 대한 차이일 수 있다. 부가적으로, 일부 실시형태들에 있어서, 변환 계수 코딩 스테이지에서 적용될 스캔은 베이시스 함수들에 의존할 수 있다.
예에 의존하여, 본 명세서에서 설명된 기술들의 임의의 특정 작동들 또는 이벤트들은 상이한 시퀀스로 수행될 수 있고, 전체적으로 부가되거나 병합되거나 또는 제거될 수도 있음 (예를 들어, 설명된 모든 작동들 또는 이벤트들이 그 기술들의 실시를 위해 필수적인 것은 아님) 이 인식되어야 한다. 더욱이, 특정 예들에 있어서, 작동들 또는 이벤트들은 순차적인 것보다는, 예를 들어, 다중-스레딩된 프로세싱, 인터럽트 프로세싱 또는 다중의 프로세서들을 통해 동시에 수행될 수도 있다.
하나 이상의 예들에 있어서, 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수도 있다. 소프트웨어로 구현된다면, 그 기능들은 하나 이상의 명령들 또는 코드로서 컴퓨터 판독가능 매체 상으로 저장 또는 전송되고 하드웨어 기반 프로세싱 유닛에 의해 실행될 수도 있다. 컴퓨터 판독가능 매체는, 예를 들어, 통신 프로토콜에 따라 일 장소로부터 다른 장소로의 컴퓨터 프로그램의 전송을 용이하게 하는 임의의 매체를 포함하는 데이터 저장 매체 또는 통신 매체와 같은 유형의 매체에 대응하는 컴퓨터 판독가능 저장 매체를 포함할 수도 있다. 이러한 방식으로, 컴퓨터 판독가능 매체는 일반적으로 (1) 비-일시적인 유형의 컴퓨터 판독가능 저장 매체 또는 (2) 신호 또는 캐리어파와 같은 통신 매체에 대응할 수도 있다. 데이터 저장 매체는 본 개시에서 설명된 기술들의 구현을 위한 명령들, 코드 및/또는 데이터 구조들을 취출하기 위해 하나 이상의 컴퓨터들 또는 하나 이상의 프로세서들에 의해 액세스될 수 있는 임의의 가용 매체일 수도 있다. 컴퓨터 프로그램 제품이 컴퓨터 판독가능 매체를 포함할 수도 있다.
한정이 아닌 예로서, 그러한 컴퓨터 판독가능 저장 매체는 RAM, ROM, EEPROM, CD-ROM 또는 다른 광학 디스크 저장부, 자기 디스크 저장부 또는 다른 자기 저장 디바이스들, 플래시 메모리, 또는 원하는 프로그램 코드를 명령들 또는 데이터 구조들의 형태로 저장하는데 이용될 수 있고 컴퓨터에 의해 액세스될 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 임의의 커넥션이 컴퓨터 판독가능 매체로 적절히 명명된다. 예를 들어, 동축 케이블, 광섬유 케이블, 꼬임쌍선, 디지털 가입자 라인 (DSL), 또는 적외선, 무선, 및 마이크로파와 같은 무선 기술들을 이용하여 웹사이트, 서버, 또는 다른 원격 소스로부터 명령들이 송신된다면, 동축 케이블, 광섬유 케이블, 꼬임쌍선, DSL, 또는 적외선, 무선, 및 마이크로파와 같은 무선 기술들은 매체의 정의에 포함된다. 하지만, 컴퓨터 판독가능 저장 매체 및 데이터 저장 매체는 커넥션들, 캐리어파들, 신호들, 또는 다른 일시적 매체들을 포함하지 않지만 대신 비-일시적인 유형의 저장 매체들로 지향됨을 이해해야 한다. 본 명세서에서 사용된 바와 같은 디스크 (disk) 및 디스크 (disc) 는 컴팩트 디스크 (CD), 레이저 디스크, 광학 디스크, 디지털 다기능 디스크 (DVD), 플로피 디스크 및 블루레이 디스크를 포함하며, 여기서, 디스크 (disk) 는 통상적으로 데이터를 자기적으로 재생하지만 디스크 (disc) 는 레이저들을 이용하여 데이터를 광학적으로 재생한다. 상기의 조합들이 또한, 컴퓨터 판독가능 매체의 범위 내에 포함되어야 한다.
명령들은 하나 이상의 디지털 신호 프로세서들 (DSP들), 범용 마이크로프로세서들, 주문형 집적회로들 (ASIC들), 필드 프로그래밍가능 로직 어레이들 (FPGA들), 또는 다른 등가의 집적된 또는 별도의 로직 회로와 같은 하나 이상의 프로세서들에 의해 실행될 수도 있다. 이에 따라, 본 명세서에서 사용되는 바와 같은 용어 "프로세서" 는 본 명세서에서 설명된 기술들의 구현에 적절한 전술한 구조 또는 임의의 다른 구조 중 임의의 구조를 지칭할 수도 있다. 부가적으로, 일부 양태들에 있어서, 본 명세서에서 설명된 기능은 인코딩 및 디코딩을 위해 구성되고 결합된 코덱에서 통합된 전용 하드웨어 및/또는 소프트웨어 모듈들 내에 제공될 수도 있다. 또한, 그 기술들은 하나 이상의 회로들 또는 로직 엘리먼트들에서 완전히 구현될 수 있다.
본 개시의 기술들은 무선 핸드셋, 집적 회로 (IC) 또는 IC들의 세트 (예를 들어, 칩 세트) 를 포함하여 매우 다양한 디바이스들 또는 장치들에서 구현될 수도 있다. 다양한 컴포넌트들, 모듈들 또는 유닛들이 개시된 기술들을 수행하도록 구성된 디바이스들의 기능적 양태들을 강조하기 위해 본 개시에서 설명되지만, 반드시 상이한 하드웨어 유닛들에 의한 실현을 요구하지는 않는다. 오히려, 상기 설명된 바와 같이, 다양한 유닛들은 적절한 소프트웨어 및/또는 펌웨어와 함께 상기 설명된 바와 같은 하나 이상의 프로세서들을 포함하여 코덱 하드웨어 유닛으로 결합되거나 상호작용하는 하드웨어 유닛들의 집합에 의해 제공될 수도 있다.
다양한 예들이 설명되었다. 이들 및 다른 예들은 다음의 청구항들의 범위 내에 있다.

Claims (41)

  1. 비디오 정보를 코딩하도록 구성된 장치로서,
    레퍼런스 계층 및 대응하는 인핸스먼트 계층과 연관된 비디오 정보를 저장하도록 구성된 메모리 유닛; 및
    상기 메모리 유닛과 통신하는 프로세서를 포함하고,
    상기 프로세서는,
    상기 레퍼런스 계층 및 상기 인핸스먼트 계층과 연관된 비디오 정보에 적어도 부분적으로 기초하여 레지듀 (residue) 블록 정보를 획득하고;
    상기 비디오 정보와 연관된 변환 함수에 기초하여 조정된 변환 함수를 결정하며; 그리고
    상기 조정된 변환 함수 및 상기 레지듀 블록 정보에 기초하여 변환 블록을 결정하도록
    구성되는, 비디오 정보를 코딩하도록 구성된 장치.
  2. 제 1 항에 있어서,
    상기 변환 함수는 제 1 변환 매트릭스를 포함하고, 상기 제 1 변환 매트릭스는 하나 이상의 행들을 포함하고, 각각의 행은 하나 이상의 변환 베이시스들 및 제 2 변환 매트릭스를 포함하고, 상기 제 2 변환 매트릭스는 하나 이상의 행들을 포함하고, 각각의 행은 하나 이상의 변환 베이시스들을 포함하며,
    상기 프로세서는 추가로, 상기 제 1 변환 매트릭스 및 상기 제 2 변환 매트릭스 중 하나 또는 그들 양자에 기초하여 상기 조정된 변환 함수를 결정하도록 구성되는, 비디오 정보를 코딩하도록 구성된 장치.
  3. 제 2 항에 있어서,
    상기 프로세서는 상기 제 1 변환 매트릭스의 적어도 하나의 행에서 상기 변환 베이시스들의 적어도 일부의 순서를 반전시킴으로써 상기 조정된 변환 함수를 결정하도록 구성되는, 비디오 정보를 코딩하도록 구성된 장치.
  4. 제 2 항에 있어서,
    상기 프로세서는 상기 제 1 변환 매트릭스의 상기 행들의 순서를 반전시킴으로써 상기 조정된 변환 함수를 결정하도록 구성되는, 비디오 정보를 코딩하도록 구성된 장치.
  5. 제 2 항에 있어서,
    상기 제 1 변환 매트릭스, 상기 제 2 변환 매트릭스, 또는 이들 양자는 이산 코사인 변환, 이산 사인 변환, 하다마드 변환, 및 Haar 변환을 포함하는 그룹으로부터 선택된 변환에 대응하는, 비디오 정보를 코딩하도록 구성된 장치.
  6. 제 2 항에 있어서,
    상기 제 1 변환 매트릭스는 상기 제 2 변환 매트릭스의 트랜스포즈인, 비디오 정보를 코딩하도록 구성된 장치.
  7. 제 1 항에 있어서,
    상기 프로세서는 추가로, 상기 비디오 정보에 기초하여 상기 조정된 변환 함수를 결정하도록 구성되는, 비디오 정보를 코딩하도록 구성된 장치.
  8. 제 7 항에 있어서,
    상기 비디오 정보는 코딩 유닛 (CU) 모드, CU 사이즈, 변환 유닛 (TU) 사이즈, 프레임 타입, 프레임 사이즈, QP, 시간 계층, 및 파싱된 레지듀 계수 정보 중 하나 이상을 포함하는 그룹으로부터 선택되는, 비디오 정보를 코딩하도록 구성된 장치.
  9. 제 8 항에 있어서,
    상기 파싱된 레지듀 계수 정보는 마지막 비-제로 계수의 포지션, 비-제로 계수들의 수, 및 하나 이상의 계수들의 진폭 중 하나 이상을 포함하는 그룹으로부터 선택되는, 비디오 정보를 코딩하도록 구성된 장치.
  10. 제 1 항에 있어서,
    상기 프로세서는 (a) 상기 비디오 정보가 미리결정된 코딩 모드에 대응할 경우에만; (b) 상기 인핸스먼트 계층의 QP 와 상기 레퍼런스 계층의 QP 간의 차이가 미리결정된 임계치보다 작을 경우에만; 또는 상기 (a) 및 (b) 양자의 경우에만 상기 조정된 변환 함수를 결정하도록 구성되는, 비디오 정보를 코딩하도록 구성된 장치.
  11. 제 1 항에 있어서,
    상기 프로세서는 추가로, 상기 변환 블록을 이용하여 상기 비디오 정보를 인코딩하도록 구성되는, 비디오 정보를 코딩하도록 구성된 장치.
  12. 제 1 항에 있어서,
    상기 프로세서는 추가로, 상기 변환 블록을 이용하여 상기 비디오 정보를 디코딩하도록 구성되는, 비디오 정보를 코딩하도록 구성된 장치.
  13. 제 1 항에 있어서,
    상기 프로세서를 포함하는 디바이스를 더 포함하고, 상기 디바이스는 데스크탑 컴퓨터, 노트북 컴퓨터, 랩탑 컴퓨터, 태블릿 컴퓨터, 셋탑 박스, 전화기 핸드셋, 스마트 폰, 스마트 패드, 텔레비전, 카메라, 디스플레이 디바이스, 디지털 미디어 플레이어, 비디오 게이밍 콘솔, 또는 비디오 스트리밍 디바이스 중 하나 이상을 포함한 그룹으로부터 선택되는, 비디오 정보를 코딩하도록 구성된 장치.
  14. 비디오 정보를 디코딩하는 방법으로서,
    레퍼런스 계층 및 대응하는 인핸스먼트 계층과 연관된 비디오 정보를 저장하는 단계;
    상기 레퍼런스 계층 및 상기 인핸스먼트 계층과 연관된 비디오 정보에 적어도 부분적으로 기초하여 레지듀 블록 정보를 획득하는 단계;
    상기 비디오 정보와 연관된 변환 함수에 기초하여 조정된 변환 함수를 결정하는 단계;
    상기 조정된 변환 함수 및 상기 레지듀 블록 정보에 기초하여 변환 블록을 결정하는 단계; 및
    상기 변환 블록을 이용하여 상기 비디오 정보를 디코딩하는 단계를 포함하는, 비디오 정보를 디코딩하는 방법.
  15. 제 14 항에 있어서,
    상기 변환 함수는 제 1 변환 매트릭스를 포함하고, 상기 제 1 변환 매트릭스는 하나 이상의 행들을 포함하고, 각각의 행은 하나 이상의 변환 베이시스들 및 제 2 변환 매트릭스를 포함하고, 상기 제 2 변환 매트릭스는 하나 이상의 행들을 포함하고, 각각의 행은 하나 이상의 변환 베이시스들을 포함하며, 상기 제 1 변환 매트릭스 및 상기 제 2 변환 매트릭스 중 하나 또는 그들 양자에 기초하여 상기 조정된 변환 함수를 결정하는 것을 포함하는, 비디오 정보를 디코딩하는 방법.
  16. 제 15 항에 있어서,
    상기 제 1 변환 매트릭스의 적어도 하나의 행에서 상기 변환 베이시스들의 적어도 일부의 순서를 반전시킴으로써 상기 조정된 변환 함수를 결정하는 단계를 더 포함하는, 비디오 정보를 디코딩하는 방법.
  17. 제 15 항에 있어서,
    상기 제 1 변환 매트릭스의 상기 행들의 순서를 반전시킴으로써 상기 조정된 변환 함수를 결정하는 단계를 더 포함하는, 비디오 정보를 디코딩하는 방법.
  18. 제 15 항에 있어서,
    상기 제 1 변환 매트릭스, 상기 제 2 변환 매트릭스, 또는 이들 양자는 이산 코사인 변환, 이산 사인 변환, 하다마드 변환, 및 Haar 변환을 포함하는 그룹으로부터 선택된 변환에 대응하는, 비디오 정보를 디코딩하는 방법.
  19. 제 15 항에 있어서,
    상기 제 1 변환 매트릭스는 상기 제 2 변환 매트릭스의 트랜스포즈인, 비디오 정보를 디코딩하는 방법.
  20. 제 14 항에 있어서,
    상기 조정된 변환 함수를 결정하는 단계는 상기 비디오 정보에 기초하는, 비디오 정보를 디코딩하는 방법.
  21. 제 20 항에 있어서,
    상기 비디오 정보는 코딩 유닛 (CU) 모드, CU 사이즈, 변환 유닛 (TU) 사이즈, 프레임 타입, 프레임 사이즈, QP, 시간 계층, 및 파싱된 레지듀 계수 정보 중 하나 이상을 포함하는 그룹으로부터 선택되는, 비디오 정보를 디코딩하는 방법.
  22. 제 21 항에 있어서,
    상기 파싱된 레지듀 계수 정보는 마지막 비-제로 계수의 포지션, 비-제로 계수들의 수, 및 하나 이상의 계수들의 진폭 중 하나 이상을 포함하는 그룹으로부터 선택되는, 비디오 정보를 디코딩하는 방법.
  23. 제 14 항에 있어서,
    상기 조정된 변환 함수를 결정하는 단계는 (a) 상기 비디오 정보가 미리결정된 코딩 모드에 대응할 경우에만; (b) 상기 인핸스먼트 계층의 QP 와 상기 레퍼런스 계층의 QP 간의 차이가 미리결정된 임계치보다 작을 경우에만; 또는 상기 (a) 및 (b) 양자의 경우에만 결정되는, 비디오 정보를 디코딩하는 방법.
  24. 비디오 정보를 인코딩하는 방법으로서,
    레퍼런스 계층 및 대응하는 인핸스먼트 계층과 연관된 비디오 정보를 저장하는 단계;
    상기 레퍼런스 계층 및 상기 인핸스먼트 계층과 연관된 비디오 정보에 적어도 부분적으로 기초하여 레지듀 블록 정보를 획득하는 단계;
    상기 비디오 정보와 연관된 변환 함수에 기초하여 조정된 변환 함수를 결정하는 단계;
    상기 조정된 변환 함수 및 상기 레지듀 블록 정보에 기초하여 변환 블록을 결정하는 단계; 및
    상기 변환 블록을 이용하여 상기 비디오 정보를 인코딩하는 단계를 포함하는, 비디오 정보를 인코딩하는 방법.
  25. 제 24 항에 있어서,
    상기 변환 함수는 제 1 변환 매트릭스를 포함하고, 상기 제 1 변환 매트릭스는 하나 이상의 행들을 포함하고, 각각의 행은 하나 이상의 변환 베이시스들 및 제 2 변환 매트릭스를 포함하고, 상기 제 2 변환 매트릭스는 하나 이상의 행들을 포함하고, 각각의 행은 하나 이상의 변환 베이시스들을 포함하며, 상기 제 1 변환 매트릭스 및 상기 제 2 변환 매트릭스 중 하나 또는 그들 양자에 기초하여 상기 조정된 변환 함수를 결정하는 것을 포함하는, 비디오 정보를 인코딩하는 방법.
  26. 제 25 항에 있어서,
    상기 제 1 변환 매트릭스의 적어도 하나의 행에서 상기 변환 베이시스들의 적어도 일부의 순서를 반전시킴으로써 상기 조정된 변환 함수를 결정하는 단계를 더 포함하는, 비디오 정보를 인코딩하는 방법.
  27. 제 25 항에 있어서,
    상기 제 1 변환 매트릭스의 상기 행들의 순서를 반전시킴으로써 상기 조정된 변환 함수를 결정하는 단계를 더 포함하는, 비디오 정보를 인코딩하는 방법.
  28. 제 25 항에 있어서,
    상기 제 1 변환 매트릭스, 상기 제 2 변환 매트릭스, 또는 이들 양자는 이산 코사인 변환, 이산 사인 변환, 하다마드 변환, 및 Haar 변환을 포함하는 그룹으로부터 선택된 변환에 대응하는, 비디오 정보를 인코딩하는 방법.
  29. 제 25 항에 있어서,
    상기 제 1 변환 매트릭스는 상기 제 2 변환 매트릭스의 트랜스포즈인, 비디오 정보를 인코딩하는 방법.
  30. 제 24 항에 있어서,
    상기 조정된 변환 함수를 결정하는 단계는 상기 비디오 정보에 기초하는, 비디오 정보를 인코딩하는 방법.
  31. 제 30 항에 있어서,
    상기 비디오 정보는 코딩 유닛 (CU) 모드, CU 사이즈, 변환 유닛 (TU) 사이즈, 프레임 타입, 프레임 사이즈, QP, 시간 계층, 및 파싱된 레지듀 계수 정보 중 하나 이상을 포함하는 그룹으로부터 선택되는, 비디오 정보를 인코딩하는 방법.
  32. 제 31 항에 있어서,
    상기 파싱된 레지듀 계수 정보는 마지막 비-제로 계수의 포지션, 비-제로 계수들의 수, 및 하나 이상의 계수들의 진폭 중 하나 이상을 포함하는 그룹으로부터 선택되는, 비디오 정보를 인코딩하는 방법.
  33. 제 24 항에 있어서,
    상기 조정된 변환 함수를 결정하는 단계는 (a) 상기 비디오 정보가 미리결정된 코딩 모드에 대응할 경우에만; (b) 상기 인핸스먼트 계층의 QP 와 상기 레퍼런스 계층의 QP 간의 차이가 미리결정된 임계치보다 작을 경우에만; 또는 상기 (a) 및 (b) 양자의 경우에만 결정되는, 비디오 정보를 인코딩하는 방법.
  34. 비디오 정보를 코딩하기 위한 장치로서,
    레퍼런스 계층 및 대응하는 인핸스먼트 계층과 연관된 비디오 정보를 저장하는 수단;
    상기 레퍼런스 계층 및 상기 인핸스먼트 계층과 연관된 비디오 정보에 적어도 부분적으로 기초하여 레지듀 블록 정보를 획득하는 수단;
    상기 비디오 정보와 연관된 변환 함수에 기초하여 조정된 변환 함수를 결정하는 수단; 및
    상기 조정된 변환 함수 및 상기 레지듀 블록 정보에 기초하여 변환 블록을 결정하는 수단을 포함하는, 비디오 정보를 코딩하기 위한 장치.
  35. 제 34 항에 있어서,
    상기 조정된 변환 함수를 결정하는 수단은 상기 비디오 정보에 기초하여 상기 조정된 변환 함수를 결정하도록 구성되는, 비디오 정보를 코딩하기 위한 장치.
  36. 제 35 항에 있어서,
    상기 비디오 정보는 코딩 유닛 (CU) 모드, CU 사이즈, 변환 유닛 (TU) 사이즈, 프레임 타입, 프레임 사이즈, QP, 시간 계층, 및 파싱된 레지듀 계수 정보 중 하나 이상을 포함하는 그룹으로부터 선택되는, 비디오 정보를 코딩하기 위한 장치.
  37. 제 36 항에 있어서,
    상기 파싱된 레지듀 계수 정보는 마지막 비-제로 계수의 포지션, 비-제로 계수들의 수, 및 하나 이상의 계수들의 진폭 중 하나 이상을 포함하는 그룹으로부터 선택되는, 비디오 정보를 코딩하기 위한 장치.
  38. 컴퓨터 실행가능 명령들을 갖는 컴퓨터 판독가능 매체로서,
    상기 컴퓨터 실행가능 명령들은, 컴퓨팅 디바이스에 의해 실행될 경우, 상기 컴퓨팅 디바이스로 하여금,
    레퍼런스 계층 및 대응하는 인핸스먼트 계층과 연관된 비디오 정보를 저장하게 하고;
    상기 레퍼런스 계층 및 상기 인핸스먼트 계층과 연관된 비디오 정보에 적어도 부분적으로 기초하여 레지듀 블록 정보를 획득하게 하고;
    상기 비디오 정보와 연관된 변환 함수에 기초하여 조정된 변환 함수를 결정하게 하며; 그리고
    상기 조정된 변환 함수 및 상기 레지듀 블록 정보에 기초하여 변환 블록을 결정하게 하는, 컴퓨터 판독가능 매체.
  39. 제 38 항에 있어서,
    상기 컴퓨터 실행가능 명령들은 상기 컴퓨팅 디바이스로 하여금 상기 비디오 정보에 기초하여 상기 조정된 변환 함수를 결정하게 하는, 컴퓨터 판독가능 매체.
  40. 제 39 항에 있어서,
    상기 비디오 정보는 코딩 유닛 (CU) 모드, CU 사이즈, 변환 유닛 (TU) 사이즈, 프레임 타입, 프레임 사이즈, QP, 시간 계층, 및 파싱된 레지듀 계수 정보 중 하나 이상을 포함하는 그룹으로부터 선택되는, 컴퓨터 판독가능 매체.
  41. 제 40 항에 있어서,
    상기 파싱된 레지듀 계수 정보는 마지막 비-제로 계수의 포지션, 비-제로 계수들의 수, 및 하나 이상의 계수들의 진폭 중 하나 이상을 포함하는 그룹으로부터 선택되는, 컴퓨터 판독가능 매체.
KR1020157008569A 2012-09-04 2013-08-30 스케일러블 비디오 코딩에서의 변환 베이시스 조정 KR20150052247A (ko)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201261696713P 2012-09-04 2012-09-04
US61/696,713 2012-09-04
US14/014,016 2013-08-29
US14/014,016 US10194158B2 (en) 2012-09-04 2013-08-29 Transform basis adjustment in scalable video coding
PCT/US2013/057618 WO2014039398A1 (en) 2012-09-04 2013-08-30 Transform basis adjustment in scalable video coding

Publications (1)

Publication Number Publication Date
KR20150052247A true KR20150052247A (ko) 2015-05-13

Family

ID=50187592

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020157008569A KR20150052247A (ko) 2012-09-04 2013-08-30 스케일러블 비디오 코딩에서의 변환 베이시스 조정

Country Status (6)

Country Link
US (1) US10194158B2 (ko)
EP (1) EP2893703B1 (ko)
JP (1) JP6293756B2 (ko)
KR (1) KR20150052247A (ko)
CN (1) CN104604224B (ko)
WO (1) WO2014039398A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017138791A1 (ko) * 2016-02-12 2017-08-17 삼성전자 주식회사 영상 부호화 방법 및 장치, 영상 복호화 방법 및 장치

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10531123B2 (en) * 2015-03-06 2020-01-07 Korea Advanced Institute Of Science And Technology Image encoding and decoding method based on low-complexity transformation, and apparatus using same
EP3419291A4 (en) * 2016-02-17 2020-01-29 Nippon Hoso Kyokai CODING DEVICE, DECODING DEVICE, AND PROGRAM
CN106168889B (zh) * 2016-06-21 2020-11-03 维沃移动通信有限公司 一种片源编码方法以及电子设备
KR20200092315A (ko) * 2017-11-24 2020-08-03 소니 주식회사 화상 처리 장치 및 방법
US11647214B2 (en) * 2018-03-30 2023-05-09 Qualcomm Incorporated Multiple transforms adjustment stages for video coding
PL3764649T3 (pl) * 2018-04-01 2024-01-22 Lg Electronics Inc. Przetwarzanie sygnału wideo z wykorzystaniem skróconego przekształcenia wtórnego
EP3854081A4 (en) * 2018-09-20 2022-07-06 Nokia Technologies Oy METHOD AND APPARATUS FOR CODING AND DECODING DIGITAL IMAGE/VIDEO MATERIAL
US11871052B1 (en) * 2018-09-27 2024-01-09 Apple Inc. Multi-band rate control
EP3874746A1 (en) 2018-11-01 2021-09-08 InterDigital VC Holdings, Inc. Video encoding and decoding using multiple transform selection
US10904563B2 (en) * 2019-01-02 2021-01-26 Tencent America LLC Method and apparatus for improved zero out transform
CN109788291A (zh) * 2019-02-12 2019-05-21 北京大学 一种数字视频变换方法、装置、设备及存储介质
CN110392265B (zh) * 2019-08-27 2022-03-25 广州虎牙科技有限公司 帧间运动估计方法、装置、电子设备及可读存储介质
CN111260022B (zh) * 2019-11-22 2023-09-05 中国电子科技集团公司第五十二研究所 一种卷积神经网络全int8定点量化的方法
CN111950716A (zh) * 2020-08-25 2020-11-17 云知声智能科技股份有限公司 一种优化int8的量化方法及系统
CN116156170B (zh) * 2023-04-24 2024-04-16 北京中星微人工智能芯片技术有限公司 数据流的发送方法、装置、电子设备和存储介质

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2781535B2 (ja) 1994-07-13 1998-07-30 松下電器産業株式会社 デジタル符号化装置及びデジタル符号復号化装置
KR100186915B1 (ko) 1994-07-13 1999-05-01 모리시다 요이치 디지털 부호화 장치 및 디지털 부호 복호화 장치
US6134270A (en) * 1997-06-13 2000-10-17 Sun Microsystems, Inc. Scaled forward and inverse discrete cosine transform and video compression/decompression systems employing the same
US7620252B2 (en) * 2005-04-22 2009-11-17 Hewlett-Packard Development Company, L.P. System and method for compressing an image
US8619860B2 (en) 2005-05-03 2013-12-31 Qualcomm Incorporated System and method for scalable encoding and decoding of multimedia data using multiple layers
US8358704B2 (en) * 2006-04-04 2013-01-22 Qualcomm Incorporated Frame level multimedia decoding with frame information table
JP5232796B2 (ja) 2006-12-14 2013-07-10 トムソン ライセンシング 適応エンハンスメントレイヤ予測を使用したビット深度スケーラブルなビデオデータを符号化及び／又は復号化する方法及び装置
BRPI0720806B1 (pt) 2007-01-18 2023-03-28 Fraunhofer-Gesellschaft Zur Forderung Der Angewandten Forschung E.V. Corrente de dados de vídeo de qualidade escalonável
BRPI0813904B1 (pt) 2007-06-29 2020-12-08 Velos Media International Limited dispositivo de codificação de imagem para codificar imagens de entrada e dispositivo de decodificação de imagem para decodificar dados de imagens codificados
US8175158B2 (en) 2008-01-04 2012-05-08 Sharp Laboratories Of America, Inc. Methods and systems for inter-layer image prediction parameter determination
CN101466040B (zh) 2009-01-09 2010-12-01 北京大学 一种用于视频编码模式决策的码率估计方法
KR101712097B1 (ko) * 2009-08-19 2017-03-03 삼성전자 주식회사 유연한 직교 변환에 기초한 영상 부호화, 복호화 방법 및 장치
KR101878147B1 (ko) * 2010-01-12 2018-07-13 엘지전자 주식회사 비디오 신호의 처리 방법 및 장치
BR122020016581B1 (pt) * 2010-09-28 2022-03-03 Samsung Electronics Co., Ltd. Método de decodificação de vídeo, e método de codificação de vídeo
WO2012096164A1 (ja) * 2011-01-12 2012-07-19 パナソニック株式会社 画像符号化方法、画像復号方法、画像符号化装置および画像復号装置
WO2012096194A1 (ja) 2011-01-14 2012-07-19 パナソニック株式会社 画像符号化方法、画像符号化装置、画像復号化方法、画像復号化装置および画像符号化復号化装置
US9860528B2 (en) 2011-06-10 2018-01-02 Hfi Innovation Inc. Method and apparatus of scalable video coding
AU2012200319B2 (en) 2012-01-19 2015-11-26 Canon Kabushiki Kaisha Method, apparatus and system for encoding and decoding the significance map for residual coefficients of a transform unit
US10257520B2 (en) * 2012-06-26 2019-04-09 Velos Media, Llc Modified coding for transform skipping

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017138791A1 (ko) * 2016-02-12 2017-08-17 삼성전자 주식회사 영상 부호화 방법 및 장치, 영상 복호화 방법 및 장치
US10735731B2 (en) 2016-02-12 2020-08-04 Samsung Electronics Co., Ltd. Image encoding method and apparatus, and image decoding method and apparatus
US11323709B2 (en) 2016-02-12 2022-05-03 Samsung Electronics Co.. Ltd. Image encoding method and apparatus, and image decoding method and apparatus
US11758138B2 (en) 2016-02-12 2023-09-12 Samsung Electronics Co., Ltd. Image encoding method and apparatus, and image decoding method and apparatus

Also Published As

Publication number Publication date
WO2014039398A1 (en) 2014-03-13
JP2015530830A (ja) 2015-10-15
JP6293756B2 (ja) 2018-03-14
US10194158B2 (en) 2019-01-29
EP2893703B1 (en) 2019-05-15
EP2893703A1 (en) 2015-07-15
US20140064361A1 (en) 2014-03-06
CN104604224B (zh) 2019-05-10
CN104604224A (zh) 2015-05-06

Similar Documents

Publication Publication Date Title
TWI766844B (zh) 針對視訊寫碼使用與位置相關之預測組合之改良視訊幀內預測
KR101821067B1 (ko) 멀티-레이어 비디오 코딩을 위한 레이어간 예측 시그널링에 대한 최적화들
EP2893703B1 (en) Transform basis adjustment in scalable video coding
KR102182441B1 (ko) 비디오 코딩에서 ｈｅｖｃ 확장들을 위한 다중 계층들의 저복잡도 지원
KR102276777B1 (ko) 상이한 종횡비를 갖는 공간 스케일러빌리티를 위한 계층간 참조 화상 구성
EP2873233B1 (en) Generalized residual prediction for scalable video coding and 3d video coding
EP2891310A2 (en) Intra prediction improvements for scalable video coding
WO2014039802A2 (en) Weighted prediction mode for scalable video coding
EP2870760A1 (en) Intra mode extensions for difference domain intra prediction
EP2870756A1 (en) Adaptive difference domain spatial and temporal reference reconstruction and smoothing
US20140301457A1 (en) Multiple base layer reference pictures for shvc
WO2013184810A1 (en) Bi-layer texture prediction for video coding
WO2013142558A1 (en) Inter layer texture prediction for video coding
WO2014025698A1 (en) Weighted difference prediction under the framework of generalized residual prediction
WO2014028530A1 (en) Enhancement layer scan order derivation for scalable video coding

Legal Events

Date Code Title Description
WITN Withdrawal due to no request for examination