KR20150122709A - 3d 비디오 코딩에서의 이웃하는 블록 디스패리티 벡터 도출 - Google Patents

3d 비디오 코딩에서의 이웃하는 블록 디스패리티 벡터 도출 Download PDF

Info

Publication number
KR20150122709A
KR20150122709A KR1020157026001A KR20157026001A KR20150122709A KR 20150122709 A KR20150122709 A KR 20150122709A KR 1020157026001 A KR1020157026001 A KR 1020157026001A KR 20157026001 A KR20157026001 A KR 20157026001A KR 20150122709 A KR20150122709 A KR 20150122709A
Authority
KR
South Korea
Prior art keywords
block
video
disparity
view
video data
Prior art date
Application number
KR1020157026001A
Other languages
English (en)
Other versions
KR101821469B1 (ko
Inventor
리 장
잉 천
제원 강
Original Assignee
퀄컴 인코포레이티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 퀄컴 인코포레이티드 filed Critical 퀄컴 인코포레이티드
Publication of KR20150122709A publication Critical patent/KR20150122709A/ko
Application granted granted Critical
Publication of KR101821469B1 publication Critical patent/KR101821469B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding
    • H04N19/52Processing of motion vectors by encoding by predictive encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/53Multi-resolution motion estimation; Hierarchical motion estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/56Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/577Motion compensation with bidirectional frame interpolation, i.e. using B-pictures

Abstract

개시물의 하나의 예에서, 비디오 데이터를 코딩하는 방법은 텍스처-우선 코딩을 이용하여 비디오 데이터를 코딩하는 단계, 복수의 이웃하는 블록들을 이용하여 비디오 데이터의 블록에 대한 NBDV 도출 프로세스를 수행하는 단계를 포함한다. NBDV 도출 프로세스는, 블록-기반 뷰 합성 예측 (BVSP) 모드로 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 이용가능한 디스패리티 모션으로서 지정하는 단계를 포함한다.

Description

3D 비디오 코딩에서의 이웃하는 블록 디스패리티 벡터 도출{NEIGHBORING BLOCK DISPARITY VECTOR DERIVATION IN 3D VIDEO CODING}
이 출원은 2013 년 2 월 26 일자로 출원된 미국 가출원 제 61/769,716 호, 2013 년 2 월 27 일자로 출원된 미국 가출원 제 61/770,263 호, 2013 년 2 월 27 일자로 출원된 미국 가출원 제 61/770,268 호, 2013 년 3 월 4 일자로 출원된 미국 가출원 제 61/772,321 호, 2013 년 3 월 19 일자로 출원된 미국 가출원 제 61/803,384 호, 및 2013 년 4 월 24 일자로 출원된 미국 가출원 제 61/815,656 호의 이익을 주장하고, 이들 각각의 내용들은 참조를 위해 본원에 편입된다.
이 개시물은 비디오 인코딩 및 디코딩에 관한 것이다.
디지털 비디오 기능들은, 디지털 텔레비전들, 디지털 다이렉트 브로드캐스트 시스템 (digital direct broadcast system) 들, 무선 브로드캐스트 시스템들, 개인 정보 단말 (personal digital assistant; PDA) 들, 랩톱 또는 데스크톱 컴퓨터들, 디지털 카메라들, 디지털 레코딩 디바이스들, 디지털 미디어 플레이어들, 비디오 게임용 디바이스들, 비디오 게임 콘솔들, 셀룰러 또는 위성 무선 전화들, 화상 원격회의 디바이스들 등을 포함하는 광범위한 디바이스들 내로 편입될 수 있다. 디지털 비디오 디바이스들은 디지털 비디오 정보를 더욱 효율적으로 송신, 수신 및 저장하기 위하여, MPEG-2, MPEG-4, ITU-T H.263, ITU-T H.264/MPEG-4, Part 10, 진보된 비디오 코딩 (Advanced Video Coding; AVC) 에 의해 정의된 표준들, 현재 개발 중에 있는 고효율 비디오 코딩 (High Efficiency Video Coding; HEVC) 표준, 및 이러한 표준들의 확장들에서 설명된 것들과 같은 비디오 압축 기법들을 구현한다.
H.264/AVC 를 포함하는 상기한 표준들 중의 일부의 확장들은 스테레오 또는 3 차원 ("3D") 비디오를 생성하기 위하여 멀티뷰 비디오 코딩을 위한 기법들을 제공한다. 특히, 멀티뷰 코딩을 위한 기법들은 (H.264/AVC 에 대한 스케일러블 확장인) 스케일러블 비디오 코딩 (scalable video coding; SVC) 표준, 및 (H.264/AVC 에 대한 멀티뷰 확장이 되는) 멀티-뷰 비디오 코딩 (multi-view video coding; MVC) 과 함께 AVC 에서 이용하기 위하여 제안되었다.
전형적으로, 스테레오 비디오는 2 개의 뷰들, 예컨대, 좌측 뷰 및 우측 뷰를 이용하여 달성된다. 3 차원 비디오 효과를 달성하기 위하여, 좌측 뷰의 픽처는 우측 뷰의 픽처와 실질적으로 동시에 디스플레이될 수 있다. 예를 들어, 사용자는 우측 뷰로부터 좌측 뷰를 필터링하는 편광 수동형 안경을 착용할 수도 있다. 대안적으로, 2 개의 뷰들의 픽처들은 급속히 연속적으로 보여질 수도 있고, 사용자는 동일한 주파수에서, 그러나 위상에 있어서 90 도 시프트 상태에서 좌안 및 우안을 급속하게 셔터 동작을 하는 능동형 안경을 착용할 수도 있다.
일반적으로, 이 개시물은 3D 비디오 코딩을 위한 기법들을 설명한다. 특히, 이 개시물은 3D 비디오 코딩에서의 이웃하는 블록 디스패리티 벡터 (neighboring block disparity vector; NBDV) 및 블록-기반 뷰 합성 예측 (block-based view synthesis prediction; BVSP) 에 관련된다.
개시물의 하나의 예에서, 비디오 데이터를 코딩하는 방법은, 텍스처-우선 코딩을 이용하여 비디오 데이터를 코딩하는 단계, 및 복수의 이웃하는 블록들을 이용하여 비디오 데이터의 블록에 대한 NBDV 도출 프로세스를 수행하는 단계를 포함하고, NBDV 도출 프로세스는 디스패리티 벡터를 도출하고, NBDV 프로세스를 수행하는 단계는, 블록-기반 뷰 합성 예측 (block-based view synthesis prediction; BVSP) 모드로 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 단계, 및 인터-뷰 예측 모드를 이용하여 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 단계를 포함한다.
개시물의 또 다른 예에서, 비디오 데이터를 코딩하도록 구성된 장치는, 비디오 데이터의 블록을 저장하도록 구성된 메모리, 및 텍스처-우선 코딩을 이용하여 비디오 데이터를 코딩하고 복수의 이웃하는 블록들을 이용하여 비디오 데이터의 블록에 대한 이웃하는 블록-기반 디스패리티 벡터 (NBDV) 도출 프로세스를 수행하도록 구성된 비디오 코더를 포함하고, NBDV 도출 프로세스는 디스패리티 벡터를 도출하고, NBDV 프로세스를 수행하는 것은, 블록-기반 뷰 합성 예측 (BVSP) 모드로 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 것, 및 인터-뷰 예측 모드를 이용하여 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 것을 포함한다.
개시물의 또 다른 예에서, 비디오 데이터를 코딩하도록 구성된 장치는, 텍스처-우선 코딩을 이용하여 비디오 데이터를 코딩하기 위한 수단, 및 복수의 이웃하는 블록들을 이용하여 비디오 데이터의 블록에 대한 이웃하는 블록-기반 디스패리티 벡터 (NBDV) 도출 프로세스를 수행하기 위한 수단을 포함하고, NBDV 도출 프로세스는 디스패리티 벡터를 도출하고, NBDV 프로세스를 수행하기 위한 수단은, 블록-기반 뷰 합성 예측 (BVSP) 모드로 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하기 위한 수단, 및 인터-뷰 예측 모드를 이용하여 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하기 위한 수단을 포함한다.
또 다른 예에서, 이 개시물은 명령들을 저장하는 컴퓨터-판독가능한 저장 매체로서, 상기 명령들은, 실행될 경우, 비디오 데이터를 코딩하도록 구성된 하나 이상의 프로세서들로 하여금, 텍스처-우선 코딩을 이용하여 비디오 데이터를 코딩하게 하고, 그리고 복수의 이웃하는 블록들을 이용하여 비디오 데이터의 블록에 대한 이웃하는 블록-기반 디스패리티 벡터 (NBDV) 도출 프로세스를 수행하게 하고, NBDV 도출 프로세스는 디스패리티 벡터를 도출하고, NBDV 프로세스를 수행하는 것은, 블록-기반 뷰 합성 예측 (BVSP) 모드로 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 것, 및 인터-뷰 예측 모드를 이용하여 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 것을 포함하는, 상기 컴퓨터-판독가능한 저장 매체를 설명한다.
개시물의 또 다른 예에서, 비디오 데이터를 코딩하는 방법은, 비디오 데이터의 블록에 대해 블록-기반 뷰 합성 예측 (BVSP) 프로세스를 수행하는 단계로서, 상기 BVSP 프로세스는 디스패리티 벡터를 도출하기 위하여 NBDV 도출 프로세스를 수행하는 단계, 및 비디오 데이터의 블록의 서브-영역에 대한 도출 디스패리티 벡터를 세분화하는 (refine) 단계를 포함하는, 상기 블록-기반 뷰 합성 예측 (BVSP) 프로세스를 수행하는 단계, 및 BVSP 를 이용하여 비디오 데이터의 블록을 코딩하는 단계로서, NBDV 도출 프로세스를 수행하는 단계는, 블록-기반 뷰 합성 예측 (BVSP) 모드로 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 단계, 인터-뷰 예측 모드를 이용하여 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 단계, 및 하나 이상의 이용가능한 디스패리티 모션 벡터들로부터 디스패리티 벡터를 도출하는 단계를 포함하는, 상기 BVSP 를 이용하여 비디오 데이터의 블록을 코딩하는 단계를 포함한다.
개시물의 또 다른 예에서, 비디오 데이터를 코딩하도록 구성된 장치는, 비디오 데이터의 블록을 저장하도록 구성된 메모리, 및 비디오 데이터의 블록에 대해 블록-기반 뷰 합성 예측 (BVSP) 프로세스를 수행하도록 구성된 비디오 코더를 포함하고, BVSP 프로세스는 디스패리티 벡터를 도출하기 위하여 NBDV 도출 프로세스를 수행하는 것, 및 비디오 데이터의 블록의 서브-영역에 대한 도출 디스패리티 벡터를 세분화하는 것, 및 BVSP 를 이용하여 비디오 데이터의 블록을 코딩하는 것을 포함하고, NBDV 도출 프로세스를 수행하는 것은, 블록-기반 뷰 합성 예측 (BVSP) 모드로 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 것, 인터-뷰 예측 모드를 이용하여 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 것, 및 하나 이상의 이용가능한 디스패리티 모션 벡터들로부터 디스패리티 벡터를 도출하는 것을 포함한다.
개시물의 또 다른 예에서, 비디오 데이터를 코딩하도록 구성된 장치는, 비디오 데이터의 블록에 대해 블록-기반 뷰 합성 예측 (BVSP) 프로세스를 수행하기 위한 수단으로서, 상기 BVSP 프로세스를 수행하기 위한 수단은, 디스패리티 벡터를 도출하기 위하여 NBDV 도출 프로세스를 수행하기 위한 수단, 및 비디오 데이터의 블록의 서브-영역에 대한 도출 디스패리티 벡터를 세분화하기 위한 수단을 포함하는, 상기 블록-기반 뷰 합성 예측 (BVSP) 프로세스를 수행하기 위한 수단, 및 BVSP 를 이용하여 비디오 데이터의 블록을 코딩하기 위한 수단으로서, NBDV 도출 프로세스를 수행하기 위한 수단은, 블록-기반 뷰 합성 예측 (BVSP) 모드로 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하기 위한 수단, 인터-뷰 예측 모드를 이용하여 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하기 위한 수단, 및 하나 이상의 이용가능한 디스패리티 모션 벡터들로부터 디스패리티 벡터를 도출하기 위한 수단을 포함하는, 상기 BVSP 를 이용하여 비디오 데이터의 블록을 코딩하기 위한 수단을 포함한다.
또 다른 예에서, 이 개시물은 명령들을 저장하는 컴퓨터-판독가능한 저장 매체로서, 상기 명령들은 실행될 경우, 비디오 데이터를 코딩하도록 구성된 하나 이상의 프로세서들로 하여금, 비디오 데이터의 블록에 대해 블록-기반 뷰 합성 예측 (BVSP) 프로세스를 수행하게 하는 것으로서, 상기 BVSP 프로세스는 디스패리티 벡터를 도출하기 위하여 NBDV 도출 프로세스를 수행하는 것, 및 비디오 데이터의 블록의 서브-영역에 대한 도출 디스패리티 벡터를 세분화하는 것을 포함하는, 상기 블록-기반 뷰 합성 예측 (BVSP) 프로세스를 수행하게 하고, 그리고 BVSP 를 이용하여 비디오 데이터의 블록을 코딩하게 하는 것으로서, NBDV 도출 프로세스를 수행하는 것은, 블록-기반 뷰 합성 예측 (BVSP) 모드로 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 것, 인터-뷰 예측 모드를 이용하여 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 것, 및 하나 이상의 이용가능한 디스패리티 모션 벡터들로부터 디스패리티 벡터를 도출하는 것을 포함하는, 상기 BVSP 를 이용하여 비디오 데이터의 블록을 코딩하게 하는, 상기 컴퓨터-판독가능한 저장 매체를 설명한다.
하나 이상의 예들의 세부사항들은 첨부한 도면들 및 이하의 설명에서 기재된다. 다른 특징들, 목적들, 및 장점들은 설명 및 도면들로부터, 그리고 청구항들로부터 명백할 것이다.
도 1 은 이 개시물에서 설명된 기법들을 사용할 수도 있는 일 예의 비디오 인코딩 및 디코딩 시스템을 예시하는 블록도이다.
도 2 는 일 예의 멀티뷰 디코딩 순서를 예시하는 개념도이다.
도 3 은 멀티뷰 코딩을 위한 일 예의 예측 구조를 예시하는 개념도이다.
도 4 는 역방향 워핑 (backward warping) 에 기초한 블록-기반 뷰 합성 예측의 개념적인 시각화이다.
도 5 는 이웃하는 블록 디스패리티 벡터 도출을 위해 이용된 공간적으로 이웃하는 블록들을 도시하는 개념도이다.
도 6 은 이 개시물에서 설명된 기법들을 구현할 수도 있는 일 예의 비디오 인코더를 예시하는 블록도이다.
도 7 은 이 개시물에서 설명된 기법들을 구현할 수도 있는 일 예의 비디오 디코더를 예시하는 블록도이다.
도 8 은 심도-기반 (depth-based) 모션 벡터 예측을 위한 이웃하는 블록들을 도시하는 개념도이다.
도 9 는 개시물의 일 예의 방법을 예시하는 플로우차트이다.
도 10 은 개시물의 또 다른 예의 방법을 예시하는 플로우차트이다.
일반적으로, 이 개시물은 (예컨대, 3D-AVC 로서 때때로 지칭된 H.264/AVC 의 3D 확장에서) H.264/진보된 비디오 코딩 (AVC) 코덱에 의한 2 개 이상의 뷰들의 코딩을 포함하는, 진보된 코덱들에 기초한 멀티뷰 플러스 심도 (예컨대, 3D) 비디오 코딩을 위한 기법들을 설명한다. 일부의 예들에서는, 3D AVC-기반 멀티뷰 비디오 코딩에서의 뷰 합성 예측 및 디스패리티 벡터 도출와 관련된 기법들이 제안되어 있다. 그러나, 이 개시물의 기법들은 고효율 비디오 코딩 (HEVC) 표준의 멀티뷰 및 최근 등장한 3D 확장들을 포함하는 다른 멀티뷰 및/또는 3D 비디오 코딩 기법들에 일반적으로 적용가능할 수도 있다.
텍스처-우선 디코딩 (texture-first decoding) 을 채용할 때, 3D-AVC 를 위한 현재의 제안들은 정확한 디스패리티 벡터들을 도출하기 위한 기법들을 결여한다. 특히, 이웃하는 블록 디스패리티 벡터 (NBDV) 도출 프로세스를 위한 현재의 제안들로부터 도출된 디스패리티 벡터들은 부정확한 디스패리티 벡터들을 생성할 수도 있다. 또한, 텍스처-우선 코딩을 채용할 때에 블록-기반 뷰 합성 예측 (BVSP) 코딩에 대한 도출된 디스패리티 벡터들을 이용하기 위한 현재의 기법들이 없다.
이 단점들을 감안하여, 이 개시물은 비-기본 (non-base) 텍스처 뷰 컴포넌트가 대응하는 비-기본 심도 뷰 컴포넌트 전에 코딩될 때에 3D-AVC 호환 비디오 인코더들 및 비디오 디코더들을 위한 BVSP 를 가능하게 하기 위한 기법들을 제안한다. 게다가, 다른 인터-코딩 모드들의 코딩 이득은 또한, 이 개시물의 기법들에 의해 제공된 바와 같이, 정교하게 만들어진 디스패리티 벡터의 도출로 인해 개선된다.
도 1 은 이 개시물에서 설명된 뷰 합성 예측 및 디스패리티 벡터 도출을 위한 기법들을 수행하도록 구성될 수도 있는 일 예의 비디오 인코딩 및 디코딩 시스템 (10) 을 예시하는 블록도이다. 도 1 에서 도시된 바와 같이, 시스템 (10) 은 목적지 디바이스 (14) 에 의해 더 이후의 시간에 디코딩되어야 할 인코딩된 비디오 데이터를 생성하는 소스 디바이스 (12) 를 포함한다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 는, 데스크톱 컴퓨터들, 노트북 (즉, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋톱 (set-top) 박스들, 소위 "스마트" 폰들과 같은 전화 핸드셋들, 소위 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게임용 콘솔들, 비디오 스트리밍 디바이스들 등을 포함하는 광범위한 디바이스들 중의 임의의 것을 포함할 수도 있다. 일부의 경우들에 있어서, 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 무선 통신을 위해 구비될 수도 있다.
시스템 (10) 은 상이한 비디오 코딩 표준들, 전용 표준, 또는 멀티뷰 코딩의 임의의 다른 방법에 따라 동작할 수도 있다. 다음은 비디오 코딩 표준들의 몇몇 예들을 설명하고, 제한하는 것으로 간주되지 않아야 한다. 비디오 코딩 표준들은 그 스케일러블 비디오 코딩 (Scalable Video Coding; SVC) 및 멀티뷰 비디오 코딩 (Multiview Video Coding; MVC) 확장들을 포함하는, ITU-T H.261, ISO/IEC MPEG-1 비주얼 (Visual), ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 및 ITU-T H.264 (또한, ISO/IEC MPEG-4 AVC 로서 알려짐) 를 포함한다. MVC 의 최신 합동 초안은 그 전체 내용이 참조를 위해 본원에 편입되는 "Advanced video coding for generic audiovisual services (일반적인 시청각 서비스들을 위한 진보된 비디오 코딩)" ITU-T Recommendation H.264, Mar 2010 에서 설명되어 있다. MVC 의 또 다른 합동 초안은 그 전체 내용이 참조를 위해 본원에 편입되는 "Advanced video coding for generic audiovisual services (일반적인 시청각 서비스들을 위한 진보된 비디오 코딩)" ITU-T Recommendation H.264, June 2011 에서 설명되어 있다. 일부의 추가적인 비디오 코딩 표준들은 AVC 에 기초하고 있는 MVC+D 및 3D-AVC 를 포함한다. 게다가, 새로운 비디오 코딩 표준, 즉, 고효율 비디오 코딩 (High-Efficiency VIdeo Coding; HEVC) 은 ITU-T 비디오 코딩 전문가 그룹 (Video Coding Experts Group; VCEG) 및 ISO/IEC 모션 픽처 전문가 그룹 (Motion Picture Experts Group; MPEG) 의 비디오 코딩에 관한 합동 협력 팀 (Joint Collaboration Team on Video Coding; JCT-VC) 에 의해 개발되었다.
예시만을 위하여, 이 개시물에서 설명된 기법들은 3D-AVC 와 같이, H.264 표준에 따른 예들과 함께 설명된다. 그러나, 이 개시물에서 설명된 기법들은 이 예의 표준들로 제한되는 것으로 간주되지 않아야 하고, 멀티뷰 코딩 또는 3D 비디오 코딩 (예컨대, 3D-HEVC) 을 위한 다른 비디오 코딩 표준들로, 또는 특별한 비디오 코딩 표준에 반드시 기초하지는 않는 멀티뷰 코딩 또는 3D 비디오 코딩에 관련된 기법들로 확장가능할 수도 있다. 예를 들어, 이 개시물에서 설명된 기법들은 멀티뷰 코딩을 위한 비디오 인코더들/디코더들 (코덱들) 에 의해 구현되며, 여기서, 멀티뷰 코딩은 2 개 이상의 뷰들의 코딩을 포함한다.
목적지 디바이스 (14) 는 링크 (16) 를 통해 디코딩되어야 할 인코딩된 비디오 데이터를 수신할 수도 있다. 링크 (16) 는 인코딩된 비디오 데이터를 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로 이동시킬 수 있는 임의의 타입의 매체 또는 디바이스를 포함할 수도 있다. 하나의 예에서, 링크 (16) 는 소스 디바이스 (12) 가 인코딩된 비디오 데이터를 실시간으로 목적지 디바이스 (14) 로 직접 송신하는 것을 가능하게 하기 위한 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조될 수도 있고, 목적지 디바이스 (14) 로 송신될 수도 있다. 통신 매체는 무선 주파수 (radio frequency; RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들과 같은 임의의 무선 또는 유선 통신 매체를 포함할 수도 있다. 통신 매체는 로컬 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크와 같은 패킷-기반 네트워크의 일부를 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로의 통신을 용이하게 하기에 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.
대안적으로, 인코딩된 데이터는 출력 인터페이스 (22) 로부터 저장 디바이스 (34) 로 출력될 수도 있다. 유사하게, 인코딩된 데이터는 입력 인터페이스에 의해 저장 디바이스 (34) 로부터 액세스될 수도 있다. 저장 디바이스 (34) 는 하드 드라이브, 블루-레이 (Blu-ray) 디스크들, DVD 들, CD-ROM 들, 플래시 메모리, 휘발성 또는 비-휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적당한 디지털 저장 매체들과 같은, 다양한 분산되거나 국부적으로 액세스된 데이터 저장 매체들 중의 임의의 것을 포함할 수도 있다. 추가의 예에서, 저장 디바이스 (34) 는 소스 디바이스 (12) 에 의해 생성된 인코딩된 비디오를 유지할 수도 있는 파일 서버 또는 또 다른 중간 저장 디바이스에 대응할 수도 있다. 목적지 디바이스 (14) 는 스트리밍 또는 다운로드를 통해 저장 디바이스 (34) 로부터 저장된 비디오 데이터를 액세스할 수도 있다. 파일 서버는 인코딩된 비디오 데이터를 저장할 수 있으며 그 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로 송신할 수 있는 임의의 타입의 서버일 수도 있다. 일 예의 파일 서버들은 (예컨대, 웹사이트를 위한) 웹 서버, FTP 서버, 네트워크 연결 저장 (network attached storage; NAS) 디바이스들, 또는 로컬 디스크 드라이브를 포함한다. 목적지 디바이스 (14) 는 인터넷 접속을 포함하는 임의의 표준 데이터 접속을 통해 인코딩된 비디오 데이터를 액세스할 수도 있다. 이것은, 파일 서버 상에 저장된 인코딩된 비디오 데이터를 액세스하기에 적당한 무선 채널 (예를 들어, Wi-Fi 접속), 유선 접속 (예를 들어, DSL, 케이블 모뎀 등), 또는 양자의 조합을 포함할 수도 있다. 저장 디바이스 (34) 로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 양자의 조합일 수도 있다.
뷰 합성 예측 및 디스패리티 벡터 도출을 위한 이 개시물의 기법들은 무선 애플리케이션들 또는 세팅들로 반드시 제한되는 것은 아니다. 기법들은 오버-디-에어 (over-the-air) 텔레비전 브로드캐스트들, 케이블 텔레비전 송신들, 위성 텔레비전 송신들, 예컨대, 인터넷을 통한 스트리밍 비디오 송신들, 데이터 저장 매체 상에서의 저장을 위한 디지털 비디오의 인코딩, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 애플리케이션들과 같은 다양한 멀티미디어 애플리케이션들 중의 임의의 것의 지원 하에서 비디오 코딩에 적용될 수도 있다. 일부의 예들에서, 시스템 (10) 은 비디오 스트리밍, 비디오 재생, 비디오 브로드캐스팅, 및/또는 화상 통화 (video telephony) 와 같은 애플리케이션들을 지원하기 위하여 일방향 (one-way) 또는 양방향 (two-way) 비디오 송신을 지원하도록 구성될 수도 있다.
도 1 의 예에서, 소스 디바이스 (12) 는 비디오 소스 (18), 비디오 인코더 (20), 및 출력 인터페이스 (22) 를 포함한다. 일부의 경우들에 있어서, 출력 인터페이스 (22) 는 변조기/복조기 (모뎀) 및/또는 송신기를 포함할 수도 있다. 소스 디바이스 (12) 에서, 비디오 소스 (18) 는 비디오 캡처 디바이스, 예를 들어, 비디오 카메라, 이전에 캡처된 비디오를 포함하는 비디오 아카이브 (video archive), 비디오 컨텐츠 제공자로부터 비디오를 수신하기 위한 비디오 공급 인터페이스, 및/또는 소스 비디오로서 컴퓨터 그래픽 데이터를 생성하기 위한 컴퓨터 그래픽 시스템과 같은 소스, 또는 이러한 소스들의 조합을 포함할 수도 있다. 하나의 예로서, 비디오 소스 (18) 가 비디오 카메라일 경우, 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 소위 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 그러나, 이 개시물에서 설명된 기법들은 일반적으로 비디오 코딩에 적용가능할 수도 있고, 무선 및/또는 유선 애플리케이션들에 적용될 수도 있다.
캡처된 (captured), 프리-캡처된 (pre-captured), 또는 컴퓨터-생성된 비디오는 비디오 인코더 (20) 에 의해 인코딩될 수도 있다. 인코딩된 비디오 데이터는 소스 디바이스 (12) 의 출력 인터페이스 (22) 를 통해 목적지 디바이스 (14) 로 직접 송신될 수도 있다. 인코딩된 비디오 데이터는 또한 (또는 대안적으로), 디코딩 및/또는 재생을 위하여, 목적지 디바이스 (14) 또는 다른 디바이스들에 의한 더 이후의 액세스를 위해 저장 디바이스 (34) 상으로 저장될 수도 있다.
목적지 디바이스 (14) 는 입력 인터페이스 (28), 비디오 디코더 (30), 및 디스플레이 디바이스 (32) 를 포함한다. 일부의 경우들에 있어서, 입력 인터페이스 (28) 는 수신기 및/또는 모뎀을 포함할 수도 있다. 목적지 디바이스 (14) 의 입력 인터페이스 (28) 는 링크 (16) 를 통해 인코딩된 비디오 데이터를 수신한다. 링크 (16) 를 통해 통신되거나 저장 디바이스 (34) 상에서 제공된 인코딩된 비디오 데이터는 비디오 데이터를 디코딩함에 있어서, 비디오 디코더 (30) 와 같은 비디오 디코더에 의한 이용을 위하여 비디오 인코더 (20) 에 의해 생성된 다양한 신택스 엘리먼트 (syntax element) 들을 포함할 수도 있다. 이러한 신택스 엘리먼트들은 통신 매체 상에서 송신되거나, 저장 매체 상에 저장되거나, 파일 서버에 저장된 인코딩된 비디오 데이터와 함께 포함될 수도 있다.
디스플레이 디바이스 (32) 는 목적지 디바이스 (14) 와 통합될 수도 있거나, 목적지 디바이스 (14) 의 외부에 있을 수도 있다. 일부의 예들에서, 목적지 디바이스 (14) 는 통합된 디스플레이 디바이스를 포함할 수도 있고, 또한, 외부의 디스플레이 디바이스와 인터페이스하도록 구성될 수도 있다. 다른 예들에서, 목적지 디바이스 (14) 는 디스플레이 디바이스일 수도 있다. 일반적으로, 디스플레이 디바이스 (32) 는 디코딩된 비디오 데이터를 사용자에게 디스플레이하고, 액정 디스플레이 (liquid crystal display; LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (organic light emitting diode; OLED) 디스플레이, 또는 또 다른 타입의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중의 임의의 것을 포함할 수도 있다.
도 1 에서 도시되지 않았지만, 일부의 양태들에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 각각 오디오 인코더 및 디코더와 통합될 수도 있고, 공통의 데이터 스트림 또는 별도의 데이터 스트림들에서 오디오 및 비디오 양자의 인코딩을 취급하기 위한 적절한 MUX-DEMUX 유닛들, 또는 다른 하드웨어 및 소프트웨어를 포함할 수도 있다. 적용가능한 경우, 일부의 예들에서, MUX-DEMUX 유닛들은 ITU H.223 멀티플렉서 프로토콜, 또는 사용자 데이터그램 프로토콜 (user datagram protocol; UDP) 과 같은 다른 프로토콜들을 준수할 수도 있다.
비디오 인코더 (20) 및 비디오 디코더 (30) 는 각각, 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서 (digital signal processor; DSP) 들, 주문형 집적 회로 (application specific integrated circuit; ASIC) 들, 필드 프로그래밍가능한 게이트 어레이 (field programmable gate array; FPGA) 들, 개별 로직, 소프트웨어, 하드웨어, 펌웨어 또는 그 임의의 조합들과 같은 다양한 적당한 인코더 회로부 중의 임의의 것으로서 구현될 수도 있다. 예를 들어, 이 개시물에서 설명된 기법들은 장치 또는 디바이스의 관점으로부터 설명될 수도 있다. 하나의 예로서, 장치 또는 디바이스는 비디오 디코더 (30) (예컨대, 무선 통신 디바이스의 일부로서의 목적지 디바이스 (14)) 를 포함할 수도 있고, 비디오 디코더 (30) 는 이 개시물에서 설명된 기법들을 구현하도록 구성된 하나 이상의 프로세서들을 포함할 수도 있다 (예컨대, 이 개시물에서 설명된 기법들에 따라 비디오 데이터를 디코딩함). 또 다른 예로서, 장치 또는 디바이스는 비디오 디코더 (30) 를 포함하는 마이크로프로세서 또는 집적 회로 (IC) 를 포함할 수도 있고, 마이크로프로세서 또는 IC 는 목적지 디바이스 (14) 또는 또 다른 타입의 디바이스의 일부일 수도 있다. 동일한 사항은 비디오 인코더 (20) 에 대해 적용할 수도 있다 (즉, 소스 디바이스 (12) 및/또는 마이크로제어기 또는 IC와 같은 장치 또는 디바이스는 비디오 인코더 (20) 를 포함하며, 여기서, 비디오 인코더 (20) 는 이 개시물에서 설명된 기법들에 따라 비디오 데이터를 인코딩하도록 구성됨).
기법들이 소프트웨어로 부분적으로 구현될 때, 디바이스는 소프트웨어를 위한 명령들을 적당한 비-일시적인 (non-transitory) 컴퓨터-판독가능한 매체에서 저장할 수도 있고, 이 개시물의 기법들을 수행하기 위하여 하나 이상의 프로세서들을 이용하여 명령들을 하드웨어로 실행할 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 의 각각은 하나 이상의 인코더들 또는 디코더들 내에 포함될 수도 있고, 그 어느 하나는 조합된 인코더/디코더 (combined encoder/decoder; CODEC) 의 일부로서 각각의 디바이스 내에 통합될 수도 있다.
비디오 시퀀스는 전형적으로 뷰로부터의 일련의 비디오 픽처들을 포함한다. 픽처들의 그룹 (group of pictures; GOP) 은 일반적으로 일련의 하나 이상의 비디오 픽처들을 포함한다. GOP 는 GOP 내에 포함된 다수의 픽처들을 설명하는, GOP 의 헤더, GOP 의 하나 이상의 픽처들의 헤더, 또는 다른 곳에서의 신택스 데이터를 포함할 수도 있다. 각각의 픽처는 각각의 픽처에 대한 인코딩 모드를 설명하는 픽처 신택스 데이터를 포함할 수도 있다. 비디오 인코더 (20) 는 전형적으로 비디오 데이터를 인코딩하기 위하여 개별적인 비디오 픽처들 내의 비디오 블록들에 대해 동작한다. 비디오 블록은 H.264 표준에서 정의된 바와 같이 매크로블록, 매크로블록의 파티션, 및 아마도 파티션의 서브-블록, 또는 HEVC 표준에서 정의된 바와 같이, 코딩 유닛 (coding unit; CU), 예측 유닛 (prediction unit; PU), 또는 변환 유닛 (transform unit; TU) 에 대응할 수도 있지만; 이 개시물에서 설명된 기법들은 블록들의 이 예들로 제한되지 않는다. 비디오 블록들은 고정된 또는 변동되는 사이즈들을 가질 수도 있고, 특정된 코딩 표준에 따라 사이즈에 있어서 상이할 수도 있다. 각각의 비디오 픽처는 복수의 슬라이스들을 포함할 수도 있다. 각각의 슬라이스는 복수의 블록들을 포함할 수도 있다.
일 예로서, ITU-T H.264 표준은, 루마 컴포넌트 (luma component) 들에 대한 16x16, 16x8, 8x16, 8x8, 8x4, 4x8 및 4x4 및 크로마 컴포넌트 (chroma component) 들에 대한 대응하는 스케일링된 사이즈들과 같은 다양한 블록 사이즈들에서의 인터-예측 (inter prediction) 뿐만 아니라, 루마 컴포넌트들에 대한 16 대 16, 8 대 8, 또는 4 대 4, 및 크로마 컴포넌트들에 대한 8 대 8 과 같은 다양한 블록 사이즈들에서의 인트라-예측 (intra prediction) 을 지원한다. 이 개시물에서, "NxN" 및 "N 대 (by) N" 은 수직 및 수평 차원들의 측면에서의 블록의 픽셀 차원들 (예컨대, 16 x 16 픽셀들 또는 16 대 16 픽셀들) 을 지칭하기 위하여 상호 교환가능하게 이용될 수도 있다. 일반적으로, 16x16 블록은 수직 방향에서의 16 개의 픽셀들 (y = 16) 및 수평 방향에서의 16 개의 픽셀들 (x = 16) 을 가질 것이다. 마찬가지로, NxN 블록은 일반적으로 수직 방향에서의 N 개의 픽셀들 및 수평 방향에서의 N 개의 픽셀들을 가지며, 여기서, N 은 음이 아닌 정수 값을 나타낸다. 블록 내의 픽셀들은 행 (row) 들 및 열 (column) 들로 배치될 수도 있다. 또한, 블록들은 수직 방향에서와 동일한 수의 픽셀들을 수평 방향에서 반드시 가질 필요는 없다. 예를 들어, 블록들은 NxM 픽셀들을 포함할 수도 있으며, 여기서, M 은 반드시 N 과 동일하지는 않다.
블록이 인트라-모드 인코딩 (예컨대, 인트라-예측) 될 때, 블록은 블록에 대한 인트라-예측 모드를 설명하는 데이터를 포함할 수도 있다. 또 다른 예로서, 블록이 인터-모드 인코딩 (예컨대, 인터-예측) 될 때, 블록은 블록에 대한 모션 벡터를 정의하는 정보를 포함할 수도 있다. 이 모션 벡터는 동일한 뷰에서 참조 픽처를 지칭하거나 (예컨대, 시간적 모션 벡터), 또 다른 뷰에서 참조 픽처를 지칭한다 (예컨대, 디스패리티 모션 벡터). 블록에 대한 모션 벡터를 정의하는 데이터는 예를 들어, 모션 벡터의 수평 컴포넌트, 모션 벡터의 수직 컴포넌트, 모션 벡터에 대한 해상도 (예컨대, 1/4 픽셀 정밀도 또는 1/8 픽셀 정밀도) 를 설명한다. 게다가, 인터-예측될 때, 블록은 모션 벡터가 지시하는 참조 픽처, 및/또는 모션 벡터에 대한 참조 픽처 리스트 (예컨대, RefPicList0 또는 RefPicList1) 와 같은 참조 인덱스 정보를 포함할 수도 있다.
H.264 표준인 다음의 인트라-예측 또는 인터-예측 코딩에서는, 비디오 인코더 (20) 가 매크로블록들에 대한 잔차 데이터 (residual data) 를 계산한다. 잔차 데이터는 인코딩되지 않은 픽처의 픽셀들 및 H.264 에서의 매크로블록에 대한 예측 값들 사이의 픽셀 차이들에 대응할 수도 있다.
변환 계수들을 생성하기 위한 임의의 변환들에 후속하여, 일부의 예들에서, 비디오 인코더 (20) 는 변환 계수들의 양자화를 수행한다. 양자화는 일반적으로, 계수들을 나타내기 위해 이용된 데이터의 양을 가능한 대로 감소시키기 위하여 변환 계수들이 양자화되어 추가의 압축을 제공하는 프로세스를 지칭한다. 양자화 프로세스는 계수들의 일부 또는 전부와 연관된 비트 심도를 감소시킨다. 예를 들어, n-비트 값은 양자화 동안에 m-비트 값으로 버림 (round down) 되며, 여기서, n 은 m 보다 더 크다.
일부의 예들에서, 비디오 인코더 (20) 는 엔트로피 인코딩될 수 있는 직렬화된 벡터 (serialized vector) 를 생성하기 위하여 양자화된 변환 계수들을 스캐닝하기 위한 미리 정의된 스캔 순서를 사용한다. 다른 예들에서, 비디오 인코더 (20) 는 적응적 스캔 (adaptive scan) 을 수행한다. 1 차원 벡터를 형성하기 위하여 양자화된 변환 계수들을 스캐닝한 후, 일부의 예들에서, 비디오 인코더 (20) 는 약간의 예들로서, 컨텍스트 적응 가변 길이 코딩 (context adaptive variable length coding; CAVLC), 컨텍스트 적응 2 진 산술 코딩 (context adaptive binary arithmetic coding; CABAC), 신택스-기반 컨텍스트-적응 2 진 산술 코딩 (syntax-based context-adaptive binary arithmetic coding; SBAC), 확률 간격 파티셔닝 엔트로피 (Probability Interval Partitioning Entropy; PIPE) 코딩 또는 또 다른 엔트로피 인코딩 방법론에 따라 1 차원 벡터를 엔트로피 인코딩한다. 비디오 인코더 (20) 는 또한, 비디오 데이터를 디코딩함에 있어서 비디오 디코더 (30) 에 의한 이용을 위한 인코딩된 비디오 데이터와 연관된 신택스 엘리먼트들을 엔트로피 인코딩한다.
CABAC 를 수행하기 위하여, 비디오 인코더 (20) 는 컨텍스트 모델 (context model) 내의 컨텍스트를 송신되어야 할 심볼 (symbol) 에 배정할 수도 있다. 컨텍스트는 예를 들어, 심볼의 이웃하는 값들이 비-제로 (non-zero) 인지 아닌지의 여부와 관련 있을 수도 있다. CAVLC 를 수행하기 위하여, 비디오 인코더 (20) 는 송신되어야 할 심볼에 대한 가변 길이 코드를 선택할 수도 있다. VLC 에서의 코드워드 (codeword) 들은, 상대적으로 더 짧은 코드들이 더 확률이 큰 심볼들에 대응하는 반면, 더 긴 코드들은 더 확률이 작은 심볼들에 대응하도록 구성될 수도 있다. 이러한 방법으로, VLC 의 이용은 예를 들어, 송신되어야 할 각각의 심볼에 대한 동일-길이 코드워드들을 이용하는 것에 비해 비트 절감을 달성할 수도 있다. 확률 결정은 심볼에 배정된 컨텍스트에 기초할 수도 있다.
비디오 디코더 (30) 는 비디오 인코더 (20) 의 기법들의 역 (inverse) 을 구현한다. 예를 들어, 비디오 디코더 (30) 는 역 양자화 및 역 변환에 의해 인코딩된 비디오 비트스트림을 디코딩하고 잔차 블록들을 결정한다. 비디오 디코더 (30) 는 픽처 내의 블록들에 대한 픽셀 값들을 결정하기 위하여 잔차 블록들을 이전에 디코딩된 픽처들의 블록들과 합산한다.
위에서 설명된 바와 같이, 이 개시물에서 설명된 기법들은 3D-AVC 에 관한 것이다. 기법들을 더욱 양호하게 이해하기 위하여, 다음은 일부의 H.264/AVC 코딩 기법들, H.264/MVC 확장 및 고효율 비디오 코딩 (HEVC) 표준의 관점으로부터의 멀티뷰 비디오 코딩, 및 3D-AVC 기법들을 설명한다.
H.264/진보된 비디오 코딩 (AVC) 에 대하여, 비디오 인코딩 또는 디코딩 (예컨대, 코딩) 은 매크로블록들에 대해 구현되며, 여기서, 매크로블록은 인터-예측되거나 인트라-예측되는 프레임의 부분을 나타낸다 (즉, 인코딩되거나 디코딩된 인터-예측, 또는 인코딩되거나 디코딩된 인트라-예측). 예를 들어, H.264/AVC 에서는, 각각의 인터 매크로블록 (MB) (예컨대, 인터-예측된 매크로블록) 은 4 개의 상이한 방법들로 파티셔닝될 수도 있다: 하나의 16x16 MB 파티션, 2 개의 16x8 MB 파티션들, 2 개의 8x16 MB 파티션들, 또는 4 개의 8x8 MB 파티션들. 하나의 MB 에서의 상이한 MB 파티션들은 각각의 방향에 대해 상이한 참조 인덱스 값들을 가질 수도 있다 (즉, RefPicList0 또는 RefPicList1). MB 가 다수의 (1 개를 초과하는) MB 파티션들로 파티셔닝되지 않을 때, 그것은 각각의 방향에서 전체의 MB 파티션에 대해 하나의 모션 벡터만을 가진다.
비디오 코딩 (인코딩 또는 디코딩) 의 일부로서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 RefPicList0 및 RefPicList1 로서 지칭된, 하나 또는 2 개의 참조 픽처 리스트들을 구성하도록 구성된다. 참조 픽처 리스트 (들) 는 프레임 또는 슬라이스의 매크로블록들을 인터-예측하기 위하여 이용될 수 있는 참조 픽처들을 식별한다. 예를 들어, 비디오 인코더 (20) 는 참조 인덱스 및 참조 픽처 리스트 식별자를 시그널링할 수도 있다. 비디오 디코더 (30) 는 참조 인덱스 및 참조 픽처 리스트 식별자를 수신할 수도 있고, 참조 인덱스 및 참조 픽처 리스트 식별자로부터 현재의 매크로블록을 인터-예측 디코딩하기 위하여 이용되어야 할 참조 픽처를 결정할 수도 있다.
MB 가 4 개의 8x8 MB 파티션들로 파티셔닝될 때, 각각의 8x8 MB 파티션은 서브-블록들로 추가로 파티셔닝될 수 있다. 8x8 MB 파티션으로부터 서브-블록들을 얻기 위한 4 개의 상이한 방법들이 있다: 하나의 8x8 서브-블록, 2 개의 8x4 서브-블록들, 2 개의 4x8 서브-블록들, 또는 4 개의 4x4 서브-블록들. 각각의 서브-블록은 각각의 방향에서 상이한 모션 벡터를 가질 수 있지만, 각각의 방향에 대해 동일한 참조 픽처 인덱스를 공유할 수 있다. 8x8 MB 파티션이 서브-블록들로 파티셔닝되는 방식은 서브-블록 파티션으로 명명된다.
멀티뷰 비디오 코딩에 대하여, 다수의 상이한 비디오 코딩 표준들이 있다. 혼동을 회피하기 위하여, 이 개시물이 멀티뷰 비디오 코딩을 일반적으로 설명할 때, 이 개시물은 어구 "멀티뷰 비디오 코딩" 을 이용한다. 일반적으로, 멀티뷰 비디오 코딩에서는, 기본 뷰 및 하나 이상의 증강 또는 종속 뷰들이 있다. 기본 뷰는 종속 뷰들 중의 임의의 것을 참조하지 않고도 완전히 디코딩가능하다 (즉, 기본 뷰는 시간적 모션 벡터들로 인터-예측되기만 함). 이것은 멀티뷰 비디오 코딩을 위해 구성되지 않은 코덱이 완전히 디코딩가능한 적어도 하나의 뷰를 여전히 수신하도록 한다 (즉, 기본 뷰가 추출될 수 있고 다른 뷰들이 폐기될 수 있어서, 멀티뷰 비디오 코딩을 위해 구성되지 않은 디코더가 3D 경험을 갖지 않지만 비디오 컨텐츠를 여전히 디코딩하도록 한다. 하나 이상의 증강 또는 종속 뷰들은 기본 뷰에 대하여 또는 다른 증강 뷰 또는 종속 뷰에 대하여 인터-예측될 수도 있거나 (즉, 디스패리티 보상 예측), 동일한 뷰에서의 다른 픽처들에 대해 인터-예측될 수도 있다 (즉, 모션 보상 예측).
"멀티뷰 비디오 코딩" 이 일반적으로 이용되므로, 두문자어 MVC 는 H.264/AVC 의 확장과 연관된다. 따라서, 개시물이 두문자어 MVC 를 이용할 때, 개시물은 H.264/AVC 비디오 코딩 표준에 대한 확장을 구체적으로 참조하고 있다. H.264/AVC 의 MVC 확장은 시간적 모션 벡터들에 추가하여, 또 다른 타입의 모션 벡터로서 디스패리티 모션 벡터들에 의존한다. MVC 플러스 심도 (MVC+D) 로서 지칭된 또 다른 비디오 코딩 표준은 또한, JCT-3V 및 MPEG 에 의해 개발되었다. MVC+D 는 텍스처 및 심도 양자에 대한 MVC 의 로우-레벨 코딩 툴들과 동일한 로우-레벨 코딩 툴들을 응용하고, 심도의 디코딩은 텍스처의 디코딩에 독립적이고, 그 역도 마찬가지이다. 예를 들어, MVC 에서, 프레임은 텍스처 뷰 컴포넌트, 또는 간단하게 텍스처로서 지칭된 하나의 뷰 컴포넌트에 의해서만 표현된다. MVC+D 에서는, 2 개의 뷰 컴포넌트들이 있다: 텍스처 뷰 컴포넌트 및 심도 뷰 컴포넌트, 또는 간단하게 텍스처 및 심도. 예를 들어, MVC+D 에서는, 각각의 뷰가 텍스처 뷰 및 심도 뷰를 포함하며, 여기서, 뷰는 복수의 뷰 컴포넌트들을 포함하고, 텍스처 뷰는 복수의 텍스처 뷰 컴포넌트들을 포함하고, 심도 뷰는 복수의 심도 뷰 컴포넌트들을 포함한다.
각각의 텍스처 뷰 컴포넌트는 뷰의 뷰 컴포넌트를 형성하기 위하여 심도 뷰 컴포넌트와 연관된다. 심도 뷰 컴포넌트는 텍스처 뷰 컴포넌트에서의 객체들의 상대적인 심도를 나타낸다. MVC+D 에서는, 심도 뷰 컴포넌트 및 텍스처 뷰 컴포넌트가 별도로 디코딩가능하다. 예를 들어, 비디오 디코더 (30) 는 MVC 코덱의 2 개의 사례들을 구현할 수도 있고, 제 1 코덱은 텍스처 뷰 컴포넌트들을 디코딩하고 제 2 코덱은 심도 뷰 컴포넌트들을 디코딩한다. 텍스처 뷰 컴포넌트들 및 심도 뷰 컴포넌트들이 별도로 인코딩되므로, 이 2 개의 코덱들은 서로 독립적으로 실행할 수 있다.
MVC+D 에서는, 심도 뷰 컴포넌트가 연관된 (예컨대, 대응하는) 텍스처 뷰 컴포넌트를 항상 바로 뒤따르고 있다. 이러한 방식으로, MVC+D 는 텍스처-우선 코딩을 지원하며, 여기서, 텍스처 뷰 컴포넌트는 심도 뷰 컴포넌트 이전에 디코딩된다.
텍스처 뷰 컴포넌트 및 그 연관된 (예컨대, 대응하는) 심도 뷰 컴포넌트는 동일한 픽처 순서 카운트 (picture order count; POC) 값 및 view_id 를 포함할 수도 있다 (즉, 텍스처 뷰 컴포넌트 및 그 연관된 심도 뷰 컴포넌트의 POC 값 및 view_id 가 동일함). POC 값은 텍스처 뷰 컴포넌트의 디스플레이 순서를 표시하고, view_id 는 텍스처 뷰 컴포넌트 및 심도 뷰 컴포넌트가 속하는 뷰를 표시한다.
전형적인 MVC 디코딩 순서 (즉, 비트스트림 순서) 가 도 2 에서 도시되어 있다. 디코딩 순서 배치는 시간-우선 코딩 (time-first coding) 으로서 지칭된다. 액세스 유닛들의 디코딩 순서는 출력 또는 디스플레이 순서와 동일하지 않을 수도 있다는 것에 주목해야 한다. 도 2 에서, S0 내지 S7 은 각각 멀티뷰 비디오의 상이한 뷰들을 지칭한다. T0 내지 T8 은 각각 하나의 출력 시간 인스턴스 (output time instance) 를 나타낸다. 액세스 유닛은 하나의 출력 시간 인스턴스에 대한 모든 뷰들의 코딩된 픽처들을 포함할 수도 있다. 예를 들어, 제 1 액세스 유닛은 시간 인스턴스 (T0) 에 대한 뷰들 (S0 내지 S7) 의 모두를 포함할 수도 있고, 제 2 액세스 유닛은 시간 인스턴스 (T1) 에 대한 뷰들 (S0 내지 S7) 의 모두를 포함할 수도 있고, 이하 등등과 같다.
간결함의 목적들을 위하여, 개시물은 다음의 정의들을 이용할 수도 있다:
뷰 컴포넌트: 단일 액세스 유닛에서의 뷰의 코딩된 표현. 뷰가 코딩된 텍스처 및 심도 표현들의 양자를 포함할 때, 뷰 컴포넌트는 텍스처 뷰 컴포넌트 및 심도 뷰 컴포넌트를 포함할 수도 있다.
텍스처 뷰 컴포넌트 단일 액세스 유닛에서의 뷰의 텍스처의 코딩된 표현.
심도 뷰 컴포넌트 단일 액세스 유닛에서의 뷰의 심도의 코딩된 표현.
위에서 논의된 바와 같이, 이 개시물의 전후상황에서는, 뷰 컴포넌트, 텍스처 뷰 컴포넌트, 및 심도 뷰 컴포넌트가 일반적으로 계층으로서 지칭될 수도 있다. 도 2 에서, 뷰들의 각각은 픽처들의 세트들을 포함한다. 예를 들어, 뷰 (S0) 는 픽처들 0, 8, 16, 24, 32, 40, 48, 56, 및 64 의 세트를 포함하고, 뷰 (S1) 는 픽처들 1, 9, 17, 25, 33, 41, 49, 57, 및 65 의 세트를 포함하고, 이하 등등과 같다. 각각의 세트는 2 개의 픽처들을 포함한다: 하나의 픽처는 텍스처 뷰 컴포넌트로서 지칭되고, 다른 픽처는 심도 뷰 컴포넌트로서 지칭된다. 뷰의 픽처들의 세트 내의 텍스처 뷰 컴포넌트 및 심도 뷰 컴포넌트는 서로에 대해 대응하는 것으로 간주될 수도 있다. 예를 들어, 뷰의 픽처들의 세트 내의 텍스처 뷰 컴포넌트는 뷰의 픽처들의 세트 내의 심도 뷰 컴포넌트에 대응하는 것으로 간주되고, 그 반대도 그러하다 (즉, 심도 뷰 컴포넌트는 세트에서 그 텍스처 뷰 컴포넌트에 대응하고, 그 반대도 그러함). 이 개시물에서 이용된 바와 같이, 심도 뷰 컴포넌트에 대응하는 텍스처 뷰 컴포넌트는 텍스처 뷰 컴포넌트 및 심도 뷰 컴포넌트가 단일 액세스 유닛의 동일한 뷰의 일부인 것으로서 간주될 수도 있다.
텍스처 뷰 컴포넌트는 디스플레이되는 실제의 이미지 컨텐츠를 포함한다. 예를 들어, 텍스처 뷰 컴포넌트는 루마 (Y) 및 크로마 (Cb 및 Cr) 컴포넌트들을 포함할 수도 있다. 심도 뷰 컴포넌트는 그 대응하는 텍스처 뷰 컴포넌트에서의 픽셀들의 상대적인 심도들을 표시할 수도 있다. 하나의 예로서, 심도 뷰 컴포넌트는 루마 값들만을 포함하는 그레이 스케일 이미지 (gray scale image) 이다. 다시 말해서, 심도 뷰 컴포넌트는 임의의 이미지 컨텐츠를 전달할 수도 있는 것이 아니라, 오히려, 텍스처 뷰 컴포넌트에서의 픽셀들의 상대적인 심도들의 척도 (measure) 를 제공할 수도 있다.
예를 들어, 심도 뷰 컴포넌트에서의 순수하게 백색인 픽셀은 대응하는 텍스처 뷰 컴포넌트에서의 그 대응하는 픽셀 또는 픽셀들이 뷰어 (viewer) 의 관점으로부터 더 근접함을 표시하고, 심도 뷰 컴포넌트에서의 순수하게 흑색인 픽셀은 대응하는 텍스처 뷰 컴포넌트에서의 그 대응하는 픽셀 또는 픽셀들이 뷰어의 관점으로부터 더욱 멀어져 있음을 표시한다. 흑색 및 백색 사이의 회색의 다양한 음영들은 상이한 심도 레벨들을 표시한다. 예를 들어, 심도 뷰 컴포넌트에서의 매우 회색인 픽셀은 텍스처 뷰 컴포넌트에서의 그 대응하는 픽셀이 심도 뷰 컴포넌트에서의 약하게 회색인 픽셀보다 더욱 멀어져 있음을 표시한다. 픽셀들의 심도를 식별하기 위하여 그레이 스케일만이 필요하게 되므로, 심도 뷰 컴포넌트는 심도 뷰 컴포넌트에 대한 컬러 값들이 임의의 목적으로 작용하지 않을 수도 있어서 크로마 컴포넌트들을 포함할 필요가 없다.
심도를 식별하기 위하여 루마 값들 (예를 들어, 강도 값 (intensity value) 들) 만을 이용하는 심도 뷰 컴포넌트는 예시의 목적들을 위해 제공되고, 제한하는 것으로 간주되지 않아야 한다. 다른 예들에서, 임의의 기법은 텍스처 뷰 컴포넌트에서의 픽셀들의 상대적인 심도들을 표시하기 위하여 사용될 수도 있다.
멀티-뷰 비디오 코딩을 위한 (각각의 뷰 내의 인터-픽처 예측 및 뷰들 사이의 인터-뷰 예측의 양자를 포함하는) 전형적인 MVC 예측 구조가 도 3 에서 도시되어 있다. 예측 방향들은 화살표들에 의해 표시되고, 지시-대상 (pointed-to) 객체는 지시-원천 (pointed-from) 객체를 예측 참조로서 이용한다. MVC 에서, 인터-뷰 예측은, H.264/AVC 모션 보상의 신택스를 이용하지만, 상이한 뷰에서의 픽처가 참조 픽처로서 이용되는 것을 허용하는 디스패리티 모션 보상에 의해 지원된다.
도 3 의 예에서, 8 개의 뷰들 (뷰 ID 들 "S0" 내지 "S7" 을 가짐) 이 예시되어 있고, 12 개의 시간적 로케이션들 ("T0" 내지 "T11") 이 각각의 뷰에 대해 예시되어 있다. 즉, 도 3 에서의 각각의 행은 뷰에 대응하는 반면, 각각의 열은 시간적 로케이션을 표시한다.
MVC 는 H.264/AVC 디코더들에 의해 디코딩가능한 소위 기본 뷰를 가지고 스테레오 뷰 쌍 (stereo view pair) 들은 MVC 에 의해 또한 지원될 수 있지만, MVC 의 장점은, 그것이 3D 비디오 입력으로서 2 개를 초과하는 뷰들을 이용하며 다수의 뷰들에 의해 표현된 이 3D 비디오를 디코딩하는 예를 지원할 수 있다는 점이다. MVC 디코더를 갖는 클라이언트의 렌더러 (renderer) 는 다수의 뷰들을 갖는 3D 비디오 컨텐츠를 기대할 수도 있다.
도 3 에서의 픽처들은 각각의 행 및 각각의 열의 교차점에서 표시된다. H.264/AVC 표준은 비디오의 부분을 나타내기 위하여 용어 프레임을 이용할 수도 있다. 이 개시물은 용어 픽처 및 프레임을 상호 교환가능하게 이용할 수도 있다.
도 3 에서의 픽처들은, 대응하는 픽처가 인트라-코딩되는지 (즉, I-픽처), 또는 하나의 방향에서 (즉, P-픽처로서) 또는 다수의 방향들에서 (즉, B-픽처로서) 인터-코딩되는지 여부를 지정하는 글자를 포함하는 블록을 이용하여 예시된다. 일반적으로, 예측들은 화살표들에 의해 표시되고, 여기서, 지시-대상 픽처들은 예측 참조를 위한 지시-원천 픽처를 이용한다. 예를 들어, 시간적 로케이션 T0 에서의 뷰 S2 의 P-픽처는 시간적 로케이션 T0 에서의 뷰 S0 의 I-픽처로부터 예측된다.
단일 뷰 비디오 인코딩에서와 같이, 멀티뷰 비디오 코딩 비디오 시퀀스의 픽처들은 상이한 시간적 로케이션들에서의 픽처들에 대하여 예측 방식으로 인코딩될 수도 있다. 예를 들어, 시간적 로케이션 T1 에서의 뷰 S0 의 b-픽처는, b-픽처가 I-픽처로부터 예측됨을 표시하는, 시간적 로케이션 T0 에서의 뷰 S0 의 I-픽처로부터 그것으로 지시된 화살표를 가진다. 그러나, 추가적으로, 멀티뷰 비디오 인코딩의 전후상황에서는, 픽처들이 인터-뷰 예측될 수도 있다. 즉, 뷰 컴포넌트는 참조를 위한 다른 뷰들에서의 뷰 컴포넌트들을 이용할 수 있다. MVC 에서는, 예를 들어, 인터-뷰 예측이 또 다른 뷰에서의 뷰 컴포넌트가 인터-예측 참조인 것처럼 실현된다. 잠재적인 인터-뷰 참조들은 시퀀스 파라미터 세트 (SPS) MVC 확장에서 시그널링되고, 인터-예측 또는 인터-뷰 예측 참조들의 플렉시블 순서화 (flexible ordering) 를 가능하게 하는 참조 픽처 리스트 구성 프로세스에 의해 수정될 수 있다. 인터-뷰 예측은 또한, 3D-HEVC (멀티뷰 플러스 심도) 를 포함하는 HEVC 의 제안된 멀티뷰 확장의 특징이다.
도 3 은 인터-뷰 예측의 다양한 예들을 제공한다. 도 3 의 예에서, 뷰 (S1) 의 픽처들은 동일한 시간적 로케이션들에서의 뷰들 (S0 및 S2) 의 픽처들의 픽처들로부터 인터-뷰 예측되는 것뿐만 아니라, 뷰 (S1) 의 상이한 시간적 로케이션들에서의 픽처들로부터 예측되는 것으로 예시되어 있다. 예를 들어, 시간적 로케이션 T1 에서의 뷰 S1 의 b-픽처는 시간적 로케이션 T1 에서의 뷰들 S0 및 S2 의 b-픽처들뿐만 아니라, 시간적 로케이션들 T0 및 T2 에서의 뷰 S1 의 B-픽처들의 각각으로부터 예측된다.
일부의 예들에서, 도 3 은 텍스처 뷰 컴포넌트들을 예시하는 것으로 보여질 수도 있다. 예를 들어, 도 2 에서 예시된 I-픽처, P-픽처, B-픽처, 및 b-픽처들은 뷰들의 각각에 대한 텍스처 뷰 컴포넌트들로서 간주될 수도 있다. 이 개시물에서 설명된 기법들에 따르면, 도 3 에서 예시된 텍스처 뷰 컴포넌트들의 각각에 대하여, 대응하는 심도 뷰 컴포넌트가 있다. 일부의 예들에서, 심도 뷰 컴포넌트들은 대응하는 텍스처 뷰 컴포넌트들에 대해 도 3 에서 예시된 것과 유사한 방식으로 예측될 수도 있다.
2 개의 뷰들의 코딩은 또한 MVC 에 의해 지원될 수도 있다. MVC 의 장점들 중의 하나는, MVC 인코더가 2 개를 초과하는 뷰들을 3D 비디오 입력으로서 취할 수도 있고 MVC 디코더가 이러한 멀티뷰 표현을 디코딩할 수도 있다는 점이다. 이와 같이, MVC 디코더를 갖는 임의의 렌더러는 2 개를 초과하는 뷰들을 갖는 3D 비디오 컨텐츠를 디코딩할 수도 있다.
위에서 논의된 바와 같이, MVC 에서는, 인터-뷰 예측이 동일한 액세스 유닛 (일부의 사례들에서, 동일한 시간 인스턴스를 갖는 것을 의미함) 에서의 픽처들 사이에서 허용된다. 비-기본 뷰 (non-base view) 들 중의 하나에서의 픽처를 코딩할 때, 픽처가 상이한 뷰에 있지만 동일한 시간 인스턴스 내에 있을 경우, 픽처는 참조 픽처 리스트 내로 추가될 수도 있다. 인터-뷰 예측 참조 픽처는 임의의 인터-예측 참조 픽처처럼, 참조 픽처 리스트의 임의의 위치에 놓여질 수도 있다. 도 3 에서 도시된 바와 같이, 뷰 컴포넌트는 참조를 위한 다른 뷰들에서의 뷰 컴포넌트들을 이용할 수 있다. MVC 에서는, 인터-뷰 예측이 또 다른 뷰에서의 뷰 컴포넌트가 인터-예측 참조였던 것처럼 실현된다.
MVC 에서는, 인터-뷰 예측이 동일한 액세스 유닛 (즉, 동일한 시간 인스턴스를 가짐) 에서의 픽처들 사이에서 허용된다. 비-기본 뷰들 중의 하나에서의 픽처를 코딩할 때, 픽처가 상이한 뷰에 있지만 동일한 시간 인스턴스를 가질 경우, 픽처는 참조 픽처 리스트 내로 추가될 수도 있다. 인터-뷰 예측 참조 픽처는 임의의 인터 예측 참조 픽처처럼, 참조 픽처 리스트의 임의의 위치에 놓여질 수 있다.
도 3 에서 도시된 바와 같이, 뷰 컴포넌트는 참조를 위한 다른 뷰들에서의 뷰 컴포넌트들을 이용할 수 있다. 이것은 인터-뷰 예측으로 칭해진다. MVC 에서는, 인터-뷰 예측이 또 다른 뷰에서의 뷰 컴포넌트가 인터 예측 참조였던 것처럼 실현된다.
멀티뷰 비디오 코딩의 전후상황에서는, 2 개의 종류들의 모션 벡터들이 있다. 하나는 시간적 참조 픽처들을 지시하는 정상적인 모션 벡터이다. 대응하는 시간적 인터 예측은 모션-보상된 예측 (motion-compensated prediction; MCP) 이다. 다른 타입의 모션 벡터는 상이한 뷰에서의 픽처들 (즉, 인터-뷰 참조 픽처들) 을 지시하는 디스패리티 모션 벡터이다. 대응하는 인터 예측은 디스패리티-보상된 예측 (disparity-compensated prediction; DCP) 이다.
현재, VCEG 및 MPEG 의 3D 비디오 코딩에 관한 합동 협력 팀 (JCT-3V) 은 H.264/AVC 에 기초한 3DV 표준, 즉, 3D-AVC 를 개발하고 있다. 3D-AVC 를 위하여, MVC 에서의 인터-뷰 예측 이외의 새로운 코딩 툴들이 포함되고 지원되었다. 3D-AVC 를 위한 최신 소프트웨어 3D-ATM 은 다음의 링크로부터 다운로드될 수 있다: [3D-ATM 버전 6.2]: http://mpeg3dv.research.nokia.com/svn/mpeg3dv/tags/3DV-ATMv6.2/
3D 비디오에 기초한 AVC (3D-AVC) 코딩 표준은 JCT-3V 에 의해 현재 개발 중에 있고, 3D-AVC 의 최신 버전은 지금 공개적으로 이용가능하다: M. M. Hannuksela, Y. Chen, T. Suzuki, J.-R. Ohm, G. J. Sullivan, "3D-AVC draft text 5 (3D-AVC 초안 텍스트 5)", JCT3V-C1002, Geneva, CH, Jan., 2013. 그것은 다음의 링크로부터 이용가능하고, 이것에 의해 참조를 위해 편입된다: http://phenix.it-sudparis.eu/jct2/doc_end_user/documents/3_Geneva/wg11/JCT3V-C1002-v3.zip.
3D-AVC 는, 기본 뷰의 텍스처 부분이 H.264/AVC 디코더를 위해 완전히 디코딩가능한 그러한 방법으로 H.264/AVC 와 호환가능하다. 예를 들어, 기본 뷰의 뷰 컴포넌트들에서의 텍스처 뷰 컴포넌트들은 동일한 기본 뷰에서의 다른 텍스처 뷰 컴포넌트들과 인터-예측되기만 할 수도 있다. 기본 뷰에서의 텍스처 뷰 컴포넌트들은 인터-뷰 예측되지 않을 수도 있다. 또한, 기본 뷰에서의 텍스처 뷰 컴포넌트는 디코딩 목적들을 위하여 대응하는 심도 뷰 컴포넌트를 요구하지 않을 수도 있다.
3D-AVC 에서의 증강된 뷰 컴포넌트들에 대하여, 일부의 다른 예의 기법들에서는, 심도가 텍스처 이전에 코딩될 수도 있고, 텍스처 뷰 컴포넌트는 심도 뷰 컴포넌트로부터의 정보에 기초하여 코딩될 수도 있고, 이것은 심도-우선 코딩으로서 또한 알려져 있다. 그러나, 각각의 텍스처 뷰 컴포넌트는 위에서 설명된 MVC+D 에서와 같이, 텍스처-우선 코딩 순서에서 각각의 심도 뷰 컴포넌트들 이전에 코딩된다. 다시 말해서, 일부의 다른 예의 기법들에서는, 3D-AVC 에서, 기본 뷰의 텍스처 뷰 컴포넌트가 먼저 코딩되고, 그 다음으로, 기본 뷰의 연관된 심도 뷰 컴포넌트, 그 다음으로, 제 1 증강 또는 종속 뷰의 심도 뷰 컴포넌트, 그 다음으로, 제 1 증강 또는 종속 뷰의 연관된 텍스처 뷰 컴포넌트, 그 다음으로, 제 2 증강 또는 종속 뷰의 심도 뷰 컴포넌트, 그 다음으로, 제 2 증강 또는 종속 뷰의 연관된 텍스처 뷰 컴포넌트, 등등이 코딩된다.
예를 들어, 3D-AVC 에서의 텍스처 및 심도 뷰 컴포넌트들의 코딩 순서들은 다음과 같이 예시된다. 다음의 예들에서, T0 및 D0 은 각각 기본 뷰의 텍스처 및 심도 뷰 컴포넌트들을 지칭하고, Ti 및 Di 는 각각 i-번째 종속 뷰의 텍스처 및 심도 뷰 컴포넌트들을 지칭한다. 다음의 예들에서는, 3 개의 뷰들이 고려된다.
제 1 예에서, 고려된 뷰들은 T0, D0, D1, D2, T1, 및 T2 이다. 이 예에서, 기본 뷰들 (T0 및 D0) 은 텍스처-우선 코딩 순서로 코딩되는 반면, 종속 뷰들은 심도-우선 코딩 순서로 코딩된다. 하이브리드 코딩 순서는 3D-AVC 의 보편적인 테스트 조건들에서 현재 이용된다. 또 다른 예에서, 코딩의 순서는 T0, D0, T1, D1, T2, 및 D2 이다. 즉, 모든 뷰 컴포넌트들은 텍스처-우선 코딩 순서로 코딩된다. 인터-뷰 예측이 Ti 에 대해 가능하게 될 경우, 참조 텍스처 뷰는 인터-뷰 참조 픽처를 포함하는 뷰로서 정의되고, 대응하는 심도 뷰는 참조 텍스처 뷰의 뷰 순서 인덱스와 동일한 뷰 순서 인덱스를 가지는 참조 심도 뷰로서 정의된다.
텍스처 뷰 컴포넌트의 블록에 대한 디스패리티 벡터를 도출하는 것은 대응하는 심도 뷰 컴포넌트를 요구하였으므로, 일부의 다른 3D-AVC 기법들은 심도 우선 코딩을 요구하였다. 다음은 심도 맵을 통한 이러한 디스패리티 벡터 도출을 설명한다. 디스패리티 벡터를 도출하기 위한 기법들은 각각의 로우-레벨 코딩 툴과 함께 변동될 수도 있지만, 보편적으로, 종속 뷰의 심도 데이터는 텍스처 뷰 컴포넌트 코딩에 대한 디스패리티 벡터 도출을 위해 이용된다. 이것은 심도-우선 코딩 순서로 인해, 종속 뷰의 심도 뷰가 이용가능하기 때문이다. 이용된 로우-레벨 코딩 툴들은 3D-AVC 에서의 루프내 (in-loop) 블록-기반 뷰 합성 인터-뷰 예측 (block-based view synthesis inter-view prediction; BVSP) 및 심도-기반 모션 벡터 예측 (depth-based motion vector prediction; D-MVP) 이다. 비디오 코더, 예컨대, 비디오 디코더 (30) 는 종속 뷰 (때때로, 종속 프레임으로 칭해짐) 에서의 심도 뷰 (때때로, 심도 맵으로 칭해짐) 의 심도 값들로부터 변환된 디스패리티 벡터를 이용할 수도 있다. 3D-AVC 참조 소프트웨어에서는, 전형적으로, 실제적인 심도 맵 값으로부터 특별한 뷰로의 디스패리티로의 변환 프로세스의 결과들이 카메라 파라미터들을 갖는 룩업 테이블들 내에 저장된다.
도 4 는 역방향 워핑에 기초한 BVSP 의 개념도이다. BVSP 는 원래 W. Su 등에 의해 "3DV-CE1.a: Block-Based View Synthesis Prediction for 3DV-ATM (3DV-ATM 에 대한 블록-기반 뷰 합성 예측)" (JCT3V-A0107) 에서 제안되었고, 이것은 다음의 링크로부터 다운로드될 수 있고, 이것에 의해, 참조를 위해 편입된다:http://phenix.it-sudparis.eu/jct2/doc_end_user/documents/1_Stockholm/wg11/JCT3V-A0107-v1.zip. 도 4 를 참조하면, 다음의 코딩 순서가 사용되는 것으로 가정한다: (T0, D0, D1, T1). 텍스처 컴포넌트 T0 는 기본 뷰이고, T1 은 VSP (뷰 합성 예측) 로 코딩된 종속 뷰이다. 심도 맵 컴포넌트들 D0 및 D1 은 T0 및 T1 과 연관된 각각의 심도 맵들이다.
종속 뷰 T1 에서는, 현재 코딩된 블록 Cb 의 샘플 값들이 기본 뷰 T0 의 샘플 값들로 구성되는 참조 구역 R(Cb) 로부터 예측된다 (VSP-예측). 코딩되어야 할 현재의 샘플들 및 참조 샘플들 사이의 변위 벡터 (Disp_vec) 는 현재 코딩된 텍스처 샘플과 연관된 심도 맵으로부터 T1 및 T0 사이의 도출된 디스패리티 벡터로서 나타내어진다.
심도 값으로부터 디스패리티 벡터로의 변환의 프로세스는 예를 들어, 다음의 수학식들로 수행될 수도 있다:
Figure pct00001
여기서, j 및 i 는 Cb 내의 로컬 공간적 좌표들이고,
Figure pct00002
는 뷰 1 의 심도 맵 이미지에서의 심도 맵 값이고, Z 는 실제적인 대응하는 심도 값이고, D 는 특별한 뷰 0 로의 도출된 디스패리티 벡터의 수평 컴포넌트이다. f, b, Znear 및 Zfar 의 파라미터들은 카메라 설정을 특정하는 파라미터들이다; 즉, 이용된 초점 길이 (f), 뷰 #1 및 뷰 #0 사이의 카메라 간격 (b), 및 심도 맵 변환의 파라미터들을 나타내는 심도 범위 (Znear, Zfar).
일부의 예들에서, 도출된 디스패리티 벡터의 수직 컴포넌트는 0 으로 설정된다. 또한, 일부의 3DV-ATM 구현에서, 수학식들 (1) 및 (2) 는 매 심도 맵 값 (0…255) 에 대해 이미 사전-연산되었고, 룩업 테이블로서 저장되었다.
다음 섹션은 BVSP 의 몇몇 구현 쟁점들을 논의할 것이다. 하나의 쟁점은 BVSP 블록들의 표시를 포함한다. BVSP 블록들은 다음과 같이 표시된다:
- MB-레벨에서의 하나의 플래그는 현재의 MB 가 기존의 스킵/직접 모드로 코딩되는지, 또는 그것이 스킵/직접 모드로 코딩되지만 합성 참조 컴포넌트로부터 예측되는지 여부를 시그널링하기 위하여 이용된다.
- (16x16 으로부터 8x8 까지의) 각각의 MB 파티션에 대하여, 각각의 참조 픽처 리스트에서의 참조 인덱스 (또는 3D-AVC 에 대한 일부의 제안들에서와 같이, 플래그) 는 참조 픽처를 시그널링하기 위하여 이용된다. 파티션이 BVSP 모드에서 코딩될 때, BVSP 코딩된 블록들에 대한 모션 벡터들이 없으므로, 모션 벡터 차이들은 시그널링되지 않는다.
플래그 또는 참조 인덱스의 어느 하나가 합성 참조 컴포넌트를 표시할 때, 다음의 항목에서 설명된 바와 같은 하나의 파티션의 예측이 호출된다. NxM (여기서, N 또는 M 은 8 또는 16일 것임) 에 의해 나타내어진 그 사이즈를 갖는 각각의 MB 파티션에 대하여, MB 파티션이 BVSP 모드로 코딩될 경우, 현재의 MB 파티션은 KxK (여기서, K 는 8x8, 3D-AVC 에 대한 일부의 제안들에서와 같이, 4x4, 2x2 또는 1x1 일수도 있음) 와 동일한 사이즈를 갖는 몇몇 서브-영역 (sub-region) 들로 추가로 파티셔닝된다. 각각의 서브-영역에 대하여, 별도의 디스패리티 벡터가 도출되고, 각각의 서브-영역은 인터-뷰 참조 픽처에서의 도출된 디스패리티 벡터에 의해 표시된 하나의 블록, 즉, 도 4 에서의 R(cb) 로부터 예측된다. 일부의 예의 보편적인 테스트 조건들에서, K 는 4 인 것으로 정의된다. 이러한 벡터들을 이용하는 코딩 툴들이 없으므로, 도출된 디스패리티 벡터들은 BVSP 코딩된 블록들에 대해 저장되지 않는 것에 주목해야 한다.
또 다른 구현 쟁점은 디스패리티 벡터 도출 프로세스를 포함한다. 심도-우선 코딩 순서가 적용될 때, 도출된 디스패리티 벡터는 도 4 에서 도시된 바와 같이, 대응하는 비-기본 심도 뷰에서의 대응하는 심도 블록의 심도 값을 변환함으로써 얻어질 수도 있다. 몇몇 기법들은 심도 블록의 중심 위치의 심도 값, 하나의 심도 블록 내의 모든 심도 값들 중의 최대 값, 하나의 심도 블록 내의 4 개의 코너 픽셀들 중의 최대 값, 및 심도 블록/심도 MB 의 하부-우측 픽셀의 심도 값과 같은 하나의 심도 블록의 심도 값을 선택하기 위하여 적용될 수도 있다. 텍스처 우선 코딩 순서가 적용될 때, 대응하는 비-기본 심도 뷰는 비-기본 텍스처 뷰를 디코딩할 때에 이용가능하지 않으므로, BVSP 모드들은 디스에이블 (disable) 될 것이다.
정상적인 인터 모드들에 대한 3D-AVC 에서의 심도-기반 모션 벡터 예측 (D-MVP) 이 지금부터 논의될 것이다. D-MVP 는 심도-우선 코딩 순서로 인해 이용가능한, 현재의 뷰에서의 연관된 심도 맵 데이터를 편입시키는 모션 벡터 예측 방법을 지칭한다. 방법은 종속 뷰들에서의 텍스처 뷰 컴포넌트들과 함께 적용된다.
3D-AVC 에서, D-MVP 방법은 H.264/AVC 의 기존의 중간 함수-기반 (median function-based) 모션 벡터 예측 내로 편입된다. 구체적으로, 예측되어야 할 모션 벡터의 타입 (즉, 시간적 모션 벡터 또는 디스패리티 모션 벡터인지 여부) 이 이웃하는 블록들에서의 모션 벡터들의 참조 인덱스들로부터 먼저 식별되고, 이에 따라, 모션 예측의 타입이 결정된다. 도 8 에서 도시된 바와 같이, 현재의 파티션에 대한 이웃하는 블록들은 현재의 블록에 관련하여 좌측 블록 ('A' 로서 나타냄), 상부 블록 ('B' 로서 나타냄), 상부-우측 블록 ('C' 로서 나타냄), 및 상부-좌측 블록 ('D' 로서 나타냄) 을 순서대로 포함할 수도 있다. 상부-좌측 블록에서의 모션 벡터는 다른 3 개의 이웃하는 블록들 중의 하나가 모션 벡터를 포함하지 않고 이에 따라, 이용불가능한 것으로 간주될 때에 이용될 수도 있다.
3 개의 이웃하는 블록들의 모션 벡터들이 이용가능한 것으로 가정하면, 3 개의 이웃하는 블록들에서의 모션 벡터들은 현재의 블록의 모션 벡터 예측을 위해 채용된다. 시간적 예측에서는, 그 모션 벡터들이 모두 동일한 타입을 가지며 동일한 참조 인덱스들을 가질 경우, H.264/AVC 에서와 같이, 중간 필터 (median filter) 가 직접 이용된다. 이와 다르게, 모션 벡터들이 상이한 타입들에 속하고 상이한 참조 인덱스들을 가질 경우, 현재의 블록에 대한 모션 벡터가 추가로 도출된다. 현재의 참조 픽처가 인터-뷰 참조 픽처일 때, 이웃하는 블록 위치들에서의 모션 벡터 타입들 및 그 참조 인덱스들이 검사된다. 이웃하는 블록들이 모두 동일한 타입 및 동일한 참조 인덱스들을 가질 경우, 중간 필터가 적용된다. 양자의 경우들에 있어서, 3 개 미만의 이웃하는 블록들이 이용가능할 경우, 이용불가능한 블록들에 대한 모션 벡터들은 3 개의 이웃하는 블록들이 이용가능해지도록 추가로 도출된다.
이웃하는 블록에 대해 도출된 모션 벡터는 도출된 모션 벡터로 칭해지고, 다음과 같이 생성된다. 현재의 모션 벡터가 디스패리티 모션 벡터이고, 이웃하는 블록에 대한 모션 벡터가 현재의 모션 벡터의 타입과 상이한 타입을 가질 (또는 이용불가능) 경우, 이웃하는 블록의 도출된 모션 벡터는 대응하는 심도 뷰 컴포넌트로부터 변환되는 디스패리티 모션 벡터인 것으로 설정된다. 동일한 뷰의 심도 뷰 컴포넌트의 대응하는 블록이 이용되고, 이 대응하는 블록의 4 개의 코너들의 심도 값들의 최대 값은 도출된 모션 벡터의 수평 컴포넌트가 되는 디스패리티 값으로 변환된다. 도출된 모션 벡터의 수직 컴포넌트는 제로인 것으로 설정된다.
현재의 모션 벡터가 시간적 모션 벡터일 경우, (위에서 논의된 바와 같이 도출된) 디스패리티 값은 참조 (기본) 뷰에서 참조 블록의 시간적 모션 벡터를 결정하기 위하여 이용되고, 도출된 모션 벡터는 시간적 모션 벡터인 것으로 설정된다. 시간적 모션 벡터가 이용불가능한 것으로 간주될 경우 (예컨대, 인트라 블록의 경우, 또는 모션 벡터가 현재의 참조 픽처와 정렬된 참조 뷰에서의 참조 픽처를 지시하지 않을 경우), 도출된 모션 벡터는 제로로 설정된다.
스킵 및 직접 모드들에 대한 3D-AVC 에서의 인터-뷰 모션 예측이 지금부터 논의될 것이다. 3D-AVC 에서의 인터-뷰 모션 예측은 P-스킵, B-스킵, B-16x16 직접 모드, 및 B-8x8 직접 모드에서 수행된다. 디스패리티 벡터는 동일한 뷰의 심도 뷰 컴포넌트의 심도 값들로부터 변환된 디스패리티 벡터를 도출할 뿐만 아니라, 이웃하는 블록들로부터 초기에 도출될 수도 있다.
하나의 이용가능한 공간적으로 이웃하는 블록이 디스패리티 모션 벡터를 포함할 경우, 이 디스패리티 모션 벡터는 현재의 블록에 대한 디스패리티 벡터가 된다. 이와 다르게, 디스패리티 모션 벡터를 포함하지 않는 이웃하는 블록들에 대해서는, 현재의 블록에 대해 이용되어야 할 디스패리티 모션 벡터가 동일한 뷰에 대응하는 심도 값들로부터 변환된다 (D-MVP 에서의 변환과 유사함). 일부의 예들에서, 중간 필터는 디스패리티 벡터를 얻기 위하여 3 개의 이웃하는 블록들에 적용된다.
도출된 벡터는 참조 (기본) 뷰에서의 참조 블록에 관련하여 시간적 모션 벡터를 얻기 위하여 이용될 수도 있다. 시간적 모션 벡터가 이용불가능할 경우, 참조 인덱스가 먼저 도출될 수도 있고, 위에서 논의된 D-MVP 프로세스는 모션 벡터 예측자 (motion vector predictor) 를 생성하기 위하여 적용된다.
이웃하는 블록-기반 디스패리티 벡터 (Neighboring block-based disparity vector; NBDV) 도출이 지금부터 설명될 것이다. NBDV 는 텍스처-우선 코딩 순서가 모든 뷰들에 대해 이용될 때에 3D-HEVC 에서 디스패리티 벡터 도출 방법으로서 이용된다. 현재의 3D-HEVC 설계에서, NBDV 도출는 또한, 참조 뷰의 심도 맵으로부터 심도 데이터를 취출 (retrieve) 하기 위하여 이용된다.
3D-HEVC 의 작업 초안뿐만 아니라, 참조 소프트웨어 설명의 하나의 버전은 다음과 같이 이용가능할 것이고, 이것에 의해, 참조를 위해 편입된다. Gerhard Tech, Krzysztof Wegner, Ying Chen, Sehoon Yea, "3D-HEVC Test Model Description draft 2 (3D-HEVC 테스트 모델 설명 초안 2)" JCT3V-B1005, ITU-T SG 16 WP 3 및 ISO/IEC JTC 1/SC 29/WG 11 의 3D 비디오 코딩 확장 개발에 관한 합동 협력 팀, 2 차 회의: Shanghai, CN, Oct. 2012.
디스패리티 벡터 (disparity vector; DV) 는 2 개의 뷰들 사이의 디스패리티의 추정자 (estimator) 로서 이용된다. 즉, 디스패리티 벡터는 현재의 픽처에서의 블록에 관련하여, 동일한 시간 인스턴스에서의 이미 코딩된 픽처 내의 대응하는 블록에 대한 포인터이다. 이웃하는 블록들이 비디오 코딩에서 거의 동일한 모션/디스패리티 정보를 공유하므로, 현재의 블록은 이웃하는 블록들에서의 모션 벡터 정보를 양호한 예측자로서 이용할 수 있다. 이 사상에 후속하여, NBDV 도출 프로세스는 상이한 뷰들에서 디스패리티 벡터를 추정하기 위하여 이웃하는 블록들의 디스패리티 정보를 이용한다.
NDBD 도출을 수행하기 위하여, 후보 이웃하는 블록들이 초기에 정의된다. 이웃하는 후보 블록들의 2 개의 세트들이 사용된다. 하나의 세트는 공간적으로 이웃하는 블록들로부터 나온 것이고, 다른 세트는 시간적으로 이웃하는 블록들로부터 나온 것이다. 다음으로, 공간적 및 시간적으로 이웃하는 후보 블록들의 각각은 현재의 블록 및 후보 블록 사이의 상관의 우선순위에 의해 결정된 미리 정의된 순서로 검사된다. 일단 디스패리티 모션 벡터 (즉, 모션 벡터가 인터-뷰 참조 픽처를 지시함) 가 후보들에서 구해지면, 디스패리티 모션 벡터는 디스패리티 벡터로 변환된다.
3D-HEVC 에서의 NBDV 도출의 구체적인 예들이 지금부터 논의될 것이다. 3D-HEVC 는 JCT3V-A0097 에서 제안된 이웃하는 블록 (기반) 디스패리티 벡터 (Neighboring Block (based) Disparity Vector; NBDV) 방법을 최초로 채택하였다. 묵시적 디스패리티 벡터들이 JCTVC-A0126 에서의 간략화된 NBDV 도출 프로세스와 함께 포함되었다. 그것 외에, JCT3V-B0047 에서는, NBDV 도출이 디코딩된 픽처 버퍼에서 저장된 묵시적 디스패리티 벡터들을 제거함으로써 추가로 간략화되고, 뿐만 아니라, 랜덤 액세스 포인트 (radom access point; RAP) 픽처 선택으로 코딩 이득이 개선된다.
JCT3V-A0097: 3D-CE5.h: Disparity vector generation results (디스패리티 벡터 생성 결과들), L. Zhang, Y. Chen, M. Karczewicz (Qualcomm) 는 이것에 의해 참조를 위해 편입된다.
JCT3V-A0126: 3D-CE5.h: Simplification of disparity vector derivation for HEVC-based 3D video coding (HEVC-기반 3D 비디오 코딩을 위한 디스패리티 벡터 도출의 간략화), J. Sung, M. Koo, S. Yea (LG) 은 이것에 의해 참조를 위해 편입된다.
JCT3V-B0047: 3D-CE5.h related: Improvements for disparity vector derivation (디스패리티 벡터 도출을 위한 개선들), J. Kang, Y. Chen, L. Zhang, M. Karczewicz (Qualcomm) 은 이것에 의해 참조를 위해 편입된다.
NBDV 도출을 위한 일부의 제안들에서는, 5 개의 공간적으로 이웃하는 블록들이 디스패리티 벡터 도출을 위해 이용된다. 도 5 에서 도시된 바와 같이, 5 개의 공간적 이웃 블록들은 A0, A1, B0, B1, 또는 B2 에 의해 나타낸 바와 같이, 현재의 PU (500) 의 하부-좌측, 좌측, 상부-우측, 상부 및 상부-좌측 블록들이다. 이들은 HEVC 에서의 병합 모드들에서 이용된 것들과 동일하다는 것에 주목해야 한다. 그러므로, 추가적인 메모리 액세스들이 전혀 요구되지 않는다.
시간적으로 이웃하는 블록들을 검사하기 전에, 후보 픽처 리스트의 구성 프로세스가 먼저 수행된다. 현재의 뷰로부터의 모든 참조 픽처들은 후보 픽처들로서 다루어질 수도 있다. 공동-위치된 참조 픽처가 먼저 후보 픽처 리스트에 삽입되고, 그 다음으로, 후보 픽처들의 나머지가 참조 인덱스의 상승 순서로 삽입된다. 양자의 참조 픽처 리스트들에서 동일한 참조 인덱스를 갖는 참조 픽처들이 이용가능할 때, 공동-위치된 픽처와 동일한 참조 픽처 리스트에 있는 참조 픽처는 일치하는 참조 인덱스를 가지는 다른 참조 픽처에 선행한다. 후보 픽처 리스트에서의 각각의 후보 픽처에 대하여, 3 개의 후보 영역들이 시간적으로 이웃하는 블록들을 도출하기 위하여 결정된다.
블록이 인터-뷰 모션 예측으로 코딩될 때, 디스패리티 벡터는 상이한 뷰에서 대응하는 블록을 선택하기 위하여 도출된다. 인터-뷰 모션 예측에서 도출된 디스패리티 벡터는 묵시적 디스패리티 벡터 (implicit disparity vector; IDV) 로서 지칭될 수도 있다. 블록이 모션 예측으로 코딩되더라도, IDV 들은 후행하는 블록을 코딩할 목적으로 폐기되지 않는다.
전형적으로, NBDV 도출 프로세스는 시간적으로 이웃하는 블록들에서의 디스패리티 모션 벡터들, 공간적으로 이웃하는 블록들에서의 디스패리티 모션 벡터들, 및 다음으로 IDV 를 그 순서로 검사하는 것을 포함한다. 일단 디스패리티 벡터가 구해지면, 프로세스가 종결된다.
3D-HEVC 에서의 역방향 VSP 가 지금부터 논의될 것이다. 3D-HEVC 에서는, 텍스처-우선 코딩 순서가 적용될 때, 각각의 예측 유닛 (PU) 에 대하여, 디스패리티 벡터는 참조 심도 뷰에서의 심도 값들을 고려하거나 고려하지 않으면서 NBDV 도출 프로세스로부터 도출될 수 있다. 디스패리티 벡터가 얻어진 후, 그것이 BVSP 모드로 코딩될 경우, 그것은 하나의 PU 의 각각의 MxN (여기서, M/N 은 예를 들어, 8 또는 4 와 동일할 수도 있음) 서브-영역에 대해 추가로 세분화될 것이다.
세분화 프로세스는 2 개의 단계들을 포함한다: 1) 도출된 디스패리티 벡터에 의해 로케이팅되는 참조 심도 뷰에서의 MxN 심도 블록으로부터 하나의 최대 심도 값을 선택하고; 2) 세분화된 디스패리티 벡터의 수직 컴포넌트를 0 이 되도록 유지하면서, 심도 값을 세분화된 디스패리티 벡터의 수평 컴포넌트로 변환함. 디스패리티 벡터가 하나의 PU 의 하나의 MxN 서브-영역에 대해 세분화된 후, 세분화된 디스패리티 벡터는 모션 보상을 위한 참조 텍스처 뷰에서 하나의 블록을 위치시키기 위하여 이용된다.
3D-AVC 에서의 NBDV 도출 프로세스가 지금부터 논의될 것이다. 참조를 위해 본원에 편입되는, 2014 년 2 월 25 일자로 출원된 공동-계류 중인 미국 특허 출원 제 14/189,177 호에서 설명된 바와 같이, MB-레벨 NBDV 도출는 현재의 MB 에 대한 디스패리티 벡터를 도출하기 위하여 이용될 수도 있다. 도출된 디스패리티 벡터는 모션 벡터 예측을 위해 추가로 이용될 수도 있다. 일단 디스패리티 모션 벡터가 식별되면, 즉, 시간적 또는 공간적으로 이웃하는 블록 중의 하나가 인터-뷰 참조 픽처를 이용하면, 그것은 현재의 MB 에 대한 디스패리티 벡터로 반환된다.
다음은 미국 특허 출원 제 14/189,177 호의 기법들을 더욱 상세하게 설명한다. 일부의 이전 3D-AVC 기법들은 텍스처 뷰 컴포넌트의 심도 뷰 컴포넌트가 디스패리티 벡터 도출을 위해 이용가능할 것을 요구하였고 (즉, 종속 또는 증강 뷰들에 대해 심도-우선 코딩을 요구함), 이것은 디코딩 지연, 구현 복잡성, 다른 비디오 코딩 표준들에 대한 스케일러빌러티의 결여, 심도 뷰 컴포넌트들이 필요하지 않을 경우의 대역폭 비효율들, 및 다른 잠재적인 단점들과 같은 쟁점들로 이어진다.
미국 특허 출원 제 14/189,177 호에서 설명된 기법들은 대응하는 심도 뷰 컴포넌트에 의존할 것을 요구하지 않는 디스패리티 벡터 도출을 허용한다. 이러한 방식으로, 기법들은 디스패리티 벡터 도출로 종속 뷰들에 대한 3D-AVC 에서의 텍스처-우선 코딩을 허용한다. 디스패리티 벡터 도출을 달성하기 위하여, 미국 특허 출원 제 14/189,177 호에서 설명된 기법들은 이웃하는 블록들의 모션 벡터 정보에 의존한다. 하나의 예로서, 이웃하는 블록에 대한 모션 벡터가 디스패리티 모션 벡터일 경우, 기법들은 이웃하는 블록의 디스패리티 모션 벡터를 현재의 블록에 대한 디스패리티 벡터로서 사용한다. 이러한 방식으로, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 대응하는 심도 뷰 컴포넌트에 의존할 필요 없이 텍스처 뷰 컴포넌트의 현재의 매크로블록에 대한 디스패리티 벡터를 결정할 수도 있다.
비디오 인코더 (20) 및 비디오 디코더 (30) 는 미국 특허 출원 제 14/189,177 호에서 설명된 기법들을 구현하도록 구성될 수도 있다. 예를 들어, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 텍스처 뷰가 각각의 뷰 컴포넌트에 대해 먼저 코딩되도록 함으로써 3D-AVC 의 효율적인 코딩을 가능하게 하는 기법들을 구현하도록 구성될 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 는, 텍스처-우선 코딩 순서로 인해 대응하는 심도 데이터가 3D-AVC 에서 이용가능하지 않을 (또는 아직 이용가능하지 않음) 때에 현재의 블록의 공간적/시간적으로 이웃하는 블록들로부터의 하나를 초과하는 이용가능한 디스패리티 모션 벡터를 고려하는 NBDV 의 관념을 이용하여 디스패리티 벡터를 도출할 수도 있다.
하나의 예로서, 비디오 디코더 (30) 는 종속 뷰들의 텍스처-우선 코딩으로 생성된 3D-AVC 호환 비디오 코딩 프로세스에서의 코딩된 비트스트림을 수신할 수도 있다. 이 예에서, 3D-AVC 호환 비디오 코딩 프로세스는 3D-AVC 비디오 코딩 표준에서 정의된 비디오 코딩 툴들을 이용하는 비디오 코딩 프로세스를 지칭한다. 종속 뷰들의 텍스처-우선 코딩은 텍스처 뷰 컴포넌트들이 대응하는 심도 뷰 컴포넌트들 (즉, T0, D0, T1, D1 등등) 이전에 코딩되는 경우를 지칭한다.
비디오 디코더 (30) 는 3D-AVC 호환 비디오 코딩 프로세스에서 종속 뷰들 중의 종속 뷰의 텍스처 뷰 컴포넌트를 디코딩할 수도 있다. 이 예에서, 텍스처 뷰 컴포넌트를 디코딩하기 위하여, 비디오 디코더 (30) 는 적어도 하나의 이웃하는 블록이 종속 뷰 이외의 뷰에서의 인터-뷰 참조 픽처를 참조하는 디스패리티 모션 벡터로 인터-뷰 예측되는지 여부를 결정하기 위하여 텍스처 뷰 컴포넌트에서의 현재의 블록의 하나 이상의 이웃하는 블록들의 모션 정보를 평가하도록 구성될 수도 있다. 또한, 텍스처 뷰 컴포넌트를 디코딩하기 위하여, 비디오 디코더 (30) 는 이웃하는 블록들 중의 하나에 대한 디스패리티 모션 벡터에 기초하여 현재의 블록에 대한 디스패리티 벡터를 도출하도록 구성될 수도 있다. 비디오 디코더 (30) 는 텍스처 뷰 컴포넌트를 디코딩하는 것에 후속하여, 텍스처 뷰 컴포넌트에 대응하는 심도 뷰 컴포넌트를 디코딩할 수도 있다.
또 다른 예로서, 비디오 인코더 (20) 는 3D-AVC 호환 비디오 코딩 프로세스에서 종속 뷰의 텍스처 뷰 컴포넌트를 인코딩할 수도 있다. 이 예에서, 텍스처 뷰 컴포넌트를 인코딩하기 위하여, 비디오 인코더 (20) 는 적어도 하나의 이웃하는 블록이 종속 뷰 이외의 뷰에서의 인터-뷰 참조 픽처를 참조하는 디스패리티 모션 벡터로 인터-뷰 예측되는지 여부를 결정하기 위하여 텍스처 뷰 컴포넌트에서의 현재의 블록의 하나 이상의 이웃하는 블록들의 모션 정보를 평가하도록 구성될 수도 있다. 또한, 텍스처 뷰 컴포넌트를 인코딩하기 위하여, 비디오 인코더 (20) 는 이웃하는 블록들 중의 하나에 대한 디스패리티 모션 벡터에 기초하여 현재의 블록에 대한 디스패리티 벡터를 도출하도록 구성될 수도 있다.
비디오 인코더 (20) 는 텍스처 뷰 컴포넌트를 인코딩하는 것에 후속하여, 텍스처 뷰 컴포넌트에 대응하는 심도 뷰 컴포넌트를 인코딩할 수도 있다. 비디오 인코더 (20) 는 또한, 인코딩된 텍스처 뷰 컴포넌트 및 인코딩된 심도 뷰 컴포넌트를 포함하는 종속 뷰들의 텍스처-우선 코딩으로 출력을 위한 코딩된 비트스트림을 생성할 수도 있다.
3D-AVC 에 대한 현재의 제안들은 다음의 문제들을 나타낸다. 미국 특허 출원 제 14/189,177 호에서 설명된 NBDV 방법을 사용할 때, BVSP 는 주로 디스패리티 벡터들이 항상 충분히 정확하지 않다는 이유로 인해 덜 효율적으로 된다. 또한, BVSP 블록들에 대한 (예컨대, NBDV 로부터의) 도출된 디스패리티 벡터들은 코딩되어야 할 블록에 대한 더욱 정확한 디스패리티 벡터들을 제공할 수도 있다. 그러나, BVSP 에서의 이러한 도출된 디스패리티 벡터들의 이용은 NBDV 도출와 함께 이전에 채용되었다.
이 단점들을 감안하여, 이 개시물은 비-기본 텍스처 뷰 컴포넌트가 대응하는 비-기본 심도 뷰 컴포넌트 전에 코딩될 때에 3D-AVC 호환 비디오 인코더들 및 비디오 디코더들을 위한 BVSP 를 가능하게 하기 위한 해결책들을 제공한다. 게다가, 다른 인터 코딩 모드들의 코딩 이득은 또한, 이 개시물의 기법들에 의해 제공된 바와 같이, 정교하게 만들어진 디스패리티 벡터의 도출로 인해 개선된다.
초기에, 개선된 NBDV 도출 프로세스가 이 개시물에서 제안된다. 이 개시물의 어떤 양태들은 BVSP 를 반드시 요구하지는 않지만, 이 개시물의 NBDV 도출 프로세스는 BVSP 를 편입하도록 수정된다. 이하의 기법들의 각각은 비디오 인코더 (20) 에 의해 마찬가지로 구현될 수도 있다는 것을 이해해야 하지만, 다음의 설명은 비디오 디코더 (30) 를 참조하여 설명될 것이다. 비디오 디코더 (30) 및 비디오 인코더 (20) 의 양자는 이 개시물의 기법들을 실행하도록 구성된 하나 이상의 프로세서들로 구현될 수도 있다. 일부의 예들에서, 비디오 디코더 (30) 및 비디오 인코더 (20) 의 하나 이상의 프로세서들은 하나 이상의 비-일시적인 컴퓨터-판독가능한 저장 매체들 상에 저장된 소프트웨어를 실행하도록 구성될 수도 있다. 또한, 이 개시물의 전후상황에서, "비디오 코더" 는 비디오 인코더 및 비디오 디코더의 양자에 적용하는 일반적인 용어인 것을 이해해야 한다. 마찬가지로, 용어 "비디오 코딩" 은 비디오 인코딩 또는 비디오 디코딩의 어느 하나를 지칭할 수 있다.
이 개시물의 제 1 예의 NBDV 도출 프로세스로서, 비디오 디코더 (30) 는 공간적 또는 시간적으로 이웃하는 블록이 BVSP 모드로 코딩되는지를 결정하도록 구성된다. 이 검사는 NBDV 도출 프로세스에 대해 정의된 각각의 공간적 또는 시간적으로 이웃하는 블록에 대해 수행된다. 이웃하는 블록이 BVSP 모드로 코딩될 경우, 비디오 디코더 (30) 는 이웃하는 블록이 현재의 픽처 또는 상이한 픽처에서 위치되는지 여부에 관계 없이, BVSP 모드로 코딩된 이웃하는 블록에 속하는 모션 벡터를 디스패리티 모션 벡터로서 지정한다. 다시 말해서, 비디오 디코더 (30) 는 NBDV 도출 프로세스 동안에, BVSP 로 코딩된 이웃하는 블록들에서의 모션 벡터들과, 인터-뷰 예측으로 코딩된 이웃하는 블록들에서의 모션 벡터들의 양자를, 이용가능한 디스패리티 모션 벡터들로서 지정한다.
이 개시물의 제 2 예의 NBDV 도출 프로세스에서는, 이웃하는 블록들에서의 BVSP 모드들의 용법을 검사함으로써, 미국 특허 출원 제 14/189,177 호의 기법들을 이용한 하나의 MB 파티션에 대한 MB-레벨 NBDV 도출 프로세스가 개선될 수도 있다.
제 2 예의 제 1 양태에서, 비디오 디코더 (30) 는 이하의 2 개의 다음 조건들 중의 어느 하나가 참 (true) 일 때, 각각의 시간적 및/또는 공간적으로 이웃하는 블록을 이용한 NBDV 도출을 이용하여 디스패리티 벡터를 도출하도록 구성될 수도 있다. (1) 이웃하는 블록이 인터-뷰 예측을 이용하여 코딩될 경우, 또는 (2) 이웃하는 블록이 BVSP 모드를 이용하여 코딩될 경우. 이웃하는 블록이 인터-뷰 예측을 이용하여 코딩될 경우에는, 비디오 디코더 (30) 가 이웃하는 블록과 연관된 디스패리티 모션 벡터를 현재의 블록에 대한 디스패리티 벡터로서 지정한다. 이웃하는 블록이 BVSP 모드를 이용하여 코딩되었을 경우에는, 비디오 디코더 (30) 가 이웃하는 블록의 디코딩 동안에 생성된 디스패리티 벡터를 현재의 블록에 대한 디스패리티 벡터로서 지정한다.
개시물의 제 2 예의 제 2 양태에서는, 비디오 디코더 (30) 가 2-단계 검사 절차를 채용하는 것일 수도 있다. 먼저, 비디오 디코더 (30) 는 공간적 및/또는 시간적으로 이웃하는 블록들의 적어도 하나가 인터-뷰 예측을 이용하여 코딩되는지 여부를 검사하도록 구성된다. 그렇지 않을 경우, 다음으로, 비디오 디코더 (30) 는 공간적 및/또는 시간적으로 이웃하는 블록들의 적어도 하나가 BVSP 모드를 이용하여 코딩되는지 여부를 검사한다.
개시물의 제 2 예의 제 3 양태에서는, 위에서 설명된 2-단계 검사 프로세스가 뒤집어진다. 먼저, 비디오 디코더 (30) 는 이웃하는 블록들의 적어도 하나가 BVSP 모드를 이용하여 코딩되는지 여부를 먼저 검사하도록 구성된다. 그렇지 않을 경우, 비디오 디코더 (30) 는 모든 공간적 (및/또는) 시간적으로 이웃하는 블록들의 적어도 하나가 인터-뷰 예측을 이용하여 코딩되는지 여부를 검사하도록 구성된다.
제 2 예의 상기 설명된 양태들의 각각은 MB-레벨 NBDV 도출 알고리즘들뿐만 아니라, 파티션-레벨 NBDV 도출 알고리즘들에 적용될 수도 있다.
이 개시물의 제 3 예의 NBDV 도출 프로세스에서, MB-레벨 NBDV 도출 프로세스는, 참조 심도 뷰를 액세스하는 것을 포함하는 프로세스의 끝에 추가적인 단계를 추가함으로써 추가로 세분화될 수도 있다. 일부의 예들에서, 비디오 디코더 (30) 는 이 추가적인 단계를 BVSP 모드를 이용하여 코딩된 블록들에, BVSP 모드를 이용하여 코딩되지 않은 인터 예측된 블록들에, 또는 모든 인터 예측된 블록들에 채용하도록 구성될 수도 있다.
제 3 예의 제 1 양태에서, 비디오 디코더 (30) 는 심도 참조 뷰에서의 하나의 심도 블록으로부터 하나의 심도 값을 선택하고, 그 심도 값을 업데이트된 디스패리티 벡터로 변환하도록 구성될 수도 있다. 다음으로, 이 업데이트된 디스패리티 벡터는 현재의 MB 내의 모든 MB 파티션들에 적용된다. 일부의 예들에서, 비디오 디코더 (30) 는 이 업데이트된/세분화된 디스패리티 벡터를 현재의 MB 또는 MB 파티션의 최종 디스패리티 모션 벡터로서 저장하도록 추가로 구성될 수도 있다.
이 개시물의 제 4 예의 NBDV 도출 프로세스에서, 비디오 디코더 (30) 는, 현재의 MB 가 디코딩된 후에, MB 의 도출된 (즉, NBDV 도출을 이용하여 도출된) 디스패리티 벡터를 현재의 MB 에 대한 모션 벡터로서 저장하도록 구성될 수도 있다.
이 개시물의 제 5 예의 NBDV 도출 프로세스에서, 비디오 디코더 (30) 는 BVSP 모드를 이용하여 코딩된 적어도 하나의 MB 파티션을 포함하는 MB 들에 대해 추가적인 메모리를 할당하도록 구성될 수도 있다. 이 경우, MB 들의 디스패리티 벡터들이 저장될 수 있고, MB 파티션들의 임의의 디코딩된 모션 벡터들을 겹쳐쓰기 (overwrite) 할 필요가 없다.
제 5 예의 제 1 양태에서는, 적어도 하나의 MB 파티션이 BVSP 모드를 이용하여 코딩될 경우에 NBDV 도출 프로세스로부터 도출된 MB 의 디스패리티 벡터를 저장하기 위하여, MB 당 하나의 추가적인 모션 벡터가 할당된다.
제 5 예의 제 2 양태에서, NBDV 도출 프로세스를 채용할 때, 비디오 디코더 (30) 는, 이웃하는 블록이 BVSP 모드를 이용하여 코딩될 때, 이 이웃하는 블록을 포함하는 MB 와 연관된 디스패리티 벡터를 현재의 MB 에 대한 디스패리티 벡터로서 이용하도록 추가로 구성될 수도 있다.
이 개시물의 제 6 예의 NBDV 도출 프로세스에서, 비디오 디코더 (30) 는 정상적인 인터 모드들에서의 D-MVP 및 스킵 및 직접 모드들에서의 인터-뷰 모션 벡터 예측과 같이, 디스패리티 벡터에 종속되는 코딩 툴들에 대해 상기 예의 기법들의 임의의 조합을 채용하도록 구성될 수도 있다. 이 예에서, 개선된 NBDV 도출 프로세스의 결과들은 코딩 툴들을 위해 이용된다. 예를 들어, D-MVP 프로세스 동안, 이 개시물의 개선된 NBDV 도출 프로세스로부터 생성된 결과적인 디스패리티 벡터는 다른 NBDV 도출 프로세스들의 결과 (예컨대, 미국 특허 출원 제 14/189,177 호에서 설명된 NBDV 도출 프로세스로부터의 결과) 를 대체하기 위하여 이용될 수도 있다.
상기 예들 및 예들의 양태들 중의 임의의 것은 임의의 조합으로 함께 수행될 수도 있다는 것을 이해해야 한다.
개선된 BVSP 프로세스는 또한, 위에서 설명된 바와 같이, 개선된 NBDV 도출 프로세스를 이용하여 이 개시물에서 제안되어 있다. 그러나, 개선된 BVSP 프로세스가 더욱 정확한 디스패리티 벡터들을 생성한다는 이유로 인해, NBDV 도출 결과들은 또한 마찬가지로 개선될 수도 있다 (즉, 도출된 디스패리티 벡터들의 정확도가 개선될 수도 있음).
개시물의 제 1 예의 BVSP 프로세스에서는, BVSP 프로세스 동안, MB-레벨 NBDV 도출 프로세스 및 서브-영역 레벨 디스패리티 벡터 세분화 프로세스가 조합된다. 우선, 비디오 디코더 (30) 는 각각의 MB 에 대해 디스패리티 벡터를 도출하도록 구성될 수도 있다. 비디오 디코더 (30) 는 위에서 설명된 개선된 NBDV 도출 프로세스를 이용하여, 또는 미국 특허 출원 제 14/189,177 호에서 설명된 바와 같은 NBDV 프로세스로 디스패리티 벡터를 도출하도록 구성될 수도 있다.
다음으로, 비디오 디코더 (30) 는 현재의 MB 또는 MB 파티션의 각각의 8x8 서브-영역에 대해 디스패리티 벡터를 세분화하도록 구성될 수도 있다. 비디오 디코더 (30) 는 BVSP 모드로 코딩된 현재의 MB 또는 MB 파티션의 각각의 서브-영역에 대한 모션 보상을 위하여 세분화된 디스패리티 벡터들을 이용할 수도 있다. MB 또는 MB 파티션의 각각의 서브-영역에 대한 디스패리티 벡터의 세분화는 참조 뷰의 심도 뷰 컴포넌트에 종속된다. 하나의 예에서, 각각의 서브-영역에 대하여, 참조 뷰의 심도 컴포넌트에서의 대응하는 심도 블록은 NBDV 도출 프로세스로부터의 디스패리티 벡터에 의해 식별된다. 대응하는 심도 블록에서의 4 개의 코너 픽셀들의 최대 값은 세분화된 디스패리티 벡터의 수평 컴포넌트로 변환된다. 세분화된 디스패리티 벡터의 수직 컴포넌트는 0 으로 설정된다. 여기서, 세분화된 디스패리티 벡터는 위에서 논의된 바와 같이, BVSP 모드로 코딩된 서브-영역들에 대한 도출된 디스패리티 벡터와 동일하다는 것에 주목한다.
제 1 BVSP 예의 제 1 양태에서, 서브-영역의 사이즈는 KxK 일 수도 있고, K 는 8 과 상이하고, 예를 들어, 16x16, 4x4, 2x2, 또는 1x1 이다. 제 1 BVSP 예의 제 2 양태에서, 비디오 디코더 (30) 는 하나의 MB 파티션에 대해 디스패리티 벡터를 한 번 세분화하거나, K 가 8 보다 더 작을 때에도, 하나의 MB 파티션 내의 각각의 8x8 영역에 대해 디스패리티 벡터를 세분화하도록 구성된다.
제 1 BVSP 예의 제 3 양태에서, 비디오 디코더 (30) 는 참조 뷰의 심도 뷰 컴포넌트에서 (NBDV 도출 프로세스에 의해 생성된) 디스패리티 벡터에 의해 식별된 참조 블록의 하나 이상의 심도 픽셀들로부터 심도 값을 선택하도록 구성될 수도 있다. 일부의 예들에서, 비디오 디코더 (30) 는 (NBDV 도출 프로세스로부터 도출된 디스패리티 벡터에 의해 로케이팅되는) 참조 심도 뷰에서의 식별된 심도 블록의 중심 내의 또는 그 중심 근처의 전체 심도 픽셀들을 선택하지 않도록 구성될 수도 있다. 그 대신에, 하나의 예에서, 비디오 디코더 (30) 는 식별된 심도 블록의 코너 위치들에서 위치된 심도 픽셀들을 선택하도록 구성될 수도 있다.
제 1 BVSP 예의 제 4 양태에서, 비디오 디코더 (30) 는 세분화된 디스패리티 벡터의 수직 컴포넌트에 대하여, NBDV 도출 프로세스로부터 도출된 디스패리티 벡터의 수직 컴포넌트를 승계하도록 구성될 수도 있다. 제 1 BVSP 예의 제 5 양태에서, 비디오 디코더 (30) 는 세분화된 디스패리티 벡터의 수직 컴포넌트를 0 과 동일하게 설정하도록 구성될 수도 있다.
이 개시물의 제 2 예의 BVSP 프로세스에서, 비디오 디코더 (30) 는 현재의 MB 가 코딩된 후에, BVSP 모드를 이용하여 코딩된 MB 파티션에 대하여, 각각의 서브-영역의 세분화된 디스패리티 벡터를 MB 파티션에 대한 모션 벡터로서 저장하도록 구성된다. 하나의 예에서, 이 프로세스는 MB 서브-영역의 사이즈가 4x4 이상일 경우에 수행된다. 저장된 디스패리티 벡터들은 위에서 설명된 이 개시물의 NBDV 도출 프로세스에서 이용될 수도 있다.
제 2 BVSP 예의 제 1 양태에서, 서브-영역의 세분화된 사이즈가 8x8 일 때 (즉, K 가 8 과 동일할 때), 비디오 디코더 (30) 는 MB 파티션 사이즈가 8x8 과 동일할 때에만, 세분화된 디스패리티 벡터를 MB 파티션의 모션 벡터로서 저장하도록 구성될 수도 있다. 다른 MB 파티션들에 대하여, 비디오 디코더 (30) 는, 현재의 MB 가 코딩된 후에, NBDV 도출 프로세스로부터의 MB 의 도출된 디스패리티 벡터를 디스패리티 모션 벡터로서 저장하도록 구성된다.
제 2 BVSP 예의 제 2 양태에서, 비디오 디코더 (30) 는 참조 픽처 인덱스를, 인터-뷰 참조 픽처를 표시하는 인덱스에 의해 대체하도록 추가로 구성될 수도 있다.
제 2 BVSP 예의 제 3 양태에서는, 일단 BVSP 모드로 코딩된 MB 파티션이 코딩되면, 상기 설명된 BVSP 기법들의 각각이 직접 적용될 수도 있다. 즉, 예를 들어, 비디오 디코더 (30) 는 전체의 MB 가 완전히 디코딩될 때까지 대기할 필요가 없다.
이 개시물의 제 3 예의 BVSP 프로세스에서, 비디오 디코더 (30) 는 BVSP 모드를 이용하여 코딩되는 적어도 하나의 MB 파티션을 포함하는 MB 들에 대해 추가적인 메모리를 할당하도록 구성될 수도 있다. 이 경우, BVSP 파티션의 모션 보상을 위해 이용된 각각의 서브-영역의 세분화된 디스패리티 벡터가 저장될 수 있고 겹쳐쓰기될 필요가 없다.
제 3 BVSP 예의 제 1 양태에서, 비디오 디코더 (30) 는, 파티션이 BVSP 모드를 이용하여 코딩될 경우에 세분화된 디스패리티 벡터들을 저장하기 위하여, 하나의 MB 파티션에 대하여 MB 당 (16/K)*(16/K) 에 이르는 추가적인 모션 벡터들을 할당하도록 구성될 수도 있다.
제 3 BVSP 예의 제 2 양태에서, NBDV 도출 프로세스에서는, 하나의 이웃하는 블록이 BVSP 모드를 이용하여 코딩될 때, 이 이웃하는 블록을 포함하는 서브-영역과 연관된 세분화된 디스패리티 벡터는 현재의 MB 에 대한 디스패리티 벡터로서 이용될 것이다.
상기 방법들의 각각은 또한, 코딩 유닛 (CU) 들에 의해 대체된 MB 들과, 예측 유닛 (PU) 들에 의해 대체된 MB 파티션들과 함께 3D-HEVC 에 적용될 수도 있다.
1 일 예의 구현
개시물의 다음 섹션은 일 예의 구현들을 논의할 것이다. 텍스처-우선 코딩 순서가 가능하게 되는 방법으로 3D-AVC 를 구성할 때, BVSP 의 디코딩 프로세스는 다음의 단계들을 포함할 수도 있다. 대안적으로, 이하의 섹션 1.2 에서 설명된 방법은 디스패리티 벡터를 요구하는 다른 코딩 툴들, 예를 들어, 3D-AVC 에서의 D-MVP 에 적용될 수도 있다.
섹션 1.1 BVSP 모드의 일 예의 표시
하나의 예에서, 심도-우선 코딩 순서를 이용한 3D-AVC 에 대한 이전의 제안들에서 이용된 바와 같이, 하나 이상의 MB 파티션들이 BVSP 를 이용하여 코딩된다는 표시가 재이용될 수도 있다. 또 다른 예에서, BVSP 또는 기존의 인터-예측 (시간적 예측 또는 인터-뷰 예측) 이 이용되는지 여부를 표시하기 위하여, 참조 인덱스 대신에, 하나의 플래그가 각각의 MB 파티션에서 시그널링될 수도 있다.
섹션 1.2 일 예의 디스패리티 벡터 도출 프로세스
NBDV 도출 프로세스는 이하의 서브-섹션 1.2.1 및 1.2.2 에서 설명된다. BVSP 코딩된 파티션들에서의 각각의 서브-영역에 대한 모션 보상을 위하여 이용되는 세분화된 디스패리티 벡터들의 생성 프로세스는 이하의 서브-섹션 1.2.3 에서 설명된다.
NBDV 도출 프로세스로부터 디스패리티 벡터를 도출하는 프로세스는 하나의 매크로블록을 디코딩하기 전에 호출될 수도 있다. 또 다른 예에서, 또한, 디스패리티 벡터들을 세분화하는 프로세스는 BVSP 모드로 코딩된 MB 파티션들에 대해 호출될 수도 있다. 또 다른 예에서, NBDV 로부터 디스패리티 벡터를 도출하는 프로세스는, 하나의 MB 파티션이 BVSP 모드 및/또는 다른 인터 모드들로 코딩될 때에 호출될 수도 있다.
또 다른 예에서, 이하의 서브-섹션 1.2.1 및 1.2.3 의 기법들은 순서대로 수행되고, 다음으로, 서브-섹션 1.2.3 의 기법들로부터 생성된 서브-영역들의 세분화된 디스패리티 벡터들은 BVSP 코딩된 MB 파티션들의 모션 보상을 위해 이용된다. 또한, 이하의 서브-섹션 1.2.1 의 기법들로부터 생성된 디스패리티 벡터들은 D-MVP 에서 적용될 수도 있다.
또 다른 예에서는, 서브-섹션들 1.2.1, 1.2.2 및 1.2.3 의 기법들이 순서대로 호출된다. 다음으로, 이하의 섹션 1.2.2 의 기법들로부터 생성된 업데이트된 디스패리티 벡터는 BVSP 또는 다른 인터-모드들 중의 어느 하나로 코딩된 모든 MB 파티션들에 대해 이용된다. BVSP 모드로 코딩된 MB 파티션들에 대하여, 다음으로, 업데이트된 디스패리티 벡터는 BVSP 코딩된 MB 파티션들의 모션 보상을 위해 이용되는 서브-영역들의 세분화된 디스패리티 벡터들을 얻기 위하여 이용된다.
서브-섹션 1.2.1 심도 정보 없이 하나의 매크로블록에 대해 NBDV 도출 프로세스로부터 도출된 디스패리티 벡터
미국 특허 출원 제 14/189,177 호에서 설명된 바와 같이, MB-레벨 NBDV 도출 프로세스는 임의의 심도 정보를 고려하지 않고 적용될 수도 있다. 초기에, 비디오 디코더 (30) 는 어떤 수의 시간적 픽처 후보들을 선택하도록 구성될 수도 있고, 몇몇 미리 정의된 시간적으로 이웃하는 블록들이 후보 픽처에서 검사되고, 다음으로, 미리 정의된 공간적으로 이웃하는 블록들이 검사된다. 각각의 이웃하는 블록에 대하여, 그것이 RefPicList0 에서의 상이한 뷰 또는 합성 참조 컴포넌트 중의 어느 하나로부터 예측될 (즉, BVSP 모드를 이용하여 코딩됨) 경우, 디스패리티 모션 벡터 또는 이웃하는 블록의 연관된 도출된 디스패리티 벡터/세분화된 디스패리티 벡터는 도출된 디스패리티 벡터/세분화된 디스패리티 벡터의 수평 컴포넌트가 0 과 동일하지 않을 경우에 현재의 MB 의 디스패리티 벡터로서 반환된다.
또 다른 예에서, 비디오 디코더 (30) 는 참조 픽처 리스트 0 (RefPicList0) 및 참조 픽처 리스트 1 (RefPicList1) 의 양자를 임의의 순서로 검사하도록 구성될 수도 있다.
또 다른 예에서, 비디오 디코더 (30) 는 모든 공간적 (및/또는) 시간적으로 이웃하는 블록들이 인터-뷰 예측을 이용하든지 아닌지 간에, 모든 공간적 (및/또는) 시간적으로 이웃하는 블록들을 검사하도록 구성될 수도 있다. 그렇지 않을 경우, 비디오 디코더 (30) 는 이웃하는 블록들이 이웃하는 블록들을 검사하는 상이한 회차 (round) 에서 BVSP 모드를 이용하여 코딩되는지 여부를 검사한다.
또 다른 예에서, 비디오 디코더 (30) 는 이웃하는 블록들이 모든 이웃하는 블록들을 검사하는 제 1 회차에서 BVSP 모드를 이용하여 코딩되는지 여부를 먼저 검사하도록 구성된다. 블록들이 BVSP 모드를 이용하여 코딩되지 않을 경우, 다음으로, 비디오 디코더 (30) 는 블록들이 인터-뷰 예측을 이용하여 코딩되는지를 결정하기 위하여 모든 공간적 (및/또는) 시간적으로 이웃하는 블록들을 검사한다.
또 다른 예에서, 하나의 이웃하는 블록이 인터-뷰 예측 또는 BVSP 모드의 어느 하나로 코딩되지 않을 때, 비디오 디코더 (30) 는 이웃하는 블록을 포함하는 MB 의 디스패리티 벡터를 이용가능한 경우, 디스패리티 벡터로서 반환한다. MB 의 디스패리티 벡터는 MB 파티션들 중의 적어도 하나가 BVSP 모드를 이용하여 코딩될 때에만 이용가능하다.
서브-섹션 1.2.1.1 시간적/공간적으로 이웃하는 블록들의 선택
미국 특허 출원 제 14/189,177 호와 위에서 설명된 바와 같은 유사한 방법들은 NBDV 도출을 위해 시간적/공간적으로 이웃하는 블록들의 어느 것을 이용할 것인지의 선택을 위해 이용될 수도 있다. 시간적 픽처에서의 시간적으로 이웃하는 블록은 또한 BVSP 로 예측될 수 있고, MB 또는 MB 파티션으로 코딩된 BVSP 의 디스패리티 벡터가 또한 이용가능한 것으로서 간주되는 것에 주목해야 한다.
서브-섹션 1.2.2 심도 정보에 의한 MB-레벨 디스패리티 벡터 업데이트 프로세스
비디오 디코더 (30) 는 다음의 기법들을 이용하여 위에서 설명된 NBDV 도출 프로세스들을 이용하여 도출된 디스패리티 벡터를 업데이트하도록 구성될 수도 있다. 먼저, MB 의 사이즈를 K x K (여기서, K 는 16 일 수 있음) 로서, 현재의 픽처에 관련하여 현재의 MB 파티션의 상부-좌측 위치를 (x, y) 로서, 그리고 현재의 MB 에 대한 서브-섹션 1.2.1 에서의 NBDV 로부터 도출된 디스패리티 벡터를 (DV[0], DV[1]) 로서 나타내고, 여기서, DV[0] 및 DV[1] 은 디스패리티 벡터의 수평 및 수직 컴포넌트를 나타낸다. 하나의 심도 값 (D) 은 참조 심도 뷰에서의 4 개의 코너 픽셀들로부터 선택된다:
D = max (D0, D1, D2, D3)
함수 max(.) 는 Di (i 는 0 내지 3 임) 의 최대 값을 반환하고, Di 는 이하에서 위치되는 i-번째 픽셀 값을 나타낸다:
i=0: ((x + (DV[0] >> P)) >> reduced_resolution_flag, (y + (DV[1] >> P)) >> reduced_resolution_flag )
i=1: ((x + (DV[0] >> P) + K-1) >> reduced_resolution_flag, (y + (DV[1] >> P)) >> reduced_resolution_flag )
i=2: ((x + (DV[0] >> P)) >> reduced_resolution_flag, (y + (DV[1] >> P) + K-1) >> reduced_resolution_flag )
i=3: ((x + (DV[0] >> P) + K-1) >> reduced_resolution_flag, (y + (DV[1] >> P) + K-1) >> reduced_resolution_flag )
1 과 동일한 신택스 엘리먼트 reduced_resolution_flag 는 뷰 컴포넌트 쌍의 심도 뷰 컴포넌트들이 동일한 뷰 컴포넌트 쌍의 텍스처 뷰 컴포넌트의 루마 컴포넌트보다 더 낮은 공간적 해상도를 가지는 것으로 특정하고, 심도 뷰 컴포넌트들의 폭 및 높이의 양자는 모든 텍스처 뷰 컴포넌트들의 폭 및 높이의 절반이다. 0 과 동일한 신택스 엘리먼트 reduced_resolution_flag 는, 심도 뷰 컴폰너트들 및 텍스처 뷰 컴포넌트들의 양자가 존재할 때, 이들이 동일한 공간적 해상도를 가지는 것으로 특정한다. P 는 디스패리티 벡터가 1/4 픽셀 정밀도에 있을 때에 2 와 동일하고, 1/2 픽셀 정밀도에 대해 1, 그리고 정수-픽셀 정밀도에 대해 0 과 동일한 디스패리티 벡터들의 정밀도를 나타낸다.
또 다른 예에서, max (D0, D3) 는 심도 값을 선택하기 위하여 이용될 수도 있다.
또 다른 예에서, 참조 심도 뷰에서의 공동-위치된 MB 내의 다른 픽셀들이 이용될 수도 있다.
다음으로, 비디오 디코더 (30) 는 현재의 MB 영역 내의 서브-영역에 대한 선택된 심도 값으로부터 업데이트된 디스패리티 벡터의 수평 컴포넌트를 변환하도록 구성될 수도 있다. 업데이트된 디스패리티 벡터의 수직 컴포넌트는 0 으로 설정된다.
또 다른 예에서, 업데이트된 디스패리티 벡터의 수직 컴포넌트는 NBDV 로부터 도출된 디스패리티 벡터의 수직 컴포넌트로 설정될 수도 있다.
또 다른 예에서, K 는 8, 4, 또는 2 와 동일할 수도 있다.
업데이트된 디스패리티 벡터는 현재의 MB 내의 모든 파티션들에 대해 이용될 수도 있다.
섹션 1.2.3 BVSP 모드로 코딩된 각각의 MB 파티션에 대한 디스패리티 벡터 세분화
비디오 디코더 (30) 는 또한, MB 파티션이 BVSP 모드로 코딩될 (즉, 합성 참조 컴포넌트로부터 예측됨) 경우에, 각각의 MB 파티션의 각각의 서브-영역에 대해 하나의 세분화된 디스패리티 벡터를 도출하도록 구성될 수도 있다.
비디오 디코더 (30) 는 다음의 기법들을 이용하여 위에서 설명된 NBDV 도출 프로세스들을 이용하여 도출된 디스패리티 벡터를 세분화하도록 구성될 수도 있다. 먼저, 서브-영역의 사이즈를 K x K (여기서, K 는 8 일 수 있음) 로서, 현재의 픽처에 관련하여 현재의 MB 파티션 내의 하나의 서브-영역의 상부-좌측 위치를 (x, y) 로서, 그리고 현재의 MB 에 대한 NBDV 도출 프로세스로부터 도출된 디스패리티 벡터 (또는 서브-섹션 1.2.2 의 기법들을 수행한 후에 생성된 업데이트된 디스패리티 벡터) 를 (DV[0], DV[1]) 로서 나타내고, 여기서, DV[0] 및 DV[1] 은 디스패리티 벡터의 수평 및 수직 컴포넌트를 나타낸다. 하나의 심도 값 (D) 은 참조 심도 뷰에서의 4 개의 코너 픽셀들로부터 선택된다:
D = max (D0, D1, D2, D3)
함수 max(ㆍ) 는 Di (i 는 0 내지 3 임) 의 최대 값을 반환하고, Di 는 이하에서 위치되는 i-번째 픽셀 값을 나타낸다:
i=0: ((x + (DV[0] >> P)) >> reduced_resolution_flag, (y + (DV[1] >> P)) >> reduced_resolution_flag )
i=1: ((x + (DV[0] >> P) + K-1) >> reduced_resolution_flag, (y + (DV[1] >> P)) >> reduced_resolution_flag )
i=2: ((x + (DV[0] >> P)) >> reduced_resolution_flag, (y + (DV[1] >> P) + K-1) >> reduced_resolution_flag )
i=3: ((x + (DV[0] >> P) + K-1) >> reduced_resolution_flag, (y + (DV[1] >> P) + K-1) >> reduced_resolution_flag )
이 서브-섹션에 대하여, 신택스 엘리먼트 reduced_resolution_flag 및 P 는 섹션 1.2.2 에서 정의된다.
또 다른 예에서, max (D0, D3) 는 심도 값을 선택하기 위하여 이용될 수도 있다.
또 다른 예에서, 참조 심도 뷰에서의 공동-위치된 MB 내의 다른 픽셀들이 이용될 수도 있다.
비디오 디코더 (30) 는 현재의 MB 영역 내의 서브-영역에 대한 선택된 심도 값으로부터 세분화된 디스패리티 벡터의 수평 컴포넌트를 변환하도록 추가로 구성될 수도 있다. 세분화된 디스패리티 벡터의 수직 컴포넌트는 0 으로 설정된다. 또 다른 예에서, 세분화된 디스패리티 벡터의 수직 컴포넌트는 NBDV 로부터 도출된 디스패리티 벡터의 수직 컴포넌트로 설정될 수도 있다.
또 다른 예에서, K 는 4, 2, 또는 1 과 동일할 수도 있다.
섹션 1.3 BVSP 모드로 코딩된 하나의 MB 파티션의 예측
BVSP 모드로 코딩된 현재의 MB 파티션 내의 각각의 서브-영역에 대하여, 비디오 디코더 (30) 는 참조 텍스처 뷰에서 예측 블록을 얻기 위하여 세분화된 디스패리티 벡터를 이용하도록 구성될 수도 있다. 또 다른 예에서, BVSP 모드로 코딩된 각각의 MB 파티션에 대하여, 비디오 디코더 (30) 는 참조 텍스처 뷰에서 예측 블록을 얻기 위하여 NBDV 도출 프로세스로부터 도출된 디스패리티 벡터를 이용하도록 구성될 수도 있다. 현재의 MB 파티션의 잔차 블록 및 예측 블록들은 함께 MB 파티션을 재구성하기 위하여 이용된다.
섹션 1.4 BVSP 모드로 코딩된 MB 파티션들에 대한 모션 벡터 배정
비-기본 텍스처 뷰에서의 하나의 MB 가 완전히 디코딩된 후, 비디오 디코더 (30) 는 서브-섹션 1.2.3 에서 설명된 바와 같이, BVSP 모드를 이용하여 코딩되는 MB 파티션의 각각의 서브-영역에 대한 모션 벡터들로서 저장되는 세분화된 디스패리티 벡터들을 저장할 수도 있다.
또 다른 예에서, 비-기본 텍스처 뷰에서의 하나의 MB 가 완전히 디코딩된 후, 비디오 디코더 (30) 는 서브-섹션 1.2.1 에서 설명된 바와 같은 NBDV 도출 프로세스로부터 도출된 디스패리티 벡터, 또는 서브-섹션 1.2.2 에서 설명된 바와 같이 고려된 심도 정보로 업데이트된 디스패리티 벡터를, BVSP 모드를 이용하여 코딩되는 모든 MB 파티션들에 대한 모션 벡터로서 저장할 수도 있다.
또 다른 예에서, 비-기본 텍스처 뷰에서의 BVSP 모드로 코딩된 하나의 MB 파티션이 완전히 디코딩된 후, 비디오 디코더 (30) 는 서브-섹션 1.2.1 에서 설명된 바와 같은 MB-레벨 NBDV 도출 프로세스로부터 도출된 디스패리티 벡터, 또는 서브-섹션 1.2.2 에서 설명된 바와 같이 고려된 심도 정보로 업데이트된 디스패리티 벡터를, 이 MB 파티션에 대한 모션 벡터로서 직접적으로 저장할 수도 있다.
또 다른 예에서, 비-기본 텍스처 뷰에서의 BVSP 모드로 코딩된 하나의 MB 파티션이 디코딩된 후, 비디오 디코더 (30) 는 서브-섹션 1.2.3 에서 설명된 바와 같은, 각각의 서브-영역에 대한 세분화된 디스패리티 벡터들을 이 서브-영역에 대한 모션 벡터로서 직접적으로 저장할 수도 있다.
또 다른 예에서, 서브-섹션 1.2.2 에서 설명된 바와 같이, (가능한 세분화를 갖는) NBDV 도출 프로세스로부터 도출된 디스패리티 벡터를 저장하거나, BVSP 코딩된 파티션들에 대한 모션 벡터들로서 세분화된 디스패리티 벡터들을 저장하는 대신에, 비디오 디코더 (30) 는 이 정보를 저장하기 위하여 추가적인 메모리를 할당할 수도 있다.
또 다른 예에서, 비디오 디코더 (30) 는 현재의 MB 가 BVSP 모드로 코딩된 적어도 하나의 파티션을 가질 경우에, 서브-섹션 1.2.2 에서 설명된 바와 같이 (가능한 세분화를 갖는) NBDV 도출 프로세스로부터 도출된 디스패리티 벡터를 저장하기 위하여 MB 당 하나의 모션 벡터를 할당한다. NBDV 도출 프로세스 동안, 하나의 이웃하는 블록이 BVSP 모드를 이용할 때, 이 이웃하는 블록을 포함하는 MB 와 연관된 디스패리티 벡터는 현재의 MB 에 대한 디스패리티 벡터로서 이용될 것이다.
또 다른 예에서, 서브-영역의 사이즈가 8x8 과 동일할 때에 각각의 서브-영역에 대해 세분화된 디스패리티 벡터들을 저장하기 위하여, 4 개의 모션 벡터들이 MB 마다 할당된다. NBDV 도출 프로세스 동안, 하나의 이웃하는 블록이 BVSP 모드를 이용할 때, 비디오 디코더 (30) 는 이 이웃하는 블록을 포함하는 서브-영역과 연관된 디스패리티 벡터를 현재의 MB 에 대한 디스패리티 벡터로서 이용한다.
도 6 은 이 개시물에서 설명된 기법들을 구현할 수도 있는 비디오 인코더의 예를 예시하는 블록도이다. 예를 들어, 도 6 은 비디오 슬라이스들 내의 비디오 블록들의 인트라-코딩 및 인터-코딩을 수행할 수도 있는 비디오 인코더 (20) 를 예시한다. 예를 들어, 비디오 인코더 (20) 는 인터-예측 인코딩 또는 인트라-예측 인코딩을 수행할 수도 있다. 인트라-코딩은 주어진 비디오 프레임 또는 픽처 내의 비디오에서의 공간적 중복성을 감소시키거나 제거하기 위하여 공간적 예측에 의존한다. 인터-코딩은 비디오 시퀀스의 인접한 프레임들 또는 픽처들 내의 시간적 중복성 또는 상이한 뷰들에서의 픽처들 사이의 중복성을 감소시키거나 제거하기 위하여 시간적 예측 또는 인터-뷰 예측에 의존한다. 인트라-모드 (I 모드) 는 몇몇 공간 기반 압축 모드들 중의 임의의 것을 지칭할 수도 있다. 단방향성 예측 (P 모드) 또는 양방향-예측 (B 모드) 과 같은 인터-모드들은 몇몇 시간 기반 압축 모드들 중의 임의의 것을 지칭할 수도 있다.
도 6 의 예에서, 비디오 인코더 (20) 는 비디오 데이터 메모리 (40), 예측 프로세싱 유닛 (42), 참조 픽처 메모리 (64), 합산기 (50), 변환 프로세싱 유닛 (52), 양자화 프로세싱 유닛 (54), 및 엔트로피 인코딩 유닛 (56) 을 포함한다. 예측 프로세싱 유닛 (42) 은 모션 추정 유닛 (44), 모션 보상 유닛 (46), 및 인트라 예측 유닛 (48) 을 포함한다. 비디오 블록 재구성을 위하여, 비디오 인코더 (20) 는 또한, 역 양자화 프로세싱 유닛 (58), 역 변환 프로세싱 유닛 (60), 및 합산기 (62) 를 포함한다. 디블록킹 필터 (deblocking filter; 도 6 에서 도시되지 않음) 는 또한, 블록 경계들을 필터링하여 재구성된 비디오로부터 블록화 아티팩트 (blockiness artifact) 들을 제거하기 위하여 포함될 수도 있다. 희망하는 경우, 디블록킹 필터는 전형적으로 합산기 (62) 의 출력을 필터링할 것이다. (루프 내의 또는 루프 이후의) 추가적인 루프 필터들은 또한, 디블록킹 필터에 추가하여 이용될 수도 있다.
비디오 데이터 메모리 (40) 는 비디오 인코더 (20) 의 컴포넌트들에 의해 인코딩되어야 할 비디오 데이터를 저장할 수도 있다. 비디오 데이터 메모리 (40) 에서 저장된 비디오 데이터는 예를 들어, 비디오 소스 (18) 로부터 얻어질 수도 있다. 참조 픽처 메모리 (64) 는 (예컨대, 인트라-예측 또는 인터-예측 코딩 모드들로서 또한 지칭된, 인트라-코딩 또는 인터-코딩 모드들에서) 비디오 인코더 (20) 에 의해 비디오 데이터를 인코딩함에 있어서 이용하기 위한 참조 비디오 데이터를 저장하는 디코딩 픽처 버퍼 (decoding picture buffer; DPB) 의 하나의 예이다. 비디오 데이터 메모리 (40) 및 참조 픽처 메모리 (64) 는 동기식 DRAM (synchronous DRAM; SDRAM), 자기저항 RAM (magnetoresistive RAM; MRAM), 저항 RAM (resistive RAM; RRAM), 또는 다른 타입들의 메모리 디바이스들을 포함하는 동적 랜덤 액세스 메모리 (dynamic random access memory; DRAM) 와 같은 다양한 메모리 디바이스들 중의 임의의 것에 의해 형성될 수도 있다. 비디오 데이터 메모리 (40) 및 참조 픽처 메모리 (64) 는 동일한 메모리 디바이스 또는 별도의 메모리 디바이스들에 의해 제공될 수도 있다. 다양한 예들에서, 비디오 데이터 메모리 (40) 는 비디오 인코더 (20) 의 다른 컴포넌트들을 갖는 온-칩 (on-chip) 일 수도 있거나, 그러한 컴포넌트들에 관련된 오프-칩 (off-chip) 일 수도 있다.
비디오 인코더 (20) 는 비디오 데이터를 수신하고, 파티셔닝 유닛 (도시되지 않음) 은 데이터를 비디오 블록들로 파티셔닝한다. 이 파티셔닝은 또한, 비디오 블록 파티셔닝 (예컨대, 매크로블록 파티션들 및 파티션들의 서브-블록들) 뿐만 아니라, 슬라이스들, 타일들, 또는 다른 더 큰 유닛들로의 파티셔닝을 포함할 수도 있다. 비디오 인코더 (20) 는 인코딩되어야 할 비디오 슬라이스 내의 비디오 블록들을 인코딩하는 컴포넌트들을 일반적으로 예시한다. 슬라이스는 다수의 비디오 블록들로 (그리고 아마 타일들로서 지칭된 비디오 블록들의 세트들로) 분할될 수도 있다. 예측 프로세싱 유닛 (42) 은 에러 결과들 (예컨대, 코딩 레이트 및 왜곡의 레벨) 에 기초하여 현재의 비디오 블록에 대하여, 복수의 인트라 코딩 모드들 (인트라-예측 코딩 모드들) 중의 하나 또는 복수의 인터 코딩 모드들 (인터-예측 코딩 모드들) 중의 하나와 같은 복수의 가능한 코딩 모드들 중의 하나를 선택할 수도 있다. 예측 프로세싱 유닛 (42) 은 결과적인 인트라-코딩된 또는 인터-코딩된 블록을, 잔차 블록 데이터를 생성하기 위하여 합산기 (50) 에, 그리고 참조 픽처로서의 이용을 위한 인코딩된 블록을 재구성하기 위하여 합산기 (62) 에 제공할 수도 있다.
예측 프로세싱 유닛 (42) 내의 인트라 예측 유닛 (48) 은 공간적 압축을 제공하기 위하여, 코딩되어야 할 현재의 블록과 동일한 프레임 또는 슬라이스에서의 하나 이상의 이웃하는 블록들에 관련된 현재의 비디오 블록의 인트라-예측 코딩을 수행할 수도 있다. 예측 프로세싱 유닛 (42) 내의 모션 추정 유닛 (44) 및 모션 보상 유닛 (46) 은 시간적 압축을 제공하기 위하여, 하나 이상의 참조 픽처들 내의 하나 이상의 예측 블록들에 관련된 현재의 비디오 블록의 인터-예측 코딩을 수행한다.
모션 추정 유닛 (44) 은 비디오 시퀀스에 대한 미리 결정된 패턴에 따라 비디오 슬라이스에 대한 인터-예측 모드를 결정하도록 구성될 수도 있다. 미리 결정된 패턴은 시퀀스에서의 비디오 슬라이스들을 P 슬라이스들 또는 B 슬라이스들로서 지정할 수도 있다. 모션 추정 유닛 (44) 및 모션 보상 유닛 (46) 은 고도로 통합될 수도 있지만, 개념적인 목적들을 위하여 별도로 예시되어 있다. 모션 추정 유닛 (44) 에 의해 수행된 모션 추정은 비디오 블록들에 대한 모션을 추정하는 모션 벡터들을 생성하는 프로세스이다. 예를 들어, 모션 벡터는 참조 픽처 내에서의 예측 블록에 관련된 현재의 비디오 프레임 또는 픽처 내에서의 비디오 블록의 변위를 표시할 수도 있다.
예측 블록은, 절대차의 합 (sum of absolute difference; SAD), 제곱차의 합 (sum of square difference; SSD), 또는 다른 차이 메트릭들에 의해 결정될 수도 있는 픽셀 차이의 측면에서, 코딩되어야 할 비디오 블록과 근접하게 일치하는 것으로 판명되는 블록이다. 일부의 예들에서, 비디오 인코더 (20) 는 참조 픽처 메모리 (64) 내에 저장된 참조 픽처들의 정수 미만 (sub-integer) 픽셀 위치들에 대한 값들을 계산할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 참조 픽처의 1/4 픽셀 위치들, 1/8 픽셀 위치들, 또는 다른 분수 픽셀 위치들의 값들을 보간할 수도 있다. 그러므로, 모션 추정 유닛 (44) 은 전체 픽셀 위치들 및 분수 픽셀 위치들에 관련하여 모션 검색을 수행할 수도 있고, 분수 픽셀 정밀도를 갖는 모션 벡터를 출력할 수도 있다.
모션 추정 유닛 (44) 은 비디오 블록의 위치를 참조 픽처의 예측 블록의 위치와 비교함으로써, 인터-코딩된 (인터-예측 코딩된) 슬라이스에서의 비디오 블록에 대한 모션 벡터를 계산한다. 참조 픽처는 제 1 참조 픽처 리스트 (RefPicList0) 또는 제 2 참조 픽처 리스트 (RefPicList1) 로부터 선택될 수도 있고, 이들의 각각은 참조 픽처 메모리 (64) 내에 저장된 하나 이상의 참조 픽처들을 식별한다. 모션 추정 유닛 (44) 은 계산된 모션 벡터를 엔트로피 인코딩 유닛 (56) 및 모션 보상 유닛 (46) 으로 전송한다.
모션 보상 유닛 (46) 에 의해 수행된 모션 보상은 모션 추정에 의해 결정된 모션 벡터에 기초하여 예측 블록을 페치 (fetch) 하거나 생성하여, 서브-픽셀 정밀도 (sub-pixel precision) 로의 보간들을 아마도 수행하는 것을 포함할 수도 있다. 현재의 비디오 블록에 대한 모션 벡터를 수신할 시에, 모션 보상 유닛 (46) 은 모션 벡터가 참조 픽처 리스트들 중의 하나에서 지시하는 예측 블록을 위치시킬 수도 있다. 비디오 인코더 (20) 는 코딩되고 있는 현재의 비디오 블록의 픽셀 값들로부터 예측 블록의 픽셀 값들을 감산하여 픽셀 차이 값들을 형성함으로써 잔차 비디오 블록을 형성한다. 픽셀 차이 값들은 블록에 대한 잔차 데이터를 형성하고, 루마 및 크로마 차이 컴포넌트들의 양자를 포함할 수도 있다. 합산기 (50) 는 이 감산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 모션 보상 유닛 (46) 은 또한, 비디오 슬라이스의 비디오 블록들을 디코딩할 시에 비디오 디코더 (30) 에 의한 이용을 위하여 비디오 블록들 및 비디오 슬라이스와 연관된 신택스 엘리먼트들을 생성할 수도 있다.
인트라 예측 유닛 (48) 은 위에서 설명된 바와 같이, 모션 추정 유닛 (44) 및 모션 보상 유닛 (46) 에 의해 수행된 인터-예측에 대한 대안으로서, 현재의 블록을 인트라-예측할 수도 있다. 특히, 인트라 예측 유닛 (48) 은 현재의 블록을 인코딩하기 위하여 이용하기 위한 인트라-예측 모드를 결정할 수도 있다. 일부의 예들에서, 인트라 예측 유닛 (48) 은 예컨대, 별도의 인코딩 패스 (encoding pass) 들 동안에 다양한 인트라-예측 모드들을 이용하여 현재의 블록을 인코딩할 수도 있고, 인트라 예측 유닛 (48) (또는 일부의 예들에서, 모드 선택 유닛) 은 테스팅된 모드들로부터 이용하기 위한 적절한 인트라-예측 모드를 선택할 수도 있다. 예를 들어, 인트라 예측 유닛 (48) 은 다양한 테스팅된 인트라-예측 모드들에 대한 레이트-왜곡 분석을 이용하여 레이트-왜곡 값들을 계산할 수도 있고, 테스팅된 모드들 중에서 최상의 레이트-왜곡 특성들을 가지는 인트라-예측 모드를 선택할 수도 있다. 레이트-왜곡 분석은 일반적으로, 인코딩된 블록을 생성하기 위해 이용된 비트 레이트 (즉, 비트들의 수) 뿐만 아니라, 인코딩된 블록과, 인코딩된 블록을 생성하기 위하여 인코딩되었던 원래의 인코딩되지 않은 블록과의 사이의 왜곡 (또는 에러) 의 양을 결정한다. 인트라 예측 유닛 (48) 은 어느 인트라-예측 모드가 블록에 대한 최상의 레이트-왜곡 값을 나타내는지를 결정하기 위하여 다양한 인코딩된 블록들에 대한 왜곡들 및 레이트들로부터 비율 (ratio) 들을 계산할 수도 있다.
어떤 경우에도, 블록에 대한 인트라-예측 모드를 선택한 후, 인트라 예측 유닛 (48) 은 블록에 대한 선택된 인트라-예측 모드를 표시하는 정보를 엔트로피 인코딩 유닛 (56) 에 제공할 수도 있다. 엔트로피 인코딩 유닛 (56) 은 이 개시물의 기법들에 따라 선택된 인트라-예측 모드를 표시하는 정보를 인코딩할 수도 있다. 비디오 인코더 (20) 는 복수의 인트라-예측 모드 인덱스 표들 및 복수의 수정된 인트라-예측 모드 인덱스 표들 (또한 코드워드 맵핑 표 (codeword mapping table) 들로서 지칭됨) 을 포함할 수도 있는 송신된 비트스트림 구성 데이터에서, 다양한 블록들에 대한 인코딩 컨텍스트들의 정의들과, 컨텍스트들의 각각에 대해 이용하기 위한 가장 가능성 있는 인트라-예측 모드, 인트라-예측 모드 인덱스 표, 및 수정된 인트라-예측 모드 인덱스 표의 표시들을 포함할 수도 있다.
예측 프로세싱 유닛 (42) 이 인터-예측 또는 인트라-예측의 어느 하나를 통해 현재의 비디오 블록에 대한 예측 블록을 생성한 후, 비디오 인코더 (20) 는 현재의 비디오 블록으로부터 예측 블록을 감산함으로써 잔차 비디오 블록을 형성한다. 잔차 블록에서의 잔차 비디오 데이터는 변환 프로세싱 유닛 (52) 에 적용될 수도 있다. 변환 프로세싱 유닛 (52) 은 이산 코사인 변환 (discrete cosine transform; DCT) 또는 개념적으로 유사한 변환과 같은 변환을 이용하여 잔차 비디오 데이터를 잔차 변환 계수들로 변환한다. 변환 프로세싱 유닛 (52) 은 잔차 비디오 데이터를 픽셀 도메인으로부터, 주파수 도메인과 같은 변환 도메인으로 변환할 수도 있다.
변환 프로세싱 유닛 (52) 은 결과적인 변환 계수들을 양자화 프로세싱 유닛 (54) 으로 전송할 수도 있다. 양자화 프로세싱 유닛 (54) 은 비트 레이트를 추가로 감소시키기 위하여 변환 계수들을 양자화한다. 양자화 프로세스는 계수들의 일부 또는 전부와 연관된 비트 심도를 감소시킬 수도 있다. 양자화도는 양자화 파라미터를 조절함으로써 수정될 수도 있다. 일부의 예들에서, 다음으로, 양자화 프로세싱 유닛 (54) 은 양자화된 변환 계수들을 포함하는 행렬 (matrix) 의 스캔을 수행할 수도 있다. 대안적으로, 엔트로피 인코딩 유닛 (56) 은 스캔을 수행할 수도 있다.
양자화에 후속하여, 엔트로피 인코딩 유닛 (56) 은 양자화된 변환 계수들을 엔트로피 인코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 컨텍스트 적응 가변 길이 코딩 (CAVLC), 컨텍스트 적응 2 진 산술 코딩 (CABAC), 신택스-기반 컨텍스트-적응 2 진 산술 코딩 (SBAC), 확률 간격 파티셔닝 엔트로피 (PIPE) 코딩 또는 또 다른 엔트로피 인코딩 방법론 또는 기법을 수행할 수도 있다. 엔트로피 인코딩 유닛 (56) 에 의한 엔트로피 인코딩에 후속하여, 인코딩된 비트스트림은 비디오 디코더 (30) 로 송신될 수도 있거나, 비디오 디코더 (30) 에 의한 더 이후의 송신 또는 취출을 위해 아카이빙될 수도 있다. 엔트로피 인코딩 유닛 (56) 은 또한, 코딩되고 있는 현재의 비디오 슬라이스에 대한 모션 벡터들 및 다른 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다.
역 양자화 프로세싱 유닛 (58) 및 역 변환 프로세싱 유닛 (60) 은 참조 픽처의 참조 블록으로서의 더 이후의 이용을 위해 픽셀 도메인에서 잔차 블록을 재구성하기 위하여, 역 양자화 및 역 변환을 각각 적용한다. 모션 보상 유닛 (46) 은 잔차 블록을 참조 픽처 리스트들 중의 하나의 참조 픽처 리스트 내의 참조 픽처들 중의 하나의 참조 픽처의 예측 블록에 추가함으로써 참조 블록을 계산할 수도 있다. 모션 보상 유닛 (46) 은 또한, 모션 추정 시에 이용하기 위한 정수 미만 픽셀 값들을 계산하기 위하여 하나 이상의 보간 필터들을 재구성된 잔차 블록에 적용할 수도 있다. 합산기 (62) 는 참조 픽처 메모리 (64) 에서의 저장을 위한 참조 블록을 생성하기 위하여, 재구성된 잔차 블록을 모션 보상 유닛 (46) 에 의해 생성된 모션 보상된 예측 블록에 추가한다. 참조 블록은 후속 비디오 프레임 또는 픽처에서 블록을 인터-코딩하기 위하여, 모션 추정 유닛 (44) 및 모션 보상 유닛 (46) 에 의해 참조 블록으로서 이용될 수도 있다.
이러한 방식으로, 비디오 인코더 (20) 는 이 개시물에서 설명된 하나 이상의 예의 기법들을 구현하도록 구성되는 비디오 인코더의 예이다. 예를 들어, 비디오 데이터 메모리 (40) 는 비디오 데이터를 저장한다. 비디오 데이터는 종속 뷰의 텍스처 비디오 컴포넌트와, 텍스처 뷰 컴포넌트에 대응하는 심도 뷰 컴포넌트를 포함할 수도 있고, 이들의 각각은 비디오 인코더 (20) 가 3D-AVC 호환 비디오 코딩 프로세스에서 인코딩하기 위한 것이다.
이 개시물에서 설명된 기법들에서, 비디오 인코더 (20) 는 3D-AVC 호환 비디오 코딩 프로세스에서, 비디오 데이터의 종속 뷰의 텍스처 뷰 컴포넌트를 인코딩하도록 구성되는 하나 이상의 프로세서들을 포함할 수도 있다. 위에서 설명된 바와 같이, 3D-AVC 에서의 각각의 뷰는 텍스처 뷰 컴포넌트 및 심도 뷰 컴포넌트를 포함한다. 3D-AVC 에서 하나의 기본 뷰와, 하나 이상의 증강 또는 종속 뷰들이 있고, 여기서, 하나 이상의 증강 또는 종속 뷰들의 텍스처 뷰 컴포넌트들은 인터-뷰 예측될 수도 있다.
텍스처 뷰 컴포넌트를 인코딩하기 위하여, 비디오 인코더 (20) 는 적어도 하나의 이웃하는 블록이 종속 뷰 이외의 뷰에서의 인터-뷰 참조 픽처를 참조하는 디스패리티 모션 벡터로 인터-뷰 예측되는지 여부를 결정하기 위하여, 텍스처 뷰 컴포넌트에서의 현재의 블록의 하나 이상의 이웃하는 블록들의 모션 정보를 평가하도록 구성될 수도 있다. 비디오 인코더 (20) 는 이웃하는 블록들 중의 하나에 대한 디스패리티 모션 벡터에 기초하여 현재의 블록에 대한 디스패리티 벡터를 도출할 수도 있다. 텍스처-우선 코딩에 대하여, 비디오 인코더 (20) 는 텍스처 뷰 컴포넌트를 인코딩하는 것에 후속하여 텍스처 뷰 컴포넌트에 대응하는, 비디오 데이터의 심도 뷰 컴포넌트를 인코딩할 수도 있다.
일부의 예들에서, 비디오 인코더 (20) 의 예측 프로세싱 유닛 (42) 은 NBDV 도출 및 BVSP 코딩을 위해 이 개시물에서 설명된 예들을 구현하도록 구성된 프로세서의 하나의 예일 수도 있다. 일부의 예들에서, 예측 프로세싱 유닛 (42) 이외의 유닛 (예컨대, 하나 이상의 프로세서들) 은 위에서 설명된 예들을 구현할 수도 있다. 일부의 예들에서, 예측 프로세싱 유닛 (42) 은 비디오 인코더 (20) 의 하나 이상의 다른 유닛들과 함께, 위에서 설명된 예들을 구현할 수도 있다. 일부의 예들에서, 비디오 인코더 (20) 의 프로세서 (도 6 에서 도시되지 않음) 는 단독으로 또는 비디오 인코더 (20) 의 다른 프로세서들과 함께, 위에서 설명된 예들을 구현할 수도 있다.
도 7 은 이 개시물에서 설명된 기법들을 구현할 수도 있는 비디오 디코더의 예를 예시하는 블록도이다. 예를 들어, 비디오 디코더 (30) 는 인터-예측 디코딩 또는 인트라-예측 디코딩을 수행할 수도 있다. 도 7 은 비디오 디코더 (30) 를 예시한다. 도 7 의 예에서, 비디오 디코더 (30) 는 비디오 데이터 메모리 (69), 엔트로피 디코딩 유닛 (70), 예측 프로세싱 유닛 (71), 역 양자화 프로세싱 유닛 (76), 역 변환 프로세싱 유닛 (78), 합산기 (80), 및 참조 픽처 메모리 (82) 를 포함한다. 예측 프로세싱 유닛 (71) 은 모션 보상 유닛 (72) 및 인트라 예측 유닛 (74) 을 포함한다. 일부의 예들에서, 비디오 디코더 (30) 는 도 6 으로부터의 비디오 인코더 (20) 에 대하여 설명된 인코딩 패스와 일반적으로 상반되는 디코딩 패스를 수행할 수도 있다.
비디오 데이터 메모리 (69) 는 비디오 디코더 (30) 의 컴포넌트들에 의해 디코딩되어야 할, 인코딩된 비디오 비트스트림과 같은 비디오 데이터를 저장할 수도 있다. 비디오 데이터 메모리 (69) 내에 저장된 비디오 데이터는 비디오 데이터의 유선 또는 무선 네트워크 통신을 통해, 예를 들어, 저장 디바이스 (34) 로부터, 카메라와 같은 로컬 비디오 소스로부터, 또는 물리적 데이터 저장 매체들을 액세스함으로써 얻어질 수도 있다. 비디오 데이터 메모리 (69) 는 인코딩된 비디오 비트스트림으로부터 인코딩된 비디오 데이터를 저장하는 코딩된 픽처 버퍼 (coded picture buffer; CPB) 를 형성할 수도 있다.
참조 픽처 메모리 (82) 는 (예컨대, 인트라-코딩 또는 인터-코딩 모드들에서) 비디오 디코더 (30) 에 의해 비디오 데이터를 디코딩함에 있어서 이용하기 위한 참조 비디오 데이터를 저장하는 디코딩 픽처 버퍼 (decoding picture buffer; DPB) 의 하나의 예이다. 비디오 데이터 메모리 (69) 및 참조 픽처 메모리 (82) 는 동기식 DRAM (SDRAM), 자기저항 RAM (MRAM), 저항 RAM (RRAM), 또는 다른 타입들의 메모리 디바이스들을 포함하는 동적 랜덤 액세스 메모리 (DRAM) 와 같은 다양한 메모리 디바이스들 중의 임의의 것에 의해 형성될 수도 있다. 비디오 데이터 메모리 (69) 및 참조 픽처 메모리 (82) 는 동일한 메모리 디바이스 또는 별도의 메모리 디바이스들에 의해 제공될 수도 있다. 다양한 예들에서, 비디오 데이터 메모리 (69) 는 비디오 디코더 (30) 의 다른 컴포넌트들을 갖는 온-칩일 수도 있거나, 그러한 컴포넌트들에 관련된 오프-칩일 수도 있다.
디코딩 프로세스 동안, 비디오 디코더 (30) 는 인코딩된 비디오 슬라이스의 비디오 블록들 및 연관된 신택스 엘리먼트들을 나타내는 인코딩된 비디오 비트스트림을 비디오 인코더 (20) 로부터 수신한다. 비디오 디코더 (30) 의 엔트로피 디코딩 유닛 (70) 은 양자화된 계수들, 모션 벡터들, 및 다른 신택스 엘리먼트들을 생성하기 위하여 비트스트림을 엔트로피 디코딩한다. 엔트로피 디코딩 유닛 (70) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 예측 프로세싱 유닛 (71) 으로 포워딩한다. 비디오 디코더 (30) 는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수도 있다.
비디오 슬라이스가 인트라-코딩된 (I) 슬라이스로서 코딩될 때, 예측 프로세싱 유닛 (71) 의 인트라 예측 유닛 (74) 은 시그널링된 인트라 예측 모드와, 현재의 프레임 또는 픽처의 이전에 디코딩된 블록들로부터의 데이터에 기초하여, 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 데이터를 생성할 수도 있다. 비디오 프레임이 인터-코딩된 (즉, B, 또는 P) 슬라이스로서 코딩될 때, 예측 프로세싱 유닛 (71) 의 모션 보상 유닛 (72) 은 모션 벡터들과, 엔트로피 디코딩 유닛 (70) 으로부터 수신된 다른 신택스 엘리먼트들에 기초하여, 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 블록들을 생성한다. 예측 블록들은 참조 픽처 리스트들 중의 하나 내의 참조 픽처들 중의 하나로부터 생성될 수도 있다. 비디오 디코더 (30) 는 참조 픽처 메모리 (82) 내에 저장된 참조 픽처들에 기초하여, 디폴트 구성 기법들을 이용하여 참조 픽처 리스트들 (RefPicList0 및 RefPicList1) 을 구성할 수도 있다.
모션 보상 유닛 (72) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱 (parsing) 함으로써 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 디코딩되고 있는 현재의 비디오 블록에 대한 예측 블록들을 생성하기 위하여 예측 정보를 이용한다. 예를 들어, 모션 보상 유닛 (72) 은 비디오 슬라이스의 비디오 블록들을 코딩하기 위해 이용된 예측 모드 (예컨대, 인트라-예측 또는 인터-예측), 인터-예측 슬라이스 타입 (예컨대, B 슬라이스 또는 P 슬라이스), 슬라이스에 대한 참조 픽처 리스트들 중의 하나 이상에 대한 구성 정보, 슬라이스의 각각의 인터-인코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터-코딩된 비디오 블록에 대한 인터-예측 상태, 및 현재의 비디오 슬라이스에서 비디오 블록들을 디코딩하기 위한 다른 정보를 결정하기 위하여 수신된 신택스 엘리먼트들의 일부를 이용한다.
모션 보상 유닛 (72) 은 또한, 보간 필터들에 기초하여 보간을 수행할 수도 있다. 모션 보상 유닛 (72) 은 참조 블록들의 정수 미만 픽셀들에 대한 보간된 값들을 계산하기 위하여, 비디오 블록들의 인코딩 동안에 비디오 인코더 (20) 에 의해 이용된 바와 같은 보간 필터들을 이용할 수도 있다. 이 경우, 모션 보상 유닛 (72) 은 수신된 신택스 엘리먼트들로부터 비디오 인코더 (20) 에 의해 이용된 보간 필터들을 결정할 수도 있고, 예측 블록들을 생성하기 위하여 보간 필터들을 이용할 수도 있다.
역 양자화 유닛 (76) 은, 비트스트림에서 제공되며 엔트로피 디코딩 유닛 (70) 에 의해 디코딩된 양자화된 변환 계수들을 역 양자화, 즉, -비양자화(de-quantize) 한다. 역 양자화 프로세스는 적용되어야 할 양자화도 및, 마찬가지로, 역양자화도를 결정하기 위하여 비디오 슬라이스에서의 각각의 비디오 블록에 대해 비디오 인코더 (20) 에 의해 계산된 양자화 파라미터의 이용을 포함할 수도 있다. 역 변환 프로세싱 유닛 (78) 은 픽셀 도메인에서 잔차 블록들을 생성하기 위하여, 역 변환 (예컨대, 역 DCT, 역 정수 변환, 또는 개념적으로 유사한 역 변환 프로세스) 을 변환 계수들에 적용한다.
모션 보상 유닛 (72) 이 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 현재의 비디오 블록에 대한 예측 블록을 생성한 후, 비디오 디코더 (30) 는 역 변환 프로세싱 유닛 (78) 으로부터의 잔차 블록들을 모션 보상 유닛 (72) 에 의해 생성된 대응하는 예측 블록들과 합산함으로써 디코딩된 비디오 블록을 형성한다. 합산기 (80) 는 이 합산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 희망하는 경우, 디블록킹 필터는 또한, 블록화 아티팩트들을 제거하기 위하여 디코딩된 블록들을 필터링하도록 적용될 수도 있다. (코딩 루프 내의 또는 코딩 루프 이후 중의 어느 하나에서의) 다른 루프 필터들은 또한, 픽셀 천이 (pixel transitioni) 들을 평탄화하거나, 또는 이와 다르게 비디오 품질을 개선시키기 위하여 이용될 수도 있다. 다음으로, 주어진 픽처에서의 디코딩된 비디오 블록들은, 추후의 모션 보상을 위해 이용된 참조 픽처들을 저장하는 참조 픽처 메모리 (82) 내에 저장된다. 참조 픽처 메모리 (82) 는 또한, 도 1 의 디스플레이 디바이스 (32) 와 같은 디스플레이 디바이스 상에서의 더 이후의 제시를 위한 디코딩된 비디오를 저장한다.
이러한 방식으로, 비디오 디코더 (30) 는 이 개시물에서 설명된 하나 이상의 예의 기법들을 구현하도록 구성되는 비디오 디코더의 예이다. 예를 들어, 비디오 데이터 메모리 (69) 는 비디오 데이터를 저장한다. 비디오 데이터는 비디오 디코더 (30) 가 종속 뷰의 텍스처 비디오 컴포넌트와, 텍스처 뷰 컴포넌트에 대응하는 심도 뷰 컴포넌트를 그로부터 디코딩할 수 있는 정보를 포함할 수도 있고, 이들의 각각은 비디오 인코더 (20) 가 3D-AVC 호환 비디오 코딩 프로세스에서 인코딩하기 위한 것이다.
이 개시물에서 설명된 기법들에서, 비디오 디코더 (30) 는 3D-AVC 호환 비디오 코딩 프로세스에서, 비디오 데이터의 종속 뷰의 텍스처 뷰 컴포넌트를 디코딩하도록 구성되는 하나 이상의 프로세서들을 포함할 수도 있다. 텍스처 뷰 컴포넌트를 디코딩하기 위하여, 비디오 디코더 (30) 는 적어도 하나의 이웃하는 블록이 종속 뷰 이외의 뷰에서의 인터-뷰 참조 픽처를 참조하는 디스패리티 모션 벡터로 인터-뷰 예측되는지 여부를 결정하기 위하여 텍스처 뷰 컴포넌트에서의 현재의 블록의 하나 이상의 이웃하는 블록들의 모션 정보를 평가하도록 구성될 수도 있다. 비디오 디코더 (30) 는 이웃하는 블록들 중의 하나에 대한 디스패리티 모션 벡터에 기초하여 현재의 블록에 대한 디스패리티 벡터를 도출할 수도 있다. 텍스처-우선 코딩에 대하여, 비디오 디코더 (30) 는 텍스처 뷰 컴포넌트를 디코딩하는 것에 후속하여 텍스처 뷰 컴포넌트에 대응하는, 비디오 데이터의 심도 뷰 컴포넌트를 디코딩할 수도 있다.
일부의 예들에서, 비디오 디코더 (30) 의 예측 프로세싱 유닛 (71) 은 NBDV 도출 및 BVSP 코딩을 위해 이 개시물에서 설명된 예들을 구현하도록 구성된 프로세서의 하나의 예일 수도 있다. 일부의 예들에서, 예측 프로세싱 유닛 (71) 이외의 유닛 (예컨대, 하나 이상의 프로세서들) 은 위에서 설명된 예들을 구현할 수도 있다. 일부의 예들에서, 예측 프로세싱 유닛 (71) 은 비디오 디코더 (30) 의 하나 이상의 다른 유닛들과 함께, 위에서 설명된 예들을 구현할 수도 있다. 또한 일부의 다른 예들에서, 비디오 디코더 (30) 의 프로세서 (도 7 에서 도시되지 않음) 는 단독으로 또는 비디오 디코더 (30) 의 다른 프로세서들과 함께, 위에서 설명된 예들을 구현할 수도 있다.
도 9 는 개시물의 일 예의 방법을 예시하는 플로우차트이다. 도 9 를 참조하여 설명된 기법들은 예측 프로세싱 유닛 (42) 및 예측 프로세싱 유닛(71) 을 포함하는, 비디오 인코더 (20) 및 비디오 디코더 (30) 의 임의의 구조적 또는 기능적 엘리먼트에 의해 수행될 수도 있다. 다음의 예들은 위에서 설명된 바와 같이, 비디오 인코더 또는 비디오 디코더 (예컨대, 비디오 인코더 (20) 및 비디오 디코더 (30)) 의 어느 하나에 대한 일반적인 용어인 "비디오 코더" 를 참조하여 설명될 것이다.
하나의 예로서, 비디오 코더는 텍스처-우선 코딩을 이용하여 비디오 데이터를 코딩하도록 구성될 수도 있다 (900). 게다가, 비디오 코더는 복수의 이웃하는 블록들을 이용하여 비디오 데이터의 블록에 대한 NBDV 도출 프로세스를 수행하도록 구성될 수도 있고, 여기서, NBDV 도출 프로세스는 디스패리티 벡터를 도출한다. 비디오 디코더는 블록-기반 뷰 합성 예측 (BVSP) 모드로 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들의 이용가능한 디스패리티 모션 벡터로서 지정함으로써 (910), 그리고 인터-뷰 예측 모드를 이용하여 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정함으로써 (920) NBDV 도출 프로세스를 수행하도록 구성될 수도 있다. 비디오 코더는 하나 이상의 이용가능한 디스패리티 모션 벡터들로부터 디스패리티 벡터를 도출할 것이다 (930).
개시물의 또 다른 예에서, 비디오 코더는 복수의 이웃하는 블록들을 순서대로 검사함으로써, 그리고 특별한 이웃하는 블록이 BVSP 모드에서 코딩되었을 경우, 또는 특별한 이웃하는 블록이 인터-뷰 예측을 이용하여 코딩되었을 경우에 디스패리티 벡터를 도출함으로써 NBDV 도출 프로세스를 수행하도록 구성된다.
개시물의 또 다른 예에서, 비디오 코더는, 복수의 이웃하는 블록들 중의 임의의 것이 인터-뷰 예측을 이용하여 코딩되는지를 결정하기 위하여 복수의 이웃하는 블록들을 검사함으로써, 검사에 기초하여, 복수의 이웃하는 블록들 중의 하나가 인터-뷰 예측을 이용하여 코딩될 경우에 인터-뷰 예측을 이용하여 코딩된 이웃하는 블록으로부터 디스패리티 벡터를 도출함으로써, 복수의 이웃하는 블록들 중의 어느 것도 인터-뷰 예측을 이용하여 코딩되지 않을 경우에 복수의 이웃하는 블록들 중의 임의의 것이 BVSP 모드를 이용하여 코딩되는지를 결정하기 위하여 복수의 이웃하는 블록들을 검사함으로써, 그리고 검사에 기초하여, 복수의 이웃하는 블록들 중의 하나가 BVSP 모드를 이용하여 코딩되고 복수의 이웃하는 블록들 중의 어느 것도 인터-뷰 예측을 이용하여 코딩되지 않을 경우에, BVSP 모드를 이용하여 코딩된 이웃하는 블록으로부터 디스패리티 벡터를 도출함으로써, NBDV 도출 프로세스를 수행하도록 구성된다.
개시물의 또 다른 예에서, 비디오 코더는, 복수의 이웃하는 블록들 중의 임의의 것이 BVSP 모드를 이용하여 코딩되는지를 결정하기 위하여 복수의 이웃하는 블록들을 검사함으로써, 검사에 기초하여, 복수의 이웃하는 블록들 중의 하나가 BVSP 모드를 이용하여 코딩될 경우에 BVSP 모드를 이용하여 코딩된 이웃하는 블록으로부터 디스패리티 벡터를 도출함으로써, 복수의 이웃하는 블록들 중의 어느 것도 BVSP 모드를 이용하여 코딩되지 않을 경우에 복수의 이웃하는 블록들 중의 임의의 것이 인터-뷰 예측을 이용하여 코딩되는지를 결정하기 위하여 복수의 이웃하는 블록들을 검사함으로써, 그리고 검사에 기초하여, 복수의 이웃하는 블록들 중의 하나가 인터-뷰 예측을 이용하여 코딩되고 복수의 이웃하는 블록들 중의 어느 것도 BVSP 모드를 이용하여 코딩되지 않을 경우에, 인터-뷰 예측을 이용하여 코딩된 이웃하는 블록으로부터 디스패리티 벡터를 도출함으로써, NBDV 도출 프로세스를 수행하도록 구성된다.
개시물의 또 다른 예에서, 비디오 코더는 심도 참조 뷰에서의 심도 블록으로부터 하나의 심도 값을 선택하고 심도 값을 업데이트된 디스패리티 벡터로 변환함으로써, 그리고 업데이트된 디스패리티 벡터를 비디오 데이터의 블록에 적용함으로써, NBDV 도출 프로세스를 수행하도록 구성된다.
개시물의 또 다른 예에서, 비디오 코더는 비디오 데이터의 블록이 코딩된 후에, 업데이트된 디스패리티 벡터를 비디오 데이터의 블록에 대한 모션 벡터로서 저장하도록 구성된다. 개시물의 또 다른 예에서, 비디오 코더는 도출된 디스패리티 벡터를 저장하기 위하여 추가적인 메모리를 할당하도록 구성된다.
개시물의 또 다른 예에서, 비디오 데이터의 블록은 매크로블록이다. 개시물의 또 다른 예에서, 비디오 데이터의 블록은 서브-파티션 또는 매크로블록의 파티션이다. 개시물의 또 다른 예에서, 비디오 데이터의 블록은 코딩 유닛 또는 예측 유닛이다.
개시물의 또 다른 예에서, 비디오 코더는 BVSP 모드 및 도출된 디스패리티 벡터를 이용하여 비디오 데이터의 블록을 코딩하도록 구성된다. 개시물의 또 다른 예에서, 비디오 코더는 심도-기반 모션 벡터 예측 (D-MVP) 및 도출된 디스패리티 벡터를 이용하여 비디오 데이터의 블록을 코딩하도록 구성된다.
도 10 은 개시물의 또 다른 예의 방법을 예시하는 플로우차트이다. 도 10 을 참조하여 설명된 기법들은 예측 프로세싱 유닛 (42) 및 예측 프로세싱 유닛(71) 을 포함하는, 비디오 인코더 (20) 및 비디오 디코더 (30) 의 임의의 구조적 또는 기능적 엘리먼트에 의해 수행될 수도 있다. 다음의 예들은 위에서 설명된 바와 같이, 비디오 인코더 또는 비디오 디코더 (예컨대, 비디오 인코더 (20) 및 비디오 디코더 (30)) 의 어느 하나에 대한 일반적인 용어인 "비디오 코더" 를 참조하여 설명될 것이다.
하나의 예에서, 비디오 코더는 비디오 데이터의 블록에 대해 BVSP 프로세스를 수행하도록 구성되고, BVSP 프로세스는 디스패리티 벡터를 도출하기 위하여 NBDV 도출 프로세스를 수행하는 것을 포함한다. 이와 관련하여, 비디오 코더는, 블록-기반 뷰 합성 예측 (BVSP) 모드로 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터의 이용가능한 디스패리티 모션 벡터로서 지정함으로써 (1010), 인터-뷰 예측 모드를 이용하여 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정함으로써 (1020), 그리고 하나 이상의 이용가능한 디스패리티 모션 벡터들로부터 디스패리티 벡터를 도출함으로써 (1030), NBDV 도출 프로세스를 수행하도록 구성된다. 비디오 코더는 비디오 데이터의 블록의 서브-영역에 대한 도출된 디스패리티 벡터를 세분화하고 (1040), 그리고 세분화된 디스패리티 벡터를 이용한 BVSP 를 이용하여 비디오 데이터의 블록을 코딩하도록 (1050) 추가로 구성된다.
개시물의 또 다른 예에서, 복수의 이웃하는 블록들 중의 적어도 하나는 현재의 픽처 내의 공간적으로 이웃하는 블록 또는 상이한 픽처에서의 시간적으로 이웃하는 블록이다.
개시물의 또 다른 예에서, 서브-영역은 8x8 서브-영역이다. 개시물의 또 다른 예에서, 서브-영역은 16x16, 4x4, 2x2, 및 1x1 서브-영역 중의 하나이다.
개시물의 또 다른 예에서, 비디오 코더는 비디오 데이터의 블록의 서브-영역에 대해 NBDV 도출 프로세서에 의해 생성된 디스패리티 벡터에 의해 식별된 참조 블록의 하나 이상의 심도 픽셀들로부터 심도 값을 선택하도록 추가로 구성되고, 하나 이상의 심도 픽셀들은 참조 블록의 심도 뷰 컴포넌트 내에 있지만, 전체 픽셀들이 상기 디스패리티 벡터에 의해 로케이팅되는 참조 심도 뷰에서의 심도 블록의 중심 근처 내에 있는 것은 아니다.
개시물의 또 다른 예에서, 비디오 코더는 NBDV 도출 프로세스에 의해 생성된 디스패리티 벡터의 수직 컴포넌트로부터 세분화된 디스패리티 벡터의 수직 컴포넌트를 승계하도록 추가로 구성된다. 개시물의 또 다른 예에서, 비디오 코더는 세분화된 디스패리티 벡터의 수직 컴포넌트를 제로가 되도록 설정하도록 추가로 구성된다.
개시물의 또 다른 예에서, 비디오 코더는 비디오 데이터의 블록의 각각의 서브-영역에 대한 세분화된 디스패리티 벡터를 저장하도록 추가로 구성되고, 여기서, 저장된 세분화된 디스패리티 벡터는 또다른 블록에 대한 NBDV 도출 프로세스를 위해 이용된다. 개시물의 또 다른 예에서, 비디오 코더는 비디오 데이터의 블록이 일부의 미리 결정된 사이즈보다 더 크고 저장된 세분화된 디스패리티 벡터가 NBDV 도출 프로세스에서 이용될 경우에, 세분화된 디스패리티 벡터를 비디오 데이터의 블록에 대한 모션 벡터로서 저장하도록 추가로 구성된다.
개시물의 또 다른 예에서, 비디오 데이터의 블록은 매크로블록이다. 개시물의 또 다른 예에서, 비디오 데이터의 블록은 서브-파티션 또는 매크로블록의 파티션이다. 개시물의 또 다른 예에서, 비디오 데이터의 블록은 코딩 유닛 또는 예측 유닛이다.
하나 이상의 예들에서는, 설명된 기능들이 하드웨어, 소프트웨어, 펌웨어, 또는 그 임의의 조합으로 구현될 수도 있다. 소프트웨어로 구현될 경우, 기능들은 하나 이상의 명령들 또는 코드로서, 컴퓨터-판독가능한 매체 상에 저장되거나 컴퓨터-판독가능한 매체를 통해 송신될 수도 있고, 하드웨어-기반 프로세싱 유닛에 의해 실행될 수도 있다. 컴퓨터-판독가능한 매체들은 데이터 저장 매체들과 같은 유형의 매체에 대응하는 컴퓨터-판독가능한 저장 매체들, 또는 예를 들어, 통신 프로토콜에 따라 하나의 장소로부터 또 다른 장소로 컴퓨터 프로그램의 전송을 용이하게 하는 임의의 매체를 포함하는 통신 매체들을 포함할 수도 있다. 이러한 방식으로, 컴퓨터-판독가능한 매체들은 일반적으로 (1) 비-일시적인 유형의 컴퓨터-판독가능한 저장 매체들, 또는 (2) 신호 또는 반송파와 같은 통신 매체에 대응할 수도 있다. 데이터 저장 매체들은 이 개시물에서 설명된 기법들의 구현을 위한 명령들, 코드 및/또는 데이터 구조들을 취출하기 위해 하나 이상의 컴퓨터들 또는 하나 이상의 프로세서들에 의해 액세스될 수 있는 임의의 이용가능한 매체들일 수도 있다. 컴퓨터 프로그램 제품은 컴퓨터-판독가능한 매체를 포함할 수도 있다.
제한이 아닌 예로서, 이러한 컴퓨터-판독가능한 저장 매체들은 RAM, ROM, EEPROM, CD-ROM 또는 다른 광학 디스크 저장, 자기 디스크 저장, 또는 다른 자기 저장 디바이스들, 플래시 메모리, 또는 명령들 또는 데이터 구조들의 형태로 희망하는 프로그램 코드를 저장하기 위해 이용될 수 있으며 컴퓨터에 의해 액세스될 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 임의의 접속은 컴퓨터-판독가능한 매체로 적절하게 칭해진다. 예를 들어, 동축 케이블, 광섬유 케이블, 트위스트 페어 (twisted pair), 디지털 가입자 회선 (digital subscriber line; DSL), 또는 무선 기술들 예컨대, 적외선, 라디오 (radio), 및 마이크로파 (microwave) 를 이용하여 웹사이트, 서버, 또는 다른 원격 소스로부터 명령들이 송신될 경우, 동축 케이블, 광섬유 케이블, 트위스트 페어, DSL, 또는 무선 기술들 예컨대, 적외선, 라디오, 및 마이크로파는 매체의 정의 내에 포함된다. 그러나, 컴퓨터-판독가능한 저장 매체들 및 데이터 저장 매체들은 접속들, 반송파들, 신호들, 또는 다른 순시적 매체 (transient medium) 들을 포함하는 것이 아니라, 그 대신에, 비-순시적인, 유형의 저장 매체들에 관한 것이라는 것을 이해해야 한다. 본원에서 이용된 바와 같은 디스크 (disk) 및 디스크 (disc) 는 컴팩트 디스크 (compact disc; CD), 레이저 디스크 (laser disc), 광학 디스크 (optical disc), 디지털 다기능 디스크 (digital versatile disc; DVD), 플로피 디스크 (floppy disk) 및 블루레이 디스크 (Blu-ray disc) 를 포함하고, 여기서 디스크 (disk) 들은 통상 데이터를 자기적으로 재생하는 반면, 디스크 (disc) 들은 데이터를 레이저들로 광학적으로 재생한다. 상기의 조합들은 컴퓨터-판독가능한 매체들의 범위 내에 또한 포함되어야 한다.
명령들은 하나 이상의 디지털 신호 프로세서 (digital signal processor; DSP) 들, 범용 마이크로프로세서들, 주문형 집적 회로 (application specific integrated circuit; ASIC) 들, 필드 프로그래밍가능한 로직 어레이 (field programmable logic array; FPGA) 들, 또는 다른 등가의 통합된 또는 개별 로직 회로부와 같은 하나 이상의 프로세서들에 의해 실행될 수도 있다. 따라서, 본원에서 이용된 바와 같은 용어 "프로세서" 는 상기한 구조, 또는 본원에서 설명된 기법들의 구현을 위해 적당한 임의의 다른 구조 중의 임의의 것을 지칭할 수도 있다. 추가적으로, 일부의 양태들에서는, 본원에서 설명된 기능성이 인코딩 및 디코딩을 위해 구성되거나 조합된 코덱 (codec) 내에 통합된 전용 하드웨어 및/또는 소프트웨어 모듈들 내에서 제공될 수도 있다. 또한, 기법들은 하나 이상의 회로들 또는 로직 엘리먼트들에서 완전히 구현될 수 있다.
이 개시물의 기법들은 무선 핸드셋 (wireless handset), 집적 회로 (integrated circuit; IC) 또는 IC 들의 세트 (예를 들어, 칩셋) 를 포함하는 광범위한 디바이스들 또는 장치들에서 구현될 수도 있다. 다양한 컴포넌트들, 모듈들, 또는 유닛들은 개시된 기법들을 수행하도록 구성된 디바이스들의 기능적 양태들을 강조하기 위하여 이 개시물에서 설명되지만, 상이한 하드웨어 유닛들에 의한 실현을 반드시 요구하지는 않는다. 오히려, 위에서 설명된 바와 같이, 다양한 유닛들은 코덱 하드웨어 유닛 내에 조합될 수도 있거나, 적당한 소프트웨어 및/또는 펌웨어와 함께, 위에서 설명된 바와 같은 하나 이상의 프로세서들을 포함하는 상호동작하는 하드웨어 유닛들의 집합에 의해 제공될 수도 있다.
다양한 예들이 설명되었다. 이러한 그리고 다른 예들은 다음의 청구항들의 범위 내에 있다.

Claims (30)

  1. 비디오 데이터를 코딩하는 방법으로서,
    비디오 데이터의 블록에 대해 블록-기반 뷰 합성 예측 (block-based view synthesis prediction; BVSP) 프로세스를 수행하는 단계로서, 상기 BVSP 프로세스는,
    디스패리티 벡터를 도출하기 위하여 이웃하는 블록-기반 디스패리티 벡터 (NBDV) 도출 프로세스를 수행하는 단계; 및
    상기 비디오 데이터의 블록의 서브-영역에 대한 도출된 상기 디스패리티 벡터를 세분화하는 단계를 포함하는, 상기 블록-기반 뷰 합성 예측 (BVSP) 프로세스를 수행하는 단계; 및
    BVSP 를 이용하여 상기 비디오 데이터의 블록을 코딩하는 단계로서, 상기 NBDV 도출 프로세스를 수행하는 단계는,
    BVSP 모드로 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 단계;
    인터-뷰 예측 모드를 이용하여 코딩된 상기 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 단계; 및
    상기 하나 이상의 이용가능한 디스패리티 모션 벡터들로부터 상기 디스패리티 벡터를 도출하는 단계를 포함하는, 상기 BVSP 를 이용하여 상기 비디오 데이터의 블록을 코딩하는 단계를 포함하는, 비디오 데이터를 코딩하는 방법.
  2. 제 1 항에 있어서,
    상기 복수의 이웃하는 블록들 중의 적어도 하나는 현재의 픽처 내의 공간적으로 이웃하는 블록 또는 상이한 픽처에서의 시간적으로 이웃하는 블록인, 비디오 데이터를 코딩하는 방법.
  3. 제 1 항에 있어서,
    상기 서브-영역은 8x8 서브-영역인, 비디오 데이터를 코딩하는 방법.
  4. 제 1 항에 있어서,
    상기 서브-영역은 16x16, 4x4, 2x2, 및 1x1 서브-영역 중의 하나인, 비디오 데이터를 코딩하는 방법.
  5. 제 1 항에 있어서,
    상기 비디오 데이터의 블록의 서브-영역에 대해 상기 NBDV 도출 프로세스에 의해 생성된 디스패리티 벡터에 의해 식별된 참조 블록의 하나 이상의 심도 픽셀들로부터 심도 값을 선택하는 단계를 더 포함하고, 상기 하나 이상의 심도 픽셀들은 상기 참조 블록의 심도 뷰 컴포넌트 내에 있지만, 전체 픽셀들이 상기 디스패리티 벡터에 의해 로케이팅되는 참조 심도 뷰에서의 심도 블록의 중심 근처 내에 있는 것은 아닌, 비디오 데이터를 코딩하는 방법.
  6. 제 1 항에 있어서,
    상기 NBDV 도출 프로세스에 의해 생성된 디스패리티 벡터의 수직 컴포넌트로부터 세분화된 상기 디스패리티 벡터의 수직 컴포넌트를 승계하는 단계를 더 포함하는, 비디오 데이터를 코딩하는 방법.
  7. 제 1 항에 있어서,
    세분화된 상기 디스패리티 벡터의 수직 컴포넌트를 제로가 되도록 설정하는 단계를 더 포함하는, 비디오 데이터를 코딩하는 방법.
  8. 제 1 항에 있어서,
    상기 비디오 데이터의 블록의 각각의 서브-영역에 대한 세분화된 디스패리티 벡터를 저장하는 단계로서, 저장되어진 상기 세분화된 디스패리티 벡터는 또다른 블록에 대한 상기 NBDV 도출 프로세스를 위해 이용되는, 상기 세분화된 디스패리티 벡터를 저장하는 단계를 더 포함하는, 비디오 데이터를 코딩하는 방법.
  9. 제 1 항에 있어서,
    상기 비디오 데이터의 블록이 미리 결정된 사이즈보다 더 크고 저장되어진 세분화된 디스패리티 벡터가 NBDV 도출 프로세스에서 이용될 경우에, 상기 세분화된 디스패리티 벡터를 상기 비디오 데이터의 블록에 대한 모션 벡터로서 저장하는 단계를 더 포함하는, 비디오 데이터를 코딩하는 방법.
  10. 제 1 항에 있어서,
    상기 비디오 데이터의 블록은 매크로블록인, 비디오 데이터를 코딩하는 방법.
  11. 제 1 항에 있어서,
    상기 비디오 데이터의 블록은 매크로블록의 파티션 또는 서브-파티션인, 비디오 데이터를 코딩하는 방법.
  12. 제 1 항에 있어서,
    상기 비디오 데이터의 블록은 코딩 유닛 또는 예측 유닛인, 비디오 데이터를 코딩하는 방법.
  13. 비디오 데이터를 코딩하도록 구성된 장치로서,
    비디오 데이터의 블록을 저장하도록 구성된 메모리; 및
    비디오 코더를 포함하고,
    상기 비디오 코더는,
    상기 비디오 데이터의 블록에 대해 블록-기반 뷰 합성 예측 (BVSP) 프로세스를 수행하도록 구성되고,
    상기 BVSP 프로세스는,
    디스패리티 벡터를 도출하기 위하여 NBDV 도출 프로세스를 수행하는 것; 및
    상기 비디오 데이터의 블록의 서브-영역에 대한 도출된 상기 디스패리티 벡터를 세분화하는 것; 및
    BVSP 를 이용하여 상기 비디오 데이터의 블록을 코딩하는 것을 포함하고,
    상기 NBDV 도출 프로세스를 수행하는 것은,
    블록-기반 뷰 합성 예측 (BVSP) 모드로 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 것;
    인터-뷰 예측 모드를 이용하여 코딩된 상기 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 것; 및
    상기 하나 이상의 이용가능한 디스패리티 모션 벡터들로부터 상기 디스패리티 벡터를 도출하는 것을 포함하는, 비디오 데이터를 코딩하도록 구성된 장치.
  14. 제 13 항에 있어서,
    상기 복수의 이웃하는 블록들 중의 적어도 하나는 현재의 픽처 내의 공간적으로 이웃하는 블록 또는 상이한 픽처에서의 시간적으로 이웃하는 블록인, 비디오 데이터를 코딩하도록 구성된 장치.
  15. 제 13 항에 있어서,
    상기 서브-영역은 8x8 서브-영역인, 비디오 데이터를 코딩하도록 구성된 장치.
  16. 제 13 항에 있어서,
    상기 서브-영역은 16x16, 4x4, 2x2, 및 1x1 서브-영역 중의 하나인, 비디오 데이터를 코딩하도록 구성된 장치.
  17. 제 13 항에 있어서,
    상기 비디오 코더는, 상기 비디오 데이터의 블록의 서브-영역에 대해 상기 NBDV 도출 프로세스에 의해 생성된 디스패리티 벡터에 의해 식별된 참조 블록의 하나 이상의 심도 픽셀들로부터 심도 값을 선택하도록 더 구성되고, 상기 하나 이상의 심도 픽셀들은 상기 참조 블록의 심도 뷰 컴포넌트 내에 있지만, 전체 픽셀들이 상기 디스패리티 벡터에 의해 로케이팅되는 참조 심도 뷰에서의 심도 블록의 중심 근처 내에 있는 것은 아닌, 비디오 데이터를 코딩하도록 구성된 장치.
  18. 제 13 항에 있어서,
    상기 비디오 코더는, 상기 NBDV 도출 프로세스에 의해 생성된 디스패리티 벡터의 수직 컴포넌트로부터 세분화된 상기 디스패리티 벡터의 수직 컴포넌트를 승계하도록 더 구성되는, 비디오 데이터를 코딩하도록 구성된 장치.
  19. 제 13 항에 있어서,
    상기 비디오 코더는, 세분화된 상기 디스패리티 벡터의 수직 컴포넌트를 제로가 되도록 설정하도록 더 구성되는, 비디오 데이터를 코딩하도록 구성된 장치.
  20. 제 13 항에 있어서,
    상기 비디오 코더는, 상기 비디오 데이터의 블록의 각각의 서브-영역에 대한 세분화된 디스패리티 벡터를 상기 메모리에 저장하도록 더 구성되고, 저장되어진 상기 세분화된 디스패리티 벡터는 또다른 블록에 대한 상기 NBDV 도출 프로세스를 위해 이용되는, 비디오 데이터를 코딩하도록 구성된 장치.
  21. 제 13 항에 있어서,
    상기 비디오 코더는, 상기 비디오 데이터의 블록이 미리 결정된 사이즈보다 더 크고 저장되어진 세분화된 디스패리티 벡터가 NBDV 도출 프로세스에서 이용될 경우에, 상기 세분화된 디스패리티 벡터를 상기 비디오 데이터의 블록에 대한 모션 벡터로서 상기 메모리에 저장하도록 더 구성되는, 비디오 데이터를 코딩하도록 구성된 장치.
  22. 제 13 항에 있어서,
    상기 비디오 데이터의 블록은 매크로블록인, 비디오 데이터를 코딩하도록 구성된 장치.
  23. 제 13 항에 있어서,
    상기 비디오 데이터의 블록은 매크로블록의 파티션 또는 서브-파티션인, 비디오 데이터를 코딩하도록 구성된 장치.
  24. 제 13 항에 있어서,
    상기 비디오 데이터의 블록은 코딩 유닛 또는 예측 유닛인, 비디오 데이터를 코딩하도록 구성된 장치.
  25. 비디오 데이터를 코딩하도록 구성된 장치로서,
    비디오 데이터의 블록에 대해 블록-기반 뷰 합성 예측 (block-based view synthesis prediction; BVSP) 프로세스를 수행하기 위한 수단으로서, 상기 BVSP 프로세스를 수행하기 위한 수단은,
    디스패리티 벡터를 도출하기 위하여 NBDV 도출 프로세스를 수행하기 위한 수단; 및
    상기 비디오 데이터의 블록의 서브-영역에 대한 도출된 상기 디스패리티 벡터를 세분화하기 위한 수단을 포함하는, 상기 블록-기반 뷰 합성 예측 (BVSP) 프로세스를 수행하기 위한 수단; 및
    BVSP 를 이용하여 상기 비디오 데이터의 블록을 코딩하기 위한 수단으로서, 상기 NBDV 도출 프로세스를 수행하기 위한 수단은,
    블록-기반 뷰 합성 예측 (BVSP) 모드로 코딩된 상기 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하기 위한 수단;
    인터-뷰 예측 모드를 이용하여 코딩된 상기 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하기 위한 수단; 및
    상기 하나 이상의 이용가능한 디스패리티 모션 벡터들로부터 상기 디스패리티 벡터를 도출하기 위한 수단을 포함하는, 상기 BVSP 를 이용하여 상기 비디오 데이터의 블록을 코딩하기 위한 수단을 포함하는, 비디오 데이터를 코딩하도록 구성된 장치.
  26. 제 25 항에 있어서,
    상기 복수의 이웃하는 블록들 중의 적어도 하나는 현재의 픽처 내의 공간적으로 이웃하는 블록 또는 상이한 픽처에서의 시간적으로 이웃하는 블록인, 비디오 데이터를 코딩하도록 구성된 장치.
  27. 제 25 항에 있어서,
    상기 비디오 데이터의 블록의 서브-영역에 대해 상기 NBDV 도출 프로세스에 의해 생성된 디스패리티 벡터에 의해 식별된 참조 블록의 하나 이상의 심도 픽셀들로부터 심도 값을 선택하기 위한 수단을 더 포함하고, 상기 하나 이상의 심도 픽셀들은 상기 참조 블록의 심도 뷰 컴포넌트 내에 있지만, 전체 픽셀들이 상기 디스패리티 벡터에 의해 로케이팅되는 참조 심도 뷰에서의 심도 블록의 중심 근처 내에 있는 것은 아닌, 비디오 데이터를 코딩하도록 구성된 장치.
  28. 명령들을 저장하는 컴퓨터-판독가능한 저장 매체로서,
    상기 명령들은, 실행될 경우, 비디오 데이터를 코딩하도록 구성된 하나 이상의 프로세서들로 하여금,
    비디오 데이터의 블록에 대해 블록-기반 뷰 합성 예측 (BVSP) 프로세스를 수행하게 하고,
    상기 BVSP 프로세스는,
    디스패리티 벡터를 도출하기 위하여 NBDV 도출 프로세스를 수행하는 것; 및
    상기 비디오 데이터의 블록의 서브-영역에 대한 상기 도출된 디스패리티 벡터를 세분화하는 것; 및
    BVSP 를 이용하여 상기 비디오 데이터의 블록을 코딩하는 것을 포함하고,
    상기 NBDV 도출 프로세스를 수행하는 것은,
    블록-기반 뷰 합성 예측 (BVSP) 모드로 코딩된 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 것;
    인터-뷰 예측 모드를 이용하여 코딩된 상기 복수의 이웃하는 블록들 중의 이웃하는 블록과 연관된 모션 벡터를 상기 하나 이상의 이용가능한 디스패리티 모션 벡터들 중의 이용가능한 디스패리티 모션 벡터로서 지정하는 것; 및
    상기 하나 이상의 이용가능한 디스패리티 모션 벡터들로부터 상기 디스패리티 벡터를 도출하는 것을 포함하는, 컴퓨터-판독가능한 저장 매체.
  29. 제 28 항에 있어서,
    상기 복수의 이웃하는 블록들 중의 적어도 하나는 현재의 픽처 내의 공간적으로 이웃하는 블록 또는 상이한 픽처에서의 시간적으로 이웃하는 블록인, 컴퓨터-판독가능한 저장 매체.
  30. 제 28 항에 있어서,
    상기 명령들은 또한, 상기 하나 이상의 프로세서들로 하여금,
    상기 비디오 데이터의 블록의 서브-영역에 대해 상기 NBDV 도출 프로세스에 의해 생성된 디스패리티 벡터에 의해 식별된 참조 블록의 하나 이상의 심도 픽셀들로부터 심도 값을 선택하게 하고, 상기 하나 이상의 심도 픽셀들은 상기 참조 블록의 심도 뷰 컴포넌트 내에 있지만, 전체 픽셀들이 상기 디스패리티 벡터에 의해 로케이팅되는 참조 심도 뷰에서의 심도 블록의 중심 근처 내에 있는 것은 아닌, 컴퓨터-판독가능한 저장 매체.
KR1020157026001A 2013-02-26 2014-02-26 3d 비디오 코딩에서의 이웃하는 블록 디스패리티 벡터 도출 KR101821469B1 (ko)

Applications Claiming Priority (15)

Application Number Priority Date Filing Date Title
US201361769716P 2013-02-26 2013-02-26
US61/769,716 2013-02-26
US201361770263P 2013-02-27 2013-02-27
US201361770268P 2013-02-27 2013-02-27
US61/770,268 2013-02-27
US61/770,263 2013-02-27
US201361772321P 2013-03-04 2013-03-04
US61/772,321 2013-03-04
US201361803384P 2013-03-19 2013-03-19
US61/803,384 2013-03-19
US201361815656P 2013-04-24 2013-04-24
US61/815,656 2013-04-24
US14/189,679 US9635357B2 (en) 2013-02-26 2014-02-25 Neighboring block disparity vector derivation in 3D video coding
US14/189,679 2014-02-25
PCT/US2014/018716 WO2014134181A2 (en) 2013-02-26 2014-02-26 Neighboring block disparity vector derivation in 3d video coding

Publications (2)

Publication Number Publication Date
KR20150122709A true KR20150122709A (ko) 2015-11-02
KR101821469B1 KR101821469B1 (ko) 2018-01-23

Family

ID=51388129

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020157026000A KR101917917B1 (ko) 2013-02-26 2014-02-26 3d 비디오 코딩에서의 이웃하는 블록 디스패리티 벡터 도출
KR1020157026001A KR101821469B1 (ko) 2013-02-26 2014-02-26 3d 비디오 코딩에서의 이웃하는 블록 디스패리티 벡터 도출

Family Applications Before (1)

Application Number Title Priority Date Filing Date
KR1020157026000A KR101917917B1 (ko) 2013-02-26 2014-02-26 3d 비디오 코딩에서의 이웃하는 블록 디스패리티 벡터 도출

Country Status (8)

Country Link
US (2) US9781416B2 (ko)
EP (2) EP2962466B1 (ko)
JP (2) JP6382233B2 (ko)
KR (2) KR101917917B1 (ko)
CN (2) CN105122811B (ko)
BR (2) BR112015020534A2 (ko)
ES (1) ES2704885T3 (ko)
WO (2) WO2014134174A2 (ko)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9237345B2 (en) 2013-02-26 2016-01-12 Qualcomm Incorporated Neighbor block-based disparity vector derivation in 3D-AVC
US9781416B2 (en) * 2013-02-26 2017-10-03 Qualcomm Incorporated Neighboring block disparity vector derivation in 3D video coding
US9521389B2 (en) 2013-03-06 2016-12-13 Qualcomm Incorporated Derived disparity vector in 3D video coding
US9900576B2 (en) 2013-03-18 2018-02-20 Qualcomm Incorporated Simplifications on disparity vector derivation and motion vector prediction in 3D video coding
WO2014166063A1 (en) * 2013-04-09 2014-10-16 Mediatek Inc. Default vector for disparity vector derivation for 3d video coding
US10477230B2 (en) * 2013-04-10 2019-11-12 Mediatek Inc. Method and apparatus of disparity vector derivation for three-dimensional and multi-view video coding
ES2587710T3 (es) * 2013-04-12 2016-10-26 Telefonaktiebolaget Lm Ericsson (Publ) Construcción de listas de imágenes de referencia entre capas
WO2014166119A1 (en) * 2013-04-12 2014-10-16 Mediatek Inc. Stereo compatibility high level syntax
US9667990B2 (en) 2013-05-31 2017-05-30 Qualcomm Incorporated Parallel derived disparity vector for 3D video coding with neighbor-based disparity vector derivation
US10194139B2 (en) * 2016-02-22 2019-01-29 Ricoh Company, Ltd. Disparity-to-depth calibration for plenoptic imaging systems
CN106803963B (zh) * 2017-02-17 2019-07-02 北京大学 一种局部视差矢量的导出方法
CN113170106A (zh) * 2018-11-28 2021-07-23 北京字节跳动网络技术有限公司 帧内块复制模式中运动参考的扩展方法
WO2020200234A1 (en) 2019-04-01 2020-10-08 Beijing Bytedance Network Technology Co., Ltd. Alternative interpolation filters in video coding
KR102635319B1 (ko) 2019-08-20 2024-02-07 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 비디오 프로세싱에서 대안적 보간 필터들의 선택적 사용
US11863786B2 (en) * 2021-05-21 2024-01-02 Varjo Technologies Oy Method of transporting a framebuffer

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7468745B2 (en) * 2004-12-17 2008-12-23 Mitsubishi Electric Research Laboratories, Inc. Multiview video decomposition and encoding
CN101222639B (zh) * 2007-01-09 2010-04-21 华为技术有限公司 多视点视频技术中的视间预测方法、编码器和解码器
CN101669367A (zh) * 2007-03-02 2010-03-10 Lg电子株式会社 用于解码/编码视频信号的方法及设备
WO2008117963A1 (en) * 2007-03-23 2008-10-02 Lg Electronics Inc. A method and an apparatus for decoding/encoding a video signal
KR101619451B1 (ko) * 2009-04-17 2016-05-10 엘지전자 주식회사 다시점 비디오 신호의 처리 방법 및 장치
WO2010125812A1 (ja) * 2009-04-28 2010-11-04 パナソニック株式会社 画像復号方法、画像符号化方法、画像復号装置および画像符号化装置
KR20110007928A (ko) * 2009-07-17 2011-01-25 삼성전자주식회사 다시점 영상 부호화 및 복호화 방법과 장치
ES2561078T3 (es) * 2010-07-15 2016-02-24 Ge Video Compression, Llc Codificación de vídeo híbrido que soporta síntesis de vistas intermedias
US20140104383A1 (en) * 2011-06-22 2014-04-17 Sony Corporation Image processing device and method
JP6178326B2 (ja) * 2011-11-11 2017-08-09 ジーイー ビデオ コンプレッション エルエルシー デプスマップの推定および更新を用いる効率的なマルチビュー符号化
US9729849B2 (en) * 2012-04-19 2017-08-08 Intel Corporation 3D video coding including depth based disparity vector calibration
WO2014047351A2 (en) * 2012-09-19 2014-03-27 Qualcomm Incorporated Selection of pictures for disparity vector derivation
US9253486B2 (en) * 2012-09-28 2016-02-02 Mitsubishi Electric Research Laboratories, Inc. Method and system for motion field backward warping using neighboring blocks in videos
US9264691B2 (en) * 2012-09-28 2016-02-16 Mitsubishi Electric Research Laboratories, Inc. Method and system for backward 3D-view synthesis prediction using neighboring blocks
US20140098883A1 (en) 2012-10-09 2014-04-10 Nokia Corporation Method and apparatus for video coding
US9237345B2 (en) * 2013-02-26 2016-01-12 Qualcomm Incorporated Neighbor block-based disparity vector derivation in 3D-AVC
US9781416B2 (en) * 2013-02-26 2017-10-03 Qualcomm Incorporated Neighboring block disparity vector derivation in 3D video coding
US9900576B2 (en) 2013-03-18 2018-02-20 Qualcomm Incorporated Simplifications on disparity vector derivation and motion vector prediction in 3D video coding
US9521425B2 (en) * 2013-03-19 2016-12-13 Qualcomm Incorporated Disparity vector derivation in 3D video coding for skip and direct modes
US9930363B2 (en) 2013-04-12 2018-03-27 Nokia Technologies Oy Harmonized inter-view and view synthesis prediction for 3D video coding
US9948950B2 (en) 2014-01-03 2018-04-17 Qualcomm Incorporated Disparity vector and/or advanced residual prediction for video coding

Also Published As

Publication number Publication date
WO2014134174A3 (en) 2014-10-23
EP2962466A2 (en) 2016-01-06
JP6337025B2 (ja) 2018-06-06
JP2016511605A (ja) 2016-04-14
WO2014134174A2 (en) 2014-09-04
WO2014134181A3 (en) 2014-10-23
ES2704885T3 (es) 2019-03-20
JP2016511604A (ja) 2016-04-14
JP6382233B2 (ja) 2018-08-29
EP2962465A2 (en) 2016-01-06
KR101917917B1 (ko) 2018-11-12
CN105075263B (zh) 2018-08-24
US9635357B2 (en) 2017-04-25
KR20150122708A (ko) 2015-11-02
BR112015020534A2 (pt) 2017-07-18
CN105122811B (zh) 2018-08-03
KR101821469B1 (ko) 2018-01-23
WO2014134181A2 (en) 2014-09-04
US9781416B2 (en) 2017-10-03
US20140241431A1 (en) 2014-08-28
CN105122811A (zh) 2015-12-02
EP2962466B1 (en) 2018-10-10
US20140241430A1 (en) 2014-08-28
CN105075263A (zh) 2015-11-18
BR112015020535A2 (pt) 2017-07-18

Similar Documents

Publication Publication Date Title
JP6866340B2 (ja) 3dビデオコーディングにおける視差ベクトル導出および動きベクトル予測の簡略化
KR101821469B1 (ko) 3d 비디오 코딩에서의 이웃하는 블록 디스패리티 벡터 도출
KR101773693B1 (ko) 스킵 및 직접 모드들에 대한 3d 비디오 코딩에서의 디스패리티 벡터 유도
US10567789B2 (en) Simplified shifting merge candidate and merge list derivation in 3D-HEVC
KR20150139953A (ko) 백워드 뷰 합성 예측
EP3117606B1 (en) Simplified advanced residual prediction for 3d-hevc

Legal Events

Date Code Title Description
A201 Request for examination
A302 Request for accelerated examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant