JP2015514362A - ビデオ・コーディングのためのインタ・レイヤ・テクスチャ予測 - Google Patents

ビデオ・コーディングのためのインタ・レイヤ・テクスチャ予測 Download PDF

Info

Publication number
JP2015514362A
JP2015514362A JP2015501871A JP2015501871A JP2015514362A JP 2015514362 A JP2015514362 A JP 2015514362A JP 2015501871 A JP2015501871 A JP 2015501871A JP 2015501871 A JP2015501871 A JP 2015501871A JP 2015514362 A JP2015514362 A JP 2015514362A
Authority
JP
Japan
Prior art keywords
weight
video
enhancement layer
block
predictor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015501871A
Other languages
English (en)
Other versions
JP2015514362A5 (ja
JP6199371B2 (ja
Inventor
ワン、シャンリン
カークゼウィックズ、マルタ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2015514362A publication Critical patent/JP2015514362A/ja
Publication of JP2015514362A5 publication Critical patent/JP2015514362A5/ja
Application granted granted Critical
Publication of JP6199371B2 publication Critical patent/JP6199371B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167Position within a video image, e.g. region of interest [ROI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

いくつかの態様にしたがって、ビデオ情報をコーディングするための装置が開示される。ベース・レイヤおよびエンハンスメント・レイヤを含むマルチ・レイヤ・ビデオ・ストリームがコーディングされうる。ベース・レイヤおよびエンハンスメント・レイヤのために生成された予測子が結合され、エンハンスメント・レイヤの最終的な予測子が生成される。おのおのの予測子は、高い品質となる結果をもたらす可能性がより高い予測子が、最終的な予測子において、より高く重み付けられるように、重み付けされうる。エンハンスメント・レイヤ予測子およびベース・レイヤ予測子のそれぞれの重みが決定される条件は、これら予測子またはそれらの特性から暗黙的に導出されうる。あるいは、重みを示すこと、または、重みが決定される情報を提供することを記述するデータが生成されうる。

Description

関連出願に対する相互参照
本願は、2012年3月22日に出願された米国仮出願61/614,450号、2012年9月28日に出願された米国仮出願61/707,620号、および、2013年3月15日に出願された米国仮出願13/838,270号に対する優先権を主張する。これらが開示するすべてについて、これらコンテンツの全体が、本明細書において参照によって組み込まれており、本明細書を構成している。
本開示は、一般に、ビデオ・コーディングおよび圧縮の分野に関し、さらに詳しくは、インタ・レイヤ・テクスチャ予測のためのスケーラブル・ビデオ・コーディング(SVC)および技法に関する。
デジタル・ビデオ機能は、デジタル・テレビ、デジタル・ダイレクト・ブロードキャスト・システム、無線ブロードキャスト・システム、携帯情報端末(PDA)、ラップトップまたはデスクトップ・コンピュータ、タブレット・コンピュータ、eブック・リーダ、デジタル・カメラ、デジタル記録デバイス、デジタル・メディア・プレーヤ、ビデオ・ゲーム・デバイス、ビデオ・ゲーム・コンソール、セルラまたは衛星ラジオ電話、いわゆる「スマート・フォン」、ビデオ・テレビ会議デバイス、ビデオ・ストリーミング・デバイス等を含む広範囲のビデオに組み込まれうる。デジタル・ビデオ・デバイスは、例えば、MPEG−2、MPEG−4、ITU−T H.263、ITU−T H.264/MPEG−4、パート10、アドバンスト・ビデオ・コーディング(AVC)、現在開発中の高効率ビデオ・コーディング(HEVC)規格、およびこれら規格の拡張版によって定義された規格において記載されているようなビデオ圧縮技法を実施する。ビデオ・デバイスは、このようなビデオ圧縮技法を実施することによって、デジタル・ビデオ情報をより効率的に送信、受信、エンコード、デコード、および/または、格納しうる。
ビデオ圧縮技法は、ビデオ・シーケンスに固有の冗長性を低減または除去するために、空間(イントラ・ピクチャ)予測、および/または、時間(インタ・ピクチャ)予測を行なう。ブロック・ベースのビデオ・コーディングのために、ビデオ・スライス(すなわち、ビデオ・フレーム、またはビデオ・フレームの一部分)が、ツリーブロック、コーディング・ユニット(CU)、および/または、コーディング・ノードとも称される複数のビデオ・ブロックへ分割されうる。ピクチャのイントラ・コード(I)スライスにおけるビデオ・ブロックは、同じピクチャ内の近隣ブロックにおける基準サンプルに対する空間予測を用いてエンコードされる。ピクチャのインタ・コード(PまたはB)スライスにおけるビデオ・ブロックは、同じピクチャ内の近隣ブロックにおける基準サンプルに対する空間予測を用いるか、別の基準ピクチャにおける基準サンプルに対する時間予測を用いうる。ピクチャは、フレームと称され、基準ピクチャは、基準フレームと称されうる。
空間予測または時間予測の結果、ブロックの予測ブロックがコーディングされるようになる。残余データは、コーディングされるべきオリジナルのブロックと、予測ブロックとの間のピクセル差分を表す。インタ・コード・ブロックは、予測ブロックを形成する基準サンプルのブロックを示す動きベクトルと、コーディングされたブロックと予測ブロックとの差分を示す残余データと、にしたがってエンコードされる。イントラ・コード・ブロックは、イントラ・コーディング・モードと残余データとにしたがってエンコードされる。さらなる圧縮のため、残余データは、ピクセル領域から変換領域へ変換され、残余変換係数となる。残余変換係数は、その後、量子化されうる。最初に2次元アレイで配列された量子化された変換係数は、変換係数の一次元ベクトルを生成するためにスキャンされ、より更なる圧縮を達成するために、エントロピ・コーディングが適用されうる。
本開示のシステム、方法、およびデバイスはおのおの、いくつかの革新的な態様を有しており、そのうちのどの1つも、単独で、本明細書に開示された所望の特性のための役割を負うものではない。
本開示の1つの態様は、ビデオ情報をコーディングするための装置を提供する。この装置は、ベース・レイヤおよび対応するエンハンスメント・レイヤに関連付けられたビデオ情報を格納するように構成されたメモリを含む。この装置はさらに、メモリと通信するプロセッサを含んでいる。このプロセッサは、ビデオ情報に少なくとも部分的に基づいて、ベース・レイヤにおけるビデオ・ユニットに関連付けられた第1の重みと、エンハンスメント・レイヤにおけるビデオ・ユニットに関連付けられた第2の重みとを決定するように構成されている。プロセッサはさらに、第1および第2の重みに少なくとも部分的に基づいて、エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングするように構成される。
本開示の別の態様は、ビデオ情報をコーディングする方法を提供する。この方法は、ベース・レイヤおよび対応するエンハンスメント・レイヤに関連付けられたビデオ情報を取得することを含む。この方法はまた、ビデオ情報に少なくとも部分的に基づいて、ベース・レイヤにおけるビデオ・ユニットに関連付けられた第1の重みと、エンハンスメント・レイヤにおけるビデオ・ユニットに関連付けられた第2の重みとを決定することを含む。この方法はさらに、第1および第2の重みに少なくとも部分的に基づいて、エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングすることを含む。
本開示のさらに別の態様は、装置のプロセッサによって実行可能な命令群を含むコンピュータ読取可能な媒体を提供する。これら命令群は、装置に対して、ベース・レイヤおよび対応するエンハンスメント・レイヤに関連付けられたビデオ情報を取得させうる。これら命令群はまた、装置に対して、ビデオ情報に少なくとも部分的に基づいて、ベース・レイヤにおけるビデオ・ユニットに関連付けられた第1の重みと、エンハンスメント・レイヤにおけるビデオ・ユニットに関連付けられた第2の重みとを決定させうる。これら命令群はさらに、装置に対して、第1および第2の重みに少なくとも部分的に基づいて、エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングさせうる。
本開示のさらなる態様は、ビデオ情報をコーディングするための装置を提供する。この装置は、ベース・レイヤおよび対応するエンハンスメント・レイヤに関連付けられたビデオ情報を取得する手段を含む。この装置はまた、ビデオ情報に少なくとも部分的に基づいて、ベース・レイヤにおけるビデオ・ユニットに関連付けられた第1の重みと、エンハンスメント・レイヤにおけるビデオ・ユニットに関連付けられた第2の重みとを決定する手段を含む。この装置はさらに、第1および第2の重みに少なくとも部分的に基づいて、エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングする手段を含む。
図1は、本開示に記載された態様にしたがう技法を利用しうる例示的なビデオ・エンコーディングおよびデコード・システムのブロック図である。 図2は、本開示に記載されたコーディング技法を実施するための例示的な処理のフロー図である。 図3は、本開示に記載されたコーディング技法を実施しうるビデオ・エンコーダの例を例示するブロック図である。 図4は、本開示に記載されたコーディング技法を実施しうるビデオ・デコーダの例を例示するブロック図である。 図5は、例示的なイントラ予測モードの図解である。 図6は、予測処理の例示的な表現である。 図7は、コーディングされるべき例示的な現在のエンハンスメント・ブロックの図解であり、ここでは、現在のエンハンスメント・ブロックのいくつかのピクセルが、近隣ブロックの境界の比較的に近くにあるものとして識別される。 図8Aは、コーディングされるべき例示的な現在のエンハンスメント・ブロックの図解であり、ここでは、現在のエンハンスメント・ブロックのいくつかのピクセルが、予測方向に基づいて、近隣ブロックの境界に比較的近くにあるものとして識別されている。 図8Bは、コーディングされるべき例示的な現在のエンハンスメント・ブロックの図解であり、ここでは、現在のエンハンスメント・ブロックのいくつかのピクセルが、予測方向に基づいて、近隣ブロックの境界に比較的近くにあるものとして識別されている。 図9は、コーディングされるべき例示的な現在のエンハンスメント・ブロックの図解であり、ここでは、重み付けパラメータが、予測方向に基づいて変動する。 図10は、重み付けられたベース・レイヤ予測子およびエンハンスメント・レイヤ予測子を用いてビデオをコーディングするための例示的な方法のフロー図である。 図11は、ピクセル位置に基づいて、ベース・レイヤ予測子とエンハンスメント・レイヤ予測子との重み付けを行い、これらを結合するための例示的な方法のフロー図である。 図12は、ベース・レイヤおよびエンハンスメント・レイヤの特定の特性に基づいて、ベース・レイヤ予測子とエンハンスメント・レイヤ予測子との重み付けを行い、これらを結合するための例示的な方法のフロー図である。
一般的に説明されるように、本開示は、スケーラブル・ビデオ・コーディングに関する。本開示の態様は、エンハンスメント・レイヤのための最終的な予測子を生成するために、結合された、重み付けられたベース・レイヤ予測およびエンハンスメント・レイヤ予測を使用することに関して記載されるだろう。いくつかの例では、これら重みは、スライス全体、コーディング・ブロック、またはビット・ストリームについて一定でありうる。さらなる例では、特定のピクセル、スライス、コーディング・ブロック等のための重みは、変動しうる。変動する重みを決定する際に考慮されうる要因は、とりわけ、以前にコーディングまたはデコードされたブロックに対するピクセルの近接度、および、イントラ予測方向を含みうる。その他の要因は、量子化パラメータ、および空間スケーリング比を含む。
さらなる例では、エンハンスメント・レイヤ予測子およびベース・レイヤ予測子のそれぞれの重みが決定される条件が、これら予測子から、または、これらの特性から、暗黙的に導出されうる。したがって、デコーダに、追加のデータが送信される必要はなく、むしろ、デコーダが、この重みを動的に導出しうる。さらなる例では、デコーダが重みを決定するために使用しうるビット・ストリーム内に、データが含まれうる。
1または複数の例の詳細が、添付図面および以下の説明において述べられる。他の特徴、目的、および利点が、説明と図面から、および特許請求の範囲から明らかになるだろう。
例えば、ビデオ画像、TV画像、静止画像、または、ビデオ・レコーダまたはコンピュータによって生成された画像は、水平線および垂直線で配列されたピクセルからなる。単一の画像におけるピクセルの数は、一般に、小さな画像の場合、数万であり、高解像度画像の場合、数100万である。各ピクセルは一般に、輝度情報およびクロミナンス情報を含んでいる。圧縮が無ければ、画像エンコーダから画像デコーダへ送られるべき情報の量は、非常に大きくなり、リアル・タイム送信を非現実的にしうる。送信されるべき情報量を低減するために、例えば、JPEG規格、MPEG規格、およびH.263規格のような多くの異なる圧縮方法が開発された。
典型的なビデオ・エンコーダでは、オリジナルのビデオ・シーケンスのフレームが、長方形の領域またはブロックへ分割されうる。これらは、イントラ・モード(I−モード)またはインタ・モード(P−モード)でエンコードされる。これらブロックは、例えばDCTコーディングのようなある種の変換コーディングを用いてコーディングされうる。しかしながら、純粋な変換ベースのコーディングは、ピクセルのインタ・ブロック相関を考慮することなく、特定のブロック内のインタ・ピクセル相関のみを低減し、一般には、依然として、送信のために高いビット・レートを生成する。現在のデジタル画像コーディング規格はまた、ブロック間のピクセル値の相関を低減するある方法を利用している。
一般に、Pモードでエンコードされるブロックは、以前にコーディングされ、送信されたフレームのうちの1つから予測される。ブロックの予測情報は、二次元(2D)動きベクトルによって表わされる。Iモードでエンコードされるブロックの場合、予測されるブロックは、同じフレーム内のすでにエンコードされた近隣ブロックからの空間予測を用いて生成されうる。予測誤差、すなわち、エンコードされたブロックと予測されたブロックとの差分は、ある離散変換の重み付けられた基本関数のセットとして表現される。この変換は、一般に、8×8または4×4のブロック・ベースで実行される。重み(例えば、変換係数)が、その後、量子化される。量子化は、情報の損失をもたらす。したがって、量子化された係数は、オリジナルよりも低い精度しか有していない場合がありうる。
量子化された変換係数は、動きベクトルおよびある制御情報とともに、完全にコーディングされたシーケンス表現を生成し、シンタックス要素と称される。シンタックス要素は、エンコーダからデコーダへの送信前に、これらの表現のために必要とされるビット数をさらに低減するために、エントロピ・コーディングされうる。
ビデオ・デコーダでは、先ず、エンコーダと同じ方式で予測を構築し、圧縮された予測誤差を、この予測に加えることによって、現在のフレームにおけるブロックが取得される。圧縮された予測誤差は、変換ベースの関数を、量子化された係数を用いて重み付けることによって得られうる。再構築されたフレームとオリジナルのフレームとの間の差分は、しばしば、再構築誤差と称される。
本開示に記載された技法は、一般に、スケーラブル・ビデオ・コーディング(SVC)および3Dビデオ・コーディングに関連する。例えば、これら技法は、High Efficiency Video Coding(HEVC)スケーラブル・ビデオ・コーディング(SVC)拡張に関連しており、(HEVC)(SVC)拡張とともに、または、(HEVC)(SVC)拡張内で使用されうる。SVC拡張では、ビデオ情報の多数のレイヤが存在しうる。最下位レベルにおけるレイヤは、ベース・レイヤ(BL)として役立ち、最上位レベルにおけるレイヤは、エンハンスト・レイヤ(EL)として役立ちうる。「エンハンスト・レイヤ」は、しばしば、「エンハンスメント・レイヤ」と称される。これら用語は、相互交換可能に使用されうる。中間にあるすべてのレイヤは、ELまたはBLの何れかまたは両方として役立ちうる。例えば、中間にあるレイヤは、例えば、ベース・レイヤ、または、介在するエンハンスメント・レイヤのように、その下のレイヤのためのELでありうると同時に、その上のエンハンスメント・レイヤのためのBLとして役立ちうる。
例示のみの目的のために、本開示に記載された技法は、2つのみのレイヤ(例えば、ベース・レイヤのような低レベル・レイヤと、エンハンスト・レイヤのような高レベル・レイヤ)を含む例を用いて記載されている。本開示において記載された例は、複数のベース・レイヤおよびエンハンスト・レイヤを用いた例にも同様に拡張されうることが理解されるべきである。
ビデオ・コーディング規格は、ITU−T H.261、ISO/IEC MPEG−1 Visual、ITU−T H.262またはISO/IEC MPEG2 Visual、ITU−T H.263、ISO/IEC MPEG−4 Visual、およびITU−T H.264(ISO/IEC MPEG−4 AVCとしても知られている)を含み、そのスケーラベル・ビデオ・コーディング(SVC)およびマルチ・ビュー・コーディング(MVC)拡張を含んでいる。SVCおよびMVCの最新のジョイント・ドラフトが、2010年3月のITU−T Recommendation H.264における「一般的なオーディオ・ビジュアル・サービスのためのアドバンスト・ビデオ・コーディング」(Advanced video coding for generic audiovisual services)に記載されている。さらに、新たなビデオ・コーディング規格であるHigh−Efficiency Video Coding(HEVC)がある。これは、ISO/IEC Motion Picture Experts Group(MPEG)およびITU−T Video Coding Experts Group(VCEG)のJoint Collaboration Team on Video Coding(JCT−VC)によって開発された。最近のHigh Efficiency Video Coding(HEVC)テキスト仕様書ドラフトは、http://phenix.int―evry.fr/jct/doc_end_user/documents/12_Geneva/wg11/JCTVC−L1003−v13.zipから利用可能である。HEVC WD9とも称されるHEVCの別の最近のワーキング・ドラフト(WD)は、http://phenix.int―evry.fr/jct/doc_end_user/documents/11_Shanghai/wg11/JCTVC−K1003−v13.zipにおいて利用可能である。HEVC WD8(またはWD8)と称されるHEVCの別のワーキング・ドラフトは、http://phenix.int―evry.fr/jct/doc_end_user/documents/10_Stockholm/wg11/JCTVC−J1003−v8.zipにおいて利用可能である。以下にHEVC WD7と称されるHEVCの別のワーキング・ドラフトは、http://phenix.int―evry.fr/jct/doc_end_user/documents/9_Geneva/wg11/JCTVC−I1003−v5.zipから利用可能である。これらのドキュメントのすべては、その全体が参照によって組み込まれている。
スケーラブル・ビデオ・コーディング(SVC)では、各レイヤ(例えば、ベース・レイヤおよびエンハンスメント・レイヤ)からのビット・ストリームは、単一のビット・ストリームへ、ともに多重化される。そのようなビット・ストリームは、エンハンスメント・レイヤ・ビット・ストリームが、デコードされた場合に、いつくかのエンハンスメントをベース・レイヤに提供しうるという観点において、スケーラブルである。そのようなエンハンスメントは、ベース・レイヤに対する、空間解像度、時間解像度、品質エンハンスメント等を含む。ベース・レイヤは、エンハンスメント・レイヤから独立してデコードされうる。それに応じて、これらエンハンスメントはまた、それぞれ、空間スケーラビリティ、時間スケーラビリティ、および、信号対雑音比(SNR)スケーラビリティとも称される。
スケーラビリティのタイプに関わらず、SVCの目標は、一般に、コーディング効率を改善するために、インタ・レイヤ相関を利用することである。そのようなインタ・レイヤ相関は、(例えば、予測モード、動きベクトル、予測残余等のような)異なるレイヤにおける対応するブロックの異なるシンタックスに存在しうる。
そのような相関を利用するために、多くのコーディング・ツールが、過去に提案されている。例えば、H.264/AVCのスケーラブル拡張では、例えばイントラ・ベース・レイヤ(BL)モード、残余予測、モード継承、および動きベクトル予測のようないくつかのコーディング・ツールが定義される。イントラBLモードにおいて、ベース・レイヤが再構築したブロックのテクスチャが、対応するエンハンスメント・レイヤ・ブロックを予測する際の予測子として使用される。ベース・レイヤ・ブロックの予測残余が、対応するエンハンスメント・レイヤ・ブロックの予測残差を予測するために、残余予測とともに使用される。ベース・レイヤ・ブロックの予測モード(分割モードを含む)が、エンハンスメント・レイヤ・ブロックの予測モードを予測するために、モード継承とともに使用される。ベース・レイヤ・ブロックの動きベクトルが、エンハンスメント・レイヤ・ブロックの動きベクトルを予測するために、動きベクトル予測とともに使用される。
SVCでは、レイヤがベース・レイヤであるかエンハンスメント・レイヤであるか否かは、相対的に見られうる。例えば、最初のレイヤと最後のレイヤとの間にある任意のレイヤが、1または複数の下部レイヤのエンハンスメント・レイヤであり、同時に、1または複数の高次レイヤのベース・レイヤとして役立ちうる。
SVCは、品質(信号対雑音(SNR)とも称される)スケーラビリティ、空間スケーラビリティ、および/または、時間スケーラビリティを提供するために使用されうる。エンハンスト・レイヤは、ベース・レイヤとは異なる空間解像度を有しうる。例えば、ELとBLとの間の空間アスペクト比は、1.0,1.5,2.0またはその他の異なる比率でありうる。言い換えれば、ELの空間アスペクトは、BLの空間アスペクトの1.0倍、1.5倍、または2.0倍に等しくなりうる。いくつかの例では、ELのスケーリング係数は、BLのものよりも大きくなりうる。例えば、ELにおけるピクチャのサイズは、BLにおけるピクチャのサイズより大きくなりうる。このように、限定する訳ではないが、ELの空間解像度は、BLの空間解像度よりも大きく可能性がありうる。
本開示の態様は、予測されたELブロックを生成するために、ELとBLとの両方からの予測に基づいて、結合された予測を用いることに関連する。ELをコーディングする際、予測子は、一般に、前述したように生成されうる。その後、EL予測子は、ELピクセルのインタ・レイヤ予測のために使用される最終的な予測子の品質を改善するために、BL予測子と結合されうる。EL予測子とBL予測子とを結合する際に、重みが適用されうる。これによって、EL予測子は、EL予測子がより正確になるケースにおいて、BL予測子よりも、最終的な予測子に対して影響を与えることができるようになる。あるいは、BL予測子がより正確になるケースにおいて、BL予測子が、EL予測子よりも最終的な予測子に影響を与えることができるように、重みが適用されうる。これら予測子のうちの何れが、より正確になるのかが分からないケースでは、BL予測子とEL予測子とが、均等に重み付けられうる。
斬新なシステム、装置、および方法のさまざまな態様が、添付図面を参照して以下により十分に記載される。しかしながら、本開示は、異なる多くの形態で具体化され、本開示を通じて示された如何なる具体的な構成または機能にも限定されるとは解釈されるべきではない。むしろ、これらの態様は、本開示が十分で完全であり、本開示の範囲を当業者に十分に伝達できるように提供されている。本明細書における教示に基づいて、当業者は、本開示のスコープは、本発明のその他任意の態様と独立しているか、または、結合されているかに関わらず、本明細書に開示された新規なシステム、装置、および方法の任意の態様をカバーすることが意図されていることを認識すべきである。例えば、本明細書に記載された任意の数の態様を用いて装置が実現され、方法が実施されうる。さらに、本発明の範囲は、別の構成、機能、または、本明細書に記載された発明のさまざまな態様またはそれ以外の態様が追加された構成および機能を用いて実現される装置または方法をカバーすることが意図されている。本明細書で開示されたあらゆる態様は、特許請求の範囲の1または複数の要素によって具体化されうる。
本明細書では、特定の態様が記載されているが、これら態様の多くの変形および置換が、本開示の範囲内にある。好適な態様のいくつかの利点および長所が述べられているが、本開示の範囲は、特定の利点、使用、および目的に限定されることは意図されていない。むしろ、本開示の態様は、このうちのいくつかが図面における例示によって、および、以下の好適な態様の記載によって例示されている異なる無線技術、システム構成、ネットワーク、および伝送プロトコルに広く適用可能であることが意図されている。詳細な記載および図面は、限定ではない開示の単なる例示であり、本開示の範囲は、特許請求の範囲およびその均等物によって定義される。
図1は、本開示に記載された態様にしたがう技法を利用しうるビデオ・エンコードおよびデコード・システムの例を例示するブロック図である。図1に図示されるように、システム10は、宛先デバイス14によって、後の時間においてデコードされるべきエンコードされたビデオ・データを提供するソース・デバイス12を含む。特に、ソース・デバイス12は、ビデオ・データを、コンピュータ読取可能な媒体16を経由して、宛先デバイス14へ提供する。ソース・デバイス12および宛先デバイス14は、デスクトップ・コンピュータ、ノートブック(例えば、ラップトップ)コンピュータ、タブレット・コンピュータ、セット・トップ・ボックス、例えば、いわゆる「スマート」フォンや、いわゆる「スマート」パッドのような電話ハンドセット、テレビ、カメラ、ディスプレイ・デバイス、デジタル・メディア・プレーヤ、ビデオ・ゲーミング・コンソール、ビデオ・ストリーミング・デバイス、等を含む広範なデバイスのうちの何れかを備えうる。いくつかのケースでは、ソース・デバイス12および宛先デバイス14が無線通信のために装備されうる。
宛先デバイス14は、デコードされるべき、エンコードされたビデオ・データを、コンピュータ読取可能な媒体16を経由して受け取りうる。コンピュータ読取可能な媒体16は、エンコードされたビデオ・データを、ソース・デバイス12から宛先デバイス14へ移動させることが可能な任意のタイプの媒体またはデバイスを備えうる。一例において、コンピュータ読取可能な媒体16は、エンコードされたビデオ・データを、ソース・デバイス12が、宛先デバイス14へリアル・タイムでダイレクトに送信することを可能にする通信媒体を備えうる。エンコードされたビデオ・データは、例えば無線通信プロトコルのような通信規格にしたがって変調され、宛先デバイス14へ送信されうる。通信媒体は、例えばラジオ周波数(RF)スペクトルまたは1または複数の物理送信ラインのような任意の無線または有線の通信媒体を備えうる。通信媒体は、例えば、ローカル・エリア・ネットワーク、広域ネットワーク、またはインターネットのようなグローバル・ネットワークのような、パケット・ベースのネットワークの一部を形成しうる。通信媒体は、ルータ、スイッチ、基地局、または、ソース・デバイス12から宛先デバイス14への通信を容易にするために有用でありうるその他任意の機器を含みうる。
いくつかの例において、エンコードされたデータは、出力インタフェース22から、記憶デバイスへ出力されうる。同様に、エンコードされたデータは、入力インタフェースによって、記憶デバイスからアクセスされうる。記憶デバイスは、例えば、ハード・ディスク、ブルーレイ・ディスク、DVD、CD−ROM、フラッシュ・メモリ、揮発性または不揮発性のメモリ、または、エンコードされたビデオ・データを格納するためのその他任意の適切なデジタル記憶媒体のような、種々の分散型またはローカルにアクセスされるデータ記憶媒体のうちの何れかを含みうる。さらなる例では、記憶デバイスは、ソース・デバイス12によって生成された、エンコードされたビデオを格納しうるファイル・サーバまたはその他の中間記憶デバイスに相当しうる。宛先デバイス14は、ストリーミングまたはダウンロードによって、記憶デバイスから、格納されたビデオ・データにアクセスしうる。ファイル・サーバは、エンコードされたビデオ・データを格納することと、エンコードされたビデオ・データを宛先デバイス14へ送信することとが可能な任意のタイプのサーバでありうる。ファイル・サーバの例は、(例えば、ウェブサイト用の)ウェブ・サーバ、FTPサーバ、ネットワーク・アタッチ・ストレージ(NAS:network attached storage)デバイス、またはローカル・ディスク・ドライブを含む。宛先デバイス14は、エンコードされたビデオ・データに、インターネット接続を含む任意の標準的なデータ接続によってアクセスしうる。これは、無線チャネル(例えば、Wi−Fi接続)、有線接続(例えば、DSL、ケーブル・モデム等)、または、ファイル・サーバに格納されたエンコードされたビデオ・データにアクセスすることに適したこれら両方の組み合わせを含みうる。記憶デバイスからの、エンコードされたビデオ・データの送信は、ストリーミング送信、ダウンロード送信、またはこれらの組み合わせを備えうる。
本開示の技法は、必ずしも無線のアプリケーションまたはセッティングに制限される必要はない。これら技法は、例えば、オーバ・ザ・エア・テレビジョン・ブロードキャスト、ケーブル・テレビジョン送信、衛星テレビジョン送信、例えば動的適応ストリーミング・オーバHTTP(DASH)のようなインターネット・ストリーミング・ビデオ送信、データ記憶媒体にエンコードされたデジタル・ビデオ、データ記憶媒体に格納されたデジタル・ビデオのコーディング、または、その他のアプリケーションのような種々のマルチメディア・アプリケーションのうちの何れかをサポートするビデオ・コーディングに適用されうる。いくつかの例において、システム10は、例えばビデオ・ストリーミング、ビデオ再生、ビデオ・ブロードキャスト、および/または、ビデオ・テレフォニのようなアプリケーションをサポートする1方向または2方向のビデオ送信をサポートするように構成されうる。
図1の例では、ソース・デバイス12は、ビデオ・ソース18、ビデオ・エンコーダ20、および出力インタフェース22を含んでいる。宛先デバイス14は、入力インタフェース28、ビデオ・デコーダ30、およびディスプレイ・デバイス32を含んでいる。ソース・デバイス12のビデオ・エンコーダ20は、本開示にしたがって、複数の規格または規格拡張版に準拠するビデオ・データを含むビット・ストリームをコーディングするための技法を適用するように構成されうる。別の例では、ソース・デバイスおよび宛先デバイスは、その他の構成要素または構成を含みうる。例えば、ソース・デバイス12は、例えば外部カメラのような外部ビデオ・ソース18からビデオ・データを受け取りうる。同様に、宛先デバイス14は、統合されたディスプレイ・デバイスを含むのではなく、外部のディスプレイ・デバイスとインタフェースしうる。
図1の例示されたシステム10は単なる一例である。現在のブロックのための動きベクトル予測の候補リストのための候補を決定するための技法は、任意のデジタル・ビデオ・エンコーディングおよび/またはデコーディング・デバイスによって実行されうる。一般に、本開示の技法は、ビデオ・エンコーディング・デバイスによって実行されるが、本技法はまた、一般に「コーデック」と称されるビデオ・エンコーダ/デコーダによって実行されうる。さらに、本開示の技術はまた、ビデオ・プリプロセッサによっても実行されうる。ソース・デバイス12および宛先デバイス14は、単に、ソース・デバイス12が、宛先デバイス14への送信のために、コーディングされたビデオ・データを生成するようなコーディング・デバイスの例である。いくつかの例において、デバイス12,14は、デバイス12,14のおのおのがビデオ・エンコードおよびデコード構成要素を含むように、実質的に対称的に動作しうる。したがって、システム10は、例えば、ビデオ・ストリーミング、ビデオ・プレイバック、ビデオ・ブロードキャスト、またはビデオ・テレフォニのために、ビデオ・デバイス12,14間の1方向または2方向のビデオ送信をサポートしうる。
ソース・デバイス12のビデオ・ソース18は、例えば、ビデオ・カメラ、以前にキャプチャされたビデオを含むビデオ・アーカイブ、および/または、ビデオ・コンテンツ・プロバイダからビデオを受け取るためのビデオ・フィード・インタフェースのようなビデオ・キャプチャ・デバイスを含みうる。さらなる代案として、ビデオ・ソース18は、コンピュータ・グラフィック・ベースのデータを、ソース・ビデオとして、または、ライブ・ビデオと、アーカイブされたビデオと、コンピュータによって生成されたビデオとの組み合わせとして生成しうる。いくつかのケースにおいて、ビデオ・ソース18がビデオ・カメラであれば、ソース・デバイス12および宛先デバイス14は、いわゆるカメラ電話またはテレビ電話を形成しうる。しかしながら、前述したように、本開示において記載されているこれら技法は、一般に、ビデオ・コーディングに適用可能でありうる。そして、無線または有線のアプリケーションに適用されうる。各ケースでは、キャプチャされたビデオ、プリ・キャプチャされたビデオ、または、コンピュータによって生成されたビデオが、ビデオ・エンコーダ20によってエンコードされうる。エンコードされたビデオ情報は、その後、出力インタフェース22によって、コンピュータ読取可能な媒体16に出力されうる。
コンピュータ読取可能な媒体16は、例えば無線ブロードキャストまたは有線ネットワーク送信のような一時的な媒体、または、例えばハード・ディスク、フラッシュ・ドライブ、コンパクト・ディスク、デジタル・ビデオ・ディスク、ブルーレイ・ディスクのような記憶媒体(すなわち、非一時的な記憶媒体)、または、その他のコンピュータ読取可能な媒体を含みうる。いくつかの例において、ネットワーク・サーバ(図示せず)は、エンコードされたビデオ・データを、ソース・デバイス12から受け取り、エンコードされたビデオ・データを、例えばネットワーク送信、ダイレクト有線通信等によって、宛先デバイス14へ提供しうる。同様に、例えばディスク・スタンピング施設のような媒体製造施設のコンピューティング・デバイスが、エンコードされたビデオ・データをソース・デバイス12から受け取り、このエンコードされたビデオ・データを含むディスクを生成しうる。
したがって、コンピュータ読取可能な媒体16は、さまざまな例において、さまざまな形態からなる1または複数のコンピュータ読取可能な媒体を含むものと理解されうる。
宛先デバイス14の入力インタフェース28は、コンピュータ読取可能な媒体16から、情報を受け取る。コンピュータ読取可能な媒体16の情報は、ビデオ・エンコーダ20によって定義され、ビデオ・デコーダ30によっても使用されるシンタックス情報を含みうる。これは、例えばGOPのように、ブロックおよびその他のコーディングされたユニットの特性および/または処理を記述するシンタックス要素を含む。ディスプレイ・デバイス32は、デコードされたビデオ・データをユーザへ表示しうる。そして、例えば、陰極線管(CRT)、液晶ディスプレイ(LCD)、プラズマ・ディスプレイ、有機発光ダイオード(OLED)ディスプレイ、または別のタイプのディスプレイ・デバイスのようなさまざまなディスプレイ・デバイスのうちの何かを備えうる。
ビデオ・エンコーダ20およびビデオ・デコーダ30は、現在開発中のHigh Efficiency Video Coding(HEVC)規格のようなビデオ・コーディング規格にしたがって動作し、HEVCテスト・モデル(HM)に準拠しうる。あるいは、ビデオ・エンコーダ20およびビデオ・デコーダ30は、例えば、MPEG 4、パート10、アドバンスト・ビデオ・コーディング(AVC)とも称されるITU−T H.264規格のようなその他の独占規格または業界規格、または、これら規格の拡張版にしたがって動作しうる。しかしながら、本開示の技法は、任意の特定のコーディング規格に限定されず、上記リストされた規格の何れにも制限されないことを含む。ビデオ・コーディング規格のその他の例は、MPEG2およびITU−T H.263を含んでいる。図1に図示されていないが、いくつかの態様では、ビデオ・エンコーダ20およびビデオ・デコーダ30はおのおの、オーディオ・エンコーダおよびデコーダと統合されうる。そして、共通のデータ・ストリームまたは個別のデータ・ストリームでオーディオとビデオとの両方のエンコードを取り扱うために、適切なMUX−DEMUXユニット、またはその他のハードウェアおよびソフトウェアを含みうる。適用可能であれば、MUX−DEMUXユニットは、ITU H.223マルチプレクサ・プロトコル、または、例えばユーザ・データグラム・プロトコル(UDP)のようなその他のプロトコルに準拠しうる。
ビデオ・エンコーダ20およびビデオ・デコーダ30はおのおの、例えば1または複数のマイクロプロセッサ、デジタル信号プロセッサ(DSP)、特定用途向けIC(ASIC)、フィールド・プログラマブル・ゲート・アレイ(FPGA)、ディスクリート・ロジック、ソフトウェア、ハードウェア、ファームウェア、またはこれらの任意の組み合わせ、のようなさまざまな適切なエンコーダ回路のうちの何れかとして実現されうる。これら技法が部分的にソフトウェアで実現される場合、デバイスは、本開示の技法を実行するために、ソフトウェアのための命令群を、適切な非一時的なコンピュータ読取可能な媒体に格納し、1または複数のプロセッサを用いて、ハードウェアにおいて、これら命令群を実行しうる。ビデオ・エンコーダ20およびビデオ・デコーダ30のおのおのは、1または複数のエンコーダまたはデコーダに含まれうる。これらの何れかは、それぞれのデバイスにおいて、結合されたビデオ・エンコーダ/デコーダ(コーデック)の一部として統合されうる。ビデオ・エンコーダ20および/またはビデオ・デコーダ30を含むデバイスは、集積回路、マイクロプロセッサ、および/または、例えばセルラ電話のような無線通信デバイスを含みうる。
JCT−VCは、HEVC規格の開発に寄与している。HEVC規格化の努力は、HEVCテスト・モデル(HM)と称されるビデオ・コーディング・デバイスの発展中のモデルに基づく。HMは、例えばITU−T H.264/AVCにしたがう既存のデバイスに対するビデオ・コーディング・デバイスのいくつかの追加機能であると考えられる。例えば、H.264が、9つのイントラ予測エンコーディング・モードを提供する一方、HMは、33ものイントラ予測エンコーディング・モードを提供しうる。
一般に、HMのワーキング・モデルは、ビデオ・フレームまたはピクチャが、輝度サンプルと彩度サンプルとの両方を含む最大コーディング・ユニット(LCU:largest coding unit)またはツリーブロックのシーケンスへ分割されうることを記載している。ビット・ストリーム内のシンタックス・データは、ピクセル数の観点から最大のコーディング・ユニットであるLCUのためのサイズを定義しうる。
スライスは、連続した多くのツリーブロックを、コーディング順に含んでいる。
ビデオ・フレームまたはピクチャは、1または複数のスライスへ分割されうる。
おのおののツリーブロックは、クワッドツリーにしたがってコーディング・ユニット(CU)へ分割されうる。一般に、クワッドツリー・データ構造は、ツリーブロックに対応するルート・ノードと共に、CU当たり1つのノードを含んでいる。CUが4つのサブCUへ分割されるのであれば、CUに対応するノードは、4つのリーフ・ノードを含んでいる。これらのおのおのは、サブCUのうちの1つに対応する。
クワッドツリー・データ構造の各ノードは、対応するCUのためのシンタックス・データを提供しうる。例えば、クワッドツリーにおけるノードは、分割フラグを含みうる。これは、このノードに対応するCUが、サブCUに分割されるているか否かを示す。CUのためのシンタックス要素は、再帰的に定義され、CUがサブCUに分割されているか否かに依存しうる。CUは、さらに分割されないのであれば、リーフCUと称される。本開示では、たとえオリジナルのリーフCUの明示的な分割が無くても、リーフCUのうちの4つのサブCUも、リーフCUと称されるだろう。例えば、16×16サイズのCUがこれ以上分割されていないのであれば、16×16のCUが分割されていなくても、4つの8×8のサブCUもまたリーフCUと称されるだろう。
CUは、CUがサイズ区別を有していないこと以外は、H.264規格のマクロブロックと同様の目的を有する。例えば、ツリーブロックは、4つの子ノード(サブCUとも称される)に分割され、各子ノードが親ノードになり、別の4つの子ノードに分割されうる。クワッドツリーのリーフ・ノードと称される最終的な分割されない子ノードは、リーフCUとも称されるコーディング・ノードを備える。コーディングされたビット・ストリームに関連付けられたシンタックス・データは、最大CUデプスと称される、ツリーブロックが分割される最大回数を定義しうる。そして、コーディング・ノードの最大サイズをも定義しうる。したがって、ビット・ストリームはまた、最小コーディング・ユニット(SCU)を定義しうる。本開示は、HEVCのコンテキストにおいて、または、その他の規格におけるコンテキストの類似のデータ構造(例えば、H.264/AVCにおけるマクロブロックおよびそのサブ・ブロック)におけるCU、PU、またはTUのうちの何れかを称するために「ブロック」という用語を用いる。
CUは、コーディング・ノードと、コーディング・ノードに関連付けられた変換ユニット(TU:transform unit)および予測ユニット(PU:prediction unit)を含む。CUのサイズは、コーディング・ノードのサイズに相当し、正方形の形状でなければならない。CUのサイズは、8×8ピクセルから、最大64×64またはそれ以上のピクセルを有するツリーブロックのサイズに及びうる。おのおののCUは、1または複数のPUおよび1または複数のTUを含みうる。CUに関連付けられたシンタックス・データは、例えば、CUを、1または複数のPUへ分割することを記述しうる。モードを分割することは、CUがスキップされるか、または、ダイレクト・モード・エンコードされるか、イントラ予測モード・エンコードされるか、インタ予測モード・エンコードされるかで異なりうる。PUは、非正方形の形状に分割されうる。CUに関連付けられたシンタックス・データはまた、例えば、クワッドツリーにしたがって、CUを1または複数のTUへ分割することを記述しうる。TUは、正方形形状または非正方形形状(例えば、長方形)でありうる。
HEVC規格は、TUにしたがう変換を考慮している。これは異なるCUについて異なりうる。TUは、常にそうであるとは限らないが、一般に、分割されたLCUのために定義された所与のCU内のPUのサイズに基づいてサイズ化される。TUは、一般に、PUと同じサイズであるか、PUよりも小さい。いくつかの例において、CUに対応する残余サンプルは、「残余クワッドツリー」(RQT:residual quad tree)として知られているクワッドツリー構造を用いて、より小さなユニットに細分化されうる。RQTのリーフ・ノードは、変換ユニット(TU)と称されうる。TUに関連付けられたピクセル差分値は、変換係数を生成するために変換されうる。これは、量子化されうる。
リーフCUは、1または複数の予測ユニット(PU)を含みうる。一般に、PUは、対応するCUのすべてまたは一部に対応する空間エリアを表し、PUのための基準サンプルを取得するためのデータを含みうる。さらに、PUは、予測に関連するデータを含む。例えば、PUがイントラ・モード・エンコードされた場合、PUのデータは、残余クワッドツリー(RQT)に含まれうる。これは、PUに対応するTUのためのイントラ予測モードを記述するデータを含みうる。別の例として、PUがインタ・モード・エンコードされている場合、PUは、PUのための1または複数の動きベクトルを定義するデータを含みうる。PUの動きベクトルを定義するデータは、例えば、動きベクトルの水平成分、動きベクトルの垂直成分、動きベクトルの解像度(例えば、1/4ピクセル精度または1/8ピクセル精度)、動きベクトルが示す基準ピクチャ、および/または、動きベクトルの基準ピクチャ・リスト(例えば、リスト0、リスト1、またはリストC)、を記述しうる。
1または複数のPUを有するリーフCUはまた、1または複数の変換ユニット(TU)を含みうる。変換ユニットは、前述したように、(TUクワッドツリー構造とも称される)RQTを用いて指定されうる。例えば、分割フラグが、リーフCUが4つの変換ユニットに分割されているか否かを示しうる。その後、各変換ユニットは、さらに、さらなるサブTUに分割されうる。TUは、さらに分割されない場合、リーフTUと称されうる。一般に、イントラ・コーディングの場合、リーフCUに属するすべてのリーフTUは、同じイントラ予測モードを共有する。すなわち、同じイントラ予測モードは、一般に、リーフCUのすべてのTUのための予測値を計算するために適用される。イントラ・コーディングのために、ビデオ・エンコーダは、イントラ予測モードを用いて、各リーフTUのための残余値を、TUに対応するCUの一部と、オリジナル・ブロックとの間の差分として計算しうる。TUは、必ずしもPUのサイズに制限されない。したがって、TUは、PUより大きくも、または、小さくもなりうる。イントラ・コーディングのために、PUは、同じCUのための対応するリーフTUと連結されうる。いくつかの例では、リーフTUの最大サイズは、対応するリーフCUのサイズに相当しうる。
さらに、リーフCUのTUはまた、残余クワッドツリー(RQT)と称されるそれぞれのクワッドツリー・データ構造に関連付けられうる。すなわち、リーフCUは、リーフCUがどうやってTUへ分割されるのかを示すクワッドツリーを含みうる。TUクワッドツリーのルート・ノードは、一般に、リーフCUに対応する。一方、CUクワッドツリーのルート・ノードは、一般に、ツリーブロック(またはLCU)に対応する。
分割されないRQTのTUは、リーフTUと称される。一般に、もしも別に言及されていないのであれば、本開示は、リーフCUおよびリーフTUを称するためにCUおよびTUという用語を用いる。
ビデオ・シーケンスは一般に、一連のビデオ・フレームまたはピクチャを含む。ピクチャのグループ(GOP:group of pictures)は、一般に、1または複数のビデオ・ピクチャからなる一連のビデオ・ピクチャを備える。GOPは、GOPのヘッダ、ピクチャの1または複数のヘッダ、または別の何れかに、シンタックス・データを含みうる。これは、GOPに含まれるピクチャの数を記述している。ピクチャのおのおののスライスは、それぞれのスライスのためのエンコード・モードを記述するスライス・シンタックス・データを含みうる。ビデオ・エンコーダ20は一般に、ビデオ・データをエンコードするために、個々のビデオ・スライス内のビデオ・ブロックに対して動作する。ビデオ・ブロックは、CU内のコーディング・ノードに対応しうる。ビデオ・ブロックは、固定サイズまたは可変サイズを有しうる。そして、指定されたコーディング規格によってサイズが異なりうる。
例として、HMは、さまざまなPUサイズにおける予測をサポートする。特定のCUのサイズが2N×2Nであると仮定すると、HMは、2N×2NまたはN×NであるPUサイズではイントラ予測をサポートし、2N×2N、2N×N、N×2N、またはN×Nである対称なPUサイズではインタ予測をサポートする。HMはまた、2N×nU、2N×nD、nL×2N、およびnR×2NのPUサイズにおけるインタ予測のために、非対称分割をサポートする。非対称分割では、CUの1つの方向が分割されないが、他の方向が25%および75%へ分割される。25%分割に対応するCU部分は、“Up”、“Down”、“Left”、または“Right”を示すインジケーションが続く“n”によって示される。したがって、例えば、“2N×nU”は、トップにおいて2N×0.5N PUで、ボトムにおいて2N×1.5N PUを用いて水平的に分割される2N×2N CUを称する。
本開示では、“N×N”および“NバイN”は、例えば16×16ピクセルまたは16バイ16ピクセルのように、垂直大きさおよび水平大きさに関するビデオ・ブロックのピクセル大きさを称するために交換可能に使用されうる。一般に、16×16ブロックは、垂直方向に16ピクセル(y=16)と、水平方向に16ピクセル(x=16)をと有するだろう。同様に、N×Nブロックは、一般に、垂直方向においてN個のピクセルと、水平方向においてN個のピクセルとを有する。ここで、Nは、負ではない整数値を表す。ブロックにおけるピクセルは、行と列とで構成されうる。さらに、ブロックは、必ずしも、垂直方向と同じ数のピクセルを、水平方向に有する必要はない場合がありうる。例えば、ブロックは、N×Mピクセルを備えうる。ここで、Mは、必ずしもNに等しくはない。
CUのPUを用いたイントラ予測コーディングまたはインタ予測コーディングの後、ビデオ・エンコーダ20は、CUのTUの残余データを計算しうる。PUは、(ピクセル領域とも称される)空間領域に予測ピクセル・データ生成する方法またはモードを記述するシンタックス・データを備えうる。そして、TUは、例えば、離散コサイン変換(DCT)、整数変換、ウェーブレット変換、または、残余ビデオ・データへの概念的に類似の変換、のような変換の適用後、変換領域に係数を備えうる。残余データは、エンコードされていないピクチャのピクセルと、PUに対応する予測値との間のピクセル差分に対応しうる。ビデオ・エンコーダ20は、CUのための残余データを含むTUを生成し、その後、TUを変換して、CUのための変換係数を生成する。
変換係数を生成する任意の変換後、ビデオ・エンコーダ20は、変換係数の量子化を実行しうる。量子化は、その最も広い通常の意味を有することが意図された広い用語である。1つの実施形態では、量子化は、変換係数が量子化され、恐らくは、さらなる圧縮によって、これら係数を表すために使用されるデータ量が低減される処理を称する。この量子化処理は、これら係数のうちのいくつかまたはすべてに関連付けられたビット・デプスを低減しうる。例えば、nビット値は、量子化中に、mビット値に丸められうる。ここで、nは、mよりも大きい。
量子化後、ビデオ・エンコーダは、変換係数をスキャンし、量子化された変換係数を含む2次元行列から1次元ベクトルを生成する。スキャンは、アレイの前面により高いエネルギ(したがって、より低い周波数)係数を配置し、アレイに背面により低いエネルギ(したがって、より高い周波数)係数を配置するように設計されうる。いくつかの例において、ビデオ・エンコーダ20は、量子化された変換係数をスキャンするために、予め定義されたスキャン順序を利用し、エントロピ・エンコードされうるシリアル・ベクトルが生成されうる。別の例では、ビデオ・エンコーダ20は、適応性スキャンを実行しうる。1次元ベクトルを生成するために、量子化された変換係数がスキャンされた後、ビデオ・エンコーダ20は、例えば、コンテキスト適応可変長コーディング(CAVLC)、コンテキスト適応バイナリ・コーディング、(CABAC)、シンタックス・ベース・コンテキスト適応バイナリ・コーディング(SBAC)、確率インタバル分割エントロピ(PIPE)コーディング、または、その他のエントロピ・エンコード方法にしたがって、1次元ベクトルをエントロピ・エンコードしうる。ビデオ・エンコーダ20はさらに、ビデオ・データをデコードする際にビデオ・デコーダ30によって用いられるために、エンコードされたビデオ・データに関連付けられたシンタックス要素をエントロピ・エンコードしうる。
CABACを実行するために、ビデオ・エンコーダ20は、コンテキスト・モデル内のコンテキストを、送信されるべきシンボルへ割り当てうる。このコンテキストは、例えば、近隣のシンボルの値が、非ゼロであるか否かに関連しうる。CAVLCを実行するために、ビデオ・エンコーダ20は、送信されるべきシンボルのために、可変長コードを選択しうる。VLCにおけるコードワードは、比較的短いコードが、より確率の高いシンボルに対応する一方、よい長いコードが、より確率の低いシンボルに対応するように構築されうる。このように、VLCを用いることで、例えば、送信されるべき各シンボルのために等しい長さのコードワードを用いるよりも、ビットを節約しうる。確率決定は、シンボルに割り当てられたコンテキストに基づきうる。
ビデオ・エンコーダ20はさらに、例えば、ブロック・ベースのシンタックス・データ、フレーム・ベースのシンタックス・データ、およびGOPベースのシンタックス・データのようなシンタックス・データを、例えば、フレーム・ヘッダ、ブロック・ヘッダ、スライス・ヘッダ、またはGOPヘッダで、ビデオ・デコーダ30へ送信しうる。GOPシンタックス・データは、それぞれのGOPにおけるフレームの数を記述しうる。そして、フレーム・シンタックス・データは、対応するフレームをエンコードするために使用されるエンコード/予測モードを示しうる。
図2は、例えば、図3のビデオ・エンコーダ20、図4のビデオ・デコーダ30、または他のいくつかのビデオ・コーダのような種々のビデオ・コーダによって実施されうる処理フローの例を例示する。以下の記載では、例示の便宜上、ベース・レイヤ・ブロックが再構築したテクスチャは、BL予測子と称される(Pbとして表示される)。エンハンスメント・レイヤ・ブロックの情報を用いてエンハンスメント・レイヤにおいて生成される予測子は、EL予測子と称される(Peとして表示される)。本開示の技法にしたがって、BL予測子とEL予測子との適切な結合によって生成される予測子は、最終的な予測子と称される(Pfとして表示される)。これは、現在のエンハンスメント・レイヤ・ブロックを予測するために実際に使用されるものである。図2に例示される処理は、インタ・レイヤ予測子を生成する場合に、BL予測子とEL予測子とを結合するために使用されうる。
ベース・レイヤ・ビデオ情報300およびエンハンスメント・レイヤ・ビデオ情報302は、ビデオ・コーダによって取得されうる。ブロック310では、例えばBLブロックのようなベース・レイヤ・ビデオのコーディングが始まりうる。BL予測子(例えば、ベース・レイヤにおいて再構築されたブロック)は、本明細書に記載された動き補償予測技法、イントラ予測技法、および残余予測技法にしたがって生成されうる。ブロック312では、例えばELブロックのようなエンハンスメント・レイヤ・ビデオのコーディングも始まりうる。EL予測子は、動き補償された予測およびイントラ予測にしたがって生成されうる。さらに、ブロック310で生成されたBL予測子は、最終的なEL予測子を生成するために、ブロック312において生成されたEL予測子と結合されうる。以下に示すように、最終的なEL予測子を生成する際、より正確である可能性が高い予測子により高い重みを与えるために、BL予測子およびEL予測子に重み付け係数が適用されうる。
いくつかの実施形態では、第1の重み付け係数は、ベース・レイヤ予測子のすべてのピクセルについて一定であり、第2の重み付け係数は、ベース・レイヤ予測子のすべてのピクセルについて一定でありうる。さらなる実施形態では、第1の重み付け係数は、ピクセル位置の関数として変動し、第2の重み付け係数は、ピクセル位置の関数として変動しうる。さらなる実施形態では、重み付け係数は、量子化パラメータまたは空間スケーリング比に基づいて変動しうる。与えられた例の何れかについて、重み付け係数は、第1の重み付け係数および第2の重み付け係数の総和が、一定値に等しくなるように決定されうる。
例えば、現在のエンハンスメント・レイヤ・ブロック(例えば、現在コーディングされているELブロック)の境界または境界近傍におけるピクセルについて、EL予測子に対応する第2の重み付け係数は、BL予測子に対応する第1の重み付け係数よりも大きくなりうる。このような重み付けは、現在のELブロックのピクセルの近傍のピクセルまたは隣接するピクセルが、ベース・レイヤからのピクセルよりも、より良好な予測子を与えるケースにおいて使用されうる。現在のエンハンスメント・レイヤ・ブロックの境界にも、その近傍にもないピクセルについては、BL予測子に対応する第1の重み付け係数は、EL予測子に対応する第2の重み付け係数よりも大きくなりうる。これらの場合では、現在のエンハンスメント・レイヤ・ブロックに対応するベース・レイヤ・ブロックからのピクセルが、その他のエンハンスメント・レイヤ・ブロックからのピクセルよりも、より良好な予測子を与えると判定されうる。これら予測子に適用される重みに影響を与えるほど、隣接するエンハンスメント・レイヤ・ブロックにピクセルが十分近い場合にあるとの判定は、現在のエンハンスメント・レイヤ・ブロックのイントラ予測方向に基づいて、ビデオ・コーダによってなされうる。
ビデオ・コーダはまた、現在のエンハンスメント・レイヤ・ブロックの境界とピクセルとの間の距離の関数として、第1の重み付け係数を決定しうる。第2の重み付け係数は、一般に、境界に近いピクセルに対して増加し、第1の重み付け係数は、一般に、境界から離れるピクセルに対して増加する。
ビデオ・コーダはまた、ベース・レイヤ予測子の量子化パラメータと、エンハンスメント・レイヤ予測子の量子化パラメータとに基づいて、第1の重み付け係数および第2の重み付け係数を決定しうる。例えば、BLの量子化パラメータが、ELの量子化パラメータに実質的に等しいか、または、ELの量子化パラメータの、あるしきい値内にあるのであれば、BL予測子およびEL予測子の重みは、EL量子化パラメータとBL量子化パラメータとの差分が大きい場合よりも近くなりうる。BL量子化パラメータが、EL量子化パラメータよりもはるかに大きいのであれば、ビデオ・コーダがEL予測子に割り当てる重みは、BL予測子に割り当てられる重みよりも実質的に大きくなりうる(例えば、差分QP1−QP2が増加すると、EL予測子に割り当てられた重みが増加する。ここで、QP1は、BLの量子化パラメータを表わし、QP2は、ELの量子化パラメータを表わす)。同様に、BL量子化パラメータがEL量子化パラメータよりもはるかに小さいのであれば、ビデオ・コーダがEL予測子に割り当てる重みは、BL予測子に割り当てられた重みよりも実質的に小さくなりうる。
ビデオ・コーダはまた、スケーリング比に基づいて、第1の重み付け係数と第2の重み付け係数とを選択しうる。例えば、より大きなスケーリング比は、一般に、第2の重み付け係数のためのより高い値に対応しうる。
ブロック320では、前述されたように生成された予測BLブロックとオリジナルのBLブロックとの間のピクセル差分を表わす残余データが、コーディングされうる。例えば、ビデオをエンコードする場合、残余データは、ピクセル領域から変換領域へ変換され、残余変換係数となる。残余変換係数は、その後、量子化されうる。ブロック322では、前述されたように生成された予測ELブロックとオリジナルのELブロックとの間のピクセル差分を表わす残余データが、コーディングされうる。
ブロック330では、ベース・レイヤのための動きベクトルに対する予測子が、例えば本明細書に記載されたような動き予測技法にしたがって生成されうる。ブロック332では、エンハンスメント・レイヤのための動きベクトルに対する予測子が、動き予測技法にしたがって生成されうる。さらに、ベース・レイヤ動きベクトルは、エンハンスメント・レイヤ動きベクトルのための予測子として使用されうる。
ブロック340では、コーディングされたBLビデオが、ビデオ・コーダから出力されうる。ブロック342では、コーディングされたELビデオが、ビデオ・コーダから出力されうる。この処理がビデオ・エンコーダによって実行される場合、BL残余およびその他のシンタックス要素が、エントロピ・コーディングされ、結果として得られるビット・ストリームのサイズがさらに低減されうる。そして、EL残余およびその他のシンタックス要素が、同様にエントロピ・コーディングされうる。各レイヤに対応するビット・ストリームは、その後、出力(例えば、送信または格納)のために多重化されうる。この処理がビデオ・デコーダによって実行される場合、コーディングされたELビデオおよびBLビデオは、(例えば、デコーダに関連付けられたディスプレイで)表示するためのビデオ信号を出力するために使用されうる。
図3は、本開示において記載された態様にしたがうコーディング技法を実施しうるビデオ・エンコーダ20の例を例示するブロック図である。ビデオ・エンコーダ20は、本開示の技法のうちの何れかまたはすべてを実行するように構成されうる。一例として、モード選択ユニット40は、例えばピクセル位置、BL特性およびEL特性等に基づいてBL重みおよびEL重みを決定することのように、本開示で記載された技法のいずれかはまたはすべてを実行するように構成されうる。しかしながら、本開示の態様は、そのように限定されない。いくつかの例において、本開示に記載された技法は、ビデオ・エンコーダ20のさまざまな構成要素間で共有されうる。いくつかの例では、それに加えて、または、その代わりに、プロセッサ(図示せず)が、本開示に記載された技法の何れかまたはすべてを実行するように構成されうる。
ビデオ・エンコーダ20は、ビデオ・スライス内で、ビデオ・ブロックのイントラ・コーディングおよびインタ・コーディングを実行しうる。イントラ・コーディングは、所与のビデオ・フレームまたはピクチャ内のビデオにおける空間冗長を低減または除去するために、空間予測に依存する。インタ・コーディングは、ビデオ・シーケンスの隣接するフレームまたはピクチャ内のビデオにおける時間冗長を低減または除去するために、時間予測に依存する。イントラ・モード(Iモード)は、いくつかの空間ベースのコーディング・モードのうちの何れかを称しうる。例えば単一方向予測(Pモード)または双方向予測(Bモード)のようなインタ・モードは、いくつかの時間ベースのコーディング・モードのうちの何れかを称しうる。
図3に図示されるように、ビデオ・エンコーダ20は、エンコードされるべきビデオ・フレーム内の現在のビデオ・ブロックを受け取る。図3の例では、ビデオ・エンコーダ20は、モード選択ユニット40、基準フレーム・メモリ64、加算器50、変換処理ユニット52、量子化ユニット54、およびエントロピ・エンコーディング・ユニット56を含んでいる。一方、モード選択ユニット40は、動き補償ユニット44、動き推定ユニット42、イントラ予測ユニット46、および分割ユニット48を含んでいる。ビデオ・ブロック再構築のために、ビデオ・エンコーダ20はまた、逆量子化ユニット58、逆変換ユニット60、および加算器62を含んでいる。再構築されたビデオからのブロッキネス(blockiness)アーチファクトを除去するためにブロック境界をフィルタするデブロッキング・フィルタ(図3に図示せず)もまた含まれうる。所望されるのであれば、デブロッキング・フィルタは、一般には、加算器62の出力をフィルタするであろう。デブロッキング・フィルタに加えて、(ループまたはポスト・ループにおける)追加のフィルタも使用されうる。このようなフィルタは、簡潔さのために図示されていないが、もしも所望されるのであれば、加算器50の出力を(イン・ループ・フィルタとして)フィルタしうる。
エンコード処理中、ビデオ・エンコーダ20は、コーディングされるべきビデオ・フレームまたはスライスを受け取る。フレームまたはスライスは、複数のビデオ・ブロックに分割されうる。動き推定ユニット42および動き補償ユニット44は、時間予測を与えるために、1または複数の基準フレームにおける1または複数のブロックに対して、受け取られたビデオ・ブロックのインタ予測コーディングを実行する。イントラ予測ユニット46は、代わりに、同じフレームまたはスライスにおける1または複数の近隣ブロックに対して、受け取られたビデオ・ブロックのイントラ予測コーディングを、空間予測を提供するためにコーディングされるべきブロックとして実行しうる。ビデオ・エンコーダ20は、例えば、ビデオ・データの各ブロックのために適切なコーディング・モードを選択するために、複数のコーディング・パスを実行しうる。
さらに、分割ユニット48は、以前のコーディング・パスにおける以前の分割スキームの評価に基づいて、ビデオ・データのブロックを、サブ・ブロックに分割しうる。例えば、分割ユニット48は、先ず、フレームまたはスライスを、LCUに分割し、LCUのおのおのを、レート歪み分析(例えば、レート歪み最適化)に基づいてサブCUに分割しうる。モード選択ユニット40はさらに、LCUのサブCUへの分割を示すクワッドツリー・データ構造を生成しうる。クワッドツリーのリーフ・ノードCUは、1または複数のPUおよび1または複数のTUを含みうる。
モード選択ユニット40は、例えば、誤り結果に基づいて、イントラまたはインタのコーディング・モードのうちの1つを選択しうる。そして、結果として得られたイントラ・コーディングされたブロックまたはインタ・コーディングされたブロックを加算器50に提供し、残余ブロック・データを生成する。また、加算器62に提供し、エンコードされたブロックを、基準フレームとして使用するために再構築する。モード選択ユニット40はまた、例えば、動きベクトル、イントラ・モード・インジケータ、分割情報、およびその他のこのようなシンタックス情報を、エントロピ・コーディング・ユニット56に提供する。
動き推定ユニット42および動き補償ユニット44は、高度に統合されうるが、概念の目的のために、個別に例示されている。動き推定ユニット42によって実行される動き推定は、動きベクトルを生成する処理であり、ビデオ・ブロックの動きを推定する。動きベクトルは、例えば、現在のフレーム内でコーディングされている現在のブロック(または、その他のコーディングされたユニット)に対する、基準フレーム内の予測ブロック(または、その他のコーディングされたユニット)に対する現在のビデオ・フレームまたはピクチャ内のビデオ・ブロックのPUの変位を示しうる。予測ブロックは、絶対差分(SAD)の合計、平方差分(SSD)の合計、または、その他の別のメトリックによって決定されうるピクセル差分の観点においてコーディングされるべきブロックに緊密にマッチするものとして発見されるブロックである。いくつかの例では、ビデオ・エンコーダ20は、基準フレーム・メモリ64内に格納された基準ピクチャの整数未満のピクセル位置の値を計算しうる。例えば、ビデオ・エンコーダ20は、基準ピクチャの、1/4ピクセル位置、1/8ピクセル位置、または、その他の分数のピクセル位置の値を補間しうる。したがって、動き推定ユニット42は、フル・ピクセル位置および分数ピクセル位置に対する動き探索を実行し、動きベクトルを、分数ピクセル精度で出力しうる。
動き推定ユニット42は、PUの位置を、基準ピクチャの予測ブロックの位置と比較することによって、インタ・コード・スライスにおけるビデオ・ブロックのPUの動きベクトルを計算する。基準ピクチャは、第1の基準ピクチャ・リスト(リスト0)または第2の基準ピクチャ・リスト(リスト1)から選択されうる。これらのおのおのは、基準フレーム・メモリ64に格納された1または複数の基準フレームを識別しうる。動き推定ユニット42は、計算された動きベクトルを、エントロピ・エンコード・ユニット56および動き補償ユニット44へ送信する。
動き補償ユニット44によって実行される動き補償は、動き推定ユニット42によって決定された動きベクトルに基づいて、予測ブロックをフェッチまたは生成することを含みうる。繰り返すが、動き推定ユニット42と動き補償ユニット44とは、いくつかの例では、機能的に統合されうる。動き補償ユニット44は、現在のビデオ・ブロックのPUの動きベクトルを受け取ると、基準ピクチャ・リストのうちの1つにおいて動きベクトルが指し示す予測ブロックを位置決めしうる。加算器50は、以下に示すように、予測ブロックのピクセル値を、コーディングされている現在のビデオ・ブロックのピクセル値から引くことによって、ピクセル差分値を生成する。一般に、動き推定ユニット42は、輝度成分に対する動き推定を実行し、動き補償ユニット44は、彩度成分と輝度成分との両方のために、輝度成分に基づいて計算された動きベクトルを用いる。また、モード選択ユニット40は、ビデオ・スライスのビデオ・ブロックをデコードする際に、ビデオ・デコーダ30によって使用されるための、ビデオ・ブロックおよびビデオ・スライスに関連付けられたシンタックス要素を生成しうる。
イントラ予測ユニット46は、前述されたように、動き推定ユニット42および動き補償ユニット44によって実行されるインタ予測に対する代替として、現在のブロックをイントラ予測または計算しうる。特に、イントラ予測ユニット46は、現在のブロックをエンコードするために使用するための、イントラ予測モードを決定しうる。いくつかの例において、イントラ予測ユニット46は、例えば、個別のエンコーディング・パスの間、さまざまなイントラ予測モードを用いて現在のブロックをエンコードし、イントラ予測ユニット46(または、いくつかの例では、モード選択ユニット40)は、テストされたモードから、使用する適切な予測モードを選択しうる。
例えば、イントラ予測ユニット46は、テストされたさまざまなイントラ予測モードのためのレート歪み値を、レート歪み分析を用いて計算し、テストされたモードのうち最良のレート歪み特性を有するイントラ予測モードを選択しうる。レート歪み分析は、一般に、エンコードされたブロックと、エンコードされたブロックを生成するためのエンコードされた、オリジナルのエンコードされていないブロックとの間の歪み(または誤差)の量のみならず、エンコードされたブロックを生成するために使用されるビットレート(すなわち、ビット数)をも決定する。イントラ予測ユニット46は、どのイントラ予測モードが、ブロックのために最良のレート歪み値(または、最低のコスト値)を示すのかを判定するために、エンコードされたさまざまなブロックのレートおよび歪みからコスト値を計算しうる。
ブロックのためにイントラ予測モードを選択した後、イントラ予測ユニット46は、ブロックのために選択されたイントラ予測モードを示す情報を、エントロピ・エンコーディング・ユニット56へ提供しうる。エントロピ・エンコーディング・ユニット56は、選択されたイントラ予測モードを示す情報をエンコードしうる。ビデオ・エンコーダ20は、送信されるビット・ストリームに、コンフィギュレーション・データを含めうる。これは、複数のイントラ予測モード・インデクス・テーブルおよび複数の修正されたイントラ予測モード・インデクス・テーブル(これらは、コードワード・マッピング・テーブルとも称される)、さまざまなブロックのエンコード・コンテキストの定義、最も確実性の高いイントラ予測モードを示すインジケーション、イントラ予測モード・インデクス・テーブル、および、コンテキストのおのおのを使用するための修正されたイントラ予測モード・インデクス・テーブルを含みうる。
ビデオ・エンコーダ20は、コーディングされているオリジナルのビデオ・ブロックから、モード選択ユニット40からの予測データを引くことにより、残余ビデオ・ブロックを生成する。加算器50は、この減算演算を実行する構成要素(単数または複数)を表す。変換処理ユニット52は、例えば離散コサイン変換(DCT)または概念的に類似した変換のような変換を、残余ブロックに適用し、残余変換係数値を備えるビデオ・ブロックが生成される。変換処理ユニット52は、概念的にDCTに類似したその他の変換を実行しうる。ウェーブレット変換、整数変換、サブ帯域変換、またはその他のタイプの変換もまた使用されうる。何れの場合も、変換処理ユニット52は、この変換を残余ブロックに適用し、残余変換係数のブロックが生成される。この変換は、残余情報を、ピクセル値領域から、例えば周波数領域のような変換領域に変換しうる。
変換処理ユニット52は、結果として得られた変換係数を量子化ユニット54へ送信しうる。量子化ユニット54は、さらにビット・レートを低減するために、この変換係数を量子化する。この量子化処理は、これら係数のうちのいくつかまたはすべてに関連付けられたビット・デプスを低減しうる。量子化の程度は、量子化パラメータを調節することにより修正されうる。いくつかの例では、その後、量子化ユニット54は、量子化された変換係数を含むマトリックスのスキャンを実行しうる。あるいは、エントロピ・エンコード・ユニット56が、このスキャンを実行しうる。
量子化の後、エントロピ・エンコード・ユニット56は、量子化された変換係数を、エントロピ・コーディングする。例えば、エントロピ・エンコーディング・ユニット56は、コンテキスト適応可変長コーディング(CAVLC)、コンテキスト適応バイナリ計算コーディング(CABAC)、シンタックス・ベースのコンテキスト適応バイナリ演算コーディング(SBAC)、確率インタバル分割エントロピ(PIPE)コーディング、またはその他のエントロピ・コーディング技法を実行しうる。コンテキスト・ベースのエントロピ・コーディングのケースでは、コンテキストは、近隣のブロックに基づきうる。エンコードされたビット・ストリームは、エントロピ・エンコーディング・ユニット56によるエントロピ・コーディング後、(例えばビデオ・デコーダ30のような)別のデバイスへ送信されうるか、または、後の送信または取得のためにアーカイブされうる。
逆量子化ユニット58および逆変換ユニット60は、例えば、基準ブロックとして後に使用するために、逆量子化または逆変換をそれぞれ適用し、ピクセル領域内の残余ブロックを再構築しうる。動き補償ユニット44は、残余ブロックを、基準フレーム・メモリ64のフレームのうちの1つの予測ブロックへ加えることによって、基準ブロックを計算しうる。動き補償ユニット44はまた、動き推定において使用するための整数未満のピクセル値を計算するために、1または複数の補間フィルタを、再構築された残余ブロックに適用しうる。加算器62は、動き補償ユニット44によって生成された動き補償予測ブロックに、再構築された残余ブロックを加え、基準フレーム・メモリ64に格納するための再構築されたビデオ・ブロックが生成される。再構築されたビデオ・ブロックは、その後のビデオ・フレームにおけるブロックをインタ・コーディングするために、動き推定ユニット42および動き補償ユニット44によって、基準ブロックとして使用されうる。
このように、図3のビデオ・エンコーダ20は、本開示の技法を実行するように構成されたビデオ・エンコーダの例を表わす。例えば、ビデオ・エンコーダ20は、最終的な予測子を生成するために、ベース・レイヤ予測子とエンハンスメント・レイヤ予測子とを結合しうる。そして、最終的な予測子に基づいて、現在のエンハンスメント・レイヤ・ブロックのためのインタ・レイヤ予測を実行しうる。インタ・レイヤ予測を実行することは、インタ・レイヤ・テクスチャ予測を実行することを含みうる。ベース・レイヤ予測子およびエンハンスメント・レイヤ予測子を結合する場合、ビデオ・エンコーダ20は、第1の重み付け係数をベース・レイヤ予測子に割り当て、第2の重み付け係数をエンハンスメント・レイヤ予測子に割り当てる。
図4は、本開示に記載された態様にしたがって技法を実施しうるビデオ・デコーダの例を例示するブロック図である。ビデオ・デコーダ30は、本開示の技法のうちの何れかまたはすべてを実行するように構成されうる。一例として、動き補償ユニット72および/またはイントラ予測ユニット74は、例えば、ピクセル位置、BL特性およびEL特性等に基づいてBL重みおよびEL重みを決定することのように、本開示に記載された技法の何れかまたはすべてを実行するように構成されうる。しかしながら、本開示の態様は、そのように限定されない。いくつかの例において、本開示に記載された技法は、ビデオ・デコーダ30のさまざまな構成要素間で共有されうる。いくつかの例では、それに加えて、または、その代わりに、プロセッサ(図示せず)は、本開示に記載された技法のうちの何れかまたはすべてを実行するように構成されうる。
図4の例では、ビデオ・デコーダ30は、エントロピ・デコード・ユニット70、動き補償ユニット72、イントラ予測ユニット74、逆量子化ユニット76、逆変換ユニット78、基準フレーム・メモリ82、および加算器80を含んでいる。ビデオ・デコーダ30は、いくつかの例において、ビデオ・エンコーダ20(図3A)に関して記載されたエンコード・パスに対して一般に逆であるデコード・パスを実行しうる。動き補償ユニット72は、エントロピ・デコード・ユニット70から受け取った動きベクトルに基づいて、予測データを生成しうる一方、イントラ予測ユニット74は、エントロピ・デコード・ユニット70から受け取ったイントラ予測モード・インジケータに基づいて、予測データを生成しうる。
デコード処理中、ビデオ・デコーダ30は、関連付けられたシンタックス要素とエンコードされたビデオ・スライスのビデオ・ブロックを示す、エンコードされたビデオ・ビットストリームを、ビデオ・エンコーダ20から受け取る。ビデオ・デコーダ30のエントロピ・デコード・ユニット70は、量子化された係数、動きベクトルまたはイントラ予測モード予測子、およびその他のシンタックス要素を生成するために、ビット・ストリームをエントロピ・デコードする。エントロピ・デコード・ユニット70は、動きベクトルおよびその他のシンタックス要素を、動き補償ユニット72へ転送する。ビデオ・デコーダ30は、ビデオ・スライス・レベルおよび/またはビデオ・ブロック・レベルにおいて、シンタックス要素を受け取りうる。
ビデオ・スライスが、イントラ・コード(I)スライスとしてコーディングされた場合、イントラ予測ユニット74は、現在のフレームまたはピクチャの、以前にデコードされたブロックからの、シグナルされたイントラ予測モードおよびデータに基づいて、現在のビデオ・スライスのビデオ・ブロックの予測データを生成しうる。ビデオ・フレームが、インタ・コードされた(例えば、B、P、またはGPB)スライスとしてコーディングされている場合、動き補償ユニット72は、エントロピ・デコード・ユニット70から受け取られた動きベクトルおよびその他のシンタックス要素に基づいて、現在のビデオ・スライスのビデオ・ブロックの予測ブロックを生成する。予測ブロックは、基準ピクチャ・リストのうちの1つ内の、基準ピクチャのうちの1つから生成されうる。ビデオ・デコーダ30は、基準フレーム・メモリ92に格納された基準ピクチャに基づいて、デフォルトの構築技法を用いて、基準フレーム・リストであるリスト0およびリスト1を構築しうる。動き補償ユニット72は、動きベクトルおよびその他のシンタックス要素を解析することによって、現在のビデオ・スライスのビデオ・ブロックの予測情報を決定し、この予測情報を用いて、デコードされている現在のビデオ・ブロックの予測ブロックを生成する。例えば、動き補償ユニット72は、受け取ったシンタックス要素のうちのいくつかを用いて、ビデオ・スライスのビデオ・ブロック、インタ予測スライス・タイプ(例えば、Bスライス、Pスライス、またはGPBスライス)、スライスのための基準ピクチャ・リストのうちの1または複数の構築情報、スライスの各インタ・エンコード・ビデオ・ブロックの動きベクトル、スライスの各インタ・コード・ビデオ・ブロックのインタ予測状態、および、現在のビデオ・スライスにおけるビデオ・ブロックをデコードするためのその他の情報、をコーディングするために使用される予測モード(例えば、イントラ予測またはインタ予測)を決定する。
動き補償ユニット72はまた、補間フィルタに基づいて、補間を実行しうる。動き補償ユニット72は、基準ブロックの整数未満ピクセルの補間値を計算するために、ビデオ・ブロックのエンコード中、ビデオ・エンコーダ20によって使用されるような補間フィルタを使用しうる。このケースでは、動き補償ユニット72は、受け取られたシンタックス要素から、ビデオ・エンコーダ20によって使用される補間フィルタを決定し、この補間フィルタを用いて、予測ブロックを生成する。
逆量子化ユニット76は、ビット・ストリームで提供され、エントロピ・デコード・ユニット80によってデコードされた、量子化された変換係数を逆量子化、すなわちde quantizeする。逆量子化処理は、量子化の程度、および、適用されるべき逆量子化の程度も同様に決定するために、ビデオ・スライスにおけるおのおののビデオ・ブロックについて、ビデオ・デコーダ30によって計算される量子化パラメータ(QPY)を使用することを含みうる。
逆変換ユニット78は、ピクセル領域における残余ブロックを生成するために、例えば、逆DCT、逆整数変換、または概念的に同様な逆変換処理を変換係数に適用する。
動き補償ユニット82が、動きベクトルおよびその他のシンタックス要素に基づいて、現在のビデオ・ブロックの予測ブロックを生成した後、ビデオ・デコーダ30は、逆変換ユニット78からの残余ブロックと、動き補償ユニット72によって生成された対応する予測ブロックとを総和することによって、デコードされたビデオ・ブロックを生成する。加算器90は、この総和演算を実行する構成要素(単数または複数)を表わす。所望されるのであれば、ブロッキネス・アーティファクトを除去するために、デブロッキング・フィルタも適用され、デコードされたブロックがフィルタされる。その他のループ・フィルタ(コーディング・ループ中の、またはコーディング・ループ後の何れか)もまた、ピクセル推移を平滑化するために、あるいは、ビデオ品質を改善するために、使用されうる。所与のフレームまたはピクチャ内の、デコードされたビデオ・ブロックは、その後、基準ピクチャ・メモリ92に格納される。基準ピクチャ・メモリ92は、その後の動き補償のために使用される基準ピクチャを格納する。基準フレーム・メモリ82はまた、例えば、図1のディスプレイ・デバイス32のような、ディスプレイ・デバイスにおける後の表示のために、デコードされたビデオを格納する。
このように、図4のビデオ・デコーダ30は、本開示の技法を実行するように構成されたビデオ・デコーダの例を表わす。例えば、ビデオ・デコーダ30は、最終的な予測子を生成するために、ベース・レイヤ予測子とエンハンスメント・レイヤ予測子とを結合しうる。そして、最終的な予測子に基づいて、現在のエンハンスメント・レイヤ・ブロックのためのインタ・レイヤ予測を実行しうる。インタ・レイヤ予測を実行することは、インタ・レイヤ・テクスチャ予測を実行することを含みうる。ベース・レイヤ予測子およびエンハンスメント・レイヤ予測子を結合する場合、ビデオ・デコーダ30は、第1の重み付け係数をベース・レイヤ予測子に割り当て、第2の重み付け係数をエンハンスメント・レイヤ予測子に割り当てる。いくつかの事例では、第1の重み付け係数は、ベース・レイヤ予測子のすべてのピクセルに対して一定であり、第2の重み付け係数は、ベース・レイヤ予測子のすべてのピクセルに対して一定でありうる。
ビデオ・デコーダ30は、とりわけ、デコードされているエンハンスメント・レイヤ・ブロック内のピクセルの特性と、BL予測子およびEL予測子の特性とから、これら重み付け係数を決定しうる。ビデオ・デコーダ30は、前述したように、ビデオ・エンコーダ20のものと同様の方式で、これら重み付け係数を決定するように構成されうる。このように、ビデオ・デコーダ30は、例えば、どの重みを使用するのかに関するデータのような、追加のデータを必要とすることなく、ビデオ・ブロックをエンコードするために必要とされていたものと同じまたは実質的に類似したパラメータを決定しうる。
ビデオ・エンコーダ20に関して前述したように、第1の重み付け係数は、ピクセル位置の関数として変動し、第2の重み付け係数は、ピクセル位置の関数として変動しうる。例えば、現在のエンハンスメント・レイヤ・ブロックの境界または境界の近傍におけるピクセルの場合、第2の重み付け係数は、第1の重み付け係数よりも大きくなりうる。例えば、現在のエンハンスメント・レイヤ・ブロックの境界に無い、または境界の近傍に無いピクセルの場合、第1の重み付け係数は、第2の重み付け係数よりも大きくなりうる。何が境界の近傍を構成しているかの判定は、現在のエンハンスメント・レイヤ・ブロックのイントラ予測方向に基づいて、ビデオ・デコーダ30によって判定されうる。
ビデオ・デコーダ30はまた、現在のエンハンスメント・ブロックの境界とピクセルとの間の距離の関数として、第1の重み付け係数を決定しうる。第2の重み付け係数は、一般に、境界に近いピクセルについて増加し、第1の重み付け係数は、一般に、境界から離れたピクセルについて増加しうる。
ビデオ・デコーダ30はまた、図3に関して前述したものと同様に、ベース・レイヤ予測子の量子化パラメータと、エンハンスメント・レイヤ予測子の量子化パラメータとに基づいて、第1の重み付け係数および第2の重み付け係数を決定しうる。
ビデオ・デコーダ30はまた、スケーリング比に基づいて、第1の重み付け係数および第2の重み付け係数を選択しうる。例えば、より大きなスケーリング比は、一般に、第2の重み付け係数のためのより高い値に対応しうる。
図5に移って、H.264コーダにおいて使用される空間予測(すなわち、イントラ予測)の例が、以下に記載される。空間予測を実行するために、H.264コーダは、4×4ブロックの予測のために9つのモードを提供する。これらは、DC予測(モード0)と、図5に図示されるようにラベル1乃至8が付された8方向のモードを含む。この予測処理は、図6に例示される。図6に図示するように、ブロック600におけるaからpまでのピクセルがエンコードされるべきであり、近隣ブロック602−608からのピクセルA乃至Rは、すでにエンコードされており、予測のために使用されうる。例えば、モード1が選択されると、ピクセルa,e,i,およびmをピクセルAに等しく設定することにより、ピクセルa,e,i,およびmが予測され、ピクセルb,f,j,およびnをピクセルBに等しく設定することにより、ピクセルb,f,j,およびnが予測されるという具合である。同様に、モード2が選択されると、ピクセルa,b,c,およびdをピクセルIに等しく設定することにより、ピクセルa,b,c,およびdが予測され、ピクセルe,f,g,およびhをピクセルBに等しく設定することにより、ピクセルe,f,g,およびhが予測されるという具合である。したがって、この例において、モード1は、垂直方向における予測子であり、モード2は、水平方向における予測子である。
図5および図6に例示された例およびイントラ・モード定義は、例示のみであり、限定することは意図されていない。その他のイントラ・モード定義は、例えばHEVCにおけるもののように使用されうる。HEVCでは、予測モードの数が、さらに増加される。例えば、4×4ブロック、8×8ブロック、およびそれより大きなブロックについて、35の予測モードがそれぞれ利用可能である。HEVCにおける各モードのために定義されたモード・インデクスは、異なりうる。例えば、HEVCでは、平面予測がモード0として、DC予測がモード1として定義される。
イントラBLモードにおいて記載されているように、インタ・レイヤ・テクスチャ予測では、ベース・レイヤ・ブロックから再構築されたテクスチャが、対応するエンハンスメント・レイヤ・ブロックのテクスチャを予測するための予測子として使用されうる。しかしながら、いくつかのケースでは、ベース・レイヤ・ブロックからの、再構築されたテクスチャにおけるピクセルのすべてが、エンハンスメント・レイヤ・ブロックにおける対応するピクセルのための最良の、または、好適な予測子であるという訳ではない。当該技術分野内の現在のスキームは、エンハンスメント・レイヤ・ブロックのための予測子を生成する際に、ピクセルの一部のみを用いたり、または、ベース・レイヤからのピクセルの一部の重み付けを下げるような柔軟性を提供しない。本開示は、このような柔軟性によって、より良好なコーディング効率を達成することを可能にするための技法を記載している。
いくつかの実施形態では、複数の予測子の、一定の重み付けがなされた結合が、使用されうる。このような技法によれば、最終的な予測子Pfを生成するために、EL予測子PeおよびBL予測子Pbが結合された場合、いくつかの重みが、EL予測子PeおよびBL予測子Pbに割り当てられうる。このような重みは、予測子内のすべてのピクセルに一定でありうる。例えば、最終的な予測子は、以下の式に基づいて生成されうる。
Pf=c1*Pb+c2*Pe (1)
式(1)では、c1およびc2は、重み係数を表わす。c1とc2との総和は、例えば1のような一定値に等しくなりうる。c1およびc2の両方は、PbおよびPe内のすべてのピクセルについて一定値を維持しうる。
いくつかの実施形態では、各予測子の重み付け係数は、一定の重みを用いるのではなく、ピクセル位置に基づいて変動しうる。例えば、重み付け係数は、予測子内の異なるピクセル位置については、異なりうる。より具体的には、最終的な予測子が、以下の式に基づいて生成されうる。
Pf[i,j]=c1[i,j]*Pb[i,j]+c2[i,j]*Pe[i,j] (2)
式(2)では、iおよびjが、予測子内の2次元座標を表わし、それぞれ行および列を示す。重み付けパラメータc1,c2は、異なる位置[i,j]においては、異なりうる。しかしながら、c1[i,j]およびc2[i,j]の合計は、例えば1のような一定値に等しくなりうる。式(2)に基づくと、c1[i,j]=1およびc2[i,j]=0であれば、最終的な予測子における対応するピクセルは、BL予測子内のピクセルから完全に生成される。あるいは、c1[i,j]=0およびc2[i,j]=1であれば、最終的な予測子における対応するピクセルは、EL予測子におけるピクセルから完全に生成される。
いくつかの実施形態では、EL予測子がイントラ予測子を用いて生成される場合、現在のELレイヤ・ブロック(例えば、現在コーディングされているブロック)の境界において、かつ、再構築されたピクセルの近隣ブロックの近くに位置するEL予測子におけるピクセルは、最終的な予測子を生成するためにBL予測子と結合されるのであれば、より高い重みが与えられうる。その他のピクセル位置については、より高い重みが、BL予測子からのピクセルに与えられうる。
エンハンスメント・レイヤにおいて再構築されたピクセルは、一般に、ベース・レイヤ内の対応するピクセルよりもより正確である(例えば、オリジナルのピクセル値により近い値を有する)。その結果、近隣のピクセルの間の強い相関によって、EL予測子では、より高い品質の予測子を生成するために、近隣ブロックの再構築されたピクセルの近くに位置するピクセルが使用されうる(例えば、EL予測子は、対応するBL予測子よりも高い重みを与えられうる)。しかしながら、予測のために使用される、近隣ブロックが再構築したピクセルから遠く離れて位置するEL予測子における他のピクセルの場合、いくつかの事例において予測品質がより低くなりうる。これらの実例では、BL予測子は、より高い品質の最終的な予測子を生成するために使用されうる(例えば、BL予測子は、対応するEL予測子よりも高い重みを与えられうる)。
このアイデアは、図7に例示される。図7において、ELブロック700は、予測されコーディングされるべき現在のELブロックである。(“/”線模様で印された)エリア720は、現在のELブロック700の予測のために使用されうる近隣のELブロック702−708の再構築されたピクセル・エリアである。陰付きで示されるエリア710は、近隣のELブロック702−708の近くのエリアであり、ここでは、相対的に高い重み付けが、EL予測子に割り当てられうる。例えば、式(2)に基づくと、陰付きエリア710におけるピクセルについて、c1[i,j]は0.5未満であり、c2[i,j]は0.5よりも大きくなりうる。陰付きエリア710内の近隣のELブロック702−708の境界におけるピクセルの場合、c1[i,j]は0の値を取り、c2[i,j]は1の値を取り、これによって、最終的な予測子における予測値は、これらピクセルのEL予測子に完全に基づくようになる。
図7に図示されるケースは、例のみであり、限定することは意図されていない。実際、陰付きエリア710の形状は、例えば、現在のブロック700のために選択されたイントラ予測方向に基づいて、適応的に定義されうる。図8Aおよび図8Bは、陰付きエリアが異なって定義されうるその他2つの例を例示する。図8Aは、予測方向が垂直であるケースを例示する。このケースでは、実質的に、垂直方向の近隣ELブロックの境界またはその近傍の陰付きエリア810aにおけるピクセルの場合、EL予測子に、より高い重みが与えられうる。図8Bは、予測方向が、水平である場合の例を示す。このケースでは、実質的に、水平方向の近隣ELブロックの境界またはその近傍の陰付きエリア810bにおけるピクセルの場合、EL予測子に、より高い重みが与えられうる。
前述した例では、陰付きエリアが示されているが、重み付けパラメータは、陰付きエリアの内部または外部でも変動しうる。陰付きエリアは、最終的な予測子を生成する際に、BL予測子よりもEL予測子により高いが与えられうる領域を例示するための例としてのみ使用される。いくつかの実施形態では、あるピクセル位置の重み付け係数が、予測のために使用される対応するより広いピクセルからのピクセル位置の本質的な距離およびイントラ予測方向に基づいて決定されうる。例えば、あるピクセル位置のための、より短い距離のために、EL予測子内の対応するピクセルに、より高い重み付け係数が割り当てられうる。
さらなる実施形態では、量子化パラメータまたは空間スケーリング比に基づいた複数の予測子の重み付けられた結合が、使用されうる。ベース・レイヤおよびエンハンスメント・レイヤからの予測子を結合するための係数(例えば、重み付けパラメータ)を決定する際にも、量子化パラメータ(QP)が考慮されうる。一般に、QP値がより低くなると、予測子の品質がより高くなる。その結果、エンハンスメント・レイヤ・ブロックが、ベース・レイヤ・ブロックにおいて使用されるものよりも著しく低いQPを有するのであれば、現在のエンハンスメント・レイヤ・ブロックのための最終的な予測子を生成する際に、EL予測子に、より高い重み付けが割り当てられうる。例えば、重み付けパラメータを決定する際の係数として、ベース・レイヤ・ブロックとエンハンスメント・レイヤ・ブロックとの間のQP差分が、使用されうる。
重み付けパラメータを決定する場合、空間スケーリング比も考慮されうる。空間スケーラビリティでは、エンハンスメント・フレームが、ベース・レイヤ・フレームよりもより高い空間解像度を有する。このケースでは、ベース・レイヤが再構築したテクスチャは、それにしたがって、対応するエンハンスメント・レイヤ・ブロックのための予測子として使用されうる前に、アップ・サンプルされねばならない。テクスチャ品質は、アップサンプリング処理中に品質を下げられうる。より大きなスケーリング比は、一般に、品質がより大きく低下するという結果をもたらす。したがって、スケーリング比は、重み付けパラメータを決定する際の係数として考慮されうる。一般に、スケーリング比がより大きくなると、最終的な予測子を生成する際に、より高い重みがEL予測子に割り当てられうる。
ここまで記載された技法のために、重み付けパラメータが、いくつかの条件またはコンテキストに暗黙的に依存して決定または導出されうる。このように、重み付けパラメータを導出するために、エンコーダとデコーダとの両方が、同じスキームを使用する場合、重み付けパラメータのための、エンコーダからデコーダへの、さらなるシグナリングは必要とされない。
前述したように、重み付けパラメータを暗黙的に導出するために使用される条件またはコンテキストは、イントラ予測方向(または、イントラ・モード)、予測のために使用される対応する境界ピクセルからのピクセル位置の距離、ベース・レイヤQPおよびエンハンスメント・レイヤQP、のみならず、異なるレイヤ間の空間スケーリング比を含みうる。例えば、動きベクトル差分、ブロック・サイズ等のようなその他の要因も使用されうる。
重み付けパラメータの暗黙的な導出に対する代替手段として、エンコーダはまた、重み付けパラメータを決定するためのある情報を、デコーダへシグナルしうる。例えば、エンコーダは、重み付けパラメータがどのようにして計算されるべきであるかを示すために、現在のブロックにおける座標をシグナルしうる。
例が図9に提供される。イントラ予測方向が垂直である場合、行座標910が、デコーダにシグナルされ、EL予測子とBL予測子とに等しい重み(例えば、0.5)が割り当てられる場所が示される。先頭行が、EL予測子から1の重み(すなわち、BL予測子から0の重み)を有し、最終行が、BL予測子から1の重み(すなわち、EL予測子から0の重み)を有すると仮定すると、それにしたがって、現在のエンハンスメント・レイヤ・ブロック900内のその他すべてのピクセル位置の重み付けパラメータが、例えば線形補間のようなあるスキームに基づいて補間されうる。予測方向が水平方向である場合、同じ技法が適用されうる。そのような考えは、2次元のケースに拡張されうる。いくつかの実施形態では、行座標と列座標との両方が、デコーダにシグナルされ、これによって、重み付けパラメータの補間が、2次元方式で実行されるようになる。いくつかの実施形態では、行座標および/または列座標は、BL予測子およびEL予測子に与えられた重みが均等であるポイントを示さないが、代わりに、BL予測子またはEL予測子の何れかの重みが、最終的な予測子のための全体的な基礎を形成するポイントを示しうる。そのような場合、これら位置の残りに割り当てられた重みが同様に推論されうる。
図10に移って、ビデオをコーディングするための例示的な処理が記載されるだろう。この処理は、例えばソース・デバイス12または宛先デバイス14のような、本明細書に記載されたデバイスのうちの1または複数で実施されうる。
この処理は、デジタル・ビデオの第1のレイヤと、デジタル・ビデオの第2のレイヤとが受け取られるブロック1002において始まる。宛先デバイス14またはその他のあるデコーダによって実施される場合、レイヤは、有線手段および/または無線手段(例えば、USB、PSTN、イーサネット(登録商標)、セルラ、衛星、WiFi、ブルートゥース(登録商標)等)によって、デジタル信号として送信されうる。これらレイヤは、個別に、または、同じ送信の一部として受信されうる。いくつかの実施形態では、レイヤは、ソース・デバイス12からダイレクトに受け取られうるか、または、1または複数の介在を介してソース・デバイスから受け取られ得る。また、レイヤまたはその一部は、複数のソース・デバイスから受け取られうる。また、受取処理は、受け取られたレイヤを、メモリに格納することを含みうる。
いくつかの実施形態では、この処理は、ソース・デバイス12またはその他いくつかのエンコーダによって実施されうる。いくつかのケースでは、第1のレイヤおよび第2のレイヤを含むデジタル・ビデオが、メモリから取得されうる(例えば、ディスク、DVD、ブルー・レイ等に格納されたビデオ)。メモリは、この処理を実施するデバイスに含まれうる。あるいは、メモリは、この方法を実施するデバイスにアクセス可能な個別のデバイス(例えば、ネットワーク・ストレージ)でありうる。いくつかの実施形態では、デジタル・ビデオは、センサ(例えばカメラ)から取得されうる。
ブロック1004では、この処理を実施するデバイスは、第1のレイヤに関連付けられた予測子(例えば、ベース・レイヤ予測子)および第2のレイヤに関連付けられた予測子(例えば、エンハンスメント・レイヤ予測子)のための重みを決定しうる。例えば、宛先デバイス14は、重み付けられたEL予測子およびBL予測子に基づいて、ビデオの特定のフレームからのエンハンスメント・ブロックをデコードしうる。近隣のELブロックは、既にデコードされているかもしれない。この近隣のブロックの近くのピクセルについて、デコーダは、そのピクセルのEL予測子に対して、対応するBL予測子(例えば、ベース・レイヤにおいて連結された予測子)に対するよりも高い重みを割り当てうる。以前にデコードされた近隣のELブロックから離れたピクセルの場合、デコーダは、このピクセルに対応するBL予測子に対して、EL予測子に対するよりも高い重みを割り当てうる。ピクセル位置に基づいて、EL予測子およびBL予測子に重みを割り当てる例示的な処理が、図11に関して後述される。重みを決定する場合、その他の要因も考慮されうる。例えば、予測方向が考慮されうる。そのようなケースでは、近隣ブロックに近いが、現在の予測方向と揃っていないピクセルに関連付けられたEL予測子は、必ずしも、対応するBL予測子よりも大きな重みを割り当てられる必要はない場合がありうる。QP値、空間スケーリング比等を含むその他の要因もまた考慮されうる。EL特性およびBL特性に基づいてEL予測子およびBL予測子に重みを割り合てるための例示的な処理が、図12に関して後述される。
ブロック1006では、この処理を実施するデバイスは、ブロック1004で決定された重み付けられた予測子に基づいて、エンハンスメント・レイヤ・ビデオ・ユニット(例えば、ブロックまたはピクセル)をコーディングしうる。例えば、前述した式(1)および(2)にしたがって、特定のエンハンスメント・レイヤ・ピクセルをデコードするために使用される最終的な予測子は、ピクセルに対応するEL予測子と、このEL予測子に関連付けられた重みとの積、および、ピクセルに対応するBL予測子と、このBL予測子に関連付けられた重みとの積、に基づきうる。重み付けられたそれぞれの予測子が、総和され、特定のピクセルのための最終的な予測子が提供される。
図11は、ELブロックとのピクセル位置に基づいて、または、以前にコーディングされた近隣のELブロックに対して、EL予測子およびBL予測子に重みを割り当てるための処理を例示する。この処理は、例えば、ソース・デバイス12のビデオ・エンコーダ20または宛先デバイス14のビデオ・デコーダのような、本明細書に記載されたデバイスのうちの1または複数で実施されうる。
この処理は、ELにおける特定のピクセルの位置が決定されるブロック1102において始まる。特に、現在のELブロックのために使用されている予測方向における、その位置から、以前にコーディングされたELブロック(例えば、現在コーディングされているELブロックに隣接したELブロック)におけるピクセルへの距離は、EL予測子に与えられた重みに対して逆比例しうる。
ブロック1104において、この処理を実行するデバイスは、上記で決定されたように、その位置、および、以前にコーディングされたELブロックからの距離に基づいて、現在のピクセル(または行、または列)のEL予測子に重みを割り当てうる。例示的に、EL予測子に割り当てられる重みは、1に近いか、1に等しくなりうる。ここで、現在のピクセルは、予測方向において以前にコーディングされているピクセルに対する直接的な近隣である。予測方向において、以前にコーディングされているピクセルと現在のピクセルとの間の距離が増加すると、EL予測子は、より小さくなるか、または、ゼロに近づきうる。
ブロック1106では、この処理を実行するデバイスが、EL予測子に割り当てられた重みに基づいて、BL予測子に重みを割り当てうる。例示的に、任意のピクセルのEL予測子およびBL予測子に割り当てられる重みは、総和されると、例えば1のような一定値になりうる。いくつかの実施形態では、BL予測子の重みが、現在のELピクセルの位置に基づいて割り当てられ、EL予測子に割り当てられる重みは、BL予測子に割り当てられた重みに基づく。
ブロック1108では、この処理を実行するデバイスは、ピクセル位置を決定することと、現在のELブロックにおける各ピクセルの位置に基づいて重みを割り当てることとの処理を反復しうる。
図12は、ベース・レイヤおよびエンハンスメント・レイヤの特性に基づいて、BL予測子重みおよびEL予測子重みを決定または割り当てる処理を例示する。この処理は、例えばソース・デバイス12または宛先デバイス14のように、本明細書に記載されたデバイスのうちの1または複数で実施されうる。
この処理は、ベース・レイヤおよびエンハンスメント・レイヤの関連する特性が決定されるブロック1202で始まる。これら特性は、量子化パラメータ、スケーリング・ファクタ、または、重み予測子に関連するその他いくつかの特性でありうる。
ブロック1204では、EL予測子の重みが、上記のように決定された特性に基づいて決定または割り当てられうる。例えば、エンハンスメント・レイヤとベース・レイヤとの、スケーリング・ファクタまたは量子化パラメータの差分が大きいのであれば、比較的大きなEL予測子重みが割り当てられうる。このような大きな差分は、例えば、BLブロックの品質が、ELブロックの品質よりも著しく低くなりうるので、以前にコーディングされているELブロックが、BLブロックよりも、現在のELブロックについてより良好な予測子を提供することを示しうる。
ブロック1206では、この処理を実行するデバイスは、EL予測子に割り当てられた重みに基づいて、BL予測子に重みを割り当てうる。例示的に、EL予測子およびBL予測子に割り当てられた重みは、総和されると、例えば1のような一定値になりうる。いくつかの実施形態では、BL予測子の重みは、ELブロックおよびBLブロックの特性に基づいて割り当てられ、EL予測子に割り当てられた重みは、BL予測子に割り当てられた重みに基づく。
1または複数の例では、記載された機能は、ハードウェア、ソフトウェア、ファームウェア、またはこれらの任意の組み合わせで実現されうる。ソフトウェアで実現されるのであれば、これら機能は、コンピュータ読取可能な媒体におけるコードまたは1または複数の命令群で送信されるか格納され、ハードウェア・ベースの処理ユニットによって実行されうる。コンピュータ読取可能な媒体は、コンピュータ読取可能な記憶媒体を含みうる。これは、例えばデータ記憶媒体のような有形な媒体、または、例えば通信プロトコルにしたがって、1つの場所から別の場所へのコンピュータ・プログラムの転送を容易にする任意の媒体を含む通信媒体に相当しうる。このように、コンピュータ読取可能な媒体は、一般に、(1)非一時的である有形のコンピュータ読取可能な記憶媒体、または、(2)例えば信号または搬送波のような通信媒体に対応しうる。データ記憶媒体は、本開示において記述された技術を実施するための命令群、コード、および/または、データ構造を検索するために1または複数のコンピュータまたは1または複数のプロセッサによってアクセスされうる任意の利用可能な媒体でありうる。コンピュータ・プログラム製品は、コンピュータ読取可能な媒体を含みうる。
例として、限定することなく、このようなコンピュータ読取可能な記憶媒体は、RAM、ROM、EEPROM、CD−ROMまたはその他の光ディスク記憶装置、磁気ディスク記憶装置またはその他の磁気記憶デバイス、フラッシュ・デバイス、あるいは、所望のプログラム・コード手段を命令群またはデータ構造の形式で搬送または格納するために使用され、しかも、コンピュータによってアクセスされうるその他任意の媒体を備えうる。さらに、いかなる接続も、コンピュータ読取可能な媒体として適切に称される。同軸ケーブル、光ファイバ・ケーブル、ツイスト・ペア、デジタル加入者線(DSL)、あるいは、例えば赤外線、無線およびマイクロ波のような無線技術を使用して、ウェブサイト、サーバ、あるいはその他の遠隔ソースから命令群が送信される場合、同軸ケーブル、光ファイバ・ケーブル、ツイスト・ペア、DSL、あるいは、例えば赤外線、無線およびマイクロ波のような無線技術が、媒体の定義に含まれる。しかしながら、コンピュータ読取可能な記憶媒体およびデータ記憶媒体は、コネクション、搬送波、信号、またはその他の過渡的な媒体を含まず、代わりに、非過渡的な、有形の記憶媒体に向けられていることが理解されるべきである。本明細書で使用されるディスク(diskおよびdisc)は、コンパクト・ディスク(disc)(CD)、レーザ・ディスク(disc)、光ディスク(disc)、デジタル多用途ディスク(disc)(DVD)、フロッピー(登録商標)ディスク(disk)、およびブルー・レイ・ディスク(disc)を含む。これらdiscは、レーザを用いてデータを光学的に再生する。それに対して、diskは、通常、データを磁気的に再生する。前述した組み合わせもまた、コンピュータ読取可能な媒体の範囲内に含まれるべきである。
命令群は、例えば1または複数のデジタル信号プロセッサ(DSP)、汎用マイクロプロセッサ、特定用途向けIC(ASIC)、フィールド・プログラマブル・ロジック・アレイ(FPGA)、またはその他等価な集積またはディスクリート論理回路のような1または複数のプロセッサによって実行されうる。したがって、本明細書で使用されているように、用語「プロセッサ」は、前述した構成、または、本明細書に記載された技術の実施のために適切なその他任意の構成のうちの何れかを称しうる。さらに、いくつかの態様では、本明細書に記載された機能は、符号化および復号のために構成された専用のハードウェアおよび/またはソフトウェア・モジュール内に適用されうるか、または、結合されたコーデック内に組み込まれうる。さらに、これら技法は、1または複数の回路または論理要素で完全に実現されうる。
本開示の技術は、無線ハンドセット、集積回路(IC)、またはICのセット(例えば、チップセット)を含む種々さまざまなデバイスまたは装置において実現されうる。さまざまな構成要素、モジュール、またはユニットは、本開示では、開示された技術を実行するように構成されたデバイスの機能態様を強調するように記載されているが、異なるハードウェア・ユニットによる実現を必ずしも必要とする訳ではない。むしろ、前述されたように、さまざまなユニットは、適切なソフトウェアおよび/またはハードウェアと連携する、前述されたような1または複数のプロセッサを含む共通のハードウェア・ユニットの集合によって提供されうるか、コーデック・ハードウェア・ユニットに結合されうる。
さまざまな例が記載された。これらの例およびその他の例は、以下の特許請求の範囲のスコープ内である。
さまざまな例が記載された。これらの例およびその他の例は、以下の特許請求の範囲のスコープ内である。
以下に出願時の特許請求の範囲に記載された発明を付記する。
[発明1]
デジタル・ビデオをコーディングする装置であって、
ベース・レイヤおよび対応するエンハンスメント・レイヤに関連付けられたビデオ情報を格納するように構成されたメモリと、
前記メモリと通信するプロセッサとを備え、
前記プロセッサは、
前記ビデオ情報に少なくとも部分的に基づいて、前記ベース・レイヤにおけるビデオ・ユニットに関連付けられた第1の重みと、前記エンハンスメント・レイヤにおけるビデオ・ユニットに付けられた第2の重みとを決定し、
前記第1の重みと前記第2の重みとに少なくとも部分的に基づいて、前記エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングする
ように構成された、装置。
[発明2]
前記第1の重みおよび前記第2の重みのうちの少なくとも1つは1に等しくない、発明1に記載の装置。
[発明3]
前記プロセッサはさらに、最終的な予測子に少なくとも部分的に基づいて前記エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングするように構成され、
前記最終的な予測子は、前記第1の重みにしたがって重み付けられたベース・レイヤ予測子と、前記第2の重みにしたがって重み付けられたエンハンスメント・レイヤ予測子との結合を備える、発明1に記載の装置。
[発明4]
前記第1の重みと前記第2の重みとを総和すると、現在のエンハンスメント・レイヤ・ブロックのための最終的な予測子を決定するために結合されたベース・レイヤ予測子とエンハンスメント・レイヤ予測子とのすべてについて、予め決定された一定値となる、発明3に記載の装置。
[発明5]
以前にコーディングされたエンハンスメント・レイヤ・ブロックに対して、予測方向において実質的に隣接している、エンハンスメント・レイヤにおけるビデオ・ブロックについて、前記第2の重みは、前記第1の重みよりも大きい、発明1に記載の装置。
[発明6]
以前にコーディングされたエンハンスメント・レイヤ・ブロックから、予測方向において、最も離れたエンハンスメント・レイヤ・ブロックについて、前記第1の重みは、前記第2の重みよりも大きい、発明1に記載の装置。
[発明7]
前記ビデオ情報は、イントラ予測方向、ピクセル位置、量子化パラメータ、および空間スケーリング比のうちの1または複数を備える、発明1に記載の装置。
[発明8]
前記第2の重みは、前記ベース・レイヤの量子化パラメータQP1と、前記エンハンスメント・レイヤの量子化パラメータQP2との両方の関数として決定される、発明7に記載の装置。
[発明9]
前記第2の重みは一般に、QP1−QP2の値が増加すると増加する、発明8に記載の装置。
[発明10]
前記第2の重みは、前記空間スケーリング比の関数として決定される、発明7に記載の装置。
[発明11]
前記第2の重みは一般に、前記空間スケーリング比が増加すると増加する、発明10に記載の装置。
[発明12]
前記エンハンスメント・レイヤにおけるビデオ・ユニットは、現在のエンハンスメント・レイヤ・ブロックにおけるピクセルを備え、
前記第2の重みは、予測方向における近隣のエンハンスメント・レイヤ・ブロックの境界と前記ピクセルとの間の距離の関数として決定される、発明1に記載の装置。
[発明13]
前記第2の重みは一般に、前記境界により近いピクセルについて増加し、前記第1の重みは一般に、前記境界からより遠いピクセルについて増加する、発明12に記載の装置。
[発明14]
前記ビデオ情報は、前記第1の重みおよび前記第2の重みを備えない、発明1に記載の装置。
[発明15]
前記ビデオ情報は、前記第1の重みおよび前記第2の重みに関連する重み付けデータを備える、発明1に記載の装置。
[発明16]
前記重み付けデータは、前記第1の重みおよび前記第2の重みが等しい、現在のエンハンスメント・レイヤ・ブロック内の位置を備える、発明15に記載の装置。
[発明17]
前記プロセッサはさらに、前記第1の重みおよび前記第2の重みが等しい位置に少なくとも部分的に基づいて、現在のエンハンスメント・レイヤ・ブロックに関連付けられた複数のビデオ・ユニットのために、前記第1の重みおよび前記第2の重みを決定するように構成された、発明16に記載の装置。
[発明18]
前記デジタル・ビデオをコーディングすることは、デジタル・ビデオをエンコードすることを備える、発明1に記載の装置。
[発明19]
前記デジタル・ビデオをコーディングすることは、デジタル・ビデオをデコードすることを備える、発明1に記載の装置。
[発明20]
デジタル・ビデオをコーディングする方法であって、
ベース・レイヤおよび対応するエンハンスメント・レイヤに関連付けられたビデオ情報を取得することと、
前記ビデオ情報に少なくとも部分的に基づいて、前記ベース・レイヤにおけるビデオ・ユニットに関連付けられた第1の重みと、前記エンハンスメント・レイヤにおけるビデオ・ユニットに付けられた第2の重みとを決定することと、
前記第1の重みと前記第2の重みとに少なくとも部分的に基づいて、前記エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングすることと、
を備える方法。
[発明21]
前記エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングすることは、最終的な予測子に少なくとも部分的に基づき、
前記最終的な予測子は、前記第1の重みにしたがって重み付けられたベース・レイヤ予測子と、前記第2の重みにしたがって重み付けられたエンハンスメント・レイヤ予測子との結合を備える、発明20に記載の方法。
[発明22]
前記第1の重みと前記第2の重みとを総和すると、現在のエンハンスメント・レイヤ・ブロックのための最終的な予測子を決定するために結合されたベース・レイヤ予測子とエンハンスメント・レイヤ予測子とのすべてについて、予め決定された一定値となる、発明21に記載の方法。
[発明23]
以前にコーディングされたエンハンスメント・レイヤ・ブロックに対して、実質的に隣接している、エンハンスメント・レイヤにおけるビデオ・ブロックについて、前記第2の重みは、前記第1の重みよりも大きい、発明20に記載の方法。
[発明24]
以前にコーディングされたエンハンスメント・レイヤ・ブロックから、最も離れたエンハンスメント・レイヤ・ブロックについて、前記第1の重みは、前記第2の重みよりも大きい、発明20に記載の方法。
[発明25]
前記ビデオ情報は、イントラ予測方向、ピクセル位置、量子化パラメータ、および空間スケーリング比のうちの1または複数を備える、発明20に記載の方法。
[発明26]
前記第2の重みは、前記ベース・レイヤの量子化パラメータQP1と、前記エンハンスメント・レイヤの量子化パラメータQP2との両方の関数として決定される、発明25に記載の方法。
[発明27]
前記第2の重みは一般に、QP1−QP2の値が増加すると増加する、発明26に記載の方法。
[発明28]
前記第2の重みは、前記空間スケーリング比の関数として決定される、発明25に記載の方法。
[発明29]
前記第2の重みは一般に、前記空間スケーリング比が増加すると増加する、発明28に記載の方法。
[発明30]
前記エンハンスメント・レイヤにおけるビデオ・ユニットは、現在のエンハンスメント・レイヤ・ブロックにおけるピクセルを備え、
前記第2の重みは、近隣のエンハンスメント・レイヤ・ブロックの境界と前記ピクセルとの間の距離の関数として決定される、発明20に記載の方法。
[発明31]
前記第2の重みは一般に、前記境界により近いピクセルについて増加し、前記第1の重みは一般に、前記境界からより遠いピクセルについて増加する、発明30に記載の方法。
[発明32]
前記ビデオ情報は、前記第1の重みおよび前記第2の重みを備えない、発明20に記載の方法。
[発明33]
前記ビデオ情報は、前記第1の重みおよび前記第2の重みに関連する重み付けデータを備える、発明20に記載の方法。
[発明34]
前記重み付けデータは、前記第1の重みおよび前記第2の重みが等しい、現在のエンハンスメント・レイヤ・ブロック内の位置を備える、発明33に記載の方法。
[発明35]
前記第1の重みおよび前記第2の重みが等しい位置に少なくとも部分的に基づいて、現在のエンハンスメント・レイヤ・ブロックに関連付けられた複数のビデオ・ユニットのために、前記第1の重みおよび前記第2の重みを決定すること、をさらに備える発明34に記載の方法。
[発明36]
装置のプロセッサによって実行可能な命令群を備えるコンピュータ読取可能な記憶媒体であって、
前記命令群は前記装置に対して、
ベース・レイヤおよび対応するエンハンスメント・レイヤに関連付けられたビデオ情報を取得することと、
前記ビデオ情報に少なくとも部分的に基づいて、前記ベース・レイヤにおけるビデオ・ユニットに関連付けられた第1の重みと、前記エンハンスメント・レイヤにおけるビデオ・ユニットに付けられた第2の重みとを決定することと、
前記第1の重みと前記第2の重みとに少なくとも部分的に基づいて、前記エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングすることと
を実行させる、コンピュータ読取可能な記憶媒体。
[発明37]
ビデオをコーディングする装置であって、
ベース・レイヤおよび対応するエンハンスメント・レイヤに関連付けられたビデオ情報を取得する手段と、
前記ビデオ情報に少なくとも部分的に基づいて、前記ベース・レイヤにおけるビデオ・ユニットに関連付けられた第1の重みと、前記エンハンスメント・レイヤにおけるビデオ・ユニットに付けられた第2の重みとを決定する手段と、
前記第1の重みと前記第2の重みとに少なくとも部分的に基づいて、前記エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングする手段と、
を備える装置。

Claims (37)

  1. デジタル・ビデオをコーディングする装置であって、
    ベース・レイヤおよび対応するエンハンスメント・レイヤに関連付けられたビデオ情報を格納するように構成されたメモリと、
    前記メモリと通信するプロセッサとを備え、
    前記プロセッサは、
    前記ビデオ情報に少なくとも部分的に基づいて、前記ベース・レイヤにおけるビデオ・ユニットに関連付けられた第1の重みと、前記エンハンスメント・レイヤにおけるビデオ・ユニットに付けられた第2の重みとを決定し、
    前記第1の重みと前記第2の重みとに少なくとも部分的に基づいて、前記エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングする
    ように構成された、装置。
  2. 前記第1の重みおよび前記第2の重みのうちの少なくとも1つは1に等しくない、請求項1に記載の装置。
  3. 前記プロセッサはさらに、最終的な予測子に少なくとも部分的に基づいて前記エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングするように構成され、
    前記最終的な予測子は、前記第1の重みにしたがって重み付けられたベース・レイヤ予測子と、前記第2の重みにしたがって重み付けられたエンハンスメント・レイヤ予測子との結合を備える、請求項1に記載の装置。
  4. 前記第1の重みと前記第2の重みとを総和すると、現在のエンハンスメント・レイヤ・ブロックのための最終的な予測子を決定するために結合されたベース・レイヤ予測子とエンハンスメント・レイヤ予測子とのすべてについて、予め決定された一定値となる、請求項3に記載の装置。
  5. 以前にコーディングされたエンハンスメント・レイヤ・ブロックに対して、予測方向において実質的に隣接している、エンハンスメント・レイヤにおけるビデオ・ブロックについて、前記第2の重みは、前記第1の重みよりも大きい、請求項1に記載の装置。
  6. 以前にコーディングされたエンハンスメント・レイヤ・ブロックから、予測方向において、最も離れたエンハンスメント・レイヤ・ブロックについて、前記第1の重みは、前記第2の重みよりも大きい、請求項1に記載の装置。
  7. 前記ビデオ情報は、イントラ予測方向、ピクセル位置、量子化パラメータ、および空間スケーリング比のうちの1または複数を備える、請求項1に記載の装置。
  8. 前記第2の重みは、前記ベース・レイヤの量子化パラメータQP1と、前記エンハンスメント・レイヤの量子化パラメータQP2との両方の関数として決定される、請求項7に記載の装置。
  9. 前記第2の重みは一般に、QP1−QP2の値が増加すると増加する、請求項8に記載の装置。
  10. 前記第2の重みは、前記空間スケーリング比の関数として決定される、請求項7に記載の装置。
  11. 前記第2の重みは一般に、前記空間スケーリング比が増加すると増加する、請求項10に記載の装置。
  12. 前記エンハンスメント・レイヤにおけるビデオ・ユニットは、現在のエンハンスメント・レイヤ・ブロックにおけるピクセルを備え、
    前記第2の重みは、予測方向における近隣のエンハンスメント・レイヤ・ブロックの境界と前記ピクセルとの間の距離の関数として決定される、請求項1に記載の装置。
  13. 前記第2の重みは一般に、前記境界により近いピクセルについて増加し、前記第1の重みは一般に、前記境界からより遠いピクセルについて増加する、請求項12に記載の装置。
  14. 前記ビデオ情報は、前記第1の重みおよび前記第2の重みを備えない、請求項1に記載の装置。
  15. 前記ビデオ情報は、前記第1の重みおよび前記第2の重みに関連する重み付けデータを備える、請求項1に記載の装置。
  16. 前記重み付けデータは、前記第1の重みおよび前記第2の重みが等しい、現在のエンハンスメント・レイヤ・ブロック内の位置を備える、請求項15に記載の装置。
  17. 前記プロセッサはさらに、前記第1の重みおよび前記第2の重みが等しい位置に少なくとも部分的に基づいて、現在のエンハンスメント・レイヤ・ブロックに関連付けられた複数のビデオ・ユニットのために、前記第1の重みおよび前記第2の重みを決定するように構成された、請求項16に記載の装置。
  18. 前記デジタル・ビデオをコーディングすることは、デジタル・ビデオをエンコードすることを備える、請求項1に記載の装置。
  19. 前記デジタル・ビデオをコーディングすることは、デジタル・ビデオをデコードすることを備える、請求項1に記載の装置。
  20. デジタル・ビデオをコーディングする方法であって、
    ベース・レイヤおよび対応するエンハンスメント・レイヤに関連付けられたビデオ情報を取得することと、
    前記ビデオ情報に少なくとも部分的に基づいて、前記ベース・レイヤにおけるビデオ・ユニットに関連付けられた第1の重みと、前記エンハンスメント・レイヤにおけるビデオ・ユニットに付けられた第2の重みとを決定することと、
    前記第1の重みと前記第2の重みとに少なくとも部分的に基づいて、前記エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングすることと、
    を備える方法。
  21. 前記エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングすることは、最終的な予測子に少なくとも部分的に基づき、
    前記最終的な予測子は、前記第1の重みにしたがって重み付けられたベース・レイヤ予測子と、前記第2の重みにしたがって重み付けられたエンハンスメント・レイヤ予測子との結合を備える、請求項20に記載の方法。
  22. 前記第1の重みと前記第2の重みとを総和すると、現在のエンハンスメント・レイヤ・ブロックのための最終的な予測子を決定するために結合されたベース・レイヤ予測子とエンハンスメント・レイヤ予測子とのすべてについて、予め決定された一定値となる、請求項21に記載の方法。
  23. 以前にコーディングされたエンハンスメント・レイヤ・ブロックに対して、実質的に隣接している、エンハンスメント・レイヤにおけるビデオ・ブロックについて、前記第2の重みは、前記第1の重みよりも大きい、請求項20に記載の方法。
  24. 以前にコーディングされたエンハンスメント・レイヤ・ブロックから、最も離れたエンハンスメント・レイヤ・ブロックについて、前記第1の重みは、前記第2の重みよりも大きい、請求項20に記載の方法。
  25. 前記ビデオ情報は、イントラ予測方向、ピクセル位置、量子化パラメータ、および空間スケーリング比のうちの1または複数を備える、請求項20に記載の方法。
  26. 前記第2の重みは、前記ベース・レイヤの量子化パラメータQP1と、前記エンハンスメント・レイヤの量子化パラメータQP2との両方の関数として決定される、請求項25に記載の方法。
  27. 前記第2の重みは一般に、QP1−QP2の値が増加すると増加する、請求項26に記載の方法。
  28. 前記第2の重みは、前記空間スケーリング比の関数として決定される、請求項25に記載の方法。
  29. 前記第2の重みは一般に、前記空間スケーリング比が増加すると増加する、請求項28に記載の方法。
  30. 前記エンハンスメント・レイヤにおけるビデオ・ユニットは、現在のエンハンスメント・レイヤ・ブロックにおけるピクセルを備え、
    前記第2の重みは、近隣のエンハンスメント・レイヤ・ブロックの境界と前記ピクセルとの間の距離の関数として決定される、請求項20に記載の方法。
  31. 前記第2の重みは一般に、前記境界により近いピクセルについて増加し、前記第1の重みは一般に、前記境界からより遠いピクセルについて増加する、請求項30に記載の方法。
  32. 前記ビデオ情報は、前記第1の重みおよび前記第2の重みを備えない、請求項20に記載の方法。
  33. 前記ビデオ情報は、前記第1の重みおよび前記第2の重みに関連する重み付けデータを備える、請求項20に記載の方法。
  34. 前記重み付けデータは、前記第1の重みおよび前記第2の重みが等しい、現在のエンハンスメント・レイヤ・ブロック内の位置を備える、請求項33に記載の方法。
  35. 前記第1の重みおよび前記第2の重みが等しい位置に少なくとも部分的に基づいて、現在のエンハンスメント・レイヤ・ブロックに関連付けられた複数のビデオ・ユニットのために、前記第1の重みおよび前記第2の重みを決定すること、をさらに備える請求項34に記載の方法。
  36. 装置のプロセッサによって実行可能な命令群を備えるコンピュータ読取可能な記憶媒体であって、
    前記命令群は前記装置に対して、
    ベース・レイヤおよび対応するエンハンスメント・レイヤに関連付けられたビデオ情報を取得することと、
    前記ビデオ情報に少なくとも部分的に基づいて、前記ベース・レイヤにおけるビデオ・ユニットに関連付けられた第1の重みと、前記エンハンスメント・レイヤにおけるビデオ・ユニットに付けられた第2の重みとを決定することと、
    前記第1の重みと前記第2の重みとに少なくとも部分的に基づいて、前記エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングすることと
    を実行させる、コンピュータ読取可能な記憶媒体。
  37. ビデオをコーディングする装置であって、
    ベース・レイヤおよび対応するエンハンスメント・レイヤに関連付けられたビデオ情報を取得する手段と、
    前記ビデオ情報に少なくとも部分的に基づいて、前記ベース・レイヤにおけるビデオ・ユニットに関連付けられた第1の重みと、前記エンハンスメント・レイヤにおけるビデオ・ユニットに付けられた第2の重みとを決定する手段と、
    前記第1の重みと前記第2の重みとに少なくとも部分的に基づいて、前記エンハンスメント・レイヤにおけるビデオ・ユニットをコーディングする手段と、
    を備える装置。
JP2015501871A 2012-03-22 2013-03-20 ビデオ・コーディングのためのインタ・レイヤ・テクスチャ予測 Active JP6199371B2 (ja)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US201261614450P 2012-03-22 2012-03-22
US61/614,450 2012-03-22
US201261707620P 2012-09-28 2012-09-28
US61/707,620 2012-09-28
US13/838,270 2013-03-15
US13/838,270 US9392274B2 (en) 2012-03-22 2013-03-15 Inter layer texture prediction for video coding
PCT/US2013/033068 WO2013142558A1 (en) 2012-03-22 2013-03-20 Inter layer texture prediction for video coding

Publications (3)

Publication Number Publication Date
JP2015514362A true JP2015514362A (ja) 2015-05-18
JP2015514362A5 JP2015514362A5 (ja) 2016-04-14
JP6199371B2 JP6199371B2 (ja) 2017-09-20

Family

ID=49211796

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015501871A Active JP6199371B2 (ja) 2012-03-22 2013-03-20 ビデオ・コーディングのためのインタ・レイヤ・テクスチャ予測

Country Status (8)

Country Link
US (1) US9392274B2 (ja)
EP (1) EP2829062B1 (ja)
JP (1) JP6199371B2 (ja)
KR (1) KR20140139571A (ja)
CN (1) CN104255027B (ja)
ES (1) ES2736308T3 (ja)
HU (1) HUE043633T2 (ja)
WO (1) WO2013142558A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014000168A1 (en) * 2012-06-27 2014-01-03 Intel Corporation Cross-layer cross-channel residual prediction
KR20140016823A (ko) * 2012-07-24 2014-02-10 한국전자통신연구원 영상의 복호화 방법 및 이를 이용하는 장치
US9860558B2 (en) * 2012-09-28 2018-01-02 Intel Corporation Inter-layer intra mode prediction
CN108521574A (zh) 2012-09-28 2018-09-11 索尼公司 编码设备、编码方法、解码设备和解码方法
EP2904797B1 (en) * 2012-10-01 2021-08-11 Nokia Technologies Oy Method and apparatus for scalable video coding
GB2509311B (en) * 2012-12-21 2016-12-14 Canon Kk Method and device for determining residual data for encoding or decoding at least part of an image
KR20160104646A (ko) * 2013-12-22 2016-09-05 엘지전자 주식회사 양자화 에러의 추가적인 제어를 이용한 비디오 신호의 인코딩, 디코딩 방법 및 장치
US9986251B2 (en) * 2014-05-01 2018-05-29 Arris Enterprises Llc Reference layer and scaled reference layer offsets for scalable video coding
CN109076200B (zh) 2016-01-12 2021-04-23 上海科技大学 全景立体视频系统的校准方法和装置
WO2017121549A1 (en) * 2016-01-12 2017-07-20 Telefonaktiebolaget Lm Ericsson (Publ) Frequency based prediction
CN116016935A (zh) * 2018-07-26 2023-04-25 谷歌有限责任公司 空间层速率分配方法和系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07162870A (ja) * 1993-09-21 1995-06-23 At & T Corp ビデオ信号符号化装置
JP2009532979A (ja) * 2006-04-06 2009-09-10 サムスン エレクトロニクス カンパニー リミテッド 加重平均合を用いてfgs階層をエンコーディングおよびデコーディングする方法および装置
JP2009543490A (ja) * 2006-07-10 2009-12-03 ミツビシ・エレクトリック・アールアンドディー・センター・ヨーロッパ・ビーヴィ 画像符号化及び復号化

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1878257A1 (en) * 2005-04-12 2008-01-16 Nokia Corporation Method and system for motion compensated fine granularity scalable video coding with drift control
US8315308B2 (en) * 2006-01-11 2012-11-20 Qualcomm Incorporated Video coding with fine granularity spatial scalability
US8422555B2 (en) 2006-07-11 2013-04-16 Nokia Corporation Scalable video coding
US8175158B2 (en) 2008-01-04 2012-05-08 Sharp Laboratories Of America, Inc. Methods and systems for inter-layer image prediction parameter determination
US8953679B2 (en) 2008-02-05 2015-02-10 Thomson Licensing Methods and apparatus for implicit block segmentation in video encoding and decoding
US8711948B2 (en) 2008-03-21 2014-04-29 Microsoft Corporation Motion-compensated prediction of inter-layer residuals
CN102308579B (zh) 2009-02-03 2017-06-06 汤姆森特许公司 位深可分级中使用平滑参考帧的运动补偿的方法和设备

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07162870A (ja) * 1993-09-21 1995-06-23 At & T Corp ビデオ信号符号化装置
JP2009532979A (ja) * 2006-04-06 2009-09-10 サムスン エレクトロニクス カンパニー リミテッド 加重平均合を用いてfgs階層をエンコーディングおよびデコーディングする方法および装置
JP2009543490A (ja) * 2006-07-10 2009-12-03 ミツビシ・エレクトリック・アールアンドディー・センター・ヨーロッパ・ビーヴィ 画像符号化及び復号化

Also Published As

Publication number Publication date
HUE043633T2 (hu) 2019-08-28
US9392274B2 (en) 2016-07-12
ES2736308T3 (es) 2019-12-27
JP6199371B2 (ja) 2017-09-20
EP2829062A1 (en) 2015-01-28
WO2013142558A1 (en) 2013-09-26
CN104255027B (zh) 2017-11-24
US20130251030A1 (en) 2013-09-26
KR20140139571A (ko) 2014-12-05
EP2829062B1 (en) 2019-04-17
CN104255027A (zh) 2014-12-31

Similar Documents

Publication Publication Date Title
US10425648B2 (en) Video intra-prediction using position-dependent prediction combination for video coding
JP6250678B2 (ja) スケーラブル映像コーディングに関するイントラ予測改良
JP6199371B2 (ja) ビデオ・コーディングのためのインタ・レイヤ・テクスチャ予測
JP6352314B2 (ja) 異なるアスペクト比を伴う空間スケーラビリティのためのレイヤ間の参照ピクチャの構築
JP6293756B2 (ja) スケーラブルビデオ符号化における変換基準の調整
KR102182441B1 (ko) 비디오 코딩에서 hevc 확장들을 위한 다중 계층들의 저복잡도 지원
JP2018509035A (ja) 適応型成分間残差予測
US9854259B2 (en) Smoothing of difference reference picture
US20140064359A1 (en) Intra prediction most probable mode order improvement for scalable video coding
JP2015530040A (ja) スケーラブルビデオコード化における代替変換
JP2015516759A (ja) ビデオ・コーディングのためのウェーブフロント並列処理
JP2015532554A (ja) ビデオプロパティの指示
JP6352391B2 (ja) Shvcのための複数のベースレイヤ参照ピクチャ
US20130329806A1 (en) Bi-layer texture prediction for video coding
JP2016509436A (ja) レイヤ間シンタックス予測制御
JP2017512025A (ja) ビデオコーディングにおけるフリッカー検出および軽減

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160223

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160223

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170725

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170823

R150 Certificate of patent or registration of utility model

Ref document number: 6199371

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250