JP7361972B1 - 符号化ピクチャバッファを用いたビデオ符号化 - Google Patents

Abstract

【課題】ＨＲＤ信号化のためのビット消費と多くのビットレートシナリオに対するＨＲＤパラメータの効果的な決定方法との間のより良いトレードオフをもたらす、符号化ピクチャバッファ（ＣＰＢ）動作を使用するビデオ符号化を提供する。【解決手段】エンコーダにおいて、選択されたビットレートにおける明示的に信号化された、ＣＰＢまたはＨＲＤパラメータ間の補間は、ＣＰＢパラメータ伝送容量とＣＰＢパラメータ化の有効性との間の良好な妥協を達成するために用いられる。特に、復号化側において、選択されたビットレートに対する時間オフセットおよび時間的除去遅延の両方が、選択されたビットレートで、信号化されたＣＰＢパラメータに従ってこのオフセットおよび遅延に対する対応値の間を補間することによって決定される。【選択図】図１

Description

本願発明は、ビデオ符号化及びビデオ符号化における符号化ピクチャバッファの使用法に関するものである。

仮想的な基準デコーダと、ビットストリーム及びデコーダの適合性をチェックするためのその使用は、ＶＶＣのようなあらゆるビデオ符号化規格に不可欠な要素である。

このような適合性チェックを行うために、図１７に示すように、ＨＳＳ（Ｈｙｐｏｔｈｅｔｉｃａｌ ｓｔｒｅａｍ ｓｃｈｅｄｕｌｅｒ：仮説ストリームスケジューラ）、ＣＰＢ（Ｃｏｄｅｄ Ｐｉｃｔｕｒｅ Ｂｕｆｆｅｒ：符号化ピクチャバッファ）、（瞬時とみなされる）デコード処理、ＤＢＰ（Ｄｅｃｏｄｅｄ Ｐｉｃｔｕｒｅ Ｂｕｆｆｅｒ：復号化ピクチャバッファ）、出力クロッピング処理からなるＨＲＤバッファモデルを規定する。

符号化ピクチャーバッファにビットストリームを供給するタイミング及びビットレート、その復号化ユニット（低遅延動作モードの場合はアクセスユニット又はＶＣＬ ＮＡＬユニット）をＣＰＢから除去して瞬時に復号化する時間、及びＤＰＢからピクチャーを出力する出力時間を定義するモデルである。

そうすることで、バッファオーバーフロー（ＣＰＢに保持できる量より多くのデータがデコーダに送られる）又はアンダーフロー（必要以上に低いビットレートで少ない量のデータがデコーダに送られる）、ＡＵからの必要なデータが復号化のために適切なタイミングでデコーダに存在しないことを避けるために、デコーダに必要なＣＰＢサイズを定義することも可能になる。

最先端のビデオ符号化規格では、ビットストリーム及びＨＲＤの要件及びバッファモデルを記述するために、異なるパラメータが指定される。

例えば、ＨＥＶＣでは、ｈｒｄ＿ｐａｒａｍｅｔｅｒｓ（ｈｒｄ＿パラメータ）がサブレイヤごとに定義され、Ｂｉｔｒａｔｅ（ｉ）及びＣＰＢｓｉｚｅ（ｉ）の１つ以上のタプル（ｔｕｐｌｅｓ）を記述し、ＨＳＳがＣＰＢｓｉｚｅ（ｉ）のサイズのＣＰＢにＢｉｔｒａｔｅ（ｉ）のビットレートを供給する場合、オーバーフローやアンダーフローは発生しないことを示す。つまり、これらのビットレート及びＣＰＢサイズのタプルに従えば、連続した復号化が保証される。

ｈｒｄ＿ｐａｒａｍｅｔｅｒシンタックスエレメントと連動して、ＣＰＢからの各ピクチャの除去時間を特定する追加のタイミング情報、すなわち、各ピクチャに属するＶＣＬ ＮＡＬユニットがどのタイミングでデコードに送られるかを示す情報がビットストリーム内に存在する。

関連する情報は、ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙ（ｉ）、ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ（ｉ）、ＡｕＣＰＢＲｅｍｏｖａｌＤｅｌａｙのシンタックスエレメントまたは変数でバッファリング期間ＳＥＩメッセージに存在し、及び、ＡｕＣＰＢＲｅｍｏｖａｌＤｅｌａｙでピクチャタイミングＳＥＩメッセージに存在する。

しかし、アプリケーションや及び伝送チャネルによっては、ビットレートに関して微調整できるようにするには、多くのビットレートのＨＲＤパラメータに関する情報が必要となる場合がある。しかし、この場合、ｂｉｔｒａｔｅｓ（ｉ）を密に選択するために、多くのＨＲＤパラメータをビット消費して送信する必要がある。ＨＲＤ情報を送信するための合理的なオーバーヘッドで多数のビットレートに対して正しいＨＲＤパラメータ化、すなわち、ＣＰＢのアンダーフローまたはオーバーフローにつながらないものを可能にする概念を手元に置くことは好ましいと思われる。

従って、本発明の目的は、一方ではＨＲＤ信号化のためのビット消費と多くのビットレートシナリオに対するＨＲＤパラメータの効果的な決定方法との間のより良いトレードオフをもたらす、符号化ピクチャバッファ動作を使用するビデオ符号化を提供することである。

実施形態は、ビデオ復号化のための装置であって、装置は、符号化ピクチャバッファと復号化ピクチャバッファ（ＤＰＢ）とを備え、ビデオのピクチャが符号化順序に沿って符号化されているデータストリームをアクセスユニットのシーケンスとして受信し、選択されたビットレートを用いてアクセスユニットのシーケンスをＣＰＢにシーケンシャルに供給するとともに、符号化順序において最初のアクセスユニットについては選択された時間的除去遅延の分、及び、符号化順序において２番目以降のアクセスユニットについては選択された時間的除去遅延と選択された時間オフセットとの和の分、前倒しされた時間フレーム除去ラスタによる仮想利用可能時間にまだ到達していないアクセスユニットについては仮想利用可能時間に到達するまでは供給を停止させ、時間ラスタを用いてＣＰＢからＡＵをＡＵ単位で除去し、第１の動作点に関連する第１のＣＰＢパラメータと第２の動作点に関連する第２のＣＰＢパラメータとをデータストリームから抽出し、ここで第１のＣＰＢパラメータ及び第２のＣＰＢパラメータの各々は、ＣＰＢサイズ、既定の時間オフセット、既定の時間的除去遅延及び既定のビットレートを示し、第１のＣＰＢパラメータは、少なくとも既定のビットレートに関して第２のＣＰＢパラメータと相違しており、第１のＣＰＢパラメータが示す既定の時間オフセットと第２のＣＰＢパラメータが示す既定の時間オフセットとの間を選択されたビットレートで補間することによって選択された時間オフセットを決定し、第１のＣＰＢパラメータが示す既定の時間的除去遅延と第２のＣＰＢパラメータが示す既定の時間的除去遅延との間を選択されたビットレートで補間することによって選択された時間的除去遅延を決定し、ＣＰＢから除去された現在のＡＵをＤＰＢに格納された参照される基準ピクチャからピクチャ間予測（ｉｎｔｅｒ－ｐｉｃｔｕｒｅ ｐｒｅｄｉｃｔｉｏｎ）を用いて復号化して復号化されたピクチャを取得し、復号化されたピクチャをＤＰＢに挿入し、ＤＰＢに格納された各基準ピクチャに、短期基準ピクチャ、長期基準ピクチャ、未参照基準ピクチャのうちの１つとしての分類を割り当て、現在のＡＵからＤＰＢモード情報を読み出し、ＤＰＢモード情報が第１モードを示す場合、ＦＩＦＯ方法に従って、短期ピクチャに分類された１つ以上の基準ピクチャをＤＰＢから除去し、ＤＰＢモード情報が第２モードを示す場合、現在のＡＵにおいて少なくとも１つのコマンドを含むメモリ管理制御情報を読み出し、少なくとも１つのコマンドを実行してＤＰＢに格納された基準ピクチャのうちの少なくとも１つに割り当てられた分類を変更し、ＤＰＢ内の基準ピクチャの分類を使用してＤＰＢからの基準ピクチャの除去を管理するように構成される。

別の実施形態は、データストリームにビデオを符号化するための装置であって、データストリームは、符号化ピクチャバッファ（ＣＰＢ）を備えるデコーダに供給されることによって復号化されるものであり、装置は、符号化順序で符号化されたビデオのピクチャをアクセスユニット（ＡＵ）のシーケンスとしてデータストリームに符号化し、第１の動作点に関連する第１のＣＰＢパラメータと第２の動作点に関連する第２のＣＰＢパラメータを決定し、ここで第１のＣＰＢパラメータ及び第２のＣＰＢパラメータの各々は、ＣＰＢサイズ、既定の時間オフセット、既定の時間的除去遅延及び既定のビットレートを示し、第１のＣＰＢパラメータは、少なくとも既定のビットレートに関して第２のＣＰＢパラメータと相違し、複数の選択されたビットレートの各々において第１のＣＰＢパラメータの既定の時間オフセットと第２のＣＰＢパラメータの既定の時間オフセットとの間を補間することによって、補間された時間オフセット及び補間された時間的除去遅延が生じて、それぞれの選択されたビットレートを使用してＡＵのシーケンスをＣＰＢにシーケンシャルに供給するとともに符号化順序において最初のアクセスユニットについては補間された時間的除去遅延の分、及び、符号化順序において２番目以降のアクセスユニットについては補間された時間的除去遅延と補間された時間オフセットとの和の分、前倒しされた時間フレーム除去ラスタによる仮想利用可能時間にまだ到達していないアクセスユニットについては仮想利用可能時間に到達するまでは供給を停止し、時間ラスタを用いてＣＰＢからＡＵをＡＵ単位で除去して、データストリームをＣＰＢを介してデコーダに供給することが、いかなるアンダーフローも、いかなるオーバーフローも引き起こさないように決定が実行され、ＣＰＢパラメータをデータストリームに符号化するように構成され、ここで、装置は、ＡＵを符号化する際に、ＤＰＢに格納された参照される基準ピクチャからのピクチャ間予測を使用して現在のピクチャを現在のＡＵに符号化し、ＤＰＢ内の現在のピクチャの復号化バージョンをＤＰＢに挿入し、ＤＰＢに格納された各基準ピクチャに、短期基準ピクチャ、長期基準ピクチャ、未使用基準ピクチャのうちの１つとしての分類を割り当て、ＤＰＢモード情報を現在のＡＵに書き込み、ＤＰＢモード情報が第１モードを示す場合、ＦＩＦＯ方法に従って、短期ピクチャに分類される１つ以上の基準ピクチャをＤＰＢから除去し、ＤＰＢモード情報が第２モードを示す場合、少なくとも１つのコマンドを含むメモリ管理制御情報を現在のＡＵに書き込み、ここでコマンドは、ＤＰＢに格納された基準ピクチャのうちの少なくとも１つに割り当てられた分類を変更するように指示するものであり、ＤＰＢにおける基準ピクチャの分類は、ＤＰＢからの基準ピクチャ除去を管理するために使用されるように構成される。

別の実施形態によれば、符号化ピクチャバッファと復号化ピクチャバッファ（ＤＰＢ）を用いたビデオ復号化のための方法であって、ビデオのピクチャが符号化順序に沿って符号化されているデータストリームをアクセスユニットのシーケンスとして受信するステップと、選択されたビットレートを用いて前記アクセスユニットのシーケンスを前記ＣＰＢにシーケンシャルに供給するとともに、前記符号化順序において最初のアクセスユニットについては選択された時間的除去遅延の分、及び、前記符号化順序において２番目以降のアクセスユニットについては前記選択された時間的除去遅延と選択された時間オフセットとの和の分、前倒しされた時間フレーム除去ラスタによる仮想利用可能時間にまだ到達していないアクセスユニットについては前記仮想利用可能時間に到達するまでは前記供給を停止させるステップと、前記時間ラスタを用いて前記ＣＰＢから前記ＡＵをＡＵ単位で除去するステップと、第１の動作点に関連する第１のＣＰＢパラメータと第２の動作点に関連する第２のＣＰＢパラメータとを前記データストリームから抽出するステップであって、前記第１のＣＰＢパラメータ及び第２のＣＰＢパラメータの各々は、ＣＰＢサイズ、既定の時間オフセット、既定の時間的除去遅延及び既定のビットレートを示し、前記第１のＣＰＢパラメータは、少なくとも前記既定のビットレートに関して前記第２のＣＰＢパラメータと相違している、ステップと、前記第１のＣＰＢパラメータが示す前記既定の時間オフセットと前記第２のＣＰＢパラメータが示す前記既定の時間オフセットとの間を前記選択されたビットレートで補間することによって前記選択された時間オフセットを決定し、前記第１のＣＰＢパラメータが示す前記既定の時間的除去遅延と前記第２のＣＰＢパラメータが示す前記既定の時間的除去遅延との間を前記選択されたビットレートで補間することによって前記選択された時間的除去遅延を決定するステップと、前記ＣＰＢから除去された現在のＡＵを前記ＤＰＢに格納された参照される基準ピクチャからピクチャ間予測を用いて復号化し、復号化されたピクチャを取得するステップと、前記復号化されたピクチャを前記ＤＰＢに挿入するステップと、前記ＤＰＢに格納された各基準ピクチャに、短期基準ピクチャ、長期基準ピクチャ、未参照基準ピクチャのうちの１つとしての分類を割り当てるステップと、前記現在のＡＵからＤＰＢモード情報を読み出すステップと、前記ＤＰＢモード情報が第１モードを示す場合、ＦＩＦＯ方法に従って、短期ピクチャに分類される１つ以上の基準ピクチャを前記ＤＰＢから除去するステップと、前記ＤＰＢモード情報が第２モードを示す場合、前記現在のＡＵにおいて少なくとも１つのコマンドを含むメモリ管理制御情報を読み出し、前記少なくとも１つのコマンドを実行して前記ＤＰＢに格納された前記基準ピクチャのうちの少なくとも１つに割り当てられた前記分類を変更し、前記ＤＰＢ内の前記基準ピクチャの前記分類を使用して前記ＤＰＢからの基準ピクチャの除去を管理するステップと、を含む。

別の実施形態では、データストリームは、ビデオが符号化され、第１のＣＰＢパラメータ及び第２のＣＰＢパラメータを含み、上記方法がＣＰＢのオーバーフロー及びアンダーフローを引き起こさないようになっている。

本発明の基礎となる考えは、選択されたビットレートにおける明示的に信号化されたＣＰＢ（またはＨＲＤ）パラメータ間の補間は、ＣＰＢパラメータ伝送容量とＣＰＢパラメータ化の有効性との間の良好な妥協を達成するために特に、有効な方法において使用されてよい。有効な方法、すなわち、アンダーフローおよびオーバーフローのない安全で正しいＣＰＢ動作につながる方法、および、例えば、明示的に信号化されたＣＰＢパラメータが、明示的に信号化された動作点に対するＣＰＢサイズおよびビットレートに加えて、これらの動作点に対する既定の時間オフセットおよび既定の時間的除去遅延を示すものであっても、補間関連の意図しない状況を考慮するための安全オフセットを備える必要がない方法による。特に、本考案によれば、復号化側において、選択されたビットレートに対する時間オフセットおよび時間的除去遅延の両方が、選択されたビットレートで、信号化されたＣＰＢパラメータに従ってこのオフセットおよび遅延に対する対応値の間を補間することによって決定され得る。このような補間／選択された時間オフセットは、次に、選択されたビットレートを用いて、ビデオデータストリームのアクセスユニットのシーケンスを符号化ピクチャバッファに順次供給するために使用され、すなわち、符号化順序の最初のアクセスユニットについては、選択／補間された時間的除去遅延の分、符号化順序の２番目以降のアクセスユニットについては、選択された時間的除去遅延と選択／補間された時間オフセットとの和の分、前倒しされたた時間フレーム除去ラスタによる仮想利用可能時間にまだ到達していないアクセスユニットについては仮想利用可能時間に到達するまでは前記供給を停止させる。時間ラスタを使用して、アクセスユニットは、その後、符号化ピクチャバッファから除去されることができる。復号化側では、選択された時間オフセット及び選択された時間的除去遅延を決定するために単に補間が実行されなければならないが、エンコーダは、補間を考慮した方法で、すなわち、時間オフセット及び時間的除去遅延の対応する選択／補間値が動作点のＣＰＢパラメータに従ってアンダーフロー又はオーバーフローをもたらさない方法で、ビデオデータストリームが明示的に準備される動作点に関連する明示的に信号化されたＣＰＢパラメータを設定する。

本願の実施形態は、その中の図に関して以下に説明される。

図１は、本願の実施形態が実装されることができるエンコーダの可能な実装のブロック図である。 図２は、本願の実施形態が実施されることができるデコーダの可能な実装のブロック図であり、図１のエンコーダに適合するデコーダを示す。 図３は、本願の実施形態によるデコードのための装置のブロック図である。 図４は、ＣＰＢパラメータ符号化とその間の補間に関する概略図である。 図５は、左側にＣＰＢのフィーダの充填状態のグラフを、右側にＣＰＢの充填状態のグラフを示し、上半分は、後続の最初ではないアクセスユニットに対する時間オフセットを使用しない例を示し、下半分は、後続の最初ではないアクセスユニットに対する時間オフセットを使用する例を示している。 図６は、ＣＰＢパラメータのビットレート、その間の選択されたビットレート及び時間オフセットの設定例を変えた場合のＣＰＢバッファの充填状態を示す図である。 図７は、ＣＰＢパラメータのビットレート、その間の選択されたビットレート及び時間オフセットの設定例を変えた場合のＣＰＢバッファの充填状態を示す図である。 図８は、ＣＰＢパラメータのビットレート、その間の選択されたビットレート及び時間オフセットの設定例を変えた場合のＣＰＢバッファの充填状態を示す図である。 図９は、ＣＰＢパラメータのビットレート、その間の選択されたビットレート及び時間オフセットの設定例を変えた場合のＣＰＢバッファの充填状態を示す図である。 図１０は、ＣＰＢパラメータのビットレート、その間の選択されたビットレート及び時間オフセットの設定例を変えた場合のＣＰＢバッファの充填状態を示す図である。 図１１は、ＣＰＢパラメータのビットレート、その間の選択されたビットレート及び時間オフセットの設定例を変えた場合のＣＰＢバッファの充填状態を示す図である。 図１２は、ＣＰＢパラメータのビットレート、その間の選択されたビットレート及び時間オフセットの設定例を変えた場合のＣＰＢバッファの充填状態を示す図である。 図１３は、ＣＰＢパラメータのビットレート、その間の選択されたビットレート及び時間オフセットの設定例を変えた場合のＣＰＢバッファの充填状態を示す図である。 図１４は、ＣＰＢパラメータのビットレート、その間の選択されたビットレート及び時間オフセットの設定例を変えた場合のＣＰＢバッファの充填状態を示す図である。 図１５は、ＤＰＢを管理するための図３の装置の動作モードの一例を示す概略図である。 図１６は、本願の実施形態による符号化のための装置のブロック図である。 図１７は、既知のＨＲＤバッファモデルのブロック図である。

本明細書の導入部分の説明を再開し、ＨＲＤ動作に関する動作点の高い柔軟性を提供する希望に関わる問題を説明する前に、その後に説明する実施形態が組み込まれ得るビデオ符号化のための予備的な例が提供される。しかしながら、ビデオ符号化に関するこれらの例は、本願の後に説明する実施形態を限定するものとして扱われるべきでないことに留意されたい。

図１は、ビデオ１２をビットストリーム１４に符号化するように構成されたエンコーダ１０を示す。エンコーダ１０は、ビデオ１２を表示する際にピクチャ１６がシーケンシャル（順次的）に表示または出力される表示時間順序１８とは異なる可能性のあるピクチャ符号化順序を用いてビデオ１２のピクチャ１６をビットストリーム１４に符号化する。図１はまた、エンコーダ１０の可能な実装を示すが、図１に関して設定された詳細は、以下でより詳細に説明される本願の実施形態を限定するものではないことに再度留意されたい。続いて適用されるが、エンコーダ１０の符号化は、イントラ予測（ｉｎｔｒａ ｐｒｅｄｉｃｔｉｏｎ）を伴わない場合があり、インタ予測（ｉｎｔｅｒ－ｐｒｅｄｉｃｔｉｏｎ）を伴わない場合があり、ブロック単位（ｂｌｏｃｋｗｉｓｅ）を動作しない場合があり、変換残差符号化を使用しない場合があり、損失のある（ｌｏｓｓｙ、不可逆）または損失の無い（ｌｏｓｓｆｒｅｅ）またはその組み合わせを動作する場合がある。

図１のエンコーダ１０は、予測の使用による符号化を実行する。ブロック単位方式で、エンコーダ１０は、現在のピクチャ、より正確にはこのピクチャの現在符号化されているポーションを予測し、減算器２２で現在のピクチャ２６のオリジナルバージョンから予測信号２４を減算することによって予測残差２０を形成する。次に、残差符号化器２８が、予測残差２０をビットストリーム１４に符号化し、ここで、残差符号化は、不可逆であってもよく、例えば、残差信号２０に変換領域への変換を施し、変換から生じる変換係数のエントロピー符号化を伴うことがある。ビデオ１２の既に符号化されたポーションの再構成可能なバージョンに基づいて予測信号２４を得るために、残差デコーダ３０は残差符号化を反転し、逆変換によって変換係数から、残差符号化器２８によって導入された損失の分によって残差信号２０とは異なる残差信号３２を生成する。現在のピクチャ、より正確には現在のピクチャの現在符号化されているブロックを再構成するために、再構成信号３６をもたらすように、残差信号３２は、加算器３４によって予測信号２４に加算される。任意に、ループフィルタ３８が再構成された信号３８に何らかのループフィルタリングを施し、フィルタリングされた信号４０がループバッファ４２に入力される。ループバッファ４２は、それに応じて、既に符号化されたピクチャの再構成されたバージョンと現在のピクチャの再構成されたポーションとをそれぞれバッファリングする。これらの再構成されたバージョン４４に基づき、また任意に、現在のピクチャの既に符号化されたポーションのフィルタリングされていない再構成されたバージョン３６に基づき、予測ステージ４６が予測信号２４を決定する。

エンコーダ１０は、レート歪み最適化を用いて多くの符号化決定を実行する。例えば、予測器４６は、符号化ブロックの粒度で、例えば、１つ以上のインタ予測モードと１つ以上のイントラ予測モードと任意にそれらの組み合わせを含むいくつかの符号化モードのうちの１つを選択する。これらの符号化ブロックの粒度において、または代替的に、これらの符号化ブロックがさらに細分化された予測ブロックの粒度において、予測器４６は、インタ予測ブロックのための１つ以上の動きベクトル、またはイントラ予測ブロックのためのイントラ予測モードなど、選択した予測モードに適合する予測パラメータを決定する。残差符号化器２８は、任意に、符号化ブロックまたは予測ブロックのいずれかと一致してもよいし、これらのブロックのいずれかのさらなる細分化であってもよいし、現在のピクチャの残差ブロックへの別の独立した細分化に起因してもよい残差ブロックの粒度において残差符号化を実行する。前述の細分化でさえも、エンコーダ１０によって決定される。これらの符号化決定、すなわち、細分化情報、予測モード、予測パラメータおよび残差データは、エンコーダ１０によって、例えば、エントロピー符号化を用いてビットストリーム１４に符号化される。

各ピクチャ１６は、エンコーダ１０によって、アクセスユニットと呼ばれるビットストリーム１４の連続ポーション４８に符号化される。したがって、ビットストリーム１４のアクセスユニット４８のシーケンスは、その中にピクチャ１６がシーケンシャルに符号化、すなわち前述のピクチャ符号化順序に沿って符号化されている。

図２は、図１のエンコーダ１０に適合するデコーダ１００を示す。デコーダ１００は、各アクセスユニット４８からビデオ１２’の対応するピクチャ１６’を復号化することによって、ビットストリーム１４から、図１のビデオ１２の再構成されたバージョン１２’を復号化する。このため、デコーダ１００は、内部的には、図１のエンコーダ１０の予測ループの再構成パートのように解釈される。すなわち、デコーダ１００は、ビットストリーム１４から残差信号３２を再構成する残差デコーダ１３０を含んで構成される。予測信号１２４は、加算器１３４でこの残差信号１３２に加算され、再構成された信号１３６を得ることができる。オプションのループフィルタ１３８は、再構成された信号１３６をフィルタリングして、フィルタリングされた再構成された信号１４０をもたらし、これは、ループバッファ１４２においてバッファリングされる。このバッファから、バッファリングされフィルタリングされた再構成信号１４４がデコーダ１００によって出力され、すなわち、バッファリングされ再構成された信号は再構成されたピクチャ１６’を含み、バッファ１４２からこれらのピクチャ１６’は表示時間順序で出力される。さらに、予測器または予測ユニット１４６は、信号１４４および任意に再構成された信号１３６に基づいて予測を実行し、予測信号１２４を得る。デコーダは、細分化情報、予測モード決定、予測パラメータ、およびエントロピー復号化を使用するような残差データなど、ビットストリーム１４からレート／歪み最適化を使用してエンコーダ１０によって決定され、復号化のために必要なすべての情報を取得する。残差データは、上述したように、変換係数で構成され得る。

エンコーダ１０は、平均して、あるビットレートでビデオ１２がビットストリーム１４に符号化されるように、すなわち、平均して、あるビット数を使用してピクチャ１６がビットストリーム１４に符号化されるように、その符号化タスクを実行し得る。しかしながら、異なるピクチャコンテンツの複雑さ、変化するシーンコンテンツ、及びＩフレーム、Ｐフレーム、及びＢフレームなどの異なる符号化ピクチャゆえに、各ピクチャ１６に対してビットストリーム１４で費やされるビット数は異なる可能性がある。すなわち、各アクセスユニット４８のサイズまたはビット数は異なる可能性がある。デコーダ１００におけるビデオ１２’の割り込みのないプレイアウトを保証するために、エンコーダ１０は、ビットストリーム１４にＣＰＢパラメータを提供する。これらのＣＰＢパラメータは、デコーダ１００が特定の事前定義された方法でデコードピクチャバッファ２００を介して供給される場合に、デコーダ１００によるそのような割り込みのないまたは問題のないデコードを保証する。すなわち、ＣＰＢパラメータは、図３に示す装置を指し、フィーダ２０２が符号化ピクチャバッファ２００を介してデコーダ１００に供給し、フィーダ２０２はビットストリーム１４を受け取るとともに、ビットストリーム１４を符号化ピクチャバッファ２００を介してデコーダ１００に供給し、ビデオ１２’のピクチャ１６’が表示時間順序で割り込みなしに出力されるようにデコーダ１００が今度は時間内にビットストリーム１４のアクセスユニット４８へアクセスする。

ＣＰＢパラメータは、エンコーダ１０によって複数のいわゆる動作点ＯＰ_iのためにビットストリーム１４に書き込まれる。各動作点ＯＰ_iは、フィーダ２０２がビットストリーム１４、すなわちアクセスユニット４８のシーケンスを符号化ピクチャバッファ２００に供給する、異なるビットレート（ｉ）を指す。すなわち、各動作点ＯＰ_iについて、ＣＰＢパラメータ３００は、それらが適用されるビットレートを示す。さらに、それらは、対応するビットレートでデコーダ１００に供給するときに、最も十分な状態を包含するのに十分な符号化ピクチャバッファ２００のための符号化ピクチャバッファサイズを指示する。さらに、ＣＰＢパラメータ３００_iによって示される情報は、ビットストリーム１４の最初のビットが符号化ピクチャバッファ２００に入力される時点に比較して、最初のアクセスユニットが符号化ピクチャバッファ２００から除去されてデコーダ１００にそれぞれ渡される時間遅延を示すものである。ｆｉｒｓｔ（最初）という用語は、ピクチャ符号化順序と、あるバッファ期間、すなわちピクチャのサブシーケンスを指す場合がある。さらに、ＣＰＢパラメータ３００_iは、前述の最初のアクセスユニットに続く後続のアクセスユニットの供給が、前述の時間遅延によって遅延された通常の時間ラスタによって決定されるそれらの通常の供給に先立ち、復号化ピクチャバッファ２００に供給されることが許される時間オフセットを示す。図４には示されていないが、任意に、ＣＰＢパラメータ３００_iは、ビットストリーム１４がアクセスユニット単位で、デコーダ１００による復号化の対象となるように符号化ピクチャバッファ２００から取り除かれる、前述の時間ラスタを明らかにする、または示す、またはそこから導出することを可能にする情報などのさらなる情報を示し、時間ラスタは、前述のように、時間遅延によって遅延される。時間ラスタは、それに応じて、このフレームレートでこれらのピクチャ１６’を出力するのに十分なレートでデコーダ１００によるピクチャ１６’の回復を可能にするように、ビデオ１２のフレームレートに関連している。時間ラスタのオプションの表示は、すべての動作点に共通であってよく、同じものに対して共通にビットストリームで示される。さらに、時間ラスタの任意の情報をシグナリングする代わりに、この情報を固定し、エンコーダおよびデコーダが予め知っているようにしてもよい。

図４は、２つの異なるビットレートおよびＣＰＢサイズを参照する２つの動作点ＯＰ_iおよびＯＰ_i、すなわち２つの動作点ＯＰ_iについてのＣＰＢパラメータ３００_iを示す。これらのビットレートｂｉｔｒａｔｅ（ｉ－１）とｂｉｔｒａｔｅ（ｉ）との間のビットレートについては、ビットストリーム１４におけるそのようなＣＰＢパラメータのさらなるインスタンス化が存在しない。上記で既に示したように、本願の実施形態は、補間によって、ビットレート（ｉ－１）とビットレート（ｉ）との間のいくつかの選択されたビットレートについて、ＣＰＢパラメータのそのような欠落したインスタンス化を導出する可能性によってこのギャップを埋めることである。

前述の時間ラスタがフレームレートに関連しているという事実のために、エンコーダ１０は、すべてのＣＰＢパラメータまたはＣＰＢパラメータのすべてのインスタンス化について共通に、あるいはさらに言い換えると、すべての動作点について共通に、この時間ラスタまたはその情報を１回だけ示すことができることに注意されたい。さらに、例えば、ビデオ１２および１２’のそれぞれの既定のフレームレート、および特定のピクチャ群（ＧＯＰ）構造および一方でのピクチャ符号化順序と他方での提示時間順序１８との関係についてのエンコーダおよびデコーダ間の事前知識によって等、エンコーダとデコーダの間であらかじめ時間ラスタが知られている状態で、時間ラスタに関してデータストリームに情報が伝達されない可能性さえある。

ここで、本明細書の導入部分の説明を再開する。上記に示したように、ＣＰＢパラメータは、ＳＥＩメッセージによって伝達されることがある。ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙは、図４の時間遅延に対応し、ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔは、図４の時間オフセットに対応する。ＡｕＣＰＢＲｅｍｏｖａｌＤｅｌａｙは、時間ラスタ、すなわち、連続するＡＵがＤＰＢから除去される間の時間的距離を示す。説明したように、図４のＣＰＢパラメータは、いわゆるバッファリング期間、すなわち、このバッファリング期間の最初のアクセスユニットとそれに続くアクセスユニットを含むアクセスユニットのあるシーケンスに対応するビデオのピクチャのシーケンスに対して、符号化ピクチャバッファ２００を介してデコーダ１００に供給するための正しいスケジューリングを示すｂｕｆｆｅｒｉｎｇ ｐｅｒｉｏｄ ＳＥＩ ｍｅｓｓａｇｅ（バッファリング期間ＳＥＩメッセージ）において伝達され得る。

明細書の導入部分で説明したように、ＣＰＢパラメータは、ビットストリームで転送されることが既に知られているが、それらは特定のビットレートを参照する。

最も基本的な動作では、ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙ（ｉ）とＡｕＣＰＢＲｅｍｏｖａｌＤｅｌａｙのみが使用される。

その場合、復号化される最初のアクセスユニットは、対応するＢｕｆｆｅｒｉｎｇ Ｐｅｒｉｏｄ ＳＥＩメッセージ（バッファリン期間ＳＥＩメッセージ）を有するＲａｎｄｏｍ Ａｃｃｅｓｓ Ｐｏｉｎｔ（ランダムアクセスポイント）であり、時間０は、Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｐｏｉｎｔの最初のビットがＣＰＢに入る時間として定義される。そして、時間ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙ（ｉ）において、Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｐｏｉｎｔに対応するピクチャがＣＰＢから除去される。さらに非ＲＡＰピクチャの場合、ＣＰＢの除去は、ＩｎｉｔｉａｌＣＰＢＲｅｖｏｖａｌＤｅｌａｙ（ｉ）＋ＡｕＣＰＢＲｅｍｏｖａｌＤｅｌａｙで生じる。（レガシー符号化（レガシーコーデック）は、示された遅延を時間デルタ（時間差）に変換するためのいくつかの追加パラメータ、すなわちＣｌｏｃｋＴｉｃｋを定義するかもしれないが、ここでは単純化のために無視されている）

次のＲＡＰが来るとき、除去時間は、非ＲＡＰピクチャのために前と同様に計算される。すなわち、ＩｎｉｔｉａｌＣＰＢＲｅｖｏｖａｌＤｅｌａｙ（ｉ）＋ＡｕＣＰＢＲｅｍｏｖａｌＤｅｌａｙであり、この新しい値は、別のＲＡＰまでの更なるデルタのためのアンカーとして用いられる。すなわちａｎｃｈｏｒＴｉｍｅ＝ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙ（ｉ）＋ＡｕＣＰＢＲｅｍｏｖａｌＤｅｌａｙとなり、その後ピクチャの除去はａｎｃｈｏｒＴｉｍｅ＋ＡｕＣＰＢＲｅｍｏｖａｌＤｅｌａｙとなり、次のＲＡＰでバッファリングＳＥＩメッセージでａｎｃｈｏｒＴｉｍｅを更新し、ａｎｃｈｏｒＴｉｍｅ＝ａｎｃｈｏｒＴｉｍｅ＋ＡｕＣＰＢＲｅｍｏｖａｌＤｅｌａｙ等とする。

つまり、デコーダを初期化する一番最初のアクセスユニット（バッファリング期間ＳＥＩを有するＡＵ）のＲｅｍｏｖａｌＴｉｍｅは、次のように計算される：

なお、ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙは、ビットストリームからｉｎｉｔｉａｌ＿ｃｐｂ＿ｒｅｍｏｖａｌ＿ｄｅｌａｙ［ｉ］÷９００００として導出することができる。

デコーダを初期化する最初のアクセスユニットではなく、別のバッファリング期間の最初であるＡＵ（すなわち、デコーダを初期化する一番最初のＡＵではないｂｕｆｆｅｒｉｎｇ ｐｅｒｉｏｄ ＳＥＩ ｍｅｓｓａｇｅ（バッファリング期間ＳＥＩメッセージ）を有するＡＵ）の除去時間は、次のように計算される：

ＲｅｍｏｖａｌＴｉｍｅ［ｎ］＝ＲｅｍｏｖａｌＴｉｍｅ［ｎ_b］＋ＡｕＣＰＢＲｅｍｏｖａｌＤｅｌａｙ

ここで、ｎ_bは前のバッファリング期間の最初のＡＵ（バッファリング期間ＳＥＩメッセージも持つ現在のＡＵに先立つＡＵ）を参照するインデックスであり、ＡｕＣＰＢＲｅｍｏｖａｌＤｅｌａｙはビットストリームからｔ_c ^*ｃｐｂ＿ｒｅｍｏｖａｌ＿ｄｅｌａｙ（ｎ）として導出でき、ｔｃはｃｌｏｃｋＴｉｃｋｓ（所与の値を時間に変換するためにｃｐｂ＿ｒｅｍｏｖａｌ＿ｄｅｌａｙ ｓｙｎｔａｘが与えられるユニット）である。

デコーダを初期化する最初のアクセスユニットでもなく、別のバッファリング期間の最初のアクセスユニットでもないＡＵ（すなわち、デコーダを初期化する一番最初のＡＵではないバッファリング期間ＳＥＩメッセージを持つＡＵ）の除去時間は、次のように計算される：

ＲｅｍｏｖａｌＴｉｍｅ［ｎ］＝ＲｅｍｏｖａｌＴｉｍｅ［ｎ_b］＋ＡｕＣＰＢＲｅｍｏｖａｌＤｅｌａｙ

ここで、ｎ_bは現在のバッファリング期間の最初のＡＵ（バッファリング期間ＳＥＩメッセージを持つ現在のＡＵに先立つＡＵ）を参照するインデックスである。ＡｕＣＰＢＲｅｍｏｖａｌＤｅｌａｙはビットストリームからｔ_c ^*ｃｐｂ＿ｒｅｍｏｖａｌ＿ｄｅｌａｙ（ｎ）として導出することができ。ｔ_cはｃｌｏｃｋＴｉｃｋｓ（所与の値を時間に変換するためにｃｐｂ＿ｒｅｍｏｖａｌ＿ｄｅｌａｙ ｓｙｎｔａｘが与えられるユニット）である。

上述のモデルの欠点は、定義されたＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙが、利用可能／使用可能なＣＰＢサイズの制限を暗黙のうちに設定することである。したがって、ＣＰＢバッファを利用するためには、最初のアクセスユニットの除去のための大きな時間遅延（ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙ）が必要とされることになる。実際、デコーダで符号化されたピクチャが符号化されるとすぐに送信されると仮定すると、すべてのピクチャは、時間どおりよりも早くデコーダに到着しない。：
ｉｎｉｔＡｒｒｉｖａｌＥａｒｌｉｅｓｔＴｉｍｅ［ｎ］＝ＲｅｍｏｖａｌＴｉｍｅ［ｎ］－ＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙ（ｉ）
すなわち、その除去時間からＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙを引いたもので、ＣＰＢでこのＡＵのそれぞれの最初のビットを受信してから、デコーダが最初のＡＵを除去するために待った時間である。

または、現在のピクチャの前のピクチャが非常に大きく、その最後のビットがＲｅｍｏｖａｌＴｉｍｅ［ｎ］－ＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙ（ｉ）よりも遅れて到着（ＡｕＦｉｎａｌＡｒｒｉｖａｌＴｉｍｅ［ｎ－１］）する場合、初期到着時間（現在のピクチャの最初のビットがＣＰＢに供給される時間）は、以下のとおりである：
ｉｎｉｔＡｒｒｉｖａｌＴｉｍｅ［ｎ］＝Ｍａｘ（ＡｕＦｉｎａｌＡｒｒｉｖａｌＴｉｍｅ［ｎ－１］，ｉｎｉｔＡｒｒｉｖａｌＥａｒｌｉｅｓｔＴｉｍｅ［ｎ］）

これは、例えば、新しいバッファリング期間ＳＥＩメッセージを有する後続のＡＵが、その除去時間のＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙ（ｉ）より早くＣＰＢに入ることができない場合、ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙ（ｉ）の間にＢｉｔｒａｔｅ（ｉ）をＣＰＢに供給してもＣＰＢ_AのＣＰＢフルネス（ｆｕｌｌｎｅｓｓ）を達成するだけなので、ＣＰＢ_Aより大きなＣＰＢ_Bを達成することは不可能である。

この問題を解決するために、図５に示すように、仮想の送信機（または図１７のＨＳＳまたは図４のフィーダ２０２）が、所与の時間オフセットＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ（ｉ）を有するバッファリングＳＥＩメッセージで最初のＲＡＰのスケジューリングを遅延させることが考えられる。

すなわち、図５の上部は、左側に、この「送信機」が前述の除去ラスタでアクセスユニットを瞬時に取得すると仮定して、図１７のＨＳＳの仮想バッファフルネスまたは図３のフィーダ２０２による符号化ピクチャバッファ２００の供給を示し、送信機は、グラフの傾斜から導き出せるあるビットレートを用いてアクセスユニットのシーケンスを符号化ピクチャバッファにシーケンシャルに送出する。右側は受信側を示し、より正確には、ＣＰＢへのＡＵの供給と符号化ピクチャバッファからのアクセスユニットの除去を示すＣＰＢフルネスを示している。除去は瞬時に行われ、供給はあるビットレートで行われる。ビットレートは、やはり右側のグラフの傾きから導き出される。このグラフの後縁（ｔｒａｉｌｉｎｇ ｅｄｇｅｓ）は、アクセスユニットのシーケンスが、アクセスユニット単位で、ＣＰＢから除去され、デコーダに入力されるインスタンスを示す。ただし、最初のアクセスユニットＴ_ai1の最初のビットに到着してから、その除去を示す最初の後縁までの最初の時間遅延によって、それらは時間ラスターの遅延で発生する。

図５の下半分は、時間オフセットがあることの効果を示している。：利用可能または使用可能なＣＰＢサイズは、最初のアクセスユニットを除去するための時間遅延によって決定される量によって制限されることはない。むしろ、時間オフセットは、時間的除去遅延によって先送りされる時間ラスタより前の時間インスタンス、すなわち時間オフセットの時間的前進時間の最大値で、最初のアクセスユニットに続く後続のアクセスユニットに供給することができる。ここで、図５の例では、それに応じて、供給においては、時間遅延のみによって先送りされる時間ラスタに従ったこの第５のアクセスユニットのための時間に達するまで供給を待つか停止することなく、第４のアクセスユニットの直後に第５のアクセスユニットによる供給を再開することが可能である。

それに伴い、スケジューリングは以下のように変更される。
ｉｎｉｔＡｒｒｉｖａｌＥａｒｌｉｅｓｔＴｉｍｅ［ｎ］＝ＲｅｍｏｖａｌＴｉｍｅ［ｎ］－ＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙ（ｉ）－ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ（ｉ）
これは、ＣＰＢ_Aより大きいＣＰＢ_BのＣＰＢサイズは、ＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙ（ｉ）＋ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ（ｉ）のＢｉｔｒａｔｅ（ｉ）をＣＰＢに供給することによって達成されるサイズに対応し得ることを意味する。

前述した動作原理をまとめると、ｉｎｉｔＡｒｒｉｖａｌＥａｒｌｉｅｓｔＴｉｍｅの計算方法に関して、２種類のフレームが存在する。バッファリング期間（すなわち、バッファリング期間は、バッファリング期間ＳＥＩメッセージを有するＡＵからバッファリング期間ＳＥＩメッセージを有する次のＡＵまでの期間として定義される）内の最初のピクチャ（またはアクセスユニット）については、ｉｎｉｔＡｒｒｉｖａｌＥａｒｌｉｅｓｔＴｉｍｅは、その除去時間からＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙを引いたものとして算定される。バッファリング期間内の最初のＡＵでない他のＡＵ（すなわち、バッファリング期間ＳＥＩメッセージを有しないＡＵ）については、ＩｎｉｔＡｒｒｉｖａｌＥａｒｌｉｅｓｔＴｉｍｅは、その除去時間からＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙを引いたものからＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔを差し引いたものとして計算される。

エンコーダは通常、スケジューリングオプションと呼ばれる、ＨＲＤの動作に関連するパラメータを持つ単一値または数個の値を持つビットストリームを送信する。例えば、デコーダがそのＣＰＢを動作させる異なるＲａｔｅ値（レート値）、すなわちＣＰＢを供給することができるレートである。

しかし、異なるレートを使用することが望ましいシナリオがあるかもしれない。例えば、チャネルがデータをバーストでデコーダに送信し、データ（利用可能な限り）を高ビットレートで送信する一方で、送信すべきビデオデータがないときにチャネルを他のデータの送信に使用する場合などである。

これに対処するために、ＨＲＤまたはＣＰＢパラメータの計算は、ある種の適合によって必要であり、それは区分的な線形適合／回帰である可能性がある。

例えば、図４の３００_i-1に示すような、Ｒ₀＜Ｒ₁の２つのレートＲ₀、Ｒ₁に対応する２組のパラメータがあるとする。そして、Ｒ_selはＲ₀とＲ₁の間に位置し、９０％Ｒ₀と１０％Ｒ₁の和に等しい値に対応するように選択されるとする。このようなレートに対するＣＰＢサイズのような値は、同じ式、すなわち、例の場合において、新しいＣＰＢサイズが９０％ＣＰＢ₀と１０％ＣＰＢ₁の和に等しい線形適合を用いて、同様に計算することができる。

しかし、各ピクチャの最早到着時刻を決定するオフセット、すなわちＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔに関しては、同じ計算を行うことができない。その理由は、以下のように様々である：

１）バッファフルネス（ＣＰＢサイズが決定的な制限である）は、使用する供給レートとＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔに影響されるので、ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ値の線形適合がうまくいかない。
２）実際の初期到着時刻は、最早到着時刻ではなく、前のアクセスユニットの最終到着時刻と最早到着時刻の間の最大値である。すなわち以下である。
ｉｎｉｔＡｒｒｉｖａｌＴｉｍｅ［ｎ］＝Ｍａｘ（ＡｕＦｉｎａｌＡｒｒｉｖａｌＴｉｍｅ［ｎ－１］，ｉｎｉｔＡｒｒｉｖａｌＥａｒｌｉｅｓｔＴｉｍｅ［ｎ］）

したがって、各アクセスユニットにおいて、ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔによりバッファに供給される追加データは、
Ｍａｘ（ｉｎｉｔＡｒｒｉｖａｌＴｉｍｅ［ｎ］－ＡｕＦｉｎａｌＡｒｒｉｖａｌＴｉｍｅ［ｎ－１］，０）
に比例する。

この問題において、離散パラメータに信号化されていない動作点を計算するための適合が、区分的線形適合ではなく、三次適合や多項式適合のようなより複雑な適合に従う場合に、計算がさらに複雑になり得る。

このように、本願発明の実施形態によれば、受信側は、一方の動作点が示す時間オフセットと他方の動作点が示す時間オフセットとの間の補間バージョンを含む動作点間の補間を用いて符号化ピクチャバッファ２００の供給及び空化を管理する場合に、問題のない動作モード、すなわちアンダーフローやオーバーフローのないモードに依存することができる。エンコーダは、結果として得られる補間値が、バッファの問題を生じないように注意する。

すなわち、図３の装置は、一実施形態によれば、以下のように動作することになる。装置は、ビットストリーム１４をアクセスユニット４８のシーケンスとして受信するであろう。フィーダ２０２は、ＣＰＢパラメータ３００_i-1および３００_iが図１のエンコーダ１０によってビットストリーム１４に書き込まれる１つの動作点ＯＰ_i-1のビットレート（ｉ－１）と別の動作点ＯＰ_iのビットレート（ｉ）との間のどこかにある選択されたビットレート３０２を用いてアクセスユニットのシーケンスをシーケンシャルに符号化バッファ２００に供給するだろう。しかし、フィーダ２００は、符号化ピクチャバッファ２００に選択されたビットレートで連続的に供給するのではなく、特定のアクセスユニットに関して供給を停止（ｈａｌｔ）するかまたは止める（ｓｔｏｐ）ことができる。特に、フィーダ２０２は、ピクチャ符号化順序において最初のアクセスユニットについては補間された時間的除去遅延の分、及び、ピクチャ符号化順序において２番目以降のアクセスユニットについては補間された時間的除去遅延と補間された時間オフセットとの和の分、前倒しされた時間除去ラスタによって定義される、先の説明でＩｎｉｔＡｒｒｉｖａｌＥａｒｌｉｅｓｔＴｉｍｅと呼ばれる仮想利用可能時間にまだ達していない任意のアクセスユニットについてはこの仮想利用可能時間が到達するまで、供給を止めるか停止させる。ここでも、これらの時間の計算の違いにより、最初のアクセスユニットでないアクセスユニットは、最初のアクセスユニットと比較して、符号化ピクチャバッファ２００に長く留まる可能性がある。例えば、あるアクセスユニットについて、時間除去ラスタが除去時間ｔ_removalを示しているが、ｔ_removalから補間された時間的除去遅延（アクセスユニットが最初のアクセスユニットの場合）を引いたもの、またはｔ_removalから補間された時間的除去遅延と（プラス）補間された時間オフセットとの和（アクセスユニットが最初のアクセスユニットではなく、後続のアクセスユニットの場合）にまだ達していなければ、このアクセスユニットの符号化ピクチャバッファ２００への供給を、この時間に達するまで遅らせる。以上の説明において、先の説明におけるＩｎｉｔＡｒｒｉｖａｌＥａｒｌｉｅｓｔＴｉｍｅ、停止または止めることが上述のｍａｘ関数によって具体化され、ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔは時間オフセットを示すために用いられ、時間ラスタはアレイＲｅｍｏｖａｌＴｉｍｅによって定義される。ｎｅｗＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔが以下において補間された時間オフセットを示すために用いられる。上述したように、時間ラスタは、最初のアクセスユニットの除去と２番目以降のアクセスユニットのそれぞれの除去との間の時間差、例えば、２番目以降のアクセスユニットのそれぞれの差、このＡＵの除去と（現在のバッファ期間の）最初のＡＵの除去との間の時間を測定したもの等、の形態でデータストリーム１４から導出可能である。

しかし、図３の装置は、時間ラスタを使用して、符号化ピクチャバッファ２００のアクセスユニットからアクセスユニット単位でアクセスユニットを除去する。時間的除去遅延によって供給が先送りされているという事実のために、最初のアクセスユニットの除去は、実際には、この時間的除去遅延で起こる。デコーダ１００は、除去されたアクセスユニットを受け取り、それらを復号化し、復号化／再構成されたピクチャを出力する。

補間値を得るために、図３の装置は以下のことを行う。それは、ビットストリーム１４から、第１の動作点ＯＰ_i-1に関連する第１のＣＰＢパラメータ３００_i-1と、第２の動作点ＯＰ_iに関連する第２のＣＰＢパラメータ３００_iとを抽出する。ここで、第１および第２のＣＰＢパラメータの各々は、ＣＰＢサイズ、既定の時間オフセット、既定の時間的除去遅延および既定のビットレートを示し、ＣＰＢパラメータ３００_i-1と３００_iは異なる既定のビットレート用である。次に、装置は、第１のＣＰＢパラメータ３００_i-1によって示される既定の時間オフセットと第２のＣＰＢパラメータ３００_iによって示される既定の時間オフセットとの間を選択されたビットレート３０２で補間することによって補間された時間オフセットを決定する。それは、第１のＣＰＢパラメータ３００_i-1によって示される既定の時間的除去遅延と第２のＣＰＢパラメータ３００_iによって示される既定の時間的除去遅延との間で選択されたビットレート３０２で補間することによって補間された時間的除去遅延を決定する。後に、具体的な実施形態が説明されるが、この実施形態では、例えば、補間は線形補間であってよいことが示されている。すなわち、図３の装置は、ＣＰＢパラメータ３００_i-1および３００_iによって示される既定の時間オフセットの間を線形補間し、これらの隣接するＣＰＢパラメータによって示される既定の時間的除去遅延の間を線形補間してよい。しかし、異なる種類の補間が交互に使用されてもよい。エンコーダが、補間をパラメータ化するための１つ以上の補間パラメータを決定し、図３の装置がデータストリーム１４からこの情報を導出し、それに応じて補間を実行することによって、データストリーム内の１つ以上の補間パラメータを送信するということさえあり得る。補間の方法は、時間オフセット及び時間的除去遅延について同じであってよい。さらに、追加的に、図３の装置は、補間されたＣＰＢサイズを得るように、第１のＣＰＢパラメータ３００_i-1が示すＣＰＢサイズと第２のＣＰＢパラメータ３００_iが示すＣＰＢサイズとの間を選択されたビットレート３０２で補間してもよく、図３の装置は、ＣＰＢ２００に対するこの補間されたＣＰＢサイズは、時間的除去遅延と時間オフセットに関する補間値を使用して符号化ピクチャバッファ２００に供給および符号化ピクチャバッファ２００を空にする際に生じるあらゆるフルネス状態に十分対応するという事実を頼りにしてよい。前述のように、エンコーダは、この約束が成立することを確認する。例えば、エンコーダは、ビットレートｂｉｔｒａｔｅ（ｉ－１）とｂｉｔｒａｔｅ（ｉ）との間の中間ビットレートのある離散セット（例えば、これらのビットレート間の間隔の１０分の１または別の分数のユニット）についてデコード側への約束を制限してもよい。次に、エンコーダは、任意のオーバーフローまたはアンダーフローの状況が発生するかどうかをテストし、イエスであれば、それに応じて値のいずれかを適応させることができる。例えば、オーバーフローが発生した場合、エンコーダは、動作点ＯＰ_i及びＯＰ_i-1によってそれぞれ示されるＣＰＢサイズのうちの１つを増加させてもよい。あるいは、エンコーダは、ＣＰＢパラメータの決定および補間値の競合がないことのチェックとともに、ビットストリームの全体の符号化を再び再開することができる。

言い換えれば、実施形態に従って、エンコーダは、ＣＰＢおよびビットレート曲線が対応する指示された離散値から適合されるときに計算される（ＣＰＢサイズおよびＢｉｔｒａｔｅについての）ＨＲＤ限界が有効なデコーダ動作をもたらすように、指示された離散ＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ値のうちの２つの重み付け線形結合を計算し、最早到着時刻を計算するためのｎｅｗＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔとして使用できるようにすることもある。議論されたように、ＣＰＢサイズおよびビットレート曲線のカーブ適合は、以下のようにすることができる。：
－ 線形
－ 三次曲線
－ 多項式

すなわち、エンコーダおよびデコーダは、動作点のＯＰ_i値間、特に、時間オフセットのためのそれらの値ＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ_i間の区分的線形補間以外の補間を使用してもよい。

ここでもエンコーダは、提供されたビットストリームと指示が、所与の離散的な動作点だけでなく、その間において計算できる値にも適用されることを確認する。そのために、エンコーダは、与えられた離散的な値の間にある異なる値をサンプリングし、そのような値に対してバッファのアンダーフローまたはオーバーフローがないことを確認することができる。

ビットストリームの一実施形態は、中間初期除去オフセットを計算するために、ビットレートＲ₀およびＲ₁の形態で上述の重みを伝達している。上記のようなエンコーダによって生成されたビットストリームを受信するクライアント側のビデオデコーダなどの、または関与するビットストリーム処理装置は、エンコーダが上記の時間制約を満たす方法でビットストリームを生成するという事実に頼らなければならないであろう。装置は、ビットストリームが実際に合法的なビットストリームであることを確認するためにビットストリームのチェックを実行することができ、このようなチェックは、通常のデコード処理の一部とすることができる。このチェックは、ＣＰＢと初期除去オフセットなどのタイミング情報とを伝達するそれぞれのビットストリームシンタックスを解析し、それぞれの方程式を通して直接関連する変数およびさらなる変数を導出し、ビットストリームの他のシンタックス（レベルインジケータなど）に示されるように、時間の経過と共にレベル制限に従うように前記変数の値を監視することを含むことができる。さらに、エンコーダとデコーダからなるシステムは、前記ビットストリーム特性をチェックするステップを含むことができる。

図６と図７は、Ｒ₀とＲ₁がそれぞれ１３．５と１６Ｍｂｐｓに等しい２つの動作点におけるＣＰＢバッファの充填レベルを示す。ＣＰＢサイズＣＰＢ₀とＣＰＢ₁はそれぞれ１４００メガバイトと１０００メガバイトである。そして、上述のオフセット、すなわちＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ₀とＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ₁は、それぞれ３０ミリ秒と０ミリ秒である。

次の図は、Ｒ_selの値が１４．７５Ｍｂｐｓ（つまり、１３．５～１６Ｍｂｐｓのちょうど中間）に等しい場合、及び、ｎｅｗＩｎｉｔｉａｌＣＰＢＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔの値が異なる場合のＣＰＢフルネスを示したものである。図８では、後者がＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ₀（３０ｍｓ）に等しく、オーバーフローが発生し、図９では、同じものがＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ１（０ｍｓ）に等しく、アンダーフローが発生している。所与の動作点ＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ₀とＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ₁（１５ｍｓ）を線形適合しただけでは、図１０のような状態になる。前述の計算値（１６．３ｍｓ）を用いると、図１１のようになる。図１２は、ＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ₀とＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ₁の間の任意の値（２０ｍｓ）を使用し、やはりオーバーフローが発生することを示している。このように、ＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ₀とＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ₁に等しい任意の数のオフセットは、バッファのアンダーフローやオーバーフローといった問題が発生する可能性があることがわかる。上記の例では、線形適合により、有効な動作値が得られ、また、前述の明示的な重み付けプロビジョニングが提供される。しかし、他のケースでは、線形適合は、（エンコーダが処理しない場合）オーバーフローにつながる可能性がある。例えば、Ｒ₀とＲ₁が１４．５Ｍｂｐｓと１８Ｍｂｐｓに等しく、ＣＰＢ₀とＣＰＢ₁がそれぞれ１２５０メガバイトと１３００メガバイトで、ＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ₀とＩｎｉｔＣｐｂＲｅｍｏｖａｌＤｅｌａｙＯｆｆｓｅｔ₁がそれぞれ１５と４０に等しい場合についての線形適合は、図１３に描かれる。ここではオーバーフローが発生している。図１４では、２因子重みを用いた補間を示している。

図３のデコーダ１００は、各インバウンドＡＵから、対応するピクチャ１６’を再構成するが、ここで、個別にまたは組み合わせて適用され得る、可能だがオプションの実装の詳細が、図２に関して上で説明されている。デコーダおよびエンコーダの実装のためのいくつかのオプションは、以下により詳細に説明される。

最初のものは、復号化ピクチャ１６’の処理とそれらの復号化ピクチャバッファのバッファリングとに関連する。図２のループバッファ１４２は、そのようなＤＰＢを含むことができる。図３では、ＤＰＢはデコーダ１００の一部であってもよい。

実施形態によれば、図３の装置は、短期および長期の２種類の基準ピクチャを区別する。エンコーダは、復号化中の各時点におけるデコーダ１００のＤＰＢ充填状態をエミュレートする際に、同様のことを行う。なお、基準ピクチャは、予測参照に不要となった時点で「未参照基準」とマークするようにしてもよい。これら３つのステータス（短期、長期、未参照基準）の間の変換は、復号化基準ピクチャマーキング処理によって制御される。暗黙のスライディングウィンドウ処理と明示的なメモリ管理制御操作（ＭＭＣＯ）処理という２つの代替的な復号化基準ピクチャマーキング機構が存在する。各現在復号化されたピクチャまたは各現在復号化されたＡＵについて、ＤＰＢ管理のためにどの処理を使用するかについて、データストリーム１４において信号化される。スライディングウィンドウ処理は、基準フレームの数が所与の最大数（ＳＰＳではｍａｘ－ｎｕｍ－ｒｅｆ－ｆｒａｍｅｓ）に等しい場合に、短期基準ピクチャを「未参照基準」としてマークする。短期基準ピクチャは先入れ先出しで保存され、最も新しく復号化された短期ピクチャがＤＰＢに保持される。明示的なＭＭＣＯ処理は、複数のＭＭＣＯコマンドによって制御される。このモードが現在のＡＵまたは現在復号化されたピクチャに対して選択される場合、ビットストリームは、これまたはこのＡＵにおいて、これらのコマンドの１つ以上を含む。ＭＭＣＯコマンドは、１）１つ以上の短期または長期の基準ピクチャを「未参照基準」としてマークする、２）すべてのピクチャを「未参照基準」としてマークする、３）現在の基準ピクチャまたは既存の短期基準ピクチャを長期としてマークし、長期ピクチャインデックスをその長期ピクチャに割り当てる、のいずれかである。基準ピクチャのマーキング操作、および表示のための出力及びＤＰＢからのピクチャの除去は、ピクチャが復号化された後に実行することができる。

すなわち、図３に戻ると、実施形態によれば、デコーダ１００は、ＣＰＢ２００から除去され、したがってＣＰＢ２００から受信された現在のＡＵ４０２を復号化４００して、復号化されたピクチャ１６’を得ることができる。それは、前述のループバッファ１４２によって構成される前述のＤＰＢ４０６に格納された参照される基準ピクチャ４０４に基づいてピクチャ間予測を使用することができる。復号化されたピクチャ１６’は、ＤＰＢ４０６に挿入４０８されることによってもよい。挿入４０８は、現在復号化されたピクチャ１６’ごとに実行されてもよく、すなわち、各復号化されたピクチャは、その復号化４００の後、ＤＰＢ４０６に配置されてもよい。挿入４０８は、瞬時に、すなわち、復号化時間を無視したときのＡＵの４０２のＣＰＢ除去時間、またはＣＰＢ除去時間と必要な復号化時間との合計で行われることができる。しかしながら、挿入４０８は、追加的に、４１０で示されるような特定の事実に依存するようにしてもよく、例えば、各新しく復号化されたピクチャは、それがそのＣＰＢ除去時間に出力４１２される場合を除き、すなわち、それが即時出力ピクチャ、すなわち、表示用に直ちに出力すべきピクチャであり、それが、対応するＡＵ４０２において、状況が対応のシンタックスエレメントにより示され得る非基準ピクチャでない限り、ＤＰＢ４０６に挿入される。ＤＰＢ４０６に格納された各基準ピクチャ４１４に対して、装置は、短期基準ピクチャ、長期基準ピクチャおよび未参照基準ピクチャのうちの１つとしての分類を割り当ててよい。装置はさらに、現在のＡＵ４０２からＤＰＢモード情報４１６を読み取り、モード情報４１６が固有または第１モードを示す場合、固有ＤＰＢ管理処理４１８が起動され、ＦＩＦＯ方法に従って、短期ピクチャとして分類される１以上の基準ピクチャ４１４をＤＰＢ４０６から除去する４２４。モード情報４１６が明示的または第２モードを示す場合、明示的ＤＰＢ管理処理４２０が起動され、ＤＰＢ４０６に格納された基準ピクチャ４１４の少なくとも１つに割り当てられた分類を変更するように、現在のＡＵ４０２によって構成されたメモリ管理制御情報に含まれる１つ以上のコマンドを実行し、ＤＰＢ４０６からの基準ピクチャ除去４２４の管理のために、ＤＰＢ４０６における基準ピクチャ４１４の分類を用いる。現在のピクチャ１６’に対して処理４１８および４２０が選択されているかどうかに関係なく、ピクチャ出力時間が到達したＤＰＢ４０６内の任意のピクチャ４１４は、表示のために出力４２２される。もはや出力する必要がなく、未参照基準として分類されたピクチャ４１４は、ＤＰＢ４０６から除去される４２４。

図１５の基準ピクチャマーキング機構のいくつかの可能な詳細について、以下に説明する。１）第１の態様は、フレーム番号のギャップ及び非存在ピクチャに関連する。上記では説明しなかったが、ＤＰＢ４０６内の各基準ピクチャ４１４がフレーム番号と関連付けられ、このフレーム番号は、復号化順序におけるＡＵのランクを示すＡＵ４０２内のフレーム番号シンタックスエレメントから図３の装置によって導出される得る。通常、この番号は、各基準ピクチャ４１４に対して１ずつ増加するが、フレーム番号のギャップは、エンコーダまたはＭＡＮＥ（ｍｅｄｉａ ａｗａｒｅ ｎｅｔｗｏｒｋ ｅｌｅｍｅｎｔ）が、復号化順序において先行する基準ピクチャと比較して基準ピクチャに対してフレーム番号が１以上増加するビットストリームを配信できるように、たとえば、パラメータ－ギャップ－イン－フレーム番号－許可－ｆａｇ（ｐａｒａｍｅｔｅｒ－ｇａｐｓ－ｉｎ－ｆｒａｍｅ－ｎｕｍ－ａｌｌｏｗｅｄ－ｆｌａｇ）と呼ばれる対応の高レベル（シーケンスレベルなど）フラッグを設定することによって許可される場合がある。これは、時間的スケーラビリティをサポートするために有利である可能性がある。図３の装置は、フレーム番号にギャップがあるＡＵのシーケンスを受信すると、ギャップを埋めるために非存在ピクチャを作成するように構成されるかもしれない。非存在ピクチャは、ギャップ内のフレーム番号値で割り当てられ、復号化された基準ピクチャマーキング中に基準ピクチャとして考慮されるが、出力には使用されない（したがって、表示されない）。非存在ピクチャは、ＤＰＢに存在するピクチャのフレーム番号に関するＤＰＢのステータスが、ピクチャを受信したデコーダにとっても、ピクチャを受信しなかったデコーダにとっても同じであることを保証する。

別の可能な態様は、スライディングウィンドウを使用する際の基準ピクチャの損失に関連するものである。基準ピクチャが失われた場合、図３の装置は、ピクチャを隠蔽しようとすることができ、損失が検出された場合にフィードバックチャネルが利用可能であれば、エンコーダに損失を報告する可能性がある。フレーム番号におけるギャップが禁止されている場合、フレーム番号値の不連続性は、基準ピクチャの意図しない損失を示す。フレーム番号のギャップが許可される場合、フレーム番号値の不連続性は、時間レイヤ又はサブシーケンスの意図的な除去又は偶然のピクチャ損失のいずれかによって引き起こされ、図３の装置のようなデコーダは、インタ予測処理において存在しないピクチャが参照される場合にのみピクチャ損失を推測すべきである。隠蔽ピクチャのピクチャ順序カウントは不明であるため、図３の装置などのデコーダは、Ｂピクチャを復号化するときにエラーを検出せずに誤った基準ピクチャを使用する可能性がある。

さらに考えられる側面は、ＭＭＣＯによる基準ピクチャの損失に関するものである。短期基準ピクチャを「未参照基準」としてマーキングするＭＭＣＯコマンドを含む基準ピクチャが失われた場合、ＤＰＢ内の基準ピクチャのステータスが不正確になり、その結果、失われたピクチャに続くいくつかのピクチャの基準ピクチャリストが不正確になることがある。長期基準ピクチャに関連するＭＭＣＯコマンドを含むピクチャが失われた場合、ＤＰＢ内の長期基準ピクチャの数が、そのピクチャを受信した場合の数と異なるため、後続の全てのピクチャに対して「不正な」スライドウィンドウ処理が行われる恐れがある。つまり、エンコーダとデコーダ、すなわち図３の装置には、異なる数の短期基準ピクチャが含まれ、その結果、スライディングウィンドウ処理の動作が同期しないことになる。さらに状況を悪化させるのは、デコーダは、スライディングウィンドウ処理が同期していないことを必ずしも知ることができないことである。

デコーダおよびエンコーダの実装に関するさらなる選択肢をここで説明し、任意に、前に説明したＤＰＢ管理に関するものと組み合わせることができ、ビットストリーム１４への変換係数の形態における残差データのようないくつかのシンタックスエレメントのエントロピー復号化に関連するものである。不可逆的な量子化変換係数の可逆的なエントロピー符号化は、効率的なビデオ符号化の重要な部分である。そのような方法の１つは、コンテキスト適応的可変長コーディング（ＣＡＶＬＣ）と称され、これは、コンテキスト適応的に同じスライス内の以前に送信されたシンタックスエレメントの値に応じて、様々なシンタックスエレメントのための異なる可変長コード（ＶＬＣ）テーブルの間でエンコーダが切り替える。エンコーダとデコーダはＣＡＶＬＣを使用することができる。コンテキスト適応的に選択されたコードテーブルからそのシンタックスエレメントに対して選択されたビットストリームに対応するコードワードを書き込むことによって、各シンタックスエレメントがビットストリーム１４に符号化されるという事実により、ビットストリーム内の各ＣＡＶＬＣ符号化ビットを単一のシンタックスエレメントに関連づけることができる。ビットストリーム１４に存在すべきスキャン順序の変換係数レベルに関する関連情報は、したがって、ＣＡＶＬＣが使用されるとき、シンタックスエレメントとして直接アクセス可能な形態で利用可能である。エンコーダおよびデコーダは、ビットストリーム１４内の変換係数を信号化するためにＣＡＶＬＣを使用することができる。以下のシンタックスエレメント、すなわち、以下のセマンティクスを有するシンタックスエレメントを使用することができる：

－（ＣｏｅｆｆＴｏｋｅｎによって示される）変換ブロック内の非ゼロ変換係数レベルの総数を示す１つのシンタックスエレメント。
－後続の１つの変換係数レベルの数を示す１つ以上のシンタックスエレメント、すなわち、すべて１である最後の非ゼロシンタックスエレメントまで、スキャン順序でシンタックスエレメントをスキャンした最後に発生するシンタックスエレメントの実行、およびそれらの符号。
－後続の１つの変換係数を除く非ゼロの変換係数ごとに、変換係数レベル値を示す１つ以上のシンタックスエレメント。
－ゼロ値の変換係数レベルの総数を示す１つのシンタックスエレメント。
－非ゼロ値の変換係数レベルに遭遇する前に、現在のスキャン位置からゼロ値を持つスキャン順序の連続した変換係数レベルの数を示すシンタックスエレメント。

エンコーダがＣＡＢＡＣ（コンテキスト適応型バイナリ算術符号化）の使用とＣＡＶＬＣの使用との間で選択し、ビットストリーム１４でその選択を信号化し、デコーダがこの信号を読み、残差データを復号化するために指示された方法を使用するということも、代替的にまたは追加であり得る。

ここで、デコーダとエンコーダの実装に関する更なるオプションを説明するが、オプションは、任意に、先に説明したＤＰＢ管理に関するものとＣＡＶＬＣに関するもののいずれかと組み合わせることができ、４分の１ピクセル補間フィルタに関するものである。通常のフルピクセルサンプルグリッドよりも細かい粒度でのインタ予測を可能にするために、サンプル補間処理を使用して、２分の１ピクセルポジションから４分の１ピクセルポジションまでの範囲のサブピクセルサンプルポジションでのサンプル値を導出することが可能である。４分の１ピクセル補間を実施する１つの方法は、エンコーダとデコーダによって使用されることがあり、以下の通りである。まず、６タップのＦＩＲフィルタを使用して２分の１ピクセルポジションのサンプル値を生成し、生成された２分の１ピクセルポジションのサンプル値を補間によって平均化し、輝度成分（ｌｕｍａ ｃｏｍｐｏｎｅｎｔｓ）について４分の１ピクセルポジションでのサンプル値を生成する。

完全性のために、図１６は、図３の装置に適合するエンコーダ、すなわち、ビデオ１２をビットストリーム１４に符号化するもので、図１に従う必要は必ずしもないが、図３の装置によって行われるべきような補間がアンダーフローおよびオーバーフローのない動作をもたらすように、ビットストリーム１４にＣＰＢパラメータ３００を提供するものを示す。

したがって、以下の実施形態または態様は、上記の説明から導出可能であり、以下の実施形態または態様は、順番に、個別にまたは組み合わせて、上記の詳細および事実のいずれかによってさらに拡張可能である。

第１の態様によれば、ビデオ復号化のための装置は、符号化ピクチャバッファ２００を備え、ビデオ１２のピクチャ１６が符号化順序に沿って符号化されているデータストリーム１４をアクセスユニット４８のシーケンスとして受信し、選択されたビットレート３０２を用いて前記アクセスユニット４８のシーケンスを前記ＣＰＢにシーケンシャルに供給するとともに、前記符号化順序において最初のアクセスユニットについては選択された時間的除去遅延の分、及び、前記符号化順序において２番目以降のアクセスユニットについては前記選択された時間的除去遅延と選択された時間オフセットとの和の分、前倒しされた時間フレーム除去ラスタによる仮想利用可能時間にまだ到達していないアクセスユニットについては前記仮想利用可能時間に到達するまでは供給を停止させ、前記時間ラスタを用いて前記ＣＰＢから前記ＡＵをＡＵ単位で除去し、第１の動作点に関連する第１のＣＰＢパラメータ３００_i-1と第２の動作点に関連する第２のＣＰＢパラメータ３００_iとを前記データストリームから抽出し、ここで前記第１のＣＰＢパラメータ及び前記第２のＣＰＢパラメータの各々は、ＣＰＢサイズ、既定の時間オフセット、既定の時間的除去遅延及び既定のビットレートを示し、前記第１のＣＰＢパラメータ３００_i-1は、少なくとも前記既定のビットレートに関して前記第２のＣＰＢパラメータ３００_iと相違しており、前記第１のＣＰＢパラメータ３００_i-1が示す前記既定の時間オフセットと前記第２のＣＰＢパラメータ３００_iが示す前記既定の時間オフセットとの間を前記選択されたビットレートで補間することによって前記選択された時間オフセットを決定し、前記第１のＣＰＢパラメータ３００_i-1が示す前記既定の時間的除去遅延と前記第２のＣＰＢパラメータ３００_iが示す前記既定の時間的除去遅延との間を前記選択されたビットレートで補間することによって前記選択された時間的除去遅延を決定する。

第１の態様を参照するときの第２の態様に従って、装置は、前記データストリームから１つ以上の補間パラメータを導出し、前記１つ以上の補間パラメータを用いて前記補間をパラメータ化するように構成される。

第１または第２の態様を参照するときの第３の態様に従って、装置は、第１の重みで重み付けされた前記第１のＣＰＢパラメータが示す前記既定の時間オフセットと、第２の重みで重み付けされた前記第２のＣＰＢパラメータが示す前記既定の時間オフセットとの重み付け和を用いて前記補間を実行するように構成される。

第３の態様を参照するときの第４の態様に従って、装置は、前記選択されたビットレート、前記第１のＣＰＢパラメータが示す前記既定のビットレート、及び前記第２のＣＰＢパラメータが示す前記既定のビットレートに基づいて、前記第１の重み及び前記第２の重みを決定するように構成される。

第３の態様を参照するときの第５の態様に従って、装置は、前記選択されたビットレートと前記第１のＣＰＢパラメータが示す前記既定のビットレートとの間の差を、前記第１のＣＰＢパラメータが示前記す既定のビットレートと前記第２のＣＰＢパラメータが示す前記既定のビットレートとの間の差によって除算することによって線形補間重みを計算し、前記線形補間重みを用いて前記第１の重み及び前記第２の重みを決定するように構成される。

第５の態様を参照するときの第６の態様に従って、装置は、前記第１の重みが前記線形補間重み又は因数の１つが前記線形補間重みである積となるように前記第１の重みを決定し、前記第２の重みが前記線形補間重みと１との差、又は因数の１つが前記線形補間重みと１との前記差である積となるように前記第２の重みを決定するように構成される。

第５の態様を参照したときの第７の態様に従って、装置は、前記第１の重み、が第１の因数が前記線形補間重みであり、第２の因数が前記第１のＣＰＢパラメータが示す前記既定のビットレートを前記選択されたビットレートで除算したものである積となるように前記第１の重みを決定し、前記第２の重みが、第１の因数が前記線形補間重みと１との前記差であり、第２の因数が前記第２のＣＰＢパラメータが示す前記既定のビットレートを前記選択されたビットレートで除算したものである積となるように第２の重みを決定するように構成される。

第１から第７の態様のいずれかを参照するときの第８の態様に従って、装置は、復号化ピクチャバッファ（ＤＰＢ）をさらに備え、前記ＣＰＢ２００から除去された現在のＡＵ４０２を前記ＤＰＢに格納された参照される基準ピクチャ４０４からピクチャ間予測を用いて復号化して復号化されたピクチャ１６’を取得し、前記復号化されたピクチャを前記ＤＰＢに挿入し４０８、前記ＤＰＢに格納された各基準ピクチャ４１４に、短期基準ピクチャ、長期基準ピクチャ、未参照基準ピクチャのうちの１つとしての分類を割り当て、前記現在のＡＵからＤＰＢモード情報４１６を読み出し、前記ＤＰＢモード情報が第１モードを示す場合、ＦＩＦＯ方法に従って、短期ピクチャに分類された１つ以上の基準ピクチャを前記ＤＰＢから除去し４２４、前記ＤＰＢモード情報が第２モードを示す場合、前記現在のＡＵにおいて少なくとも１つのコマンドを含むメモリ管理制御情報を読み出し、前記少なくとも１つのコマンドを実行して前記ＤＰＢに格納された前記基準ピクチャのうちの少なくとも１つに割り当てられた前記分類を変更し、前記ＤＰＢ内の前記基準ピクチャの前記分類を使用して前記ＤＰＢからの基準ピクチャの除去４２４を管理するように構成される。

第８の態様を参照した場合の第９の態様に従って、装置は、前記復号化されたピクチャがピクチャ間予測に使用されていないかの指標を前記現在のＡＵから読み取り、前記復号化されたピクチャがピクチャ間予測に使用されていないこと、又は直接出力されないことが示されていない場合、前記復号化されたピクチャの前記ＤＰＢへの前記挿入を実行し、前記復号化されたピクチャがピクチャ間予測に使用されていないこと、及び直接出力されることが示されている場合、前記ＤＰＢにおいて前記復号化されたピクチャをバッファリングせずに直接出力するように構成される。

第８または第９の態様を参照する際の第１０の態様に従って、装置は、長期ピクチャに分類される前記ＤＰＢ内の各基準ピクチャにフレームインデックスを割り当て、既定の基準ピクチャに割り当てられた前記フレームインデックスが前記現在のＡＵにおいて参照される場合、長期ピクチャに分類される前記ＤＰＢ内の前記既定の基準ピクチャを前記ＤＰＢ内の参照される基準ピクチャとして使用するように構成される。

第１０の態様を参照するときの第１１の態様に従って、装置は、前記現在のＡＵ内の前記少なくとも１つのコマンドが第１コマンドである場合、短期基準ピクチャに分類された前記ＤＰＢ内の基準ピクチャを未参照基準ピクチャとして再分類し、前記現在のＡＵ内の前記少なくとも１つのコマンドが第２コマンドである場合、長期基準ピクチャに分類された前記ＤＰＢ内の基準ピクチャを未参照基準ピクチャとして再分類し、前記現在のＡＵ内の前記少なくとも１つのコマンドが第３コマンドである場合、短期ピクチャに分類された前記ＤＰＢ内の基準ピクチャを長期基準ピクチャに再分類して、再分類された前記基準ピクチャにフレームインデックスを割り当て、前記現在のＡＵ内の前記少なくとも１つのコマンドが第４コマンドである場合、前記第４コマンドに従ってフレームインデックス上限値を設定し、長期ピクチャに分類され、前記フレームインデックス上限値を超えるフレームインデックスが割り当てられた前記ＤＰＢ内の全ての基準ピクチャを未参照基準ピクチャに再分類し、前記現在のＡＵ内の前記少なくとも１つのコマンドが第５コマンドである場合、前記現在のピクチャを長期ピクチャとして分類し、前記現在の基準ピクチャにフレームインデックスを割り当てる、のうちの１つ以上を満たすように構成される。

第８から第１１の態様のいずれかを参照するときの第１２の態様によれば、装置は、未参照基準ピクチャとして分類され、もはや出力されることのないあらゆる基準ピクチャを前記ＤＰＢから除去するように構成される。

第１から第１２の態様のいずれかを参照したときの第１３の態様に従って、装置は、前記データストリームからエントロピー符号化モードインジケータを読み取り、前記エントロピー符号化モードインジケータがコンテキスト適応型可変長符号化モードを示す場合は前記コンテキスト適応型可変長符号化モードを使用して、そして前記エントロピー符号化モードインジケータがコンテキスト適応型バイナリ算術符号化モードを示す場合は前記コンテキスト適応型バイナリ算術符号化モードを使用して、前記現在のＡＵから予測残差データを復号化するように構成される。

第１から第１３の態様のいずれかを参照するときの第１４の態様に従って、装置は、前記現在のＡＵにおける動きベクトルに基づいて、且つ６タップＦＩＲフィルタを使用して２分の１ピクセル単位値を導出し、隣接する２分の１ピクセル単位値を平均化して、前記参照される基準ピクチャにおける４分の１ピクセル単位値を導出するように構成される。

第１から第１４の態様のいずれかを参照するときの第１５の態様に従って、装置は、前記最初のアクセスユニットの除去と前記２番目以降のアクセスユニットの各々の前記除去との間の時間差によって、前記時間ラスタに関する情報を前記データストリームから導出するように構成される。

第１から第１５の態様のいずれかを参照するときの第１６の態様に従って、装置は、前記第１のＣＰＢパラメータ３００_i-1が示す前記ＣＰＢサイズと前記第２のＣＰＢパラメータ３００_iが示す前記ＣＰＢサイズとの間を前記選択されたビットレート３０２で補間して、補間されたＣＰＢサイズを取得して前記符号化ピクチャバッファ２００の最小ＣＰＢサイズを決定するように構成される。

第１から第１６の態様のいずれかを参照するときの第１７の態様によれば、本装置において前記選択されたビットレートは、前記第１のＣＰＢパラメータ３００_i-1が示す前記既定のビットレートと前記第２のＣＰＢパラメータ３００_iが示す前記既定のビットレートとの間にある。

第１から第１７の態様のいずれかに戻って参照する場合の第１８の態様に従って、装置は、現在のバッファリング期間の前記最初のアクセスユニットである、前記符号化順序において前記最初のアクセスユニットについては、バッファリング期間単位で動作するように構成される。

第１９の態様によれば、データストリームにビデオを符号化するための装置であって、前記データストリームは、符号化ピクチャバッファ（ＣＰＢ）を備えるデコーダに供給されることによって復号化されるものであり、前記装置は、符号化順序で符号化されたビデオのピクチャをアクセスユニット（ＡＵ）のシーケンスとしてデータストリームに符号化し、第１の動作点に関連する第１のＣＰＢパラメータと第２の動作点に関連する第２のＣＰＢパラメータを決定し、ここで前記第１のＣＰＢパラメータ及び第２のＣＰＢパラメータの各々は、ＣＰＢサイズ、既定の時間オフセット、既定の時間的除去遅延及び既定のビットレートを示し、前記第１のＣＰＢパラメータは、少なくとも前記既定のビットレートに関して前記第２のＣＰＢパラメータと相違し、複数の選択されたビットレートの各々において前記第１のＣＰＢパラメータの前記既定の時間オフセットと前記第２のＣＰＢパラメータの前記既定の時間的オフセットとの間を補間することによって、補間された時間オフセット及び補間された時間的除去遅延が生じて、それぞれの前記選択されたビットレートを使用して前記ＡＵのシーケンスを前記ＣＰＢにシーケンシャルに供給するとともに前記符号化順序において最初のアクセスユニットについては補間された時間的除去遅延の分、及び、符号化順序において２番目以降のアクセスユニットについては前記補間された時間的除去遅延と補間された時間オフセットとの和の分、前倒しされた時間フレーム除去ラスタによる仮想利用可能時間にまだ到達していないアクセスユニットについては前記仮想利用可能時間に到達するまでは前記供給を停止し、前記時間ラスタを用いて前記ＣＰＢから前記ＡＵをＡＵ単位で除去して、前記データストリームを前記ＣＰＢを介して前記デコーダに供給することが、いかなるアンダーフローも、いかなるオーバーフローも引き起こさないように前記決定が実行され、前記ＣＰＢパラメータを前記データストリームに符号化するように構成される。

第１９の態様を参照するときの第２０の態様に従って、装置において、前記補間は、補間パラメータを用いてパラメータ化され、前記装置は、前記補間パラメータを前記データストリームに符号化するように構成される。

第１９または第２０の態様を参照するときの第２１の態様に従って、装置において、前記補間は、第１の重みで重み付けされた前記第１のＣＰＢパラメータが示す前記既定の時間オフセットと、第２の重みで重み付けされた前記第２のＣＰＢパラメータが示す前記既定の時間オフセットとの重み付き和を用いて実行される。

第２１の態様を参照するときの第２２の態様に従って、装置において、前記第１の重み及び前記第２の重みは、前記選択されたビットレート、前記第１のＣＰＢパラメータが示す前記既定のビットレート、及び前記第２のＣＰＢパラメータが示す前記既定のビットレートに基づいて決定される。

第２１の態様を参照するときの第２３の態様に従って、装置において、前記選択されたビットレートと前記第１のＣＰＢパラメータが示す前記既定のビットレートとの間の差を、前記第１のＣＰＢパラメータが示す前記既定のビットレートと前記第２のＣＰＢパラメータが示す前記既定のビットレートとの間の差で除算することによって決定される線形補間重みが、前記第１の重み及び前記第２の重みを決定するために使用される。

第２３の態様に戻って参照する場合の第２４の態様によれば、装置において、前記第１の重みは、前記第１の重みが前記線形補間重み又は１つの因数が前記線形補間重みである積となるように決定され、前記第２の重みは、前記第２の重みが前記線形補間重みと１との差又は１つの因数が前記線形補間重みと１との前記差である積となるように決定される。

第２３の態様を参照したときの第２５の態様に従って、装置において、前記第１の重みは、前記第１の重みが、第１の因数が前記線形補間重みであり、第２の因数が前記第１のＣＰＢパラメータが示す前記既定のビットレートを前記選択されたビットレートで割ったものである積となるように決定され、前記第２の重みは、前記第２の重みが、１つの因数が前記線形補間重みと１との前記差であり、第２の因数が前記第２のＣＰＢパラメータが示す前記既定のビットレートを前記選択されたビットレートで除算したものである積となるように決定される。

第１９から第２５の態様のいずれかを参照するときの第２６の態様に従って、前記装置は、前記ＡＵを符号化する際に、ＤＰＢに格納された参照される基準ピクチャからのピクチャ間予測を使用して現在のピクチャを現在のＡＵに符号化し、前記ＤＰＢ内の前記現在のピクチャの復号化バージョンを前記ＤＰＢに挿入し、前記ＤＰＢに格納された各基準ピクチャに、短期基準ピクチャ、長期基準ピクチャ、未使用基準ピクチャのうちの１つとしての分類を割り当て、ＤＰＢモード情報を前記現在のＡＵに書き込み、前記ＤＰＢモード情報が第１モードを示す場合、ＦＩＦＯ方法に従って、短期ピクチャに分類される１つ以上の基準ピクチャを前記ＤＰＢから除去し、前記ＤＰＢモード情報が第２モードを示す場合、少なくとも１つのコマンドを含むメモリ管理制御情報を前記現在のＡＵに書き込み、ここで前記コマンドは、前記ＤＰＢに格納された前記基準ピクチャのうちの少なくとも１つに割り当てられた前記分類を変更するように指示するものであり、前記ＤＰＢにおける前記基準ピクチャの前記分類は、前記ＤＰＢからの基準ピクチャ除去を管理するために使用されるように構成される。

第２６の態様を参照するときの第２７の態様に従って、装置は、前記復号化されたピクチャがピクチャ間予測に使用されないのかの指標を前記現在のＡＵに書き込むように構成され、前記復号化されたピクチャがピクチャ間予測に使用されないこと、又は直接出力されないことが示されていない場合、前記復号化されたピクチャは前記ＤＰＢに挿入され、前記復号化されたピクチャがピクチャ間予測に使用されず、かつ直接出力されることが示されている場合、前記復号化されたピクチャは前記ＤＰＢにおいてバッファリングされることなく直接出力される。

第２６または第２７の態様を参照した場合の第２８の態様に従って、本装置では、長期ピクチャに分類される前記ＤＰＢ内の各基準ピクチャにフレームインデックスが割り当てられ、既定の基準ピクチャに割り当てられた前記フレームインデックスが前記現在のＡＵにおいて参照される場合、長期ピクチャに分類される、前記ＤＰＢ内の既定の基準ピクチャを前記ＤＰＢ内の参照される基準ピクチャとして使用される。

第２８の態様を参照するときの第２９の態様に従って、装置において、前記現在のＡＵ内の前記少なくとも１つのコマンドが第１コマンドである場合、短期参照ピクチャに分類された前記ＤＰＢ内の基準ピクチャを未参照基準ピクチャに再分類し、前記現在のＡＵ内の前記少なくとも１つのコマンドが第２コマンドである場合、長期参照ピクチャに分類された前記ＤＰＢ内の基準ピクチャを未参照基準ピクチャとして再分類し、前記現在のＡＵ内の前記少なくとも１つのコマンドが第３コマンドである場合、短期ピクチャに分類された前記ＤＰＢ内の基準ピクチャを長期基準ピクチャに再分類し、再分類された前記基準ピクチャにフレームインデックスを割り当て、前記現在のＡＵ内の前記少なくとも１つのコマンドが第４コマンドである場合、前記第４コマンドに従ってフレームインデックス上限値を設定し、長期ピクチャに分類され、前記フレームインデックス上限値を超えるフレームインデックスが割り当てられた前記ＤＰＢ内の全ての基準ピクチャを未参照基準ピクチャに再分類し、前記現在のＡＵ内の前記少なくとも１つのコマンドが第５コマンドである場合、前記現在のピクチャを長期ピクチャとして分類し、前記現在の基準ピクチャにフレームインデックスを割り当てる、のうちの１つ以上を満たす。

第２６から第２９の態様のいずれかを参照するときの第３０の態様に従って、装置において、未参照基準ピクチャとして分類され、もはや出力されることのないあらゆる基準ピクチャは前記ＤＰＢから除去される。

第１９から第３０の態様のいずれかを参照するときの第３１の態様に従って、装置は、エントロピー符号化モードインジケータを前記データストリームに書き込み、前記エントロピー符号化モードインジケータがコンテキスト適応型可変長符号化モードを示す場合には前記コンテキスト適応型可変長符号化モードを使用して、及び、前記エントロピー符号化モードインジケータがコンテキスト適応型バイナリ算術符号化モードを示す場合には前記コンテキスト適応型バイナリ算術符号化モードを使用して、予測残差データを前記現在のＡＵに符号化するように構成されてよい。

第１９から第３１の態様のいずれかを参照するときの第３２の態様に従って、装置は、前記現在のＡＵにおける動きベクトルに基づいて、且つ６タップＦＩＲフィルタを使用して２分の１ピクセル単位値を導出し、隣接する２分の１ピクセル単位値を平均化して、前記参照される基準ピクチャにおける４分の１ピクセル単位値を導出するように構成される。

第１９から第３２の態様のいずれかを参照するときの第３３の態様に従って、前記装置は、前記最初のアクセスユニットの除去と前記２番目以降のアクセスユニットの各々の前記除去との間の時間差によって、前記時間ラスタに関する情報を前記データストリームに提供するように構成される。

第１９から第３３の態様のいずれかを参照するときの第３４の態様に従って、前記装置において、前記第１のＣＰＢパラメータ３００_i-1が示す前記ＣＰＢサイズと前記第２のＣＰＢパラメータ３００_iが示す前記ＣＰＢサイズとの間を前記選択されたビットレート３０２で補間が実行され、補間されたＣＰＢサイズを取得して前記符号化ピクチャバッファ２００の最小ＣＰＢサイズを決定するように構成される。

第１９から第３４の態様のいずれかを参照するときの第３５の態様に従って、本装置において、前記選択されたビットレートは、前記第１のＣＰＢパラメータ３００_i-1が示す前記既定の時間オフセットと前記第２のＣＰＢパラメータ３００_iが示す前記既定の時間オフセットとの間にある。

第１９から第３５の態様のいずれかに戻って参照する場合の第３６の態様に従って、装置は、現在のバッファリング期間の前記最初のアクセスユニットである、前記符号化順序において前記最初のアクセスユニットについては、バッファリング期間単位で動作するように構成される。

第１９から第３６の態様のいずれかを参照するときの第３７の態様に従って、装置は、第１のＣＰＢパラメータおよび第２のＣＰＢパラメータの予備的バージョンを決定することによって前記決定を実行するように構成され、前記複数の選択されたビットレートのそれぞれについて前記補間された時間オフセットおよび前記補間された時間除去遅延を得るように前記複数の選択されたビットレートで前記補間を実行し、得られた前記補間された時間オフセットおよび前記補間された時間的除去遅延を用いて前記ＣＰＢを介して前記データストリームを前記デコーダに供給することがアンダーフローおよびオーバーフローにつながるかどうかを前記複数の選択されたビットレートのそれぞれについてチェックし、もしそうなら、異なる方法で符号化を再開し、前記第１のＣＰＢパラメータおよび前記第２のＣＰＢパラメータの前記予備的バージョンを修正し、または異なる方法を用いて前記補間を再開し、もし違うなら前記第１のＣＰＢパラメータおよび前記第２のＣＰＢパラメータを前記予備的バージョンに等しくなるよう決定する。

第３８の態様によれば、符号化ピクチャバッファ２００を用いたビデオ復号化のための方法であって、ビデオ１２のピクチャ１６が符号化順序に沿って符号化されているデータストリーム１４をアクセスユニット４８のシーケンスとして受信するステップと、選択されたビットレート３０２を用いて前記アクセスユニット４８のシーケンスを前記ＣＰＢにシーケンシャルに供給するとともに、前記符号化順序において最初のアクセスユニットについては選択された時間的除去遅延の分、及び、前記符号化順序において２番目以降のアクセスユニットについては前記選択された時間的除去遅延と選択された時間オフセットとの和の分、前倒しされた時間フレーム除去ラスタによる仮想利用可能時間にまだ到達していないアクセスユニットについては前記仮想利用可能時間に到達するまでは前記供給を停止させるステップと、前記時間ラスタ［ＲｅｍｏｖａｌＴｉｍｅ］を用いて前記ＣＰＢから前記ＡＵをＡＵ単位で除去するステップと、第１の動作点に関連する第１のＣＰＢパラメータ３００_i-1と第２の動作点に関連する第２のＣＰＢパラメータ３００_iとを前記データストリームから抽出するステップであって、前記第１のＣＰＢパラメータ３００_i-1及び前記第２のＣＰＢパラメータ３００_iの各々は、ＣＰＢサイズ、既定の時間オフセット、既定の時間的除去遅延及び既定のビットレートを示し、前記第１のＣＰＢパラメータ３００_i-1は、少なくとも前記既定のビットレートに関して前記第２のＣＰＢパラメータ３００_iと相違している、ステップと前記、第１のＣＰＢパラメータ３００_i-1が示す前記既定の時間オフセットと前記第２のＣＰＢパラメータ３００_iが示す前記既定の時間オフセットとの間を前記選択されたビットレートで補間することによって前記選択された時間オフセットを決定し、前記第１のＣＰＢパラメータ３００_i-1が示す前記既定の時間的除去遅延と前記第２のＣＰＢパラメータ３００_iが示す前記既定の時間的除去遅延との間を前記選択されたビットレートで補間することによって前記選択された時間的除去遅延を決定するステップと、を備える。

第３９の態様は、ビデオが符号化され、第１のＣＰＢパラメータ及び第２のＣＰＢパラメータを含み、第３８の態様に記載の前記方法がＣＰＢのオーバーフロー及びアンダーフローを引き起こさないようになっている。

第４０の態様によれば、データストリームにビデオを符号化するための方法であって、前記データストリームは、符号化ピクチャバッファ（ＣＰＢ）を備えるデコーダに供給されることによって復号化されるものであり、前記方法は、符号化順序で符号化されたビデオのピクチャをアクセスユニット（ＡＵ）のシーケンスとしてデータストリームに符号化し、第１の動作点に関連する第１のＣＰＢパラメータと第２の動作点に関連する第２のＣＰＢパラメータを決定し、ここで前記第１のＣＰＢパラメータ及び第２のＣＰＢパラメータの各々は、ＣＰＢサイズ、既定の時間オフセット、既定の時間的除去遅延及び既定のビットレートを示し、前記第１のＣＰＢパラメータは、少なくとも前記既定のビットレートに関して前記第２のＣＰＢパラメータと相違し、複数の選択されたビットレートの各々において前記第１のＣＰＢパラメータの前記既定の時間オフセットと前記第２のＣＰＢパラメータの前記既定の時間的オフセットとの間を補間することによって、補間された時間オフセット及び補間された時間的除去遅延が生じて、それぞれの前記選択されたビットレートを使用して前記ＡＵのシーケンスを前記ＣＰＢにシーケンシャルに供給するとともに前記符号化順序において最初のアクセスユニットについては前記補間された時間的除去遅延の分、及び、符号化順序において２番目以降のアクセスユニットについては補間された時間的除去遅延と補間された時間オフセットとの和の分、前倒しされた時間フレーム除去ラスタによる仮想利用可能時間にまだ到達していないアクセスユニットについては前記仮想利用可能時間に到達するまでは前記供給を停止し、前記時間ラスタを用いて前記ＣＰＢから前記ＡＵをＡＵ単位で除去して、前記データストリームを前記ＣＰＢを介して前記デコーダに供給することが、いかなるアンダーフローも、いかなるオーバーフローも引き起こさないように前記決定が実行される。

第４１の態様は、第４０の態様の方法によって生成されたデータストリームを有することができる。

本明細書において、線上の信号は、線に対する参照数字によって命名されることもあれば、線に帰属した参照数字そのものによって示されることもあることを理解されたい。したがって、ある信号を有する線がその信号そのものを示すような表記となる。線は、ハードワイヤードの実装では、物理的な線とすることができる。しかし、コンピュータによる実装では、物理的な線は存在せず、線によって表される信号が一方の計算モジュールから他方の計算モジュールに送信される。

本発明は、ブロックが実際のまたは論理的なハードウェアコンポーネントを表すブロック図の文脈で説明されてきたが、本発明は、コンピュータに実装された方法によって実施することもできる。後者の場合、ブロックは対応する方法ステップを表し、これらのステップは対応する論理的または物理的ハードウェアブロックによって実行される機能性を表している。

いくつかの態様は装置の文脈で説明されてきたが、これらの態様は、ブロックまたは装置が方法ステップまたは方法ステップの特徴に対応する、対応する方法の説明も表していることは明らかである。同様に、方法ステップの文脈で説明される態様は、対応するブロックまたはアイテムまたは対応する装置の特徴の説明も表す。方法ステップのいくつかまたはすべては、例えば、マイクロプロセッサ、プログラム可能なコンピュータまたは電子回路のようなハードウェア装置によって（またはそれを使用して）実行され得る。いくつかの実施形態では、最も重要な方法ステップのうちのいくつかの１つまたは複数が、そのような装置によって実行されることがある。

本発明の送信信号または符号化信号は、デジタル記憶媒体に格納することができ、また、無線伝送媒体やインターネットなどの有線伝送媒体で送信することができる。

特定の実装要件に応じて、本発明の実施形態は、ハードウェアまたはソフトウェアで実装することができる。実装は、デジタル記憶媒体、例えばフロッピーディスク、ＤＶＤ、Ｂｌｕ－Ｒａｙ、ＣＤ、ＲＯＭ、ＰＲＯＭ、およびＥＰＲＯＭ、ＥＥＰＲＯＭまたはＦＬＡＳＨメモリであって、その上に記憶された電子的に読み取り可能な制御信号を有し、それぞれの方法が行われるようにプログラム可能なコンピュータシステムと協力する（または協力することができる）ものを使用して行うことができる。したがって、デジタル記憶媒体は、コンピュータ可読であってもよい。

本発明によるいくつかの実施形態は、電子的に読み取り可能な制御信号を有するデータキャリアを備え、本明細書に記載される方法の１つが実行されるように、プログラム可能なコンピュータシステムと協働することが可能である。

一般に、本発明の実施形態は、プログラムコードを有するコンピュータプログラム製品として実施することができ、プログラムコードは、コンピュータプログラム製品がコンピュータ上で実行されるときに、方法の１つを実行するために動作可能である。プログラムコードは、例えば、機械読み取り可能なキャリアに格納され得る。

他の実施形態は、本明細書に記載された方法の１つを実行するためのコンピュータプログラムが、機械可読キャリアに格納されて構成される。

言い換えれば、本発明方法の実施形態は、したがって、コンピュータプログラムがコンピュータ上で実行される場合、本明細書に記載された方法の１つを実行するためのプログラムコードを有するコンピュータプログラムである。

したがって、本発明方法のさらなる実施形態は、本明細書に記載の方法の１つを実行するためのコンピュータプログラムをその上に記録してなるデータキャリア（またはデジタル記憶媒体などの非一過性の記憶媒体、またはコンピュータ読み取り可能媒体）である。データキャリア、デジタル記憶媒体、または記録媒体は、典型的には、有形および／または非一過性のものである。

したがって、本発明方法のさらなる実施形態は、本明細書に記載の方法の１つを実行するためのコンピュータプログラムを表すデータストリームまたは信号のシーケンスである。データストリームまたは信号のシーケンスは、例えば、データ通信接続を介して、例えば、インターネットを介して転送されるように構成され得る。

さらなる実施形態は、本明細書に記載の方法のうちの１つを実行するように構成された、または実行するように適合された、処理手段、例えば、コンピュータまたはプログラマブルロジックデバイスを具備する。

さらなる実施形態は、本明細書に記載された方法の１つを実行するためのコンピュータプログラムをその上にインストールしたコンピュータを具備する。

本発明によるさらなる実施形態は、本明細書に記載の方法の１つを実行するためのコンピュータプログラムを受信機に（例えば、電子的または光学的に）転送するように構成された装置またはシステムである。受信機は、例えば、コンピュータ、モバイルデバイス、メモリデバイス等であってもよい。装置またはシステムは、例えば、コンピュータ・プログラムを受信機に転送するためのファイル・サーバを含んでいてもよい。

いくつかの実施形態では、プログラマブルロジックデバイス（例えば、フィールドプログラマブルゲートアレイ）が、本明細書に記載の方法の機能性の一部または全部を実行するために使用されることがある。いくつかの実施形態では、フィールドプログラマブルゲートアレイは、本明細書に記載の方法の１つを実行するために、マイクロプロセッサと協働することができる。一般に、本方法は、任意のハードウェア装置によって実行されてもよい。

上述した実施形態は、本発明の原理を単に例示するものである。本明細書に記載された配置および詳細の修正および変形は、当業者にとって明らかであることが理解される。したがって、本明細書の実施形態の説明および解説によって提示された特定の詳細によってではなく、差し迫った特許請求の範囲の範囲によってのみ制限されることが意図される。

Ｒｅｆｅｒｅｎｃｅ
［１］ Ｆｒｏｍ Ｓｊｏｂｅｒｇ， Ｒｉｃｋａｒｄ， ｅｔ ａｌ． ”Ｏｖｅｒｖ
ｉｅｗ ｏｆ ＨＥＶＣ ｈｉｇｈ－ｌｅｖｅｌ ｓｙｎｔａｘ ａｎｄ ｒｅｆｅｒｅｎｃｅ ｐｉｃｔｕｒｅ ｍａｎａｇｅｍｅｎｔ” ＩＥＥＥ ｔｒａｎｓａｃｔｉｏ
ｎｓ ｏｎ Ｃｉｒｃｕｉｔｓ ａｎｄ Ｓｙｓｔｅｍｓ ｆｏｒ Ｖｉｄｅｏ Ｔｅｃｈｎｏｌｏｇｙ ２２．１２ （２０１２）： １８５８－１８７０．

Claims (6)

1. ビデオ復号化のための装置であって、前記装置は、符号化ピクチャバッファ（ＣＰＢ）と復号化ピクチャバッファ（ＤＰＢ）とを備え、
   ビデオのピクチャが符号化順序に沿って符号化されているデータストリームをアクセスユニット（ＡＵ）のシーケンスとして受信し、
   選択されたビットレートを用いて前記アクセスユニットのシーケンスを前記ＣＰＢにシーケンシャルに供給するとともに、前記符号化順序において最初のアクセスユニットについては選択された時間的除去遅延の分、及び、前記符号化順序において２番目以降のアクセスユニットについては前記選択された時間的除去遅延と選択された時間オフセットとの和の分、前倒しされた時間フレーム除去ラスタによる仮想利用可能時間にまだ到達していないアクセスユニットについては前記仮想利用可能時間に到達するまでは前記供給を停止させ、
   時間ラスタを用いて前記ＣＰＢから前記ＡＵをＡＵ単位で除去し、
   第１の動作点に関連する第１のＣＰＢパラメータと第２の動作点に関連する第２のＣＰＢパラメータとを前記データストリームから抽出し、ここで前記第１のＣＰＢパラメータ及び前記第２のＣＰＢパラメータの各々は、ＣＰＢサイズ、既定の時間オフセット、既定の時間的除去遅延及び既定のビットレートを示し、前記第１のＣＰＢパラメータは、少なくとも前記既定のビットレートに関して前記第２のＣＰＢパラメータと相違しており、
   前記第１のＣＰＢパラメータが示す前記既定の時間オフセットと前記第２のＣＰＢパラメータが示す前記既定の時間オフセットとの間を前記選択されたビットレートで補間することによって前記選択された時間オフセットを決定し、前記第１のＣＰＢパラメータが示す前記既定の時間的除去遅延と前記第２のＣＰＢパラメータが示す前記既定の時間的除去遅延との間を前記選択されたビットレートで補間することによって前記選択された時間的除去遅延を決定し、
   前記ＣＰＢから除去された現在のＡＵを前記ＤＰＢに格納された参照される基準ピクチャからピクチャ間予測を用いて復号化して復号化されたピクチャを取得し、
   前記復号化されたピクチャを前記ＤＰＢに挿入し、
   前記ＤＰＢに格納された各基準ピクチャに、短期基準ピクチャ、長期基準ピクチャ、未参照基準ピクチャのうちの１つとしての分類を割り当て、
   前記現在のＡＵからＤＰＢモード情報を読み出し、
   前記ＤＰＢモード情報が第１モードを示す場合、先入れ先出し（ＦＩＦＯ）方法に従って、短期ピクチャに分類された１つ以上の基準ピクチャを前記ＤＰＢから除去し、
   前記ＤＰＢモード情報が第２モードを示す場合、前記現在のＡＵにおいて少なくとも１つのコマンドを含むメモリ管理制御情報を読み出し、前記少なくとも１つのコマンドを実行して前記ＤＰＢに格納された前記基準ピクチャのうちの少なくとも１つに割り当てられた前記分類を変更し、前記ＤＰＢ内の前記基準ピクチャの前記分類を使用して前記ＤＰＢからの基準ピクチャの除去を管理する
   ように構成され、
   第１の重みで重み付けされた前記第１のＣＰＢパラメータが示す前記既定の時間オフセットと、第２の重みで重み付けされた前記第２のＣＰＢパラメータが示す前記既定の時間オフセットとの重み付け和を用いて前記補間を実行するように構成され、
   前記選択されたビットレートと前記第１のＣＰＢパラメータが示す前記既定のビットレートとの間の差を、前記第１のＣＰＢパラメータが示す前記既定のビットレートと前記第２のＣＰＢパラメータが示す前記既定のビットレートとの間の差によって除算することによって線形補間重みを計算し、
   前記線形補間重みを用いて前記第１の重み及び前記第２の重みを決定する
   ように構成される、装置。
2. 前記第１の重みが前記線形補間重み又は因数の１つが前記線形補間重みである積となるように前記第１の重みを決定し、
   前記第２の重みが前記線形補間重みと１との差、又は因数の１つが前記線形補間重みと１との前記差である積となるように前記第２の重みを決定する
   ように構成される、請求項１に記載の装置。
3. 前記第１の重みが、第１の因数が前記線形補間重みであり、第２の因数が前記第１のＣＰＢパラメータが示す前記既定のビットレートを前記選択されたビットレートで除算したものである積となるように前記第１の重みを決定し、
   前記第２の重みが、第１の因数が前記線形補間重みと１との前記差であり、第２の因数が前記第２のＣＰＢパラメータが示す前記既定のビットレートを前記選択されたビットレートで除算したものである積となるように第２の重みを決定する
   ように構成される、請求項１に記載の装置。
4. データストリームにビデオを符号化するための装置であって、前記データストリームは、符号化ピクチャバッファ（ＣＰＢ）を備えるデコーダに供給されることによって復号化されるものであり、前記装置は、
   符号化順序で符号化されたビデオのピクチャをアクセスユニット（ＡＵ）のシーケンスとしてデータストリームに符号化し、
   第１の動作点に関連する第１のＣＰＢパラメータと第２の動作点に関連する第２のＣＰＢパラメータを決定し、ここで前記第１のＣＰＢパラメータ及び第２のＣＰＢパラメータの各々は、ＣＰＢサイズ、既定の時間オフセット、既定の時間的除去遅延及び既定のビットレートを示し、前記第１のＣＰＢパラメータは、少なくとも前記既定のビットレートに関して前記第２のＣＰＢパラメータと相違し、複数の選択されたビットレートの各々において前記第１のＣＰＢパラメータの前記既定の時間オフセットと前記第２のＣＰＢパラメータの前記既定の時間的オフセットとの間を補間することによって、補間された時間オフセット及び補間された時間的除去遅延が生じて、
   それぞれの前記選択されたビットレートを使用して前記ＡＵのシーケンスを前記ＣＰＢにシーケンシャルに供給するとともに前記符号化順序において最初のアクセスユニットについては補間された時間的除去遅延の分、及び、符号化順序において２番目以降のアクセスユニットについては前記補間された時間的除去遅延と補間された時間オフセットとの和の分、前倒しされた時間フレーム除去ラスタによる仮想利用可能時間にまだ到達していないアクセスユニットについては前記仮想利用可能時間に到達するまでは前記供給を停止し、
   時間ラスタを用いて前記ＣＰＢから前記ＡＵをＡＵ単位で除去して、
   前記データストリームを前記ＣＰＢを介して前記デコーダに供給することが、いかなるアンダーフローも、いかなるオーバーフローも引き起こさないように前記決定が実行され、
   前記ＣＰＢパラメータを前記データストリームに符号化する
   ように構成され、
   ここで、前記装置は、前記ＡＵを符号化する際に、
   復号化ピクチャバッファ（ＤＰＢ）に格納された参照される基準ピクチャからのピクチャ間予測を使用して現在のピクチャを現在のＡＵに符号化し、
   前記ＤＰＢ内の前記現在のピクチャの復号化バージョンを前記ＤＰＢに挿入し、
   前記ＤＰＢに格納された各基準ピクチャに、短期基準ピクチャ、長期基準ピクチャ、未使用基準ピクチャのうちの１つとしての分類を割り当て、
   ＤＰＢモード情報を前記現在のＡＵに書き込み、
   前記ＤＰＢモード情報が第１モードを示す場合、ＦＩＦＯ方法に従って、短期ピクチャに分類される１つ以上の基準ピクチャを前記ＤＰＢから除去し、
   前記ＤＰＢモード情報が第２モードを示す場合、少なくとも１つのコマンドを含むメモリ管理制御情報を前記現在のＡＵに書き込み、ここで前記コマンドは、前記ＤＰＢに格納された前記基準ピクチャのうちの少なくとも１つに割り当てられた前記分類を変更するように指示するものであり、前記ＤＰＢにおける前記基準ピクチャの前記分類は、前記ＤＰＢからの基準ピクチャ除去を管理するために使用される
   ように構成され、
   前記補間は、第１の重みで重み付けされた前記第１のＣＰＢパラメータが示す前記既定の時間オフセットと、第２の重みで重み付けされた前記第２のＣＰＢパラメータが示す前記既定の時間オフセットとの重み付き和を用いて実行され、
   前記選択されたビットレートと前記第１のＣＰＢパラメータが示す前記既定のビットレートとの間の差を、前記第１のＣＰＢパラメータが示す前記既定のビットレートと前記第２のＣＰＢパラメータが示す前記既定のビットレートとの間の差で除算することによって決定される線形補間重みが、前記第１の重み及び前記第２の重みを決定するために使用される、装置。
5. 前記第１の重みは、前記第１の重みが前記線形補間重み又は１つの因数が前記線形補間重みである積となるように決定され、
   前記第２の重みは、前記第２の重みが前記線形補間重みと１との差又は１つの因数が前記線形補間重みと１との前記差である積となるように決定される、請求項４に記載の装置。
6. 前記第１の重みは、前記第１の重みが、第１の因数が前記線形補間重みであり、第２の因数が前記第１のＣＰＢパラメータが示す前記既定のビットレートを前記選択されたビットレートで割ったものである積となるように決定され、
   前記第２の重みは、前記第２の重みが、１つの因数が前記線形補間重みと１との前記差であり、第２の因数が前記第２のＣＰＢパラメータが示す前記既定のビットレートを前記選択されたビットレートで除算したものである積となるように決定される、
   請求項４に記載の装置。

Images