本発明は、多様な変更を加えることができ、様々な実施形態を有することができるため、特定実施形態を図面に例示し、詳細に説明する。しかしながら、これは、本発明を特定の実施形態に対して限定するものではない。本明細書において使用する用語は、特定の実施形態を説明するために使用されるものであって、本発明の技術的思想を限定する意図で使用されるものではない。単数の表現は、文脈上明らかな場合を除いて複数の表現を含む。本明細書において「含む」又は「有する」などの用語は、明細書上に記載された特徴、数字、段階、動作、構成要素、部品又はこれらを組み合わせたものが存在することを指定するものであり、一つ又はそれ以上の他の特徴や数字、段階、動作、構成要素、部品又はこれらを組み合わせたものの存在又は付加可能性を予め排除しないことを理解されたい。
一方、本発明において説明される図面上の各構成は、映像符号化装置/復号装置において別個の特徴的な機能に関する説明の便宜のために独立に示されたものであって、各構成が別のハードウェア又は別のソフトウェアによって具現化されることを意味しない。例えば、各構成のうち、二つ以上の構成が合わせられて一つの構成をなしてもよいし、一つの構成が複数の構成に分けられてもよい。各構成が統合及び/又は分離された実施形態も、本発明の本質から逸脱しない限り、本発明の権利範囲に含まれる。
以下、添付した図面を参照して、本発明の好ましい実施形態を更に詳細に説明する。以下、図面上の同じ構成要素に対しては、同じ参照符号を使用し、同じ構成要素について重複した説明は省略する。
図1は、本発明の一実施形態にかかる符号化装置(映像符号化装置)を概略的に示すブロック図である。図1に示すように、符号化装置100は、ピクチャ分割部105、予測部110、変換部115、量子化部120、再整列部125、エントロピ符号化部130、逆量子化部135、逆変換部140、フィルタ部145及びメモリ150を備える。
ピクチャ分割部105は、入力されたピクチャを少なくとも一つの処理単位ブロックに分割できる。このとき、処理単位としてのブロックは、予測ユニット(以下、PUとする)、変換ユニット(以下、TUとする)、又は符号化ユニット(以下、CUとする)であってもよい。
予測部110は、後述するように、インタ予測を行うインタ予測部と、イントラ予測を行うイントラ予測部とを備える。予測部110は、ピクチャ分割部105でピクチャの処理単位に対して予測を行って、予測ブロックを生成する。予測部110でピクチャの処理単位は、CU、TU、又はPUであってもよい。また、予測部110は、該当処理単位に対して実施される予測がインタ予測であるかイントラ予測であるかを決定し、各予測方法の具体的な内容(例えば、予測モード等)を決めることができる。このとき、予測が行われる処理単位と、予測方法及び予測方法の具体的な内容が決められる処理単位とは異なってもよい。例えば、予測の方法と予測モードなどは、PU単位で決定され、予測の遂行は、TU単位で行うこともできる。
インタ予測によっては、現在ピクチャの以前ピクチャ及び/又は以後ピクチャのうち、少なくとも一つのピクチャの情報に基づいて予測を行って、予測ブロックを生成できる。また、イントラ予測によっては、現在ピクチャ内のピクセル情報に基づいて予測を行って、予測ブロックを生成できる。
インタ予測の方法として、スキップモード、マージモード、動きベクトル予測(MVP)などを利用できる。インタ予測では、PUに対して、参照ピクチャを選択し、PUと同じ大きさの参照ブロックを選択できる。参照ブロックは、整数ピクセル単位で選択することができる。次に、現在PUとの残差(residual)信号が最小になり、動きベクトルの大きさもやはり最小になる予測ブロックが生成される。
予測ブロックは、整数サンプル単位で生成してもよいし、1/2ピクセル単位又は1/4ピクセル単位のように整数以下のピクセル単位で生成してもよい。このとき、動きベクトルもまた、整数ピクセル以下の単位で表現することができる。例えば、輝度サンプルに対しては、1/4ピクセル単位で、色差サンプルに対しては、1/8ピクセル単位で表現することができる。
インタ予測を介して選択された参照ピクチャのインデクス、動きベクトル(例えば、MVP)、残差信号などの情報は、エントロピ符号化されて復号装置に伝達される。スキップモードが採用される場合には、残差を予測ブロックを復元ブロックにすることができるため、残差を生成、変換、量子化、転送しなくてもよい。
イントラ予測を行う場合には、PU単位で予測モードが決まり、PU単位で予測を行うことができる。また、PU単位で予測モードが決まり、TU単位でイントラ予測を行うこともできる。
イントラ予測において予測モードは、33個の方向性予測モードと、少なくとも2個以上の非方向性モードとを有することができる。非方向性モードは、DC予測モード及び平面モード(Planarモード)を含むことができる。
イントラ予測では、参照サンプルにフィルタを適用した後、予測ブロックを生成できる。このとき、参照サンプルにフィルタを適用するかどうかは、現在ブロックのイントラ予測モード及び/又はサイズによって決定することができる。
PUは、多様なサイズ/形態のブロックであってもよく、例えばインタ予測の場合にPUは、2N×2Nブロック、2N×Nブロック、N×2Nブロック、又はN×Nブロック(Nは、整数)などであってよい。イントラ予測の場合にPUは、2N×2Nブロック又はN×Nブロック(Nは、整数)などであってよい。このとき、N×Nブロック大きさのPUは、特定の場合においてだけ適用するように設定できる。例えば、最小大きさCUに対してだけNxNブロック大きさのPUを利用するように決めるか、又はイントラ予測に対してだけ利用するように決めることができる。また、上述した大きさのPUの他に、N×mNブロック、mN×Nブロック、2N×mNブロック又はmN×2Nブロック(m<1)などのPUを更に定義して使用することもできる。
生成された予測ブロックと原ブロックとの間の残差値(残差ブロック又は残差信号)は、変換部115に入力される。また、予測のために使用した予測モード情報、動きベクトル情報などは、残差値と共にエントロピ符号化部130で符号化されて復号装置に伝達される。
変換部115は、変換単位で残差ブロックに対する変換を行い、変換係数を生成する。変換部115での変換単位は、TUであってよく、四分木(quad tree)構造を有することができる。このとき、変換単位の大きさは、所定の最大及び最小大きさの範囲内で決めることができる。変換部115は、残差ブロックを離散コサイン変換(DCT)及び/又は離散サイン変換(DST)を利用して変換できる。
量子化部120は、変換部115で変換された残差値を量子化して量子化係数を生成することができる。量子化部120から算出された値は、逆量子化部135と再整列部125とに提供される。
再整列部125は、量子化部120から提供された量子化係数を再整列させる。量子化係数を再整列させることによって、エントロピ符号化部130での符号化効率を上げることができる。再整列部125は、係数スキャン(Coefficient Scanning)法によって、2次元ブロック形態の量子化係数を1次元のベクトル形態で再整列できる。再整列部125では、量子化部から転送された係数の確率的な統計に基づいて係数スキャンの順序を変更することによって、エントロピ符号化部130でのエントロピ符号化効率を上げることもできる。
エントロピ符号化部130は、再整列部125によって再整列させた量子化係数に対するエントロピ符号化を行うことができる。エントロピ符号化には、例えば、指数ゴロム(Exponential Golomb)、コンテキスト適応可変長符号化(CAVLC)、コンテキスト適応2値算術符号化(CABAC)などのような符号化方法を使用することができる。エントロピ符号化部130は、再整列部125及び予測部110から伝達されたCUの量子化係数情報及びブロックタイプ情報、予測モード情報、分割単位情報、PU情報及び転送単位情報、動きベクトル情報、参照ピクチャ情報、ブロックの補間情報、フィルタ情報など多様な情報を符号化できる。
また、エントロピ符号化部130は、必要な場合、転送するパラメータ集合又は構文(シンタックス)に一定の変更を加えることもできる。
逆量子化部135は、量子化部120で量子化された値を逆量子化し、逆変換部140は、逆量子化部135で逆量子化された値を逆変換する。逆量子化部135及び逆変換部140で生成された残差値と、予測部110で予測された予測ブロックとを合わせて、復元ブロックを生成することができる。
図1では、加算器を介して残差ブロックと予測ブロックとを合わせて復元ブロックが生成されることを説明している。このとき、加算器は復元ブロックを生成する別途のユニット(復元ブロック生成部)と見なすこともできる。
フィルタ部145は、ブロック歪み除去(deblocking)フィルタ、適応ループフィルタ(ALF)、サンプル適応オフセット(SAO)を復元されたピクチャに適用できる。
ブロック歪み除去フィルタは、復元されたピクチャにおいてブロック間の境界に生じた歪みを除去できる。ALFは、ブロック歪み除去フィルタを介してブロックが除去された後、復元された映像と本来の映像とを比較した値に基づいてフィルタ処理を行うことができる。ALFは、高効率を採用する場合にだけ行われる場合もある。SAOは、ブロック歪み除去フィルタが採用された残差ブロックに対して、ピクセル単位で原映像とのオフセット差を復元し、バンドオフセット、エッジオフセットなどの形態で採用される。
一方、インタ予測に使用される復元ブロックに対して、フィルタ部145は、フィルタを適用しなくてもよい。
メモリ150は、フィルタ部145を介して算出された復元ブロック又はピクチャを記憶することができる。メモリ150に記憶された復元ブロック又はピクチャは、インタ予測を行う予測部110に提供することができる。
図2は、本発明の一実施形態にかかる映像復号装置を概略的に示したブロック図である。図2に示すように、映像復号装置200は、エントロピ復号部210、再整列部215、逆量子化部220、逆変換部225、予測部230、フィルタ部235、及びメモリ240を備えることができる。
映像符号化装置において映像ビットストリームが入力された場合、入力されたビットストリームは、映像符号化装置で映像情報が処理された手順に従って復号することができる。
例えば、映像符号化装置においてエントロピ符号化を行うために、CAVLCなどの可変長符号化(以下、VLCとする)が使用された場合、エントロピ復号部210も符号化装置において使用したVLCテーブルと同じVLCテーブルで具現化してエントロピ復号を行うことができる。また、映像符号化装置においてエントロピ符号化を行うためにCABACを利用した場合、エントロピ復号部210は、これに対応してCABACを利用したエントロピ復号を行うことができる。
エントロピ復号部210において復号された情報のうち、予測ブロックを生成するための情報は、予測部230に提供され、エントロピ復号部210においてエントロピ復号が行われた残差値は、再整列部215に入力することができる。
再整列部215は、エントロピ復号部210においてエントロピ復号されたビットストリームを、映像符号化装置において再整列した方法に基づいて再整列できる。再整列部215は、1次元ベクトル形態で表現された係数を、2次元のブロック形態の係数に再度復元して再整列できる。再整列部215は、符号化装置において行われた係数スキャンに関連した情報を受け取り、符号化装置において行われたスキャン順序に基づいて逆にスキャンする方法によって再整列を行うことができる。
逆量子化部220は、符号化装置から提供された量子化パラメータと、再整列させたブロックの係数値とに基づいて逆量子化を行うことができる。
逆変換部225は、映像符号化装置において行われた量子化結果に対して、符号化装置の変換部が行ったDCT及びDSTに対して逆DCT及び/又は逆DSTを行うことができる。逆変換は、符号化装置で決定された転送単位又は映像の分割単位に基づいて行うことができる。符号化装置の変換部においてDCT及び/又はDSTは、予測方法、現在ブロックの大きさ及び予測方向など複数の情報に応じて選択的に行うことができ、復号装置の逆変換部225は、符号化装置の変換部において行われた変換情報に基づいて逆変換を行うことができる。
予測部230は、エントロピ復号部210から提供された予測ブロック生成関連情報と、メモリ240から提供された以前に復号されたブロック及び/又はピクチャ情報とに基づいて予測ブロックを生成できる。
現在、PUに対した予測モードがイントラ予測モードの場合、現在ピクチャ内のピクセル情報に基づいて予測ブロックを生成するイントラ予測を行うことができる。
現在、PUに対した予測モードがインタ予測モードの場合、現在ピクチャの以前ピクチャ又は以後ピクチャのうち、少なくとも一つのピクチャに含まれた情報に基づいて現在PUに対したインタ予測を行うことができる。このとき、映像符号化装置から提供された現在PUのインタ予測に必要な動き情報、例えば動きベクトル、参照ピクチャインデクスなどに関する情報は、符号化装置から受信したスキップフラグ、マージフラグなどから導出することができる。
復元ブロックは、予測部230から生成された予測ブロックと逆変換部225から提供された残差ブロックとを利用して生成することができる。図2では、加算器で予測ブロックと残差ブロックとが合わせられて復元ブロックが生成されることを説明している。このとき、加算器は復元ブロックを生成する別途のユニット(復元ブロック生成部)と見なすことができる。
スキップモードが採用される場合には、残差が転送されず、予測ブロックを復元ブロックにすることができる。
復元されたブロック及び/又はピクチャは、フィルタ部235に提供することができる。フィルタ部235は、復元されたブロック及び/又はピクチャにブロック歪み除去フィルタリング、SAO及び/又はALFなどを採用できる。
メモリ240は、復元されたピクチャ又はブロックを記憶して参照ピクチャ又は参照ブロックとして使用できるようにすることができ、また復元されたピクチャを出力部に提供できる。
一方、符号化又は復号されたピクチャは、メモリ、例えば復号ピクチャバッファ(DPB)に記憶される。現在ピクチャを符号化又は復号する場合、現在ピクチャに対する予測を行うために、DPBに記憶された以前のピクチャを参照する。
具体的には、符号化装置及び復号装置は、インタ予測に使用するために以前に符号化/復号されたピクチャのリストを参照ピクチャリストに維持できる。
インタ予測が採用される場合、符号化装置及び復号装置は、他のピクチャを参照して現在ピクチャの対象ブロック(現在ブロック)に対した予測を行うことができる。インタ予測は、図1及び図2に示すように、符号化装置及び復号装置内の予測部で行ってもよい。
インタ予測を行う場合には、上述したように、現在ブロックに隣接し利用可能な(available)周辺ブロックの情報を利用して、現在ブロックを予測する。このとき、周辺ブロックは、現在ブロックが参照できる参照ピクチャにおいて現在ブロックと同じ位置にある(co-located)ブロックのうち、利用可能なブロック(以下、説明の便宜のために「Colブロック」と呼ぶ)を含む。
インタ予測において現在ブロックに対する予測を行うために利用する周辺ブロックを、説明の便宜のために「候補ブロック」と呼ぶ。
インタ予測では、候補ブロックの情報を利用して現在ブロックに対する予測を行う。スキップモード又はマージモードの場合には、候補ブロックのうち、選択されたブロックに対する動き情報(例えば、動きベクトル)及び参照ピクチャを、現在ブロックに対する動き情報及び参照ピクチャとして利用する。
MVPを利用する場合には、候補ブロックのうち、選択されたブロックに対する動き情報(例えば、動きベクトル)を現在ブロックに対する動きベクトルとして利用し、現在ブロックに対する参照ピクチャ情報は、符号化装置から復号装置に転送される。候補ブロックから導出されたMVPと、現在ブロックに対する動きベクトルの差MVDとは、符号化装置から復号装置に転送され、復号装置の予測部は、MVP及びMVDに基づいて現在ブロックに対する動き情報を導出することができる。
図3は、現在ブロックに対してインタ予測を行う場合に利用できる候補ブロックの一例を概略的に説明する図である。
符号化装置及び復号装置の予測部は、現在ブロック400周辺の所定位置のブロックを候補ブロックとして利用できる。例えば、図3の例では、現在ブロックの左下端に配置される二つのブロックA0410及びA1420、そして現在ブロックの右上端及び左上端の三つのブロックB0430、B1440、B2450を候補ブロックとして選択できる。また、空間的に隣接するブロックの他に時間的な候補ブロックとして、上述したColブロック460を候補ブロックとして利用できる。
インタ予測を行うとき、現在ブロックに対する動き情報は、上述したように、周辺ブロックのうち、選択されたブロックの動き情報をそのまま使用するか、周辺ブロックのうち、選択されたブロックの動き情報に基づいて導出される。
一方、インタ予測に使用される参照ピクチャに関して、現在ブロックに対する参照ピクチャは、周辺ブロックの参照ピクチャから導出されるか、又は復号装置から指示することができる。スキップモード又はマージモードの場合、復号装置の予測部は、周辺ブロックの参照ピクチャを現在ブロックの参照ピクチャとして利用できる。MVPを利用する場合、復号装置の予測部は、現在ブロックに対する参照ピクチャを指示する情報を符号化装置から受信することができる。
現在ピクチャより以前に符号化/復号されたピクチャは、メモリ(例えば、DPB)に記憶されて、現在ブロック(現在ピクチャ)の予測に利用することができる。現在ブロックのインタ予測に利用可能なピクチャのリストは、参照ピクチャリストとして維持される。
Pスライスは、イントラ予測又は最大一つの動きベクトル及び一つの参照ピクチャを利用するインタ予測を介して復号されるスライスである。Bスライスは、イントラ予測又は最大二つの動きベクトル及び二つの参照ピクチャを利用するインタ予測を介して復号されるスライスである。このとき、参照ピクチャは、短期参照ピクチャ(short term reference picture)と長期参照ピクチャ(long term reference picture)とを含む。
参照ピクチャリスト0(以下、説明の便宜のために「L0」とする)は、Pスライス又はBスライスのインタ予測に利用される参照ピクチャリストである。参照ピクチャリスト1(以下、説明の便宜のために「L1」とする)は、Bスライスのインタ予測のために利用される。したがって、単方向予測を行うPスライスのブロックに対するインタ予測にはL0が利用され、両方向予測を行うBスライスのブロックに対するインタ予測にはL0及びL1が利用される。
復号装置は、インタ予測を介してPスライスとBスライスに対する復号を行う場合、参照ピクチャリストを作成(construct)する。インタ予測に利用される参照ピクチャは、参照ピクチャリストを介して指定される。参照ピクチャインデクスは、参照ピクチャリスト上の参照ピクチャを指示するインデクスである。
参照ピクチャリストは、符号化装置から転送される参照ピクチャ集合に基づいて作成することができる。
参照ピクチャインデクスを介して参照ピクチャリストを作成する参照ピクチャは、メモリ(例えば、DPB)に記憶することができる。
メモリに記憶されるピクチャ(現在ピクチャの以前に符号化/復号されたピクチャ)は、符号化装置及び復号装置によって管理される。符号化装置及び復号装置は、現在ブロックの予測に必要なピクチャを維持し、現在ブロックの予測に利用されないピクチャをメモリから解放(release)する。
参照ピクチャを管理する方法として、スライド窓(sliding window)方式を利用する場合には、メモリに記憶された後、一定時間が過ぎたとき解放される簡単な方法によって参照ピクチャを管理できるが、いくつかの問題がある。例えば、もうこれ以上要らなくなった参照ピクチャがあるとしても、メモリから直接解放できないため、効率が低下する。また、一定時間後には、メモリから解放されるため、長期参照ピクチャを管理し難くなる。
スライド窓方式の問題を考慮して、符号化装置から参照ピクチャの管理に関する指示を直接通知するメモリ管理命令操作(Memory Management Command Operation、MMCO)法を利用してもよい。しかしながら、MMCO法を利用しても通知過程においてピクチャ損失が発生し、損失したピクチャがMMCO命令を含んでいた場合、損失したMMCO情報を復元できなくなることによって、メモリ(DPB)を現在必要なピクチャが管理される正確な状態に維持できない。したがって、インタ予測も不正確に行われるおそれがある。
上述した問題を解決するために、スライスの復号過程に必要な参照ピクチャのリストを各々のスライスヘッダから転送する方法を利用できる。スライスヘッダにおいて参照ピクチャのリストを含む一種の抽象的なコンテナを「RefPicList」と呼ぶことができる。又は先に説明したように、復号装置において構成される参照ピクチャリスト0及び参照ピクチャリスト1を区別するために、スライスの復号過程において必要な参照ピクチャのリストを参照ピクチャ集合又は参照ピクチャの集合ということができる。
参照ピクチャ集合又はRefPicList(以下、説明の便宜及び参照ピクチャリストとの区別のために、「参照ピクチャ集合」とする)は、現在ピクチャ/スライス又は未来(future)ピクチャ/スライスの参照のために利用される参照ピクチャを含む。例えば、参照ピクチャ集合は、符号化装置から復号装置に転送される情報であって、参照ピクチャ集合に含まれるピクチャは、POCによって特定することができる。POCは、ピクチャの表示順序を示す。このとき、参照ピクチャ集合に含まれる参照ピクチャのPOCは、現在ピクチャのPOCに対した相対POCであってよい。
相対POCは、参照ピクチャ集合内の二つのピクチャ間のPOC差を示す。POC順で、現在ピクチャ以前の参照ピクチャ(現在ピクチャのPOCよりPOCが小さな参照ピクチャ)の相対POCは、参照ピクチャ集合内の直前の参照ピクチャとのPOC差である。POC順で、現在ピクチャ以後の参照ピクチャ(現在ピクチャのPOCよりPOCが大きい参照ピクチャ)の相対POCも、参照ピクチャ集合内の直前の参照ピクチャとのPOC差である。ただし、(1)参照ピクチャ集合における第1番目の参照ピクチャ及び(2)参照ピクチャ集合における以前の参照ピクチャと相対POCの符号が異なる参照ピクチャの場合、相対POCの大きさは、現在ピクチャとのPOC差となる。
参照ピクチャ集合内の二つのピクチャ間のPOC差は、絶対値及び符号(sign)で表現することができる。
参照ピクチャ集合は、Pスライス及びBスライスごとに符号化装置から復号装置に通知される。
参照ピクチャリストL0、L1は、符号化装置から受信した参照ピクチャ集合に基づいて作成してもよいし、符号化装置から明示的に転送してもよい。
参照ピクチャリストL0を作成する場合は、受信した参照ピクチャ集合のうち、現在ピクチャのPOCよりPOCが小さなピクチャ(POC順で、現在ピクチャ以前のピクチャ又は相対POCの符号が負の値を有するピクチャ)と、現在ピクチャのPOCよりPOCが大きなピクチャ(POC順で、現在ピクチャ以後のピクチャ又は相対POCの符号が正の値を有するピクチャ)とのうち、現在ピクチャのPOCよりPOCが小さなピクチャから参照ピクチャインデクスを割り当てて参照ピクチャリストが作成される。
例えば、参照ピクチャリストを作成するすべての参照ピクチャインデクスが割り当てられるまで、(i)現在ピクチャ/スライスに対する参照ピクチャ集合のうち、現在ピクチャのPOCよりPOCが小さなピクチャに対して、POC順で、現在ピクチャから近いピクチャに低い参照ピクチャインデクスが付与され、次に(ii)現在ピクチャ/スライスに対する参照ピクチャ集合のうち、現在ピクチャのPOCよりPOCが大きなピクチャに対して、POC順で、現在ピクチャから近いピクチャに低い参照ピクチャインデクスが付与される。
参照ピクチャリストL1を作成する場合は、受信した参照ピクチャ集合のうち、現在ピクチャのPOCよりPOCが小さなピクチャ(POC順で、現在ピクチャ以前のピクチャあるいは相対POCの符号が負の値を有するピクチャ)と、現在ピクチャのPOCよりPOCが大きなピクチャ(POC順で、現在ピクチャ以後のピクチャ又は相対POCの符号が正の値を有するピクチャ)とのうち、現在ピクチャのPOCよりPOCが大きなピクチャから参照ピクチャインデクスを割り当てて参照ピクチャリストが作成される。
例えば、参照ピクチャリストを作成するすべての参照ピクチャが割り当てられるまで、(i)現在ピクチャ/スライスに対する参照ピクチャ集合のうち、現在ピクチャのPOCよりPOCが大きなピクチャに対して、POC順で、現在ピクチャから近いピクチャに低い参照ピクチャインデクスが付与され、次に(ii)現在ピクチャ/スライスに対する参照ピクチャ集合のうち、現在ピクチャのPOCよりPOCが小さなピクチャに対して、POC順で、現在ピクチャから近いピクチャに低い参照ピクチャインデクスが付与される。
ここでは、短期参照ピクチャの場合を例に挙げて説明したが、長期参照ピクチャを含む参照ピクチャリストの場合は、前記L0とL1に対して(i)及び(ii)の過程を経た後、参照ピクチャ集合を介して長期参照ピクチャとして転送されたピクチャを追加できる。
以下、本明細書では、短期参照ピクチャの参照ピクチャ集合を作成し、参照ピクチャリストを作成する方法を説明し、以下、参照ピクチャとは、短期参照ピクチャを意味する。
このとき、通知された参照ピクチャ集合のビット数を減らし、復号器で参照ピクチャリストを作成する過程の複雑度を減少させるために、参照ピクチャ集合(参照ピクチャのリスト)内の参照ピクチャ(参照ピクチャの情報、例えばPOC値)が整列して転送されるようにすることができる。
参照ピクチャ集合内の参照ピクチャは、(1)参照ピクチャ集合の先頭部分に現在ピクチャのPOCより小さなPOCの参照ピクチャがPOCの降順に整列させ、次に(2)現在ピクチャのPOCより大きなPOC参照ピクチャがPOCの昇順に整列させられて通知される。
例えば、参照ピクチャ集合内では、現在ピクチャのPOCよりPOCが小さな参照ピクチャ(ピクチャの情報)が配置された後に、現在ピクチャのPOCよりPOCが大きな参照ピクチャ(ピクチャの情報)が配置される。このとき、配置される参照ピクチャの情報は、参照ピクチャのPOC、参照ピクチャの相対POC又は参照ピクチャの相対POCの大きさ及び符号であってよい。
配置される情報が参照ピクチャのPOCである場合、参照ピクチャ集合では、現在ピクチャのPOCよりPOCが小さな参照ピクチャのPOCが現在ピクチャのPOCに近い順に配置された後、現在ピクチャのPOCよりPOCが大きな参照ピクチャのPOCが現在ピクチャのPOCに近い順に配置される。
配置される情報が参照ピクチャの相対POCであるとき、現在ピクチャのPOCよりPOCが小さな参照ピクチャに対する相対POCがまず配置され、現在ピクチャのPOCよりPOCが大きな参照ピクチャに対する相対POCが続いて配置される。例えば、参照ピクチャ集合内で現在ピクチャのPOCよりPOCが小さな参照ピクチャに対する相対POCは、参照ピクチャのPOC順(降順)に配置され、次に現在ピクチャのPOCよりPOCが大きな参照ピクチャに対する相対POCが参照ピクチャのPOC順(昇順)に配置される。ここで、参照ピクチャに対する相対POCは、現在ピクチャのPOCと参照ピクチャのPOCとの間の差値である。
参照ピクチャ集合内において相対POCは、相対POCの大きさ(絶対値)及び相対POCの符号で表すことができる。
参照ピクチャの相対POCの符号は、POCの順序において参照ピクチャが現在ピクチャの以前なのか、以後なのかを表す。したがって、相対POCの符号(+なのか、-なのか)を具体的に指示する情報を転送する代わりに、POC順において現在ピクチャ以前の参照ピクチャに対する相対POCの大きさをまず転送し、次に現在ピクチャ以後の参照ピクチャに対する相対POCの大きさを転送できる。参照ピクチャ集合を受信する復号装置は、まず受信される相対POCの大きさがPOCの順序上現在ピクチャ以前の参照ピクチャに対するものであり、後ほど受信される相対POCの大きさがPOC順で、現在ピクチャ以後の参照ピクチャに対するものであると判断できる。このとき、POC順において現在ピクチャ以前の参照ピクチャの個数と、現在ピクチャ以後の参照ピクチャの個数とを表す情報が共に転送することができる。
相対POCの大きさを転送する場合にも、参照ピクチャ集合内で現在ピクチャのPOCよりPOCが小さな参照ピクチャに対する相対POCの大きさは、参照ピクチャのPOCの順(降順)に配置され、次に現在ピクチャのPOCよりPOCが大きな参照ピクチャに対する相対POCの大きさが参照ピクチャのPOCの順(昇順)に配置される。
表1は、符号化装置において相対POCの大きさ及び符号を決定する方法の一例を表したものである。
符号化装置は、表1の方法を利用して、参照ピクチャ集合を介して通知する参照ピクチャの相対POCの大きさ及び符号を決定できる。
sign_ref_pic[i]は、参照ピクチャ集合内の第i番目の参照ピクチャに対する相対POCの符号を特定する。第i番目の参照ピクチャのPOC(ref_pic[i])が現在ピクチャのPOC(currentPOC)より大きな場合、第i番目の参照ピクチャに対する相対POCの符号sign_ref_pic[i]の値は、‘+’を指示する。第i番目の参照ピクチャのPOC(ref_pic[i])が現在ピクチャのPOC(currentPOC)より大きくない場合、第i番目の参照ピクチャに対する相対POCの符号sign_ref_pic[i]の値は、‘-’を指示する。
abs_ref_pic[i]は、参照ピクチャ集合内の第i番目の参照ピクチャに対する相対POCの大きさを特定する。第i番目の参照ピクチャの相対POC符号が第i-1番目の参照ピクチャの相対POCの符号と同一であるとき、第i番目の参照ピクチャのPOCと基準値(refValue)との間の差と第i-1番目の参照ピクチャのPOCと基準値(refValue)との間の差の差値が第i番目の参照ピクチャの相対POCの大きさとなる。すなわち、第i番目の参照ピクチャの相対POC符号が第i-1番目の参照ピクチャの相対POCの符号と同一であるとき、第i番目の参照ピクチャの相対POCの大きさは、参照ピクチャ集合内で隣接する参照ピクチャ間のPOC差(第i番目の参照ピクチャのPOCと第i-1番目の参照ピクチャのPOCとの間の差)となる。
基準値(refValue)は、符号化装置から転送されるか、又は予め設定された基準POC値であって、参照ピクチャ集合内の第1番目の相対POCを算出する基準POC値になる。例えば基準値(refValue)は、現在ピクチャのPOC値であってよい。
第i番目の参照ピクチャの相対POC符号が第i-1番目の参照ピクチャの相対POCの符号と同一でなくてもよい。この場合は、参照ピクチャ集合において第i番目の参照ピクチャが第1番目のピクチャの場合であるか、又は参照ピクチャ集合において第i-1番目の参照ピクチャは、POC順で、現在ピクチャ以前のピクチャであり、第i番目の参照ピクチャは、POC順で、現在ピクチャ以後のピクチャの場合となる。したがって、第i番目の参照ピクチャの相対POC符号が第i-1番目の参照ピクチャの相対POCの符号と同一でない場合、第i番目の参照ピクチャの相対POCの大きさは、第i番目の参照ピクチャのPOCと基準値(refValue)との間の差となる。次に、第i+1番目の参照ピクチャの場合は、再度第i番目の参照ピクチャと相対POCの符号とが同一になるため、第i+1番目の参照ピクチャの相対POCの大きさは、再度第i+1番目の参照ピクチャのPOCと第i番目の参照ピクチャのPOCとの間の差となる。
符号化装置は、参照ピクチャ集合として、上述したように導出した参照ピクチャの相対POCの大きさ及び符号を転送できる。また、符号化装置は、参照ピクチャの相対POCの大きさを転送する際、符号を転送するPOC順で、現在ピクチャ以前の参照ピクチャに対する相対POCの大きさをまず転送し、現在ピクチャ以後の参照ピクチャに対する相対POCの大きさを続いて転送することもできる。この場合に符号化装置は、相対POCの符号が‘-’である参照ピクチャ(POC順で、現在ピクチャ以前のピクチャ)の個数及び相対POCの符号が‘+’である参照ピクチャ(POC順で、現在ピクチャ以後のピクチャ)の個数を指示する情報を転送できる。
表2は、符号化装置において相対POCの大きさ及び符号を決定する方法の他の例を表したものである。
表2では、基準値(refValue)が現在ピクチャのPOC値である場合を例として説明する。
表1と同様に、表2において第i番目の参照ピクチャのPOC(ref_pic[i])が現在ピクチャのPOC(currentPOC)より大きな場合、第i番目の参照ピクチャに対する相対POCの符号sign_ref_pic[i]の値は、‘+’を指示する。第i番目の参照ピクチャのPOC(ref_pic[i])が現在ピクチャのPOC(currentPOC)より大きくない場合、第i番目の参照ピクチャに対する相対POCの符号sign_ref_pic[i]の値は、‘-’を指示する。
第i番目の参照ピクチャの相対POC符号が第i-1番目の参照ピクチャの相対POCの符号と同一であるとき、第i番目の参照ピクチャのPOCと現在ピクチャのPOCとの間の差と、第i-1番目の参照ピクチャのPOCと現在ピクチャのPOCとの間の差との間の差が第1番目の参照ピクチャの相対POCの大きさとなる。すなわち、第i番目の参照ピクチャの相対POC符号が第i-1番目の参照ピクチャの相対POCの符号と同一であるとき、第i番目の参照ピクチャの相対POCの大きさは、参照ピクチャ集合内で隣接する参照ピクチャ間のPOC差(第i番目の参照ピクチャのPOCと第i-1番目の参照ピクチャのPOCとの間の差)となる。
第i番目の参照ピクチャの相対POC符号が第i-1番目の参照ピクチャの相対POCの符号と同一でなくてもよい。この場合は、参照ピクチャ集合において第i番目の参照ピクチャが第1番目のピクチャの場合であるか、又は参照ピクチャ集合において第i-1番目の参照ピクチャは、POC順で、現在ピクチャ以前のピクチャであり、第i番目の参照ピクチャは、POC順で、現在ピクチャ以後のピクチャの場合となる。したがって、第i番目の参照ピクチャの相対POC符号が第i-1番目の参照ピクチャの相対POCの符号と同一でない場合、第i番目の参照ピクチャの相対POCの大きさは、第i番目の参照ピクチャのPOCと現在ピクチャのPOCとの間の差となる。次に、第i+1番目の参照ピクチャの場合は、再度第i番目の参照ピクチャの相対POCの符号と同一になるため、第i+1番目の参照ピクチャの相対POCの大きさは、再度第i+1番目の参照ピクチャのPOCと第i番目の参照ピクチャのPOCとの間の差となる。
符号化装置は、参照ピクチャ集合として、上述したように導出した参照ピクチャの相対POCの大きさ及び符号を転送できる。また、符号化装置は、参照ピクチャの相対POCの大きさを転送する際、符号を転送するPOC順で、現在ピクチャ以前の参照ピクチャに対する相対POCの大きさをまず転送し、現在ピクチャ以後の参照ピクチャに対する相対POCの大きさを続いて転送することもできる。この場合、符号化装置は、相対POCの符号が‘-’の参照ピクチャ(POC順で、現在ピクチャ以前のピクチャ)の個数及び相対POCの符号が‘+’の参照ピクチャ(POC順で、現在ピクチャ以後のピクチャ)の個数を指示する情報を転送できる。
復号装置は、符号化装置から参照ピクチャ集合に関する情報を受信し、これに基づいて参照ピクチャ集合を構成又は復元できる。
表3は、参照ピクチャ集合を受信する復号装置において参照ピクチャの情報(POC)を復元(recover)する方法の一例を表したものである。
復号装置は、符号化装置から受信した参照ピクチャ情報(相対POCの大きさ又は相対POCの大きさ及び符号)に基づいて、表3の方法によって現在ブロック(ピクチャ)の予測に利用できるPOCを復元できる。
参照ピクチャ集合内の第i番目の参照ピクチャのPOC(ref_pic[i])は、第i番目の参照ピクチャの相対POCの大きさ(abs_ref_pic[i])及び符号(sign_ref_pic[i])に基づいて復元できる。
復号装置は、表3のように、相対POCの符号を明示的に符号化装置から受信して、参照ピクチャのPOCを復元できる。
参照ピクチャ集合内の第i番目の参照ピクチャの符号と第i-1番目の参照ピクチャの符号とが同一であり、第i番目の参照ピクチャの符号が‘-’であるとき、第i番目の参照ピクチャのPOCは、基準値(refValue)から第1番目の参照ピクチャ(第0番目の参照ピクチャ)から第i番目の参照ピクチャまでの相対POC和を減算した値になる。参照ピクチャ集合内の第i番目の参照ピクチャの符号と第i-1番目の参照ピクチャの符号とが同一であり、第i番目の参照ピクチャの符号が‘+’であるとき、第i番目の参照ピクチャのPOCは、基準値(refValue)に第1番目の参照ピクチャ(第0番目の参照ピクチャ)から第i番目の参照ピクチャまでの相対POCを加算した値になる。
このとき、基準値(refValue)は、符号化装置から転送されるか、又は予め設定された基準POC値であって、参照ピクチャ集合内の第1番目の相対POCを算出する基準POC値になる。例えば基準値(refValue)は、現在ピクチャのPOC値であってよい。
参照ピクチャ集合内の第i番目の参照ピクチャの符号と、第i-1番目の参照ピクチャの符号とが異なるとき、第i番目の参照ピクチャ集合において第i番目の参照ピクチャが第1番目のピクチャの場合であるか、又は参照ピクチャ集合において第i-1番目の参照ピクチャは、POC順で、現在ピクチャ以前のピクチャであり、第i番目の参照ピクチャは、POC順で、現在ピクチャ以後のピクチャとなる。
参照ピクチャ集合内の第i番目の参照ピクチャの符号と、第i-1番目の参照ピクチャの符号とが異なり、第i番目の参照ピクチャの符号が‘-’であるとき、第i番目の参照ピクチャのPOCは、基準値(refValue)から第i番目の参照ピクチャの相対POCを減算した値になる。参照ピクチャ集合内の第i番目の参照ピクチャの符号と、第i-1番目の参照ピクチャの符号とが異なり、第i番目の参照ピクチャの符号が‘+’であるとき、第i番目の参照ピクチャのPOCは、基準値(refValue)に第i番目の参照ピクチャの相対POCを加算した値になる。
また、表2の例とは異なり、明示的に参照ピクチャの相対POCに対した符号を指示する情報は転送されなくてもよい。この場合、復号装置は、参照ピクチャ集合内で先頭部分に配置される相対POCの符号は、‘-’(minus)と判断し、参照ピクチャ集合内で後方に配置される相対POCの符号は、‘+’(plus)と判断できる。このとき、符号化装置から符号が‘-’の相対POCの個数及び符号の個数が‘+’の相対POCの個数を指示する情報を転送することもできる。復号装置は、参照ピクチャ集合の先頭部分から、符号化装置が指示した符号が‘-’の相対POCの個数分だけの相対POCは符号が‘-’であると判断し、残りの相対POCは符号が‘+’であると判断して、上述したように、第i番目の参照信号のPOC(ref_pic[i])を復元できる。
言い換えれば、参照ピクチャ集合内の参照ピクチャのうち、第1番目の参照ピクチャに対する相対POCは、基準値(refValue)とのPOC差である。参照ピクチャ集合内の参照ピクチャのうち、第1番目の参照ピクチャを除いた現在ピクチャ以前のピクチャに対する相対POCは、直前の参照ピクチャとのPOC差である。参照ピクチャ集合内の参照ピクチャのうち、現在ピクチャ以後の第1番目のピクチャに対する相対POCは、基準値とのPOC差である。参照ピクチャ集合内の残りの参照ピクチャ(参照ピクチャ集合内で現在ピクチャ以後の第2番目の参照ピクチャから最後の参照ピクチャまで)に対する相対POCは、直前の参照ピクチャとのPOC差である。ここで、現在ピクチャの以前及び以後は、POC順をもって判断する。また、直前の参照ピクチャとは、参照ピクチャ集合内の整列順において直前のピクチャを意味する。
表4は、参照ピクチャ集合を受信する復号装置において、参照ピクチャの情報(POC)を復元する方法の他の例を表したものである。
表4の方法は、本発明の特徴を明確に説明するために、参照ピクチャ集合に含まれる参照ピクチャの個数が2であり、表3において第1番目の相対POC値を算出するための基準値(refValue)が現在ピクチャのPOCである場合を例として説明する。
復号装置は、相対POCの符号を明示的に符号化装置から受信して、参照ピクチャのPOCを復元できる。
参照ピクチャ集合内の第i番目の参照ピクチャの符号と第i-1番目の参照ピクチャの符号とが同一であり、第i番目の参照ピクチャの符号が‘-’であるとき、第i番目の参照ピクチャのPOCは、現在ピクチャのPOCから第i番目の参照ピクチャの相対POCと、第i-1番目の参照ピクチャの相対POCとを減算した値になる。参照ピクチャ集合内の第i番目の参照ピクチャの符号と、第i-1番目の参照ピクチャの符号とが同一であり、第i番目の参照ピクチャの符号が‘+’であるとき、第i番目の参照ピクチャのPOCは、現在ピクチャのPOCに第i番目の参照ピクチャの相対POCと、第i-1番目の参照ピクチャの相対POCとを加算した値になる。
参照ピクチャ集合内の第i番目の参照ピクチャの符号と、第i-1番目の参照ピクチャの符号とが異なるとき、第i番目の参照ピクチャ集合において第i番目の参照ピクチャが第1番目のピクチャの場合であるか、又は参照ピクチャ集合において第i-1番目の参照ピクチャは、POC順で、現在ピクチャ以前のピクチャであり、第i番目の参照ピクチャは、POC順で、現在ピクチャ以後のピクチャとなる。この場合、第i番目の参照ピクチャの相対POCは、表2から分かるように、現在ピクチャのPOCに基づいて導出される。
したがって、参照ピクチャ集合内の第i番目の参照ピクチャの符号と、第i-1番目の参照ピクチャの符号とが異なり、第i番目の参照ピクチャの符号が‘-’であるとき、第i番目の参照ピクチャのPOCは、現在ピクチャのPOCから第i番目の参照ピクチャの相対POCを減算した値になる。参照ピクチャ集合内の第i番目の参照ピクチャの符号と、第i-1番目の参照ピクチャの符号とが異なり、第i番目の参照ピクチャの符号が‘+’であるとき、第i番目の参照ピクチャのPOCは、現在ピクチャのPOCに第i番目の参照ピクチャの相対POCを加算した値になる。
また、表3において説明したように、明示的に参照ピクチャの相対POCに対した符号を指示する情報は転送されなくてもよい。この場合、復号装置は、参照ピクチャ集合内で先頭部分に配置される相対POCの符号は、‘-’(minus)と判断し、参照ピクチャ集合内で後方に配置される相対POCの符号は、‘+’(plus)と判断できる。このとき、符号化装置から符号が‘-’である相対POCの個数と、符号の個数が‘+’である相対POCの個数とを指示する情報を転送することもできる。復号装置は、参照ピクチャ集合の先頭部分から、符号化装置が指示した符号が‘-’である相対POCの個数分だけの相対POCは符号が‘-’と判断し、残りの相対POCは、符号が‘+’と判断して、上述したように、第i番目の参照信号のPOC(ref_pic[i])を復元できる。
言い換えれば、参照ピクチャ集合内の参照ピクチャのうち、第1番目の参照ピクチャに対する相対POCは、現在ピクチャとのPOC差である。参照ピクチャ集合内の参照ピクチャのうち、第1番目の参照ピクチャを除いた現在ピクチャ以前のピクチャに対する相対POCは、直前の参照ピクチャとのPOC差である。参照ピクチャ集合内の参照ピクチャのうち、現在ピクチャ以後、第1番目のピクチャに対する相対POCは、現在ピクチャとのPOC差である。参照ピクチャ集合内の残りの参照ピクチャ(参照ピクチャ集合内において現在ピクチャ以後の第2番目の参照ピクチャから最後の参照ピクチャまで)に対した相対POCは、直前の参照ピクチャとのPOC差である。ここで、現在ピクチャの以前及び以後は、POC順で判断する。ここで、直前の参照ピクチャとは、参照ピクチャ集合内の整列順において直前のピクチャを意味する。
以下、基準値(refValue)が現在ピクチャのPOCである場合について、本発明が採用される例を具体的に説明する。
図4は、符号化装置から復号装置に通知される参照ピクチャ集合の一例を概略的に説明する図である。図4の例は、単方向予測を行う9個のPスライス(Pピクチャ)P0~P9が相互参照する場合を示す。
表5は、図4の例に対して通知される参照ピクチャ集合が参照ピクチャのPOCから構成される例を表したものである。
図4及び表5に示すように、現在ピクチャに対する参照ピクチャ集合は、現在ピクチャが参照できる参照ピクチャのPOCを含む。参照ピクチャ集合において参照ピクチャは、POC順で、現在ピクチャに近い参照ピクチャに低いインデクスが付与される。
例えば、図4及び表5の例において現在ピクチャがP6(POC=26)の場合、現在ピクチャが参照できる参照ピクチャは、P5、P4、P0である。したがって、POCが26である現在ピクチャP6に対した参照ピクチャ集合は、P5、P4、P0のPOCから構成され、POC順で、現在ピクチャに近い参照ピクチャに低いインデクスが割り当てられる。
図4及び表5の例では、POC順で、現在ピクチャ以前の参照ピクチャの場合には、参照ピクチャ集合内で降順に整列させられるが、参照ピクチャ集合は、参照ピクチャのPOCをそのまま通知する。
これとは異なり、先に説明したように、参照ピクチャ集合が参照ピクチャの相対POCを通知することができる。
表6は、図4の場合に通知される参照ピクチャ集合の一例を表したものであって、参照ピクチャ集合が参照ピクチャの相対POCから構成される例を説明するためのものである。
表6では、図4に対して現在ピクチャの参照ピクチャ集合を参照ピクチャのPOC、参照ピクチャの相対POCの大きさ、参照ピクチャの相対POC符号で表している。
表5では、参照ピクチャ集合において参照ピクチャのPOCをそのまま転送する場合を説明したが、表6の例では、参照ピクチャ集合において参照ピクチャの相対POCを転送する場合を説明する。
POC順で、現在ピクチャ以前の参照ピクチャ(現在ピクチャのPOCよりPOCが小さな参照ピクチャ)の相対POCは、参照ピクチャ集合内で直前の参照ピクチャとのPOC差である。また、参照ピクチャ集合に含まれて転送される相対POC符号は、該当参照ピクチャがPOC順で、現在ピクチャ以前のピクチャなのか、以後のピクチャなのかを表す。
例えば、図4及び表6の例において、現在ピクチャがP5の場合を考慮すれば、現在ピクチャが参照できるピクチャは、P4、P3、P0で、POCがそれぞれ24、23、20である。
P5に対した参照ピクチャ集合が相対POCを転送する場合、参照ピクチャ集合は、P5に対した参照ピクチャの相対POCの大きさ及び符号を所定の順に整列して転送する。上述したように、Pスライス間の参照関係を表す図4の例において、参照ピクチャは、POC順で、現在ピクチャ以前のピクチャであり、参照ピクチャ集合において参照ピクチャは、降順に整列させられる。
したがって、P5に対した参照ピクチャ集合において相対POCの大きさは、P4、P3、P0の順に整列させられる。表6に表したように、P5に対した参照ピクチャ集合に転送されるP4の相対POCの大きさは1であり、符号は‘-’であり、P3の相対POCの大きさは1であり、符号は‘-’であり、P0の相対POCの大きさは3であり、符号は‘-’である。
このとき、相対POCの符号なしで、POC順で、現在ピクチャ以前の参照ピクチャ(参照ピクチャの相対POCの大きさ)が参照ピクチャ集合の前の部分に整列させ、現在ピクチャ以後の参照ピクチャ(参照ピクチャの相対POCの大きさ)が参照ピクチャ集合の後の部分に整列させた参照ピクチャ集合を転送することもできる。この場合、POC順で、現在ピクチャ以前の参照ピクチャ(相対POCの符号が‘-’の参照ピクチャ)の個数と、POC順で、現在ピクチャ以後の参照ピクチャ(相対POCの符号が‘+’の参照ピクチャ)の個数とを指示する情報を共に転送することもできる。
図5は、単方向予測を行うPピクチャ間の参照関係を表す図4とは異なり、両方向予測を行うBピクチャ間の参照関係の一例を示す図である。図5では、9個のBピクチャB0~B8の参照関係を概略的に示したものである。
表7は、図5の場合に通知される参照ピクチャ集合の一例を表したものであって、参照ピクチャ集合が参照ピクチャの相対POCから構成される例を説明するためのものである。
表7及び図5の例においても、参照ピクチャ集合は、参照ピクチャのPOCをそのまま転送する代わりに、参照ピクチャの相対POCを転送できる。
POC順で、現在ピクチャ以前の参照ピクチャ(現在ピクチャのPOCよりPOCが小さな参照ピクチャ)の相対POCは、参照ピクチャ集合内で直前の参照ピクチャとのPOC差である。POC順で、現在ピクチャ以後の参照ピクチャ(現在ピクチャのPOCよりPOCが大きな参照ピクチャ)の相対POCも、参照ピクチャ集合内で直前の参照ピクチャとのPOC差である。ただし、(1)参照ピクチャ集合において第1番目の参照ピクチャ及び(2)参照ピクチャ集合において以前の参照ピクチャと相対POCの符号が異なる参照ピクチャの場合、相対POCの大きさは、現在ピクチャとのPOC差となる。言い替えれば、参照ピクチャ集合においてPOC順で、現在ピクチャ以前の参照ピクチャのうち、現在ピクチャに最も近い参照ピクチャと、現在ピクチャ以後の参照ピクチャとのうち、現在ピクチャに最も近い参照ピクチャの相対POCは、現在ピクチャとのPOC差となる。
表7を参照して、現在ピクチャがB5の場合を例に挙げて説明すれば、参照ピクチャ集合は、B4、B2、B6、B8から構成される。参照ピクチャ集合を相対POCから構成する場合、参照ピクチャ集合において最も低いインデクスが割り当てられる相対POCの大きさは、B4に対したものであり、現在ピクチャのPOCとB4のPOCとの間の差値である1であり、符号は、‘-’である。次に、第2番目のインデクスが割り当てられる相対POCの大きさは、B2に対したものであり、B4のPOCとB2のPOCとの間の差値である2であり、符号は、‘-‘である。第3番目のインデクスが割り当てられる相対POCの大きさは、B6に対したものである。B6に対した相対POCは、以前の参照ピクチャであるB2に対した相対POCと符号が異なるため、B6に対した相対POCの大きさは、現在ピクチャとのPOC差である1であり、符号は、‘+’である。最後のインデクスが割り当てられる相対POCの大きさは、B8に対したもので、B6のPOCとB8との差値である2であり、符号は、‘+’である。
上述したように、参照ピクチャ集合は、現在ピクチャに対する参照ピクチャの相対POCの大きさ及び符号をすべて転送する代わりに、現在ピクチャに対する参照ピクチャの相対POCの大きさだけを転送する際、‘-’符号を有する相対POCの大きさを‘+’符号を有する相対POCの大きさより先に転送することによって、符号を明示的に転送しなくても該当相対POCの符号が導出されるようにすることができる。この場合、‘-’符号を有する相対POCの個数と‘+’符号を有する相対POCの個数とを指示する情報が共に転送することができる。
例えば、表7において現在ピクチャがB5の場合を再度考慮すると、符号化装置は、B5に対した参照ピクチャ集合を( 1 2 1 2 )のように参照ピクチャの相対的PC大きさだけから構成して転送できる。表7のように、‘-’符号を有する相対POCの大きさが参照ピクチャ集合の前部分に配置される。整列順は、‘-’符号を有する相対POC(POC順で、現在ピクチャ以前の参照ピクチャに対する相対POC)の場合、先に説明したように、降順であり、‘+’符号を有する相対POC(POC順で、現在ピクチャ以後の参照ピクチャに対する相対POC)等の場合もまた、先に説明したように昇順を維持する。このとき、参照ピクチャ集合と共に‘-’を有する相対POCの個数と、‘+’符号を有する相対POCの個数とを指示する情報を転送することができる。例えば、B5に対した参照ピクチャ集合において‘-’符号を有する参照ピクチャ(相対POC)の個数が2で、‘+’符号を有する参照ピクチャ(相対POC)個数が2という指示を受信すると、復号装置は、参照ピクチャ集合のうち、前の2個の相対POCに対した符号が‘-’であり、後の2個の相対POCに対した符号が‘+’であるため、参照ピクチャ集合のうち、前の2個の相対POCの大きさは、現在ピクチャよりPOCが小さな参照ピクチャに対する相対POCの大きさであり、参照ピクチャ集合のうち、後の2個の相対POCの大きさは、現在ピクチャよりPOCが大きい参照ピクチャに対する相対POCの大きさと判断できる。
図6は、Bピクチャ及びPピクチャ間の参照関係の一例を概略的に示した図である。
図6では、単方向予測を行う7個のPピクチャP0~P6と両方向予測を行う2個のBピクチャB0、B1との間の参照関係を示している。
表8は、図6の場合に通知される参照ピクチャ集合の一例を表したものであって、参照ピクチャ集合が参照ピクチャの相対POCから構成される例を説明するためのものである。
表8と図6の例は、PピクチャとBピクチャとが混在する場合に対したものであるが、相対POCの大きさと符号を導出する方法、参照ピクチャ集合内で相対POCの整列方法などは、上述したとおりである。
例えば、現在ピクチャがB1の場合、B1に対した参照ピクチャ集合は、P3、P0、P6の相対POCから構成することができる。参照ピクチャ集合は、P3、P0、P6に対する相対POCの大きさ(2 4 2)と各々の符号から構成されて、復号装置に転送することができる。
この場合にも、相対POCの符号を指示する情報を転送せずに、整列順に基づいて‘-’符号を有する相対POCの個数と、‘+’符号を有する相対POCの個数とを指示する情報を相対POCの大きさを含む参照ピクチャ集合と共に転送することもできる。例えば、現在ピクチャがB1の場合、相対POCの大きさを含む参照ピクチャ集合(2 4 2)と‘-’符号を有する相対POCの個数が2であり、‘+’符号を有する相対POCの個数が1であることを指示する情報が転送することができる。
図7は、本発明によって符号化装置が行う符号化方法を概略的に説明するフローチャートである。図7の符号化方法を行う符号化装置は、図1において説明した符号化装置に対応する。
図7に示すように、符号化装置は、現在ブロックに対する予測を行う(S710)。符号化装置は、現在ブロックに対してインタ予測又はイントラ予測を行うことができる。インタ予測を行う場合には、上述したように構成される参照ピクチャリストを利用して現在ブロックに対する参照ピクチャを選択/指定できる。
符号化装置は、現在ブロックに対する予測結果を変換/量子化する(S720)。符号化装置は、予測結果と原ブロックとの差に該当する残差ブロックを変換/量子化できる。また、イントラ予測が採用された場合には、採用されたイントラ予測モードに関する情報を変換/量子化することができ、インタ予測が採用された場合には、動き情報(動きベクトル/参照ピクチャに関する情報)を変換/量子化することができる。
符号化装置は、変換/量子化された情報をエントロピ符号化する(S730)。エントロピ符号化の方法としてCABACを利用することができる。
符号化装置は、エントロピ符号化された情報を通知する(S740)。このとき、通知される情報は、現在ピクチャ(現在ブロック)に対した参照ピクチャリストを作成するための参照ピクチャ集合を含む。参照ピクチャ集合は、スライス別に構成することができ、スライスにヘッダに含まれて転送することができる。
参照ピクチャ集合は、現在ブロックに対する参照ピクチャのPOCから構成することができる。また、参照ピクチャ集合は、参照ピクチャの相対POCから構成して転送オーバヘッドを減らすこともできる。
参照ピクチャ集合が参照ピクチャの相対POCから構成される場合には、参照ピクチャ集合を介して現在ピクチャの参照ピクチャとして利用することができるピクチャに対する相対POCの大きさ及び符号を転送してもよいし、相対POCの大きさ及び‘-’符号を有する相対POC及び‘+’符号を有する相対POCの個数を転送してもよい。相対POCが転送される場合、‘-’符号を有する相対POCがまず転送され、‘+’符号を有する相対POCは、その次に転送される。‘-’符号を有する相対POCは、参照ピクチャのPOCに応じて降順に整列させ、‘+’符号を有する相対POCは、参照ピクチャのPOCに応じて昇順に整列させることができる。
図7では、参照ピクチャ集合に関する内容を考慮して、発明が容易に理解できるように符号化装置の動作を概略的に説明したが、これは、説明の便宜のためのものであって、本発明において符号化装置の動作は、図1において説明した諸動作を含む。
図8は、本発明によって復号装置が行う復号方法を概略的に説明するフローチャートである。
図8に示すように、復号装置は、符号化装置からビットストリームを受信し、エントロピ復号を行う(S810)。符号化装置から受信したビットストリームは、参照ピクチャ集合を含む。参照ピクチャ集合は、スライドヘッダに含めて受信することができる。
参照ピクチャ集合は、現在ブロックに対する参照ピクチャのPOCから構成してもよく、参照ピクチャの相対POCから構成してもよい。
復号装置は、参照ピクチャ集合を介して現在ピクチャの参照ピクチャとして利用できるピクチャを指示する情報を受信することができる。例えば、参照ピクチャ集合を介して現在ピクチャの参照ピクチャとして利用できるピクチャのPOCを受信することができる。参照ピクチャ集合が(1)参照ピクチャに対する相対POCの大きさ及び符号又は(2)参照ピクチャに対する相対POCの大きさと、‘-’及び‘+’符号を有する相対POCの個数を含む場合には、受信した情報に基づいて表4の方法などを利用して該当参照ピクチャのPOCを導出できる。
参照ピクチャ集合を介して相対POCを受信する場合、‘-’符号を有する相対POCがまず受信され、‘+’符号を有する相対POCは、その次に受信される。‘-’符号を有する相対POCは、参照ピクチャのPOCに応じて降順に整列させ、‘+’符号を有する相対POCは、参照ピクチャのPOCに応じて昇順に整列させることができる。
復号装置は、エントロピ復号した情報に基づいて現在ブロックに対する予測を行う(S920)。現在ブロックに対する予測方法は、符号化装置から転送することができる。現在ブロックに対する予測方法がインタ予測の場合、復号装置は、受信した参照ピクチャ集合に基づいて構成した参照ピクチャリストを利用して予測を行うことができる。
参照ピクチャ集合から参照ピクチャリストを作成する方法は、上述したとおりである。構成された参照ピクチャリストは、復号装置のメモリに記憶することができる。
復号装置は、映像を復元する(S930)。現在ブロックに対する予測に基づいて現在ブロックを復元し、復元されたブロックを介して映像を復元できる。スキップモードが採用される場合、残差が転送されないため、予測ブロックを復元ブロックとすることができる。マージモードが適用される場合又はMVPを利用する場合には、予測ブロックと残差ブロックとを合せて現在ブロックを復元できる。
本明細書では、「参照ピクチャ集合に含まれたピクチャ」、「参照ピクチャ集合の第x番目のピクチャ」という表現を使用したが、これは、説明の便宜のためであることに留意しなければならない。参照ピクチャ集合に含まれたピクチャは、参照ピクチャ集合に対応するPOC情報が含まれているピクチャを意味し、参照ピクチャ集合の第x番目のピクチャは、参照ピクチャ集合内で対応するPOC情報が第x番目に整列させられるピクチャを意味する。
一方、図4ないし図6に示すピクチャ間の参照関係は、時間的レベル(temporal level)が採用されない場合を例として説明したが、これは、発明の理解のためであり、本発明は、これに限定されない。本発明は、時間的レベルが考慮されて、自分より下位レベルのピクチャだけを参照する場合に対しても同様に適用することができ、この場合に表5ないし表8の参照関係は、これを反映して変更することができる。
上述した例示的なシステムにおいて、本発明の方法は、一連のステップ又はブロックでフローチャートに基づいて説明されているが、本発明は、ステップの順序に限定されるものではなく、あるステップは、上述したことと異なるステップと異なる順序で又は同時に発生できる。また、上述した実施形態は、多様な様態の例示を含む。したがって、本発明は、以下の特許請求の範囲内に属するすべての他の交替、修正及び変更を含むと理解しなければならない。
以上、本発明に関する説明において、一つの構成要素が他の構成要素に「連結されて」いるか、「接続され」ていると言及されたときには、一つの他の構成要素が他の構成要素に直接的に連結されているか、又は接続されいる場合もあるが、二つの構成要素の間に他の構成要素が存在しうると理解しなければならない。これに対し、一つの構成要素が他の構成要素に「直接連結され」ているか「直接接続され」されていると言及されたときには、二つの構成要素の間に他の構成要素が存在しないと理解しなければならない。