JP2016066864A - 画像復号装置、画像符号化装置およびマージモードパラメータ導出装置 - Google Patents

画像復号装置、画像符号化装置およびマージモードパラメータ導出装置 Download PDF

Info

Publication number
JP2016066864A
JP2016066864A JP2014193780A JP2014193780A JP2016066864A JP 2016066864 A JP2016066864 A JP 2016066864A JP 2014193780 A JP2014193780 A JP 2014193780A JP 2014193780 A JP2014193780 A JP 2014193780A JP 2016066864 A JP2016066864 A JP 2016066864A
Authority
JP
Japan
Prior art keywords
merge candidate
merge
prediction
unit
candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014193780A
Other languages
English (en)
Inventor
知宏 猪飼
Tomohiro Igai
知宏 猪飼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2014193780A priority Critical patent/JP2016066864A/ja
Publication of JP2016066864A publication Critical patent/JP2016066864A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】非特許文献1のマージ候補リスト構築技術では、拡張マージ候補と基本マージ候補が複雑にインターリーブされているため、拡張マージリストの構築が複雑であるという課題がある。【解決手段】基本マージ候補として、空間マージ候補、時間マージ候補、結合マージ候補、ゼロマージ候補を導出し、拡張マージ候補として、少なくともインタービュー候補IvMC、変位マージ候補IvDC、インタービューシフトマージ候補IvMCShiftを導出するマージ候補導出部を有するマージモードパラメータ導出部において、第1グループの拡張マージ候補、第1グループの基本マージ候補、第2グループの拡張マージ候補、第2グループの基本マージ候補の順にマージ候補リストに格納することを特徴とするマージモードパラメータ導出装置。【選択図】図1

Description

本発明は、画像復号装置、画像符号化装置およびマージモードパラメータ導出装置に関する。
複数視点の画像符号化技術には、複数の視点の画像を符号化する際に画像間の視差を予測することによって情報量を低減する視差予測符号化や、その符号化方法に対応した復号方法が提案されている。視点画像間の視差を表すベクトルを変位ベクトルと呼ぶ。変位ベクトルは、水平方向の要素(x成分)と垂直方向の要素(y成分)を有する2次元のベクトルであり、1つの画像を分割した領域であるブロック毎に算出される。また、複数視点の画像を取得するには、それぞれの視点に配置されたカメラを用いることが一般的である。複数視点の符号化では、各視点画像は、複数のレイヤにおいてそれぞれ異なるレイヤとして符号化される。複数のレイヤから構成される動画像の符号化方法は、一般に、スケーラブル符号化又は階層符号化と呼ばれる。スケーラブル符号化では、レイヤ間で予測を行うことで、高い符号化効率を実現する。レイヤ間で予測を行わずに基準となるレイヤは、ベースレイヤ、それ以外のレイヤは拡張レイヤと呼ばれる。レイヤが視点画像から構成される場合のスケーラブル符号化を、ビュースケーラブル符号化と呼ぶ。このとき、ベースレイヤはベースビュー、拡張レイヤは非ベースビューとも呼ばれる。さらに、ビュースケーラブルに加え、レイヤがテクスチャレイヤ(画像レイヤ)とデプスレイヤ(距離画像レイヤ)から構成される場合のスケーラブル符号化は、3次元スケーラブル符号化と呼ばれる。
また、スケーラブル符号化には、ビュースケーラブル符号化の他、空間的スケーラブル符号化(ベースレイヤとして解像度の低いピクチャ、拡張レイヤが解像度の高いピクチャを処理)、SNRスケーラブル符号化(ベースレイヤとして画質の低いピクチャ、拡張レイヤとして解像度の高いピクチャを処理)等がある。スケーラブル符号化では、例えばベースレイヤのピクチャを、拡張レイヤのピクチャの符号化において、参照ピクチャとして用いることがある。
HEVCでは、マージモードと呼ばれる既に処理されたブロックの予測情報を再利用する手法が知られている。マージモードでは、マージ候補を要素として構築されるマージ候補リストからマージインデックス(merge_index)で指定される要素を予測パラメータとして選択することで、予測ユニットの予測パラメータが導出される。
非特許文献1では、3D符号化用に、マージ候補としてテクスチャマージ候補T、インタービューマージ候補IvMC、視点合成予測マージ候補VSP、変位マージ候補IvDCなどのマージ候補が拡張マージ候補として導入され、HEVCのメインファイルで用いられる基本のマージ候補(基本マージ候補)の空間マージ候補A1、B1、B0、A0、B2、時間マージ候補Col、結合マージ候補(結合双予測マージ候補、combined bi-predictive merging candidates)、ゼロマージ候補(ゼロ動きマージ候補、zero motion vector merging candidates)と共に、3D符号化用のマージ候補リスト(拡張マージ候補リスト)を構築する技術が知られている。
G.Tech, K.Wegner, Y.Chen, S.Yea, "3D-HEVC Draft Text 5", JCT3V-I1001_v3, JCT-3V 9th Meeting: Sapporo, JP, 3 - 9 July 2014(2014年8月13日公開)
非特許文献1のマージ候補リスト構築技術では、拡張マージ候補と基本マージ候補が複雑にインターリーブされ拡張マージリストの構築が複雑であるという課題がある。具体的には、インタービューマージ候補IvMCを含む拡張マージ候補(第1グループの拡張マージ候補)、A1を含む基本マージ候補(第1グループの基本マージ候補)、変位マージ候補IvDCを含む拡張マージ候補(第2グループの拡張マージ候補)、A0を含む基本マージ候補(第2グループの基本マージ候補)、インタービューシフトマージ候補IvMCShiftを含む拡張マージ候補(第3グループの拡張マージ候補)、時間マージ候補Colを含む基本マージ候補(第3グループの基本マージ候補)の順で構築される。
また、非特許文献1のマージ候補リスト構築技術では、拡張マージ候補(例えばIvMC)と、先頭以外の基本マージ候補(B1)間で、マージ候補の予測パラメータが同一である場合には、マージ候補リストに含めない、というプルーニング処理が行われる。しかしながら、この先頭以外の基本マージ候補と拡張マージ候補のプルーニングにより、拡張マージ候補リストに基本マージ候補が追加されないことが生じえる。この場合、拡張マージ候補リストに追加された基本マージ候補を利用して結合マージを導出することが困難であるという課題がある。
本発明の1つの形態は、基本マージ候補として、空間マージ候補、時間マージ候補、結合マージ候補、ゼロマージ候補を導出し、拡張マージ候補として、少なくともインタービューマージ候補IvMC、変位マージ候補IvDC、インタービューシフトマージ候補IvMCShiftを導出するマージ候補導出部を有するマージモードパラメータ導出部装置において、第1グループの拡張マージ候補、第1グループの基本マージ候補、第2グループの拡張マージ候補、第2グループの基本マージ候補の順にマージ候補リストに格納することを特徴とする。
本発明の1つの形態は、上記第1グループの拡張マージ候補は、テクスチャマージ候補、インタービューマージ候補を少なくとも含み、上記第2グループの拡張マージ候補は、少なくとも、変位マージ候補IvDC、インタービューシフトマージ候補IvMCShiftを含むことを特徴とする。
本発明の1つの形態は、上記第1グループの拡張マージ候補は、テクスチャマージ候補T、インタービューマージ候補IvMCであり、上記第2グループの拡張マージ候補は、変位マージ候補IvDC、VSPマージ候補VSP、シフトインタービュー候補IvMCShift、変位シフトマージ候補IvDCShiftであることを特徴とする。
本発明の1つの形態は、上記第1グループの拡張マージ候補は、テクスチャマージ候補T、デプスマージ候補D、インタービューマージ候補IvMCであり、上記第2グループの拡張マージ候補は、変位マージ候補IvDC、VSPマージ候補VSP、シフトインタービュー候補IvMCShift、変位シフトマージ候補IvDCShiftであることを特徴とする。
本発明の1つの形態は、上記第1グループの基本マージ候補は、A1候補、B1候補、B0候補であることを特徴とする。
本発明の1つの形態は、マージ候補リストに格納する順序が、テクスチャマージ候補、インタービューマージ候補IvMC、A1候補、B1候補、B0候補、変位マージ候補IvDC、VSPマージ候補VSP、シフトインタービュー候補IvMCShift、変位シフトマージ候補IvDCShiftの順であることを特徴とする。
本発明の1つの形態は、空間マージ候補を拡張マージ候補リストに格納する際に、先頭の空間マージ候補A1のみ拡張マージ候補とのプルーニングを行うことを特徴とする。
本発明の1つの形態は、拡張マージ候補を拡張マージ候補リストに格納する際に、拡張マージ候補間もしくは先頭の空間マージ候補であるA1との間のみでプルーニングを行うことを特徴とする。
本発明の1つの形態は、上記の特徴を備えるマージモードパラメータ導出部を備える画像復号装置。
本発明の1つの形態は、上記の特徴を備えるマージモードパラメータ導出部を備える画像符号化装置。
本発明によれば、拡張マージ候補リストextMergeCandListの構築が容易になるという効果を奏する。また、基本マージ候補リストbaseMergeCandListをスクラッチから構築することはなく、構築途中の拡張マージ候補リストextMergeCandListを利用して、拡張マージ候補リストextMergeCandListにも必要な結合マージ候補を導出することができるという効果を奏する。
本発明の実施形態のマージモードパラメータ導出装置に係る拡張マージ候補リストの構成処理を示すフローチャート。 本発明の実施形態に係る画像伝送システムの構成を示す概略図である。 本実施形態に係る符号化ストリームのデータの階層構造を示す図である。 分割モードのパターンを示す図であり、(a)〜(h)は、それぞれ、分割モードが、2N×2N、2N×N、2N×nU、2N×nD、N×2N、nL×2N、nR×2N、および、N×Nの場合のパーティション形状について示している。 参照ピクチャリストの一例を示す概念図である。 参照ピクチャの例を示す概念図である。 本実施形態に係る画像復号装置31の構成を示す概略図である。 本実施形態に係るインター予測パラメータ復号部303の構成を示す概略図である。 本実施形態に係るマージモードパラメータ導出部3036の構成を示す概略図である。 本実施形態に係るAMVP予測パラメータ導出部3032の構成を示す概略図である。 マージ候補リストの一例を示す図である。 空間マージ候補が参照する隣接ブロックの位置を示す図である 本実施形態に係る分割モード、分割フラグ導出においてデプスの参照位置を示す図である。 本実施形態のVSPマージ候補導出部30374(VSP予測部30374)の構成を示す図である。 本実施形態に係るインター予測パラメータ復号制御復号部303の構成を示す概略図である。 本実施形態に係るインター予測画像生成部309の構成を示す概略図である。 本実施形態に係る残差予測部3092の構成を示す概略図である。 本実施形態に係る残差予測の概念図(動きベクトルの場合)である。 本実施形態に係る残差予測の概念図(視差ベクトルの場合)である。 本実施形態のインター予測パラメータに関するシンタックス表である。 本発明の実施形態に係る拡張マージ候補と基本マージ候補の構成を示す図である。 本発明の実施形態に係る拡張マージ候補リストの構成を示す図。 本発明の実施形態に係る拡張マージ候補リストの別の構成を示す図。 本発明の実施形態に係る拡張マージ候補リストの構築手順を示す図。 本発明の実施形態に係る拡張マージ候補リストの別の構築手順を示す図。 本発明の実施形態に係る拡張マージ候補リストの別の構築手順を示す図。 本発明の比較例に係る拡張マージ候補リストの構築手順を示す図。 本発明の比較例に係る拡張マージ候補リストの構築手順を示す図。 本実施形態に係る画像符号化装置11の構成を示すブロック図である。 本実施形態に係るインター予測パラメータ符号化部112の構成を示す概略図である。
以下、図面を参照しながら本発明の実施形態について説明する。
図2は、本実施形態に係る画像伝送システム1の構成を示す概略図である。
画像伝送システム1は、複数のレイヤ画像を符号化した符号を伝送し、伝送された符号を復号した画像を表示するシステムである。画像伝送システム1は、画像符号化装置11、ネットワーク21、画像復号装置31及び画像表示装置41を含んで構成される。
画像符号化装置11には、複数のレイヤ画像(テクスチャ画像ともいう)を示す信号Tが入力される。レイヤ画像とは、ある解像度及びある視点で視認もしくは撮影される画像である。複数のレイヤ画像を用いて3次元画像を符号化するビュースケーラブル符号化を行う場合、複数のレイヤ画像のそれぞれは、視点画像と呼ばれる。ここで、視点は撮影装置の位置又は観測点に相当する。例えば、複数の視点画像は、被写体に向かって左右の撮影装置のそれぞれが撮影した画像である。画像符号化装置11は、この信号のそれぞれを符号化して符号化ストリームTe(符号化データ)を生成する。符号化ストリームTeの詳細については、後述する。視点画像とは、ある視点において観測される2次元画像(平面画像)である。視点画像は、例えば2次元平面内に配置された画素毎の輝度値、又は色信号値で示される。以下では、1枚の視点画像又は、その視点画像を示す信号をピクチャ(picture)と呼ぶ。また、複数のレイヤ画像を用いて空間スケーラブル符号化を行う場合、その複数のレイヤ画像は、解像度の低いベースレイヤ画像と、解像度の高い拡張レイヤ画像からなる。複数のレイヤ画像を用いてSNRスケーラブル符号化を行う場合、その複数のレイヤ画像は、画質の低いベースレイヤ画像と、画質の高い拡張レイヤ画像からなる。なお、ビュースケーラブル符号化、空間スケーラブル符号化、SNRスケーラブル符号化を任意に組み合わせて行っても良い。本実施形態では、複数のレイヤ画像として、少なくともベースレイヤ画像と、ベースレイヤ画像以外の画像(拡張レイヤ画像)を含む画像の符号化および復号を扱う。複数のレイヤのうち、画像もしくは符号化パラメータにおいて参照関係(依存関係)にある2つのレイヤについて、参照される側の画像を、第1レイヤ画像、参照する側の画像を第2レイヤ画像と呼ぶ。例えば、ベースレイヤを参照して符号化される(ベースレイヤ以外の)エンハンスレイヤ画像がある場合、ベースレイヤ画像を第1レイヤ画像、エンハンスレイヤ画像を第2レイヤ画像として扱う。なお、エンハンスレイヤ画像の例としては、ベースビュー以外の視点の画像やデプス画像などがある。
デプス画像(depth map、「深度画像」、「距離画像」とも言う)とは、被写空間に含まれる被写体や背景の、視点(撮影装置等)からの距離に対応する信号値(「デプス値」、「深度値」、「デプス」等と呼ぶ)であって、二次元平面に配置された画素毎の信号値(画素値)からなる画像信号である。デプス画像を構成する画素は、視点画像を構成する画素と対応する。従って、デプスマップは、被写空間を二次元平面に射影した基準となる画像信号である視点画像を用いて、三次元の被写空間を表すための手がかりとなる。
ネットワーク21は、画像符号化装置11が生成した符号化ストリームTeを画像復号装置31に伝送する。ネットワーク21は、インターネット(internet)、広域ネットワーク(WAN:Wide Area Network)、小規模ネットワーク(LAN:Local Area Network)又はこれらの組み合わせである。ネットワーク21は、必ずしも双方向の通信網に限らず、地上波ディジタル放送、衛星放送等の放送波を伝送する一方向又は双方向の通信網であっても良い。また、ネットワーク21は、DVD(Digital Versatile Disc)、BD(Blue-ray Disc)等の符号化ストリームTeを記録した記憶媒体で代替されても良い。
画像復号装置31は、ネットワーク21が伝送した符号化ストリームTeのそれぞれを復号し、それぞれ復号した複数の復号レイヤ画像Td(復号視点画像Td)を生成する。
画像表示装置41は、画像復号装置31が生成した複数の復号レイヤ画像Tdの全部又は一部を表示する。例えば、ビュースケーラブル符号化においては、全部の場合、3次元画像(立体画像)や自由視点画像が表示され、一部の場合、2次元画像が表示される。画像表示装置41は、例えば、液晶ディスプレイ、有機EL(Electro-luminescence)ディスプレイ等の表示デバイスを備える。また、空間スケーラブル符号化、SNRスケーラブル符号化では、画像復号装置31、画像表示装置41が高い処理能力を有する場合には、画質の高い拡張レイヤ画像を表示し、より低い処理能力しか有しない場合には、拡張レイヤほど高い処理能力、表示能力を必要としないベースレイヤ画像を表示する。
<符号化ストリームTeの構造>
本実施形態に係る画像符号化装置11および画像復号装置31の詳細な説明に先立って、画像符号化装置11によって生成され、画像復号装置31によって復号される符号化ストリームTeのデータ構造について説明する。
図3は、符号化ストリームTeにおけるデータの階層構造を示す図である。符号化ストリームTeは、例示的に、シーケンス、およびシーケンスを構成する複数のピクチャを含む。図3の(a)〜(f)は、それぞれ、シーケンスSEQを既定するシーケンスレイヤ、ピクチャPICTを規定するピクチャレイヤ、スライスSを規定するスライスレイヤ、スライスデータを規定するスライスデータレイヤ、スライスデータに含まれる符号化ツリーユニットを規定する符号化ツリーレイヤ、符号化ツリーに含まれる符号化単位(Coding Unit;CU)を規定する符号化ユニットレイヤを示す図である。
(シーケンスレイヤ)
シーケンスレイヤでは、処理対象のシーケンスSEQ(以下、対象シーケンスとも称する)を復号するために画像復号装置31が参照するデータの集合が規定されている。シーケンスSEQは、図3の(a)に示すように、ビデオパラメータセット(Video Parameter Set)シーケンスパラメータセットSPS(Sequence Parameter Set)、ピクチャパラメータセットPPS(Picture Parameter Set)、ピクチャPICT、及び、付加拡張情報SEI(Supplemental Enhancement Information)を含んでいる。ここで#の後に示される値はレイヤIDを示す。図3では、#0と#1すなわちレイヤ0とレイヤ1の符号化データが存在する例を示すが、レイヤの種類およびレイヤの数はこれによらない。
ビデオパラメータセットVPSは、複数のレイヤから構成されている動画像において、複数の動画像に共通する符号化パラメータの集合および動画像に含まれる複数のレイヤおよび個々のレイヤに関連する符号化パラメータの集合が規定されている。
シーケンスパラメータセットSPSでは、対象シーケンスを復号するために画像復号装置31が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの幅や高さが規定される。
ピクチャパラメータセットPPSでは、対象シーケンス内の各ピクチャを復号するために画像復号装置31が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの復号に用いられる量子化幅の基準値(pic_init_qp_minus26)や重み付き予測の適用を示すフラグ(weighted_pred_flag)が含まれる。なお、PPSは複数存在してもよい。その場合、対象シーケンス内の各ピクチャから複数のPPSの何れかを選択する。
(ピクチャレイヤ)
ピクチャレイヤでは、処理対象のピクチャPICT(以下、対象ピクチャとも称する)を復号するために画像復号装置31が参照するデータの集合が規定されている。ピクチャPICTは、図3の(b)に示すように、スライスS0〜SNS−1を含んでいる(NSはピクチャPICTに含まれるスライスの総数)。
なお、以下、スライスS0〜SNS−1のそれぞれを区別する必要が無い場合、符号の添え字を省略して記述することがある。また、以下に説明する符号化ストリームTeに含まれるデータであって、添え字を付している他のデータについても同様である。
(スライスレイヤ)
スライスレイヤでは、処理対象のスライスS(対象スライスとも称する)を復号するために画像復号装置31が参照するデータの集合が規定されている。スライスSは、図3の(c)に示すように、スライスヘッダSH、および、スライスデータSDATAを含んでいる。
スライスヘッダSHには、対象スライスの復号方法を決定するために画像復号装置31が参照する符号化パラメータ群が含まれる。スライスタイプを指定するスライスタイプ指定情報(slice_type)は、スライスヘッダSHに含まれる符号化パラメータの一例である。
スライスタイプ指定情報により指定可能なスライスタイプとしては、(1)符号化の際にイントラ予測のみを用いるIスライス、(2)符号化の際に単方向予測、または、イントラ予測を用いるPスライス、(3)符号化の際に単方向予測、双方向予測、または、イントラ予測を用いるBスライスなどが挙げられる。
なお、スライスヘッダSHには、上記シーケンスレイヤに含まれる、ピクチャパラメータセットPPSへの参照(pic_parameter_set_id)を含んでいても良い。
(スライスデータレイヤ)
スライスデータレイヤでは、処理対象のスライスデータSDATAを復号するために画像復号装置31が参照するデータの集合が規定されている。スライスデータSDATAは、図3の(d)に示すように、符号化ツリーブロック(CTB:Coded Tree Block)を含んでいる。CTBは、スライスを構成する固定サイズ(例えば64×64)のブロックであり、最大符号化単位(LCU:Largest Cording Unit)と呼ぶこともある。
(符号化ツリーレイヤ)
符号化ツリーレイヤは、図3の(e)に示すように、処理対象の符号化ツリーブロックを復号するために画像復号装置31が参照するデータの集合が規定されている。符号化ツリーユニットは、再帰的な4分木分割により分割される。再帰的な4分木分割により得られる木構造のノードのことを符号化ツリー(coding tree)と称する。4分木の中間ノードは、符号化ツリーユニット(CTU:Coded Tree Unit)であり、符号化ツリーブロック自身も最上位のCTUとして規定される。CTUは、分割フラグ(split_flag)を含み、split_flagが1の場合には、4つの符号化ツリーユニットCTUに分割される。split_flagが0の場合には、符号化ツリーユニットCTUは4つの符号化ユニット(CU:Coded Unit)に分割される。符号化ユニットCUは符号化ツリーレイヤの末端ノードであり、このレイヤではこれ以上分割されない。符号化ユニットCUは、符号化処理の基本的な単位となる。
また、符号化ツリーブロックCTBのサイズ64×64画素の場合には、符号化ユニットCUのサイズは、64×64画素、32×32画素、16×16画素、および、8×8画素の何れかをとり得る。
(符号化ユニットレイヤ)
符号化ユニットレイヤは、図3の(f)に示すように、処理対象の符号化ユニットを復号するために画像復号装置31が参照するデータの集合が規定されている。具体的には、符号化ユニットは、CUヘッダCUH、予測ユニット(予測単位)、変換ツリー、CUヘッダCUFから構成される。CUヘッダCUHでは、符号化ユニットが、イントラ予測を用いるユニットであるか、インター予測を用いるユニットであるかなどが規定される。また、CUヘッダCUHには、符号化ユニットが、残差予測に用いる重み(もしくは残差予測を行うか否か)を示す残差予測インデックスiv_res_pred_weight_idxや、照度補償予測を用いるか否かを示す照度補償フラグic_flagを含む。符号化ユニットは、予測ユニット(prediction unit;PU、予測ユニット)および変換ツリー(transform tree;TT)のルートとなる。CUヘッダCUFは、予測ユニットと変換ツリーの間、もしくは、変換ツリーの後に含まれる。
予測ユニットは、符号化ユニットが1または複数の予測ブロックに分割され、各予測ブロックの位置とサイズとが規定される。別の表現でいえば、予測ブロックは、符号化ユニットを構成する1または複数の重複しない領域である。また、予測ユニットは、上述の分割により得られた1または複数の予測ブロックを含む。
予測処理は、この予測ブロックごとに行われる。以下、予測の単位である予測ブロックのことを、予測ユニットとも称する。より詳細には予測は色コンポーネント単位で行われるため、以下では、輝度の予測ブロック、色差の予測ブロックなど、色コンポーネント毎のブロックを、予測ブロックと呼び、複数の色コンポーネントのブロック(輝度の予測ブロック、色差の予測ブロック)を合わせて、予測ユニットと呼ぶ。色コンポーネントの種類を示すインデックスcIdx(colour_component Idx)が0のブロックが輝度ブロック(輝度の予測ブロック)を示し(通例、LもしくはYと表示される)、cIdxが1もしくは2のブロックは各々Cb, Crの色差ブロック(色差の予測ブロック)を示す。
予測ユニットにおける分割の種類は、大まかにいえば、イントラ予測の場合と、インター予測の場合との2つがある。イントラ予測とは、同一ピクチャ内の予測であり、インター予測とは、互いに異なるピクチャ間(例えば、表示時刻間、レイヤ画像間)で行われる予測処理を指す。
イントラ予測の場合、分割方法は、2N×2N(符号化ユニットと同一サイズ)と、N×Nとがある。
また、インター予測の場合、分割方法は、符号化データの分割モードpart_modeにより符号化される。分割モードpart_modeによって指定される分割モードには、対象CUのサイズを2N×2N画素とすると、次の合計8種類のパターンがある。すなわち、2N×2N画素、2N×N画素、N×2N画素、およびN×N画素の4つの対称的分割(symmetric splittings)、並びに、2N×nU画素、2N×nD画素、nL×2N画素、およびnR×2N画素の4つの非対称的分割(AMP:asymmetric motion partitions)である。なお、N=2m(mは1以上の任意の整数)を意味している。以下、分割モードが非対称的分割である予測ブロックをAMPブロックとも呼称する。分割数は1、2、4のいずれかであるため、CUに含まれるPUは1個から4個である。これらのPUを順にPU0、PU1、PU2、PU3と表現する。
図4(a)〜(h)に、それぞれの分割モードについて、CUにおけるPU分割の境界の位置を具体的に図示している。
図4(a)は、CUの分割を行わない2N×2Nの分割モードを示している。また、図4(b)および(e)は、それぞれ、分割モードが、2N×N、および、N×2Nである場合のパーティションの形状について示している。また、図4(h)は、分割モードが、N×Nである場合のパーティションの形状を示している。
また、図4(c)、(d)、(f)および(g)は、それぞれ非対称的分割(AMP)である、2N×nU、2N×nD、nL×2N、および、nR×2Nである場合のパーティションの形状について示している。
また、図4(a)〜(h)において、各領域に付した番号は、領域の識別番号を示しており、この識別番号順に、領域に対して処理が行われる。すなわち、当該識別番号は、領域のスキャン順を表している。
インター予測の場合の予測ブロックでは、上記8種類の分割モードのうち、N×N(図4(h))以外の7種類が定義されている。
また、Nの具体的な値は、当該PUが属するCUのサイズによって規定され、nU、nD、nL、および、nRの具体的な値は、Nの値に応じて定められる。例えば、32×32画素のCUは、32×32画素、32×16画素、16×32画素、32×16画素、32×8画素、32×24画素、8×32画素、および、24×32画素のインター予測の予測ブロックへ分割できる。
また、変換ツリーにおいては、符号化ユニットが1または複数の変換ブロックに分割され、各変換ブロックの位置とサイズとが規定される。別の表現でいえば、変換ブロックは、符号化ユニットを構成する1または複数の重複しない領域のことである。また、変換ツリーは、上述の分割より得られた1または複数の変換ブロックを含む。
変換ツリーにおける分割には、符号化ユニットと同一のサイズの領域を変換ブロックとして割り付けるものと、上述したツリーブロックの分割と同様、再帰的な4分木分割によるものがある。
変換処理は、この変換ブロックごとに行われる。以下、変換の単位である変換ブロックのことを、変換単位(transform unit;TU)とも称する。
(予測パラメータ)
予測ユニットの予測画像は、予測ユニットに付随する予測パラメータによって導出される。予測パラメータには、イントラ予測の予測パラメータもしくはインター予測の予測パラメータがある。以下、インター予測の予測パラメータ(インター予測パラメータ)について説明する。インター予測パラメータは、予測利用フラグpredFlagL0、predFlagL1と、参照ピクチャインデックスrefIdxL0、refIdxL1と、ベクトルmvL0、mvL1から構成される。予測利用フラグpredFlagL0、predFlagL1は、各々L0リスト、L1リストと呼ばれる参照ピクチャリストが用いられるか否かを示すフラグであり、値が1の場合に対応する参照ピクチャリストが用いられる。なお、本明細書中「XXであるか否かを示すフラグ」と記す場合、1をXXである場合、0をXXではない場合とし、論理否定、論理積などでは1を真、0を偽と扱う(以下同様)。但し、実際の装置や方法では真値、偽値として他の値を用いることもできる。2つの参照ピクチャリストが用いられる場合、つまり、(predFlagL0,predFlagL1) = (1, 1)の場合が、双予測に対応し、1つの参照ピクチャリストを用いる場合、すなわち(predFlagL0, predFlagL1) = (1, 0)もしくは(predFlagL0, predFlagL1) = (0, 1)の場合が単予測に対応する。なお、予測利用フラグの情報は、後述のインター予測識別子inter_pred_idcで表現することもできる。通常、後述の予測画像生成部、予測パラメータメモリでは、予測利用フラグが用いれ、符号化データから、どの参照ピクチャリストが用いられるか否かの情報を復号する場合にはインター予測識別子inter_pred_idcが用いられる。
符号化データに含まれるインター予測パラメータを導出するためのシンタックス要素には、例えば、分割モードpart_mode、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルフラグmvp_LX_flag、差分ベクトルmvdLXがある。なお、LXは、L0予測とL1予測を区別しない場合に用いられる記述方法であり、LXをL0、L1に置き換えることでL0リストに対するパラメータとL1リストに対するパラメータを区別する(以降同様)。例えば、refIdxL0はL0予測に用いる参照ピクチャインデックス、refIdxL1はL1予測に用いる参照ピクチャインデックス、refIdx(refIdxLX)は、refIdxL0とrefIdxL1を区別しない場合に用いられる表記である。
(参照ピクチャリストの一例)
次に、参照ピクチャリストの一例について説明する。参照ピクチャリストとは、参照ピクチャメモリ306に記憶された参照ピクチャからなる列である。図5は、参照ピクチャリストRefPicListXの一例を示す概念図である。参照ピクチャリストRefPicListXにおいて、左右に一列に配列された5個の長方形は、それぞれ参照ピクチャを示す。左端から右へ順に示されている符号、P1、P2、Q0、P3、P4は、それぞれの参照ピクチャを示す符号である。P1等のPとは、視点Pを示し、そしてQ0のQとは、視点Pとは異なる視点Qを示す。P及びQの添字は、ピクチャ順序番号POCを示す。refIdxLXの真下の下向きの矢印は、参照ピクチャインデックスrefIdxLXが、参照ピクチャメモリ306において参照ピクチャQ0を参照するインデックスであることを示す。
(参照ピクチャの例)
次に、ベクトルを導出する際に用いる参照ピクチャの例について説明する。図6は、参照ピクチャの例を示す概念図である。図6において、横軸は表示時刻を示し、縦軸は視点を示す。図6に示されている、縦2行、横3列(計6個)の長方形は、それぞれピクチャを示す。6個の長方形のうち、下行の左から2列目の長方形は復号対象のピクチャ(対象ピクチャ)を示し、残りの5個の長方形がそれぞれ参照ピクチャを示す。対象ピクチャから上向きの矢印で示される参照ピクチャQ0は対象ピクチャと同表示時刻であって視点(ビューID)が異なるピクチャである。対象ピクチャを基準とする変位予測においては、参照ピクチャQ0が用いられる。対象ピクチャから左向きの矢印で示される参照ピクチャP1は、対象ピクチャと同じ視点であって、過去のピクチャである。対象ピクチャから右向きの矢印で示される参照ピクチャP2は、対象ピクチャと同じ視点であって、未来のピクチャである。対象ピクチャを基準とする動き予測においては、参照ピクチャP1又はP2が用いられる。
(インター予測識別子と予測利用フラグ)
インター予測識別子inter_pred_idcと、予測利用フラグpredFlagL0、predFlagL1の関係は
inter_pred_idc = (predFlagL1<<1) + predFlagL0
predFlagL0 =inter_pred_idc & 1
predFlagL1 =inter_pred_idc >> 1
の式を用いて相互に変換可能である。ここで、>>は右シフト、<<は左シフトである。そのため、インター予測パラメータとしては、予測利用フラグpredFlagL0、predFlagL1を用いても良いし、インター予測識別子inter_pred_idcを用いてもよい。また、以下、予測利用フラグpredFlagL0、predFlagL1を用いた判定は、インター予測識別子inter_pred_idcに置き替えても可能である。逆に、インター予測識別子inter_pred_idcを用いた判定は、予測利用フラグpredFlagL0、predFlagL1に置き替えても可能である。
(マージモードとAMVP予測)
予測パラメータの復号(符号化)方法には、マージ(merge)モードとAMVP(Adaptive Motion Vector Prediction、適応動きベクトル予測)モードがある、マージフラグmerge_flagは、これらを識別するためのフラグである。マージモードでも、AMVPモードでも、既に処理済みのブロックの予測パラメータを用いて、対象PUの予測パラメータが導出される。マージモードは、予測利用フラグpredFlagLX(インター予測識別子inter_pred_idc)、参照ピクチャインデックスrefIdxLX、ベクトルmvLXを符号化データに含めずに、既に導出した予測パラメータをそのまま用いるモードであり、AMVPモードは、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、ベクトルmvLXを符号化データに含めるモードである。なおベクトルmvLXは、予測ベクトルを示す予測ベクトルフラグmvp_LX_flagと差分ベクトル(mvdLX)として符号化される。
インター予測識別子inter_pred_idcは、参照ピクチャの種類および数を示すデータであり、Pred_L0、Pred_L1、Pred_BIの何れかの値をとる。Pred_L0、Pred_L1は、各々L0リスト、L1リストと呼ばれる参照ピクチャリストに記憶された参照ピクチャが用いられることを示し、共に1枚の参照ピクチャを用いること(単予測)を示す。L0リスト、L1リストを用いた予測を各々L0予測、L1予測と呼ぶ。Pred_BIは2枚の参照ピクチャを用いること(双予測)を示し、L0リストとL1リストに記憶された参照ピクチャの2つを用いることを示す。予測ベクトルフラグmvp_LX_flagは予測ベクトルを示すインデックスであり、参照ピクチャインデックスrefIdxLXは、参照ピクチャリストに記憶された参照ピクチャを示すインデックスである。マージインデックスmerge_idxは、処理が完了したブロックから導出される予測パラメータ候補(マージ候補)のうち、いずれかの予測パラメータを予測ユニット(対象ブロック)の予測パラメータとして用いるかを示すインデックスである。
(動きベクトルと変位ベクトル)
ベクトルmvLXには、動きベクトルと変位ベクトル(disparity vector、視差ベクトル)がある。動きベクトルとは、あるレイヤのある表示時刻でのピクチャにおけるブロックの位置と、異なる表示時刻(例えば、隣接する離散時刻)における同一のレイヤのピクチャにおける対応するブロックの位置との間の位置のずれを示すベクトルである。変位ベクトルとは、あるレイヤのある表示時刻でのピクチャにおけるブロックの位置と、同一の表示時刻における異なるレイヤのピクチャにおける対応するブロックの位置との間の位置のずれを示すベクトルである。異なるレイヤのピクチャとしては、異なる視点のピクチャである場合、もしくは、異なる解像度のピクチャである場合などがある。特に、異なる視点のピクチャに対応する変位ベクトルを視差ベクトルと呼ぶ。以下の説明では、動きベクトルと変位ベクトルを区別しない場合には、単にベクトルmvLXと呼ぶ。ベクトルmvLXに関する予測ベクトル、差分ベクトルを、それぞれ予測ベクトルmvpLX、差分ベクトルmvdLXと呼ぶ。ベクトルmvLXおよび差分ベクトルmvdLXが、動きベクトルであるか、変位ベクトルであるかは、ベクトルに付随する参照ピクチャインデックスrefIdxLXを用いて行われる。
(画像復号装置の構成)
次に、本実施形態に係る画像復号装置31の構成について説明する。図7は、本実施形態に係る画像復号装置31の構成を示す概略図である。画像復号装置31は、エントロピー復号部301、予測パラメータ復号部302、参照ピクチャメモリ(参照画像記憶部、フレームメモリ)306、予測パラメータメモリ(予測パラメータ記憶部、フレームメモリ)307、予測画像生成部308、逆量子化・逆DCT部311、加算部312、及び図示されないデプスDV導出部351を含んで構成される。
また、予測パラメータ復号部302は、インター予測パラメータ復号部303及びイントラ予測パラメータ復号部304を含んで構成される。予測画像生成部308は、インター予測画像生成部309及びイントラ予測画像生成部310を含んで構成される。
エントロピー復号部301は、外部から入力された符号化ストリームTeに対してエントロピー復号を行って、個々の符号(シンタックス要素)を分離し復号する。分離された符号には、予測画像を生成するための予測情報および、差分画像を生成するための残差情報などがある。
エントロピー復号部301は、分離した符号の一部を予測パラメータ復号部302に出力する。分離した符号の一部とは、例えば、予測モードPredMode、分割モードpart_mode、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルフラグmvp_LX_flag、差分ベクトルmvdLX、残差予測インデックスiv_res_pred_weight_idx、照度補償フラグic_flagである。どの符号を復号するか否かの制御は、予測パラメータ復号部302の指示に基づいて行われる。エントロピー復号部301は、量子化係数を逆量子化・逆DCT部311に出力する。この量子化係数は、符号化処理において、残差信号に対してDCT(Discrete Cosine Transform、離散コサイン変換)を行い量子化して得られる係数である。エントロピー復号部301は、デプスDV変換テーブルDepthToDisparityBを、デプスDV導出部351に出力する。このデプスDV変換テーブルDepthToDisparityBは、デプス画像の画素値を視点画像間の変位を示す視差に変換するためのテーブルであり、デプスDV変換テーブルDepthToDisparityBの要素DepthToDisparityB[d]は、傾きcp_scaleとオフセットcp_off、傾きの精度cp_precisionを用いて、
log2Div = BitDepthY - 1 + cp_precision
offset = ( cp_off << BitDepthY ) + ( ( 1 << log2Div ) >> 1 )
scale = cp_scale
DepthToDisparityB[ d ] = ( scale * d + offset ) >> log2Div
の式によって求めることができる。パラメータcp_scale、cp_off、cp_precisionは参照する視点毎に符号化データ中のパラメータセットから復号する。なお、BitDepthYは輝度信号に対応する画素値のビット深度を示しており、例えば、値として8をとる。
予測パラメータ復号部302は、エントロピー復号部301から符号の一部を入力として受け取る。予測パラメータ復号部302は、符号の一部である予測モードPredModeが示す予測モードに対応する予測パラメータを復号する。予測パラメータ復号部302は、予測モードPredModeと復号した予測パラメータを予測パラメータメモリ307と予測画像生成部308に出力する。
インター予測パラメータ復号部303は、エントロピー復号部301から入力された符号に基づいて、予測パラメータメモリ307に記憶された予測パラメータを参照してインター予測パラメータを復号する。インター予測パラメータ復号部303は、復号したインター予測パラメータを予測画像生成部308に出力し、また予測パラメータメモリ307に記憶する。インター予測パラメータ復号部303の詳細については後述する。
イントラ予測パラメータ復号部304は、エントロピー復号部301から入力された符号に基づいて、予測パラメータメモリ307に記憶された予測パラメータを参照してイントラ予測パラメータを復号する。イントラ予測パラメータとは、ピクチャブロックを1つのピクチャ内で予測する処理で用いるパラメータ、例えば、イントラ予測モードIntraPredModeである。イントラ予測パラメータ復号部304は、復号したイントラ予測パラメータを予測画像生成部308に出力し、また予測パラメータメモリ307に記憶する。
参照ピクチャメモリ306は、加算部312が生成した復号ピクチャブロックrecSamplesを、復号ピクチャブロックの位置に記憶する。
予測パラメータメモリ307は、予測パラメータを、復号対象のピクチャ及びブロック毎に予め定めた位置に記憶する。具体的には、予測パラメータメモリ307は、インター予測パラメータ復号部303が復号したインター予測パラメータ、イントラ予測パラメータ復号部304が復号したイントラ予測パラメータ及びエントロピー復号部301が分離した予測モードPredModeを記憶する。記憶されるインター予測パラメータには、例えば、予測利用フラグpredFlagLX、参照ピクチャインデックスrefIdxLX、ベクトルmvLXがある。
予測画像生成部308には、予測パラメータ復号部302から予測モードPredMode及び予測パラメータが入力される。また、予測画像生成部308は、参照ピクチャメモリ306から参照ピクチャを読み出す。予測画像生成部308は、予測モードPredModeが示す予測モードで、入力された予測パラメータと読み出した参照ピクチャを用いて予測ピクチャブロックpredSamples(予測画像)を生成する。
ここで、予測モードPredModeがインター予測モードを示す場合、インター予測画像生成部309は、インター予測パラメータ復号部303から入力されたインター予測パラメータと読み出した参照ピクチャを用いてインター予測により予測ピクチャブロックpredSamplesを生成する。予測ピクチャブロックpredSamplesは予測ユニットPUに対応する。PUは、上述したように予測処理を行う単位となる複数の画素からなるピクチャの一部分、つまり1度に予測処理が行われる対象ブロックに相当する。
インター予測画像生成部309は、予測利用フラグpredFlagLXが1である参照ピクチャリストRefPicListLXに対し、参照ピクチャインデックスrefIdxLXで示される参照ピクチャRefPicListLX[refIdxLX]から、予測ユニットを基準としてベクトルmvLXが示す位置にある参照ピクチャブロックを参照ピクチャメモリ306から読み出す。インター予測画像生成部309は、読み出した参照ピクチャブロックに動き補償を行って予測ピクチャブロックpredSamplesLXを生成する。インター予測画像生成部309は、さらに各参照ピクチャリストの参照ピクチャから導出された予測ピクチャブロックpredSamplesL0、predSamplesL1から重み付予測により予測ピクチャブロックpredSamplesを生成し、加算部312に出力する。
予測モードPredModeがイントラ予測モードを示す場合、イントラ予測画像生成部310は、イントラ予測パラメータ復号部304から入力されたイントラ予測パラメータと読み出した参照ピクチャを用いてイントラ予測を行う。具体的には、イントラ予測画像生成部310は、復号対象のピクチャであって、既に処理されたブロックのうち予測ユニットから予め定めた範囲にある参照ピクチャブロックを参照ピクチャメモリ306から読み出す。予め定めた範囲とは、例えば、左、左上、上、右上の隣接ブロックの範囲でありイントラ予測モードによって異なる。
イントラ予測画像生成部310は、読み出した参照ピクチャブロックについてイントラ予測モードIntraPredModeが示す予測モードで予測を行って予測ピクチャブロックpredSamplesを生成し、加算部312に出力する。
逆量子化・逆DCT部311は、エントロピー復号部301から入力された量子化係数を逆量子化してDCT係数を求める。逆量子化・逆DCT部311は、求めたDCT係数について逆DCT(Inverse Discrete Cosine Transform、逆離散コサイン変換)を行い、復号残差信号を算出する。逆量子化・逆DCT部311は、算出した復号残差信号を加算部312に出力する。
加算部312は、インター予測画像生成部309及びイントラ予測画像生成部310から入力された予測ピクチャブロックpredSamplesと逆量子化・逆DCT部311から入力された復号残差信号の信号値resSamplesを画素毎に加算して、復号ピクチャブロックrecSamplesを生成する。加算部312は、生成した復号ピクチャブロックrecSamplesを参照ピクチャメモリ306に出力する。復号ピクチャブロックはピクチャ毎に統合される。復号されたピクチャには、デブロックフィルタおよび適応オフセットフィルタが適用などのループフィルタが適用される。復号されたピクチャは復号レイヤ画像Tdとして外部に出力する。
(インター予測パラメータ復号部の構成)
次に、インター予測パラメータ復号部303の構成について説明する。図8は、本実施形態に係るインター予測パラメータ復号部303の構成を示す概略図である。インター予測パラメータ復号部303は、インター予測パラメータ復号制御部3031、AMVP予測パラメータ導出部3032、加算部3035及びマージモードパラメータ導出部3036(マージモードパラメータ導出装置)、変位導出部30363を含んで構成される。
インター予測パラメータ復号制御部3031は、インター予測に関連する符号(シンタックス要素の復号をエントロピー復号部301に指示し、符号化データに含まれる符号(シンタックス要素)を例えば、分割モードpart_mode、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルフラグmvp_LX_flag、差分ベクトルmvdLX、残差予測インデックスiv_res_pred_weight_idx、照度補償フラグic_flag、DBBPフラグdbbp_flagを抽出する。インター予測パラメータ復号制御部3031が、あるシンタックス要素を抽出すると表現する場合は、あるシンタックス要素の復号をエントロピー復号部301に指示し、該当のシンタックス要素を符号化データから読み出すことを意味する。
インター予測パラメータ復号制御部3031は、マージフラグmerge_flagが1、すなわち、予測ユニットがマージモードの場合、マージインデックスmerge_idxを符号化データから抽出する。インター予測パラメータ復号制御部3031は、抽出した残差予測インデックスiv_res_pred_weight_idx、照度補償フラグic_flag及びマージインデックスmerge_idxをマージモードパラメータ導出部3036に出力する。
インター予測パラメータ復号制御部3031は、マージフラグmerge_flagが0、すなわち、予測ブロックがAMVP予測モードの場合、エントロピー復号部301を用いて符号化データからインター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルフラグmvp_LX_flag、差分ベクトルmvdLXを抽出する。インター予測パラメータ復号制御部3031は、抽出したインター予測識別子inter_pred_idcから導出した予測利用フラグpredFlagLXと、参照ピクチャインデックスrefIdxLXをAMVP予測パラメータ導出部3032及び予測画像生成部308に出力し、また予測パラメータメモリ307に記憶する。インター予測パラメータ復号制御部3031は、抽出した予測ベクトルフラグmvp_LX_flagをAMVP予測パラメータ導出部3032に出力し抽出した差分ベクトルmvdLXを加算部3035に出力する。
図20は本実施形態の予測パラメータに関するシンタックス表である。インター予測パラメータ復号制御部3031は、図のSE1001〜SE1003に示すcu_skip_flag、pred_mode、part_modeを復号する。ここで、cu_skip_flagは対象CUがスキップであるか否かを示すフラグである。スキップの場合にはPartModeは2N×2Nに限定され、分割モードpart_modeの復号は省略される。符号化データから復号した分割モードpart_modeは分割モードPredModeにセットされる。 また、インター予測パラメータ復号制御部3031は、インター予測パラメータ導出時に導出された変位ベクトル(NBDV)、及び視点合成予測を行うか否かを示すフラグであるVSPモードフラグVspModeFlagを、インター予測画像生成部309に出力する。
図9は、本実施形態に係るマージモードパラメータ導出部3036の構成を示す概略図である。マージモードパラメータ導出部3036は、マージ候補導出部30361とマージ候補選択部30362、双予測制限部30363を備える。マージ候補導出部30361は、マージ候補格納部303611と、拡張マージ候補導出部30370と基本マージ候補導出部30380を含んで構成される。
マージ候補格納部303611は、拡張マージ候補導出部30370及び基本マージ候補導出部30380から入力されたマージ候補をマージ候補リストmergeCandListに格納する。なお、マージ候補は、予測利用フラグpredFlagLX、ベクトルmvLX、参照ピクチャインデックスrefIdxLXから構成され、さらに、VSPモードフラグVspModeFlag、変位ベクトルMvDisp、レイヤIDRefViewIdxなどを含んでも良い。マージ候補格納部303611において、マージ候補リストmergeCandListに格納されたマージ候補は、リスト先頭の候補から0、1、2・・・Nのインデックスが対応ずけられる。
図11は、マージ候補導出部30361が導出するマージ候補リストmergeCandListの例を示すものである。図11(a)は、ベースレイヤ(レイヤIDnal_unit_layer=0のレイヤ)において、マージ候補格納部303611が導出するマージ候補を示す。2つのマージ候補が同じ予測パラメータである場合に順番を詰める処理(プルーニング処理)を除くと、マージインデックス順に、空間マージ候補(A1)、空間マージ候補(B1)、空間マージ候補(B0)、空間マージ候補(A0)、空間マージ候補(B2)の順になる。なお、括弧内は、マージ候補のニックネームであり、空間マージ候補の場合には、導出に用いる参照ブロックの位置に対応する。また、それ以降に、結合マージ候補(結合双予測マージ候補、combined bi-predictive merging candidates)、ゼロマージ候補(ゼロ動きマージ候補、zero motion vector merging candidates)があるが、図11では省略している。これらのマージ候補、つまり、空間マージ候補、時間マージ候補、結合マージ候補、ゼロマージ候補は、基本マージ候補導出部30380により導出される。図11(b)は、ベースレイヤ以外のレイヤであるエンハンスメントレイヤ(レイヤID nal_unit_layer!=0のレイヤ)においてマージ候補格納部303611が導出するマージ候補リスト(拡張マージ候補リスト)を示す。拡張マージ候補リストは、テクスチャマージ候補(T)、インタービュ−マージ候補(IvMC)、空間マージ候補(A1)、空間マージ候補(B1)、空間マージ候補(B0)、変位マージ候補(IvDC)、VSPマージ候補(VSP)、空間マージ候補(A0)、空間マージ候補(B2)、インタービューシフトマージ候補(IvMCShift)、変位シフトマージ候補(IvDCShift)、時間マージ候補(Col)の順になる。なお、括弧内は、マージ候補のニックネームである。また、それ以降に、結合マージ候補、ゼロマージ候補があるが、図11では省略している。なお図では、変位シフトマージ候補(IvDCShift)を省略している。また、デプスマージ候補(D)を、テクスチャマージ候補の後に拡張マージ候補リストの後ろに追加しても良い。
空間マージ候補(A1、B1、B0、A0、B2)、時間マージ候補Col、結合マージ候補、ゼロマージ候補は、基本マージ候補導出部30380において導出される。
テクスチャマージ候補(T)、インタービューマージ候補(IvMC)、変位マージ候補(IvDC)、VSPマージ候補(VSP)、インタービューシフトマージ候補(IvMCShift)、変位シフトマージ候補(IvDCShift)は、拡張マージ候補導出部30370において導出される。
マージモードパラメータ導出部3036は、基本マージリストbaseMergeCandidate[]と拡張マージリストextMergeCandidate[]を構築する。以下では、マージモードパラメータ導出部3036に含まれるマージ候補格納部303611がリストの構築を行う構成を示すが、マージ候補格納部303611に限らない。例えば、マージ候補導出部30361が個々のマージ候補を導出するだけでなくマージ候補リストを導出しても良い。
<基本マージ候補と拡張マージ候補>
図21は、本発明の基本マージ候補と拡張マージ候補の構成を示す図である。図21に示すように、拡張マージ候補は、VSPマージ候補VSP、変位マージ候補IvDC、インタービューシフトマージ候補IvMCShift、変位シフトマージ候補IvDCShiftから構成され、2つのグループ(第1グループの拡張マージ候補と第2グループの拡張マージ候補)に排他的に分類される。基本マージ候補は、空間マージ候補A1、B1、B0、A0、B2、時間マージ候補Col、結合マージ候補、ゼロマージ候補から構成され2つのグループ(第1グループの基本マージ候補と第2グループの基本マージ候補)に排他的に分類される。図では、結合マージ候補としてComb0、Comb1の2個、ゼロマージ候補としてZero0の1個の例を示しているが、結合マージ候補、ゼロマージ候補の数はこれに限らない。
第1グループの拡張マージ候補は、少なくとも、テクスチャマージ候補Tとインタービューマージ候補IvMCを含み、第2グループの拡張マージ候補は少なくともインタービューシフトマージ候補IvMCShiftを含む。本実施形態では、第1グループの拡張マージ候補をテクスチャマージ候補T、(デプスマージ候補D)、インタービューマージ候補IvMC、第2グループの拡張マージ候補を、VSPマージ候補VSP、変位マージ候補IvDC、インタービューシフトマージ候補IvMCShift、変位シフトマージ候補IvDCShiftとする例を説明する。
第1グループの拡張マージ候補と第2グループの拡張マージ候補の和は、全ての拡張マージ候補を含み、基本マージ候補を含まない。第1グループの拡張マージ候補と第2グループの拡張マージ候補は同じマージ候補を含むことはない。
第1グループの基本マージ候補は少なくともA1、B0を含む。第2グループの基本マージ候補は少なくともB2、Col、結合マージ候補、ゼロマージ候補を含む。第1グループの基本マージ候補と第2グループの基本マージ候補の和は、A1、B0、B1、A0、B2、Col、結合マージ候補、ゼロマージ候補からなり、第1グループの基本マージ候補と第2グループの基本マージ候補の順序は、A1、B0、B1、A0、B2、Col、結合マージ候補、ゼロマージ候補である。より好適には、第1グループの基本マージ候補は、A1、B0、B1、第2グループの基本マージ候補を、A0、B2、Col、結合マージ候補、ゼロマージ候補であり、本実施形態では以下この例を説明する。
<基本マージ候補リスト>
マージ候補格納部303611は、基本マージ候補導出部30380で導出されるマージ候補から基本マージ候補リストbaseMergeCandidate[]を構築する。具体的には、空間マージ候補導出部30381で導出される空間マージ候補A0、A1、B0、B1、B2、時間マージ候補導出部30382で導出される時間マージ候補Colを、以下の式により、順に基本マージ候補リストbaseMergeCandidateを追加する。なおavailableFlagMはマージ候補M(Mはマージ候補のニックネーム、例えばA0、A1、B0、B1、B2,Colなど)の利用可能性を示すフラグである。以下の式のように、マージ候補リストには、利用可能性が1であるマージ候補のみが追加される。
i = 0
if( availableFlagA1 )
baseMergeCandList[ i++ ] = A1
if( availableFlagB1 )
baseMmergeCandList[ i++ ] = B1
if( availableFlagB0 )
baseMmergeCandList[ i++ ] = B0
if( availableFlagA0 )
baseMmergeCandList[ i++ ] = A0
if( availableFlagB2 )
baseMmergeCandList[ i++ ] = B2
if( availableFlagCol )
baseMmergeCandList[ i++ ] = Col
さらに、マージ候補格納部303611は、既に導出した基本のマージ候補mergeCandList(baseMergeCandList)の各要素のL0成分とL1成分から構成されるマージ候補である結合マージ候補CombCandを、結合マージ候補導出部30383で導出し、基本マージ候補リストbaseMergeCandidateに追加する。結合マージ候補導出部30383は、k番目(k=0からN)の結合マージ候補combCandkのL0リファレンスインデックスrefIdxL0combCandk、L1リファレンスインデックスrefIdxL1combCandk、L0予測フラグpredFlagL0combCandk、L1予測フラグpredFlagL1combCandk、L0動きベクトルmvL0combCandk[ 0 ] 、mvL0combCandk[ 1 ] 、L1動きベクトルmvL1combCandk[ 0 ] 、mvL1combCandk[ 1 ] を、l0Cand番目のマージ候補mergeCandList[l0Cand]のL0成分である、L0リファレンスインデックスrefIdxL0l0Cand、L0動きベクトルmvL0l0Cand[ 0 ]、mvL0l0Cand[ 1 ]と、l1Cand番目のマージ候補mergeCandList[l1Cand]のL1成分であるL1リファレンスインデックスrefIdxL1l1Cand、L1動きベクトルmvL1l1Cand[ 0 ]、mvL1l1Cand[ 1 ]から以下の式により導出される。
refIdxL0combCandk = refIdxL0l0Cand
refIdxL1combCandk = refIdxL1l1Cand
predFlagL0combCandk = 1
predFlagL1combCandk = 1
mvL0combCandk[ 0 ] = mvL0l0Cand[ 0 ]
mvL0combCandk[ 1 ] = mvL0l0Cand[ 1 ]
mvL1combCandk[ 0 ] = mvL1l1Cand[ 0 ]
mvL1combCandk[ 1 ] = mvL1l1Cand[ 1 ]
さらに、マージ候補格納部303611は、基本マージ候補リストに、ゼロマージ候補導出部30384で導出されるゼロベクトルから構成されるゼロマージ候補Zeroを追加する。第1グループの基本マージ候補、第2グループの基本マージ候補は、含まれるマージ候補が定まっているだけではなく、マージ候補リストに追加される順序も定まっている。本実施形態のマージ候補格納部303611は、第1グループの基本マージ候補と第2グループの基本マージ候補をA1、B1、B0、A0、B2、Col、結合マージ候補、ゼロマージ候補の順にリストに追加することで基本マージ候補リストbaseMmergeCandListの構築を行う。
<拡張マージ候補リスト>
マージ候補格納部303611は、基本マージ候補導出部30380で導出される基本マージ候補と、拡張マージ候補導出部30370で導出される拡張マージ候補から拡張マージ候補リストextMergeCandidate[]を構築する。
図1は、本実施形態のマージ候補格納部303611における拡張マージ候補の構築処理を示すフローチャートである。
(S1001)マージ候補格納部303611は、第1グループの拡張マージ候補を拡張マージ候補リストに追加する。
(S1002)マージ候補格納部303611は、第1グループの基本マージ候補を拡張マージ候補リストに追加
(S1003)マージ候補格納部303611は、第2グループの拡張マージ候補を拡張マージ候補リストに追加
(S1004)マージ候補格納部303611は、第2グループの基本マージ候補を拡張マージ候補リストに追加
第1グループの拡張マージ候補、第2グループの拡張マージ候補、第1グループの基本マージ候補、第2グループの基本マージ候補は、含まれるマージ候補が定まっているだけではなく、マージ候補リストに追加される順序も定まっている。
図22に示すように、マージ候補格納部303611は、リストの先頭から順に第1グループの拡張マージ候補、第1グループの基本マージ候補、第2グループの拡張マージ候補、第2グループの基本マージ候補を構築する。図22は、第1グループの拡張マージ候補が、テクスチャマージ候補T、インタービューマージ候補IvMC、第2グループの拡張マージ候補が、VSPマージ候補VSP、変位マージ候補IvDC、VSPマージ候補VSP、インタービューシフトマージ候補IvMCShift、変位シフトマージ候補IvDCShiftである例であり、この順に拡張マージ候補リストextMergeCandListに格納される。本実施形態のマージ候補格納部303611は、第1グループの基本マージ候補と第2グループの基本マージ候補について、基本マージ候補リストbaseMmergeCandListと同じく、基本マージ候補については、A1、B1、B0、A0、B2、Col、結合マージ候補、ゼロマージ候補の順に拡張マージ候補リストextMmergeCandListに追加する。基本マージ候補の前後に拡張マージ候補が追加されることはあるが、基本マージ候補の構成と追加順は、基本マージ候補リストbaseMmergeCandList構築と同一である。
なお、拡張マージ候補の構成は、図22の例に限らない。例えば、図23(a)に示すように、デプスマージ候補Dなどを含む場合、つまり、第1グループの拡張マージ候補が、テクスチャマージ候補T、デプスマージ候補D、インタービューマージ候補IvMC、第2グループの拡張マージ候補が、VSPマージ候補VSP、変位マージ候補IvDC、インタービューシフトマージ候補IvMCShift、変位シフトマージ候補IvDCShiftであっても良い。また、図23(b)に示すように、変位シフトマージ候補IvDCShiftやVSPマージ候補VSPを含まない場合、つまり、第1グループの拡張マージ候補が、テクスチャマージ候補T、インタービューマージ候補IvMC、第2グループの拡張マージ候補が、変位マージ候補IvDC、インタービューシフトマージ候補IvMCShiftであっても良い。
以下、さらに本実施形態のマージ候補格納部303611の詳細を説明する。
(第1グループの拡張マージ候補追加)
本実施形態のマージ候補格納部303611は、まず、第1グループの拡張マージ候補であるテクスチャマージ候補T、インタービューマージ候補IvMCを順に拡張マージ候補リストextMergeCandListに格納する。
i = 0
if( availableFlagT ) 式F1
extMergeCandList[ i++ ] = T 式F2 if( availableFlagIvMC && ( !availableFlagT | | differentMotion( T, IvMC ) ) ) 式F5
extMergeCandList[ i++ ] = IvMC 式F6
N = !availableFlagIvMC ? T : IvMC 式F7
if( availableFlagA1 && ( !availableFlagN | | differentMotion( N, A1 ) ) ) 式F8
extMergeCandList[ i++ ] = A1 式F9
なお、式F2とA5の間に以下の式F3、式F4を挟む処理を行うことで、さらにデプスマージ候補Dを拡張マージ候補リストextMergeCandListに格納しても良い。
if( availableFlagD ) 式F3
extMergeCandList[ i++ ] = D 式F4
ここで、differentMotion( N, M )はマージ候補Nとマージ候補Mが異なる動き情報(予測パラメータ)を有しているか否かを識別する関数であり、予測フラグpredFlag、動きベクトルmvLX、参照インデックスrefIdxがL0、L1の何れかで異なる場合、すなわち、以下の条件を1つ以上満たす場合に1、それ以外に0となる。
predFlagLXN != predFlagLXM (X=0.. 1)
mvLXN != mvLXM (X=0.. 1)
refIdxLXN != refIdxLXM (X=0.. 1)
式F5の、( !availableFlagT | | differentMotion( T, IvMC ) )は、テクスチャマージ候補Tが利用可能(availableFlagT)であり、テクスチャマージ候補Tとインタービューマージ候補IvMCが同じ予測パラメータをもてば(differentMotion( T, IvMC )==0)、プルーニングを行い、インタービューマージ候補IvMCを拡張マージ候補リストに追加しないことを示す。式F5では、追加しない場合の否定となる場合にマージ候補の追加を行うことで、上記、処理を行っている。すなわち、テクスチャマージ候補Tが利用可能ではない(!availableFlagT)、もしくは、テクスチャマージ候補Tとインタービューマージ候補IvMCが異なる予測パラメータをもてば(differentMotion( T, IvMC ))、プルーニングは行われず、インタービューマージ候補IvMCを拡張マージ候補リストに追加する。
ここで、式F8の、( !availableFlagN | | differentMotion( N, A1 )は、ある特定の候補Nに対して、マージ候補Nが利用可能(availableFlagN)であり、マージ候補Nと先頭の空間マージ候補A1が同じ予測パラメータをもてば(differentMotion( N, A1 )==0)、プルーニングを行い、A1を拡張マージ候補リストに追加しないことを示す。マージ候補Nが利用可能ではない(!availableFlagN)、もしくは、マージ候補Nとマージ候補A1が異なる予測パラメータをもてば(differentMotion( N, A1 ))、プルーニングは行われず、マージ候補A1を拡張マージ候補リストに追加する。
式F8のプルーニングにで参照するマージ候補を決定する式F7は、特定の拡張マージ候補Nとして、通常は、プルーニング対象となる先頭の基本マージ候補A1の追加順が直前であるマージ候補であるインタービューマージ候補IvMCを用いる。さらに、インタービューマージ候補IvMCが利用可能でない場合には、プルーニングで参照するマージ候補として、その前のマージ候補であるテクスチャマージ候補Tを使う。これによれば、A1がプルーニングにより追加されない場合にも、同じ予測パラメータを有するマージ候補が追加されるため、実質的にはA1が追加された場合と等しい。これは、先頭の基本マージ候補(A1)の拡張マージ候補に対するプルーニングの場合であり、これは後述するP2Aのプルーニングに対応する。
なおマージ候補格納部303611は、式F7、式F8より容易な、以下の式F7´、式F8´のプルーニングでも良い。
(削除) 式F7´(式F7は削除)
if( availableFlagA1 && ( !availableFlagIvMC | | differentMotion( IvMC, A1 ) ) ) 式F8´
extMergeCandList[ i++ ] = A1 式F9
つまり、インタービューマージ候補IvMCが利用可能(availableFlagIvMC)であり、マージ候補IvMCと先頭の空間マージ候補A1が同じ予測パラメータをもてば(differentMotion( IvMC, A1 )==0)、プルーニングを行い、A1を拡張マージ候補リストに追加しない。すなわち、マージ候補IvMCが利用可能ではない(!availableFlagIvMC)、もしくは、マージ候補IvMCとマージ候補A1が異なる予測パラメータをもてば(differentMotion( IvMC, A1 ))、プルーニングは行われず、マージ候補A1を拡張マージ候補リストに追加する。
この場合、テクスチャマージ候補Tに対するプルーニング処理が行われないため、性能的には若干低下するが、複雑度も低くなる。なお、A1に対するプルーニングは性能上重要であるため全てのプルーニングを削除するよりも残した方がより好適である。
(第1グループの基本マージ候補追加)
続いて、本実施形態のマージ候補格納部303611は、A1候補、B1候補、B0候補を第1の基本マージ候補として拡張マージ候補リストextMergeCandListに格納する。
if( availableFlagB1) 式F10
extMergeCandList[ i++ ] = B1 式F11
if( availableFlagB0 ) 式F12
extMergeCandList[ i++ ] = B0 式F13
以下、第2グループの拡張マージ候補追加を説明する。
(第2グループの拡張マージ候補追加)
続いて、本実施形態のマージ候補格納部303611は、変位マージ候補IvDC、視点合成予測マージ候補VSP(VSPマージ候補)、インタービューシフトマージ候補IvMCShift、変位シフトマージ候補IvDCShiftを第2グループの拡張マージ候補として拡張マージ候補リストextMergeCandListに格納する。
if( availableFlagIvDC && ( !availableFlagA1 | | differentMotion( A1, IvDC ) )) ) 式F14
extMergeCandList[ i++ ] = IvDC 式F15
if( availableFlagVSP && !ic_flag && iv_res_pred_weight_idx = = 0 ) 式F16
extMergeCandList[ i++ ] = VSP 式F17
if( availableFlagIvMCShift && ( !availableFlagIvMC | | differentMotion( IvMC, IvMCShift ) ) ) 式F18
extMergeCandList[ i++ ] = IvMCShift 式F19
if( availableFlagIvDCShift ) 式F20
extMergeCandList[ i++ ] = IvDCShift 式F21
以下、第2グループの基本マージ候補追加を説明する。
(第2グループの基本マージ候補追加)
続いて、本実施形態のマージ候補格納部303611は、A0候補、B2候補を第2の基本マージ候補として拡張マージ候補リストextMergeCandListに格納する。
if( availableFlagA0 ) 式F22
extMergeCandList[ i++ ] = A0 式F23
if( availableFlagB2 ) 式F24
extMergeCandList[ i++ ] = B2 式F25
続いて、本実施形態のマージ候補格納部303611は、既に追加した空間マージ候補A1、B1、B0、A0、B2以外の基本マージ候補、すなわち、時間マージ候補Col、結合マージ候補、ゼロマージ候補を第2の基本マージ候補として、以下の式により、順に拡張マージ候補に追加する。
j = 0 式F26
while( i < MaxNumMergeCand ) {
N = baseMergeCandList[ j++ ]
if( N != A1 && N != B1 && N != B0 && N != A0 && N != B2 )
extMergeCandList[ i++ ] = N
}
以下、第2グループの基本マージ候補追加の別の構成を説明する。
(第2グループの基本マージ候補追加の別の構成)
なお、第2の基本マージ候補の追加は、別の構成を用いることもできる。例えば、
本実施形態のマージ候補格納部303611は、第1の基本マージ候補として追加された、空間マージ候補A1、B1、B0を除く、基本マージ候補、すなわち、A0、B2、時間マージ候補Col、結合マージ候補、ゼロマージ候補を第2の基本マージ候補として、以下の式により、順に拡張マージ候補に追加する。
while( i < MaxNumMergeCand ) {
N = baseMergeCandList[ j++ ]
if( N != A1 && N != B1 && N != B0 )
extMergeCandList[ i++ ] = N
}
なおマージ候補格納部303611は、上記で説明した全てのプルーニングを行う必要はなく、より簡略化されたプルーニング、もしくは、プルーニングが無い場合を用いることもできる。具体的には、A1追加におけるプルーニングは、
N = !availableFlagIvMC ? T : IvMC 式F7
if( availableFlagA1 && ( !availableFlagN | | differentMotion( N, A1 ) ) ) 式F8
extMergeCandList[ i++ ] = A1 式F9
に限らず、
if( availableFlagA1 && ( !availableFlagIvMC | | differentMotion( IvMC, A1 ) ) ) 式F8´
extMergeCandList[ i++ ] = A1 式F9
でも良い。この場合、インタービューマージ候補IvMCが利用可能でない場合には、プルーニング処理が行われないため、性能的には若干低下するが、複雑度も低くなる。なお、A1に対するプルーニングは性能上重要であるため削除するよりも残した方が適用である。
また、式F14、式F15から、プルーニングを削除した以下の構成でも良い。
if( availableFlagIvDC) 式F14´
extMergeCandList[ i++ ] = IvDC 式F15
if( availableFlagIvMCShift) 式F18´
extMergeCandList[ i++ ] = IvMCShift 式F19
上記の構成では、第1グループの拡張マージ候補、第1グループの基本マージ候補、第2グループの拡張マージ候補、第2グループの基本マージ候補の順で、拡張マージ候補リストに追加することで、拡張マージ候補リストを導出する。これによりテクスチャマージ候補T、インタービューマージ候補IvMC、インタービューシフトマージ候補IvMCShiftを含む拡張マージ候補を容易に構築可能であるという効果を奏する。
(マージ候補候補選択)
マージ候補選択部30362は、マージ候補格納部303611に格納されているマージ候補のうち、インター予測パラメータ復号制御部3031から入力されたマージインデックスmerge_idxに対応するインデックスが割り当てられたマージ候補を、対象PUのインター予測パラメータとして選択する。つまり、マージ候補リストをmergeCandListとするとmergeCandList[merge_idx]で示される予測パラメータを選択し、双予測制限部30363に出力する。
具体的には、マージ候補選択部30362は、予測ユニットのサイズ(横nOrigPbW、縦nOrigPbH)に応じて、merge_idxで示されるマージ候補Nを基本マージ候補リストもしくは拡張マージ候補リストから導出する。
If ( nOrigPbW + nOrigPbH == 12),
N = baseMergeCandList[ merge_idx ]
else, ( ( nOrigPbW + nOrigPbH ) != 12 ),
N = extMergeCandList[ merge_idx ]
すなわち、PUサイズが小さい場合には、基本マージ候補リストbaseMergeCandidateListを用い、それ以外の場合には拡張マージリストextMergeCandidateListを用いる。
<マージ候補リスト構築処理の詳細>
マージ候補格納部303611は、基本マージ候補リストbaseMergeCandidateListと拡張マージリストextMergeCandidateListの両方を構築していたが、必要なマージ候補リストは、予測ユニットPUのサイズに依存するため、基本マージ候補リストbaseMergeCandListと拡張マージ候補リストextMergeCandListの一方を導出すれば良い。
しかしながら、拡張マージ候補リストextMergeCandListの構築には、結合マージ候補が必要であり、結合マージ候補は、基本マージ候補リストbaseMergeCandListの一部として構築される空間マージ候補と時間マージ候補を参照して構築される。よって、実際には、予測ユニットPUのサイズに応じて以下のA)もしくはB)の動作をすることが好適である。
A)基本マージ候補リストbaseMergeCandListを構築する(PUサイズ小の場合)
B)拡張マージ候補リストextMergeCandListを構築中に導出される基本マージ候補リストbaseMergeCandListの一部を利用して結合マージ候補を導出し、拡張マージ候補リストextMergeCandListを構築する(PUサイズ大の場合)
また、実装によっては、基本マージ候補リストbaseMergeCandListを常に導出する構成により拡張マージ候補リストextMergeCandListで必要なマージ候補を導出することが考えられる。この場合、予測ユニットPUのサイズに応じて以下のC)もしくはD)の動作もまた好適である。
C)基本マージ候補リストbaseMergeCandListを構築する(PUサイズ小の場合)
D)基本マージ候補リストbaseMergeCandListを構築し、次に導出された基本マージ候補リストbaseMergeCandListを利用して、拡張マージ候補リストextMergeCandListを構築する(PUサイズ大の場合)
上記、PUサイズ小の場合の場合に対応するA)C)では、基本マージ候補リストbaseMergeCandListを構築するのみである。
上記、PUサイズ大の場合の場合に対応するB)D)では、基本マージ候補リストbaseMergeCandListの全部もしくは一部と、拡張マージ候補リストextMergeCandListを構築する必要が生じる。しかし、両者のマージ候補リストを独立に構築することは効率的ではないため、一方のリストを構築後、他方のリストを生成することが望ましい。既に説明した本実施形態のマージモードパラメータ導出部303(マージ候補格納部303611)は、効率的に拡張マージ候補リストextMergeCandListの一部を利用して、基本マージ候補リストbaseMergeCandListの一部を導出する(もしくはその逆)を実現する効果を奏する。
つまり、上記構成のマージモードパラメータ導出部303によれば、基本マージ候補リストbaseMergeCandListと拡張マージ候補リストextMergeCandListを独立に構築することなく、簡易に2つのマージ候補リストを導出可能である。具体的には、拡張マージ候補リストの一部を構築後、拡張マージ候補リストの一部を利用して基本マージ候補リストを生成する方法(拡張マージ候補リスト優先生成)と、基本マージ候補リストを構築後、基本マージ候補リストを利用して拡張マージ候補リストを生成する方法(基本マージ候補リスト優先生成)がある。
<拡張マージ候補リスト優先生成>
図24は、拡張マージ候補リストextMergeCandListに基づいて、基本マージ候補リストbaseMergeCandListを導出する処理を説明する図である。図24に示すように、本実施形態のマージ候補格納部303611は、第1グループの拡張マージ候補、第1グループの基本マージ候補、第2グループの拡張マージ候補、第2グループの基本マージ候補から構成される拡張マージ候補リストextMergeCandListを構築する。
マージ候補格納部303611)は、上述の処理に従い、図24の(a)〜(i)に示す処理を行う。具体的には、(a)第1グループの拡張マージ候補、(b)第1グループの基本マージ候補、(c)第2グループの拡張マージ候補、(d)第2グループの基本マージ候補の一部である空間マージ候補と時間マージ候補から、拡張マージ候補リストextMergeCandListの前半部分を構築する。図24の(a)は既に説明した式F1から式F8、(b)は式F9から式F13、(c)は式F14から式F21、(d)は、式F22から式F25のColを追加するまでに対応する。
マージ候補格納部303611は、(e)第1グループの基本マージ候補と(f)第2グループの基本マージ候補の一部から基本マージ候補リストbaseMergeCandListの前半部分を構築する。マージモードパラメータ導出部303はさらに、拡張マージ候補を参照して導出された(g)基本マージ候補リストbaseMergeCandListの前半部分から結合マージ候補を生成する。マージモードパラメータ導出部303はまた(h)ゼロマージ候補を構築する。最後に、マージモードパラメータ導出部303は、(i)生成された結合マージ候補とゼロマージ候補を拡張マージ候補リストextMergeCandListに追加し、拡張マージ候補リストextMergeCandListの構築が完了させる。
結合マージ候補の導出では、結合マージ候補の前に追加される基本マージ候補リストのマージ候補を参照する。結合マージ候補導出で参照するマージ候補は、A1、B1、A0、B0、B2の空間マージ候補と時間マージ候補Colである。結合マージ候補を導出する際に、基本マージ候補リストに追加されたマージ候補からそれらのマージ候補を特定する必要はない(つまり、どれがA1でどれがB1であるかを特定する必要はない)。
本実施形態のマージ候補格納部303611で拡張マージ候補リストを構築する場合も同じく、結合マージ候補導出に必要な特定のマージ候補を特定する必要はない。具体的には、図24の(g)で示す結合マージ候補を導出する処理で参照されるマージ候補は、図24の(e)と(f)に示す処理である拡張マージ候補リストextMergeCandListに追加した基本マージ候補の参照でなされる。これは、図24の(e)と(f)に示す参照(再利用)は、第1グループの基本マージ候補の先頭要素(ここではA1)、第2グループの基本マージ候補の先頭要素(A0)の位置と、第1グループの基本マージ候補の数(ここではA1、B1、B0のうち利用可能であるとして拡張マージ候補リストextMergeCandListに追加された数)と、第2グループの基本マージ候補の数(ここではA0、B2、Colの利用可能であるとして拡張マージ候補リストextMergeCandListに追加された数)を記録すれば良い。つまり、本実施形態では、拡張マージ候補リストextMergeCandListの一部を、基本マージ候補リストとみなして再利用する。もしくは、拡張マージ候補リストextMergeCandListから容易に、結合マージ候補の導出に必要な基本マージ候補リストの前半部分(A1、B1、A0、B0、B2、Col)を導出することができるため、個々のマージ候補の拡張マージ候補リストextMergeCandListの位置や、利用可能性(Availability)を記録することなく、結合マージ候補の導出が可能である効果を奏する。
これにより、基本マージ候補リストbaseMergeCandListをスクラッチから構築することはなく、構築途中の拡張マージ候補リストextMergeCandListを利用して、拡張マージ候補リストextMergeCandListで必要な結合マージ候補を導出する効果を奏する。
実際、拡張マージ候補リストextMergeCandListに各候補を追加した後に、結合マージ候補の導出で参照する各候補にアクセスできるように各候補を明示的に記録したり、マージ候補の拡張マージ候補リストextMergeCandListの位置や、利用可能性(Availability)を記録することは実装を複雑化するため、本実施形態の構成は重要である。 図24では、一度、拡張マージ候補リストextMergeCandListを参照して基本マージ候補リストbaseMergeCandListの一部を構築する例を示したが、基本マージ候補リストbaseMergeCandListの一部を構築することなく、拡張マージ候補リストextMergeCandListを直接、参照しても良い。図25(a)〜(h)に、この場合のマージモードパラメータ導出部303(マージ候補格納部303611)の動作を示す。マージ候補格納部303611は、(a)第1グループの拡張マージ候補(T、D、IvMC)、(b)第1グループの基本マージ候補(A1、B1、B0)、(c)第2グループの拡張マージ候補(IvDC、VSP、IvMCShift、IvDCShift)、(d)第2グループの基本マージ候補の一部である空間マージ候補(A0、B2)と時間マージ候補Colから、拡張マージ候補リストextMergeCandListの前半部分を構築する。マージモードパラメータ導出部303は、(g)拡張マージ候補リストextMergeCandListの前半部分に記録された基本マージ候補(ここではA1、B1、B0、A0、B2、Col)から結合マージ候補を導出する(ここではComb0、Comb1)。さらにマージ候補格納部303611は、(h)ゼロマージ候補を導出する。図25(g)では、(b)(d)で追加された基本マージ候補の一部を直接参照して、結合マージ候補を導出する。基本マージ候補を直接、参照する場合も、マージ候補格納部303611は、第1グループの基本マージ候補の先頭要素(A1)、第2グループの基本マージ候補の先頭要素(ここではA0)の位置と、第1グループの基本マージ候補の数(ここではA1、B1、B0のうち利用可能である数)と、第2グループの基本マージ候補の数(ここではA0、B2、Colの利用可能である数)を記録しておき、拡張マージ候補リストextMergeCandList上の必要な基本マージ候補を適宜参照することで、結合マージ候補を導出することができる。マージ候補格納部303611は、個々のマージ候補の拡張マージ候補リストextMergeCandList上の位置や利用可能性(Availability)を記録する必要はない。
<基本マージ候補リスト優先生成>
図26は、逆に、基本マージ候補リストextMergeCandListに基づいて、拡張マージ候補リストbaseMergeCandListを導出する処理を説明する図である。図26に示すように、本実施形態のマージ候補格納部303611は、第1グループの拡張マージ候補、第1グループの基本マージ候補、第2グループの拡張マージ候補、第2グループの基本マージ候補から構成される拡張マージ候補リストextMergeCandListを構築する。
本実施形態のマージ候補格納部303611は、(a)第1グループの基本マージ候補、第2グループの基本マージ候補の一部を導出し、基本マージ候補リストbaseMergeCandListの前半部分を構築する。
続いて、マージ候補格納部303611は、結合マージ候補導出部30383により(b)基本マージ候補リストbaseMergeCandListの前半部分の基本マージ候補(ここではA1、B1、B0、A0、B2、Col)を参照し、結合マージ候補(ここではComb0、Comb1)を導出し、基本マージ候補リストbaseMergeCandListに追加する。次いで、マージ候補格納部303611は、(c)ゼロマージ候補を追加して、基本マージ候補リストbaseMergeCandListを構築する。
続いて、マージ候補格納部303611は、基本マージ候補リストbaseMergeCandListを利用して、拡張マージ候補リストextMergeCandListを以下のように構築する。(d)第1グループの拡張マージ候補を拡張マージ候補リストextMergeCandListに追加(e)基本マージ候補リストbaseMergeCandListを参照して第1グループの基本マージ候補を拡張マージ候補リストextMergeCandListに追加(f)第2グループの拡張マージ候補を拡張マージ候補リストextMergeCandListに追加。
最後に、マージ候補格納部303611は、(g)基本マージ候補リストbaseMergeCandListを参照して第2グループの基本マージ候補を追加して拡張マージ候補リストextMergeCandListを構築する。
上記動作においても、マージ候補格納部303611は、基本マージ候補リストbaseMergeCandListにおいて第1グループの基本マージ候補の先頭要素(ここではA0)の位置と、と数(ここではA1、B1、B0のうち利用可能であるとして拡張マージ候補リストextMergeCandListに追加された数)、第2グループの基本マージ候補の先頭要素(ここではA0)の位置と数を一時的に記録することで、基本マージ候補の個々のマージ候補の基本マージ候補リスト上の位置と利用可能性(Availability)を記録することなく、基本マージ候補リストbaseMergeCandListから拡張マージ候補リストextMergeCandListを導出可能である。
<プルーニングを含む場合>
マージ候補リストの構築では、冗長なマージ候補を追加しないためのプルーニング処理を行う。プルーニング処理は、通常、既にマージ候補リストに追加されたマージ候補と同じ予測パラメータを有するマージ候補はリストに追加しないことで行われる。本実施形態では、図24を再度参照して本実施形態のマージモードパラメータ導出部303(マージ候補格納部303611)で特徴的なプルーニングについて説明する。
本実施形態のマージモードパラメータ導出部303では、以下のP1、P2の2つの場合に該当するプルーニングのみを行う。逆に、以下のP1、P2に属しないプルーニングは行わない。
・(P1)拡張マージ候補同士のプルーニング
・(P2)拡張マージ候補と基本マージ候補の先頭候補とのプルーニング
また、(P2)は以下の2つに分類できる。
・(P2A)拡張マージ候補と基本マージ候補の先頭候補との、基本マージ候補に対するプルーニング
・(P2B)拡張マージ候補と基本マージ候補の先頭候補との、拡張マージ候補に対するプルーニング
図24の(p1)は、拡張マージ候補であるテクスチャマージ候補Tと拡張マージ候補であるインタービューマージ候補IvMC間の、インタービューマージ候補IvMC間に対するプルーニング(式F5に対応)を示す。これはP1のプルーニングである。
図24の(p2)は、拡張マージ候補IvMCと基本マージ候補A1との間のA1に対するプルーニング(式F8に対応)を示す。これはP2(P2A)のプルーニングである。
図24の(p3)は、基本マージ候補A1と拡張マージ候補IvDCの間のIvDCに対するプルーニング(式F14に対応)を示す。これは、P2(P2B)のプルーニングである。
図24の(p4)は、拡張マージ候補IvMCと拡張マージ候補IvMCShiftの間のIvMCShift対するプルーニング(式F15に対応)を示す。これは、P1のプルーニングである。
これらのP1、P2の特徴を有するプルーニングは、拡張マージ候補優先リスト構築も、基本マージ候補リスト優先構築を阻害しない。拡張マージ候補優先リスト構築も基本マージ候補リスト優先構築も、一方のマージ候補リストを他方のマージ候補リスト構築に利用するために、拡張マージ候補リストと基本マージ候補リストが同一の構成要素を同一の順番で有することを必要としているが、P1、P2の特徴を有するプルーニングはこの条件を壊さない。実際、(P1)のプルーニングは、第1グループもしくは第2グループの拡張マージ候補の数を変化させることはあるが、第1グループの基本マージ候補の位置や数、第1グループの基本マージ候補の位置や数を変化させない。(P2A)のプルーニングが生じると、第1グループの基本マージ候補の先頭候補が存在しないことになる可能性もあるが、プルーニングが生じる場合には、拡張マージ候補が第1グループの基本マージ候補の先頭候補と同じ予測パラメータを有するため、実質的に基本マージ候補の先頭候補が存在することと同値である。第1グループの基本マージ候補の先頭位置は、等しい拡張マージ候補の位置としておけば良い。また、(P2B)のプルーニングでは、拡張マージ候補の導出において、基本マージ候補の先頭候補の特定が必要であるが、拡張マージ候補リスト構築であれば拡張マージ候補リスト中の基本マージ候補の先頭候補の位置、基本マージ候補リスト優先構築であれば、基本マージ候補リスト中の基本マージ候補の先頭候補の位置は記録されているため問題ない。
従って、本実施形態では、式F5、式F8、式F14、式F18であるが、以下のようにP1もしくはP2の条件を有するプルーニングのみを行う。
式F5 P1のプルーニング
式F8 P2Aのプルーニング
式F14 P2Bのプルーニング
式F15 P1のプルーニング
本実施形態では、P1もしくはP2の条件を有するプルーニングのみを行うため、マージモードパラメータ導出部303(マージ候補格納部303611)は基本マージ候補リストbaseMergeCandListをスクラッチから構築することはなく、構築途中の拡張マージ候補リストextMergeCandListを利用して、基本マージ候補を参照することで必要な結合マージ候補を導出する効果を奏する。
なお、マージモードパラメータ導出部303は、(P1)、(P2A)、(P2B)を満たす処理として以下の(P1´)、(P2A´)、(P2B´)の処理を行っても良い。
・(P1´)拡張マージ候補Mが利用可能であり、かつ、(拡張マージ候補Nが利用可能(!availableFlagN)でない、もしくは、拡張マージ候補Nと拡張マージ候補Mの予測パラメータが異なる(differentMotion( N, M ))場合、拡張マージ候補Mを拡張マージ候補リストに追加する。
(P1´)は式では、以下のようになる。
if( availableFlagM && ( !availableFlagN | | differentMotion( N, M ) )) )
extMergeCandList[ i++ ] = M
・(P2A´)基本マージ候補A1が利用可能であり、かつ、(拡張マージ候補Nが利用可能でない、もしくは、拡張マージ候補Nと基本マージ候補A1との予測パラメータが異なる場合、基本マージ候補A1を拡張マージ候補リストに追加する。
(P2A´)は式では、以下のようになる。
if( availableFlagA1 && ( !availableFlagN | | differentMotion( N, A1 ) )) )
extMergeCandList[ i++ ] = A1
・(P2B´)拡張マージ候補Mが利用可能であり、かつ、(基本マージ候補A1が利用可能でない、もしくは、基本マージ候補A1と拡張マージ候補Mの予測パラメータが異なる場合、拡張マージ候補Mを拡張マージ候補リストに追加する。
(P2B´)は式では、以下のようになる。
if( availableFlagM && ( !availableFlagA1 | | differentMotion( A1, M ) )) )
extMergeCandList[ i++ ] = M
<まとめ>
拡張マージ候補リストextMergeCandListは、第1グループの拡張マージ候補、第1グループの基本マージ候補、第2グループの拡張マージ候補、第2グループの基本マージ候補から構成され、マージモードパラメータ導出部303はこの順で導出する。第1グループの基本マージ候補は、基本マージ候補の一部、ここではA1、B1、B0から構成され、第2グループの基本マージ候補は、第1グループの基本マージ候補以外の基本マージ候補から構成される。基本マージ候補の格納順は、拡張マージ候補リストに格納する場合も、基本マージ候補リストに格納する場合も同じとする。すなわち、A1、B1、B0、A0、B2、Col、結合マージ候補、ゼロマージ候補の順に格納する。
さらに、本実施形態のマージ候補格納部303611は、拡張マージ候補リストextMergeCandListに格納する場合、P1もしくはP2の条件を満たすプルーニング処理のみを行う。後述するP3もしくはP4の条件を満たすプルーニングは行わない。すなわち、マージ候補格納部303611、基本マージ候補である空間マージ候補を拡張マージ候補リストに格納する際に、先頭の空間マージ候補A1のみ拡張マージ候補とのプルーニングを行う。また、マージ候補格納部303611、拡張マージ候補を拡張マージ候補リストに格納する際に、拡張マージ候補間もしくは先頭の空間マージ候補であるA1との間のみでプルーニングを行う。
<比較例>
以下、図27を用いて比較例のマージ候補格納部の動作を説明する。比較例のマージ候補格納部は、第1グループの拡張マージ候補、第1グループの基本マージ候補、第2グループの拡張マージ候補、第2グループの基本マージ候補、第3グループの拡張マージ候補、第3グループの基本マージ候補から構成される拡張マージ候補リストextMergeCandListを構築する。
比較例のマージモードパラメータ導出部(マージ候補格納部)は、拡張マージ候補リスト優先の場合には、上述の処理に従い、図27の(a)〜(l)に示す処理を行う。具体的には、マージモードパラメータ導出部は、(a)第1グループの拡張マージ候補、(b)第1グループの基本マージ候補、(c)第2グループの拡張マージ候補、(d)第2グループの基本マージ候補、(e)第3グループの拡張マージ候補、(f)第3グループの基本マージ候補の一部である時間マージ候補から、拡張マージ候補リストextMergeCandListの前半部分を構築する。マージモードパラメータ導出部303は、(g)第1グループの基本マージ候補と(h)第2グループの基本マージ候補(i)第3グループの基本マージ候補の一部から基本マージ候補リストbaseMergeCandListの前半部分を構築する。マージモードパラメータ導出部303はさらに(j)基本マージ候補リストbaseMergeCandListの前半部分から基本マージ候補リストbaseMergeCandListの後半部分である結合マージ候補を生成し(k)ゼロマージ候補を構築する。最後に、マージモードパラメータ導出部は、(l)生成された基本マージ候補リストbaseMergeCandListの後半部分である結合マージ候補とゼロマージ候補を拡張マージ候補リストextMergeCandListに追加することで、拡張マージ候補リストextMergeCandListの構築が完了する。
この比較例では、第1グループ、第2グループ、第3グループの拡張マージ候補と基本マージ候補から拡張マージ候補リストextMergeCandListが構築されるため、第1グループ、第2グループの拡張マージ候補と基本マージ候補から拡張マージ候補リストextMergeCandListが構築される既に説明した実施形態のマージモードパラメータ導出部303では図24の(a)〜(i)の9ステップであったものが、図27の(a)〜(l)12ステップとステップが増加する。また、拡張マージ候補リストextMergeCandListの一部を利用して結合マージ候補を導出する場合にも、第1グループの基本マージ候補の位置と数、第2グループの基本マージ候補の位置と数、、第3グループの基本マージ候補の位置と数を記録する必要があり、複雑度が増加するという課題がある。
以下、図28を用いて比較例のマージ候補格納部の動作を説明する。比較例のマージ候補格納部は、第1グループの拡張マージ候補、第1グループの基本マージ候補、第2グループの拡張マージ候補、第2グループの基本マージ候補、第3グループの拡張マージ候補、第3グループの基本マージ候補から構成される拡張マージ候補リストextMergeCandListを構築する。
比較例のマージモードパラメータ導出部(マージ候補格納部)は、基本マージ候補リスト優先の場合には、上述の処理に従い、図28の(a)〜(j)に示す処理を行う。具体的には、マージモードパラメータ導出部は、(a)第1グループの基本マージ候補、第2グループの基本マージ候補の一部を導出し、基本マージ候補リストbaseMergeCandListの前半部分を構築する。
続いて、マージ候補格納部は、結合マージ候補導出部30383により、(b)基本マージ候補リストbaseMergeCandListの前半部分の基本マージ候補(ここではA1、B1、B0、A0、B2、Col)を参照し、結合マージ候補(ここではComb0、Comb1)を導出し、基本マージ候補リストbaseMergeCandListに追加する。次いで、マージ候補格納部303611は、(c)ゼロマージ候補を追加して、基本マージ候補リストbaseMergeCandListを構築する。
続いて、マージ候補格納部は、基本マージ候補リストbaseMergeCandListを利用して、拡張マージ候補リストextMergeCandListを以下のように構築する。(d)第1グループの拡張マージ候補を拡張マージ候補リストextMergeCandListに追加(e)基本マージ候補リストbaseMergeCandListを参照して第1グループの基本マージ候補を拡張マージ候補リストextMergeCandListに追加(f)第2グループの拡張マージ候補を拡張マージ候補リストextMergeCandListに追加、(g)基本マージ候補リストbaseMergeCandListを参照して第2グループの基本マージ候補を拡張マージ候補リストextMergeCandListに追加、(h)第3グループの拡張マージ候補を拡張マージ候補リストextMergeCandListに追加(i)(j)第3グループの拡張マージ候補を拡張マージ候補リストextMergeCandListに追加。
この比較例では、第1グループ、第2グループ、第3グループの拡張マージ候補と基本マージ候補から拡張マージ候補リストextMergeCandListが構築されるため、第1グループ、第2グループの拡張マージ候補と基本マージ候補から拡張マージ候補リストextMergeCandListが構築される既に説明した実施形態のマージモードパラメータ導出部303では図26の(a)〜(g)の7ステップであったものが、図28の(a)〜(j)の10ステップとステップが増加する。
以上は、プルーニングのない場合であるが、比較例のマージモードパラメータ導出部は、既に説明したP1、P2を満たさない以下のP3のプルーニングも行う。
・(P3)拡張マージ候補と基本マージ候補の先頭候補以外とのプルーニング
また、(P3)は以下の2つに分類できる。
・(P3A)拡張マージ候補と基本マージ候補の先頭以外候補との、基本マージ候補に対するプルーニング
・(P3B)拡張マージ候補と基本マージ候補の先頭以外候補との、拡張マージ候補に対するプルーニング
具体的には、比較例のマージモードパラメータ導出部では図27のp1、p2、p3、p5、p6で示すプルーニングを行う。p1〜p3のプルーニングは、既に、図24を用いて説明したものであり、P1、P2を満たす。p5のプルーニングは、拡張マージ候補であるインタービュー候補IvMCと基本マージ候補の先頭以外候補であるB1候補との、基本マージ候補B1に対するプルーニングであり、P3(P3A)に該当する。P3Aは以下のP3A´とも表現できる。
・(P3A´)基本マージ候補B1が利用可能であり、かつ、(拡張マージ候補Nが利用可能でない、もしくは、拡張マージ候補Nと基本マージ候補B1との予測パラメータが異なる場合、基本マージ候補B1を拡張マージ候補リストに追加する。
(P3A´)は式では、以下のようになる。
if( availableFlagA1 && ( !availableFlagN | | differentMotion( N, B1 ) )) )
extMergeCandList[ i++ ] = B1
このプルーニングが生じた場合には、B1候補が拡張マージ候補リストextMergeCandListから存在しなくなる。その場合、拡張マージ候補リストextMergeCandListの基本マージ候補を用いて、基本マージ候補リストbaseMergeCandListの前半部分を構築する処理、具体的には、図24(g)が実施できない。すなわち、結合マージ候補の導出には、A1、B1、B0、A0、B2、Col候補が必要であるが、先頭候補以外(ここではB1)のプルーニングにより、B1候補が拡張マージ候補リストextMergeCandListに追加されないと、拡張マージ候補リストextMergeCandListの一部を利用して、A1、B1、B0、A0、B2、Colを参照することができない。この場合、各候補を記憶するかなどが必要になるという課題がある。
さらに、比較例のマージモードパラメータ導出部はp6のプルーニングを行う。p6のプルーニングは、拡張マージ候補である変位マージ候補IvDCと基本マージ候補の先頭以外候補であるB1候補との、変位マージ候補IvDCに対するプルーニングでありP3(P3B)に該当する。P3Bは以下のP3B´とも表現できる。
・(P3B´)拡張マージ候補Mが利用可能であり、かつ、(基本マージ候補A1が利用可能でない、もしくは、基本マージ候補A1と拡張マージ候補Mの予測パラメータが異なる場合、拡張マージ候補Mを拡張マージ候補リストに追加する。
(P3B´)は式では、以下のようになる。
if( availableFlagIvDC && ( !availableFlagB1 | | differentMotion( B1, IvDC ) )) )
extMergeCandList[ i++ ] = IvDC
このプルーニングを行うためには、拡張マージ候補リストextMergeCandList優先により導出する場合には、拡張マージ候補リストextMergeCandList中のB1候補、基本マージ候補リストbaseMergeCandList優先により導出する場合には、基本マージ候補リストbaseMergeCandList中のB1候補の位置と利用可能性を記録する必要がある。これは、本実施形態の例に示すように、第1グループの基本マージ候補の先頭マージ候補(A1)の位置と第2グループの基本マージ候補の先頭マージ候補(ここではA0)の位置と数を記録する場合に比べて複雑となるという課題がある。
本実施形態のマージモードパラメータ導出部303(マージ候補格納部303611)は、マージ候補リストの再利用を阻害するP3(P3A、P3B)のプルーニングは行わない。
図12は、空間マージ候補が参照する隣接ブロックの位置を示す図である。A0、A1、B0、B1、B2は各々図12に示す位置に対応し、座標は以下の通りである。予測ユニットの左上座標をxPb、yPb、予測ユニットの幅と高さをnPbW、nPbHとする場合、隣接ブロックの位置は以下の通りとなる。
A0:( xPb - 1, yPb + nPbH )
A1:( xPb - 1, yPb + nPbH - 1 )
B0:( xPb + nPbW, yPb - 1 )
B1:( xPb + nPbW - 1, yPb - 1 )
B2:( xPb - 1, yPb - 1 )
拡張マージ候補導出部30370は、レイヤ間マージ候補導出部30371(インタービューマージ候補導出部30371)、変位マージ候補導出部30373、VSPマージ候補導出部30374(VSP予測部30374)を含んで構成される。拡張マージ候補は、後述の基本マージ候補とは異なるマージ候補であり、少なくとも、テクスチャマージ候補(T)、インタービュ−マージ候補(IvMC)、変位マージ候補(IvDC)、VSPマージ候補(VSP)、インタービューシフトマージ候補(IvMCShift)、変位シフトマージ候補(IvDCShift)の何れかを含む。
(テクスチャマージ候補)
レイヤ間マージ候補導出部30371は、テクスチャマージ候補(T)とインタービューマージ候補(IvMC)、インタービューシフトマージ候補(IvMCShift)を導出する。これらマージ候補は、対象ピクチャと同一POCを持つ別レイヤ(例えばベースレイヤ、ベースビュー)の参照ピクチャから、予測ユニットに対応するブロックを選択し、該ブロックが有する動きベクトルである予測パラメータを予測パラメータメモリ307から読み出すことで導出される。
テクスチャマージ候補(T)は、レイヤ間マージ候補導出部30371において、対象ピクチャがデプスの場合に導出される。テクスチャマージ候補(T)は、対象ピクチャと同じビューIDを有するデプスピクチャから参照ブロックを特定し、参照ブロックの動きベクトルを読み出すことで導出される。
参照ブロックの座標(xRef, yRef)は、予測ユニットの左上座標をxPb、yPb、予測ユニットの幅と高さをnPbW、nPbHとする場合、以下の式から導出される。
xRefFull = xPb + ( ( nPbW - 1 ) >> 1 )
yRefFull = yPb + ( ( nPbH - 1 ) >> 1 )
xRef = Clip3( 0, PicWidthInSamplesL - 1, ( xRefFull >> 3 ) << 3 )
yRef = Clip3( 0, PicHeightInSamplesL - 1,( yRefFull >> 3 ) << 3 )
なお、PicWidthInSamplesLとPicHeightInSamplesL は、それぞれ画像の幅と高さを表し、関数Clip3(x,y,z)は、zをx以上、y以下に制限(クリップ)し、その制限した結果を返す関数である。
参照ブロックの動きベクトルをtextMvLXとすると、テクスチャマージ候補の動きベクトルmvLXTは次の式で導出される。
mvLXT[ 0 ] = ( textMvLX[ xRef ][ yRef ][ 0 ] + 2 ) >> 2
mvLXT[ 1 ] = ( textMvLX[ xRef ][ yRef ][ 1 ] + 2 ) >> 2
なお、テクスチャマージ候補では、予測ユニットをさらに分割したサブブロック単位で予測パラメータを割り当てても構わない。
(インタービューマージ候補)
インタービューマージ候補は、レイヤ間マージ候補導出部30371において、後述の変位ベクトル導出部352が特定した対象ピクチャと同一POCを有し、異なるビューID(refViewIdx)を有する参照ピクチャivRefPicの参照ブロックから動きベクトルなどの予測パラメータを読み出すことで導出される。この処理をテンポラルインタービュー動き候補導出処理と呼ぶ。レイヤ間マージ候補導出部30371は、テンポラルインタービュー動き候補導出処理として、まず、ブロックの左上座標を(xPb、yPb)、ブロックの幅と高さをnPbW、nPbH、変位ベクトル導出部352から導出される変位ベクトルを(mvDisp[0], mvDisp[1])とする場合に、参照座標(xRef, yRef)を以下の式から導出する。
xRefFull = xPb + ( nPbW >> 1 ) + ( ( mvDisp[ 0 ] + 2 ) >> 2 )
yRefFull = yPb + ( nPbH >> 1 ) + ( ( mvDisp[ 1 ] + 2 ) >> 2 )
xRef = Clip3( 0, PicWidthInSamplesL - 1, ( xRefFull >> 3 ) << 3 )
yRef = Clip3( 0, PicHeightInSamplesL - 1, ( yRefFull >> 3 ) << 3 )
次に、レイヤ間マージ候補導出部30371は、図示しないテンポラルインタービュー動き候補導出部303711において、テンポラルインタービュー動き候補導出処理を行う。
テンポラルインタービュー動き候補導出部303711は、ブロックの座標(xPb, yPb)、ブロックの幅nPbW, nPbH、ブロックの変位ベクトルmvDispから、上記処理により、参照ブロック位置(xRef, yRef)を導出し、さらに参照ブロック位置(xRef, yRef)に位置する参照ピクチャivRefPic上の予測ユニットのベクトルを参照し、テンポラルインタービュー動き候補のベクトルを導出する。まず、参照ブロック位置(xRef, yRef)
で示される座標を含む参照ピクチャivRefPic上の予測ユニット(輝度予測ブロック)の左上座標を(xIvRefPb,yIvRefPb)、参照ピクチャivRefPic上の予測ユニットが備える参照ピクチャリスト、予測リストフラグ、ベクトル、参照ピクチャインデックスを各々refPicListLYIvRef, predFlagLYIvRef[ x ][ y ], mvLYIvRef[ x ][ y ], refIdxLYIvRef[ x ][ y ]と置く。
テンポラルインタービュー動き候補導出部303711は、予測利用フラグpredFlagLYIvRef[ xIvRefPb ][ yIvRefPb ]が1の場合には、0から参照ピクチャリスト要素数−1(num_ref_idx_lX_active_minus1)のインデックスiについて、参照ピクチャivRefPic上の予測ユニットのPOCであるPicOrderCnt( refPicListLYIvRef[ refIdxLYIvRef[ xIvRefPb ][ yIvRefPb ] ])と対象予測ユニットの参照ピクチャのPOCであるPicOrderCnt( RefPicListLX[ i ] )が等しいか否かを判定し、等しい場合(すなわちmvLYIvRef[ xIvRefPb ][ yIvRefPb ]が変位ベクトルである場合に)、予測可能フラグavailableFlagLXInterView、ベクトルmvLXInterView、参照ピクチャインデックスrefIdxLXを以下の式により導出する。
availableFlagLXInterView = 1
mvLXInterView = mvLYIvRef[ xIvRefPb ][ yIvRefPb ]
refIdxLX = i
すなわち、テンポラルインタービュー動き候補導出部303711は、対象予測ユニットが参照する参照ピクチャと、参照ピクチャivRefPic上の予測ユニットが参照する参照ピクチャが同一の場合には、参照ピクチャivRefPic上の予測ユニットの予測パラメータを用いて、ベクトルmvLXInterViewと参照ピクチャインデックスrefIdxLXを導出する。 なお、インタービューマージ候補では、予測ユニットをさらに分割したサブブロック単位で予測パラメータを割り当てても構わない。例えば、予測ユニットの幅と高さがnPbW、nPbH、サブブロックの最小サイズがSubPbSizeの場合には、サブブロックの幅nSbWと高さnSbHを以下の式により導出する。
nSbW = nPbW / SubPbSize <= 1 ? nPbW : SubPbSizen
nSbH = nPbH / SubPbSize <= 1 ? nPbH : SubPbSize
続いて、上述のテンポラルインタービュー動き候補導出部303711により各サブブロックに対して、ベクトルspMvLX[ xBlk ][ yBlk ]、参照ピクチャインデックスspRefIdxLX[ xBlk ][ yBlk ]、予測利用フラグspPredFlagLX[ xBlk ][ yBlk ]を導出する。
ここで(xBlk、yBlk)は、サブブロックの予測ユニット内の相対座標(予測ユニットの左上座標を基準とした座標)であり、各々0から( nPbW / nSbW - 1 )、0から( nPbH / nSbH - 1 )の整数値をとる。予測ユニットの座標を(xPb、yPb)、サブブロックの予測ユニット内の相対座標(xBlk、yBlk)とすると、サブブロックのピクチャ内座標は、 (xPb+xBlk*nSbW,yPb+yBlk*nSbH)で表現される。
サブブロックのピクチャ内座標(xPb+xBlk*nSbW,yPb+yBlk*nSbH)、サブブロックの幅nSbWと高さnSbHを、テンポラルインタービュー動き候補導出部303711の入力の(xPb、yPb)、nPbW、nPbHとして、サブブロック単位で、テンポラルインタービュー動き候補導出処理を行う。
テンポラルインタービュー動き候補導出部303711は、上記処理において、予測可能フラグavailableFlagLXInterViewが0となったサブブロックについては、インタービューマージ候補のベクトルmvLXInterView、参照ピクチャインデックスrefIdxLXInterView、予測利用フラグavailableFlagLXInterViewからサブブロックに対応するベクトルspMvLX、参照ピクチャインデックスspRefIdxLX、予測利用フラグspPredFlagLX、を以下の式により導出する。
spMvLX[ xBlk ][ yBlk ] = mvLXInterView
spRefIdxLX[ xBlk ][ yBlk ] = refIdxLXInterView
spPredFlagLX[ xBlk ][ yBlk ] = availableFlagLXInterView
なお、xBlk、yBlkはサブブロックアドレスであり、各々0から( nPbW / nSbW - 1 )、0から( nPbH / nSbH - 1 )の値をとる。なお、インタービューマージ候補のベクトルmvLXInterView、参照ピクチャインデックスrefIdxLXInterView、予測利用フラグavailableFlagLXInterViewは、( xPb + ( nPbW / nSbW / 2 ) * nSbW, yPb + ( nPbH / nSbH / 2 ) * nSbH )を参照ブロック座標としてテンポラルインタービュー動き候補導出処理を行うことで導出する。
(デプスマージ候補)
デプスマージ候補Dは、拡張マージ候補導出部30370内の図示しないデプスマージ候補導出部において、導出される。デプスマージ候補Dは、変位導出部30363から入力される座標(xRef, yRef)の予測ブロックの変位mvLXD[ xRef ][ yRef ][ 0 ]を以下の式により変換して得られるデプス値dispDerivedDepthValを、予測画像の画素値とするマージ候補である。
dispVal = mvLXD[ xRef ][ yRef ][ 0 ]
dispDerivedDepthVal = DispToDepthF( refViewIdx, dispVal )
ここでDispToDepthF(X, Y)はビューインデックスXのピクチャを参照ピクチャとする場合に、変位Yからデプス値を導出する関数である。
(インタービューシフトマージ候補)
インタービューシフトマージ候補IvMCShiftも、レイヤ間マージ候補導出部30371において、変位ベクトル導出部352が特定した対象ピクチャと同一POCを有し、異なるビューIDを有するピクチャの参照ブロックから動きベクトルなどの予測パラメータを読み出すことで導出される。参照ブロックの座標(xRef, yRef)、予測ユニットの左上座標をxPb、yPb、予測ユニットの幅と高さをnPbW、nPbH、変位ベクトル導出部352から導出される変位ベクトルが、mvDisp[0], mvDisp[1]とする場合、以下の式から導出される。
xRefFull = xPb + ( nPbW >> 1 ) + ( ( mvDisp[ 0 ] + nPbW * 2 + 4 + 2 ) >> 2 )
yRefFull = yPb + ( nPbH >> 1 ) + ( ( mvDisp[ 1 ] + nPbH * 2 + 4 + 2 ) >> 2 )
xRef = Clip3( 0, PicWidthInSamplesL - 1, ( xRefFull >> 3 ) << 3 )
yRef = Clip3( 0, PicHeightInSamplesL - 1, ( yRefFull >> 3 ) << 3 )
(変位マージ候補)
変位マージ候補導出部30373は、変位ベクトル導出部352から入力される変位ベクトルから、変位マージ候補(IvDC)、変位シフトマージ候補(IvDCShift)を導出する。変位マージ候補導出部30373は、入力された変位ベクトル(mvDisp[0], mvDisp[1])に基づいて、水平成分がmvDisp[0]であり、垂直成分が0であるベクトルを変位マージ候補(IvDC)として、以下の式により生成する。
mvL0IvDC[ 0 ] = DepthFlag ? ( mvDisp[ 0 ] + 2 ) >> 2 : mvDisp[ 0 ]
mvL0IvDC[ 1 ] = 0
ここで、DepthFlagは、デプスの場合に1となる変数である。
変位マージ候補導出部30373は、生成したベクトルと、変位ベクトルが指す先のレイヤ画像の参照ピクチャインデックスrefIdxLX(例えば、復号対象ピクチャと同一POCを持つベースレイヤ画像のインデックス)をマージ候補としてマージ候補格納部303611に出力する。
変位マージ候補導出部30373は、変位シフトマージ候補(IvDC)として、変位マージ候補を水平方向にずらしたベクトルを有するマージ候補を以下の式により導出する。
mvLXIvDCShift[ 0 ] = mvL0IvDC[ 0 ] + 4
mvLXIvDCShift[ 1 ] = mvL0IvDC[ 1 ]
(VSPマージ候補)
VSPマージ候補導出部30374(以下、VSP予測部30374)は、VSP(視点合成予測:View Synthesis Prediction)マージ候補を導出する。VSP予測部30374は、予測ユニットを複数のサブブロック(サブ予測ユニット)に分割し、分割したサブブロック単位で、ベクトルmvLXと参照ピクチャインデックスrefIdxLX、ビューIDRefViewIdxを設定する。VSP予測部30374は、導出したVSPマージ候補をマージ候補格納部303611に出力する。
図14はVSP予測部30374と他の手段の関係を示すブロック図である。VSP予測部30374は、分割フラグ導出部353の導出する分割フラグhorSplitFlagと、デプスDV導出部351の導出する変位ベクトルを用いて動作する。
VSP予測部30374の図示しないパーティション分割部は、分割フラグ導出部353の導出した分割フラグhorSplitFlagに応じて、横長長方形(ここでは8×4)と縦長長方形(ここでは4×8)のいずれかを選択することでサブブロックサイズを決定する。具体的には、以下の式を用いてサブブロックの幅nSubBlkWと高さnSubBlkHを設定する。
nSubBlkW = horSplitFlag ? 8 : 4
nSubBlkH = horSplitFlag ? 4 : 8
VSP予測部30374の図示しないデプスベクトル導出部は、導出されたサブブロックサイズの各々のサブブロックに対して、デプスDV導出部351から導出された動きベクトルdisparitySampleArray[]を水平成分の動きベクトルmvLX[0]、0を垂直成分の動きベクトルmvLX[1]としてベクトルmvLX[]を導出し、VSPマージ候補の予測パラメータを導出する。
また、VSP予測部30374は、インター予測パラメータ復号制御部3031から入力された残差予測インデックスiv_res_pred_weight_idx及び照度補償フラグic_flagに応じてVSPマージ候補をマージ候補リストmergeCandListに追加するか否かを制御してもよい。具体的には、VSP予測部30374は、残差予測インデックスiv_res_pred_weight_idxが0、かつ、照度補償フラグic_flagが0の場合のみ、マージ候補リストmergeCandListの要素にVSPマージ候補を追加しても良い。
基本マージ候補導出部30380は、空間マージ候補導出部30381と時間マージ候補導出部30382と結合マージ候補導出部30383とゼロマージ候補導出部30384を含んで構成される。基本マージ候補は、ベースレイヤで用いられるマージ候補であり、すなわち、スケーラブルではなくHEVC(例えばHEVCメインプロファイル)で用いられるマージ候補であり、少なくとも空間マージ候補、時間マージ候補の何れかを含む。
空間マージ候補導出部30381は、所定の規則に従って、予測パラメータメモリ307が記憶している予測パラメータ(予測利用フラグpredFlagLX、ベクトルmvLX、参照ピクチャインデックスrefIdxLX)を読み出し、読み出した予測パラメータを空間マージ候補として導出する。読み出される予測パラメータは、予測ユニットから予め定めた範囲内にあるブロック(例えば、予測ユニットの左下端、左上端、右上端にそれぞれ接するブロックの全部又は一部)である隣接ブロックのそれぞれに係る予測パラメータである。導出された空間マージ候補はマージ候補格納部303611に格納される。
空間マージ候補導出部30381では、隣接ブロックのVSPモードフラグVspModeFlagを継承して導出するマージ候補のVSPモードフラグmergeCandIsVspFlagを設定する。すなわち、隣接ブロックのVSPモードフラグVspModeFlagが1の場合、対応する空間マージ候補のVSPモードフラグmergeCandIsVspFlagを1、それ以外の場合はVSPモードフラグmergeCandIsVspFlagを0とする。
以下、時間マージ候補導出部30382、結合マージ候補導出部30383、ゼロマージ候補導出部30384が導出するマージ候補では、VSPモードフラグVspModeFlagを0に設定する。
時間マージ候補導出部30382は、予測ユニットの右下の座標を含む参照画像中のブロックの予測パラメータを予測パラメータメモリ307から読みだしマージ候補とする。参照画像の指定方法は、例えば、スライスヘッダで指定されるコロケートピクチャcol_ref_idxと、参照ピクチャリストRefPicListXから指定されるRefPicListX[col_ref_idx]で指定される参照ピクチャインデックスrefIdxLXを用いればよい導出されたマージ候補はマージ候補格納部303611に格納される。
結合マージ候補導出部30383は、既に導出されマージ候補格納部303611に格納された2つの異なる導出済マージ候補のベクトルと参照ピクチャインデックスを、それぞれL0、L1のベクトルとして組み合わせることで結合マージ候補を導出する。導出されたマージ候補はマージ候補格納部303611に格納される。
ゼロマージ候補導出部30384は、参照ピクチャインデックスrefIdxLXがiであり、ベクトルmvLXのX成分、Y成分が共に0であるマージ候補を、導出したマージ候補数が最大値に達するまで導出する。参照ピクチャインデックスrefIdxLXを示すiの値は、0から順に割り振られる。導出されたマージ候補はマージ候補格納部303611に格納される。
図10は、本実施形態に係るAMVP予測パラメータ導出部3032の構成を示す概略図である。AMVP予測パラメータ導出部3032は、ベクトル候補導出部3033と予測ベクトル選択部3034、インター予測識別子導出部3035を備える。ベクトル候補導出部3033は、参照ピクチャインデックスrefIdxに基づいて予測パラメータメモリ307が記憶するベクトルを読み出し、ベクトル候補リストmvpListLXを生成する。参照ブロックは、予測ユニットの位置を基準として予め定めた位置にあるブロック(例えば、予測ユニットの左下端、右上端、時間的に隣接するブロック)である。
予測ベクトル選択部3034は、ベクトル候補導出部3033が導出したベクトル候補mvpListLXのうち、インター予測パラメータ復号制御部3031から入力された予測ベクトルフラグmvp_LX_flagが示すベクトルmvpListLX[ mvp_lX_flag]を予測ベクトルmvpLXとして選択する。予測ベクトル選択部3034は、選択した予測ベクトルmvpLXを加算部3035に出力する。
加算部3035は、予測ベクトル選択部3034から入力された予測ベクトルmvpLXとインター予測パラメータ復号制御部から入力された差分ベクトルmvdLXを加算してベクトルmvLXを算出する。加算部3035は、算出したベクトルmvLXを予測画像生成部308に出力する。
図15は、本発明の実施形態のインター予測パラメータ復号制御部3031の構成を示すブロック図である。図15に示すように、インター予測パラメータ復号制御部3031は、分割モード復号部30311、インター予測識別子復号部30312、及び図示しない、マージフラグ復号部、マージインデックス復号部、インター予測識別子復号部、参照ピクチャインデックス復号部、ベクトル候補インデックス復号部、ベクトル差分復号部、残差予測インデックス復号部、照度補償フラグ復号部を含んで構成される。分割モード復号部、マージフラグ復号部、マージインデックス復号部、、参照ピクチャインデックス復号部、ベクトル候補インデックス復号部、ベクトル差分復号部は各々、分割モードpart_mode、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルフラグmvp_LX_flag、差分ベクトルmvdLXを復号する。
インター予測識別子復号部30312は、予測ユニットが、L0予測(PRED_L0)、L0予測(PRED_L1)、双予測(PRED_BI)を示すインター予測識別子inter_pred_flagを復号する。
残差予測インデックス復号部は、エントロピー復号部301を用いて、符号化ユニットCUの分割モードPartMode(part_mode)が2Nx2Nの場合に符号化データから残差予測インデックスiv_res_pred_weight_idxを復号する。それ以外の場合には、残差予測インデックス復号部は、iv_res_pred_weight_idxに0を設定(infer)する。残差予測インデックス復号部は、復号された残差予測インデックスiv_res_pred_weight_idxをマージモードパラメータ導出部3036とインター予測画像生成部309に出力する。残差予測インデックスは、残差予測の動作を変更するためのパラメータである。本実施形態では、残差予測の重みを示すインデックスであり、0、1、2の値をとる。iv_res_pred_weight_idxが0の場合には、残差予測は行わない。なお、インデックスに応じて残差予測の重みを変化させるのではなく、残差予測に用いるベクトルを変化させても良い。なお、残差予測インデックスではなく、残差予測を行うか否かを示すフラグ(残差予測フラグ)としても良い。
照度補償フラグ復号部は、エントロピー復号部301を用いて、分割モードPartModeが2Nx2Nの場合に符号化データから照度補償フラグic_flagを復号する。それ以外の場合には、照度補償フラグ復号部は、ic_flagに0を設定(infer)する。照度補償フラグ復号部は、復号された照度補償フラグic_flagをマージモードパラメータ導出部3036とインター予測画像生成部309に出力する。
以下、予測パラメータ導出に用いる手段である変位ベクトル導出部352、分割フラグ導出部353、デプスDV導出部351を順に説明する。
(変位ベクトル導出部352)
変位ベクトル導出部352は、対象PUが属する符号化ユニット(対象CU)の変位ベクトル(以下、MvDisp[x][y]、もしくはmvDisp[x][y]と示す)を、符号化ユニットに空間的もしくは時間的に隣接するブロックから抽出する。具体的には、対象CUに時間的に隣接するブロックCol、時間的に隣接する第2のブロックAltCol、空間的に左に隣接するブロックA1、上に隣接するブロックB1を参照ブロックとして、その参照ブロックの予測フラグpredFlagLX、参照ピクチャインデックスrefIdxLXとベクトルmvLXを順に抽出する。 抽出したベクトルmvLXが変位ベクトルである場合には、その隣接ブロックの変位ベクトルを出力する。隣接ブロックの予測パラメータに変位ベクトルが無い場合には、次の隣接ブロックの予測パラメータを読み出し同様に変位ベクトルを導出する。全ての隣接ブロックにおいて変位ベクトルが導出できない場合には、ゼロベクトルを変位ベクトルとして出力する。変位ベクトル導出部352は、また、変位ベクトルを導出したブロックの参照ピクチャインデックス及びビューID(RefViewIdx[x][y]、ここで(xP、yP)は座標)を出力する。
上記により得られた変位ベクトルはNBDV(Neighbour Base Disparity Vector)と呼ばれる。変位ベクトル導出部352は、さらに得られた変位ベクトルNBDVをデプスDV導出部351に出力する。デプスDV導出部351は、デプス由来の変位ベクトルdisparitySampleArrayを導出する。変位ベクトルdisparitySampleArrayを動きベクトルの水平成分mvLX[0]として、変位ベクトルとすることにより変位ベクトルを更新する。更新された変位ベクトルは、DoNBDV(Depth Orientated Neighbour Base Disparity Vector)と呼ばれる。変位ベクトル導出部352は、変位ベクトル(DoNBDV)をレイヤ間マージ候補導出部30371、変位マージ候補導出部30373及びVSPマージ候補導出部30374に出力する。さらに、得られた変位ベクトル(NBDV)を、インター予測画像生成部309に出力する。
(分割フラグ導出部353)
分割フラグ導出部353は、対象ブロックに対応するデプス画像を参照し、分割フラグhorSplitFlagを導出する。分割フラグ導出部353の入力として設定される対象ブロックの座標を(xP, yP)、幅と高さをnPSW、nPSH、変位ベクトルをmvDispであるとして以下、説明する。分割フラグ導出部353は、対象ブロックの幅と高さが等しい場合にはデプス画像を参照するが、対象ブロックの幅と高さが等しくない場合には、デプス画像を参照せずに、分割フラグhorSplitFlagを導出するを導出しても良い。以下、分割フラグ導出部353の詳細を説明する。
分割フラグ導出部353は、参照ピクチャメモリ306から、復号対象ピクチャと同一POCを持ち、なお且つ、変位ベクトルmvDispが示す参照ピクチャのビューID(RefViewIdx)と同じビューIDであるデプス画像refDepPelsを読み出す。
次に、分割フラグ導出部353は、対象ブロックの左上の座標(xP、yP)を変位ベクトルMvDispだけずらした座標(xTL, yTL)を、以下の式により導出する。
xTL = xP + ( ( mvDisp[ 0 ] + 2 ) >> 2 )
yTL = yP + ( ( mvDisp[ 1 ] + 2 ) >> 2 )
ここで、mvDisp[ 0 ]、mvDisp[ 1 ]は、それぞれ変位ベクトルMvDispのX成分とY成分である。導出する座標(xTL, yTL)は、デプス画像refDepPels上の対象ブロックに対応するブロックの座標を示すものである。
分割フラグ導出部353は、対象ブロックの幅nPSWもしくは高さnPSHが8の倍数以外の場合に、以下の式によりフラグminSubBlkSizeFlagを1に設定する。
minSubBlkSizeFlag = ( nPSW % 8 != 0) | | ( nPSH % 8 != 0 )
分割フラグ導出部353は、フラグminSubBlkSizeFlagが1の場合、以下の式により、対象ブロックの高さが8の倍数以外の場合(nPSH % 8が真の場合)には、horSplitFlagに1、それ以外の場合には、0を設定する。
horSplitFlag = ( nPSH % 8 ! = 0 )
すなわち、対象ブロックの高さが8の倍数以外の場合(nPSH % 8が真の場合)には、horSplitFlagに1、対象ブロックの幅が8の倍数以外の場合(nPSW % 8が真の場合)には、horSplitFlagに0が設定される。
分割フラグ導出部353は、デプス値からサブブロックサイズを導出する。予測ブロックのコーナーの4点(TL、TR、BL、BR)の比較から、サブブロックサイズを導出する。フラグminSubBlkSizeFlagが0の場合、対象ブロックの左上端(TL)の座標のデプス画像の画素値をrefDepPelsP0、右上端(TR)の画素値をrefDepPelsP1、左下端(BL)の画素値をrefDepPelsP2、右下端(BR)の画素値をrefDepPelsP3とした場合、
horSplitFlag=( refDepPelsP0 > refDepPelsP3 ) == ( refDepPelsP1 > refDepPelsP2 )
の条件式(horSplitFlag)が成立するかを判定する。
なお、horSplitFlagの導出には、符号を変更した以下の式を用いても良い。
horSplitFlag=( refDepPelsP0 < refDepPelsP3 ) == ( refDepPelsP1 < refDepPelsP2 )
分割フラグ導出部353は、horSplitFlagを、VSP予測部30374に出力する。
なお、分割フラグ導出部353は、以下のように導出しても良い。対象ブロックの幅nPSWと高さnPSHが異なる場合には、対象ブロックの幅と高さに応じて以下の式により導出する。
nPSW > nPSHであれば、horSplitFlag=1
それ以外でnPSH > nPSWであれば、horSplitFlag=0
それ以外、対象ブロックの幅と高さが等しい場合にはデプスを参照して以下の式に応じて導出する。
horSplitFlag=( refDepPelsP0 > refDepPelsP3 ) == ( refDepPelsP1 > refDepPelsP2 )
なお、分割フラグ導出部353の対象ブロックは、視点合成予測の場合には予測ユニット、DBBPの場合には幅と高さが等しいブロックである。DBBPの場合には幅と高さが等しいため、上記の導出方法では、デプス画像の4隅を参照して分割フラグhorSplitFlagが導出される。
(デプスDV導出部351)
デプスDV導出部351は、指定されたブロック単位(サブブロック)で、デプス由来の変位ベクトルの水平成分である視差配列disparitySamples(水平ベクトル)を導出する。デプスDV導出部351の入力は、デプスDV変換テーブルDepthToDisparityB、ブロックの幅nBlkWと高さnBlkHと、分割フラグsplitFlagと、デプス画像refDepPelsと、デプス画像refDepPels上の対応ブロックの座標(xTL, yTL)と、ビューIDrefViewIdx、出力は視差配列disparitySamples(水平ベクトル)である。
以下の処理により、
デプスDV導出部351は、対象ブロックごとにデプス代表値maxDep導出に用いる画素を設定する。具体的には、図13に示すように、対象ブロックの左上の予測ブロック(xTL, yTL)からの相対座標を(xSubB、ySubB)とした場合、サブブロックの左端のX座標xP0と、右端のX座標xP1と、上端のY座標yP0と、下端のY座標yP1を、以下の式より求める。
xP0 = Clip3( 0, pic_width_in_luma_samples - 1, xTL + xSubB )
yP0 = Clip3( 0, pic_height_in_luma_samples - 1, yTL + ySubB )
xP1 = Clip3( 0, pic_width_in_luma_samples - 1, xTL + xSubB + nBlkW - 1 )
yP1 = Clip3( 0, pic_height_in_luma_samples - 1, yTL + ySubB + nBlkH - 1 )
ここで、pic_width_in_luma_samplesとpic_height_in_luma_samplesは、それぞれ画像の幅と高さを表す。
次に、デプスDV導出部351は、対象ブロックのデプスの代表値maxDepを導出する。具体的には、サブブロックのコーナーおよびその付近4点のデプス画像の画素値refDepPels[ xP0 ][ yP0 ]、refDepPels[ xP0 ][ yP1 ]、refDepPels[ xP1 ][ yP0 ]、refDepPels[ xP1 ][ yP1 ]の最大値である代表デプス値maxDepを、以下の式より導出する。
maxDep = 0
maxDep = Max( maxDep, refDepPels[ xP0 ][ yP0 ] )
maxDep = Max( maxDep, refDepPels[ xP0 ][ yP1 ] )
maxDep = Max( maxDep, refDepPels[ xP1 ][ yP0 ] )
maxDep = Max( maxDep, refDepPels[ xP1 ][ yP1 ] )
ここで、また、関数Max(x,y)は、第1引数xが第2引数y以上であればxを、そうでなければyを返す関数である。
デプスDV導出部351は、代表デプス値maxDepとデプスDV変換テーブルDepthToDisparityBと、変位ベクトル(NBDV)が示すレイヤのビューIDrefViewIdxを用いて、デプス由来の変位ベクトルの水平成分である視差配列disparitySamplesを、対象ブロック内の画素(x、y)(xは0からnBlkW-1、yは0からnBlkH-1の値を取る)ごとに、以下の式により導出する。
disparitySamples[x][y] = DepthToDisparityB[refViewIdx][maxDep]・・(式A)
デプスDV導出部351は、導出した視差配列disparitySamples[]を変位ベクトルDoNBDV(の水平成分)として、変位ベクトル導出部352に出力する。デプスDV導出部351は、また、VSP予測部30374に変位ベクトル(の水平成分)として出力する。
(インター予測画像生成部309)
図16は、本実施形態に係るインター予測画像生成部309の構成を示す概略図である。インター予測画像生成部309は、動き変位補償部3091、残差予測部3092、照度補償部3093、重み付け予測部3096を含んで構成される。
インター予測画像生成部309は、インター予測パラメータ復号部303から入力されるサブブロック動き補償フラグsubPbMotionFlagが1の場合にはサブブロック単位で処理し、サブブロック動き補償フラグsubPbMotionFlagが0の場合には予測ユニット単位で以下の処理を行う。なお、サブブロック動き補償フラグsubPbMotionFlagはマージモードとして、インタービューマージ候補が選択された場合、もしくは、VSPマージ候補が選択された場合に1となる。インター予測画像生成部309は、予測パラメータを動き変位補償部3091により、予測画像predSamplesを導出する。また、インター予測画像生成部309は、残差予測インデックスiv_res_pred_weight_idxが0ではない場合に、残差予測実施フラグresPredFlagに残差予測を実行することを示す1を設定し、動き変位補償部3091と残差予測部3092に出力する。一方、残差予測インデックスiv_res_pred_weight_idxが0である場合に、残差予測実施フラグresPredFlagに0を設定し、動き変位補償部3091と残差予測部3092に出力する。
動き変位補償部3091、残差予測部3092、照度予測部3093、単予測(predFlagL0=1もしくはpredFlagL1=1)の場合にはL0の動き補償画像predSamplesL0もしくはL1の動き補償画像predSamplesL1を導出し、双予測(predFlagL0=1かつpredFlagL1=1)の場合には、L0の動き補償画像predSamplesL0とL1の動き補償画像predSamplesL1を導出し、重み付け予測部3096に出力する。重み付け予測部3096は単予測の場合には、1つの動き補償画像predSamplesL0もしくはpredSamplesL1から予測画像predSamplesを導出し、双予測の場合には、2つの2つの動き補償画像predSamplesL0とpredSamplesL1から予測画像predSamplesを導出する。
(動き変位補償)
動き変位補償部3091は、予測利用フラグpredFlagLX、参照ピクチャインデックスrefIdxLX、ベクトルmvLX(動きベクトル、又は変位ベクトル)に基づいて、動き予測画像predSampleLXを生成する。動き変位補償部3091は、参照ピクチャメモリ306から、参照ピクチャインデックスrefIdxLXで指定された参照ピクチャの予測ユニットの位置を起点として、ベクトルmvLXだけずれた位置にあるブロックを読み出し補間することによって予測画像を生成する。ここで、ベクトルmvLXが整数ベクトルでない場合には、動き補償フィルタ(もしくは変位補償フィルタ)と呼ばれる小数位置の画素を生成するためのフィルタを施して、予測画像を生成する。一般に、ベクトルmvLXが動きベクトルの場合、上記処理を動き補償と呼び、変位ベクトルの場合は変位補償と呼ぶ。ここでは総称して動き変位補償と表現する。以下、L0予測の予測画像をpredSamplesL0、L1予測の予測画像をpredSamplesL1と呼ぶ。両者を区別しない場合predSamplesLXと呼ぶ。以下、動き変位補償部3091で得られた予測画像predSamplesLXに、さらに残差予測および照度補償が行われる例を説明するが、これらの出力画像もまた、予測画像predSamplesLXと呼ぶ。なお、以下の残差予測および照度補償において、入力画像と出力画像を区別する場合には、入力画像をpredSamplesLX、出力画像をpredSamplesLX´と表現する。
動き変位補償部3091は、残差予測実施フラグresPredFlagが0の場合には、輝度成分は8タップ、色差成分は4タップの動き補償フィルタにより、動き補償画像predSamplesLXを生成する。残差予測実施フラグresPredFlagが1の場合には、輝度成分、色差成分ともに2タップの動き補償フィルタにより、動き補償画像predSamplesLXを生成する。
なお、サブブロック動き補償フラグsubPbMotionFlagが1の場合に、動き変位補償部3091は、サブブロック単位で動き補償を行う。具体的には、座標(xCb, yCb)のサブブロックのベクトル、参照ピクチャインデックス、参照リスト利用フラグを、以下の式から導出する。
MvL0[xCb+x][ yCb+y] = subPbMotionFlag ? SubPbMvL0[xCb+x][ yCb+y] : mvL0
MvL1[xCb+x][ yCb+y] = subPbMotionFlag ? SubPbMvL1[xCb+x][ yCb+y] : mvL1
RefIdxL0[xCb+x][ yCb+y] = subPbMotionFlag ? SubPbRefIdxL0[xCb+x][ yCb+y] : refIdxL0
RefIdxL1[xCb+x][ yCb+y] = subPbMotionFlag ? SubPbRefIdxL1[xCb+x][ yCb+y] : refIdxL1
PredFlagL0[xCb+x][ yCb+y] = subPbMotionFlag ? SubPbPredFlagL0[xCb+x][ yCb+y] : predFlagL0
PredFlagL1[xCb+x][ yCb+y] = subPbMotionFlag ? SubPbPredFlagL1[xCb+x][ yCb+y] : predFlagL1
ここで、SubPbMvLX、SubPbRefIdxLX、SubPbPredFlagLX(Xは0, 1)は、レイヤ間マージ候補導出部30371で説明したsubPbMvLX、subPbRefIdxLX、subPbPredFlagLXに対応する。
(残差予測)
残差予測部3092は、残差予測実施フラグresPredFlagが1の場合に、残差予測を行う。残差予測部3092は、残差予測実施フラグresPredFlagが0の場合には、入力された予測画像predSamplesLXをそのまま出力する。refResSamples残差予測は、動き予測もしくは変位予測により生成される動き補償画像predSamplesLXの残差を推定し、対象レイヤの予測画像predSamplesLXに加えることにより行われる。具体的には、予測ユニットが動き予測の場合には、参照レイヤと同様の残差が対象レイヤにも生じると仮定して、既に導出された参照レイヤの残差を対象レイヤの残差の推定値として用いる。予測ユニットが変位予測の場合には、対象ピクチャとは異なる時刻(POC)の参照レイヤのピクチャと対象レイヤのピクチャの残差を、残差の推定値として用いる。
残差予測部3092も、動き変位補償部3091と同様、サブブロック動き補償フラグsubPbMotionFlagが1の場合に、サブブロック単位で残差予測を行う。
図17は残差予測部3092の構成を示すブロック図である。残差予測部3092は、参照画像補間部30922と、残差合成部30923から構成される。
参照画像補間部30922は、残差予測実施フラグresPredFlagが1の場合には、インター予測パラメータ復号部303から入力されたベクトルmvLXと残差予測変位ベクトルmvDisp、参照ピクチャメモリ306に格納された参照ピクチャを用いて、2つの残差予測動き補償画像(対応ブロックrpSamplesLX、参照ブロックrpRefSamplesLX)を生成する。
残差予測部3092は、対象ブロックが動き予測であるか変位予測であるかを示すフラグであるインタービュ予測フラグivRefFlagを( DiffPicOrderCnt( currPic, RefPicListX[ refIdxLX ] ) = = 0 )により導出する。ここでDiffPicOrderCnt(X, Y)はピクチャXとピクチャYのPOCの差分を示す(以下同様)。従って、対象ピクチャcurrPicのPOCと、参照ピクチャインデックスrefIdxLXと参照ピクチャリストRefPicListXで示される参照ピクチャRefPicListX[ refIdxLX ]のPOCが0である場合には、対象ブロックは変位予測が適用されるとしてivRefFlagを1に設定され、それ以外の場合には対象ブロックには動き予測が適用されるとしてivRefFlagを0に設定される。
図18は、ベクトルmvLXが動きベクトルである場合(インタービュ予測フラグivRefFlagが0の場合)の対応ブロックrpSamplesLXと参照ブロックrpRefSamplesLXを説明するための図である。図18に示すように、対象レイヤ上の予測ユニットに対応する対応ブロックは、参照レイヤ上の画像の予測ユニットの位置を起点として、参照レイヤと対象レイヤの位置関係を示すベクトルである変位ベクトルmvDispだけずれた位置になるブロックに位置する。
図19は、ベクトルmvLXが変位ベクトルである場合(インタービュ予測フラグivRefFlagが1の場合)の対応ブロックrpSamplesLXと参照ブロックrpRefSamplesLXを説明するための図である。図19に示すように、対応ブロックrpSamplesLXは、対象ピクチャとは異なる時刻かつ対象ピクチャと同じビューIDである参照ピクチャrpPic上のブロックである。残差予測部3092は、対象ブロックのベクトルmvLX(=変位ベクトルmvDisp)が指し示す先のピクチャmvPicT上の予測ユニットのベクトルであるmvTを導出する。対応ブロックrpSamplesLXは、予測ユニット(対象ブロック)の位置を起点として、ベクトルmvTだけずれた位置になるブロックに位置する。
(残差予測用参照ピクチャの導出)
残差予測部3092は、残差予測動き補償画像(rpSamplesLX、rpRefSamplesLX)の導出において参照する参照ピクチャである参照ピクチャrpPic、rpPicRefと、参照ブロックの位置(対象ブロックの座標を基準とした参照ブロックの相対座標)を示すベクトルmvRp、mvRpRefを導出する。
残差予測部3092は、対象ブロックの属する対象ピクチャと同じ表示時刻(POC)もしくは同じビューIDであるピクチャをrpPicとして設定する。
具体的には、残差予測部3092は、対象ブロックが動き予測の場合(インタービュ予測フラグivRefFlagが0の場合)、参照ピクチャrpPicのPOCと対象ピクチャのPOCであるPicOrderCntValが等しく、かつ、参照ピクチャrpPicのビューIDと予測ユニットの参照ビューIDRefViewIdx[ xP ][ yP ](これは対象ピクチャのビューIDは異なる)が等しい。という条件から参照ピクチャrpPicを導出する。さらに、残差予測部3092は、上記rpPicのベクトルmvRpに、変位ベクトルMvDispを設定する。
残差予測部3092は、対象ブロックが変位予測の場合(インタービュ予測フラグivRefFlagが1の場合)、対象ブロックの予測画像生成に用いる参照ピクチャをrpPicに設定する。すなわち、対象ブロックの参照インデックスがRpRefIdxLY、参照ピクチャリストがRefPicListYの場合、参照ピクチャrpPicはRefPicListY[ RpRefIdxLY ]から導出される。さらに、残差予測部3092に含まれる図示しない残差予測用ベクトル導出部30924を含む。残差予測用ベクトル導出部30924は、上記rpPicのベクトルmvRpに、対象ブロックのベクトルmvLX(これは変位ベクトルMvDispと等しい)が指し示す先の、対象ピクチャと同一POCで、ビューIDの異なるピクチャ上の予測ユニットのベクトルであるmvTを導出し、その動きベクトルmvTをmvRpに設定する。
次に残差予測部3092は、対象ピクチャと異なる表示時刻(POC)かつ異なるビューIDを備える参照ピクチャをrpPicRefとして設定する。
具体的には、残差予測部3092は、対象ブロックが動き予測の場合(インタービュ予測フラグivRefFlagが0の場合)、参照ピクチャrpPicRefのPOCと対象ブロックの参照ピクチャRefPicListY[ RpRefIdxLY ]のPOCが等しく、かつ、参照ピクチャrpPicRefのビューIDと変位ベクトルMvDispの参照ピクチャのビューIDRefViewIdx[ xP ][ yP ]が等しいという条件から参照ピクチャrpPicRefを導出する。さらに、残差予測部3092は、上記rpPicRefのベクトルmvRpRefに予測ブロックの動きベクトルをスケーリングしたベクトルmvLXと、ベクトルmvRpの和(mvRp+mvLX)を設定する。
残差予測部3092は、対象予測ユニットが変位予測の場合(インタービュ予測フラグivRefFlagが1の場合)、参照ピクチャrpPicRefのPOCが参照ピクチャrpPicのPOCと等しく、かつ、参照ピクチャrpPicRefのビューIDと予測ユニットのビューIDRefViewIdx[ xP ][ yP ]が等しいという条件から参照ピクチャrpPicRefを導出する。さらに、残差予測部3092は、上記rpPicRefのベクトルmvRpRefに予測ブロックの動きベクトルmvLXと、ベクトルmvRpの和(mvRp+mvLX)を設定する。
すなわち、残差予測部3092では、mvRpとmvRpRefは、以下のように導出される。
インタービュ予測フラグivRefFlagが0の場合
mvRp = MvDisp 式(B−1)
mvRpRef = mvRp + mvLX (=mvLX + MvDisp) 式(B−2)
インタービュ予測フラグivRefFlagが1の場合
mvRp = mvT 式(B−3)
mvRpRef = mvRp + mvLX (=mvLX + mvT) 式(B−4)
(残差予測用ベクトル導出部30924)
残差予測用ベクトル導出部30924は、対象ピクチャと異なるピクチャ上の予測ユニットのベクトルmvTを導出する。残差予測用ベクトル導出部30924は、参照ピクチャ、対象ブロック座標(xP, yP)、対象ブロックサイズnPSW, nPSH、ベクトルmvLXを入力とし、参照ピクチャ上の予測ユニットの動き補償パラメータ(ベクトル、参照ピクチャインデックス、ビューID)からベクトルmvT及びビューIDを導出する。残差予測用ベクトル導出部30924は、入力として指示された参照ピクチャ上の、対象ブロックからベクトルmvLXだけずれた位置にあるブロックの中心座標として、参照座標(xRef, yRef)を以下の式により導出する。
xRef = Clip3( 0, PicWidthInSamplesL - 1, xP + ( nPSW >> 1 ) + ( ( mvDisp[ 0 ] + 2 ) >> 2 ) )
yRef = Clip3( 0, PicHeightInSamplesL - 1, yP + ( nPSH >> 1 ) + ( ( mvDisp[ 1 ] + 2 ) >> 2 ) )
残差予測用ベクトル導出部30924は、参照ブロック座標(xRef, yRef)を含む予測ユニットであるrefPUのベクトルmvLXと参照ピクチャインデックスrefPicLXを導出する。
対象予測ユニットが変位予測(DiffPicOrderCnt (currPic, refPic)が0)かつ参照予測ユニットrefPUが動き予測の場合(DiffPicOrderCnt(refPic, refPicListRefX[ refIdxLX ])が0以外)の場合には、refPUのベクトルをmvTとし、参照可能フラグavailFlagTを1とする。上記処理により、対象ピクチャと同一POCで、ビューIDの異なるピクチャを参照ピクチャとするブロックのベクトルをmvTとして導出できる。
残差予測用ベクトル導出部30924は、対象ピクチャと異なるピクチャ上の予測ユニットのベクトルを導出する。残差予測用ベクトル導出部30924は、対象ブロック座標(xP, yP)、対象ブロックサイズnPbW, nPbH、変位ベクトルmvDispを入力として、以下の参照ブロック座標(xRef, yRef)を導出する。
xRef = Clip3( 0, PicWidthInSamplesL - 1, xP + ( nPSW >> 1 ) + ( ( mvDisp[ 0 ] + 2 ) >> 2 ) )
yRef = Clip3( 0, PicHeightInSamplesL - 1, yP + ( nPSH >> 1 ) + ( ( mvDisp[ 1 ] + 2 ) >> 2 ) )
残差予測用ベクトル導出部30924は、参照ブロック座標(xRef, yRef)を含む予測ユニットであるrefPUのベクトルmvLXと参照ピクチャインデックスrefPicLXを導出する。
対象予測ユニットが動き予測(DiffPicOrderCnt( currPic, refPic)が0以外)、参照予測ユニットrefPUが変位予測の場合(DiffPicOrderCnt( refPic, refPicListRefX[ refIdxLX ])が0)には、参照可能フラグavailFlagTを1とする。これにより、対象ピクチャと同一POCで、ビューIDの異なるピクチャを参照ピクチャとするブロックのベクトルをmvTとして導出できる。
(参照画像補間部30922)
参照画像補間部30922は、参照ブロックrpSamplesLXの補間画像をベクトルmvLXに上記ベクトルmvCを設定して生成する。補間画像の画素の座標(x,y)を、予測ユニットのベクトルmvLXだけずらした位置の画素を線形補間(双線形補間)により導出する。変位ベクトルLXが1/4ペルの小数精度であることを考慮し、参照画像補間部30922は、予測ユニットの画素の座標が(xP、yP)である場合に対応する整数精度の画素R0のX座標xIntとY座標yInt、及び変位ベクトルmvDispのX成分の小数部分xFracとY成分の小数部分yFracを、以下の(式C−1)
xInt = xPb + ( mvLX[ 0 ] >> 2 )
yInt = yPb + ( mvLX[ 1 ] >> 2 )
xFrac = mvLX[ 0 ] & 3
yFrac = mvLX[ 1 ] & 3
の式により導出する。ここで、X & 3は、Xの下位2ビットのみを取り出す数式である。
次に、参照画像補間部30922は、ベクトルmvLXが1/4ペルの小数精度であることを考慮し、補間画素predPartLX[ x ][ y ]を生成する。まず、整数画素A(xA,yB)、B(xB,yB)、C(xC,yC)及びD(xD,yD)の座標を、以下の(式C−2)
xA = Clip3( 0, picWidthInSamples - 1, xInt )
xB = Clip3( 0, picWidthInSamples - 1, xInt + 1 )
xC = Clip3( 0, picWidthInSamples - 1, xInt )
xD = Clip3( 0, picWidthInSamples - 1, xInt + 1 )
yA = Clip3( 0, picHeightInSamples - 1, yInt )
yB = Clip3( 0, picHeightInSamples - 1, yInt )
yC = Clip3( 0, picHeightInSamples - 1, yInt + 1 )
yD = Clip3( 0, picHeightInSamples - 1, yInt + 1 )
の式により導出する。ここで、整数画素Aは画素R0に対応した画素であり、整数画素B,C,Dはそれぞれ整数画素Aの右、下、右下に隣接する整数精度の画素である。参照画像補間部30922は、各整数画素A、B、C、及びDに対応する参照画素refPicLX[ xA ][ yA ]、refPicLX[ xB ][ yB ]、refPicLX[ xC ][ yC ]、及びrefPicLX[ xD ][ yD ]を参照ピクチャメモリ306から読み出す。
そして、参照画像補間部30922は、参照画素refPicLX[ xA ][ yA ]、refPicLX[ xB ][ yB ]、refPicLX[ xC ][ yC ]、refPicLX[ xD ][ yD ]とベクトルmvLXのX成分の小数部分xFracとY成分の小数部分yFracを用いて、画素R0からベクトルmvLXの小数部分だけずらした位置の画素である補間画素predPartLX[ x ][ y ]を線形補間(双線形補間)により導出する。具体的には、以下の式(C−3)
predPartLX[ x ][ y ] = (refPicLX[ xA ][ yA ] * ( 8 - xFrac ) * ( 8 - yFrac ) + refPicLX[ xB ][ yB ] * ( 8 - yFrac ) * xFrac
+ refPicLX[ xC ][ yC ] * ( 8 - xFrac ) * yFrac
+ refPicLX[ xD ][ yD ] * xFrac * yFrac ) >> 6
の式により導出する。
なお、上記では対象画素の周囲の4点の画素を用いて1ステップの双線形補間により導出しているが、水平方向の線形補間と垂直方向の線形補間を分離し2ステップの線形補間により残差予測補間画像を生成しても良い。
参照画像補間部30922は、上記の補間画素導出処理を、予測ユニット内の各画素に対して行い、補間画素の集合を補間ブロックpredPartLXとする。参照画像補間部30922は、導出した補間ブロックpredPartLXを、対応ブロックrpSamplesLXとして、残差合成部30923に出力する。
参照画像補間部30922は、対応ブロックrpSamplesLXを導出した処理と、変位ベクトルmvLXをベクトルmvRに置き換えている点を除いて、同様の処理を行うことで、参照ブロックrpRefSamplesLXを導出する。参照画像補間部30922は、参照ブロックrpRefSamplesLXを残差合成部30923に出力する。
(残差合成部30923)
残差合成部30923は、残差予測実施フラグresPredFlagが1の場合には、2つの残差予測動き補償画像(rpSamplesLX、rpRefSamplesLX)の差分から残差を導出し、動き補償画像にこの残差を加算することにより予測画像を導出する。具体的には、残差合成部30923は、予測画像predSamplesLX、対応ブロックrpSamplesLX、参照ブロックrpRefSamplesLX及び残差予測インデックスiv_res_pred_weight_idxから、補正予測画像predSamplesLX´を導出する。補正予測画像predSamplesLX´は、
predSamplesLX´[x][y] = predSamplesLX[x][y] +
((rpSamplesLX[x][y] - rpRefSamplesLX[x][y]) >> (iv_res_pred_weight_idx - 1))
の式を用いて求める。xは0から予測ブロックの幅-1、yは0から予測ブロックの高さ-1である。残差合成部30923は、残差予測実施フラグresPredFlagが0の場合には、以下の式のように予測画像predSamplesLXをそのまま出力する。
predSamplesLX´[x][y] = predSamplesLX[x][y]
(照度補償)
照度補償部3093は、照度補償フラグic_flagが1の場合に、入力された予測画像predSamplesLXに対して、照度補償を行う。照度補償フラグic_flagが0の場合には、入力された予測画像predSamplesLXをそのまま出力する。
(重み付け予測)
重み付け予測部3096は、単予測の場合(predFlagL0=1/ predFlagL1=0もしくはpredFlagL0=0/ predFlagL1=1)には、L0の動き補償画像predSampleL0もしくはL1の動き補償画像predSampleL1から予測画像predSamplesを導出する。具体的には、L0からの予測、L1からの予測に対して各々、下記式を用いて導出する。
predSamples[ x ][ y ] = Clip3( 0, ( 1 << bitDepth ) - 1, predSamplesL0[ x ][ y ] * w0 + o0 )
predSamples[ x ][ y ] = Clip3( 0, ( 1 << bitDepth ) - 1, predSamplesL1[ x ][ y ] * w1 + o1 )
ここで、w0, w1, o0, o1は、各々、パラメータセットで符号化されるウェイトおよびオフセットである。bitDepthはビットデプスを示す値である。
重み付け予測部3096は、双予測の場合(predFlagL0=1/ predFlagL1=1)には、L0の動き補償画像predSampleL0とL1の動き補償画像predSampleL1の重み付き予測から予測画像を生成する。
( predSamplesL0 [ x ][ y ] * w0 + predSamplesL1[ x ][ y ] * w1 +
( ( o0 + o1 + 1 ) << log2Wd ) ) >> ( log2Wd + 1 ) )
ここで、w0, w1, o0, o1、log2Wdは、各々、パラメータセットで符号化されるウェイトおよびオフセットおよびシフト値。bitDepthはビットデプスを示す値である。
(画像符号化装置の構成)
次に、本実施形態に係る画像符号化装置11の構成について説明する。図29は、本実施形態に係る画像符号化装置11の構成を示すブロック図である。画像符号化装置11は、予測画像生成部101、減算部102、DCT・量子化部103、エントロピー符号化部104、逆量子化・逆DCT部105、加算部106、予測パラメータメモリ(予測パラメータ記憶部、フレームメモリ)108、参照ピクチャメモリ(参照画像記憶部、フレームメモリ)109、符号化パラメータ決定部110、予測パラメータ符号化部111、を含んで構成される。予測パラメータ符号化部111は、インター予測パラメータ符号化部112及びイントラ予測パラメータ符号化部113を含んで構成される。
予測画像生成部101は、外部から入力されたレイヤ画像Tの視点毎の各ピクチャについて、そのピクチャを分割した領域であるブロック毎に予測ピクチャブロックpredSamplesを生成する。ここで、予測画像生成部101は、予測パラメータ符号化部111から入力された予測パラメータに基づいて参照ピクチャメモリ109から参照ピクチャブロックを読み出す。予測パラメータ符号化部111から入力された予測パラメータとは、例えば、動きベクトル又は変位ベクトルである。予測画像生成部101は、符号化予測ユニットを起点として予測された動きベクトル又は変位ベクトルが示す位置にあるブロックの参照ピクチャブロックを読み出す。予測画像生成部101は、読み出した参照ピクチャブロックについて複数の予測方式のうちの1つの予測方式を用いて予測ピクチャブロックpredSamplesを生成する。予測画像生成部101は、生成した予測ピクチャブロックpredSamplesを減算部102と加算部106に出力する。なお、予測画像生成部101は、既に説明した予測画像生成部308と同じ動作であるため予測ピクチャブロックpredSamplesの生成の詳細は省略する。
予測画像生成部101は、予測方式を選択するために、例えば、レイヤ画像に含まれるブロックの画素毎の信号値と予測ピクチャブロックpredSamplesの対応する画素毎の信号値との差分に基づく誤差値を最小にする予測方式を選択する。なお、予測方式を選択する方法は、これには限られない。
符号化対象のピクチャがベースビューのピクチャである場合には、複数の予測方式とは、イントラ予測、動き予測及びマージモードである。動き予測とは、上述のインター予測のうち、表示時刻間の予測である。マージモードとは、既に符号化されたブロックであって、予測ユニットから予め定めた範囲内にあるブロックと同一の参照ピクチャブロック及び予測パラメータを用いる予測である。符号化対象のピクチャがベースビュー以外のピクチャである場合には、複数の予測方式とは、イントラ予測、動き予測、マージモード(視点合成予測を含む)、及び変位予測である。変位予測(視差予測)とは、上述のインター予測のうち、別レイヤ画像(別視点画像)間の予測である。変位予測(視差予測)に対して、追加予測(残差予測および照度補償)を行う場合と行わない場合の予測がある。
予測画像生成部101は、イントラ予測を選択した場合、予測ピクチャブロックpredSamplesを生成する際に用いたイントラ予測モードを示す予測モードPredModeを予測パラメータ符号化部111に出力する。
予測画像生成部101は、動き予測を選択した場合、予測ピクチャブロックpredSamplesを生成する際に用いた動きベクトルmvLXを予測パラメータメモリ108に記憶し、インター予測パラメータ符号化部112に出力する。動きベクトルmvLXは、符号化予測ユニットの位置から予測ピクチャブロックpredSamplesを生成する際の参照ピクチャブロックの位置までのベクトルを示す。動きベクトルmvLXを示す情報には、参照ピクチャを示す情報(例えば、参照ピクチャインデックスrefIdxLX、ピクチャ順序番号POC)を含み、予測パラメータを表すものであっても良い。また、予測画像生成部101は、インター予測モードを示す予測モードPredModeを予測パラメータ符号化部111に出力する。
予測画像生成部101は、変位予測を選択した場合、予測ピクチャブロックpredSamplesを生成する際に用いた変位ベクトルを予測パラメータメモリ108に記憶し、インター予測パラメータ符号化部112に出力する。変位ベクトルdvLXは、符号化予測ユニットの位置から予測ピクチャブロックpredSamplesを生成する際の参照ピクチャブロックの位置までのベクトルを示す。変位ベクトルdvLXを示す情報には、参照ピクチャを示す情報(例えば、参照ピクチャインデックスrefIdxLX、ビューIDview_id)を含み、予測パラメータを表すものであっても良い。また、予測画像生成部101は、インター予測モードを示す予測モードPredModeを予測パラメータ符号化部111に出力する。
予測画像生成部101は、マージモードを選択した場合、選択した参照ピクチャブロックを示すマージインデックスmerge_idxをインター予測パラメータ符号化部112に出力する。また、予測画像生成部101は、マージモードを示す予測モードPredModeを予測パラメータ符号化部111に出力する。
上記の、マージモードにおいて、予測画像生成部101は、VSPモードフラグVspModeFlagが視点合成予測を行うことを示す場合には、既に説明したように予測画像生成部101に含まれるVSP予測部30374において視点合成予測を行う。また、動き予測、変位予測、マージモードにおいて、予測画像生成部101は、残差予測実施フラグresPredFlagが残差予測を行うことを示す場合には、既に説明したように予測画像生成部101に含まれる残差予測部3092において残差予測を行う。
減算部102は、予測画像生成部101から入力された予測ピクチャブロックpredSamplesの信号値を、外部から入力されたレイヤ画像Tの対応するブロックの信号値から画素毎に減算して、残差信号を生成する。減算部102は、生成した残差信号をDCT・量子化部103と符号化パラメータ決定部110に出力する。
DCT・量子化部103は、減算部102から入力された残差信号についてDCTを行い、DCT係数を算出する。DCT・量子化部103は、算出したDCT係数を量子化して量子化係数を求める。DCT・量子化部103は、求めた量子化係数をエントロピー符号化部104及び逆量子化・逆DCT部105に出力する。
エントロピー符号化部104には、DCT・量子化部103から量子化係数が入力され、符号化パラメータ決定部110から符号化パラメータが入力される。入力される符号化パラメータには、例えば、参照ピクチャインデックスrefIdxLX、予測ベクトルフラグmvp_LX_flag、差分ベクトルmvdLX、予測モードPredMode、マージインデックスmerge_idx、残差予測インデックスiv_res_pred_weight_idx、及び照度補償フラグic_flag等の符号がある。
エントロピー符号化部104は、入力された量子化係数と符号化パラメータをエントロピー符号化して符号化ストリームTeを生成し、生成した符号化ストリームTeを外部に出力する。
逆量子化・逆DCT部105は、DCT・量子化部103から入力された量子化係数を逆量子化してDCT係数を求める。逆量子化・逆DCT部105は、求めたDCT係数について逆DCTを行い、復号残差信号を算出する。逆量子化・逆DCT部105は、算出した復号残差信号を加算部106、及び符号化パラメータ決定部110に出力する。
加算部106は、予測画像生成部101から入力された予測ピクチャブロックpredSamplesの信号値と逆量子化・逆DCT部105から入力された復号残差信号の信号値を画素毎に加算して、参照ピクチャブロックを生成する。加算部106は、生成した参照ピクチャブロックを参照ピクチャメモリ109に記憶する。
予測パラメータメモリ108は、予測パラメータ符号化部111が生成した予測パラメータを、符号化対象のピクチャ及びブロック毎に予め定めた位置に記憶する。
参照ピクチャメモリ109は、加算部106が生成した参照ピクチャブロックを、符号化対象のピクチャ及びブロック毎に予め定めた位置に記憶する。
符号化パラメータ決定部110は、符号化パラメータの複数のセットのうち、1つのセットを選択する。符号化パラメータとは、上述した予測パラメータやこの予測パラメータに関連して生成される符号化の対象となるパラメータである。予測画像生成部101は、これらの符号化パラメータのセットの各々を用いて予測ピクチャブロックpredSamplesを生成する。
符号化パラメータ決定部110は、複数のセットの各々について情報量の大きさと符号化誤差を示すコスト値を算出する。コスト値は、例えば、符号量と二乗誤差に係数λを乗じた値との和である。符号量は、量子化誤差と符号化パラメータをエントロピー符号化して得られる符号化ストリームTeの情報量である。二乗誤差は、減算部102において算出された残差信号の残差値の二乗値についての画素間の総和である。係数λは、予め設定されたゼロよりも大きい実数である。符号化パラメータ決定部110は、算出したコスト値が最小となる符号化パラメータのセットを選択する。これにより、エントロピー符号化部104は、選択した符号化パラメータのセットを符号化ストリームTeとして外部に出力し、選択されなかった符号化パラメータのセットを出力しない。
予測パラメータ符号化部111は、予測画像生成部101から入力されたパラメータに基づいて予測ピクチャを生成する際に用いる予測パラメータを導出し、導出した予測パラメータを符号化して符号化パラメータのセットを生成する。予測パラメータ符号化部111は、生成した符号化パラメータのセットをエントロピー符号化部104に出力する。
予測パラメータ符号化部111は、生成した符号化パラメータのセットのうち符号化パラメータ決定部110が選択したものに対応する予測パラメータを予測パラメータメモリ108に記憶する。
予測パラメータ符号化部111は、予測画像生成部101から入力された予測モードPredModeがインター予測モードを示す場合、インター予測パラメータ符号化部112を動作させる。予測パラメータ符号化部111は、予測モードPredModeがイントラ予測モードを示す場合、イントラ予測パラメータ符号化部113を動作させる。
インター予測パラメータ符号化部112は、符号化パラメータ決定部110から入力された予測パラメータに基づいてインター予測パラメータを導出する。インター予測パラメータ符号化部112は、インター予測パラメータを導出する構成として、インター予測パラメータ復号部303がインター予測パラメータを導出する構成と同一の構成を含む。インター予測パラメータ符号化部112の構成については、後述する。
イントラ予測パラメータ符号化部113は、符号化パラメータ決定部110から入力された予測モードPredModeが示すイントラ予測モードIntraPredModeをインター予測パラメータのセットとして定める。
(インター予測パラメータ符号化部の構成)
次に、インター予測パラメータ符号化部112の構成について説明する。インター予測パラメータ符号化部112は、インター予測パラメータ復号部303に対応する手段である。図30は、本実施形態に係るインター予測パラメータ符号化部112の構成を示す概略図である。インター予測パラメータ符号化部112は、マージモードパラメータ導出部1121、AMVP予測パラメータ導出部1122、減算部1123、及びインター予測パラメータ符号化制御部1126を含んで構成される。
マージモードパラメータ導出部1121は、上述のマージモードパラメータ導出部3036(図9参照)と同様な構成を有する。マージモードパラメータ導出部3036の構成と効果を奏する。具体的には少なくとも、マージモードパラメータ導出部3036は、基本マージ候補として、空間マージ候補、時間マージ候補、結合マージ候補、ゼロマージ候補を導出し、拡張マージ候補として、少なくともインタービュー候補IvMC、変位マージ候補IvDC、シフトインタービュー候補IvMCShiftを導出するマージ候補導出部を有するマージモードパラメータ導出部であり、第1グループの拡張マージ候補、第1グループの基本マージ候補、第2グループの拡張マージ候補、第2グループの基本マージ候補の順にマージ候補リストに格納する。これにより、基本マージ候補リストbaseMergeCandListをスクラッチから構築することはなく、構築途中の拡張マージ候補リストextMergeCandListを利用して、拡張マージ候補リストextMergeCandListにも必要な結合マージ候補を導出することができるという効果を奏する。
AMVP予測パラメータ導出部1122は、上述のAMVP予測パラメータ導出部3032(図10参照)と同様な構成を有する。
減算部1123は、符号化パラメータ決定部110から入力されたベクトルmvLXからAMVP予測パラメータ導出部1122から入力された予測ベクトルmvpLXを減算して差分ベクトルmvdLXを生成する。差分ベクトルmvdLXはインター予測パラメータ符号化制御部1126に出力する。
インター予測パラメータ符号化制御部1126は、インター予測に関連する符号(シンタックス要素の復号をエントロピー符号化部104に指示し、符号化データに含まれる符号(シンタックス要素)を例えば、分割モードpart_mode、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルフラグmvp_LX_flag、差分ベクトルmvdLXを符号化する。
インター予測パラメータ符号化制御部1126は、残差予測インデックス符号化部10311、照度補償フラグ符号化部10312、、マージインデックス符号化部、ベクトル候補インデックス符号化部、分割モード符号化部、マージフラグ符号化部、インター予測識別子符号化部、参照ピクチャインデックス符号化部、ベクトル差分符号化部を含んで構成される。分割モード符号化部、マージフラグ符号化部、マージインデックス符号化部、インター予測識別子符号化部、参照ピクチャインデックス符号化部、ベクトル候補インデックス符号化部、ベクトル差分符号化部は各々、分割モードpart_mode、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルフラグmvp_LX_flag、差分ベクトルmvdLXを符号化する。
残差予測インデックス符号化部10311は、残差予測が行われるか否かを示すために、残差予測インデックスiv_res_pred_weight_idxを符号化する。
照度補償フラグ符号化部10312は、照度補償が行われるか否かを示すために、照度補償フラグic_flagを符号化する。
インター予測パラメータ符号化制御部1126は、予測画像生成部101から入力された予測モードPredModeがマージモードを示す場合には、符号化パラメータ決定部110から入力されたマージインデックスmerge_idxをエントロピー符号化部104に出力し、符号化させる。
また、インター予測パラメータ符号化制御部1126は、予測画像生成部101から入力された予測モードPredModeがインター予測モードを示す場合には、次の処理を行う。
インター予測パラメータ符号化制御部1126は、符号化パラメータ決定部110から入力された参照ピクチャインデックスrefIdxLX及び予測ベクトルフラグmvp_LX_flag、減算部1123から入力された差分ベクトルmvdLXを統合する。インター予測パラメータ符号化制御部1126は、統合した符号をエントロピー符号化部104に出力し、符号化させる。
予測画像生成部101は、上述の予測画像生成部308に対応する手段であり、予測パラメータから、予測画像を生成する処理は同一である。
本実施形態では、予測画像生成部101も、予測画像生成部308と同様、本実施形態も上述の残差合成部30923を備える。すなわち、対象ブロック(予測ブロック)のサイズが所定のサイズ以下の場合には、残差予測を行わない。また、本実施形態の予測画像生成部101は、符号化ユニットCUの分割モードpart_modeが2N×2Nの場合にのみ、残差予測を行う。すなわち、残差予測インデックスiv_res_pred_weight_idxを0として処理する。また、本実施形態の残差予測インデックス符号化部10311では、符号化ユニットCUの分割モードpart_modeが2N×2Nの場合にのみ、残差予測インデックスiv_res_pred_weight_idxを符号化する。
残差予測部3092を備える画像符号化装置は、残差予測インデックスを符号化する残差予測インデックス符号化部を備える画像符号化装置において、対象対象ブロックを含む符号化ユニットの分割モードが2N×2Nの場合に、残差予測インデックスを符号化し、それ以外の場合には、残差予測インデックスを符号化せず、残差予測インデックスが0以外の場合に、残差予測を行う。
なお、上述した実施形態における画像符号化装置11、画像復号装置31の一部、例えば、エントロピー復号部301、予測パラメータ復号部302、予測画像生成部101、DCT・量子化部103、エントロピー符号化部104、逆量子化・逆DCT部105、符号化パラメータ決定部110、予測パラメータ符号化部111、エントロピー復号部301、予測パラメータ復号部302、予測画像生成部308、逆量子化・逆DCT部311をコンピュータで実現するようにしても良い。その場合、この制御機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現しても良い。なお、ここでいう「コンピュータシステム」とは、画像符号化装置11、画像復号装置31のいずれかに内蔵されたコンピュータシステムであって、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでも良い。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
また、上述した実施形態における画像符号化装置11、画像復号装置31の一部、または全部を、LSI(Large Scale Integration)等の集積回路として実現しても良い。画像符号化装置11、画像復号装置31の各機能ブロックは個別にプロセッサ化しても良いし、一部、または全部を集積してプロセッサ化しても良い。また、集積回路化の手法はLSIに限らず専用回路、または汎用プロセッサで実現しても良い。また、半導体技術の進歩によりLSIに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いても良い。
以上、図面を参照してこの発明の一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、この発明の要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
本発明は、画像データが符号化された符号化データを復号する画像復号装置、および、画像データが符号化された符号化データを生成する画像符号化装置に好適に適用することができる。また、画像符号化装置によって生成され、画像復号装置によって参照される符号化データのデータ構造に好適に適用することができる。
1…画像伝送システム
11…画像符号化装置
101…予測画像生成部
102…減算部
103…DCT・量子化部
10311…残差予測インデックス符号化部
10312…照度補償フラグ符号化部
104…エントロピー符号化部
105…逆量子化・逆DCT部
106…加算部
108…予測パラメータメモリ(フレームメモリ)
109…参照ピクチャメモリ(フレームメモリ)
110…符号化パラメータ決定部
111…予測パラメータ符号化部
112…インター予測パラメータ符号化部
1121…マージモードパラメータ導出部
1122…AMVP予測パラメータ導出部
1123…減算部
1126…インター予測パラメータ符号化制御部
113…イントラ予測パラメータ符号化部
21…ネットワーク
31…画像復号装置
301…エントロピー復号部
302…予測パラメータ復号部
303…インター予測パラメータ復号部
3031…インター予測パラメータ復号制御部
30311…分割モード復号部
30312…インター予測識別子復号部
3032…AMVP予測パラメータ導出部
3035…加算部
3036…マージモードパラメータ導出部(マージモードパラメータ導出装置)
30361…マージ候補導出部
303611…マージ候補格納部
30362…マージ候補選択部
30370…拡張マージ候補導出部
30371…レイヤ間マージ候補導出部
30373…変位マージ候補導出部
30374…VSPマージ候補導出部(VSP予測部、視点合成予測手段、パーティション分割部、デプスベクトル導出部)
30380…基本マージ候補導出部
30381…空間マージ候補導出部
30382…時間マージ候補導出部
30383…結合マージ候補導出部
30384…ゼロマージ候補導出部
304…イントラ予測パラメータ復号部
306…参照ピクチャメモリ(フレームメモリ)
307…予測パラメータメモリ(フレームメモリ)
308…予測画像生成部
309…インター予測画像生成部
3091…動き変位補償部
3092…残差予測部
30922…参照画像補間部
30923…残差合成部
30924…残差予測用ベクトル導出部
3093…照度補償部
3096…重み付け予測部
310…イントラ予測画像生成部
311…逆量子化・逆DCT部
312…加算部
351…デプスDV導出部
352…変位ベクトル導出部
353…分割フラグ導出部
41…画像表示装置

Claims (10)

  1. 基本マージ候補として、空間マージ候補、時間マージ候補、結合マージ候補、ゼロマージ候補を導出し、拡張マージ候補として、少なくともインタービューマージ候補IvMC、変位マージ候補IvDC、インタービューシフトマージ候補IvMCShiftを導出するマージ候補導出部を有するマージモードパラメータ導出装置において、第1グループの拡張マージ候補、第1グループの基本マージ候補、第2グループの拡張マージ候補、第2グループの基本マージ候補の順にマージ候補リストに格納することを特徴とするマージモードパラメータ導出装置。
  2. 上記第1グループの拡張マージ候補は、テクスチャマージ候補、インタービューマージ候補を少なくとも含み、上記第2グループの拡張マージ候補は、少なくとも、変位マージ候補IvDC、インタービューシフトマージ候補IvMCShiftを含むことを特徴とする請求項第1に記載のマージモードパラメータ導出装置。
  3. 上記第1グループの拡張マージ候補は、テクスチャマージ候補T、インタービューマージ候補IvMCであり、上記第2グループの拡張マージ候補は、変位マージ候補IvDC、VSPマージ候補VSP、シフトインタービュー候補IvMCShift、シフト変位候補IvDCShiftであることを特徴とする請求項第2に記載のマージモードパラメータ導出装置。
  4. 上記第1グループの拡張マージ候補は、テクスチャマージ候補T、デプスマージ候補D、インタービューマージ候補IvMCであり、上記第2グループの拡張マージ候補は、変位マージ候補IvDC、VSPマージ候補VSP、シフトインタービュー候補IvMCShift、シフト変位候補IvDCShiftであることを特徴とする請求項第2に記載のマージモードパラメータ導出装置。
  5. 上記第1グループの基本マージ候補は、A1候補、B1候補、B0候補であることを特徴とする請求項第1から第4に記載のマージモードパラメータ導出装置。
  6. マージ候補リストに格納する順序が、テクスチャマージ候補、インタービューマージ候補IvMC、A1候補、B1候補、B0候補、変位マージ候補IvDC、VSPマージ候補VSP、シフトインタービュー候補IvMCShift、変位シフトマージ候補IvDCShiftの順であることを特徴とする請求項第1から第5に記載のマージモードパラメータ導出装置。
  7. 空間マージ候補を拡張マージ候補リストに格納する際に、先頭の空間マージ候補A1のみ拡張マージ候補とのプルーニングを行うことを特徴とするマージモードパラメータ導出装置。
  8. 拡張マージ候補を拡張マージ候補リストに格納する際に、拡張マージ候補間もしくは先頭の空間マージ候補であるA1との間のみでプルーニングを行うことを特徴とするマージモードパラメータ導出装置。
  9. 請求項1から請求項8のいずれかのマージモードパラメータ導出部を備える画像復号装置。
  10. 請求項1から請求項8のいずれかのマージモードパラメータ導出部を備える画像符号化装置。
JP2014193780A 2014-09-24 2014-09-24 画像復号装置、画像符号化装置およびマージモードパラメータ導出装置 Pending JP2016066864A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014193780A JP2016066864A (ja) 2014-09-24 2014-09-24 画像復号装置、画像符号化装置およびマージモードパラメータ導出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014193780A JP2016066864A (ja) 2014-09-24 2014-09-24 画像復号装置、画像符号化装置およびマージモードパラメータ導出装置

Publications (1)

Publication Number Publication Date
JP2016066864A true JP2016066864A (ja) 2016-04-28

Family

ID=55805859

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014193780A Pending JP2016066864A (ja) 2014-09-24 2014-09-24 画像復号装置、画像符号化装置およびマージモードパラメータ導出装置

Country Status (1)

Country Link
JP (1) JP2016066864A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018066959A1 (ko) * 2016-10-04 2018-04-12 주식회사 케이티 비디오 신호 처리 방법 및 장치
CN109983776A (zh) * 2016-11-18 2019-07-05 株式会社Kt 视频信号处理方法和设备

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018066959A1 (ko) * 2016-10-04 2018-04-12 주식회사 케이티 비디오 신호 처리 방법 및 장치
CN109845253A (zh) * 2016-10-04 2019-06-04 株式会社Kt 用于处理视频信号的方法和装置
US11172194B2 (en) 2016-10-04 2021-11-09 Kt Corporation Method and apparatus for processing video signal
CN109845253B (zh) * 2016-10-04 2023-09-12 株式会社Kt 一种用于对二维视频进行解码、编码的方法
US11930161B2 (en) 2016-10-04 2024-03-12 Kt Corporation Method and apparatus for processing video signal
CN109983776A (zh) * 2016-11-18 2019-07-05 株式会社Kt 视频信号处理方法和设备
CN109983776B (zh) * 2016-11-18 2023-09-29 株式会社Kt 视频信号处理方法和设备

Similar Documents

Publication Publication Date Title
JP6469588B2 (ja) 残差予測装置、画像復号装置、画像符号化装置、残差予測方法、画像復号方法、および画像符号化方法
JP6441236B2 (ja) 画像復号装置及び画像符号化装置
WO2016125685A1 (ja) 画像復号装置、画像符号化装置および予測ベクトル導出装置
JP6225241B2 (ja) 画像復号装置、画像復号方法、画像符号化装置及び画像符号化方法
WO2015056719A1 (ja) 画像復号装置、画像符号化装置
WO2015194669A1 (ja) 画像復号装置、画像符号化装置および予測画像生成装置
JP6473078B2 (ja) 画像復号装置
CN116074532A (zh) 预测图像生成装置、运动图像解码装置、以及运动图像编码装置
WO2015056620A1 (ja) 画像復号装置、画像符号化装置
JP6118199B2 (ja) 画像復号装置、画像符号化装置、画像復号方法、画像符号化方法及びコンピュータ読み取り可能な記録媒体。
JP2016034050A (ja) 画像復号装置、画像符号化装置および、データ構造
JP2016066864A (ja) 画像復号装置、画像符号化装置およびマージモードパラメータ導出装置
WO2015141696A1 (ja) 画像復号装置、画像符号化装置および予測装置
JP2017135432A (ja) 視点合成予測装置、画像復号装置及び画像符号化装置
WO2016056587A1 (ja) 変位配列導出装置、変位ベクトル導出装置、デフォルト参照ビューインデックス導出装置及びデプスルックアップテーブル導出装置
WO2015190510A1 (ja) 視点合成予測装置、画像復号装置及び画像符号化装置
JP6401707B2 (ja) 画像復号装置、画像復号方法、および記録媒体
JP2015080053A (ja) 画像復号装置、及び画像符号化装置
JP2014204327A (ja) 画像復号装置および画像符号化装置
JP2015015626A (ja) 画像復号装置および画像符号化装置

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20161104