JP2020053924A - 動画像符号化装置、動画像復号装置 - Google Patents
動画像符号化装置、動画像復号装置 Download PDFInfo
- Publication number
- JP2020053924A JP2020053924A JP2018183904A JP2018183904A JP2020053924A JP 2020053924 A JP2020053924 A JP 2020053924A JP 2018183904 A JP2018183904 A JP 2018183904A JP 2018183904 A JP2018183904 A JP 2018183904A JP 2020053924 A JP2020053924 A JP 2020053924A
- Authority
- JP
- Japan
- Prior art keywords
- conversion
- unit
- flag
- prediction
- decoding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000006243 chemical reaction Methods 0.000 claims abstract description 334
- 239000013598 vector Substances 0.000 claims description 158
- 230000033001 locomotion Effects 0.000 claims description 108
- 238000000034 method Methods 0.000 abstract description 92
- 238000013139 quantization Methods 0.000 description 64
- 230000009466 transformation Effects 0.000 description 51
- 230000008569 process Effects 0.000 description 41
- 238000012545 processing Methods 0.000 description 40
- 238000009795 derivation Methods 0.000 description 37
- 238000010586 diagram Methods 0.000 description 32
- 230000005540 biological transmission Effects 0.000 description 30
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 20
- 230000006870 function Effects 0.000 description 17
- 238000004891 communication Methods 0.000 description 15
- 239000011159 matrix material Substances 0.000 description 15
- 238000001914 filtration Methods 0.000 description 7
- 230000003044 adaptive effect Effects 0.000 description 6
- 230000002146 bilateral effect Effects 0.000 description 6
- 230000001131 transforming effect Effects 0.000 description 6
- 238000012937 correction Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 101100537098 Mus musculus Alyref gene Proteins 0.000 description 4
- 101150095908 apex1 gene Proteins 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000000926 separation method Methods 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- VBRBNWWNRIMAII-WYMLVPIESA-N 3-[(e)-5-(4-ethylphenoxy)-3-methylpent-3-enyl]-2,2-dimethyloxirane Chemical compound C1=CC(CC)=CC=C1OC\C=C(/C)CCC1C(C)(C)O1 VBRBNWWNRIMAII-WYMLVPIESA-N 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 101100243951 Caenorhabditis elegans pie-1 gene Proteins 0.000 description 2
- 208000034188 Stiff person spectrum disease Diseases 0.000 description 2
- 229920010524 Syndiotactic polystyrene Polymers 0.000 description 2
- 230000002457 bidirectional effect Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 101150089388 dct-5 gene Proteins 0.000 description 2
- 101150090341 dst1 gene Proteins 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 208000012112 ischiocoxopodopatellar syndrome Diseases 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 229920000069 polyphenylene sulfide Polymers 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000002490 spark plasma sintering Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 241001025261 Neoraja caerulea Species 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000000153 supplemental effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Abstract
Description
られる符号化単位(符号化ユニット(Coding Unit:CU)と呼ばれることもある)、及び
、符号化単位を分割することより得られる変換ユニット(TU:Transform Unit)からなる階層構造により管理され、CU毎に符号化/復号される。
実現することにある。
以下、図面を参照しながら本発明の実施形態について説明する。
らの組み合わせである。ネットワーク21は、必ずしも双方向の通信網に限らず、地上デジタル放送、衛星放送等の放送波を伝送する一方向の通信網であっても良い。また、ネットワーク21は、DVD(Digital Versatile Disc:登録商標)、BD(Blue-ray Disc:登録商標)等の符号化ストリームTeを記録した記憶媒体で代替されても良い。
を有する場合には、画質の高い画像を表示し、より低い処理能力しか有しない場合には、高い処理能力、表示能力を必要としない画像を表示する。
本明細書で用いる演算子を以下に記載する。
、|=はOR代入演算子であり、||は論理和を示す。
本実施形態に係る動画像符号化装置11および動画像復号装置31の詳細な説明に先立って、動画像符号化装置11によって生成され、動画像復号装置31によって復号される符号化ストリームTeのデータ構造について説明する。
ームTeは、例示的に、シーケンス、およびシーケンスを構成する複数のピクチャを含む。図4の(a)〜(f)は、それぞれ、シーケンスSEQを既定する符号化ビデオシーケンス、ピクチャPICTを規定する符号化ピクチャ、スライスSを規定する符号化スライス、スライスデー
タを規定する符号化スライスデータ、符号化スライスデータに含まれる符号化ツリーユニット、符号化ツリーユニットに含まれる符号化ユニットを示す図である。
符号化ビデオシーケンスでは、処理対象のシーケンスSEQを復号するために動画像復号
装置31が参照するデータの集合が規定されている。シーケンスSEQは、図4(a)に示すよう
に、ビデオパラメータセット(Video Parameter Set)、シーケンスパラメータセットSPS(Sequence Parameter Set)、ピクチャパラメータセットPPS(Picture Parameter Set)、ピクチャPICT、及び、付加拡張情報SEI(Supplemental Enhancement Information)を
含んでいる。
数の動画像に共通する符号化パラメータの集合および動画像に含まれる複数のレイヤおよび個々のレイヤに関連する符号化パラメータの集合が規定されている。
置31が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの幅や高さが規定される。なお、SPSは複数存在してもよい。その場合、PPSから複数のSPSの何れか
を選択する。
動画像復号装置31が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの復号に用いられる量子化幅の基準値(pic_init_qp_minus26)や重み付き予測の適用
を示すフラグ(weighted_pred_flag)が含まれる。なお、PPSは複数存在してもよい。そ
の場合、対象シーケンス内の各ピクチャから複数のPPSの何れかを選択する。
符号化ピクチャでは、処理対象のピクチャPICTを復号するために動画像復号装置31が参照するデータの集合が規定されている。ピクチャPICTは、図4(b)に示すように、スライス0〜スライスNS-1を含む(NSはピクチャPICTに含まれるスライスの総数)。
添え字を省略して記述することがある。また、以下に説明する符号化ストリームTeに含まれるデータであって、添え字を付している他のデータについても同様である。
符号化スライスでは、処理対象のスライスSを復号するために動画像復号装置31が参照
するデータの集合が規定されている。スライスは、図4(c)に示すように、スライスヘッダ、および、スライスデータを含んでいる。
、Bスライスと呼ぶ場合には、インター予測を用いることができるブロックを含むスライ
スを指す。
符号化スライスデータでは、処理対象のスライスデータを復号するために動画像復号装置31が参照するデータの集合が規定されている。スライスデータは、図4(d)に示すように、CTUを含んでいる。CTUは、スライスを構成する固定サイズ(例えば64*64)のブロック
であり、最大符号化単位(LCU:Largest Coding Unit)と呼ぶこともある。
図4(e)には、処理対象のCTUを復号するために動画像復号装置31が参照するデータの集
合が規定されている。CTUは、再帰的な4分木分割(QT(Quad Tree)分割)、2分木分割(BT(Binary Tree)分割)あるいは3分木分割(TT(Ternary Tree)分割)により符号
化処理の基本的な単位である符号化ユニットCUに分割される。BT分割とTT分割を合わせてマルチツリー分割(MT(Multi Tree)分割)と呼ぶ。再帰的な4分木分割により得られる木構造のノードのことを符号化ノード(Coding Node)と称する。4分木、2分木、及び
3分木の中間ノードは、符号化ノードであり、CTU自身も最上位の符号化ノードとして規
定される。
分割の有無を示すMT分割フラグ(split_mt_flag)、MT分割の分割方向を示すMT分割方向
(split_mt_dir)、MT分割の分割タイプを示すMT分割タイプ(split_mt_type)を含む。cu_split_flag、split_mt_flag、split_mt_dir、split_mt_type は符号化ノード毎に伝送
される。
)。
ドは3つの符号化ノードに水平分割され(図5(f))、split_mt_dirが0の場合に符号化ノードは3つの符号化ノードに垂直分割される(図5(e))。これらを図5(g)に示す。
画素、8*64画素、32*8画素、8*32画素、16*8画素、8*16画素、8*8画素、64*4画素、4*64
画素、32*4画素、4*32画素、16*4画素、4*16画素、8*4画素、4*8画素、及び、4*4画素の
何れかをとり得る。
図4(f)に示すように、処理対象の符号化ユニットを復号するために動画像復号装置31が参照するデータの集合が規定されている。具体的には、CUは、CUヘッダCUH、予測パラメ
ータ、変換パラメータ、量子化変換係数等から構成される。CUヘッダでは予測モード等が規定される。
でエントロピー符号化してもよい。
予測画像は、ブロックに付随する予測パラメータによって導出される。予測パラメータには、イントラ予測とインター予測の予測パラメータがある。
クスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLXがある。
参照ピクチャリストは、参照ピクチャメモリ306に記憶された参照ピクチャからなるリ
ストである。
予測パラメータの復号(符号化)方法には、マージ予測(merge)モードとAMVP(Adaptive Motion Vector Prediction、適応動きベクトル予測)モードがあり、マージフラグmerge_flagは、これらを識別するためのフラグである。マージ予測モードは、予測リスト利用フラグpredFlagLX(またはインター予測識別子inter_pred_idc)、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXを符号化データに含めずに、既に処理した近傍ブロックの予測パラメータから導出するモードである。AMVPモードは、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXを符号化データに含めるモードである。なお、動きベクトルmvLXは、予測ベクトルmvpLXを識別する予測ベク
トルインデックスmvp_LX_idxと差分ベクトルmvdLXとして符号化される。また、マージ予
測モードの他に、アフィンフラグaffine_flagにより識別されるアフィン予測モード、マ
ッチングフラグfruc_flagにより識別されるマッチング予測モードがあってもよい。
ータ候補(マージ候補)のうち、いずれの予測パラメータを対象ブロックの予測パラメータとして用いるかを示すインデックスである。
動きベクトルmvLXは、異なる2つのピクチャ上のブロック間のシフト量を示す。動きベクトルmvLXに関する予測ベクトル、差分ベクトルを、それぞれ予測ベクトルmvpLX、差分
ベクトルmvdLXと呼ぶ。
インター予測識別子inter_pred_idcと、予測リスト利用フラグpredFlagL0、predFlagL1の関係は以下のとおりであり、相互に変換可能である。
predFlagL0 = inter_pred_idc & 1
predFlagL1 = inter_pred_idc >> 1
なお、インター予測パラメータは、予測リスト利用フラグを用いても良いし、インター予測識別子を用いてもよい。また、予測リスト利用フラグを用いた判定は、インター予測識別子を用いた判定に置き替えてもよい。逆に、インター予測識別子を用いた判定は、予測リスト利用フラグを用いた判定に置き替えてもよい。
双予測BiPredであるかのフラグbiPredは、2つの予測リスト利用フラグがともに1であるかによって導出できる。例えば以下の式で導出できる。
あるいは、フラグbiPredは、インター予測識別子が2つの予測リスト(参照ピクチャ)を使うことを示す値であるか否かによっても導出できる。例えば以下の式で導出できる。
以下、イントラ予測の予測パラメータについて説明する。イントラ予測パラメータは、輝度予測モードIntraPredModeY、色差予測モードIntraPredModeCから構成される。イントラ予測モードは、例えば67種類(0〜66)存在する。例えば、プレーナ予測(0)、DC予測
(1)、Angular(方向)予測(2〜66)である。さらに、色差ではLMモード(67〜72)を
追加してもよい。
本実施形態に係る動画像復号装置31(図6)の構成について説明する。
)302、ループフィルタ305、参照ピクチャメモリ306、予測パラメータメモリ307、予測画像生成部(予測画像生成装置)308、逆量子化・逆変換部311、及び加算部312を含んで構
成される。なお、後述の動画像符号化装置11に合わせ、動画像復号装置31にループフィルタ305が含まれない構成もある。
部3022(予測モード復号部)を備えており、CU復号部3022はさらにTU復号部3024を備えている。これらを総称して復号モジュールと呼んでもよい。ヘッダ復号部3020は、符号化データからVPS、SPS、PPSなどのパラメータセット情報、スライスヘッダ(スライス情報)
を復号する。CT情報復号部3021は、符号化データからCTを復号する。CU復号部3022は符号化データからCUを復号する。TU復号部3024は、TUに予測誤差が含まれている場合に、符号化データからQP更新情報(量子化補正値)と量子化予測誤差(residual_coding)を復号
する。
、サブCU単位で処理をしてもよい。あるいはCTU、CU、をブロック、サブCUをサブブロッ
クと読み替え、ブロックあるいはサブブロック単位の処理としてもよい。
ピー復号を行って、個々の符号(シンタックス要素)を分離し復号する。エントロピー符号化には、シンタックス要素の種類や周囲の状況に応じて適応的に選択したコンテキスト(確率モデル)を用いてシンタックス要素を可変長符号化する方式と、あらかじめ定められた表、あるいは計算式を用いてシンタックス要素を可変長符号化する方式がある。前者のCABAC(Context Adaptive Binary Arithmetic Coding)は、符号化あるいは復号したピクチャ(スライス)毎に更新した確率モデルをメモリに格納する。そして、Pピクチャ、
あるいはBピクチャのコンテキストの初期状態として、メモリに格納された確率モデルの
中から、同じスライスタイプ、同じスライスレベルの量子化パラメータを使用したピクチャの確率モデルを設定する。この初期状態を符号化、復号処理に使用する。分離された符号には、予測画像を生成するための予測情報および、差分画像を生成するための予測誤差などがある。
予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLX等である。どの符号を復号す
るかの制御は、パラメータ復号部302の指示に基づいて行われる。
図7は、動画像復号装置31の概略的動作を説明するフローチャートである。
(スライス情報)を復号する。
の処理を繰り返すことにより各CTUの復号画像を導出する。
号する。
フラグsplit_transform_flag、CU残差フラグcbf_cb、cbf_cr、cbf_luma等を復号する。
データからQP更新情報(量子化補正値)と量子化予測誤差(residual_coding)を復号す
る。なお、QP更新情報は、量子化パラメータQPの予測値である量子化パラメータ予測値qPpredからの差分値である。
、逆量子化・逆変換部311より供給される予測誤差とを加算することによって、対象CUの
復号画像を生成する。
以下、CT情報復号の処理を、図8、図9、図10を参照して説明する。図8は、本発明の一
実施形態に係るCT情報復号部3021の動作を説明するフローチャートである。また、図9は
、本発明の一実施形態に係るCTUおよびQT情報のシンタックス表の構成例を示す図であり
、図10は、本発明の一実施形態に係るMT分割情報のシンタックス表の構成例を示す図である。
座標、log2CbSizeはCTのサイズであるCTサイズの2を底とした対数である対数CTサイズ、cqtDepthはCTの階層を示すCTデプス(QT深度)である。
。QT分割フラグがある場合にはS1421に遷移し、それ以外の場合にはS1422に遷移する。
と判定された場合には、QT分割フラグ(split_cu_flag)を復号する。
グsplit_cu_flagの復号を省略し、QT分割フラグsplit_cu_flagに0をセットする。
外の場合にはS1471に遷移する。
プスcqtDepth+1の位置(x0,y0)、(x1,y0)、(x0,y1)、(x1,y1)において、対数CTサイズlog2CbSize-1の4つのCTを復号する。
coding_quadtree(x1,y0,log2CbSize-1,cqtDepth+1)
coding_quadtree(x0,y1,log2CbSize-1,cqtDepth+1)
coding_quadtree(x1,y1,log2CbSize-1,cqtDepth+1)
ここで、(x0,y0)は対象CTの左上座標、(x1,y1)は以下の式のように(x0,y0)にCTサイズ
(1<<log2CbSize)の1/2を加えて導出される。
y1 = y0+(1<<(log2CbSize-1))
1<<Nは2のN乗と同値である(以下同様)。
log2CbSize = log2CbSize-1
CT情報復号部3021は、下位のCTにおいても、更新された左上座標、対数CTサイズ、CTデプスを用いて、S1411から開始されるQT情報復号を継続する。
る。なお、cbWidthはCTの幅、cbHeightはCTの高さ、mtDepthはマルチツリーの階層を示すCTデプス(MT深度)である。
否かを判定する。MT分割フラグがある場合にはS1481に遷移する。それ以外の場合にはS1482に遷移する。
する(CUの復号に移行する)。
と、MT分割が2分木であるか3分木であるかを示すシンタックス要素split_mt_typeを復
号する。CT情報復号部3021は、MT分割タイプsplit_mt_typeが0(2分割)、かつ、MT分
割方向split_mt_dirが1(水平分割)の場合は、以下の2つのCTを復号(BT分割情報復号)する。
coding_multitree(x0,y1,cbWidth,cbHeight/2,mtDepth+1)
一方、MT分割方向split_mt_dirが0(垂直分割)の場合は、以下の2つのCTを復号(BT分割情報復号)する。
coding_multitree(x1,y0,cbWidth/2,cbHeight,mtDepth+1)
ここで、(x1,y1)は以下の式で導出される。
y1 = y0+cbHeight/2
さらに、cbWidth、または、cbHeightを下式のように更新する。
cbHeight = cbHeight/2
CT情報復号部3021は、MT分割タイプsplit_mt_typeが1(3分割)を示す場合には、3
つのCTを復号(TT分割情報復号)する。
coding_multitree(x0,y1,cbWidth,cbHeight/2,mtDepth+1)
coding_multitree(x0,y2,cbWidth,cbHeight/4,mtDepth+1)
一方、MT分割方向split_mt_dirが1(垂直分割)の場合は、以下の3つのCTを復号(TT分割情報復号)する。
coding_multitree(x1,y0,cbWidth/2,cbHeight,mtDepth+1)
coding_multitree(x2,y0,cbWidth/4,cbHeight,mtDepth+1)
ここで、(x1,y1)、(x2,y2)は、以下の式のように、導出される。
y1 = y0+cbHeight/4
x2 = x0+3*cbWidth/4
y2 = y0+3*cbHeight/4
CT情報復号部3021は、下位のCTにおいても、更新された左上座標、CTの幅及び高さ、MT深度を用いて、S1471から開始されるBT分割情報復号、あるいは、TT分割情報復号を継続
する。
もMT分割も行われない場合には、CU復号部3022でCU(coding_unit(x0,y0,cbWidth, cbHeight))を復号する。
フラグを復号しない場合(S1704でNO)、S1708に進む。
な導出方法は後述する。
合(S1710でNO)、処理を終了し、残差フラグが0でない場合(S1710でYES)、S1712に進
む。
チャートである。量子化予測誤差復号では、TUの変換係数の導出に必要な情報を復号する。
成分から高周波数成分の順にスキャンした場合に、最後の非ゼロ変換係数を示す。
えば、サブブロックが非ゼロ変換係数を有するか否かを示す情報(coded_sub_block_flag)、変換係数が非ゼロか否かを示す情報(sig_coeff_flag)、変換係数の大きさを示す情報(par_level_flag、rem_abs_gt1_flag、rem_abs_gt2_flag、abs_remainder)、変換係
数の符号を示す情報(coeff_sign_flag)等である。サブブロックは、TUを例えば4*4に分割した処理単位である。
を復号する場合(S1726でYES)、S1728に進み、MTSインデックスを復号しない場合(S1726でNO)、S1730に進む。
な導出方法は後述する。
インター予測パラメータ復号部303は、エントロピー復号部301から入力された符号に基づいて、予測パラメータメモリ307に記憶された予測パラメータを参照してインター予測
パラメータを復号する。また、インター予測パラメータ復号部303は、復号したインター
予測パラメータを予測画像生成部308に出力し、予測パラメータメモリ307に記憶する。
含んで構成される。AMVP予測パラメータ導出部3032、マージ予測パラメータ導出部3036、アフィン予測部30372、マッチング予測部30373は、符号化装置、復号装置で共通する手段であるので、これらを総称して動きベクトル導出部(動きベクトル導出装置)と称してもよい。
号をエントロピー復号部301に指示し、符号化データに含まれるシンタックス要素、例え
ば、アフィンフラグaffine_flag、マッチングフラグfruc_flag、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャイ
ンデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLXを抽出
する。
ン予測部30372は、サブブロックのインター予測パラメータを導出する。
チング予測部30373は、サブブロックのインター予測パラメータを導出する。
測パラメータ導出部3032は予測ベクトルインデックスmvp_LX_idxから予測ベクトルmvpLX
を導出する。加算部3038では導出された予測ベクトルmvpLXと差分ベクトルmvdLXを加算し、動きベクトルmvLXを導出する。
アフィン予測部30372は対象ブロックのアフィン予測パラメータを導出する。本実施形
態では、アフィン予測パラメータとして、対象ブロックの2つの制御点(V0、V1)の動きベクトル(mv0_x,mv0_y)(mv1_x,mv1_y)を導出する。具体的には、対象ブロックの隣接ブロックの動きベクトルから予測することにより、各制御点の動きベクトルを導出してもよいし、制御点の動きベクトルとして導出された予測ベクトルと符号化データから導出される差分ベクトルの和により、各制御点の動きベクトルを導出してもよい。
ック中の各サブブロックの動きベクトルspMvLX[xi][yi] (xi=xPb+sbW*i, yj=yPb+sbH*j, i=0,1,2,…,bW/sbW-1、j=0,1,2,…,bH/sbH-1)を下記の式を用いて、導出する。
spMvLX[xi][yi][1] = mv0_y+(mv1_y-mv0_y)/bW*(xi+sbW/2)+(mv1_x-mv0_x)/bH*(yi+sbH/2)
(マージ予測)
図12(a)は、本実施形態に係るマージ予測パラメータ導出部3036の構成を示す概略図で
ある。マージ予測パラメータ導出部3036は、マージ候補導出部30361、マージ候補選択部30362を備える。なお、マージ候補は、予測リスト利用フラグpredFlagLX、動きベクトルmvLX、参照ピクチャインデックスrefIdxLXを含んで構成され、マージ候補リストに格納される。マージ候補リストに格納されたマージ候補には、所定の規則に従ってインデックスが割り当てられる。
デックスrefIdxLXをそのまま用いてマージ候補を導出する。それ以外に、マージ候補導出部30361は、後述する空間マージ候補導出処理、時間マージ候補導出処理、結合マージ候
補導出処理、およびゼロマージ候補導出処理、時空間マージ候補導出処理を適用してもよい。
空間マージ候補導出処理として、マージ候補導出部30361は、所定の規則に従って、予
測パラメータメモリ307が記憶している予測パラメータ(予測リスト利用フラグpredFlagLX、動きベクトルmvLX、参照ピクチャインデックスrefIdxLX)を読み出し、マージ候補に
設定する。参照ピクチャの指定方法は、例えば、対象ブロックから予め定めた範囲内にある隣接ブロック(例えば、対象ブロックの左端L、左下端BL、左上端AL、上端A、右上端ARにそれぞれ接するブロックの全部または一部)のそれぞれに係る予測パラメータである。各々のマージ候補をL, BL, AL, A, ARと呼ぶ。
時間マージ導出処理として、マージ候補導出部30361は、対象ブロックの右下CBR、あるいは、中央の座標を含む参照画像中のブロックCの予測パラメータを、予測パラメータメ
モリ307から読み出してマージ候補とし、マージ候補リストmergeCandList[]に格納する。
マージ候補導出部30361は、マージ候補リストに格納された2つの異なるマージ候補の
動きベクトルと参照ピクチャインデックスを、それぞれL0、L1の動きベクトルとして組み合わせることで結合マージ候補を導出する。結合マージ候補をC0MBと呼ぶ。
マージ候補導出部30361は、参照ピクチャインデックスrefIdxLXが0…Mであり、動きベ
クトルmvLXのX成分、Y成分が共に0であるゼロマージ候補Z0,…,ZMを導出しマージ候補リストに格納する。
マージ候補、結合マージ候補、ゼロマージ候補、つまり{L,A,AR,BL,A,COL,COMB0,..,COMBM,Z0,Z1,…,ZM}である。なお、利用可能でない(ブロックがイントラ予測等)参照ブロ
ックはマージ候補リストに格納しない。
ンデックスmerge_idxが割り当てられたマージ候補mergeCandList[merge_idx]を、対象ブ
ロックのインター予測パラメータとして選択する。マージ候補選択部30362は選択したマ
ージ候補を予測パラメータメモリ307に記憶するとともに、予測画像生成部308に出力する。
マージ候補導出部30361は、時間的に対象ブロックに隣接する参照画像上(たとえば直
前のピクチャ)のブロックの動きベクトル、もしくは、空間的に対象ブロックに隣接するブロックの動きベクトルから、対象ブロックを分割して得られるサブブロックの動きベクトルを導出する。具体的には、対象ブロックが参照する参照ピクチャに合わせて、参照画像上のブロックの動きベクトルをスケーリングすることにより、対象ブロック中の各サブブロックの動きベクトルspMvLX[xi][yi] (xi=xPb+sbW*i, yj=yPb+sbH*j, i=0,1,2,・・・,bW/sbW-1、j=0,1,2,・・・,bH/sbH-1)を導出する。ここで、(xPb,yPb)は対象ブロックの左上座標、bW、bHは対象ブロックのサイズ、sbW、sbHはサブブロックの幅と高さである。
図12(b)は、本実施形態に係るAMVP予測パラメータ導出部3032の構成を示す概略図であ
る。AMVP予測パラメータ導出部3032は、ベクトル候補導出部3033とベクトル候補選択部3034を備える。ベクトル候補導出部3033は、参照ピクチャインデックスrefIdxLXに基づいて予測パラメータメモリ307が記憶する復号済みの隣接ブロックの動きベクトルmvLXから予
測ベクトル候補を導出し、予測ベクトル候補リストmvpListLX[]に格納する。
のうち、予測ベクトルインデックスmvp_LX_idxが示す動きベクトルmvpListLX[mvp_LX_idx]を予測ベクトルmvpLXとして選択する。ベクトル候補選択部3034は選択した予測ベクトルmvpLXを加算部3038に出力する。
号した差分ベクトルmvdLXを加算して動きベクトルmvLXを算出する。加算部3038は、算出
した動きベクトルmvLXを予測画像生成部308および予測パラメータメモリ307に出力する。
mvLX[1] = mvpLX[1]+mvdLX[1]
(動きベクトルスケーリング)
動きベクトルのスケーリングの導出方法を説明する。動きベクトルMv(参照動きベクトル)、Mvをもつブロックを含むピクチャPicMv、Mvの参照ピクチャPicMvRef、スケーリン
グ後の動きベクトルsMv、sMvをもつブロックを含むピクチャCurPic、sMvが参照する参照
ピクチャCurPicRefとすると、sMvの導出関数MvScale(Mv,PicMv,PicMvRef,CurPic,CurPicRef)は下式で表される。
= Clip3(-R1,R1-1,sign(distScaleFactor*Mv)*((abs(distScaleFactor*Mv)+round1-1)>>shift1))
distScaleFactor = Clip3(-R2,R2-1,(tb*tx+round2)>>shift2)
tx = (16384+abs(td)>>1)/td
td = DiffPicOrderCnt(PicMv,PicMvRef)
tb = DiffPicOrderCnt(CurPic,CurPicRef)
ここで、round1、round2、shift1、shift2は、逆数を用いて除算を行うためのラウンド値及びシフト値で、例えば、round1=1<<(shift1-1)、round2=1<<(shift2-1)、shift1=8、shift2=6などである。DiffPicOrderCnt(Pic1,Pic2)はPic1とPic2の時間情報(例えばPOC)
の差を返す関数である。R1、R2は処理を限られた精度で行うために値域を制限するもので例えば、R1=32768、R2=4096などである。
もよい。
Mv*DiffPicOrderCnt(CurPic,CurPicRef)/DiffPicOrderCnt(PicMv,PicMvRef)
すなわち、CurPicとCurPicRefの時間情報の差と、PicMvとPicMvRefの時間情報の差との比に応じてMvをスケーリングしてもよい。
マッチング予測部30373は、バイラテラルマッチング(Bilateral matching)またはテ
ンプレートマッチング(Template matching)の何れかのマッチング処理を行うことによ
り、サブブロックの動きベクトルspMvLXを導出する。
ブブロックCurBLKの動きベクトルを導出するために、2枚の参照画像Ref0、Ref1が参照される。具体的には、サブブロックCurBLKの左上座標を(xPb,yPb)と表現した時、参照ピ
クチャインデックスrefIdxL0によって指定される参照画像Ref0内の領域であって、
(xPos0,yPos0)=(xPb+mvL0[0],yPb+mvL0[1])
によって特定される左上座標(xPos0,yPos0)を有するBlock_Aと、例えば参照ピクチャインデックスrefIdxL1によって指定される参照画像Ref1の領域であって、動きベクトル(mvL1[0],mvL1[1])によって特定される左上座標(xPos1,yPos1)を有するBlock_Bとが設定
される。L1の動きベクトルmvL1[]はL0ベクトルmvL0[]のスケーリングで導出しても良い。
ここで、
mvL1[0] = MvScale(mvL0[1], CurPic,Ref0,CurPic,Ref1)
mvL1[1] = MvScale(mvL1[1], CurPic,Ref0,CurPic,Ref1)
そして、Block_AとBlock_Bとのマッチングコストが最小となるように導出された(MV0_x,MV0_y)をもとに、サブブロック毎に動きベクトルspMvL0を導出する。
ングでは、対象ブロックの隣接領域Temp_Cur(テンプレート)と参照ピクチャ上の参照ブロックの隣接領域Temp_L0とのマッチングにより動きベクトルを導出する。
(xPos0,yPos0)=(xPb+mvL0[0],yPb+mvL0[1])
を左上座標(xPos0,yPos0)とする参照ブロックBlock_Aが設定される。次に、対象ピクチャCurPicにおいて対象ブロックCurBLKに隣接したテンプレート領域Temp_Curと、参照ピクチャRef0においてBlock_Aに隣接したテンプレート領域Temp_L0とが設定される。そして、Temp_CurrとTemp_L0とのマッチングコストが最小となるように導出された(MV0_x,MV0_y
)をもとに、サブブロック毎に動きベクトルspMvL0を導出する。
イントラ予測パラメータ復号部304は、エントロピー復号部301から入力された符号に基づいて、予測パラメータメモリ307に記憶された予測パラメータを参照してイントラ予測
パラメータ、例えば、イントラ予測モードIntraPredModeを復号する。イントラ予測パラ
メータ復号部304は、復号したイントラ予測パラメータを予測画像生成部308に出力し、また予測パラメータメモリ307に記憶する。イントラ予測パラメータ復号部304は、輝度と色差で異なるイントラ予測モードを導出しても良い。
歪を除去し、画質を改善するフィルタである。ループフィルタ305は、加算部312が生成したCUの復号画像に対し、デブロッキングフィルタ、サンプル適応オフセット(SAO)、適
応ループフィルタ(ALF)等のフィルタを施す。
る。
、予測画像生成部308は、参照ピクチャメモリ306から参照ピクチャを読み出す。予測画像生成部308は、予測モードpredModeが示す予測モードで、予測パラメータと読み出した参
照ピクチャ(参照ピクチャブロック)を用いてブロックもしくはサブブロックの予測画像を生成する。ここで、参照ピクチャブロックとは、参照ピクチャ上の画素の集合(通常矩形であるのでブロックと呼ぶ)であり、予測画像を生成するために参照する領域である。
予測モードpredModeがインター予測モードを示す場合、インター予測画像生成部309は
、インター予測パラメータ復号部303から入力されたインター予測パラメータと読み出し
た参照ピクチャを用いてインター予測によりブロックもしくはサブブロックの予測画像を生成する。
動き補償部3091(補間画像生成部3091)は、インター予測パラメータ復号部303から入
力された、インター予測パラメータ(予測リスト利用フラグpredFlagLX、参照ピクチャインデックスrefIdxLX、動きベクトルmvLX)に基づいて、参照ピクチャメモリ306から、参
照ピクチャインデックスrefIdxLXで指定された参照ピクチャRefPicLXにおける、対象ブロックの位置を起点として動きベクトルmvLXだけシフトした位置にあるブロックを読み出すことによって補間画像(動き補償画像)を生成する。ここで、動きベクトルmvLXの精度が
整数精度でない場合には、動き補償フィルタと呼ばれる小数位置の画素を生成するためのフィルタを施して、補間画像を生成する。
xFrac = mvLX[0]&(MVBIT-1)
yInt = yPb+(mvLX[1]>>(log2(MVBIT)))+y
yFrac = mvLX[1]&(MVBIT-1)
ここで、(xPb,yPb)は、bW*bHサイズのブロックの左上座標、x=0…bW-1、y=0…bH-1であり、MVBITは、動きベクトルmvLXの精度(1/(2^MVBIT)画素精度)を示す。
続いて、動き補償部3091は、一時的画像temp[][]を垂直補間処理により、補間画像Pred[][]を導出する。以下のΣはk=0..NTAP-1のkに関する和、shift2は値のレンジを調整する正規化パラメータ、offset2=1<<(shift2-1)である。
なお、双予測の場合は、上記のPred[][]をL0リスト、L1リスト毎に導出し(補間画像PredL0[][]とPredL1[][]と呼ぶ)、補間画像PredL0[][]と補間画像PredL1[][]から補間画像Pred[][]を生成する。
予測モードpredModeがイントラ予測モードを示す場合、イントラ予測画像生成部310は
、イントラ予測パラメータ復号部304から入力されたイントラ予測パラメータと参照ピク
チャメモリ306から読み出した参照画素を用いてイントラ予測を行う。
め定めた範囲にある隣接ブロックを参照ピクチャメモリ306から読み出す。予め定めた範
囲とは、対象ブロックの左、左上、上、右上の隣接ブロックであり、イントラ予測モードによって参照する領域は異なる。
照領域Rとして設定する。そして、参照領域R上の画素を特定の方向に外挿することで予測画像を生成する。例えば、参照領域Rは、予測対象ブロックの左と上(あるいは、さらに、左上、右上、左下)を含むL字型の領域として設定してもよい。
マリ変換部3113を備える。逆量子化部3111は、入力された量子化変換係数qd[][]を逆量子化し、変換係数d[][]を逆変換部3112に出力する。
変換部3113は、変換行列設定部31131、垂直変換部31132、クリップ部31133、水平変換部31134からなる。変換行列設定部31131は変換タイプtrTypeで指定されたプライマリ変換の
変換行列transMatrix[][](transMatrixH[][]、transMatrixV[][])を設定する。
TransMatrixTbl[][][]は、複数のプライマリ変換行列を格納するテーブルであり、上式で指定した変換タイプの変換行列をtransMatrixに設定する。TransMatrixTbl[][][]には、
例えば下記に示す1次元の変換基底が格納されている。
w0=(2/N)^(1/2) (i=0) 1 (i≠0)
DCT8:Ti(j) = ((4/(2*N+1))^(1/2))*cos(π*(2*i+1)*(2*j+1)/(4*N+2))
DST7:Ti(j) = ((4/(2*N+1))^(1/2))*sin(π*(2*i+1)*(j+1)/(2*N+1))
ここで、Ti(j)は変換基底、i,jは垂直あるいは水平方向の周波数位置である。DST7の4*4
変換(nTbW=nTbH=4)の場合、Ti(j)=transMatrix[4][4]={{117,219,296,336},{296,296,0,-296},{336,-117,-296,219},{219,-336,296,-117}}である。
transMatrix[][](=transMatrixV[][])は、垂直変換(vertTrFlag=1)の場合に上式で導出したnTbW*nTbHの変換基底である。nTbW、nTbHはTUの幅と高さである。Σは、v=0..nTbH-1について、transMatrix[y][v]と変換係数d[u][v]の積を加算する。つまり、e[u][y]は
、u=0..nTbW-1の各々に対して、d[u][v]の各列からなるベクトルと行列transMatrixの積
をとる。
上式のtransbitは変換基底のビット深度から決まる数値で、例えば変換基底が9bitの場合、transbit=9である。またcoeffMin、coeffMaxはクリッピングの最小値と最大値であり、例えば第2の中間変数g[][]を格納するメモリのビット数がcaccビットの場合、coeffMin=-2^(cacc-1)、coeffMax=2^(cacc-1)-1である。
係数g[][]に1次元変換を施し、予測誤差r[][]を出力する。
transMatrix[][](=transMatrixH[][])は、水平変換(vertTrFlag=0)の場合に上式で導出したnTbW*nTbHの変換基底である。Σは、j=0..nTbW-1について、transMatrix[x][u]とg[y][u]の積を加算する。つまり、r[x][y]は、y=0..nTbH-1の各々に対して、g[y][u]の各
列からなるベクトルと行列transMatrixの積をとる。
段を用いて、垂直変換と水平変換を行うこともできる。垂直変換ではd[u][v]の各列(column)を一次元変換係数x[j]にセットして変換する。水平変換では、g[y][u]の各行(row)をx[j]にセットして変換する。
ここでnTbSは垂直変換ではnTbH、水平変換ではnTbWである。逆量子化・逆変換部311は予
測誤差を加算部312に出力する。
加算部312はブロックの復号画像を参照ピクチャメモリ306に記憶し、また、ループフィルタ305に出力する。
本願では、変換タイプtrTypeに従って適応的に変換(プライマリ変換)を切り替える。本願ではプライマリ変換として、DCT2に加え、DST7、DCT8を使用する。DST7、DCT8を複数変換選択(MTS)と呼ぶ。以下では、これらの変換タイプをTU毎に切り替える例を説明する
。なお、DST7、DCT8をDST1、DCT5等の変換に置き換えてもよい。あるいは、DST7、DCT8に加えてDST1、DCT5等の変換を利用してもよい。プライマリ変換は、1次元の垂直変換と水平変換から構成される分離型変換であり、垂直変換および水平変換それぞれ独立に変換基底を切り替える。
TU復号部3024は前述のように、プライマリ変換のタイプを指定するtrTypeを導出する。本願では、S1708とS1730でtrTypeを導出するが、S1730でまとめて導出してもよい。
復号しないと判定した場合に変換タイプtrTypeを推定する。MTSフラグを復号する場合と
は、例えば下記の全ての条件を満たす場合である。
MTSフラグの復号判定条件1:
・CUがMTSが使用可能(sps_mts_intra_enable_flag=1)なイントラ予測モードである場合、または、CUがMTSが使用可能(sps_mts_inter_enable_flag=1)なインタ―予測モードである場合。
・変換対象が輝度成分である場合(色差ツリー以外の場合、単一ツリーもしくは輝度ツリーの場合)
・TUの幅と高さがいずれも所定の閾値以下THTUSの場合。例えばTHTUS=32であってもよい
。
と推定する(trType=0)。なお、プライマリ変換は水平変換と垂直変換を独立に設定する。ここでは、水平変換タイプtrTypeH、垂直変換タイプtrTypeVとすると、trTypeH、trTypeHともにDCT2であると推定する。
Type=0)。この場合、trTypeH、trTypeHともにDCT2をセットする。MTSフラグが1の場合、S1708(変換タイプ導出1)では変換タイプを設定せず、S1730(変換タイプ導出2)を実
施する。
MTSインデックスの復号判定条件1:
・変換タイプ導出1でtrTypeをDCT2と推定、あるいは設定していない場合。
・TUの非ゼロ変換係数の数が所定の閾値THTUNUMより大きいイントラ予測の場合、または
、インター予測の場合。例えばTHTUNUM=2であってもよい。
であると推定する。なお、trTypeH、trTypeHともにDCT2であると推定する。
プとの対応表の一例を示す。TU復号部3024は、復号されたMTSインデックスと対応表から
変換タイプtrType(trTypeHとtrTypeV)を導出する。例えば、mts_idx="00"の場合、CUがイントラ予測モードであればtrTypeH、trTypeVは共にDST7に設定され、CUがインタ―予測モードであればtrTypeH、trTypeVは共にDCT8に設定される。また、mts_idx="01"の場合、CUがイントラ予測モードであればtrTypeHはDCT8、trTypeVはDST7に設定され、CUがインタ―予測モードであればtrTypeHはDST7、trTypeVはDCT8に設定される。
で通知するため、2bitのインデックスが必要であり、発生する符号量が多い。以下では、水平方向と垂直方向の変換を独立に通知し、特定の条件ではいずれか一方の変換のみ通知することで、画質低下なしにMTSインデックスの符号量を削減し、符号化効率を向上させ
る方法について説明する。
本実施例では、MTSインデックスは水平方向のMTSインデックスmts_idx_x(1bit)と垂直
方向のMTSインデックスmts_idx_y(1bit)に分けて通知する。CUがインター予測の場合に動きベクトルの精度に応じて、このMTSインデックスを適応的に復号し、変換タイプtrType
を導出する方法を説明する。
ス復号方法と、S1730の変換タイプ導出2は以下のように変更される。
ンデックスの復号判定条件1を満たし、さらに動きベクトルが整数精度の場合(MTSイン
デックスの復号判定条件2を満たす場合)にMTSインデックスを復号する。なお、MTSインデックスは水平方向のMTSインデックスmts_idx_xと垂直方向のMTSインデックスmts_idx_yを別々に復号し、上記判定条件2は水平と垂直方向のインデックスに対し各々判定される。
いて変換タイプtrTypeはDCT2であると推定する。
エントロピー復号部301は、MTSインデックスの復号判定を、上記判定方法に追加して、さらに復号した動きベクトルmvLXの精度から判定しても良い。具体的には、動きベクトルmvLXの下位ビットが0であるか否か(mvLX[i]%(1<<MVBIT)==0)によって、動きベクトル
に小数精度の値があるかを判定する。MVBITは動きベクトルの精度(1/(2^MVBIT)画素精度)を表す。この場合の処理は、以下で示すことができる。
mts_idx_x復号
if(mvLX[1]%(1<<MVBIT)==0)
mts_idx_y復号例えば、mvLX[0]=2、mvLX[1]=4、MVBIT=2(動きベクトルは(0.5,1))
の場合、
mvLX[0]%4=2
mvLX[1]%4=0
であるので、水平方向の動きベクトルは小数精度、垂直方向の動きベクトルは整数精度である。従って、mts_idx_xは復号せず、S1730においてtrTypeHをDCT2として推定する。
また、S1728においてmts_idx_y(1bit)のみを復号し、S1730において、mts_idx_y=0であればtrTypeVにDST7、mts_idx_y=1であればtrTypeVにDCT8を設定する。図18(b)はMTSインデ
ックスと変換タイプの対応表の一例である。
効率を向上させることができる。
構成でもよい。amvr_modeは動きベクトルの精度を指定するモードであり、amvt_flag=1の時に通知される。
エントロピー復号部301は、MTSインデックスの復号判定を、差分ベクトルの精度を示すフラグamvr_modeを参照して判定しても良い。ここでamvr_modeが0では1/4画素精度、1で
は1画素精度、2では4画素精度としてもよい。amvr_modeからMvShiftを導出する。以下の
処理で差分ベクトルの逆量子化を行ってもよい。
MvdL0[0] = MvdL0[0]<<(MvShift+2)
MvdL0[1] = MvdL0[1]<<(MvShift+2)
MvdL1[0] = MvdL1[0]<<(MvShift+2)
MvdL1[1] = MvdL1[1]<<(MvShift+2)
復号した、amvr_modeが1または2の場合、つまり整数ベクトルを示す場合には、MTSインデックスを復号する。
mts_idx_x復号
mts_idx_y復号
}
動きベクトルが小数精度であれば、予測画素値は画素の補間によって導出され、誤差は比較的小さいと考えられる。そこで変換はDCT2を用いる。一方、動きベクトルが整数精度
であれば、誤差は大きいと考えられる。従って変換はMTSを用いた方がよい。
本構成では、動きベクトルではなく、差分ベクトルmvdLX[]の精度に応じて、MTSインデックスを適応的に復号し、変換タイプtrTypeを導出する方法を説明する。差分ベクトルmvdLXの下位ビットが0であるか否か(mvdLX[i]%(1<<MVBIT)==0)によって、差分ベクトル
に小数精度の値があるかを判定する。動きベクトルが整数精度の場合(MTSインデックス
の復号判定条件2を満たす場合)にMTSインデックスを復号する
if(mvdLX[0]%(1<<MVBIT)==0)
mts_idx_x復号
if(mvdLX[1]%(1<<MVBIT)==0)
mts_idx_y復号
差分ベクトルを用いると、予測ベクトルを導出し、差分ベクトルを加算して動きベクトルを導出する処理が不要なので、処理を簡略化できる。
上記では、動きベクトルもしくは差分ベクトルが整数ベクトルの場合に、MTSインデッ
クスを復号し、小数ベクトル以外の場合にMTSインデックスを復号せずに導出する構成を
説明したが、MTSインデックスの導出処理を行わず、変換基底を選択する構成でもよい。
度では、MTSインデックスを復号し、1/4画素精度の場合にMTSインデックスを復号せずに
導出する構成でもよい。この場合には、MVBITの代わりに、(MVBIT-1)を用いる。例えば、1/16精度ベクトルの場合には、mvLX[]%16の代わりに、mvLX[]%8を用いる。
、小ブロックの場合には、動きベクトルの精度に依存せずにMTSインデックスを復号して
も良い。
本実施例では、MTSインデックスは水平方向のMTSインデックスmts_idx_x(1bit)と垂直
方向のMTSインデックスmts_idx_y(1bit)に分けて通知する。CUの形状に応じて、このMTS
インデックスを適応的に復号し、変換タイプtrTypeを導出する方法を説明する。
スを復号しない。そのため、S1726のMTSインデックス復号の判定条件は変更される。その他の処理は同じである。
上記では、水平方向に長い場合に1よりも大きな値、垂直方向に長い場合に1よりも小さな値となる。
対数値では、水平方向に長い場合に0よりも大きな値、垂直方向に長い場合に0よりも小さな値となる。
・アスペクト比が所定の閾値THASPECT1より大きい場合(aspectR>THASPECT1)、水平方向のMTSインデックスを復号し、垂直方向のMTSインデックスを復号しない。
mts_idx_xを復号する
mts_idx_yを復号しない
}
・アスペクト比が所定の閾値THASPECT2より小さい場合(aspectR<THASPECT2)、垂直方向のMTSインデックスを復号し、水平方向のMTSインデックスを復号しない。
mts_idx_xを復号しない
mts_idx_yを復号する
}
なお、アスペクト比の算出には、TUの幅wTUと高さhTUを用いてもよい。THASPECT1=2、THASPECT2=1/2としてもよい(アスペクト比が対数の場合には、THASPECT1=1、THASPECT2=-1)、MTSインデックスを復号しない場合は、変換タイプをDCT2として推定する。
・分割モードが水平方向のTT分割(図5(f))の場合、水平方向のMTSインデックスを復号
し、垂直方向のMTSインデックスを復号しない。
mts_idx_xを復号する
mts_idx_yを復号しない
}
ここでsplit_mt_typeの0、1は各々BT分割、TT分割を示す。
・分割モードが垂直方向のTT分割(図5(e))の場合、垂直方向のMTSインデックスを復号
し、水平方向のMTSインデックスを復号しない。
mts_idx_xを復号しない
mts_idx_yを復号する
}
MTSインデックスを復号しない場合は、変換タイプをDCT2として推定する。
ックスを復号し、幅あるいは高さの小さい方向はMTSインデックスを復号せず変換タイプ
を推定する。サンプル点の少ない変換はエネルギーの集中度がよくないので、MTSを使っ
ても効果は小さい。従って、符号化効率を落とさずにMTSインデックスの符号量を削減す
ることができる。
(第2の実施形態)
(構成2:インター予測パラメータに応じた変換タイプの導出)
第1の実施形態では、MTSフラグによってMTSが選択された後、水平・垂直方向毎に分離したMTSインデックスを復号する場合に、ある条件下ではMTSインデックスを復号せず推定することでMTSインデックスの符号量を削減した。第2の実施形態では、MTSフラグを符号化・復号する条件を変更し、DCT2で十分な性能が出せる場合にはMTSフラグを符号化・復
号しない方法を説明する。
ックスが必要であり、発生する符号量が多い。以下では、ある条件下で変換タイプをDCT2と推定し、MTSインデックスを通知しないことで、画質低下なしにMTSインデックスの符号量を削減し、符号化効率を向上させる方法について説明する。
ある。以降では、図17(a)において、S1704のMTSフラグ復号の判定条件と、S1708の変換タイプ導出1の処理を変更する。それ以外は第1の実施形態で説明した図17(a)の処理と同
じである。
本実施例では、サブブロック予測を示すフラグ(Affineフラグ(affine_flag)、FRUC
フラグ(fruc_merge_flag)、OBMCフラグ(obmc_flag)、ATMVPフラグ(atmvp_flag)、STMVPフラグ(stmvp_flag)等)を参照してMTSフラグを復号するか否かを判定する。affine_flag、fruc_flag、obmc_flag、atmvp_flag、stmvp_flagは1であればモードを使用することを示し、0であればモードを使用しないことを示す。
上述のMTSフラグの復号判定条件1を満たし、さらにサブブロック予測をしない場合にMTSフラグを復号する
(MTSフラグの復号判定条件2)
・サブブロックフラグ(subblockフラグ)が0の場合
if(subblock_flag==0){
cu_mts_flag復号
}
(MTSフラグの復号判定条件2の変形例1)
・Affineフラグが0かつサブブロックマージフラグ(ATMVPフラグ)が0の場合
if(affine_flag==0 && atmvp_flag==0){
cu_mts_flag復号
}
(MTSフラグの復号判定条件2の変形例2)
さらに、パターンマッチング予測FRUCを用いる場合を含めて判定しても良い。
・Affineフラグが0かつサブブロックマージフラグ(ATMVPフラグ)が0かつFRUCフラグが0の場合
if(affine_flag==0 && atmvp_flag==0 && fruc_flag==0){
cu_mts_flag復号
}
上記条件を満たす場合、TU復号部3024は、S1706でMTSフラグを復号し、S1708でMTSフラグに従って変換タイプを設定する。上記条件を満たさない場合、TU復号部3024は、MTSフ
ラグを復号せず、S1708で変換タイプとしてDCT2を推定する。
ク単位で予測するよりも正確な予測が可能である。従って、予測誤差は小さく、変換はDCT2で十分な性能があると考えられる。
本実施例では、追加処理を示すフラグ(GBIフラグ(gbi_flag)、OBMCフラグ(obmc_flag)、輝度補償フラグ(ic_flag)、BIOフラグ(bio_flag)、DMVRフラグ(dmvr_flag)等)
を参照してMTSフラグを復号するか否かを判定する。
上述のMTSフラグの復号判定条件1を満たし、さらに予測画像に対する追加処理をしない
場合にMTSフラグを復号する
if(gbi_flag==0){
cu_mts_flag復号
}
以下の構成でもよい。
cu_mts_flag復号
}
以下の構成でもよい。
cu_mts_flag復号
}
以下の構成でもよい。
cu_mts_flag復号
}
以下の構成でもよい。
cu_mts_flag復号
}
また、上記複数の条件を組み合わせて判定し、MTSフラグを復号してもよい。
cu_mts_flag復号
}
(構成2-3:動きベクトル精度に依存するMTSフラグ)
本実施例では、AMVRモード(amvr_mode)を参照してMTSフラグを復号するか否かを判定する。AMVRモードは動きベクトルの精度(差分ベクトルの精度)を指定するフラグであり、CU毎に通知される。動きベクトルの精度は、例えばamvr_mode=0,1,2のときに各々1/4画素精度、1画素精度、4画素精度であってもよい。またAMVRモードは、amvr_mode=0,1の時
に1/4画素精度、1画素精度を区別するフラグであってもよい。
上述のMTSフラグの復号判定条件1を満たし、さらに以下の条件を満たす場合にMTSフラグ
を復号する。
(MTSフラグの復号判定条件3)
・AMVRモードが動きベクトルが整数精度であることを示す場合。
cu_mts_flag復号
}
また、4画素精度の場合(amvr_mode==2の場合)に、MTSフラグcu_mts_flagを復号する
構成でもよい。
cu_mts_flag復号
}
上記AMVRモードが所定の条件を満たす場合、TU復号部3024は、S1706でMTSフラグを復号し、S1708でMTSフラグに従って変換タイプを設定する。上記条件を満たさない場合、TU復号部3024は、MTSフラグを復号せず、S1708で変換タイプとしてDCT2を推定する。
場合、MTSフラグを復号せず、変換タイプをDCT2として推定する。
する。
本実施例では、マージインデックス(merge_idx)が所定の閾値THMERGE以下か否かに応じてMTSフラグを復号するか否かを判定する。マージインデックスは対象ブロックが動き
ベクトル、参照ピクチャインデックス等を復号するために参照するブロックを示すインデックスであり、通常小さい値のインデックス値に対応するブロックが選択されやすい。
上述のMTSフラグの復号判定条件1を満たし、さらに以下の条件を満たす場合にMTSフラグを復号する。
(MTSフラグの復号判定条件4)
・マージインデックスの値が特定の範囲の場合。
号部3024は、S1706でMTSフラグを復号し、S1708でMTSフラグに従って変換タイプを設定する。条件を満たさない場合、TU復号部3024は、MTSフラグを復号せず、S1708で変換タイプとしてDCT2を推定する。
下であれば、MTSフラグを復号し、S1708でMTSフラグに従って変換タイプを設定する。
ず、S1708で変換タイプとしてDCT2を推定してもよい。通常、マージインデックスの値は
小さい値に集中し、所定の閾値THMERGE以上になることは小さい、したがって、頻度が小
さい場合のために変換タイプを符号化すると、高い頻度で変換タイプを符号化することになりオーバーヘッドが大きくなる。MTSフラグの符号量を低減できる分、符号化効率が向
上する。
本実施例では、インター予測識別子(inter_pred_idc)が単予測を示すか否かに応じてMTSフラグを復号するか否かを判定する。インター予測識別子は対象ブロックが単予測か
双予測かを示す識別子である。
上述のMTSフラグの復号判定条件1を満たし、さらに以下の条件を満たす場合にMTSフラグを復号する。
(MTSフラグの復号判定条件5)
・インター予測識別子が単予測を示す場合
上記条件を満たす場合、TU復号部3024は、S1706でMTSフラグを復号し、S1708でMTSフラグに従って変換タイプを設定する。上記条件を満たさない場合、TU復号部3024は、MTSフ
ラグを復号せず、S1708で変換タイプとしてDCT2を推定する。
、変換タイプをDCT2として推定する。
本願の第3の実施形態では、セカンダリ変換とプライマリ変換の組み合わせについて説明する。
マリ変換部3113およびセカンダリ変換部3114を備える。逆量子化部3111およびプライマリ変換部3113は図15(a)と同じ構成であり、説明を省略する。セカンダリ変換部3114は、逆
量子化部3111から受信した変換係数d[][]をセカンダリ変換し、結果を変換係数d[][]にセ
ットする。変換係数d[][]は、セカンダリ変換部3114からプライマリ変換部3113に出力さ
れる。
換部3114は、変換行列設定部31141、サブセット導出部31142、サブセット変換部31143、
サブセット格納部31144、スイッチ31145からなる。変換行列設定部31141は変換タイプtrType2で指定されたセカンダリ変換の変換行列transMatrix[][]を設定する。
secTransMatrixTbl[][][]は、複数のセカンダリ変換行列を格納するテーブルであり、上
式で指定した変換タイプの変換行列をtransMatrixに設定する。
を抽出し、サブセットを導出する。変換係数d[][]は逆量子化部3111から受信したnTbW*nTbHのブロックである。サブセットは、後続のサブセット変換部31143が分離型変換であれ
ば2次元のブロックe[][]であり、非分離型変換であれば1次元のブロックe[]である。サブブロックの一部が4*4の場合、分離型変換は1*4垂直変換と4*1水平変換との2段階に分
けて実施し、非分離型変換は1次元の1*16変換を実施する。導出したサブセットはサブセット変換部31143に出力される。
リ変換処理を行う。サブセット変換部31143は、分離型変換では、垂直方向のセカンダリ
変換、水平方向のセカンダリ変換を順に行う。
g[i][y] =Σ(transMatrixH[i][j]*x[j][y]) (j=0..3)
サブセット変換部31143は、非分離型変換では下記の変換を行う。
サブセット格納部31144は、g[][]あるいはg[]を変換係数d[x][y]に格納し、また、変換係数d[][]をプライマリ変換部3113に出力する。
のスイッチを下側に接続してサブセット変換をスキップし、逆量子化部3111の出力をプライマリ変換部3113に出力する。
セカンダリ変換インデックスsec_idxを導出する例について図19を用いて説明する。図19は、図17(b)にセカンダリ変換インデックスの導出処理を追加したフローチャートであり、TU毎にセカンダリ変換インデックスを導出する。セカンダリ変換インデックスはセカンダリ変換の有無、および、セカンダリ変換の種類(trType2)を示す。例えば、セカンダ
リ変換インデックスが2bitの場合、sec_idx=0でセカンダリ変換オフ(セカンダリ変換を
実施しない)、sec_idx=1〜3で異なる変換基底のセカンダリ変換を指定することができる
。
換タイプを参照してセカンダリ変換インデックスを復号するか否かを決定する。プライマリ変換のMTSフラグが0(デフォルト変換、例えばDCT2)の場合(S1932でYES)、S1934に進む。MTSフラグが1(mts_idxで選択される変換、例えばDST7やDCT8)の場合(S1932でNO)、S1936に進む。
ンダリ変換の変換タイプtrType2を導出する処理である。TU復号部3024は、プライマリ変
換がデフォルト変換(DCT2)の場合、セカンダリ変換のオンオフを示すパラメータSecFlagをオフに設定する。それ以外の場合、セカンダリ変換インデックスを復号してSecFlagを設定する。例えば、sec_idx=0であればSecFlagをオフに設定する。sec_idx=1〜3であれば、SecFlagをオンに設定し、セカンダリ変換の変換タイプを所定のセカンダリ変換を示す
値に設定する。
変換を実施する構成としてもよい。ただし、セカンダリ変換インデックスは1bitで、オンオフのみを示す。
第4の実施形態では、変換を使用しない符号化・復号を説明する。変換を使用しない符号化・復号には、変換量子化バイパスモードと、変換スキップモードと、PCM(Pulse Code
Modulation)がある。変換量子化バイパスモードは変換と量子化を使用しない(バイパスする)モードである。変換スキップモードは変換を使用しない(スキップする)モードである。PCMは予測と変換を使用しないモードである。
って符号化される。具体的には、CU符号化部1112がcoding_unit()およびtransform_tree()を符号化し、TU符号化部1114がtransform_unit()を符号化する。動画像復号装置31では
、パラメータ復号部302によって復号される。具体的には、CU復号部3022がcoding_unit()およびtransform_tree()を復号し、TU復号部3024がtransform_unit()を復号する。
ードとPCMはCU単位でオンオフを切り替える。cu_transquant_bypass_flag、pcm_flagは1であればモードを使用することを示し、0であればモードを使用しないことを示す。
り替えるフラグである。変換量子化スキップモードもCU単位にオンオフを切り替える。transform_skip_flagは1であればモードを使用することを示し、0であればモードを使用
しないことを示す。なお、四分木分割およびマルチ分割による木構造が、輝度と色差で分離している場合は、CU内の輝度とCU内の色差(Cb、Cr)で異なる変換スキップフラグを用いてもよい。
造のシンタックス(transform_tree())を表し、変換サイズ(tbWidth、tbHeight)が所
定の閾値(MaxTbSizeY)を超える場合は複数のTUに再帰的に分割し、変換サイズが所定の閾値以下の場合は1つのTUで符号化・復号(transform_unit())する。transform_tree()に与える引数cuTLはCUと左上座標を共有するTUであるか否かを示すフラグである。cuTLは1であれば対象CUと対象TUの左上座標が同じであることを示し、0であれば対象CUと対象TUの左上座標が異なることを示す。cuTLの初期値は1である。cuTLはTUを分割する場合、CUの左上のTUでは、呼び出し側で設定されたcuTLを用いてtransform_tree()を呼び出す。それ以外のTUでは、cuTLを0にセットしてtransform_tree()を呼び出す(SYN01)。従っ
てCUの左上座標を共有するTUではcuTLは1であり、それ以外のTUではcuTLは0である。図中(b)に示すTUの符号化・復号ではこのようにして設定されたcuTLを用いて、変換スキッ
プフラグを符号化・復号するか否かを判定する(SYN02)。
キップフラグtransform_skip_flagが1の場合にラスト位置を符号化、復号せず、TU符号化部1114およびTU復号部3024では、ラスト位置(last_sig_coeff_x,last_sig_coeff_y)をTU
の右下位置(1<<log2TbWidth,1<<log2TbHeight)に設定する(図中(b))。変換スキップフ
ラグtransform_skip_flagが0の場合には、ラスト位置を符号化、復号する。なお、ラスト位置はプリフィックスとサフィックスの2つのシンタックスに分けて符号化してもよい。なお、log2TbWidthとlog2TbHeightは、変換の幅tbWidthと高さtbHeightの対数値である。また、lastSubBlockはTU内の非ゼロ変換係数を含むサブブロックの個数である(SYN03)
。サブブロックは4*4に設定している。変換スキップフラグtransform_skip_flagが1の場
合、lastSubBlockはTU内のサブブロック数に等しく、ブロックサイズをサブブロックサイズ4*4で除算した値(16での除算、あるいは4bitの右シフト)で導出する。lastSubBlock
から低周波数成分に向けて、サブブロック毎の非ゼロ変換係数の有無を示すフラグ、非ゼ
ロ変換係数を含むサブブロックにおける非ゼロ変換係数か否かを表すフラグ、非ゼロ変換係数であれば係数値(レベル)を導出するために必要な情報を復号する。この方法は、変換を実施する場合も実施しない場合も同じであり、説明は省略する。
スクリーンコンテンツ等、急峻なエッジを多く含む画像では、予測画像生成時のフィルタリングにより予測画像がなまってしまう。これにより、ロスレス符号化では予測誤差が大きくなるという問題がある。従って、ロスレス符号化では予測画像生成時に使用するフィルタをオフにすることが好適である。
よって予測画像を補正する技術がある。例えば、PDPC(Position Dependent intra combination for Planar Mode)は、予測モード、および、参照領域と対象画素との距離に応じて参照画素値と予測画素値を重み付け加算することで予測画像を修正する。参照画素は、予測ブロックに隣接する画素であって、対象画素の上側、左側、左上の画素である。本実施形態のイントラ予測画像生成部310は、ロスレス符号化(例えば、ロスレス符号化フラ
グlossles_flagや、変換量子化スキップ符号化cu_transquant_bypass_flag)がオンの場
合にPDPCをオフ、ロスレス符号化がオフの場合にPDPCをオンにしてもよい。
像生成時に参照画素にかける参照画素フィルタ(線形フィルタ、平滑化フィルタ)をオフにしてもよい。参照画素フィルタは対象ブロックに隣接する画素を平滑化するフィルタである。あるいはロスレス符号化がオンの場合にAngular予測を垂直方向と水平方向に限定
してもよい。
は個々のツールに対するオンオフフラグであってもよいし、CUがロスレス符号化であれば、ツールに共通のオンオフフラグ(例えば、変換量子化スキップ符号化cu_transquant_bypass_flag)であってもよい。これらのオンオフフラグはヘッダ符号化部1110で符号化さ
れ、ヘッダ復号部3020で復号される。そしてオン、オフの切替は予測画像生成部(101、308)が実施する。
す技術であり、整数画素精度(4画素、1画素等)、小数画素精度(1/2画素、1/4画素等)から選択することができる。ロスレス符号化AMVRは整数画素精度を選択してもよい。具体的には、パラメータ復号部302は、ロスレス符号化の場合に、AMVRモードamvr_modeを復号
せずに整数画素精度である値(例えば1)を導出してもよい。また、AMVRモードとして0
以外を復号してもよい。ここでamvr_modeは、0、1、2の値をとり、0は1/4画素精度、1は1画素精度、2は4画素精度である。動きベクトルの精度が1/16精度である場合には、差分ベクトルを復号する際に、以下のようにamvr_modeからMvShiftを導出し、MvShistの値に応
じて復号した差分ベクトルMvdL0をシフトしても良い。
MvdL0[0] = MvdL0[0]<<(MvShift+2)
MvdL0[1] = MvdL0[1]<<(MvShift+2)
MvdL1[0] = MvdL1[0]<<(MvShift+2)
MvdL1[1] = MvdL1[1]<<(MvShift+2)
これによりロスレス符号化の場合において、整数ベクトルの場合には、フィルタによる補間処理は行われず、動きベクトル分シフトした位置の参照画素をコピーすることで参照画像を生成するため、参照画像のボケを防ぐことができる。
次に、本実施形態に係る動画像符号化装置11の構成について説明する。図14は、本実施形態に係る動画像符号化装置11の構成を示すブロック図である。動画像符号化装置11は、予測画像生成部101、減算部102、変換・量子化部103、逆量子化・逆変換部105、加算部106、ループフィルタ107、予測パラメータメモリ(予測パラメータ記憶部、フレームメモリ)108、参照ピクチャメモリ(参照画像記憶部、フレームメモリ)109、符号化パラメータ決定部110、パラメータ符号化部111、エントロピー符号化部104を含んで構成される。
する。予測画像生成部101は既に説明した予測画像生成部308と同じ動作であり、説明を省略する。
量子化変換係数をエントロピー符号化部104及び逆量子化・逆変換部105に出力する。
と同じであり、説明を省略する。算出した予測誤差は加算部106に出力される。
ば、参照ピクチャインデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLX、予測モードpredMode、及びマージインデックスmerge_idx等の符号がある。
ロピー符号化して符号化ストリームTeを生成し、出力する。
符号化部1112(予測モード符号化部)、およびインター予測パラメータ符号化部112とイ
ントラ予測パラメータ符号化部113を備えている。CU符号化部1112はさらにTU符号化部1114を備えている。
割情報、予測情報、量子化変換係数等のパラメータの符号化処理を行う。
、差分ベクトルmvdLX)、イントラ予測パラメータ(prev_intra_luma_pred_flag、mpm_idx、rem_selected_mode_flag、rem_selected_mode、rem_non_selected_mode、)、量子化
変換係数等のシンタックス要素をエントロピー符号化部104に供給する。
インター予測パラメータ符号化部112は、符号化パラメータ決定部110から入力された予測パラメータに基づいて、インター予測パラメータを導出する。インター予測パラメータ符号化部112は、インター予測パラメータ復号部303がインター予測パラメータを導出する構成と一部同一の構成を含む。
イントラ予測パラメータ符号化部113は、符号化パラメータ決定部110から入力されたイントラ予測モードIntraPredModeから、符号化するための形式を導出する。イントラ予測
パラメータ符号化部113は、イントラ予測パラメータ復号部304がイントラ予測パラメータを導出する構成と、一部同一の構成を含む。
部106は生成した復号画像を参照ピクチャメモリ109に記憶する。
くてもよく、例えばデブロッキングフィルタのみの構成であってもよい。
トを選択する。符号化パラメータとは、上述したQT、BTあるいはTT分割情報、予測パラメータ、あるいはこれらに関連して生成される符号化の対象となるパラメータである。予測画像生成部101は、これらの符号化パラメータを用いて予測画像を生成する。
誤差を示すRDコスト値を算出する。RDコスト値は、例えば、符号量と二乗誤差に係数λを乗じた値との和である。符号量は、量子化誤差と符号化パラメータをエントロピー符号化して得られる符号化ストリームTeの情報量である。二乗誤差は、減算部102において算出
された予測誤差の二乗和である。係数λは、予め設定されたゼロよりも大きい実数である。符号化パラメータ決定部110は、算出したコスト値が最小となる符号化パラメータのセ
ットを選択する。これにより、エントロピー符号化部104は、選択した符号化パラメータ
のセットを符号化ストリームTeとして出力する。符号化パラメータ決定部110は決定した
符号化パラメータを予測パラメータメモリ108に記憶する。
部308、逆量子化・逆変換部311、加算部312、予測画像生成部101、減算部102、変換・量
子化部103、エントロピー符号化部104、逆量子化・逆変換部105、ループフィルタ107、符号化パラメータ決定部110、パラメータ符号化部111をコンピュータで実現するようにしても良い。その場合、この制御機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現しても良い。なお、ここでいう「コンピュータシステム」とは、動画像符号化装置11、動画像復号装置31のいずれかに内蔵されたコンピュータシステムであって、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装
置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでも良い。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
デックスを復号する手段と、変換インデックスから変換タイプを導出する第2の変換タイプ導出手段と、を備えることを特徴とする。
、かつ、変換対象が輝度成分である場合、かつ、変換単位の幅と高さがいずれも所定の閾値以下の場合、であることを特徴とする。
じて変換スキップフラグを復号するかを判定し、変換単位が符号化単位と左上座標を共有する場合に変換スキップフラグを復号することを特徴とする。
上述した動画像符号化装置11及び動画像復号装置31は、動画像の送信、受信、記録、再生を行う各種装置に搭載して利用することができる。なお、動画像は、カメラ等により撮像された自然動画像であってもよいし、コンピュータ等により生成された人工動画像(CGおよびGUIを含む)であってもよい。
するカメラPROD_A4、動画像を記録した記録媒体PROD_A5、動画像を外部から入力するための入力端子PROD_A6、及び、画像を生成または加工する画像処理部A7を更に備えていて
もよい。図においては、これら全てを送信装置PROD_Aが備えた構成を例示しているが、一部を省略しても構わない。
し、伝送用の符号化方式とは異なる記録用の符号化方式で符号化された動画像を記録したものであってもよい。後者の場合、記録媒体PROD_A5と符号化部PROD_A1との間に、記録媒体PROD_A5から読み出した符号化データを記録用の符号化方式に従って復号する復号部(
不図示)を介在させるとよい。
、復調部PROD_B2が得た符号化データを復号することによって動画像を得る復号部PROD_B3と、を備えている。上述した動画像復号装置31は、この復号部PROD_B3として利用される
。
るディスプレイPROD_B4、動画像を記録するための記録媒体PROD_B5、及び、動画像を外部に出力するための出力端子PROD_B6を更に備えていてもよい。図においては、これら全て
を受信装置PROD_Bが備えた構成を例示しているが、一部を省略しても構わない。
もよいし、伝送用の符号化方式とは異なる記録用の符号化方式で符号化されたものであってもよい。後者の場合、復号部PROD_B3と記録媒体PROD_B5との間に、復号部PROD_B3から
取得した動画像を記録用の符号化方式に従って符号化する符号化部(不図示)を介在させるとよい。
符号化部PROD_C1として利用される。
録商標)やBD(Blu-ray Disc:登録商標)などのように、記録装置PROD_Cに内蔵されたド
ライブ装置(不図示)に装填されるものであってもよい。
を撮像するカメラPROD_C3、動画像を外部から入力するための入力端子PROD_C4、動画像を受信するための受信部PROD_C5、及び、画像を生成または加工する画像処理部PROD_C6を更に備えていてもよい。図においては、これら全てを記録装置PROD_Cが備えた構成を例示しているが、一部を省略しても構わない。
、記録用の符号化方式とは異なる伝送用の符号化方式で符号化された符号化データを受信するものであってもよい。後者の場合、受信部PROD_C5と符号化部PROD_C1との間に、伝送用の符号化方式で符号化された符号化データを復号する伝送用復号部(不図示)を介在させるとよい。
5が動画像の主な供給源となる)。また、カムコーダ(この場合、カメラPROD_C3が動画像の主な供給源となる)、パーソナルコンピュータ(この場合、受信部PROD_C5または画像
処理部C6が動画像の主な供給源となる)、スマートフォン(この場合、カメラPROD_C3
または受信部PROD_C5が動画像の主な供給源となる)なども、このような記録装置PROD_C
の一例である。
、この復号部PROD_D2として利用される。
うに、再生装置PROD_Dに接続されるタイプのものであってもよいし、(3)DVDやBDなど
のように、再生装置PROD_Dに内蔵されたドライブ装置(不図示)に装填されるものであってもよい。
表示するディスプレイPROD_D3、動画像を外部に出力するための出力端子PROD_D4、及び、動画像を送信する送信部PROD_D5を更に備えていてもよい。図においては、これら全てを
再生装置PROD_Dが備えた構成を例示しているが、一部を省略しても構わない。
、記録用の符号化方式とは異なる伝送用の符号化方式で符号化された符号化データを送信するものであってもよい。後者の場合、復号部PROD_D2と送信部PROD_D5との間に、動画像を伝送用の符号化方式で符号化する符号化部(不図示)を介在させるとよい。
画像の主な供給先となる)。また、テレビジョン受像機(この場合、ディスプレイPROD_D3が動画像の主な供給先となる)、デジタルサイネージ(電子看板や電子掲示板等とも称
され、ディスプレイPROD_D3または送信部PROD_D5が動画像の主な供給先となる)、デスクトップ型PC(この場合、出力端子PROD_D4または送信部PROD_D5が動画像の主な供給先となる)、ラップトップ型またはタブレット型PC(この場合、ディスプレイPROD_D3または送
信部PROD_D5が動画像の主な供給先となる)、スマートフォン(この場合、ディスプレイPROD_D3または送信部PROD_D5が動画像の主な供給先となる)なども、このような再生装置PROD_Dの一例である。
また、上述した動画像復号装置31および動画像符号化装置11の各ブロックは、集積回路(ICチップ)上に形成された論理回路によってハードウェア的に実現してもよいし、CPU
(Central Processing Unit)を用いてソフトウェア的に実現してもよい。
プログラムを格納したROM(Read Only Memory)、上記プログラムを展開するRAM(Random
Access Memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の実施形態の目的は、上述した機能を実現するソフトウェアである上記各装置の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録
した記録媒体を、上記各装置に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
Disc:登録商標)等の光ディスクを含むディスク類、ICカード(メモリカードを含む)
/光カード等のカード類、マスクROM/EPROM(Erasable Programmable Read-Only Memory)/EEPROM(Electrically Erasable and Programmable Read-Only Memory:登録商標)
/フラッシュROM等の半導体メモリ類、あるいはPLD(Programmable logic device)やFPGA(Field Programmable Gate Array)等の論理回路類などを用いることができる。
301 エントロピー復号部
302 パラメータ復号部
3020 ヘッダ復号部
3021 CT情報復号部
3022 CU復号部(予測モード復号部)
3024 TU復号部
305 ループフィルタ
306 参照ピクチャメモリ
307 予測パラメータメモリ
308 予測画像生成部
311 逆量子化・逆変換部
312 加算部
11 画像符号化装置
101 予測画像生成部
102 減算部
103 変換・量子化部
104 エントロピー符号化部
105 逆量子化・逆変換部
106 加算部
107 ループフィルタ
108 予測パラメータメモリ
109 参照ピクチャメモリ
110 符号化パラメータ決定部
111 パラメータ符号化部
1110 ヘッダ符号化部
1111 CT情報符号化部
1112 CU符号化部(予測モード符号化部)
1114 TU符号化部
Claims (10)
- 符号化データから変換係数と符号化パラメータを復号する復号部と、
複数の垂直変換と水平変換から構成される1次元変換の種類を示す変換タイプに従って変換係数を逆変換し、予測誤差を導出する逆変換部と、
イントラあるいはインター予測によって予測画像を生成する生成部と、
予測画像と予測誤差を加算し復号画像を生成する加算部とを備え、
前記復号部は、
複数の変換を用いるか否かを示す変換フラグの復号判定(第1の判定)を行う手段と、
変換フラグを復号する手段と、
変換フラグから変換タイプを導出する第1の変換タイプ導出手段と、
変換の種類を示す変換インデックスの復号判定(第2の判定)を行う手段と、
水平変換インデックスと垂直変換インデックスを復号する手段と、
変換インデックスから変換タイプを導出する第2の変換タイプ導出手段と、
を備えることを特徴とする動画像復号装置。 - 第1の判定条件を満たさず変換フラグを復号しない場合、第1の変換タイプ導出手段は水平変換タイプ、垂直変換タイプともにDCT2であると推定することを特徴とする請求項1に記載の動画像復号装置。
- 符号化データから変換インデックスを復号するか否かを判定する第2の判定条件は、
動きベクトルが整数精度である条件を含むことを特徴とする請求項1に記載の動画像復号装置。 - 符号化データから変換インデックスを復号するか否かを判定する第2の判定条件は、
符号化単位のアスペクト比が所定の閾値以内、あるいは、分割タイプが3分木である条件を含むことを特徴とする請求項1に記載の動画像復号装置。 - 符号化データから変換フラグを復号するか否かを判定する第1の判定条件は、
サブブロック予測を示すフラグがサブブロック予測のオンオフを示す条件を含むことを特徴とする請求項1に記載の動画像復号装置。 - 符号化データから変換フラグを復号するか否かを判定する第1の判定条件は、
動きベクトルの精度を指定するモードが整数精度である条件を含むことを特徴とする請求項1に記載の動画像復号装置。 - 符号化データから変換フラグを復号するか否かを判定する第1の判定条件は、
対象ブロックの動き情報を復号するために参照するブロックを示すマージインデックスが所定の閾値以下である条件を含むことを特徴とする請求項1に記載の動画像復号装置。 - 符号化データから変換フラグを復号するか否かを判定する第1の判定条件は、
インター予測識別子が単予測を示す条件を含むことを特徴とする請求項1に記載の動画像復号装置。 - 第2の判定条件を満たさず変換インデックスを復号しない場合、第2の変換タイプ導出手段は水平変換タイプ、垂直変換タイプともにDCT2であると推定することを特徴とする請求項1に記載の動画像復号装置。
- 入力画像からイントラあるいはインター予測によって予測画像を生成する生成部と、
入力画像と予測画像から予測誤差を生成する減算部と、
複数の垂直変換と水平変換から構成される1次元変換の種類を示す変換タイプに従って予測誤差を変換し、変換を導出する変換部と、
変換係数と符号化パラメータを符号化する符号化部とを備え、
前記符号化部は、
複数の変換を用いるか否かを示す変換フラグの符号化判定(第1の判定)を行う手段と、
変換フラグを符号化する手段と、
変換フラグから変換タイプを導出する第1の変換タイプ導出手段と、
変換の種類を示す変換インデックスの符号化判定(第2の判定)を行う手段と、
水平変換インデックスと垂直変換インデックスを符号化する手段と、
変換インデックスから変換タイプを導出する第2の変換タイプ導出手段と、
を備えることを特徴とする動画像符号化装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018183904A JP2020053924A (ja) | 2018-09-28 | 2018-09-28 | 動画像符号化装置、動画像復号装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018183904A JP2020053924A (ja) | 2018-09-28 | 2018-09-28 | 動画像符号化装置、動画像復号装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020053924A true JP2020053924A (ja) | 2020-04-02 |
JP2020053924A5 JP2020053924A5 (ja) | 2021-05-27 |
Family
ID=69997722
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018183904A Pending JP2020053924A (ja) | 2018-09-28 | 2018-09-28 | 動画像符号化装置、動画像復号装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020053924A (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113055674A (zh) * | 2021-03-24 | 2021-06-29 | 电子科技大学 | 一种基于两阶段多帧协同的压缩视频质量增强方法 |
JP2022516775A (ja) * | 2019-01-11 | 2022-03-02 | ホアウェイ・テクノロジーズ・カンパニー・リミテッド | Dct2が有効である高レベルフラグを使用するエンコーダ、デコーダ及び対応する方法 |
JP2022516737A (ja) * | 2019-01-02 | 2022-03-02 | フラウンホーファー-ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン | 統合変換タイプ通知および変換タイプ依存変換係数レベルコーディング |
US20220150510A1 (en) * | 2020-11-11 | 2022-05-12 | Tencent America LLC | Method and apparatus for video coding |
JP2022538024A (ja) * | 2019-06-19 | 2022-08-31 | エルジー エレクトロニクス インコーポレイティド | 変換カーネルセットに関する情報に対するコーディング |
JP2022538033A (ja) * | 2019-06-19 | 2022-08-31 | エルジー エレクトロニクス インコーポレイティド | 画像コーディングにおいて変換カーネルセットを表す情報のシグナリング |
JP2022538031A (ja) * | 2019-06-19 | 2022-08-31 | エルジー エレクトロニクス インコーポレイティド | 画像コーディングシステムにおいて変換カーネルセットに関する情報に対するコンテキストコーディング |
WO2023100970A1 (ja) * | 2021-12-03 | 2023-06-08 | シャープ株式会社 | 動画像復号装置および動画像符号化装置 |
JP7476401B2 (ja) | 2019-06-19 | 2024-04-30 | エルジー エレクトロニクス インコーポレイティド | 画像コーディングにおいて変換カーネルセットを表す情報のシグナリング |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014535247A (ja) * | 2011-11-07 | 2014-12-25 | クゥアルコム・インコーポレイテッドQualcomm Incorporated | 変換スキップモードにおける有意係数情報のコーディング |
-
2018
- 2018-09-28 JP JP2018183904A patent/JP2020053924A/ja active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014535247A (ja) * | 2011-11-07 | 2014-12-25 | クゥアルコム・インコーポレイテッドQualcomm Incorporated | 変換スキップモードにおける有意係数情報のコーディング |
Non-Patent Citations (3)
Title |
---|
BENJAMIN BROSS ET AL., VERSATILE VIDEO CODING (DRAFT 2), JPN6022031836, 21 September 2018 (2018-09-21), pages 33 - 35, ISSN: 0004982046 * |
KRIT PANUSOPONE ET AL., REMOVAL OF LAST COEFFICIENT CODING IN TRANSFORM SKIPPING MODE, JPN6022007752, 12 July 2012 (2012-07-12), ISSN: 0004982047 * |
RECOMMENDATION ITU-T H.265 (04/2013), JPN6022007753, April 2013 (2013-04-01), pages 51 - 52, ISSN: 0004982050 * |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7245341B2 (ja) | 2019-01-02 | 2023-03-23 | フラウンホーファー-ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン | 統合変換タイプ通知および変換タイプ依存変換係数レベルコーディング |
JP2022516737A (ja) * | 2019-01-02 | 2022-03-02 | フラウンホーファー-ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン | 統合変換タイプ通知および変換タイプ依存変換係数レベルコーディング |
JP7459319B2 (ja) | 2019-01-02 | 2024-04-01 | フラウンホーファー-ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン | 統合変換タイプ通知および変換タイプ依存変換係数レベルコーディング |
JP2022516775A (ja) * | 2019-01-11 | 2022-03-02 | ホアウェイ・テクノロジーズ・カンパニー・リミテッド | Dct2が有効である高レベルフラグを使用するエンコーダ、デコーダ及び対応する方法 |
JP7359343B2 (ja) | 2019-01-11 | 2023-10-11 | ホアウェイ・テクノロジーズ・カンパニー・リミテッド | Dct2が有効である高レベルフラグを使用するエンコーダ、デコーダ及び対応する方法 |
US11758137B2 (en) | 2019-01-11 | 2023-09-12 | Huawei Technologies Co., Ltd. | Encoder, decoder and corresponding methods using DCT2 enabled high level flag |
JP7302036B2 (ja) | 2019-06-19 | 2023-07-03 | エルジー エレクトロニクス インコーポレイティド | 画像コーディングシステムにおいて変換カーネルセットに関する情報に対するコンテキストコーディング |
JP2022538031A (ja) * | 2019-06-19 | 2022-08-31 | エルジー エレクトロニクス インコーポレイティド | 画像コーディングシステムにおいて変換カーネルセットに関する情報に対するコンテキストコーディング |
US11622114B2 (en) | 2019-06-19 | 2023-04-04 | Lg Electronics Inc. | Context coding for information on transform kernel set in image coding system |
JP7476402B2 (ja) | 2019-06-19 | 2024-04-30 | エルジー エレクトロニクス インコーポレイティド | 画像コーディングシステムにおいて変換カーネルセットに関する情報に対するコンテキストコーディング |
JP7476401B2 (ja) | 2019-06-19 | 2024-04-30 | エルジー エレクトロニクス インコーポレイティド | 画像コーディングにおいて変換カーネルセットを表す情報のシグナリング |
JP7302037B2 (ja) | 2019-06-19 | 2023-07-03 | エルジー エレクトロニクス インコーポレイティド | 画像コーディングにおいて変換カーネルセットを表す情報のシグナリング |
JP7303335B2 (ja) | 2019-06-19 | 2023-07-04 | エルジー エレクトロニクス インコーポレイティド | 変換カーネルセットに関する情報に対するコーディング |
JP2022538033A (ja) * | 2019-06-19 | 2022-08-31 | エルジー エレクトロニクス インコーポレイティド | 画像コーディングにおいて変換カーネルセットを表す情報のシグナリング |
JP2022538024A (ja) * | 2019-06-19 | 2022-08-31 | エルジー エレクトロニクス インコーポレイティド | 変換カーネルセットに関する情報に対するコーディング |
US11895300B2 (en) | 2019-06-19 | 2024-02-06 | Lg Electronics Inc. | Signaling of information indicating transform kernel set in image coding |
US11930186B2 (en) * | 2020-11-11 | 2024-03-12 | Tencent America LLC | Method and apparatus for video coding |
US20220150510A1 (en) * | 2020-11-11 | 2022-05-12 | Tencent America LLC | Method and apparatus for video coding |
CN113055674A (zh) * | 2021-03-24 | 2021-06-29 | 电子科技大学 | 一种基于两阶段多帧协同的压缩视频质量增强方法 |
WO2023100970A1 (ja) * | 2021-12-03 | 2023-06-08 | シャープ株式会社 | 動画像復号装置および動画像符号化装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2020053924A (ja) | 動画像符号化装置、動画像復号装置 | |
JP2021005741A (ja) | 画像符号化装置及び画像復号装置 | |
WO2021111962A1 (ja) | 動画像復号装置 | |
WO2020184487A1 (ja) | 動画像復号装置 | |
WO2020137920A1 (ja) | 予測画像生成装置、動画像復号装置、動画像符号化装置および予測画像生成方法 | |
WO2020116456A1 (ja) | 動画像復号装置 | |
WO2020059877A1 (ja) | 画像復号装置および画像符号化装置 | |
US11818363B2 (en) | Video decoding apparatus and video coding apparatus | |
WO2020045248A1 (ja) | 動画像復号装置および動画像符号化装置 | |
JP2021097316A (ja) | 動画像符号化装置、動画像復号装置 | |
JP2021027429A (ja) | 動画像符号化装置、動画像復号装置 | |
JP2020108012A (ja) | 画像復号装置および画像符号化装置 | |
JP2020145650A (ja) | 画像復号装置および画像符号化装置 | |
JP2020088660A (ja) | 動画像符号化装置、動画像復号装置 | |
JP2020096279A (ja) | 予測画像生成装置、動画像復号装置および動画像符号化装置 | |
US20210104019A1 (en) | Video converting apparatus and method | |
WO2021200658A1 (ja) | 動画像復号装置及び動画像復号方法 | |
JP7409802B2 (ja) | 動画像復号装置および動画像符号化装置 | |
US11044490B2 (en) | Motion compensation filter apparatus, image decoding apparatus, and video coding apparatus | |
JP2022096879A (ja) | 動画像符号化装置、復号装置 | |
JP2020170901A (ja) | 予測画像生成装置、動画像復号装置および動画像符号化装置 | |
JP2020088577A (ja) | 予測画像生成装置、動画像復号装置、および動画像符号化装置 | |
JP7378968B2 (ja) | 予測画像生成装置、動画像復号装置および動画像符号化装置 | |
JP2022152121A (ja) | 画像復号装置及び画像符号化装置 | |
JP2022085475A (ja) | 動画像符号化装置、復号装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210415 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210415 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220224 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220301 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20220401 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220428 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20220607 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20220607 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220802 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220916 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20230105 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20230105 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20230207 |