JP2021052241A - 画像復号装置、画像復号方法及びプログラム - Google Patents

画像復号装置、画像復号方法及びプログラム Download PDF

Info

Publication number
JP2021052241A
JP2021052241A JP2019172234A JP2019172234A JP2021052241A JP 2021052241 A JP2021052241 A JP 2021052241A JP 2019172234 A JP2019172234 A JP 2019172234A JP 2019172234 A JP2019172234 A JP 2019172234A JP 2021052241 A JP2021052241 A JP 2021052241A
Authority
JP
Japan
Prior art keywords
motion vector
merge
unit
index
pel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019172234A
Other languages
English (en)
Inventor
佳隆 木谷
Yoshitaka Kitani
佳隆 木谷
圭 河村
Kei Kawamura
圭 河村
恭平 海野
Kyohei UNNO
恭平 海野
内藤 整
Hitoshi Naito
整 内藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2019172234A priority Critical patent/JP2021052241A/ja
Priority to PCT/JP2020/031559 priority patent/WO2021054035A1/ja
Priority to CN202080057645.2A priority patent/CN114270861A/zh
Publication of JP2021052241A publication Critical patent/JP2021052241A/ja
Priority to JP2023117078A priority patent/JP2023126544A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding
    • H04N19/52Processing of motion vectors by encoding by predictive encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/523Motion estimation or motion compensation with sub-pixel accuracy
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution

Abstract

【課題】対象ブロックの平滑化フィルタの有効条件の不備を解消し、未来のブロックに対して平滑化フィルタの有効条件の不備の伝搬を回避すること。【解決手段】本発明に係る画像復号装置200は、マージインデックスから、動きベクトル及びハーフペルインデックスを復号するマージ部241A2と、MMVD或いはDMVRにより動きベクトルを洗練化する動きベクトル洗練化部241Bと、洗練化された動きベクトルとハーフペルインデックスとに基づいて内挿フィルタの使用有無及び内挿フィルタ種別を判定するフィルタ判定部241C1と、内挿フィルタを用いて動き補償予測画素信号を生成するフィルタ適用部241C2とを備え、マージ部241A2は、所定のマージリスト構築方法によりマージリストを生成し、マージリスト及びマージインデックスから動きベクトル及びハーフペルインデックスを復号する。【選択図】図5

Description

本発明は、画像復号装置、画像復号方法及びプログラムに関する。
非特許文献1では、動き補償予測(以下、MC予測)という技術について、マージ符号化(以下、マージ)と適応ベクトル符号化(以下、AMVP)という動きベクトル(以下、mv)を導出する技術が用意されており、導出したmvを用いてMC予測画像信号を生成するための2種類の内挿フィルタが用意されている。
1つ目は、非特許文献2と同じ内挿フィルタ(以下、HEVCフィルタ)であり、2つ目は、非特許文献1で新たに導入された内挿フィルタ(以下、平滑化フィルタ)である。
いずれもmvの参照先が小数画素精度位置にある場合に適用されるが、上述の平滑化フィルタは、mvの参照先が1/2画素精度位置である場合に限定され、さらに、上述の平滑化フィルタが有効であるかどうかを示すハーフペルインデックス(以下、hpelIfIdx)が有効と示す場合にのみ適用される。それ以外の場合は、HEVCフィルタが適用される。
上述のhpelIfIdxは、符号化対象のブロック(以下、対象ブロック)がマージである場合、既に処理が完了した隣接ブロックから継承され、対象ブロックがAMVPである場合は、導出されたmvからhpelIfIdxの値が決定される。
Versatile Video Coding(Draft 6)、JVET-N1001 ITU-T H.265 High Efficiency Video Coding
しかしながら、上述の非特許文献1では、対象ブロックがマージであって且つペアワイズ平均マージ(pair-wise average merge)又はMMVD(Merge Motion Vector Difference)或いはDMVR(Decoder-side Motion Vector Refinement)が有効な場合、隣接ブロックから継承されるhpelIfIdxが、平滑化フィルタが有効と示す場合であっても、ペアワイズ平均マージ又はMMVD又はDMVRによりmvの参照先が1/2画素精度位置ではなくなる場合がある。
このとき、対象ブロック及び対象ブロックからhpelIfIdxとmvとを継承する未来のブロックにて、以下2つの課題が生じる。
1.対象ブロックのMC予測における異なるフィルタの混在使用。
2.未来のブロックに対する平滑化フィルタの有効条件の不一致(hpelIfIdxとmvとの不一致)の伝搬。
そこで、本発明は、上述の課題に鑑みてなされたものであり、ハーフペルインデックスに応じてペアワイズ平均マージ又はMMVD又はDMVRによって導出される動きベクトルの参照画素精度位置を制御する、或いは、導出された動きベクトルに応じてハーフペルインデックスを制御することができるようになり、対象ブロックの平滑化フィルタの有効条件の不備を解消し、さらに、未来のブロックに対して平滑化フィルタの有効条件の不備の伝搬を回避することができる画像復号装置、画像復号方法及びプログラムを提供することを目的とする。
本発明の第1の特徴は、画像復号装置であって、マージインデックスから、動きベクトル及び前記動きベクトルが1/2画素精度位置を参照するかどうかを示すハーフペルインデックスを復号するように構成されているマージ部と、MMVD(Merge Motion Vector Difference)或いはDMVR(Decoder-side Motion Vector Refinement)により、前記動きベクトルを洗練化するように構成されている動きベクトル洗練化部と、洗練化された前記動きベクトルと前記ハーフペルインデックスとに基づいて、内挿フィルタの使用有無及び内挿フィルタ種別を判定するように構成されているフィルタ判定部と、前記内挿フィルタを用いて、動き補償予測画素信号を生成するように構成されているフィルタ適用部とを備え、前記マージ部は、所定のマージリスト構築方法により、マージリストを生成し、前記マージリスト及び前記マージインデックスから、前記動きベクトル及び前記ハーフペルインデックスを復号するように構成されていることを要旨とする。
本発明の第2の特徴は、画像復号方法であって、マージインデックスから、動きベクトル及び前記動きベクトルが1/2画素精度位置を参照するかどうかを示すハーフペルインデックスを復号する工程Aと、MMVD(Merge Motion Vector Difference)或いはDMVR(Decoder-side Motion Vector Refinement)により、前記動きベクトルを洗練化する工程Bと、洗練化された前記動きベクトルと前記ハーフペルインデックスとに基づいて、内挿フィルタの使用有無及び内挿フィルタ種別を判定する工程Cと、前記内挿フィルタを用いて、動き補償予測画素信号を生成する工程Dとを備え、前記工程Aにおいて、所定のマージリスト構築方法により、マージリストを生成し、前記マージリスト及び前記マージインデックスから、前記動きベクトル及び前記ハーフペルインデックスを復号することを要旨とする。
本発明の第3の特徴は、コンピュータを、画像復号装置として機能させるプログラムであって、前記画像復号装置は、マージインデックスから、動きベクトル及び前記動きベクトルが1/2画素精度位置を参照するかどうかを示すハーフペルインデックスを復号するように構成されているマージ部と、MMVD(Merge Motion Vector Difference)或いはDMVR(Decoder-side Motion Vector Refinement)により、前記動きベクトルを洗練化するように構成されている動きベクトル洗練化部と、洗練化された前記動きベクトルと前記ハーフペルインデックスとに基づいて、内挿フィルタの使用有無及び内挿フィルタ種別を判定するように構成されているフィルタ判定部と、前記内挿フィルタを用いて、動き補償予測画素信号を生成するように構成されているフィルタ適用部とを備え、前記マージ部は、所定のマージリスト構築方法により、マージリストを生成し、前記マージリスト及び前記マージインデックスから、前記動きベクトル及び前記ハーフペルインデックスを復号するように構成されていることを要旨とする。
本発明によれば、ハーフペルインデックスに応じてペアワイズ平均マージ又はMMVD又はDMVRによって導出される動きベクトルの参照画素精度位置を制御する、或いは、導出された動きベクトルに応じてハーフペルインデックスを制御することができるようになり、対象ブロックの平滑化フィルタの有効条件の不備を解消し、さらに、未来のブロックに対して平滑化フィルタの有効条件の不備の伝搬を回避することができる画像復号装置、画像復号方法及びプログラムを提供することができる。
一実施形態に係る画像処理システム1の構成の一例を示す図である。 一実施形態に係る画像符号化装置100の機能ブロックの一例を示す図である。 一実施形態に係る画像符号化装置100のインター予測部111の機能ブロックの一例を示す図である。 一実施形態に係る画像復号装置200の機能ブロックの一例を示す図である。 一実施形態に係る画像復号装置200のインター予測部241の機能ブロックの一例を示す図である。 一実施形態に係るフィルタ判定部111D1/241C1における内挿フィルタの適用有無及びフィルタ種別の判定処理の一例について示すフローチャートである。 一実施形態に係るに係るハーフペルインデックス(hpelIfIdx)の判定処理の一例について示すフローチャートである。 非特許文献1の判定処理について説明するための図である。 一実施形態に係る画像復号装置200のmv洗練化部241Bの機能ブロックの一例を示す図である。 一実施形態に係るマージリスト構築処理の一例について示すフローチャートである。 一実施形態に係るマージリスト構築処理にて生成されるマージリストの一例について示す図である。 一実施形態に係る空間マージの一例について示す図である。 一実施形態に係る時間マージの一例について示す図である。 一実施形態に係る時間マージにおける動きベクトルのスケーリング処理の一例について説明するための図である。 一実施形態に係るヒストリーマージの一例について示す図である。 一実施形態に係るペアワイズ平均マージにより算出される新たな動きベクトルとハーフペルインデックスとの組の一例について示す図である。 一実施形態に係るペアワイズ平均マージにより生成される新たなハーフペルインデックスの設定処理の一例について示すフローチャートである。 一実施形態に係るペアワイズ平均マージにおけるハーフペルインデックスの設定条件の不備解消方法の一例について説明するための図である。 一実施形態に係るペアワイズ平均マージにおけるハーフペルインデックスの設定条件の不備解消方法の一例について説明するための図である。 一実施形態に係るペアワイズ平均マージにおけるハーフペルインデックスの設定条件の不備解消方法の一例について説明するための図である。 一実施形態に係るMMVDにおけるハーフペルインデックスの設定条件の不備解消方法の一例について説明するための図である。 一実施形態に係るMMVDにおけるハーフペルインデックスの設定条件の不備解消方法の一例について説明するための図である。 一実施形態に係るMMVDにおけるハーフペルインデックスの設定条件の不備解消方法の一例について説明するための図である。 一実施形態に係るMMVDにおけるハーフペルインデックスの設定条件の不備解消方法の一例について説明するための図である。 一実施形態に係るMMVDにおけるハーフペルインデックスの設定条件の不備解消方法の一例について説明するための図である。 一実施形態に係るペアワイズ平均マージによって導出された動きベクトルがMMVD又はDMVRによって修正される場合の変更例について説明するための図である。 一実施形態に係るペアワイズ平均マージによる動きベクトルの導出例について説明するための図である。 一実施形態に係るペアワイズ平均マージによる動きベクトルの導出例について説明するための図である。
以下、本発明の実施の形態について、図面を参照しながら説明する。なお、以下の実施形態における構成要素は、適宜、既存の構成要素等との置き換えが可能であり、また、他の既存の構成要素との組み合わせを含む様々なバリエーションが可能である。したがって、以下の実施形態の記載をもって、特許請求の範囲に記載された発明の内容を限定するものではない。
<第1実施形態>
以下、図1〜図28を参照して、本発明の第1実施形態に係る画像処理システム10について説明する。図1は、本実施形態に係る画像処理システム10について示す図である。
図1に示すように、本実施形態に係る画像処理システム10は、画像符号化装置100及び画像復号装置200を有する。
画像符号化装置100は、入力画像信号を符号化することによって符号化データを生成するように構成されている。画像復号装置200は、符号化データを復号することによって出力画像信号を生成するように構成されている。
符号化データは、画像符号化装置100から画像復号装置200に対して伝送路を介して送信されてもよい。符号化データは、記憶媒体に格納された上で、画像符号化装置100から画像復号装置200に提供されてもよい。
(画像符号化装置100)
以下、図2を参照して、本実施形態に係る画像符号化装置100について説明する。図2は、本実施形態に係る画像符号化装置100の機能ブロックの一例について示す図である。
図2に示すように、画像符号化装置100は、インター予測部111と、イントラ予測部112と、減算器121と、加算器122と、変換・量子化部131と、逆変換・逆量子化部132と、符号化部140と、インループフィルタ処理部150と、フレームバッファ160とを有する。
インター予測部111は、インター予測(フレーム間予測)によって予測信号を生成するように構成されている。
具体的には、インター予測部111は、符号化対象のフレーム(以下、対象フレーム)とフレームバッファ160に格納される参照フレームとの比較によって、参照フレームに含まれる参照ブロックを特定し、特定された参照ブロックに対する動きベクトル(mv)を決定するように構成されている。
また、インター予測部111は、参照ブロック及び動きベクトルに基づいて符号化対象のブロック(以下、対象ブロック)に含まれる予測信号を対象ブロック毎に生成するように構成されている。インター予測部111は、予測信号を減算器121及び加算器122に出力するように構成されている。ここで、参照フレームは、対象フレームとは異なるフレームである。
イントラ予測部112は、イントラ予測(フレーム内予測)によって予測信号を生成するように構成されている。
具体的には、イントラ予測部112は、対象フレームに含まれる参照ブロックを特定し、特定された参照ブロックに基づいて予測信号を対象ブロック毎に生成するように構成されている。また、イントラ予測部112は、予測信号を減算器121及び加算器122に出力するように構成されている。
ここで、参照ブロックは、対象ブロックについて参照されるブロックである。例えば、参照ブロックは、対象ブロックに隣接するブロックである。
減算器121は、入力画像信号から予測信号を減算し、予測残差信号を変換・量子化部131に出力するように構成されている。ここで、減算器121は、イントラ予測又はインター予測によって生成される予測信号と入力画像信号との差分である予測残差信号を生成するように構成されている。
加算器122は、逆変換・逆量子化部132から出力される予測残差信号に予測信号を加算してフィルタ処理前復号信号を生成し、かかるフィルタ処理前復号信号をイントラ予測部112及びインループフィルタ処理部150に出力するように構成されている。
ここで、フィルタ処理前復号信号は、イントラ予測部112で用いる参照ブロックを構成する。
変換・量子化部131は、予測残差信号の変換処理を行うとともに、係数レベル値を取得するように構成されている。さらに、変換・量子化部131は、係数レベル値の量子化を行うように構成されていてもよい。
ここで、変換処理は、予測残差信号を周波数成分信号に変換する処理である。かかる変換処理では、離散コサイン変換(DCT:Discrete Cosine Transform)に対応する基底パターン(変換行列)が用いられてもよく、離散サイン変換(DST:Discrete Sine Transform)に対応する基底パターン(変換行列)が用いられてもよい。
逆変換・逆量子化部132は、変換・量子化部131から出力される係数レベル値の逆変換処理を行うように構成されている。ここで、逆変換・逆量子化部132は、逆変換処理に先立って、係数レベル値の逆量子化を行うように構成されていてもよい。
ここで、逆変換処理及び逆量子化は、変換・量子化部131で行われる変換処理及び量子化とは逆の手順で行われる。
符号化部140は、変換・量子化部131から出力された係数レベル値を符号化し、符号化データを出力するように構成されている。
ここで、例えば、符号化は、係数レベル値の発生確率に基づいて異なる長さの符号を割り当てるエントロピー符号化である。
また、符号化部140は、係数レベル値に加えて、復号処理で用いる制御データを符号化するように構成されている。
ここで、制御データは、符号化ブロック(CU:Coding Unit)サイズ、予測ブロック(PU:Prediction Unit)サイズ、変換ブロック(TU:Transform Unit)サイズ等のサイズデータを含んでもよい。
また、制御データは後述するようにシーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、スライスヘッダなどのヘッダ情報を含んでも良い。
インループフィルタ処理部150は、加算器122から出力されるフィルタ処理前復号信号に対してフィルタ処理を行うとともに、フィルタ処理後復号信号をフレームバッファ160に出力するように構成されている。
ここで、例えば、フィルタ処理は、ブロック(符号化ブロック、予測ブロック又は変換ブロック)の境界部分で生じる歪みを減少するデブロッキングフィルタ処理である。
フレームバッファ160は、インター予測部111で用いる参照フレームを蓄積するように構成されている。
ここで、フィルタ処理後復号信号は、インター予測部111で用いる参照フレームを構成する。
(インター予測部111)
以下、図3を参照して、本実施形態に係る画像符号化装置100のインター予測部111について説明する。図3は、本実施形態に係る画像符号化装置100のインター予測部111の機能ブロックの一例について示す図である。
図3に示すように、インター予測部111は、mv導出部111Aと、AMVR部111Bと、mv洗練化部111Bと、予測信号生成部111Dとを有する。
インター予測部111は、動きベクトルに基づいて対象ブロックに含まれる予測信号を生成するように構成されている予測部の一例である。
mv導出部111Aは、図3に示すように、AMVP(Adaptive Motion Vector Prediction)部111A1と、マージ部111A2とを有し、フレームバッファ160からの対象フレーム及び参照フレームを入力とし、動きベクトルを取得するように構成されている。
AMVP部111A1は、対象フレームと参照フレームとの比較によって、参照フレームに含まれる参照ブロックを特定し、特定された参照ブロックに対する動きベクトルを探索するように構成されている。
また、上述の探索処理を複数の参照フレーム候補に対して行い、対象ブロックで予測に用いる参照フレーム及び動きベクトルを決定し、後段の予測信号生成部111Dに出力する。
参照フレーム及び動きベクトルについては、1つのブロックに対して最大2つずつ用いることができる。1つのブロックに対して参照フレーム及び動きベクトルを1組のみ用いる場合を「片予測」と呼び、参照フレームと動きベクトルを2組用いる場合を「双予測」と呼ぶ。以下、1組目を「L0」と呼び、2組目を「L1」と呼ぶ。
更に、AMVP部111Aは、上述の決定した動きベクトルを最終的に復号装置に伝送する際に、符号量を削減するために、隣接する符号化済みの動きベクトルから導出された動きベクトル予測子(mvp:motion vector predictor)の候補の中から、かかる対象ブロックの動きベクトルとの差分、すなわち、動きベクトル差分(mvd:motion vector difference)が小さくなるmvpを選択する。
このように選択されたmvp及びmvdを示すインデックス及び参照フレームを示すインデックス(以下、Refidx)が符号化部140で符号化され、画像復号装置200に伝送される。かかる処理は、適応動きベクトル予測符号化(AMVP:Adaptive:Motion Vector Preidicion)と一般に呼ばれる。
なお、上記の動きベクトルの探索方法、参照フレーム及び動きベクトルの決定方法、mvpの選択方法、mvdの算出方法については、既知の手法を採用することが可能であるため、その詳細については省略する。
AMVR部111Bは、AMVP部111Aで算出したmvdの伝送精度を変えるAMVR(Adaptive Motion Vector Resolution)の機能を有する。
mvdは、上述のように対象ブロックの動きベクトルとmvpとの和から導出しているため、mvdの伝送精度を変更することは、対象ブロックの動きベクトル自体の精度を変更することを意味する。
非特許文献1では、AMVRによるmvdの伝送精度のバリエーションが3種類用意されている。通常のmvdの伝送精度は1/16画素精度であり、このとき、動きベクトルは、最終的に1/16画素精度の位置を参照することになるが、AMVRが有効時には、mvdの伝送精度が1/4画素精度、1/2画素精度、1画素精度(すなわち、整数画素精度)から選択される。
ただし、対象ブロックがアフィンである場合は、mvdの伝送精度が1/4画素精度、1/16画素精度、1画素精度が選択される。ここで、アフィンとは、非特許文献1のAffineである。
さらに、非特許文献1では、上述のmvdの伝送精度として1/2画素精度が選択される場合に限り、1/2画素精度以外が選択される場合に適用される内挿フィルタとは別の内挿フィルタが後段の予測信号生成部111Dにて選択される構成となっている。詳細は後述する。
また、AMVR部111BでAMVR処理が有効と判定される場合は、AMVRが有効と示すフラグ及びAMVRによりmvdがどの精度に修正されるかを示すインデックスを、画像復号装置200に伝送する。
マージ部111A2では、対象ブロックの動き情報をAMVP部111A1のように探索して導出することや、隣接ブロックとの差分としてmvdとして伝送はせず、対象フレーム及び参照フレームを入力として、対象ブロックと同一フレームにある隣接ブロック又は対象フレームと異なるフレームにある同一位置のブロックを参照ブロックとして、かかる参照ブロックの動き情報をそのまま継承して利用する。この処理は、マージ符号化(以下、マージ)と一般に呼ばれる。
かかる対象ブロックがマージの場合、初めに、かかる対象ブロックに対するマージリストを作成する。マージリストは、参照フレームと動きベクトルとの組み合わせが複数列挙されたリストである。各組み合わせには、インデックス(以下、マージインデックス)が振られており、Refidx及び動きベクトルの情報を個別に符号化する代わりに、上述のマージインデックスのみを符号化し、画像復号装置200に伝送する。
ここで、画像符号化装置100側と画像復号装置200側とで、マージリストの作成方法を共通化しておくことで、画像復号装置200側ではマージインデックス情報のみからRefidx及び動きベクトルの情報を復号することができる。マージリストの作成方法の詳細については後述する。
mv洗練化部111Cは、マージ部111A2から出力される動きベクトルを修正する洗練化処理を行うように構成されている。詳細は後述する。
予測信号生成部111Dは、動きベクトルを入力としてMC予測画像信号を出力するように構成されており、フィルタ判定部111D1とフィルタ適用部111D2を有する。
フィルタ判定部111D1は、動きベクトルに基づいて内挿フィルタの適用有無及びフィルタ種別を判定する。詳細は後述する。
フィルタ適用部111D2は、フィルタ判定部111D1で内挿フィルタが有効と判定された場合、選択された内挿フィルタ、動きベクトル及び参照フレームから予測信号を生成するように構成されている。
フィルタ判定部111D1で内挿フィルタが無効と判定された場合は、内挿フィルタは使用されず、動きベクトル及び参照フレームにより予測信号が生成される。
(画像復号装置200)
以下、図4を参照して、本実施形態に係る画像復号装置200について説明する。図4は、本実施形態に係る画像復号装置200の機能ブロックの一例について示す図である。
図4に示すように、画像復号装置200は、復号部210と、逆変換・逆量子化部220と、加算器230と、インター予測部241と、イントラ予測部242と、インループフィルタ処理部250と、フレームバッファ260とを有する。
復号部210は、画像符号化装置100によって生成される符号化データを復号し、係数レベル値を復号するように構成されている。
ここで、復号は、例えば、符号化部140で行われるエントロピー符号化とは逆の手順のエントロピー復号である。
また、復号部210は、符号化データの復号処理によって制御データを取得するように構成されていてもよい。
なお、上述したように、制御データは、符号化ブロックサイズ、予測ブロックサイズ、変換ブロックサイズ等のサイズデータを含んでもよい。
逆変換・逆量子化部220は、復号部210から出力される係数レベル値の逆変換処理を行うように構成されている。ここで、逆変換・逆量子化部220は、逆変換処理に先立って、係数レベル値の逆量子化を行うように構成されていてもよい。
ここで、逆変換処理及び逆量子化は、変換・量子化部131で行われる変換処理及び量子化とは逆の手順で行われる。
加算器230は、逆変換・逆量子化部220から出力される予測残差信号に予測信号を加算してフィルタ処理前復号信号を生成し、フィルタ処理前復号信号をイントラ予測部242及びインループフィルタ処理部250に出力するように構成されている。
ここで、フィルタ処理前復号信号は、イントラ予測部242で用いる参照ブロックを構成する。
インター予測部241は、インター予測部111と同様に、インター予測(フレーム間予測)によって予測信号を生成するように構成されている。
具体的には、インター予測部241は、符号化データから復号した動きベクトルと参照フレームに含まれる参照信号に基づいて予測信号を予測ブロック毎に生成するように構成されている。インター予測部241は、予測信号を加算器230に出力するように構成されている。
イントラ予測部242は、イントラ予測部112と同様に、イントラ予測(フレーム内予測)によって予測信号を生成するように構成されている。
具体的には、イントラ予測部242は、対象フレームに含まれる参照ブロックを特定し、特定された参照ブロックに基づいて予測信号を予測ブロック毎に生成するように構成されている。イントラ予測部242は、予測信号を加算器230に出力するように構成されている。
インループフィルタ処理部250は、インループフィルタ処理部150と同様に、加算器230から出力されるフィルタ処理前復号信号に対してフィルタ処理を行うとともに、フィルタ処理後復号信号をフレームバッファ260に出力するように構成されている。
ここで、例えば、フィルタ処理は、ブロック(符号化ブロック、予測ブロック、変換ブロック、あるいはそれらを分割したサブブロック)の境界部分で生じる歪みを減少するデブロッキングフィルタ処理である。
フレームバッファ260は、フレームバッファ160と同様に、インター予測部241で用いる参照フレームを蓄積するように構成されている。
ここで、フィルタ処理後復号信号は、インター予測部241で用いる参照フレームを構成する。
(インター予測部241)
以下、図5を参照して、本実施形態に係るインター予測部241について説明する。図5は、本実施形態に係るインター予測部241の機能ブロックの一例について示す図である。
図5に示すように、インター予測部241は、mv復号部241Aと、mv洗練化部241Bと、予測信号生成部111Cとを有する。
インター予測部241は、動きベクトルに基づいて予測ブロックに含まれる予測信号を生成するように構成されている予測部の一例である。
mv復号部241Aは、AMVP部241A1とマージ部241A2とを有し、フレームバッファ260から入力される対象フレーム及び参照フレーム、及び、画像符号化装置100から受信する制御データの復号によって、動きベクトルを取得するように構成されている。
AMVP部241A1は、対象フレーム及び参照フレームと、画像符号化装置100から、mvp及びmvdを示すインデックス、Refidx、AMVR部111Bからのmvdの伝送精度を示すインデックスを受信し、動きベクトルを復号するように構成されている。動きベクトルの復号方法については、既知の手法を採用すること可能であるため、その詳細については省略する。
マージ部241A2は、画像符号化装置100から、マージインデックスを受信し、動きベクトルを復号するように構成されている。
具体的には、マージ部241A2は、画像符号化装置100と同じ方法で、マージリストを構築して、受信したマージインデックスに対応する動きベクトルを構築したマージリストから取得するように構成されている。マージリストの構築方法の詳細は、後述する。
mv洗練化部241Bは、洗練化部111Cと同様に、動きベクトルを修正する洗練化処理を実行するように構成されている。
予測信号生成部241Cは、フィルタ判定241C1とフィルタ適用部241C2とを有し、予測信号生成部111Cと同様に、動きベクトルに基づいて予測信号を生成するように構成されている。
なお、画像復号装置200のフィルタ判定部241C1は、画像符号化装置100のフィルタ判定部111D1と全く同じ構成となるため、本実施形態では、以下、フィルタ判定部111D1の動作について代表して説明する。
(内挿フィルタの判定処理)
以下、図6を参照して、本実施形態に係るフィルタ判定部111D1/241C1における内挿フィルタの適用有無及びフィルタ種別の判定処理について説明する。
図6は、本実施形態に係るフィルタ判定部111D1における内挿フィルタの適用有無及びフィルタ種別の判定処理順の一例を示すフローチャートである。
図6に示すように、ステップS6-1において、フィルタ判定部111D1は、mvの参照位置が小数画素位置かどうかを判定する。mvの参照位置が小数画素位置である場合は、本処理は、ステップS6-2に進み、mvの参照位置が小数画素位置でない場合、即ち、mvの参照位置が整数画素値位置の場合は、本処理は、ステップS6-3に進む。
ステップS6-2において、フィルタ判定部111D1は、内挿フィルタを適用すると判定し、本処理は、ステップS6-4に進む。
ステップS6-3において、フィルタ判定部111D1は、内挿フィルタを適用しないと判定し、本処理を終了する。
ステップS6-4において、フィルタ判定部111D1は、後述するハーフペルインデックス(hpelIfIdx)が無効すなわち「0」であるかどうかを判定する。hpelIfIdxが「0」である場合は、本処理は、ステップS6-5に進み、hpelIfIdxが有効すなわち「0」ではない場合は、本処理は、ステップS6-6に進む。
ステップS6-5において、フィルタ判定部111D1は、内挿フィルタとしてHEVCフィルタを利用すると判定し、本処理を終了する。
ここで、HEVCフィルタとは、非特許文献2と同様の8タップの線形内挿フィルタである。
ステップS6-6において、フィルタ判定部111D1は、内挿フィルタとして平滑化フィルタを利用すると判定する。
ここで、平滑化フィルタとは、例えば、非特許文献1で採用されている6タップのガウシアンフィルタを用いてもよい。また、hpelIfIdxの示す値によって、内挿フィルタとして複数のフィルタの利用を設定してもよい。
このように、mvの参照位置が小数画素位置である際に、hpelIfIdxに基づいて、2種類以上の内挿フィルタの利用を適応的に切り換えることができるため、画像特性に併せて利用する内挿フィルタを選択できるため、結果として符号化性能の向上効果が期待できる。
(ハーフペルインデックス(hpelIfIdx)の設定処理)
以下、図7を参照して、本実施形態に係るハーフペルインデックス(hpelIfIdx)の判定処理について説明する。
図7は、本実施形態に係るフィルタ判定部111D1におけるhpelIfIdxの判定処理順の一例を示すフローチャートである。
hpelIfIdxは、上述したように、内挿フィルタの種別の判定に関わり、hpelIfIdxが「0」である場合、すなわち、無効の場合は、非特許文献2と同様の内挿フィルタを用いる。他方、hpelIfIdxが「0」でない場合、すなわち有効である場合は、平滑化フィルタを用いる。
hpelIfIdxは、対象ブロックがマージである場合は、動きベクトルとRefIdxとを合わせて、参照ブロックから取得し、マージインデックスに対応付けられる。
他方、対象ブロックがマージモードではなく、AMVPにより動きベクトルが復号される場合には、上述したAMVRの適用有無及び所定条件によって、hpelIfIdxの値が判定される。
図7に示すように、ステップS7-1において、フィルタ判定部111D1は、AMVRが有効かどうかを判定する。判定には、例えば、非特許文献1と同様に、AMVRの適用有無を示すフラグ(amvr_flag)を復号することで判定してもよい。
ステップS7-1において、AMVRが有効と判定される場合は、本処理は、ステップS7-2に進み、AMVRが無効と判定される場合は、本処理は、ステップS7-3に進む。
ステップS7-2において、フィルタ判定部111D1は、所定条件1により、hpelIfIdxの値が「0」であるかどうかを判定する。
ステップS7-2において、所定条件1が満たされていると判定された場合、本処理は、ステップS7-4に進み、所定条件1が満たされていないと判定された場合は、本処理は、ステップS7-5に進む。
ここで、ステップS7-2の所定条件1において、AMVRの伝送精度を示すインデックス(amvr_precision_idx)を復号して判定してもよく、AMVRの伝送精度が1/2画素精度の場合に所定条件1を満たすと判定し、それ以外の場合は所定条件1を満たさないと判定する。
また、ステップS7-2の所定条件1では、対象ブロックがアフィンであるかで判定してもよく、対象ブロックがアフィンである場合は、所定条件1を満たさないと判定し、アフィンでない場合はamvr_precision_idxがmvdの伝送精度を1/2画素精度を示す場合に所定条件1を満たすと判定する。
ここで、アフィンとは、非特許文献1で採用されているAffineのことであり、本発明では、既知の手法を採用することが可能であるため、説明は省略する。
また、ステップS7-2の所定条件1では、対象ブロックがIBCであるかで判定してもよく、対象ブロックがIBCである場合は、所定条件1を満たさないと判定し、IBCでない場合はamvr_precision_idxがmvdの伝送精度を1/2画素精度を示す場合に所定条件1を満たすと判定する。
ここで、IBCとは、非特許文献1で採用されているIBC(Intra_Block_Copy)のことであり、本発明では、既知の手法を採用することが可能であるため、説明は省略する。
ステップS7-3において、フィルタ判定部111D1は、hpelIfIdxが「0」であると判定し、本処理を終了する。
ステップS7-4において、フィルタ判定部111D1は、hpelIfIdxが「1」であると判定し、本処理を終了する。
ステップS7-5において、フィルタ判定部111D1は、hpelIfIdxが「0」であると判定し、本処理を終了する。
なお、ここまで、hpelIfIdxの判定処理をフローチャートで説明したが、図8に示す非特許文献1の判定処理のように、フィルタ判定部111D1は、amvr_flag、amvr_precision_idx、inter_affine_flagの復号結果及び対象ブロックがIBCであるかどうかに基づいて、Avmrshift値を決定し、かかるAmvr_shift値によってhpelIfidxの値を判定してもよい。
(mv洗練化部)
以下、図9を参照して、本実施形態に係るmv洗練化部241Bについて説明する。なお、符号化装置のmv洗練化部111Cは復号装置のmv洗練化部241Bと全く同じ構成となるため、本実施形態では、mv洗練化部241Bについて代表して説明する。
図9は、本実施形態に係るmv洗練化部241Bの機能ブロックの一例について示す図である。
図9に示すように、mv洗練化部241Bは、MMVD部241B1と、DMVR部241B2とを有する。
MMVD部241B1及びDMVR部241B2において、具体的には、非特許文献1で採用されているMMVD(Merge mode with MVD)及びDMVR(Decoder side Motion Vector Refinement)で動きベクトルが洗練化される。
具体的には、MMVD部241B1は、マージ部111A2から出力される動きベクトルの参照位置を基準として、図9に示すように、参照位置の修正範囲を距離及び方向(垂直および水平)によって設定するように構成されている。
MMVD部241B1は、修正距離について、修正範囲の中から所定コストが最も小さい修正位置を特定し、修正参照位置に基づいて動きベクトルを修正する洗練化処理を行うように構成されている。
また、DMVR部241B2は、マージ部111A2から出力される動きベクトルによって特定される参照位置を基準として探索範囲を設定し、探索範囲の中から所定コストが最も小さい修正参照位置を特定し、修正参照位置に基づいて動きベクトルを修正する洗練化処理を行うように構成されている。
ここで、mv洗練化部241Bにおいて、対象ブロックへのMMVDの適用有無、DMVRの適用有無も判定されるが、その判定処理は、非特許文献1に記載の既知の手法を本発明では用いることが可能であるため、説明は省略する。
なお、MMVD及びDMVRのいずれも無効である場合は、マージ部111A2から出力される動きベクトルは、修正されずに、そのまま後段の予測信号生成部241Cに出力される。
(マージリスト構築方法)
以下、図10を参照して、本実施形態に係るマージリスト構築処理について説明する。図10は、本実施形態に係るマージリスト構築処理の一例を示すフローチャートである。
図10に示すように、本発明に係るマージリスト構築処理は、非特許文献1と同様に、合計5つのマージリストの構築処理によって構成される。
具体的には、ステップS10-1の空間マージ、ステップS10-2の時間マージ、ステップS10-3のヒストリーマージ、ステップS10-4のペアワイズ平均マージ、ステップS10-5のゼロマージによるマージリストの構築処理から構成される。それぞれのマージリスト構築処理については、後述する。
図11は、本実施形態に係るマージリスト構築処理にて生成されるマージリストの一例を示した図である。
マージリストとは、上述したように、マージインデックスに対応する動きベクトル、Refidx、hepelIfIdxが登録されたリストである。
ここで、マージインデックスの最大数は、非特許文献1では「5」と設定されているが、設計者の意図により、自由に設定してもよい。
また、図11にあるmvL0、mvL1、RefIdxL0、RefIdxL1は、それぞれ参照画像リストL0、L1の動きベクトルと参照画像インデックスを示す。
ここで、参照画像リストL0、L1とは、参照フレームが登録されたリストのことを示し、RefIdxによって、その参照フレームが特定される。
なお、図11に示すマージリストには、L0及びL1双方の動きベクトルと参照画像インデックスを示しているが、参照ブロックによっては片方向予測である場合がある。その場合は、片方向分の動きベクトル及び参照画像インデックスが、かかるマージリストに登録される。また、そもそも参照ブロックに動きベクトルが存在しない場合は、その参照ブロックに対するマージリストの構築処理がスキップされる。
(空間マージ)
図12は、空間マージについて示した図である。空間マージとは、対象ブロックと同一フレームに存在する隣接ブロックから、mv、RefIdx、hpelIfIdxを継承する技術である。
具体的には、図12に示すような位置関係にある隣接ブロックから、上述のmv、Refidx、hpelfIdxを継承し、その処理順は、非特許文献1と同様に、図12に示すような順序としてもよい。
なお、マージリスト処理では、上述の処理順でマージリストへのパラメータ登録がなされるが、マージリストに対して同じ動きベクトルと参照画像インデックスが登録されないようなチェック機構が存在する。これをpruning処理と呼ぶ。
pruning処理の存在理由は、マージリストに登録される動きベクトル及び参照画像インデックスのバリエーションを増やすことであり、画像符号化装置100の観点では、画像特性に併せて所定コストが最も小さくなる動きベクトルが選択できるということであり、画像復号装置200では、その選択された動きベクトル及び参照画像インデックスに基づいて予測精度の高い予測信号を生成することができるため、結果的に符号化性能の向上効果が期待できるという点にある。
空間マージでは、例えば、隣接ブロックAが登録されれば、次の処理順にある隣接ブロックB1で、隣接ブロックA1で登録された動きベクトルと参照画像インデックスとの同一性が確認され、もし同一性が確認されれば、隣接ブロックB1の動きベクトル及び参照画像インデックスはマージリストに登録されない構成となっている。
なお、非特許文献1では、隣接ブロックB、隣接ブロックA、隣接ブロックBについては、既にマージリストに登録済みの動きベクトルと参照画像インデックスとの同一性のチェック以外に、対象ブロックがトライアングルマージであるかどうかの確認が存在する。
本実施形態では、pruning処理に対して、このトライアングルマージによる判定を追加してもよく、またトライアングマージとしては既知の手法を取ることが可能であるため、説明は省略する。
また、非特許文献1では、空間マージによるマージインデックスの登録最大可能数を「4」と設定しており、隣接ブロックBに関しては、それまでの空間マージ処理によって、既に4つのマージインデックスが登録されている場合は、Bの処理がスキップされる。
本実施形態では、非特許文献1と同様に、隣接ブロックBの処理を、既存のマージインデックス登録数によって判定してもよい。
(時間マージ)
図13は、時間マージについて示した図である。時間マージとは、対象ブロックと異なるフレームに存在するが、同一位置の左下の隣接ブロック(図13のC)又は同一位置にあるブロック(図13のC)を参照ブロックと特定して、動きベクトルと参照画像インデックスを継承する技術である。
かかる時間マージリストによるマージインデックスのマージリストへの登録最大可能数は、非特許文献1では、「1」となっており、本実施形態においても、登録最大可能数を同様に設定しもよい。
また、時間マージにおいて継承される動きベクトルは、スケーリングされる特徴があり、図14は、かかるスケーリング処理を示した図である。
具体的には、図14に示すように、対象ブロックの参照フレームと対象フレームが存在するフレームとの距離tbと、参照ブロックの参照フレームと参照ブロックの参照フレームの距離tdとに基づいて、参照ブロックのmvが、以下のようにスケーリングされる。
mv’=(td/tb)×mv
時間マージでは、このスケーリングされたmv’がマージインデックスに対応する動きベクトルとしてマージインデックスに登録される構成となっている。
(ヒストリーマージ)
図15は、ヒストリーマージについて示した図である。ヒストリーマージとは、対象ブロックよりも過去に符号化済みのインター予測ブロックが有する動きベクトル、参照画像インデックス、ハーフペルインデックスを、ヒストリーマージテーブルと呼ばれる記憶領域に別途記憶しておき、マージリストが前段の空間マージ処理、時間マージ処理で埋まっていない場合に、かかるヒストリーマージテーブルに登録されているマージインデックスをマージリストに登録するという技術である。
図15は、ヒストリーマージテーブル構築処理の一例を示した図であり、ヒストリーマージインデックスによって、過去に符号化済みのブロックに対応する動きベクトル、参照画像インデックス、ハーフペルインデックスがヒストリーマージテーブルに登録される構成となっている。
このヒストリーマージテーブルのヒストリーマージインデックスの最大登録数は、非特許文献1では、最大で「6」と設定されているが、設計者の意図によって自由に設定してもよい。
また、このヒストリーマージテーブルへのヒストリーマージインデックスの登録処理は、FIFO処理となっており、ヒストリーマージテーブルがいっぱいになると新しいヒストリーマージテーブルが追加されるたびに、最後に登録されたヒストリーマージインデックスが削除される構成となっている。
また、ヒストリーマージテーブルに登録されているヒストリーマージインデックスは、非特許文献1と同様に、対象ブロックが符号化ツリーブロック(CTU:Coding Tree Block)を跨ぐと初期化されてもよい。
(ペアワイズ平均マージ)
図16は、ペアワイズ平均マージにより算出される新たな動きベクトルとハーフペルインデックスとの組について示した図である。
ペアワイズ平均マージとは、マージリストに既に登録されている2組のマージインデックスに対応する動きベクトル、参照画像インデックス、ハーフペルインデックスを用いて、新たな動きベクトル、参照画像インデックス、ハーフペルインデックスを生成する技術である。
ペアワイズ平均マージに利用する2組のマージインデックスは、非特許文献1と同様に、マージリストに登録されているマージインデックスの0番目及び1番目を固定で利用してもよいし、或いは、設計者の意図で、別の2組の組合せを自由に設定してもよい。
ペアワイズ平均マージにおける新たな動きベクトルの生成方法は、図16に示すように、マージリストの2組のマージインデックスに対応する動きベクトルを平均化して生成する。
具体的には、例えば、2組のマージインデックスに対応する動きベクトルがそれぞれ2つある場合(すなわち、双予測である場合)、L0及びL1方向の動きベクトルmvL0P/mvL1P及びmvL0P/mvL1Pによって、ペアワイズ平均マージの動きベクトルであるmvL0Avg及びmvL1Avgは、それぞれ以下のように独立して算出される。
mvL0Avg=(mvL0P+mvL0P)/2
mvL1Avg=(mvL1P+mvL1P)/2
ここで、mvL0P/mvL1P又はmvL0P/mvL1Pの片方が存在しない場合は、存在しない動きベクトルを除いて、上述の計算が行われる。
このとき、非特許文献1では、ペアワイズ平均マージインデックスに紐づく参照画像インデックスをマージインデックスPに紐づく参照画像インデックスRefIdxL0P及びRefIdxL1Pを常に使用するように定めている。
また、ペアワイズ平均マージにより生成される新たなハーフペルインデックスhpelIfIdxAvgは、図17(a)及び図17(b)に示すように、既にマージリストに登録済みの2組のマージインデックスに対応する2組のハーフペルインデックスhpelIfIdxP及びhpelIfIdxPに基づいて設定する。
具体的には、ステップS17-1において、hpelIfIdxP及びhpelIfIdxPが同じであるかどうかを判定する。同じである場合は、本処理は、ステップS17-2に進み、同じでない場合は、本処理は、ステップS17-3に進む。
ステップS17-2において、hpelIfIdxAvgをhpelIfIdxPと設定する。
ステップS17-3において、hpelIfIdxAvgを無効すなわち「0」と設定する。
ここで、hpelIfIdxP及びhpelIfIdxPの取り得る値が「0」又は「1」である場合、図17(a)に示すステップS17-1及びステップS17-3の処理について、図17(b)のステップS17-4からステップS17-6のような処理に置き換えてもよい。
(ペアワイズ平均マージにおけるハーフペルインデックスの設定条件不備解消)
以下、図18〜図20を参照して、本実施形態に係るペアワイズ平均マージにおけるハーフペルインデックスの設定条件の不備解消方法の一例について説明する。
図18は、本実施形態に係るペアワイズ平均マージによりハーフペルインデックスの設定条件に不備が生じる事例を示した図である。
具体的には、ペアワイズ平均マージにより生成される新たな動きベクトル及びハーフペルインデックスは、上述のように、既にマージリストに登録された異なる2組のマージインデックスに対応する動きベクトルの平均化及び所定条件によるハーフペルインデックス値の判定により導出されると説明した。
図16で示した例では、ペアワイズ平均マージにより生成されたhpelIfIdxAvgが「1」であり、mvL0Avg及びmvL1Avgがいずれも1/2画素精度位置にあるため、上述の平滑化フィルタの有効条件について対象ブロックが満たすことになる。
一方、図18のように、ペアワイズ平均マージにより生成されたhpelIfIdxAvgが有効すなわち「1」である場合で且つmvL0P、mvL1P、mvL0P及びmvL1Pがいずれも1/2画素精度位置にある場合であっても、平均化されるmvL0P及びmvL0Pの一方が1/2画素位置にあり、他方が整数画素位置にある場合は、mvL0Avgは、1/4画素精度位置を参照することとなる。これは、図18のように、mvL1P及びmvL1Pの平均化により生成されるmvL1Avgについても同様の構成となっている。
対象ブロックがペアワイズ平均マージによる動きベクトルを用いて予測信号を生成することを考えると、この場合、周囲の参照ブロックから継承したハーフペルインデックスが「1」であるにも拘わらず、動きベクトルが1/4画素精度位置を参照するため、平滑化フィルタの有効条件を満たさないことになる。これは、対象ブロックの内挿フィルタにはHEVCフィルタが利用される一方で、参照先の周囲のブロックの内挿フィルタには平滑化フィルタが利用されるため、ブロック間で異なる内挿フィルタの利用が混在することを引き起こす。
さらに、当該対象ブロックを参照する未来のブロックは、かかる対象ブロックからハーフペルインデックス=1と参照先が1/4画素精度位置にあるmvを継承するため、未来のブロックに対して、この平滑化フィルタの有効条件に対する不一致を伝搬することに繋がる。
この課題については、既知の手法では解決されておらず、本実施形態において以下の2つの方法を提案する。図19及び図20は、かかる2つの解決手法を示した図である。
まず、1つ目の方法について図19に示す。図19では、具体的には、上述したようなケース、すなわち、ステップS19-4に示すような、継承により生成したhpelIfIdxAvgが「1」である場合にも拘らず、mvL0Avg又はmvL1Avgが1/2画素精度位置以外を参照する場合、本処理は、ステップS19-5に進み、継承したhpelIfIdxAvgを「1」から「0」に修正する。これにより、上述したような対象ブロック並びに未来のブロックに対する平滑化フィルタの有効条件の設定不備及びそれに伴う伝搬を回避することが可能となる。
また、2つ目の方法について図20に示す。図20に示す処理は、図20のステップS20-5及び図19のステップS19-5以外は、図19に示す処理と同じ処理になり、本実施形態では、ステップ19-5に相当する別の解消方法として、ステップS20-5に示す解消方法を提案する。
ステップS20-5において、具体的には、前段のステップで、hpelIfIdxAvgが「1」であるにも拘らず、mvL0Avg及びmvL1Avgの参照先が1/2画素精度位置以外となる場合、mvL0Avg及びmvL1Avgの参照先を1/2画素精度位置に丸めるという方法である。これにより、対象ブロック並びに未来のブロック対して、平滑化フィルタの有効条件の設定不備及びそれに伴う伝搬を回避することが可能となる。
前者の解決方法は、mvに応じてhpelIfIdxを修正するという技術であり、後者の解決方法は、hpelIfIdxに応じてmvを修正する技術である。どちらの解決方法を採用するかは、設計者の意思で自由に設定しもよい。
(MMVDにおける不備解消)
上述したペアワイズ平均マージにおけるハーフペルインデックス及び動きベクトルに基づく平滑化フィルタの設定条件の不備は、MMVDが有効となる対象ブロックでも生じる可能性がある。何故ならば、マージ部241A2から出力される動きベクトルの参照先が1/2画素精度位置であり且つハーフペルインデックスが「1」である場合であっても、MMVD部241B1において、かかる動きベクトルがMMVDにより修正され、動きベクトルの参照先が1/2画素精度位置からずれる可能性があるためである。
そのため、本発明では、ペアワイズ平均マージと同様に、mvに応じてhpelIfIdxを修正するという解決手段と、hpelIfIdxに応じてmvを修正する解決手段を提案する。
以下、図21〜図23を参照して、本実施形態に係るMMVDにおけるハーフペルインデックスの設定条件の不備解消方法の一例について説明する。
図21は、MMVDについて示した図である。MMVDは、上述したように、マージ部241A2が出力した動きベクトルを基準として、新たな動きベクトルの参照位置を、図21に示すmmvd_distance_idx及びmmvd_direction_idxの値に基づき修正するという構成となっている。
非特許文献1では、上述の2つのインデックスに基づいて、mvdが計算され、もともとの動きベクトルに加算される構成となっている。かかるmvdが1/4画素精度を取る際に、MMVDの適用後の動きベクトルは、1/2画素精度位置からずれることになる。
なお、MMVDのmvdが整数精度であっても、元々の動きベクトルの画素精度は、上述のAMVRの場合とは異なり、変わらない。例えば、元々の動きベクトルが1/2画素精度位置にあり、mvdが「1」である場合は、新たな動きベクトルは変わらず1/2精度位置を参照する。
そこで、上述のようなケースを解消するため、図22及び図23を用いて、2つの解決手段について、以下に示す。
図22は、mvに応じてhpelIfIdxを修正するという解決手段を示している。
具体的には、ステップS22-1において、hpelIfIdxが「1」である場合は、本処理は、ステップS22-2に進み、hpelIfIdxが「1」でない場合は、本処理は、終了する。
ステップS22-2において、所定条件2を満たす場合は、本処理は、終了し、所定条件2を満たさない場合は、本処理は、ステップS22-3に進む。
ここで、所定条件2には、MMVDの適用後のmvが1/2画素精度位置を参照するかどうかの判定を追加してもよい。また、MMVD部241B1に入力されるmvが1/2画素位置にあり且つMMVDにより追加されるmvdが1/2画素精度であるかどうかの判定を追加してもよい。
ステップS22-3において、ステップS22-2でMMVDによりmvが1/2画素精度位置からずれるため、ハーフペルインデックスを「1」から「0」に修正して、本処理は終了する。
図23は、hpelIfIdxに応じてmvを修正するという解決手段を示している。
具体的には、図22に示すステップS22-3で示した解決手段に相当する別の解決手段、すなわち、MMVDの適用後のmvを1/2画素精度位置に丸めるという処理を、ステップS23-3にて実施する構成となっている。
[変更例:MMVDに関する丸め処理のバリエーション]
以下に、上述のステップS23−3で示したMMVDでmvが修正された場合のmvの丸め処理のバリエーションについて説明する。
上述した方法は、MMVD適用後のmvを直接1/2画素精度位置に丸めるという処理を取っていたが、1つ目の代替方法としては、MMVD適用時のmvdを1/2画素精度位置に丸めることで、MMVDの適用後のmvを間接的に丸めてもよい。
例えば、mmvd_distance_idxに対応するmvdのオフセット値を示した図24のテーブルを変更するという方法が考えられる。具体的には、以下の2つの方法が考えられる。
1つ目の方法は、hpelIfIdxの判定を図24のテーブルに追加するというアイデアである。図25に、hpelIfIdxの判定を追加したテーブルを示す。
図24に示す従来のテーブルでは、MMVDによるmvdのオフセット値は、MMVDの修正精度を整数画素精度とするかを示すスライスレベルの判定フラグであるslice_fpel_mmvd_enabled_flagのみで判定されていたが、図25では、slice_fpel_mmvd_enabled_flagが「0」である場合、すなわち、MMVDによる動きベクトルの修正精度が小数画素精度まで許容される場合のテーブルをhpelIfIdxの値によって2つに分けている。
hpelIfIdxが「0」である場合は、mmvd_distance_idxは、「1」から開始され、hpelIfIdxが「1」である場合は、mmvd_distance_idxが「2」から開始される。
非特許文献1におけるMMVDの実際のMVDのオフセット値は、かかるテーブルに示された値に対して4倍され、非特許文献1における動きベクトルの演算精度である1/16画素精度に対して掛けられるため、図25に示すMmvdDistanceが「1」である場合は、MMVDの適用後の動きベクトルは、1/4画素精度となり、MmvdDistanceが「2」である場合は、MMVDの適用後の動きベクトルは、1/2画素精度となる。その結果、上述したハーフペルインデックス及びMMVDの適用後のmvの不備の解消が可能となる。
(DMVRにおける不備解消)
上述したペアワイズ平均マージ、MMVDにおけるハーフペルインデックス及び動きベクトルに基づく平滑化フィルタの設定条件の不備は、DMVRが有効となる対象ブロックでも生じる可能性がある。何故ならば、マージ部241A2から出力される動きベクトルの参照先が1/2画素精度位置であり且つハーフペルインデックスが「1」である場合であっても、DMVR部241B2で、かかる動きベクトルがDMVRにより修正され、動きベクトルの参照先が1/2画素精度位置からずれる可能性があるためである。
そのため、本変更例では、ペアワイズ平均マージと同様に、mvに応じてhpelIfIdxを修正するという解決手段、並びに、hpelIfIdxに応じてmvを修正する解決手段を提案するが、その構成例は、上述したMMVDでの解決手段、すなわち、図22及び図23で示した構成例と全く同じになるため、説明は省略する。
[変更例:DMVRに関する丸め処理のバリエーション]
以下に、上述したMMVDの適用後のmvに対する丸め処理のバリエーションと同様に、DMVRの適用後のmvに対する丸め処理について説明する。
MMVDでは、丸め処理のバリエーション例として、MMVDの適用後のmvを直接丸めるか、或いは、MMVDの適用時のmvdに丸め処理を施し、間接的に、MMVDの適用後のmvを丸めるという技術を紹介したが、DMVRに関するバリエーションも基本は同じであるため、重複部分の説明は省略する。他方、DMVR及びMMVDの丸め処理で差異が存在する部分を説明する。
具体的には、DMVRでは、mvdの計算が、整数部分と小数部分とで独立に算出される。よって、mvdを丸める処理の対象に選択する場合、上述のMMVDと同様に、mvdの総和を直接丸める対象としてもよいが、DMVRでは、mvdの小数部分のみを丸める対象としてもよい。mvが1/2画素精度位置からずれるケースは、DMVRによるmvdの小数部分が1/2画素精度以外になる場合に限定されているためである。
また、DMVRにおいてのmvdの導出は、上述のように修正する動きベクトルの位置を探索によって特定した後、パラボラフィッティング処理によって計算で算出する構成となっており、丸め処理をこのパラボラフィッティング処理にて実施することで、DMVRの適用後のmvを1/2画素精度位置に丸めてもよい。
[変更例:DMVRに関するその他の変更例]
以下では、DMVRに関するその他の変更例について説明する。
DMVRは、修正する動きベクトルの探索を伴う処理のため、画像復号装置200にとっては、比較的重い処理であることが知られている。そのため、ブロック処理の並列化実現性を容易にするべく、DMVRの適用後の動きベクトルは、例えば、デブロッキングフィルタの判定条件には利用されず、DMVRの適用前の動きベクトルが利用される。
ハーフペルインデックスについても同様で、非特許文献1では、対象ブロックの予測信号生成に利用される動きベクトルは、DMVRの適用後のものが利用されるが、例えば、マージ処理で周囲の未来のブロックに継承する動きベクトルは、DMVRの適用前のものが継承される構成となっている。
ここで、図22及びと図23で示した解決手段は、いずれもDMVRの適用後のmvの参照位置を確認してから、hpelIfIdx或いはmvを修正するというものであった。
しかし、この解決方法では、DMVRの適用を待ってから修正処理を施さなければならず、ブロック処理の並列化の実現性容易度を低下させてしまうことが考えられる。
そのため、以下のような3つの手段を代替として講じることが可能である。
1つ目は、対象ブロックでDMVRが有効となる場合、上述のように、mvを修正するのは、対象ブロックに限定し、対象ブロックを参照する未来のブロックについて継承するmvは、DMVRの適用前のmvを継承するという方法である。
2つ目は、対象ブロックでDMVRが有効となる可能性があると判定された時点で、hpelIfIdxを常に「0」に設定するという方法である。対象ブロックでDMVRが有効となる可能性があると判定できるタイミングは、CABACによる制御データの復号時であり、本変更例において、そのタイミングとして既知の手法を取ることが可能であるため、説明は省略する。
3つ目は、hpelIfIdxが「1」となる対象ブロックに対して、DMVRを無効にするという方法である。
上述した3つの代替方法のいずれかを講じることで、上述で挙げたブロックの処理並列化の実現性容易度の低下を回避することが期待できる。
[変更例:ペアワイズ平均及びMMVD/DMVRが直列時の不備解消]
以下、図26を参照して、本実施形態に係るペアワイズ平均マージによって導出された動きベクトルがMMVD又はDMVRによって修正される場合の変更例について説明する。
図26は、ペアワイズ平均マージによって導出された動きベクトルがMMVD又はDMVRによって修正される場合の変更例を示した図である。
上述の例において、ペアワイズ平均マージによりハーフペルインデックスが「1」であり且つ動きベクトルが1/2画素精度位置からずれる場合に、ハーフペルインデックスを「0」に修正する解決手段について説明した。
しかし、このハーフペルインデックスを「0」に修正した後で、MMVD又はDMVRによって、1/2画素精度位置からずれた動きベクトルが、再度、1/2画素精度位置に戻る可能性が考えられる。
このようなケースにおいて、一度「1」から「0」に修正したハーフペルインデックスを再度「1」に修正することが理想的であり、図26を用いて、その手法の一例を説明する。
なお、非特許文献1におけるMMVDの対象は、マージインデックスが「0」と1番目の動きベクトルに限定されており、このとき、ペアワイズ平均マージにより導出された動きベクトルは、NNVDの対象とはならないが、MMVDの有効対象が、将来、マージインデックスが「2」以上である動きベクトルにも拡張された場合を想定して、以下で、かかる手法の一例を説明する。
まず、ステップS26-4までは、上述したペアワイズ平均マージにおけるフローチャート、すなわち、図19に示すフローチャートと同じであるが、ステップS26-4以降の処理が、上述のケースを考慮して変更となっている。
具体的には、ステップS26-4において、動きベクトルが1/2画素精度位置からずれる場合は、hpelIfIdxAvgを「0」に修正すると共に、hpelIfIdxAvg’に「1」を設定する。
ここで、hpelIfIdxAvg’は、ペアワイズ平均マージのハーフペルインデックスの修正前の値を保持するためのインデックスである。
なお、ステップS26-4において、動きベクトルが1/2画素精度位置からずれない場合は、hpelIfIdxは「1」のまま修正せず、hpelIfIdxAvg’に「1」を設定する。
次に、ステップS26-7において、所定条件3に関する判定を行い、所定条件3が満たされていると判定された場合は、本処理は、ステップS26-8に進み、所定条件3が満たされていないと判定された場合は、本処理は終了する。
ここで、所定条件3には、MMVD又はDMVRの適用後の動きベクトルが1/2画素精度位置を参照するかの判定を追加してもよい。また、MMVD又はDMVRにより動きベクトルに追加されるmvdが1/2画素精度であるかの判定を追加してもよい。
次に、ステップS26-8において、所定条件4を判定し、所定条件4が満たされると判定された場合は、本処理は、ステップS26-9に進み、所定条件4が満たされないと判定された場合は、本処理は終了する。
ここで、所定条件4は、hpelIfIdxAvg及びhpelIfIdxAvg’が双方とも「1」であるかどうかの判定を含めてもよい。
ステップS26-9において、前段のステップで、一度、「1」から「0」に修正されたhpelIfIdxが、MMVD又はDMVRにより、mvが1/2画素精度位置を参照すると判定されたため、hpelIfIdxを「1」に再修正するという構成になっている。
(ペアワイズ平均マージにおける動きベクトルのスケーリング処理)
以下、図27及び図28を参照して、本実施形態に係るペアワイズ平均マージにおける動きベクトルのスケーリング処理について説明する。図27は、本実施形態に係るペアワイズ平均マージによる動きベクトルの導出例について示す図である。
図27に示すように、ペアワイズ平均マージは、マージリストに既に登録されている異なる2つのマージインデックスに紐づく動きベクトルと参照画像インデックスを用いて導出される。
ここで、非特許文献1では、ペアワイズ平均マージに用いられるマージインデックスが0番目と1番目に指定されている。なお、ペアワイズ平均マージで使用する2組のマージインデックスのうち、1組しか利用できない場合は、利用可能な1組をペアワイズ平均マージインデクスに紐づくマージインデックスとしてマージリストに登録する。
すなわち、利用可能な1組の動きベクトル及び参照画像インデックスが、そのままペアワイズ平均マージインデックスに紐づく動きベクトル及び参照画像インデックスとして登録される。
また、異なる2つのマージインデックスが、いずれも利用不可である場合は、マージリストにペアワイズ平均マージを登録しない。
例えば、ペアワイズ平均マージにより新たに導出されるベクトルであるmvL0Avg及びmvL1Avgは、導出に使用する異なる2組のマージインデックスに紐づく動きベクトルであるmvL0P/mvL1P及びmvL0P/mvL1Pが存在する場合、以下のように導出される。
mvL0Avg=(mvL0P+mvL0P)/2
mvL1Avg=(mvL1P+mvL1P)/2
ここで、mvL0P/mvL1P又はmvL0P/mvL1Pの片方が存在しない場合は、存在しない動きベクトルを除いて、上述の計算が行われる。
このとき、非特許文献1では、ペアワイズ平均マージインデックスに紐づく参照画像インデックスをマージインデックスPに紐づく参照画像インデックスRefIdxL0P及びRefIdxL1Pを常に使用するように定めている。
しかしながら、上述の式で平均化されるmvL0P及びmvL1Pの参照フレームは、マージインデックス「1」に紐づく参照画像インデックスであるRefIdxL0P及びRefIdxL1Pに対応しているはずである。
そこで、本実施形態では、mvL0P及びmvL1Pを、RefIdxL0P、RefIdxL1P、RefIdxL0P及びRefIdxL1PによってスケーリングしたmvL0P’及びmvL0P’を置換し、ペアワイズ平均マージにより新たな動きベクトルを導出する。
ここで、上述の動きベクトルに対して行うスケーリング処理を、図28を用いて説明する。
例えば、図28に示すように、ペアワイズ平均マージの導出に使用する異なる2つのマージインデックスに対応する動きベクトル及び参照画像インデックスが存在する。
このとき、スケーリング処理したmvL0P’及びmvL0P’は、対象フレーム及び各マージインデックスの参照画像インデックスであるRefIdxL0P、RefIdxL1P、RefIdxL0P及びRefIdxL1Pが示す参照フレームとの距離に基づいて修正されることを意味する。
具体的には、図28に示すように、対象フレームと各参照フレームとの距離がtL0P0、tL0P1、tL1P0及びtL1P1と表される場合、mvL0P’及びmvL0P’は、以下のように算出される。
mvL0P’=(tL0P1/tL0P0)×mvL0P
mvL1P’=(tL1P1/tL1P0)×mvL1P
ペアワイズ平均マージに使用するマージインデックスの1が、時間マージに紐づく動きベクトル及び参照画像インデックスに対応する場合(すなわち、空間マージやヒストリーマージのように、参照フレームが対象フレームと同じではない場合)、時間マージの際に対象ブロックと異なるフレームの共通位置にある参照ブロックが含まれる参照フレームを起点として距離を計算してスケーリングする。
上述のスケーリング処理の導入効果として、ペアワイズ平均マージが異なる2つのマージインデックスに紐づく動きベクトルから計算される際に、一方の参照画像インデックスに他方の片方の動きベクトルをスケーリングすることで、共通の参照画像インデックスが示す参照フレームに対応した2組の動きベクトルを平均化できるため、動きベクトルの精度が向上し、結果的に、符号化性能の向上が期待できる。
[変更例:スケーリング対象の変更]
上述の例では、スケーリング対象を、一律、Pのマージインデックスに紐づく動きベクトルとしたが、対象フレームからの距離が遠い参照フレームを参照する動きベクトルをスケーリングの対象としてもよい。これにより、ペアワイズ平均マージの参照フレームを対象フレームに対して近づけることが出来るため、予測精度の向上効果が期待できる。
(ブロックサイズによるハーフペルインデックスの制御)
以下、本実施形態に係る対象ブロックサイズによるハーフペルインデックスの制御について説明する。
上述の例では、ハーフペルインデックスが有効であり、動きベクトルが1/2画素位置にある場合は、平滑化フィルタを適用すると説明した。
一方で、対象ブロックのブロックサイズが小さい場合は、対象ブロックに平滑化フィルタを適用しない方がよい。
何故なら、一般にブロックサイズと画像特性には相関があることが知られており、ブロックサイズが小さい場合はエッジや複雑な模様を有することが多く、逆に、ブロックサイズが大きい場合は平坦でシンプルであることが多いためである。
また、対象ブロックの参照ブロックも同じ特性を有すると想定されるため、この特性を考慮して、対象ブロックのブロックサイズが小さい場合は、平滑化フィルタの適用を禁止する、すなわち、ハーフペルインデックスの値を常に「0」にすることが考えられる。
例えば、ハーフペルインデックスを常に0にするブロックサイズの閾値を、32画素以下である場合と設定してもよい。
期待される効果は、以下の2つである。
1つ目は、ハーフペルインデックスを常に「0」にする所定のブロックサイズにおいて、平滑化フィルタの適用を禁止するため、画像符号化装置100側でのRDO処理が不要となる。そのため、画像符号化装置100の高速化効果が期待できる。
2つ目は、図8で示した対象ブロックがAMVP且つAMVRの場合に、ハーフペルインデックスの判定に使用していたフラグ、具体的には、amvr_precision_idxのビット長を短くできる。
図8では、対象ブロックが1/2画素精度位置を示すバリエーションが存在するためamvr_precision_idxのビット長は3bit必要だが、上記所定のブロックサイズでは2bitに短縮可能であるため、結果的に、画像符号化装置100から画像復号装置200に伝送が必要な符号量が削減されることにより、符号化性能向上が期待できる。
本発明によれば、ハーフペルインデックスに応じてペアワイズ平均マージ又はMMVD又はDMVRによって導出される動きベクトルの参照画素精度位置を制御する、或いは、導出された動きベクトルに応じてハーフペルインデックスを制御することができるようになり、対象ブロックの平滑化フィルタの有効条件の不備を解消し、さらに、未来のブロックに対して平滑化フィルタの有効条件の不備の伝搬を回避することができる画像復号装置、画像復号方法及びプログラムを提供することができる。
上述の画像符号化装置100及び画像復号装置200は、コンピュータに各機能(各工程)を実行させるプログラムであって実現されていてもよい。
なお、上述の各実施形態では、本発明を画像符号化装置100及び画像復号装置200への適用を例にして説明したが、本発明は、これのみに限定されるものではなく、画像符号化装置100及び画像復号装置200の各機能を備えた画像符号化システム及び画像復号システムにも同様に適用できる。
10…画像処理システム
100…画像符号化装置
111、241…インター予測部
111A…mv導出部
111A1、241A1…AMVP部
111A2、241A2…マージ部
111B…AMVR部
111C、241B…mv洗練化部
111D、241C…予測信号生成部
111D1、241C1…フィルタ判定部
111D2、241C2…フィルタ適用部
112、242…イントラ予測部
121…減算器
122、230…加算器
131…変換・量子化部
132、220…逆変換・逆量子化部
140…符号化部
150、250…インループフィルタ処理部
160、260…フレームバッファ
200…画像復号装置
210…復号部
241A…mv復号部
241B1…MMVD部
241B2…DMVR部

Claims (17)

  1. 画像復号装置であって、
    マージインデックスから、動きベクトル及び前記動きベクトルが1/2画素精度位置を参照するかどうかを示すハーフペルインデックスを復号するように構成されているマージ部と、
    MMVD(Merge Motion Vector Difference)或いはDMVR(Decoder-side Motion Vector Refinement)により、前記動きベクトルを洗練化するように構成されている動きベクトル洗練化部と、
    洗練化された前記動きベクトルと前記ハーフペルインデックスとに基づいて、内挿フィルタの使用有無及び内挿フィルタ種別を判定するように構成されているフィルタ判定部と、
    前記内挿フィルタを用いて、動き補償予測画素信号を生成するように構成されているフィルタ適用部とを備え、
    前記マージ部は、所定のマージリスト構築方法により、マージリストを生成し、前記マージリスト及び前記マージインデックスから、前記動きベクトル及び前記ハーフペルインデックスを復号するように構成されていることを特徴とする画像復号装置。
  2. 対象ブロックは、マージであり、
    前記マージ部は、ペアワイズ平均マージにより導出される前記動きベクトルの参照位置に応じて、導出するハーフペルインデックスの値を制御するように構成されていることを特徴とする請求項1に記載の画像復号装置。
  3. 対象ブロックは、マージであり、
    前記マージ部は、ペアワイズ平均マージにより導出される前記ハーフペルインデックスに応じて、導出する前記動きベクトルの参照位置を制御するように構成されていることを特徴とする請求項1に記載の画像復号装置。
  4. 対象ブロックは、マージであり、
    前記マージ部は、ペアワイズ平均マージにより、前記マージリストにある既存の動きベクトル及び既存のハープペルインデックスから、新たな動きベクトル及び新たなハーフペルインデックスを導出する際に、新たなハーフペルインデックスが有効であることを示すにも拘らず、新たな動きベクトルが1/2画素精度位置を参照しなくなる場合、新たなハーフペルインデックスを無効に修正するように構成されていることを特徴とする請求項1又は2に記載の画像復号装置。
  5. 対象ブロックは、マージであり、
    前記マージ部は、ペアワイズ平均マージにより、前記マージリストにある既存の動きベクトル及び既存のハープペルインデックスから、新たな動きベクトル及び新たなハーフペルインデックスを導出する際に、新たなハーフペルインデックスが有効であることを示すにも拘らず、新たな動きベクトルが1/2画素精度位置を参照しなくなる場合、新たな動きベクトルを1/2画素精度位置に丸めるように構成されていることを特徴とする請求項1又は3に記載の画像復号装置。
  6. 対象ブロックは、マージであり、
    前記動きベクトル洗練化部は、MMVDが適用される場合、MMVDの適用後の動きベクトルの参照位置に応じて、前記ハーフペルインデクスを制御するように構成されていること特徴とする請求項1〜5のいずれか一項に記載の画像復号装置。
  7. 対象ブロックは、マージであり、
    前記動きベクトル洗練化部は、MMVDが適用される場合、前記ハーフペルインデクスに応じて、MMVDの適用後の動きベクトルの参照位置を制御するように構成されていること特徴とする請求項1〜5のいずれか一項に記載の画像復号装置。
  8. 対象ブロックは、マージであり、
    前記動きベクトル洗練化部は、前記マージ部で復号された前記ハーフペルインデックスが有効であることを示すにも拘らず、前記マージ部で復号された前記動きベクトルがMMVDにより1/2画素精度位置を参照しなくなる場合、前記ハーフペルインデックスを無効に修正するように構成されていること特徴とする請求項1〜6のいずれか一項に記載の画像復号装置。
  9. 対象ブロックは、マージであり、
    前記動きベクトル洗練化部は、前記マージ部で復号された前記ハーフペルインデックスが有効であることを示すにも拘らず、前記マージ部で復号された前記動きベクトルがMMVDにより1/2画素精度位置を参照しなくなる場合、前記動きベクトルを1/2画素精度位置に丸めるように構成されていること特徴とする請求項1〜5、7のいずれか一項に記載の画像復号装置。
  10. 対象ブロックは、マージであり、
    前記動きベクトル洗練化部は、DMVRが適用される場合、DMVRの適用後の動きベクトルの参照位置に応じて、前記ハーフペルインデクスを制御するように構成されていること特徴とする請求項1〜5のいずれか一項に記載の画像復号装置。
  11. 対象ブロックは、マージであり、
    前記動きベクトル洗練化部は、DMVRが適用される場合、前記ハーフペルインデクスに応じて、DMVRの適用後の動きベクトルの参照位置を制御するように構成されていること特徴とする請求項1〜5のいずれか一項に記載の画像復号装置。
  12. 対象ブロックは、マージであり、
    前記動きベクトル洗練化部は、前記マージ部で復号された前記ハーフペルインデックスが有効であることを示すにも拘らず、前記マージ部で復号された前記動きベクトルがDMVRにより1/2画素精度位置を参照しなくなる場合、前記ハーフペルインデックスを無効に修正するように構成されていること特徴とする請求項1〜5、10のいずれか一項に記載の画像復号装置。
  13. 対象ブロックは、マージであり、
    前記動きベクトル洗練化部は、前記マージ部で復号された前記ハーフペルインデックスが有効であることを示すにも拘らず、前記マージ部で復号された前記動きベクトルがDMVRにより1/2画素精度位置を参照しなくなる場合、前記動きベクトルを1/2画素精度位置に丸めるように構成されていること特徴とする請求項1〜5、11のいずれか一項に記載の画像復号装置。
  14. 対象ブロックは、マージであり、
    前記動きベクトル洗練化部は、前記マージ部で復号された前記ハーフペルインデックスが有効であることを示す場合、前記対象ブロックへのDMVRの適用を無効にするように構成されていること特徴とする請求項1〜5のいずれか一項に記載の画像復号装置。
  15. 対象ブロックは、マージであり、
    前記動きベクトル洗練化部は、前記対象ブロックにDMVRの適用の可能性があると判定される場合、前記マージ部から復号した前記ハーフペルインデックスを常に無効にするように構成されていること特徴とする請求項1〜5のいずれか一項に記載の画像復号装置。
  16. マージインデックスから、動きベクトル及び前記動きベクトルが1/2画素精度位置を参照するかどうかを示すハーフペルインデックスを復号する工程Aと、
    MMVD(Merge Motion Vector Difference)或いはDMVR(Decoder-side Motion Vector Refinement)により、前記動きベクトルを洗練化する工程Bと、
    洗練化された前記動きベクトルと前記ハーフペルインデックスとに基づいて、内挿フィルタの使用有無及び内挿フィルタ種別を判定する工程Cと、
    前記内挿フィルタを用いて、動き補償予測画素信号を生成する工程Dとを備え、
    前記工程Aにおいて、所定のマージリスト構築方法により、マージリストを生成し、前記マージリスト及び前記マージインデックスから、前記動きベクトル及び前記ハーフペルインデックスを復号することを特徴とする画像復号方法。
  17. コンピュータを、画像復号装置として機能させるプログラムであって、
    前記画像復号装置は、
    マージインデックスから、動きベクトル及び前記動きベクトルが1/2画素精度位置を参照するかどうかを示すハーフペルインデックスを復号するように構成されているマージ部と、
    MMVD(Merge Motion Vector Difference)或いはDMVR(Decoder-side Motion Vector Refinement)により、前記動きベクトルを洗練化するように構成されている動きベクトル洗練化部と、
    洗練化された前記動きベクトルと前記ハーフペルインデックスとに基づいて、内挿フィルタの使用有無及び内挿フィルタ種別を判定するように構成されているフィルタ判定部と、
    前記内挿フィルタを用いて、動き補償予測画素信号を生成するように構成されているフィルタ適用部とを備え、
    前記マージ部は、所定のマージリスト構築方法により、マージリストを生成し、前記マージリスト及び前記マージインデックスから、前記動きベクトル及び前記ハーフペルインデックスを復号するように構成されていることを特徴とするプログラム。

JP2019172234A 2019-09-20 2019-09-20 画像復号装置、画像復号方法及びプログラム Pending JP2021052241A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019172234A JP2021052241A (ja) 2019-09-20 2019-09-20 画像復号装置、画像復号方法及びプログラム
PCT/JP2020/031559 WO2021054035A1 (ja) 2019-09-20 2020-08-21 画像復号装置、画像復号方法及びプログラム
CN202080057645.2A CN114270861A (zh) 2019-09-20 2020-08-21 图像解码装置、图像解码方法及程序
JP2023117078A JP2023126544A (ja) 2019-09-20 2023-07-18 画像復号装置、画像復号方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019172234A JP2021052241A (ja) 2019-09-20 2019-09-20 画像復号装置、画像復号方法及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023117078A Division JP2023126544A (ja) 2019-09-20 2023-07-18 画像復号装置、画像復号方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2021052241A true JP2021052241A (ja) 2021-04-01

Family

ID=74883603

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019172234A Pending JP2021052241A (ja) 2019-09-20 2019-09-20 画像復号装置、画像復号方法及びプログラム
JP2023117078A Pending JP2023126544A (ja) 2019-09-20 2023-07-18 画像復号装置、画像復号方法及びプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023117078A Pending JP2023126544A (ja) 2019-09-20 2023-07-18 画像復号装置、画像復号方法及びプログラム

Country Status (3)

Country Link
JP (2) JP2021052241A (ja)
CN (1) CN114270861A (ja)
WO (1) WO2021054035A1 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020200236A1 (en) * 2019-04-01 2020-10-08 Beijing Bytedance Network Technology Co., Ltd. Using interpolation filters for history based motion vector prediction

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9094658B2 (en) * 2010-05-10 2015-07-28 Mediatek Inc. Method and apparatus of adaptive loop filtering
KR20130050149A (ko) * 2011-11-07 2013-05-15 오수미 인터 모드에서의 예측 블록 생성 방법
US10602141B2 (en) * 2015-10-16 2020-03-24 Lg Electronics Inc. Filtering method and apparatus for improving prediction in image coding system
CN115334315A (zh) * 2016-02-01 2022-11-11 Oppo广东移动通信有限公司 预测图像生成装置、运动图像解码装置、以及运动图像编码装置
CN117221573A (zh) * 2016-10-04 2023-12-12 英迪股份有限公司 图像解码方法、图像编码方法以及发送比特流的方法
US10715827B2 (en) * 2017-01-06 2020-07-14 Mediatek Inc. Multi-hypotheses merge mode
US20180199057A1 (en) * 2017-01-12 2018-07-12 Mediatek Inc. Method and Apparatus of Candidate Skipping for Predictor Refinement in Video Coding

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020200236A1 (en) * 2019-04-01 2020-10-08 Beijing Bytedance Network Technology Co., Ltd. Using interpolation filters for history based motion vector prediction

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
BROSS, BENJAMIN ET AL., VERSATILE VIDEO CODING (DRAFT 6), JPN6020041335, 31 July 2019 (2019-07-31), ISSN: 0004811983 *

Also Published As

Publication number Publication date
CN114270861A (zh) 2022-04-01
WO2021054035A1 (ja) 2021-03-25
JP2023126544A (ja) 2023-09-07

Similar Documents

Publication Publication Date Title
JP7324841B2 (ja) ビデオ・データ処理方法、装置、記憶媒体及び記憶方法
JP7319365B2 (ja) サブブロックに基づくインター予測のための調整方法
CN113039790B (zh) 视频处理的方法、装置和非暂时性计算机可读介质
JP7332721B2 (ja) イントラブロックコピー符号化ブロックにおけるブロックベクトルの符号化
JP2022137099A (ja) ビデオデータを処理する方法、装置、非一時的コンピュータ可読記憶媒体
JP7209092B2 (ja) 動きベクトル差分によるマージ(mmvd)モードにおける動きベクトル予測
KR20210152470A (ko) 상이한 모션 벡터 정제의 그레디언트 계산
CN114467308B (zh) 视频处理中的参考图片重采样
JP7318099B2 (ja) ビデオコーディングにおける変換ブロック・サイズ制約
US20220264140A1 (en) Image decoding method/apparatus, image encoding method/apparatus, and recording medium storing bitstream
WO2020248925A1 (en) History-based motion vector prediction with default parameters
WO2021054035A1 (ja) 画像復号装置、画像復号方法及びプログラム
CN113826394A (zh) 帧内块复制模式下自适应运动矢量差分辨率的改进
WO2021054036A1 (ja) 画像復号装置、画像復号方法及びプログラム
WO2021131548A1 (ja) 画像復号装置、画像復号方法及びプログラム
WO2021036985A1 (en) Context adaptive coding of block vectors
WO2021251278A1 (ja) 画像復号装置、画像復号方法及びプログラム
WO2021000883A1 (en) Storage of motion information in history-based motion vector prediction table
CN117643057A (zh) 图像解码装置、图像解码方法及程序

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20210407

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210702

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230113

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230418