JP2023504726A - モード-グローバル設定によるマトリックスベースのイントラ予測 - Google Patents

モード-グローバル設定によるマトリックスベースのイントラ予測 Download PDF

Info

Publication number
JP2023504726A
JP2023504726A JP2022533565A JP2022533565A JP2023504726A JP 2023504726 A JP2023504726 A JP 2023504726A JP 2022533565 A JP2022533565 A JP 2022533565A JP 2022533565 A JP2022533565 A JP 2022533565A JP 2023504726 A JP2023504726 A JP 2023504726A
Authority
JP
Japan
Prior art keywords
matrix
prediction
based intra
prediction mode
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2022533565A
Other languages
English (en)
Other versions
JP7479471B2 (ja
Inventor
ジョナサン パフ
トビアス ヒンツ
フィリップ ヘレ
フィリップ メルクル
ビョルン スタレンベルガー
ミハエル シェーファー
ベンヤミン ブロス
マーティン ヴィンケン
ミシャ ジークマン
ヘイコ シュワルツ
デトレフ マルペ
トーマス ウィーガンド
Original Assignee
フラウンホッファー-ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by フラウンホッファー-ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ filed Critical フラウンホッファー-ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ
Publication of JP2023504726A publication Critical patent/JP2023504726A/ja
Application granted granted Critical
Publication of JP7479471B2 publication Critical patent/JP7479471B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/11Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/147Data rate or code amount at the encoder output according to rate distortion criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/156Availability of hardware or computational resources, e.g. encoding based on power-saving criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

装置は、予め定められたブロックに近傍した参照サンプルから導出された入力ベクトルとモードインデックスによって指し示されたマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスとの間の、マトリックス-ベクトル積によって取得された出力ベクトルの成分によって、予め定められたブロックのサンプルを予測するように構成される。マトリックスベースのイントラ予測モードごとに、それぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスの全てのエントリは、予め定められたビット深度の固定点表現によって表現され、予め定められたビット深度は、マトリックスベースのイントラ予測モードに対して等しい。装置は、出力ベクトルの成分ごとに、マトリックスベースのイントラ予測モードに対して等しいビットの数において右シフトを実行して、マトリックス-ベクトル積を計算するように構成される。【選択図】図7

Description

発明に従った実施形態は、ピクチャ及びビデオ符号化/復号のためのモード-グローバル設定によるマトリックスベースのイントラ予測に関連する。
典型的なブロックベースの画像またはビデオコーデックは通常、予測的コーディングによって動作する。よって、コーディングされたデータから既に利用可能な情報から、コーディングされた画像またはビデオ信号の受信機が所与のブロックに対してその信号を生成するとき、受信機は、予測信号を構築する。この予測信号は、そのブロックに対する信号の第1の近似としての役割を果たす。第2のステップでは、予測残差がビットストリームから復号され、予測信号に追加される。予測信号が良好であると、予測残差を伝送するために必要なビットの数が少なくなる。よって、予測信号の品質は、コーデック全体の効率に大きく影響する。
典型的には、予測信号を生成する2つの方法が存在する。ビデオ-コーデックにおいてのみ使用される第1の方法は、インター予測である。ここで、再構築済みサンプルから予測信号が生成され、再構築済みサンプルは、カレントフレームとは異なるフレームに属する。第2の方法は、イントラ予測である。ここで、再構築済みサンプルから予測信号が生成され、再構築済みサンプルは、同一のフレームに属し、典型的には、所与のブロックに空間的に隣接する。
古典的なコーデックでは、角度予測モードまたはDCモード及び平面モードのいずれかを使用してイントラ予測が実行される。角度予測モードは、角度パラメータによって定義された特定の方向に沿ってブロックの左及び上の再構築済みサンプルを複製し、分数角度位置に対して、補間フィルタが使用される。DCモードは、ブロックの左及び上の隣接サンプルの平均サンプル値として予測信号を生成する。最終的に、平面モードは、水平方向及び垂直方向に沿って予測の線形的な組み合わせとして予測信号を生成する。任意選択で、上述した予測技術のいずれかに対して、予測信号の事後フィルタリングまたは参照サンプルの事前平坦化が適用されてもよい。
上記説明された古典的なイントラ予測方法とは異なり、イントラ予測信号を生成するための新たな技術としてマトリックスベースのイントラ予測(MIP)が導入されてきた。それは、進展中のVersatile Video Coding(VVC)標準規格の最新ドラフト[1]の一部である。MIPは、より一般的なデータドリブンの、ニューラルネットワークベースのイントラ予測モードの低複雑度の変形として見なすことができる。各々のMIPモードは、予測モードに依存する予め定義されたマトリックスを、上及び左の境界サンプルのダウンサンプリング済みバージョンと多重化し、次いで、結果をアップサンプリングすることによってイントラ予測信号を生成する。更なる詳細について、マトリックスベースのイントラ予測のセクションレビューを参照されたい。
MIPの重要な性質は、訓練データの大規模セットを使用する訓練アルゴリズムを介して、様々なMIPモードに対して使用されるマトリックスが判定されることである。この訓練アルゴリズムでは、訓練データに対する予め定義された損失関数をそれらが最小化するように、マトリックスを発見することを試みる。ここで、マトリックスエントリが反復して更新される確率的勾配降下法アプローチを使用する。マトリックスエントリの判定のためのそのようなアプローチは、浮動小数点算術演算における計算を必要とし、よって、結果として生じるマトリックスエントリは、浮動小数点数として与えられる。よって、訓練の後、MIPモードiごとに、浮動小数点において、MIPモードiについて、低減した予測信号
Figure 2023504726000002

Figure 2023504726000003
として与えられるように、浮動小数点エントリを有するマトリックス
Figure 2023504726000004
が取得され、rredは、所与のブロックの境界のダウンサンプリング済みバージョンを表し、・は、マトリックス-ベクトル乗算を表す。
一方で、最終的な標準規格における適用について、各々のマトリックス-ベクトル乗算(1)は、整数演算において規定されたルールによって近似される必要がある。これは、MIPモードiごとに、低減した予測信号predredの計算が
Figure 2023504726000005
として規定されるように、積分エントリ及び正の整数c及びdを有するマトリックスAが規定される必要があることを意味する。
ここで、A-cは、Aのあらゆるエントリからcを減算するときに生じるマトリックスを表す。最終的に、v及びwがベクトルであり、wが積分エントリを有する場合、
Figure 2023504726000006
は、vのあらゆるエントリに
Figure 2023504726000007
を追加することによって生じるベクトルを表し、
Figure 2023504726000008
は、dだけ右にwの各々のエントリをシフトすることによって生じるベクトルを表す。MIPの基本的なアイデアによって、(2)は、全てのとり得る入力ベクトルrredに対して(1)を近似させる。
よって、それに対して式(2)が可変入力ベクトルrredについて式(1)を良好に合理的に近似させる、積分エントリを有するマトリックスAを取得することが望まれる。そうでなければ、コーデックにおいて規定され、マトリックスAを使用して式(2)におけるマトリックス-ベクトル積を実行する必要があるMIP予測モードは、「真」の振る舞い、すなわち、マトリックス
Figure 2023504726000009
を有するマトリックス-ベクトル積を使用する訓練済みMIPモードから大きく逸脱することがある、式(1)を参照されたい。よって、MIPに遅れて存在するイントラ予測へのデータドリブンアプローチが違反される。
したがって、マトリックスベースのイントラ予測をサポートするために、ピクチャコーディング及び/またはビデオコーディングをより効率的にレンダリングする概念を提供することが望まれる。加えて、または代わりに、ビットストリームを低減し、よって、シグナリングコストを低減することが望まれる。
本出願の独立請求項の主題によってこれが達成される。
発明に従った更なる実施形態は、本出願の従属請求項の主題によって定義される。
本発明の第1の態様に従って、本出願の発明者は、ピクチャの予め定められたブロックのサンプルを予測するためのマトリックスベースのイントラ予測モード(MIPモード)を使用することを試みるときに直面する1つの問題が、MIPモードにおいて実行されるマトリックス-ベクトル積、すなわち、マトリックス-ベクトル乗算が整数演算によって近似される必要があるという事実から起こり、それによって、近似したマトリックス-ベクトル積と近似してないマトリックス-ベクトル積、すなわち、「真の」マトリックス-ベクトル積との間の大きな逸脱が発生することがあることを認識している。以下では、MIPモードごとに、予め定められたブロックの予測信号を判定するために、この近似したマトリックス-ベクトル積のみが計算され、「真の」マトリックス-ベクトル積が計算されないので、それぞれのMIPモードのマトリックス-ベクトル積として近似したマトリックス-ベクトル積を理解することができる。本出願の第1の態様に従って、マトリックス-ベクトル積による予測信号の計算についての制約を実装することによって、この課題が克服される。発明者は、予め定められたビット深度の固定点表現によってMIPモードと関連付けられた予測マトリックスの全てのエントリを表現し、全てのマトリックスベースのイントラ予測モードに対し、例えば、少なくとも同一のブロックサイズに関連する1つに対しであるが、任意選択で、おそらくは、全てのブロックサイズの予測マトリックスに対して、同一の予め定められたビット深度を適用することが有益であることを発見してきた。全ての予測マトリックスのエントリが共通の固定された予め定められたビット深度を有する場合、その予め定められたビット深度に適合するために特定の乗算子を使用し、マトリックス-ベクトル積の計算に対して全てのMIPモードにわたってその特定の乗算子を共有することが可能であるので、これは、マトリックス-ベクトル積の効率的な実装を可能にする。その上、全ての予測マトリックスの全てのエントリを固定点表現において、すなわち、固定精度において記憶することができる場合、予測マトリックスを扱うときの効率的なメモリ管理が可能にされる。加えて、発明者は、MIPモードごとに、全てのMIPモードに対し、例えば、少なくとも同一のブロックサイズに関連する1つに対しであるが、任意選択で、おそらくは、全てのブロックサイズの予測マトリックスに対して等しいビットの数において右シフトを実行することによって、入力ベクトルとそれぞれのMIPモードと関連付けられた予測マトリックスとの間のマトリックス-ベクトル積を計算することが有益であることを発見してきた。シフト値がMIPモードに依存しない場合、テーブルルックアップが保存され、マトリックス-ベクトル積のコンパクトなSIMD実装に対して有利であり、ハードウェア実装においてマトリックス-ベクトル積のケース依存実装を低減させるMIPに対して単一の固定シフト演算を実装することができるので、これは、全てのMIPモードについての固定された右シフトが、マトリックス-ベクトル積におけるシフトの効率的な実装を可能にするというアイデアに基づいている。
したがって、本出願の第1の態様に従って、イントラ予測を使用してピクチャの予め定められたブロックを復号する装置は、データストリームからモードインデックスを読み込むように構成され、イントラ予測を使用してピクチャの予め定められたブロックを符号化する装置は、データストリームにモードインデックス挿入するように構成され、例えば、符号化する装置、すなわち、エンコーダは、モードのリストからのレート歪み最適化によりこのモードを、任意選択で、インター予測モードの更なるモードを選択していてもよい。モードインデックスは、マトリックスベースのイントラ予測モードのリストからの1つを指し示す。加えて、装置、すなわち、復号する装置及び/または符号化する装置は、予め定められたブロックに近傍した参照サンプルから導出された入力ベクトルとモードインデックスによって指し示されたマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスとの間のマトリックス-ベクトル積を計算し、マトリックス-ベクトル積によって取得された出力ベクトルの成分を予め定められたブロックのサンプル位置に関連付けることによって、予め定められたブロックのサンプルを予測するように構成される。マトリックスベースのイントラ予測モードごとに、それぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスの全てのエントリは、予め定められたビット深度の固定点表現によって表現され、予め定められたビット深度は、マトリックスベースのイントラ予測モードに対して等しい、例えば、少なくとも同一のブロックサイズに関連する1つに対して等しいが、任意選択で、おそらくは、全てのブロックサイズのマトリックスに対して等しい。加えて、装置は、マトリックスベースのイントラ予測モードごとに、出力ベクトルの成分ごとに、マトリックスベースのイントラ予測モードに対して等しい、例えば、少なくとも同一のブロックサイズに関連する1つに対して等しいが、任意選択で、おそらくは、全てのブロックサイズのマトリックスに対して等しいビットの数において右シフトを実行することによって、入力ベクトルとそれぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスとの間のマトリックス-ベクトル積を計算するように構成される。
実施形態に従って、マトリックスベースのイントラ予測モードのリスト内のマトリックスベースのイントラ予測モードの数は、12、16、または32である。
実施形態に従って、復号する装置及び/または符号化する装置は、マトリックスベースのイントラ予測モードのリスト内のマトリックスベースのイントラ予測モードが、それと関連付けられた6、8、または16個の異なるマトリックスを有するように構成される。例えば、相互に排他的なブロックサイズセットについての異なるリストが存在してもよく、1つは、第1のブロックサイズセット内ブロックサイズについての12個のモードと関連付けられた6個の異なるマトリックスを有し、1つは、第2のブロックサイズセット内のより小さいブロックサイズについての16個のモードと関連付けられた8個の異なるマトリックスを有し、1つは、第3のブロックサイズセット内の更に小さいブロックサイズについての32個のモードと関連付けられた16個の異なるマトリックスを有する。
実施形態に従って、復号する装置及び/または符号化する装置は、出力ベクトルの成分ごとにマトリックス-ベクトル積によって取得された中間結果に対して右シフトを適用することを伴う固定点算術演算において入力ベクトルとそれぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスとの間のマトリックス-ベクトル積を計算するように構成される。中間結果は、例えば、入力ベクトルと予測マトリックスとの間のマトリックス-ベクトル積、または正の整数によってオフセットされた、入力ベクトルと予測マトリックスとの間のマトリックス-ベクトル積によって取得され、例えば、正の整数は、中間マトリックスを結果としてもたらす予測マトリックスのあらゆるエントリから/に減算/加算され、中間結果は、入力ベクトルと中間マトリックスとの間のマトリックス-ベクトル積によって取得される。
実施形態に従って、復号する装置及び/または符号化する装置は、マトリックス-ベクトル積を計算する前に、例えば、加算または減算によって、マトリックスベースのイントラ予測モードごとに、マトリックスベースのイントラ予測モードに対して等しい、例えば、少なくとも同一のブロックサイズに関連する1つに対して等しいが、任意選択で、おそらくは、全てのブロックサイズのマトリックスに対して等しいオフセット値だけ、それぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスの全てのエントリをオフセットするように構成される。これは、全てのMIPモードについての固定オフセット値がテーブルルックアップを保存することによってマトリックス-ベクトル積の効率的な実装を可能にするというアイデアに基づいている。
実施形態に従って、復号する装置及び/または符号化する装置は、マトリックスベースのイントラ予測モードごとに、それぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスのエントリごとに、予め定められたビット深度において固定点表現を記憶するように構成される。
実施形態に従って、復号する装置及び/または符号化する装置は、10ビット分解能においてピクチャを復号/符号化し、マトリックスベースのイントラ予測モードごとに、7ビット精度において、それぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスのエントリの桁を記憶し、右シフトのためのビットの数として6ビットを使用するように構成される。
実施形態に従って、復号する装置及び/または符号化する装置は、マトリックスベースのイントラ予測モードごとに、8ビット符号付き桁表現においてそれぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスのエントリを記憶するように構成される。代わりに、それぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスのエントリのケースが同一の符号のエントリであるケースでは、復号する装置及び/または符号化する装置は、マトリックス-ベクトル積を計算する前に、例えば、加算または減算によって、マトリックスベースのイントラ予測モードごとに、マトリックスベースのイントラ予測モードに対して等しいオフセット値だけ、それぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスの全てのエントリをオフセットするように構成され、マトリックスベースのイントラ予測モードごとに、それぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスの全てのエントリは、符号付き8ビット表現によって表現可能である。したがって、この代替例に従って、符号を示す必要がないので、マトリックスエントリごとに7ビット桁が記憶されるにすぎない。
実施形態に従って、復号する装置及び/または符号化する装置は、出力ベクトルの成分ごとにマトリックス-ベクトル積によって取得され、マトリックスベースのイントラ予測モードと関連付けられた予測マトリックスのエントリが記憶されたビット精度の2倍高いビット精度において表現された中間結果に対して右シフトを適用することを伴う固定点算術演算において入力ベクトルとそれぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスとの間のマトリックス-ベクトル積を計算するように構成される。例えば、そのように計算されたマトリックス-ベクトル積、例えば、中間マトリックスを結果としてもたらす正の整数だけ予測マトリックスをオフセットし、入力ベクトルと中間結果を結果としてもたらす中間マトリックスとの間のマトリックス-ベクトル積を計算し、中間結果に対して右シフトを実行することによって取得された予測信号は、マトリックスベースのイントラ予測モードと関連付けられた予測マトリックスのエントリが記憶されたビット精度の2倍高いビット精度において表現される。
実施形態に従って、マトリックスベースのイントラ予測モードのリストは、マトリックスベースのイントラ予測モードの1つ以上のペアを含む。マトリックスベースのイントラ予測モードのリストは、モードのそのようなペアから排他的に構成されなくてもよく、むしろ、転置オプション及び非転置オプションのいずれかを排他的に使用して適用される他のモードも存在してもよいことに留意されよう。マトリックスベースのイントラ予測モードのペアごとに、マトリックスベースのイントラ予測モードのそれぞれのペアの第1のマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスは、マトリックスベースのイントラ予測モードのそれぞれのペアの第2のマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスに等しい。装置、すなわち、復号する装置及び/または符号化する装置は、モードインデックスによって指し示されたマトリックスベースのイントラ予測モードがマトリックスベースのイントラ予測モードのそれぞれのペアの第1のマトリックスベースのイントラ予測モード、例えば、奇数モードインデックスを有するモードである場合、入力ベクトルの成分との予め定められたブロックに近傍した参照サンプルの関連付け、及び出力ベクトルの成分との予め定められたブロックのサンプル位置の関連付けが、モードインデックスによって指し示されたマトリックスベースのイントラ予測モードがマトリックスベースのイントラ予測モードのそれぞれのペアの第2のマトリックスベースのイントラ予測モード、例えば、偶数モードインデックスを有するモードであるケースにおける関連付けに対して転置されるように構成される。すなわち、入力ベクトルの特定の成分が、前者のケースにおける予め定められたブロックの左上隅サンプルを表す(0,0)を有する位置(x,y)と関連付けられる場合、それは、後者のケースにおける(x,y)と関連付けられる。同じことが出力ベクトルの成分に適用される。
実施形態に従って、復号する装置及び/または符号化する装置は、複数のブロック次元に対してマトリックスベースのイントラ予測モードのリストを使用するように構成される。
実施形態に従って、復号する装置及び/または符号化する装置は、出力ベクトルに基づいて、または出力ベクトル及び予め定められたブロックに近傍した参照サンプルに基づいて、アップサンプリング及び/または補間によって、出力ベクトルの成分が関連付けられたサンプル位置からオフセットされた予め定められたブロックのサンプルを予測するように構成される。
実施形態に従って、復号する装置及び/または符号化する装置は、ダウンサンプリング及び/またはプーリングによって、予め定められたブロックに近傍した参照サンプルから入力ベクトルを導出するように構成される。
実施形態に従って、予め定められたブロックに近傍した参照サンプルは、予め定められたブロックの上の第1の参照サンプル及び予め定められたブロックの左の第2の参照サンプルを含む。装置、すなわち、復号する装置及び/または符号化する装置は、ダウンサンプリング及び/またはプーリングによって、第1の参照サンプルから第1の中間成分を導出し、ダウンサンプリング及び/またはプーリングによって、第2の参照サンプルから第2の中間成分を導出し、第1の中間成分及び第2の中間成分を連結して、予備入力ベクトルを導出し、予備入力ベクトルから入力ベクトルを形成する、ことによって、予め定められたブロックに近傍した参照サンプルから入力ベクトルを導出するように構成される。
実施形態に従って、復号する装置/符号化する装置は、Bビット分解能においてピクチャを復号/符号化するように構成される。装置は、入力ベクトルの第1の成分を取得するように予備入力ベクトルの第1の成分から2B-1を減算し、入力ベクトルの更なる成分を取得するように予備入力ベクトルの更なる成分から予備入力ベクトルの第1の成分を減算し、または入力ベクトルが更なる成分から形成されるように、予備入力ベクトルの更なる成分から予備入力ベクトルの第1の成分を減算する、ことによって、予備入力ベクトルから入力ベクトルを形成するように構成される。加えて、装置は、予備入力ベクトルの第1の成分の成分ワイズ加算によって出力ベクトルを補正するように構成される。
実施形態に従って、マトリックスベースのイントラ予測モードのリスト内のマトリックスベースのイントラ予測モードの予測マトリックスのエントリは、以下に示される表2内のエントリに対応するが、おそらくは、表内で値をリスト化するために別のシフト値が選出され、おそらくは、表内の値が別のスケールにおいて表現されてもよいことに留意されよう。
実施形態に従って、復号する装置及び/または符号化する装置は、予め定められたブロックに近傍した参照サンプルから導出された入力ベクトルと予め定められたブロックに対して選択されたマトリックスベースのイントラ予測モードと関連付けられた訓練済み予測マトリックスとの間のマトリックス-ベクトル積を計算し、マトリックス-ベクトル積によって取得された出力ベクトルの成分を予め定められたブロックのサンプル位置に関連付けることによって、予め定められたブロックのサンプルを予測するために予め定められたブロックに対して選択された訓練済み予測マトリックスを使用するように構成される。訓練済み予測マトリックスは、予測マトリックスを訓練するための装置によって訓練され、例えば、第2の態様に従った装置によって訓練される。
本発明の第2の態様に従って、本出願の発明者は、ピクチャの予め定められたブロックのサンプルを予測するためのマトリックスベースのイントラ予測モード(MIPモード)を使用することを試みるときに直面する1つの問題が、MIPモードにおいて実行されるマトリックス-ベクトル積、すなわち、マトリックス-ベクトル乗算が整数演算によって近似される必要があること、及びそのようなマトリックス-ベクトル乗算のための訓練済み予測マトリックスが浮動小数点精度において取得されるという事実から起こることを認識している。本出願の第2の態様に従って、そのようなマトリックス-ベクトル積についての予測マトリックスの訓練においてマトリックス-ベクトル積による予測信号の計算についての制約を既に実装することによって、この課題が克服される。発明者は、微分可能関数を使用して代表する値がマッピングされた中間値に予測マトリックスのエントリを設定することと関連付けられた予測歪み測定に依存するコスト関数を使用することによって、MIPモードと関連付けられた予測マトリックスのエントリを最適化することが有益であることを発見してきた。このアプローチによって、全ての予測マトリックスエントリの範囲を制限し、一部のエントリが訓練の間に更新されないことがあることを回避することが可能である。訓練の間、エントリは、浮動小数点表現において表現され、中間値は次いで、全てのMIPモードに対して等しい予め定められたビット深度を有する固定点表現に量子化される。全ての予測マトリックスのエントリが共通の固定された予め定められたビット深度を有するので、これは、マトリックス-ベクトル積の効率的な実装を可能にする。そのような予測マトリックスは、ビデオまたはピクチャエンコーダ/デコーダが、その予め定められたビット深度に適合するようにされた特定の乗算子を使用すること、及びマトリックス-ベクトル積の計算のために全てのMIPモードにわたってその特定の乗算子を共有することを可能にする。その上、全ての予測マトリックスの全てのエントリを固定点表現において、すなわち、固定精度において記憶することができる場合、予測マトリックスを扱うときの効率的なメモリ管理が可能にされる。
したがって、本出願の第2の態様に従って、予め定められたブロックに近傍した参照サンプルから導出された入力ベクトルと予め定められたブロックに対して選択されたマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスの1つとの間のマトリックス-ベクトル積を計算し、マトリックス-ベクトル積によって取得された出力ベクトルの成分を予め定められたブロックのサンプル位置に関連付けることによって、予め定められたブロックのサンプルを予測するために、その中で予め定められたブロックに対して1つが選択されることになるマトリックスベースのイントラ予測モードのリストの訓練予測マトリックスのための装置が提供される。装置は、最急降下法アプローチを使用して、微分可能関数を使用して代表する値がマッピングされた中間値に予測マトリックスのエントリを設定することと関連付けられた予測歪み測定に依存するコスト関数を使用して、浮動小数点表現において表現された、マトリックスベースのイントラ予測モードのリストの予測マトリックスのエントリについての代表する値を最適化することによって、マトリックスベースのイントラ予測モードのリストの予測マトリックスを、例えば、既知の(例えば、元の)サンプルの予め定められたブロック及びそれらの対応する近傍性の訓練セットの使用によって訓練するように構成される。予測歪み測定は、例えば、微分可能関数が訓練下で予測マトリックスのあらゆるエントリに適用されることを意味する、訓練下で予測マトリックスに微分可能関数を適用することから結果として生じるにつれて、予測の品質を減少させると共にコストが増大することを定義する。微分可能関数のドメイン及びコドメインは、浮動小数点表現によって定義され、微分可能関数の画像は、予め定められた動的範囲を有し、微分可能関数は、マトリックスベースのイントラ予測モードに対して等しい。加えて、装置は、例えば、訓練の後、中間値を固定点表現に量子化し、その結果、マトリックスベースのイントラ予測モードごとに、それぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスは、予め定められたビット深度の固定点表現によって表現された全てのエントリを有し、その結果、予め定められたビット深度は、マトリックスベースのイントラ予測モードに対して等しく、その結果、マトリックスベースのイントラ予測モードごとに、入力ベクトルとそれぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスとの間のマトリックス-ベクトル積が、出力ベクトルの成分ごとに、マトリックスベースのイントラ予測モードに対して等しいビットの数において右シフトを実行することによって計算可能である。
実施形態に従って、微分可能関数、すなわち、クリッピング関数は、画像の原点において傾き1を有し、厳密に単調に増大し、画像の上限及び下限において水平漸近線を有する。微分可能関数の画像の上限及び下限における水平漸近線は、予め定められた動的範囲を定義してもよい。
実施形態に従って、微分可能関数は、
Figure 2023504726000010
によって表現/定義され、α、β、γ、及びδは、予め定められた動的範囲に依存する実数であり、λは、負でない整数である。
実施形態に従って、微分可能関数、すなわち、クリッピング関数は、コドメイン内の画像のシフトに関してシフトパラメータによってパラメータ化される。装置は、最急降下法アプローチ(そうであってもよいが、そうである必要はない)を使用してシフトパラメータに最適化を受けさせ、マトリックス-ベクトル積の計算の前に、例えば、加算または減算によって、マトリックスベースのイントラ予測モードごとに、それぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスの全てのエントリをオフセットするために使用されるように、シフトパラメータからマトリックスベースのイントラ予測モードに対して等しいオフセット値を導出するように構成される。
実施形態は、イントラ予測を使用してピクチャの予め定められたブロックを復号する方法に関連し、方法は、データストリームからモードインデックスを読み込むことであって、モードインデックスは、マトリックスベースのイントラ予測モードのリストからの1つを指し示す、読み込むことと、予め定められたブロックに近傍した参照サンプルから導出された入力ベクトルとモードインデックスによって指し示されたマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスとの間のマトリックス-ベクトル積を計算し、マトリックス-ベクトル積によって取得された出力ベクトルの成分を予め定められたブロックのサンプル位置に関連付けることによって、予め定められたブロックのサンプルを予測することと、を含む。マトリックスベースのイントラ予測モードごとに、それぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスの全てのエントリは、予め定められたビット深度の固定点表現によって表現され、予め定められたビット深度は、マトリックスベースのイントラ予測モードに対して等しい、例えば、少なくとも同一のブロックサイズに関連する1つに対して等しいが、任意選択で、おそらくは、全てのブロックサイズのマトリックスに対して等しい。加えて、方法は、マトリックスベースのイントラ予測モードごとに、出力ベクトルの成分ごとに、マトリックスベースのイントラ予測モードに対して等しい、例えば、少なくとも同一のブロックサイズに関連する1つに対して等しいが、任意選択で、おそらくは、全てのブロックサイズのマトリックスに対して等しいビットの数において右シフトを実行することによって、入力ベクトルとそれぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスとの間のマトリックス-ベクトル積を計算することを含む。
実施形態は、イントラ予測を使用してピクチャの予め定められたブロックを符号化する方法に関連し、方法は、データストリームにモードインデックスを挿入することを含み、モードインデックスは、マトリックスベースのイントラ予測モードのリストからの1つを指し示し、例えば、このモードは、マトリックスベースのイントラ予測モードのリストからの、また任意選択で、インター予測モードなどの更なるモードからのレート歪み最適化により選択されていてもよい。方法は、予め定められたブロックに近傍した参照サンプルから導出された入力ベクトルとモードインデックスによって指し示されたマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスとの間のマトリックス-ベクトル積を計算し、マトリックス-ベクトル積によって取得された出力ベクトルの成分を予め定められたブロックのサンプル位置に関連付けることによって、予め定められたブロックのサンプルを予測することを更に含む。マトリックスベースのイントラ予測モードごとに、それぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスの全てのエントリは、予め定められたビット深度の固定点表現によって表現され、予め定められたビット深度は、マトリックスベースのイントラ予測モードに対して等しい、例えば、少なくとも同一のブロックサイズに関連する1つに対して等しいが、任意選択で、おそらくは、全てのブロックサイズのマトリックスに対して等しい。加えて、方法は、マトリックスベースのイントラ予測モードごとに、出力ベクトルの成分ごとに、マトリックスベースのイントラ予測モードに対して等しい、例えば、少なくとも同一のブロックサイズに関連する1つに対して等しいが、任意選択で、おそらくは、全てのブロックサイズのマトリックスに対して等しいビットの数において右シフトを実行することによって、入力ベクトルとそれぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスとの間のマトリックス-ベクトル積を計算することを含む。
上記説明されたような方法は、上記説明されたエンコーダ/デコーダと同一の考慮事項に基づいている。方法はところで、エンコーダ/デコーダに関しても説明される、全ての特徴及び機能性により完了されてもよい。
実施形態は、予め定められたブロックに近傍した参照サンプルから導出された入力ベクトルと予め定められたブロックに対して選択されたマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスの1つとの間のマトリックス-ベクトル積を計算し、マトリックス-ベクトル積によって取得された出力ベクトルの成分を予め定められたブロックのサンプル位置に関連付けることによって、予め定められたブロックのサンプルを予測するために、その中で予め定められたブロックに対して1つが選択されることになるマトリックスベースのイントラ予測モードのリストの訓練予測マトリックスのための方法に関連する。方法は、最急降下法アプローチを使用して、そのドメイン及びコドメインが浮動小数点表現によって定義され、その画像が予め定められた動的範囲を有し、マトリックスベースのイントラ予測モードに対して等しい、微分可能関数を使用して代表する値がマッピングされた中間値に予測マトリックスのエントリを設定することと関連付けられた予測歪み測定に依存するコスト関数を使用して、浮動小数点表現において表現された、マトリックスベースのイントラ予測モードのリストの予測マトリックスのエントリについての代表する値を最適化することによって、マトリックスベースのイントラ予測モードのリストの予測マトリックスを、例えば、既知の(元の)サンプルの予め定められたブロック及びそれらの対応する近傍性の訓練セットの使用によって訓練することを含む。加えて、方法は、例えば、訓練の後、中間値を固定点表現に量子化し、その結果、マトリックスベースのイントラ予測モードごとに、それぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスは、予め定められたビット深度の固定点表現によって表現された全てのエントリを有し、その結果、予め定められたビット深度は、マトリックスベースのイントラ予測モードに対して等しく、その結果、マトリックスベースのイントラ予測モードごとに、入力ベクトルとそれぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックスとの間のマトリックス-ベクトル積が、出力ベクトルの成分ごとに、マトリックスベースのイントラ予測モードに対して等しいビットの数において右シフトを実行することによって計算可能である、ことを含む。
上記説明されたような方法は、訓練予測マトリックスに対する上記説明された装置と同一の考慮事項に基づいている。方法はところで、訓練予測マトリックスに対する装置に関しても説明される、全ての特徴及び機能性により完了されてもよい。
実施形態は、本明細書で説明される符号化する方法を使用してそこで符号化されたピクチャまたはビデオを有するデータストリームに関連する。
実施形態は、コンピュータ上で実行されるとき、本明細書で説明される方法を実行するためのプログラムコードを有するコンピュータプログラムに関連する。
図面は、必ずしも縮尺通りではなく、代わりに、発明の原理を例示することに重点が置かれている。以下の図面では、以下の図面を参照して、発明の様々な実施形態が説明される。
データストリームに符号化する実施形態を示す図。 エンコーダの実施形態を示す図。 ピクチャの再構築の実施形態を示す図。 デコーダの実施形態を示す図。 実施形態に従った、低減したサンプル値ベクトルによるブロックの予測を示す図。 実施形態に従った、サンプルの補間を使用したブロックの予測を示す図。 実施形態に従った、一部の境界サンプルのみが平均化される、低減したサンプル値ベクトルによるブロックの予測を示す図。 実施形態に従った、4個の境界サンプルのグループが平均化される、低減したサンプル値ベクトルによるブロックの予測を示す図。 モードインデックスに基づいたピクチャの予め定められたブロックのマトリックスベースのイントラ予測を示す図。 マトリックスベースのイントラ予測モードのペアとサンプル間距離設定の適用との間の関係を示す図。 実施形態に従った、予測のためにMIPモードを使用して復号する装置を示す図。 実施形態に従った、予測マトリックスを訓練する装置を示す図。 実施形態に従った、予測マトリックスを訓練する装置を示す図。 例示的な微分可能関数を示す図。
等しいもしくは同等の要素または等しいもしくは同等の機能性を有する要素は、異なる図において生じる場合でさえ、等しいまたは同等の参照符号によって以下の説明において表される。
以下の説明では、本発明の実施形態のより完全な説明を提供するために複数の詳細が示される。しかしながら、それらの特定の詳細なしに本発明の実施形態を実施することができることが当業者に明らかであろう。他のインスタンスでは、本発明の実施形態を曖昧にすることを回避するために、詳細でないブロック図の形式において公知の構造及びデバイスが示される。加えて、後に本明細書で説明される異なる実施形態の特徴は、他に特別に言及されない限り、相互に組み合わされてもよい。
以下では、マトリックスベースのイントラ予測を使用するときにより効率的な圧縮を達成する際の支援となることができる様々な実施例が説明される。マトリックスベースのイントラ予測は、例えば、経験的に設計された他のイントラ予測モードに追加されてもよく、または排他的に提供されてもよい。
以下の実施例の理解を容易にするために、説明は、本出願の上記概説された実施例をそれに構築することができる、それらに適合したとり得るエンコーダ及びデコーダの提示により開始する。図1は、ピクチャ10をデータストリーム12にブロックワイズ符号化する装置を示す。装置は、参照符号14を使用して示され、静止ピクチャエンコーダまたはビデオエンコーダであってもよい。言い換えると、ピクチャ10は、エンコーダ14がピクチャ10を含むビデオ16をデータストリーム12に符号化するように構成されるときのビデオ16からのカレントピクチャであってもよく、またはエンコーダ14は、ピクチャ10をデータストリーム12に排他的に符号化してもよい。
言及されたように、エンコーダ14は、ブロックワイズ方式で、またはブロックベースで符号化を実行する。この目的のために、エンコーダ14は、ピクチャ10をブロックに再分割し、ブロックは、エンコーダ14がピクチャ10をデータストリーム12に符号化するユニットである。ブロック18へのピクチャ10のとり得る再分割の実施例は、以下で更に詳細に示される。概して、再分割は、ピクチャ10の全体ピクチャエリアから、またはツリーブロックのアレイへのピクチャ10の事前区画から多分木再分割を開始することによる階層多分木再分割の使用などによって、行及び列内に配列されたブロックのアレイなどの一定サイズのブロック18または異なるブロックサイズのブロック18に最終的なることができ、それらの実施例は、ピクチャ10をブロック18へに再分割する他のとり得る様式を排除するとして見なされるべきではない。
更に、エンコーダ14は、ピクチャ10をデータストリーム12に予測的に符号化するように構成された予測的エンコーダである。特定のブロック18について、これは、エンコーダ14が、ブロック18についての予測信号を判定し、予測残差、すなわち、ブロック18内の実際のピクチャコンテンツから予測信号が逸脱する予測誤差をデータストリーム12に符号化する、ことを意味する。
エンコーダ14は、特定のブロック18についての予測信号を導出するように、異なる予測モードをサポートすることができる。以下の実施例では重要なモードである予測モードは、ピクチャ10の近傍する既に符号化されたサンプルからブロック18の内側のどれが空間的に予測されるかに従ったイントラ予測モードである。データストリーム12へのピクチャ10の符号化、及びそれに従って対応する復号手順は、ブロック18の間で定義された特定のコーディング順序20に基づいてもよい。例えば、コーディング順序20は、例えば、左から右に各々の行をトラバースすると共に、上から下に行ワイズなどのラスタスキャン順序においてブロック18をトラバースすることができる。階層多分木再分割のケースでは、各々の階層レベル内でラスタスキャン順序付けが適用されてもよく、深度最優先トラバース順序が適用されてもよく、すなわち、特定の階層レベルのブロック内のリーフノードは、コーディング順序20に従って、同一の親ブロックを有する同一の階層レベルのブロックに先行してもよい。コーディング順序20に応じて、ブロック18の近傍する既に符号化されたサンプルは、ブロック18の1つ以上の側に通常は位置してもよい。本明細書で提示される実施例のケースでは、例えば、ブロック18の近傍する既に符号化されたサンプルは、ブロック18の上及びブロック18の左に位置する。
イントラ予測モードは、エンコーダ14によってサポートされるただ1つのモードでなくてもよい。エンコーダ14が、例えば、ビデオエンコーダであるケースでは、エンコーダ14は、ビデオ16の前に符号化されたピクチャからブロック18のどれが時間的に予測されるかに従って、イントラ予測モードをもサポートすることができる。そのようなイントラ予測モードは、ブロック18の予測信号が複製としてそれから導出されることになる部分の相対的空間オフセットを示す、そのようなブロック18に対して動きベクトルのどれがシグナリングされるかに従った動き補償予測モードであってもよい。加えて、または代わりに、エンコーダ14がマルチビューエンコーダであるケースでは、ビュー間予測モード、またはいずれの予測もなしにブロック18の内側のどれがそのままでコーディングされるかに従った非予測的モードなどの他の非イントラ予測モードも利用可能であってもよい。
イントラ予測モードに対する本出願の説明に焦点を当てることを開始する前に、とり得るブロックベースのエンコーダについて、すなわち、エンコーダ14のとり得る実装態様についての更なる特定の実施例が、図2に関して説明されると共に、次いで、図1及び2それぞれに適合するデコーダについての2つの対応する実施例を提示する。
図2は、図1のエンコーダ14のとり得る実装態様、すなわち、エンコーダが予測残差を符号化するために変換コーディングを使用するように構成される実装態様を示すが、これは、ほぼ実施例であり、本出願は、その分類の予測残差コーディングに限定されない。図2に従って、エンコーダ14は、インバウンド信号、すなわち、ピクチャ10から、またはブロックベースで、カレントブロック18から、対応する予測信号24を減算して、予測残差信号26を取得するように構成された減算器22を含み、予測残差信号26は次いで、予測残差エンコーダ28によってデータストリーム12に符号化される。予測残差エンコーダ28は、非可逆符号化ステージ28a及び可逆符号化ステージ28bから構成される。非可逆ステージ28aは、予測残差信号26を受信し、予測残差信号26のサンプルを量子化する量子化器30を含む。上記で既に言及されたように、本実施例は、予測残差信号26の変換コーディングを使用し、それにしたがって、非可逆符号化ステージ28aは、残差信号26を提示する変換済み係数に対して行われる量子化器30の量子化によりそのようなスペクトル的に分解された予測残差26を変換するように、減算器22と量子化器30との間に接続された変換ステージ32を含む。変換は、DCT、DST、FFT、またはHadamard変換などであってもよい。変換済み及び量子化済み予測残差信号34は次いで、可逆符号化ステージ28bによる可逆コーディングを受け、可逆符号化ステージ28bは、量子化済み予測残差信号34をデータストリーム12にエントロピコーディングするエントロピコーダである。エンコーダ14は更に、デコーダにおいても利用可能な方式において、すなわち、量子化器30におけるコーディング損失を考慮して、変換済み及び量子化済み予測残差信号34から予測残差信号を再構築するように、量子化器30の出力に接続された予測残差信号再構築ステージ36を含む。この目的のために、予測残差再構築ステージ36は、量子化器30の量子化の逆を実行する量子化解除器38と、それに続く、上記言及された特定の変換の実施例のいずれかに対する逆などのスペクトル分解の逆など、変換器32によって実行される変換に対する逆変換を実行する逆変換器40を含む。エンコーダ14は、逆変換器40による出力としての再構築済み予測残差信号及び予測信号24を加算して、再構築済み信号、すなわち、再構築済みサンプルを出力する加算器42を含む。この出力は、エンコーダ14の予測器44にフィードされ、予測器44は次いで、それに基づいて予測信号24を判定する。それは、図1に関して上記で既に議論された全ての予測モードをサポートする予測器44である。図2はまた、エンコーダ14がビデオエンコーダのケースでは、エンコーダ14が、フィルタリングされた後に、インター予測済みブロックに関して予測器44についての参照ピクチャを形成する完全に再構築されたピクチャをフィルタリングするインループフィルタ46をも含んでもよいことを例示する。
上記で既に言及されたように、エンコーダ14は、ブロックベースで動作する。後続の説明のために、対象のブロックベースの動作は、それに対して、予測器44またはエンコーダ14のそれぞれによってサポートされるイントラ予測モードのセットまたは複数のイントラ予測モードからイントラ予測モードが選択され、選択されたイントラ予測モードが個々に実行される、ブロックにピクチャ10を再分割する動作である。しかしながら、ピクチャ10がそれに再分割される他の分類のブロックも存在してもよい。例えば、ピクチャ10がインターコーディングまたはイントラコーディングされるかどうかの上記言及された決定は、ブロック18から逸脱したブロックの粒度またはユニットにおいて行われてもよい。例えば、インター/イントラモード決定は、ピクチャ10がそれに再分割されるコーディングブロックのレベルにおいて実行されてもよく、各々のコーディングブロックは、予測ブロックに再分割される。それに対してイントラ予測が使用されると決定されたブロックを符号化することによる予測ブロックは各々、イントラ予測モード決定に再分割される。このために、それらの予測ブロックの各々に対して、サポートされるイントラ予測モードがそれぞれの予測ブロックに対して使用されるべきであるかについて決定される。それらの予測ブロックは、ここで対象のブロックであるブロック18を形成する。インター予測と関連付けられたコーディングブロック内の予測ブロックは、予測器44によって異なって扱われる。それらは、動きベクトルを判定し、動きベクトルによって指し示された参照ピクチャ内の位置からのこのブロックについての予測信号を複製することによって、参照ピクチャからインター予測される。別のブロックの再分割は、変換器32及び逆変換器40による変換が実行されるユニットにおいて変換ブロックに再分割することに関連する。変換済みブロックは、例えば、コーディングブロックを更に再分割した結果であってもよい。本質的に、本明細書で示される実施例は、限定するものと扱われるべきではなく、他の実施例も存在してもよい。完全性のみのために、コーディングブロックへの再分割は、例えば、多分木再分割を使用してもよく、多分木再分割を使用してコーディングブロックを更に再分割することによっても、予測ブロック及び/または変換ブロックを取得することができることに留意されよう。
図1のエンコーダ14に適合するブロックワイズ復号のためのデコーダ54または装置は、図3に記述される。このデコーダ54は、エンコーダ14の反対を行い、すなわち、それは、ブロックワイズ方式において、データストリーム12からピクチャ10を復号し、この目的のために、複数のイントラ予測モードをサポートする。デコーダ54は、例えば、残差プロバイダ156を含んでもよい。図1に関して上記議論された全ての他の可能性がデコーダ54に対しても有効である。このために、デコーダ54は、静止ピクチャデコーダまたはビデオデコーダであってもよく、全ての予測モード及び予測可能性がデコーダ54によってもサポートされる。主として、例えば、コーディングレート及び/またはコーディング歪みに依存することがある一部のコスト関数を最小化するなどのために、一部の最適化などに従ってエンコーダ14がコーディング決定を選出または選択する事実において、エンコーダ14とデコーダ54との間に差異が存在する。それらのコーディングオプションまたはコーディングパラメータの1つは、利用可能なまたはサポートされるイントラ予測モードの間でのカレントブロック18に対して使用されることになるイントラ予測モードの選択を伴ってもよい。選択されたイントラ予測モードは次いで、ブロック18に対してデータストリーム12におけるこのシグナリングを使用して選択を再度行うデコーダ54により、データストリーム12内でカレントブロック18に対してエンコーダ14によってシグナリングされてもよい。同様に、ブロック18へのピクチャ10の再分割は、エンコーダ14内の最適化を受けてもよく、対応する再分割情報は、再分割情報に基づいてブロック18へのピクチャ10の再分割を回復するデコーダ54によりデータストリーム12内で搬送されてもよい。上記を要約すると、デコーダ54は、ブロックベースで、及びイントラ予測モードに加えて動作する予測的デコーダであってもよく、デコーダ54は、例えば、デコーダ54がビデオデコーダであるケースでは、インター予測モードなどの他の予測モードをサポートすることができる。復号する際、デコーダ54は、図1に関して議論されたコーディング順序20をも使用してもよく、このコーディング順序20がエンコーダ14及びデコーダ54の両方において順守されるので、同一の近傍するサンプルがエンコーダ14及びデコーダ54の両方においてカレントブロック18に対して利用可能である。したがって、不要な繰り返しを回避するために、ブロックへのピクチャ10の再分割に関連する限り、例えば、予測に関連する限り、及び予測残差のコーディングに関連する限り、エンコーダ14の動作のモードの説明は、デコーダ54にも適用されてもよい。エンコーダが、最適化によって、一部のコーディングオプションまたはコーディングパラメータを選出し、データストリーム12内でコーディングパラメータをシグナリングし、またはデータストリーム12にコーディングパラメータを挿入し、コーディングパラメータは次いで、予測及び再分割などを再度行うように、デコーダ54によってデータストリーム12から導出される、という事実において差異が存在する。
図4は、図3のデコーダ54のとり得る実装態様、すなわち、図2に示されたような図1のエンコーダ14の実装態様に適合する実装態様を示す。図4のエンコーダ54の多くの要素が図2の対応するエンコーダにおいて行われるのと同一であるので、それらの要素を示すために、アポストロフィにより提供される同一の参照符号が図4において使用される。特に、加算器42´、任意選択のインループフィルタ46´、及び予測器44´は、それらが図2のエンコーダにあるような同一の方式において予測ループに接続される。加算器42´に印加される再構築済み、すなわち、量子化済み及び再変換済み予測残差信号は、符号化側のケースにまさにあるように、エントロピエンコーダ28bのエントロピ符号化を反転させるエントロピデコーダ56と、それに続く、量子化解除器38´及び逆変換器40´から構成される残差信号再構築ステージ36´の連続によって導出される。デコーダの出力は、ピクチャ10の再構築である。ピクチャ10の再構築は、加算器42´の出力において、または代わりに、インループフィルタ46´の出力において直接利用可能であってもよい。ピクチャ10の再構築を一部の事後フィルタリングに受けさせて、ピクチャ品質を改善するために、デコーダの出力において一部の事後フィルタが配列されてもよいが、このオプションは図4には記述されない。
再度、図4に関して、図2に関して上記持ち出された説明は、エンコーダがコーディングオプションに関して最適化タスク及び関連する決定を実行するにすぎないことを除いて、図4に対しても有効であるはずである。しかしながら、ブロック再分割、予測、量子化解除、及び再変換に関する全ての説明も、図4のデコーダ54に対して有効である。
本明細書で説明される実施形態は、いわゆるマトリックスベースのイントラ予測を利用する。全体的な概念が以下で概説される。
マトリックスベースのイントラ予測のレビュー
本出願を自己完結したままにするために、このセクションでは、Versatile Video CodingのWorking Draft 7[1]に含まれる現在のマトリックスベースのイントラ予測(MIP)方法の主要なステップが説明される。更なる詳細のために、それは[1]を参照する。
マトリックスベースのイントラ予測(MIP)は、幅W及び高さHの矩形ブロックに対してイントラ予測信号を生成する方法である。MIP予測処理のための入力は、ブロックの上の1つの行の再構築済みサンプルrtop及びブロックの左の1つの列の再構築済みサンプルrleft、MIPモード-インデックスi、及びMIPモードが補間されることになるか否かについての情報から構成された再構築済みサンプルrである。次いで、以下の3つのステップを使用してMIP予測信号が生成される。
1.W及びHに依存し、
Figure 2023504726000011
及び
Figure 2023504726000012
を満たす規定された自然数win,red及びhin,redについて、rtopから、ダウンサンプリング/平均化によって、サイズwin,redの低減した上入力rtop,redを生成し、rleftから、ダウンサンプリング/平均化によって、サイズhin,redの低減した左入力rleft,redを生成する。
次いで、MIPモードが補間されないことになる場合、
Figure 2023504726000013
として定義され、MIPモードが補間されることになる場合、
Figure 2023504726000014
として定義された低減した入力rred,fullにrtop,red及びrleft,redを連結する。次に、rred,fullから、低減した入力rredを定義する。ここで、rredは、rred,fullと同一のサイズwin,red+hin,redまたはサイズwin,red+hin,red-1のいずれかである。最初のケースでは、rredは、
Figure 2023504726000015
として定義され、Bは、ビット深度であり、
Figure 2023504726000016
として定義される。
2つ目のケースでは、rredは、
Figure 2023504726000017
として定義される。
2.W及びHに依存し、
Figure 2023504726000018
及び
Figure 2023504726000019
を満たす規定された自然数wout,red及びhout,redについて、
Figure 2023504726000020
として幅wout,red及び高さhout,redのブロックに対する低減した予測信号predredを生成する。
ここで、Aは、W及びHに、並びにMIPモード-インデックスiに依存するマトリックスであり、c及びdは、MIPモード-インデックスiに依存する負でない整数であり、この依存性は、本発明によって除去されることになる。その上、predredは、
Figure 2023504726000021
-MIPモードが補間される必要がない場合、行主要順序における幅wout,red及び高さhout,redのブロックに対する信号により識別される次元ベクトルであり、MIPモードが補間される必要がある場合、列主要順序における幅wout,red及び高さhout,redのブロックに対する信号により識別される次元ベクトルである。
後に、rred,full[0]をpredredに加算する。
最終的に、結果は、所与のビット範囲[0,2]にクリッピングされる。
3.wout,red<Wまたはhout,red<Hである場合、前のステップの終わりにおいて取得された低減した予測信号から完全なMIP予測信号を生成するために、アップサンプリング/線形補間を適用する。ここで、再構築済みサンプルが線形補間に含まれる。
実装態様の実施例の提示
全体的な概念が上記概説されてきた。それらのモードの使用を更に詳細に再度説明するために、MIP(マトリックスベースのイントラ予測)についての代替的なシノニムとして、概念が、以下ではALWIP(アフィン-線形重み付けイントラ予測)と称されることがある。
近傍性に基づいて入力ベクトルをポピュレートし、マトリックス-ベクトル乗算及び線形補間を計算する全体処理が、後続の図5.1~5.4における異なるブロック形状に対して例示される。残りの形状が記述されるケースの1つにあるとして扱われることに留意されよう。
1.4×4ブロックを仮定して、ALWIP(または、MIP)は、境界の各々の軸に沿って2つの平均を取ることができる、図5.1を参照されたい。平均化することの代替例として、近傍性のあらゆる第2のサンプルが取られ、またはより一般的且つ正確に、マトリックス-ベクトル乗算19についての入力ベクトルのあらゆる成分が近傍した1つのサンプルから厳密に取られる。結果として生じる4個の入力サンプルは、マトリックス-ベクトル乗算に入る。マトリックスは、セットSから取られ、セットSは、近くのブロックサイズについてのマトリックスのセットである。オフセットを追加した後、これは、16個の最終予測サンプルを生じさせることができる。線形補間は、予測信号を生成するために必須ではない。よって、サンプルごとに(4×16)/(4×4)=4の合計の乗算が実行される。例えば、4×4ブロックについてのALWIPを例示する図5.1を参照されたい。厳密な計算が上記弁明されてきた。
2.8×8ブロックを仮定して、ALWIPは、境界の各々の軸に沿って4個の平均を取ることができる、図5.2を参照されたい。結果として生じる8個の入力サンプルは、マトリックス-ベクトル乗算19に入る。マトリックスは、セットSから取られる。これは、予測ブロックの奇数位置上で16個のサンプルを生じさせることができる。よって、サンプルごとに(8×16)/(8×8)=2の合計の乗算が実行される。オフセットを追加した後、それらのサンプルは、低減した上境界を使用することによって垂直に補間される。水平補間に続き、元の左境界を使用する。例えば、8×8ブロックについてのALWIPを例示する図5.2を参照されたい。
3.8×4ブロックを仮定して、ALWIPは、境界の水平軸に沿って4個の平均及び左境界上の4個の元の境界値を取ることができる、図5.3を参照されたい。結果として生じる8個の入力サンプルは、マトリックス-ベクトル乗算に入る。マトリックスは、セットSから取られる。これは、予測ブロックの奇数水平位置及び各々の垂直位置上で16個のサンプルを生じさせることができる。よって、サンプルごとに(8×16)/(8×4)=4の合計の乗算が実行される。オフセットを追加した後、それらのサンプルは、元の左境界を使用することによって水平に補間される。例えば、8×4ブロックについてのALWIPを例示する図5.3を参照されたい。
したがって、補間されたケースが扱われる。
4.16×16ブロックを仮定して、ALWIPは、境界の各々の軸に沿って4個の平均を取ることができる。結果として生じる8個の入力サンプルは、マトリックス-ベクトル乗算に入る。マトリックスは、セットSから取られる。これは、予測ブロックの奇数位置上で64個のサンプルを生じさせることができる。よって、サンプルごとに(8×64)/(16×16)=2の合計の乗算が実行される。オフセットを追加した後、それらのサンプルは、上境界の8個の平均を使用することによって垂直に補間される。水平補間に続き、元の左境界を使用する。例えば、16×16ブロックについてのALWIPを例示する図5.4を参照されたい。
より大きな形状について、手順が必然的に同一であることができ、サンプルごとの乗算の回数が2回未満であることを検査することが容易である。
W×8ブロックについて、サンプルが奇数水平位置及び各々の垂直位置において与えられるので、水平補間のみが必要である。よって、最大でサンプルごとの(8×64)/(16×8)=4乗算がそれらのケースにおいて実行される。
最終的に、W>8のW×4ブロックについて、Aは、ダウンサンプリング済みブロックの水平軸に沿った奇数エントリに対応するあらゆる行を除外することによって生じるマトリックスであるとする。よって、出力サイズは、32であってもよく、再度、水平補間のみが実行されるままである。最大でサンプルごとの(8×32)/(16×4)=4乗算が実行されてもよい。
したがって、補間されたケースが扱われてもよい。これは、後続の図において例示される。
図6.1は、イントラ予測を使用してピクチャの予め定められたブロック18を復号する装置54を示す。
装置54は、データストリーム12から、二値化コード202を使用してモードインデックス200を読み込むように構成され、モードインデックスは、マトリックスベースのイントラ予測モードのリスト204からの1つを指し示す。マトリックスベースのイントラ予測モードのリスト204は、偶数のマトリックスベースのイントラ予測モードから構成され、リスト204のマトリックスベースのイントラ予測モードは、マトリックスベースのイントラ予測モードのペア212にグループ化される。各々のペア212は、第1のマトリックスベースのイントラ予測モード及び第2のマトリックスベースのイントラ予測モードから構成される。マトリックスベースのイントラ予測モードのペア212ごとに、第1のマトリックスベースのイントラ予測モードが第1のコードワードを割り当てられ、第2のマトリックスベースのイントラ予測モードが第2のコードワードを割り当てられ、両方のコードワードが長さにおいて等しいような方式において、装置54は、データストリーム12から、二値化コード202を使用してモードインデックス200を読み込むように構成される。
任意選択で、二値化コード202は、可変長コードであり、可変長コードは、異なる長さのコードワードを含む。代わりに、二値化コードは、切り捨て済み二値コードであってもよく、マトリックスベースのイントラ予測モードの数は、2の累乗でなく、その結果、切り捨て済み二値コードは、異なる長さのコードワードを有する。マトリックスベースのイントラ予測モードの第1のペア212と関連付けられたマトリックスベースのイントラ予測モードは、マトリックスベースのイントラ予測モードの第2のペア212と関連付けられたマトリックスベースのイントラ予測モードに割り当てられたコードワードとして、長さにおいて異なるコードワードが割り当てられてもよい。しかしながら、マトリックスベースのイントラ予測モードのペア212の両方のコードワードは、長さにおいて等しい。
実施形態に従って、装置54は、コンテキスト適応的二値算術演算デコーダの等確率バイパスモードを使用して、データストリーム12からモードインデックス200を読み込むように構成されてもよい。
同様に、イントラ予測を使用してピクチャの予め定められたブロック18を復号する装置54(すなわち、デコーダ)に対し、イントラ予測を使用してピクチャの予め定められたブロック18を符号化する装置(すなわち、エンコーダ)は、二値化コード202を使用して、任意選択で、コンテキスト適応的二値算術演算エンコーダの等確率バイパスモードを使用して、モードインデックス200をデータストリーム12に符号化するように構成されてもよい。
デコーダ及びエンコーダは、予め定められたブロック18に近傍した参照サンプル17から導出された入力ベクトル102と、モードインデックス200によって指し示されたマトリックスベースのイントラ予測モードkと関連付けられた予測マトリックス19との間のマトリックス-ベクトル積206を計算することによって、予め定められたブロック18のサンプル108を予測するように構成される。マトリックス-ベクトル積206の計算は、出力ベクトル208を結果としてもたらす。更に、予め定められたブロック18のサンプル108は、マトリックス-ベクトル積206によって取得された出力ベクトル208の成分210を予め定められたブロック18のサンプル位置104に関連付けることによって予測される。予め定められたブロック18のサンプル108のこの予測は、図5.1~5.4に関して説明されるように実行されてもよい。
マトリックスベースのイントラ予測モードのペア212ごとに、マトリックスベースのイントラ予測モードのそれぞれのペア212の第1のマトリックスベースのイントラ予測モードと関連付けられた予測マトリックス19は、マトリックスベースのイントラ予測モードのそれぞれのペア212の第2のマトリックスベースのイントラ予測モードと関連付けられた予測マトリックス19に等しい。よって、マトリックスベースのイントラ予測モード2k及び2k+1に対し、同一の予測マトリックス19が使用される。マトリックスベースのイントラ予測モードのペア212ごとに、エンコーダ及びデコーダは、モードインデックス200によって指し示されたマトリックスベースのイントラ予測モードがマトリックスベースのイントラ予測モードのそれぞれのペア212の第1のマトリックスベースのイントラ予測モード、例えば、奇数モードインデックス2k+1を有するモードである場合、入力ベクトル112の成分214との予め定められたブロック18に近傍した参照サンプル17の関連付け、及び出力ベクトル20の成分210との予め定められたブロック18のサンプル位置104の関連付けが、モードインデックス200によって指し示されたマトリックスベースのイントラ予測モードがマトリックスベースのイントラ予測モードのそれぞれのペア212の第2のマトリックスベースのイントラ予測モード、例えば、偶数モードインデックス2kを有するモードであるケースにおける関連付けに対して転置されるように構成される。
デコーダ/エンコーダは、モードインデックス200のパリティに基づいて、モードインデックス200によって指し示されたマトリックスベースのイントラ予測モードがマトリックスベースのイントラ予測モードのそれぞれのペアの第1のマトリックスベースのイントラ予測モードまたはマトリックスベースのイントラ予測モードのそれぞれのペア212の第2のマトリックスベースのイントラ予測モードであるかどうかを判定するように構成されてもよい。モードインデックス200のパリティは、入力ベクトル102及び出力ベクトル208が予め定められたブロック18のサンプル108の予測に対して転置された様式において使用されるか否かを示すことができる。すなわち、図6.2に示されるように、入力ベクトル102の成分1~nの特定の成分が、前者のケースにおける予め定められたブロック18の左上隅サンプルAAを表す(0,0)を有する位置(x,y)と関連付けられる場合、それは、後者のケースにおける(x,y)と関連付けられる。同じことが出力ベクトル208の成分(AA,AB,AC,BA,CA,…)に適用される。
各々のペア212は、同一の予測マトリックス19によって相互に関連し、入力ベクトル102及び出力ベクトル208が転置されるか否かに関してのみ相互に異なるモードである、第1のマトリックスベースのイントラ予測モード及び第2のマトリックスベースのイントラ予測モードから構成される。マトリックスベースのイントラ予測モードを示し、マトリックスベースのイントラ予測モードが転置された様式において使用されるか否かを示すために、モードインデックス200のみがデータストリーム12において必要であるので、これは有益である。マトリックス-ベクトル積206について、入力ベクトル102及び出力ベクトル208が転置された様式において使用されることになることを示すために、追加のインデックスまたはフラグが必要でない。
実施形態に従って、デコーダ/エンコーダは、2によって除算されたモードインデックス200の整数部分を使用して、複数の予測マトリックスから予測マトリックス19をインデックス付けするように構成される。モードインデックス200によりリスト204内の関連するペア212に指し示すことによって、予測マトリックス19が既に十分に示された理由について、予め定められたブロック18のサンプル108の予測のためにペア212の両方のマトリックスベースのイントラ予測モードが同一の予測マトリックス19を使用することのアイデアにこれは基づいている。
図6.1及び6.2に示されるように、デコーダ/エンコーダは、水平デフォルト次元に対する予め定められたブロック18の水平次元220の第1の比率に従って水平に、及び/または垂直デフォルト次元に対する予め定められたブロック18の垂直次元222の第2の比率に従って垂直に、予め定められたブロック18のサンプル位置104のインターサンプル距離216及び予め定められたブロック18に近傍した参照サンプル17のインターサンプル距離218を設定する(217)ように構成されてもよい。これは、複数のブロック次元についてのマトリックスベースのイントラ予測モードのリスト204の使用を可能にする。装置は、補間によって予測済みサンプルの間の空間を埋めてもよい。予め定められたブロック18のサンプル位置104のインターサンプル距離216及び予め定められたブロック18に近傍した参照サンプル17のインターサンプル距離218のインターサンプル距離設定217は、予め定められたブロック18内の予測済みサンプル108及び予め定められたブロック18に近傍した参照サンプル17の改善された分散を可能にする。よって、予測済みサンプルを等しく分散させることができ、予め定められたブロック18のサンプルの改善された補間を可能にする。
実施形態に従って、デコーダ/エンコーダは、複数のブロック次元に対して等しくマトリックスベースのイントラ予測モードのリスト204内のマトリックスベースのイントラ予測モードを順序付けるように構成される。代わりに、順序は、例えば、ブロックが高さよりも広い、またはその逆、すなわち、幅よりも高い、または二次元であることに適合されてもよい。共通ブロック次元に対するマトリックスベースのイントラ予測モードを短いコードワードと関連付けることができ、稀なブロック次元に対するマトリックスベースのイントラ予測モードをより長いコードワードと関連付けることができるので、この順序付けは、コーディング効率を増大させることができ、ビットストリームを低減させることができる。
任意選択で、複数のブロック次元は、4よりも大きいアスペクト比に対応する少なくとも1つのブロック次元を含む。マトリックスベースのイントラ予測は、垂直次元222に対する水平次元220のアスペクト比を有する予め定められたブロック18が4よりも大きいように最適化されてもよい。すなわち、複数のブロック次元は、垂直次元222よりも少なくとも4倍大きい水平次元220を有する予め定められたブロック及び/または水平次元220よりも少なくとも4倍大きい垂直次元222を有する予め定められたブロックを含む。図6.2は、4よりも大きいアスペクト比に対応するブロック次元を有する予め定められたブロック18を示す。
以下に提案される実施形態に従って、現在のVVCバージョンにおいてこれまで予期された使用と比較して、MIPの使用を更に効率的にする方式においてMIPモードが適用される。
以下での実施形態は、デコーダを考慮した特徴及び機能性を大部分は例示する。しかしながら、同一または類似の特徴及び機能性がエンコーダによって備えられてもよく、例えば、デコーダによって実行される復号は、エンコーダによる符号化に対応することができることが明白である。更に、エンコーダは、フィードバックループ、例えば、予測ステージ36におけるデコーダに関して説明されたような同一の特徴を含んでもよい。
図7は、イントラ予測を使用してピクチャの予め定められたブロック18を復号する装置54を示す。
装置54は、データストリーム12から、モードインデックス200を読み込むように構成される。モードインデックス200は、マトリックスベースのイントラ予測モード205~205、すなわち、MIPモードのリスト204からの1つを指し示す。マトリックスベースのイントラ予測モードのリスト204内のマトリックスベースのイントラ予測モード205~205の数nは、例えば、12、16、または32である。また、実施形態は、MIPモード205~205を使用したイントラ予測に焦点を当てられ、更なるイントラ予測モード及び/またはインター予測モードのような更なるモードを示すためにモードインデックス200も使用可能であることが明白である。モードインデックス200は、イントラ予測を使用してピクチャの予め定められたブロック18を符号化する装置14によってデータストリーム12に挿入されてもよい。
実施形態に従って、マトリックスベースのイントラ予測モードのリスト204内のマトリックスベースのイントラ予測モード205~205は、6、8、または16個の異なる予測マトリックス19と関連付けられている。
実施形態に従って、マトリックスベースのイントラ予測モードのリスト204は、複数のブロック次元についてのMIPモードを含む。
実施形態に従って、MIPモードの2つ以上のリスト204が存在してもよく、MIPモードの2つ以上のリスト204は、MIPモードがそれと関連付けられた予め定められたブロック18のブロックサイズに関して相互に異なる。同一または類似のブロックサイズと関連付けられたMIPモードは、MIPモードの2つ以上のリスト204の同一のリストに備えられる。例えば、相互に排他的なブロックサイズセットについての異なるリストが存在し、1つは、第1のブロックサイズセット内のブロックサイズについての12個のモードと関連付けられた6個の異なるマトリックスを有し、1つは、第2のブロックサイズセット内のより小さいブロックサイズについての16個のモードと関連付けられた8個の異なるマトリックスを有し、1つは、第3のブロックサイズセット内の更に小さいブロックサイズについての32個のモードと関連付けられた16個の異なるマトリックスを有する。これは、実施例にすぎず、異なる数のリスト204が可能であること、及び各々のリストが上記説明された1つとは異なるブロックサイズセットと関連付けられたMIPモードを含んでもよいことが明白である。
装置54は、予め定められたブロック18に近傍した参照サンプル17から導出された入力ベクトル102とモードインデックス200によって指し示されたマトリックスベースのイントラ予測モード205と関連付けられた予測マトリックス19との間のマトリックス-ベクトル積206を計算し、マトリックス-ベクトル積206によって取得された出力ベクトル208の成分210を予め定められたブロック18のサンプル位置104に関連付けることによって、予め定められたブロック18のサンプル108を予測するように構成される。
マトリックスベースのイントラ予測モード205~205ごとに、それぞれのマトリックスベースのイントラ予測モード205と関連付けられた予測マトリックス19の全てのエントリは、予め定められたビット深度192の固定点表現190によって表現される。固定点表現190は、nビットを有する分数部分194、mビットを有する整数部分196、及び任意選択で符号ビット198を有してもよい。予め定められたビット深度192は、MIPモードのリスト204の全てのマトリックスベースのイントラ予測モード205~205、図7に示されるように、以下の比較制約1に対して等しい。MIPモードの2つ以上のリスト204が存在するケースでは、MIPモードの2つ以上のリスト204のリストごとに、予め定められたビット深度192は、例えば、MIPモードのそれぞれのリストの全てのマトリックスベースのイントラ予測モード205~205に対して等しい。言い換えると、予め定められたビット深度192は、例えば、同一のブロックサイズセットに関連するMIPモードに対して少なくとも同一である。
実施形態に従って、装置54は、マトリックスベースのイントラ予測モード205~205ごとに、それぞれのマトリックスベースのイントラ予測モード205と関連付けられた予測マトリックス19のエントリごとに、予め定められたビット深度において固定点表現を記憶するように構成される。これは例えば、以下の表の実施例に例示される、リスト1~リスト4を参照されたい。
図7に示されるように、マトリックスベースのイントラ予測モード205~205ごとに、装置54は、出力ベクトルの成分210ごとに、MIPモードのリスト204の全てのマトリックスベースのイントラ予測モード205~205に対して等しいビットの数211において右シフト209を実行することによって、入力ベクトル102とそれぞれのマトリックスベースのイントラ予測モード205と関連付けられた予測マトリックス19との間のマトリックス-ベクトル積206を計算するように構成される。右シフトについてのビットの数211は、例えば、xビットである。MIPモードの2つ以上のリスト204が存在するケースでは、MIPモードの2つ以上のリスト204のリストごとに、ビットの数211は、例えば、MIPモードのそれぞれのリストの全てのマトリックスベースのイントラ予測モード205~205に対して等しい。言い換えると、ビットの数211は、例えば、同一のブロックサイズセットに関連するMIPモードに対して少なくとも同一である。右シフト209は、例えば、上記説明された式(2)において>>によって示され、ビットの数211に対して比較dによって示され、装置54は、マトリックスベースのイントラ予測モード205~205に対してビットの数211が等しい制約、以下の比較制約2を適用する。
マトリックスA、すなわち、予測マトリックス19に対する以下の制約、並びに式(2)におけるパラメータc及びdが望ましい。
1.MIPに対して使用されるマトリックスエントリの範囲は固定され、例えば、予測マトリックス19のエントリは、予め定められたビット深度192の固定点表現190によって表現される。よって、例えば、予め定義された負でない整数μ1,low、μ1,up及びμ2,low、μ2,upが存在し、その結果、MIPモードiの205~205ごとに、マトリックスA、すなわち、予測マトリックス19のマトリックスエントリak,lごとに、
Figure 2023504726000022
及び
Figure 2023504726000023

を有する。
この制約の2つの特定の実施例は、以下のように与えられる。
第1の実施例は、固定された正の整数μについて、MIP-予測において使用される全てのマトリックスAの全てのマトリックスエントリak,lについて、
Figure 2023504726000024
及び
Figure 2023504726000025
を有するということである。
第1の実施例に従って、それぞれのマトリックスベースのイントラ予測モード205と関連付けられた予測マトリックス19のエントリは、同一の符号、例えば、正のエントリであり、装置54は、マトリックス-ベクトル積206を計算する前に、マトリックスベースのイントラ予測モード205~205ごとに、マトリックスベースのイントラ予測モード205~205に対して等しいオフセット値cだけ、それぞれのマトリックスベースのイントラ予測モード205と関連付けられた予測マトリックス19の全てのエントリをオフセットするように構成され、マトリックスベースのイントラ予測モード205~205ごとに、それぞれのマトリックスベースのイントラ予測モード205と関連付けられた予測マトリックス19の全てのエントリは、符号付き8ビット表現によって表現可能である。したがって、この代替例に従って、マトリックスエントリごとに7ビットの桁が記憶されるにすぎない。これは、符号ビットが記憶される必要がないという事実に起因する。
第2の実施例は、MIPモードi205~205ごとに
Figure 2023504726000026
を有すること、及び固定された正の整数整数vが存在し、その結果、MIPモードi 205~205ごとに及びマトリックスAのマトリックスエントリak,lごとに、
Figure 2023504726000027
を有すること、である。
第2の実施例に従って、装置54は、マトリックスベースのイントラ予測モード205~205ごとに、8ビット符号付き桁表現においてそれぞれのマトリックスベースのイントラ予測モード205と関連付けられた予測マトリックス19のエントリを記憶するように構成される。この第2の実施例では、装置54は、マトリックス-ベクトル積206を計算する前に、オフセット値cだけそれぞれのマトリックスベースのイントラ予測モード205と関連付けられた予測マトリックス19のエントリをオフセットしない。
2.シフト値d、すなわち、右シフト209についてのビットの数211は、MIPモードi 205~205とは独立している。よって、正の整数dが存在し、その結果、MIPモードi205~205ごとに、
Figure 2023504726000028
を有する。
任意選択で、以下の制約も望ましいことがある:
3.値c、すなわち、予測マトリックス19のエントリへのオフセットは、MIPモードi 205~205とは独立している。よって、正の整数cが存在し、その結果、MIPモードi205~205ごとに、
Figure 2023504726000029
を有する。
よって、装置54は、マトリックス-ベクトル積206を計算する前に、例えば、加算または減算によって、マトリックスベースのイントラ予測モード205~205ごとに、オフセット値、MIPモードのリスト204の全てのマトリックスベースのイントラ予測モード205~205に対して等しい比較cだけそれぞれのマトリックスベースのイントラ予測モード205と関連付けられた予測マトリックス19の全てのエントリをオフセットするように構成されてもよい。
MIPモードの2つ以上のリスト204のケースでは、MIPモードの2つ以上のリスト204のリストごとに、オフセット値cは、例えば、MIPモードのそれぞれのリストの全てのマトリックスベースのイントラ予測モード205~205に対して等しい。言い換えると、オフセット値cは、例えば、同一のブロックサイズセットに関連するMIPモードに対して少なくとも同一である。
なぜそれらの制約を課すかについての理由は、以下の通りである。全てのマトリックス(A-c)のエントリが共通の固定ビット深度、すなわち、予め定められたビット深度192を有する場合、そのビットに適合された特定の乗算器は、マトリックス-ベクトル積206の計算のために使用されてもよく、全てのMIPモード205~205にわたって共有されてもよいので、制約1は、式(2)のマトリックス-ベクトル乗算206(A-c)の効率的な実装を可能にする。その上、全てのマトリックスAの全てのエントリを固定された精度において記憶することができ、すなわち、予測マトリックス19のエントリが固定点表現190において表現される場合、マトリックスAを扱うときの効率的なメモリ管理が可能にされる。ここで、重要な実施例は、全てのマトリックスAの全てのエントリを8ビット精度において、すなわち、1バイトにおいて記憶することができることである。言い換えると、予測マトリックス19のエントリは、8ビットである予め定められたビット深度192を有する固定点表現190において表現されてもよい。
シフト値、すなわち、右シフトについてのビットの数211がMIPモードiに依存しない場合、テーブルルックアップが保存され、式(2)のコンパクトなSIMD実装に対して有利であり、ハードウェア実装において式(2)の、すなわち、浮動小数点精度において予測マトリックスによりマトリックス-ベクトル積を近似させるマトリックス-ベクトル積206のケース依存実装を低減させるMIPに対して単一の固定シフト演算を実装することができるので、制約2は、式(2)におけるシフトの効率的な実装を可能にする。ここで、特に重要な実施例は、値6が固定シフトとして、すなわち、ビットの数211として使用されることである。理由は、10ビットコンテンツについて、10ビット範囲へのクリッピングがMIP予測処理においてpredredに適用されることである。よって、6だけダウンシフトする前に、すなわち、式(2)において6であるビットの数211により右シフト209を実行する前に、16ビット、すなわち、2バイトにおいて項
Figure 2023504726000030
を記憶することができ、項
Figure 2023504726000031
は、出力ベクトル208の成分210ごとにマトリックス-ベクトル積206によって取得された中間結果108’を表現する。
実施形態に従って、装置54は、例えば、出力ベクトル208の成分210ごとにマトリックス-ベクトル積206によって取得された中間結果108’、例えば、
Figure 2023504726000032
に対して右シフト209を適用することを伴う固定点算術演算において、入力ベクトル102とそれぞれのマトリックスベースのイントラ予測モード205と関連付けられた予測マトリックス19との間のマトリックス-ベクトル積206を計算するように構成される。任意選択で、中間結果108’は、マトリックスベースのイントラ予測モードと関連付けられた予測マトリックス19のエントリが記憶されたビット精度の少なくとも2倍高いビット精度において表現され、例えば、中間結果108’は、16ビットにおいて記憶されてもよく、予測マトリックス19のエントリは、7ビットの桁として、または符号付き8ビット表現として記憶されてもよい。
実施形態に従って、装置は、10ビット分解能においてピクチャを復号し、マトリックスベースのイントラ予測モード205~205ごとに、7ビット精度においてそれぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックス19のエントリの桁を記憶し、ビットの数211として6ビットを使用するように構成される。
制約2)と同様に、制約3)は、式(2)の更なる効率的な実装を可能にし、テーブルルックアップを再度保存する。
問題は、式(2)が式(1)についての近似式としての役割を果たすように、制約2または制約3が制約1と共にどのように充足されるかが自明でないことを解決することを本出願が意図していることである。
例えば、制約1によって、各々のMIPマトリックスAの全てのマトリックスエントリが、8ビット精度において記憶される必要があること、制約2によって、固定シフトdが式(2)における全てのMIPモードiに対して使用される必要があることを想定されよう。また、簡易性のために、c=0であることが想定されよう。これは、式(2)が、MIPに対する訓練アルゴリズムの結果である浮動小数点マトリックス
Figure 2023504726000033
ごとに、式(1)を近似させる必要がある場合、
Figure 2023504726000034
の各々のエントリ
Figure 2023504726000035

Figure 2023504726000036

を満たす必要があるように、負でない整数cが存在する必要があることを意味し、εは、
Figure 2023504726000037

を置くことが、式(1)を合理的に近似させるよう式(2)を実行することができるように合理的に小さい。ここで、丸めroundがマトリックスの各々のエントリに適用される。その上、実数xについて、
Figure 2023504726000038
を定義し、clip(A,2)によって、マトリックスAを表し、マトリックスは、Aの各々のエントリにclip(-,2)を適用することによって生じる。固定シフト6により可変入力ベクトルrredについて、それに対して式(2)が式(1)を近似させる8ビット範囲において積分エントリを有するマトリックス
Figure 2023504726000039
が存在することを想定する場合、課題(4)において定義されたマトリックスAは、
Figure 2023504726000040
を合理的に良好に近似させる必要があることに留意されよう。
他方で、推測的に、その出力がMIPマトリックス
Figure 2023504726000041
である訓練アルゴリズムが、式(4)において定義された対応するマトリックスAによって近似されたマトリックス
Figure 2023504726000042
をなぜ生じさせるべきかの理由は存在しない。問題は、
Figure 2023504726000043
が、
Figure 2023504726000044
よりも大きい絶対値のマトリックスエントリを包含することができること、よって、式(4)におけるクリッピングがマトリックス
Figure 2023504726000045
の最上位マトリックスエントリの部分を破棄することによって、(1)と(2)との間の相当な差異を導入することである。よって、訓練済みマトリックス
Figure 2023504726000046
の後に(4)を適用することは、コーデックにおいて規定され、マトリックスAを使用して式(2)におけるマトリックス-ベクトル積を実行する必要があるMIP予測モードが、「真の」振る舞い、すなわち、マトリックス
Figure 2023504726000047
と共にマトリックス-ベクトル積を使用する訓練済みMIPモードから大きく逸脱するという事象につながることがある。よって、MIPに遅れて存在するイントラ予測へのデータドリブンアプローチの全体的な概念が違反される。
実際に、現在のVVCドラフト[1]において使用されるMIPモードに基づいている訓練済みマトリックス
Figure 2023504726000048
に式(4)を適用することが、マトリックス
Figure 2023504726000049
の一部が2よりもはるかに大きいエントリを包含するので、基本的な訓練済みモードと比較されるとき、一部のMIPモードの振る舞いを著しく変化させる。
最終的に、現在のVVCドラフト[1]のMIPモードに遅れて存在するマトリックス
Figure 2023504726000050
についてのケースである、各々のマトリックスのエントリ
Figure 2023504726000051
が-2と2-1との間に存在する限り、制約2なしに制約1のみで解くことは些細なことであることに留意されよう。ここで、当面は、c=0を想定して、シフト値dを単純に定義し、その結果、
Figure 2023504726000052
は、
Figure 2023504726000053
のマトリックス-エントリ
Figure 2023504726000054
ごとに保持し、その結果、(5)は、いずれの
Figure 2023504726000055
に対しても保持しない。
更に、装置54は、図6.1及び6.2に関して説明されるような特徴及び/または機能性を含んでもよいと考えられる。これは、例えば、マトリックスベースのイントラ予測モード205~205のリスト204がマトリックスベースのイントラ予測モードの1つ以上のペア212を含むことを意味する。リスト204は、それらが図6.1におけるリスト204に存在するように記述されるようにMIPモードのそのようなペア212から排他的に構成されなくてもよく、むしろ、転置オプションまたは非転置オプションのいずれかを排他的に使用して適用される他のMIPモードも存在してもよいことに留意されよう。マトリックスベースのイントラ予測モード205~205のペア212ごとに、マトリックスベースのイントラ予測モードのそれぞれのペア212の第1のマトリックスベースのイントラ予測モードと関連付けられた予測マトリックス19は、マトリックスベースのイントラ予測モードのそれぞれのペアの第2のマトリックスベースのイントラ予測モードと関連付けられた予測マトリックス19に等しく、例えば、モード2k及び2k+1に対し、同一のマトリックス19が使用される。装置は、モードインデックス200によって指し示されたマトリックスベースのイントラ予測モード205がマトリックスベースのイントラ予測モードのそれぞれのペア212の第1のマトリックスベースのイントラ予測モードである場合、入力ベクトル112の成分214との予め定められたブロックに近傍した参照サンプル17の関連付け、及び出力ベクトル208の成分210との予め定められたブロック18のサンプル位置104の関連付けが、モードインデックス200によって指し示されたマトリックスベースのイントラ予測モード205がマトリックスベースのイントラ予測モードのそれぞれのペア212の第2のマトリックスベースのイントラ予測モードであるケースにおける関連付けに対して転置されるように構成される。すなわち、入力ベクトル102の特定の成分が、前者のケースにおける予め定められたブロック18の左上隅サンプルを表す(0,0)を有する位置(x,y)と関連付けられる場合、それは、後者のケースにおける(x,y)と関連付けられる。同じことが出力ベクトル208の成分に適用される。更なる詳細について、図6.1及び6.2の説明を参照されたい。
更に、装置54は、例えば、図5.1~5.4に関して説明されるような特徴及び/または機能性を含んでもよいと考えられる。
実施形態に従って、例えば、図5.1~5.4の1つに示されるように、装置54は、出力ベクトル208に基づいて、または出力ベクトル208及び予め定められたブロック18に近傍した参照サンプルに基づいて、アップサンプリング及び/または補間によって、出力ベクトル208の成分210がそれと関連付けられたサンプル位置からオフセットされた予め定められたブロック18のサンプルを予測するように構成される。
実施形態に従って、例えば、図5.1~5.4の1つに示されるように、装置54は、ダウンサンプリング及び/またはプーリングによって、予め定められたブロック18に近傍した参照サンプル17から入力ベクトル102を導出するように構成される。
実施形態に従って、予め定められたブロック18に近傍した参照サンプル17は、予め定められたブロック18の上の第1の参照サンプル17c及び予め定められたブロック18の左の第2の参照サンプル17aを含む。装置54は、ダウンサンプリング及び/またはプーリングにより第1の参照サンプル17cから第1の中間成分を導出し、ダウンサンプリング及び/またはプーリングにより第2の参照サンプル17aから第2の中間成分を導出し、ダウンサンプリング及び/またはプーリングにより第1の中間成分及び第2の中間成分を連結して予備入力ベクトルを導出すること、並びに予備入力ベクトルから入力ベクトルを形成することによって、予め定められたブロック18に近傍した参照サンプル17から入力ベクトル102を導出するように構成される。
実施形態に従って、装置54は、Bビット分解能においてピクチャを復号するように構成される。装置54は、入力ベクトル102の第1の成分を取得するように、予備入力ベクトルの第1の成分から2B-1を減算することによって、及び入力ベクトル102の更なる成分を取得するように、予備入力ベクトルの更なる成分から予備入力ベクトルの第1の成分を減算することによって、予備入力ベクトルから入力ベクトル102を形成するように構成されてもよい。代わりに、装置54は、入力ベクトル102が更なる成分から形成されるように、予備入力ベクトルの更なる成分から予備入力ベクトルの第1の成分を減算することによって、予備入力ベクトルから入力ベクトル102を形成するように構成されてもよい。加えて、装置54は、予備入力ベクトルの第1の成分の成分ワイズ加算によって出力ベクトル208を補正するように構成される。
実施形態に従って、マトリックスベースのイントラ予測モードのリスト204内のマトリックスベースのイントラ予測モード205~205の予測マトリックスのエントリは、以下の表2内のエントリに対応する、例えば、リスト2を参照されたい。しかしながら、おそらく、別のシフト値、すなわち、別のビットの数211が、表内の値をリスト化するために選出され、おそらく、表内の値が別のスケールにおいて表現されてもよい。
以下の実施形態は、予め定義された固定係数範囲及び予め定義された固定シフト、並びにコーデックにおけるそれらの応用を有するマトリックスベースのイントラ予測モードのデータドリブン訓練に焦点を当てる。
固定ビット深度、固定シフト、及び固定オフセットを得る問題のための本発明において提示される解決策は、制約1、制約2、制約3をMIP予測モードの訓練に、すなわち、マトリックス
Figure 2023504726000056
の導出に既に含むことである。よって、訓練の間に全てのマトリックスエントリの範囲を既に制限し、訓練では、訓練データの大規模セットに対する予め定義された損失関数に関して(局所的な)最適性に向かうマトリックスを続けて操縦するために、最急降下法アルゴリズムが適用される。
これを行う最も単純な様式は、制約2にあるように、2によって各々のマトリックスを乗算し、次いで、制約3からオフセットcを加算し(必要に応じて)、次いで、制約1の所望の範囲への結果をクリッピングし、次いで、オフセットcを減算し、最終的に2によって結果を除算することである。しかしながら、クリッピング関数がクリッピング範囲外でゼロ勾配を有するので、これは実現可能でなく、よって、そのようなアプローチでは、確率的勾配降下法の何らかの点においてクリッピング範囲外にあるあらゆる重みは、それ以降更新されない。
図8は、マトリックスベースのイントラ予測モード205~205のリスト204の訓練予測マトリックス19に対する装置310の実施形態を示し、マトリックスベースのイントラ予測モード205~205の中で、予め定められたブロック18に近傍した参照サンプル17から導出された入力ベクトル102と予め定められたブロック18に対して選択されたマトリックスベースのイントラ予測モード205と関連付けられた予測マトリックス19の1つとの間のマトリックス-ベクトル積206を計算し、マトリックス-ベクトル積206によって取得された出力ベクトル208の成分210を予め定められたブロック18のサンプル位置104に関連付けることによって、予め定められたブロック18のサンプル108を予測するために予め定められたブロック18に対して1つの205が選択されることになる。
装置310は、最急降下法アプローチ322を使用してマトリックスベースのイントラ予測モード205~205のリスト204の予測マトリックス19を訓練する(320)ように構成される。予測マトリックス19は、例えば、既知の元のサンプルの予め定められたブロック18及びそれらの対応する近傍性17の訓練セットの使用によって訓練される(320)。予測マトリックス19は、微分可能関数、比較f(x)を使用して代表する値がマッピングされた中間値に予測マトリックス19のエントリを設定することと関連付けられた予測歪み測定326に依存するコスト関数324を使用して、浮動小数点表現において表現される、マトリックスベースのイントラ予測モード205~205のリスト204の予測マトリックス19のエントリについての代表する値、比較
Figure 2023504726000057
を最適化することによって訓練される(320)。コスト関数324は、例えば、
Figure 2023504726000058
のあらゆるエントリに対してf(x)が適用されることを意味する
Figure 2023504726000059
から結果として生じるような予測の品質を減少させると共に増大するように、予測歪み測定326に依存する。予測歪み測定326は、中間値を含む予測マトリックスを使用して取得可能な予測信号MIP
Figure 2023504726000060
)と訓練セットの予め定められたブロックと関連付けられた元の信号との間の逸脱を定義することができる。図8において見ることができるように、予測信号MIP
Figure 2023504726000061
)が元の信号に等しいケースでは、予測歪み測定326はゼロである。マトリックス
Figure 2023504726000062
のエントリは、上記言及された代表する値であってもよく、マトリックス
Figure 2023504726000063
のエントリは、上記言及された中間値であってもよい。マトリックス
Figure 2023504726000064
は、訓練下の予測マトリックスを表現してもよい。装置310に内在する基本的な原理を例示するために、コスト関数324及び予測歪み測定326からのコスト325の依存性による最急降下法アプローチ322のみが示されることに留意されよう。
微分可能関数328のドメイン、例えば、図9におけるx軸302、及びコドメイン、例えば、図9におけるy軸は、浮動小数点表現によって定義され、微分可能関数328の画像300は、予め定められた動的範囲を有し、微分可能関数328は、マトリックスベースのイントラ予測モード205~205に対して等しい。予め定められた動的範囲は、例えば、max(image 300)/min(image 300)によって定義される。実施形態に従って、max(image 300)は、α+δであり、min(image 300)は、-α+δである、式(7)を参照されたい。図9が例示的な微分可能関数f(x)328のグラフのみを示すことに留意されよう。
加えて、装置310は、例えば、訓練320の後、中間値を固定点表現190に量子化し、その結果、マトリックスベースのイントラ予測モード205~205ごとに、それぞれのマトリックスベースのイントラ予測モード205と関連付けられた予測マトリックス19は、予め定められたビット深度192の固定点表現190によって表現される全てのエントリを有し、その結果、予め定められたビット深度192は、マトリックスベースのイントラ予測モード205~205に対して等しく、その結果、マトリックスベースのイントラ予測モード205~205ごとに、入力ベクトル102とそれぞれのマトリックスベースのイントラ予測モード205と関連付けられた予測マトリックス19との間のマトリックス-ベクトル積206は、出力ベクトル208の成分ごとに、マトリックスベースのイントラ予測モード205~205に対して等しい、例えば、固定点表現のby+xへのシフトアウトされていない部分bx+1がαを表現するのに十分であることを意味するビットの数211において右シフト209を実行することによって計算可能であるように構成される、以下の式(7)を参照されたい。図8は、固定点表現190が(x+y+1)-ビット符号付き桁表現であることを示すことに留意されよう。しかしながら、例えば、全ての中間値が同一の符号を有し、例えば、全ての中間値が正の値を有することができるケースでは、固定点表現190が(x+y)ビット桁表現を有することも可能である。
よって、解決策として、本発明では、平滑化関数、例えば、微分可能関数328によってクリッピング演算が近似される。より正確に、制約1、制約2、任意選択で、制約3から、基準化されていないマトリックスエントリについての範囲、すなわち、予測マトリックスのエントリについての代表する値、比較
Figure 2023504726000065
についての範囲を計算し、その結果、訓練の間、
Figure 2023504726000066
を適用する場合、結果が制約1の範囲内にあり、
Figure 2023504726000067
は、訓練処理におけるカレントマトリックスを表す。次いで、訓練の間、
Figure 2023504726000068
として実現されるクリッピング関数の平坦化近似式f、すなわち、微分可能関数328を適用することによって、各々の
Figure 2023504726000069
をこの範囲にクリッピングし、α、β、γ、及びδは、クリッピング範囲、すなわち、予め定められた動的範囲に依存する実数である。その上、λは、実験的に選出することができる負でない整数である。図9は、クリッピング関数f(x)、すなわち、微分可能関数328の実施例を示す。
実施形態に従って、微分可能関数328は、原点において傾き1を有し、厳密に単調に増大し、画像300の上限及び下限において水平漸近線を有する。
実施形態に従って、微分可能関数328は、コドメイン304内の画像300のシフトに関して、シフトパラメータ、例えば、δによってパラメータ化される。加えて、装置310は、最急降下法アプローチ322を使用してシフトパラメータに最適化を受けさせるように構成されてもよい。更に、装置310は、マトリックス-ベクトル積206の計算の前に、例えば、加算または減算によって、マトリックスベースのイントラ予測モードごとに、それぞれのマトリックスベースのイントラ予測モードと関連付けられた予測マトリックス19の全てのエントリをオフセットするために使用されるように、シフトパラメータからオフセット値、比較cを導出するように構成されてもよい。導出されたオフセット値cは、マトリックスベースのイントラ予測モード205~205に対して等しい。
要するに、本出願の発明は、それに対して制約1及び制約2が充足される式(2)によって与えられる部分を有するMIPの実現、またはそれに対して制約1、制約2、及び制約3が充足され、それに対して両方のケースでは、次には積分マトリックスに量子化される浮動小数点マトリックス
Figure 2023504726000070
についての訓練アルゴリズムでは、制約1及び制約2、望ましい場合は制約3もこの章において説明されるように採用される、式(2)によって与えられる部分を有するMIPの実現である。
以下の実施形態は、予測マトリックスの記憶された表現の実施例を説明する。
以下のリストは、mipSizeId=2、[1]に対して使用されるMIPモードについて本出願において提供される技術を使用して訓練から結果として生じる浮動小数点マトリックス
Figure 2023504726000071
を示す。詳細には、6の固定シフト及び32の固定オフセットによる7ビットの符号なし整数を使用して表現することができるマトリックス係数を訓練が生成する様式において、クリッピング関数、すなわち、微分可能関数のパラメータが選択されてきた。
Figure 2023504726000072
Figure 2023504726000073
Figure 2023504726000074
Figure 2023504726000075
Figure 2023504726000076
Figure 2023504726000077
Figure 2023504726000078
Figure 2023504726000079
Figure 2023504726000080
Figure 2023504726000081
Figure 2023504726000082
リスト1に示されるマトリックス係数は、前のセクションにおいて提示された要件を満たす。これを例示するために、リスト2は、26による乗算の後のマトリックス係数を示す。それらの係数の範囲は、固定オフセット32だけ最終範囲から逸脱する。よって、実施例に従って、以下の値は、固定点表現において記憶されたマトリックスエントリである。マトリックスは7×64マトリックスである(7個の成分入力ベクトル及び64個の成分出力ベクトル)。6個のモードについての6個のマトリックスがそこにある。実施形態に従って、エントリは、以下に示される値から逸脱することがある。例えば、例示のみの目的のために2による乗算が選出されており、それに従って、別の因子を選出するときに、それらが以下に示されるようにマトリックスのエントリが異なって見えることがある。
Figure 2023504726000083
Figure 2023504726000084
Figure 2023504726000085
Figure 2023504726000086
Figure 2023504726000087
Figure 2023504726000088
Figure 2023504726000089
Figure 2023504726000090
Figure 2023504726000091
Figure 2023504726000092
Figure 2023504726000093
ここで、32の固定オフセットをそれらのマトリックス係数に追加し、マトリックスのセットは-0.5以上の全ての係数による結果であり、したがって、負でない値に丸められる。このセットは、リスト3に示される。
Figure 2023504726000094
Figure 2023504726000095
Figure 2023504726000096
Figure 2023504726000097
Figure 2023504726000098
Figure 2023504726000099
Figure 2023504726000100
Figure 2023504726000101
Figure 2023504726000102
Figure 2023504726000103
Figure 2023504726000104
最終的に、上記マトリックス係数は、整数精度に丸められ、すなわち、中間値が固定点表現190に量子化される(330)。上記セットの最小係数が-0.5であるので、結果として生じる整数係数は負でなく、したがって、符号なし整数によって表現されてもよい。上記マトリックスの最大係数は127.5である。それらの係数は通常、128に丸められ、ここで、同一の絶対丸め誤差を導入する。よって、リスト4に示される結果として生じる整数係数符号なし7ビット範囲からである。加えて、最小の丸め係数が0であり、最大の丸め係数が127であるので、結果として生じる整数係数は、この範囲を完全に利用する。
Figure 2023504726000105
Figure 2023504726000106
Figure 2023504726000107
Figure 2023504726000108
Figure 2023504726000109
Figure 2023504726000110
Figure 2023504726000111
Figure 2023504726000112
Figure 2023504726000113
Figure 2023504726000114
Figure 2023504726000115
一部の態様が装置のコンテキストにおいて説明されてきたが、それらの態様は、対応する方法の説明をも表し、ブロックまたはデバイスは、方法ステップまたは方法ステップの特徴に対応することが明白である。同様に、方法ステップのコンテキストにおいて説明された態様も、対応する装置の対応するブロックまたはアイテムまたは特徴の説明を表す。方法ステップの一部または全ては、マイクロプロセッサ、プログラマブルコンピュータ、または電子回路のようなハードウェア装置によって(または、を使用して)実行されてもよい。いくつかの実施形態では、ほとんどの重要な方法ステップのうちの1つ以上は、そのような装置によって実行されてもよい。
発明のデータストリームは、デジタル記憶媒体に記憶されてもよく、またはインターネットなどの無線伝送媒体または有線伝送媒体などの伝送媒体上で伝送されてもよい。
特定の実装要件に応じて、発明の実施形態は、ハードウェアまたはソフトウェアにおいて実装されてもよい。実装態様は、それぞれの方法が実行されるようにプログラマブルコンピュータシステムと協働する(または、協働することが可能な)、そこに記憶された電子可読制御信号を有する、デジタル記憶媒体、例えば、フロッピーディスク、DVD、Blu-Ray、CD、ROM、PROM、EPROM、EEPROM、またはフラッシュメモリを使用して実行されてもよい。したがって、デジタル記憶媒体は、コンピュータ読み取り可能であってもよい。
発明に従ったいくつかの実施形態は、本明細書で説明される方法の1つが実行されるように、プログラマブルコンピュータシステムと協働することが可能な電子的可読制御信号を有するデータキャリアを含む。
概して、本発明の実施形態は、プログラムコードを有するコンピュータプログラム製品として実装されてもよく、プログラムコードは、コンピュータプログラム製品がコンピュータ上で実行されるとき、方法の1つを実行するように動作可能である。プログラムコードは、例えば、機械可読キャリアに記憶されてもよい。
他の実施形態は、機械可読キャリアに記憶された、本明細書で説明される方法の1つを実行するためのコンピュータプログラムを含む。
言い換えると、発明の方法の実施形態はしたがって、コンピュータプログラムがコンピュータ上で実行されるとき、本明細書で説明される方法の1つを実行するためのプログラムコードを有するコンピュータプログラムである。
したがって、発明の方法の更なる実施形態は、そこに記録された、本明細書で説明される方法の1つを実行するためのコンピュータプログラムを含むデータキャリア(または、デジタル記憶媒体またはコンピュータ可読媒体)である。データキャリア、デジタル記憶媒体、または記録された媒体は典型的には、有形であり、及び/または非一時的である。
したがって、発明の方法の更なる実施形態は、本明細書で説明される方法の1つを実行するためのコンピュータプログラムを表すデータストリームまたは一連の信号である。データストリームまたは一連の信号は、例えば、データ通信接続を介して、例えば、インターネットを介して転送されるように構成されてもよい。
更なる実施形態は、本明細書で説明される方法の1つを実行するように構成または適合された、処理手段、例えば、コンピュータまたはプログラマブル論理回路を含む。
更なる実施形態は、本明細書で説明される方法の1つを実行するためのそこにインストールされたコンピュータプログラムを有するコンピュータを含む。
発明に従った更なる実施形態は、本明細書で説明される方法の1つを実行するためのコンピュータプログラムを受信機に転送する(例えば、電子的にまたは光学的に)ように構成された装置またはシステムを含む。受信機は、例えば、コンピュータ、モバイルデバイス、またはメモリデバイスなどであってもよい。装置またはシステムは、例えば、コンピュータプログラムを受信機に転送するためのファイルサーバを含んでもよい。
いくつかの実施形態では、本明細書で説明されるの方法の機能性の一部または全てを実行するために、プログラマブル論理回路(例えば、フィールドプログラマブルゲートアレイ)が使用されてもよい。いくつかの実施形態では、フィールドプログラマブルゲートアレイは、本明細書で説明される方法の1つを実行するために、マイクロプロセッサと協働してもよい。概して、方法は好ましくは、いずれかのハードウェア装置によって実行される。
本明細書で説明される装置は、ハードウェア装置を使用して、またはコンピュータを使用して、またはハードウェア装置及びコンピュータの組み合わせを使用して実装されてもよい。
本明細書で説明される装置、または本明細書で説明される装置のいずれかの構成要素は、ハードウェア及び/またはソフトウェアにおいて少なくとも部分的に実装されてもよい。
本明細書で説明される方法は、ハードウェア装置を使用して、またはコンピュータを使用して、またはハードウェア装置及びコンピュータの組み合わせを使用して実行されてもよい。
本明細書で説明される方法、または本明細書で説明される装置のいずれかの構成要素は、ハードウェア及び/またはソフトウェアにおいて少なくとも部分的に実装されてもよい。
上記説明された実施形態は、本発明の原理の例示にすぎない。本明細書で説明されるの配列及び詳細の修正及び変形が当業者にとって明らかであることが理解されよう。したがって、係属している特許請求の範囲によってのみ限定され、本明細書における実施形態の説明及び弁明によって提示された特定の詳細によっては限定されないことを意図している。
参考文献
[1]B.Bross et al.,Versatile Video Coding(Draft 7),Document JVET-P2001,Geneva,October 2019

Claims (41)

  1. イントラ予測を使用してピクチャの予め定められたブロック(18)を復号する装置(54)であって、
    データストリーム(12)からモードインデックス(200)を読み込み、前記モードインデックスは、マトリックスベースのイントラ予測モードのリスト(204)からの1つを指し示し、
    前記予め定められたブロック(18)に近傍した参照サンプル(17)から導出された入力ベクトル(102)と、前記モードインデックス(200)によって指し示された前記マトリックスベースのイントラ予測モード(k)と関連付けられた予測マトリックス(19)と、の間のマトリックス-ベクトル積(206)を計算し、前記マトリックス-ベクトル積(206)によって取得された出力ベクトル(208)の成分(210)を前記予め定められたブロックのサンプル位置(104)に関連付けることによって、前記予め定められたブロック(18)のサンプル(108)を予測する、ように構成され、
    マトリックスベースのイントラ予測モード(205~205)ごとに、それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の全てのエントリは、予め定められたビット深度(192)の固定点表現(190)によって表現され、前記予め定められたビット深度(192)は、前記マトリックスベースのイントラ予測モード(205~205)に対して等しく、
    前記装置(54)は、マトリックスベースのイントラ予測モード(205~205)ごとに、前記出力ベクトル(208)の成分(210)ごとに、前記マトリックスベースのイントラ予測モード(205~205)に対して等しいビットの数(211)において右シフト(209)を実行することによって、前記入力ベクトル(102)と前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)との間の前記マトリックス-ベクトル積(206)を計算するように構成される、
    前記装置(54)。
  2. マトリックスベースのイントラ予測モードの前記リスト内のマトリックスベースのイントラ予測モード(205~205)の数は、12、16、または32である、請求項1に記載の装置(54)。
  3. マトリックスベースのイントラ予測モードの前記リスト内の前記マトリックスベースのイントラ予測モード(205~205)が、それと関連付けられた6、8、または16個の異なるマトリックスを有するように構成される、請求項1または2に記載の装置(54)。
  4. 前記装置(54)は、出力ベクトル(208)の成分(210)ごとに前記マトリックス-ベクトル積(206)によって取得された中間結果(108’)に対して前記右シフト(209)を適用することを伴う固定点算術演算において前記入力ベクトル(102)と、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)と、の間の前記マトリックス-ベクトル積(206)を計算するように構成される、請求項1~3のいずれか一項に記載の装置(54)。
  5. 前記装置(54)は、前記マトリックス-ベクトル積(206)を計算する前に、マトリックスベースのイントラ予測モード(205~205)ごとに、前記マトリックスベースのイントラ予測モード(205~205)に対して等しいオフセット値により、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の全てのエントリをオフセットするように構成される、請求項1~4のいずれか一項に記載の装置(54)。
  6. 前記装置(54)は、各マトリックスベースのイントラ予測モード(205~205)において、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)のエントリごとに、前記予め定められたビット深度(192)における前記固定点表現(190)を記憶するように構成される、請求項1~5のいずれか一項に記載の装置(54)。
  7. 前記装置(54)は、
    10ビット分解能において前記ピクチャを復号し、
    マトリックスベースのイントラ予測モード(205~205)ごとに、7ビット精度において、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の前記エントリの桁を記憶し、
    前記ビットの数(211)として6ビットを使用する、
    ように構成される、請求項1~6のいずれか一項に記載の装置(54)。
  8. 前記装置(54)は、マトリックスベースのイントラ予測モード(205~205)ごとに、8ビット符号付き桁表現において前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の前記エントリを記憶するように構成され、または
    前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の前記エントリは、同一の符号のエントリであり、前記装置(54)は、前記マトリックス-ベクトル積(206)を計算する前に、マトリックスベースのイントラ予測モード(205~205)ごとに、前記マトリックスベースのイントラ予測モード(205~205)に対して等しいオフセット値により、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の全てのエントリをオフセットするように構成され、マトリックスベースのイントラ予測モード(205~205)ごとに、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の全てのエントリは、符号付き8ビット表現によって表現可能である、
    請求項7に記載の装置(54)。
  9. 前記装置(54)は、出力ベクトル(208)の成分(210)ごとにマトリックス-ベクトル積(206)によって取得され、前記マトリックスベースのイントラ予測モード(205~205)と関連付けられた前記予測マトリックス(19)のエントリが記憶されたビット精度の2倍高いビット精度において表現された中間結果(108’)に対して前記右シフト(209)を適用することを伴う固定点算術演算において前記入力ベクトル(102)と、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)と、の間の前記マトリックス-ベクトル積(206)を計算するように構成される、請求項1~8のいずれか一項に記載の装置(54)。
  10. マトリックスベースのイントラ予測モード(205~205)の前記リスト(204)は、マトリックスベースのイントラ予測モードの1つ以上のペア(212)を含み、マトリックスベースのイントラ予測モードのペアごとに、マトリックスベースのイントラ予測モードのそれぞれのペアの第1のマトリックスベースのイントラ予測モードと関連付けられた前記予測マトリックス(19)は、マトリックスベースのイントラ予測モードの前記それぞれのペアの第2のマトリックスベースのイントラ予測モードと関連付けられた前記予測マトリックス(19)に等しく、前記装置(54)は、前記モードインデックスによって指し示された前記マトリックスベースのイントラ予測モードがマトリックスベースのイントラ予測モードの前記それぞれのペアの前記第1のマトリックスベースのイントラ予測モードである場合、前記入力ベクトル(112)の成分(214)との前記予め定められたブロックに近傍した前記参照サンプル(17)の関連付け、及び前記出力ベクトル(208)の前記成分(210)との前記予め定められたブロック(18)の前記サンプル位置(104)の関連付けが、前記モードインデックスによって指し示された前記マトリックスベースのイントラ予測モードがマトリックスベースのイントラ予測モードの前記それぞれのペアの前記第2のマトリックスベースのイントラ予測モードであるケースにおける関連付けに対して転置されるように構成される、
    請求項1~9のいずれか一項に記載の装置(54)。
  11. 複数のブロック次元に対してマトリックスベースのイントラ予測モード(205~205)の前記リストを使用するように構成される、請求項1~10のいずれか一項に記載の装置(54)。
  12. 前記装置(54)は、前記出力ベクトルに基づいて、または前記出力ベクトル及び前記予め定められたブロックに近傍した前記参照サンプルに基づいて、アップサンプリング及び/または補間によって、前記出力ベクトル(208)の前記成分(210)が関連付けられた前記サンプル位置からオフセットされた前記予め定められたブロックのサンプルを予測するように構成される、請求項1~11のいずれか一項に記載の装置(54)。
  13. 前記装置(54)は、ダウンサンプリング及び/またはプーリングによって、前記予め定められたブロック(18)に近傍した前記参照サンプル(17)から前記入力ベクトル(102)を導出するように構成される、請求項1~12のいずれか一項に記載の装置(54)。
  14. 前記予め定められたブロック(18)に近傍した前記参照サンプル(17)は、前記予め定められたブロックの上の第1の参照サンプル及び前記予め定められたブロックの左の第2の参照サンプルを含み、
    前記装置(54)は、
    ダウンサンプリング及び/またはプーリングによって、前記第1の参照サンプルから第1の中間成分を導出し、
    ダウンサンプリング及び/またはプーリングによって、前記第2の参照サンプルから第2の中間成分を導出し、
    前記第1の中間成分及び前記第2の中間成分を連結して、予備入力ベクトルを導出し、
    前記予備入力ベクトルから前記入力ベクトルを形成する、
    ことによって、前記予め定められたブロック(18)に近傍した前記参照サンプル(17)から前記入力ベクトル(102)を導出するように構成される、
    請求項1~13のいずれか一項に記載の装置(54)。
  15. Bビット分解能において前記ピクチャを復号し、
    前記入力ベクトルの第1の成分を取得するように前記予備入力ベクトルの第1の成分から2B-1を減算し、前記入力ベクトルの更なる成分を取得するように前記予備入力ベクトルの更なる成分から前記予備入力ベクトルの前記第1の成分を減算し、または
    前記入力ベクトルが前記更なる成分から形成されるように、前記予備入力ベクトルの更なる成分から前記予備入力ベクトルの第1の成分を減算する、
    ことによって、前記予備入力ベクトルから前記入力ベクトルを形成し、
    前記予備入力ベクトルの前記第1の成分の成分ワイズ加算によって前記出力ベクトルを補正する、
    ように構成される、請求項14に記載の装置(54)。
  16. マトリックスベースのイントラ予測モードの前記リスト内の前記マトリックスベースのイントラ予測モード(205~205)の前記予測マトリックスの前記エントリは、表2内の前記エントリに対応する、請求項1~15のいずれか一項に記載の装置(54)。
  17. イントラ予測を使用してピクチャの予め定められたブロック(18)を符号化する装置(14)であって、
    データストリーム(12)にモードインデックス(200)を挿入し、前記モードインデックスは、マトリックスベースのイントラ予測モード(205~205)のリスト(204)からの1つを指し示し、
    前記予め定められたブロック(18)に近傍した参照サンプル(17)から導出された入力ベクトル(102)と前記モードインデックス(200)によって指し示された前記マトリックスベースのイントラ予測モード(k)と関連付けられた予測マトリックスとの間のマトリックス-ベクトル積(206)を計算し、前記マトリックス-ベクトル積(206)によって取得された出力ベクトル(208)の成分(210)を前記予め定められたブロックのサンプル位置(104)に関連付けることによって、前記予め定められたブロック(18)のサンプル(108)を予測する、ように構成され、
    マトリックスベースのイントラ予測モード(205~205)ごとに、それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の全てのエントリは、予め定められたビット深度(192)の固定点表現(190)によって表現され、前記予め定められたビット深度(192)は、前記マトリックスベースのイントラ予測モード(205~205)に対して等しく、
    前記装置(14)は、各マトリックスベースのイントラ予測モード(205~205)において、前記出力ベクトルの成分ごとに、前記マトリックスベースのイントラ予測モード(205~205)に対して等しいビットの数(211)において右シフト(209)を実行することによって、前記入力ベクトル(102)と前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)との間の前記マトリックス-ベクトル積(206)を計算するように構成される、
    前記装置(14)。
  18. マトリックスベースのイントラ予測モードの前記リスト内のマトリックスベースのイントラ予測モード(205~205)の数は、12、16、または32である、請求項17に記載の装置(14)。
  19. マトリックスベースのイントラ予測モードの前記リスト内の前記マトリックスベースのイントラ予測モード(205~205)が、それと関連付けられた6、8、または16個の異なるマトリックスを有するように構成される、請求項17または18に記載の装置(14)。
  20. 前記装置(14)は、出力ベクトル(208)の成分(210)ごとに前記マトリックス-ベクトル積(206)によって取得された中間結果(108’)に対して前記右シフト(209)を適用することを伴う固定点算術演算において前記入力ベクトル(102)と、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)と、の間の前記マトリックス-ベクトル積(206)を計算するように構成される、請求項17~19のいずれか一項に記載の装置(14)。
  21. 前記装置(14)は、前記マトリックス-ベクトル積(206)を計算する前に、マトリックスベースのイントラ予測モード(205~205)ごとに、前記マトリックスベースのイントラ予測モード(205~205)に対して等しいオフセット値により、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の全てのエントリをオフセットするように構成される、請求項17~20のいずれか一項に記載の装置(14)。
  22. 前記装置(14)は、各マトリックスベースのイントラ予測モード(205~205)において、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)のエントリごとに、前記予め定められたビット深度(192)において前記固定点表現(190)を記憶するように構成される、請求項17~21のいずれか一項に記載の装置(14)。
  23. 前記装置(14)は、
    10ビット分解能において前記ピクチャを符号化し、
    マトリックスベースのイントラ予測モード(205~205)ごとに、7ビット精度において、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の前記エントリの桁を記憶し、
    前記ビットの数(211)として6ビットを使用する、
    ように構成される、請求項17~22のいずれか一項に記載の装置(14)。
  24. 前記装置(14)は、マトリックスベースのイントラ予測モード(205~205)ごとに、8ビット符号付き桁表現において前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の前記エントリを記憶するように構成され、または
    前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の前記エントリは、同一の符号のエントリであり、前記装置(14)は、前記マトリックス-ベクトル積(206)を計算する前に、マトリックスベースのイントラ予測モード(205~205)ごとに、前記マトリックスベースのイントラ予測モード(205~205)に対して等しいオフセット値により、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の全てのエントリをオフセットするように構成され、マトリックスベースのイントラ予測モード(205~205)ごとに、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の全てのエントリは、符号付き8ビット表現によって表現可能である、
    請求項23に記載の装置(14)。
  25. 前記装置(14)は、出力ベクトル(208)の成分(210)ごとにマトリックス-ベクトル積(206)によって取得され、前記マトリックスベースのイントラ予測モード(205~205)と関連付けられた前記予測マトリックス(19)のエントリが記憶されたビット精度の2倍高いビット精度において表現された中間結果(108’)に対して前記右シフト(209)を適用することを伴う固定点算術演算において前記入力ベクトル(102)と、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)と、の間の前記マトリックス-ベクトル積(206)を計算するように構成される、請求項17~24のいずれか一項に記載の装置(14)。
  26. マトリックスベースのイントラ予測モード(205~205)の前記リスト(204)は、マトリックスベースのイントラ予測モードの1つ以上のペア(212)を含み、マトリックスベースのイントラ予測モードのペアごとに、マトリックスベースのイントラ予測モードのそれぞれのペアの第1のマトリックスベースのイントラ予測モードと関連付けられた前記予測マトリックス(19)は、マトリックスベースのイントラ予測モードの前記それぞれのペアの第2のマトリックスベースのイントラ予測モードと関連付けられた前記予測マトリックス(19)に等しく、前記装置(14)は、前記モードインデックスによって指し示された前記マトリックスベースのイントラ予測モードがマトリックスベースのイントラ予測モードの前記それぞれのペアの前記第1のマトリックスベースのイントラ予測モードである場合、前記入力ベクトル(112)の成分(214)との前記予め定められたブロックに近傍した前記参照サンプル(17)の関連付け、及び前記出力ベクトル(208)の前記成分(210)との前記予め定められたブロック(18)の前記サンプル位置(104)の関連付けが、前記モードインデックスによって指し示された前記マトリックスベースのイントラ予測モードがマトリックスベースのイントラ予測モードの前記それぞれのペアの前記第2のマトリックスベースのイントラ予測モードであるケースにおける関連付けに対して転置されるように構成される、
    請求項17~25のいずれか一項に記載の装置(14)。
  27. 複数のブロック次元に対してマトリックスベースのイントラ予測モード(205~205)の前記リストを使用するように構成される、請求項17~26のいずれか一項に記載の装置(14)。
  28. 前記装置(14)は、前記出力ベクトルに基づいて、または前記出力ベクトル及び前記予め定められたブロックに近傍した前記参照サンプルに基づいて、アップサンプリング及び/または補間によって、前記出力ベクトル(208)の前記成分(210)が関連付けられた前記サンプル位置からオフセットされた前記予め定められたブロックのサンプルを予測するように構成される、請求項17~27のいずれか一項に記載の装置(14)。
  29. 前記装置(14)は、ダウンサンプリング及び/またはプーリングによって、前記予め定められたブロック(18)に近傍した前記参照サンプル(17)から前記入力ベクトル(102)を導出するように構成される、請求項17~28のいずれか一項に記載の装置(14)。
  30. 前記予め定められたブロック(18)に近傍した前記参照サンプル(17)は、前記予め定められたブロックの上の第1の参照サンプル及び前記予め定められたブロックの左の第2の参照サンプルを含み、
    前記装置(14)は、
    ダウンサンプリング及び/またはプーリングによって、前記第1の参照サンプルから第1の中間成分を導出し、
    ダウンサンプリング及び/またはプーリングによって、前記第2の参照サンプルから第2の中間成分を導出し、
    前記第1の中間成分及び前記第2の中間成分を連結して、予備入力ベクトルを導出し、
    前記予備入力ベクトルから前記入力ベクトルを形成する、
    ことによって、前記予め定められたブロック(18)に近傍した前記参照サンプル(17)から前記入力ベクトル(102)を導出するように構成される、
    請求項17~29のいずれか一項に記載の装置(14)。
  31. Bビット分解能において前記ピクチャを符号化し、
    前記入力ベクトルの第1の成分を取得するように前記予備入力ベクトルの第1の成分から2B-1を減算し、前記入力ベクトルの更なる成分を取得するように前記予備入力ベクトルの更なる成分から前記予備入力ベクトルの前記第1の成分を減算し、または
    前記入力ベクトルが前記更なる成分から形成されるように、前記予備入力ベクトルの更なる成分から前記予備入力ベクトルの第1の成分を減算する、
    ことによって、前記予備入力ベクトルから前記入力ベクトルを形成し、
    前記予備入力ベクトルの前記第1の成分の成分ワイズ加算によって前記出力ベクトルを補正する、
    ように構成される、請求項30に記載の装置(14)。
  32. マトリックスベースのイントラ予測モードの前記リスト内の前記マトリックスベースのイントラ予測モード(205~205)の前記予測マトリックスの前記エントリは、表2内の前記エントリに対応する、請求項17~31のいずれか一項に記載の装置(14)。
  33. 予め定められたブロック(18)に近傍した参照サンプル(17)から導出された入力ベクトル(102)と予め定められたブロックに対して選択されたマトリックスベースのイントラ予測モード(k)と関連付けられた予測マトリックス(19)の1つとの間のマトリックス-ベクトル積(206)を計算し、前記マトリックス-ベクトル積(206)によって取得された出力ベクトル(208)の成分(210)を前記予め定められたブロックのサンプル位置(104)に関連付けることによって、前記予め定められたブロック(18)のサンプル(108)を予測するために、その中で前記予め定められたブロックに対して1つが選択されることになる前記マトリックスベースのイントラ予測モード(205~205)のリスト(204)の訓練予測マトリックスのための装置(310)であって、
    前記装置(310)は、
    最急降下法アプローチを使用して、そのドメイン及びコドメインが浮動小数点表現によって定義され、その画像(300)が予め定められた動的範囲を有し、マトリックスベースのイントラ予測モード(205~205)に対して等しい、微分可能関数を使用して代表する値がマッピングされた中間値に前記予測マトリックス(19)のエントリを設定することと関連付けられた予測歪み測定に依存するコスト関数を使用して、前記浮動小数点表現において表現された、前記マトリックスベースのイントラ予測モードの前記リスト(204)の前記予測マトリックスの前記エントリについての代表する値を最適化することによって、前記マトリックスベースのイントラ予測モード(205~205)の前記リスト(204)の前記予測マトリックスを訓練し、
    前記中間値を固定点表現(190)に量子化し、その結果、マトリックスベースのイントラ予測モード(205~205)ごとに、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)は、予め定められたビット深度(192)の固定点表現(190)によって表現された全てのエントリを有し、その結果、前記予め定められたビット深度(192)は、前記マトリックスベースのイントラ予測モード(205~205)に対して等しく、その結果、マトリックスベースのイントラ予測モード(205~205)ごとに、前記入力ベクトル(102)と、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)と、の間の前記マトリックス-ベクトル積(206)が、前記出力ベクトルの成分ごとに、前記マトリックスベースのイントラ予測モード(205~205)に対して等しいビットの数(211)において右シフト(209)を実行することによって計算可能である、
    ように構成される、前記装置(310)。
  34. 前記微分可能関数は、原点において傾き1を有し、厳密に単調に増大し、前記画像の上限及び下限において水平漸近線を有する、
    請求項33に記載の装置(310)。
  35. Figure 2023504726000116
    であり、α、β、γ、及びδは、前記予め定められた動的範囲に依存する実数であり、λは、負でない整数である、請求項33に記載の装置(310)。
  36. 前記微分可能関数は、前記コドメイン内の前記画像のシフトに関してシフトパラメータによってパラメータ化され、前記装置(310)は、前記最急降下法アプローチを使用して前記シフトパラメータに最適化を受けさせ、前記マトリックス-ベクトル積(206)の前記計算の前に、マトリックスベースのイントラ予測モード(205~205)ごとに、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の全てのエントリをオフセットするために使用されるように、前記シフトパラメータから前記マトリックスベースのイントラ予測モード(205~205)に対して等しいオフセット値を導出するように構成される、請求項33~35のいずれか一項の記載の装置(310)。
  37. イントラ予測を使用してピクチャの予め定められたブロック(18)を復号する方法であって、
    データストリーム(12)からモードインデックス(200)を読み込むことであって、前記モードインデックスは、マトリックスベースのイントラ予測モードのリスト(204)からの1つを指し示す、前記読み込むことと、
    前記予め定められたブロック(18)に近傍した参照サンプル(17)から導出された入力ベクトル(102)と前記モードインデックス(200)によって指し示された前記マトリックスベースのイントラ予測モード(k)と関連付けられた予測マトリックス(19)との間のマトリックス-ベクトル積(206)を計算し、前記マトリックス-ベクトル積(206)によって取得された出力ベクトル(208)の成分(210)を前記予め定められたブロックのサンプル位置(104)に関連付けることによって、前記予め定められたブロック(18)のサンプル(108)を予測することと、を備え、
    マトリックスベースのイントラ予測モード(205~205)ごとに、それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の全てのエントリは、予め定められたビット深度(192)の固定点表現(190)によって表現され、前記予め定められたビット深度(192)は、前記マトリックスベースのイントラ予測モード(205~205)に対して等しく、
    前記方法は、各マトリックスベースのイントラ予測モード(205~205)において、前記出力ベクトル(208)の成分(210)ごとに、前記マトリックスベースのイントラ予測モード(205~205)に対して等しいビットの数(211)において右シフト(209)を実行することによって、前記入力ベクトル(102)と前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)との間の前記マトリックス-ベクトル積(206)を計算することを備えた、
    前記方法。
  38. イントラ予測を使用してピクチャの予め定められたブロック(18)を符号化する方法であって、
    データストリーム(12)にモードインデックス(200)を挿入することであって、前記モードインデックスは、マトリックスベースのイントラ予測モード(205~205)のリスト(204)からの1つを指し示す、前記挿入することと、
    前記予め定められたブロック(18)に近傍した参照サンプル(17)から導出された入力ベクトル(102)と前記モードインデックス(200)によって指し示された前記マトリックスベースのイントラ予測モード(k)と関連付けられた予測マトリックスとの間のマトリックス-ベクトル積(206)を計算し、前記マトリックス-ベクトル積(206)によって取得された出力ベクトル(208)の成分(210)を前記予め定められたブロックのサンプル位置(104)に関連付けることによって、前記予め定められたブロック(18)のサンプル(108)を予測することと、を備え、
    マトリックスベースのイントラ予測モード(205~205)ごとに、それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)の全てのエントリは、予め定められたビット深度(192)の固定点表現(190)によって表現され、前記予め定められたビット深度(192)は、前記マトリックスベースのイントラ予測モード(205~205)に対して等しく、
    前記方法は、各マトリックスベースのイントラ予測モード(205~205)において、前記出力ベクトルの成分ごとに、前記マトリックスベースのイントラ予測モード(205~205)に対して等しいビットの数(211)において右シフト(209)を実行することによって、前記入力ベクトル(102)と、前記それぞれのマトリックスベースのイントラ予測モード(205;205)と関連付けられた前記予測マトリックス(19)と、の間の前記マトリックス-ベクトル積(206)を計算することを備えた、
    前記方法。
  39. 予め定められたブロック(18)に近傍した参照サンプル(17)から導出された入力ベクトル(102)と予め定められたブロックに対して選択されたマトリックスベースのイントラ予測モード(k)と関連付けられた予測マトリックス(19)の1つとの間のマトリックス-ベクトル積(206)を計算し、前記マトリックス-ベクトル積(206)によって取得された出力ベクトル(208)の成分(210)を前記予め定められたブロックのサンプル位置(104)に関連付けることによって、前記予め定められたブロック(18)のサンプル(108)を予測するために、その中で前記予め定められたブロックに対して1つが選択されることになる前記マトリックスベースのイントラ予測モードのリスト(204)の訓練予測マトリックスのための方法であって、
    前記方法は、
    最急降下法アプローチを使用して、そのドメイン及びコドメインが浮動小数点表現によって定義され、その画像(300)が予め定められた動的範囲を有し、マトリックスベースのイントラ予測モードに対して等しい、微分可能関数を使用して代表する値がマッピングされた中間値に前記予測マトリックス(19)のエントリを設定することと関連付けられた予測歪み測定に依存するコスト関数を使用して、前記浮動小数点表現において表現された、前記マトリックスベースのイントラ予測モードの前記リスト(204)の前記予測マトリックスの前記エントリについての代表する値を最適化することによって、前記マトリックスベースのイントラ予測モードの前記リスト(204)の前記予測マトリックスを訓練することと、
    前記中間値を固定点表現(190)に量子化し、その結果、マトリックスベースのイントラ予測モードごとに、前記それぞれのマトリックスベースのイントラ予測モードと関連付けられた前記予測マトリックス(19)は、予め定められたビット深度の固定点表現(190)によって表現された全てのエントリを有し、その結果、前記予め定められたビット深度は、前記マトリックスベースのイントラ予測モードに対して等しく、その結果、マトリックスベースのイントラ予測モードごとに、前記入力ベクトル(102)と、前記それぞれのマトリックスベースのイントラ予測モード(k)と関連付けられた前記予測マトリックス(19)と、の間の前記マトリックス-ベクトル積(206)が、前記出力ベクトルの成分ごとに、前記マトリックスベースのイントラ予測モードに対して等しいビットの数において右シフトを実行することによって計算可能である、ことと、
    を備えた、前記方法。
  40. 請求項38に記載の方法によって生成されたデータストリーム。
  41. コンピュータ上で実行されるとき、請求項37、38、及び39のいずれか一項に記載の方法を実行するためのプログラムコードを有するコンピュータプログラム。
JP2022533565A 2019-12-06 2020-12-04 モード-グローバル設定によるマトリックスベースのイントラ予測 Active JP7479471B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP19214201.6 2019-12-06
EP19214201 2019-12-06
PCT/EP2020/084691 WO2021110943A1 (en) 2019-12-06 2020-12-04 Matrix based intra prediction with mode-global settings

Publications (2)

Publication Number Publication Date
JP2023504726A true JP2023504726A (ja) 2023-02-06
JP7479471B2 JP7479471B2 (ja) 2024-05-08

Family

ID=69024094

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022533565A Active JP7479471B2 (ja) 2019-12-06 2020-12-04 モード-グローバル設定によるマトリックスベースのイントラ予測

Country Status (11)

Country Link
US (1) US20230036509A1 (ja)
EP (1) EP4070542A1 (ja)
JP (1) JP7479471B2 (ja)
KR (1) KR20220121827A (ja)
CN (1) CN115066896A (ja)
AU (2) AU2020397503B2 (ja)
BR (1) BR112022010988A2 (ja)
CA (1) CA3163771A1 (ja)
MX (1) MX2022006797A (ja)
TW (1) TWI789653B (ja)
WO (1) WO2021110943A1 (ja)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8385424B2 (en) 2006-06-26 2013-02-26 Qualcomm Incorporated Reduction of errors during computation of inverse discrete cosine transform
CN116916043A (zh) 2019-09-24 2023-10-20 Oppo广东移动通信有限公司 预测值的确定方法、编码器、解码器以及计算机存储介质

Also Published As

Publication number Publication date
CN115066896A (zh) 2022-09-16
KR20220121827A (ko) 2022-09-01
WO2021110943A1 (en) 2021-06-10
AU2024200696A1 (en) 2024-02-22
AU2020397503A1 (en) 2022-06-23
US20230036509A1 (en) 2023-02-02
TWI789653B (zh) 2023-01-11
JP7479471B2 (ja) 2024-05-08
BR112022010988A2 (pt) 2022-08-16
MX2022006797A (es) 2022-09-12
AU2020397503B2 (en) 2023-11-09
CA3163771A1 (en) 2021-06-10
TW202130173A (zh) 2021-08-01
EP4070542A1 (en) 2022-10-12

Similar Documents

Publication Publication Date Title
US20180310024A1 (en) Intra prediction method of chrominance block using luminance sample, and apparatus using same
TWI816439B (zh) 以區塊為基礎之預測技術
CN108347604B (zh) 视频解压方法、视频压缩方法和非暂时性计算机可读媒体
CN105409218B (zh) 解码器和解码方法
US11405619B2 (en) Geometric partition mode with simplified motion field storage and motion compensation in video coding
JP2023179682A (ja) 隣接サンプル減少を伴う線形またはアフィン変換を使用するイントラ予測
JP7463399B2 (ja) ビデオコーディングのための勾配ベースの予測改良
WO2012115420A2 (ko) 필터링을 이용한 화면 내 예측 방법 및 이러한 방법을 사용하는 장치
US20130003855A1 (en) Processing method and device for video signals
WO2012087034A2 (ko) 화면 내 예측 방법 및 이러한 방법을 사용하는 장치
US20130188705A1 (en) Simplification of LM Mode
JP7477538B2 (ja) 行列ベースのイントラ予測および二次変換を使用したコーディング
GB2559062A (en) Adaptive transform method based on in-screen prediction and apparatus using the method
US8879628B2 (en) Floating point video coding
JP2024069438A (ja) イントラ予測を用いた符号化
JP2023504726A (ja) モード-グローバル設定によるマトリックスベースのイントラ予測
KR20170058870A (ko) 비선형 매핑을 통한 영상 부호화/복호화 방법 및 장치
US20230199196A1 (en) Methods and Apparatuses of Frequency Domain Mode Decision in Video Encoding Systems
US11064196B2 (en) Parametrizable, quantization-noise aware bilateral filter for video coding
KR102038818B1 (ko) 화면 내 예측 방법 및 이러한 방법을 사용하는 장치

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220802

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220802

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230929

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231010

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240105

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240227

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20240325

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240423

R150 Certificate of patent or registration of utility model

Ref document number: 7479471

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150