JP2022171424A5 - - Google Patents

Description

第１の態様に係る符号化装置は、原画像のブロックと予測画像のブロックとの差分を表す残差信号に対して変換処理を行って得られる２次元の変換係数に対して量子化処理を行う量子化部を備える。前記量子化部は、前記２次元の変換係数に基づいて１次元のスケール後変換係数及び１次元の量子化後変換係数を生成し、前記１次元のスケール後変換係数及び前記１次元の量子化後変換係数に基づいて前記１次元の量子化後変換係数を調整する。

第３の態様に係るモデル生成方法は、符号化のための学習済みモデルを生成する方法である。前記モデル生成方法は、１次元のスケール後変換係数と、１次元の量子化後変換係数と、全探索又は貪欲法を用いて導出された最適な１次元の量子化後変換係数又は当該最適な１次元の量子化後変換係数に基づく量子化調整値と、のセットを教師データとして取得するステップと、前記セットを複数含む前記教師データを用いた機械学習により、前記１次元のスケール後変換係数及び前記１次元の量子化後変換係数を入力とし、前記最適な１次元の量子化後変換係数又は前記量子化調整値を出力とする前記学習済みモデルを生成するステップとを有する。

Claims (11)

1. 原画像のブロックと予測画像のブロックとの差分を表す残差信号に対して変換処理を行って得られる２次元の変換係数に対して量子化処理を行う量子化部を備える符号化装置であって、
   前記量子化部は、前記２次元の変換係数に基づいて１次元のスケール後変換係数及び１次元の量子化後変換係数を生成し、前記１次元のスケール後変換係数及び前記１次元の量子化後変換係数に基づいて前記１次元の量子化後変換係数を調整することを特徴とする符号化装置。
2. 前記量子化部により得られる２次元の量子化後変換係数をスキャン順に応じて１次元に変換したうえでエントロピー符号化を行うエントロピー符号化部をさらに備え、
   前記量子化部は、
   前記２次元の変換係数を所定値で除算して前記２次元のスケール後変換係数を導出するとともに、前記２次元のスケール後変換係数を丸め処理により整数に変換して前記２次元の量子化後変換係数を導出する導出部と、
   前記２次元のスケール後変換係数及び前記２次元の量子化後変換係数のそれぞれを前記スキャン順に応じて１次元に変換する次元変換部と、
   前記次元変換部により得られる前記１次元のスケール後変換係数及び前記１次元の量子化後変換係数を学習済みモデルに入力して得られる量子化調整値を用いて前記１次元の量子化後変換係数を調整する調整部と、
   前記調整部により調整された前記１次元の量子化後変換係数を前記スキャン順に応じて２次元に逆変換して前記２次元の量子化後変換係数を出力する次元逆変換部と、を有することを特徴とする請求項１に記載の符号化装置。
3. 前記調整部は、
   前記１次元の量子化後変換係数を構成する各変換係数の正負符号を取得する符号取得部と、
   前記１次元のスケール後変換係数を構成する各変換係数の正負符号及び前記１次元の量子化後変換係数を構成する各変換係数の正負符号を除去する符号除去部と、
   前記符号除去部により正負符号が除去された前記１次元のスケール後変換係数及び前記１次元の量子化後変換係数から、前記学習済みモデルを用いて前記量子化調整値を取得する調整値取得部と、
   前記調整値取得部により得られる前記量子化調整値を、前記正負符号が除去された前記１次元の量子化後変換係数に加算するとともに、前記符号取得部により得られる前記正負符号を当該１次元の量子化後変換係数に付与する調整値加算部と、を有することを特徴とする請求項２に記載の符号化装置。
4. 前記エントロピー符号化部は、予め定められた複数のスキャン順の中から選択されたスキャン順に応じて前記２次元の量子化後変換係数を１次元に変換し、
   前記調整部は、前記複数のスキャン順に対応する複数の学習済みモデルのうち、前記選択されたスキャン順に対応する学習済みモデルを特定し、当該特定した学習済みモデルを用いて前記量子化調整値を導出することを特徴とする請求項２又は３に記載の符号化装置。
5. 前記残差信号に対して前記変換処理を行う変換部をさらに備え、
   前記変換部は、予め定められた複数種類の変換処理の中から選択された種類の前記変換処理を行い、
   前記調整部は、前記複数種類の変換処理に対応する複数の学習済みモデルのうち、前記選択された種類の変換処理に対応する学習済みモデルを特定し、当該特定した学習済みモデルを用いて前記量子化調整値を導出することを特徴とする請求項２又は３に記載の符号化装置。
6. 前記２次元の変換係数は、予め定められた複数種類のブロックサイズの中から選択されたブロックサイズを有し、
   前記調整部は、前記複数種類のブロックサイズに対応する複数の学習済みモデルのうち、前記選択されたブロックサイズに対応する学習済みモデルを特定し、当該特定した学習済みモデルを用いて前記量子化調整値を導出することを特徴とする請求項２又は３に記載の符号化装置。
7. 前記学習済みモデルは、１次元のスケール後変換係数と、１次元の量子化後変換係数と、全探索又は貪欲法を用いて導出された最適な１次元の量子化後変換係数又は当該最適な１次元の量子化後変換係数に基づく量子化調整値と、のセットを教師データとして複数用いた機械学習により生成された学習済みモデルであることを特徴とする請求項２乃至６のいずれか１項に記載の符号化装置。
8. コンピュータを請求項１乃至７のいずれか１項に記載の符号化装置として機能させることを特徴とするプログラム。
9. 符号化のための学習済みモデルを生成するモデル生成方法であって、
   １次元のスケール後変換係数と、１次元の量子化後変換係数と、全探索又は貪欲法を用いて導出された最適な１次元の量子化後変換係数又は当該最適な１次元の量子化後変換係数に基づく量子化調整値と、のセットを教師データとして取得するステップと、
   前記セットを複数含む前記教師データを用いた機械学習により、前記１次元のスケール後変換係数及び前記１次元の量子化後変換係数を入力とし、前記最適な１次元の量子化後変換係数又は前記量子化調整値を出力とする前記学習済みモデルを生成するステップと、を有することを特徴とするモデル生成方法。
10. ２次元の変換係数を所定値で除算して２次元のスケール後変換係数を導出するとともに、前記２次元のスケール後変換係数を丸め処理により整数に変換して２次元の量子化後変換係数を導出するステップをさらに有し、
    前記取得するステップは、前記２次元のスケール後変換係数及び前記２次元の量子化後変換係数のそれぞれをスキャン順に応じて１次元に変換することにより、前記１次元のスケール後変換係数及び前記１次元の量子化後変換係数を取得するステップを含むことを特徴とする請求項９に記載のモデル生成方法。
11. 前記生成するステップは、予め定められた複数のスキャン順のそれぞれについて前記学習済みモデルを生成するステップを含むことを特徴とする請求項９又は１０に記載のモデル生成方法。