JP6373008B2 - 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法 - Google Patents
画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法 Download PDFInfo
- Publication number
- JP6373008B2 JP6373008B2 JP2014002035A JP2014002035A JP6373008B2 JP 6373008 B2 JP6373008 B2 JP 6373008B2 JP 2014002035 A JP2014002035 A JP 2014002035A JP 2014002035 A JP2014002035 A JP 2014002035A JP 6373008 B2 JP6373008 B2 JP 6373008B2
- Authority
- JP
- Japan
- Prior art keywords
- block
- prediction
- intra
- image
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
また、その符号化ブロックをさらに細かい予測ブロック(予測処理単位のブロック)に分割し、その予測ブロックに対する画面内予測や動き補償予測を実施することで予測画像(予測誤差)を生成する。
また、その予測画像を符号化ブロック内で階層的に変換ブロックに分割し、それぞれの変換ブロックの変換係数をエントロピー符号化することで高い圧縮率を達成している。
このイントラ予測には、予測ブロックに隣接している画素を参照画素として、一定の方向にコピーする方向性予測、予測ブロック内の画素の予測値を参照画素の平均値とする平均値(DC)予測や、参照画素から予測ブロック内を内挿する平面(Planar)予測がある。
画像信号は一般に空間的相関が高いため、隣接する画素を用いた様々なバリエーションの予測を適切に切り替えることで高い予測効率を実現することができる。
また、この発明は、上記のような画像符号化装置及び画像符号化方法により生成された符号化ビットストリームを正しく復号することができる画像復号装置及び画像復号方法を得ることを目的とする。
図1はこの発明の実施の形態1による画像符号化装置を示す構成図である。
この実施の形態1の画像符号化装置が処理対象とする映像信号は、輝度信号と2つの色差信号からなるYUV信号や、ディジタル撮像素子から出力されるRGB信号等の任意の色空間のカラー映像信号のほか、モノクロ画像信号や赤外線画像信号など、映像フレームが水平・垂直2次元のディジタルサンプル(画素)列から構成される任意の映像信号である。
各画素の階調は8ビットでもよいし、10ビット、12ビットなどの階調であってもよい。
また、入力信号は映像信号ではなく静止画像信号でもよいことは、静止画像信号を1フレームのみで構成される映像信号と解釈できることから当然である。
この対応付けはインデックス情報として上位ヘッダで符号化して画像復号装置側で認識できるようにしてもよい。このようにすることで、画像復号装置によって復号した復号画像の色を正しく表示することができる。また、YUV4:4:4フォーマット信号やRGB4:4:4フォーマット信号の場合、各信号をモノクローム画像信号とみなしてそれぞれ独立にモノクローム(YUV4:0:0)符号化してビットストリームを生成するようにしてもよい。
このようにすることで各信号並列に符号化処理を実施することができる。その際、各モノクローム信号がどの色信号であるかを示す情報をインデックス情報として上位ヘッダで符号化して画像復号装置側で認識できるようにしてもよい。このようにすることで、画像復号装置によって復号した復号画像の色を正しく表示することができる。
なお、映像の各フレームに対応する処理データ単位を「ピクチャ」と称し、この実施の形態1では、「ピクチャ」は順次走査(プログレッシブスキャン)された映像フレームの信号として説明を行う。ただし、映像信号がインタレース信号である場合、「ピクチャ」は映像フレームを構成する単位であるフィールド画像信号であってもよい。
また、以下の説明において「輝度値」と表現している個所については、輝度信号の場合の画素値を示しているだけでなく、色差信号やその他の色信号(赤色(R)、緑色(G)、青色(B)の信号等)の場合においても、当該信号の画素値を示すものである。即ち、信号の種類によらず輝度値は当該信号の画素値を意味する。
また、符号化制御部1は選択可能な1以上の符号化モード(予測処理単位を示す予測ブロックのサイズなどが異なる1以上のイントラ符号化モード、予測処理単位を示す予測ブロックのサイズなどが異なる1以上のイントラブロックコピー符号化モード、予測ブロックのサイズなどが異なる1以上のインター符号化モード)の中から、ブロック分割部3から出力される符号化ブロックに適用する符号化モードを選択する処理を実施する。
選択手法の例としては、選択可能な1以上の符号化モードの中から、ブロック分割部3から出力される符号化ブロックに対する符号化効率が最も高い符号化モードを選択する手法がある。
さらに、符号化制御部1は変換・量子化部9及び逆量子化・逆変換部10に与える予測差分符号化パラメータを決定する処理を実施する。予測差分符号化パラメータには、符号化ブロックにおける直交変換処理単位となる変換ブロックの分割情報を示す変換ブロック分割情報や、変換係数の量子化を行う際の量子化ステップサイズを規定する量子化パラメータなどが含まれる。
変換ブロックサイズは、図20に示すように、符号化ブロックを四分木状に階層分割することによって決定される。
例えば、変換ブロックを分割する場合と変換ブロックを分割しない場合での符号量や、符号化誤差を加味した評価尺度などに基づいて、評価値が最小になるように変換ブロックを分割するか否かを決定することで、符号量と符号化誤差のトレードオフの観点から最適な変換ブロックの分割形状を決定することができる。
色差信号については、図20に示すように、入力信号フォーマットがYUV4:2:0信号である場合、輝度信号と同様に、符号化ブロックが1つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。
この場合、色差信号の変換ブロックサイズは、対応する輝度信号の変換ブロックの縦横ともに半分のサイズとなる。
輝度信号の変換ブロックの分割情報は、例えば、階層毎に分割するか否かを示す変換ブロック分割フラグとして可変長符号化部15に出力する。
即ち、ブロック分割部3はスライスを符号化制御部1により決定された分割に応じて各符号化ブロックに分割して、その符号化ブロックを出力する処理を実施する。また、各符号化ブロックは予測処理単位となる1つないし複数の予測ブロックに分割される。
一方、色差信号については、色差信号のイントラ予測パラメータが、輝度信号に対するイントラ予測モードと同じ予測モードを用いる旨を示している場合(イントラ予測パラメータが輝度色差共通イントラ予測モード(DMモード)を示している場合)、輝度信号と同じフレーム内予測を実施して、色差信号の予測画像を生成する。
図25はYUV4:2:0フォーマットの信号において輝度信号と色差信号で同一の方向性予測を用いた場合を示し、図26はYUV4:2:2フォーマットの信号において輝度信号と色差信号で同一の方向性予測を用いた場合を示している。
また、色差信号のイントラ予測パラメータが、輝度相関利用色差信号予測モード(LMモード)を示している場合、予測画像の生成対象ブロックの上及び左に隣接している複数の画素の輝度信号及び色差信号を用いて、輝度信号と色差信号の相関を示す相関パラメータを算出し、その相関パラメータと予測処理対象の色差信号のブロックに対応する輝度信号を用いて、色差信号の予測画像を生成する。
具体的には、図29に示すように、輝度信号の予測方向ベクトルをvL=(dxL,dyL)とした場合、色差信号の予測方向ベクトルは、vC=(dxL/2,dyL)となる。即ち、図30に示すように、予測方向の角度をθとした場合、輝度信号の予測方向の角度をθL、色差信号の予測方向の角度をθCとして、tanθC=2tanθLの関係となる予測方向で予測する必要がある。
このように構成することで、方向性予測処理自体を変更することなく、インデックスの変換のみで、YUV4:2:2信号のフォーマットに応じた色差信号の適切な予測を実施することができる。
また、イントラブロックコピー予測部6は符号化ブロック内の予測ブロック毎に、同一のピクチャ内で既に符号化が行われて局所復号が済んでいる領域の中から、当該予測ブロックと最も近似しているブロックである参照ブロックを探索して、その参照ブロックを当該予測ブロックの予測画像に決定する処理を実施する。なお、イントラブロックコピー予測部6はイントラブロックコピー予測手段を構成している。
変換・量子化部9は符号化制御部1により決定された予測差分符号化パラメータに含まれる変換ブロック分割情報を参照して、減算部8から出力された予測差分信号に対する直交変換処理(例えば、DCT(離散コサイン変換)やDST(離散サイン変換)、予め特定の学習系列に対して基底設計がなされているKL変換等の直交変換処理)を変換ブロック単位に実施して変換係数を算出するとともに、その予測差分符号化パラメータに含まれる量子化パラメータを参照して、その変換ブロック単位の変換係数を量子化し、量子化後の変換係数である圧縮データを逆量子化・逆変換部10及び可変長符号化部15に出力する処理を実施する。
ここで、図10は4×4DCTの量子化マトリクスの一例を示す説明図である。
図中の数字は、各変換係数の量子化ステップサイズのスケーリング値を示している。
例えば、符号化ビットレートを抑制するために、図10に示すように、高域の変換係数程、量子化ステップサイズを大きな値にスケーリングすることで、複雑な画像領域等で発生する高域の変換係数を抑制して符号量を抑えつつ、主観品質に大きく影響する低域の係数の情報を落とさずに符号化することができる。
このように、変換係数毎の量子化ステップサイズを制御したい場合には量子化マトリクスを用いればよい。
したがって、変換・量子化部9は、各直交変換サイズに対して色信号や符号化モード毎に、新しい量子化マトリクスを用いるか否かを示すフラグ情報を符号化すべき量子化マトリクスパラメータに設定する。
一方、新しい量子化マトリクスを用いない場合には、初期値として、画像符号化装置及び画像復号装置で、予め共通に用意されている量子化マトリクス、又は、既に符号化された量子化マトリクスの中から、使用するマトリクスを特定するインデックスを符号化すべき量子化マトリクスパラメータに設定する。ただし、参照可能な既に符号化された量子化マトリクスが存在しない場合、画像符号化装置及び画像復号装置で予め共通に用意されている量子化マトリクスのみ選択可能となる。
加算部11は逆量子化・逆変換部10により算出された局所復号予測差分信号と、イントラ予測部5により生成されたイントラ予測画像、イントラブロックコピー予測部6により生成されたイントラブロックコピー予測画像、又は、動き補償予測部7により生成されたインター予測画像とを加算して、ブロック分割部3から出力された符号化ブロックに相当する局所復号画像を算出する処理を実施する。
ループフィルタ部13は加算部11により算出された局所復号画像に対して、所定のフィルタ処理を実施して、フィルタ処理後の局所復号画像を出力する処理を実施する。
具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ(デブロッキングフィルタ)処理、画素単位に適応的にオフセットを加算する(画素適応オフセット)処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
一般に使用するフィルタ処理の種類が多いほど、画像品質は向上するが、一方で処理負荷は高くなる。即ち、画像品質と処理負荷はトレードオフの関係にある。また、各フィルタ処理の画像品質改善効果はフィルタ処理対象画像の特性によって異なる。したがって、画像符号化装置が許容する処理負荷や符号化処理対象画像の特性にしたがって使用するフィルタ処理を決めればよい。例えば、図11の構成よりも処理負荷を削減したい場合、デブロッキングフィルタ処理と画素適応オフセット処理のみで構成するといったことが考えられる。
画素適応オフセット処理では、最初に、画像を複数のブロックに分割し、そのブロック単位に、オフセット処理を行わない場合もクラス分類手法の一つとして定義して、予め用意されている複数のクラス分類手法の中から、1つのクラス分類手法を選択する。
次に、選択したクラス分類手法によって、ブロック内の各画素をクラス分類し、クラス毎に符号化歪みを補償するオフセット値を算出する。
最後に、局所復号画像の画素値に対して、そのオフセット値を加算する処理を行うことで局所復号画像の画像品質を改善する。
したがって、画素適応オフセット処理では、ブロック分割情報、各ブロックのクラス分類手法を示すインデックス、ブロック単位の各クラスのオフセット値を特定するオフセット情報をヘッダ情報として可変長符号化部15に出力する。
なお、画素適応オフセット処理において、例えば、最大符号化ブロックといった固定サイズのブロック単位に常に分割して、そのブロック毎にクラス分類手法を選択して、クラス毎の適応オフセット処理を行ってもよい。この場合、上記ブロック分割情報が不要となり、ブロック分割情報に要する符号量分だけ符号量が削減され、符号化効率を高めることができる。
そして、クラス毎に設計したフィルタをヘッダ情報として可変長符号化部15に出力する。
クラス分類手法としては、画像を空間的に等間隔に区切る簡易な手法や、ブロック単位に画像の局所的な特性(分散など)に応じて分類する手法がある。
また、適応フィルタ処理で使用するクラス数は、予め画像符号化装置及び画像復号装置に共通の値として設定してもよいし、符号化すべきパラメータとしてもよい。
前者と比較して後者の方が、使用するクラス数を自由に設定することができるため、画像品質改善効果が上がるが、一方でクラス数を符号化するために、その分の符号量が増加する。
可変長符号化部15は変換・量子化部9から出力された圧縮データと、符号化制御部1の出力信号(最大符号化ブロック内のブロック分割情報、符号化モード、予測差分符号化パラメータ、イントラ予測パラメータ、イントラブロックコピー予測パラメータ、インター予測パラメータ)と、動き補償予測部7から出力された動きベクトル(符号化モードがインター符号化モードである場合)とを可変長符号化して符号化データを生成する処理を実施する。
また、可変長符号化部15は、図13に例示するように、符号化ビットストリームのヘッダ情報として、シーケンスレベルヘッダ、ピクチャレベルヘッダを符号化し、ピクチャデータと共に符号化ビットストリームを生成する処理を実施する。なお、可変長符号化部15は可変長符号化手段を構成している。
シーケンスレベルヘッダは、画像サイズ、色信号フォーマット、輝度信号や色差信号の信号値のビット深度、シーケンス単位でのループフィルタ部13における各フィルタ処理(適応フィルタ処理、画素適応オフセット処理、デブロッキングフィルタ処理)の有効フラグ情報、量子化マトリクスの有効フラグ情報など、一般的にシーケンス単位に共通となるヘッダ情報をまとめたものである。
ピクチャレベルヘッダは、参照するシーケンスレベルヘッダのインデックスや動き補償時の参照ピクチャ数、エントロピー符号化の確率テーブル初期化フラグ、量子化マトリクスパラメータなど、ピクチャ単位で設定するヘッダ情報をまとめたものである。
画像符号化装置をコンピュータで構成する場合、イントラ用メモリ12及び動き補償予測フレームメモリ14をコンピュータのメモリ上に構成するとともに、符号化制御部1、スライス分割部2、ブロック分割部3、切換スイッチ4、イントラ予測部5、イントラブロックコピー予測部6、動き補償予測部7、減算部8、変換・量子化部9、逆量子化・逆変換部10、加算部11、ループフィルタ部13及び可変長符号化部15の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにすればよい。
図2はこの発明の実施の形態1による画像符号化装置の処理内容(画像符号化方法)を示すフローチャートである。
図3において、可変長復号部31は図1の画像符号化装置により生成された符号化ビットストリームを入力すると、そのビットストリームからシーケンスレベルヘッダ、ピクチャレベルヘッダ、スライスレベルヘッダなどの各ヘッダ情報とピクチャデータを復号する処理を実施する。
ただし、ピクチャデータは1以上のスライスデータから構成されており、各スライスデータはスライスレベルヘッダと当該スライス内にある符号化データがまとめられているものである。ピクチャデータはスライスデータの他に補足情報を示すヘッダ情報を含む場合もある。このとき、YUV4:4:4フォーマット信号やRGB4:4:4フォーマット信号の各信号をモノクローム画像信号とみなしてそれぞれ独立にモノクローム(YUV4:0:0)符号化していることを示す情報がヘッダ情報に含まれる場合、各色信号の符号化ビットストリームに対してそれぞれ独立に復号処理を実施することができる。
色差信号については、図20に示すように、入力信号フォーマットがYUV4:2:0信号である場合、輝度信号と同様に、符号化ブロックが1つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。この場合、色差信号の変換ブロックサイズは、対応する輝度信号の変換ブロックの縦横ともに半分のサイズとなる。
入力信号フォーマットがYUV4:4:4信号である場合、図22に示すように、色差信号の変換ブロックは、常に輝度信号の変換ブロックと同様の分割を行い、同じサイズの変換ブロックとなるように構成する。
具体的には、各ヘッダ情報から特定される量子化マトリクスを用いて逆量子化処理を行う。
一方、色差信号については、色差信号のイントラ予測パラメータが、輝度信号に対するイントラ予測モードと同じ予測モードを用いる旨を示している場合(イントラ予測パラメータが輝度色差共通イントラ予測モード(DMモード)を示している場合)、輝度信号と同じフレーム内予測を実施して、色差信号の予測画像を生成する。
また、色差信号のイントラ予測パラメータが、輝度相関利用色差信号予測モード(LMモード)を示している場合、予測画像の生成対象ブロックの上及び左に隣接している複数の画素の輝度信号及び色差信号を用いて、輝度信号と色差信号の相関を示す相関パラメータを算出し、その相関パラメータと予測処理対象の色差信号のブロックに対応する輝度信号を用いて、色差信号の予測画像を生成する。
具体的には、図29に示すように、輝度信号の予測方向ベクトルをvL=(dxL,dyL)とした場合、色差信号の予測方向ベクトルは、vC=(dxL/2,dyL)となる。即ち、図30に示すように、予測方向の角度をθとした場合、輝度信号の予測方向の角度をθL、色差信号の予測方向の角度をθCとして、tanθC=2tanθLの関係となる予測方向で予測する必要がある。
このように構成することで、方向性予測処理自体を変更することなく、インデックスの変換のみで、YUV4:2:2信号のフォーマットに応じた色差信号の適切な予測を実施することができる。
また、イントラブロックコピー予測部35は符号化ブロック内の予測ブロック毎に、同一のピクチャ内で既に復号が済んでいる領域の中から、当該予測ブロックと最も近似しているブロックである参照ブロックを探索して、その参照ブロックを当該予測ブロックの予測画像に決定する処理を実施する。なお、イントラブロックコピー予測部35はイントラブロックコピー予測手段を構成している。
ループフィルタ部39は加算部37により算出された復号画像に対して、所定のフィルタ処理を実施して、フィルタ処理後の復号画像を出力する処理を実施する。
具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ(デブロッキングフィルタ)処理、画素単位に適応的にオフセットを加算する(画素適応オフセット)処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
ただし、ループフィルタ部39は、上記のデブロッキングフィルタ処理、画素適応オフセット処理、適応フィルタ処理のそれぞれについて、可変長復号部31により可変長復号された各ヘッダ情報を参照して、当該スライスで行うか否かを特定する。
このとき、2つ以上のフィルタ処理を行う場合において、例えば、画像符号化装置のループフィルタ部13が図11のように構成されていれば、図12に示すようにループフィルタ部39が構成される。当然、画像符号化装置のループフィルタ部13がデブロッキングフィルタ処理と画素適応オフセット処理から構成されていれば、ループフィルタ部39もデブロッキングフィルタ処理と画素適応オフセット処理で構成される。
なお、クラス分類手法の候補として、ループフィルタ部13の画素適応オフセット処理のクラス分類手法の候補と同一のものが予め用意されている。
そして、ブロック単位の各クラスのオフセット値を特定するオフセット情報を参照して、復号画像の画素値にオフセットを加算する処理を行う。
動き補償予測フレームメモリ40はループフィルタ部39のフィルタ処理後の復号画像をインター予測処理(動き補償予測処理)で用いる参照画像として格納する記録媒体である。
画像復号装置をコンピュータで構成する場合、イントラ用メモリ38及び動き補償予測フレームメモリ40をコンピュータのメモリ上に構成するとともに、可変長復号部31、逆量子化・逆変換部32、切換スイッチ33、イントラ予測部34、イントラブロックコピー予測部35、動き補償予測部36、加算部37及びループフィルタ部39の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにすればよい。
図4はこの発明の実施の形態1による画像復号装置の処理内容(画像復号方法)を示すフローチャートである。
この実施の形態1では、映像の各フレーム画像を入力画像として、符号化済みの近傍画素からのイントラ予測又は近接フレーム間での動き補償予測を実施して、得られた予測差分信号に対して直交変換・量子化による圧縮処理を施し、その後、可変長符号化を行って符号化ビットストリームを生成する画像符号化装置と、その画像符号化装置から出力される符号化ビットストリームを復号する画像復号装置について説明する。
一般的に、映像信号は、空間・時間的に信号の複雑さが局所的に変化する特性を有している。空間的に見ると、ある映像フレーム上では、例えば、空や壁などのような比較的広い画像領域中で均一な信号特性を有する絵柄もあれば、人物や細かいテクスチャを含む絵画など、小さい画像領域内で複雑なテクスチャパターンを有する絵柄も混在することがある。
時間的に見ても、空や壁は局所的に時間方向の絵柄の変化は小さいが、動く人物や物体は、その輪郭が時間的に剛体・非剛体の運動をするため、時間的な変化が大きい。
一方、時間的・空間的に変化の大きい画像信号パターンに対して、同一の予測パラメータを大きな画像領域に適用すると、予測の誤りが増えてしまうため、予測差分信号の符号量が増加してしまう。
したがって、時間的・空間的に変化が大きい領域では、同一の予測パラメータを適用して予測処理を行うブロックサイズを小さくして、予測に用いるパラメータのデータ量を増やし、予測差分信号の電力・エントロピーを低減する方が望ましい。
まず、符号化制御部1は、符号化対象となるピクチャ(カレントピクチャ)のスライス分割状態を決めると共に、ピクチャの符号化に用いる最大符号化ブロックのサイズと、最大符号化ブロックを階層分割する階層数の上限を決定する(図2のステップST1)。
最大符号化ブロックのサイズの決め方としては、例えば、入力画像の映像信号の解像度に応じて、全てのピクチャに対して同一のサイズを定めてもよいし、入力画像の映像信号の局所的な動きの複雑さの違いをパラメータとして定量化して、動きの激しいピクチャには、小さいサイズを定める一方、動きが少ないピクチャには、大きいサイズを定めるようにしてもよい。
なお、上記最大符号化ブロックのサイズと、最大符号化ブロックを階層分割する階層数の上限は、シーケンスレベルヘッダなどで符号化する。その場合、分割階層数の上限の代わりに、符号化ブロックの最小ブロックサイズを符号化するようにしてもよい。即ち、最大符号化ブロックを分割階層数の上限まで分割したときのブロックのサイズが、符号化ブロックの最小ブロックサイズであるため、画像復号装置側において、最大符号化ブロックのサイズと符号化ブロックの最小ブロックサイズから分割階層数の上限を特定することができる。
即ち、符号化制御部1は、最大符号化ブロックサイズの画像領域毎に、先に定めた分割階層数の上限に至るまで、階層的に符号化ブロックサイズを有する符号化ブロックに分割して、各々の符号化ブロックに対する符号化モードを決定する。
符号化モードには、1つないし複数のイントラ符号化モード(総称して「INTRA」と称する)と、1つないし複数のイントラブロックコピー符号化モード(総称して「ICOPY」と称する)と、1つないし複数のインター符号化モード(総称して、「INTER」と称する)とがあり、符号化制御部1は、当該ピクチャで利用可能な全ての符号化モード、又は、そのサブセットの中から、各々の符号化ブロックに対応する符号化モードを選択する。
符号化制御部1による符号化モードの選択方法は、公知の技術であるため詳細な説明を省略するが、例えば、利用可能な任意の符号化モードを用いて、符号化ブロックに対する符号化処理を実施して符号化効率を検証し、利用可能な複数の符号化モードの中で、最も符号化効率がよい符号化モードを選択する方法などがある。
ただし、符号化ブロックがさらに予測処理を行う予測ブロック単位に分割される場合は、予測ブロック毎に予測パラメータ(イントラ予測パラメータ、イントラブロックコピー予測パラメータ又はインター予測パラメータ)を選択する。
変換ブロックサイズは、図20に示すように、符号化ブロックを四分木状に階層分割することによって決定される。
例えば、変換ブロックを分割する場合と変換ブロックを分割しない場合での符号量や、符号化誤差を加味した評価尺度などに基づいて、評価値が最小になるように変換ブロックを分割するか否かを決定することで、符号量と符号化誤差のトレードオフの観点から最適な変換ブロックの分割形状を決定することができる。
色差信号については、図20に示すように、入力信号フォーマットがYUV4:2:0信号である場合、輝度信号と同様に、符号化ブロックが1つ又は複数の正方形の変換ブロックに階層的に分割されるように構成する。この場合、色差信号の変換ブロックサイズは、対応する輝度信号の変換ブロックの縦横ともに半分のサイズとなる。
また、入力信号フォーマットがYUV4:4:4信号である場合、図22に示すように、色差信号の変換ブロックは、常に輝度信号の変換ブロックと同様の分割を行い、同じサイズの変換ブロックとなるように構成する。
また、符号化制御部1は、イントラ予測パラメータを必要に応じてイントラ予測部5に出力する。
また、符号化制御部1は、イントラブロックコピー予測パラメータを必要に応じてイントラブロックコピー予測部6に出力する。
また、符号化制御部1は、インター予測パラメータを必要に応じて動き補償予測部7に出力する。
ブロック分割部3は、スライス分割部2から各スライスを入力する毎に、そのスライスを符号化制御部1により決定された最大符号化ブロックサイズに分割し、さらに、分割した最大符号化ブロックを符号化制御部1により決定された符号化ブロックへ階層的に分割して、その符号化ブロックを出力する。
図5において、最大符号化ブロックは、「第0階層」と記されている輝度成分が(L0,M0)のサイズを有する符号化ブロックである。
最大符号化ブロックを出発点として、4分木構造で別途定める所定の深さまで、階層的に分割を行うことによって符号化ブロックを得るようにしている。
深さnにおいては、符号化ブロックはサイズ(Ln,Mn)の画像領域である。
ただし、LnとMnは、同じであってもよいし、異なっていてもよいが、図5では、Ln=Mnのケースを示している。
4分木分割を行うため、常に、(Ln+1,Mn+1)=(Ln/2,Mn/2)が成立する。
なお、RGB信号など、全ての色成分が同一サンプル数を有するカラー映像信号(4:4:4フォーマット)では、全ての色成分のサイズが(Ln,Mn)になるが、4:2:0フォーマットを扱う場合、対応する色差成分の符号化ブロックサイズは(Ln/2,Mn/2)になる。
複数の色成分からなるカラー映像信号の場合、符号化モードm(Bn)は、色成分毎に、それぞれ個別のモードを用いるように構成されてもよいし、全ての色成分に対し共通のモードを用いるように構成されてもよい。以降、特に断らない限り、YUV信号、4:2:0フォーマットの符号化ブロックの輝度成分に対する符号化モードを指すものとして説明を行う。
以降、符号化ブロックBnに属する予測ブロックをPi n(iは、第n階層における予測ブロック番号)と表記する。図5にはP0 0とP1 0の例を示している。
符号化ブロックBn内の予測ブロックの分割が、どのようになされているかは、符号化モードm(Bn)の中に情報として含まれる。
予測ブロックPi nは、全て符号化モードm(Bn)に従って予測処理が行われるが、予測ブロックPi n毎に、個別の予測パラメータ(イントラ予測パラメータ、イントラブロックコピー予測パラメータ又はインター予測パラメータ)を選択することができる。
図6(a)の点線で囲まれた矩形が各符号化ブロックを表し、各符号化ブロック内にある斜線で塗られたブロックが各予測ブロックの分割状態を表している。
図6(b)は、図6(a)の例について、階層分割によって符号化モードm(Bn)が割り当てられる状況を4分木グラフで示したものである。図6(b)の□で囲まれているノードは、符号化モードm(Bn)が割り当てられたノード(符号化ブロック)である。
この4分木グラフの情報は符号化モードm(Bn)と共に符号化制御部1から可変長符号化部15に出力されて、ビットストリームに多重化される。
したがって、符号化モードがイントラ符号化モードである符号化ブロックでは、選択可能な変換ブロックのブロックサイズは、予測ブロックのサイズ以下に制限され、さらに、変換ブロックが予測ブロックより小さい場合(予測ブロック内に複数の変換ブロックが存在する場合)には、変換ブロック単位に、当該予測ブロックで定められたイントラ予測パラメータを用いたイントラ予測処理を実施してイントラ予測画像を生成する処理を実施する。
なお、画像復号装置がイントラ予測画像PINTRAi nと全く同じイントラ予測画像を生成する必要があるため、イントラ予測画像PINTRAi nの生成に用いられたイントラ予測パラメータは、符号化制御部1から可変長符号化部15に出力されて、ビットストリームに多重化される。
イントラ予測部5の処理内容の詳細は後述する。
即ち、イントラブロックコピー予測部6は、イントラ用メモリ12に格納されている局所復号画像の中で、予測ブロックPi nと最も近似している領域のブロック(参照ブロック)を特定して、その参照ブロックを指し示すブロックシフトベクトルを探索する。
イントラブロックコピー予測部6は、参照ブロックを指し示すブロックシフトベクトルを探索すると、そのブロックシフトベクトルが指し示す参照ブロックを予測ブロックPi nの予測画像として、イントラブロックコピー予測画像PICOPYi nを生成する(ステップST5)。
そこで、この実施の形態1では、予測ブロックPinと最も近似している参照ブロックが未符号化領域の一部を含んでしまう場合でも、その参照ブロックを指し示すブロックシフトベクトルを探索することができるようにするために、図34に示すように、事前に、予測ブロックが属している符号化対象の最大符号化ブロック(当該最大符号化ブロック)の中で、未符号化領域内の各画素の画素値を所定の方法で仮定する処理を実施する(所定の手法で定まる輝度値の画素を未符号化領域内に埋める処理を実施する)。
また、以下の手法は、各色信号(輝度信号(Y)、色差信号(U、V)あるいはその他の色信号(赤色(R)、緑色(G)、青色(B)の信号等))それぞれで実施して未符号化領域内の各画素を埋める画素値を決定する。
図35の例では、“0”の輝度値を有する画素と、“64”の輝度値を有する画素とが、当該最大符号化ブロックの左に隣接しており、“64”の輝度値を有する画素の数が、“0”の輝度値を有する画素の数より多いので、“64”の輝度値を有する画素を未符号化領域内に埋める。
一般的に、最も画素数の多い輝度値は背景色となる可能性が高いため、画素埋めを行った未符号化領域と、符号化済み領域の背景との間に、不自然な輝度変化が発生せず、予測効率の低下を抑えることができる。
あるいは、図38に示すブロックシフトベクトルが指す参照ブロック内の未符号化領域の形状によって、当該最大符号化ブロックの左に隣接している複数の画素を用いるか、上に隣接している複数の画素を用いるかを適応的に切り替えてもよい。
また、参照する隣接画素の一部の画素が存在しない場合、予め定めた手法によって参照する画素を生成する。例えば、予め定めた固定値で代替する方法や、存在する別の位置の隣接画素の画素値で代替する方法等がある。さらに、参照する隣接画素が一つも存在しない場合については、予め定めた固定値で未符号化領域の画素を埋めるようにする。なお、予め定める固定値としては、取り得る画素値の中間値等が挙げられる。
イントラブロックコピー予測処理は、一般的に、テキスト画像やCAD画像などのグラフィックス描画された文字や線分等に効果が高い予測処理であるが、例えば、テキスト画像は、一般的に白地の背景が多いため、例えば、白色の画素(輝度値が0〜255を取り得る場合、“255”の輝度値を有する画素)をテキスト画像の未符号化領域内に埋めると、イントラブロックコピー予測処理が効果的となり、多くの画像で性能改善効果を期待することができる。その他、取り得る画素値の中間値(輝度値が0〜255を取り得る場合、“128”の輝度値を有する画素)とする等、設定する輝度値は上記以外でも良い。
予め設定された輝度値(固定値)の画素を未符号化領域内に埋める手法は、コンテンツによっては予測精度が低下してしまう可能性があるが、処理負荷が非常に小さいメリットがある。
このとき、選択可能な輝度値の候補としては、存在している全ての輝度値でもよいし、選択可能な輝度値の代表値を決めて、その代表値だけを選択できるようにしてもよい。
代表値を定める場合には、可変長符号化部15が代表値自体を符号化するのではなく、その代表値を示すインデックスを符号化するようにすれば、符号化ビットストリームの符号量を抑制することができる。
具体的には、代表値が、例えば、0、64、128、192、256である場合、その順番にインデックスを0、1、2、3、4と定義し、選択した代表値を示すインデックスを可変長符号化する。
このような代表値を定める例として、白(最大値)、グレー(中間値)、黒(最小値)等の固定的な値を代表値として定めて、これらの代表値の中から任意の代表値を選択する方法や、図36に示すようなMove−To−Front法を用いて、適応的に代表値を変える方法がある。
本例の場合、初期テーブルとして、輝度値を例えば白(最大値)から黒(最小値)の順番に並べたのち、図36のように、例えば、“255”の輝度値が選択されれば、“255”の輝度値を示す“6”のインデックスを符号化する一方、“255”の輝度値がテーブルの一番上にくるように並び替える(“255”の輝度値を示すインデックスが“1”になるようにテーブルを並び替える)ものである。
各最大符号化ブロックにおいて、テーブル上位の1つ以上の輝度値(例えば、上位8つ)を代表値として、これらの代表値から任意の代表値を選択するようにする。
具体的には、図37に示すような画素を参照するフィルタ処理を実施する(実線の円は参照画素を示し、点線の円はフィルタ処理対象画素を示している)。
S(x,y)を座標(x,y)における符号化済み画素の輝度値(復号された輝度値)又はフィルタ生成画素値(未符号化領域の場合)とすると、フィルタ処理対象画素の座標を(x,y)とした場合、下記の式でフィルタ処理が実行される。
水平方向フィルタ:
垂直方向フィルタ:
ここで、cn(n=0、1、・・・、2Nh+1),c’m(m=0、1、・・・、2Nv+1)はフィルタ係数、Nh,Nvはフィルタの参照画素数を決める定数である。
即ち、水平方向フィルタはフィルタ処理対象画素の左に位置する隣接画素群によるフィルタ処理を示し、垂直方向フィルタはフィルタ処理対象画素の上に位置する隣接画素群によるフィルタ処理を示している。
水平方向フィルタ:
Nh=1、c0=1/4、c1=1/2、c2=1/4、c3=0
(c3はオフセット値、本例ではオフセットなしとしている)
垂直方向フィルタ:
Nv=1、c’0=1/4、c’1=1/2、c’2=1/4、c’3=0
(c’3はオフセット値、本例ではオフセットなしとしている)
したがって、上記の例(Nh=1、c0=1/4、c1=1/2、c2=1/4、c3=0の例)の場合、
c0=1/4、c1=3/4、c2=0、c3=0
となる。なお、このような参照不可能な画素が生じるフィルタ処理については、別途フィルタ係数やNh,Nvを定義するようにしてもよい。例えば、上記の水平方向フィルタの例では、Nh=1のままとして、
c0=1/2、c1=1/2、c2=0、c3=0
としてもよい。この場合、フィルタ演算が2画素の単純平均となり、処理が簡易になるメリットがある。
水平方向フィルタ:
Nh=0、c0=1、c1=0
(c1はオフセット値、本例ではオフセットなしとしている)
垂直方向フィルタ:
Nv=0、c’0=1、c’1=0
(c’1はオフセット値、本例ではオフセットなしとしている)
も挙げられる。
この例の場合、水平方向フィルタは対象画素の左の画素の画素値、垂直方向フィルタは対象画素の上の画素の画素値をコピーすることとなる。即ち、水平方向フィルタは水平方向に、垂直方向フィルタは垂直方向に当該最大符号化ブロックに隣接する画素の画素値が一様にコピーされることと等価であり、フィルタ処理に要する演算量を削減できると共に、当該最大符号化ブロック内の画素全てを同時に生成することができる(当該最大符号化ブロック内の画素全てを並列に処理して生成することができる)。
あるいは、図38に示すブロックシフトベクトルが指す参照ブロック内の未符号化領域の形状によって、水平方向フィルタと垂直方向フィルタのどちらを用いるかを適応的に切り替えてもよい。具体的には、垂直方向の未符号化部分が短くなるdh<dwのときは垂直方向フィルタを用い、その他(dh≧dw)のときは水平方向フィルタを用いるようにする。このようにすることで、常にフィルタ対象画素と符号化済み画素との距離(dh、dw)が短くなるフィルタを選択できるため、画像の空間的相関を精度良く利用することができる。
ここで、c”l(l=0、1、・・・、3)はフィルタ係数を示している。また、c”0+c”1+c”2=1となるとき、平滑化フィルタであることを示している。また、c”3はオフセット値を表している。上記フィルタの例としては下記が挙げられる。
c”0=1/4、c”1=3/8、c”2=3/8、c”3=0
(c”3はオフセット値、本例ではオフセットなしとしている)
本例ではフィルタ処理対象画素に近い画素程フィルタ係数が大きくなっており、これは一般にフィルタ処理対象画素に近い画素程、フィルタ処理対象画素との相関が高いためである。なお、フィルタ処理の手順としては、未符号化領域の左上の画素からフィルタ処理を実施し、隣接する未符号化領域の画素を順にフィルタ処理していくことで、常に参照画素S(x−1,y−1)、S(x,y−1)、S(x−1,y)が存在するようにフィルタ処理を行うことができる。
水平方向フィルタ:
Nh=1、c0=1/4、c1=1/2、c2=1/4、c3=0
垂直方向フィルタ:
Nv=1、c’0=1/4、c’1=1/2、c’2=1/4、c’3=0
図39のフィルタ:
c”0=1/4、c”1=3/8、c”2=3/8、c”3=0
これらのフィルタは、有意なフィルタ係数の分母が全て2のべき乗であるため、計算機による整数演算として実現する場合、下記の式に置き換えることができる。
水平方向フィルタ:
垂直方向フィルタ:
図39のフィルタ:
ここで、“>>”は右ビットシフト演算を示している。これらの計算式は全て整数精度のため、元の式と比べて小数精度の誤差は生じるものの、整数演算とビットシフトのみで実行できるため、高速な計算を実現することができる。
この場合も上記で説明したフィルタと同様に、フィルタ処理を各参照画素に対するフィルタ係数とオフセット値から定式化することができる。このようにフィルタの参照画素を増やすことで、演算量は増加するものの、未符号化領域画素の高精度な生成を実現することができる。
即ち、最大符号化ブロックの未符号化領域のうち、予測対象の符号化ブロック(当該符号化ブロック)内のみ、上記(1)〜(3)の手法で画素を埋めるようにする。具体的には、下記の通りとする。
(1)の手法の場合:
予測対象の符号化ブロック(当該符号化ブロック)の左に隣接している複数の画素の輝度値の中で画素数の最も多い輝度値で当該符号化ブロック内の未符号化領域を埋めるようにする。
(2)の手法の場合:
予測対象の符号化ブロック(当該符号化ブロック)に対して、当該符号化ブロック内の未符号化領域を埋める代表値を決定する。代表値(あるいは代表値を示すインデックス)は符号化ブロック単位に符号化する。
(3)の手法の場合:
予測対象の符号化ブロック(当該符号化ブロック)に対して、当該符号化ブロック内の未符号化領域をフィルタ処理によって埋めるようにする。
したがって、図43に示す例のように、各符号化ブロックのイントラブロックコピー予測処理において、ブロックシフトベクトルが指し示す参照ブロックが含んでよい未符号化領域は、当該符号化ブロック内のみとなる。したがって、最大符号化ブロック単位で未符号化領域の画素を埋める処理を行う場合と比較して参照可能な領域は狭くなる。しかし、最大符号化ブロックより小さい符号化ブロックの単位で適応的に画素を埋める処理が行えるため、埋める画素の予測精度が向上し、イントラブロックコピー予測の予測効率の改善を期待することができる。
あるいは、図38に示すブロックシフトベクトルが指す参照ブロック内の未符号化領域の形状によって、当該符号化ブロックの左に隣接している複数の画素を用いるか、上に隣接している複数の画素を用いるかを適応的に切り替えてもよい。具体的には、垂直方向の未符号化部分が短くなるdh<dwのときは当該符号化ブロックの上に隣接している複数の画素から未符号化領域を埋める画素値を求め、その他(dh≧dw)のときは当該符号化ブロックの左に隣接している複数の画素から未符号化領域を埋める画素値を求めるようにする。このようにすることで、常に当該符号化ブロックに隣接する符号化済み画素と当該符号化ブロックの右端又は下端の画素との距離(dh、dw)が短い方の符号化済み隣接画素を選択できるため、画像の空間的相関を精度良く利用することができる。
また、参照する隣接画素の一部の画素が存在しない場合、予め定めた手法によって参照する画素を生成する。例えば、予め定めた固定値で代替する方法や、存在する別の位置の隣接画素の画素値で代替する方法等がある。さらに、参照する隣接画素が一つも存在しない場合については、予め定めた固定値で未符号化領域の画素を埋めるようにする。なお、予め定める固定値としては、取り得る画素値の中間値等が挙げられる。
画素数を数える画素値を限定する手法の例を次に述べる。まず、画素値を量子化する例について説明する。本例では、画素値を予め定めた量子化器によって量子化し、その量子化後の代表値の数を数える。そして、最も多い画素数の代表値で未符号化領域の画素を埋めるようにする。ここで、取り得る画素値が0〜2bit_depth−1であり、取り得る画素値をNQ個の代表値に量子化するとする(bit_depthは0以上の整数、NQは1以上の整数)。この時の量子化処理の例として、整数精度の演算で行う例を下記に示している。
pow=bit_depth−base
(代表値)=(((画素値)+(1<<(pow−1)))>>pow)<<pow
画素数を数える画素値を限定する手法のその他の例として、画素数を数えている画素値の個数が所定の数に達したら、新しく出現する画素値を無効とする手法がある。
具体的には、所定の数Nc個のカウンタを用意し、隣接画素を順に数えていく中で新しい画素値が出現する度に未使用のカウンタを当該画素値のカウンタとして割り当てていくようにする。そして、所定の数Nc個のカウンタ全てを使用している状態に達した以降は、これまでに出現していない新しい画素値が出現した際にはその画素値を無効とする。このようにすることで、所定の数Nc個の画素値のみから未符号化領域を埋める画素値を決定することとなり、画素数を数える画素値を限定することができる。なお、本手法の場合、隣接画素を数える順番が結果に影響する。したがって、隣接画素を数える順番は予め決定しておくようにする。例えば、最大符号化ブロックの左及び上に隣接している画素を参照する場合、左下の画素から左上の画素、そして右上の画素に向かって参照していく、というように予め定める。
なお、画素数を数える画素値を限定する手法については、上記手法に限るものではなく、上記以外の手法でも良い。
そして、連続する画素数が最大となった画素値を未符号化領域の画素を埋める画素値に決定する。なお、未符号化領域内の画素を埋め込む単位は最大符号化ブロック、符号化ブロック、予測ブロックのいずれの単位であっても各々で設定された参照画素に対して本処理を実施するものとする。
本手法の場合、最大の連続画素数Lmaxと、それに対応する画素値Smax、現在連続している画素値Stmpと、その連続画素数Ltmpとを記憶し、所定の参照順に画素を参照していく際に、現在参照している画素の画素値ScurとStmpが同じ場合は連続画素数Ltmpを1増やし、異なる場合は、LtmpとLmaxを比較してLtmpが大きい場合にLmax=Ltmp、Smax=Stmpとした後で、Ltmpを初期化すると共にStmp=Scurとする。これを全ての参照画素に対して行った後のSmaxが連続する画素数が最大となる画素値となる。
ただし、図45は図44に記載のステップST105及びステップST106の「Lmax判定及びSmax更新」の処理手順例を示している。本例では、ステップST100でLmax及びSmaxを1(連続画素数1)に初期化すると共に、StmpとLtmpを最初に参照する隣接画素の画素値に設定する。そして、残りの参照する隣接画素に対して(ステップST101)、SmaxとLmaxを更新する処理を実施する(ステップST102〜ステップST106)。
まず、これから参照する画素の画素値をScurとし(ステップST102)、ScurとStmpが同じか比較する(ステップST103)。そして、ScurとStmpが同じ場合は連続画素数Ltmpの値を1増加し(ステップST104)、異なる場合は図45記載のLmax判定及びSmax更新処理を行う(ステップST105)。
ただし、ステップST106については、ステップST201の処理の内のLmax=Ltmpとする処理と、ステップST202の処理は不要のため、省略して良い。
なお、本手法の参照する隣接画素は(1)と同一とするため、(1)で説明した図38に示すブロックシフトベクトルが指す参照ブロック内の未符号化領域の形状によって、当該符号化ブロックの左に隣接している複数の画素を用いるか、上に隣接している複数の画素を用いるかを適応的に切り替えるようにしてもよい。切り替え手法も(1)と同一である。
イントラブロックコピー予測パラメータとしては、イントラブロックコピー予測部6により探索されたブロックシフトベクトルや、未符号化領域の画素値埋め処理で符号化すべきパラメータが存在する場合は対象のパラメータが挙げられる。また、ブロックシフトベクトルは直前の符号化済み予測ブロックのブロックシフトベクトル、あるいは当該予測ブロックの周囲の符号化済み予測ブロックのブロックシフトベクトルとの差分値をイントラブロックコピー予測パラメータの一部として符号化するようにしてもよい。
なお、画像復号装置がインター予測画像PINTERi nと全く同じインター予測画像を生成する必要があるため、インター予測画像PINTERi nの生成に用いられたインター予測パラメータは、符号化制御部1から可変長符号化部15に出力されて、ビットストリームに多重化される。
また、動き補償予測部7により探索された動きベクトルも可変長符号化部15に出力されて、ビットストリームに多重化される。
また、変換・量子化部9は、その予測差分符号化パラメータに含まれる量子化パラメータを参照して、その変換ブロック単位の変換係数を量子化し、量子化後の変換係数である圧縮データを逆量子化・逆変換部10及び可変長符号化部15に出力する(ステップST8)。このとき、上記量子化パラメータから算出される量子化ステップサイズを変換係数毎にスケーリングする量子化マトリクスを用いて量子化処理を実施するようにしてもよい。
したがって、変換・量子化部9は、各直交変換サイズに対して色信号や符号化モード毎に、新しい量子化マトリクスを用いるか否かを示すフラグ情報を符号化すべき量子化マトリクスパラメータに設定する。
さらに、新しい量子化マトリクスを用いる場合には、図10に示すような量子化マトリクスの各スケーリング値を符号化すべき量子化マトリクスパラメータに設定する。
一方、新しい量子化マトリクスを用いない場合には、初期値として、画像符号化装置及び画像復号装置で、予め共通に用意されている量子化マトリクス、又は、既に符号化された量子化マトリクスの中から、使用するマトリクスを特定するインデックスを符号化すべき量子化マトリクスパラメータに設定する。ただし、参照可能な既に符号化された量子化マトリクスが存在しない場合、画像符号化装置及び画像復号装置で、予め共通に用意されている量子化マトリクスのみ選択可能となる。
そして、変換・量子化部9は、設定した量子化マトリクスパラメータを可変長符号化部15に出力する。
変換・量子化部9が量子化処理に量子化マトリクスを用いている場合には、逆量子化処理時においても、その量子化マトリクスを参照して、対応した逆量子化処理を実施する。
また、逆量子化・逆変換部10は、変換ブロック単位に逆量子化後の圧縮データである変換係数に対する逆直交変換処理(例えば、逆DCT、逆DST、逆KL変換など)を実施して、減算部8から出力された予測差分信号ei nに相当する局所復号予測差分信号を算出して加算部11に出力する(ステップST9)。
なお、加算部11は、その局所復号画像をループフィルタ部13に出力するとともに、その局所復号画像をイントラ用メモリ12に格納する。
この局所復号画像が、以降のイントラ予測処理及びイントラブロックコピー予測処理の際に用いられる符号化済みの画像信号になる。
具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ(デブロッキングフィルタ)処理、画素単位に適応的にオフセットを加算する(画素適応オフセット)処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
一般に使用するフィルタ処理の種類が多いほど、画像品質は向上するが、一方で処理負荷は高くなる。即ち、画像品質と処理負荷はトレードオフの関係にある。また、各フィルタ処理の画像品質改善効果はフィルタ処理対象画像の特性によって異なる。したがって、画像符号化装置が許容する処理負荷や符号化処理対象画像の特性にしたがって使用するフィルタ処理を決めればよい。
次に、選択したクラス分類手法によってブロック内の各画素をクラス分類し、クラス毎に符号化歪みを補償するオフセット値を算出する。
最後に、局所復号画像の輝度値に対して、そのオフセット値を加算する処理を行うことで局所復号画像の画像品質を改善する。
これらの手法は、予め画像符号化装置及び画像復号装置で共通に用意されており、例えば図14に示すように、オフセット処理を行わない場合もクラス分類手法の一つとして定義して、これらの手法のうち、どの手法でクラス分類を行うかを示すインデックスを上記ブロック単位に選択する。
なお、画素適応オフセット処理において、例えば最大符号化ブロックといった固定サイズのブロック単位に常に分割して、そのブロック毎にクラス分類手法を選択して、クラス毎の適応オフセット処理を行ってもよい。この場合、上記ブロック分割情報が不要となり、ブロック分割情報に要する符号量分だけ符号量が削減され、符号化効率を高めることができる。
そして、クラス毎に設計したフィルタをヘッダ情報として可変長符号化部15に出力する。
ここで、クラス分類手法としては、画像を空間的に等間隔に区切る簡易な手法や、ブロック単位に画像の局所的な特性(分散など)に応じて分類する手法がある。また、適応フィルタ処理で使用するクラス数は、予め画像符号化装置及び画像復号装置で共通の値に設定してもよいし、符号化すべきパラメータの一つとしてもよい。
前者と比較して後者の方が、使用するクラス数を自由に設定することができるため、画像品質改善効果が上がるが、一方でクラス数を符号化するために、その分の符号量が増加する。
図15は16×16画素の変換ブロックにおける係数の符号化順(スキャン順)を示している。
このように、4×4画素単位の16個のCGを右下のCGから順に符号化処理し、さらに、各CGはCG内の16個の係数を右下の係数から順に符号化する。
その際、有意(非零)係数がなるべく連続で発生するように偏るスキャン順とした方がエントロピー符号化による符号化効率を高めることができる。
直交変換後の係数は、左上に位置する直流成分をはじめとして、左上に近い程、低い周波数成分の低い係数を表すことから、図16に示す例のように、一般的に左上に近いほど有意(非零)係数が多く発生するために、図15に示すように、右下から順に符号化することで効率的に符号化することができる。
なお、上記では16×16画素の変換ブロックについて説明したが、8×8画素や32×32画素の変換ブロック等、16×16画素以外のブロックサイズにおいてもCG(符号化サブブロック)単位の符号化処理を実施するものとする。
また、イントラ予測が選択されている4×4画素と8×8画素の変換ブロックについては、イントラ予測モードのインデックスに応じて、図15のスキャン順ではなく図19に示すスキャン順で処理を行う。これはイントラ予測の方向によって残差信号の周波数成分の分布が異なる傾向があるためである。
ただし、ピクチャデータは1以上のスライスデータから構成され、各スライスデータはスライスレベルヘッダと当該スライス内にある上記符号化データをまとめたものである。ピクチャデータはスライスデータの他に補足情報を示すヘッダ情報を含む場合もある。
ピクチャレベルヘッダは、参照するシーケンスレベルヘッダのインデックスや動き補償時の参照ピクチャ数、エントロピー符号化の確率テーブル初期化フラグ等のピクチャ単位で設定するヘッダ情報をまとめたものである。
スライスレベルヘッダは、当該スライスがピクチャのどの位置にあるかを示す位置情報、どのピクチャレベルヘッダを参照するかを示すインデックス、スライスの符号化タイプ(オールイントラ符号化、インター符号化など)、ループフィルタ部13における各フィルタ処理(適応フィルタ処理、画素適応オフセット処理、デブロッキングフィルタ処理)を行うか否かを示すフラグ情報などといったスライス単位のパラメータをまとめたものである。
具体的には、シーケンスパラメータセット(上記シーケンスレベルヘッダに相当)、ピクチャパラメータヘッダ(上記ピクチャレベルヘッダに相当)、スライスデータはそれぞれ固有のNALユニットタイプとして定義され、NALユニットタイプの識別情報(インデックス)と共に符号化される。
補足情報についても存在する場合には、固有のNALユニットとして定義される。また、上記ピクチャデータはアクセスユニットとして定義され、一つのピクチャの符号化データを含むデータアクセスの単位を示している。
イントラ予測部5は、上述したように、予測ブロックPi nのイントラ予測パラメータを参照して、その予測ブロックPi nに対するイントラ予測処理を実施して、イントラ予測画像PINTRAi nを生成するが、ここでは、輝度信号における予測ブロックPi nのイントラ予測画像を生成するイントラ処理について説明する。
なお、イントラ予測モード数は、処理対象となるブロックのサイズに応じて異なるように構成してもよい。
大きいサイズのブロックでは、イントラ予測の効率が低下するため、選択できるイントラ予測方向数を少なくし、小さいサイズのブロックでは、選択できるイントラ予測方向数を多くするように構成することで演算量を抑制することができる。
ここで、イントラ予測画像を生成する変換ブロックを予測画像生成ブロックと呼ぶこととする。したがって、イントラ予測部5は、予測画像生成ブロック単位に下記に述べるイントラ予測画像生成処理を実施して、予測ブロックPi nのイントラ予測画像を生成する。
予測画像生成ブロックのサイズをli n×mi n画素とする。
図8はli n=mi n=4の場合の予測画像生成ブロック内の画素の予測値を生成する際に用いる画素の一例を示す説明図である。
図8では、予測画像生成ブロックの上の符号化済みの画素(2×li n+1)個と、左の符号化済みの画素(2×mi n)個を予測に用いる画素としているが、予測に用いる画素は、図8に示す画素より多くても少なくてもよい。
また、図8では、予測画像生成ブロックの近傍の1行又は1列分の画素を予測に用いているが、2行又は2列、あるいは、それ以上の画素を予測に用いてもよい。
さらに、予測画像生成ブロックの上端及び左端に位置する図17の領域A,B,Cに対して、ブロック境界を平滑化するフィルタ処理を行って最終的な予測画像とする。例えば、下記の式(1)にしたがって、図18のフィルタの参照画素配置で、下記のフィルタ係数を用いてフィルタ処理を実施する。
・領域A(Pi nの左上の画素)
a0=1/2,a1=1/4,a2=1/4
・領域B(領域A以外のPi nの上端の画素)
a0=3/4,a2=1/4,(a1=0)
・領域C(領域A以外のPi nの左端の画素)
a0=3/4,a1=1/4,(a2=0)
一般にブロック端のみフィルタ処理を行って予測値を変化させる場合、大きなブロックサイズのブロックでは、フィルタ処理により予測値が変化する領域の占める割合が小さいために、この予測値の変化によって生じた予測残差信号の変化を非常に高い周波数成分で表されることになり、この高周波数成分を符号化するために符号化効率の悪化を生じさせてしまう傾向がある。また、符号化効率を優先して、この高周波数成分を符号化しないようにすることで、ブロック端の予測残差信号の変化を復元できずに、ブロック境界に歪みが生じてしまう傾向がある。
したがって、例えば、32×32画素以上のブロックサイズの予測画像生成ブロックでは、上記フィルタ処理を適用せずに、32×32画素より小さいブロックのみに上記フィルタ処理を適用することで、従来の平均値予測よりも予測性能を向上させながら、演算量の増加を抑えることができる。
ただし、座標(x,y)は予測画像生成ブロック内の左上画素を原点とする相対座標(図9を参照)であり、S’(x,y)は座標(x,y)における予測値、S(x,y)は座標(x,y)における符号化済み画素の輝度値(復号された輝度値)である。また、算出した予測値が輝度値の取り得る値の範囲を超えている場合、予測値がその範囲内に収まるように値を丸めるようにする。
ただし、座標(x,y)は予測画像生成ブロック内の左上画素を原点とする相対座標(図9を参照)であり、S’(x,y)は座標(x,y)における予測値、S(x,y)は座標(x,y)における符号化済み画素の輝度値(復号された輝度値)である。また、算出した予測値が輝度値の取り得る値の範囲を超えている場合、予測値がその範囲内に収まるように値を丸めるようにする。
一般にブロック端のみ予測方向の輝度値の変化量に比例する値を加算するフィルタ処理を行うことで予測値を変化させる場合、大きなブロックサイズのブロックでは、上述した予測画像生成ブロックのブロック端のフィルタ処理により予測値が変化する領域の占める割合が小さいために、この予測値の変化によって生じた予測残差信号の変化を非常に高い周波数成分で表されることになり、この高周波数成分を符号化するために符号化効率の悪化を生じさせてしまう傾向がある。また、符号化効率を優先して、この高周波数成分を符号化しないようにすることで、ブロック端の予測残差信号の変化を復元できずにブロック境界に歪みが生じてしまう傾向がある。
したがって、例えば、32×32画素以上のブロックサイズの予測画像生成ブロックでは、予測対象画素の座標によらず、式(2)及び式(3)の2行目の式を常に用いるようにし(予測画像生成ブロックのブロック端のフィルタ処理を行わないことにする)、32×32画素より小さいブロックのみに、上記フィルタ処理を行う式(2)及び式(3)を適用することで、従来の垂直方向予測、水平方向予測よりも予測性能を向上させながら、演算量の増加を抑えることができる。
図9に示すように、予測画像生成ブロックの左上画素を原点として、予測画像生成ブロック内の相対座標を(x,y)と設定すると、予測に用いる参照画素の位置は、下記のLと隣接画素の交点になる。
ただし、kは負の実数である。
図8の例では、参照画素は整数画素位置にないので、参照画素に隣接する2画素から内挿したものを予測値とする。なお、隣接する2画素のみではなく、隣接する2画素以上の画素から補間画素を生成して予測値としてもよい。
補間処理に用いる画素を多くすることで補間画素の補間精度を向上させる効果がある一方、補間処理に要する演算の複雑度が増加することから、演算負荷が大きくても高い符号化性能を要求する画像符号化装置の場合には、より多くの画素から補間画素を生成するようにした方がよい。
なお、イントラ予測画像PINTRAi nの生成に用いられたイントラ予測パラメータ(イントラ予測モード)は、ビットストリームに多重化するために可変長符号化部15に出力される。
あるいは、上記参照画素へのフィルタ処理は予測画像へのフィルタ処理を行う平均値予測、垂直方向予測、水平方向予測以外の予測の際のみ実施するようにしてもよい。このようにすることで、各予測モードに対して最大で1つのフィルタ処理しか行わずに済み、演算量の増加を抑えることができる。
予測ブロックPi nの色差信号に対して、色差信号のイントラ予測パラメータ(イントラ予測モード)に基づくイントラ予測処理を実施し、イントラ予測画像の生成に用いられたイントラ予測パラメータを可変長符号化部15に出力する。
色差信号のイントラ予測パラメータが、輝度信号に対するイントラ予測モードと同じ予測モードを用いる旨を示している場合(イントラ予測パラメータが輝度色差共通イントラ予測モード(DMモード)を示している場合)、輝度信号と同じフレーム内予測を実施して、色差信号の予測画像を生成する。
また、色差信号のイントラ予測パラメータが、輝度相関利用色差信号予測モード(LMモード)を示している場合、予測画像の生成対象ブロックの上及び左に隣接している複数の画素の輝度信号及び色差信号を用いて、輝度信号と色差信号の相関を示す相関パラメータを算出し、その相関パラメータと予測処理対象の色差信号のブロックに対応する輝度信号を用いて、色差信号の予測画像を生成する。
具体的には、図29に示すように、輝度信号の予測方向ベクトルをvL=(dxL,dyL)とした場合、色差信号の予測方向ベクトルは、vC=(dxL/2,dyL)となる。即ち、図30に示すように、予測方向の角度をθとした場合、輝度信号の予測方向の角度をθL、色差信号の予測方向の角度をθCとして、tanθC=2tanθLの関係となる予測方向で予測する必要がある。
図31は図7のイントラ予測モードにおけるイントラ予測モードインデックスの変換例を示している。
図31の変換テーブルは、予測方向の角度がθであるとき(図30を参照)、イントラ予測モードの方向性予測が図32に示すtanθとなる角度である場合、tanθC=2tanθLの関係に最も近い角度θCに変換するテーブルの例である。
変換処理の実現は、上記のように、インデックスの変換テーブルを用意し、その変換テーブルを参照することでインデックスを変換するように構成してもよいし、変換式を用意し、その変換式に従ってインデックスを変換するように構成してもよい。
このように構成することで、方向性予測処理自体を変更することなく、インデックスの変換のみでYUV4:2:2信号のフォーマットに応じた色差信号の適切な予測を実施することができる。
このようにLMモードも用いないようにすることで、予測対象画素の輝度信号と色差信号の依存性がなくなるため、輝度信号と色差信号の予測処理の並列化が可能となり、高速な演算処理を実現することができる。
可変長復号部31は、図1の画像符号化装置により生成された符号化ビットストリームを入力すると、そのビットストリームに対する可変長復号処理を実施して(図4のステップST21)、1フレーム以上のピクチャから構成されるシーケンス単位のヘッダ情報(シーケンスレベルヘッダ)及びピクチャ単位のヘッダ情報(ピクチャレベルヘッダ)などの各ヘッダ情報とピクチャデータを復号する。ただし、ピクチャデータは1以上のスライスデータから構成され、各スライスデータはスライスレベルヘッダと当該スライス内にある符号化データがまとめられているものである。ピクチャデータはスライスデータの他に補足情報を示すヘッダ情報を含む場合もある。
具体的には、各直交変換サイズの色信号や符号化モード毎に、量子化マトリクスパラメータが初期値として、画像符号化装置及び画像復号装置で、予め共通に用意されている量子化マトリクス、又は、既に復号された量子化マトリクスである(新しい量子化マトリクスでない)ことを示す場合は、量子化マトリクスパラメータに含まれる上記マトリクスの内のどの量子化マトリクスであるかを特定するインデックス情報を参照して量子化マトリクスを特定し、量子化マトリクスパラメータが新しい量子化マトリクスを用いることを示す場合は、量子化マトリクスパラメータに含まれる量子化マトリクスを使用する量子化マトリクスとして特定する。
そして、ピクチャ単位のデータを構成するスライスデータから、スライス分割情報等のスライス単位のヘッダ情報(スライスレベルヘッダ)を復号し、各スライスの符号化データを復号する。
ただし、分割階層数の上限の代わりに、符号化ブロックの最小ブロックサイズが符号化されている場合、これを復号することで分割階層数の上限を決定する。即ち、最大符号化ブロックを上記最小ブロックサイズまで分割した場合が分割階層数の上限となる。
可変長復号部31は、決定された最大符号化ブロック単位に、図6で示されるような最大符号化ブロックの分割状態を復号する。復号された分割状態に基づき、階層的に符号化ブロックを特定する(ステップST23)。
その際、図1の画像符号化装置の可変長符号化部15での圧縮データの符号化処理と同様に、CG単位の係数の復号処理を実施する。
したがって、図15に示すように、4×4画素単位の16個のCGを右下のCGから順に復号処理し、さらに、各CGはCG内の16個の係数を右下の係数から順に復号していくことになる。
ただし、スキャン順については、イントラ予測が選択されている4×4画素と8×8画素の変換ブロックの場合、イントラ予測モードのインデックスに応じて、図15のスキャン順ではなく図19に示すスキャン順で処理を行う。
一方、色差信号については、色差信号のイントラ予測パラメータに基づくイントラ予測処理を実施して、色差信号の予測画像を生成する。
色差信号のイントラ予測パラメータが、輝度信号に対するイントラ予測モードと同じ予測モードを用いる旨を示している場合(イントラ予測パラメータが輝度色差共通イントラ予測モード(DMモード)を示している場合)、輝度信号と同じフレーム内予測を実施して、色差信号の予測画像を生成する。
また、色差信号のイントラ予測パラメータが、輝度相関利用色差信号予測モード(LMモード)を示している場合、予測画像の生成対象ブロックの上及び左に隣接している複数の画素の輝度信号及び色差信号を用いて、輝度信号と色差信号の相関を示す相関パラメータを算出し、その相関パラメータと予測処理対象の色差信号のブロックに対応する輝度信号を用いて、色差信号の予測画像を生成する。
具体的には、図29に示すように、輝度信号の予測方向ベクトルをvL=(dxL,dyL)とした場合、色差信号の予測方向ベクトルは、vC=(dxL/2,dyL)となる。即ち、図30に示すように、予測方向の角度をθとした場合、輝度信号の予測方向の角度をθL、色差信号の予測方向の角度をθCとして、tanθC=2tanθLの関係となる予測方向で予測する必要がある。
図31は図7のイントラ予測モードにおけるイントラ予測モードインデックスの変換例を示している。
図31の変換テーブルは、予測方向の角度がθであるとき(図30を参照)、イントラ予測モードの方向性予測が図32に示すtanθとなる角度である場合、tanθC=2tanθLの関係に最も近い角度θCに変換するテーブルの例である。
変換処理の実現は、上記のように、インデックスの変換テーブルを用意し、その変換テーブルを参照することでインデックスを変換するように構成してもよいし、変換式を用意し、その変換式に従ってインデックスを変換するように構成してもよい。
このように構成することで、方向性予測処理自体を変更することなく、インデックスの変換のみでYUV4:2:2信号のフォーマットに応じた色差信号の適切な予測を実施することができる。
このときの色差信号のイントラ予測パラメータ(インデックス値)と色差イントラ予測モードの対応例として、図24が挙げられる。
このようにLMモードも用いないようにすることで、予測対象画素の輝度信号と色差信号の依存性がなくなるため、輝度信号と色差信号の予測処理の並列化が可能になり、高速な演算処理を実現することができる。
このようにフィルタ処理を行わないことで、予測処理の低演算化を図ることができる。
このとき、ブロックシフトベクトルが指すブロックが復号済み領域を超えるような参照を可能とするように、復号対象の最大符号化ブロック内の復号前の領域(未復号領域)の画素を図1の画像符号化装置におけるイントラブロックコピー予測部6と同一の手法で定まる輝度値で埋める処理を行う。このとき、未復号領域を上記輝度値で埋める処理に必要なパラメータがイントラブロックコピー予測パラメータの一部としてビットストリームに含まれる場合は、可変長復号部31により可変長復号された上記パラメータを用いて未復号領域を上記輝度値で埋める処理を行う。
このとき、可変長復号部31により可変長復号された各ヘッダ情報を参照し、各ヘッダ情報が、当該スライスで量子化マトリクスを用いて、逆量子化処理を実施することを示している場合は、量子化マトリクスを用いて逆量子化処理を行う。
また、逆量子化・逆変換部32は、変換ブロック単位に逆量子化後の圧縮データである変換係数に対する逆直交変換処理を実施して、図1の逆量子化・逆変換部10から出力された局所復号予測差分信号と同一の復号予測差分信号を算出する(ステップST29)。
この復号画像が、以降のイントラ予測処理及びイントラブロックコピー予測処理の際に用いられる復号済みの画像信号になる。
具体的には、変換ブロックの境界や予測ブロックの境界に発生する歪みを低減するフィルタ(デブロッキングフィルタ)処理、画素単位に適応的にオフセットを加算する(画素適応オフセット)処理、ウィーナフィルタ等の線形フィルタを適応的に切り替えてフィルタ処理する適応フィルタ処理などを行う。
ただし、ループフィルタ部39は、上記のデブロッキングフィルタ処理、画素適応オフセット処理、適応フィルタ処理のそれぞれについて、可変長復号部31により可変長復号された各ヘッダ情報を参照して、当該スライスで処理を行うか否かを特定する。
このとき、2つ以上のフィルタ処理を行う場合に、例えば、画像符号化装置のループフィルタ部13が図11のように構成されている場合には、図12に示すようにループフィルタ部39が構成される。
なお、クラス分類手法の候補として、ループフィルタ部13の画素適応オフセット処理のクラス分類手法の候補と同一のものが予め用意されている。
このループフィルタ部39によるフィルタ処理後の復号画像が、動き補償予測用の参照画像となり、また、再生画像となる。
また、イントラブロックコピー予測部6が、予測ブロックPi nが属している最大符号化ブロックの中で、未符号化領域内の各画素の画素値を所定の方法で仮定してから(所定の手法で定まる輝度値の画素を未符号化領域内に埋めてから)、予測ブロックPi nと最も近似している参照ブロックを探索するように構成したので、予測ブロックPi nと最も近似している参照ブロックが未符号化領域の一部を含んでしまう場合でも、その参照ブロックを指し示すブロックシフトベクトルを探索することができるようになり、その結果、予測ブロックPi nと最も近似している参照ブロックを見つけられる確率を高めることができる効果を奏する。
Claims (14)
- 予測処理単位のブロックである予測ブロック毎に、ピクチャ内で既に符号化が行われて局所復号が済んでいる領域の中から参照ブロックを選択して、前記参照ブロックを当該予測ブロックの予測画像に決定するイントラブロックコピー予測手段を備え、
前記イントラブロックコピー予測手段は、前記参照ブロック内の未だ局所復号が済んでいない領域内の各画素の画素値として、符号化ブロックに隣接している複数の画素の画素値の中で最も多い画素値を仮定することを特徴とする画像符号化装置。 - 予測処理単位のブロックである予測ブロック毎に、ピクチャ内で既に符号化が行われて局所復号が済んでいる領域の中から参照ブロックを選択して、前記参照ブロックを当該予測ブロックの予測画像に決定するイントラブロックコピー予測手段を備え、
前記イントラブロックコピー予測手段により前記参照ブロック内の未だ局所復号が済んでいない領域内の各画素の画素値として複数の画素値の中から仮定された画素値に定義づけられたインデックスを符号化し、前記インデックスの符号化データを含む符号化ビットストリームを生成する可変長符号化手段を備えたことを特徴とする画像符号化装置。 - 予測処理単位のブロックである予測ブロック毎に、ピクチャ内で既に復号が済んでいる領域の中から参照ブロックを選択して、前記参照ブロックを当該予測ブロックの予測画像に決定するイントラブロックコピー予測手段を備え、
前記イントラブロックコピー予測手段は、前記参照ブロック内の未だ復号が済んでいない領域内の各画素の画素値として、符号化ブロックに隣接している複数の画素の画素値の中で最も多い画素値を仮定することを特徴とする画像復号装置。 - 予測処理単位のブロックである予測ブロック毎に、ピクチャ内で既に復号が済んでいる領域の中から参照ブロックを選択して、前記参照ブロックを当該予測ブロックの予測画像に決定するイントラブロックコピー予測手段を備え、
符号化ビットストリームに含まれているインデックスを復号する可変長復号手段を備え、
前記イントラブロックコピー予測手段は、前記参照ブロック内の未だ復号が済んでいない領域内の各画素の画素値として、複数の画素値の中から、前記可変長復号手段により復号されたインデックスに定義づけられた画素値を仮定することを特徴とする画像復号装置。 - イントラブロックコピー予測手段が、予測処理単位のブロックである予測ブロック毎に、ピクチャ内で既に符号化が行われて局所復号が済んでいる領域の中から参照ブロックを選択して、前記参照ブロックを当該予測ブロックの予測画像に決定するイントラブロックコピー予測処理ステップを備え、
前記イントラブロックコピー予測処理ステップでは、前記参照ブロック内の未だ局所復号が済んでいない領域内の各画素の画素値として、符号化ブロックに隣接している複数の画素の画素値の中で最も多い画素値を仮定することを特徴とする画像符号化方法。 - イントラブロックコピー予測手段が、予測処理単位のブロックである予測ブロック毎に、ピクチャ内で既に復号が済んでいる領域の中から参照ブロックを選択して、前記参照ブロックを当該予測ブロックの予測画像に決定するイントラブロックコピー予測処理ステップを備え、
前記イントラブロックコピー予測処理ステップでは、前記参照ブロック内の未だ復号が済んでいない領域内の各画素の画素値として、符号化ブロックに隣接している複数の画素の画素値の中で最も多い画素値を仮定することを特徴とする画像復号方法。 - 予測処理単位のブロックである予測ブロック毎に、ピクチャ内で既に符号化が行われて局所復号が済んでいる領域の中から参照ブロックを選択して、前記参照ブロックを当該予測ブロックの予測画像に決定するイントラブロックコピー予測手段を備え、
前記イントラブロックコピー予測手段は、前記参照ブロック内の未だ局所復号が済んでいない領域内の各画素の画素値として、符号化ブロックに隣接している複数の画素の画素値の中で連続する数が最も多い画素値を仮定することを特徴とする画像符号化装置。 - 予測処理単位のブロックである予測ブロック毎に、ピクチャ内で既に復号が済んでいる領域の中から参照ブロックを選択して、前記参照ブロックを当該予測ブロックの予測画像に決定するイントラブロックコピー予測手段を備え、
前記イントラブロックコピー予測手段は、前記参照ブロック内の未だ復号が済んでいない領域内の各画素の画素値として、符号化ブロックに隣接している複数の画素の画素値の中で連続する数が最も多い画素値を仮定することを特徴とする画像復号装置。 - 前記イントラブロックコピー予測手段は、前記符号化ブロックに隣接している複数の画素として、前記符号化ブロックの左に隣接している複数の画素を用いることを特徴とする請求項1または請求項7記載の画像符号化装置。
- 前記イントラブロックコピー予測手段は、前記符号化ブロックに隣接している複数の画素として、前記符号化ブロックの上に隣接している複数の画素を用いることを特徴とする請求項1または請求項7記載の画像符号化装置。
- 前記イントラブロックコピー予測手段は、前記符号化ブロックに隣接している複数の画素として、未符号化領域の垂直方向の画素数と水平方向の画素数の大小関係によって、前記符号化ブロックの左に隣接している複数の画素を用いるか、前記符号化ブロックの上に隣接している複数の画素を用いるかを決定することを特徴とする請求項1または請求項7記載の画像符号化装置。
- 前記イントラブロックコピー予測手段は、前記符号化ブロックに隣接している複数の画素として、前記符号化ブロックの左に隣接している複数の画素を用いることを特徴とする請求項3または請求項8記載の画像復号装置。
- 前記イントラブロックコピー予測手段は、前記符号化ブロックに隣接している複数の画素として、前記符号化ブロックの上に隣接している複数の画素を用いることを特徴とする請求項3または請求項8記載の画像復号装置。
- 前記イントラブロックコピー予測手段は、前記符号化ブロックに隣接している複数の画素として、未符号化領域の垂直方向の画素数と水平方向の画素数の大小関係によって、前記符号化ブロックの左に隣接している複数の画素を用いるか、前記符号化ブロックの上に隣接している複数の画素を用いるかを決定することを特徴とする請求項3または請求項8記載の画像復号装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014002035A JP6373008B2 (ja) | 2013-12-27 | 2014-01-08 | 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013271799 | 2013-12-27 | ||
JP2013271799 | 2013-12-27 | ||
JP2014002035A JP6373008B2 (ja) | 2013-12-27 | 2014-01-08 | 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015144324A JP2015144324A (ja) | 2015-08-06 |
JP6373008B2 true JP6373008B2 (ja) | 2018-08-15 |
Family
ID=53889127
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014002035A Active JP6373008B2 (ja) | 2013-12-27 | 2014-01-08 | 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6373008B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AU2014202921B2 (en) * | 2014-05-29 | 2017-02-02 | Canon Kabushiki Kaisha | Method, apparatus and system for de-blocking a block of video samples |
FI20165256A (fi) * | 2016-03-24 | 2017-09-25 | Nokia Technologies Oy | Laitteisto, menetelmä ja tietokoneohjelma videokoodaukseen ja -dekoodaukseen |
WO2020238837A1 (en) * | 2019-05-25 | 2020-12-03 | Beijing Bytedance Network Technology Co., Ltd. | Coding of block vectors for intra block copy-coded blocks |
JP7354610B2 (ja) * | 2019-06-25 | 2023-10-03 | 株式会社Jvcケンウッド | 画像符号化装置、画像符号化方法及び画像符号化プログラム |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5721174A (en) * | 1980-07-14 | 1982-02-03 | Mitsubishi Electric Corp | Data converter and its inverter |
JP2954438B2 (ja) * | 1992-11-19 | 1999-09-27 | 三菱電機株式会社 | 符号化装置 |
US6594385B2 (en) * | 1998-10-27 | 2003-07-15 | Hewlett-Packard Development Company, L.P. | Image compression of background and text tiles |
US7120196B2 (en) * | 2002-04-29 | 2006-10-10 | Ess Technology, Inc. | Intra-prediction using intra-macroblock motion compensation |
CN102282851B (zh) * | 2009-01-15 | 2015-04-29 | 瑞萨电子株式会社 | 图像处理装置、解码方法、帧内解码装置、帧内解码方法以及帧内编码装置 |
-
2014
- 2014-01-08 JP JP2014002035A patent/JP6373008B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015144324A (ja) | 2015-08-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6573689B2 (ja) | 画像符号化装置および画像符号化方法 | |
JP6835448B2 (ja) | 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法及び符号化ビットストリームを記録した記録媒体 | |
JP6005087B2 (ja) | 画像復号装置、画像復号方法、画像符号化装置、画像符号化方法及び符号化データのデータ構造 | |
JP6147368B2 (ja) | 画像符号化装置、画像復号装置、符号化ストリーム変換装置、画像符号化方法、及び画像復号方法 | |
JP5551837B2 (ja) | 画像復号装置、画像符号化装置、画像復号方法及び画像符号化方法 | |
WO2014163200A1 (ja) | カラー画像符号化装置、カラー画像復号装置、カラー画像符号化方法及びカラー画像復号方法 | |
JP2019154074A (ja) | 画像符号化装置、動画像復号装置、動画像符号化データ及び記録媒体 | |
WO2014049981A1 (ja) | 動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法 | |
JP6373008B2 (ja) | 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法 | |
JP6362370B2 (ja) | 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法 | |
JP2014204311A (ja) | カラー画像符号化装置、カラー画像復号装置、カラー画像符号化方法及びカラー画像復号方法 | |
JP2014090327A (ja) | 動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法 | |
JP2014090326A (ja) | 動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法 | |
WO2014049982A1 (ja) | 動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法 | |
JP6555856B2 (ja) | 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法 | |
WO2013108882A1 (ja) | 動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法 | |
JP2013098713A (ja) | 動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法 | |
JP2018166329A (ja) | 画像符号化装置および画像復号装置 | |
JP2015177295A (ja) | 端末装置及びデータ管理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20161018 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170822 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170829 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171027 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20171219 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180215 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180403 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180601 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180619 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180717 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6373008 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |