JP2017073602A - 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム - Google Patents

Abstract

【課題】符号化前の画素の値を参照してイントラ予測符号化モードの適用を決定した場合の符号化効率の低下を抑制可能な動画像符号化装置を提供する。【解決手段】動画像符号化装置１は、予測ブロックの生成単位となる複数の第１のブロックのうち、符号化対象ピクチャの未符号化の画素を参照して設定された、イントラ予測符号化モードが適用される第１のブロックについての予測モードを決定する際に参照される被参照画素を特定する被参照画素判定部１７と、直交変換の単位となる複数の第２のブロックのうち、被参照画素を含む第２のブロックについて、被参照画素の符号化誤差が、イントラ予測符号化モードが適用される第１のブロックについての予測ブロックの生成の際にその被参照画素が参照されない場合の符号化誤差より低減するように、各第２のブロックについて、対応する予測ブロックとの誤差を符号化する予測符号化部１０とを有する。【選択図】図２

Description

本発明は、例えば、動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラムに関する。

動画像データは、一般に非常に大きなデータ量を有する。そのため、動画像データを扱う装置は、動画像データを他の装置へ送信しようとする場合、あるいは、動画像データを記憶装置に記憶しようとする場合、動画像データを符号化することにより圧縮する。代表的な動画像の符号化方式として、Moving Picture Experts Group phase 2（MPEG-2）、MPEG-4、あるいはH.264 MPEG-4 Advanced Video Coding（H.264 MPEG-4 AVC）が広く利用されている。特に、ISO/IECとITU-Tが共同で標準化した、High Efficiency Video Coding(HEVC)(例えば、非特許文献１を参照)は、H.264/MPEG-4 AVCの２倍近い圧縮効率を達成する。

HEVCでは、動画像データに含まれる各ピクチャは複数の段階で分割される。図１は、HEVCによる、ピクチャの分割の一例を示す図である。

図１に示されるように、ピクチャ１００は、符号化処理の単位であるCoding Tree Unit(CTU)単位で分割され、各CTU１０１は、ラスタスキャン順に符号化される。CTU１０１のサイズは、64x64〜16x16画素の中から選択できる。

CTU１０１は、さらに、四分木構造で複数のCoding Unit（CU）１０２に分割される。一つのCTU１０１内の各CU１０２は、Zスキャン順に符号化される。CU１０２のサイズは可変であり、そのサイズは、CU分割モード8x8〜64x64画素の中から選択される。CU１０２は、符号化モードであるイントラ予測符号化モードとインター予測符号化モードを選択する単位となる。なお、イントラ予測符号化モードは、符号化対象ピクチャの情報を参照して、符号化対象ピクチャの符号化対象ブロックを予測符号化する符号化モードである。一方、インター予測符号化モードは、符号化対象ピクチャの符号化対象ブロックを、符号化済みの他のピクチャの情報を参照して予測符号化する符号化モードである。

CU１０２は、Prediction Unit（PU）１０３単位またはTransform Unit（TU）１０４単位で個別に処理される。PU１０３は、符号化モードに応じた予測が行われる、予測ブロックの生成単位となる。例えば、PU１０３は、イントラ予測符号化モードでは、予測ブロックの生成の際に参照される画素及び予測ブロックの生成方法を規定する予測モードが適用される単位となる。一方、インター予測符号化モードでは、PU１０３は、動き補償を行う単位となる。PU１０３のサイズは、例えば、イントラ予測符号化モードが適用される場合、2Nx2NとNxN（Nは、CUサイズ/2）から選択可能である。一方、TU１０４は、直交変換の単位であり、TUごとに離散コサイン変換(Discrete Cosine Transform, DCT)あるいは離散サイン変換(Discrete Sine Transform, DST)される。TU１０４のサイズは、4x4画素〜32x32画素の中から選択される。TU１０４は、四分木構造で分割され、Zスキャン順に処理される。

HEVCでは、イントラ予測モードとして、35種類の予測モードが用意されている。このように、多数の予測モードが用意されているため、最適な予測モードを選択するための演算量も多い。また、符号化対象ブロックに隣接する符号化済みの画素を参照して予測モードを選択する場合、その符号化済みの画素を復号する必要が有る。そのため、動画像符号化処理を実行するプロセッサの処理能力が低いと、予測モードの選択に時間が掛かり過ぎてしまい、リアルタイム性が要求されるような場合では、符号化処理が間に合わないおそれがある。

一方、イントラ予測対象のブロックについて、予測ブロックを生成する際に、そのブロックに隣接する左側のブロックの右端の画素の符号化前のデータを、イントラ予測する際に利用する技術が提案されている（例えば、特許文献１を参照）。

特開２００７−１５０９１３号公報

ISO/IEC 23008-2 / ITU-T H.265

HEVCでは、4x4画素サイズのTUについて、直交変換／逆直交変換を行わず、符号化対象のTUと予測ブロック間の予測誤差信号に対して、量子化／逆量子化を直接適用するTransform Skipというモードが規定されている。DCTのような直交変換は、量子化誤差に起因する符号化歪みをブロック全体に拡散する。そのため、ブロック内に符号化歪みが生じ易い強いエッジ状の模様が含まれると、モスキートノイズと呼ばれる圧縮ノイズが視覚上目立ってしまうことがある。そこで、そのようなブロックに対して直交変換を施さないTransform Skipを用いることで、モスキートノイズの発生が抑制される。

一般に、直交変換により得られる直交変換係数のうち、高周波数の成分に相当する係数ほど、画質に与える影響は小さい。そこで量子化処理では、高周波数の成分に相当する係数ほど、適用される量子化幅は広くなる。そしてTUに対して直交変換が行われる場合、TUの右下に近い直交変換係数ほど、高周波数の成分に相当する。一方、HEVCにおいて、Transform Skipが適用される場合の量子化処理も、Transform Skipが適用されない場合の量子化処理と同一の処理である。そのため、Transform Skipが適用されたTUでは、右下に近い画素ほど、粗い量子化が行われることになる。

そのため、特許文献１に記載の技術のように、符号化対象ブロックについて、符号化前の画素を参照して予測モードが選択される場合、参照される画素がTransform Skipが適用されたTUに含まれることがある。このような場合、予測モードの選択の際に参照した画素の値と、実際に予測ブロックを生成する際に参照される局所復号ブロック中の対応画素の値との符号化誤差が大きいために、予測誤差が大きくなってしまうことがある。そして予測誤差が大きくなると、符号化効率が低下してしまう。

一つの側面では、本発明は、符号化前の画素の値を参照してイントラ予測符号化モードの適用を決定した場合の符号化効率の低下を抑制可能な動画像符号化装置を提供することを目的とする。

一つの実施形態によれば、動画像データに含まれる符号化対象ピクチャを符号化する動画像符号化装置が提供される。この動画像符号化装置は、符号化対象ピクチャを分割した、予測ブロックの生成単位となる複数の第１のブロックのうち、符号化対象ピクチャの未符号化の画素を参照して設定された、イントラ予測符号化モードが適用される第１のブロックについての予測モードを決定する際に参照される符号化対象ピクチャ上の被参照画素を特定する被参照画素判定部と、符号化対象ピクチャを分割した、直交変換の単位となる複数の第２のブロックのうち、被参照画素を含む第２のブロックについて、被参照画素の符号化誤差が、イントラ予測符号化モードが適用される第１のブロックについての予測ブロックの生成の際にその被参照画素が参照されない場合の符号化誤差より低減するように、複数の第２のブロックのそれぞれについて、対応する予測ブロックとの誤差を符号化する予測符号化部とを有する。

符号化前の画素の値を参照してイントラ予測符号化モードの適用を決定した場合の符号化効率の低下を抑制できる。

HEVCによる、ピクチャの分割の一例を示す図である。 一つの実施形態に係る動画像符号化装置の概略構成図である。 HEVCにおいて用意される予測モードを示す図である。 被参照画素の一例を示す図である。 動画像符号化処理の動作フローチャートである。 実施形態またはその変形例による動画像符号化装置の各部の機能を実現するコンピュータプログラムが動作することにより、動画像符号化装置として動作するコンピュータの構成図である。

以下、図を参照しつつ、一つの実施形態による、動画像符号化装置について説明する。この動画像符号化装置は、イントラ予測符号化モードの予測モードを選択する際に、符号化されていない画素の値を参照する。そしてこの動画像符号化装置は、各TUについて、そのTUに含まれる画素がイントラ予測符号化モードが適用される周囲のPUにおいて参照される場合に、その画素の符号化誤差を低下させるよう、量子化パラメータ等を調整する。これにより、この動画像符号化装置は、予測モード選択時に参照される画素の値と、実際に予測ブロックを生成する際に参照される局所復号ブロック中の対応画素の値との差を少なくする。

本実施形態では、動画像符号化装置は、HEVCに準拠するものとする。しかし、動画像符号化装置は、Transform Skipを適用可能な他の動画像符号化規格、例えば、予測ブロックの生成単位となるブロックと直交変換の単位となるブロックが共通する動画像符号化規格に準拠してもよい。

なお、ピクチャは、フレームまたはフィールドの何れであってもよい。フレームは、動画像データ中の一つの静止画像であり、一方、フィールドは、フレームから奇数行のデータあるいは偶数行のデータのみを取り出すことにより得られる静止画像である。

図２は、一つの実施形態による動画像符号化装置の概略構成図である。動画像符号化装置１は、予測符号化部１０と、被参照画素判定部１７と、量子化パラメータ補正部１８と、復号部１９と、記憶部２０と、エントロピー符号化部２１とを有する。また、予測符号化部１０は、動き探索部１１と、符号化モード判定部１２と、予測ブロック生成部１３と、予測誤差算出部１４と、直交変換部１５と、量子化部１６とを有する。

動画像符号化装置１が有するこれらの各部は、例えば、それぞれ、別個の回路として実装される。あるいは、動画像符号化装置１が有するこれらの各部は、その各部の機能を実現する一つまたは複数の集積回路として動画像符号化装置１に実装されてもよい。あるいは、動画像符号化装置１が有するこれらの各部は、動画像符号化装置１が有するプロセッサ上で実行されるコンピュータプログラムにより実現される、機能モジュールであってもよい。

符号化対象となるピクチャは、例えば、動画像符号化装置１全体を制御する制御部（図示せず）により複数のCTUに分割される。そして動画像符号化装置１には、各CTUが、例えばラスタスキャン順で入力される。そして動画像符号化装置１は、CTUごとに符号化する。以下、動画像符号化装置１が有する各部について説明する。

予測符号化部１０は、CTUを、符号化コストが最小となるようにCU及びPUの分割モードに従って分割し、PUごとに設定した符号化モードに従って予測ブロックを生成する。そして予測符号化部１０は、CTU内の各PUと対応する予測ブロック間の予測誤差信号を、TUごとに、直交変換して得られる直交変換係数または予測誤差信号そのものを量子化することで、そのCTUを予測符号化する。以下、予測符号化部１０の各部について説明する。

動き探索部１１は、符号化対象のピクチャがインター予測符号化モードが適用可能なPピクチャまたはBピクチャである場合、符号化対象CTUについて適用可能なPUごとに動きベクトルを算出する。なお、Pピクチャは、一方向のインター予測符号化モードを適用可能なピクチャであり、Bピクチャは、双方向のインター予測符号化モードを適用可能なピクチャである。なお、符号化対象ピクチャの種別は、例えば、制御部（図示せず）が符号化対象の動画像データに適用するGroup Of Pictures(GOP)の構造及び符号化対象ピクチャのGOP内での位置に基づいて決定される。

動き探索部１１は、符号化対象CTUの着目するPUについて、局部復号ピクチャについての参照可能な領域に対してブロックマッチングを行って、着目するPUと最も一致する参照ブロックを特定する。そして動き探索部１１は、着目するPUと参照ブロック間の移動量を表すベクトルを動きベクトルとして算出する。動き探索部１１は、各PUの動きベクトルを、符号化モード判定部１２へ通知する。

符号化モード判定部１２は、符号化対象CTUを分割するCU、PU及びTUの分割モード及びCUごとに適用される符号化モードを決定する。符号化モード判定部１２は、例えば、図示しない制御部から取得した、符号化対象CTUが含まれる符号化対象のピクチャのタイプを示す情報に基づいて、そのCTUの符号化モードを決定する。符号化対象のピクチャのタイプがイントラ予測符号化モードのみが適用可能なIピクチャであれば、符号化モード判定部１２は、適用される符号化モードとしてイントラ予測符号化モードを選択する。また、符号化対象のピクチャのタイプが、PピクチャまたはBピクチャであれば、符号化モード判定部１２は、例えば、適用される符号化モードとして、インター予測符号化モード及びイントラ予測符号化モードの何れかを選択する。

符号化モード判定部１２は、適用可能な符号化モードについての符号化対象CTUの符号化されたデータ量の評価値である符号化コストをCU単位でそれぞれ算出する。例えば、符号化モード判定部１２は、インター予測符号化モードについては、CTUを分割するCU分割モード、PU分割モード及び動きベクトルの予測ベクトルの生成方法を規定するベクトルモードの組み合わせごとに符号化コストを算出する。なお、符号化モード判定部１２は、ベクトルモードとして、例えば、Adaptive Motion Vector Prediction(AMVP)モード、及び、Mergeモードの何れかを利用できる。

また、イントラ予測符号化モードについては、符号化モード判定部１２は、CTUを分割するCU分割モード、PU分割モード及び予測モードの組み合わせごとに符号化コストを算出する。本実施形態では、符号化モード判定部１２は、着目するPUについて、局所復号ブロックでなく、そのPUの左側または上側に隣接する、符号化前の画素の値を参照して、符号化コストを算出する。

符号化モード判定部１２は、符号化コストを算出するために、例えば、着目するPUについて、次式に従って、予測誤差、すなわち画素差分絶対値和SADを算出する。
SAD=Σ|OrgPixel-PredPixel|
ここで、OrgPixelは着目するPUに含まれる画素の値であり、PredPixelは着目するブロックに対応する、符号化コストの算出対象となる符号化モードに従って生成された予測ブロックに含まれる画素の値である。

そして符号化モード判定部１２は、例えば、次式に従って、着目するCUについての符号化コストCostを算出する。
Cost=ΣSAD + λ*B
ここで、ΣSADは、着目するCUに含まれる各PUについて算出されたSADの総和である。またBは、動きベクトル、予測モードを表すフラグなど、予測誤差以外の項目についての符号量の推定値である。そしてλはラグランジュの未定乗数である。

なお、符号化モード判定部１２は、SADの代わりに、着目するPUと予測ブロックとの差分画像をアダマール変換した後の各画素の絶対値和SATDなどを算出してもよい。

符号化モード判定部１２は、符号化対象CTUについて、例えば、取り得るCUサイズの中でサイズが大きい方から順に着目するCUを設定する。そして符号化モード判定部１２は、着目するCUについて、イントラ予測符号化モードに関してそのCU内のPU分割モードごとにコストが最小となる予測モードを選択する。また、符号化モード判定部１２は、着目するCUについて、インター予測符号化モードに関してそのCU内のPU分割モードごとにコストが最小となるベクトルモードを選択する。さらに、符号化モード判定部１２は、同サイズのCUごとに、イントラ予測符号化モードとインター予測符号化モードのうちで、符号化コストが小さい方を、そのCUについて適用する符号化モードとして選択する。

さらに、符号化モード判定部１２は、着目するCUを４分割したCUのそれぞれを、次に着目するCUとして、同様の処理を実行して、最小符号化コストを算出する。そして符号化モード判定部１２は、４分割したCUのそれぞれについて算出された、最小符号化コストの総和と、着目するCUについての最小符号化コストよりも小さければ、着目するCUを４分割する。符号化モード判定部１２は、各CUが分割されなくなるまで、上記の処理を繰り返すことで、符号化対象CTUに適用されるCU分割モード及びPU分割モードを決定する。

さらに、符号化モード判定部１２は、上記のようにして決定したCU分割モードに従ったCUごとに、TU分割モードを決定する。その際、符号化モード判定部１２は、適用可能なTU分割モードごとに、次式に従ってRDコストCostを算出する。

ここで、org(i)は、着目するCUに含まれる画素の値であり、ldec(i)は、着目するTU分割モードを用いてそのCUを符号化し、さらに復号して得られる復号画素の値を表す。またbitは、そのCUを着目するTU分割モードを用いて符号化したときの符号量を表す。（１）式の右辺の第一項は、符号化歪みを表し、右辺の第二項は符号量を表す。そのため、RDコストが最小となるTU分割モードでは、符号化歪みと符号量が最適なバランスとなっている。
そこで、符号化モード判定部１２は、RDコストCostが最小となるTU分割モードを選択する。

なお、符号化モード判定部１２は、少なくとも、着目するCTUの左上方に位置するCTUについての被参照画素判定部１７の処理が開始される前に、着目するCTUについてCU及びPUの分割モード及びCUごとに適用される符号化モードを決定することが好ましい。これにより、被参照画素判定部１７は、遅滞なく、イントラ予測符号化モードが適用されるPUについての予測ブロック生成の際に参照される画素を特定できる。なお、被参照画素判定部１７の処理の詳細については後述する。また、以下では、説明の便宜上、イントラ予測符号化モードが適用されるPUについての予測ブロック生成の際に参照される画素を、単に被参照画素と呼ぶ。

符号化モード判定部１２は、符号化対象CTUについて選択したCU及びPUの分割モード及び符号化モードの組み合わせを予測ブロック生成部１３に通知する。また符号化モード判定部１２は、符号化対象CTUについて選択したCU、PU及びTUの分割モード及び符号化モードの組み合わせを記憶部２０に保存する。

予測ブロック生成部１３は、符号化対象CTUについて選択されたCU、PU及びTUのサイズ及び符号化モードの組み合わせに従ってPUごとに予測ブロックを生成する。予測ブロック生成部１３は、例えば、着目するCUがインター予測符号化される場合、そのCU内のPUごとに、記憶部２０から読み出した局所復号ピクチャを、そのPUについて算出された動きベクトルに基づいて動き補償することで予測ブロックを生成する。

また予測ブロック生成部１３は、着目するCUがイントラ予測符号化される場合、そのCU内のPUごとに選択された予測モードに従って参照される、そのPUの周囲の局所復号ブロック内の画素の値に基づいて予測ブロックを生成する。なお、予測モード選択の際には未符号化の画素の値が参照される場合でも、CTUを正常に復号可能とするために、予測ブロックの生成の際には、CTUを一旦符号化されてから復号して得られる局所復号ブロックが参照されることに留意されたい。
予測ブロック生成部１３は、生成された予測ブロックを予測誤差算出部１４へ渡す。

予測誤差算出部１４は、符号化対象CTU内の各画素について、予測ブロック生成部１３により生成された予測ブロックの対応画素との差分演算を実行する。そして予測誤差算出部１４は、各TUについて、その差分演算により得られたTU内の各画素に対応する差分値を、そのTUの予測誤差信号とする。予測誤差算出部１４は、符号化対象CTU内の各TUのうち、4x4画素サイズよりも大きいサイズを持つTU、すなわち、Transform Skipが適用されないTUについての予測誤差信号を直交変換部１５へわたす。一方、予測誤差算出部１４は、符号化対象CTU内の各TUのうち、4x4画素サイズを持つTU、すなわち、Transform Skipが適用されるTUについての予測誤差信号を量子化部１６へわたす。

なお、予測誤差算出部１４は、4x4画素サイズを持つTUのうち、画素ごとの予測誤差信号のうちの最小値と最大値の差が所定の閾値以上となるTUについてのみ、Transform Skipが適用されるTUとしてもよい。そして予測誤差算出部１４は、Transform Skipが適用されるTUの予測誤差信号を量子化部１６へ直接わたしてもよい。

直交変換部１５は、符号化対象CTU内のTransform Skipが適用されない各TUについて、そのTUの予測誤差信号を直交変換することで予測誤差信号の水平方向の周波数成分及び垂直方向の周波数成分を表す直交変換係数を求める。例えば、直交変換部１５は、予測誤差信号に対して、直交変換処理としてDCTを実行することにより、直交変換係数として、DCT係数の組を得る。

直交変換部１５は、Transform Skipが適用されない各TUについての直交変換係数を量子化部１６へわたす。

量子化部１６は、Transform Skipが適用されないTUごとの直交変換係数を、量子化幅を指定するqp値などを含む量子化パラメータに従って量子化することにより、量子化された直交変換係数を算出する。また、量子化部１６は、Transform Skipが適用されるTUごとの予測誤差信号を量子化パラメータに従って量子化することにより、量子化された予測誤差信号を算出する。なお、以下では、量子化された直交変換係数及び量子化された予測誤差信号を、単に量子化係数と呼ぶことがある。

量子化部１６は、例えば、位置(i,j)の量子化前の値c_ijを、量子化値qpに基づいて量子化後の値c'_ijを求める場合、次式に従って、量子化処理を実行する。

ここで、Abs()は、絶対値を出力する関数である。またSign()は、正負の符号を出力する関数である。そして演算子'a>>b'は、パラメータaを下位方向へbビットシフトさせるシフト演算子である。また、QuantScale(qp,i,j)は、qp値と座標(i,j)の組み合わせごとに予め設定される量子化スケールである。そしてoffset(i,j)は、座標(i,j)ごとに設定される、丸め閾値である。丸め閾値offset(i,j)を調整することで、切り捨て、切り上げの度合を調整することが可能となる。なお、“>>9”は、量子化幅512で除算することに相当し、(512―171)/512≒2/3、(512―85)/512≒5/6である。

本実施形態では、量子化部１６は、Transform Skipが適用されるTU内の被参照画素については、量子化パラメータ補正部１８により補正された丸め閾値offset'(i,j)を使用し、その他の画素については、予め設定された丸め閾値offset(i,j)を使用する。後述するように、補正された丸め閾値offset'(i,j)は、元の丸め閾値offset(i,j)よりも、量子化幅の中心に近い値となる。これにより、量子化部１６は、量子化による、被参照画素の量子化誤差を抑制できる。そのため、量子化部１６は、被参照画素について生じる符号化誤差を抑制できる。
量子化部１６は、量子化された直交変換係数を復号部１９及びエントロピー符号化部２１へ出力する。

被参照画素判定部１７は、符号化対象CTUの各TUについて、そのTUに含まれる画素のうち、そのTUの周囲に位置するイントラ予測符号化モードが適用されるPUにより、適用する予測モードの決定の際に参照される被参照画素を特定する。

図３は、HEVCにおいて用意される予測モードを示す図である。図３において、矢印３００のそれぞれは、対応する予測モードにおける予測方向を表す。そして矢印３００の先端に示された数値は、予測モードの番号を表す。HEVCでは、各矢印３００で示される、３３種類の互いに異なる予測方向を持つ、方向性の予測モードと、DC予測モード及びPlanar予測モードが用意されている。したがって、予測モードとその予測モードが適用されるPUのサイズに応じて、参照される画素が特定される。例えば、予測モード１０では、PUの左側に隣接する各画素が参照される。また、予測モード２６では、PUの上側に隣接する各画素が参照される。

被参照画素判定部１７は、着目するTUについて、そのTUを含むCTU、及び、そのTUをイントラ予測符号化モードで参照する可能性のある他のCTUについて、選択されたPUの分割モード及び符号化モードの組み合わせを記憶部２０から読み込む。なお、そのTUをイントラ予測符号化モードで参照する可能性のあるCTUは、そのCTU内の各PUについて適用可能な予測モードの参照範囲から特定される。

被参照画素判定部１７は、そのTUを含むCTU、及び、そのTUをイントラ予測符号化モードで参照する可能性のある他のCTU内で、イントラ予測符号化モードが適用されるPUを特定する。そして被参照画素判定部１７は、特定されたPUのそれぞれについて、そのPUのサイズ及びそのPUに適用される予測モードを参照して、参照する画素の範囲を特定する。被参照画素判定部１７は、特定された画素の範囲と着目するTUとが重なっている領域に含まれる各画素を被参照画素とする。

図４は、被参照画素の一例を示す図である。TU４００の右側に隣接する二つのPU４１１、PU４１２に対して、それぞれイントラ予測符号化モードが適用されるものとする。なお、PU４１１、PU４１２は、TU４００よりも右側に位置しているので、PU４１１、PU４１２に対しては、予測ブロックの生成以降の処理は行われていない。すなわち、PU４１１、PU４１２は、TU４００の被参照ブロックの特定の際には、符号化されていない。

このうち、PU４１１には、矢印４２１に示されるように、PU４１１の左側に隣接する各画素を参照する予測モードが適用されているとする。一方、PU４１２には、矢印４２２に示されるように、PU４１２の右斜め上方の各画素を参照する予測モードが適用されているとする。この場合、PU４１１で参照される範囲４３１は、TU４００と重なっているので、範囲４３１に含まれる各画素が被参照画素４３２となる。

なお、被参照画素判定部１７は、符号化対象CTU内で、Transform Skipが適用されるTUについてのみ、被参照画素を特定してもよい。

被参照画素判定部１７は、符号化対象CTUの各TUについての被参照画素を表す情報を生成する。被参照画素を表す情報は、例えば、各TU内での被参照画素の座標のリストとすることができる。そして被参照画素判定部１７は、符号化対象CTUの各TUについての被参照画素を表す情報を量子化パラメータ補正部１８へ通知する。

量子化パラメータ補正部１８は、符号化対象CTUの各TUについて、被参照画素の符号化誤差を低減するよう、量子化パラメータを調整する。

本実施形態では、量子化パラメータ補正部１８は、被参照画素がTransform Skipが適用されるTUに含まれる場合、被参照画素について、量子化処理による被参照画素の符号化誤差を低減するように調整する。

Transform Skipが適用されるTUについては、予測誤差信号は直交変換されないため、単に予測誤差信号の各画素の値を量子化して得られた値の量子化誤差が、そのままその画素の歪となる。このことから、量子化パラメータ補正部１８は、被参照画素を表す情報に基づき、被参照画素の値の量子化誤差が小さくなるように、量子化パラメータを調整することで歪みを低減できる。

一般に、符号化効率が向上を目的として、量子化処理においては、量子化幅未満、すなわち、小数点以下の値を丸める際の丸め閾値を、四捨五入よりも、切り捨てられる値の範囲が広くなるように調整される。例えば、H.264/AVCの参照ソフトであるJMでは、イントラ予測符号化モードが適用される場合、量子化幅をQとすると、[nQ,(n+1)Q]の範囲に含まれる値のうち、[nQ,(n＋2/3)Q]の範囲に含まれる値はnに量子化される。一方、((n+2/3)Q,(n＋1)Q]の範囲に含まれる値は(n+1)に量子化される。また、インター予測符号化モードが適用される場合、同様に、[nQ,(n+1)Q]の範囲に含まれる値のうち、[nQ,(n＋5/6)Q]に含まれる値はnに量子化される。一方、((n+5/6)Q,(n＋1)Q]の範囲に含まれる値は(n+1)に量子化される。[nQ,(n+1)Q]の範囲内で、値の分布が均一であるならば、丸め閾値は、四捨五入に相当する値に近いほど、量子化誤差が小さくなる確率が高くなる。

そこで、量子化パラメータ補正部１８は、被参照画素に適用される丸め閾値offset(i,j)を、被参照画素以外に適用されるoffset(i,j)の値よりも量子化幅の1/2に近くなるよう調整する。例えば、量子化パラメータ補正部１８は、被参照画素についての調整された丸め閾値offset'(i,j)を256に設定することで、平均的な量子化誤差を低減する。

なお、上記のように丸め閾値offset(i,j)を補正することで、量子化誤差が小さくなるかわりに、符号量が多くなる可能性がある。そのため、丸め閾値offset(i,j)の補正により量子化誤差を低減するのは、被参照画素のうち、符号化効率の向上に貢献する画素に限定するのが符号化効率向上の観点から好ましい。そこで、量子化パラメータ補正部１８は、被参照画素を参照するPUについて、予測ブロックを、被参照画素の元の値を用いて生成した場合の符号量と、その元の値に被参照画素についての量子化幅だけ加算または減算した値を用いて生成した場合の符号量を推定する。そして量子化パラメータ補正部１８は、その二つの符号量の推定値の差が所定値以上となる場合についてのみ、その被参照画素についての丸め閾値offset(i,j)を補正してもよい。
量子化パラメータ補正部１８は、被参照画素の座標及び調整後の丸め閾値offset'(i,j)を量子化部１６へ通知する。

復号部１９は、符号化対象CTU内の各TUの量子化係数から、そのTUよりも後のCUなどを符号化するために参照される局所復号ブロックを生成し、その局所復号ブロックを記憶部２０に記憶する。
そのために、復号部１９は、各TUの量子化された量子化係数を逆量子化することで、量子化前の直交変換係数または予測誤差信号を復元する。

復号部１９は、Transform Skipが適用されていないTUごとに、復元された直交変換係数に対して逆直交変換を行う。例えば、直交変換部１５が直交変換としてDCTを用いている場合、復号部１９は、逆直交変換として逆DCT処理を実行する。これにより、復号部１９は、TUごとに、符号化前の予測誤差信号と同程度の情報を有する予測誤差信号を復元する。なお、Transform Skipが適用されたTUについては、復号部１９は、逆直交変換を行わなくてもよい。

復号部１９は、TUごとに、そのTUの予測ブロックの各画素値に、復元された予測誤差信号を加算することで、局所復号ブロックを生成する。
復号部１９は、局所復号ブロックを生成する度に、その局所復号ブロックを記憶部２０に記憶させる。

また、復号部１９は、記憶部２０に記憶されている各局所復号ブロックに対して、デブロッキングフィルタ処理、あるいは、sample adaptive offset処理といったループ内フィルタ処理を行ってもよい。

記憶部２０は、復号部１９から受け取った局所復号ブロックを一時的に記憶する。なお、局所復号ピクチャは、各CTUの符号化順序にしたがって、１枚のピクチャ分の局所復号ブロックを結合することで得られる。記憶部２０は、動き探索部１１、符号化モード判定部１２及び予測ブロック生成部１３に、局所復号ピクチャまたは局所復号ブロックを供給する。なお、記憶部２０は、符号化対象ピクチャが参照する可能性がある、予め定められた所定枚数分の局所復号ピクチャを記憶し、局所復号ピクチャの枚数がその所定枚数を超えると、符号化順序が古い局所復号ピクチャから順に破棄する。
さらに、記憶部２０は、インター予測符号化された局所復号ブロックのそれぞれについての動きベクトルを記憶する。さらにまた、記憶部２０は、各CTUについて選択したCU、PU及びTUの分割モード及び符号化モードの組み合わせを記憶する。

エントロピー符号化部２１は、符号化対象CTUの各TUの量子化係数及び各PUの動きベクトルの予測誤差信号及びシンタックスなどをエントロピー符号化する。本実施形態では、エントロピー符号化部２１は、エントロピー符号化方式として、Context-based Adaptive Binary Arithmetic Coding(CABAC)といった算術符号化処理を用いる。そしてエントロピー符号化部２１は、エントロピー符号化により得られたビットストリームを所定の順序で結合し、HEVCで規定されるヘッダ情報などを付加することで、符号化された動画像データを含む符号化ビットストリームを求める。そしてエントロピー符号化部２１は、符号化ビットストリームを出力する。

図５は、動画像符号化装置１により実行される動画像符号化処理の動作フローチャートである。動画像符号化装置１は、CTUごとに以下に示される動作フローチャートに従って動画像符号化処理を実行する。

動き探索部１１は、符号化対象CTU内の適用可能な各PUについて動きベクトルを算出する（ステップＳ１０１）。そして動き探索部１１は、各PUの動きベクトルを符号化モード判定部１２へ通知する。なお、符号化対象CTUが含まれる符号化対象ピクチャがIピクチャである場合には、ステップＳ１０１の処理は省略されてもよい。

符号化モード判定部１２は、符号化対象CTUについて、CU、PU及びTUのそれぞれの分割モード及び適用される符号化モードを決定する（ステップＳ１０２）。その際、符号化モード判定部１２は、イントラ予測符号化モードに関しては、未符号化の画素の値を参照して、適用する予測モードを選択する。そして符号化モード判定部１２は、CU、PU及びTUのそれぞれの分割モード及び適用される符号化モードを、予測ブロック生成部１３に通知するとともに、記憶部２０に記憶する。

予測ブロック生成部１３は、決定されたCU及びPUの分割モード及び適用される符号化モードに応じて予測ブロックを生成する（ステップＳ１０３）。そして予測ブロック生成部１３は、生成した予測ブロックを予測誤差算出部１４へわたす。

予測誤差算出部１４は、符号化対象CTUと予測ブロック間の予測誤差信号を算出する（ステップＳ１０４）。そして予測誤差算出部１４は、符号化対象CTUの各TUのうち、4x4画素よりも大きいサイズを持つTU、すなわち、Transform Skipが適用されないTUの予測誤差信号を直交変換部１５へわたす。また、予測誤差算出部１４は、4x4画素サイズを持つTU、すなわち、Transform Skipが適用されるTUの予測誤差信号を量子化部１６へわたす。

直交変換部１５は、Transform Skipが適用されない各TUの予測誤差信号を直交変換することで、直交変換係数を算出する（ステップＳ１０５）。そして直交変換部１５は、Transform Skipが適用されない各TUの直交変換係数を量子化部１６へわたす。

被参照画素判定部１７は、符号化対象CTUの各TUについて、そのTUに含まれる画素のうち、そのTUの周囲に位置するイントラ予測符号化モードが適用されるPUにより参照される被参照画素を特定する（ステップＳ１０６）。そして被参照画素判定部１７は、各TUについての被参照画素を表す情報を量子化パラメータ補正部１８へわたす。

量子化パラメータ補正部１８は、Transform Skipが適用される各TUについて、被参照画素の符号化誤差を低減するよう、被参照画素についての量子化パラメータを補正する（ステップＳ１０７）。そして量子化パラメータ補正部１８は、各TUの被参照画素についての調整後の量子化パラメータを量子化部１６へわたす。

量子化部１６は、符号化対象CTUの各TUのうち、Transform Skipが適用されないTUについて、直交変換係数を量子化する（ステップＳ１０８）。また、量子化部１６は、符号化対象CTUの各TUのうち、Transform Skipが適用されるTUについて、被参照画素については補正された量子化パラメータを適用して、予測誤差信号を直接量子化する（ステップＳ１０９）。そして量子化部１６は、各TUの量子化された直交変換係数または量子化された予測誤差信号を復号部１９及びエントロピー符号化部２１へ出力する。

復号部１９は、符号化対象CTUの各TUについての量子化された直交変換係数または量子化された予測誤差信号から、そのCTUに対応する局所復号ブロックを生成する（ステップＳ１１０）。そして復号部１９は、局所復号ブロックを記憶部２０に記憶する。

エントロピー符号化部２１は、符号化対象CTUの各TUについての量子化された直交変換係数または量子化された予測誤差信号及び動きベクトルについての予測誤差などをエントロピー符号化する（ステップＳ１１１）。エントロピー符号化部２１は、得られたビットストリームを出力する。そして動画像符号化装置１は、一つのCTUに対する動画像符号化処理を終了する。なお、ステップＳ１０３〜Ｓ１０５の処理と、ステップＳ１０６及びステップＳ１０７の処理は並列に実行されてもよい。あるいは、ステップＳ１０３〜Ｓ１０５の処理よりも前に、ステップＳ１０６及びステップＳ１０７の処理は実行されてもよい。また、ステップＳ１０８の処理とステップＳ１０９の処理は、CTU内のTUの処理順序に従って実行されればよい。

以上に説明してきたように、この動画像符号化装置は、イントラ予測符号化モードの予測モードを選択する際に、符号化前の画素の値を参照する。そしてこの動画像符号化装置は、各TUについて、そのTUに含まれる画素がイントラ予測符号化モードが適用される周囲のPUにおいて参照される場合に、その画素の量子化誤差を低下させるよう、量子化パラメータ等を調整する。これにより、この動画像符号化装置は、予測モード選択時のその画素の値と、実際に予測ブロックを生成する際の、局所復号ブロックにおける対応画素の値との差を少なくして、イントラ予測符号化モードが適用されるブロックについて生じる予測誤差を低減する。その結果として、この動画像符号化装置は、予測モードの選択の際に未符号化の画素を参照することによる符号化効率の低下を抑制できる。

なお、変形例によれば、量子化パラメータ補正部１８は、被参照画素を含む全てのTUについて、そのTU内の各画素の丸め閾値offset(i,j)を、量子化幅の中心に近づくように補正してもよい。そして量子化部１６は、被参照画素を含む全てのTUについて、補正された丸め閾値offset'(i,j)を用いて量子化処理を実行してもよい。これにより、量子化部１６は、Transform Skipが適用されていないTUに含まれる参照画素についても符号化誤差を抑制できる。

また他の変形例によれば、符号化モード判定部１２は、符号化対象CTUのTU分割モードを決定する際に、そのCTU内の被参照画素の影響を他の画素よりも大きくすることで、被参照画素の符号化誤差を抑制してもよい。この場合、符号化モード判定部１２は、例えば、上記の実施形態と同様の方法により、CU分割モード、PU分割モード及び適用される符号化モードを決定する。

そして符号化モード判定部１２は、例えば、全てのCTUについてCU及びPUの分割モード及び適用される符号化モードを決定した後に、各CTUについてTU分割モードを決定する。その際、符号化モード判定部１２は、適用されるCU分割モードに従って設定される各CUについて、TU分割モードごとに、（１）式の代わりに次式に従ってRDコストCost'を算出する。

ここで、w(i)は、着目するCU内の画素iについての重み係数であり、被参照画素についての重み係数w(i)の値（例えば、2）は、被参照画素以外の画素についての重み係数w(i)の値（例えば、1）よりも大きな値に設定される。

符号化モード判定部１２は、（３）式に従って算出したRDコストCost'が最小となるTU分割モードを設定する。（３）式から明らかなように、org(i)とldec(i)の差が小さいほど、RDコストCost'も小さくなり、かつ、被参照画素についての重み係数の方が他の画素の重み係数よりも大きいので、被参照画素についての符号化誤差が少ないTU分割モードが選択される。この変形例では、動画像符号化装置１は、図５に示される動作フローチャートにおいて、ステップＳ１０６における被参照画素の特定を、ステップＳ１０２における処理のうち、CU及びPU分割モードの特定及び符号化モードの決定の次に実行すればよい。そして動画像符号化装置１は、被参照画素が特定された後に、ステップＳ１０２における処理のうち、TU分割モードの決定を行えばよい。

なお、この変形例では、TU分割モードを最適化することで、被参照画素の符号化誤差が抑制されているので、量子化パラメータ補正部１８は省略されてもよい。そして量子化部１６は、Transform Skipが適用される各TUの被参照画素についても、補正されていない丸め閾値offset(i,j)を使用して、量子化処理を実行してもよい。

この変形例によれば、動画像符号化装置は、RDコスト算出の際の被参照画素の重みを重くしてTU分割モードを設定するので、被参照画素の符号化誤差を抑制するTU分割モードを設定できる。その結果として、この動画像符号化装置は、Transform Skipが適用されないTUに含まれる被参照画素を参照するPUについても予測誤差信号を小さくできるので、予測モード選択の際の未符号化の画素の値の参照による符号化効率の低下を抑制できる。

さらに他の変形例によれば、量子化パラメータ補正部１８は、被参照画素を含む各TUについて、そのTUに適用されるQP値を、そのTUにおける量子化幅を小さくするように補正してもよい。例えば、量子化パラメータ補正部１８は、被参照画素を含むTUに適用されるQP値を、元のQP値から所定値（例えば、1）を減じた値に補正する。そして量子化パラメータ補正部１８は、被参照画素を含む各TUについての補正されたQP値を量子化部１６へわたす。そして量子化部１６は、被参照画素を含む各TUについて、補正されたQP値を用いて量子化処理を実行する。

なお、この変形例が適用される場合、動画像復号装置も、被参照画素判定部１７と同様の処理を行って被参照画素を含むTUを特定し、被参照画素を含むTUについては、量子化パラメータ補正部１８と同様に、元のQP値から所定値を減じた値に補正する。そして動画像復号装置は、その補正したQP値を用いて逆量子化処理を実行する。

この変形例では、被参照画素だけでなく、被参照画素を含むTU全体について量子化幅が小さくなるので、被参照画素を含むTU全体について量子化誤差が低減される。そしてこの変形例による動画像符号化装置は、被参照画素を含むTUに対してTransform Skipが適用されない場合にも、被参照画素の量子化誤差を抑制できる。その結果として、この動画像符号化装置は、Transform Skipが適用されないTUに含まれる被参照画素を参照するPUについても予測誤差信号を小さくできるので、予測モード選択の際の未符号化の画素の値の参照による符号化効率の低下を抑制できる。

図６は、上記の実施形態またはその変形例による動画像符号化装置の各部の機能を実現するコンピュータプログラムが動作することにより、動画像符号化装置として動作するコンピュータの構成図である。

コンピュータ１００は、ユーザインターフェース部１０１と、通信インターフェース部１０２と、記憶部１０３と、記憶媒体アクセス装置１０４と、プロセッサ１０５とを有する。プロセッサ１０５は、ユーザインターフェース部１０１、通信インターフェース部１０２、記憶部１０３及び記憶媒体アクセス装置１０４と、例えば、バスを介して接続される。

ユーザインターフェース部１０１は、例えば、キーボードとマウスなどの入力装置と、液晶ディスプレイといった表示装置とを有する。または、ユーザインターフェース部１０１は、タッチパネルディスプレイといった、入力装置と表示装置とが一体化された装置を有してもよい。そしてユーザインターフェース部１０１は、例えば、ユーザの操作に応じて、符号化する動画像データを選択する操作信号をプロセッサ１０５へ出力する。

通信インターフェース部１０２は、コンピュータ１００を、動画像データを生成する装置、例えば、ビデオカメラと接続するための通信インターフェース及びその制御回路を有してもよい。そのような通信インターフェースは、例えば、High-Definition Multimedia Interface(HDMI)(登録商標)、またはUniversal Serial Bus（USB）とすることができる。

さらに、通信インターフェース部１０２は、イーサネット（登録商標）などの通信規格に従った通信ネットワークに接続するための通信インターフェース及びその制御回路を有してもよい。

この場合には、通信インターフェース部１０２は、通信ネットワークに接続された他の機器から、符号化する動画像データを取得し、それらのデータをプロセッサ１０５へ渡す。また通信インターフェース部１０２は、プロセッサ１０５から受け取った、符号化動画像データを通信ネットワークを介して他の機器へ出力してもよい。

記憶部１０３は、例えば、読み書き可能な半導体メモリと読み出し専用の半導体メモリとを有する。そして記憶部１０３は、プロセッサ１０５上で実行される、動画像符号化処理を実行するためのコンピュータプログラム、及びこれらの処理の途中または結果として生成されるデータを記憶する。

記憶媒体アクセス装置１０４は、例えば、磁気ディスク、半導体メモリカード及び光記憶媒体といった記憶媒体１０６にアクセスする装置である。記憶媒体アクセス装置１０４は、例えば、記憶媒体１０６に記憶されたプロセッサ１０５上で実行される、動画像符号化処理用のコンピュータプログラムを読み込み、プロセッサ１０５に渡す。

プロセッサ１０５は、上記の実施形態または変形例による動画像符号化処理用コンピュータプログラムを実行することにより、符号化動画像データを生成する。そしてプロセッサ１０５は、生成された符号化動画像データを記憶部１０３に保存し、または通信インターフェース部１０２を介して他の機器へ出力する。

なお、動画像符号化装置１の各部の機能をプロセッサ上で実行可能なコンピュータプログラムは、コンピュータによって読み取り可能な媒体に記録された形で提供されてもよい。ただし、そのような記録媒体には、搬送波は含まれない。

ここに挙げられた全ての例及び特定の用語は、読者が、本発明及び当該技術の促進に対する本発明者により寄与された概念を理解することを助ける、教示的な目的において意図されたものであり、本発明の優位性及び劣等性を示すことに関する、本明細書の如何なる例の構成、そのような特定の挙げられた例及び条件に限定しないように解釈されるべきものである。本発明の実施形態は詳細に説明されているが、本発明の精神及び範囲から外れることなく、様々な変更、置換及び修正をこれに加えることが可能であることを理解されたい。

以上説明した実施形態及びその変形例に関し、更に以下の付記を開示する。
（付記１）
動画像データに含まれる符号化対象ピクチャを符号化する動画像符号化装置であって、
前記符号化対象ピクチャを分割した、予測ブロックの生成単位となる複数の第１のブロックのうち、前記符号化対象ピクチャの未符号化の画素を参照して設定された、イントラ予測符号化モードが適用される第１のブロックについての予測モードを決定する際に参照される前記符号化対象ピクチャ上の被参照画素を特定する被参照画素判定部と、
前記符号化対象ピクチャを分割した、直交変換の単位となる複数の第２のブロックのうち、前記被参照画素を含む第２のブロックについて、前記被参照画素の符号化誤差が、前記イントラ予測符号化モードが適用される第１のブロックについての予測ブロックの生成の際に前記被参照画素が参照されない場合の符号化誤差より低減するように、前記複数の第２のブロックのそれぞれについて、対応する前記予測ブロックとの誤差を符号化する予測符号化部と、
を有する動画像符号化装置。
（付記２）
前記複数の第２のブロックのうち、前記被参照画素を含む第２のブロックに用いられる、量子化幅を指定するパラメータを含む量子化パラメータを、前記被参照画素の符号化誤差が低減するよう補正する量子化パラメータ補正部をさらに有し、
前記予測符号化部は、
前記複数の第１のブロックのそれぞれについて、前記適用される符号化モードに従って前記予測ブロックを生成する予測ブロック生成部と、
前記複数の第１のブロックのそれぞれについて、当該第１のブロックと対応する前記予測ブロック間の予測誤差信号を算出する予測誤差算出部と、
前記複数の第２のブロックのうち、前記被参照画素を含む第２のブロックの前記予測誤差信号、または当該予測誤差信号を直交変換して得られる直交変換係数を、前記補正された量子化パラメータに従って量子化することで量子化係数を算出する量子化部と、を有する、付記１に記載の動画像符号化装置。
（付記３）
前記量子化パラメータは、前記量子化における量子化幅未満の値を丸めるための丸め閾値をさらに含み、
前記量子化パラメータ補正部は、前記被参照画素についての前記丸め閾値を、前記被参照画素以外の画素についての前記丸め閾値よりも前記量子化幅の中心に近い値に補正する、付記２に記載の動画像符号化装置。
（付記４）
前記量子化部は、前記被参照画素を含む前記第２のブロックのサイズが所定サイズ以下である場合に前記被参照画素について前記補正された丸め閾値を用いて前記予測誤差信号を量子化する、付記３に記載の動画像符号化装置。
（付記５）
前記量子化パラメータ補正部は、前記被参照画素を含む前記第２のブロックについての前記量子化幅を指定するパラメータを、当該第２のブロックが前記被参照画素を含まない場合における前記量子化幅を指定するパラメータよりも前記量子化幅が小さくなるように補正する、付記２に記載の動画像符号化装置。
（付記６）
前記予測符号化部は、前記複数の第１のブロックのそれぞれについて、インター予測符号化モード及びイントラ予測符号化モードの中から、前記イントラ予測符号化モードについては前記符号化対象ピクチャの符号化されていない画素の値を参照して、適用する符号化モードを決定する符号化モード判定部をさらに有する、付記１〜５の何れかに記載の動画像符号化装置。
（付記７）
前記符号化モード判定部は、前記符号化対象ピクチャを分割した複数の第３のブロックのそれぞれについて、当該第３のブロックを複数の分割モードのそれぞれにしたがって前記複数の第２のブロックに分割した際の当該第３のブロックの符号化コストを、符号化前の画素の値と符号化してから復号して得られる対応画素間の誤差の重み付け和に基づいて算出し、前記複数の分割モードのうち、当該符号化コストが最小となる分割モードに応じて当該第３のブロックを前記複数の第２のブロックに分割し、前記符号化コストを算出する際における前記被参照画素についての前記誤差に対する重みを前記被参照画素以外の画素についての前記重みよりも重くする、付記６に記載の動画像符号化装置。
（付記８）
動画像データに含まれる符号化対象ピクチャを符号化する動画像符号化方法であって、
前記符号化対象ピクチャを分割した、予測ブロックの生成単位となる複数の第１のブロックのうち、前記符号化対象ピクチャの未符号化の画素を参照して設定された、イントラ予測符号化モードが適用される第１のブロックについての予測モードを決定する際に参照される前記符号化対象ピクチャ上の被参照画素を特定し、
前記符号化対象ピクチャを分割した、直交変換の単位となる複数の第２のブロックのうち、前記被参照画素を含む第２のブロックについて、前記被参照画素の符号化誤差が、前記イントラ予測符号化モードが適用される第１のブロックについての予測ブロックの生成の際に前記被参照画素が参照されない場合の符号化誤差より低減するように、前記複数の第２のブロックのそれぞれについて、対応する前記予測ブロックとの誤差を符号化する、
ことを含む動画像符号化方法。
（付記９）
動画像データに含まれる符号化対象ピクチャをコンピュータに符号化させるための動画像符号化用コンピュータプログラムであって、
前記符号化対象ピクチャを分割した、予測ブロックの生成単位となる複数の第１のブロックのうち、前記符号化対象ピクチャの未符号化の画素を参照して設定された、イントラ予測符号化モードが適用される第１のブロックについての予測モードを決定する際に参照される前記符号化対象ピクチャ上の被参照画素を特定し、
前記符号化対象ピクチャを分割した、直交変換の単位となる複数の第２のブロックのうち、前記被参照画素を含む第２のブロックについて、前記被参照画素の符号化誤差が、前記イントラ予測符号化モードが適用される第１のブロックについての予測ブロックの生成の際に前記被参照画素が参照されない場合の符号化誤差より低減するように、前記複数の第２のブロックのそれぞれについて、対応する前記予測ブロックとの誤差を符号化する、
ことをコンピュータに実行させるための動画像符号化用コンピュータプログラム。

１ 動画像符号化装置
１０ 予測符号化部
１１ 動き探索部
１２ 符号化モード判定部
１３ 予測ブロック生成部
１４ 予測誤差算出部
１５ 直交変換部
１６ 量子化部
１７ 被参照画素判定部
１８ 量子化パラメータ補正部
１９ 復号部
２０ 記憶部
２１ エントロピー符号化部
１００ コンピュータ
１０１ ユーザインターフェース部
１０２ 通信インターフェース部
１０３ 記憶部
１０４ 記憶媒体アクセス装置
１０５ プロセッサ
１０６ 記録媒体

Claims (8)

1. 動画像データに含まれる符号化対象ピクチャを符号化する動画像符号化装置であって、
   前記符号化対象ピクチャを分割した、予測ブロックの生成単位となる複数の第１のブロックのうち、前記符号化対象ピクチャの未符号化の画素を参照して設定された、イントラ予測符号化モードが適用される第１のブロックについての予測モードを決定する際に参照される前記符号化対象ピクチャ上の被参照画素を特定する被参照画素判定部と、
   前記符号化対象ピクチャを分割した、直交変換の単位となる複数の第２のブロックのうち、前記被参照画素を含む第２のブロックについて、前記被参照画素の符号化誤差が、前記イントラ予測符号化モードが適用される第１のブロックについての予測ブロックの生成の際に前記被参照画素が参照されない場合の符号化誤差より低減するように、前記複数の第２のブロックのそれぞれについて、対応する前記予測ブロックとの誤差を符号化する予測符号化部と、
   を有する動画像符号化装置。
2. 前記複数の第２のブロックのうち、前記被参照画素を含む第２のブロックに用いられる、量子化幅を指定するパラメータを含む量子化パラメータを、前記被参照画素の符号化誤差が低減するよう補正する量子化パラメータ補正部をさらに有し、
   前記予測符号化部は、
   前記複数の第１のブロックのそれぞれについて、前記適用される符号化モードに従って前記予測ブロックを生成する予測ブロック生成部と、
   前記複数の第１のブロックのそれぞれについて、当該第１のブロックと対応する前記予測ブロック間の予測誤差信号を算出する予測誤差算出部と、
   前記複数の第２のブロックのうち、前記被参照画素を含む第２のブロックの前記予測誤差信号、または当該予測誤差信号を直交変換して得られる直交変換係数を、前記補正された量子化パラメータに従って量子化することで量子化係数を算出する量子化部と、を有する、請求項１に記載の動画像符号化装置。
3. 前記量子化パラメータは、前記量子化における量子化幅未満の値を丸めるための丸め閾値をさらに含み、
   前記量子化パラメータ補正部は、前記被参照画素についての前記丸め閾値を、前記被参照画素以外の画素についての前記丸め閾値よりも前記量子化幅の中心に近い値に補正する、請求項２に記載の動画像符号化装置。
4. 前記量子化部は、前記被参照画素を含む前記第２のブロックのサイズが所定サイズ以下である場合に前記被参照画素について前記補正された丸め閾値を用いて前記予測誤差信号を量子化する、請求項３に記載の動画像符号化装置。
5. 前記予測符号化部は、前記複数の第１のブロックのそれぞれについて、インター予測符号化モード及びイントラ予測符号化モードの中から、前記イントラ予測符号化モードについては前記符号化対象ピクチャの符号化されていない画素の値を参照して、適用する符号化モードを決定する符号化モード判定部をさらに有する、請求項１〜４の何れか一項に記載の動画像符号化装置。
6. 前記符号化モード判定部は、前記符号化対象ピクチャを分割した複数の第３のブロックのそれぞれについて、当該第３のブロックを複数の分割モードのそれぞれにしたがって前記複数の第２のブロックに分割した際の当該第３のブロックの符号化コストを、符号化前の画素の値と符号化してから復号して得られる対応画素間の誤差の重み付け和に基づいて算出し、前記複数の分割モードのうち、当該符号化コストが最小となる分割モードに応じて当該第３のブロックを前記複数の第２のブロックに分割し、前記符号化コストを算出する際における前記被参照画素についての前記誤差に対する重みを前記被参照画素以外の画素についての前記重みよりも重くする、請求項５に記載の動画像符号化装置。
7. 動画像データに含まれる符号化対象ピクチャを符号化する動画像符号化方法であって、
   前記符号化対象ピクチャを分割した、予測ブロックの生成単位となる複数の第１のブロックのうち、前記符号化対象ピクチャの未符号化の画素を参照して設定された、イントラ予測符号化モードが適用される第１のブロックについての予測モードを決定する際に参照される前記符号化対象ピクチャ上の被参照画素を特定し、
   前記符号化対象ピクチャを分割した、直交変換の単位となる複数の第２のブロックのうち、前記被参照画素を含む第２のブロックについて、前記被参照画素の符号化誤差が、前記イントラ予測符号化モードが適用される第１のブロックについての予測ブロックの生成の際に前記被参照画素が参照されない場合の符号化誤差より低減するように、前記複数の第２のブロックのそれぞれについて、対応する前記予測ブロックとの誤差を符号化する、
   ことを含む動画像符号化方法。
8. 動画像データに含まれる符号化対象ピクチャをコンピュータに符号化させるための動画像符号化用コンピュータプログラムであって、
   前記符号化対象ピクチャを分割した、予測ブロックの生成単位となる複数の第１のブロックのうち、前記符号化対象ピクチャの未符号化の画素を参照して設定された、イントラ予測符号化モードが適用される第１のブロックについての予測モードを決定する際に参照される前記符号化対象ピクチャ上の被参照画素を特定し、
   前記符号化対象ピクチャを分割した、直交変換の単位となる複数の第２のブロックのうち、前記被参照画素を含む第２のブロックについて、前記被参照画素の符号化誤差が、前記イントラ予測符号化モードが適用される第１のブロックについての予測ブロックの生成の際に前記被参照画素が参照されない場合の符号化誤差より低減するように、前記複数の第２のブロックのそれぞれについて、対応する前記予測ブロックとの誤差を符号化する、
   ことをコンピュータに実行させるための動画像符号化用コンピュータプログラム。

Images