JP2012044535A

JP2012044535A - 動画像符号化装置及び動画像符号化方法

Info

Publication number: JP2012044535A
Application number: JP2010185256A
Authority: JP
Inventors: Atsushi Mochizuki; 厚志望月
Original assignee: Toshiba Corp
Current assignee: Toshiba Corp
Priority date: 2010-08-20
Filing date: 2010-08-20
Publication date: 2012-03-01
Also published as: US20120044991A1

Abstract

【課題】デブロック処理の有無を決定する閾値を適応的に制御することが可能な動画像符号化装置を提供する。
【解決手段】実施形態の動画像符号化装置１０は、入力される動画像データに基づき予測画像を生成する予測画像生成部１０６と、動画像データを構成する入力画像と予測画像との差分である予測残差に基づいて生成された残差データと、予測画像とに基づいてデブロック処理を行うデブロック処理部１０１と、入力画像と残差データと予測画像とデブロック処理後のデータに基づいてデブロック処理の評価を行うデブロック効果評価部１０２を備える。実施形態の動画像符号化装置は、デブロック効果評価部の評価結果に基づいてデブロック処理の有無を決定する閾値を計算し、当該閾値に基づいてデブロックの符号化パラメータを決定するデブロックパラメータ決定部１０４と、予測残差と符号化パラメータとに基づいて動画像データを符号化する符号化部１０５を備える。
【選択図】図２

Description

本発明の実施形態は、デブロッキングフィルタを備えた動画像復号装置のための符号を作成する動画像符号化装置及び動画像符号化方法に関する。

動画像をあるブロック単位に分割し符号化する方式の場合、符号化に伴う劣化により、ブロック境界で原画には存在しない線が発生することがある。そのため、従来の動画像符号化装置では、ブロック境界におけるエッジ検出により、ブロックノイズの有無を検出し、ブロック毎にブロックノイズの有無を示すフラグを符号に付加する。そして、動画像復号装置は、フラグに基づき輝度の平滑化に代表されるデブロッキングフィルタをかけることで、ブロックノイズを除去する。

具体的には、動画像符号化装置において、入力画像と符号化画像を歪み検出部に入力し、エッジ検出により、ブロックノイズの有無を判定し、結果を可変長符号（ＶＬＣ:Variable Length Code）部に入力し、符号化画像に付加している。しかし、この方法では、各ブロックに符号を付加するため、フレームあたりの符号量の増加を招く。また、ブロックノイズの有無のみを求めているため、復号時にかけるデブロッキングフィルタにより、ブロックノイズが低減されるか、デブロックフィルタによりどの程度画像がぼけるか評価されていないという問題がある。

また、ブロック境界のノイズを低減するために強度を適切に設定するデブロックフィルタについての提案もなされているが、１度符号化したデータに基づいた処理を行う必要があり手間やコストがかかるという問題がある。

特開平１１−２２０７２９号公報特開２００８−２０５５３４号公報

本発明の一つの実施形態は、デブロック処理の有無を決定する閾値を適応的に制御することが可能な動画像符号化装置及び動画像符号化方法を提供することを目的とする。

実施形態の動画像符号化装置は、入力される動画像データに基づいて予測画像を生成する予測画像生成部と、前記動画像データを構成する入力画像と前記予測画像との差分である予測残差に基づいて生成された残差データと、前記予測画像とに基づいてデブロック処理を行うデブロック処理部と、前記入力画像と前記残差データと前記予測画像と前記デブロック処理後のデータに基づいてデブロック処理の評価を行うデブロック効果評価部を備える。実施形態の動画像符号化装置は、前記デブロック効果評価部の評価結果に基づいてデブロック処理の有無を決定する閾値を計算し、当該閾値に基づいてデブロックの符号化パラメータを決定するデブロックパラメータ決定部と、前記予測残差と前記符号化パラメータとに基づいて前記動画像データを符号化する符号化部を備える。

図１は、ＤＣＴブロックの境界に対する各画素値の２次元配列の様子を示す図。図２は、本実施の形態にかかる動画像符号化装置１０の構成を示すブロック図。図３は、本実施の形態にかかるデブロックのオン／オフを決定する閾値を決定するまでのフローチャート。図４は、本実施の形態にかかるＤＣＴブロックのサイズが４×４画素の場合のＭＢにおけるＤＣＴブロック境界の位置を示す図。図５は、本実施の形態にかかるＤＣＴブロックのサイズが８×８画素の場合のＭＢにおけるＤＣＴブロック境界の位置を示す図。図６は、本実施の形態にかかるデブロック処理の効果を評価するフローチャート。図７は、本実施の形態にかかるデブロック閾値の適用範囲を決定する領域分割のフローチャート。図８は、本実施の形態にかかるデブロック閾値の更新値を決定するフローチャート。

以下に添付図面を参照して、本発明の実施の形態にかかる動画像符号化装置及び動画像符号化方法を詳細に説明する。なお、この実施の形態により本発明が限定されるものではない。

本発明の実施の形態は、例えば、ＭＰＥＧ−４ＡＶＣ／Ｈ．２６４に準拠したビットストリームを生成するものとして説明する。図１に、ＤＣＴ（離散コサイン変換：ＤｉｓｃｒｅｔｅＣｏｓｉｎｅＴｒａｎｓｆｏｒｍ）の単位となるＤＣＴブロックの境界に対する各画素値の２次元配列の様子を示す。

図１の下方中心に４つの画素値p1j、p0j、q0j、q1jが垂直方向のＤＣＴブロックの境界をはさみ水平方向に並んで存在する場合、(式 1)を満たす場合にデブロッキングフィルタがかかる。
|p0j-q0j|<α かつ |p0j-p1j|<β かつ |q0j-q1j|<β (式 1)

以下、本実施の形態では画素値として輝度値を用いた場合を例として説明するが、画素値は色差値を用いても良いし、輝度値と色差値の両方を用いても構わない。

図２は、本実施の形態にかかる動画像符号化装置１０の構成を示すブロック図である。動画像符号化装置１０は、後述するデブロック処理部１０１によるデブロック処理後のデータを保持する画像メモリ１００、入力画像および画像メモリ１００に保持されたデータに基づいて動きベクトルを算出する動きベクトル検出部１１３、画像メモリ１００に保持されたデータおよび動きベクトル検出部１１３が算出した動きベクトルに基づいて予測画像を生成する動き補償画像生成部（予測画像生成部）１０６、入力画像と予測画像との差分即ち予測残差を算出する演算回路１０７、予測残差を離散コサイン変換するＤＣＴ部１０９、ＤＣＴ部１０９の出力結果を量子化する量子化部１１０、量子化部１１０の出力結果に基づいて符号化画像データを生成するエントロピー符号化部１０５、量子化部１１０の出力結果を逆量子化する逆量子化部１１１、逆量子化部１１１の出力結果を逆離散コサイン変換する逆ＤＣＴ部１１２、さらに逆ＤＣＴ部１１２の出力結果である残差データと予測画像を加算して出力する演算回路１０８を備える。

さらに、動画像符号化装置１０は、復号時と同様のデブロック処理を行うデブロック処理部１０１と、デブロッキングフィルタの効果を評価するデブロック効果評価部１０２と、デブロック効果評価部１０２の結果をフレーム毎に保存する保存部１０３と、閾値α、βの値及び閾値α、βの適用範囲を保存部１０３に保存された評価結果に基づいて計算するデブロック閾値計算部１０４（デブロックパラメータ決定部）を備える。

本実施の形態におけるデブロックのオン／オフを決定する閾値α、βを更新するまでのフローチャートを図３に示す。１枚の画像フレームを１６ｘ１６画素のマクロブロック（以下、ＭＢという。）を単位とし符号化を行う。動画像符号化装置１０は、各ＭＢの処理においてデブロック処理とデブロック処理の効果の評価をし、閾値α、βの更新を行う。

デブロック処理部１０１におけるデブロック処理ではα、βによらずＭＢ毎にデブロック処理を行う（Ｓ１０１）。即ち、演算回路１０８の出力である非デブロック画像の全てに対して無条件にデブロック処理を行う。

次に、デブロック効果評価部１０２において、デブロック処理の前後の画像と、入力画像を用い、各ＭＢのデブロック処理を評価する（Ｓ１０２）。そして、１フレーム内の全ＭＢの処理が完了すると（Ｓ１０３、ＹＥＳ）、デブロック閾値計算部１０４においてフレーム全体のデブロックの評価結果から次のフレームで使用するα、βの値とその適用範囲を計算し（Ｓ１０４）、その結果により閾値α、βを更新する（Ｓ１０５）。

以下に、本実施の形態にかかる動画像符号化装置１０の主要な構成部の動作を詳細に説明する。

(デブロック処理部１０１)
デブロック処理部１０１は、演算回路１０８が出力する非でブロック画像に対して、(式 1)、(式 2)の判定によらず、デブロック処理を行う。ただし、画像メモリ１００には、(式 1)、(式 2)を満たす部分はデブロック処理後の画像を、満たさない部分はデブロック処理前の画像を出力する。デブロック処理部１０１は、デブロック効果評価部１０２に全てデブロック処理を行った画像を送る。

ここで、ＭＢの垂直及び水平方向の画素数をＮ（＝１６）、ＭＢ内の垂直、水平方向のＤＣＴブロックの数をＭとする。ＭＢにおけるＤＣＴブロック境界の位置を図４及び図５に示す。符号化時のＤＣＴブロックのサイズが図４のように４×４画素の場合はＭ＝４、図５のように８×８画素の場合はＭ＝２となる。そして、垂直方向ブロック境界のインデックスをk、水平方向のブロック境界のインデックスをlとする。

実際のデブロック処理は垂直、水平境界の順でかける。

(デブロック効果評価部１０２)
デブロック効果評価部１０２は、ＭＢ毎にデブロック処理の効果を評価する。評価は、デブロッキングフィルタによる、ＤＣＴブロック境界でのエッジ強度の変化量と、高周波数成分の減少量により行う。図６にデブロック処理の効果を評価するフローチャートを示す。

まず、ブロック境界のエッジ強度の変化量を計算する。デブロック効果評価部１０２は、デブロック後の画像と対応する入力画像に関し、ブロック境界部分の画素値の差分を計算する（Ｓ２０１）。原画の画素値をpij_in、デブロック後の画素値をpij_dbkとすると、差分画素Δpijは(式 5)で求められる。
Δpij = pij_in - pij_dbk (式 5)

さらに、ＭＢ毎にデブロック処理におけるブロック境界のエッジ強度edge_dbkを(式 6)で計算する（Ｓ２０２）。

同様に入力画像と非デブロック画像に関し、画素値の差分を求め、非デブロック画像のエッジ強度edge_ndbkを計算する。edge_ndbkは、非デブロック画像の画素値をpij_ndbkとすると、(式 5)のpij_dbkをpij_ndbkに置き換えて差分を計算し（Ｓ２０３）、(式 6)を用いれば同様に求まる（Ｓ２０４）。

そして、(式 7)によりデブロック処理と非デブロック処理のエッジ強度の変化量であるエッジ強度差Δedgeを計算する（Ｓ２０５）。
Δedge = (edge_dbk - edge_ndbk) (式 7)

edge_dbkとedge_ndbkは、符号化歪みによるブロック境界でのエッジ強度を表すため、Δedgeは値が小さいほど、デブロック処理により符号化歪みによるエッジ強度が減少していることを示し、デブロック処理が効果的であることを表す。

次に、デブロックフィルタによる高周波数成分の減少量を計算する。デブロック後の画素値pij_dbkと非デブロック画像の画素値pij_ndbkとから、(式 5)と同様にデブロック画像と非デブロック画像の差分を求める（Ｓ２０６）。得られた差分に対し、ＤＣＴを行い（Ｓ２０７）、差分信号の周波数成分を求め、高周波数成分の絶対値和highf_sum_dbkを(式 8)で計算する（Ｓ２０８）。

(式 8)においてＮ_ＤＣＴはＤＣＴサイズを示し、ＤＣＴ_ｎｕｍはＭＢ内のＤＣＴブロック数を示す。ｆは周波数成分を表し、添え字hはＭＢ内のＤＣＴブロックのインデックスで、iとjはＤＣＴブロック内の２次元周波数へのインデックスである。例えばＤＣＴを４×４(Ｎ_ＤＣＴ＝４)のサイズで行った場合、ＤＣＴ_ｎｕｍ＝１６個の各ＤＣＴブロックの高域２×２の成分の絶対値和を計算する。

入力画像に対しても同様に、ＤＣＴを行い（Ｓ２０９）、その高周波数成分の絶対値和highf_sum_inを計算する（Ｓ２１０）。そして、高周波数成分のデブロックフィルタの減少量の評価値である高周波評価値highf_valを(式 9)で計算する（Ｓ２１１）。
highf_val=highf_sum_in*highf_sum_dbk (式 9)

高周波評価値highf_valは、原画の高周波数成分が大きく、デブロック処理により失われた高周波数成分が大きい場合、つまり、原画に高周波数成分が多いにもかかわらず、デブロック処理の影響で高周波数成分が失われて、デブロック処理後の画像がぼけてしまった場合に大きな値となる。

最後に、Δedgeとhighf_valの重み付き和によりデブロック処理の評価値dbk_valを(式 10)で求める（Ｓ２１２）。ここで、A、Bは任意の重みである。dbk_valが小さい値ほどデブロックの効果が高いことを示す。
dbk_val = A*Δedge + B*highf_val (式 10)
ここで計算されたdbk_valの値は、保存部１０３に出力される。

(保存部１０３)
保存部１０３は、デブロック効果評価部１０２で計算された評価値dbk_valとデブロック部１０１から送られてくるval_for_alphaとval_for_betaをＭＢ毎に、１フレーム分格納する。保存部１０３は、１フレーム分の画像の符号化が終了した後に格納したデータをデブロック閾値計算部１０４に出力する。

(デブロック閾値計算部１０４)
デブロック閾値計算部１０４は、保存部１０３から入力された評価値dbk_val、val_for_alphaとval_for_betaから、次のフレームを符号化するときの閾値α、βの値と適用範囲を計算する。

閾値の適用範囲を水平方向に分割する場合のフローチャートを図７に示す。なお、閾値の適用範囲を垂直方向に分割することも可能である。以下では例として閾値の適用範囲を水平方向に分割する場合について説明するが、垂直方向に分割する場合は以下の説明において水平方向と垂直方向を入れ替えれば同様に実現可能となる。

ある閾値の適用範囲は、例えば、まず水平方向に並んだＭＢの評価値dbk_valの平均値を算出し、その値が垂直方向にみて急峻に変化している箇所を水平方向分割の境界（分割線）とすることで決定する。

具体的には、まず、１フレーム内におけるＭＢの水平方向の数をWidth、垂直方向の数をHeightとし、フレーム内のＭＢの座標(i,j)に対する評価値をdbk_val_ij(i=0,…Width-1,j=0,…,Height-1)とする。デブロック閾値計算部１０４は、ＭＢの垂直方向座標jに対し、dbk_valの水平方向の平均値avg_dbk_val_jを(式 11)で計算する（Ｓ３０１）。

即ち、デブロック閾値計算部１０４は、垂直方向座標j=0からHeight-1毎に並んだＭＢの全ての行に対し、それぞれ水平方向の平均値avg_dbk_val_jを(式 11)により計算する（Ｓ３０１）。そして、j=1からHeight-1まで(式 12)で垂直方向に隣接するＭＢの平均値avg_dbk_val_jとavg_dbk_val_j-1との差分（エッジ強度）Δavg_dbk_val_jを計算する（Ｓ３０２）。
Δavg_dbk_val_j=|avg_dbk_val_j-1 - avg_dbk_val_j| (式 12)

デブロック閾値計算部１０４は、j=1からHeight-1まで(式 12)により算出されたHeight-1個のΔavg_dbk_val_jの中から最大値Δavg_dbk_val_maxを選択する（Ｓ３０３）。Δavg_dbk_val_maxが閾値Th_div以上ならば（Ｓ３０４、ＹＥＳ）、最大値Δavg_dbk_val_maxを与える座標jを水平方向の分割線の位置とする（Ｓ３０５）。Th_divより小さかった場合は（Ｓ３０４、ＮＯ）、分割はせず終了する。閾値Th_divは、同一のデブロック処理を実行すべき領域を決定するためのもので、エッジ強度（Δavg_dbk_val_j）がこの値を超えた場合はその境界を境としてデブロックの効果が異なると判定するための閾値である。

あらかじめ指定された最大分割数まで分割されていない場合（Ｓ３０６、ＮＯ）は、既に分割線としたΔavg_dbk_val_jを除き、最大値Δavg_dbk_val_maxを再び選び（Ｓ３０３）、閾値Th_divとの比較を行い、分割線の設定を繰り返す。最大分割数に達する（Ｓ３０６、ＹＥＳ）か、Δavg_dbk_val_maxがTh_divより小さかった場合（Ｓ３０４、ＮＯ）は、分割を終了する。ここで指定した最大分割数は、画像サイズの大小に応じて増減させても構わないが、以下で述べる分割領域毎に定めたα、βを含めた全体の符号量との兼ね合いで決定すべき値である。

そして、上下に隣接する分割線の間を以下の手法で定めたα、βの適用範囲とし、適用範囲内で使用するαの更新値α_newを図８のフローチャートの処理により決定する。なお、図７のフローチャートの結果、分割が行われなかった場合、または、最初から分割を行わない場合にも、１フレームを適用範囲と考えれば以下の説明は適用可能である。例として、α_newの設定方法について述べるが、適用範囲内で使用するβの更新値β_newの設定方法についても同様である。

まず、分割領域内でval_for_alphaの平均avg_val_for_alphaとdbk_valの平均avg_dbk_val_partを計算する（Ｓ４０１）。１フレーム中のＭＢ毎のdbk_val(即ち、dbk_val_ij)の垂直方向のＭＢの座標jにおける水平方向の平均avg_dbk_val_jは既に求められている（Ｓ３０１、(式 11)）。従って、分割領域内、即ち当該分割領域を規定している上下の分割線の間でavg_dbk_val_jを垂直方向に平均すればavg_dbk_val_partは求まる。

avg_dbk_val_partの値が閾値Th_dbk以下の場合（Ｓ４０２、ＹＥＳ）、分割領域内のval_for_alphaの最大値max_val_for_alphaと平均avg_val_for_alphaを(式 13)に適用し、α_newを求める（Ｓ４０３）。ここでC_alphaは0から1までの任意の重み係数である。閾値Th_dbkはavg_dbk_val_partの値がこの値以下のときはデブロック処理による効果が高いと判定するための閾値である。
α_new = avg_val_for_alpha + C_alpha*(max_val_for_alpha - avg_val_for_alpha) (式 13)

これは、avg_dbk_val_partの値が小さい場合、この領域内でのデブロック処理による効果が高いことになるので、デブロックフィルタがかかりやすくするためである。avg_dbk_val_partの値が閾値Th_dbkより大きい場合（Ｓ４０２、ＮＯ）はＳ４０４に進む。

avg_dbk_val_partの値が閾値Th_ndbk以上の場合（Ｓ４０４、ＹＥＳ）、デブロックフィルタをかかりにくくするため、分割領域内のval_for_alphaの最小値min_val_for_alphaと平均avg_val_for_alphaを(式14)に適用し、α_newを求める（Ｓ４０５）。ここで、D_alphaは0から1までの任意の重み係数である。閾値Th_ndbkはavg_dbk_val_partの値がこの値以上のときはデブロック処理による効果が低いと判定するための閾値である。一般にTh_dbkよりTh_ndbkは大きな値となるが、これらの閾値は、他の画像でのデブロック処理の効果等から経験的に決定するパラメータである。
α_new = avg_val_for_alpha - D_alpha*(avg_val_for_alpha - min_val_for_alpha) (式 14)

avg_dbk_val_partが、そのほかの場合（Ｓ４０４、ＮＯ）は、
α_new = avg_val_for_alpha (式 15)
とする（Ｓ４０６）。なお、β_newを計算する場合は、上記の重み係数C_alphaの代わりにC_betaを、D_alphaの代わりにD_betaを使用して上記と同様に計算する。

全ての分割領域毎に、同一のα、βの適用範囲として、上述した手法により更新値α_new及び更新値β_newを計算する。デブロック閾値計算部１０４は、次のフレームを符号化する際、適用範囲毎に求めた更新値α_new、β_newを、デブロック処理部１０１にセットする。さらに、符号化情報に更新値α_new、β_newとその適用範囲を指定する情報を付加し、エントロピー符号化部１０５に出力する。エントロピー符号化部１０５は、更新値α_new、β_newに基づいて決定されるデブロックの符号化パラメータに基づいて符号化する。この際、当該符号化パラメータの適用範囲（α_new、β_newの適用範囲）に関する情報を含めて符号化を行う。

以上説明したように本実施の形態によれば、デブロッキングフィルタのオン／オフ判定に使用する閾値を直前に符号化した画像のデブロック処理結果の評価に基づいて求める。これにより、デブロックによるブロックノイズの低下とぼけを適切に評価し、次の入力画像に対しデブロック処理のかけ方を調整することができる。また、分割領域毎にデブロッキングフィルタのオン／オフの閾値を指定することが可能なので、ＭＢ毎にデブロッキングフィルタのオン／オフのフラグをつける場合より、符号量を削減することができる。

さらに、エッジ強度の評価値によりデブロックによるブロックノイズの減少量を評価し、高周波数成分の評価値によりデブロックによるぼけの評価を行う。各デブロック効果の評価値に基づき領域を分割することにより、デブロックのオン／オフの閾値を適切な範囲で設定することができる。

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

１０動画像符号化装置、１００画像メモリ、１０１デブロック処理部、１０２デブロック効果評価部、１０３保存部、１０４デブロック閾値計算部、１０５エントロピー符号化部、１０６動き補償画像生成部。

Claims

入力される動画像データに基づいて予測画像を生成する予測画像生成部と、
前記動画像データを構成する入力画像と前記予測画像との差分である予測残差に基づいて生成された残差データと、前記予測画像とに基づいてデブロック処理を行うデブロック処理部と、
前記入力画像と前記残差データと前記予測画像と前記デブロック処理後のデータに基づいてデブロック処理の評価を行うデブロック効果評価部と、
前記デブロック効果評価部の評価結果に基づいてデブロック処理の有無を決定する閾値を計算し、当該閾値に基づいてデブロックの符号化パラメータを決定するデブロックパラメータ決定部と、
前記予測残差と前記符号化パラメータとに基づいて前記動画像データを符号化する符号化部と
を備えることを特徴とする動画像符号化装置。
前記デブロック処理部は、前記残差データと前記予測画像との加算結果である非デブロック画像に前記デブロック処理を行い、
前記デブロック効果評価部は、前記デブロック処理後のデータと前記入力画像との差分の複数の画素を含むＤＣＴブロックの境界における変化量の絶対値の和である第１エッジ強度と、前記非デブロック画像と前記入力画像との差分の前記ＤＣＴブロックの境界における変化量の絶対値の和である第２エッジ強度とのエッジ強度差に基づいてデブロック処理の評価を行い、
前記符号化部は、前記予測残差を前記ＤＣＴブロック単位に離散コサイン変換した結果と前記符号化パラメータとに基づいて、前記動画像データを符号化する
ことを特徴とする請求項１に記載の動画像符号化装置。
前記デブロック処理部は、前記残差データと前記予測画像との加算結果である非デブロック画像に前記デブロック処理を行い、
前記デブロック効果評価部は、前記デブロック処理後のデータと前記非デブロック画像との差分を複数の画素を含むＤＣＴブロック単位に離散コサイン変換した結果の高周波成分の絶対値の和と前記入力画像を前記ＤＣＴブロック単位に離散コサイン変換した結果の高周波成分の絶対値の和との積である高周波評価値に基づいてデブロック処理の評価を行い、
前記符号化部は、前記予測残差を前記ＤＣＴブロック単位に離散コサイン変換した結果と前記符号化パラメータとに基づいて、前記動画像データを符号化する
ことを特徴とする請求項１に記載の動画像符号化装置。
前記デブロックパラメータ決定部は、
前記評価結果に基づいて前記動画像データのフレームを複数の領域に分割し、当該領域毎に前記閾値を計算する
ことを特徴とする請求項１、２または３に記載の動画像符号化装置。
前記フレームは複数のマクロブロックを含み、当該マクロブロックは複数の前記ＤＣＴブロックを含み、
前記デブロック効果評価部は、前記マクロブロック毎に評価値を算出することにより評価し、
前記デブロックパラメータ決定部は、前記領域の境界方向に平行な方向の前記マクロブロック毎の前記評価値の平均を計算し、前記領域の境界方向に垂直な方向における当該平均の変化が所定の値を越える境界に基づいて前記領域を定め、前記評価値の前記領域毎の平均と、前記非デブロック画像の前記ＤＣＴブロックの境界で隣接する画素値の差分の前記領域毎の平均に基づいて前記閾値を計算する
ことを特徴とする請求項４に記載の動画像符号化装置。
入力される動画像データに基づいて予測画像を生成する工程と、
前記動画像データを構成する入力画像と前記予測画像との差分である予測残差に基づいて生成された残差データと、前記予測画像とに基づいてデブロック処理する工程と、
前記入力画像と前記残差データと前記予測画像と前記デブロック処理後のデータに基づいてデブロック処理の評価を行う工程と、
前記評価を行う工程における評価結果に基づいてデブロック処理の有無を決定する閾値を計算し、当該閾値に基づいてデブロックの符号化パラメータを決定する工程と、
前記予測残差と前記符号化パラメータとに基づいて前記動画像データを符号化する工程と
を備えることを特徴とする動画像符号化方法。