JP2017069810A - 動画像の処理装置、処理方法及びコンピュータ可読記憶媒体 - Google Patents

Abstract

【課題】符号量を増加させることなくブロック歪を低減させる、動画像の処理装置を提供する。【解決手段】動画像の処理装置は、ブロックの境界を検出する検出手段３１、３２、３３、３４と、検出手段が検出した境界の強度を判定する判定手段５５、５６と、判定手段が判定した境界の強度に基づき、当該境界にフィルタを適用するか否かを決定する決定手段３７、３８と、を備えており、判定手段は、境界の強度の判定に変換ブロックのサイズを使用する。【選択図】図１

Description

本発明は、動画像の処理装置、処理方法及びコンピュータ可読記憶媒体に関する。

特許文献１は、イントラ予測（フレーム内予測）／インター予測（フレーム間予測）と、残差変換と、エントロピー符号化と、インループフィルタを用いた動画像の符号化装置及び復号装置を開示している。図６は、特許文献１に記載の符号化装置の構成図である。なお、符号化は、フレームを分割した複数の異なるサイズのいずれかであるブロックを単位として行われる。

まず、入力画像データは、インター予測部１５及びイントラ予測部１６に入力される。なお、インター予測部１５には、フレームバッファ１７から以前のフレームの画像データが入力され、イントラ予測部１６には、処理対象と同じフレームの既に処理したブロックの画像データが加算部１４から入力される。インター予測部１５は、以前のフレームに基づき、フレーム間予測による処理対象ブロックの予測ブロックを出力する。イントラ予測部１６は、処理対象ブロックと同じフレームの他のブロックに基づき、処理対象ブロックの予測ブロックを出力する。そして、処理対象ブロックにフレーム間予測を適用するか、フレーム内予測を適用するかに応じて、インター予測部１５とイントラ予測部１６の出力のいずれかが減算部１０に出力される。

減算部１０は、処理対象ブロックの画像と、インター予測部１５又はイントラ予測部１６が出力した予測画像との誤差を示す誤差（残差）信号を出力する。変換・量子化部１１は、誤差信号に対して直交変換及び量子化を行ってレベル値を出力する。符号化部１２は、このレベル値と、サイド情報（図示せず）をエントロピー符号化して、ビットストリームを生成する。なお、サイド情報とは、復号装置において使用する画素値の再構成に必要な情報であり、イントラ予測又はインター予測の何れを使用したかを示す符号化モード、量子化パラメータ、ブロックサイズ等の情報を含んでいる。

逆量子化・逆変換部１３は、変換・量子化部１１とは逆の処理を行って誤差信号を生成する。加算部１４は、逆量子化・逆変換部１３が出力する誤差信号と、インター予測部１５又はイントラ予測部１６が出力する予測画像を加算して、処理対象ブロックを生成し、イントラ予測部１６と、インループフィルタ１８に出力する。インループフィルタ１８は、１つのフレームの総てのブロックを受け取ると、当該フレームに対応する局所復号画像を生成してフレームバッファ１７に出力する。この局所復号画像は、インター予測部１５におけるフレーム間予測に使用される。

なお、非特許文献１は、インループフィルタ１８において、デブロッキング処理とサンプル適応オフセット処理を行うことを開示している。デブロッキング処理とは、フレーム内のブロックの境界部に生じる歪を減少させる処理である。これにより、フレーム間予測において画質劣化が伝搬することを防ぐ。なお、サンプル適応オフセット処理とは、画素値に対してオフセット値を加算／減算する処理である。

図７は、特許文献１に記載の復号装置の構成図である。符号化装置が生成したビットストリームは、復号部２０においてエントロピー復号されレベル値とサイド情報が取り出される。逆量子化・逆変換部２１は、レベル値から誤差信号を生成する。この誤差信号は、当該誤差信号に対応するブロックがフレーム間予測されたものであるか、フレーム内予測されたものであるかに応じて、インター予測部２３又はイントラ予測部２４が出力する当該ブロックの予測画像と加算部２２において加算される。これにより、加算部２２は、当該ブロックを再生する。加算部２２が再生したブロックは、フレーム内予測のためにイントラ予測部２４に出力される。また、加算部２２が再生したブロックは、インループフィルタ２６にも出力される。インループフィルタ２６は、１つのフレームの総てのブロックを受け取ると、当該フレームに対応する局所復号画像を生成してフレームバッファ２５に出力する。この局所復号画像は、インター予測部２３におけるフレーム間予測に使用されると同時に、出力画像データとして出力される。

図８は、非特許文献１が開示するインループフィルタ１８及び２６に設けられるデブロッキングフィルタの構成を示している。なお、デブロッキングは、垂直方向の境界と水平方向の境界のそれぞれについて行われる。図８において奇数の参照符号を付与した構成要素は垂直方向の境界のデブロッキングを行い、偶数の参照符号を付与した構成要素は水平方向の境界のデブロッキングを行う。まず、変換ブロック境界検出部３１は、変換ブロックのサイズを示すサイド情報に基づき変換ブロックの垂直方向の境界を検出する。続いて、予測ブロック境界検出部３３は、予測ブロックのサイズを示すサイド情報に基づき予測ブロックの垂直方向の境界を検出する。なお、変換ブロックとは、変換・量子化部１１が実行する直交変換に関するブロックであり、予測ブロックとはインター予測部１５又はイントラ予測部１６が行う予測処理でのブロックである。なお、以下では変換ブロック及び予測ブロックの境界を纏めて単位に"境界"と呼ぶ。

境界強度判定部３５は、サイド情報、具体的には、イントラ予測であるかインター予測であるか、変換ブロックの境界であり、かつ、非零の直交変換係数が存在するか否か、境界を挟む２つのブロックの動きベクトルの差が閾値以上であるか否か、境界を挟む２つのブロックの動き補償の参照画像が異なるか、或いは、動きベクトルの数が異なるかに応じて境界強度を０、１、２の三段階で評価する。なお、境界強度０が最も弱く、境界強度２が最も強いものとする。フィルタ決定部３７は、処理対象の境界の境界強度と、サイド情報に含まれる量子化パラメータと、フィルタ対象画像であるデブロッキング前画像の画素値とを使用する決定基準に基づき、処理対象の境界に対してフィルタを適用するか否かと、フィルタを適用する場合には、弱フィルタを適用するか強フィルタを適用するかを決定する。フィルタ部３９は、フィルタ決定部３７の決定に従いデブロッキング前画像にフィルタを適用してデブロッキングを行う。

変換ブロック境界検出部３２、予測ブロック境界検出部３４、境界強度判定部３６及びフィルタ決定部３８での処理は、変換ブロック境界検出部３１、予測ブロック境界検出部３３、境界強度判定部３５及びフィルタ決定部３７での処理とは対象とする境界の方向が異なるのみであり再度の説明は省略する。そして、フィルタ部４０は、フィルタ決定部３８の決定に従い、フィルタ部３９が出力する垂直方向の境界に対してフィルタを適用した画像であるフィルタ対象画像にフィルタを適用してデブロッキング後画像を出力する。

図９は、垂直方向の境界を示している。なお、ｐｘｙ及びｑｘｙ（ｘ及びｙはそれぞれ０から３の整数）の各々は画素である。非特許文献１において、フィルタ種別の決定には、ｐｘ０、ｑｘ０、ｐｘ３、ｑｘ３（ここで、ｘは０から３の整数）の計１６個の画素の画素値を使用している。また、フィルタ処理は、ｐｘｙ及びｑｘｙ（ｘ及びｙはそれぞれ０から３の整数）の計３２個の画素を単位として行われる。つまり、垂直方向の境界の場合、垂直方向に４画素を単位としてフィルタを適用するか否かと、フィルタを適用する場合にはその強度が決定される。なお、弱フィルタの場合には、フィルタ処理によりｐ０ｙ及びｑ０ｙの画素の値が変更され、強フィルタの場合には、フィルタ処理によりｐ２ｙ、ｐ１ｙ、ｐ０ｙ、ｑ０ｙ、ｑ１ｙ及びｑ２ｙの画素の値が変更される。なお、水平方向の境界の場合には、図９を９０度だけ回転させて垂直方向の境界と同様の処理を行う。つまり、水平方向の境界の場合において、フィルタ種別の決定に使用される画素の位置やフィルタにより値が変更される画素の位置と境界との関係は垂直方向の境界の場合と同様である。

特許文献２は、ブロック歪を抑えるため予測ブロックが大きくなる程、境界強度を強くする構成を開示している。また、非特許文献２は、ブロック歪を抑えるため、大きなサイズのブロックが選択され難い様に符号化制御を行うことを開示している。

特開２０１４−１９７８４７号公報 特開２０１１−２２３３０２号公報

ＩＴＵ−Ｔ Ｈ.２６５ Ｈｉｇｈ Ｅｆｆｉｃｉｅｎｃｙ Ｖｉｄｅｏ Ｃｏｄｉｎｇ ＪＣＴＶＣ−Ｌ０２３２ ＡＨＧ６：Ｏｎ ｄｅｂｌｏｃｋｉｎｇ ｆｉｌｔｅｒ ａｎｄ ｐａｒａｍｅｔｅｒｓ ｓｉｇｎａｌｉｎｇ

特許文献２は予測ブロックのみを考慮するものであり変換ブロックの大きさによってはブロック歪が生じる。また、非特許文献２の構成では符号量が増加する。

本発明は、符号量を増加させることなくブロック歪を低減させる、動画像の処理装置、処理方法及びコンピュータ可読記憶媒体を提供するものである。

本発明の一側面によると、動画像の処理装置は、ブロックの境界を検出する検出手段と、前記検出手段が検出した境界の強度を判定する判定手段と、前記判定手段が判定した境界の強度に基づき、当該境界にフィルタを適用するか否かを決定する決定手段と、を備えており、前記判定手段は、境界の強度の判定に変換ブロックのサイズを使用することを特徴とする。

本発明の一側面によると、動画像の処理装置は、動画像の処理装置であって、ブロックの境界を検出する検出手段と、前記検出手段が検出した境界にフィルタを適用するか否かを決定する決定手段と、を備えており、前記決定手段は、境界が変換ブロックの境界であり、かつ、当該境界の両側の変換ブロックのうちの少なくとも１つの変換ブロックの当該境界と同じ方向のサイズが第１閾値以上であると、当該境界にフィルタを適用すると決定することを特徴とする。

本発明の一側面によると、処理装置における動画像の処理方法は、ブロックの境界を検出する検出ステップと、前記検出ステップで検出した境界の強度を判定する判定ステップと、前記判定ステップで判定した境界の強度に基づき、当該境界にフィルタを適用するか否かを決定する決定ステップと、を含み、前記判定ステップにおいては、境界の強度の判定に変換ブロックのサイズを使用することを特徴とする。

本発明の一側面によると、処理装置における動画像の処理方法は、ブロックの境界を検出する検出ステップと、前記検出ステップで検出した境界にフィルタを適用するか否かを決定する決定ステップと、を含み、前記決定ステップにおいては、境界が変換ブロックの境界であり、かつ、当該境界の両側の変換ブロックのうちの少なくとも１つの変換ブロックの当該境界と同じ方向のサイズが第１閾値以上であると、当該境界にフィルタを適用すると決定することを特徴とする。

本発明によると、符号量を増加させることなくブロック歪を低減させることができる。

一実施形態によるデブロッキングフィルタの構成図。 一実施形態によるデブロッキングフィルタの構成図。 強フィルタのフィルタ係数を示す図。 一実施形態によるフィルタ係数を示す図。 一実施形態によるフィルタ処理の説明図。 一実施形態による符号化装置の構成図。 一実施形態による復号装置の構成図。 デブロッキングフィルタの構成図。 垂直方向の境界の場合におけるフィルタ判定に使用する画素と、フィルタ対象画素の説明図。

以下、本発明の例示的な実施形態について図面を参照して説明する。なお、以下の実施形態は例示であり、本発明を実施形態の内容に限定するものではない。また、以下の各図においては、実施形態の説明に必要ではない構成要素については図から省略する。

＜第一実施形態＞
本実施形態における符号化装置及び復号装置の基本的な構成は、図６及び図７と同様であり再度の説明は省略する。また、本実施形態による符号化装置及び復号装置のインループフィルタ１８及び２６の構成は同じである。以下では、本実施形態による符号化装置及び復号装置のインループフィルタ１８及び２６に含まれるデブロッキングフィルタについて説明するが、符号化装置及び復号装置を区別することなく、纏めて、動画像の処理装置と呼ぶものとする。図１は、インループフィルタ１８及び２６に含まれるデブロッキングフィルタを示している。図１に示すデブロッキングフィルタにおいて、図８に示すデブロッキングフィルタと同様の構成要素については同じ参照符号を付与して再度の説明は省略する。また、本実施形態によるデブロッキングフィルタも、図８に示すデブロッキングフィルタと同様に、垂直方向の境界に対するフィルタ処理を行う部分（奇数の参照番号）と、水平方向の境界に対するフィルタ処理を行う部分（偶数の参照符号）があるが、処理の内容は境界の方向以外は同様であるので、以下では、垂直方向の境界のみについて説明する。

本実施形態において、境界強度判定部５５は、図８に示す従来の境界強度の判定基準に加えて、変換ブロックサイズを境界強度の判定に使用する。まず、従来の境界強度の判定基準について説明する。境界強度判定部５５は、図９に示す垂直方向の境界の一方のブロックがイントラ予測であると、境界強度を２と判定する。また、境界強度判定部５５は、境界が、変換ブロックの境界であり、かつ、非零の直交変換係数が存在すると、境界強度を１と判定する。また、境界強度判定部５５は、境界を挟む２つのブロックの動きベクトルの差の絶対値が１画素以上であると境界強度を１と判定する。また、境界強度判定部５５は、境界を挟む２つのブロックの動き補償の参照画像が異なるか、動きベクトルの数が異なると、境界強度を１と判定する。そして、境界強度判定部５５は、上記いずれにも該当しなければ境界強度を０と判定する。

本実施形態において、境界強度判定部５５は、図９に示す垂直方向の境界が変換ブロックの境界であり、かつ、少なくとも一方の変換ブロックの垂直方向のサイズが第１閾値以上であると、先に説明した従来の判定基準で判定した境界の強度に１を加え、これを最終的な境界強度として出力する。つまり、本実施形態において、境界強度判定部５５は、０〜３の境界強度のいずれかの値を出力する。例えば、この第１閾値は変換ブロックのブロック歪が目立ちやすくなる１６画素とすることができる。

フィルタ決定部３７は、境界の境界強度と、サイド情報に含まれる量子化パラメータと、デブロッキング前画像の画素値と、に基づき、フィルタの決定基準に従い、当該境界に対してフィルタを適用するか否かと、フィルタを適用する場合には、弱フィルタを適用するか強フィルタを適用するかを決定する。

ここで、決定基準においては、境界強度の値が強くなる程、フィルタを適用すると判定する確率が高くなる。より具体的には、輝度値については、境界強度が０のときにはフィルタを適用しないと判定する。一方、境界強度が１以上のときには、ｐｘ０、ｑｘ０、ｐｘ３、ｑｘ３（ここで、ｘは０から２の整数）の計１２個の画素の画素値から計算される値と、境界を構成する２つのブロックの量子化パラメータの平均値から求められる値の比較により、フィルタを適用するか否かを決定する。また、色差値については、境界強度が２以上のときにフィルタを適用すると判定する。言い換えると、決定基準においては、境界の強度の値が閾値（輝度値では１、色差値では２）以上であることを、フィルタを適用するための条件の１つとする。そして、境界の強度の値が閾値以上であると、輝度値については、さらに、ｐｘ０、ｑｘ０、ｐｘ３、ｑｘ３（ここで、ｘは０から２の整数）の計１２個の画素の画素値から計算される値が、境界を構成する２つのブロックの量子化パラメータの平均値から求められる値未満であると、フィルタを適用すると判定する。なお、色差値については、境界の強度の値が閾値以上であると、フィルタを適用すると判定する。

また、決定基準においては、境界強度が強くなる程、強フィルタを適用すると決定する確率が高くなる。具体的には、輝度値にフィルタを適用する場合、ｐｘ０、ｑｘ０、ｐｘ３、ｑｘ３（ここで、ｘは０から３の整数）の計１６個の画素の画素値に基づき６個の値を計算し、総ての値が所定基準を満たしている場合、強フィルタを適用すると決定する。この所定基準のうちの２つは、ｐ００とｑ００の差と、ｐ０３とｑ０３との差が第２閾値未満であると満たされるが、当該第２閾値は境界強度に基づき設定される。より具体的には、境界強度に基づき中間値を求める。この中間値は境界強度が強くなる程、大きい値に設定される。そして、この中間値に基づき第２閾値を求める。なお、中間値と第２閾値との関係は予め定められている。この中間値と第２閾値との関係は、中間値が第１の値のときに第２閾値が第３の値であり、中間値が第１の値より大きい第２の値のときに第２閾値が第４の値であると、第４の値は第３の値以上の値となる様に定められている。つまり、境界強度が第１の値からより大きな第２の値になると、第２閾値は第３の値から第３の値以上の値になる。そして、決定基準においては、ｐ００とｑ００の差の絶対値と、ｐ０３とｑ０３の差の絶対値が第２閾値より小さいことを、強フィルタ選択のための条件の１つとする。よって、境界強度が強くなると、強フィルタが適用される確率が高くなる。なお、色差値については１種類のフィルタが使用される。

以上、本実施形態では、境界強度の判定に、変換ブロックのサイズを使用する。より具体的には、予測ブロックの境界及び変換ブロックの境界を検出し、変換ブロックの境界の強度の判定に、当該変換ブロックのサイズを使用する。このとき、境界の両側の変換ブロックのうちの少なくとも１つの変換ブロックの当該境界と同じ方向のサイズが第１閾値以上であると、第１閾値未満である場合より当該境界の強度が強いと判定する。例えば、境界の両側の変換ブロックのうちの少なくとも１つの変換ブロックの当該境界と同じ方向のサイズが第１閾値以上であると、第１閾値未満である場合より当該境界の強度を所定値、例えば、１だけ大きくする。フィルタ決定部３７及び３８は、境界の強度を含む決定基準により当該境界にフィルタを適用するか否かを決定するが、上述した様に、境界の強度が強い程、当該境界に対してフィルタが適用される確率が高くなる。したがって、変換ブロックのサイズが第１閾値以上であると、フィルタが適用される確率が高くなりフィルタ歪が目立つことを抑えることができる。また、ブロックのサイズが大きくなることを抑えないため、符号量が増加することもない。

さらに、フィルタ決定部３７及び３８は、境界にフィルタを適用する場合、異なる強度の複数のフィルタから当該境界に適用するフィルタを決定する。なお、上述した実施形態では、異なる強度の複数のフィルタは、弱フィルタと、弱フィルタよりフィルタ強度の強い強フィルタの２種類である。しかしながら、３つ以上の異なる強度のフィルタを使用する構成とすることもできる。そして、フィルタ決定部３７及び３８は、境界の強度に基づき、当該境界に対して適用するフィルタを決定するための第２閾値を設定する。ここで、決定基準においては、境界強度が強い程、第２閾値が大きくなり、第２閾値が大きくなる程、より強いフィルタが選択される可能性が高くなる。したがって、変換ブロックのサイズが第１閾値以上であると、より強いフィルタが適用される確率が高くなりフィルタ歪が目立つことを抑えることができる。

＜第二実施形態＞
続いて、第二実施形態について第一実施形態との相違点を中心に説明する。本実施形態においては、図１の境界強度判定部５５及びフィルタ決定部３７と、境界強度判定部５６とフィルタ決定部３８を、それぞれ、図２に示す境界強度判定部６０及びフィルタ決定部６１に置換する。なお、境界強度判定部６０での処理は、図８の境界強度判定部３５と同様である。つまり、境界強度判定部６０は０〜２の境界強度を出力する。本実施形態において、フィルタ決定部６１は、境界が変換ブロックの境界であると、その対応する方向（垂直又は水平）のブロックサイズが第１閾値以上であるか否かを判定する。そして、第１閾値以上であると、強フィルタを適用すると決定する。一方、サイズが第１閾値未満であると、従来通りの方法により、フィルタ適用の有無と、適用する場合には強フィルタを適用するか、弱フィルタを適用するかを決定する。なお、この第１閾値は、第一実施形態と同様に１６画素とすることができる。

以上、本実施形態では、境界のいずれかの側の変換ブロックのサイズが第１閾値以上であると、常に、強フィルタが適用される。したがって、変換ブロックサイズが大きくてもブロック歪を抑えることができる。なお、本実施形態においてもフィルタの強度を３つ以上とすることができる。この場合には、変換ブロックサイズが第１閾値以上であると、常に、最も強いフィルタを適用する。

＜第三実施形態＞
続いて、第三実施形態について第二実施形態との相違点を中心に説明する。本実施形態の構成は第二実施形態と同様である。但し、第二実施形態においては、境界が変換ブロックの境界であり、そのサイズが第１閾値以上であると常に強フィルタを適用していた。既に説明した様に、強フィルタは、図９のｐｘｙ及びｑｘｙ（ここで、ｘは０〜２、かつ、ｙは０〜３）の画素に対して適用される。つまり、境界からの距離が３画素以下の画素に対してフィルタ処理を行う。図３は、強フィルタを適用する際のフィルタ係数を示している。例えば、画素ｐ２ｙは、画素ｐ３ｙ、ｐ２ｙ、ｐ１ｙ、ｐ０ｙ及びｑ０ｙの画素値に基づき変更される。本実施形態では、境界が変換ブロックの境界であり、そのサイズが閾値以上であると、通常の強フィルタより、フィルタを適用する画素範囲の境界からの距離を広げた他の種別のフィルタを使用する。例えば、境界が変換ブロックの境界であり、そのサイズが閾値以上であると、その適用範囲を境界から７画素まで広げる。図４は、この他の種別のフィルタのフィルタ係数の一例を示し、図４においては境界から７画素までをフィルタ対象としている。

以上、本実施形態では、変換ブロックサイズが第１閾値以上であると、境界を基準としたフィルタ適用の画素範囲を通常の強フィルタより広げる。この構成により、変換ブロックサイズが大きくてもブロック歪を抑えることができる。

＜第四実施形態＞
第一実施形態から第三実施形態においては、境界の両側に対して同様にフィルタを適用していた。本実施形態では、境界の一方の変換ブロックのサイズが第１閾値以上、例えば、１６画素以上であると、当該一方の変換ブロックに対しては、第一実施形態から第三実施形態のいずれかの処理に従いフィルタを決定し、他方のブロックについては従来通りの方法で決定したフィルタを適用する。例えば、図５に示す様に、処理対象の境界の右側の変換ブロックのサイズが第１閾値以上であり、当該境界の左側の変換ブロックのサイズが第１閾値未満であるする。第一実施形態の方法を適用すると、境界強度判定部５５は、境界の左側の変換ブロックの画素に対するフィルタの有無やフィルタ種別を決定するための第１強度と、境界の右側の変換ブロックの画素に対するフィルタの有無やフィルタ種別を決定するための第２強度とをそれぞれ決定する。なお、第一実施形態によると、第２強度は、第１強度に１を加えた値である。また、第二実施形態の方法を適用すると、フィルタ決定部６１は、境界の左側の変換ブロックの画素に対するフィルタの有無やフィルタ種別は従来技術の方法に従い決定し、境界の右側の変換ブロックの画素には強フィルタを適用すると決定する。さらに、第三実施形態の方法を適用すると、フィルタ決定部６１は、境界の左側の変換ブロックの画素に対するフィルタの有無やフィルタ種別は従来技術の方法に従い決定し、境界の右側の変換ブロックの画素には境界からの距離範囲を広げたフィルタを適用すると決定する。

これにより、適用するフィルタ強度や、その範囲を第１閾値以上の変換ブロックに限定でき、フィルタ処理負荷の増加を抑制できる。

なお、本発明による処理装置、つまり、符号化装置又は復号装置は、コンピュータを上記処理装置として動作させるプログラムにより実現することができる。これらコンピュータプログラムは、コンピュータが読み取り可能な記憶媒体に記憶されて、又は、ネットワーク経由で配布が可能なものである。

３１、３２：変換ブロック検出部、３３、３４：予測ブロック検出部、５５、５６：境界強度判定部、３７、３８：フィルタ決定部

Claims (14)

1. 動画像の処理装置であって、
   ブロックの境界を検出する検出手段と、
   前記検出手段が検出した境界の強度を判定する判定手段と、
   前記判定手段が判定した境界の強度に基づき、当該境界にフィルタを適用するか否かを決定する決定手段と、
   を備えており、
   前記判定手段は、境界の強度の判定に変換ブロックのサイズを使用することを特徴とする処理装置。
2. 前記検出手段は、予測ブロックの境界及び変換ブロックの境界を検出し、
   前記判定手段は、変換ブロックの境界の強度の判定に、当該変換ブロックのサイズを使用することを特徴とする請求項１に記載の処理装置。
3. 前記判定手段は、境界の両側の変換ブロックのうちの少なくとも１つの変換ブロックの当該境界と同じ方向のサイズが第１閾値以上であると、前記第１閾値未満である場合より当該境界の強度が強いと判定することを特徴とする請求項２に記載の処理装置。
4. 前記判定手段は、境界の両側の変換ブロックの内の一方の変換ブロックの当該境界と同じ方向のサイズが前記第１閾値以上であり、かつ、他方の変換ブロックの当該境界と同じ方向のサイズが前記第１閾値未満であると、前記一方の変換ブロック内の画素に適用するフィルタを前記決定手段が決定するために使用する強度と、前記他方の変換ブロック内の画素に適用するフィルタを前記決定手段が決定するために使用する強度とを、それぞれ判定することを特徴とする請求項３に記載の処理装置。
5. 前記決定手段は、境界の強度を含む決定基準により当該境界にフィルタを適用するか否かを決定し、
   前記決定基準においては、境界の強度が所定値より強いことを、当該境界に対してフィルタを適用するための条件の１つとすることを特徴とする請求項１から４のいずれか１項に記載の処理装置。
6. 前記決定手段は、境界にフィルタを適用する場合、異なる強度の複数のフィルタから当該境界に適用するフィルタを決定し、
   前記決定基準においては、境界の強度に基づき、当該境界に対して適用するフィルタを決定するための第２閾値を決定することを特徴とする請求項５に記載の処理装置。
7. 前記決定手段は、境界にフィルタを適用する場合、第１強度のフィルタ又は前記第１強度のフィルタより強い第２強度のフィルタから当該境界に適用するフィルタを決定し、
   前記決定基準においては、境界の強度と第２閾値との関係に基づき第２閾値を設定し、当該境界の一方のブロックの所定画素と当該境界の他方のブロックの所定画素の差の絶対値が前記第２閾値より小さいことを前記第２強度のフィルタを選択するための条件の１つとし、
   前記境界の強度と第２閾値との関係は、境界の強度が第１の値から当該第１の値より強い第２の値になると、第２閾値は第３の値から当該第３の値以上の値になる関係であることを特徴とする請求項６に記載の処理装置。
8. 動画像の処理装置であって、
   ブロックの境界を検出する検出手段と、
   前記検出手段が検出した境界にフィルタを適用するか否かを決定する決定手段と、
   を備えており、
   前記決定手段は、境界が変換ブロックの境界であり、かつ、当該境界の両側の変換ブロックのうちの少なくとも１つの変換ブロックの当該境界と同じ方向のサイズが第１閾値以上であると、当該境界にフィルタを適用すると決定することを特徴とする処理装置。
9. 前記決定手段は、
   境界にフィルタを適用する場合、複数の異なる強度のフィルタから当該境界に適用するフィルタを決定し、
   境界が変換ブロックの境界であり、かつ、当該境界の両側の変換ブロックのうちの少なくとも１つの変換ブロックの当該境界と同じ方向のサイズが前記第１閾値以上であると、当該境界に、前記複数の異なる強度のフィルタの内の最も強度の強いフィルタを適用すると決定することを特徴とする請求項８に記載の処理装置。
10. 前記決定手段は、境界が変換ブロックの境界であり、かつ、当該境界の両側の変換ブロックのうちの少なくとも１つの変換ブロックの当該境界と同じ方向のサイズが前記第１閾値以上である場合には、前記第１閾値未満である場合より、当該境界に適用するフィルタが対象とする画素領域の当該境界からの距離を広げることを特徴とする請求項８に記載の処理装置。
11. 前記決定手段は、境界が変換ブロックの境界であり、かつ、当該境界の両側の変換ブロックのうちの一方の変換ブロックの当該境界と同じ方向のサイズが前記第１閾値以上であり、かつ、他方の変換ブロックの当該境界と同じ方向のサイズが前記第１閾値未満であると、前記一方の変換ブロック内の画素に適用するフィルタと、前記他方の変換ブロック内の画素に適用するフィルタを異ならせることを特徴とする請求項９又は１０に記載の処理装置。
12. 処理装置における動画像の処理方法であって、
    ブロックの境界を検出する検出ステップと、
    前記検出ステップで検出した境界の強度を判定する判定ステップと、
    前記判定ステップで判定した境界の強度に基づき、当該境界にフィルタを適用するか否かを決定する決定ステップと、
    を含み、
    前記判定ステップにおいては、境界の強度の判定に変換ブロックのサイズを使用することを特徴とする処理方法。
13. 処理装置における動画像の処理方法であって、
    ブロックの境界を検出する検出ステップと、
    前記検出ステップで検出した境界にフィルタを適用するか否かを決定する決定ステップと、
    を含み、
    前記決定ステップにおいては、境界が変換ブロックの境界であり、かつ、当該境界の両側の変換ブロックのうちの少なくとも１つの変換ブロックの当該境界と同じ方向のサイズが第１閾値以上であると、当該境界にフィルタを適用すると決定することを特徴とする処理方法。
14. 請求項１から１１のいずれか１項に記載の処理装置としてコンピュータを機能させるプログラムを有することを特徴とするコンピュータ可読記憶媒体。

Images