JP2010516082A - 適応フィルタ表現 - Google Patents

適応フィルタ表現 Download PDF

Info

Publication number
JP2010516082A
JP2010516082A JP2009544821A JP2009544821A JP2010516082A JP 2010516082 A JP2010516082 A JP 2010516082A JP 2009544821 A JP2009544821 A JP 2009544821A JP 2009544821 A JP2009544821 A JP 2009544821A JP 2010516082 A JP2010516082 A JP 2010516082A
Authority
JP
Japan
Prior art keywords
filter
group
property value
gain
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009544821A
Other languages
English (en)
Other versions
JP5425640B2 (ja
Inventor
ケニース アンデション,
リカルド シェーベリ,
Original Assignee
テレフオンアクチーボラゲット エル エム エリクソン(パブル)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by テレフオンアクチーボラゲット エル エム エリクソン(パブル) filed Critical テレフオンアクチーボラゲット エル エム エリクソン(パブル)
Publication of JP2010516082A publication Critical patent/JP2010516082A/ja
Application granted granted Critical
Publication of JP5425640B2 publication Critical patent/JP5425640B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/192Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding the adaptation method, adaptation tool or adaptation type being iterative or recursive
    • H04N19/194Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding the adaptation method, adaptation tool or adaptation type being iterative or recursive involving only two passes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)

Abstract

本発明は、画素ブロック(12)のイントラ予測又はインター予測において使用されるフィルタ処理を教示する。第1のフィルタ、オプションとして第1の補間フィルタは、第1のフィルタ処理において適用され、フィルタリングされ且つオプションとして補間された画素値(11、21、23、25、27)を得る。差分フィルタ及び適応利得は、予測性能を向上するために第2の処理において利用される。利得の適応はブロック毎に行なわれ、画素予測の微同調、並びに/あるいは画素の回転及び倍率変更の微同調を可能にする。あるいは、補間フィルタ、差分フィルタ及び適応利得を使用する組み合わされた1ステップフィルタ処理が画素値に適用される。
【選択図】図1

Description

本発明は、一般に画像処理に関し、特に、ビデオに適用可能なインター予測及びイントラ予測、並びにビデオ符号化において有用なフィルタ表現に関する。
時間的冗長及び空間的冗長は、予測を使用して利用され、ビデオ信号のコンパクト表現を可能にする。画素予測は、H.261、H.263、MPEG−4及びH.264非特許文献1等のビデオ符号化規格の重要な一部である。H.264において、3つの画素予測方法、すなわち、イントラ予測、インター予測及び双方向予測が使用される。イントラ予測は、現在のフレームの先に復号化された画素からの現在のブロックの空間予測を提供する。インター予測は、基準ブロック等の先に復号化されたフレームの対応する変位ブロックを使用して現在のブロックの時間的予測を与える。双方向予測は、2つのインター予測の加重平均を与える。
H.264のインター予測方法は、動き推定において非正数画素解像度を達成できる。フィルタタップ[1 -5 20 20 -5 1]/32を有する固定の1/2画素フィルタは、初期1/2画素解像度を取得するためにまず適用可能である。双線形フィルタは、全画素サンプル及び1/2画素サンプルに適用され、1/4画素解像度を達成する。H.264において使用されるこれらの非正数画素補間フィルタは固定であり、これは符号化される特定のブロックに関係なく同一のフィルタタップが使用されることを示す。
例えば適応補間フィルタを採用することによりインター予測を改善するために、数年にわたり多くの技術が提案されてきた。そのような方法は、まず符号化される画像ブロック毎に固定のH.264補間フィルタを使用して変位ベクトルを判定することにより提案された。その後、取得した変位ベクトルを使用して、分離可能な6タップ適応フィルタの適応フィルタ係数の計算が行なわれる。その結果、3つの水平適応補間フィルタ及び12個の垂直適応補間フィルタが予測誤差の最小化により計算される。
ITU-T Rec. H.264/ISO/IEC MPEG 14496-10, 2003 ITU-T SG16, Multimedia terminals, systems and applications, Study Period 2005-2008, Study group 16, Contribution 210「Separable adaptive interpolation filter」 Y.Vatis及びJ.Ostermanによる「H.264/AVCのための局所適応非分離補間フィルタ(Locally adaptive non-separable interpolation filter for H.264/AVC)」ICIP 2006 T.Wediによる「動き及びエイリアシング補償フィルタリングのための適応補間フィルタ(Adaptive interpolation filter for motion and aliasing compensated filtering)」VCIP 2002 ITU-Telecommunications Standardization Sector, VCEG-AG05「Adaptive Multidirectional intra prediction」
適応補間フィルタの導入により非正数画素解像度のインター予測が改善されたが、依然として画像/ビデオ符号化及び復号化における性能を更に改善する必要がある。
本発明の全体的な目的は、画像/ビデオ符号化において使用するためのフィルタの適応表現を提供することである。
本発明の特定の目的は、差分フィルタ及び適応フィルタ利得を利用して補間フィルタの適応を提供することである。
本発明の更に別の特定の目的は、差分フィルタ及び適応フィルタ利得を利用して整形フィルタ適応を提供することである。
これらの目的及び他の目的は、添付の請求の範囲により規定される本発明により達成される。
簡単に説明すると、本発明は、補間フィルタ等の従来の画素フィルタに加えて差分フィルタ及び適応フィルタ利得を利用することにより適応フィルタ表現を提供することを含む。この差分フィルタ及び適応利得は、ブロック符号化及び復号化において、特に符号化及び復号化で実行されるブロックのイントラ予測及びインター予測において画素をフィルタリングするために第2のフィルタリング処理において利用される。更に差分フィルタ及び適応フィルタ利得は、単一のフィルタ処理において複合適応フィルタを形成するために画素フィルタと共に使用される。
変位ベクトル又はイントラ予測方向等のパラメータ表現は、符号化されるブロック中の少なくとも一部の画素値に基づいて推定される。変位表現により、現在のフレーム又は別の基準フレームの基準ブロック又は画素のグループの識別が可能になる。この基準ブロックの画素値は、第1のフィルタリング処理において、補間フィルタであるのが好ましい少なくとも1つのフィルタによりフィルタリングされてもよい。この第1のフィルタ処理のフィルタは、一般に固定フィルタ又はフレーム別フィルタであり、これは、1つの同一のフィルタ又は同一のフィルタセットが所定の変位ベクトルを有する現在のフレームの全てのブロックを符号化するために利用されることを示す。
合計でゼロ又は少なくともほぼゼロになるフィルタ係数を有する差分フィルタが現在のブロックに提供される。スライス別又はマクロブロック別の差分フィルタのような更に高精度な適応も可能であるが、このフィルタも固定であるか又はフレーム別である。特定の一実施形態において、差分フィルタの少なくとも中央部分は、第1のフィルタ処理からのフィルタの非対称差分微分フィルタである。
第2のフィルタ処理の高精度な適応は、適応フィルタ利得を利用することにより得られる。利得は、ブロック別であるのが好ましいが、画素別であってもよい。第2のフィルタは、差分フィルタ及び適応フィルタ利得に基づいて計算される。フィルタは、第1の処理の基準画素値又は補間画素値に適用され、現在のブロックの最終予測を取得する。
別の例は、第1のフィルタ、差分フィルタから単一の複合フィルタを生成し、その単一のフィルタを適用して予測を取得することである。単一のフィルタは、第1のフィルタ及び差分フィルタを合計することにより又はフィルタの畳み込みを行ない且つその結果を第1のフィルタに加算することにより構成される。
残留誤差は、ブロック及びブロック予測の画素値の差分に基づいて計算される。ブロックの符号化表現は、変位表現と共にその残留誤差を含む。
ブロック復号化において、変位表現は、フィルタリングされた画素値を得るために画素値がフィルタ処理において処理される基準ブロックを識別するために使用される。復号化ブロック表現は、フィルタリングされた画素値及び残留誤差に基づいて取得される。
本発明は、更に符号器及び復号器に関する。
本発明は、添付の図面と共に以下の説明を参照することにより、本発明の更なる目的及び利点と共に最もよく理解されるだろう。
本発明に係るブロック符号化方法を示すフローチャートである。 フレームのビデオシーケンスを示す概略図である。 画像要素及び補間された副画素画像要素のブロックを示す図である。 ビデオシーケンスの1つのフレームを示す概略図である。 副画素解像度にイントラ符号化された画像要素のブロックを示す図である。 図1のフィルタ提供ステップ、差分フィルタ提供ステップ及びフィルタ利得判定ステップの一実施形態を更に詳細に示すフローチャートである。 図1の差分フィルタ提供ステップの一実施形態を更に詳細に示すフローチャートである。 本発明の一実施形態に係る微同調副画素補間を示す図である。 本発明に係るブロック復号化方法を示すフローチャートである。 本発明の一実施形態に係るブロック復号化方法のフィルタリングステップを示すフローチャートである。 本発明の別の実施形態に係るブロック復号化方法のフィルタリングステップを示すフローチャートである。 本発明のブロック符号器の一実施形態を示す概略ブロック図である。 本発明のブロック符号器の別の実施形態を示す概略ブロック図である。 図13の差分フィルタ提供器を更に詳細に示す概略ブロック図である。 本発明のブロック復号器の一実施形態を示す概略ブロック図である。
図中、同一の図中符号は対応する要素又は類似する要素に対して使用される。
本発明は、一般に画像処理に関し、特に、画像又はビデオシーケンスのフレームの画素ブロックの符号化及び復号化に関連して有用な適応フィルタリング処理に関する。本発明の適応フィルタリング処理は、インター予測又はイントラ予測を改善し、インループ又はポストフィルタリングによる最終的な再構成を改善し且つ/又はレート歪み性能を改善するために、適応利得パラメータ及び差分フィルタを利用する。本発明の適応フィルタリングは、改善された1ステップ又は2ステップフィルタリング処理を形成するために、イントラ予測及びインター予測、あるいはインループ又はポストフィルタリングにおいて利用される従来の補間フィルタリング及び画素フィルタリングと関連して適用可能である。
更に本発明は、従来の適応補間フィルタの表現を基準補間フィルタ及び適応フィルタ利得を有する1つ以上の基本差分フィルタで示す。差分フィルタのいくつかの例は、基準補間フィルタを変位させることを主な目的とする差分フィルタ、補間フィルタを対称的に整形することを主な目的とする差分フィルタ及び補間フィルタを非対称的に整形することを主な目的とする差分フィルタである。補間フィルタの基本変更部分への分離は、補間フィルタの局所表現及び大域表現の双方に適する。
本発明において、ビデオシーケンスは、複数、すなわち少なくとも2つのフレーム又はピクチャを含む。そのようなフレームは、一連の1つ以上のスライスから構成されると考えられる。ここで、スライスは画像要素又は画素の1つ以上のマクロブロックから構成される。本発明において、表現「画像要素」は、ビデオシーケンスのフレーム又はピクチャの最小要素を示すために使用される。そのような画像要素は、色(赤色、緑色、青色、すなわちRGB空間)又は輝度(Y)及び色差(Cr、Cb又はU、Vで示される場合もある)等の関連する画像要素プロパティを有する。画像要素の一般的な例は、フレーム又はピクチャの画素である。
画像要素は、画像要素のグループに編成される。表現「画像要素のグループ」は、復号化及び符号化中に共に処理される画像要素の集合へのフレーム及びフライスの任意の従来の周知の区分を示す。一般に、そのようなグループは、画像要素の矩形(M×N)グループ又は正方形(M×M)グループである。そのようなグループ化の一例は、ビデオ圧縮規格のマクロブロックである。一般にマクロブロックは、16×16の画像要素のサイズを有する。マクロブロックは、16×8、8×16、8×8、8×4、4×8及び4×4の画像要素等の複数のいわゆるサブマクロブロック区分から構成される。8×8のサブマクロブロック区分はサブマクロブロック又はサブブロックと示されることが多く、4×4の区分はブロックと示されることが多い。
図1は、本発明に係る画像又はビデオシーケンスのフレームの画像要素のグループを符号化する方法を示すフローチャートである。第1のステップS1は、画像要素の基準グループと関連付けられるか又は画像要素の基準グループを指し示すパラメータ表現又は変位表現を推定する。この画像要素の基準グループ又はより正確には基準プロパティ値は、現在のブロックの画像要素のプロパティ値の符号化において使用される。
パラメータ表現は、グループのインター符号化を実行する目的でビデオシーケンスの別のフレーム又は基準フレームの基準グループを参照できる。そのような変位表現は、例えばビデオシーケンスの直前のフレームi-1を現在のフレームiのグループに対する基準フレームとして使用して事前定義されていない限り、基準フレームの識別子を含む。更に表現は、画像要素の現在のグループがフレームにおいて占有する対応グループ位置に対する基準フレームの基準グループの位置を判定するいわゆる変位ベクトル又は動きベクトルを含む。一般に推定は、非特許文献1から4において説明されるような従来技術に従って行なわれるパラメータ推定を実行することを含む。簡単に説明すると、候補基準フレームの複数の候補基準グループは、候補基準グループのうち、符号化される現在のグループの画像要素プロパティ値とある意味で最も一致する画像要素プロパティ値を有する基準グループを判定するために調査される。このグループ探索において使用される誤差基準は、候補グループ及び現在のグループのプロパティ値の絶対値誤差和(SAD)又は平方誤差和(SSD)であってもよい。
あるいは、パラメータ表現は、イントラ符号化の場合に現在のグループと同一フレームの画像要素の基準グループを参照できる。イントラ符号化は、種々の予測方向と関連付けられる種々の予測モードに従って実行される。そのような場合、変位表現は、利用可能な予測モード又は方向の1つを規定する。推定は、非特許文献1及び5において開示されるような周知の技術に従って実行される。簡単に説明すると、レート歪み最適化技術は、画像要素の現在のグループのプロパティ値に基づいて、ある意味で最適なレート歪み性能を与えるイントラ予測を判定するために使用される。
次のステップS2は、識別された基準グループの画像要素の少なくとも一部分の適切な値に適用可能なフィルタ又はフィルタのセットを提供する。本発明の好適な一実施形態において、提供されたフィルタ又は提供されたセットのフィルタは、いわゆる補間フィルタである。そのような補間フィルタは、副画素プロパティ値又は非正数画素プロパティ値を取得するために画像要素に適用可能である。例えば1つ以上の補間フィルタは、1/2画素解像度、1/4画素解像度又は1/8画素解像度を取得するために基準グループのプロパティ値のセットに適用される。画素補間を利用することにより、イントラ予測又はインター予測において全画素値に制限される場合と比較して更に正確な基準プロパティ値が利用できる。従来技術において周知のように、第1の補間フィルタは、1/2画素解像度等の第1のレベルの副画素解像度を取得するために提供される。双線形フィルタ等の第2の補間フィルタは、1/4画素解像度等の第2のレベルの副画素解像度を取得するために、1/2画素の画素値及びその隣接する全画素値に適用される。
ステップS2で提供される補間フィルタは、H.264で利用される補間フィルタ等の固定フィルタであってもよい。H.264において、フィルタ係数[1 -5 20 20 -5 1]/32を有するフィルタは、まず1/2画素値を取得するために適用され、その後[1 -5 52 20 -5 1]/64又は[1 -5 20 52 -5 1]/64等の1/4画素解像度に対する双線形フィルタが適用される。あるいは、非特許文献2から4に開示されるように、適応補間フィルタが利用されてもよい。そのような場合、適応フィルタはフレーム毎又はスライス毎に判定される。提供ステップS2は、現在のブロックが属するフレームに対して先に判定された適応フィルタを再利用することを含む。あるいは、提供ステップS2は、適応フィルタのフィルタ係数を計算することを含む。これについては、本明細書において更に説明する。
適応フィルタの場合、フィルタ係数は、候補フィルタによりフィルタリングされたプロパティ値とフレーム又はスライスの元のプロパティ値との間の予測誤差を最小にすることを含むパラメータ化手順において判定される。ステップS2において、SAD又はSSD等の最小誤差を結果として与える候補フィルタが選択されて使用される。
ステップS2で提供されるフィルタは、必ずしも補間フィルタである必要はなく、周波数応答の整形等、副画素解像度の取得以外の目的で利用可能である。
ステップS2で提供されるフィルタが分離不可能な(2次元)フィルタであること、すなわち垂直方向及び水平方向双方にフィルタリングすることが、本発明により考慮される。あるいは、ステップS2において分離可能な垂直フィルタ及び水平フィルタが提供される。これについては以下に更に説明する。
次のステップS3は、少なくとも1つの差分フィルタを提供する。従来技術において周知のように、差分フィルタのフィルタ係数の合計は、ゼロであるか又は少なくともほぼゼロである。差分フィルタは、インター/イントラ予測を更に改善するために又はより適切なレート歪み性能を取得するために、第2のフィルタ処理又は複合フィルタ処理において使用されてもよい。
第1の好適な実施形態において、提供された差分フィルタは非対称差分フィルタである。そのような非対称フィルタは、ステップS2で提供された補間フィルタのフィルタ係数の微調整を実行するために利用される。図8は、この概念を概略的に示す。図中、元のフィルタタップを実線40で示す。非対称差分フィルタに基づく第2のフィルタ処理は、タップ位置を陰影線50で示す位置に僅かに移動すると考えられる。そのような補間の微同調は、現在のブロックのプロパティ値の表現として使用される完全に一致する基準プロパティ値を取得する際に大きな影響を及ぼす。
第1のフィルタがフィルタタップ[1 -5 20 52 -5 1]/64を有する場合、H.264における1/4画素補間に使用されるフィルタに対応して、非対称差分フィルタのフィルタタップは[-1 5 -20 12 5 -1]/16となる。利得を変更することにより、例えば対応する単一フィルタのフィルタタップは、利得が0.25である場合、すなわちフィルタリングが全く行なわれない場合の[0 0 0 1 0 0]と利得が−0.25の場合のH.264の1/2画素フィルタとの間で変動する。
別の好適な実施形態において、提供される差分フィルタは対称差分フィルタである。そのような対称差分フィルタは、補間フィルタの周波数応答を整形するために整形フィルタ又は整形フィルタの構成要素として使用される。この補間の周波数応答の微同調は、現在のブロックのプロパティ値の表現として使用される完全に一致する基準プロパティ値を取得する際に大きな影響を及ぼす。この差分フィルタのフィルタタップは、整形フィルタがより平坦になるように又はより変動するように選択される。第1のフィルタがフィルタタップ[1 -5 20 20 -5 1]/32を有する場合、すなわちH.264の1/2画素補間フィルタである場合、対称差分フィルタのフィルタタップは[0 1 -1 -1 1 0]である。利得を変更することにより、対応する単一フィルタのフィルタタップは、例えば利得が0.25の場合の[1 3 12 12 3 1]/32と利得が−0.25の場合の[1 -13 28 28 -13 1]/32との間で変動する。
更なる一実施形態において、提供された差分フィルタは非対称差分フィルタである。そのような非対称差分フィルタは、補間フィルタの周波数応答を整形するために整形フィルタ又は整形フィルタの構成要素としても使用される。この補間の周波数応答の微同調は、現在のブロックのプロパティ値の表現として使用される完全に一致する基準プロパティ値を取得する際に大きな影響を及ぼす。差分フィルタのフィルタタップは、整形フィルタの一方側がより平坦になり且つ他方側がより変動するように又はその逆となるように選択される。第1のフィルタがフィルタタップ[1 -5 20 20 -5 1]/32を有する場合、すなわちH.264の1/2画素補間フィルタである場合、非対称差分フィルタのフィルタタップは[-1 1 0 0 -1 1]である。利得を変更することにより、対応する単一フィルタのフィルタタップは、例えば利得が−1/32の場合の[2 -6 20 20 -4 0]/32と利得が1/32の場合の[0 -4 20 20 -6 2]/32との間で変動する。この例において分かるように、フィルタの長さは6タップから5タップに変更可能である。
ステップS2で提供された(補間)フィルタは、一般に固定フィルタ(固定フィルタセット)であるか、あるいはフレーム毎又はスライス毎に適応される。更に差分フィルタは固定されるか、あるいはフレーム毎又はスライス毎に計算される。しかし、本発明は、差分フィルタがマクロブロックレベル又はブロックレベル等のより低いレベルで判定されることを更に考慮する。また、種々の差分フィルタは画像要素のグループの異なるフィルタリング位置に基づいて判定され、予測されるブロック内の画素部分に対応して適応性を取得する。しかし、好適な一実施形態において、第2のフィルタリング処理の適応性は、単独で使用されるか又は少なくとも多くの場合適応フィルタ利得と共に使用される。
次のステップS4は、ステップS3で提供された差分フィルタに適用可能なフィルタ利得又はステップS3からの差分フィルタに基づいて取得可能なフィルタを判定する。フィルタ利得は、差分フィルタ、符号化されるグループのプロパティ値、ステップS2で提供されたフィルタ及び基準プロパティ値に基づいて判定される。フィルタ利得gは、以下のように定義される予測誤差Eを最小にすることに基づいて判定又は推定される適応利得gであるのが好ましい:
Figure 2010516082
式中、Snは現在のフレームの画素グループnのプロパティ値を表し、Pn-iは基準フレームの基準グループn-iの画素の基準プロパティ値である。IFはステップS2で提供された(補間)フィルタであり、DFは差分フィルタであり、gはフィルタ利得である。尚、フィルタ利得gの判定後、適応フィルタのフィルタタップは算出され、フィルタリングは単一のフィルタリング処理により記述される。
利得は、以下の式に基づいて誤差を最小にすることにより取得される:
Figure 2010516082
この結果、未知の利得数に対応する数の一次方程式が得られ、以下のように書くことができる:
Ax = b
式中、xは未知の利得に対応し、Aは対応する差分フィルタにより「事前にフィルタリングされた」基準画像要素値の自己相関行列に対応し、bは基準画像要素値と元の画像要素値(基準補間フィルタからの寄与の除去後)との間の相互相関ベクトルである。xを判定する標準的な解決策が使用される。
フィルタ利得は、補間されるフレームの特定のサブセットに対して判定されるのが好ましい。また、マクロブロック毎又はブロック毎にフィルタ利得を判定でき、画像要素位置又は局所画像値に基づいて種々の利得を有することができる。例えば、基本利得は画像要素のグループに対して判定される。位置別のオフセットは、グループの行又は列に沿って移動する際の利得に適用される。そのような場合、利得は以下のように定義される:
g(x) = xkx + gx
g(y) = yky + gy
あるいは
g(x, y) = xkx + yky + g
式中、kx、kyは定数であり、x、yはグループの画像要素位置を参照し、gx、gy、gはグループに対する基本利得値である。 簡単に上述したように、画像要素のグループにおいて水平方向及び垂直方向等の異なるフィルタ方向が存在する可能性がある。そのような場合、線L1により概略的に示されるように、少なくとも1つのフィルタ、少なくとも1つの差分フィルタ及び少なくとも1つのフィルタ利得が方向毎に提供及び判定される。
尚、本発明を使用して基準補間フィルタを以下のように表せる:
g1 × [0 1 1 1 1 0] + g2 × [1 0 0 0 0 1] + g3 × [0 0 1 -1 0 0] + g4 × [0 1 -1 -1 1 0]
g1 = 7.5、g2 = 1、g3 = 0、g4 = -12.5の場合、H.264の1/2画素補間フィルタ[1 -5 20 20 -5 1]が達成される。このように、複数の利得及び複数の差分フィルタが画像要素の現在のブロックに対して判定及び使用される。
次のステップS5は、現在のブロックのプロパティ値、基準プロパティ値、パラメータ表現、ステップS2で提供されたフィルタ、ステップS4で判定された利得及びステップS3からの差分フィルタ又はその差分フィルタから取得可能なフィルタに基づいて残留誤差を計算する。計算は、以下に定義されるように行なわれる:
Figure 2010516082
式中、ex,yは現在のグループの画像要素位置x,yにおける残留誤差であり、Sx,yは位置x,yにおける画像要素のプロパティ値であり、
Figure 2010516082
は現在のブロックの予測の位置x,yにおける画像要素のプロパティ値である。この予測は、基準グループの画像要素プロパティ値のフィルタリングを介して取得される。
現在のグループは、変位表現の表現及び残留誤差の表現としてステップS6において符号化される。
再構成フレームが生成された後、最適なインループフィルタ又はポストフィルタは、オプションとして判定され且つ再構成フレームに適用される。この場合、最小二乗最適化は元のフレームと本発明によりフィルタリングされる再構成との間で実行される。判定されたパラメータは復号器に送信される。
更に、ステップS2からのフィルタの表現、ステップS3からの差分フィルタの表現及び/又はステップS4からのフィルタ利得の表現を提供できる。しかし、最も一般的な面において、それらの表現は現在の符号化ブロックを復号化する復号器により必要とされない場合がある。例えば、ステップS2からのフィルタが固定フィルタであるため、復号器はフィルタのフィルタ係数により事前に符号化される。あるいは、フィルタ係数は、同一フレーム又はスライスの複数のグループ間で再利用されるため、フレーム毎又はスライス毎に提供される。更に、復号器は先に復号化された画素値に基づいてフィルタ、差分フィルタ及びフィルタ利得の少なくともいずれかを計算できるため、専用情報の送信は必要ない。
例えば、第2のフィルタ処理の利得は差分フィルタの出力により制御可能である。これにより、第2のフィルタ処理は、利得の適応性を介して局所コントラストに対して適応可能になり、強い画像エッジに対する弱いフィルタリング及び弱いエッジに対する強いフィルタリングを可能にする。その後、方法は終了する。
図2は、複数の画像フレーム10、20を含むビデオシーケンス1を示す概略図である。各フレームは、16×16画素16のマクロブロック12等のマクロブロック12を含む。マクロブロック12は、4×4画素ブロック14等のより小さな要素に分割される。図2は、インター符号化の場合の変位ベクトルの概念を更に示す。符号化される画素16の現在のブロック14は、動き補償予測手順において推定される割当て変位ベクトル30を有する。ベクトル30は、ビデオシーケンスの基準フレーム20の画素の基準ブロック24を指し示す。
図3は、基準フレームの基準ブロック24の画素値及び基準フレームの隣接ブロックのいくつかの値を示す。図3は、全画素の画素値に基づいて1/2画素値及び1/4画素値の補間の概念を示す。図中、全画素値は大文字で示され、副画素値は小文字で示される。
示される図において、6タップ補間フィルタを仮定する。第1の実施形態において、そのようなフィルタはまず行毎に適用され、値b1、b2、b、b4〜b6を計算する。同一フィルタ又は別の補間フィルタが列毎に適用され、値d1、d2、h及びkを取得する。このフィルタは、b1、b2、b、b4〜b6により形成される列において使用され、jを計算する。それらの全ての値は、1/2画素値である。双線形フィルタは、既に計算された1/2画素位置及び既存の全画素位置において適用され、1/4画素値a、c、d、e、g、l、m、o、a4及びc4を得る。
あるいは、1/2画素21及び1/4画素23の値a、b及びcを計算するために、3つの別個の6タップ水平フィルタが使用され且つC1からC6に適用される。同一の水平フィルタは更に行に適用され、値ai、bi及びciを取得するのが好ましい。ここで、i = 1, 2, 4, 5, 6である。12個の垂直補間フィルタは、列A3〜F3、a1〜a6、b1〜b6、c1〜c6において適用され(列毎に3つのフィルタ)、残りの1/2画素25及び1/4画素27の値を計算できる。画素値C3、a〜oにより形成されるブロックは、現在のブロックの補間予測を形成する。この補間予測は、本発明に従って差分フィルタ及び適応利得を利用して第2のフィルタ処理において更に処理される。
第1のフィルタ処理(補間)に後続する現在のブロックの予測は、いくつかの全画素値及び可能性として種々の分数レベルのいくつかの副画素値を含んでもよいことが図3から明らかである。
図4は、複数の画素ブロック14、18を有する画像フレーム10の一部分を示す概略図である。イントラ予測において、基準グループは、同一フレーム10の1つ以上の隣接ブロック18の画素から構成される。画素値が取り出される隣接ブロック18は、現在のブロック14に割り当てられた変位表現に依存する。図5は、イントラ補間と共にその概念を示す。この場合、ブロック14の画素16の画素値の予測は、現在のブロックの斜め上に位置するブロックの補間値11である。ベクトル40は、イントラ予測において使用される予測方向を示す。そのような場合、以下の表Iに従って、利用可能なイントラ予測及び変位表現の種々のセットが存在してもよい。
Figure 2010516082
表Iに一覧表示される数字は、水平軸に対するイントラ予測ベクトル40の角度45を示す。セット1〜4のイントラ予測方向の場合、画素補間が必要とされることがある。本発明の教示は、特にそれらのセットに適用可能であるが、本発明に従って更に処理又は整形される前にまずフィルタリングされる非補間画素値と関連して使用できる。
図6は、図1の提供及び判定ステップS2〜S4の一実施形態を示すフローチャートである。方法はステップS10で開始し、ステップS10において、少なくとも1つの水平適応補間フィルタ(AIF)が現在のグループ及び基準グループの画像要素プロパティに基づいて判定される。水平AIFの係数hi、0 ≦ i < N-1は、以下のように定義される予測誤差Eの最小化により補間される副画素位置毎に解析的に計算されるのが好ましい:
Figure 2010516082
式中、Sx,yは現在のフレームにおける位置x,yの画像要素のプロパティ値であり、
Figure 2010516082
は基準フレームにおける位置
Figure 2010516082
の画像要素の基準プロパティ値である。ここで、
Figure 2010516082
であり、MVxは変位ベクトルの水平成分である。FOは、2で除算された水平フィルタの長さNに等しい。上記式は、未知のフィルタ係数に対して微分され、予測誤差の最小値を見つける。その結果、フィルタ係数の数に等しい式のセットが解決される。この処理は、水平方向の副画素位置毎に別個に行なわれる。図3を参照すると、6つのタップ等のNタップを含む3つの水平フィルタが取得されるのが好ましい。それらのフィルタは、水平副画素a、b及びcを計算するために使用される。これらの水平AIFは、現在のグループと同一の変位ベクトルを有する現在のフレームの画像要素の他のグループに対して再利用されるのが好ましい。あるいは、水平フィルタは各副画素位置に対して固定される。
次のステップS11は、少なくとも1つの水平差分フィルタを提供する。好ましくは、ステップS10で判定されたAIF毎にそのような水平フィルタが1つ提供される。好適な一実施形態において、差分フィルタは、ステップS10で計算されたAIFに基づいて判定される非対称差分フィルタである。非対称差分フィルタは、それぞれ水平AIFの一次微分フィルタであるのが好ましい。従って、ステップS11において、合計がゼロである非対称フィルタ係数を有する微分フィルタが水平AIF毎に判定される。AIFがフレーム毎に判定される場合、好ましくは変位ベクトル毎に適応される場合、非対称差分微分フィルタもフレーム毎に判定される。
次のステップS12は、差分フィルタに適用可能な水平利得を判定する。第1の実施形態において、全ての水平差分フィルタに適用可能な単一の利得が判定される。あるいは、AIF差分フィルタの対毎に別個の利得が判定される。利得は、水平フィルタが適用されるマクロブロックの画素に対する(マクログロック別の利得に対する)予測された画素値と元の画素値との間の予測誤差の最小化に基づいて判定されるのが好ましい。
しかし、更に利得は、固定基準補間フィルタ及び対応する利得を有する1つ以上の差分フィルタを使用して水平AIFフィルタ係数と水平AIFの符号化表現との差分を最小にするように判定される。これを行なう1つの方法は、AIFからの自己相関行列及び相互相関ベクトルの適切な部分を使用して本発明に従ってパラメータ化を行なうために自己相関行列A及び相互相関ベクトルbを構成することである。本発明のパラメータが求められた後、コーデックにおいて切り替え可能な本発明に係るAIF(AIFM)及び標準的なAIFの双方を有することは明らかである。この意思決定の助けとして、レート歪み(RD)計測値が使用される。RD計測値は、特定の副画素位置の補間に対して展開された各フィルタを使用して元のフレームと予測フレームとの差分を考慮すべきである。複雑さの低いレート歪み判定は、Axj-bとバイアスSAD因数とxjの表現に必要とされるビット数×λとの間の整合のSADに基づく。A及びbはAIFの相関行列及びベクトルに設定され、xjはAIF又はAIFMのフィルタタップに設定される。AIFのフィルタタップがA及びbを与えられた最適なタップであるため、バイアスSAD因数は、AIFMが選択されるのを更に容易にするために使用される。しかし、フィルタタップが量子化されるため、その結果はSADに多少の影響を与える。最小のRDを与えるフィルタタップxjに対する対応する符号化パラメータが選択される。フィルタパラメータを符号化するすためにビット数を考慮する時、AIFMがAIFのSADに十分に近い場合、AIFMは選択されるべきである。バイナリフラグは、AIF又はAIFMに係る符号化パラメータが使用されるかを示すために使用される。このように、量子化された各フィルタを使用して新しい予測を明示的に行なわずに適応フィルタの表現と符号化コストとの最適な妥協点を有する表現を選択できる。
上述のように、利得が判定された後、利得は量子化され、ビデオ又は画像ビットストリームのビットに符号化される。量子化ステップサイズは、展開される残留量子化パラメータ(QP)又はビットレートに依存し、潜在的により低いビットレートに対してステップサイズがより大きくなる。量子化利得を符号化する場合、同一の差分フィルタを使用して他の副画素位置の量子化利得からの予測を使用するのが有益である。このように、予測誤差のみが符号化される必要がある。この表現は、予測が1/4画素又は1/2画素等の同一種類の量子化フィルタタップ間で同一方向で使用されるように制限される従来技術と比較して予測に関してより融通性がある。更に、量子化利得の予測は、隣接領域の量子化利得から符号化される各領域に対して局所的に実行され、局所適応フィルタを展開する。殆ど使用されない利得の符号化を省略することは、本発明において提案される量子化利得の符号化において有益である。これは、利得を符号化するのに多くのコストがかかる場合に更に重要になる。この場合、利得はゼロにされ、符号化はバイナリフラグにより省略可能である。
この意思決定の助けとして、レート歪み(RD)計測値が使用される。RD計測値は、特定の副画素位置の補間に対して展開された各フィルタを使用して元のフレームと予測フレームとの差分を考慮すべきである。本発明は、特定の副画素位置に対するフィルタパラメータを符号化するRDコスト×λ+元のフレームと予測フレームとの間の対応するSAD又はSSDが標準的な予測に対するSAD又はSSDより小さい場合、特定の各副画素フィルタに対するパラメータが使用されることを選択するように提案する。本発明において提案される複雑さの低いRDP(レート歪み確率)計測は、SAD(Aixi - bi)、SAD確率及びxi×λを符号化するのに必要なビット数を使用することである。ここで、Ai及びbiは副画素位置iに対する自己相関行列及び相互相関ベクトルであり、xiは副画素位置iに対する符号化パラメータである。SAD確率は、フィルタを使用するフレームの画素の割合に関係するべきである。このように、各副画素位置に対するフィルタパラメータは順序付けされ、最大のRDを有する副画素位置は除去される。
水平フィルタ及び(量子化)利得が判定されると、ステップS13〜S15において対応する垂直フィルタ及び利得が判定される。図3を参照すると、12個の異なる垂直AIFのセットが判定されるのが好ましい。そのような場合、それらのフィルタは図中の副画素値d〜oを判定するために使用される。垂直補間フィルタのフィルタ係数hj, 0 ≦ j < M-1は、以下のように定義される予測誤差eを最小にすることにより推定される:
Figure 2010516082
式中、
Figure 2010516082
はフィルタ利得と乗算される差分微分フィルタ及び水平補間フィルタによるフィルタリングに後続する基準フィルタにおける位置
Figure 2010516082
の画像要素のプロパティ値である。ここで、
Figure 2010516082
であり、
Figure 2010516082
であり、MVyは変位ベクトルの垂直成分である。FOは、2で除算される前記水平フィルタの長さMと等しい。あるいは、垂直フィルタは各副画素位置に対して固定される。
次のステップS14は、対応する垂直非対称差分微分フィルタ、好ましくは垂直AIF毎にそのようなフィルタを1つ判定する。このステップは、ステップS11と同様に実行される。最後にステップS15において、垂直微分フィルタに適用可能な1つ以上の垂直フィルタ利得が判定される。
簡単に上述したように、追加のステップS10〜S15において、特定の副画素位置に対する固定水平/垂直フィルタがAIFの代わりに使用される。この場合、図3の各副画素位置に対する適応補間フィルタは、対応するH.264補間フィルタ及び好ましくは2つ以上の差分フィルタにより表現される。適切な表現の潜在性を有する複雑さの低い展開は、周波数応答整形を範囲に含むために変位及び対称差分フィルタ[1 -1 -1 1]を範囲に含むように非対称差分フィルタ[1 -1]を使用することである。フィルタの非対称なすそ引きを可能にするために、後続する非対称差分フィルタ[1 -1 0 0 1 -1]が使用可能である。理解されるように、上記差分フィルタは、フィルタ利得を効率的に符号化できるように直交している。
従って、本発明は、この場合は補間方向毎に2ステップフィルタリング処理を提供する。水平方向及び垂直方向の第1のフィルタリングステップは、1/2又は1/4画素の画素解像度を取得するために水平及び垂直AIF又はIFを使用する。各々の第2の処理において、利得を関連する微分フィルタのフィルタ係数に乗算することにより取得されるフィルタが適用され、予測を更に改善するために更に高精度な補間同調を達成する。図8にこの処理を簡単に示す。AIF又はIFのフィルタ係数は、図中の実線40で示される。それらのタップの周囲の局所的変動が示される。この局所的変動は、関連する非対称差分微分フィルタにより表現される。利得を調整することにより、正の利得値の場合には右側又は負の利得値の場合は左側に新しいフィルタリング位置及びフィルタ係数50を取得する。利得の大きさは、フィルタリング位置が元の位置及び係数40に対して移動された量を規定する。
従って、一方向のフィルタリング処理は、以下のように概略的に表される:
AIF + gAIFx
式中、AIFは適応補間フィルタであり、gは利得であり、AIFxは非対称差分微分フィルタである。尚、AIFxのフィルタ長さは必ずしもAIFの長さと同一である必要はない。
微分フィルタは、フィルタ係数の位置決めに対処するだけでなく周波数応答を変更することを主な目的として非対称である。
固定フィルタタップを有する補間フィルタ(IF)は、上述の適応補間フィルタと同様の方法で適応される。
図7は、図1の差分フィルタ提供ステップの別の実施形態を示すフローチャートである。この場合、各々が1つ以上の差分フィルタ、好ましくは非対称差分フィルタを含む複数の利用可能なフィルタセットが存在する。これらのフィルタは、ブロック符号化中に選択される事前計算済みのフィルタバンクを形成する。特定の一実施形態において、各フィルタセットは特定の非正数画素補間に対して適応される。例えば、第1のフィルタセットが1/2画素解像度に補間された画素値に対して利用される一方、第2のフィルタセットは1/4画素解像度に対して適応される。従って、ステップS20は、数Qに基づいてフィルタセットを選択することを含む。Qは、1より大きい正の整数であり、1/Q画素解像度の形式で副画素解像度を表す。換言すると、1/2画素解像度の場合はQ=2であり、1/4画素解像度の場合はQ=4である。
次のステップS21は、現在のブロック又はブロックの現在の画素に対して使用する特定の差分フィルタをフィルタセットから選択する。このステップS21は、全ての利用可能なフィルタ及び差分フィルタに適用可能な全ての利用可能なフィルタ利得をテストすることにより全数探索を介して実行される。そのような方法は、フィルタ/利得数が適度な数に維持される場合に達成可能である。適度な数に維持されない場合、より高度な探索アルゴリズムが使用される。高度な探索アルゴリズムの一例は、上記の提案のようにRD計測値を使用してフィルタ及びフィルタ利得を判定することである。
方法は、図1のステップS4に継続する。しかし、全数探索を実行する場合、差分フィルタ及び利得は単一の処理において提供され、ステップS4は省略可能である。
本実施形態は、フィルタセット毎の候補差分フィルタ及び利得の数が制限される場合に計算上の複雑さが軽減されるという潜在性を有する。
本発明の差分フィルタ及び適応利得の別の利用方法は、整形フィルタを形成することである。そのような場合、差分フィルタは、周波数応答に影響を及ぼすことを主な目的とする対称差分フィルタであるのが好ましい。整形フィルタは、追加の利得を有する非対称差分フィルタと並行して又は(補間)フィルタと差分フィルタとの畳み込みにより計算される。フィルタ利得は、結果として得られた整形フィルタに適用可能である。
gF × DF
式中、gは利得であり、Fは図1のステップS2で提供された(補間)フィルタであり、DFは対称差分フィルタであり、×は畳み込みを表す。上述したように、補間フィルタを整形するための対象差分フィルタに加えて、非対称差分フィルタが補間フィルタの両端でフィルタタップの非対称整形を行なうために使用される。
本発明の差分フィルタ及び適応フィルタ利得の別の目的は、フィルタの長さを変更し、復号器における適応補間フィルタリングの複雑さの調整を可能にすることである。
本発明の重要な概念は、差分フィルタ又は上述のように畳み込み等により差分フィルタに基づいて取得可能なフィルタに直接適用可能な適応利得と共に、対称又は非対称差分フィルタ、あるいは実際には対称及び非対称差分フィルタ又は複数のそのような差分フィルタの組合せを追加することである。例えばインター又はイントラ予測誤差、再構成誤差、あるいはレート歪みコストを最小にするために、利得を変更することにより種々の補間フィルタが生成される。本発明の更なる利点は、第1のフィルタ処理の変位、回転及び倍率変更の微同調を達成するために使用されることである。この同調は、非対称差分フィルタを利用して行なわれるのが好ましい。
利得の適応性は、フレームレベル、スライスレベル、マクロブロックレベル、ブロックレベル又は画素レベルの任意のサブセットで設定され、より適切なフィルタリング性能を達成する。これは、基本的に複雑さ対性能の問題である。
図9は、符号化ビデオシーケンスのフレームの画像要素のグループの復号化を示すフローチャートである。方法は、オプションのステップS30で開始し、ステップS30において、現在のグループと関連付けられる基準フレームが識別される。グループがイントラ符号化される場合、基準フレームはビデオシーケンスの現在のフレームである。しかし、インター符号化されたグループの場合、例えばフレームは既に復号化された先行フレームであってもよい。そのような場合、この基準フレームは、直前のフレーム等、現在のフレームに対するビデオシーケンスにおける事前定義済み時間的位置を有することができる。あるいは、フレーム識別子は、所望の基準フレームを識別するために現在のフレーム、現在のスライス又は現在の画素グループと関連付けられる。
次のステップS31は、現在のグループの未処理の予測として利用される基準フレームの画像要素の基準グループを識別する。このグループ又はブロックの識別は、画像要素のグループと関連付けられ且つ符号化フレームに存在するパラメータ表現に基づいて実行される。表現は、基準フレームの画像要素の基準グループを指し示す変位又は動きベクトルであってもよい。あるいは、パラメータ表現は、現在のブロックの未処理の予測として使用するフレームの隣接画像要素を識別するために特定の復号化方向と関連付けられる特定のイントラモードを指定できる。
次のステップS32は、副画素プロパティ値を取得するために補間フィルタであるのが好ましい少なくとも1つのフィルタを提供する。あるいは、フィルタは基準グループの画素の(粗)回転又は倍率変更を表すために利用される。
少なくとも1つの水平フィルタ及び少なくとも1つの垂直フィルタ等の少なくとも1つのフィルタは、例えばH.264補間フィルタを利用して事前定義される。あるいは、復号器はフレームの画像要素の先に復号化されたグループのフィルタを再利用するように構成される。これは、2つのグループ間のDCレベルの差分、グループの残留誤差の差分等の種々の基準に基づいて隣接する復号化グループに対して使用されるフィルタのフィルタ係数を変更することにより更に拡張可能である。また、グループが現在のグループに対して使用されるフィルタを取得するために隣接グループのフィルタに適用されるフィルタ変更表現と関連付けられる可能性がある。当然、この概念は、フィルタ係数の表現をステップS32において使用される少なくとも1つのフィルタに実際に含むことにより更に拡張可能である。
このステップS32は、少なくとも1つの差分フィルタと差分フィルタ又は差分フィルタから取得可能なフィルタに適用可能な少なくとも1つのフィルタ利得とを更に提供する。フィルタ及び復号器のフィルタへのアクセス方法に関する上述の説明は、差分フィルタ及び利得に準用される。従って、差分フィルタ及び利得は、復号器により計算され、隣接グループから再利用され、変更されて再利用されるか又は符号化グループ表現から完全に検索される。特に、差分フィルタは提供されたフィルタから計算される。
ステップS31で識別された基準グループの基準プロパティ値は、ステップS33において1ステップ又は2ステップフィルタ処理でフィルタリングされ、フィルタプロパティ値を取得する。後者の場合、基準プロパティ値はまずステップS32からの(補間)フィルタを使用してフィルタリングされ、フィルタ利得及び差分フィルタに基づいて取得可能なフィルタにより第2のフィルタ処理においてフィルタリングされ、画像要素の復号化グループを取得する。第1の実施形態において、この第2のフィルタ処理は、差分フィルタのフィルタ係数に乗算されるフィルタ利得により規定されるフィルタによりプロパティ値をフィルタリングすることを含む。差分フィルタは、非対称的であるのが好ましく、ステップS32からのフィルタの微分フィルタであるのが好ましい。あるいは、第2のフィルタ処理は、ステップS32からのフィルタ及び差分フィルタの畳み込みにより形成されるフィルタに乗算されるフィルタ利得により規定される整形フィルタによりプロパティ値をフィルタリングすることを含むことができる。この後者の実施形態において、差分フィルタは対称的であるのが好ましい。あるいは、第2のフィルタ処理は、変位及び整形フィルタの双方によりプロパティ値をフィルタリングすることを含む。
単一のフィルタ処理の場合、複合フィルタはステップS32で提供されたフィルタ及び利得に基づいて計算され、基準グループの基準プロパティ値に適用される複合フィルタを形成する。
フィルタリングステップS33は、必ずしもステップS32からのフィルタリングされた画素のみを含む必要はなく、部分的に復号化されたフレームの隣接画素の一部を実際に含むことができることが本発明により予想される。このように、ブロック境界にわたる共同フィルタリングが達成される。
ステップS31〜S33により規定されるループは、所定のブロック/グループに対して複数回実行されるのが好ましい。これは線L2により概略的に示される。例えば、まず水平フィルタリングがステップS32において基準ブロックに対して実行され、いくつかの補間された画素値等のフィルタリングされた画素値を取得する。それらのフィルタリングされた値は、ステップS33において少なくとも1つの水平差分フィルタ及び利得を使用して第2のフィルタリングセットにおいて処理され、完全にフィルタリングされた画素値を形成する。その後、垂直フィルタリング処理は、好ましくは異なるフィルタ及び利得を使用してステップS32〜S33を再度実行することにより、ブロックの完全にフィルタリングされた残りの画素値を取得するために実行される。
更に、基準ブロックとして使用される画素のブロックは、特にイントラ復号化のために復号化されるブロックの種々の画素とは異なる。従って、第1の隣接ブロックは、一部の画素に対する2ステップフィルタリング処理において基準ブロックとして利用され、他の画素値は、1つ以上の基準隣接ブロックを要する別個の2ステップ処理において取得される。
現在のブロックの予測が2ステップフィルタリングから取得されると、残留誤差は、フィルタリングされた画素値に加算され、復号化ブロックの最終的な表現を取得する。その後、方法は終了する。
図10は、図9のフィルタリングステップS33の一実施形態を示すフローチャートである。次のステップS40は、図9のステップS32において提供された補間フィルタにより基準プロパティ値をフィルタリングすることにより非正数画素プロパティ値を補間する。次のステップS41は、図9のステップS32からのフィルタ利得と乗算される差分フィルタにより非正数画素プロパティ値をフィルタリングし、補間値の微同調を得る。その後、方法は終了する。
図11は、図9のフィルタリングステップS33の別の実施形態を示すフローチャートである。ステップS50において、複合フィルタは、図9のステップS32からの(補間)フィルタ、差分フィルタ及び利得に基づいて計算される。この複合フィルタは、差分フィルタ及び(補間)フィルタの畳み込みにより取得されるのが好ましく、その後、結果として得られたフィルタに適応利得を乗算する。基準プロパティ値は、ステップS51においてこの複合整形フィルタによりフィルタリングされ、差分フィルタ及びフィルタ利得を使用することによる周波数応答整形を有する復号化画像要素を取得する。
特定の一実施形態において、単一のフィルタは別のフィルタと共に本発明の利得、差分フィルタを使用して計算される。そのような場合、単一のフィルタは、整数値、対応するシフト値及び丸め因数を有することができる。例えば、最適化されたフィルタは、[1 -5 20 20 -5 1]/32(H.264に係る補間フィルタ)+g1×[1 -1](副画素変位に対する差分フィルタ)+g2×[1 -1 -1 1](周波数応答整形に対する差分フィルタ)から構成される。ここで、g1及びg2は2つのフィルタ利得である。これらのフィルタ利得は、副画素位置毎に量子化され且つ復号器に送信される。
例えばg1 = 0.25且つg2 = -0.25の場合、最適化フィルタは[1 -13 36 20 -13 1]/32である。複合フィルタは分数値を有するが、対応する整数フィルタとして以下のように書くことができる:
([1 -13 36 20 -13 1] + 丸め因数) >> シフト因数
式中、丸め因数は16であり、シフト因数は6であり、例えば1/26である。
図12は、ビデオシーケンスのフレームの画像要素のグループを符号化するブロック符号器を示す概略ブロック図である。現在のグループsは、同一フレーム又は先行フレームの既に提供されたグループs’から推定器110により変位表現推定を実行することにより予測される。推定の結果は、インター予測の場合、基準グループs’と関連付けられる変位ベクトルdである。変位ベクトルdは、グループのインター予測
Figure 2010516082
を出力する本発明に係る動き補償予測器120により利用される。
あるいは、イントラ予測器160のモード選択器はイントラ予測方向を方向表現として選択する。予測器160は、グループのイントラ予測
Figure 2010516082
を更に算出する。
インター予測又はイントラ予測
Figure 2010516082
は、誤差計算器130に転送され、誤差計算器130は、グループsとその予測
Figure 2010516082
との間の画像要素値の差分として残留誤差eを計算する。誤差eは、離散コサイン変換132等により変換され、また量子化134が行なわれ、その後エントロピー符号化等の符号化140Aが行なわれる。インター符号化において、推定された変位ベクトルdは現在のグループsの符号化表現を生成するために符号器140Bに渡される。
イントラ符号化の場合、イントラ予測器160は現在のグループsの予測
Figure 2010516082
を誤差計算器130に出力する。
達成される再構成は、オプションとして、適応インループ又はポストフィルタにより更に改善される。この場合、再構成されたフレームの本発明に係る元のフレームとフィルタリングされたフレームとの差分は、最小二乗の点で最小化される。最適なパラメータは、フレーム毎に符号化され且つ復号器に送信される。上述と同様のRD計測値は、フィルタパラメータの選択に使用される。更なるフィルタリングが使用されるかを選択するために、標準的なRD決定が量子化フィルタによる再構成のフィルタリングを含んで行なわれる。この場合、元の再構成とフィルタリングされた再構成との間のSAD又はSSDは、λと乗算されたフィルタを規定するのに必要とされるビット数との間の妥協点が見つけられる。フラグは、RD決定に基づいてこのフィルタリングをON/OFFするために使用される。
符号器140Bは、イントラ予測器160又は補償予測器120により利用される差分フィルタ及び利得パラメータの表現を更に受信してもよい。そのような場合、それらの表現は符号化され、符号化残留誤差及び符号化変位表現と共に符号化グループの一部を形成する。
現在のグループsに対する変換及び量子化された残留誤差eは、逆量子化器136及び逆変換器138に更に提供され、元の残留誤差を取り出す。この誤差は、変位補償予測器120又はイントラ予測器160から出力されたグループ予測
Figure 2010516082
に加算され、画像要素の次のグループの予測及び符号化において使用される基準グループs’’を作成する。この新しい基準グループs’’は、イントラ予測器160、パラメータ推定器110及び変位補償予測器120が利用可能になる前にまずオプションとして非ブロック化フィルタ150により処理される。
図13は、ブロック符号器100の別の実施形態を示す概略ブロック図である。符号器100は、符号化されるグループのプロパティ値に基づいて、ビデオシーケンスの基準フレームの現在のフレームの画像要素の基準グループと関連付けられ且つその識別を可能にするパラメータ表現を推定するように構成されるパラメータ推定器110を含むのが好ましい。パラメータ表現は、基準フレームのオプションの識別子及び基準フレームの基準グループを指し示す変位ベクトルを含むのが好ましい。
このパラメータ推定機能は、イントラ符号化の目的で、イントラ予測器160に提供されるイントラモード選択器165により実現可能である。選択器165は、最小の予測誤差を与えるモードを見つけるために種々の利用可能なイントラモードを調査することにより変位方向探索を実行する。選択器165は、予測の基本として使用する特定の予測方向及び画像要素の特定の基準グループを指定することによりパラメータ表現として機能するモード識別子を提供する。
フィルタ提供器122、162は、イントラ符号化の目的で変位補償予測器120に提供されるか又はイントラ予測器160に提供される。いずれの場合も、フィルタ提供器122、162は、推定器110又はモード選択器165からの変位表現に基づいて第1のフィルタ処理において画像要素の基準グループのプロパティ値に適用可能な少なくとも1つのフィルタを提供する。その結果はフィルタリングされ、好ましくは補間プロパティ値が得られる。フィルタ提供器122、162は、固定フィルタを利用できるか又は事前定義済みフィルタのセットから選択できるか、あるいは適応(補間)フィルタを計算できる。前者の場合、フィルタ係数は、連想フィルタメモリ150から取り出される。後の2つの場合、選択又は計算は、符号化される元のプロパティ値とフィルタリングされたプロパティ値との間の予測誤差を最小にする目的で行なわれる。(補間)フィルタは、フレーム及び変位毎に判定されるフレーム別フィルタであるのが好ましく、現在のフレームの種々のグループ間で再利用される。
差分フィルタ提供器124、164は、補償予測器120及びイントラ予測器160にそれぞれ提供される。このフィルタ提供器124、164は、現在のブロックに対する対称及び/又は非対称差分フィルタ等の少なくとも1つの差分フィルタを提供する。フィルタの提供は、固定フィルタを利用するか、又は事前定義済みフィルタから選択するか、あるいは適応差分フィルタを計算することにより実現される。
利得判定器126、166は、差分フィルタ、グループのプロパティ値、(補間)フィルタ及び基準グループのプロパティ値に基づいて、差分フィルタに適用可能な適応利得を判定するために2つの予測器120、160にそれぞれ提供される。判定は、上述したように誤差最小化処理において行われるのが好ましい。
上記説明において、(補間)フィルタ、差分フィルタ及び利得は、別個の最適化手順において判定又は選択される。しかし、実際には単一の処理においてフィルタ及び利得の組合せ最適化が実行可能である。
誤差計算器130は、現在のグループのプロパティ値、基準グループの基準プロパティ値、並びに判定された(補間)フィルタ、差分フィルタ及び利得に基づいて残留誤差を計算するように構成される。この残留は、本発明の2ステップフィルタ処理において基準グループを処理することにより取得されるプロパティ値を有する現在のグループを表現する際の誤差を表す。
符号器140は、推定器110又はモード選択器165により判定される変位の符号化表現及び計算器130からの残留誤差を生成するためにブロック符号器100に設けられる。符号器140は、フィルタ提供器122、162及び/又は差分フィルタ提供器124、164からのフィルタの符号化表現、並びに/あるいは利得判定器126、166からの利得を更に生成してもよい。
オプションの各フィルタ計算器128、168は、差分フィルタ提供器124、164からの差分フィルタ及びオプションとしてフィルタ提供器122、126からのフィルタに基づいてフィルタを計算するために含まれてもよい。
図中、ブロック符号器100は、イントラ符号化及びインター符号化の双方を実行できるように示されている。別の実施形態において、イントラ符号化に必要なユニット(イントラ予測器160、誤差計算器130及び符号器140)又はインター符号化に必要なユニット(パラメータ推定器110、変位補償予測器120、誤差計算器130及び符号器140)のみがブロック符号器100に実現されてもよい。
上述したように、本発明のフィルタリング処理は、まず水平方向等の第1の方向に実行され、次に垂直方向等の別の方向に実行される。そのような場合、フィルタ提供器122、124、162、164及び利得判定器126、166は、水平フィルタ及び利得、並びに垂直フィルタ及び利得をそれぞれ判定するのが好ましい。
ブロック符号器100のユニットは、ハードウェア、ソフトウェア、あるいはハードウェア及びソフトウェアの組合せとして提供されてもよい。
図14は、図13の差分フィルタ提供器124の特定の実現例を示すブロック図である。本実施形態において、フィルタ提供器124は、例えば図13のフィルタメモリにおいて、各々が少なくとも1つの差分フィルタを含む複数のフィルタセットにアクセスできる。セット選択器125は、好ましくはフィルタ処理の第1のステップで実行される補間フィルタリングにより取得可能な非正数画素解像度レベルに基づいて選択する。フィルタ選択器127は、フィルタが2つ以上ある場合に、選択されたセットから差分フィルタを選択して現在のグループに対する差分フィルタとして使用する。選択は、予測誤差を最小にすることにより実行されるのが好ましい。
対応する差分フィルタ提供の一実施形態は、図11のイントラ予測器160のフィルタ提供器164に対して更に使用される。
フィルタ提供器124のユニットは、ハードウェア、ソフトウェア、あるいはハードウェア及びソフトウェアの組合せで提供されてもよい。
図15は、ビデオシーケンスのフレームの画像要素のグループを復号化する本発明に係る復号器200を示す概略ブロック図である。復号器200は、現在のグループの復号化の基本として使用される基準グループを含む基準フレームを識別するフレーム識別器210をオプションとして含む。グループ又はブロック識別器220は、グループの符号化表現の一部を構成するパラメータ表現に基づいて基準フレームの基準グループを識別するように構成される。フィルタ適用器230は、第1のフィルタ処理において少なくとも1つのフィルタを利用して識別されたグループの基準プロパティ値をフィルタリングし、フィルタリングされたプロパティ値を形成するために提供されるのが好ましい。使用するフィルタは、固定されるか又はフレーム/スライス別であってもよく、従って接続メモリ250から取り出される。あるいは、フィルタ適用器230は、符号化されたグループ表現及び/又はプロパティ値の情報、あるいは先に復号化された隣接グループに関連する情報に基づいてフィルタ係数を計算できる。
フィルタ提供器240は、フィルタ処理の第2のステップにおいて使用される少なくとも1つの差分フィルタ及び少なくとも1つのフィルタ利得を提供するように構成される。差分フィルタは、固定されるか又はフレーム/スライス/マクロブロック別であってもよく、従って、メモリ250から又は符号化フレームシーケンスの関連情報ヘッダレベルから取り出される。あるいは、フィルタ提供器240は、符号化グループの符号化情報を使用してフィルタパラメータ及び/又は利得を判定する。隣接グループのフィルタパラメータ及び利得値等の追加の情報がこの判定において必要とされる可能性がある。差分フィルタは、第1のフィルタ適用器230により使用される(補間)フィルタのパラメータに基づいて計算されてもよい。
フィルタ適用器230は、少なくとも既にフィルタリングされたプロパティ値の一部に対して使用され且つオプションとしてフレームの隣接グループの復号化プロパティ値に対して部分的に使用される少なくとも1つのフィルタを規定するために、利得及び差分フィルタ、並びに可能性として第1のフィルタ処理からのフィルタを使用する。残留誤差の追加後の結果は、画像要素グループの復号化表現である。
別の方法において、まずフィルタ提供器240は、(補間)フィルタ、差分フィルタ及びフィルタ利得に基づいて複合フィルタを計算する。この複合フィルタは、フィルタ適用器230により基準プロパティ値に適用され、残留誤差の追加後に復号化グループ表現を取得する。
復号器200のユニットは、ハードウェア、ソフトウェア、あるいはハードウェア及びソフトウェアの組合せとして提供されてもよい。
添付の請求の範囲により規定される本発明の範囲から逸脱せずに、本発明に対して種々の変形及び変更が行なわれてもよいことが当業者には理解されるだろう。

Claims (37)

  1. 画像又はビデオシーケンスのフレームの画像要素のグループを符号化する方法であって、
    a)前記画像要素のグループのプロパティ値に基づいて、フレームの画像要素の基準グループと関連付けられるパラメータ表現を推定するステップと、
    b)前記画像要素の基準グループの基準プロパティ値に適用可能なフィルタを提供するステップと、
    c)差分フィルタを提供するステップと、
    d)前記差分フィルタ、前記フィルタ、前記プロパティ値及び前記基準プロパティ値に基づいて、前記差分フィルタに基づいて取得可能なフィルタに適用可能なフィルタ利得を判定するステップと、
    e)前記プロパティ値、前記パラメータ表現、前記フィルタ、前記差分フィルタに基づいて取得可能な前記フィルタ及び前記利得に基づいて残留誤差を計算するステップと、
    f)前記パラメータ表現の表現及び前記残留誤差の表現を前記画像要素のグループの符号化表現として提供するステップとを備えることを特徴とする方法。
  2. 前記提供ステップb)は、補間された非正数画素プロパティ値を取得するために、前記パラメータ表現に基づいて前記画像要素の基準グループの基準プロパティ値に適用可能な補間フィルタを提供するステップを含むことを特徴とする請求項1記載の方法。
  3. 前記提供ステップb)は、Qが1より大きい正の整数である場合に補間された1/Q画素プロパティ値を取得するために、前記パラメータ表現に基づいて前記画像要素の基準グループの基準プロパティ値に適用可能な前記補間フィルタを提供するステップを含み、
    前記提供ステップc)は、
    −前記数Qに基づいて複数のフィルタセットから1つのフィルタセットを選択するステップと、
    −前記選択したフィルタセットから前記差分フィルタを提供するステップと
    を含むことを特徴とする請求項2記載の方法。
  4. 前記提供ステップf)は、前記パラメータ表現の前記表現、前記残留誤差の前記表現、前記フィルタの表現、前記差分フィルタの表現及び前記フィルタ利得の表現を前記画像要素のグループの前記符号化表現として提供するステップを含むことを特徴とする請求項1乃至3のいずれか1項に記載の方法。
  5. 前記画像要素の基準グループは、前記画像要素のグループの前記フレームとは異なる前記ビデオシーケンスの基準フレームにおいて提供されることを特徴とする請求項1乃至4のいずれか1項に記載の方法。
  6. 前記提供ステップb)は、前記パラメータ表現に基づいて前記フレームの画像要素の複数のグループに適用可能なフレーム別適応フィルタを提供するステップを含むことを特徴とする請求項1乃至5のいずれか1項に記載の方法。
  7. 前記提供ステップc)は、非対称差分フィルタを提供するステップを含むことを特徴とする請求項1乃至6のいずれか1項に記載の方法。
  8. 前記提供ステップc)は、前記フィルタに基づいて前記差分フィルタを提供するステップを含むことを特徴とする請求項1乃至7のいずれか1項に記載の方法。
  9. 前記提供ステップc)は、前記フィルタに基づいて非対称微分フィルタを提供するステップを含む請求項8記載の方法。
  10. 前記判定ステップd)は、Snが前記フレームのグループnの画像要素のプロパティ値を表し、
    Pn-iが前記フレームの基準グループn-iの画像要素の基準プロパティ値であり、IFが前記フィルタであり、DFが前記差分フィルタであり、gが前記フィルタ利得である場合に、
    Figure 2010516082
    として定義される予測誤差Eの最小化により前記利得gを判定するステップを含むことを特徴とする請求項1乃至9のいずれか1項に記載の方法。
  11. 前記フィルタと前記差分フィルタとの畳み込みにより整形フィルタを計算するステップを更に備え、
    前記判定ステップd)は、前記整形フィルタ、前記画像要素のグループの前記プロパティ値及び前記基準プロパティ値に基づいて前記整形フィルタに適用可能なフィルタ利得を判定するステップを含むことを特徴とする請求項1乃至10のいずれか1項に記載の方法。
  12. 前記提供ステップc)は、対称差分フィルタを提供するステップを含むことを特徴とする請求項11記載の方法。
  13. −前記フィルタ、前記差分フィルタ及び前記フィルタ利得に基づいて複合フィルタを判定するステップと、
    −フィルタリングされた基準プロパティ値を取得するために前記複合フィルタにより前記基準プロパティ値をフィルタリングするステップと
    を更に備え、
    前記計算ステップe)は、前記プロパティ値及び前記フィルタリングされた基準値に基づいて前記残留誤差を計算するステップを含む
    ことを特徴とする請求項1乃至12のいずれか1項に記載の方法。
  14. 符号化画像又はビデオシーケンスのフレームの画像要素のグループを復号化する方法であって、
    −前記画像要素のグループと関連付けられるパラメータ表現に基づいてフレームの画像要素の基準グループを識別するステップと、
    −前記画像要素のグループと関連付けられるフィルタを提供するステップと、
    −前記画像要素のグループと関連付けられるフィルタ利得及び差分フィルタを提供するステップと、
    −画像要素の復号化グループを取得するために、前記フィルタと前記フィルタ利得及び前記差分フィルタに基づいて取得可能なフィルタとにより前記画像要素の基準グループの基準プロパティ値をフィルタリングするステップとを備えることを特徴とする方法。
  15. 前記画像要素のグループと関連付けられる補間フィルタにより前記基準プロパティ値をフィルタリングすることにより非正数画素プロパティ値を補間するステップを更に備え、
    前記フィルタリングステップは、前記フィルタ利得及び前記差分フィルタに基づいて取得可能な前記フィルタにより前記非正数画素プロパティ値をフィルタリングするステップを含む請求項14記載の方法。
  16. 前記差分フィルタは非対称差分フィルタであり、前記フィルタリングステップは、前記フィルタ利得により乗算される前記非対称差分フィルタにより前記非正数画素プロパティ値をフィルタリングすることにより非正数画素補間のパラメータを微同調するステップを含むことを特徴とする請求項15記載の方法。
  17. 前記差分フィルタは対称差分フィルタであり、
    前記フィルタリングステップは、
    −前記対称差分フィルタと前記フィルタとの畳み込みにより整形フィルタを計算するステップと、
    −前記フィルタ利得により乗算される前記整形フィルタにより前記基準プロパティ値をフィルタリングするステップと
    を含むことを特徴とする請求項14記載の方法。
  18. 前記フィルタリングステップは、前記フィルタ利得により乗算される前記整形フィルタにより、前記フレームの画像要素の隣接グループのプロパティ値と前記基準プロパティ値とを共同フィルタリングするステップを含むことを特徴とする請求項17記載の方法。
  19. 前記フィルタリングステップは、
    −前記フィルタ、前記差分フィルタ及び前記フィルタ利得に基づいて複合フィルタを判定するステップと、
    −前記画像要素の復号化グループを取得するために前記複合フィルタにより前記基準プロパティ値をフィルタリングするステップと
    を含むことを特徴とする請求項14乃至18のいずれか1項に記載の方法。
  20. 画像又はビデオシーケンスのフレームの画像要素のグループを符号化する符号器であって、
    −前記画像要素のグループのプロパティ値に基づいて、フレームの画像要素の基準グループと関連付けられるパラメータ表現を推定するパラメータ表現推定器と、
    −前記画像要素の基準グループの基準プロパティ値に適用可能なフィルタを提供するフィルタ提供器と、
    −差分フィルタを提供する差分フィルタ提供器と、
    −前記差分フィルタ、前記フィルタ、前記画像要素のグループの前記プロパティ値及び前記基準プロパティ値に基づいて、前記差分フィルタに基づいて取得可能なフィルタに適用可能なフィルタ利得を判定する利得判定器と、
    −前記プロパティ値、前記パラメータ表現、前記フィルタ、前記差分フィルタに基づいて取得可能な前記フィルタ及び前記利得に基づいて残留誤差を計算する誤差計算器と、
    −前記パラメータ表現の表現及び前記残留誤差の表現を前記画像要素のグループの符号化表現として提供するグループ符号器と
    を備えることを特徴とする符号器。
  21. 前記フィルタ提供器は、補間された非正数画素プロパティ値を取得するために、前記パラメータ表現に基づいて前記画像要素の基準グループの基準プロパティ値に適用可能な補間フィルタを提供するように構成されていることを特徴とする請求項20記載の符号器。
  22. 前記フィルタ提供器は、Qが1より大きい正の整数である場合に補間された1/Q画素プロパティ値を取得するために、前記パラメータ表現に基づいて前記画像要素の基準グループの基準プロパティ値に適用可能な前記補間フィルタを提供するように構成され、
    前記差分フィルタ提供器は、
    −前記数Qに基づいて複数のフィルタセットから1つのフィルタセットを選択するセット選択器と、
    −前記選択したフィルタセットから前記差分フィルタを提供するフィルタ選択器とを含むことを特徴とする請求項21記載の符号器。
  23. 前記グループ符号器は、前記パラメータ表現の前記表現、前記残留誤差の前記表現、前記フィルタの表現、前記差分フィルタの表現及び前記フィルタ利得の表現を前記画像要素のグループの符号化表現として提供するように構成されていることを特徴とする請求項20乃至22のいずれか1項に記載の符号器。
  24. 前記差分フィルタ提供器は、非対称差分フィルタを提供するように構成されていることを特徴とする請求項20乃至23のいずれか1項に記載の符号器。
  25. 前記差分フィルタ提供器は、前記フィルタに基づいて前記差分フィルタを提供するように構成されていることを特徴とする請求項20乃至24のいずれか1項に記載の符号器。
  26. 前記差分フィルタ提供器は、前記フィルタに基づいて非対称微分フィルタを提供するように構成されていることを特徴とする請求項25記載の符号器。
  27. 前記フィルタと前記差分フィルタとの畳み込みにより整形フィルタを計算するフィルタ計算器を更に備え、
    前記利得判定器は、前記整形フィルタ、前記画像要素のグループの前記プロパティ値及び前記基準プロパティ値に基づいて前記整形フィルタに適用可能なフィルタ利得を判定するように構成されていることを特徴とする請求項20乃至26のいずれか1項に記載の符号器。
  28. 前記差分フィルタ提供器は、対称差分フィルタを提供するように構成されている請求項27記載の符号器。
  29. 前記フィルタ、前記差分フィルタ及び前記フィルタ利得に基づいて複合フィルタを計算するフィルタ計算器を更に備え、
    前記誤差計算器は、前記複合フィルタにより前記基準プロパティ値をフィルタリングすることにより取得されるフィルタリングされた基準値及び前記プロパティ値に基づいて前記残留誤差を計算するように構成されていることを特徴とする請求項20乃至28のいずれか1項に記載の符号器。
  30. 符号化画像又はビデオシーケンスのフレームの画像要素のグループを復号化する復号器であって、
    −前記画像要素のグループと関連付けられるパラメータ表現に基づいてフレームの画像要素の基準グループを識別するグループ識別器と、
    −前記画像要素のグループと関連付けられるフィルタ、フィルタ利得及び差分フィルタを提供するフィルタ提供器と、
    −画像要素の復号化グループを取得するために、前記フィルタと前記フィルタ利得及び前記差分フィルタに基づいて取得可能なフィルタとにより前記画像要素の基準グループの基準プロパティ値をフィルタリングするフィルタ適用器と
    を備えることを特徴とする復号器。
  31. 前記フィルタ適用器は、前記画像要素のグループと関連付けられる補間フィルタにより前記画像要素の基準グループの基準プロパティ値をフィルタリングすることにより非正数画素プロパティ値を補間するように構成されていることを特徴とする請求項30記載の復号器。
  32. 前記差分フィルタは非対称差分フィルタであり、
    前記フィルタ適用器は、前記フィルタ利得により乗算される前記非対称差分フィルタにより前記非正数画素プロパティ値をフィルタリングすることにより前記非正数画素補間の変位を微同調するように構成されていることを特徴とする請求項31記載の復号器。
  33. 前記差分フィルタは対称差分フィルタであり、
    前記フィルタ提供器は、前記対称差分フィルタと前記フィルタとの畳み込みにより整形フィルタを計算するように構成され、
    前記フィルタ適用器は、前記フィルタ利得により乗算される前記整形フィルタを使用して前記基準プロパティ値をフィルタリングすることにより周波数応答を整形するように構成されていることを特徴とする請求項30乃至32のいずれか1項に記載の復号器。
  34. 前記フィルタ適用器は、前記フィルタ利得により乗算される前記整形フィルタにより前記フレームの画像要素の隣接グループのプロパティ値と前記基準プロパティ値とを共同フィルタリングするように構成されていることを特徴とする請求項33記載の復号器。
  35. 前記フィルタ提供器は、前記フィルタ、前記差分フィルタ及び前記フィルタ利得に基づいて複合フィルタを判定するように構成され、
    前記フィルタ適用器は、前記画像要素の復号化グループを取得するために前記複合フィルタにより前記基準プロパティ値をフィルタリングするように構成されていることを特徴とする請求項30乃至34のいずれか1項に記載の復号器。
  36. −補間された非正数画素プロパティ値を取得するための画像要素の基準グループの基準プロパティ値に適用可能なフィルタ係数を有する補間フィルタと、
    −第1の調整可能なフィルタ利得と、
    −前記第1の調整可能なフィルタ利得が適用され且つ前記補間された非正数画素プロパティ値の少なくとも一部分に適用可能であるフィルタ係数を有する差分非対称フィルタとを備えることを特徴とする非正数画素フィルタシステム。
  37. −第2の調整可能なフィルタ利得と、
    −前記第2の調整可能なフィルタ利得が適用され且つ前記補間された非正数画素プロパティ値の少なくとも一部分に適用可能であるフィルタ係数を有する差分対称フィルタと
    を更に備えることを特徴とする請求項36記載のシステム。
JP2009544821A 2007-01-09 2007-12-27 適応フィルタ表現 Expired - Fee Related JP5425640B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US88404207P 2007-01-09 2007-01-09
US60/884,042 2007-01-09
PCT/SE2007/051083 WO2008085109A1 (en) 2007-01-09 2007-12-27 Adaptive filter representation

Publications (2)

Publication Number Publication Date
JP2010516082A true JP2010516082A (ja) 2010-05-13
JP5425640B2 JP5425640B2 (ja) 2014-02-26

Family

ID=39608892

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009544821A Expired - Fee Related JP5425640B2 (ja) 2007-01-09 2007-12-27 適応フィルタ表現

Country Status (4)

Country Link
US (1) US8942505B2 (ja)
EP (1) EP2105031B1 (ja)
JP (1) JP5425640B2 (ja)
WO (1) WO2008085109A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012043298A1 (ja) * 2010-09-30 2012-04-05 日本電信電話株式会社 映像符号化方法,映像復号方法,映像符号化装置,映像復号装置およびそれらのプログラム
WO2012169054A1 (ja) * 2011-06-09 2012-12-13 株式会社東芝 動画像符号化方法、及び装置、動画像復号方法、及び装置
JP2016116039A (ja) * 2014-12-12 2016-06-23 Nttエレクトロニクス株式会社 小数画素生成方法
JP2017507538A (ja) * 2014-01-01 2017-03-16 エルジー エレクトロニクス インコーポレイティド 適応予測フィルタを用いて映像信号をエンコード、デコードするための方法及び装置

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101369746B1 (ko) * 2007-01-22 2014-03-07 삼성전자주식회사 적응적 보간 필터를 이용한 영상 부호화, 복호화 방법 및장치
WO2008141335A1 (en) 2007-05-15 2008-11-20 Xm Satellite Radio, Inc. Vehicle message addressing
KR101568708B1 (ko) * 2007-09-02 2015-11-12 엘지전자 주식회사 비디오 신호처리 방법 및 장치
US20090257499A1 (en) * 2008-04-10 2009-10-15 Qualcomm Incorporated Advanced interpolation techniques for motion compensation in video coding
US9967590B2 (en) 2008-04-10 2018-05-08 Qualcomm Incorporated Rate-distortion defined interpolation for video coding based on fixed filter or adaptive filter
US8325801B2 (en) * 2008-08-15 2012-12-04 Mediatek Inc. Adaptive restoration for video coding
US8611435B2 (en) 2008-12-22 2013-12-17 Qualcomm, Incorporated Combined scheme for interpolation filtering, in-loop filtering and post-loop filtering in video coding
JP5169978B2 (ja) 2009-04-24 2013-03-27 ソニー株式会社 画像処理装置および方法
EP2262267A1 (en) 2009-06-10 2010-12-15 Panasonic Corporation Filter coefficient coding scheme for video coding
KR101749269B1 (ko) * 2009-06-30 2017-06-22 삼성전자주식회사 적응적인 인루프 필터를 이용한 동영상 부호화와 복호화 장치 및 그 방법
JP5597968B2 (ja) * 2009-07-01 2014-10-01 ソニー株式会社 画像処理装置および方法、プログラム、並びに記録媒体
JP5429582B2 (ja) * 2009-07-01 2014-02-26 ソニー株式会社 画像処理装置および方法
KR101510108B1 (ko) 2009-08-17 2015-04-10 삼성전자주식회사 영상의 부호화 방법 및 장치, 그 복호화 방법 및 장치
KR20110068792A (ko) 2009-12-16 2011-06-22 한국전자통신연구원 적응적 영상 부호화 장치 및 방법
EP2515541A4 (en) 2009-12-18 2015-08-26 Sharp Kk BILDFILTER, CODING DEVICE, DECODING DEVICE AND DATA STRUCTURE
US20120243611A1 (en) * 2009-12-22 2012-09-27 Sony Corporation Image processing apparatus and method as well as program
JP2011147049A (ja) * 2010-01-18 2011-07-28 Sony Corp 画像処理装置および方法、並びにプログラム
EP2534843A4 (en) 2010-02-08 2017-01-18 Nokia Technologies Oy An apparatus, a method and a computer program for video coding
WO2011121716A1 (ja) * 2010-03-30 2011-10-06 株式会社 東芝 動画像符号化方法、復号化方法、符号化装置および復号化装置
US9094658B2 (en) 2010-05-10 2015-07-28 Mediatek Inc. Method and apparatus of adaptive loop filtering
EP2398240A1 (en) * 2010-06-16 2011-12-21 Canon Kabushiki Kaisha A method and device for encoding and decoding a video signal
US9819966B2 (en) 2010-09-01 2017-11-14 Qualcomm Incorporated Filter description signaling for multi-filter adaptive filtering
US9247265B2 (en) * 2010-09-01 2016-01-26 Qualcomm Incorporated Multi-input adaptive filter based on combination of sum-modified Laplacian filter indexing and quadtree partitioning
US9628821B2 (en) 2010-10-01 2017-04-18 Apple Inc. Motion compensation using decoder-defined vector quantized interpolation filters
JP5649524B2 (ja) 2011-06-27 2015-01-07 日本電信電話株式会社 映像符号化方法,装置,映像復号方法,装置およびそれらのプログラム
JP5649523B2 (ja) * 2011-06-27 2015-01-07 日本電信電話株式会社 映像符号化方法,装置,映像復号方法,装置およびそれらのプログラム
US9432700B2 (en) * 2011-09-27 2016-08-30 Broadcom Corporation Adaptive loop filtering in accordance with video coding
US9442904B2 (en) * 2012-12-21 2016-09-13 Vmware, Inc. Systems and methods for applying a residual error image
US9596481B2 (en) * 2013-01-30 2017-03-14 Ati Technologies Ulc Apparatus and method for video data processing
US9384537B2 (en) * 2014-08-31 2016-07-05 National Taiwan University Virtual spatial overlap modulation microscopy for resolution improvement
US10979704B2 (en) * 2015-05-04 2021-04-13 Advanced Micro Devices, Inc. Methods and apparatus for optical blur modeling for improved video encoding
JP6102978B2 (ja) * 2015-05-08 2017-03-29 ソニー株式会社 画像処理装置および方法、プログラム、並びに記録媒体
JP6102977B2 (ja) * 2015-05-08 2017-03-29 ソニー株式会社 画像処理装置および方法、プログラム、並びに記録媒体
KR20180042899A (ko) * 2016-10-19 2018-04-27 디지털인사이트 주식회사 적응적 보간 필터를 사용하는 비디오 코딩 방법 및 장치
WO2018225593A1 (ja) * 2017-06-05 2018-12-13 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、復号装置、符号化方法および復号方法
CN111213383B (zh) * 2017-11-13 2022-04-05 华为技术有限公司 用于视频编码的环内滤波装置及方法
CN117376586A (zh) 2018-09-07 2024-01-09 华为技术有限公司 用于视频译码中帧内预测和帧间预测的插值滤波方法和装置
US11356707B2 (en) * 2019-09-23 2022-06-07 Qualcomm Incorporated Signaling filters for video processing
CN113727103B (zh) * 2020-05-25 2022-08-12 腾讯科技(深圳)有限公司 视频编码、解码方法、装置、电子设备及存储介质
US11704312B2 (en) * 2021-08-19 2023-07-18 Microsoft Technology Licensing, Llc Conjunctive filtering with embedding models

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004147328A (ja) * 2002-10-22 2004-05-20 Docomo Communications Laboratories Usa Inc 動き補償予測を用いたビデオ符号化のための適応補間フィルタシステム
JP2005501442A (ja) * 2001-04-25 2005-01-13 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツング サンプリング値を補間するための装置、画像エンコーダおよび画像デコーダ
JP2005514872A (ja) * 2002-01-14 2005-05-19 ノキア コーポレイション 動的フィルタのコーディング
WO2006006609A1 (en) * 2004-07-13 2006-01-19 Matsushita Electric Industrial Co., Ltd. Motion compensation method
WO2006108654A2 (en) * 2005-04-13 2006-10-19 Universität Hannover Method and apparatus for enhanced video coding

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69230548T2 (de) * 1991-08-23 2000-06-15 Mitsubishi Electric Corp Pixelinterpolationsschaltkreis und Anwendungen
US5959676A (en) * 1995-12-27 1999-09-28 Sony Corporation Video signal encoding method, video signal encoding apparatus, video signal transmitting method, and recording medium
JP4013286B2 (ja) * 1997-01-22 2007-11-28 松下電器産業株式会社 画像符号化装置と画像復号化装置
KR100708091B1 (ko) * 2000-06-13 2007-04-16 삼성전자주식회사 양방향 움직임 벡터를 이용한 프레임 레이트 변환 장치 및그 방법
US7630566B2 (en) * 2001-09-25 2009-12-08 Broadcom Corporation Method and apparatus for improved estimation and compensation in digital video compression and decompression
BR0302719A (pt) * 2002-01-18 2004-03-09 Toshiba Kk Toshiba Corp Método e aparelho de codificação de vìdeo e método e aparelho de decodificação de vìdeo
US20040001547A1 (en) * 2002-06-26 2004-01-01 Debargha Mukherjee Scalable robust video compression
US6944224B2 (en) * 2002-08-14 2005-09-13 Intervideo, Inc. Systems and methods for selecting a macroblock mode in a video encoder
JP2008244846A (ja) * 2007-03-27 2008-10-09 Toshiba Corp フレーム補間装置及びその方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005501442A (ja) * 2001-04-25 2005-01-13 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツング サンプリング値を補間するための装置、画像エンコーダおよび画像デコーダ
JP2005514872A (ja) * 2002-01-14 2005-05-19 ノキア コーポレイション 動的フィルタのコーディング
JP2004147328A (ja) * 2002-10-22 2004-05-20 Docomo Communications Laboratories Usa Inc 動き補償予測を用いたビデオ符号化のための適応補間フィルタシステム
WO2006006609A1 (en) * 2004-07-13 2006-01-19 Matsushita Electric Industrial Co., Ltd. Motion compensation method
WO2006108654A2 (en) * 2005-04-13 2006-10-19 Universität Hannover Method and apparatus for enhanced video coding

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012043298A1 (ja) * 2010-09-30 2012-04-05 日本電信電話株式会社 映像符号化方法,映像復号方法,映像符号化装置,映像復号装置およびそれらのプログラム
JP2012080162A (ja) * 2010-09-30 2012-04-19 Nippon Telegr & Teleph Corp <Ntt> 映像符号化方法,映像復号方法,映像符号化装置,映像復号装置およびそれらのプログラム
US10298945B2 (en) 2010-09-30 2019-05-21 Nippon Telegraph And Telephone Corporation Video encoding method, video decoding method, video encoding apparatus, video decoding apparatus, and programs thereof
WO2012169054A1 (ja) * 2011-06-09 2012-12-13 株式会社東芝 動画像符号化方法、及び装置、動画像復号方法、及び装置
JP2017507538A (ja) * 2014-01-01 2017-03-16 エルジー エレクトロニクス インコーポレイティド 適応予測フィルタを用いて映像信号をエンコード、デコードするための方法及び装置
JP2016116039A (ja) * 2014-12-12 2016-06-23 Nttエレクトロニクス株式会社 小数画素生成方法

Also Published As

Publication number Publication date
WO2008085109A1 (en) 2008-07-17
EP2105031B1 (en) 2016-03-09
WO2008085109A8 (en) 2008-09-25
US20100098345A1 (en) 2010-04-22
EP2105031A1 (en) 2009-09-30
EP2105031A4 (en) 2011-06-29
JP5425640B2 (ja) 2014-02-26
US8942505B2 (en) 2015-01-27

Similar Documents

Publication Publication Date Title
JP5425640B2 (ja) 適応フィルタ表現
US8576906B2 (en) Adaptive filtering
US9736496B2 (en) Intra-prediction method using filtering, and apparatus using the method
CA2755889C (en) Image processing device and method
JP5890520B2 (ja) 画像の輝度成分を用いて画像の色差成分を予測する方法及び予測装置
KR101313956B1 (ko) 스위칭된 보간 필터들에서의 오프셋 계산
TWI527441B (zh) 一種執行單循環適應性內插濾波的方法、編碼器和解碼器
US8451902B2 (en) Template-based pixel block processing
US7840096B2 (en) Directional interpolation method and video encoding/decoding apparatus and method using the directional interpolation method
US20140286433A1 (en) Hierarchical motion estimation for video compression and motion analysis
WO2013002144A1 (ja) 映像符号化方法,装置,映像復号方法,装置およびそれらのプログラム
KR20100135638A (ko) 복수의 보간 필터링 방법 및 이를 적용한 부호화 장치
WO2013002150A1 (ja) 映像符号化方法,装置,映像復号方法,装置およびそれらのプログラム
AU2015255215B2 (en) Image processing apparatus and method
KR102668077B1 (ko) 영상 부호화 및 복호화 장치 및 그 방법
US20240031580A1 (en) Method and apparatus for video coding using deep learning based in-loop filter for inter prediction
JP6102978B2 (ja) 画像処理装置および方法、プログラム、並びに記録媒体
KR20240073227A (ko) 영상 부호화 및 복호화 장치 및 그 방법
CN117099372A (zh) 使用用于帧间预测的基于深度学习的环路滤波器的视频编码方法和设备
JP2015167386A (ja) 画像処理装置および方法、プログラム、並びに記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120821

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120910

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130605

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130805

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131003

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131101

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131127

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5425640

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees