JP2004503960A - 画像シーケンスのノイズフィルタリング - Google Patents
画像シーケンスのノイズフィルタリング Download PDFInfo
- Publication number
- JP2004503960A JP2004503960A JP2002511102A JP2002511102A JP2004503960A JP 2004503960 A JP2004503960 A JP 2004503960A JP 2002511102 A JP2002511102 A JP 2002511102A JP 2002511102 A JP2002511102 A JP 2002511102A JP 2004503960 A JP2004503960 A JP 2004503960A
- Authority
- JP
- Japan
- Prior art keywords
- pixel values
- pixel value
- original
- image
- weighted
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/21—Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration by the use of local operators
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Picture Signal Circuits (AREA)
- Image Processing (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
画像シーケンス(V1)のノイズフィルタリングが提供される。画像シーケンス(V1)の少なくとも1つの画像における統計量(S)が決定され(11)、少なくとも1つの画像から得られる元の画素値(Pt,Mi)の組から少なくとも1つのフィルタリングされた画素値(Pt’)が計算される。元の画素値(Pt,Mi)は、統計量(11)の制御下(12,α)において重み付けされる(13)。
Description
【0001】
【発明の属する技術分野】
本発明は、画像シーケンスをノイズフィルタリングすることに関する。本発明は更に、画像シーケンスがノイズフィルタリングされる、画像シーケンスの符号化に関する。
【0002】
【従来の技術】
画像シーケンスは、概して、画像取得の初期段階の間、プロセス及び伝送処理の間、又は記憶段階の間のいずれかにおいて生じうるノイズを含むことが良く知られている。このノイズは、シーケンスの品質のみならず、続いて行われうる圧縮処理(例えばMPEG、ウェーブレット、フラクタル等)の性能も低下させる。これらの理由のため、画質に許容できない影響を与えることなく可能な限りノイズを低減させることに高い関心がもたれている。
【0003】
【発明が解決しようとする課題】
ノイズを低減させるために、フィルタリング処理が必要である。このようなフィルタリング処理は、結果的に画像にぼけ(blurring)及び「ゴースト」効果を生じさせ、これらは見る者にとって許容できない品質をもたらす。これは、ほとんどすべての画像がエッジ、輪郭等をもつ細部の領域を有するためである。
【0004】
【課題を解決するための手段】
本発明の目的は、有利なフィルタリングを提供することである。このために、本発明は、独立項に規定されるように画像シーケンスをノイズフィルタリングする方法及び装置並びに画像シーケンスを符号化する方法及び装置を提供する。有利な実施例は従属項に規定されている。
【0005】
本発明の第1の実施例において、画像シーケンスの少なくとも1つの画像の統計(量)が決定され、少なくとも1つの画像から得られる元の画素値の組から、少なくとも1つのフィルタされた画素値が計算され、かかる元の画素値は統計量の制御下において重み付けされる。本発明は、好ましくは圧縮システムの前処理段に適用される適応フィルタリングを実施するための単純な方法を提供する。統計量は、少なくとも1つの画像から、例えば少なくとも1つの画像(のサブセット)の分散又は相関関係(又はその近似)のようないかなる既知の(又はまだ知られていない)計算によっても簡単に得ることができる。
【0006】
本発明の他の実施例において、計算ステップは、重み付けされた画素値の組を得るために、統計量の制御下において元の画素値の組を重み付けし、重み付けされた画素値の組を静的フィルタに供給し、この静的フィルタにおいて、重み付けされた画素値の組から少なくとも1つのフィルタされた画素値が計算されることを含む。この実施例は、特に、フィルタリングの適応性が別個の重み付けステップを使用することにより得られるとともに、静的フィルタが重み付けと組み合わされて使用されるという利点を有する。インプリメンテーションがより複雑である可変フィルタを使用する代わりに、本発明は、静的フィルタと組み合わされて適応フィルタリングをもたらす画素値の単純な適応化を提供する。
【0007】
有利には、統計量は、元の画素値の組の空間的及び/又は時間的な広がり(spread)を含む。この実施例で、適応化は、フィルタリングされた画素値を得るために処理される画素値の「広がり」の計算に基づく。広がりは、画素値の間の差に基づく尺度であり、好ましくは、広がりは、絶対差分の和として計算され、所与の絶対差分は、所与の元の画素値から平均画素値を減ずることによって得られる。局所的な「広がり」、すなわちフィルタリングされた画素値が元の画素の組から計算される当該元の画素の組の広がりは、画像の局所的なアクティビティの良い指標である。このようにして、処理される画素の統計量に基づいて、画像コンテントが例えばエッジ上にある場合のように重要なものである場合、迷惑なアーティファクトを防ぐためにフィルタの強度を局所的に制御することが可能である。プリフィルタリングにおいて、すなわちコード化ループに入る前に、動きオブジェクトの近傍の欠陥、具体的には動きエッジが、画像の局所的な統計特性に基づく適応性によって除去され、これにより画像シーケンスに許容できないアーティファクトを生じさせることなく、白色ガウスノイズに対して非常に効果的でありうる時空間フィルタリング及び空間フィルタリングを達成する。これは、特に平均値フィルタが適用されるときに言えることである。メジアンフィルタリングは、ガウスノイズ及びスパイクノイズの双方を低減する。
【0008】
有利には、元の画素の組の各画素について、元の画素値の一部αと、中心画素値の一部1−αとの組み合わせをとることにより、重み付けされた画素値が得られる。実際には、αは、元の画素値が中心画素値の値をとることに関する量を示す。α=0の場合、すべての元の画素値は、中心画素値と同じ値を有する。すなわち、中心画素値以外の元の画素値は考慮されない。これは、好ましくは局所的な広がりが高い場合である。α=1の場合、すべての元の画素値はそれらの元の値を保持する。これは、好ましくは局所的な広がりが低い場合である。概して、広がりが高いほどαが低くなる。この実施例において、インプリメンテーションが可能な限り小さく保たれうるように、制御信号は、ただ1つの値、すなわちαからなる。
【0009】
局所的な広がりが、好ましくはルックアップテーブルに供給され、その出力信号が重み付けを制御する。ルックアップテーブルは、重み付けの制御を単純且つ迅速に得ることを可能にする。
【0010】
本発明における好適なフィルタリング処理は、メジアンフィルタリング及び平均値フィルタリングを含む。例えば時空間平均値フィルタリングにおいて、時間方向の広がりが使用されるとき、時間方向について第2のルックアップテーブルを使用することが好ましい。時間方向における画素は、多くの場合、空間方向における画素値とは異なって相互に関連するからである。更に、時間方向における画素は、空間方向における画素より相関関係が小さい。従って、空間方向における画素値に対して、時間方向における隣接画素の重みを全体の結果において減らすことが有利である。
【0011】
時間方向が使用される場合、時間的にずれた元の画素値は、同じフレーム内の(等しくないパリティをもつ)異なるフィールドからの2つの元の画素値と、前のフレームの少なくとも1つの元の画素値とを有することが好ましい。この実施例は、異なるフレーム内の同じパリティをもつフィールドの画素値を記憶することと比較してメモリを節約する。後者の場合、利用可能な2つのフィールドを有するために少なくとも2つのフレームが記憶される必要があるからである。
【0012】
更に、フィルタのインプリメンテーションの帯域幅要求を低減するために、時間的にずれた元の画素値よりむしろフィルタリングされた時間的にずれた画素値が使用されてもよい。
【0013】
米国特許第5,621,468号は、画像符号化装置においてプリフィルタとして使用される動き適応時空間フィルタリング方法を開示している。この方法は、所望の時間的遮断(カットオフ)周波数及び動き成分の速度に従って、帯域制限特性を有するフィルタを使用することにより、時間的エイリアシングなく、動き成分の軌道に沿って時空間ドメイン上のビデオフレーム信号の時間的な帯域制限を処理する。
【0014】
米国特許第4,682,230号は、入力信号のサンプルをフィルタする適応型メジアンフィルタシステムを開示している。更に、回路は、適応型メジアンフィルタに供給される制御信号を生成するために入力信号中のノイズの相対密度を評価する。適応型フィルタは、現サンプルの代わりにメジアン値を有するサンプルを選択的に使う。現サンプル/メジアン距離が処理されたMタイル(分位数)間の距離を上回る場合、メジアン値をもつサンプルが出力部に結合され、そうでない場合、現サンプルが出力部に結合される。M分位数は、サンプルの値に従って分類されたサンプルのリストにおける相対位置に関する一般的用語である。メジアン並びに上位及び下位の四分位数は、大きさの順に並べたリストにおいてそれぞれ2分の1、3分の1及び4分の1の値を示す特定の場合である。M分位数間の距離は、上位のM分位数の値と下位のM分位数の値との間の差であり、現サンプルの近傍にある画像のコントラストの尺度である。
【0015】
米国特許第5,793,435号は、可変係数の時空間フィルタを使用するビデオの非インタレース化を開示している。インタレースされたビデオ信号は、ビデオメモリに入力され、ビデオメモリは、基準信号と、補間されるべき画素並びに空間的及び時間的に近傍の画素を表現する複数のオフセットビデオ信号とを供給する。インタレースされたビデオと共に補助信号として伝送されるか、インタレースされたビデオと共に伝送される動きベクトルから導き出されるか、あるいは、インタレースされたビデオ信号から直接導き出される係数インデックスを係数メモリに供給し、フィルタ係数の組を選択する。基準信号及びオフセット信号は、FIRフィルタのような時空間補間フィルタにおいてフィルタ係数に応じて重み付けされ、補間されたビデオ信号を生成する。補間されたビデオ信号は、フィルタ処理時間を補償するために適切に遅延される基準ビデオ信号によりインタリーブされ、プログレッシブビデオ信号を生成する。
【0016】
本発明の前記及び他の側面は、以下に説明される実施例から明らかになるであろう。
【0017】
【発明の実施の形態】
図面は、本発明を理解するために必要とされる構成要素のみを示している。
【0018】
図1は、入力ユニット10、コンピューティングユニット11、ルックアップテーブル12、重み付け段13、フィルタ14、及び符号化ユニット15を有する本発明によるエンコーダ1の実施例を示している。入力ビデオ信号V1はエンコーダ1に供給され、入力ユニット10において受け取られる。コンピューティングユニット11において、Pt,Miにより示される元の画素値の組から局所的な広がりSが得られる。広がり計算の結果は、制御信号αを得るためにルックアップテーブル12に供給される。重み付け段13において、画素値Pt,Miが重み付けされて、重み付けされた画素値Pt,Niが得られる。重み付けされた画素値Pt,Niはフィルタ14においてフィルタリングされ、フィルタリングされた画素値Pt’が得られる。複数の画素値Pt’は、フィルタリングされたビデオ信号を構成する。本発明の有利な実施例によれば、フィルタ14は、空間メジアンフィルタ、空間平均値フィルタ、時空間平均値フィルタ又はこれらの組み合わせを有する。複数のフィルタリングされた画素値Pt’からなるフィルタリングされたビデオ信号は符号化ユニット15において符号化され、符号化されたビデオ信号V2が得られる。符号化ユニット15は、好ましくはMPEGエンコーダである。
【0019】
図2は、図3に示すような空間メジアンフィルタ又は図4に示すような空間平均値フィルタである本発明による適応フィルタの例示の入力サンプルを示している。これらの入力サンプルは、また、1つのフィールド内の入力サンプルの好ましい例を示すために使用されてもよい。点線は、第1フィールドの画像ラインを示しており、実線は、フレームの第2フィールドの画像ラインを示している。サンプルPtは、計算された出力サンプルの位置にある。1つのフィルタリングされた輝度サンプルを計算するために、5つのサンプルPt、M1、M2、M3及びM4が入力信号として使用される。本発明の好ましい適用分野であるMPEGエンコーダでは、水平カラーサブサンプリングが、CCIR 4:2:2形式に従って入力部において既に行われている。従って、カラーサンプル(U&VについてはPtc、M1c、M2c、M3c及びM4c)の間の水平距離は輝度サンプルの場合の2倍である。実験により、カラーサンプルからの特別な利得は比較的小さい(重要でない)ことが示されたので、大幅に品質を低下させることなくカラーメジアン処理をスキップすることができる。
【0020】
メジアンフィルタリング自体は、この分野では単調なステップエッジを保つその能力について知られており、従って2次元の画像ノイズの平滑化に広く使用されている。メジアンフィルタのインプリメンテーションは、非常に単純なデジタル非線形演算を必要とする。長さnのサンプリングされ量子化された信号がとられる。信号を横切って、m個の信号サンプル点にまたがるウィンドウがスライドされる。フィルタ出力は、これらのm個の信号サンプルのメジアン値に等しく設定され、ウィンドウの中心におけるサンプルに関連付けられる。i=1,…,mであるmスカラーXiのメジアンは値Xmedとして規定することができ、すべてのYについて以下のようになる。
【数1】
【0021】
結果として一意の値を得るために、mは奇数値でなければならない。下式によって記述される二重指数の密度関数をもつ母集団からのランダムサンプル{X1,…,Xm}を仮定する。
【数2】
ここで、γはスケールファクタであり、δは最大位置パラメータである。尤度関数、
【数3】
を最大にするδの値は、ランダムサンプル{X1,…,Xm}に基づくδに関する最尤推定値と呼ばれる。式(3)の対数をとることにより、最尤推定値が明らかにMed[X1,…,Xm]と等しいことが分かる。このようにして、入力分布が式(2)の場合のように二重指数関数である場合、メジアンは最尤法における位置パラメータの最適の推定値である。同様にして、ガウス分布については平均値が最尤推定値である。
【0022】
通常、メジアンフィルタが2次元画像について使用されるとき、画像内のあらゆる点における強度は、当該点を中心とするm*mウィンドウに含まれる点の強度のメジアンによって置き換えられる。メジアンフィルタリングによりアウトライアーが排除されるので、メジアンフィルタは、スパイクノイズ分布をもつ画像を平滑化するための線形フィルタより効果的であることが知られている。上述した特性によれば、入力ノイズの分布がより大きいテール(例えばスパイクノイズ)をもつほど、メジアンフィルタは、フィルタリングされたノイズについてより低い分散を生成する傾向があるが、例えばガウス分布をもつ相関しない(白色)画像ノイズの場合の平均値フィルタより低い性能をもつ。後者は、また、ガウス又はインパルス性ノイズのいずれかが存在するときには、インパルス性ノイズのみが存在するときのように完全には抑制されない。
【0023】
メジアンフィルタは、画像内の単調なステップエッジ(幅(m+1)/2)を保つそれらの能力について魅力的であり、平均値フィルタは、不可避的にエッジをぼかす傾向があるが、ガウスノイズに対してはより効果的であることについては既に述べた。本発明の実施例において、実際のハードウェア内の単純且つ簡単なインプリメンテーションは、分離可能なメジアンフィルタを使用することによって得られる。そのような分離可能なフィルタは、異なる方向に沿った一次元メジアンフィルタの連続する適用によってメジアンフィルタリング処理を実施する。この結果は、完全な2次元メジアンフィルタ(m*mウィンドウを使用する)と同一でないが、分離可能なフィルタは、2次元のメジアンフィルタに相当する性能を提供することが分かった。しかしながら、主な利点は、完全な2次元のメジアンフィルタにおいて中心要素がm2個の点のメジアンであることである。行及び列に沿って別個にm個の点のメジアンを実施することによって、計算を節約する要素を達成することができる。このような分離可能なメジアンフィルタはこの分野において知られている。
【0024】
メジアンはエッジを保つ良い能力をもつが、それが画像データに直接適用される場合、動き部分の近傍にぼけ及び「テール」又は「シャドウ」のような奇妙な効果が生じうる。特にこれらの不所望の効果を最小にするために、本発明は、画像の局所的な統計量に基づいて適応可能である適応メジアンフィルタを提供する。
【0025】
図3は、本発明による適応メジアンフィルタの実施例を示す。図2に示す入力サンプルPt,Miは、コンピューティングユニット21及び重み付け段23に供給される。コンピューティングユニット21において、空間的な広がりSspatが入力サンプルから計算され、この広がりSspatは、ルックアップテーブル22に供給される。広がりSspatに基づいて、制御信号αがルックアップテーブル22から得られる。制御信号αは重み付け段23に供給される。この重み付け段23において、入力画素値Pt,Miが重み付けされ、適応化された画素値Pt,Niが得られる。この実施例において、中心画素Ptは重み付けに影響されないことに注意されたい。メジアンフィルタ24において、フィルタリングされた画素値Pt’を得るために、メジアンは適応化された画素値Pt,Niからとられる。メジアンフィルタ24は、3つの個々のメジアンフィルタ240、241及び242を有する。これらの別個のメジアンフィルタ240、241、242は協働してメジアンフィルタ全体を形成する。この実施例の処理について以下に述べる。
【0026】
5個の入力サンプルPt、M1、M2、M3及びM4の空間的な広がりSspatは、次のように計算される。
【数4】
輝度の広がりの出力信号は、ルックアップテーブル22を介して、重み付け段23のための制御パラメータαに変換される。好適な実施例において、ルックアップテーブル22のコンテントは、外部ソースからダウンロード可能である。例示的なルックアップテーブル22は以下のように与えられる。
Sspat>10⇒α=0.5
Sspat>15⇒α=0.35 (6)
Sspat>20⇒α=0.2
適応化された画素値は以下により得られる。
N1=αM1+(1−α)Pt
N3=αM3+(1−α)Pt (7)
N4=αM4+(1−α)Pt
これらの適応化された画素値から、メジアンは以下に従ってフィルタ24において計算される。
Pt’=Med[Med(N1,N2,Pt),Pt,Med(N3,N4,Pt)] (8)
当業者によって容易に理解されるであろうが、代替例においてメジアンは次式により得られる。
Pt’=Med[N1,N2,Pt,N3,N4] (10)
【0027】
例えば上述したようなメジアンフィルタ24のような本発明によるメジアンフィルタの利点は、段階的なフィルタリングがエッジ近傍で得られ、それによりシーケンス内の悪影響が回避され、又は少なくとも低減されることである。広がりSspatが例えばエッジ近傍で大きいほど、すなわち高い空間的アクティビティをもつとき、αは小さくなり、それにより元の中心画素にはより高い重みが割り当てられ、メジアンフィルタ24のフィルタリングが弱まる。
【0028】
図4は、本発明による適応型空間平均値フィルタの実施例を示している。コンピューティングユニット31及びルックアップテーブル32は、図3に示すコンピューティングユニット21及びルックアップテーブル22と同様である。ルックアップテーブル32は重み付け段33に結合されている。重み付け段33において、入力サンプルPt,Miが重み付けされて、適応化された画素値Pt,Niが得られる。適応化された画素値Pt,Niは、空間平均値フィルタ34に供給される。
【0029】
上述したように、空間平均値フィルタは、ガウス分布に関する最尤推定値である。ビデオシーケンスに存在するノイズは、通常、異なるソース(取得、前増幅、増幅、伝送及びハンドリング処理)による効果の合計であるので、多くの場合ノイズ分布がガウシアン(中心極限定理)であると仮定することができる。これらの場合おいては平均値フィルタが好ましい。本発明による適応型平均値フィルタを符号化装置のプリフィルタ段において使用することにより、大幅なビットレート低減をもたらす効果的なノイズフィルタリングが得られる。しかしながら、空間的及び時間的エッジのぼけが不可避的に生じるので、結果として得られる画像の品質に注意する必要がある。平均値フィルタに関する本発明の目的は、このようなぼけを制御して、フィルタリングされたシーケンスについて許容できる品質を達成することである。適応型空間平均値フィルタの場合、画像の局所的な統計特性(広がり/アクティビティ)に基づく適応性を、メジアンフィルタについて記述されたように利用することができる。結果として適応空間平均値フィルタであり、これは、画像の品質をより良く保つ。
【0030】
適応化された画素値の計算は、適応メジアンフィルタに関して上述した計算と同様である。また、この場合、クロミナンスのフィルタリングは、最終結果へのその寄与が小さいのでスキップされてもよい。
【0031】
適応空間平均値フィルタの出力は次のように計算される。
【数5】
フィルタリングがフィールド内に適用されるため、画素N3及びN4はPtへの距離がN1及びN2と比較して2倍であるので、最終的な平均における重みを低減するために画素N3及びN4は係数2で除算され、従って「相対的に相関関係が低い」ことに注意されたい。
【0032】
非常に低いレベルのノイズが存在するとき、画像は明らかに元のものより非常に滑らかに見える。いずれにせよ、ルックアップテーブルの適切な調整によって、この効果を静的に制御することができ、ノイズ低減とビデオシーケンスの良好な品質との間の良いトレードオフが達成される。
【0033】
図5は、空間及び時間方向における入力サンプルを示し、tは時間を示している。フレームF0において、図2の輝度画素と同様に画素Pt,Miの組がとられる。加えて、この実施例において、画素値Pt1及びPt2は、前のフレームF−1及び先のフレームF1の双方において同じパリティをもつフィールドからとられる。ここでは、現在のフィールドの5画素、同じパリティをもつ前のフィールドの1画素、及び同じパリティをもつ先のフィールドの1画素である7個の画素のウィンドウについて考える。多くの場合空間的及び時間的ノイズの双方が存在するので、時間方向におけるフィルタリング処理を含めることが有利である。動き推定自体が前処理部分に厳密に関連して考えられ実現され、それゆえフィルタリングされた画像の増大された滑らかさによる影響をそれほど受けない場合には、ノイズのレベルの低減は動き推定についても有用でありえる。そうでなければ動きベクトルの品質はより悪くなり、最終結果を悪化させる付加的ないくつかの符号化ノイズをもたらす。
【0034】
図6は、本発明による時空間平均値フィルタの実施例を示している。動きオブジェクトにおける「テール」、「シャドウ」又は単なるぼけのような悪影響を低減するため、適応化ステップを使用して、効果的であり且つ画像にダメージを与えない平均値時空間フィルタリングを実施する。この場合にも、同じフィールドに属する画素と、同じパリティをもつ前の又は次のフィールドに属する画素との区別をすることがここで必要であるとしても、適応性は画像の局所的な統計特性に基づく。この実施例は、図3及び図4に示すコンピューティングユニット21及び31と同様の、空間の広がりを計算するためのコンピューティングユニット41を有する。コンピューティングユニット41は、ルックアップテーブル43に結合されている。この実施例において、同じフィールドに属する画素(Pt,Mi)の広がりと、同じパリティをもつ異なるフィールドに属する画素(Pt,Pt1,Pt2)の広がりとは別個に計算される。言い換えると、空間方向における広がりの計算は、時間方向における広がりの計算から切り離される。時間的な広がりStempを計算するために、この実施例は第2のコンピューティングユニット42を有する。
【0035】
時間的広がりは次のように計算される。
【数6】
時間的広がりの結果は、時間的ルックアップテーブル44を介して、時間的画素値Pt,Pt1及びPt2について重み付け演算を実施するのに必要な制御パラメータα’に変換される。
【0036】
制御パラメータα(空間)及びα’(時間)の計算ののち、重み付け演算が空間及び時間方向において実施される。空間方向については式(5)に従い、時間方向については次式に従う。
WP1=α’Pt1+(1−α’)Pt
WP2=α’Pt2+(1−α’)Pt
最終的に、時空間平均値フィルタ47の出力信号が次式に従って計算される。
【数7】
【0037】
重み付けされた画素値WP1及びWP2が制御パラメータaにより除算されることに注意されたい。制御パラメータaは、ルックアップテーブル45から得られ、3つの画素Pt,Pt1及びPt2における局所的の時間広がりに依存する1以上の数である。広がりが高いほど、すなわちaが高いほど、平均値の前及び次の画素の重みが小さくなる。ルックアップテーブル45を適切に調整することにより、時間方向におけるフィルタの強度を制御することが可能であり、これにより画像の良好な品質が達成される。再び画像の時間的コンテンツに対する適応化を利用して、エッジぼけに関係する悪影響が低減される。
【0038】
上述したフィルタは、有限インパルス応答(FIR)フィルタのクラスに属する。FIR構造は、フィルタリング処理のために現在、未来及び前の元のフレームF0、F1及びF−1をメモリに保持することを必要とする。メモリを節約するために、図7に示すように、過去のフィールドの画素及び等しくないパリティをもつ画素を使用することが好ましい。この場合、現フレームF0及び前のフレームF−1だけが記憶されればよい。これは、フィルタのインプリメンテーションに関する限り、結果として得られるフィルタリングされた画像の品質に大きな影響を及ぼすことなくメモリサイズの低減を可能にする。前の元のフレームの代わりに、前のフィルタリングされたフレームが使用されてもよい。図7の前のフレームについてフィルタリングされたフレームがとられる場合、無限インパルス応答(IIR)フィルタ構造が得られる。この構造は、メモリ使用及び帯域幅に関して利点を有する。
【0039】
本発明によるノイズフィルタリングが適用される画像シーケンス符号化装置の例は、MPEG−2エンコーダ、デジタルビデオレコーダ(例えばDVDビデオ録画、デジタルVHS、HDD VCR)等である。
【0040】
本発明による適応フィルタは、動き補償コード化ループにおいて適用されてもよい。有利には、適応フィルタは、コード化ループ内で時間フィルタと組み合わされてプリフィルタ段において使用される。
【0041】
本発明の一実施例において、少なくとも2つの適応ノイズフィルタ、例えば空間メジアンフィルタ及び適応空間平均値フィルタが組み合わせられ、そこでフィルタリングは画像シーケンスの特性によって制御される。存在するノイズのレベルを解析するノイズ評価器が追加されてもよい。このようなノイズ評価器は、適応フィルタを制御するための興味深いツールである。有利には、ノイズ評価器は、メジアンフィルタと、空間及び/又は時空間平均値フィルタとの間で動的に適宜に切り替わるために、存在するノイズの統計特性を識別するように構成される。
【0042】
上記の実施例は本発明を制限するものではなく、当業者であれば、請求項の範囲から逸脱することなく多くの代替の実施例を設計することができるであろうことに留意されたい。請求項において、括弧の間に示されているいかなる参照符号も請求項を制限するものとして解釈されない。「有する、含む」という語は、請求項に挙げられていない他の構成要素又はステップの存在を排除しない。本発明は、個別のいくつかの要素を含むハードウェアによって、及び適切にプログラムされたコンピュータによって実現することができる。いくつかの手段を挙げている装置の請求項において、これらの手段のいくつかは、ハードウェアの1つの同じアイテムによって具体化されることができる。それぞれ異なる従属項において特定の手段が挙げられているが、これはかかる手段の組み合わせが有利に使用され得ないことを示すものではない。
【0043】
要するに、画像シーケンスの少なくとも1つの画像における統計量が決定され、少なくとも1つの画像から得られる元の画素値の組から少なくとも1つのフィルタリングされた画素値が計算され、元の画素値が統計量の制御下において重み付けされる、画像シーケンスのノイズフィルタリングが提供される。
【図面の簡単な説明】
【図1】本発明によるエンコーダの実施例を示す図。
【図2】図3及び図4に示す適応フィルタの入力サンプルを示す図。
【図3】本発明による適応型空間メジアンフィルタの実施例を示す図。
【図4】本発明による適応型空間平均値フィルタの実施例を示す図。
【図5】図6に示すように適応型時空間平均値フィルタの入力サンプルの第1の組を示す図。
【図6】本発明による時空間平均値フィルタの実施例を示す図。
【図7】図6に示す適応型時空間平均値フィルタの入力サンプルの第2の組を示す図。
【発明の属する技術分野】
本発明は、画像シーケンスをノイズフィルタリングすることに関する。本発明は更に、画像シーケンスがノイズフィルタリングされる、画像シーケンスの符号化に関する。
【0002】
【従来の技術】
画像シーケンスは、概して、画像取得の初期段階の間、プロセス及び伝送処理の間、又は記憶段階の間のいずれかにおいて生じうるノイズを含むことが良く知られている。このノイズは、シーケンスの品質のみならず、続いて行われうる圧縮処理(例えばMPEG、ウェーブレット、フラクタル等)の性能も低下させる。これらの理由のため、画質に許容できない影響を与えることなく可能な限りノイズを低減させることに高い関心がもたれている。
【0003】
【発明が解決しようとする課題】
ノイズを低減させるために、フィルタリング処理が必要である。このようなフィルタリング処理は、結果的に画像にぼけ(blurring)及び「ゴースト」効果を生じさせ、これらは見る者にとって許容できない品質をもたらす。これは、ほとんどすべての画像がエッジ、輪郭等をもつ細部の領域を有するためである。
【0004】
【課題を解決するための手段】
本発明の目的は、有利なフィルタリングを提供することである。このために、本発明は、独立項に規定されるように画像シーケンスをノイズフィルタリングする方法及び装置並びに画像シーケンスを符号化する方法及び装置を提供する。有利な実施例は従属項に規定されている。
【0005】
本発明の第1の実施例において、画像シーケンスの少なくとも1つの画像の統計(量)が決定され、少なくとも1つの画像から得られる元の画素値の組から、少なくとも1つのフィルタされた画素値が計算され、かかる元の画素値は統計量の制御下において重み付けされる。本発明は、好ましくは圧縮システムの前処理段に適用される適応フィルタリングを実施するための単純な方法を提供する。統計量は、少なくとも1つの画像から、例えば少なくとも1つの画像(のサブセット)の分散又は相関関係(又はその近似)のようないかなる既知の(又はまだ知られていない)計算によっても簡単に得ることができる。
【0006】
本発明の他の実施例において、計算ステップは、重み付けされた画素値の組を得るために、統計量の制御下において元の画素値の組を重み付けし、重み付けされた画素値の組を静的フィルタに供給し、この静的フィルタにおいて、重み付けされた画素値の組から少なくとも1つのフィルタされた画素値が計算されることを含む。この実施例は、特に、フィルタリングの適応性が別個の重み付けステップを使用することにより得られるとともに、静的フィルタが重み付けと組み合わされて使用されるという利点を有する。インプリメンテーションがより複雑である可変フィルタを使用する代わりに、本発明は、静的フィルタと組み合わされて適応フィルタリングをもたらす画素値の単純な適応化を提供する。
【0007】
有利には、統計量は、元の画素値の組の空間的及び/又は時間的な広がり(spread)を含む。この実施例で、適応化は、フィルタリングされた画素値を得るために処理される画素値の「広がり」の計算に基づく。広がりは、画素値の間の差に基づく尺度であり、好ましくは、広がりは、絶対差分の和として計算され、所与の絶対差分は、所与の元の画素値から平均画素値を減ずることによって得られる。局所的な「広がり」、すなわちフィルタリングされた画素値が元の画素の組から計算される当該元の画素の組の広がりは、画像の局所的なアクティビティの良い指標である。このようにして、処理される画素の統計量に基づいて、画像コンテントが例えばエッジ上にある場合のように重要なものである場合、迷惑なアーティファクトを防ぐためにフィルタの強度を局所的に制御することが可能である。プリフィルタリングにおいて、すなわちコード化ループに入る前に、動きオブジェクトの近傍の欠陥、具体的には動きエッジが、画像の局所的な統計特性に基づく適応性によって除去され、これにより画像シーケンスに許容できないアーティファクトを生じさせることなく、白色ガウスノイズに対して非常に効果的でありうる時空間フィルタリング及び空間フィルタリングを達成する。これは、特に平均値フィルタが適用されるときに言えることである。メジアンフィルタリングは、ガウスノイズ及びスパイクノイズの双方を低減する。
【0008】
有利には、元の画素の組の各画素について、元の画素値の一部αと、中心画素値の一部1−αとの組み合わせをとることにより、重み付けされた画素値が得られる。実際には、αは、元の画素値が中心画素値の値をとることに関する量を示す。α=0の場合、すべての元の画素値は、中心画素値と同じ値を有する。すなわち、中心画素値以外の元の画素値は考慮されない。これは、好ましくは局所的な広がりが高い場合である。α=1の場合、すべての元の画素値はそれらの元の値を保持する。これは、好ましくは局所的な広がりが低い場合である。概して、広がりが高いほどαが低くなる。この実施例において、インプリメンテーションが可能な限り小さく保たれうるように、制御信号は、ただ1つの値、すなわちαからなる。
【0009】
局所的な広がりが、好ましくはルックアップテーブルに供給され、その出力信号が重み付けを制御する。ルックアップテーブルは、重み付けの制御を単純且つ迅速に得ることを可能にする。
【0010】
本発明における好適なフィルタリング処理は、メジアンフィルタリング及び平均値フィルタリングを含む。例えば時空間平均値フィルタリングにおいて、時間方向の広がりが使用されるとき、時間方向について第2のルックアップテーブルを使用することが好ましい。時間方向における画素は、多くの場合、空間方向における画素値とは異なって相互に関連するからである。更に、時間方向における画素は、空間方向における画素より相関関係が小さい。従って、空間方向における画素値に対して、時間方向における隣接画素の重みを全体の結果において減らすことが有利である。
【0011】
時間方向が使用される場合、時間的にずれた元の画素値は、同じフレーム内の(等しくないパリティをもつ)異なるフィールドからの2つの元の画素値と、前のフレームの少なくとも1つの元の画素値とを有することが好ましい。この実施例は、異なるフレーム内の同じパリティをもつフィールドの画素値を記憶することと比較してメモリを節約する。後者の場合、利用可能な2つのフィールドを有するために少なくとも2つのフレームが記憶される必要があるからである。
【0012】
更に、フィルタのインプリメンテーションの帯域幅要求を低減するために、時間的にずれた元の画素値よりむしろフィルタリングされた時間的にずれた画素値が使用されてもよい。
【0013】
米国特許第5,621,468号は、画像符号化装置においてプリフィルタとして使用される動き適応時空間フィルタリング方法を開示している。この方法は、所望の時間的遮断(カットオフ)周波数及び動き成分の速度に従って、帯域制限特性を有するフィルタを使用することにより、時間的エイリアシングなく、動き成分の軌道に沿って時空間ドメイン上のビデオフレーム信号の時間的な帯域制限を処理する。
【0014】
米国特許第4,682,230号は、入力信号のサンプルをフィルタする適応型メジアンフィルタシステムを開示している。更に、回路は、適応型メジアンフィルタに供給される制御信号を生成するために入力信号中のノイズの相対密度を評価する。適応型フィルタは、現サンプルの代わりにメジアン値を有するサンプルを選択的に使う。現サンプル/メジアン距離が処理されたMタイル(分位数)間の距離を上回る場合、メジアン値をもつサンプルが出力部に結合され、そうでない場合、現サンプルが出力部に結合される。M分位数は、サンプルの値に従って分類されたサンプルのリストにおける相対位置に関する一般的用語である。メジアン並びに上位及び下位の四分位数は、大きさの順に並べたリストにおいてそれぞれ2分の1、3分の1及び4分の1の値を示す特定の場合である。M分位数間の距離は、上位のM分位数の値と下位のM分位数の値との間の差であり、現サンプルの近傍にある画像のコントラストの尺度である。
【0015】
米国特許第5,793,435号は、可変係数の時空間フィルタを使用するビデオの非インタレース化を開示している。インタレースされたビデオ信号は、ビデオメモリに入力され、ビデオメモリは、基準信号と、補間されるべき画素並びに空間的及び時間的に近傍の画素を表現する複数のオフセットビデオ信号とを供給する。インタレースされたビデオと共に補助信号として伝送されるか、インタレースされたビデオと共に伝送される動きベクトルから導き出されるか、あるいは、インタレースされたビデオ信号から直接導き出される係数インデックスを係数メモリに供給し、フィルタ係数の組を選択する。基準信号及びオフセット信号は、FIRフィルタのような時空間補間フィルタにおいてフィルタ係数に応じて重み付けされ、補間されたビデオ信号を生成する。補間されたビデオ信号は、フィルタ処理時間を補償するために適切に遅延される基準ビデオ信号によりインタリーブされ、プログレッシブビデオ信号を生成する。
【0016】
本発明の前記及び他の側面は、以下に説明される実施例から明らかになるであろう。
【0017】
【発明の実施の形態】
図面は、本発明を理解するために必要とされる構成要素のみを示している。
【0018】
図1は、入力ユニット10、コンピューティングユニット11、ルックアップテーブル12、重み付け段13、フィルタ14、及び符号化ユニット15を有する本発明によるエンコーダ1の実施例を示している。入力ビデオ信号V1はエンコーダ1に供給され、入力ユニット10において受け取られる。コンピューティングユニット11において、Pt,Miにより示される元の画素値の組から局所的な広がりSが得られる。広がり計算の結果は、制御信号αを得るためにルックアップテーブル12に供給される。重み付け段13において、画素値Pt,Miが重み付けされて、重み付けされた画素値Pt,Niが得られる。重み付けされた画素値Pt,Niはフィルタ14においてフィルタリングされ、フィルタリングされた画素値Pt’が得られる。複数の画素値Pt’は、フィルタリングされたビデオ信号を構成する。本発明の有利な実施例によれば、フィルタ14は、空間メジアンフィルタ、空間平均値フィルタ、時空間平均値フィルタ又はこれらの組み合わせを有する。複数のフィルタリングされた画素値Pt’からなるフィルタリングされたビデオ信号は符号化ユニット15において符号化され、符号化されたビデオ信号V2が得られる。符号化ユニット15は、好ましくはMPEGエンコーダである。
【0019】
図2は、図3に示すような空間メジアンフィルタ又は図4に示すような空間平均値フィルタである本発明による適応フィルタの例示の入力サンプルを示している。これらの入力サンプルは、また、1つのフィールド内の入力サンプルの好ましい例を示すために使用されてもよい。点線は、第1フィールドの画像ラインを示しており、実線は、フレームの第2フィールドの画像ラインを示している。サンプルPtは、計算された出力サンプルの位置にある。1つのフィルタリングされた輝度サンプルを計算するために、5つのサンプルPt、M1、M2、M3及びM4が入力信号として使用される。本発明の好ましい適用分野であるMPEGエンコーダでは、水平カラーサブサンプリングが、CCIR 4:2:2形式に従って入力部において既に行われている。従って、カラーサンプル(U&VについてはPtc、M1c、M2c、M3c及びM4c)の間の水平距離は輝度サンプルの場合の2倍である。実験により、カラーサンプルからの特別な利得は比較的小さい(重要でない)ことが示されたので、大幅に品質を低下させることなくカラーメジアン処理をスキップすることができる。
【0020】
メジアンフィルタリング自体は、この分野では単調なステップエッジを保つその能力について知られており、従って2次元の画像ノイズの平滑化に広く使用されている。メジアンフィルタのインプリメンテーションは、非常に単純なデジタル非線形演算を必要とする。長さnのサンプリングされ量子化された信号がとられる。信号を横切って、m個の信号サンプル点にまたがるウィンドウがスライドされる。フィルタ出力は、これらのm個の信号サンプルのメジアン値に等しく設定され、ウィンドウの中心におけるサンプルに関連付けられる。i=1,…,mであるmスカラーXiのメジアンは値Xmedとして規定することができ、すべてのYについて以下のようになる。
【数1】
【0021】
結果として一意の値を得るために、mは奇数値でなければならない。下式によって記述される二重指数の密度関数をもつ母集団からのランダムサンプル{X1,…,Xm}を仮定する。
【数2】
ここで、γはスケールファクタであり、δは最大位置パラメータである。尤度関数、
【数3】
を最大にするδの値は、ランダムサンプル{X1,…,Xm}に基づくδに関する最尤推定値と呼ばれる。式(3)の対数をとることにより、最尤推定値が明らかにMed[X1,…,Xm]と等しいことが分かる。このようにして、入力分布が式(2)の場合のように二重指数関数である場合、メジアンは最尤法における位置パラメータの最適の推定値である。同様にして、ガウス分布については平均値が最尤推定値である。
【0022】
通常、メジアンフィルタが2次元画像について使用されるとき、画像内のあらゆる点における強度は、当該点を中心とするm*mウィンドウに含まれる点の強度のメジアンによって置き換えられる。メジアンフィルタリングによりアウトライアーが排除されるので、メジアンフィルタは、スパイクノイズ分布をもつ画像を平滑化するための線形フィルタより効果的であることが知られている。上述した特性によれば、入力ノイズの分布がより大きいテール(例えばスパイクノイズ)をもつほど、メジアンフィルタは、フィルタリングされたノイズについてより低い分散を生成する傾向があるが、例えばガウス分布をもつ相関しない(白色)画像ノイズの場合の平均値フィルタより低い性能をもつ。後者は、また、ガウス又はインパルス性ノイズのいずれかが存在するときには、インパルス性ノイズのみが存在するときのように完全には抑制されない。
【0023】
メジアンフィルタは、画像内の単調なステップエッジ(幅(m+1)/2)を保つそれらの能力について魅力的であり、平均値フィルタは、不可避的にエッジをぼかす傾向があるが、ガウスノイズに対してはより効果的であることについては既に述べた。本発明の実施例において、実際のハードウェア内の単純且つ簡単なインプリメンテーションは、分離可能なメジアンフィルタを使用することによって得られる。そのような分離可能なフィルタは、異なる方向に沿った一次元メジアンフィルタの連続する適用によってメジアンフィルタリング処理を実施する。この結果は、完全な2次元メジアンフィルタ(m*mウィンドウを使用する)と同一でないが、分離可能なフィルタは、2次元のメジアンフィルタに相当する性能を提供することが分かった。しかしながら、主な利点は、完全な2次元のメジアンフィルタにおいて中心要素がm2個の点のメジアンであることである。行及び列に沿って別個にm個の点のメジアンを実施することによって、計算を節約する要素を達成することができる。このような分離可能なメジアンフィルタはこの分野において知られている。
【0024】
メジアンはエッジを保つ良い能力をもつが、それが画像データに直接適用される場合、動き部分の近傍にぼけ及び「テール」又は「シャドウ」のような奇妙な効果が生じうる。特にこれらの不所望の効果を最小にするために、本発明は、画像の局所的な統計量に基づいて適応可能である適応メジアンフィルタを提供する。
【0025】
図3は、本発明による適応メジアンフィルタの実施例を示す。図2に示す入力サンプルPt,Miは、コンピューティングユニット21及び重み付け段23に供給される。コンピューティングユニット21において、空間的な広がりSspatが入力サンプルから計算され、この広がりSspatは、ルックアップテーブル22に供給される。広がりSspatに基づいて、制御信号αがルックアップテーブル22から得られる。制御信号αは重み付け段23に供給される。この重み付け段23において、入力画素値Pt,Miが重み付けされ、適応化された画素値Pt,Niが得られる。この実施例において、中心画素Ptは重み付けに影響されないことに注意されたい。メジアンフィルタ24において、フィルタリングされた画素値Pt’を得るために、メジアンは適応化された画素値Pt,Niからとられる。メジアンフィルタ24は、3つの個々のメジアンフィルタ240、241及び242を有する。これらの別個のメジアンフィルタ240、241、242は協働してメジアンフィルタ全体を形成する。この実施例の処理について以下に述べる。
【0026】
5個の入力サンプルPt、M1、M2、M3及びM4の空間的な広がりSspatは、次のように計算される。
【数4】
輝度の広がりの出力信号は、ルックアップテーブル22を介して、重み付け段23のための制御パラメータαに変換される。好適な実施例において、ルックアップテーブル22のコンテントは、外部ソースからダウンロード可能である。例示的なルックアップテーブル22は以下のように与えられる。
Sspat>10⇒α=0.5
Sspat>15⇒α=0.35 (6)
Sspat>20⇒α=0.2
適応化された画素値は以下により得られる。
N1=αM1+(1−α)Pt
N3=αM3+(1−α)Pt (7)
N4=αM4+(1−α)Pt
これらの適応化された画素値から、メジアンは以下に従ってフィルタ24において計算される。
Pt’=Med[Med(N1,N2,Pt),Pt,Med(N3,N4,Pt)] (8)
当業者によって容易に理解されるであろうが、代替例においてメジアンは次式により得られる。
Pt’=Med[N1,N2,Pt,N3,N4] (10)
【0027】
例えば上述したようなメジアンフィルタ24のような本発明によるメジアンフィルタの利点は、段階的なフィルタリングがエッジ近傍で得られ、それによりシーケンス内の悪影響が回避され、又は少なくとも低減されることである。広がりSspatが例えばエッジ近傍で大きいほど、すなわち高い空間的アクティビティをもつとき、αは小さくなり、それにより元の中心画素にはより高い重みが割り当てられ、メジアンフィルタ24のフィルタリングが弱まる。
【0028】
図4は、本発明による適応型空間平均値フィルタの実施例を示している。コンピューティングユニット31及びルックアップテーブル32は、図3に示すコンピューティングユニット21及びルックアップテーブル22と同様である。ルックアップテーブル32は重み付け段33に結合されている。重み付け段33において、入力サンプルPt,Miが重み付けされて、適応化された画素値Pt,Niが得られる。適応化された画素値Pt,Niは、空間平均値フィルタ34に供給される。
【0029】
上述したように、空間平均値フィルタは、ガウス分布に関する最尤推定値である。ビデオシーケンスに存在するノイズは、通常、異なるソース(取得、前増幅、増幅、伝送及びハンドリング処理)による効果の合計であるので、多くの場合ノイズ分布がガウシアン(中心極限定理)であると仮定することができる。これらの場合おいては平均値フィルタが好ましい。本発明による適応型平均値フィルタを符号化装置のプリフィルタ段において使用することにより、大幅なビットレート低減をもたらす効果的なノイズフィルタリングが得られる。しかしながら、空間的及び時間的エッジのぼけが不可避的に生じるので、結果として得られる画像の品質に注意する必要がある。平均値フィルタに関する本発明の目的は、このようなぼけを制御して、フィルタリングされたシーケンスについて許容できる品質を達成することである。適応型空間平均値フィルタの場合、画像の局所的な統計特性(広がり/アクティビティ)に基づく適応性を、メジアンフィルタについて記述されたように利用することができる。結果として適応空間平均値フィルタであり、これは、画像の品質をより良く保つ。
【0030】
適応化された画素値の計算は、適応メジアンフィルタに関して上述した計算と同様である。また、この場合、クロミナンスのフィルタリングは、最終結果へのその寄与が小さいのでスキップされてもよい。
【0031】
適応空間平均値フィルタの出力は次のように計算される。
【数5】
フィルタリングがフィールド内に適用されるため、画素N3及びN4はPtへの距離がN1及びN2と比較して2倍であるので、最終的な平均における重みを低減するために画素N3及びN4は係数2で除算され、従って「相対的に相関関係が低い」ことに注意されたい。
【0032】
非常に低いレベルのノイズが存在するとき、画像は明らかに元のものより非常に滑らかに見える。いずれにせよ、ルックアップテーブルの適切な調整によって、この効果を静的に制御することができ、ノイズ低減とビデオシーケンスの良好な品質との間の良いトレードオフが達成される。
【0033】
図5は、空間及び時間方向における入力サンプルを示し、tは時間を示している。フレームF0において、図2の輝度画素と同様に画素Pt,Miの組がとられる。加えて、この実施例において、画素値Pt1及びPt2は、前のフレームF−1及び先のフレームF1の双方において同じパリティをもつフィールドからとられる。ここでは、現在のフィールドの5画素、同じパリティをもつ前のフィールドの1画素、及び同じパリティをもつ先のフィールドの1画素である7個の画素のウィンドウについて考える。多くの場合空間的及び時間的ノイズの双方が存在するので、時間方向におけるフィルタリング処理を含めることが有利である。動き推定自体が前処理部分に厳密に関連して考えられ実現され、それゆえフィルタリングされた画像の増大された滑らかさによる影響をそれほど受けない場合には、ノイズのレベルの低減は動き推定についても有用でありえる。そうでなければ動きベクトルの品質はより悪くなり、最終結果を悪化させる付加的ないくつかの符号化ノイズをもたらす。
【0034】
図6は、本発明による時空間平均値フィルタの実施例を示している。動きオブジェクトにおける「テール」、「シャドウ」又は単なるぼけのような悪影響を低減するため、適応化ステップを使用して、効果的であり且つ画像にダメージを与えない平均値時空間フィルタリングを実施する。この場合にも、同じフィールドに属する画素と、同じパリティをもつ前の又は次のフィールドに属する画素との区別をすることがここで必要であるとしても、適応性は画像の局所的な統計特性に基づく。この実施例は、図3及び図4に示すコンピューティングユニット21及び31と同様の、空間の広がりを計算するためのコンピューティングユニット41を有する。コンピューティングユニット41は、ルックアップテーブル43に結合されている。この実施例において、同じフィールドに属する画素(Pt,Mi)の広がりと、同じパリティをもつ異なるフィールドに属する画素(Pt,Pt1,Pt2)の広がりとは別個に計算される。言い換えると、空間方向における広がりの計算は、時間方向における広がりの計算から切り離される。時間的な広がりStempを計算するために、この実施例は第2のコンピューティングユニット42を有する。
【0035】
時間的広がりは次のように計算される。
【数6】
時間的広がりの結果は、時間的ルックアップテーブル44を介して、時間的画素値Pt,Pt1及びPt2について重み付け演算を実施するのに必要な制御パラメータα’に変換される。
【0036】
制御パラメータα(空間)及びα’(時間)の計算ののち、重み付け演算が空間及び時間方向において実施される。空間方向については式(5)に従い、時間方向については次式に従う。
WP1=α’Pt1+(1−α’)Pt
WP2=α’Pt2+(1−α’)Pt
最終的に、時空間平均値フィルタ47の出力信号が次式に従って計算される。
【数7】
【0037】
重み付けされた画素値WP1及びWP2が制御パラメータaにより除算されることに注意されたい。制御パラメータaは、ルックアップテーブル45から得られ、3つの画素Pt,Pt1及びPt2における局所的の時間広がりに依存する1以上の数である。広がりが高いほど、すなわちaが高いほど、平均値の前及び次の画素の重みが小さくなる。ルックアップテーブル45を適切に調整することにより、時間方向におけるフィルタの強度を制御することが可能であり、これにより画像の良好な品質が達成される。再び画像の時間的コンテンツに対する適応化を利用して、エッジぼけに関係する悪影響が低減される。
【0038】
上述したフィルタは、有限インパルス応答(FIR)フィルタのクラスに属する。FIR構造は、フィルタリング処理のために現在、未来及び前の元のフレームF0、F1及びF−1をメモリに保持することを必要とする。メモリを節約するために、図7に示すように、過去のフィールドの画素及び等しくないパリティをもつ画素を使用することが好ましい。この場合、現フレームF0及び前のフレームF−1だけが記憶されればよい。これは、フィルタのインプリメンテーションに関する限り、結果として得られるフィルタリングされた画像の品質に大きな影響を及ぼすことなくメモリサイズの低減を可能にする。前の元のフレームの代わりに、前のフィルタリングされたフレームが使用されてもよい。図7の前のフレームについてフィルタリングされたフレームがとられる場合、無限インパルス応答(IIR)フィルタ構造が得られる。この構造は、メモリ使用及び帯域幅に関して利点を有する。
【0039】
本発明によるノイズフィルタリングが適用される画像シーケンス符号化装置の例は、MPEG−2エンコーダ、デジタルビデオレコーダ(例えばDVDビデオ録画、デジタルVHS、HDD VCR)等である。
【0040】
本発明による適応フィルタは、動き補償コード化ループにおいて適用されてもよい。有利には、適応フィルタは、コード化ループ内で時間フィルタと組み合わされてプリフィルタ段において使用される。
【0041】
本発明の一実施例において、少なくとも2つの適応ノイズフィルタ、例えば空間メジアンフィルタ及び適応空間平均値フィルタが組み合わせられ、そこでフィルタリングは画像シーケンスの特性によって制御される。存在するノイズのレベルを解析するノイズ評価器が追加されてもよい。このようなノイズ評価器は、適応フィルタを制御するための興味深いツールである。有利には、ノイズ評価器は、メジアンフィルタと、空間及び/又は時空間平均値フィルタとの間で動的に適宜に切り替わるために、存在するノイズの統計特性を識別するように構成される。
【0042】
上記の実施例は本発明を制限するものではなく、当業者であれば、請求項の範囲から逸脱することなく多くの代替の実施例を設計することができるであろうことに留意されたい。請求項において、括弧の間に示されているいかなる参照符号も請求項を制限するものとして解釈されない。「有する、含む」という語は、請求項に挙げられていない他の構成要素又はステップの存在を排除しない。本発明は、個別のいくつかの要素を含むハードウェアによって、及び適切にプログラムされたコンピュータによって実現することができる。いくつかの手段を挙げている装置の請求項において、これらの手段のいくつかは、ハードウェアの1つの同じアイテムによって具体化されることができる。それぞれ異なる従属項において特定の手段が挙げられているが、これはかかる手段の組み合わせが有利に使用され得ないことを示すものではない。
【0043】
要するに、画像シーケンスの少なくとも1つの画像における統計量が決定され、少なくとも1つの画像から得られる元の画素値の組から少なくとも1つのフィルタリングされた画素値が計算され、元の画素値が統計量の制御下において重み付けされる、画像シーケンスのノイズフィルタリングが提供される。
【図面の簡単な説明】
【図1】本発明によるエンコーダの実施例を示す図。
【図2】図3及び図4に示す適応フィルタの入力サンプルを示す図。
【図3】本発明による適応型空間メジアンフィルタの実施例を示す図。
【図4】本発明による適応型空間平均値フィルタの実施例を示す図。
【図5】図6に示すように適応型時空間平均値フィルタの入力サンプルの第1の組を示す図。
【図6】本発明による時空間平均値フィルタの実施例を示す図。
【図7】図6に示す適応型時空間平均値フィルタの入力サンプルの第2の組を示す図。
Claims (16)
- 画像シーケンスをノイズフィルタリングする方法であって、
前記画像シーケンスの少なくとも1つの画像における統計量を決定するステップと、
前記少なくとも1つの画像から得られた元の画素値の組から、少なくとも1つのフィルタリングされた画素値を計算するステップであって、該元の画素値が前記統計量の制御下において重み付けされるステップと、を含むことを特徴とする方法。 - 前記計算ステップが、
重み付けされた画素値の組を得るために、前記統計量の制御下において前記元の画素値の組を重み付けし、
前記重み付けされた画素値の組を静的フィルタに供給し、該静的フィルタにおいて、前記重み付けされた画素値の組から前記少なくとも1つのフィルタリングされた画素値が計算されることを含む、請求項1に記載の方法。 - 前記統計量が前記元の画素値の組の空間的及び/又は時間的な広がりを含む、請求項1に記載の方法。
- 前記空間的及び/又は時間的な広がりが絶対差分の和であり、所与の絶対差分が、所与の元の画素値から平均画素値を減ずることにより得られる、請求項3に記載の方法。
- 前記元の画素値の組が、中心画素値と、空間的及び/又は時間的に近傍にある画素値とを含み、前記ノイズフィルタリングの結果として、前記中心画素値が、前記フィルタリングされた画素値によって置き換えられる、請求項1に記載の方法。
- 前記重み付けされた画素値の組は、前記元の画素値の組における各画素について、前記元の画素値の一部αと、中心画素値の一部1−αとの組み合わせをとることにより得られる、請求項2に記載の方法。
- 前記統計量がルックアップテーブルに供給され、該ルックアップテーブルから制御信号が得られ、該制御信号が重み付けを制御する、請求項1に記載の方法。
- 前記少なくとも1つのフィルタリングされた画素値は、前記重み付けされた画素値の組のメジアンを計算することにより得られる、請求項2に記載の方法。
- 前記少なくとも1つのフィルタリングされた画素値は、前記重み付けされた画素値の組の平均値を計算することにより得られる、請求項2に記載の方法。
- 前記元の画素値の組における空間的にずれた元の画素値から計算される空間的な広がりを決定し、
前記元の画素値の組における時間的にずれた元の画素値から計算される時間的な広がりを決定し、
前記空間的な広がりの制御下において前記空間的にずれた元の画素値を重み付けし、前記時間的な広がりの制御下において前記時間的にずれた元の画素値を重み付けすることを含む、請求項9に記載の方法。 - 前記重み付けされた時間的にずれた元の画素値が、前記フィルタリングにおいてそれらの重みを低くするために除算される、請求項10に記載の方法。
- 前記時間的にずれた元の画素値が、同じフレームにおける異なるフィールドからの2つの元の画素値と、前のフレームの少なくとも1つの元の画素値と、を有する、請求項10に記載の方法。
- 時間的にずれた元の画素値ではなく、フィルタリングされた時間的にずれた画素値が使用される、請求項12に記載の方法。
- 請求項1に記載の方法により画像シーケンスがノイズフィルタリングされる、画像シーケンスを符号化する方法。
- 画像シーケンスをノイズフィルタリングする装置であって、
前記画像シーケンスの少なくとも1つの画像における統計量を決定するコンピューティング手段と、
前記少なくとも1つの画像から得られる元の画素値の組から、少なくとも1つのフィルタリングされた画素値を計算するフィルタ手段であって、該元の画素値が前記統計量の制御下において重み付けされる、フィルタ手段と、
を有する装置。 - 請求項15に記載のノイズフィルタリング装置を有する、画像シーケンスを符号化する装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP00202076 | 2000-06-15 | ||
PCT/EP2001/006053 WO2001097509A1 (en) | 2000-06-15 | 2001-05-25 | Noise filtering an image sequence |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004503960A true JP2004503960A (ja) | 2004-02-05 |
Family
ID=8171630
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002511102A Withdrawn JP2004503960A (ja) | 2000-06-15 | 2001-05-25 | 画像シーケンスのノイズフィルタリング |
Country Status (6)
Country | Link |
---|---|
US (1) | US20020094130A1 (ja) |
EP (1) | EP1316206A1 (ja) |
JP (1) | JP2004503960A (ja) |
KR (1) | KR20020027548A (ja) |
CN (1) | CN1218561C (ja) |
WO (1) | WO2001097509A1 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009021772A (ja) * | 2007-07-11 | 2009-01-29 | Olympus Corp | 画像処理装置、画像処理方法、および画像処理プログラム。 |
WO2010064316A1 (ja) * | 2008-12-05 | 2010-06-10 | オリンパス株式会社 | 画像処理装置、画像処理方法、および画像処理プログラム |
US8411205B2 (en) | 2007-07-11 | 2013-04-02 | Olympus Corporation | Noise reducing image processing apparatus |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2390772B (en) * | 2002-07-12 | 2005-12-07 | Snell & Wilcox Ltd | Improved noise reduction |
DE60224035D1 (de) * | 2002-08-23 | 2008-01-24 | St Microelectronics Srl | Verfahren zur Rauschfilterung einer numerischen Bildfolge |
US7394856B2 (en) * | 2003-09-19 | 2008-07-01 | Seiko Epson Corporation | Adaptive video prefilter |
US7352373B2 (en) * | 2003-09-30 | 2008-04-01 | Sharp Laboratories Of America, Inc. | Systems and methods for multi-dimensional dither structure creation and application |
US7295616B2 (en) | 2003-11-17 | 2007-11-13 | Eastman Kodak Company | Method and system for video filtering with joint motion and noise estimation |
US20070098086A1 (en) * | 2005-10-28 | 2007-05-03 | Vasudev Bhaskaran | Spatio-temporal noise filter for digital video |
US7706625B2 (en) * | 2006-06-09 | 2010-04-27 | Siemens Aktiengesellschaft | Trilateral filter for medical diagnostic imaging |
CN101087365B (zh) * | 2006-06-10 | 2010-08-18 | 中兴通讯股份有限公司 | 一种滤除图像混合噪声的方法 |
US8009732B2 (en) * | 2006-09-01 | 2011-08-30 | Seiko Epson Corporation | In-loop noise reduction within an encoder framework |
US8447130B2 (en) * | 2007-12-31 | 2013-05-21 | Intel Corporation | History-based spatio-temporal noise reduction |
US8326075B2 (en) | 2008-09-11 | 2012-12-04 | Google Inc. | System and method for video encoding using adaptive loop filter |
US8780996B2 (en) * | 2011-04-07 | 2014-07-15 | Google, Inc. | System and method for encoding and decoding video data |
US8885706B2 (en) | 2011-09-16 | 2014-11-11 | Google Inc. | Apparatus and methodology for a video codec system with noise reduction capability |
US9131073B1 (en) | 2012-03-02 | 2015-09-08 | Google Inc. | Motion estimation aided noise reduction |
US9344729B1 (en) | 2012-07-11 | 2016-05-17 | Google Inc. | Selective prediction signal filtering |
US10102613B2 (en) | 2014-09-25 | 2018-10-16 | Google Llc | Frequency-domain denoising |
US10303916B2 (en) | 2015-07-31 | 2019-05-28 | Fotonation Limited | Image processing apparatus |
JP6653386B2 (ja) * | 2016-07-19 | 2020-02-26 | オリンパス株式会社 | 画像処理装置、内視鏡システム、プログラム及び画像処理装置の作動方法 |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AU4191389A (en) * | 1988-09-13 | 1990-04-02 | Deutsche Thomson-Brandt Gmbh | Transmission system |
US5799111A (en) * | 1991-06-14 | 1998-08-25 | D.V.P. Technologies, Ltd. | Apparatus and methods for smoothing images |
JPH06215130A (ja) * | 1991-08-29 | 1994-08-05 | Kyocera Corp | メディアンフィルタ |
JPH05165951A (ja) * | 1991-12-19 | 1993-07-02 | Nec Home Electron Ltd | 画像処理装置 |
DE69322444T2 (de) * | 1992-07-10 | 1999-06-24 | Koninkl Philips Electronics Nv | Röntgendurchleuchtungsgerät mit Mitteln zur Rauschreduktion |
US5446501A (en) * | 1992-10-22 | 1995-08-29 | Accom, Incorporated | Three-dimensional median and recursive filtering apparatus and method for video image enhancement |
JP3266416B2 (ja) * | 1994-04-18 | 2002-03-18 | ケイディーディーアイ株式会社 | 動き補償フレーム間符号化復号装置 |
US5486863A (en) * | 1994-04-29 | 1996-01-23 | Motorola, Inc. | Method for determining whether to intra code a video block |
US5852475A (en) * | 1995-06-06 | 1998-12-22 | Compression Labs, Inc. | Transform artifact reduction process |
US5844627A (en) * | 1995-09-11 | 1998-12-01 | Minerya System, Inc. | Structure and method for reducing spatial noise |
US5633511A (en) * | 1995-12-22 | 1997-05-27 | Eastman Kodak Company | Automatic tone scale adjustment using image activity measures |
US6037986A (en) * | 1996-07-16 | 2000-03-14 | Divicom Inc. | Video preprocessing method and apparatus with selective filtering based on motion detection |
US6067125A (en) * | 1997-05-15 | 2000-05-23 | Minerva Systems | Structure and method for film grain noise reduction |
JPH11126251A (ja) * | 1997-10-23 | 1999-05-11 | Mitsubishi Electric Corp | 画像の変化量抽出装置 |
US6192079B1 (en) * | 1998-05-07 | 2001-02-20 | Intel Corporation | Method and apparatus for increasing video frame rate |
US6310982B1 (en) * | 1998-11-12 | 2001-10-30 | Oec Medical Systems, Inc. | Method and apparatus for reducing motion artifacts and noise in video image processing |
US6847405B2 (en) * | 2001-09-14 | 2005-01-25 | Sony Corporation | Motion-adaptive de-interlacing method and system for digital televisions |
-
2001
- 2001-05-25 KR KR1020027001978A patent/KR20020027548A/ko not_active Application Discontinuation
- 2001-05-25 EP EP01953163A patent/EP1316206A1/en not_active Withdrawn
- 2001-05-25 CN CN018016898A patent/CN1218561C/zh not_active Expired - Fee Related
- 2001-05-25 WO PCT/EP2001/006053 patent/WO2001097509A1/en not_active Application Discontinuation
- 2001-05-25 JP JP2002511102A patent/JP2004503960A/ja not_active Withdrawn
- 2001-06-13 US US09/880,207 patent/US20020094130A1/en not_active Abandoned
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009021772A (ja) * | 2007-07-11 | 2009-01-29 | Olympus Corp | 画像処理装置、画像処理方法、および画像処理プログラム。 |
US8411205B2 (en) | 2007-07-11 | 2013-04-02 | Olympus Corporation | Noise reducing image processing apparatus |
WO2010064316A1 (ja) * | 2008-12-05 | 2010-06-10 | オリンパス株式会社 | 画像処理装置、画像処理方法、および画像処理プログラム |
Also Published As
Publication number | Publication date |
---|---|
CN1218561C (zh) | 2005-09-07 |
US20020094130A1 (en) | 2002-07-18 |
WO2001097509A1 (en) | 2001-12-20 |
EP1316206A1 (en) | 2003-06-04 |
CN1383673A (zh) | 2002-12-04 |
KR20020027548A (ko) | 2002-04-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2004503960A (ja) | 画像シーケンスのノイズフィルタリング | |
KR100564592B1 (ko) | 동영상 데이터 잡음제거방법 | |
EP0769878B1 (en) | Post-filter for removing artifacts from DCT coded images | |
US5565921A (en) | Motion-adaptive image signal processing system | |
US6281942B1 (en) | Spatial and temporal filtering mechanism for digital motion video signals | |
US8537903B2 (en) | De-blocking and de-ringing systems and methods | |
US7050501B2 (en) | Digital noise reduction techniques | |
US7145607B1 (en) | Spatio-temporal video noise reduction system | |
JPH08186714A (ja) | 画像データのノイズ除去方法及びその装置 | |
EP1506525B1 (en) | System for and method of sharpness enhancement for coded digital video | |
KR20040069210A (ko) | 코딩 정보 및 로컬 공간 특징을 이용한 디지털 비디오신호들의 후처리에서의 선명도 향상 | |
EP0714210B1 (en) | Method of reducing mosquito noise generated during decoding process of image data and device for decoding image data using the same | |
JP3365784B2 (ja) | 画像信号復号化装置 | |
JP2004518337A (ja) | ビデオエンハンスメントのために符号化情報に基づく有用メトリックを提供するための装置及び方法 | |
JP2637978B2 (ja) | 動き適応形画質改善装置 | |
JP3326827B2 (ja) | ノイズ除去回路 | |
JP3627291B2 (ja) | ブロック歪み除去装置および方法 | |
JP2013500666A (ja) | 信号フィルタリング方法及びフィルタ係数計算方法 | |
JP2004015708A (ja) | 画像信号のダイナミックレンジ制御装置 | |
JP2985752B2 (ja) | 動画像復号化装置 | |
JPH06121193A (ja) | ノイズ除去回路 | |
JPH06311499A (ja) | 画像信号復号化装置 | |
JP3922286B2 (ja) | 係数学習装置および方法 | |
Gangal et al. | Improvement of video signal-to-noise ratio with adaptive recursive filtering | |
JPH07255052A (ja) | 画像符号化装置及び相関判定装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20080805 |