JP6128312B2 - 画像処理方法、及び画像処理装置 - Google Patents

画像処理方法、及び画像処理装置 Download PDF

Info

Publication number
JP6128312B2
JP6128312B2 JP2013050800A JP2013050800A JP6128312B2 JP 6128312 B2 JP6128312 B2 JP 6128312B2 JP 2013050800 A JP2013050800 A JP 2013050800A JP 2013050800 A JP2013050800 A JP 2013050800A JP 6128312 B2 JP6128312 B2 JP 6128312B2
Authority
JP
Japan
Prior art keywords
component
impulse noise
pixel
residual
interest
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013050800A
Other languages
English (en)
Other versions
JP2014179689A (ja
Inventor
健太 先崎
健太 先崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2013050800A priority Critical patent/JP6128312B2/ja
Publication of JP2014179689A publication Critical patent/JP2014179689A/ja
Application granted granted Critical
Publication of JP6128312B2 publication Critical patent/JP6128312B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は、画像処理方法及び画像処理装置に関する。
画像処理技術の中でも、画像に含まれるノイズを低減する技術は、撮像した画像をより鮮明に再現するために、欠かせない技術である。画像に含まれるノイズは、図2(a)に示すような加法性白色ガウスノイズや図2(b)に示すようなインパルスノイズがある。原信号をs、ノイズで劣化した信号をzとする。このとき、図2(a)の加法性白色ガウスノイズは、ノイズnの振幅がガウス分布に従うとすると、
z=s+n
で表される。
一方、図2(b)のインパルスノイズは、インパルスノイズnの発生確率をpとすると、
で表される。なお、信号の最小値が0.0、最大値が1.0であるとすると、n=0.0、又は、n=1.0のとき、つまり、nが信号の最小値または最大値である場合のノイズをごま塩ノイズといい、nが0.0から1.0までの範囲の値であるとき、つまり、nがある確率分布(例えば一様分布)で信号の最小値から最大値までの範囲の値を取る場合のノイズをランダム値インパルスノイズという。
一般的に、インパルスノイズの振幅は加法性白色ガウスノイズの振幅と比較して大きい。
画像に含まれるノイズを低減する技術としては、例えば、非特許文献1に開示された技術である全変分(Total Variation)ノルム最小化法(以下、TV法)が広く用いられている。
ここで、TVノルムとは、隣接する信号間の差分の絶対値を全信号区間で足しあわせたものであり、信号uのTVノルムは以下の式(1)で定義される。
ここで、
は偏微分オペレータを示す。
図3から図5にTVノルムの例を示す。図3に示すなだらかな変化の信号(平坦な信号)と図4に示す急峻なエッジを含む信号では、同じTVノルムとなる。また、図5に示すように、信号値が振動するようなとき、TVノルムは大きな値となる。つまり、TVノルムは、不連続成分を考慮した、信号の滑らかさを表す指標ということができる。
TV法では、ノイズを含む入力信号fに対し、以下の最小化問題を解くことで、画像のエッジや平坦領域を含む骨格成分uを計算する。
式(2)の第一項は骨格成分uのTVノルム、第二項は忠実度パラメータλに基づく制約項を示す。
図6を用いて、上述の式(2)を説明する。図6中の実線で示した信号を、ノイズを含む入力信号fとする。図6中の破線で示した信号uと図6中の点線で示した信号uのTVノルムはそれぞれ10であり、等しい。しかし、原信号fと骨格成分uが乖離するほど第二項は大きくなるため、上述の式(2)を最小化するには、より原信号fに近い、点線で示した信号が骨格成分uとして計算される。
以上により、TV法は、ノイズを含む入力画像を、画像のエッジや平坦領域を含む骨格成分 (TVノルム小)と、テクスチャやノイズを含む残差成分(TVノルム大)に分離することが可能となる。
ここで、骨格成分には振動成分であるテクスチャも含まれないため、不自然に平坦な画像となる(解像度感が喪失する)場合がある。
そこで、残差成分vに対して、ノイズを減衰させる残差縮退(Residual Shrinkage, RS)を適用し、式(3)のようにノイズが低減された残差成分(すなわち、テクスチャ)v’を骨格成分に重畳することで、ノイズが除去されつつ、解像度感も維持された出力画像f’を得ることが可能となる。
式中のv’は残差縮退関数Fresidを用いて、以下の式(4)で表される。
なお、τは縮退関数のパラメータである。
残差縮退関数Fresidの例としては、以下の式(5)で表すような、残差信号値vを零方向に向かって一定値減衰させる方法(軟縮退処理, Soft Shrinkage)がある。
式(5)中、sign(v)はvの符号、max(a,b)はa,bのうち、大きい方の値を採用することを表す。また、τはノイズの強度に基づいて設定する値である。式(5)の入出力関係を図7に示す。
なお、上述のGsoft以外に、以下の式(6)のGhardで表すような、残差信号値vの絶対値が閾値τ以下(あるいは閾値未満)の時は零にし、それ以外の時は何も処理しない方法(硬縮退処理, Hard Shrinkage)や、式(7)のGfactorで表すような、残差信号値vに0.0以上1.0以下の値τを乗じて減衰させる方法(Factor Shrinkage)を用いることも可能である。
式(6)及び式(7)の入出力関係を図8及び図9に示す。
入力信号を骨格成分と残差成分に分離する方法(成分分離法)は、上述のTV法に限定されず、例えば、非特許文献2のバイラテラルフィルタや、非特許文献3のウェーブレット縮退などを用いることも可能である。
図10は成分分離法とRSを組み合わせた画像処理方法を説明するための図である。
図10の画像処理方法は、成分分離手段11と、残差縮退手段13と成分合成手段14とを備える。
成分分離手段11は、入力画像fに対し、TV法などの成分分離法を適用して、骨格成分uと残差成分vを得る。得られた骨格成分uを成分合成手段14に、残差成分vを残差縮退手段13に出力する。
残差成分縮退手段13は、成分分離手段11から供給された残差成分vに対し、式(5)(あるいは、式(6)、式(7))に基づくRSを適用して、ノイズを除去したテクスチャv’を得る。得られたテクスチャv’を成分合成手段14に供給する。
成分合成手段14は、成分分離手段11から供給される骨格成分u、及び残差縮退手段13から供給されるテクスチャv’を用いて、式(3)に基づき出力画像f’を得る。
出力画像f’はエッジ・平坦領域・テクスチャから構成され、ノイズは除去される。
L. Rudin, S. Osher, and E. Fatemi, "Nonlinear total variation based noise removal algorithms," Physic D, vol. 60, pp. 259-268, 1992. C. Tomasi and R. Manduchi, "Bilateral Filtering for Gray and Color Images," Proceedings of the 1998 IEEE International Conference on Computer Vision, Bombay, India. D. L. Donoho, "De-noising by soft-thresholding," IEEE Transactions on Information Theory, Volume 41, Issue 3, 1995.
しかしながら、非特許文献1の技術は、入力画像にインパルスノイズが含まれるとき、解像度感を維持しつつ、残差成分からインパルスノイズを十分除去することができなかった。
図11はインパルスノイズを含む残差信号に対してのRSを説明するための図である。
一般的なノイズ信号はRSによって減衰され、残ったテクスチャ成分は骨格成分に重畳されることで解像度感を維持できる。一方、インパルスノイズは、一般的なノイズ信号やテクスチャ信号と比較して大きな値を持つため、RSでインパルスノイズを除去するには大きな値の閾値を設定するか乗数を0に設定する必要がある。
しかし、この場合、大きな値の閾値によって、テクスチャ信号はほぼすべて除去されるため、出力画像の解像度感が喪失してしまうという課題があった。
そこで、本発明は上記課題に鑑みて発明されたものであって、その目的は、解像度感を維持しつつ、残差成分からインパルスノイズを効果的に除去できる画像処理方法及び画像処理装置を提供することにある。
本発明は、入力画像を、エッジ成分と平坦成分からなる骨格成分と、前記入力画像と前記骨格成分との差分で表される残差成分とに分離し、前記入力画像の各画素のインパルスノイズ性を示すインパルスノイズマップを生成し、前記インパルスノイズマップに基づいて、注目画素がインパルスノイズでない場合は、前記残差成分からテクスチャ成分を抽出し、注目画素がインパルスノイズである場合には注目画素の前記残差成分を零方向に減衰し、前記骨格成分と前記残差成分から抽出したテクスチャ成分とを合成し、出力画像を生成する画像処理方法である。
本発明は、入力画像を、エッジ成分と平坦成分からなる骨格成分と、前記入力画像と前記骨格成分との差分で表される残差成分とに分離する成分分離手段と、前記入力画像の各画素のインパルスノイズ性を示すインパルスノイズマップを生成するインパルスノイズマップ生成手段と、前記インパルスノイズマップに基づいて、注目画素がインパルスノイズでない場合は、前記残差成分からテクスチャ成分を抽出し、注目画素がインパルスノイズである場合には注目画素の前記残差成分を零方向に減衰する残差縮退手段と、前記骨格成分と前記残差成分から抽出したテクスチャ成分とを合成し、出力画像を生成する成分合成手段とを有する画像処理装置である。
本発明によれば、解像度感を維持しつつ、インパルスノイズを効果的に除去することができる。
図1は本発明の第一の実施の形態である画像処理方法を説明するための図である。 図2はノイズの種類を説明するための図である。 図3はなだらかに信号が変化する領域におけるTVノルムを示す図である。 図4はエッジを含む領域におけるTVノルムを示す図である。 図5は振動成分を含む領域におけるTVノルムを示す図である。 図6はTV法を説明するための図である。 図7は軟縮退処理(Soft Shrinkage)を説明するための図である。 図8は硬縮退処理(Hard Shrinkage)を説明するための図である。 図9は係数縮退処理(Factor Shrinkage)を説明するための図である。 図10は関連する画像処理方法を説明するための図である。 図11はインパルスノイズを含む残差信号にRSを適用してもインパルスノイズが残存する例である。 図12はROADの計算過程を説明するための図である。 図13はインパルスノイズを含む残差信号からインパルスノイズを除去する例を示した図である。 図14は本発明の第一の実施の形態である画像処理装置を説明するための図である。 図15は 本発明の第二の実施の形態である画像処理方法を説明するための図である。 図16は本発明の第二の実施の形態である画像処理装置を説明するための図である。 図17は 本発明の第三の実施の形態である画像処理方法を説明するための図である。 図18は本発明の第三の実施の形態である画像処理装置を説明するための図である。 図19は 本発明の第三の実施の形態である画像処理方法を説明するための図である。 図20は本発明の第三の実施の形態である画像処理装置を説明するための図である。
<第一の実施の形態>
本発明の第一の実施形態を説明する。
図1は、本発明の第一の実施の形態である画像処理方法を説明するための図である。
本発明の第一の実施の形態は、入力画像fに対して、成分分離法を適用し、骨格成分uと残差成分vを得る。さらに、入力画像の各画素に対してインパルスノイズ推定法を適用し、インパルスノイズの画素位置を示すインパルスノイズマップMを得る。成分分離法の結果得られた残差成分vに対し、縮退パラメータτとインパルスノイズ推定の結果得られたインパルスノイズマップMに基づいて残差縮退処理を適用し、ノイズ成分を除去したテクスチャ成分Fresid(v,τ,M)を得る。得られたテクスチャ成分Fresid(v,τ,M)を骨格成分に重畳して出力画像f’を得る。本発明の実施の形態では、残差縮退処理において、注目画素位置がインパルスノイズでない場合には従来と同様の残差縮退処理を適用し、そうでない場合には注目画素位置における残差成分を従来の残差縮退処理より大きく零方向に減衰することを特徴とする。
ここで、成分分離法とは、全変分ノルム最小化法(TV法)やバイラテラルフィルタ、ウェーブレット縮退処理などである。以下の説明ではTV法である場合について説明する。
また、インパルスノイズ推定法とは、非特許文献4(R. Garnett, T. Huegerich, C. Chui and W. J. He, "A UNIVERSAL NOISE REMOVAL ALGORITHM WITH AN IMPULSE DETECTOR," IEEE Transactions on Image Processing, vol. 14, pp. 1747-1754, 2005.)のRank-Ordered Absolute Difference (ROAD)、非特許文献5(Y. Dong, R. H. Chan, and S. Xu, "A DETECTION STATISTIC FOR RANDOM-VALUED IMPULSE NOISE," IEEE Transactions on Image Processing, vol. 16, pp. 1112-1120, 2007.)のRank-Ordered Logarithm Difference、非特許文献6(H. Hwang and R. A. Haddad, "Adaptive median filters: new algorithms and results", IEEE Trans. Image Process., vol. 4, pp.499 1995.)のAdaptive Median Detector、非特許文献7(T. Chen and H. R. Wu, "Adaptive impulse detection using center-weighted median filters", IEEE Signal Process. Lett., vol. 8, pp.1 2001.)のAdaptive Center Weighted Median Detectorなどである。以下の説明では、非特許文献4のROADの場合について説明する。
まず、成分分離手段11における、入力画像fに対してTV法に基づく成分分離を適用し、骨格成分uと残差成分vを得る処理について説明する。
骨格成分uは、上述の式(2)を最小化することで得られる。式(2)を最小化する方法としては、非特許文献8(A. Chambolle, "An algorithm for total variation minimization and applications," Journal of Mathematical Imaging and Vision, 20: pp. 89-97, 2004.)のChambolle の射影法を用いることができる。
Chambolle の射影法では、骨格成分uを、u=f−λdivpを計算することで求める。divはダイバージェンス計算を表す。このpは以下の式を反復することで得られる。
ここで、式中の
は画素位置(i,j)におけるn+1回目の計算結果、p=0、τは最急降下法のステップ幅を示し、
とすればよいとされる。
次に、入力画像fと骨格成分uを用いて、残差成分を以下の式(9)のように求める。
得られた骨格成分uは成分合成手段14に、残差成分vは残差縮退手段13に供給される。
続いて、インパルスノイズマップ生成手段12における、入力画像fに対して非特許文献4のROADに基づくインパルスノイズ推定(Impulse Noise Detector, IND)を適用し、インパルスノイズマップMを得る処理について説明する。
図12は、ROADの処理を説明するための図である。
ROADは画像中の各画素に対して計算される。まず、注目画素を中心とする3×3画素を抽出する(図12左上)。図12左上の例では186が注目画素である。続いて、注目画素とそれに隣接する8画素の間で絶対値差分計算を行う(図12右上)。こうして得られた8個の差分値を、昇順に並び替え、小さい方からn個抽出する(図12左下)。図12左下では、n=4としている。最後に、抽出したn個の差分値を足しあわせる。(図12右下)。こうして得られた差分値の合計値をROAD値と呼ぶ。
ROAD値は、注目画素がインパルスノイズである場合には大きな値となり、そうでない場合には小さな値となる。つまり、注目画素のインパルスノイズ性を示す指標となる。
入力画像fの全画素に対してROAD値を求め、閾値tROADを用いて、以下の式(10)のようにインパルスノイズか否かの判定を行い、入力画像fに関するインパルスノイズマップMを求める。
式(10)中、ROAD(i,j)は画素位置(i,j)におけるROAD値を示す。M(i,j)=1のとき画素位置(i,j)における画素がインパルスノイズであることを示す。
なお、上述のように、インパルスノイズ推定法は非特許文献4だけに限定されない。
こうして得られたインパルスノイズマップMは残差縮退手段13に供給される。
さらに、残差縮退手段13における、成分分離法の結果得られた残差成分vに対し、縮退パラメータτとインパルスノイズ推定の結果得られたインパルスノイズマップMに基づいて残差縮退を適用し、テクスチャ成分v’を得る処理について説明する。
図11で示したように、単純な残差縮退処理では、インパルスノイズを除去しきれず、出力画像中にインパルスノイズが残存してしまう。よって、図13に示すように、インパルスノイズである成分についてはすべて零にする。
インパルスノイズマップMについて、M(i,j)=1であるならば、残差成分v(i,j)はインパルスノイズ由来であり、すべてノイズであると考えられる。よって、この場合、式(11)のような残差縮退処理で値を零方向に大きく減衰する。
式(11)中のτ
であり、
とすれば、インパルスノイズに由来する残差成分は強制的に零となる。なお、式(11)においては、式(5)の軟判定閾値処理を用いたが、式(6)の硬判定閾値処理や、式(7)のFactor Shrinkageを用いても良い。
最後に、成分合成手段14における処理について説明する。成分分離で得られた骨格成分uに対して、テクスチャ成分v’を重畳し、出力画像f’を式(12)のようにして得る。
このように、本発明の第一の実施の形態では、残差縮退処理において、注目画素位置がインパルスノイズである場合には、注目画素位置における残差成分を零にし、そうでない場合には従来と同様の残差縮退処理を適用する。本発明の第一の実施の形態で述べた画像処理方法を用いることにより、残差成分からインパルスノイズを効果的に除去できる。
なお、当然ながら、式(10)のように注目画素がインパルスノイズであるか否かを2値で表現するのではなく、式(13)のような注目画素のインパルスノイズ性を示す関数を用いることも可能である。
ここで、tROAD,1は注目画素がインパルスノイズであるとする閾値を表し、tROAD,0はインパルスノイズでないとする閾値を表す。
式(13)のインパルスノイズマップを用いた残差縮退処理を、以下の式(14)、式(15)に示す。
式(14)、式(15)により、インパルスノイズ性の強い画素では残差成分を棄却し、インパルスノイズ性の弱い画素では残差成分を通常の残差縮退で処理し、それ以外の画素はインパルスノイズ性の強さに基づいて残差縮退の減衰量を調整する。
式(10)のかわりに、式(13)のインパルスノイズマップを用いることで、注目画素のインパルスノイズ性に基づいた適応的な処理が可能となり、ROAD値が閾値tROAD付近である場合で処理結果が大きく変わることを防ぐことができる。
次に、本発明の第一の実施の形態の画像処理装置を説明する。
図14は図1に示す本発明の第一の実施の形態の画像処理装置のブロック図である。
図14に示す本発明の第一の実施の形態の画像処理装置100は、成分分離部1と、インパルスノイズマップ生成部2と、残差縮退部3と、成分合成部4と、を備える。
成分分離部1は、入力画像fを、式(2)を最小化して得られる骨格成分uと、式(9)に基づいて得られる残差成分vに分離する。そして、分離して得られた骨格成分uを成分合成部4に、分離して得られた残差成分vを残差縮退部3に出力する。
インパルスノイズマップ生成部2は、入力画像fから、式(10)、あるいは式(13)に基づいてインパルスノイズマップMを生成する。そして、得られたMを残差縮退部3に出力する。
残差縮退部3は、成分分離部1から残差成分vを、インパルスノイズマップ生成部2からインパルスノイズマップMを受信し、式(11)、あるいは式(14)、式(15)に基づいて残差縮退を適用し、テクスチャ成分v’を得る。そして、得られたテクスチャ成分v’を成分合成部4に出力する。
成分合成部4は、成分分離部1から骨格成分uを、残差縮退部3からv’を受信し、式(12)に基づき出力画像f’を得て、出力する。
本発明の第一の実施の形態によれば、注目画素のインパルスノイズ性に基づく残差縮退処理を導入することで、エッジを維持しつつ、インパルスノイズを効果的に除去できる。
<第二の実施の形態>
本発明の第二の実施の形態を説明する。
図15は、本発明の第二の実施の形態である画像処理方法を説明するための図である。
第二の実施の形態では、図15に示すように、インパルスノイズマップMを作成するためのROAD値計算の入力を、入力画像fではなく、成分分離して得られた残差成分vとすることを特徴とする。
第二の実施の形態における残差縮退手段13、成分合成手段14は、第一の実施の形態と同様であるため説明を省略する。
成分分離手段11は、第一の実施の形態と同様に入力画像fを骨格成分uと残差成分vに分離した後、骨格成分uを成分合成手段14に、残差成分vを残差縮退手段13に供給する。さらに、残差成分vをインパルスノイズマップ生成手段12に供給する。
インパルスノイズマップ生成手段12は、成分分離手段11から供給された残差成分vに基づき、図12に示した手順でROAD値を計算して、インパルスノイズマップMを求める。こうして得られたインパルスノイズマップMを残差縮退手段13に供給する。
第二の実施の形態では、第一の実施の形態と異なり、インパルスノイズマップMを計算するために、入力画像fではなく、成分分離手段11から供給される残差成分vを用いる。図12に示すROAD値計算の性質から、幅一画素のライン成分に対するROAD値は大きくなる傾向があり、閾値によってはライン成分がインパルスノイズと判定されて消失する可能性があるが、第二の実施の形態では幅一画素のライン成分は、成分分離手段11で骨格成分uに含まれている。よって、残差成分vに対してROAD値を計算することで、ライン成分をインパルスノイズと誤判定することなく、インパルスノイズの画素を正確に推定することが可能となる。
図16は、図15に示す本発明の第二の実施の形態の画像処理装置のブロック図である。
図16に示す本発明の第二の実施の形態の画像処理装置200は、図14の画像処理装置と同様に、成分分離部1と、インパルスノイズマップ生成部2と、残差縮退部3と、成分合成部4と、を備える。
残差縮退部3と、成分合成部4とは、図14の画像処理装置100と同じ動作を行う。
成分分離部1は、入力画像fを、式(2)を最小化して得られる骨格成分uと、式(9)に基づいて得られる残差成分vに分離する。そして、分離して得られた骨格成分uを成分合成部4に、分離して得られた残差成分vをインパルスノイズマップ生成部2、及び残差縮退部3に出力する。
インパルスノイズマップ生成部2は、成分分離部1から供給される残差成分vを用いて、式(10)、あるいは式(13)に基づきインパルスノイズマップMを生成する。そして、得られたインパルスノイズマップMを残差縮退部3に出力する。
本発明の第二の実施の形態によれば、注目画素の残差成分を用いて、注目画素のインパルスノイズ性を計算することで、よりエッジを維持しつつ、インパルスノイズを効果的に除去できる。
<第三の実施の形態>
本発明の第三の実施の形態を説明する。
図17は本発明の第三の実施の形態である画像処理方法を説明するための図である。
本発明の第三の実施の形態は、成分分離手段において、非特許文献4のようなインパルスノイズ推定に基づく成分分離法を用い、残差縮退において、成分分離手段で用いたインパルスノイズ推定結果を流用することを特徴とする。
第三の実施の形態における残差縮退手段13、成分合成手段14は、第一の実施の形態と同様であるため説明を省略する。
インパルスノイズマップ生成手段12は、入力画像fに基づき、図12に示した手順でROAD値を計算する。得られたROAD値を成分分離手段11に供給する。さらに、得られたROAD値に基づき、インパルスノイズマップMを求める。得られたインパルスノイズマップMを残差縮退手段13に供給する。
成分分離手段11は、インパルスノイズマップ生成手段12から供給されたROAD値に基づき、入力画像fを骨格成分uと残差成分vに分離した後、骨格成分uを成分合成手段14に、残差成分vを残差縮退手段13に供給する。ROAD値に基づく成分分離方法として、非特許文献4の手法を用いる。
非特許文献4のインパルスノイズ推定に基づく成分分離法について説明する。非特許文献4は、非特許文献2のバイラテラルフィルタを拡張した方式である。バイラテラルフィルタは、重み付き平滑化フィルタの派生型であり、フィルタ係数を決定する以下の2つの指標により、エッジを保存するノイズ除去法を実現する。
1つめの指標は、注目画素とその周辺画素の空間的距離である。注目画素に空間的に近接する画素は、注目画素と相関が高いとみなして、フィルタ係数の重みを大きくする。逆に、空間的に離れた画素は、注目画素と相関が低いとみなして、フィルタ係数の重みを小さくする。一例として、注目画素をu、周辺画素をuとすると、空間的な距離の重みw(x,y)は、
と表される。
2つめの指標は、注目画素とその周辺画素の画素値の差である。画素値の差が小さいほど、注目画素との相関が高いとして、フィルタ係数の重みを大きくする。逆に、画素値の差が大きな画素は、注目画素との相関が低いとして、フィルタ係数の重みを小さくする。注目画素がエッジ上にある場合は、エッジ方向の画素については画素値の差が小さくなるためフィルタ係数の重みが大きくなり、エッジをまたぐ方向の画素については画素値の差が大きくなるためフィルタ係数の重みが小さくなる。この特徴により、エッジをぼかさないフィルタが実現される。注目画素をu、周辺画素をuとすると、画素値の差による重みw(x,y)は、
と表される。
最終的なバイラテラルフィルタのフィルタ係数w(x,y)は、
と表される。
特に2つめの指標により、バイラテラルはエッジをぼかさずにノイズを除去することが可能となる。しかし、この2つめの指標により、インパルスノイズのような注目画素とその周辺画素との差が大きいノイズについては、原理的に除去できない問題があった。
非特許文献4のインパルスノイズ推定に基づく成分分離法では、バイラテラルフィルタの2つの指標に加えて、注目画素のインパルスノイズ性に基づく指標を追加する。このことから、非特許文献4のインパルスノイズ推定に基づく成分分離法は、バイラテラルフィルタに対し、トリラテラルフィルタと呼ばれる。注目画素のインパルスノイズ性による重みw(x)は、前述のROAD値を用いて、
で表される。インパルスノイズ性とエッジ性はトレードオフの関係があるため、注目画素uと周辺画素u間の結合インパルスノイズ性を
と表す。トリラテラルフィルタの最終的なフィルタ係数w(x,y)は、
と表される。このフィルタ係数を用いたフィルタリング処理は、
と表される。
このトリラテラルフィルタを用いることで、インパルスノイズに対して有効で、かつエッジも維持できるノイズ除去が実現できる。また、トリラテラルフィルタにおいて、ROADに基づくインパルスノイズ推定が用いられるため、この推定結果を流用することで図1の画像処理方法と同様のノイズ除去方法が実現できる。
図1と異なり、図17の成分分離法では、入力画像にインパルスノイズを想定しているため、より残差成分にインパルスノイズが含まれる。また、成分分離において用いたROAD値に基づいて、式(10)、または式(13)のインパルスノイズマップを作成できるため、式(11)、あるいは、式(14)、式(15)における残差縮退処理のためにROAD値を再計算する必要はない。
なお、インパルスノイズ除去に有効な成分分離法はトリラテラルフィルタに限定されず、非特許文献5、非特許文献6、非特許文献7などの方法を用いることも可能である。
図18は、図17に示す本発明の第三の実施の形態の画像処理装置のブロック図である。
図18に示す本発明の第三の実施の形態の画像処理装置300は、図14の画像処理装置と同様に、成分分離部1と、インパルスノイズマップ生成部2と、残差縮退部3と、成分合成部4と、を備える。
残差縮退部3と、成分合成部4とは、図14の画像処理装置100と同じ動作を行う。
インパルスノイズマップ生成部2は、入力画像fから、式(10)、あるいは式(13)に基づいてインパルスノイズマップMを生成する。そして、得られたMを残差縮退部3に出力する。さらに、インパルスノイズ推定結果であるROAD値を成分分離部1に出力する。
成分分離部1は、インパルスノイズマップ生成部2からROAD値を受信し、入力画像を式(16)、式(17)、式(19)、式(20)、式(21)、及び式(22)に基づいて残差成分vに分離する。そして、分離して得られた骨格成分uを成分合成部4に、分離して得られた残差成分vを残差縮退部3に出力する。
本発明の第三の実施の形態によれば、成分分離において入力信号にインパルスノイズが含まれることを想定するため、エッジを維持しつつ、インパルスノイズをより効果的に除去できる。
<第四の実施の形態>
本発明の第四の実施の形態を説明する。
図19は本発明の第四の実施の形態である画像処理方法を説明するための図である。
本発明の第四の実施の形態は、残差縮退において、インパルスノイズマップ生成手段から得られるインパルスノイズマップと、成分分離手段で得られる骨格成分に基づき、残差縮退処理することを特徴とする。
第四の実施の形態におけるインパルスノイズマップ生成手段12、成分合成手段14は、第一の実施の形態と同様であるため説明を省略する。
成分分離手段11は、第一の実施の形態と同様に入力画像fを骨格成分uと残差成分vに分離した後、骨格成分uを残差縮退手段13及び成分合成手段14に、残差成分vを残差縮退手段13に供給する。
残差縮退手段13では、成分分離手段11から供給される骨格成分uと残差成分v、インパルスノイズマップ生成手段12から供給されるインパルスノイズマップMを用いて、残差成分vの各画素につき、以下の式(23)に基づきテクスチャ成分v’を得る。そして、得られたテクスチャ成分v’を成分合成手段14に出力する。
なお、式(23)におけるx,yは画素位置のベクトル表記、wB,u(x,y)は骨格成分uに基づく、式(18)のバイラテラルフィルタ係数である。通常のバイラテラルフィルタは、フィルタ処理される画素群とフィルタ係数を決定する画素群は同一であるが、本方式では、フィルタ処理される画素群は残差成分v、フィルタ係数を決定する画素群は骨格成分uである。
通常、成分分離手段11から供給される残差成分vには、エッジ成分が残存する場合がある。骨格成分uを参照してバイラテラルフィルタの係数を決定することで、エッジをまたぐ方向のフィルタ係数は小さく、エッジと同じ方向のフィルタ係数は大きくなるため、残差成分vからエッジを効率的に抽出できる。また、バイラテラルフィルタのノイズ除去効果により、ノイズ成分を減衰することができる。さらに、バイラテラルフィルタを実行する対象を残差成分vではなく、残差成分vとインパルスノイズマップMの積とすることで、インパルスノイズはテクスチャ成分v’に含まれない。
なお、残差成分vからエッジ成分を抽出するのに有効な手法は上述のバイラテラルフィルタに限定されない。
また、第二、第三の実施の形態に対しても、第四の実施の形態と同様のエッジ抽出方法が実現できる。
図20は、図19に示す本発明の第四の実施の形態の画像処理装置のブロック図である。
図20に示す本発明の第四の実施の形態の画像処理装置400は、図14の画像処理装置と同様に、成分分離部1と、インパルスノイズマップ生成部2と、残差縮退部3と、成分合成部4と、を備える。
インパルスノイズマップ生成部2と、成分合成部4とは、図14の画像処理装置100と同じ動作を行う。
成分分離部1は、入力画像fを、式(2)を最小化して得られる骨格成分uと、式(9)に基づいて得られる残差成分vに分離する。そして、分離して得られた骨格成分uを残差縮退部3、及び成分合成部4に、分離して得られた残差成分vを残差縮退部3に出力する。
残差縮退部3は、インパルスノイズマップ生成部2から受信するインパルスノイズマップM、成分分離部1から受信する骨格成分u及び残差成分vを用いて、式(22)に基づきテクスチャ成分v’を抽出する。そして、得られたテクスチャ成分v’を成分合成部4に出力する。
本発明の第四の実施の形態によれば、残差分離にエッジが含まれることを想定するため、インパルスノイズを効果的に除去しつつ、エッジをより維持できる。
以上のごとく、本発明の各実施の形態によれば、残差縮退部において、注目画素位置がインパルスノイズである場合には、注目画素位置における残差成分を零方向に減衰し、そうでない場合には従来と同様の残差縮退処理を適用する。本発明の実施の形態で述べた画像処理方法を用いることにより、残差成分からインパルスノイズを効果的に除去できる。
尚、上述した説明からも明らかなように、各部をハードウェアで構成することも可能であるが、コンピュータプログラムにより実現することも可能である。この場合、プログラムメモリに格納されているプログラムで動作するプロセッサによって、上述した実施の形態と同様の機能、動作を実現させる。また、上述した実施の形態の一部の機能のみをコンピュータプログラムにより実現することも可能である。
また、上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1) 入力画像を、エッジ成分と平坦成分からなる骨格成分と、前記入力画像と前記骨格成分との差分で表される残差成分とに分離し、
前記入力画像の各画素のインパルスノイズ性を示すインパルスノイズマップを生成し、
前記インパルスノイズマップに基づいて、注目画素がインパルスノイズでない場合は、前記残差成分からテクスチャ成分を抽出し、注目画素がインパルスノイズである場合には注目画素の前記残差成分を零方向に減衰し、
前記骨格成分と前記残差成分から抽出したテクスチャ成分とを合成し、出力画像を生成する
画像処理方法。
(付記2) 前記インパルスノイズマップは、前記入力画像の各画素に対して、注目画素の画素値とその隣接する周辺画素の画素値との差分に基づいて生成する
付記1に記載の画像処理方法。
(付記3) 前記インパルスノイズマップは、前記残差成分の各画素に対して、注目画素の画素値とその隣接する周辺画素の画素値との差分に基づいて生成する
付記1に記載の画像処理方法。
(付記4) 前記インパルスノイズマップに基づいて、
前記注目画素がインパルスノイズでないとみなす閾値以下又は未満の時は、前記注目画素の前記残差成分からテクスチャ成分を抽出し、
前記注目画素がインパルスノイズであるとみなす閾値以上又は大きい時は、前記注目画素の前記残差成分を零方向に減衰し、
それ以外の場合は、前記注目画素の前記インパルスノイズ性に基づいて、前記残差成分から抽出するテクスチャ成分を調整する
付記1から付記3のいずれかに記載の画像処理方法。
(付記5) 前記成分分離法は、前記インパルスノイズマップに基づいて、入力画像をエッジ成分と平坦成分とからなる骨格成分と、前記入力画像と前記骨格成分との差分で表される残差成分とに分離する
付記1から付記4のいずれかに記載の画像処理方法。
(付記6) 前記インパルスノイズマップと前記骨格成分とに基づいて、前記残差成分から、テクスチャ成分とエッジ成分とを抽出する
付記1から付記4のうちのいずれかに記載の画像処理方法。
(付記7) 入力画像を、エッジ成分と平坦成分からなる骨格成分と、前記入力画像と前記骨格成分との差分で表される残差成分とに分離する成分分離手段と、
前記入力画像の各画素のインパルスノイズ性を示すインパルスノイズマップを生成するインパルスノイズマップ生成手段と、
前記インパルスノイズマップに基づいて、注目画素がインパルスノイズでない場合は、前記残差成分からテクスチャ成分を抽出し、注目画素がインパルスノイズである場合には注目画素の前記残差成分を零方向に減衰する残差縮退手段と、
前記骨格成分と前記残差成分から抽出したテクスチャ成分とを合成し、出力画像を生成する成分合成手段と
を有する画像処理装置。
(付記8) 前記インパルスノイズマップ生成手段は、前記入力画像の各画素に対して、注目画素の画素値とその隣接する周辺画素の画素値との差分に基づいて、前記インパルスノイズマップを生成する
付記7に記載の画像処理装置。
(付記9) 前記インパルスノイズマップ生成手段は、前記残差成分の各画素に対して、注目画素の画素値とその隣接する周辺画素の画素値との差分に基づいて、前記インパルスノイズマップを生成する
付記7に記載の画像処理装置。
(付記10) 前記残差縮退手段は、
前記インパルスノイズマップに基づいて、
前記注目画素がインパルスノイズでないとみなす閾値以下又は未満の時は、前記注目画素の前記残差成分からテクスチャ成分を抽出し、
前記注目画素がインパルスノイズであるとみなす閾値以上又は大きい時は、前記注目画素の前記残差成分を零方向に減衰し、
それ以外の場合は、前記注目画素の前記インパルスノイズ性に基づいて、前記残差成分から抽出するテクスチャ成分を調整する
付記7から付記9のいずれかに記載の画像処理装置。
(付記11) 前記成分分離手段は、前記インパルスノイズマップに基づいて、入力画像をエッジ成分と平坦成分とからなる骨格成分と、前記入力画像と前記骨格成分との差分で表される残差成分とに分離する
付記7から付記9のいずれかに記載の画像処理装置。
(付記12) 前記残差縮退手段は、前記インパルスノイズマップと前記骨格成分とに基づいて、前記残差成分から、テクスチャ成分とエッジ成分とを抽出する
付記7から付記11のうちのいずれかに記載の画像処理装置。
(付記13) 入力画像を、エッジ成分と平坦成分からなる骨格成分と、前記入力画像と前記骨格成分との差分で表される残差成分とに分離する成分分離処理と、
前記入力画像の各画素のインパルスノイズ性を示すインパルスノイズマップを生成するインパルスノイズマップ生成処理と、
前記インパルスノイズマップに基づいて、注目画素がインパルスノイズでない場合は、前記残差成分からテクスチャ成分を抽出し、注目画素がインパルスノイズである場合には注目画素の前記残差成分を零方向に減衰する残差縮退処理と、
前記骨格成分と前記残差成分から抽出したテクスチャ成分とを合成し、出力画像を生成する成分合成処理と
をコンピュータに実行させるプログラム。
(付記14) 前記インパルスノイズマップ生成処理は、前記入力画像の各画素に対して、注目画素の画素値とその隣接する周辺画素の画素値との差分に基づいて、前記インパルスノイズマップを生成する
付記13に記載のプログラム。
(付記15) 前記インパルスノイズマップ生成処理は、前記残差成分の各画素に対して、注目画素の画素値とその隣接する周辺画素の画素値との差分に基づいて、前記インパルスノイズマップを生成する
付記13に記載のプログラム。
(付記16) 前記残差縮退処理は、
前記インパルスノイズマップに基づいて、
前記注目画素がインパルスノイズでないとみなす閾値以下又は未満の時は、前記注目画素の前記残差成分からテクスチャ成分を抽出し、
前記注目画素がインパルスノイズであるとみなす閾値以上又は大きい時は、前記注目画素の前記残差成分を零方向に減衰し、
それ以外の場合は、前記注目画素の前記インパルスノイズ性に基づいて、前記残差成分から抽出するテクスチャ成分を調整する
付記13から付記15のいずれかに記載のプログラム。
(付記17) 前記成分分離処理は、前記インパルスノイズマップに基づいて、入力画像をエッジ成分と平坦成分とからなる骨格成分と、前記入力画像と前記骨格成分との差分で表される残差成分とに分離する
付記13から付記16のいずれかに記載のプログラム。
(付記18) 前記残差縮退処理は、前記インパルスノイズマップと前記骨格成分とに基づいて、前記残差成分から、テクスチャ成分とエッジ成分とを抽出する
付記13から付記17のうちのいずれかに記載のプログラム。
以上好ましい実施の形態をあげて本発明を説明したが、本発明は必ずしも上記実施の形態に限定されるものではなく、その技術的思想の範囲内において様々に変形し実施することが出来る。
100 画像処理装置
200 画像処理装置
300 画像処理装置
400 画像処理装置
11 成分分離手段
12 インパルスノイズマップ生成手段
13 残差縮退手段
14 成分合成手段
1 成分分離部
2 インパルスノイズマップ生成部
3 残差縮退部
4 成分合成部

Claims (10)

  1. 入力画像を、所定の成分分離法に基づいて、エッジ成分と平坦成分からなる骨格成分と、前記入力画像と前記骨格成分との差分で表される残差成分とに分離し、
    前記入力画像の各画素のインパルスノイズ性を示すインパルスノイズマップを生成し、
    前記インパルスノイズマップに基づいて、注目画素がインパルスノイズでない場合は、前記残差成分からテクスチャ成分を抽出し、注目画素がインパルスノイズである場合には注目画素の前記残差成分を零方向に減衰し、
    前記骨格成分と前記残差成分から抽出した、振動成分であるテクスチャ成分とを合成し、出力画像を生成する
    画像処理方法。
  2. 前記インパルスノイズマップは、前記入力画像の各画素に対して、注目画素の画素値とその隣接する周辺画素の画素値との差分に基づいて生成する
    請求項1に記載の画像処理方法。
  3. 前記インパルスノイズマップは、前記残差成分の各画素に対して、注目画素の画素値とその隣接する周辺画素の画素値との差分に基づいて生成する
    請求項1に記載の画像処理方法。
  4. 前記インパルスノイズマップに基づいて、
    前記注目画素がインパルスノイズでないとみなす閾値以下又は未満の時は、前記注目画素の前記残差成分からテクスチャ成分を抽出し、
    前記注目画素がインパルスノイズであるとみなす閾値以上又は大きい時は、前記注目画素の前記残差成分を零方向に減衰し、
    それ以外の場合は、前記注目画素の前記インパルスノイズ性に基づいて、前記残差成分から抽出するテクスチャ成分を調整する
    請求項1から請求項3のいずれかに記載の画像処理方法。
  5. 前記所定の成分分離法は、前記インパルスノイズマップに基づいて、入力画像をエッジ成分と平坦成分とからなる骨格成分と、前記入力画像と前記骨格成分との差分で表される残差成分とに分離する方法である
    請求項1から請求項4のいずれかに記載の画像処理方法。
  6. 前記インパルスノイズマップと前記骨格成分とに基づいて、前記残差成分から、テクスチャ成分とエッジ成分とを抽出する
    請求項1から請求項4のうちのいずれかに記載の画像処理方法。
  7. 入力画像を、所定の成分分離法に基づいて、エッジ成分と平坦成分からなる骨格成分と、前記入力画像と前記骨格成分との差分で表される残差成分とに分離する成分分離手段と、
    前記入力画像の各画素のインパルスノイズ性を示すインパルスノイズマップを生成する
    インパルスノイズマップ生成手段と、
    前記インパルスノイズマップに基づいて、注目画素がインパルスノイズでない場合は、前記残差成分からテクスチャ成分を抽出し、注目画素がインパルスノイズである場合には注目画素の前記残差成分を零方向に減衰する残差縮退手段と、
    前記骨格成分と前記残差成分から抽出した、振動成分であるテクスチャ成分とを合成し、出力画像を生成する成分合成手段と
    を有する画像処理装置。
  8. 前記インパルスノイズマップ生成手段は、前記入力画像の各画素に対して、注目画素の画素値とその隣接する周辺画素の画素値との差分に基づいて、前記インパルスノイズマップを生成する
    請求項7に記載の画像処理装置。
  9. 前記インパルスノイズマップ生成手段は、前記残差成分の各画素に対して、注目画素の画素値とその隣接する周辺画素の画素値との差分に基づいて、前記インパルスノイズマップを生成する
    請求項7に記載の画像処理装置。
  10. 前記残差縮退手段は、
    前記インパルスノイズマップに基づいて、
    前記注目画素がインパルスノイズでないとみなす閾値以下又は未満の時は、前記注目画素の前記残差成分からテクスチャ成分を抽出し、
    前記注目画素がインパルスノイズであるとみなす閾値以上又は大きい時は、前記注目画素の前記残差成分を零方向に減衰し、
    それ以外の場合は、前記注目画素の前記インパルスノイズ性に基づいて、前記残差成分から抽出するテクスチャ成分を調整する
    請求項7から請求項9のいずれかに記載の画像処理装置。
JP2013050800A 2013-03-13 2013-03-13 画像処理方法、及び画像処理装置 Active JP6128312B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013050800A JP6128312B2 (ja) 2013-03-13 2013-03-13 画像処理方法、及び画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013050800A JP6128312B2 (ja) 2013-03-13 2013-03-13 画像処理方法、及び画像処理装置

Publications (2)

Publication Number Publication Date
JP2014179689A JP2014179689A (ja) 2014-09-25
JP6128312B2 true JP6128312B2 (ja) 2017-05-17

Family

ID=51699241

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013050800A Active JP6128312B2 (ja) 2013-03-13 2013-03-13 画像処理方法、及び画像処理装置

Country Status (1)

Country Link
JP (1) JP6128312B2 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4441321B2 (ja) * 2004-04-27 2010-03-31 オリンパス株式会社 画像処理装置、画像処理方法及びプログラム
JP4783676B2 (ja) * 2006-05-29 2011-09-28 日本放送協会 画像処理装置及び画像処理プログラム
WO2011033619A1 (ja) * 2009-09-16 2011-03-24 パイオニア株式会社 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体

Also Published As

Publication number Publication date
JP2014179689A (ja) 2014-09-25

Similar Documents

Publication Publication Date Title
Lu et al. Implementation of high‐order variational models made easy for image processing
KR101298642B1 (ko) 영상 잡음 제거 방법 및 장치
KR102620105B1 (ko) 잡음 있는 이미지들을 업스케일링하기 위한 방법, 및 잡음 있는 이미지들을 업스케일링하기 위한 장치
EP2993642A1 (en) Method and apparatus for generating sharp image based on blurry image
Zheng et al. Underwater image enhancement algorithm based on CLAHE and USM
CN104282003B (zh) 一种基于梯度筛选的数字模糊图像盲复原方法
KR20070118755A (ko) 의사 윤곽 제거 방법 및 그 장치
US9430816B2 (en) Image processing method, image processing system, image processing device, and image processing program capable of removing noises over different frequency bands, respectively
Rahman et al. Gaussian noise reduction in digital images using a modified fuzzy filter
US10229479B2 (en) Image signal processing apparatus, image signal processing method and image signal processing program
JP5105286B2 (ja) 画像復元装置、画像復元方法及び画像復元プログラム
Tsutsui et al. Halo artifacts reduction method for variational based realtime retinex image enhancement
JPWO2013027723A1 (ja) ノイズ除去装置、ノイズ除去方法及びプログラム
Xu et al. An image-enhancement method based on variable-order fractional differential operators
KR101707337B1 (ko) 영상 디노이징을 위한 다중해상도 nlm 필터링 방법
Josephus et al. Multilayered contrast limited adaptive histogram equalization using frost filter
Omar et al. Region-based image fusion using a combinatory Chebyshev-ICA method
JP4456096B2 (ja) ノイズ除去方法および装置並びにプログラム
JP6128312B2 (ja) 画像処理方法、及び画像処理装置
US8849057B2 (en) Methods for digital image sharpening with noise amplification avoidance
Ma et al. Hybrid variational model for texture image restoration
Wali et al. Fast and adaptive boosting techniques for variational based image restoration
Tigga et al. Image deblurring with impulse noise using alternating direction method of multipliers and Lucy-Richardson method
US20090226108A1 (en) Multi-pass algorithm to reduce ringing artifacts in noise removal and deblur effects
Chen et al. A structure-preserving image restoration method with high-level ensemble constraints

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160202

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170315

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170328

R150 Certificate of patent or registration of utility model

Ref document number: 6128312

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150