JP2010153969A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2010153969A JP2010153969A JP2008326988A JP2008326988A JP2010153969A JP 2010153969 A JP2010153969 A JP 2010153969A JP 2008326988 A JP2008326988 A JP 2008326988A JP 2008326988 A JP2008326988 A JP 2008326988A JP 2010153969 A JP2010153969 A JP 2010153969A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- comparison
- selection
- value
- similarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims description 41
- 230000009467 reduction Effects 0.000 claims abstract description 52
- 238000001514 detection method Methods 0.000 claims abstract description 7
- 238000004364 calculation method Methods 0.000 claims description 126
- 238000009499 grossing Methods 0.000 claims description 12
- 238000000034 method Methods 0.000 description 30
- 230000004048 modification Effects 0.000 description 19
- 238000012986 modification Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 18
- 230000006835 compression Effects 0.000 description 15
- 238000007906 compression Methods 0.000 description 15
- 230000005236 sound signal Effects 0.000 description 13
- 230000006870 function Effects 0.000 description 9
- 238000003708 edge detection Methods 0.000 description 8
- 238000010606 normalization Methods 0.000 description 8
- 238000011946 reduction process Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 5
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 108700026963 CB1a Proteins 0.000 description 2
- 230000006837 decompression Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000010187 selection method Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000002146 bilateral effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Abstract
【課題】ノイズ低減処理を精度良くかつ計算量を低減して実行することができる画像処理装置と、この画像処理装置を備える撮像装置を提供する。
【解決手段】ノイズ低減処理部60は、検出領域内の画素に基づいて注目画素のエッジ方向を検出するとともに当該エッジ方向に基づいて探索領域内の比較画素の中から選択比較画素を選択して選択情報を出力する比較画素選択部61と、選択比較画素と注目画素との類似度を算出して重み情報を出力する類似度算出部62と、注目画素の画素値と選択比較画素の画素値とを類似度に応じて平滑化して出力画像の注目画素の画素値を算出する画素値算出部63と、を備える。
【選択図】図2
【解決手段】ノイズ低減処理部60は、検出領域内の画素に基づいて注目画素のエッジ方向を検出するとともに当該エッジ方向に基づいて探索領域内の比較画素の中から選択比較画素を選択して選択情報を出力する比較画素選択部61と、選択比較画素と注目画素との類似度を算出して重み情報を出力する類似度算出部62と、注目画素の画素値と選択比較画素の画素値とを類似度に応じて平滑化して出力画像の注目画素の画素値を算出する画素値算出部63と、を備える。
【選択図】図2
Description
本発明は、入力される画像に対してノイズ低減処理を施す画像処理装置と、この画像処理装置を備える撮像装置に関する。
近年、CCD(Charge Coupled Device)やCMOS(Complimentary Metal Oxide Semiconductor)センサなどのイメージセンサを用いて撮像を行うデジタルスチルカメラやデジタルビデオカメラなどの撮像装置や、画像を表示する液晶ディスプレイなどの表示装置が広く普及している。そして、このような撮像装置によって撮像される画像や、表示装置によって表示される画像のノイズを低減するための各種のノイズ低減技術が提案されている(特許文献1及び2参照)。
また、これらのようなノイズ低減技術の中には、注目画素とその周囲の画素との類似度を利用して注目画素の画素値を算出することで、ノイズ低減処理を行うものがある(非特許文献1参照)。例えば、図20に示すように、注目画素100の画素値を算出する際に、注目画素100と、注目画素100を中心とした探索領域(図20に示す例では5×5の領域)101内のそれぞれの比較画素102と、の類似度を利用する方法がある。この方法では、例えば、注目画素100を中心とした注目領域103(図20に示す例では3×3の領域)内の画素と、比較画素102を中心とした判定領域104(図20に示す例では3×3の領域)内の画素と、のそれぞれを比較することによって類似度を算出する。そして、算出された類似度に基づいて比較画素102の画素値を適宜平滑化することで、注目画素の画素値を算出する(NL−meansフィルタ処理)。
しかしながら、図20に示す方法で類似度を算出することとすると、計算量が膨大になることが問題となる。図20の例では、探索領域101内に含まれる比較画素102が、注目画素100を除くと24個ある。そのため、少なくとも24回は3×3の注目領域103内及び判定領域104内の画素の比較を行い、24個の類似度を算出する必要がある。さらに、算出された24個の類似度と24個の比較画素の画素値とを全て用いて、注目画素の画素値を算出する必要がある。
以上のように、計算量が膨大なものとなると、処理時間や消費電力が増大するため問題となる。
以上の問題を鑑みて、本発明は、ノイズ低減処理を精度良くかつ計算量を低減して実行することができる画像処理装置と、この画像処理装置を備える撮像装置を提供することを目的とする。
上記目的を達成するために、本発明の画像処理装置は、入力される入力画像にノイズ低減処理を施して出力画像を生成するノイズ低減処理部を備える画像処理装置において、前記ノイズ低減処理部が、前記入力画像の注目画素の画像特徴に応じて選択比較画素を選定し、前記注目画素の画素値と前記選択比較画素の画素値とをその類似度に応じて合成することで前記出力画像の注目画素の画素値を算出することを特徴とする。
また、上記構成の画像処理装置において、前記ノイズ低減処理部が、前記入力画像の前記注目画素を中心とした検出領域内の画素に基づいて前記注目画素のエッジ方向を検出するとともに、当該エッジ方向に基づいて前記注目画素を中心とした探索領域内の画素の中から前記選択比較画素を選択する比較画素選択部と、前記選択比較画素と前記注目画素との前記類似度を算出する類似度算出部と、前記注目画素の画素値と前記選択比較画素の画素値とを前記類似度に応じて平滑化して前記出力画像の前記注目画素の画素値を算出する画素値算出部と、を備えることとしても構わない。
このように構成すると、探索領域内の一部の画素(選択比較画素)のみを用いて、出力画像の注目画素の画素値を算出することとなる。そのため、探索領域内の画素を全て用いる場合と比較して、計算量を抑制することが可能となる。なお、エッジ方向を、例えば略等しい画素値を備える画素が整列する方向としても構わない。
また、上記構成の画像処理装置において、前記比較画素選択部が、前記探索領域中の前記エッジ方向に沿った画素を前記選択比較画素として選択することとしても構わない。
このように構成とすると、注目画素に類似する可能性が高い画素を選択比較画素として選択することが可能となる。同時に、注目画素と類似する可能性が低い画素を選択しないようにすることが可能となる。
また、上記構成の画像処理装置において、前記類似度算出部が、前記入力画像の前記注目画素を中心とした注目領域内の画素の画素値と、前記選択比較画素を中心とした判定領域内の画素の画素値と、を比較して前記類似度を算出することとしても構わない。
また、上記構成の画像処理装置において、前記類似度算出部が、前記入力画像の前記注目画素の画素値と前記選択比較画素の画素値との差分値を用いて、前記類似度を算出することとしても構わない。
また、上記構成の画像処理装置において、前記類似度算出部が、前記入力画像の前記注目画素の画素値と前記選択比較画素の画素値との差分値と、前記注目画素と前記選択比較画素との距離と、を用いて前記類似度を算出することとしても構わない。
また、上記構成の画像処理装置において、前記比較画素選択部が、第1選択比較画素と第2選択比較画素とをそれぞれ選定し、前記類似度算出部が、前記第1選択比較画素と前記注目画素との第1類似度と、前記第2選択比較画素と前記注目画素との第2類似度と、をそれぞれ算出して、前記画素値算出部が、前記注目画素の画素値と前記第1選択比較画素の画素値とを前記第1類似度に応じて平滑化して得られる第1画素値と、前記注目画素の画素値と前記第2選択比較画素の画素値とを前記第2類似度に応じて平滑化して得られる第2画素値と、を用いて前記出力画像の前記注目画素の画素値を算出することとしても構わない。
このように構成すると、複数の算出方法を用いて出力画像の画素値を算出することが可能となる。そのため、それぞれの算出方法の特長を組み合わせて、より精度良く出力画像の画素値を算出することが可能となる。
また、上記構成の画像処理装置において、前記比較画素選択部が、前記探索領域中の前記エッジ方向に沿った画素を前記第1選択比較画素として選択するとともに、前記第1選択比較画素を除いた前記探索領域内の画素から、前記第2選択比較画素を選択することとしても構わない。
また、上記構成の画像処理装置において、前記類似度算出部が、前記入力画像の前記注目画素を中心とした注目領域内の画素の画素値と、前記第1選択比較画素を中心とした判定領域内の画素の画素値と、を比較して前記第1類似度を算出するとともに、前記入力画像の前記注目画素の画素値と前記第2選択比較画素の画素値との差分値と、前記注目画素と前記第2選択比較画素との距離と、を用いて前記第2類似度を算出することとしても構わない。
また、本発明の撮像装置は、撮像して前記入力画像を作成する撮像部と、当該撮像部から入力画像を取得する上記の画像処理装置と、を備えることを特徴とする。
本発明によると、注目画素の画素値と合成する選択比較画素を、注目画素の画素特徴によって選定することが可能となる。即ち、合成に用いる選択比較画素を限定することが可能となる。そのため、計算量を抑制することが可能となる。また、注目画素の画素値の算出に有用となる選択比較画素を選択することが可能となる。そのため、精度良くノイズ低減処理を行うことが可能となる。
本発明の実施形態について、図面を参照して説明する。また、本発明の実施形態における撮像装置として、デジタルカメラなどの音声、動画及び静止画の記録が可能な撮像装置を例に挙げて説明する。
<<撮像装置>>
まず、撮像装置の構成について、図1を参照して説明する。図1は、本発明の実施形態における撮像装置の構成を示すブロック図である。
まず、撮像装置の構成について、図1を参照して説明する。図1は、本発明の実施形態における撮像装置の構成を示すブロック図である。
図1に示すように、撮像装置1は、入射される光学像を電気信号に変換するCCDまたはCMOSセンサなどの固体撮像素子から成るイメージセンサ2と、被写体の光学像をイメージセンサ2に結像させるとともに光量などの調整を行うレンズ部3と、を備える。レンズ部3とイメージセンサ2とで撮像部が構成され、この撮像部によって画像信号が生成される。なお、レンズ部3は、ズームレンズやフォーカスレンズなどの各種レンズ(不図示)や、イメージセンサ2に入力される光量を調整する絞り(不図示)などを備える。
さらに、撮像装置1は、イメージセンサ2から出力されるアナログ信号である画像信号をデジタル信号に変換するとともにゲインの調整を行うAFE(Analog Front End)4と、入力される音声を電気信号に変換するマイク5と、AFE4から出力されるR(赤)G(緑)B(青)のデジタル信号となる画像信号をY(輝度信号)U,V(色差信号)を用いた信号に変換するとともに画像信号に各種画像処理を施す画像処理部6と、マイク5から出力されるアナログ信号である音声信号をデジタル信号に変換する音声処理部7と、画像処理部6から出力される画像信号に対してJPEG(Joint Photographic Experts Group)圧縮方式などの静止画用の圧縮符号化処理を施したり画像処理部6から出力される画像信号と音声処理部7からの音声信号とに対してMPEG(Moving Picture Experts Group)圧縮方式などの動画用の圧縮符号化処理を施したりする圧縮処理部8と、圧縮処理部8で圧縮符号化された圧縮符号化信号を記録する外部メモリ10と、画像信号を外部メモリ10に記録したり読み出したりするドライバ部9と、ドライバ部9において外部メモリ10から読み出した圧縮符号化信号を伸長して復号する伸長処理部11と、を備える。なお、画像処理部6は、入力される画像信号にノイズ低減処理を施すノイズ低減処理部60を備える。
また、撮像装置1は、伸長処理部11で復号された画像信号をディスプレイなどの表示装置(不図示)で表示可能な形式の信号に変換する画像出力回路部12と、伸長処理部11で復号された音声信号をスピーカなどの再生装置(不図示)で再生可能な形式の信号に変換する音声出力回路部13と、を備える。
また、撮像装置1は、撮像装置1内全体の動作を制御するCPU(Central Processing Unit)14と、各処理を行うための各プログラムを記憶するとともにプログラム実行時の信号の一時保管を行うメモリ15と、撮像を開始するボタンや各種設定の決定を行うボタンなどのユーザからの指示が入力される操作部16と、各部の動作タイミングを一致させるためのタイミング制御信号を出力するタイミングジェネレータ(TG)部17と、CPU14と各部との間で信号のやりとりを行うためのバス回線18と、メモリ15と各部との間で信号のやりとりを行うためのバス回線19と、を備える。
なお、外部メモリ10は画像信号や音声信号を記録することができればどのようなものでも構わない。例えば、SD(Secure Digital)カードのような半導体メモリ、DVDなどの光ディスク、ハードディスクなどの磁気ディスクなどをこの外部メモリ10として使用することができる。また、外部メモリ10を撮像装置1から着脱自在としても構わない。
次に、撮像装置1の基本動作について図1を用いて説明する。まず、撮像装置1は、レンズ部3より入射される光をイメージセンサ2において光電変換することによって、電気信号である画像信号を取得する。そして、イメージセンサ2は、TG部17から入力されるタイミング制御信号に同期して、所定のフレーム周期(例えば、1/30秒)で順次AFE4に画像信号を出力する。そして、AFE4によってアナログ信号からデジタル信号へと変換された画像信号は、画像処理部6に入力される。画像処理部6では、画像信号がYUVを用いた信号に変換されるとともに、階調補正や輪郭強調等の各種画像処理が施される。また、メモリ15はフレームメモリとして動作し、画像処理部6が処理を行なう際に画像信号を一時的に保持する。
また、このとき画像処理部6に入力される画像信号に基づき、レンズ部3において、各種レンズの位置が調整されてフォーカスの調整が行われたり、絞りの開度が調整されて露出の調整が行われたりする。このフォーカスや露出の調整は、それぞれ最適な状態となるように所定のプログラムに基づいて自動的に行われたり、ユーザの指示に基づいて手動で行われたりする。また、画像処理部6に備えられるノイズ低減処理部60は、入力される画像信号に対してノイズ低減処理を施す。
動画を記録する場合であれば、画像信号だけでなく音声信号も記録される。マイク5において電気信号に変換されて出力される音声信号は音声処理部7に入力されてデジタル化されるとともにノイズ除去などの処理が施される。そして、画像処理部6から出力される画像信号と、音声処理部7から出力される音声信号と、はともに圧縮処理部8に入力され、圧縮処理部8において所定の圧縮方式で圧縮される。このとき、画像信号と音声信号とは時間的に関連付けられており、再生時に画像と音とがずれないように構成される。そして、圧縮された画像信号及び音声信号はドライバ部9を介して外部メモリ10に記録される。
一方、静止画や音声のみを記録する場合であれば、画像信号または音声信号が圧縮処理部8において所定の圧縮方法で圧縮され、外部メモリ10に記録される。なお、動画を記録する場合と静止画を記録する場合とで、画像処理部6において行われる処理を異なるものとしても構わない。
外部メモリ10に記録された圧縮後の画像信号及び音声信号は、ユーザの指示に基づいて伸長処理部11に読み出される。伸長処理部11では、圧縮された画像信号及び音声信号を伸長し、画像信号を画像出力回路部12、音声信号を音声出力回路部13にそれぞれ出力する。そして、画像出力回路部12や音声出力回路部13において、表示装置やスピーカで表示または再生可能な形式の信号に変換されて出力される。
なお、表示装置やスピーカは、撮像装置1と一体となっているものでも構わないし、別体となっており、撮像装置1に備えられる端子とケーブル等を用いて接続されるようなものでも構わない。
また、画像信号の記録を行わずに表示装置などに表示される画像をユーザが確認する、いわゆるプレビューモードである場合に、画像処理部6から出力される画像信号を圧縮せずに画像出力回路部12に出力することとしても構わない。また、動画の画像信号を記録する際に、圧縮処理部8で圧縮して外部メモリ10に記録するのと並行して、画像出力回路部12を介して表示装置などに画像信号を出力することとしても構わない。
<<ノイズ低減処理部>>
次に、図1に示したノイズ低減処理部60の構成について図面を参照して説明する。図2は、本発明の実施形態における撮像装置に備えられるノイズ低減処理部の構成を示すブロック図である。なお、以下では説明の具体化のために、ノイズ低減処理部60に入力されてノイズ低減処理が行われる画像信号を画像として表現するとともに、「入力画像」と呼ぶこととする。また、ノイズ低減処理部60から出力される画像信号を「出力画像」と呼ぶこととする。
次に、図1に示したノイズ低減処理部60の構成について図面を参照して説明する。図2は、本発明の実施形態における撮像装置に備えられるノイズ低減処理部の構成を示すブロック図である。なお、以下では説明の具体化のために、ノイズ低減処理部60に入力されてノイズ低減処理が行われる画像信号を画像として表現するとともに、「入力画像」と呼ぶこととする。また、ノイズ低減処理部60から出力される画像信号を「出力画像」と呼ぶこととする。
図2に示すように、ノイズ低減処理部60は、入力画像の画像特徴に基づいて所定の画素を選択して選択情報を出力する比較画素選択部61と、比較画素選択部61から出力される選択情報に基づいて所定の画素の類似度(相関値)を算出して重み情報を出力する類似度算出部62と、類似度算出部62から出力される重み情報に基づいて所定の画素の画素値を合成して出力画像の画素値を算出する画素値算出部63と、を備える。
ノイズ低減処理部60によって行われるノイズ低減処理の概要について、図面を参照して説明する。図3は、ノイズ低減処理の概要を示す図である。図3に示すように、ノイズ低減処理部60は、注目画素50と、入力画像の注目画素50を中心とした探索領域51(例えば、5×5の領域)内の各比較画素52との類似度を算出する。そして、類似度が高いと判定される比較画素の画素値の重みを大きくするとともに積算して(即ち、探索領域51内の比較画素を平滑化して)、出力画像中の注目画素の画素値を算出する。
ただし、本実施形態では、類似度の算出や画素値の平滑化を行う比較画素52を限定する(限定された比較画素を、以下において「選択比較画素」と呼ぶ)。例えば図3では、探索領域51における左上の画素から右下の画素までの5つの比較画素52が、選択比較画素52a〜52eとなる。なお、選択比較画素52cは、注目画素50である。
このように、出力画像の注目画素の画素値を算出するための比較画素52を、選択比較画素52a〜52eに限定することによって、ノイズ低減処理で必要となる計算量を低減することが可能となる。そのため、処理時間を短縮したり、消費電力を抑制したりすることが可能となる。
さらに、選択比較画素52a〜52eを、入力画像の画像特徴に基づいて適宜選定することによって、計算量を低減しながらも、ノイズ低減処理の精度を良好に維持することが可能となる。なお、選択比較画素52a〜52eの選定方法や類似度の算出方法、出力画像の注目画素の画素値の算出方法などの詳細については、後述する。
<比較画素選択部>
次に、ノイズ低減処理部60の各部の具体的な動作について説明する。まず、比較画素選択部61の動作について図面を参照して説明する。図4は、比較画素選択部によるエッジ方向の算出方法の一例について示す図である。なお、エッジ方向とは例えば、略等しい画素値を備える画素が整列する方向である。
次に、ノイズ低減処理部60の各部の具体的な動作について説明する。まず、比較画素選択部61の動作について図面を参照して説明する。図4は、比較画素選択部によるエッジ方向の算出方法の一例について示す図である。なお、エッジ方向とは例えば、略等しい画素値を備える画素が整列する方向である。
エッジ方向を検出可能なオペレータは、PrewittやSobelなど各種存在するが、本例ではRobinsonのエッジ検出オペレータを用いる場合を例に挙げて説明する。なお、このエッジ検出オペレータは一例として、垂直方向、右下がり斜め方向、水平方向及び右上がり斜め方向の各方向のエッジを検出するための3×3の各フィルタを備えることとする。また、各フィルタは、注目画素50(図3参照)を中心とした3×3の検出領域の各画素に対して演算されるものとする。なお、この場合、検出領域と後述する注目領域53とは等しい領域となる(図3参照)。
図4(a)は、垂直方向のエッジを検出するフィルタであり、図4(b)は、右下がり斜め方向のエッジを検出するフィルタであり、図4(c)は、水平方向のエッジを検出するフィルタであり、図4(d)は、右上がり斜め方向のエッジを検出するフィルタである。なお、検出領域の各画素の説明のため、3×3の検出領域の各画素の画素値を、左上p1、中央上をp2、右上をp3、左中央をp4、中心(即ち、注目画素)をp5、右中央をp6、左下をp7、中央下をp8、右下をp9とする。同様に、3×3のフィルタの各フィルタ係数を、左上h1、中央上をh2、右上をh3、左中央をh4、中心をh5、右中央をh6、左下をh7、中央下をh8、右下をh9とする。
図4(a)のフィルタのフィルタ係数は、h1=h3=1、h2=2、h4=h5=h6=0、h7=h9=−1、h8=−2である。図4(b)のフィルタのフィルタ係数は、h2=h4=1、h1=2、h3=h5=h7=0、h6=h8=−1、h9=−2である。図4(c)のフィルタのフィルタ係数は、h1=h7=1、h4=2、h2=h5=h8=0、h3=h9=−1、h6=−2である。図4(d)のフィルタのフィルタ係数は、h4=h8=1、h7=2、h1=h5=h9=0、h2=h6=−1、h3=−2である。
図4(a)〜(d)に示すエッジ検出オペレータを用いた演算例の一例を図5(a)〜(d)にそれぞれ示す。なお、図5では、注目画素が右下がり斜め方向のエッジを備える場合について例示している。具体的には、p1=p4=p5=p7=p8=p9=0、p2=p6=50、p3=100となる場合を示している。
図4(a)〜(d)に示したようなRobinsonのエッジ検出オペレータを用いる場合、例えば、演算結果の絶対値が最小となるフィルタが検出するエッジ方向が、注目画素のエッジ方向となる。図5に示す例の場合、図5(b)の右下がり斜め方向のエッジを検出するフィルタの演算結果の絶対値が0となり、最小となる。この場合、右下がり斜め方向が注目画素のエッジ方向として設定される。
なお、図5に示す例では、演算結果の絶対値が最小となるフィルタによって検出されるエッジ方向が、注目画素のエッジ方向としてそのまま設定されることとしたが、複数の演算結果に基づいてエッジ方向を設定することも可能である。この場合について、図6を参照して説明する。
図6は、図4(a)〜(d)に示すエッジ検出オペレータを用いた演算例を示すものであり、図5の別例を示すものである。図6では、注目画素が右下がり斜め方向と水平方向との中間の方向となるエッジ方向を備える場合を例示している。具体的には、p1=p2=90、p3=100、p4=p5=p9=50、p6=80、p7=p8=0となる場合を示している。
図6に示す場合、図6(c)の水平方向のエッジを検出するフィルタの演算結果の絶対値が最小となり、図6(b)の右下がり斜め方向のエッジを検出するフィルタの演算結果の絶対値が次に小さいものとなる。この場合、演算結果の絶対値が最小となるフィルタが検出するエッジ方向と、演算結果の絶対値が2番目に小さいフィルタが検出するエッジ方向と、用いることとすると、右下がり斜め方向と水平方向との中間の方向が、注目画素のエッジ方向として設定されることとなる。
また、各フィルタの演算結果の絶対値に基づいて、重み付けをしても構わない。この方法を採用する場合、例えば図5では、図5(b)の右下がり斜め方向のエッジを検出するフィルタの演算結果の絶対値が、他の演算結果の絶対値と比較して突出して小さいものとなる。そのため、右下がり斜め方向の重みが一際大きくなる。その結果、エッジ方向が右下がり斜め方向として設定される。一方、図6の場合では、図6(b)の左斜め方向のエッジを検出するフィルタの演算結果の絶対値と、図6(c)の水平方向のエッジを検出するフィルタの演算結果の絶対値とが同程度に小さいものとなる。そのため、右下がり斜め方向と水平方向との重みが同程度に大きくなる。その結果、エッジ方向が右下がり斜め方向と水平方向との中間の方向として設定される。
また、図4(a)〜(d)に示す各フィルタは3×3であるが、これは一例に過ぎない。例えば、5×5や7×7などの他の大きさのフィルタを用いてエッジ方向を算出しても構わない。
(選択情報)
選択情報の一例を、図7に示す。図7は、エッジ方向が右下がり斜め方向に設定される場合(例えば、図5の演算結果となる場合)に出力される選択情報の一例について示したものである。なお、この選択情報Eは、図3に示した選択比較画素52a〜52eが選択される場合の選択情報を示したものである。
選択情報の一例を、図7に示す。図7は、エッジ方向が右下がり斜め方向に設定される場合(例えば、図5の演算結果となる場合)に出力される選択情報の一例について示したものである。なお、この選択情報Eは、図3に示した選択比較画素52a〜52eが選択される場合の選択情報を示したものである。
選択情報Eは、比較画素52が含まれる探索領域51と同じ大きさ(例えば5×5)にするとともに、各値(以下、選択値とする)が探索領域51の各比較画素52に対応するものとすると、選択比較画素の選択を容易に行うことができるようになるため好ましい。そのため、以下では選択情報Eの各選択値が、探索領域51の各比較画素52に対応するものとして説明する。
図7に示す選択情報Eでは、エッジ方向となる右下がり斜め方向に沿った比較画素(5×5の探索領域51中の、左上から右下にかけた5つの比較画素52)に対応する選択値が1となり、他の比較画素に対応する選択値が0となる。これは、エッジ方向(右下がり斜め方向)に沿った比較画素52を、選択比較画素52a〜52eとして選択することを示すものである。
なお、図7では選択情報の大きさを5×5としたが、これは一例に過ぎない。例えば、7×7や9×9などの他の大きさとしても構わない。ただし、上述のように探索領域51の大きさと同じ大きさとして、各選択値を各比較画素に対応させることとすると好ましい。
また、図7に示す選択情報Eは、選択されない各比較画素に対応する各選択値を0、選択比較画素52a〜52eに対応する各選択値を全て1としているが、選択比較画素52a〜52eに対応する各選択値が複数の値を取り得るものとしても構わない。即ち、選択比較画素52a〜52eのそれぞれに対して、重要度を設定することとしても構わない。重要度を設定する場合の選択情報の例を図8に示す。図8は、選択情報の別例を示す図であり、図7に相当する図である。
例えば、図8に示す選択情報E1では、選択比較画素52a〜52eに対応する各選択値が1,2,4のいずれかの値を取り得るものとしている。さらに例えば、中心(注目画素50)に近いほど値が大きく、離れるほど値が小さくなるものとしている。具体的には、図3の選択比較画素52c(注目画素50)に対応する選択値を4、その両隣の選択比較画素52b,52dに対応する選択値を2、さらにその隣であり注目画素から離れる方向に並ぶ選択比較画素52a,52eに対応する選択値を1とする。このように構成すると、後述する画素値算出部63で出力画像の注目画素の画素値の算出を行う際に、注目画素に近い選択比較画素ほど重みを大きくすることが可能となる。
なお、説明の具体化のために、図3に示す例に合わせて選択比較画素52a〜52eの数が5個である場合を例示して説明したが、選択比較画素は何個設定しても構わない。ただし、個数を増やすと計算量を低減する効果が小さくなる。そのため、探索領域中、少なくとも1個は選択されない比較画素を設けることとすると好ましい。また、選択比較画素の数を可変としても構わないが、求められたエッジ方向に沿って予め設定された所定の数だけ選択比較画素が選択されることとすると、無用な計算量増大がなくなり、ノイズ低減処理部60の構成の簡略化が可能となるため、好ましい。
<類似度算出部>
次に、類似度算出部62の動作について図面を参照して説明する。図9は、類似度算出部による類似度の算出方法の一例を示す図である。なお、3×3の注目領域53の各画素の画素値を、左上q1、中央上をq2、右上をq3、左中央をq4、中心(即ち、注目画素50)をq5、右中央をq6、左下をq7、中央下をq8、右下をq9とする。また、3×3の判定領域54の各画素の画素値を、左上r1、中央上をr2、右上をr3、左中央をr4、中心(即ち、選択比較画素)をr5、右中央をr6、左下をr7、中央下をr8、右下をr9とする。なお、注目領域53及び判定領域54は、図3に示す同じ符号を付した領域53,54にそれぞれ相当する。また、図3の判定領域54は、選択比較画素52aに対して設定されたものを例示したものである。
次に、類似度算出部62の動作について図面を参照して説明する。図9は、類似度算出部による類似度の算出方法の一例を示す図である。なお、3×3の注目領域53の各画素の画素値を、左上q1、中央上をq2、右上をq3、左中央をq4、中心(即ち、注目画素50)をq5、右中央をq6、左下をq7、中央下をq8、右下をq9とする。また、3×3の判定領域54の各画素の画素値を、左上r1、中央上をr2、右上をr3、左中央をr4、中心(即ち、選択比較画素)をr5、右中央をr6、左下をr7、中央下をr8、右下をr9とする。なお、注目領域53及び判定領域54は、図3に示す同じ符号を付した領域53,54にそれぞれ相当する。また、図3の判定領域54は、選択比較画素52aに対して設定されたものを例示したものである。
本例では、対応する位置の画素の画素値(q1とr1、q2とr2、…、q9とr9)をそれぞれ比較することで、類似度を算出する。例えば、下記式(1)に示すように、対応する画素の2乗誤差Sを算出することによって比較を行う。下記式(1)中のAiは、対応する位置の画素毎に設定される重みであり、A1+A2+…+A9=1を満たす。
上記式(1)で得られた2乗誤差Sを所定のパラメータh2で割った値を負にした値(−S/h2)の、eを底とする指数関数値を類似度Cとする(下記式(2))。この場合、2乗誤差Sが大きくなるほど上記の負値が小さくなるため、図10の指数関数のグラフに示すように、類似度Cは小さくなる。なお、注目領域53の各画素値と判定領域54の各画素値とが全て等しい場合は2乗誤差Sが0となるため、類似度Cは1(最大値)となる。
類似度Cは、選択情報E,E1によって選択される選択比較画素(例えば、図3の選択比較画素52a〜52e)のそれぞれについてのみ算出される。さらに、類似度算出部62はこれらの類似度Cを用いて、後述する重み情報Wを生成する。
なお、上記式(1)では、2乗誤差Sを算出する画素の数(即ち、注目領域53及び判定領域54のそれぞれに含まれる画素の数)を9個としたが、n個としても構わない。例えば、5×5=25個としても構わないし、7×7=49個としても構わない。
また、類似度Cを算出する選択比較画素が注目画素となる場合(図3の選択比較画素52cの類似度を算出する場合)、2乗誤差が0となって類似度Cが所定の値(本例では1)になることが分かっているため、算出を省略しても構わない。この場合、さらに計算量を抑制することが可能となる。また、上記の類似度Cを算出する方法は一例に過ぎず、他のどのような方法を用いて類似度Cを算出することとしても構わない。
(重み情報)
重み情報Wの一例について、図面を参照して説明する。図11は、重み情報の一例を示す図である。なお、重み情報Wも、選択情報E,E1と同様に、探索領域51の各比較画素52に対応する値(以下、重み値とする)を備えるものとする。また、選択されない各比較画素52に対応する各重み値を0とする。さらに、図11に示す重み情報Wは、図3に示す選択比較画素52a〜52eが選択される場合を示すこととし、選択比較画素52a〜52eに相当する各重み値をW1〜W5、各類似度をC1〜C5として、以下説明する。
重み情報Wの一例について、図面を参照して説明する。図11は、重み情報の一例を示す図である。なお、重み情報Wも、選択情報E,E1と同様に、探索領域51の各比較画素52に対応する値(以下、重み値とする)を備えるものとする。また、選択されない各比較画素52に対応する各重み値を0とする。さらに、図11に示す重み情報Wは、図3に示す選択比較画素52a〜52eが選択される場合を示すこととし、選択比較画素52a〜52eに相当する各重み値をW1〜W5、各類似度をC1〜C5として、以下説明する。
まず、図7に示した選択情報Eのように、選択比較画素52a〜52eに重要度を設定しない場合について説明する。この場合、まず類似度C1〜C5の総和Zを、下記式(3)に示すように算出する。そして、下記式(4)に示すように、類似度C1〜C5のそれぞれを総和Zで割った値、即ち、類似度C1〜C5を正規化した値を、重み値W1〜W5とする。
一方、図8に示した選択情報E1のように、選択比較画素52a〜52eに重要度を設定する場合について説明する。なお、選択情報E1の選択比較画素52a〜52eに対応する各選択値を、E11〜E15とする。この場合、まず各類似度C1〜C5と各選択値E11〜E15との積の総和Z1を、下記式(3a)に示すように算出する。そして、下記式(4a)に示すように、類似度C1〜C5と選択値E11〜E15との積のそれぞれを総和Z1で割った値、即ち、類似度C1〜C5と選択値E11〜E15との積を正規化した値を、重み値W11〜W15とする。
なお、上記の重み値の設定方法は一例であり、他の方法によって重み値を設定することとしても構わない。ただし、上記の例のような、注目領域53及び判定領域54(図3参照)内の画素を比較する方法など、重み値を設定するための計算量が多くなる方法に対して、本実施形態の比較画素を予め限定する方法を適用することとすると、得られる効果が大きいものとなる。
<画素値算出部>
次に、画素値算出部63の動作について説明する。説明の具体化のために、図3に示した選択比較画素52a〜52eを用いて、出力画像の注目画素の画素値vを算出する場合を例に挙げて説明する。なお、図12の探索領域内の画素値を示す図に示すように、選択比較画素52a〜52eの各画素値をt1〜t5とする。また、それぞれの選択比較画素52a〜52eに対する重み値を、図11に示したようにW1〜W5とする。なお、上記式(4a)の重み値W1iを用いても構わない。
次に、画素値算出部63の動作について説明する。説明の具体化のために、図3に示した選択比較画素52a〜52eを用いて、出力画像の注目画素の画素値vを算出する場合を例に挙げて説明する。なお、図12の探索領域内の画素値を示す図に示すように、選択比較画素52a〜52eの各画素値をt1〜t5とする。また、それぞれの選択比較画素52a〜52eに対する重み値を、図11に示したようにW1〜W5とする。なお、上記式(4a)の重み値W1iを用いても構わない。
本例では、下記式(5)のように、選択比較画素52a〜52eの各画素値t1〜t5と、対応する重み値W1〜W5(またはW11〜W15)と、をそれぞれ乗算した値を合算することによって、出力画像の注目画素の画素値vを算出する。即ち、選択比較画素52a〜52eの画素値の平滑化を行うことで、出力画像の注目画素の画素値vを算出する。
以上のように、本例では入力画像の特徴、特に、注目画素のエッジ方向に基づいて、注目画素の画素値の算出に使用する選択比較画素の選択を行う。そのため、注目画素に類似する可能性が高く、出力画像の注目画素の画素値を算出する際に用いると効果的となる比較画素を、積極的に選択比較画素として選択することが可能となる。同時に、注目画素と類似する可能性が低く、出力画像の注目画素の画素値を算出する際に用いてもあまり効果的ではない比較画素を、利用しないことが可能となる。したがって、ノイズ低減処理の精度を良好なものとしつつ、計算量を抑制することが可能となる。
<具体的な構成例>
次に、ノイズ低減処理部60の具体的な構成例について図面を参照して説明する。図13は、探索領域、判定領域及び注目領域を示す図である。なお、図13では、図12と異なる方法で5×5の探索領域SA中の画素の位置を定義して示している。具体的には、画素値をtijで表し、右方ほどiの値が大きくなり、下方ほどjの値が大きくなるものとしている。また、探索領域SAの左上の画素の画素値をt00、右下の画素の画素値をt44とする。そのため、注目画素の画素値はt22となる。さらに、注目領域及び判定領域の大きさを3×3とし、それぞれの領域に含まれる画素を中心の画素の位置を用いて表す。例えば、注目領域に含まれる画素(画素値t11、t12、t13、t21、t22、t23、t31、t32、t33となる画素)の一群(ブロック)をB22で表す。
次に、ノイズ低減処理部60の具体的な構成例について図面を参照して説明する。図13は、探索領域、判定領域及び注目領域を示す図である。なお、図13では、図12と異なる方法で5×5の探索領域SA中の画素の位置を定義して示している。具体的には、画素値をtijで表し、右方ほどiの値が大きくなり、下方ほどjの値が大きくなるものとしている。また、探索領域SAの左上の画素の画素値をt00、右下の画素の画素値をt44とする。そのため、注目画素の画素値はt22となる。さらに、注目領域及び判定領域の大きさを3×3とし、それぞれの領域に含まれる画素を中心の画素の位置を用いて表す。例えば、注目領域に含まれる画素(画素値t11、t12、t13、t21、t22、t23、t31、t32、t33となる画素)の一群(ブロック)をB22で表す。
また、図14は、ノイズ低減処理部の具体的な構成例を示すブロック図である。図14に示すノイズ低減処理部60aでは、比較画素選択部(不図示)から出力される選択情報が、図7や図8に示したものと異なり、エッジ方向のみを示すものとする。例えば選択情報は、垂直方向、右下がり斜め方向、水平方向及び右上がり斜め方向のいずれかの方向を示す4通りの情報であることとする。
図14に示すノイズ低減処理部60aは、選択情報に基づいて処理対象となる画素(ブロック)を選択するブロック選択部CBa〜CBdと、ブロック選択部CBa〜CBdで選択されたブロックに含まれる画素の画素値と注目領域に含まれる画素の画素値とを比較して演算を行う類似度算出処理部Pa〜Pdと、ブロックB22(注目領域)に対して演算を行う類似度算出処理部Peと、類似度算出処理部Pa〜Peから出力される演算結果を合算して正規化することによって出力画像の注目画素の画素値vを算出する正規化処理部NOと、を備える。
ブロック選択部CBaには、ブロックB00、B02、B20、B04が入力され、ブロック選択部CBbには、ブロックB11、B12、B21、B13が入力され、ブロック選択部CBcには、ブロックB33、B32、B23、B31が入力され、ブロック選択部CBdには、ブロックB44、B42、B24、B40が入力される。ブロック選択部CBa〜CBdのそれぞれには、共通の選択情報が入力される。それぞれのブロック選択部CBa〜CBdは、入力される選択情報に基づいて一つのブロックを選択する。具体的には、選択情報が示す方向に沿ったブロックを選択する。例えば、選択情報が右下がり斜め方向である場合、ブロック選択部CBaはブロックB00を選択し、ブロック選択部CBbはブロックB11を選択し、ブロック選択部CBcはブロックB33を選択し、ブロック選択部CBdはブロックB44を選択する。なお、以下においては、ブロック選択部CBa〜CBdによって選択されるブロックを、Ba〜Bdとして説明する。
類似度算出処理部Pa〜Pdのそれぞれは、ブロック選択部CBa〜CBdから出力されるBa〜Bdと、注目領域のブロックB22と、に基づいて上記式(1)及び(2)に示す方法と同様の方法で類似度Ca〜Cdを算出する。また、類似度Ca〜CdとブロックBa〜Bdの中心の画素ta〜tdとの乗算を行う。そして、類似度Ca〜Cdと、乗算結果Ca×ta〜Cd×tdとを出力する。
類似度算出処理部Peは、入力されるブロックB22の中心の画素(注目画素)t22と、類似度C22と、の乗算を行う。そして、類似度算出処理部Peは、類似度C22と、乗算結果C22×t22とを出力する。なお、上述のように注目領域の類似度は所定の値となるため、算出を不要とすることができる。
正規化処理部NOは、類似度算出処理部Pa〜Peから入力される類似度Ca〜Cd,C22を合算して上記式(3)に示すような総和Zを算出する。また、乗算結果Ca×ta〜Cd×td,C22×t22を合算し、合算して得られた値を総和Zで除算することにより、出力画像の注目画素の画素値vを算出する。
なお、図8のエッジ情報E1に示したように、類似度Ca〜Cd,C22に重み付けをしても構わない。重み付けをする場合、例えば類似度算出処理部Pa〜Peが、所定の値を類似度Ca〜Cd,C22に乗算することとする。このとき、図14に示すノイズ低減処理部60aのように、各ブロック選択部CBa〜CBdが選択を行うそれぞれのブロックが、注目画素から略等しい距離のものとすると好適である。具体的に本例では、どのようなエッジ方向が選択されたとしても、ブロック選択部CBa,CBdが、注目画素から最も遠いブロックの選択を行うこととなる。同様に、ブロック選択部CBb,CBcは、どのようなエッジ方向が選択されたとしても、注目画素に最も近いブロックの選択を行う。このように構成すると、選択されるエッジ方向によって重み係数を大きく変化させる必要がなくなるため、演算を容易にすることが可能となる。
<<他の算出方法の適用例>>
上述した例(以下、基本実施例とする)では、注目領域内の画素と判定領域内の画素とを比較することで注目画素と比較画素との類似度を算出し、この類似度を利用して平滑化を行う、NL−meansフィルタ処理を利用する場合を例に挙げたが、これ以外の算出方法を適用することも可能である。ただし、注目画素とその周囲の比較画素との類似度を求め、類似度を利用して出力画像の注目画素の画素値を算出するものとする。
上述した例(以下、基本実施例とする)では、注目領域内の画素と判定領域内の画素とを比較することで注目画素と比較画素との類似度を算出し、この類似度を利用して平滑化を行う、NL−meansフィルタ処理を利用する場合を例に挙げたが、これ以外の算出方法を適用することも可能である。ただし、注目画素とその周囲の比較画素との類似度を求め、類似度を利用して出力画像の注目画素の画素値を算出するものとする。
また、以下に説明する各変形例においても、上記の基本実施例と同様に、注目画素と比較される周囲の画素(探索領域内の比較画素)を、注目画素の画像特徴(例えば、エッジ方向)に基づいて、適宜選択するものとする。なお、選択比較画素の選択方法は、上述した基本実施例と同様の方法を適用することが可能である。そのため、以下に示す各変形例は、類似度算出部62及び画素値算出部63(図2参照)の動作のみが異なるものとする。
<第1変形例>
本変形例では、注目画素の画素値と、選択比較画素の画素値と、の差分を算出するとともに、この差分(類似度)に応じて注目画素の画素値及び選択比較画素の画素値の平滑化を行う。例えば、εフィルタ処理を利用する。
本変形例では、注目画素の画素値と、選択比較画素の画素値と、の差分を算出するとともに、この差分(類似度)に応じて注目画素の画素値及び選択比較画素の画素値の平滑化を行う。例えば、εフィルタ処理を利用する。
本変形例の処理は、下記式(6)に示すように行う。以下では、入力画像の注目画素の画素値をu、出力画像の注目画素の画素値をv、選択比較画素の画素値をti、選択比較画素毎に設定される係数をaiとする。係数aiは、例えば、注目画素に近いほど大きくするなどの設定をすることが可能であり、それぞれの選択比較画素の重みを示すものとなる。また、上述した例と同様に、入力画像の注目画素といずれかの選択比較画素とが同じものとなる(即ち、u=tiとなる)場合もあり得るものとする。また、1≦i≦nとする。即ち、選択比較画素の数はn個である。さらに、a1〜anの総和は1になるものとする。
上記式(6)の差分値u−tiの関数f(u−ti)は、差分値u−tiの絶対値が所定の値ε以下であればf(u−ti)=u−tiとなり、差分値u−tiが所定の値εより大きければf(u−ti)=α、差分値u−tiが所定の値−εより小さければf(u−ti)=−αとなる関数である。図15に、関数f(x)のグラフを示す。なお、図15(a)はα=0のグラフであり、図15(b)はα=εのグラフである。
また、上記式(6)について、(a1+a2+…+an)×u=uであることを利用すると、下記式(7)のように変形することができる。なお、下記式(7)中の関数g(u−ti)は、α=0であるとき(即ち、図15(a)のグラフとなるとき)、差分値u−tiの絶対値が所定の値ε以下であればg(u−ti)=tiとなり、差分値u−tiの絶対値が所定の値εより大きければg(u−ti)=uとなる。
即ち、α=0であるとき、選択比較画素の画素値の平滑化を行う際に、注目画素との差分値の絶対値が所定の値以下である選択比較画素の場合は、選択比較画素の画素値の方が用いられる。一方、差分値の絶対値が所定の値より大きい選択比較画素の場合は、選択比較画素の画素値の代わりに、注目画素の画素値の方が用いられることとなる。
本変形例においても、平滑化に用いる比較画素の数を減らすことができるため、計算量を抑制することが可能となる。さらに、注目画素の特徴、特に、注目画素のエッジ方向に基づいて選択比較画素の選択を行うため、注目画素に類似する可能性が高く、出力画像の注目画素の画素値を算出する際に用いると効果的となる比較画素を、積極的に選択比較画素として選択することが可能となる。同時に、注目画素と類似する可能性が低く、出力画像の注目画素の画素値を算出する際に用いてもあまり効果的ではない比較画素を、利用しないことが可能となる。したがって、ノイズ低減処理の精度を良好なものとしつつ、計算量を抑制することが可能となる。
<第2変形例>
本変形例では、注目画素の画素値と選択比較画素の画素値との差分と、注目画素と選択比較画素との距離とを算出し、これらを合わせた値(類似度)に応じて、注目画素の画素値及び選択比較画素の画素値の平滑化を行う。例えば、バイラテラルフィルタ処理を利用する。なお、本変形例の説明の具体化のために、図3及び図12に示した選択比較画素52a〜52eが選択された場合を例に挙げて、説明を行う。
本変形例では、注目画素の画素値と選択比較画素の画素値との差分と、注目画素と選択比較画素との距離とを算出し、これらを合わせた値(類似度)に応じて、注目画素の画素値及び選択比較画素の画素値の平滑化を行う。例えば、バイラテラルフィルタ処理を利用する。なお、本変形例の説明の具体化のために、図3及び図12に示した選択比較画素52a〜52eが選択された場合を例に挙げて、説明を行う。
選択比較画素52a〜52eの画素値を、図12に示したようにt1〜t5とする。注目画素50と選択比較画素52cとが同じ画素であるため、注目画素50の画素値はt3である。また、選択比較画素52a〜52eのそれぞれの位置を示す座標を(x1,y1)〜(x5,y5)とする。なお、注目画素50(52c)の座標は(x3,y3)となる。
本実施例の方法では、図16(a)に示すような、選択比較画素52a〜52eと注目画素50(52c)との距離に応じて算出されるドメインフィルタ係数D1〜D5を利用する。ドメインフィルタ係数D1〜D5は、選択比較画素52a〜52eと注目画素50(52c)との距離に応じて決定されるものである。そのため、他の注目画素に対するドメインフィルタにおいても、位置関係が同じものであればドメインフィルタ係数も同じ値となる。したがって、ドメインフィルタ係数の算出結果を記録しておけば、再度算出する処理は不要となる。
また、ドメインフィルタ係数D1〜D5は、下記式(8)に示すようにして算出される。なお、下記式(8)中のσdはドメインフィルタ係数を調整するための標準偏差であり、所定の値となる。また、選択比較画素52a〜52eと注目画素との距離が大きいほど、ドメインフィルタ係数D1〜D5は小さい値となる。
また、本実施例の方法ではさらに、図16(b)に示すような、選択比較画素52a〜52eの各画素値t1〜t5と、注目画素50(52c)の画素値t3と、の差分に応じて算出されるレンジフィルタ係数R1〜R5を利用する。また、レンジフィルタ係数R1〜R5は、下記式(9)に示すようにして算出される。なお、下記式(9)中のσrはレンジフィルタ係数を調整するための標準偏差であり、所定の値となる。また、選択比較画素52a〜52eの画素値t1〜t5と注目画素50(52c)の画素値t3との差分が大きいほど、レンジフィルタ係数R1〜R5は小さい値となる。
そして、下記式(10)に示すように、対応するドメインフィルタ係数D1〜D5とレンジフィルタ係数R1〜R5と選択比較画素52a〜52eの画素値t1〜t5とを乗算して合算した値を、対応するドメインフィルタ係数D1〜D5とレンジフィルタ係数R1〜R5とを乗算して合算した値で除算することにより、出力画像の注目画素の画素値vを算出する。
本変形例においても、平滑化に用いる比較画素の数や算出すべき係数(特に、レンジフィルタ係数)の数を減らすことができるため、計算量を抑制することが可能となる。さらに、入力画像の特徴、特に、注目画素のエッジ方向に基づいて選択比較画素の選択を行うため、注目画素に類似する可能性が高く、出力画像の注目画素の画素値を算出する際に用いると効果的となる比較画素を、積極的に選択比較画素として選択することが可能となる。同時に、注目画素と類似する可能性が低く、出力画像の注目画素の画素値を算出する際に用いてもあまり効果的ではない比較画素を、利用しないことが可能となる。したがって、ノイズ低減処理の精度を良好なものとしつつ、計算量を抑制することが可能となる。
なお、本変形例の説明においては、説明の具体化のために図3や図12と同様の5つの選択比較画素52a〜52eが選択される場合を例に挙げて示したが、本変形例はこの例に限られるものではない。例えば、探索領域51の大きさが5×5以外の大きさであっても構わないし、選択比較画素の個数が5個以外の個数であっても構わない。
<<領域別算出>>
出力画像の注目画素の画素値を算出するために、探索領域を分割して、それぞれの分割領域に対して別々の算出方法を適用することとしても構わない。なお、以下に説明する具体例では、5×5の探索領域を二つの領域に分割して、基本実施例の算出方法と、第2変形例の算出方法と、をそれぞれの分割領域に対して適用する場合について説明する。
出力画像の注目画素の画素値を算出するために、探索領域を分割して、それぞれの分割領域に対して別々の算出方法を適用することとしても構わない。なお、以下に説明する具体例では、5×5の探索領域を二つの領域に分割して、基本実施例の算出方法と、第2変形例の算出方法と、をそれぞれの分割領域に対して適用する場合について説明する。
図17に、入力画像の探索領域の一例を示す。図17に示す探索領域71は、中心の注目画素70と、これを含む右下がり斜め方向の対角線上の比較画素(図3の選択比較画素52a〜52eと同じ位置の比較画素)72a〜72eが、略等しい画素値となる。また、右上の比較画素72fと、左下の画素の右方に隣接する比較画素72gと、左下の画素の上方に隣接する比較画素72hも、注目画素70と略等しい画素値になるものとする。
図17に示す注目画素70に、例えば図4に示すエッジ検出オペレータを用いたエッジ方向の検出を行うと、右下がり斜め方向のエッジ方向が検出される。この場合に生成される選択情報の一例を図18に示す。図18に示す選択情報E2では、図7に示した選択情報Eと同様に、検出されたエッジ方向に沿った選択値が1となる。具体的には、比較画素72a〜72eに相当する各選択値が1となる。また、検出されたエッジ方向に沿って選択値が1となる領域を第1領域80とする。また、選択情報E2の第1領域80以外の領域を第2領域81a,81bとする。
第2領域81a,81bでは、例えば、注目画素の画素値と略等しい画素値となる比較画素に対応する部分の選択値を1とする。即ち、比較画素72f,72g,72hに対応する部分の選択値を1とし、その他の部分の選択値を0とする。なお、この選択値の決定方法は一例であり、他の方法で選択値を決定することとしても構わない。特に、第2領域81a,81bに対して使用する算出方法(本例では第2変形例の算出方法)に応じて、選択値の決定方法を決定することとしても構わない。
本例では、第1領域80の選択値によって選択される第1選択比較画素72a〜72eに対して、基本実施例の算出方法を施して第1注目画素値v1を算出する。また、第2領域81a,81bの選択値によって選択される第2選択比較画素72f,72g,72hと注目画素70とに第2変形例の算出方法を施して、第2注目画素値v2を算出する。そして、下記式(11)のように、重み係数kを用いて加重加算することにより、出力画像の注目画素の画素値vを算出する。
このように構成することで、複数の算出方法を使用して、出力画像の注目画素の画素値を算出することが可能となる。したがって、さらに精度良く出力画像の注目画素の画素値を算出することが可能となる。特に、第1選択比較画素に対して基本実施例の算出方法を適用し、第2選択比較画素に対して第1変形例や第2変形例の算出方法を適用することとすると好ましい。第1変形例や第2変形例の算出方法は、基本実施例の算出方法よりもノイズ低減効果は小さいが計算量が少ないものとなる。そのため、基本実施例のみを用いる場合よりも精度よくノイズ低減処理を実行可能としつつも、それに伴う計算量の増大を抑制することが可能となる。
なお、第1及び第2選択比較画素のそれぞれに適用する算出方法として、どのような算出方法を選択しても構わない。ただし、第1選択比較画素に対して基本実施例の算出方法を適用し、第2選択比較画素に対して第1変形例または第2変形例の算出方法を適用することとすると、より効果的にノイズ低減処理を行うことができるため、好ましい。
また、本例では2種類の選択比較画素に対して2種類の算出方法を適用する場合について述べたが、n種類の選択比較画素に対してn種類の算出方法を適用することとしても構わない。ただし、nは3以上の整数とする。
<具体的な構成例>
領域別算出を行う場合、特に上記のように基本実施例及び第2変形例の算出方法を用いる場合のノイズ低減処理部の具体的な構成例について、図面を参照して説明する。図19は、領域別算出を行うノイズ処理部の具体的な構成例を示すブロック図である。なお、図19は図14に相当するものであり、図14と同様となる部分については同様の番号を付し、その詳細な説明については省略する。また、図14に示すノイズ低減処理部60aと同様に、本例のノイズ低減処理部60bも、図13に示す探索領域SAの画素に対して処理を行うものとして説明する。
領域別算出を行う場合、特に上記のように基本実施例及び第2変形例の算出方法を用いる場合のノイズ低減処理部の具体的な構成例について、図面を参照して説明する。図19は、領域別算出を行うノイズ処理部の具体的な構成例を示すブロック図である。なお、図19は図14に相当するものであり、図14と同様となる部分については同様の番号を付し、その詳細な説明については省略する。また、図14に示すノイズ低減処理部60aと同様に、本例のノイズ低減処理部60bも、図13に示す探索領域SAの画素に対して処理を行うものとして説明する。
図19に示すように、ノイズ低減処理部60bは、ブロック選択部CB1a〜CB1dと、類似度算出処理部Pa〜Peと、を備える。本例のブロック選択部CB1a〜CB1dは、図14に示したブロック選択部CBa〜CBdようにブロックBa〜Bdを選択して出力するだけではなく、これに加えて選択されなかったブロックの中心画素の画素値(taa〜tac、tba〜tbc、tca〜tcc、tda〜tdc)の出力を行う。
また、選択されなかったブロックの中心画素(以下、まとめてtijで示す)の画素値と注目画素の画素値t22とを比較して類似度(上記式(8)、(9)のRi及びDi)を算出するとともに、選択されなかったブロックの中心画素tijと類似度Rij×Dijとを乗算して出力する類似度算出処理部P1〜P12を備える。また、類似度算出処理部P1〜P12は、類似度Rij×Dijも出力する。
さらに、垂直方向、右下がり斜め方向、水平方向及び右上がり斜め方向のいずれの方向にも含まれない画素の画素値(t01、t03、t10、t14、t30、t34、t41、t43:以下、まとめてtijで示す)と注目画素の画素値t22とを比較して類似度Rij×Dijを算出するとともに、いずれの方向にも含まれない画素の画素値tijと類似度Rij×Dijとを乗算して出力する類似度算出処理部P13〜P20を備える。また、類似度算出処理部P13〜P20は、類似度Rij×Dijを出力する。
図19及び上記の説明では、便宜上、類似度算出部P1〜P20の全てが類似度Rij×Dijと乗算結果Rij×Dij×tijとを出力するように記載した。しかしながら、実際にこれらの値が出力されるのは、上述のように注目画素の画素値t22と近い画素値tijが入力される類似度算出部P1〜P20のみとなる。
正規化処理部NO1は、類似度算出処理部Pa〜Peから入力される類似度Ca〜Cd,C22及び乗算結果Ca×ta〜Cd×td,C22×t22を用いて、図14の正規化処理部NOと同様の正規化を行い第1注目画素値v1を算出する。
さらに、正規化処理部NO1は、類似度算出処理部P1〜P20から入力される類似度Rij×Dijを合算して上記式(10)の分母の値を算出する。また、乗算結果Rij×Dij×tijを合算して上記式(10)の分子の値を算出し、上記式(10)のように除算することにより、第2注目画素値v2を算出する。
正規化処理部NO1は、得られた第1注目画素値v1と、第2注目画素値v2と、を上記式(11)のように加重加算することによって、出力画像の注目画素の画素値vを算出する。
<<変形例>>
撮像して得られた画像にノイズ低減処理を施して記録する撮像装置1を例に挙げて説明したが、記録した画像を再生や編集する際にノイズ低減処理を施す再生装置や編集装置などに、本発明を適用しても構わない。
撮像して得られた画像にノイズ低減処理を施して記録する撮像装置1を例に挙げて説明したが、記録した画像を再生や編集する際にノイズ低減処理を施す再生装置や編集装置などに、本発明を適用しても構わない。
また、演算を行う画素値として、輝度値を用いても構わないし、RGBやYUVなどの各値を用いても構わない。また、比較画素選択部61と、類似度算出部62と、画素値算出部63と、が演算する画素値を異なるものとしても構わない。例えば、比較画素選択部61と類似度算出部62においては輝度値を用いて演算を行い、画素値算出部ではRGBのそれぞれの値について演算を行うこととしても構わない。
本発明の実施形態における撮像装置1について、画像処理部6やノイズ低減処理部60などのそれぞれの動作を、マイコンなどの制御装置が行うこととしても構わない。さらに、このような制御装置によって実現される機能の全部または一部をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能の全部または一部を実現するようにしても構わない。
また、上述した場合に限らず、図1の撮像装置1及び図2のノイズ低減処理部60は、ハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって実現可能である。また、ソフトウェアを用いて撮像装置1やノイズ低減処理部60を構成する場合、ソフトウェアによって実現される部位についてのブロック図は、その部位の機能ブロック図を表すこととする。
以上、本発明の実施形態についてそれぞれ説明したが、本発明の範囲はこれに限定されるものではなく、発明の主旨を逸脱しない範囲で種々の変更を加えて実行することができるものである。
本発明は、入力される画像に対してノイズ低減処理を施す画像処理装置に適用することが可能であり、これを備えたデジタルスチルカメラやデジタルビデオカメラなどの各種撮像装置に適用可能である。
1 撮像装置
2 イメージサンサ
3 レンズ部
4 AFE
5 マイク
6 画像処理部
60,60a,60b ノイズ低減処理部
61 比較画素選択部
62 類似度算出部
63 画素値算出部
7 音声処理部
8 圧縮処理部
9 ドライバ部
10 外部メモリ
11 伸長処理部
12 画像出力回路部
13 音声出力回路部
14 CPU
15 メモリ
16 操作部
17 TG部
18 バス
19 バス
CBa〜CBd,CB1a〜CB1d ブロック選択部
Pa〜Pe,P1〜P20 類似度算出部
NO,NO1 正規化処理部
2 イメージサンサ
3 レンズ部
4 AFE
5 マイク
6 画像処理部
60,60a,60b ノイズ低減処理部
61 比較画素選択部
62 類似度算出部
63 画素値算出部
7 音声処理部
8 圧縮処理部
9 ドライバ部
10 外部メモリ
11 伸長処理部
12 画像出力回路部
13 音声出力回路部
14 CPU
15 メモリ
16 操作部
17 TG部
18 バス
19 バス
CBa〜CBd,CB1a〜CB1d ブロック選択部
Pa〜Pe,P1〜P20 類似度算出部
NO,NO1 正規化処理部
Claims (6)
- 入力される入力画像にノイズ低減処理を施して出力画像を生成するノイズ低減処理部を備える画像処理装置において、
前記ノイズ低減処理部が、前記入力画像の注目画素の画像特徴に応じて選択比較画素を選定し、前記注目画素の画素値と前記選択比較画素の画素値とをその類似度に応じて平滑化することで前記出力画像の注目画素の画素値を算出することを特徴とする画像処理装置。 - 前記ノイズ低減処理部が、
前記入力画像の前記注目画素を中心とした検出領域内の画素に基づいて前記注目画素のエッジ方向を検出するとともに、当該エッジ方向に基づいて前記注目画素を中心とした探索領域内の画素の中から前記選択比較画素を選択する比較画素選択部と、
前記選択比較画素と前記注目画素との前記類似度を算出する類似度算出部と、
前記注目画素の画素値と前記選択比較画素の画素値とを前記類似度に応じて平滑化して前記出力画像の前記注目画素の画素値を算出する画素値算出部と、
を備えることを特徴とする請求項1に記載の画像処理装置。 - 前記類似度算出部が、前記入力画像の前記注目画素を中心とした注目領域内の画素の画素値と、前記選択比較画素を中心とした判定領域内の画素の画素値と、を比較して前記類似度を算出することを特徴とする請求項2に記載の画像処理装置。
- 前記比較画素選択部が、第1選択比較画素と第2選択比較画素とをそれぞれ選定し、
前記類似度算出部が、前記第1選択比較画素と前記注目画素との第1類似度と、前記第2選択比較画素と前記注目画素との第2類似度と、をそれぞれ算出して、
前記画素値算出部が、前記注目画素の画素値と前記第1選択比較画素の画素値とを前記第1類似度に応じて平滑化して得られる第1画素値と、前記注目画素の画素値と前記第2選択比較画素の画素値とを前記第2類似度に応じて平滑化して得られる第2画素値と、を用いて前記出力画像の前記注目画素の画素値を算出することを特徴とする請求項2または請求項3に記載の画像処理装置。 - 前記比較画素選択部が、前記探索領域中の前記エッジ方向に沿った画素を前記第1選択比較画素として選択するとともに、前記第1選択比較画素を除いた前記探索領域内の画素から、前記第2選択比較画素を選択することを特徴とする請求項4に記載の画像処理装置。
- 撮像して前記入力画像を作成する撮像部と、
当該撮像部から入力画像を取得する請求項1〜請求項5のいずれかに記載の画像処理装置と、
を備えることを特徴とする撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008326988A JP2010153969A (ja) | 2008-12-24 | 2008-12-24 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008326988A JP2010153969A (ja) | 2008-12-24 | 2008-12-24 | 撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010153969A true JP2010153969A (ja) | 2010-07-08 |
Family
ID=42572585
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008326988A Pending JP2010153969A (ja) | 2008-12-24 | 2008-12-24 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010153969A (ja) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20120050678A (ko) * | 2010-11-11 | 2012-05-21 | 삼성전자주식회사 | 깊이 영상의 고정밀 복원을 위한 필터링 장치 및 방법 |
WO2013014791A1 (ja) * | 2011-07-28 | 2013-01-31 | 株式会社 東芝 | 映像信号処理装置及び映像信号処理方法 |
JP2013065946A (ja) * | 2011-09-15 | 2013-04-11 | Ricoh Co Ltd | 画像処理装置および画像処理方法 |
JP2014112783A (ja) * | 2012-12-05 | 2014-06-19 | Canon Inc | 画像処理装置、画像処理方法およびプログラム、並びに画像処理装置を備えた撮像装置 |
KR20140097507A (ko) * | 2012-01-06 | 2014-08-06 | 가부시키가이샤 리코 | 화상 처리 장치, 촬상 장치, 화상 처리 방법 및 컴퓨터 판독 가능한 기록 매체 |
JP2014179971A (ja) * | 2013-02-14 | 2014-09-25 | Canon Inc | 画像処理装置、画像処理方法、およびプログラム |
JP2015035198A (ja) * | 2012-10-25 | 2015-02-19 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
US9412157B2 (en) | 2010-08-19 | 2016-08-09 | Samsung Electronics, Co., Ltd. | Apparatus and method for high speed filtering of image for high precision |
KR20160112226A (ko) * | 2015-03-18 | 2016-09-28 | 삼성전자주식회사 | 이미지 처리 장치 및 이를 포함하는 노이즈 제거 시스템 |
US9489721B2 (en) | 2014-01-22 | 2016-11-08 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and storage medium |
US11282173B2 (en) | 2013-02-14 | 2022-03-22 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and storage medium for reducing noise in a captured image |
-
2008
- 2008-12-24 JP JP2008326988A patent/JP2010153969A/ja active Pending
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9412157B2 (en) | 2010-08-19 | 2016-08-09 | Samsung Electronics, Co., Ltd. | Apparatus and method for high speed filtering of image for high precision |
KR20120050678A (ko) * | 2010-11-11 | 2012-05-21 | 삼성전자주식회사 | 깊이 영상의 고정밀 복원을 위한 필터링 장치 및 방법 |
KR101669819B1 (ko) * | 2010-11-11 | 2016-10-27 | 삼성전자주식회사 | 깊이 영상의 고정밀 복원을 위한 필터링 장치 및 방법 |
WO2013014791A1 (ja) * | 2011-07-28 | 2013-01-31 | 株式会社 東芝 | 映像信号処理装置及び映像信号処理方法 |
JP2013065946A (ja) * | 2011-09-15 | 2013-04-11 | Ricoh Co Ltd | 画像処理装置および画像処理方法 |
KR101646859B1 (ko) | 2012-01-06 | 2016-08-12 | 가부시키가이샤 리코 | 화상 처리 장치, 촬상 장치, 화상 처리 방법 및 컴퓨터 판독 가능한 기록 매체 |
KR20140097507A (ko) * | 2012-01-06 | 2014-08-06 | 가부시키가이샤 리코 | 화상 처리 장치, 촬상 장치, 화상 처리 방법 및 컴퓨터 판독 가능한 기록 매체 |
JP2015035198A (ja) * | 2012-10-25 | 2015-02-19 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
JP2014112783A (ja) * | 2012-12-05 | 2014-06-19 | Canon Inc | 画像処理装置、画像処理方法およびプログラム、並びに画像処理装置を備えた撮像装置 |
JP2014179971A (ja) * | 2013-02-14 | 2014-09-25 | Canon Inc | 画像処理装置、画像処理方法、およびプログラム |
US11282173B2 (en) | 2013-02-14 | 2022-03-22 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and storage medium for reducing noise in a captured image |
US9489721B2 (en) | 2014-01-22 | 2016-11-08 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and storage medium |
KR20160112226A (ko) * | 2015-03-18 | 2016-09-28 | 삼성전자주식회사 | 이미지 처리 장치 및 이를 포함하는 노이즈 제거 시스템 |
KR102346961B1 (ko) * | 2015-03-18 | 2022-01-04 | 삼성전자주식회사 | 이미지 처리 장치 및 이를 포함하는 노이즈 제거 시스템 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2010153969A (ja) | 撮像装置 | |
JP5183297B2 (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
US8363123B2 (en) | Image pickup apparatus, color noise reduction method, and color noise reduction program | |
JP5084696B2 (ja) | 画像処理装置、画像処理方法及び電子機器 | |
US10257449B2 (en) | Pre-processing for video noise reduction | |
US9117136B2 (en) | Image processing method and image processing apparatus | |
US20130342736A1 (en) | Image processing apparatus, imaging apparatus, image processing method, and program | |
JP2010147925A (ja) | 撮像装置 | |
US8712207B2 (en) | Digital photographing apparatus, method of controlling the same, and recording medium for the method | |
US8855416B2 (en) | Image processing method and image processing apparatus | |
US8373775B2 (en) | Apparatus, method and software stored on a computer-readable storage medium, for reducing noise in an image | |
JP2009020834A (ja) | 画像処理装置、方法およびプログラムならびに撮像装置 | |
US10091415B2 (en) | Image processing apparatus, method for controlling image processing apparatus, image pickup apparatus, method for controlling image pickup apparatus, and recording medium | |
JP5092536B2 (ja) | 画像処理装置及びそのプログラム | |
JP2010141657A (ja) | 撮像装置及び撮像方法 | |
JP2009094751A (ja) | ノイズ抑圧装置、ノイズ抑圧方法、ノイズ抑圧プログラムおよび撮像装置 | |
JP6032912B2 (ja) | 撮像装置、その制御方法及びプログラム | |
JP2011155582A (ja) | 撮像装置 | |
JP2010041497A (ja) | 画像処理装置、電子機器及び画像処理方法 | |
JP5497420B2 (ja) | 画像処理装置及び撮像装置 | |
JP5213604B2 (ja) | 撮像装置 | |
JP2010147840A (ja) | 画像処理装置及び撮像装置 | |
JP2010245945A (ja) | 画像処理装置及び撮像装置 | |
JP2017175584A (ja) | 撮像装置及び音声記録装置 | |
JP6087720B2 (ja) | 撮像装置及びその制御方法 |