JP2014027337A - 画像処理装置、画像処理方法、プログラムおよび撮像装置 - Google Patents
画像処理装置、画像処理方法、プログラムおよび撮像装置 Download PDFInfo
- Publication number
- JP2014027337A JP2014027337A JP2012163671A JP2012163671A JP2014027337A JP 2014027337 A JP2014027337 A JP 2014027337A JP 2012163671 A JP2012163671 A JP 2012163671A JP 2012163671 A JP2012163671 A JP 2012163671A JP 2014027337 A JP2014027337 A JP 2014027337A
- Authority
- JP
- Japan
- Prior art keywords
- noise reduction
- intensity
- noise
- image processing
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 166
- 238000003384 imaging method Methods 0.000 title claims description 28
- 238000003672 processing method Methods 0.000 title claims description 9
- 238000012937 correction Methods 0.000 claims abstract description 117
- 238000004364 calculation method Methods 0.000 claims description 105
- 238000011156 evaluation Methods 0.000 claims description 22
- 238000011946 reduction process Methods 0.000 claims description 9
- 238000012935 Averaging Methods 0.000 claims description 4
- 230000001419 dependent effect Effects 0.000 claims description 4
- 238000000034 method Methods 0.000 description 80
- 238000012986 modification Methods 0.000 description 16
- 230000004048 modification Effects 0.000 description 16
- 230000000875 corresponding effect Effects 0.000 description 14
- 238000010606 normalization Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000007423 decrease Effects 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000003247 decreasing effect Effects 0.000 description 3
- 230000002194 synthesizing effect Effects 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Picture Signal Circuits (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
【課題】例えば、ノイズリダクションの強度を適切に設定する。
【解決手段】画像処理装置は、所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、エッジ率に応じて得られる補正データに基づいて、前記ノイズリダクションの強度を補正するノイズリダクション強度補正部とを有する。
【選択図】図3
【解決手段】画像処理装置は、所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、エッジ率に応じて得られる補正データに基づいて、前記ノイズリダクションの強度を補正するノイズリダクション強度補正部とを有する。
【選択図】図3
Description
本開示は、画像処理装置、画像処理方法、プログラムおよび撮像装置に関する。
撮像装置による撮像により得られる画像データに、イメージセンサの特性に起因するノイズ等が重畳する場合がある。これらのノイズを除去する処理は、一般に、ノイズリダクション(NR(Noise Reduction))処理と称され、様々な手法のノイズリダクション処理が提案されている。例えば、下記特許文献1には、エッジの有無を判別し、周囲にエッジが存在すると判定されたエッジ付近に対しては、ノイズリダクション処理を行わないようにした技術が記載されている。
特許文献1に記載の技術では、エッジを保存しつつ、ノイズを除去できるものの、ノイズ付近にノイズリダクション処理が行われないため、ノイズ付近のS/N比(Signal to Noise Ratio)が悪化するおそれがある、という問題があった。
したがって、本開示の目的の一つは、エッジの度合いを示すエッジ率に応じて、ノイズリダクションの強度を適切に設定できる、画像処理装置、画像処理方法、プログラムおよび撮像装置を提供することにある。
上述した課題を解決するために、本開示は、例えば、
所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
エッジ率に応じて得られる補正データに基づいて、ノイズリダクションの強度を補正するノイズリダクション強度補正部と
を有する画像処理装置である。
所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
エッジ率に応じて得られる補正データに基づいて、ノイズリダクションの強度を補正するノイズリダクション強度補正部と
を有する画像処理装置である。
本開示は、例えば、
所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
所定の評価値に基づいて、エッジ率を算出するエッジ率算出部と、
エッジ率に応じて、ノイズリダクションの強度を補正するノイズリダクション強度補正部と、
ノイズ成分を除去するノイズ除去部と
を有し、
所定の評価値は、注目画素を中心とする所定サイズの第1のブロックと、注目画素とは異なる画素を中心とする、所定サイズと同一のサイズの第2のブロックとの間のSADの値に基づいて設定され、
ノイズ除去部は、補正されたノイズリダクションの強度と、SADの値とに基づいてノイズ成分を除去する画像処理装置である。
所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
所定の評価値に基づいて、エッジ率を算出するエッジ率算出部と、
エッジ率に応じて、ノイズリダクションの強度を補正するノイズリダクション強度補正部と、
ノイズ成分を除去するノイズ除去部と
を有し、
所定の評価値は、注目画素を中心とする所定サイズの第1のブロックと、注目画素とは異なる画素を中心とする、所定サイズと同一のサイズの第2のブロックとの間のSADの値に基づいて設定され、
ノイズ除去部は、補正されたノイズリダクションの強度と、SADの値とに基づいてノイズ成分を除去する画像処理装置である。
本開示は、例えば、
所定のノイズ成分を除去するためのノイズリダクションの強度を設定し、
エッジ率に応じて、ノイズリダクションの強度を補正する
画像処理装置における画像処理方法である。
所定のノイズ成分を除去するためのノイズリダクションの強度を設定し、
エッジ率に応じて、ノイズリダクションの強度を補正する
画像処理装置における画像処理方法である。
本開示は、例えば、
所定のノイズ成分を除去するためのノイズリダクションの強度を設定し、
エッジ率に応じて、ノイズリダクションの強度を補正する
画像処理装置における画像処理方法を、コンピュータに実行させるプログラムである。
所定のノイズ成分を除去するためのノイズリダクションの強度を設定し、
エッジ率に応じて、ノイズリダクションの強度を補正する
画像処理装置における画像処理方法を、コンピュータに実行させるプログラムである。
本開示は、例えば、
撮像部と、
所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
エッジ率に応じて得られる補正データに基づいて、ノイズリダクションの強度を補正するノイズリダクション強度補正部と、
撮像部を介して取得される画像データに対して、補正されたノイズリダクションの強度に基づいて、ノイズリダクション処理を行うノイズ除去部と
を有する撮像装置である。
撮像部と、
所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
エッジ率に応じて得られる補正データに基づいて、ノイズリダクションの強度を補正するノイズリダクション強度補正部と、
撮像部を介して取得される画像データに対して、補正されたノイズリダクションの強度に基づいて、ノイズリダクション処理を行うノイズ除去部と
を有する撮像装置である。
少なくとも一つの実施形態によれば、ノイズ除去部により実行されるノイズリダクション処理におけるノイズリダクションの強度を適切に設定できる。
以下、本開示の実施形態について図面を参照しながら説明する。なお、説明は、以下の順序で行う。
<1.第1の実施形態>
<2.第2の実施形態>
<3.第3の実施形態>
<4.変形例>
なお、以下に説明する実施形態等は本開示の好適な具体例であり、本開示の内容がこれらの実施形態等に限定されるものではない。
<1.第1の実施形態>
<2.第2の実施形態>
<3.第3の実施形態>
<4.変形例>
なお、以下に説明する実施形態等は本開示の好適な具体例であり、本開示の内容がこれらの実施形態等に限定されるものではない。
<1.第1の実施形態>
「画像データの入力レベルとノイズの分散との関係について」
始めに、本開示の理解を容易にするために、画像データの入力レベルとノイズの分散との関係について説明する。撮像装置内で発生するノイズの成分には、画像データの入力レベル(輝度)に依存して変化するものが知られている。図1は、ある画素の輝度値をxとし、輝度値xに対するノイズの分散を模式的に示したものである。図1からも明らかなように、輝度値xが大きくなるにつれてノイズの分散が増加する。ここで、画像データの輝度に依存しないノイズを含めると、ノイズの分散は、例えば、下記の式1により定義することができる。
「画像データの入力レベルとノイズの分散との関係について」
始めに、本開示の理解を容易にするために、画像データの入力レベルとノイズの分散との関係について説明する。撮像装置内で発生するノイズの成分には、画像データの入力レベル(輝度)に依存して変化するものが知られている。図1は、ある画素の輝度値をxとし、輝度値xに対するノイズの分散を模式的に示したものである。図1からも明らかなように、輝度値xが大きくなるにつれてノイズの分散が増加する。ここで、画像データの輝度に依存しないノイズを含めると、ノイズの分散は、例えば、下記の式1により定義することができる。
式1において、aは、主にイメージセンサの光学ショットノイズに起因する、輝度に依存性のあるノイズ成分であり、輝度の平方根に略比例するノイズ成分である。bは、熱雑音などの、輝度に依存しないフロアノイズの成分である。xは、ある画素の輝度値を示す。a、bは、イメージセンサの特性によって決定される。式1は一例であり、簡易化した下記の式(例えば、式2)や、より詳細にノイズ成分が規定された他の式によりノイズの分散が定義されてもよい。ノイズは、一定の感度以下では、正規分布とみなすことができる。
輝度に依存性のあるノイズは、予測されるノイズの分散にあわせて閾値を変化させることにより効果的に除去することができる。式1で算出されるσ(x)を使用して、式3により閾値Thを画素毎に算出する。
式3におけるSは、強度調整値であり、例えば、撮像装置の出荷時にデフォルトの数値が設定される。強度調整値Sが可変とされてもよい。例えば、ユーザの設定に応じて強度調整値Sが変更できるようにしてもよい。ユーザによりノイズリダクションの強度を大きくする設定がなされたときには、強度調整値Sが大きくされ、ユーザによりノイズリダクションの強度を小さくする設定がなされたときには、強度調整値Sが小さくされる。
式3により算出される閾値は、ノイズリダクション処理を行うノイズ除去部に対して設定されるものである。ノイズ除去部としては、ε(イプシロン)フィルタや、ウェーブレットフィルタが例示される。図2に示すように、閾値を大きくすることによりノイズリダクションの強度を大きくすることができ、閾値を小さくすることにより、ノイズリダクションの強度を小さくすることができる。画素毎に算出される閾値を用いたノイズリダクション処理により、ノイズを効果的に除去することができる。
ところで、ノイズが重畳された画像データを参照して閾値Thを算出すると、閾値Thの精度が悪化する場合がある。この結果、適切なノイズリダクション強度が適用されなくなる。特に、画像データにおけるエッジ付近において不適切な強度のノイズリダクションが適用された場合、エッジがなまるなどの問題が起こり、画質の劣化が大きくなる。そこで、本開示では、例えば、閾値Thをエッジ率に応じて補正することにより、画像のエッジ領域におけるノイズリダクションの強度をより適切なものにする。以下、本開示の内容の具体的な例について、説明する。
「画像処理装置の構成」
図3は、第1の実施形態における画像処理装置の構成を説明するための図である。画像処理装置1は、例えば、撮像装置に内蔵される。参照符号101、102、103は、撮像装置が有するイメージセンサ、アナログフロントエンド(AFE)、バッファメモリをそれぞれ示す。バッファメモリ103の後段に、画像処理装置1が接続される。バッファメモリ103には、1フレームもしくは画像処理装置1の処理に必要なサイズの画像データが蓄積され、バッファメモリ103に蓄積された画像データに対して、画像処理装置1によるノイズリダクション処理が行われる。
図3は、第1の実施形態における画像処理装置の構成を説明するための図である。画像処理装置1は、例えば、撮像装置に内蔵される。参照符号101、102、103は、撮像装置が有するイメージセンサ、アナログフロントエンド(AFE)、バッファメモリをそれぞれ示す。バッファメモリ103の後段に、画像処理装置1が接続される。バッファメモリ103には、1フレームもしくは画像処理装置1の処理に必要なサイズの画像データが蓄積され、バッファメモリ103に蓄積された画像データに対して、画像処理装置1によるノイズリダクション処理が行われる。
画像処理装置1は、例えば、ノイズリダクション強度設定部104、エッジ率算出部105、補正データ算出部106、ノイズリダクション強度補正部107およびノイズ除去部108を含む構成とされる。これらの構成のうち、一部の構成が撮像装置の構成とされてもよく、例示した構成とは異なる構成が画像処理装置1に追加されてもよい。
なお、図示は省略しているが、撮像装置は、図1に例示する構成の他に、LCD(Liquid Crystal Display)等の表示デバイスや、ハードディスクやUSB(Universal Serial Bus)等のメモリ、撮像装置の各部を制御するシステムコントローラなどを有する構成としてもよい。画像処理装置1による処理が行われた画像データに対して公知のデジタル画像処理が行われた後に、画像データが表示デバイスに表示されたり、メモリに記憶される。
各部について、詳細に説明する。撮像装置のレンズおよび絞り(図示を省略している)により被写体からの光画像が集光される。絞りによって光画像の光量が調節される。集光された光画像がイメージセンサ101により光電変換され、電気信号であるアナログ画像データが生成される。イメージセンサ101は、CCD(Charge Coupled Device)センサやCMOS(Complementary Metal Oxide Semiconductor)センサなどから構成される。イメージセンサ101は、例えば、ベイヤ配列のRGBのカラーフィルタを有する。
AFE102は、イメージセンサ101から供給されるアナログ画像データに対して、例えば、CDS(Correlated Double Sampling)処理を行ってS/N比(Signal to Ratio)を良好にする。AFE102は、さらに、AGC(Automatic Gain Control)処理を行うことにより利得を制御する。そして、AFE102は、アナログ画像データに対してA/D(Analog to Digital)変換処理を行い、デジタル画像データを生成する。AFE102は、生成したデジタル画像データを出力する。AFE102から出力されたデジタル画像データがバッファメモリ103に供給される。
バッファメモリ103は、AFE102から供給されるデジタル画像データを記憶するメモリである。バッファメモリ103に、後段の画像処理装置1が処理を行うのに必要な分の画像データが記憶される。例えば、ある画素を注目画素として設定し、注目画素を中心とした所定サイズの領域の画像データが、バッファメモリ103に供給される。バッファメモリ103に、例えば、1フレーム分の画像データが記憶されるようにしてもよい。1フレームの画像データにおける所定の領域に対して、画像処理装置1が処理を行うようにしてもよい。バッファメモリ103から出力される画像データが、ノイズリダクション強度設定部104、エッジ率算出部105およびノイズ除去部108に供給される。
画像処理装置1の各部について説明する。ノイズリダクション強度設定部104は、注目画素の輝度値、もしくは、注目画素の輝度値に加え、注目画素の周囲の画素の輝度値を使用して、基準となる輝度情報(以下、基準輝度情報と適宜、称する)を算出する。ノイズリダクション強度設定部104は、基準輝度情報を使用して、ノイズの分散σ(x)を算出する。ノイズの分散は、上述した式1により算出することができる。式1におけるxが、基準輝度情報に相当する。式1におけるaおよびbは、イメージセンサ101の特性に基づく値であり、撮像装置において既知の値である。ノイズリダクション強度設定部104は、既知の値であるaおよびbを図示しないメモリ等に保持している。したがって、ノイズリダクション強度設定部104は、式1によりノイズの分散σ(x)を算出することができる。
ノイズリダクション強度設定部104は、ノイズの分散σ(x)に対して所定の強度調整値Sを乗算し、閾値Thを算出する。なお、ノイズリダクション強度設定部104により算出される閾値Thを、閾値Th1と適宜、称する。閾値Th1により、ノイズリダクションの強度が設定される。ノイズリダクション強度設定部104により設定されたノイズリダクションの強度が、ノイズリダクション強度補正部107に供給される。
エッジ率算出部105は、例えば、注目画素と、注目画素の周囲の画素の輝度の分布を参照して、注目画素のエッジ率を算出する。エッジ率は、エッジの度合いを示し、例えば、エッジ率が小さいほど、注目画素が画像の平坦部の画素であることを示し、エッジ率が大きいほど、注目画素がエッジ上の画素であることを示す。
第1の実施形態におけるエッジ率を算出する方法は、特に限定されることはない。例えば、注目画素の輝度値と周辺画素の輝度値との間の差分をそれぞれ算出し、その平均値に応じてエッジ率を規定してもよい。例えば、注目画素を中心とする所定サイズ(例えば、3×3)の領域に対して一次または二次の微分フィルタを適用し、その結果をエッジ率として規定してもよい。エッジ率算出部105により算出されたエッジ率が、補正データ算出部106に供給される。
補正データ算出部106は、エッジ率算出部105から供給されるエッジ率に応じて、補正データを算出する。補正データの算出の例については、後述する。
ノイズリダクション強度補正部107は、ノイズリダクション強度設定部104により設定されたノイズリダクションの強度を、補正データ算出部106から供給される補正データに基づいて補正する。ノイズリダクション強度補正部107は、例えば、閾値Th1に対して補正データを乗算し、最終的なノイズリダクションの強度である閾値Th2を算出することにより、ノイズリダクションの強度を補正する。ノイズリダクション強度補正部107は、閾値Th2をノイズ除去部108に供給する。
ノイズ除去部108は、閾値Th2に基づいてノイズを除去するノイズリダクション処理を行う。ノイズ除去部108は、例えば、εフィルタにより構成される。εフィルタは、2次元のフィルタであり、閾値Th2を用いて、入力される画像データに対して非線形なフィルタ処理を行う機能を有する。なお、ノイズ除去部108は、閾値等のある設定値に応じてノイズリダクションの強度を可変できるものであれば、εフィルタに限定されることはない。ノイズ除去部108が、例えば、ウェーブレットフィルタなどの他のフィルタであってもよい。ノイズリダクション処理が施された画像データがノイズ除去部108から出力される。
ノイズ除去部108から出力される画像データに対して、デモザイク処理やAF(Auto Focus)、AE(Auto Exposure)、AWB(Auto White Balance)などのカメラ信号処理が行われる。カメラ信号処理が行われた画像データが、例えば、表示デバイスに供給され、表示デバイスに画像データに基づく画像が表示される。カメラ信号処理が行われた画像データが、所定のフォーマットで圧縮され、圧縮された画像データがメモリに記憶されてもよい。
「画像処理装置の動作」
画像処理装置1の動作の一例について、説明する。バッファメモリ103には、例えば、注目画素として設定された画素を含み、注目画素を中心とする3(画素)×3(画素)のブロックの画像データが記憶されているものとして説明する。
画像処理装置1の動作の一例について、説明する。バッファメモリ103には、例えば、注目画素として設定された画素を含み、注目画素を中心とする3(画素)×3(画素)のブロックの画像データが記憶されているものとして説明する。
ノイズリダクション強度設定部104は、3×3のブロックの画像データを使用して、基準輝度情報xを設定する。基準輝度情報xは、例えば、注目画素の輝度値をそのまま基準輝度情報xとして設定する。ノイズの影響を低減するために、ブロック内の9個の画素の輝度値の平均値や中央値を基準輝度情報xとしてもよい。ノイズリダクション強度設定部104は、基準輝度情報xと、既知の値であるa、bとを用いて、式1に基づき、ノイズの分散σ(x)を算出する。そして、ノイズリダクション強度設定部104は、式3に基づき、ノイズの分散σ(x)に基づく閾値Th1を算出する。閾値Th1がノイズリダクション強度補正部107に供給される。
ノイズリダクション強度設定部104による処理と並行して、エッジ率算出部105は、エッジ率を算出する。エッジ率が補正データ算出部106に供給される。補正データ算出部106は、エッジ率に応じた補正データを算出し、算出した補正データをノイズリダクション強度補正部107に供給する。ノイズリダクション強度補正部107は、補正データに基づいて閾値Th1を補正し、最終的なノイズリダクションの強度である閾値Th2を算出する。閾値Th2がノイズ除去部108に供給される。ノイズ除去部108は、閾値Th2に基づいたノイズリダクション処理を行う。
ある注目画素に対する処理が終了すると、新たな注目画素が設定され、上述した処理と同様の処理が繰り返される。注目画素は、例えば、ラスタースキャン順に設定される。画像処理装置1における処理により、ノイズが除去もしくは低減された画像データが得られる。
「補正データの一例」
補正データ算出部106により算出される補正データの一例について説明する。補正データ算出部106は、エッジ率算出部105から供給されるエッジ率に応じて、注目画素を、例えば、エッジ部、ディテール部(細かな模様などの部分)、平坦部(画像がほとんど変化しない部分)のいずれかに分類する。各分類には、補正データの一例である倍率が対応付けられている。倍率は、例えば、0から1の間の所定値とされる。
補正データ算出部106により算出される補正データの一例について説明する。補正データ算出部106は、エッジ率算出部105から供給されるエッジ率に応じて、注目画素を、例えば、エッジ部、ディテール部(細かな模様などの部分)、平坦部(画像がほとんど変化しない部分)のいずれかに分類する。各分類には、補正データの一例である倍率が対応付けられている。倍率は、例えば、0から1の間の所定値とされる。
図4に例示するように、例えば、エッジ率が0から所定値P1以下の場合は、平坦部に分類される。エッジ部の分類には、例えば、倍率1.0が対応付けられている。エッジ率が所定値P1より大きく所定値P2以下の場合は、ディテール部に分類される。ディテール部には、例えば、倍率0.8が対応付けられている。エッジ率が所定値P2より大きい場合は、エッジ部に分類される。エッジ部には、倍率が0.5が対応付けられている。
補正データ算出部106は、分類に応じた倍率を補正データとして決定する。なお、必ずしもエッジ部等に分類する必要はなく、図5に例示するように、エッジ率の大きさに応じて倍率が決定されてもよい。図6に示すように、所定のエッジ率(例えば、所定値P2)までは、倍率を略リニアに変化させ、所定のエッジ率以上は、倍率を所定値(例えば、0.5)に決定するようにしてもよい。エッジ率に対して所定の演算を行うことにより倍率を算出するようにしてもよい。
補正データ算出部106は、決定した倍率をノイズリダクション強度補正部107に供給する。ノイズリダクション強度補正部107は、閾値Th1に対して所定の倍率を乗算し、閾値Th2を算出する。
エッジ率が大きいほど倍率が小さくなることから、閾値Th2が小さくなる。すなわち、ノイズリダクションの強度が小さくなる。このように、エッジ率が大きいほどノイズリダクションの強度が小さくなるように補正されるため、エッジを保存しつつ、ノイズを効果的に除去することができる。さらに、エッジ率が大きい場合であっても、所定の強度のノイズリダクション処理が実行されるため、エッジ付近のノイズを除去することができる。輝度に依存性のあるノイズ成分を効果的に除去するように設定されたノイズリダクションの強度を、エッジが保存されるように、適切なノイズリダクションの強度に補正できる。
「処理の流れの一例」
第1の実施形態における画像処理装置1の処理の流れの一例を、図7に示すフローチャートを参照して説明する。なお、一部の処理は、撮像装置のイメージセンサやAFEにより実行される。ステップST101では、イメージセンサ101により光電変換処理が実行され、アナログ画像データが取得される。そして、処理がステップST102に進む。
第1の実施形態における画像処理装置1の処理の流れの一例を、図7に示すフローチャートを参照して説明する。なお、一部の処理は、撮像装置のイメージセンサやAFEにより実行される。ステップST101では、イメージセンサ101により光電変換処理が実行され、アナログ画像データが取得される。そして、処理がステップST102に進む。
ステップST102では、アナログ画像データに対するAFE102による処理が実行される。AFE102による処理により、デジタル画像データが得られる。そして、処理がステップST103に進む。
ステップST103では、処理に必要な分のデジタル画像データがバッファメモリ103に記憶される。例えば、注目画素を中心とする3×3のブロックの画像データがバッファメモリ103に記憶される。もちろん、ブロックサイズは、3×3のサイズに限定されることはなく、任意のサイズを設定できる。そして、処理がステップST104に進む。
ステップST104では、ノイズリダクション強度設定部104によりノイズリダクションの強度が設定される。上述したように、ノイズリダクション強度設定部104は、基準輝度情報を設定し、基準輝度情報等を用いてノイズの分散σ(x)を算出する。そして、ノイズの分散に対して所定の強度調整値Sを乗算し、閾値Th1を算出する。閾値Th1がノイズリダクションの強度として設定される。そして、処理がステップST105に進む。
ステップST105では、エッジ率算出部105によりエッジ率が算出される。算出されたエッジ率が補正データ算出部106に供給される。そして、処理がステップST106に進む。
ステップST106では、補正データ算出部106により、エッジ率に応じた補正データが算出(決定)される。補正データが、ノイズリダクション強度補正部107に供給される。そして、処理がステップST107に進む。
ステップST107おいて、ノイズリダクション強度補正部107は、補正データに基づいて、ノイズリダクションの強度を補正する。ノイズリダクション強度補正部107は、例えば、補正データの一例である所定の倍率を閾値Th1に乗算し、閾値Th2を算出することにより、ノイズリダクションの強度を補正する。閾値Th2がノイズ除去部108に供給される。そして、処理がステップST108に進む。
ステップST108において、ノイズ除去部108は、補正後のノイズリダクションの強度である閾値Th2に基づいて、ノイズリダクション処理を実行する。図示は省略しているが、ステップST108の後に新たな注目画素が設定され、ステップST104からステップST108の処理が繰り返される。画像データの全ての画素に対する処理が行われると、処理が終了する。
図7に例示する処理の流れにおいて、一部の処理が並列に行われてもよい。例えば、例えば、ステップST104の処理と、ステップST105の処理およびステップST106の処理とが、並列に行われるようにしてもよい。
<2.第2の実施形態>
次に、第2の実施形態について説明する。第2の実施形態における画像処理装置2は、画像処理装置1と同様に、例えば、撮像装置に内蔵される。図8は、画像処理装置2の構成の一例を説明するための図である。なお、図8において、画像処理装置1と同一部分または相応する部分には、共通の参照符号を付している。共通の参照符号が付された構成については、適宜、重複した説明を省略する。
次に、第2の実施形態について説明する。第2の実施形態における画像処理装置2は、画像処理装置1と同様に、例えば、撮像装置に内蔵される。図8は、画像処理装置2の構成の一例を説明するための図である。なお、図8において、画像処理装置1と同一部分または相応する部分には、共通の参照符号を付している。共通の参照符号が付された構成については、適宜、重複した説明を省略する。
画像処理装置2は、ノイズリダクション強度設定部104、補正データ算出部106、ノイズリダクション強度補正部107、SAD(Sum of Absolute Difference)算出部201、SAD平均算出部202、エッジ率算出部203およびノイズ除去部204を含む構成とされる。これらの構成のうち、一部の構成が撮像装置の構成とされてもよく、例示した構成とは異なる構成が画像処理装置2に追加されてもよい。
SAD算出部201は、バッファメモリ103に接続され、バッファメモリ103に記憶される画像データに基づいて、所定の評価値の一例であるSAD値を例えば、複数、算出する。SAD値の算出の例については、後述する。SAD算出部201は、SAD平均算出部202に接続され、SAD算出部201からSAD平均算出部202に対して複数のSAD値が供給される。SAD算出部201は、さらに、ノイズ除去部204に接続され、SAD算出部201からノイズ除去部204に対して、一または複数のSAD値が供給される。
SAD平均算出部202は、SAD算出部201から供給されるSAD値の平均値を算出する。算出されたSAD値の平均値が、エッジ率算出部203に供給される。
エッジ率算出部203は、SAD平均算出部202から供給されるSAD値の平均値に応じて、エッジ率を算出する。例えば、SAD値の平均値およびSAD値の平均値に対応するエッジ率が記述されたテーブルを保持し、このテーブルを読み込むことにより、エッジ率算出部203は、SAD値の平均値に応じたエッジ率を算出する。SAD値の平均値に対して所定の演算を行うことにより、エッジ率を算出するようにしてもよい。
なお、エッジ率算出部203は、バッファメモリ103とノイズ除去部204との間のラインに接続され、エッジ率算出部203に対して、バッファメモリ103に記憶される画像データが供給可能となるように構成される。
ノイズ除去部204は、ノイズリダクション強度補正部107により補正されたノイズリダクションの強度に基づいて、ノイズリダクション処理を行う。ノイズ除去部204は、ノイズ除去部108と同様に、例えば、εフィルタによって構成される。
ノイズ除去部204は、さらに、SAD算出部201から供給される一または複数のSAD値を使用して、ノイズリダクション処理を実行する。SAD値を使用したノイズリダクション処理は、様々な手法が提案されている。関連する技術の一例を示せば、特開2009−105533に記載されている手法が挙げられる。当該文献には、複数の画像を高速に撮像し、SAD値に基づいて、複数の画像の加算割合を決定し、決定された加算割合に応じて、複数の画像を合成してノイズを低減する手法が記載されている。ノイズ除去部204は、例えば、複数の画像を重ね合わせた画像に対して、さらに、最終的なノイズリダクションの強度に基づいたノイズリダクション処理を行う。
「画像処理装置の動作」
画像処理装置2の動作の一例について、説明する。バッファメモリ103には、例えば、7×7のブロックの画像データが記憶されているものとして説明する。
画像処理装置2の動作の一例について、説明する。バッファメモリ103には、例えば、7×7のブロックの画像データが記憶されているものとして説明する。
ノイズリダクション強度設定部104は、バッファメモリ103に蓄積された画像データにおける所定の画素を注目画素として設定する。ノイズリダクション強度設定部104は、基準輝度情報xを設定する。基準輝度情報xの設定の例は、上述した通りである。
ノイズリダクション強度設定部104は、基準輝度情報xと、既知の値であるa、bを用いて、式1に基づくノイズの分散σ(x)を算出し、ノイズの分散σ(x)に基づいて、閾値Th1を算出する。閾値Th1がノイズリダクション強度補正部107に供給される。
SAD算出部201は、バッファメモリ103に記憶された7×7のブロックの画像データを使用して、複数のSAD値を算出する。複数のSAD値がSAD平均算出部202に供給される。SAD平均算出部202は、SAD値の平均値を算出する。SAD値の平均値がエッジ率算出部203に供給される。エッジ率算出部203は、SAD値の平均値に応じてエッジ率を算出する。算出されたエッジ率が補正データ算出部106に供給される。
補正データ算出部106は、エッジ率に応じて補正データを生成する。補正データがノイズリダクション強度補正部107に供給される。ノイズリダクション強度補正部107は、補正データに基づいて閾値Th1を補正し、最終的なノイズリダクションの強度である閾値Th2を算出する。閾値Th2がノイズ除去部204に供給される。ノイズ除去部204は、SADおよび閾値Th2を使用したノイズリダクション処理を実行する。
ある注目画素に対する処理が終了すると、新たな注目画素が設定され、上述した処理と同様の処理が繰り返される。注目画素は、例えば、ラスタースキャン順に設定される。画像処理装置2における処理により、ノイズが除去もしくは低減された画像データが得られる。
「SADについて」
SAD算出部201により算出されるSAD値について、説明する。図9は、SAD値の算出の一例を説明するための図である。バッファメモリ103に蓄積された画像データにおける所定の画素が注目画素として設定される。注目画素を中心とする、例えば、3×3のブロック(以下、ターゲットブロックと適宜、称する)が設定される。バッファメモリ103に蓄積された画像データに対して、注目画素と異なる画素を中心とする、ターゲットブロックと同一のサイズのブロック(以下、参照ブロックと適宜、称する)が設定される。
SAD算出部201により算出されるSAD値について、説明する。図9は、SAD値の算出の一例を説明するための図である。バッファメモリ103に蓄積された画像データにおける所定の画素が注目画素として設定される。注目画素を中心とする、例えば、3×3のブロック(以下、ターゲットブロックと適宜、称する)が設定される。バッファメモリ103に蓄積された画像データに対して、注目画素と異なる画素を中心とする、ターゲットブロックと同一のサイズのブロック(以下、参照ブロックと適宜、称する)が設定される。
ターゲットブロック内の各画素の輝度値と、参照ブロック内の対応する各画素の輝度値との差分の絶対値の、ブロック内の全画素についての総和(以下、差分絶対値和と適宜、称する。)が演算される。この差分絶対値和がSAD値に相当する。
参照ブロックを変化することにより、複数のSAD値が得られる。例えば、図10に示す7×7のブロックの画像データがバッファメモリ103に蓄積されているとする。画像データの所定の画素が注目画素として設定され、注目画素の周囲に3×3のターゲットブロックTBが設定される。なお、注目画素が、画像の端部に位置する場合は、ターゲットブロックTBのサイズを適宜、変更されてもよい。
7×7のブロック内において、複数の参照ブロックが設定される。例えば、3個の参照ブロックRB(参照ブロックRB1、参照ブロックRB2および参照ブロックRB3)が設定される。なお、参照ブロックの数や位置は、適宜、変更することができる。
SAD算出部201は、ターゲットブロックTBと、3個の参照ブロックのそれぞれとの間でSAD値の演算処理を行い、3個のSAD値を算出する。3個のSAD値がSAD平均算出部202に供給される。SAD平均算出部202は、3個のSAD値の平均値を算出する。SAD値の平均値がエッジ率算出部203に供給される。
ここで、SAD値の平均値が大きいことは、ブロック同士の差分が大きい、すなわち、エッジである可能性が大きいことを意味する。したがって、エッジ率算出部203は、SAD値の平均が大きいほど、エッジ率が大きくなるように、エッジ率を算出する。
エッジ率が大きいほど、補正データの一例である倍率が小さくなるように、補正データ算出部106により倍率が算出される。ノイズリダクション強度補正部107は、補正データ算出部106により算出される倍率に応じて、ノイズリダクションの強度を補正する。つまり、エッジ率が大きいほど、ノイズリダクションの強度が小さくなるように、ノイズリダクションの強度が補正される。補正されたノイズリダクションの強度に基づいて、ノイズ除去部204によるノイズリダクション処理が行われる。すなわち、エッジを保存しつつ、ノイズを効果的に除去または低減できる。
このように、第2の実施形態における画像処理装置2は、評価値の一例であるSAD値を使用して、エッジ率を算出するようにしている。複数のSAD値の平均に基づいてエッジ率を算出ことにより、エッジ率を精度良く算出することができる。
さらに、撮像装置等において、SAD値を使用した何らかしらの処理(必ずしも、ノイズリダクション処理に限られない。SAD値を使用して、デプスマップを生成する処理や動きベクトルを求める処理でもよい。)を行う場合には、そのSAD値を、エッジ率を算出する処理に流用することができ、SAD値を算出するための構成を新たに追加する必要が無い。このため、回路規模を増大することなく、効果的なノイズリダクション処理を行うことができる。
「処理の流れ」
第2の実施形態における画像処理装置2の処理の流れの一例を、図11に示すフローチャートを参照して説明する。なお、一部の処理は、撮像装置のイメージセンサやAFEにより実行される。ステップST201では、イメージセンサ101により光電変換処理が実行され、アナログ画像データが取得される。そして、処理がステップST202に進む。
第2の実施形態における画像処理装置2の処理の流れの一例を、図11に示すフローチャートを参照して説明する。なお、一部の処理は、撮像装置のイメージセンサやAFEにより実行される。ステップST201では、イメージセンサ101により光電変換処理が実行され、アナログ画像データが取得される。そして、処理がステップST202に進む。
ステップST202では、アナログ画像データに対するAFE102による処理が実行される。AFE102による処理により、デジタル画像データが得られる。そして、処理がステップST203に進む。
ステップST203では、処理に必要な分のデジタル画像データがバッファメモリ103に記憶される。7×7のブロックの画像データがバッファメモリ103に記憶される。もちろん、ブロックサイズは、7×7のサイズに限定されることはなく、任意のサイズを設定できる。そして、処理がステップST204に進む。
ステップST204では、ノイズリダクション強度設定部104によりノイズリダクションの強度が設定される。上述したように、ノイズリダクション強度設定部104は、基準輝度情報を設定し、基準輝度情報等を用いてノイズの分散σ(x)を算出する。そして、ノイズの分散σ(x)に対して所定の強度調整値Sを乗算し、閾値Th1を算出する。閾値Th1がノイズリダクションの強度として設定される。そして、処理がステップST205に進む。
ステップST205では、SAD算出部201により複数のSAD値が算出される。複数のSAD値がSAD平均算出部202に供給される。そして、処理がステップST206に進む。
ステップST206では、SAD平均算出部202によりSAD値の平均値が算出される。SAD値の平均値がエッジ率算出部105に供給される。そして、処理がステップST207に進む。
ステップST207では、エッジ率算出部203によりエッジ率が算出される。エッジ率算出部203は、SAD値の平均値に基づいて、エッジ率を算出する。エッジ率が補正データ算出部106に供給される。そして、処理がステップST208に進む。
ステップST208では、補正データ算出部106により補正データが算出される。補正データ算出部106は、エッジ率に応じて倍率を算出し、算出した倍率を示す情報をノイズリダクション強度補正部107に供給する。そして、処理がステップST209に進む。
ステップST209では、補正データに基づいてノイズリダクションの強度が補正される。ノイズリダクション強度補正部107は、閾値Th1に対して所定の倍率を乗算することによりノイズリダクションの強度を補正し、最終的なノイズリダクションの強度である閾値Th2を算出する。閾値Th2がノイズ除去部204に供給される。そして、処理がステップST210に進む。
ステップST210において、ノイズ除去部210は、補正後のノイズリダクション強度である閾値Th2に基づいて、ノイズリダクション処理を実行する。図示は省略しているが、ステップST210の後に、新たな注目画素が設定され、ステップST204からステップST210の処理が繰り返される。画像データの全ての画素に対する処理が行われると、処理が終了する。
図11に例示する処理の流れにおいて、一部の処理が並列に行われてもよい。例えば、例えば、ステップST204の処理と、ステップST205の処理、ステップST206の処理、ステップST207の処理およびステップST208の処理とが、並列に行われるようにしてもよい。
<3.第3の実施形態>
次に、第3の実施形態について説明する。第3の実施形態における画像処理装置3は、画像処理装置2と同様に、例えば、撮像装置に内蔵される。図12は、画像処理装置3の構成の一例を説明するための図である。なお、図12において、画像処理装置2と同一部分または相応する部分には、共通の参照符号を付している。共通の参照符号が付された構成については、適宜、重複した説明を省略する。
次に、第3の実施形態について説明する。第3の実施形態における画像処理装置3は、画像処理装置2と同様に、例えば、撮像装置に内蔵される。図12は、画像処理装置3の構成の一例を説明するための図である。なお、図12において、画像処理装置2と同一部分または相応する部分には、共通の参照符号を付している。共通の参照符号が付された構成については、適宜、重複した説明を省略する。
画像処理装置3は、画像処理装置2と略同一の構成とされる。画像処理装置2と異なる点は、エッジ率算出部105に代わりエッジ率算出部301が設けられ、エッジ率算出部301が、ノイズリダクション強度設定部104とノイズリダクション強度補正部107との間に接続される点である。すなわち、画像処理装置3は、エッジ率算出部301に対して、ノイズリダクション強度設定部104から閾値Th1が供給可能な構成とされる。
上述したように、画像処理装置2では、SAD値の平均値に応じて、エッジ率を算出するようにしている。ところで、画像データにおける輝度が大きい平坦部の箇所についてSAD値を算出すると、SAD値が大きくなる傾向がある。これは、イメージセンサ101で発生する光学ショットノイズの大きさが、輝度の平方根に略比例して大きくなることに起因するためである。すなわち、輝度が大きい箇所ではノイズの振幅が大きくなる場合があるため、本来、エッジまたはエッジ付近でないにも関わらず、SAD値が大きくなってしまう。このため、エッジ率の判定の精度が劣化する。そこで、第3の実施形態では、ノイズの輝度依存性をキャンセルするように、SAD値の平均値を正規化する処理を行う。
例えば、エッジ率算出部301は、SAD値の平均値を、輝度の平方根の成分を含む閾値Th1で除算することによりSAD値の平均値を正規化する。正規化処理の結果に応じて、エッジ率を算出する。他の処理については、画像処理装置2と同様であるので、重複した説明を省略する。
正規化処理では、ノイズリダクションの強度を設定するために算出される閾値Th1を流用している。すなわち、正規化処理に必要なパラメータを算出するための新たな構成を追加することはなく、回路規模の増加などを防止できる。さらに、エッジ率の算出の精度が向上するため、例えば、エッジでない箇所に対するノイズリダクションの強度が小さくなることを防止できる。
「処理の流れ」
第3の実施形態における画像処理装置3の処理の流れの一例を、図13に示すフローチャートを参照して説明する。なお、一部の処理は、撮像装置のイメージセンサやAFEにより実行される。ステップST301では、イメージセンサ101により光電変換処理が実行され、アナログ画像データが取得される。そして、処理がステップST302に進む。
第3の実施形態における画像処理装置3の処理の流れの一例を、図13に示すフローチャートを参照して説明する。なお、一部の処理は、撮像装置のイメージセンサやAFEにより実行される。ステップST301では、イメージセンサ101により光電変換処理が実行され、アナログ画像データが取得される。そして、処理がステップST302に進む。
ステップST302では、アナログ画像データに対するAFE102による処理が実行される。AFE102による処理により、デジタル画像データが得られる。そして、処理がステップST303に進む。
ステップST303では、処理に必要な分のデジタル画像データがバッファメモリ103に記憶される。例えば、7×7のブロックの画像データがバッファメモリ103に記憶される。もちろん、ブロックサイズは、7×7のサイズに限定されることはなく、任意のサイズを設定できる。そして、処理がステップST304に進む。
ステップST304では、ノイズリダクション強度設定部104によりノイズリダクションの強度が設定される。上述したように、ノイズリダクション強度設定部104は、基準輝度情報を設定し、基準輝度情報等を用いてノイズの分散σ(x)を算出する。そして、ノイズの分散σ(x)に対して所定の強度調整値Sを乗算し、閾値Th1を算出する。閾値Th1がノイズリダクションの強度として設定される。そして、処理がステップST305に進む。
ステップST305では、SAD算出部201により複数のSAD値が算出される。複数のSAD値がSAD平均算出部202に供給される。そして、処理がステップST306に進む。
ステップST306では、SAD平均算出部202によりSAD値の平均値が算出される。SAD値の平均値がエッジ率算出部301に供給される。そして、処理がステップST307に進む。
ステップST307では、エッジ率算出部301によりエッジ率が算出される。エッジ率算出部301は、SAD値の平均値を閾値Th1で正規化する処理を行う。エッジ率算出部301は、例えば、ノイズリダクション強度設定部104により設定されたノイズリダクションの強度である閾値Th1で、SAD値の平均値を除算する。エッジ率算出部301は、正規化処理により算出される値に応じて、エッジ率を算出する。エッジ率が補正データ算出部106に供給される。そして、処理がステップST308に進む。
ステップST308では、補正データ算出部106により補正データが算出される。補正データ算出部106は、エッジ率に応じて倍率を算出し、算出した倍率を示す情報をノイズリダクション強度補正部107に供給する。そして、処理がステップST309に進む。
ステップST309では、補正データに基づいてノイズリダクションの強度が補正される。ノイズリダクション強度補正部107は、閾値Th1に対して所定の倍率を乗算することによりノイズリダクションの強度を補正し、最終的なノイズリダクションの強度である閾値Th2を算出する。閾値Th2がノイズ除去部204に供給される。そして、処理がステップST310に進む。
ステップST310において、ノイズ除去部210は、補正後のノイズリダクション強度である閾値Th2に基づいて、ノイズリダクション処理を実行する。図示は省略しているが、ステップST310の後に、新たな注目画素が設定され、ステップST304からステップST310の処理が繰り返される。画像データの全ての画素に対する処理が行われると、処理が終了する。
図13に例示する処理の流れにおいて、一部の処理が並列に行われてもよい。例えば、例えば、ステップST304の処理と、ステップST305の処理およびステップST306の処理とが、並列に行われるようにしてもよい。
<4.変形例>
以上、本開示の一実施形態について説明したが、本開示は、上述した実施形態に限られることなく、種々の変形が可能である。以下、複数の変形例について説明する。
以上、本開示の一実施形態について説明したが、本開示は、上述した実施形態に限られることなく、種々の変形が可能である。以下、複数の変形例について説明する。
「第1の変形例」
本開示における画像処理装置は、必ずしも撮像装置に内蔵される必要はない。例えば、パーソナルコンピュータや、スマートフォンなどの装置の一部として構成されてもよい。図14は、第1の変形例を説明するための図である。図14において、画像処理装置1と同一部分または相応する部分には、共通の参照符号を付している。共通の参照符号が付された構成については、適宜、重複した説明を省略する。
本開示における画像処理装置は、必ずしも撮像装置に内蔵される必要はない。例えば、パーソナルコンピュータや、スマートフォンなどの装置の一部として構成されてもよい。図14は、第1の変形例を説明するための図である。図14において、画像処理装置1と同一部分または相応する部分には、共通の参照符号を付している。共通の参照符号が付された構成については、適宜、重複した説明を省略する。
図14における参照符号401は、インタフェースを示す。インタフェース401を介して、処理に必要な画像データが取得され、取得された画像データがバッファメモリ103に書き込まれる。インタフェース401を介して取得される画像データは、着脱自在なメモリに記憶されている画像データや、インターネットを介してダウンロードした画像データなどである。バッファメモリ103に書き込まれた画像データに対して、例えば、画像処理装置1と同様のノイズリダクション処理が行われる。
インタフェース401は、画像処理装置4におけるノイズリダクション強度設定部104に接続される。インタフェース401を介して、イメージセンサの特性によって決まるaおよびbの情報が取得され、これらの情報がノイズリダクション強度設定部104に供給される。ノイズリダクション強度設定部104は、インタフェース401から供給されるaおよびbの情報と、基準輝度情報xとに応じて、上述した式1に基づく演算を行い、閾値Th1を算出することができる。
「第2の変形例」
画像データを所定の周波数帯域毎に分割し、帯域毎に設定されたノイズリダクションの強度に応じて、ノイズリダクション処理が行われるようにしてもよい。図15は、変形例における画像処理装置5の構成の一例を説明するための図である。図15において、画像処理装置1と同一部分または相応する部分には、共通の参照符号を付している。共通の参照符号が付された構成については、適宜、重複した説明を省略する。
画像データを所定の周波数帯域毎に分割し、帯域毎に設定されたノイズリダクションの強度に応じて、ノイズリダクション処理が行われるようにしてもよい。図15は、変形例における画像処理装置5の構成の一例を説明するための図である。図15において、画像処理装置1と同一部分または相応する部分には、共通の参照符号を付している。共通の参照符号が付された構成については、適宜、重複した説明を省略する。
画像処理装置5は、エッジ率算出部105および補正データ算出部106の他に、ノイズリダクション強度設定部501、ノイズリダクション強度補正部502、帯域分割部(帯域分割フィルタ)503、ノイズ除去部504、ノイズ除去部505、ノイズ除去部506および帯域合成部507を含む構成とされる。これらの構成のうち、一部の構成が撮像装置の構成とされてもよく、例示した構成とは異なる構成が画像処理装置5に追加されてもよい。
ノイズリダクション強度設定部501は、帯域毎のノイズリダクションの強度を設定する。例えば、上述した式3における強度調整値Sを帯域毎に変化させて、帯域毎の閾値を算出する。例えば、高域用の閾値Th10、中域用の閾値Th20、低域用の閾値Th30をそれぞれ算出される。各閾値が、ノイズリダクション強度補正部502に供給される。
ノイズリダクション強度補正部502は、補正データ算出部106から供給される補正データに基づいて、閾値Th10、閾値Th20および閾値Th30のそれぞれを補正する。例えば、補正データ算出部106から供給される所定の倍率を、閾値Th10、閾値Th20および閾値Th30のそれぞれに乗算する。
閾値Th10に対して所定の倍率が乗算されることにより、閾値Th11が算出される。閾値Th11がノイズ除去部504に供給される。閾値Th20に対して所定の倍率が乗算されることにより、閾値Th21が算出される。閾値Th21がノイズ除去部505に供給される。閾値Th30に対して所定の倍率が乗算されることにより、閾値Th31が算出される。閾値Th31がノイズ除去部506に供給される。
帯域分割部503は、バッファメモリ103に蓄積された画像データを周波数帯域毎に分割する。帯域分割部503は、画像データを、例えば、高域、中域および低域の3帯域に分割する。もちろん、より細かく画像データを分割してもよい。高域側の画像データがノイズ除去部504に供給される。中域側の画像データがノイズ除去部505に供給される。低域側の画像データがノイズ除去部506に供給される。
ノイズ除去部504は、閾値Th11に基づいてノイズリダクション処理を実行する。ノイズ除去部505は、閾値Th21に基づいてノイズリダクション処理を実行する。ノイズ除去部506は、閾値Th31に基づいてノイズリダクション処理を実行する。
帯域合成部507は、各ノイズ除去部によりノイズリダクション処理が施された各成分の画像データを合成する。このように、帯域毎にノイズリダクション処理におけるノイズリダクションの強度が設定されるようにしてもよい。
「第3の変形例」
図16は、変形例における画像処理装置6の構成の一例を示す。図16において、画像処理装置2と同一部分または相応する部分には、共通の参照符号を付している。共通の参照符号が付された構成については、適宜、重複した説明を省略する。
図16は、変形例における画像処理装置6の構成の一例を示す。図16において、画像処理装置2と同一部分または相応する部分には、共通の参照符号を付している。共通の参照符号が付された構成については、適宜、重複した説明を省略する。
画像処理装置6は、画像処理装置2におけるノイズリダクション処理を帯域毎に行うものである。さらに、画像処理装置6では、帯域毎に補正データを生成するようにしている。
画像処理装置6は、SAD算出部201、SAD平均算出部202、エッジ率算出部203の他に、ノイズリダクション強度設定部601、補正データ算出部602、ノイズリダクション強度補正部603、帯域分割部(帯域分割フィルタ)604、ノイズ除去部605、ノイズ除去部606、ノイズ除去部607および帯域合成部608を含む構成とされる。
ノイズリダクション強度設定部601は、ノイズリダクション強度設定部501と同様に、帯域毎の閾値Th10、閾値Th20および閾値Th30を算出する。閾値Th10、閾値Th20および閾値Th30がノイズリダクション強度補正部603に供給される。
補正データ算出部602は、エッジ率算出部203から供給されるエッジ率に応じて、補正データを帯域毎に算出する。例えば、エッジ率が大きい場合には、高域側の倍率を小さくする。エッジ率が閾値以下である場合は、平坦部であると見なして、帯域毎で区別することなく一の倍率を設定するようにしてもよい。高域用の倍率として、倍率M1が算出される。中域用の倍率として、倍率M2が算出される。低域用の倍率として、倍率M3が算出される。倍率M1、倍率M2および倍率M3がノイズリダクション強度補正部603に供給される。
ノイズリダクション強度補正部603は、補正データの一例である倍率を閾値に乗算することにより、ノイズリダクションの強度を補正する。閾値Th10に対して倍率M1が乗算され、閾値Th12が算出される。閾値Th12がノイズ除去部605に供給される。閾値Th20に対して倍率M2が乗算され、閾値Th22が算出される。閾値Th22がノイズ除去部606に供給される。閾値Th30に対して倍率M3が乗算され、閾値Th32が算出される。閾値Th32がノイズ除去部607に供給される。
帯域分割部604は、バッファメモリ103に蓄積された画像データを周波数帯域毎に分割する。帯域分割部604は、画像データを、例えば、高域、中域および低域の3帯域に分割する。もちろん、より細かく画像データを分割してもよい。高域側の画像データがノイズ除去部605に供給される。中域側の画像データがノイズ除去部606に供給される。低域側の画像データがノイズ除去部607に供給される。
ノイズ除去部605は、閾値Th12およびSAD算出部201から供給されるSAD値に基づいてノイズリダクション処理を実行する。ノイズ除去部606は、閾値Th22およびSAD算出部201から供給されるSAD値に基づいてノイズリダクション処理を実行する。ノイズ除去部607は、閾値Th32およびSAD算出部201から供給されるSAD値に基づいてノイズリダクション処理を実行する。
帯域合成部608は、各ノイズ除去部によりノイズリダクション処理が施された各成分の画像データを合成する。このように、帯域毎に補正データが算出され、帯域毎のノイズリダクションの強度が、帯域毎の対応する補正データにより補正されるようにしてもよい。第3の実施形態で説明した画像処理装置3において、帯域毎の処理が行われるようにしてもよい。
「その他の変形例」
その他の変形例について説明する。上述した実施形態では、評価値の一例としてSADを使用したが、他の評価値が使用されてもよい。例えば、対応する位置の画素の輝度値の差の2乗の総和であるSSD(Sum of Squared Difference)が評価値として使用されてもよい。但し、上述したように、撮像装置においてSADを使用した処理が行われる場合には、そのSADを流用してエッジ率を算出できるため、評価値としてSADを使用することが好ましい。
その他の変形例について説明する。上述した実施形態では、評価値の一例としてSADを使用したが、他の評価値が使用されてもよい。例えば、対応する位置の画素の輝度値の差の2乗の総和であるSSD(Sum of Squared Difference)が評価値として使用されてもよい。但し、上述したように、撮像装置においてSADを使用した処理が行われる場合には、そのSADを流用してエッジ率を算出できるため、評価値としてSADを使用することが好ましい。
なお、実施形態および変形例における構成および処理は、技術的な矛盾が生じない範囲で適宜組み合わせることができる。例示した処理の流れにおけるそれぞれの処理の順序は、技術的な矛盾が生じない範囲で適宜、変更できる。さらに、実施形態および変形例における数値、材料等は例示であり、実施形態における数値等に、本開示が限定されるものではない。
例えば、第2の実施形態における画像処理装置2において、第3の実施形態で説明した正規化処理が行われるようにしてもよい。画像処理装置2におけるエッジ率算出部203は、バッファメモリ103とノイズ除去部204との間のラインに接続されている。このため、エッジ率算出部203は、注目画素の輝度値を得ることができる。エッジ率算出部203は、注目画素の輝度値の平方根を算出する。SAD平均算出部202から供給されるSAD値の平均値を、注目画素の輝度値の平方根で除算することにより、正規化処理を行うようにしてもよい。注目画素およびその周辺の所定のブロック内における画素の輝度値の平均(平均輝度)を算出し、SAD値の平均値を、平均輝度の平方根で除算することにより、正規化処理を行うようにしてもよい。
本開示は、例示した処理が複数の装置によって分散されて処理される、いわゆるクラウドシステムに対して適用することもできる。実施形態および変形例において例示した処理が実行されるシステムであって、例示した処理の少なくとも一部の処理が実行される装置として、本開示を実現することができる。
さらに、本開示は、装置に限らず、方法、プログラム、記録媒体として実現することができる。プログラムは、画像処理装置が有するROM(Read Only Memory)等のメモリに格納される。
本開示は、以下の構成をとることもできる。
(1)
所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
エッジ率に応じて得られる補正データに基づいて、前記ノイズリダクションの強度を補正するノイズリダクション強度補正部と
を有する画像処理装置。
(2)
所定の評価値に基づいて、前記エッジ率を算出するエッジ率算出部を有する(1)に記載の画像処理装置。
(3)
前記所定の評価値は、注目画素を中心とする所定サイズの第1のブロックと、前記注目画素とは異なる画素を中心とする、前記所定サイズと同一のサイズの第2のブロックとの間のSAD(Sum of Absolute Difference)の値に基づいて設定される(2)に記載の画像処理装置。
(4)
前記第1のブロックと、複数の前記第2のブロックのそれぞれとの間で前記SADの値が算出され、
前記所定の評価値は、複数の前記SADの値を平均した値である(3)に記載の画像処理装置。
(5)
前記ノイズ成分は、画像データの入力レベルに対する依存性があり、
前記所定の評価値は、前記複数のSADの値を平均した値を、前記画像データの入力レベルに対する依存性をキャンセルするように正規化したものである(4)に記載の画像処理装置。
(6)
前記所定のノイズ成分を、画像データの入力レベルに対する依存性のあるノイズ成分に対応する定数aと、画像データの入力レベルに対する依存性のないノイズ成分に対応する定数bとを用いて、画像データの入力レベルxに対する平均ノイズ振幅を下記の式でモデル化したとき、前記所定の評価値は、前記SADの値の平均を、σ(x)に基づく値で除算した値、または、前記SADの値の平均を前記xに基づく値で除算した値である(4)に記載の画像処理装置。
(7)
前記ノイズリダクション強度設定部は、画像データの帯域毎に前記ノイズリダクションの強度を設定し、
前記ノイズリダクション強度補正部は、前記補正データに基づいて、前記帯域毎の前記ノイズリダクションの強度をそれぞれ補正する(1)乃至(6)のいずれかに記載の画像処理装置。
(8)
前記ノイズリダクション強度設定部は、画像データの帯域毎に前記ノイズリダクションの強度を設定し、
前記ノイズリダクション強度補正部は、前記エッジ率に応じて得られる帯域毎の補正データに基づいて、前記帯域毎の前記ノイズリダクションの強度をそれぞれ補正する(1)乃至(6)のいずれかに記載の画像処理装置。
(9)
所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
所定の評価値に基づいて、前記エッジ率を算出するエッジ率算出部と、
前記エッジ率に応じて、前記ノイズリダクションの強度を補正するノイズリダクション強度補正部と、
ノイズ成分を除去するノイズ除去部と
を有し、
前記所定の評価値は、注目画素を中心とする所定サイズの第1のブロックと、前記注目画素とは異なる画素を中心とする、前記所定サイズと同一のサイズの第2のブロックとの間のSADの値に基づいて設定され、
前記ノイズ除去部は、前記補正されたノイズリダクションの強度と、前記SADの値とに基づいてノイズ成分を除去する画像処理装置。
(10)
所定のノイズ成分を除去するためのノイズリダクションの強度を設定し、
エッジ率に応じて、前記ノイズリダクションの強度を補正する
画像処理装置における画像処理方法。
(11)
所定のノイズ成分を除去するためのノイズリダクションの強度を設定し、
エッジ率に応じて、前記ノイズリダクションの強度を補正する
画像処理装置における画像処理方法を、コンピュータに実行させるプログラム。
(12)
撮像部と、
所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
エッジ率に応じて得られる補正データに基づいて、前記ノイズリダクションの強度を補正するノイズリダクション強度補正部と、
前記撮像部を介して取得される画像データに対して、前記補正されたノイズリダクションの強度に基づいて、ノイズリダクション処理を行うノイズ除去部と
を有する撮像装置。
(1)
所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
エッジ率に応じて得られる補正データに基づいて、前記ノイズリダクションの強度を補正するノイズリダクション強度補正部と
を有する画像処理装置。
(2)
所定の評価値に基づいて、前記エッジ率を算出するエッジ率算出部を有する(1)に記載の画像処理装置。
(3)
前記所定の評価値は、注目画素を中心とする所定サイズの第1のブロックと、前記注目画素とは異なる画素を中心とする、前記所定サイズと同一のサイズの第2のブロックとの間のSAD(Sum of Absolute Difference)の値に基づいて設定される(2)に記載の画像処理装置。
(4)
前記第1のブロックと、複数の前記第2のブロックのそれぞれとの間で前記SADの値が算出され、
前記所定の評価値は、複数の前記SADの値を平均した値である(3)に記載の画像処理装置。
(5)
前記ノイズ成分は、画像データの入力レベルに対する依存性があり、
前記所定の評価値は、前記複数のSADの値を平均した値を、前記画像データの入力レベルに対する依存性をキャンセルするように正規化したものである(4)に記載の画像処理装置。
(6)
前記所定のノイズ成分を、画像データの入力レベルに対する依存性のあるノイズ成分に対応する定数aと、画像データの入力レベルに対する依存性のないノイズ成分に対応する定数bとを用いて、画像データの入力レベルxに対する平均ノイズ振幅を下記の式でモデル化したとき、前記所定の評価値は、前記SADの値の平均を、σ(x)に基づく値で除算した値、または、前記SADの値の平均を前記xに基づく値で除算した値である(4)に記載の画像処理装置。
前記ノイズリダクション強度設定部は、画像データの帯域毎に前記ノイズリダクションの強度を設定し、
前記ノイズリダクション強度補正部は、前記補正データに基づいて、前記帯域毎の前記ノイズリダクションの強度をそれぞれ補正する(1)乃至(6)のいずれかに記載の画像処理装置。
(8)
前記ノイズリダクション強度設定部は、画像データの帯域毎に前記ノイズリダクションの強度を設定し、
前記ノイズリダクション強度補正部は、前記エッジ率に応じて得られる帯域毎の補正データに基づいて、前記帯域毎の前記ノイズリダクションの強度をそれぞれ補正する(1)乃至(6)のいずれかに記載の画像処理装置。
(9)
所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
所定の評価値に基づいて、前記エッジ率を算出するエッジ率算出部と、
前記エッジ率に応じて、前記ノイズリダクションの強度を補正するノイズリダクション強度補正部と、
ノイズ成分を除去するノイズ除去部と
を有し、
前記所定の評価値は、注目画素を中心とする所定サイズの第1のブロックと、前記注目画素とは異なる画素を中心とする、前記所定サイズと同一のサイズの第2のブロックとの間のSADの値に基づいて設定され、
前記ノイズ除去部は、前記補正されたノイズリダクションの強度と、前記SADの値とに基づいてノイズ成分を除去する画像処理装置。
(10)
所定のノイズ成分を除去するためのノイズリダクションの強度を設定し、
エッジ率に応じて、前記ノイズリダクションの強度を補正する
画像処理装置における画像処理方法。
(11)
所定のノイズ成分を除去するためのノイズリダクションの強度を設定し、
エッジ率に応じて、前記ノイズリダクションの強度を補正する
画像処理装置における画像処理方法を、コンピュータに実行させるプログラム。
(12)
撮像部と、
所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
エッジ率に応じて得られる補正データに基づいて、前記ノイズリダクションの強度を補正するノイズリダクション強度補正部と、
前記撮像部を介して取得される画像データに対して、前記補正されたノイズリダクションの強度に基づいて、ノイズリダクション処理を行うノイズ除去部と
を有する撮像装置。
1・・・画像処理装置
104・・・ノイズリダクション強度設定部
105・・・補正データ算出部
107・・・ノイズリダクション強度補正部
108・・・ノイズ除去部
201・・・SAD算出部
202・・・SAD平均算出部
104・・・ノイズリダクション強度設定部
105・・・補正データ算出部
107・・・ノイズリダクション強度補正部
108・・・ノイズ除去部
201・・・SAD算出部
202・・・SAD平均算出部
Claims (12)
- 所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
エッジ率に応じて得られる補正データに基づいて、前記ノイズリダクションの強度を補正するノイズリダクション強度補正部と
を有する画像処理装置。 - 所定の評価値に基づいて、前記エッジ率を算出するエッジ率算出部を有する請求項1に記載の画像処理装置。
- 前記所定の評価値は、注目画素を中心とする所定サイズの第1のブロックと、前記注目画素とは異なる画素を中心とする、前記所定サイズと同一のサイズの第2のブロックとの間のSAD(Sum of Absolute Difference)の値に基づいて設定される請求項2に記載の画像処理装置。
- 前記第1のブロックと、複数の前記第2のブロックのそれぞれとの間で前記SADの値が算出され、
前記所定の評価値は、複数の前記SADの値を平均した値である請求項3に記載の画像処理装置。 - 前記ノイズ成分は、画像データの入力レベルに対する依存性があり、
前記所定の評価値は、前記複数のSADの値を平均した値を、前記画像データの入力レベルに対する依存性をキャンセルするように正規化したものである請求項4に記載の画像処理装置。 - 前記ノイズリダクション強度設定部は、画像データの帯域毎に前記ノイズリダクションの強度を設定し、
前記ノイズリダクション強度補正部は、前記補正データに基づいて、前記帯域毎の前記ノイズリダクションの強度をそれぞれ補正する請求項1に記載の画像処理装置。 - 前記ノイズリダクション強度設定部は、画像データの帯域毎に前記ノイズリダクションの強度を設定し、
前記ノイズリダクション強度補正部は、前記エッジ率に応じて得られる帯域毎の補正データに基づいて、前記帯域毎の前記ノイズリダクションの強度をそれぞれ補正する請求項1に記載の画像処理装置。 - 所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
所定の評価値に基づいて、前記エッジ率を算出するエッジ率算出部と、
前記エッジ率に応じて、前記ノイズリダクションの強度を補正するノイズリダクション強度補正部と、
ノイズ成分を除去するノイズ除去部と
を有し、
前記所定の評価値は、注目画素を中心とする所定サイズの第1のブロックと、前記注目画素とは異なる画素を中心とする、前記所定サイズと同一のサイズの第2のブロックとの間のSADの値に基づいて設定され、
前記ノイズ除去部は、前記補正されたノイズリダクションの強度と、前記SADの値とに基づいてノイズ成分を除去する画像処理装置。 - 所定のノイズ成分を除去するためのノイズリダクションの強度を設定し、
エッジ率に応じて、前記ノイズリダクションの強度を補正する
画像処理装置における画像処理方法。 - 所定のノイズ成分を除去するためのノイズリダクションの強度を設定し、
エッジ率に応じて、前記ノイズリダクションの強度を補正する
画像処理装置における画像処理方法を、コンピュータに実行させるプログラム。 - 撮像部と、
所定のノイズ成分を除去するためのノイズリダクションの強度を設定するノイズリダクション強度設定部と、
エッジ率に応じて得られる補正データに基づいて、前記ノイズリダクションの強度を補正するノイズリダクション強度補正部と、
前記撮像部を介して取得される画像データに対して、前記補正されたノイズリダクションの強度に基づいて、ノイズリダクション処理を行うノイズ除去部と
を有する撮像装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012163671A JP2014027337A (ja) | 2012-07-24 | 2012-07-24 | 画像処理装置、画像処理方法、プログラムおよび撮像装置 |
US13/908,078 US20140028880A1 (en) | 2012-07-24 | 2013-06-03 | Image processing device, image processing method, program, and imaging apparatus |
CN201310296619.7A CN103581633A (zh) | 2012-07-24 | 2013-07-16 | 图像处理装置、图像处理方法、程序以及成像设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012163671A JP2014027337A (ja) | 2012-07-24 | 2012-07-24 | 画像処理装置、画像処理方法、プログラムおよび撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014027337A true JP2014027337A (ja) | 2014-02-06 |
Family
ID=49994541
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012163671A Pending JP2014027337A (ja) | 2012-07-24 | 2012-07-24 | 画像処理装置、画像処理方法、プログラムおよび撮像装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20140028880A1 (ja) |
JP (1) | JP2014027337A (ja) |
CN (1) | CN103581633A (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6253331B2 (ja) * | 2012-10-25 | 2017-12-27 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
JP6332951B2 (ja) * | 2013-11-29 | 2018-05-30 | キヤノン株式会社 | 画像処理装置および画像処理方法、およびプログラム |
CN107945119B (zh) * | 2017-11-02 | 2020-08-18 | 天津大学 | 基于拜耳模式的图像内相关噪声估计方法 |
US11611773B2 (en) * | 2018-04-06 | 2023-03-21 | Qatar Foundation For Education, Science And Community Development | System of video steganalysis and a method for the detection of covert communications |
CN110490829B (zh) * | 2019-08-26 | 2022-03-15 | 北京华捷艾米科技有限公司 | 一种深度图像的滤波方法及系统 |
CN113395415B (zh) * | 2021-08-17 | 2021-11-26 | 深圳大生活家科技有限公司 | 基于降噪技术的相机数据处理方法及系统 |
-
2012
- 2012-07-24 JP JP2012163671A patent/JP2014027337A/ja active Pending
-
2013
- 2013-06-03 US US13/908,078 patent/US20140028880A1/en not_active Abandoned
- 2013-07-16 CN CN201310296619.7A patent/CN103581633A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
CN103581633A (zh) | 2014-02-12 |
US20140028880A1 (en) | 2014-01-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101578583B1 (ko) | 화상 처리 장치, 정보 처리 방법, 및 컴퓨터 판독 가능한 기억 매체 | |
JP6327922B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP5697353B2 (ja) | 画像処理装置、画像処理装置の制御方法及びプログラム | |
CN107395991B (zh) | 图像合成方法、装置、计算机可读存储介质和计算机设备 | |
US8482627B2 (en) | Information processing apparatus and method | |
JP2014027337A (ja) | 画像処理装置、画像処理方法、プログラムおよび撮像装置 | |
JP5541205B2 (ja) | 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法 | |
JP2013162431A (ja) | 画像信号処理装置,撮像装置および画像処理プログラム | |
JP2018041380A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6678376B2 (ja) | 動き検出装置および動き検出方法 | |
WO2015174257A1 (ja) | 画像処理装置、画像処理方法、撮像装置、電子機器、並びにプログラム | |
JP2013162359A (ja) | 画像処理装置および画像処理方法 | |
US10217193B2 (en) | Image processing apparatus, image capturing apparatus, and storage medium that stores image processing program | |
US20150161771A1 (en) | Image processing method, image processing apparatus, image capturing apparatus and non-transitory computer-readable storage medium | |
JP2013106151A (ja) | 画像処理装置及び画像処理方法 | |
US10235742B2 (en) | Image processing apparatus, image capturing apparatus, image processing method, and non-transitory computer-readable storage medium for adjustment of intensity of edge signal | |
KR101699318B1 (ko) | 화상처리장치 및 그 제어방법 | |
JP6029464B2 (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP2019140605A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2011193276A (ja) | 撮像装置、その制御方法及びプログラム | |
JP6858073B2 (ja) | 画像処理装置、画像処理方法、及び、プログラム | |
JP6849351B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2017050700A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP5957106B2 (ja) | 画像処理装置、画像処理装置の制御方法及びプログラム | |
JP2015109562A (ja) | 画像処理装置、撮像装置、制御方法、及びプログラム |