JP5423570B2 - 画像処理装置、画像処理方法及び画像処理用コンピュータプログラムならびに撮像装置 - Google Patents
画像処理装置、画像処理方法及び画像処理用コンピュータプログラムならびに撮像装置 Download PDFInfo
- Publication number
- JP5423570B2 JP5423570B2 JP2010106646A JP2010106646A JP5423570B2 JP 5423570 B2 JP5423570 B2 JP 5423570B2 JP 2010106646 A JP2010106646 A JP 2010106646A JP 2010106646 A JP2010106646 A JP 2010106646A JP 5423570 B2 JP5423570 B2 JP 5423570B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- region
- pixel
- value
- reference image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003384 imaging method Methods 0.000 title claims description 105
- 238000012545 processing Methods 0.000 title claims description 50
- 238000004590 computer program Methods 0.000 title claims description 10
- 238000003672 processing method Methods 0.000 title claims description 9
- 238000012937 correction Methods 0.000 claims description 206
- 230000003287 optical effect Effects 0.000 claims description 85
- 230000002093 peripheral effect Effects 0.000 claims description 66
- 238000009826 distribution Methods 0.000 claims description 47
- 239000000126 substance Substances 0.000 claims description 10
- 238000012935 Averaging Methods 0.000 claims description 7
- 238000005286 illumination Methods 0.000 claims description 5
- 238000000034 method Methods 0.000 description 47
- 230000008569 process Effects 0.000 description 45
- 238000003860 storage Methods 0.000 description 22
- 238000003702 image correction Methods 0.000 description 15
- 239000000428 dust Substances 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 238000011156 evaluation Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 6
- 238000004519 manufacturing process Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000005484 gravity Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 239000012141 concentrate Substances 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 229910019757 S110-No Inorganic materials 0.000 description 1
- 229910019754 S115-No Inorganic materials 0.000 description 1
- 229910019751 S118-No Inorganic materials 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000009827 uniform distribution Methods 0.000 description 1
Landscapes
- Image Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Description
上記の一般的な記述及び下記の詳細な記述の何れも、例示的かつ説明的なものであり、請求項のように、本発明を限定するものではないことを理解されたい。
この画像処理装置は、撮像装置が有する撮像光学系とイメージセンサ間に付着した付着物による影響を受けた画像上の領域に対して、その影響を打ち消すような補正処理を実行する。またこの画像処理装置は、撮像装置にて撮像された画像から、その領域及びその周辺で画素値の分布が一様な参照画像を生成し、その参照画像を解析することにより、付着物が脱落したか否かを判定する。そしてこの画像処理装置は、付着物が脱落したと判定した場合に補正処理を停止することで、画像に対して過剰な補正処理が行われることを防止する。
イメージセンサ3は、生成した画像を制御部6へ出力する。
図2(b)は、図2(a)に示された画像200の領域201を、付着物による影響を打ち消すように補正した補正画像の一例を示す図である。補正画像210では、領域201内の輝度分布が領域201の周囲の輝度分布と等しくなるように、領域201内の各画素の輝度値に対して1よりも大きい値を持つ補正係数が乗じられている。そのため、補正画像210では、付着物による影響は消失している。
図2(c)は、付着物が脱落した後に撮影された画像に対して、図2(b)に示された補正画像に対して行われた補正処理と同様の補正処理が行われた画像の一例を示す図である。図2(c)に示された補正画像220では、領域201内の画素の輝度値に1よりも大きい値を持つ補正係数が乗じられているため、領域201内の輝度分布は、領域201の周囲の輝度分布よりも過剰に高くなっている。
このように、付着物が脱落した後にまで、撮像装置1が画像に対して付着物が存在する場合と同様に補正処理を行うと、その補正処理によって画像上にアーティファクトが生じてしまう。
図3は、画像処理装置としての機能に関する制御部6の概略構成図である。制御部6は、補正情報記憶部61と、補正部62と、参照画像生成部63と、適正判定部64と、脱落判定部65とを有する。
補正情報記憶部61、補正部62、参照画像生成部63、適正判定部64及び脱落判定部65は、それぞれ別個の回路として形成される。あるいは補正情報記憶部61、補正部62、参照画像生成部63、適正判定部64及び及び脱落判定部65は、その各部に対応する回路が集積された一つの集積回路として制御部6に実装されてもよい。さらに、補正部62、参照画像生成部63、適正判定部64及び及び脱落判定部65は、制御部6が有するプロセッサ上で実行されるコンピュータプログラムにより実現される機能モジュールであってもよい。また、補正情報記憶部61は、制御部6が有する読み書き可能な不揮発性の半導体メモリであってもよい。さらにまた、補正情報記憶部61、補正部62、参照画像生成部63、適正判定部64及び及び脱落判定部65は、制御部6とは独立した回路として撮像装置1に実装されてもよい。
さらに、補正情報記憶部61は、制御部6が後述する付着物脱落判定処理を実行する際に参照画像生成部63により生成された参照画像、参照画像を生成する途中で求められた中間画像及び各種のフラグなどを記憶する。
あるいは、補正領域は、基準画像上で検出される、周囲の領域に含まれる画素が持つ輝度分布と異なる輝度分布を持つ領域として設定されてもよい。例えば、制御部6は、基準画像を複数のブロックに分割する。そして制御部6は、ブロックごとに各画素の輝度値の平均値を算出する。そして制御部6は、着目するブロックに含まれる各画素の輝度値とその着目ブロックの輝度値の平均値との差の絶対値が、着目ブロックに対して定められた閾値よりも大きい画素を抽出し、抽出された画素の集合を補正領域としてもよい。なお閾値は、例えば、付着物による影響が無い撮像装置を用いて撮影された基準画像における各ブロックごとの輝度平均値と、そのブロック内の最大輝度値または最小輝度値との差の絶対値に設定される。
補正領域を表す情報は、例えば、補正領域を囲む外接四角形の対角線上の二つのコーナーの座標を含む。また補正領域を表す情報は、補正領域の重心の座標と、その重心を中心とする補正領域の外接円の半径を含む。
基準値を求めるために、制御部6は、例えば、補正領域の上端から下端まで順に、水平方向に1ラインずつ、基準画像の各色成分のプロファイルを求める。そして制御部6は、色成分ごとに、各ライン上で補正領域の一端に近接する1以上の画素と、補正領域の他端に近接する1以上の画素とを抽出する。そして制御部6は、例えば、抽出された画素を通る線形近似関数を求める。制御部6は、その線形近似関数に補正領域内の画素の座標を入力することにより得られる色成分値を、その画素の基準値とする。
あるいは、制御部6は、補正領域に含まれていない複数の画素の色成分値及びその画素の座標値に基づいて、基準画像の着目するラインの色成分ごとのプロファイルを近似する2次以上の多項式によって表される高次曲線を求めてもよい。なお、制御部6は、最小二乗法を用いてその高次曲線を求めることができる。制御部6は、着目する色成分に関する高次曲線に補正領域内の画素の座標を入力することによって求められる色成分値を、その画素の着目する色成分についての基準値とする。
補正部62が補正画像を作成すると、制御部6は、その補正画像をメモリ4に記憶させる。
画像上で付着物による影響を受ける補正領域及びその周辺での輝度及び色成分の分布は、画像上に写る像に依存する。例えば、補正領域及びその周辺において、輝度または色成分が空間的に短い周期で変動し、かつその変動幅が付着物に起因する輝度または色成分の低下量以上となることがある。このような場合、制御部6は、その画像に基づいて付着物が脱落したか否かを判定することが困難となる。そのため、参照画像上の補正領域及び補正領域の周辺の領域において輝度及び色調ができるだけ一様になっていることが好ましい。
図4(b)は、図4(a)に示された画像400上で補正領域401を横断する一つのライン402の赤色成分のプロファイルを示す。図4(b)において、横軸は水平座標を表し、縦軸は赤色成分の強度を表す。そしてグラフ411は、ライン402上の赤色成分のプロファイルを表す。この場合、補正領域401内の赤色成分の値の変動は小さい。また補正領域401の両端の近傍領域における赤色成分の値の変動も小さい。そのため、補正領域401内の赤色成分がその周囲の領域の赤色成分よりも低くなっていることが明らかである。したがって、制御部6は、このような画像の補正領域及びその周辺における輝度または色成分の分布を解析することにより、補正領域が付着物による影響を受けていることが容易に分かる。そしてもし、付着物が脱落すれば、このような補正領域及びその近傍で輝度値及び色調が一様な画像では、補正領域内の輝度及び色調と、その近傍領域内の輝度及び色調との差がなくなることも容易に観察される。したがって、このような画像を用いることにより、制御部6は、付着物が脱落したか否かを正確に判定できる。
図5(b)は、図5(a)に示された画像500上で補正領域501を横断する一つのライン502の赤色成分のプロファイルを示す。図5(b)において、横軸は水平座標を表し、縦軸は赤色成分の強度を表す。そしてグラフ511は、ライン502上の赤色成分のプロファイルを表す。この場合、画像500上に写っている像により、補正領域501及びその周辺において、赤色成分が補正領域の幅よりも小さい周期で、かつ付着物による赤色成分の低下量よりも大きく変動している。そのため、画像500に基づいて補正領域501が付着物による影響を受けているか否かを判定することは非常に困難である。したがって、このような画像は、付着物が脱落したか否かの判定に利用するには適さない。
参照画像の生成に利用される複数の画像に異なるシーンが写っていれば、上記のように参照画像を生成することにより、参照画像上の画素値の空間的な変動が抑制される。そのため、参照画像生成部63は、補正領域及びその周辺の領域に含まれる画素値の変動が小さい参照画像を生成できる。
あるいは、参照画像生成部63は、画素ごとに、所定枚数の画像間で何れか一つの色成分を平均した値、例えば、補正領域内の色成分ごとの補正係数の平均値が最大となる色成分の平均値を算出し、その平均値を参照画像の画素の値としてもよい。
また、参照画像生成部63は、参照画像において後述する統計的代表値を算出する領域に含まれる画素についてのみ、その画素値を算出してもよい。これにより、参照画像生成部63は、参照画像の生成に要する演算量を削減できる。
Rn(x,y) = αR(x,y)+(1-α)Rn-1(x,y)
ただし、R(x,y)は、イメージセンサ3から受け取った画像を用いて新たに生成された参照画像の画素(x,y)の画素値を表し、Rn-1(x,y)は補正情報記憶部61に記憶されている参照画像の画素(x,y)の画素値を表す。またαは忘却係数であり、例えば、αは、0.3〜0.7の何れかに設定される。
参照画像生成部63は、参照画像を適正判定部64へ渡す。
適正判定部64は、例えば、補正領域の重心または補正領域内で補正係数が最大となる画素を通る水平方向または垂直方向の所定画素幅を持つラインを着目ラインとして設定する。そして適正判定部64は、補正領域の一端に近接し、着目ラインに沿って所定幅を持つ領域と、補正領域の他端に近接し、着目ラインに沿って所定幅を持つ領域とを、それぞれ周辺着目領域に設定する。なお、着目ラインの幅は、例えば、1画素から数画素程度に設定される。また周辺着目領域の所定幅は、画素値の分布を調べるために十分な数の画素が周辺着目領域に含まれるように設定される。例えば、その所定幅は、着目ラインに沿った補正領域の幅と等しい幅、あるいは50〜100画素の何れかに設定される。
さらに、補正領域について算出された統計的代表値が上記の条件を満たし、かつ何れか一方の周辺着目領域について算出された統計的代表値が上記の条件を満たすことがある。このような場合、そのような参照画像をより多くの画像を用いて更新することで、更新された参照画像が付着物の脱落判定に適した画像となる可能性がある。そこで適正判定部64は、補正領域について算出された統計的代表値と何れか一方の周辺着目領域について算出された統計的代表値が上記の条件を満たす参照画像を補正情報記憶部61に一時的に記憶してもよい。さらに、適正判定部64は、補正領域について算出された統計的代表値が上記の条件を満たし、かつ両方の周辺着目領域について算出された統計的代表値が上記の条件を満たさない参照画像も、補正情報記憶部61に記憶してもよい。また、適正判定部64は、付着物の脱落判定に適していると判定された参照画像も、より多くの画像を用いて更新するために補正情報記憶部61に記憶してもよい。
なお、閾値Th1は、例えば、1.1に設定される。あるいは、閾値Th1は、補正領域内の各画素について設定された補正係数の平均値あるいは最大値に設定される。これにより、補正領域内の画素値の分布が一様か否かの判定基準が付着物の影響による画素値の変動幅に応じて設定されるので、適正判定部64は参照画像が適切か否かを正確に判定できる。
適正判定部64は、参照画像に対する適正判定の結果を制御部6へ通知する。
付着物が脱落したか否かを判定するために、脱落判定部65は、参照画像の補正領域内の画素値の統計的代表値として、例えば、補正領域を通るように設定された着目ライン上の補正領域内の画素値の平均値を算出する。同様に、脱落判定部65は、各周辺着目領域内の画素値の統計的代表値として、例えば、それぞれの周辺着目領域内の画素値の平均値を算出する。あるいは、脱落判定部65は、補正領域内の画素値の統計的代表値として、補正領域内の着目ライン上の画素値の最大値、最小値、中央値または最頻値を算出してもよい。同様に、脱落判定部65は、各周辺着目領域内の画素値の統計的代表値として、各周辺着目領域内の画素値の最大値、最小値、中央値または最頻値を算出してもよい。なお、着目ラインは、適正判定部64が補正領域内の画素値の分布を求めるために設定する着目ラインと同じラインとすることができる。
例えば、ある参照画像について、補正係数修正条件が満たされると、脱落判定部65は、補正情報記憶部61に記憶されている保留フラグの値をオンに設定する。そして脱落判定部65は、次に生成された参照画像についても、第2の条件が満たされると、補正係数を小さく修正する。
図7に示されるように、制御部6は、初期化処理を実行する(ステップS101)。具体的には、制御部6は、参照画像を生成するために用いられた画像枚数を表すカウンタcを0に設定する。また制御部6は、補正情報記憶部61に記憶されている保留フラグ及び停止フラグをオフに設定する。また制御部6は、イメージセンサ3が有する画素数と同一の画素数を持つ中間画像の各画素の値を0に設定する。
制御部6は、イメージセンサ3から画像を取得する(ステップS102)。そして制御部6は、画像を参照画像生成部63へ渡す。
参照画像生成部63は、各画素の各色成分値を中間画像の対応する画素の画素値に加算する。また参照画像生成部63は、カウンタcの値を1インクリメントする(ステップS103)。
参照画像生成部63は、カウンタcが所定枚数Thc以上になったか否か判定する(ステップS104)。
カウンタcが参照画像の生成に利用する画像枚数に対応する閾値Thc未満である場合(ステップS104−No)、制御部6は、ステップS102〜S103の処理を繰り返す。一方、カウンタcが閾値Thc以上となった場合(ステップS104−Yes)、参照画像生成部63は、中間画像の各画素値を(c×3)で割ることにより参照画像を生成する(ステップS105)。ステップS105の後、参照画像生成部63は、補正情報記憶部61に記憶された参照画像が有るか否か判定する(ステップS106)。
補正情報記憶部61に記憶された参照画像が有る場合(ステップS106−Yes)、参照画像生成部63は、忘却係数を用いてその記憶されている参照画像と新たに生成した参照画像を加重平均することにより参照画像を更新する(ステップS107)。
補正情報記憶部61に記憶された参照画像が無い場合(ステップS106−No)、またはステップS107の後、参照画像生成部63は、参照画像を適正判定部64へ渡す。
適正判定部64は、Pmaxc/Pminc、Pmaxa/Pmina及びPmaxb/Pminbのそれぞれが、所定の閾値Th1未満か否か判定する(ステップS109)。
Pmaxc/Pminc、Pmaxa/Pmina及びPmaxb/Pminbの何れか一つでも所定の閾値Th1以上である場合(ステップS109−No)、参照画像について画素値の分布が一様であるとする条件が満たされていない。そのため、適正判定部64は、参照画像は付着物の脱落判定に用いるのに適していないと判定する。そして適正判定部64は、Pmaxc/Pmincが閾値Th1未満であり、かつ、Pmaxa/PminaまたはPmaxb/Pminbの何れか一方が閾値Th1未満か否かする(ステップS110)。
Pmaxc/Pmincが閾値Th1未満でないか、または、Pmaxa/Pmina及びPmaxb/Pminbの両方が閾値Th1未満でない場合(ステップS110−No)、適正判定部64は参照画像を廃棄する(ステップS111)。そして適正判定部64は、カウンタcを0にリセットする。一方、Pmaxc/Pmincが閾値Th1未満で、かつPmaxa/PminaまたはPmaxb/Pminbの一方が閾値Th1未満である場合(ステップS110−Yes)、参照画像は、より多くの画像を用いて更新されることで、付着物の脱落判定に用いるのに適した画像となる可能性がある。そこで適正判定部64は参照画像を補正情報記憶部61に記憶する(ステップS112)。そして適正判定部64は、カウンタcを0にリセットする。
ステップS111またはS112の後、制御部6は、ステップS102以降の処理を繰り返す。
Pava/Pavc及びPavb/Pavcの両方が閾値Th2未満である場合(ステップS114−Yes)、脱落判定部65は、最新の参照画像について補正領域内の画素値と各周辺着目領域内の画素値の差は無いと判定する。すなわち、脱落判定部65は、付着物が脱落した可能性が高いと判定する。そこで脱落判定部65は、停止フラグ及び保留フラグの少なくとも何れか一方がオンか否か判定する(ステップS115)。
一方、停止フラグ及び保留フラグの少なくとも一方がオンである場合(ステップS115−Yes)、脱落判定部65は付着物が脱落したと判定する。そして脱落判定部65は、補正部62により実行される画像補正処理を以後停止する(ステップS117)。
ステップS117の後、制御部6は付着物脱落判定処理を終了する。
Pava/Pavc及びPavb/Pavcの少なくとも一方が閾値Th3以上である場合(ステップS118−No)、脱落判定部65は、現時点において付着物は脱落していないと判定する。そして脱落判定部65は、カウンタcを0にリセットする(ステップS119)。また脱落判定部65は、停止フラグ及び保留フラグの両方をオフにし、画像補正処理を再開する。その後、制御部6は、ステップS102以降の処理を繰り返す。
保留フラグがオフになっている場合(ステップS120−No)、脱落判定部65は保留フラグをオンに設定するとともに、カウンタcを0にリセットする(ステップS121)。
一方、保留フラグがオンになっている場合(ステップS120−Yes)、脱落判定部65は補正領域内の各画素の各色成分に対する補正係数を元の補正係数の1/2に修正する。そして脱落判定部65は、保留フラグをオフに設定するとともに、カウンタcを0にリセットする(ステップS122)。
ステップS121またはS122の後、制御部6はステップS102以降の処理を繰り返す。
なお、ステップS118、S120〜S122の処理は省略されてもよい。
さらに、制御部は、参照画像生成用の画像を取得する際、イメージセンサ上の像がボケるように撮像光学系の焦点位置を調節してもよい。これにより、ボケた像が撮影された画像が取得され、その画像には、物体上の各点の情報が広い範囲において互いに重畳するように分布するので、画像上の輝度及び色調の変動が小さくなる。そのため、制御部は、参照画像の生成に適した画像を得ることができる。
また参照画像生成部は、設定条件によってイメージセンサが画素数が所定値以下となるように間引かれた縮小画像を生成するように設定されている場合、その設定条件下で撮影された画像を参照画像の生成に利用しないようにしてもよい。例えば、所定値は、いわゆるQVGAに相当する480×320画素に設定される。あるいは、所定値は、イメージセンサが有する画素数の1/2〜1/4に設定されてもよい。なお、設定条件により、画像の画素数がイメージセンサ3が有する画素数よりも少なく設定されており、かつ画像の画素数が上記の所定値以上となることがある。このような場合において、参照画像の着目画素に対応するイメージセンサから取得した画像の画素が存在しなければ、参照画像生成部は、例えば、その着目画素の周囲の画素の色成分値を用いて線形補間することにより、着目画素の色成分値を求める。
さらに、適正判定部は、補正領域内の全ての画素についての画素値の分布の統計的代表値を算出してもよい。また適正判定部は、一つの周辺着目領域を、補正領域の周囲を囲み、かつ補正領域に含まれる画素数と同数またはそれ以上の画素を含むように設定し、その一つの周辺着目領域について画素値の分布の統計的代表値を算出してもよい。この場合、適正判定部は、一つの周辺着目領域についての画素値の分布の統計的代表値を用いて、参照画像が脱落判定に適しているか否か判定する。また脱落判定部は、補正領域内の画素値の統計的代表値に対する一つの周辺着目領域の画素値の統計的代表値の比に基づいて、付着物が脱落したか否か判定する。
さらに画像処理装置は、撮像装置から受信した画像を用いて、付着物脱落判定処理を実行する。
(付記1)
イメージセンサにより生成された、撮像光学系により該イメージセンサ上に結像された物体の像の画像に基づいて、前記撮像光学系と前記イメージセンサとの間において前記撮像光学系により規定される光路内に付着した付着物により影響される領域内に含まれる画素値が一様であり、かつ該領域の周辺領域内に含まれる画素値が一様な参照画像を生成する参照画像生成部と、
前記参照画像における前記領域内の画素値と前記周辺領域内の画素値とを比較することにより前記付着物が脱落したか否かを判定する判定部と、
を有する画像処理装置。
(付記2)
前記参照画像生成部は、前記イメージセンサにより生成された複数の画像のそれぞれについて、前記領域または前記周辺領域に含まれる着目画素の色成分の平均値を求め、前記複数の画像間で前記着目画素の前記色成分の平均値をさらに平均した値を前記参照画像上の前記着目画素の画素値とし、
前記領域内の画素値の分布を表す第1の統計的代表値及び前記周辺領域内の画素値の分布を表す第2の統計的代表値を算出し、前記第1の統計的代表値及び前記第2の統計的代表値がそれぞれ画素値の分布が一様であることを表す条件を満たす場合に限り、前記判定部に前記参照画像を用いて前記付着物が脱落したか否かの判定をさせる適正判定部をさらに有する、付記1に記載の画像処理装置。
(付記3)
前記領域内の画素値の分布を表す第1の統計的代表値が画素値の分布が一様であることを表す条件を満たし、かつ前記周辺領域内の画素値の分布を表す第2の統計的代表値が前記条件を満たさない場合、前記参照画像生成部は、前記イメージセンサにより新たに生成された少なくとも1枚の画像の前記領域に含まれる画素の値及び前記周辺領域に含まれる画素の値と前記参照画像上の対応画素の画素値とを加重平均することで前記参照画像を更新し、
前記更新された参照画像について前記第1の統計的代表値及び前記第2の統計的代表値を算出し、当該第1の統計的代表値及び当該第2の統計的代表値が前記条件を満たす場合に限り、前記判定部に前記参照画像を用いて前記付着物が脱落したか否かの判定をさせる適正判定部をさらに有する、付記1に記載の画像処理装置。
(付記4)
前記適正判定部は、前記領域の一部に含まれる画素から前記第1の統計的代表値を算出する、付記2または3に記載の画像処理装置。
(付記5)
前記参照画像生成部は、前記イメージセンサにより生成された画像が、暗照明環境で撮影された画像、暗照明環境に応じた設定条件で撮影された画像及び画素数が所定数以上間引かれた画像の何れかである場合に当該画像を前記参照画像の生成に利用せず、何れにも該当しない場合に当該画像を前記参照画像の生成に利用する、付記1〜4の何れか一項に記載の画像処理装置。
(付記6)
前記イメージセンサにより生成された画像において前記領域内の画素の値を前記付着物による影響を打ち消すように補正する補正部をさらに有し、
前記判定部は、前記参照画像における前記領域内の画素値に関する第3の統計的代表値に対する前記周辺領域内の画素値に関する第4の統計的代表値の比を求め、該比が第1の閾値未満である場合に前記付着物が脱落したと判定し、
前記付着物が脱落したと判定した場合、当該判定以降に前記イメージセンサにより生成された画像に対する前記補正部による補正を停止し、一方、前記付着物が脱落していないと判定した場合、当該判定以降に前記イメージセンサにより生成された画像に対する前記補正部による補正を継続する、付記1〜5の何れか一項に記載の画像処理装置。
(付記7)
前記補正部は、前記イメージセンサにより生成された画像の前記領域内の画素の値に対して予め設定された補正係数を乗じることにより当該画素の値を補正し、
前記判定部は、前記比が、前記第1の閾値よりも大きく、かつ前記領域内の画素ごとに設定された前記補正係数のうちの最大値以下である第2の閾値未満である場合、前記補正係数を小さくする、付記6に記載の画像処理装置。
(付記8)
前記参照画像生成部は、前記イメージセンサにより生成された画像ごとに、前記領域及び前記周辺領域内の画素の色成分または輝度の分布が集中しているほど小さくなる重み係数を設定し、該重み係数を前記画像の前記領域内の画素の色成分の平均値及び前記周辺領域内の画素の色成分の平均値に乗じて加重平均することにより前記参照画像を生成する、付記2に記載の画像処理装置。
(付記9)
光路を規定する撮像光学系と、
前記撮像光学系により結像された物体の像の画像を生成するイメージセンサと、
前記イメージセンサにより生成された画像に基づいて、前記撮像光学系と前記イメージセンサとの間において前記撮像光学系により規定される光路内に付着した付着物により影響される領域内に含まれる画素値が一様であり、かつ該領域の周辺領域内に含まれる画素値が一様な参照画像を生成する参照画像生成部と、
前記参照画像における前記領域内の画素値と前記周辺領域内の画素値とを比較することにより前記付着物が脱落したか否かを判定する判定部と、
を有する撮像装置。
(付記10)
イメージセンサから撮像光学系により該イメージセンサ上に結像された物体の像の画像を取得し、
前記イメージセンサから取得した画像に基づいて、前記撮像光学系と前記イメージセンサとの間において前記撮像光学系により規定される光路内に付着した付着物により影響される領域内に含まれる画素値が一様であり、かつ該領域の周辺領域内に含まれる画素値が一様な参照画像を生成し、
前記参照画像における前記領域内の画素値と前記周辺領域内の画素値とを比較することにより前記付着物が脱落したか否かを判定する、
ことを含む画像処理方法。
(付記11)
イメージセンサから取得した、撮像光学系により該イメージセンサ上に結像された物体の像の画像に基づいて、前記撮像光学系と前記イメージセンサとの間において前記撮像光学系により規定される光路内に付着した付着物により影響される領域内に含まれる画素値が一様であり、かつ該領域の周辺領域内に含まれる画素値が一様な参照画像を生成し、
前記参照画像における前記領域内の画素値と前記周辺領域内の画素値とを比較することにより前記付着物が脱落したか否かを判定する、
ことをコンピュータに実行させる画像処理用コンピュータプログラム。
2 撮像光学系
3 イメージセンサ
4 メモリ
5 ユーザインターフェース
6 制御部
61 補正情報記憶部
62 補正部
63 参照画像生成部
64 適正判定部
65 脱落判定部
Claims (8)
- イメージセンサにより生成された、撮像光学系により該イメージセンサ上に結像された物体の像の画像に基づいて、前記撮像光学系と前記イメージセンサとの間において前記撮像光学系により規定される光路内に付着した付着物により影響される領域内に含まれる画素値が一様であり、かつ該領域の周辺領域内に含まれる画素値が一様な参照画像を生成する参照画像生成部と、
前記参照画像における前記領域内の画素値と前記周辺領域内の画素値とを比較することにより前記付着物が脱落したか否かを判定する判定部と、
を有する画像処理装置。 - 前記参照画像生成部は、前記イメージセンサにより生成された複数の画像のそれぞれについて、前記領域または前記周辺領域に含まれる着目画素の色成分の平均値を求め、前記複数の画像間で前記着目画素の前記色成分の平均値をさらに平均した値を前記参照画像上の前記着目画素の画素値とし、
前記領域内の画素値の分布を表す第1の統計的代表値及び前記周辺領域内の画素値の分布を表す第2の統計的代表値を算出し、前記第1の統計的代表値及び前記第2の統計的代表値がそれぞれ画素値の分布が一様であることを表す条件を満たす場合に限り、前記判定部に前記参照画像を用いて前記付着物が脱落したか否かの判定をさせる適正判定部をさらに有する、請求項1に記載の画像処理装置。 - 前記領域内の画素値の分布を表す第1の統計的代表値が画素値の分布が一様であることを表す条件を満たし、かつ前記周辺領域内の画素値の分布を表す第2の統計的代表値が前記条件を満たさない場合、前記参照画像生成部は、前記イメージセンサにより新たに生成された少なくとも1枚の画像の前記領域に含まれる画素の値及び前記周辺領域に含まれる画素の値と前記参照画像上の対応画素の画素値とを加重平均することで前記参照画像を更新し、
前記更新された参照画像について前記第1の統計的代表値及び前記第2の統計的代表値を算出し、当該第1の統計的代表値及び当該第2の統計的代表値が前記条件を満たす場合に限り、前記判定部に前記参照画像を用いて前記付着物が脱落したか否かの判定をさせる適正判定部をさらに有する、請求項1に記載の画像処理装置。 - 前記参照画像生成部は、前記イメージセンサにより生成された画像が、暗照明環境で撮影された画像、暗照明環境に応じた設定条件で撮影された画像及び画素数が所定数以上間引かれた画像の何れかである場合に当該画像を前記参照画像の生成に利用せず、何れにも該当しない場合に当該画像を前記参照画像の生成に利用する、請求項1〜3の何れか一項に記載の画像処理装置。
- 前記イメージセンサにより生成された画像において前記領域内の画素の値を前記付着物による影響を打ち消すように補正する補正部をさらに有し、
前記判定部は、前記参照画像における前記領域内の画素値に関する第3の統計的代表値に対する前記周辺領域内の画素値に関する第4の統計的代表値の比を求め、該比が第1の閾値未満である場合に前記付着物が脱落したと判定し、
前記付着物が脱落したと判定した場合、当該判定以降に前記イメージセンサにより生成された画像に対する前記補正部による補正を停止し、一方、前記付着物が脱落していないと判定した場合、当該判定以降に前記イメージセンサにより生成された画像に対する前記補正部による補正を継続する、請求項1〜4の何れか一項に記載の画像処理装置。 - 光路を規定する撮像光学系と、
前記撮像光学系により結像された物体の像の画像を生成するイメージセンサと、
前記イメージセンサにより生成された画像に基づいて、前記撮像光学系と前記イメージセンサとの間において前記撮像光学系により規定される光路内に付着した付着物により影響される領域内に含まれる画素値が一様であり、かつ該領域の周辺領域内に含まれる画素値が一様な参照画像を生成する参照画像生成部と、
前記参照画像における前記領域内の画素値と前記周辺領域内の画素値とを比較することにより前記付着物が脱落したか否かを判定する判定部と、
を有する撮像装置。 - イメージセンサから撮像光学系により該イメージセンサ上に結像された物体の像の画像を取得し、
前記イメージセンサから取得した画像に基づいて、前記撮像光学系と前記イメージセンサとの間において前記撮像光学系により規定される光路内に付着した付着物により影響される領域内に含まれる画素値が一様であり、かつ該領域の周辺領域内に含まれる画素値が一様な参照画像を生成し、
前記参照画像における前記領域内の画素値と前記周辺領域内の画素値とを比較することにより前記付着物が脱落したか否かを判定する、
ことを含む画像処理方法。 - イメージセンサから取得した、撮像光学系により該イメージセンサ上に結像された物体の像の画像に基づいて、前記撮像光学系と前記イメージセンサとの間において前記撮像光学系により規定される光路内に付着した付着物により影響される領域内に含まれる画素値が一様であり、かつ該領域の周辺領域内に含まれる画素値が一様な参照画像を生成し、
前記参照画像における前記領域内の画素値と前記周辺領域内の画素値とを比較することにより前記付着物が脱落したか否かを判定する、
ことをコンピュータに実行させる画像処理用コンピュータプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010106646A JP5423570B2 (ja) | 2010-05-06 | 2010-05-06 | 画像処理装置、画像処理方法及び画像処理用コンピュータプログラムならびに撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010106646A JP5423570B2 (ja) | 2010-05-06 | 2010-05-06 | 画像処理装置、画像処理方法及び画像処理用コンピュータプログラムならびに撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011239037A JP2011239037A (ja) | 2011-11-24 |
JP5423570B2 true JP5423570B2 (ja) | 2014-02-19 |
Family
ID=45326568
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010106646A Expired - Fee Related JP5423570B2 (ja) | 2010-05-06 | 2010-05-06 | 画像処理装置、画像処理方法及び画像処理用コンピュータプログラムならびに撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5423570B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6731645B2 (ja) * | 2017-08-03 | 2020-07-29 | パナソニックIpマネジメント株式会社 | 画像監視装置、画像監視方法および画像監視プログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4678860B2 (ja) * | 2006-01-24 | 2011-04-27 | キヤノン株式会社 | 撮像装置及びその制御方法とプログラム |
JP4771539B2 (ja) * | 2006-07-26 | 2011-09-14 | キヤノン株式会社 | 画像処理装置及びその制御方法及びプログラム |
JP2008244868A (ja) * | 2007-03-27 | 2008-10-09 | Canon Inc | 撮像装置及びその制御方法及びプログラム及び記憶媒体 |
-
2010
- 2010-05-06 JP JP2010106646A patent/JP5423570B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2011239037A (ja) | 2011-11-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8711234B2 (en) | Image enhancement based on multiple frames and motion estimation | |
US9894302B2 (en) | Imaging apparatus, image processing method, and program | |
US9118842B2 (en) | Producing focused videos from single captured video | |
KR101373357B1 (ko) | 카메라 및 장면 동작을 고려한 카메라 노출 최적화 기술 | |
US20130021477A1 (en) | Method and camera for determining an image adjustment parameter | |
JP5843454B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
KR101206389B1 (ko) | 화상 처리장치, 화상 처리방법 및 기억매체 | |
US9961269B2 (en) | Imaging device, imaging device body, and lens barrel that can prevent an image diaphragm value from frequently changing | |
US9071766B2 (en) | Image capturing apparatus and control method thereof | |
CN111385471B (zh) | 信息处理设备和方法、摄像设备及其控制方法、存储介质 | |
JP2020514891A (ja) | ビデオコンテンツにおけるオプティカルフローおよびセンサー入力ベースの背景差分 | |
JP2018116239A (ja) | 像ブレ補正装置及びその制御方法、撮像装置、プログラム、記憶媒体 | |
US20180241946A1 (en) | Image processing apparatus, imaging apparatus, and method for controlling image processing apparatus | |
WO2013052241A1 (en) | Motion blur estimation and restoration using light trails | |
JP5423570B2 (ja) | 画像処理装置、画像処理方法及び画像処理用コンピュータプログラムならびに撮像装置 | |
WO2019202984A1 (ja) | 撮像装置並びに距離計測方法、距離計測プログラム及び記録媒体 | |
JP4523629B2 (ja) | 撮像装置 | |
JP5526984B2 (ja) | 画像処理装置、画像処理方法及び画像処理用コンピュータプログラムならびに撮像装置 | |
CN114518641A (zh) | 摄像设备、镜头设备及其控制方法和存储介质 | |
JP2019220764A (ja) | 取得方法、プログラムおよび撮像装置。 | |
JP2020095070A (ja) | 撮像装置 | |
US10168505B2 (en) | Imaging apparatus | |
JP2017182668A (ja) | データ処理装置、撮像装置、及びデータ処理方法 | |
JP2017098900A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6331363B2 (ja) | 被写体特定装置、撮像装置およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130206 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20131022 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131029 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131111 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 5423570 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |