ところが、上記特許文献2に開示の撮像装置で行っている欠陥検出方法では、2つのカメラモジュール(撮像部)は、それぞれの光軸が平行になるよう所定の間隔Dxを空けて配置されているので、それぞれのカメラモジュールで得られた撮像画像に対して、共通する画像領域以外の領域(画角外の領域)が存在し、補正対象となる撮像画像(補正対象画像)の全領域に対して精度よく欠陥領域を検出することが困難であるという問題がある。
図11はこの問題を説明するための図であり、各カメラモジュールで生成された撮像画像とこれに対する画角外領域とを具体的に示している。
例えば、図9に示すようにカメラモジュールAが被写体Taに対して左側に位置し、カメラモジュールBが被写体Taに対して右側に位置する場合、カメラモジュールAで撮像された撮像画像a1には、カメラモジュールBで撮像された撮像画像b1の右端部分b12に対応する部分がなく、カメラモジュールBで撮像された撮像画像b1の右端部分b12が撮像画像a1に対する画角外領域a11に対応する部分となっており、逆に、カメラモジュールBで撮像された撮像画像b1には、カメラモジュールAで撮像された撮像画像a1の左端部分a12に対応する部分がなく、カメラモジュールAで撮像された撮像画像a1の左端部分a12が撮像画像b1に対する画角外領域b11に対応する部分となっている。
このため、2つのカメラモジュールAおよびBで得られた撮像画像a1およびb1の比較をする場合、一方の撮像画像a1(あるいはb1)の、他方の撮像画像b1(あるいはa1)に対する画角外領域b11(あるいはa11)に相当する部分a12(あるいはb12)については比較を行うことができない。なお、これらの撮像画像中の黒丸印は、被写体のドット模様を示し、×印は、ドット模様のドット部分の画像と同様な欠陥画素による画像を示している。
具体的には、一方の撮像画像a1の、他方の撮像画像b1の画角外領域b11に対応する左端部分a12に欠陥画素(×印)Dpが存在する場合、撮像画像a1と撮像画像b1とを比較しても、この撮像画像a1の左端部分a12は撮像画像b1に対する画角外領域b11に対応しているため、これらの撮像画像の比較によって欠陥画素Dpによる画像が本来の正常な画像であるか否かの判断をすることができない。
このように、特許文献2に開示の欠陥検出方法では、補正対象となる撮像画像a1あるいはb1の全領域に対して精度よく欠陥領域が含まれるか否かの判定を行うことができないという問題がある。
本発明は、上記のような問題点を解決するためになされたものであり、複数の撮像部で共通の被写体を撮像して得られる互いに視差を有する複数の最適焦点画像の各々の全領域を対象として、各最適焦点画像における画像欠陥と疑われる部分を他の撮像画像の対応する部分と比較する処理を行うことができ、これにより、高精度にかつ高速に個々の最適焦点画像に画像欠陥部分が存在するか否かの判定を行うことができる撮像装置および欠陥処理方法、この欠陥処理方法をコンピュータにより行うための欠陥処理プログラム、並びにこのような撮像装置を備えた電子情報機器を得ることを目的とする。
本発明に係る撮像装置は、被写体を撮像する複数の撮像部を有し、該撮像部は、該被写体からの光を光電変換して撮像信号を出力する撮像素子と、該被写体からの光を該撮像素子に導く光学系とを含む撮像装置であって、該複数の撮像部の各々が最適焦点位置で該被写体を撮像して最適焦点画像を生成する最適焦点モードと、該複数の撮像部の各々が、該最適焦点位置での画角より大きな画角で該被写体を撮像して画角拡大画像を生成する画角拡大モードとを該光学系の焦点位置の制御により切り替える動作制御部と、欠陥の判定対象となる最適焦点画像である判定対象画像の、他の最適焦点画像に対する画角外領域に対応する部分に含まれる画像欠陥部分を、該他の最適焦点画像に対応する画角拡大画像を用いて検出する欠陥検出部とを備えたものであり、そのことにより上記目的が達成される。
本発明は、上記撮像装置において、前記欠陥検出部は、前記判定対象画像における、画像欠陥部分が発生していると疑われる欠陥疑惑部分を、該判定対象画像の画像解析により検出する画像解析部と、該欠陥疑惑部分を含む判定対象画像を、該判定対象画像以外の他の最適焦点画像あるいは該他の最適焦点画像に対応する画角拡大画像と比較する比較部とを有し、該比較部での比較結果に基づいて該判定対象画像に含まれる画像欠陥部分を検出することが好ましい。
本発明は、上記撮像装置において、前記比較部は、前記判定対象画像の欠陥疑惑部分が、該判定対象画像における前記他の最適焦点画像に対する画角内領域に対応する部分に含まれているとき、該判定対象画像における欠陥疑惑部分を、該他の最適焦点画像における、該欠陥疑惑部分に対応する部分と比較し、該判定対象画像の欠陥疑惑部分が、該判定対象画像における該他の最適焦点画像に対する画角外領域に対応する部分に含まれているとき、該判定対象画像における欠陥疑惑部分を、該他の最適焦点画像に対応する画角拡大画像における、該欠陥疑惑部分に対応する部分と比較することが好ましい。
本発明は、上記撮像装置において、前記動作制御部は、操作者によるシャッター操作信号を受けたとき、前記複数の撮像部の動作モードを、前記複数の撮像部の各々が最適焦点位置で前記被写体を撮像して最適焦点画像を生成する最適焦点モードに設定し、該最適焦点モードで得られた複数の最適焦点画像のうちの前記判定対象画像の欠陥疑惑部分が、該判定対象画像における前記他の最適焦点画像に対する画角外領域に対応する部分に含まれているとき、該他の最適焦点画像に対応する画角拡大画像が生成されるように、該最適焦点モードを前記画角拡大モードに切り換えることが好ましい。
本発明は、上記撮像装置において、前記動作制御部は、操作者によるシャッター操作信号を受けたとき、前記複数の撮像部の動作モードを、該複数の撮像部の各々が最適焦点位置で前記被写体を撮像して最適焦点画像を生成する最適焦点モードに設定し、該最適焦点モードで該撮像部により該最適焦点画像が生成された後、前記他の最適焦点画像に対応する画角拡大画像が生成されるように、該最適焦点モードを前記画角拡大モードに切り換えることが好ましい。
本発明は、上記撮像装置において、前記欠陥検出部により検出された前記判定対象画像の画像欠陥部分を補正する補正処理部を備えたことが好ましい。
本発明は、上記撮像装置において、前記補正処理部は、前記判定対象画像の画像欠陥部分を、該判定対象画像の、該画像欠陥部分の周囲に位置する周辺画素の画素値を用いて補正することが好ましい。
本発明は、上記撮像装置において、前記補正処理部は、前記判定対象画像の画像欠陥部分を、前記他の最適焦点画像に対応する画角拡大画像における、該画像欠陥部分に対応する部分の画素の画素値を用いて補正することが好ましい。
本発明は、上記撮像装置において、前記補正処理部は、前記判定対象画像の画像欠陥部分を、該判定対象画像の、該画像欠陥部分の周囲に位置する周辺画素の画素値と、前記他の最適焦点画像に対応する画角拡大画像における、該画像欠陥部分に対応する部分の画素の画素値とを用いて補正することが好ましい。
本発明は、上記撮像装置において、前記複数の撮像部として第1および第2の撮像部を備え、該第1の撮像部は、前記被写体からの光の光電変換により該被写体を撮像する第1の撮像素子と、該被写体からの光を該第1の撮像素子に導く第1の光学系とを有し、該第2の撮像部は、該被写体からの光の光電変換により該被写体を撮像する第2の撮像素子と、該被写体からの光を該第2の撮像素子に導く、該第1の光学系の光軸と所定の間隔を空けて平行に位置する光軸を有する第2の光学系とを有し、該欠陥検出部は、該2つの撮像部の一方で得られた最適焦点画像の、該2つの撮像部の他方で得られた最適焦点画像に対する画角外領域に対応する部分に含まれる画像欠陥部分を、該一方の撮像部で得られた最適焦点画像と該他方の撮像部で得られた画角拡大画像との比較により検出することが好ましい。
本発明は、上記撮像装置において、前記光学系は、前記被写体からの光を対応する前記撮像素子に導入する焦点レンズを有し、前記動作制御部は、前記最適焦点モードを前記画角拡大モードに切り換えるとき、該撮像素子により撮像される画像の画角が拡大するように該焦点レンズを該光学系の光軸の最適焦点位置から移動させることが好ましい。
本発明に係る欠陥処理方法は、被写体を撮像する複数の撮像部を備え、該撮像部が、該被写体からの光を光電変換して撮像信号を出力する撮像素子と、該被写体からの光を該撮像素子に導く光学系とを含む撮像装置で得られた撮像画像の画像欠陥部分を処理する欠陥処理方法であって、該複数の撮像部の各々が最適焦点位置で該被写体を撮像して最適焦点画像を生成するステップと、該複数の撮像部の各々が、該最適焦点位置での画角より大きな画角で該被写体を撮像して画角拡大画像を生成するステップと、欠陥の判定対象となる最適焦点画像である判定対象画像の、他の最適焦点画像に対する画角外領域に対応する部分に含まれる画像欠陥部分を、該他の最適焦点画像に対応する画角拡大画像を用いて検出するステップとを含むものであり、そのことにより上記目的が達成される。
本発明は、上記欠陥処理方法において、前記判定対象画像の画像欠陥部分を、該判定対象画像の、該画像欠陥部分の周囲に位置する周辺画素の画素値を用いて補正するステップを含むことが好ましい。
本発明は、上記欠陥処理方法において、前記判定対象画像の画像欠陥部分を、前記他の最適焦点画像に対応する画角拡大画像における、該画像欠陥部分に対応する部分の画素の画素値を用いて補正するステップを含むことが好ましい。
本発明は、上記欠陥処理方法において、前記判定対象画像の画像欠陥部分を、該判定対象画像の、該画像欠陥部分の周囲に位置する周辺画素の画素値と、前記他の最適焦点画像に対応する画角拡大画像における、該画像欠陥部分に対応する部分の画素の画素値とを用いて補正するステップを含むことが好ましい。
本発明に係る欠陥処理プログラムは、上述した本発明に係る欠陥処理方法をコンピュータにより実行するための欠陥処理プログラムであり、そのことにより上記目的が達成される。
本発明に係る電子情報機器は、被写体の撮像を行う撮像手段を備えた電子情報機器であって、該撮像手段は、上述した本発明に係る撮像装置であり、そのことにより上記目的が達成される。
次に作用について説明する。
本発明においては、被写体を撮像する複数の撮像部と、各撮像部での撮像動作を制御する動作制御部とを備えた撮像装置において、この動作制御部を、複数の撮像部の各々が最適焦点位置で被写体を撮像して最適焦点画像を生成する最適焦点モードと、これらの撮像部の各々が、最適焦点位置での画角より大きな画角で被写体を撮像して画角拡大画像を生成する画角拡大モードとを光学系の焦点位置の制御により切り替えるように構成し、欠陥の判定対象となる最適焦点画像である判定対象画像の、他の最適焦点画像に対する画角外領域に対応する部分に含まれる画像欠陥部分の検出に、他の最適焦点画像の画角を拡大して得られる画角拡大画像を用いるので、複数の撮像部の配置上、各最適焦点画像に他の最適焦点画像に対する画角外領域に対応する部分が必ず発生するとしても、他の最適焦点画像に対する画角外領域の画像情報を、他の最適焦点画像の画角を拡大した画角拡大画像から取得することが可能となる。
このため、判定対象画像の全領域、つまり欠陥の判定対象となる1つの撮像部で得られた最適焦点画像の、他の撮像部で得られた最適焦点画像の画角外領域に対応する部分を含めた全領域を、他の撮像部で得られた撮像画像と比較することができる。
つまり、複数の撮像部で共通の被写体を撮像して得られる互いに視差を有する複数の最適焦点画像の各々の全領域を対象として、各最適焦点画像における画像欠陥と疑われる部分を他の撮像画像の対応する部分と比較する処理を行うことができる。これにより、視差を有する複数の撮像部で得られる最適焦点画像の各々に対して、他の撮像部で得られる撮像画像の情報を用いて、高精度にかつ高速に画像欠陥部分が存在するか否かの判定を行うことができる。
また、本発明においては、動作制御部は、操作者によるシャッター操作に対応する操作信号を受けたとき、複数の撮像部の動作モードを、複数の撮像部の各々が最適焦点画像を生成する最適焦点モードに設定し、最適焦点モードで得られた複数の最適焦点画像のうちの判定対象画像の欠陥疑惑部分が、判定対象画像における他の最適焦点画像に対する画角外領域に対応する部分に含まれているとき、他の最適焦点画像に対応する画角拡大画像が生成されるように、最適焦点モードを画角拡大モードに切り換えるので、判定対象画像の画像欠陥部分を検出する際に不必要な画角拡大画像を生成する無駄な動作を回避することができる。
また、本発明においては、動作制御部は、操作者によるシャッター操作信号を受けたとき、複数の撮像部の動作モードを、複数の撮像部の各々が最適焦点位置で被写体を撮像して最適焦点画像を生成する最適焦点モードに設定し、最適焦点モードで撮像部により最適焦点画像が生成された後、他の最適焦点画像に対応する画角拡大画像が生成されるように、最適焦点モードを画角拡大モードに切り換えるので、撮像時には判定対象画像における画像欠陥部分を検出する処理を省略し、この画像欠陥部分の検出処理を、撮像後に最適焦点画像の編集や表示、あるいは記録媒体への記録を行うなどの、操作者が重要と考える撮像画像に対してのみ行うことができ、画像欠陥部分の検出処理を効率よく行うことができる。
また、本発明においては、判定対象画像の画像欠陥部分を、判定対象画像の、画像欠陥部分の周囲に位置する周辺画素の画素値を用いて補正するので、画像欠陥部分の画素値の補正が、同一の撮像素子の画素値により行われることとなり、補正した部分の画素値の特性が他の部分の画素値の特性と大きく異なるのを回避できる。
また、本発明においては、判定対象画像の画像欠陥部分を、判定対象画像以外の他の最適焦点画像に対応する画角拡大画像における、該画像欠陥部分に対応する部分の画素の画素値を用いて補正するので、判定対象画像の画像欠陥部分には、実質的に本来の判定対象画像が持つべき画素値を補填することができる。
また、本発明では、判定対象画像の画像欠陥部分を、判定対象画像の、画像欠陥部分の周囲に位置する周辺画素の画素値と、他の最適焦点画像に対応する画角拡大画像における、画像欠陥部分に対応する部分の画素の画素値とを用いて補正するので、判定対象画像の画像欠陥部分には、同じ撮像素子における画像欠陥部分の周辺領域の画素値と、異なる撮像素子の、該画像欠陥部分に対応する撮像領域の画素値との重み付けにより、より適切な画素値を補填することができる。
以上のように、本発明によれば、複数の撮像部で共通の被写体を撮像して得られる互いに視差を有する複数の最適焦点画像の各々の全領域を対象として、各最適焦点画像における画像欠陥と疑われる部分を他の撮像画像の対応する部分と比較する処理を行うことができ、これにより、高精度にかつ高速に個々の最適焦点画像に画像欠陥部分が存在するか否かの判定を行うことができる撮像装置および欠陥処理方法、この欠陥処理方法をコンピュータにより行うための欠陥処理プログラム、並びにこのような撮像装置を備えた電子情報機器を実現することができる。
以下、本発明の実施形態について図面を参照しながら説明する。
(実施形態1)
図1は、本発明の実施形態1による撮像装置を説明するブロック図であり、この撮像装置の構成を示している。
この実施形態1の撮像装置100は、被写体を撮像する第1および第2のカメラモジュール110および120を有しており、これらのカメラモジュール110および120はそれぞれの光軸L1およびL2が所定間隔を隔てて平行になるように配置されている。
第1のカメラモジュール110は、被写体Taからの光を光電変換して撮像信号Cs1を出力する第1のイメージセンサ(撮像素子)111と、被写体Taからの光を第1のイメージセンサ111に導く第1の光学系114と、第1のイメージセンサ111を駆動信号D1により駆動する駆動回路112と、第1のイメージセンサ111から出力される撮像信号Cs1をタイミング信号などの制御信号Cp1に基づいて処理して第1の画像データPs1を出力する信号処理部113とを有している。ここで、第1の光学系114は、被写体からの光を第1のイメージセンサ111の撮像面上に結像させる焦点レンズ114aと、この焦点レンズ114aの被写体側に配置され、絞り制御信号Ap1に基づいてイメージセンサに入射する被写体光(被写体からの光)の光量を調整する絞り機構114bと、上記焦点レンズ114aを位置制御信号Ld1に基づいて光軸L1の方向に沿って移動させるレンズ駆動機構114cとを有している。
第2のカメラモジュール120は、第1のカメラモジュール110と同一の構成を有しており、つまり、被写体Taからの光を光電変換して撮像信号Cs2を出力する第2のイメージセンサ(撮像素子)121と、被写体Taからの光を第2のイメージセンサ121に導く第2の光学系124と、第2のイメージセンサ121を駆動信号D2により駆動する駆動回路122と、第2のイメージセンサ121から出力される撮像信号Cs2をタイミング信号などの制御信号Cp2に基づいて処理して第2の画像データPs2を出力する信号処理部123とを有している。ここで、第2の光学系124は、被写体からの光を第2のイメージセンサ121の撮像面上に結像させる焦点レンズ124aと、この焦点レンズ124aの被写体側に配置され、絞り制御信号Ap2に基づいて被写体光(被写体からの光)の光量を調整する絞り機構124bと、上記焦点レンズ124aを位置制御信号Ld2に基づいて光軸L2の方向に沿って移動させるレンズ駆動機構124cとを有している。
また、撮像装置100は、各カメラモジュール110および120の駆動回路、信号処理部、絞り機構、およびレンズ駆動機構を制御するとともに、各カメラモジュール110および120からの画像データPs1およびPs2に基づいて、撮像画像における画像欠陥部分の検出および補正を行うモジュール制御部(CPU)130と、モジュール制御部130での処理対象となる画像データを格納する一時記憶メモリ140とを有している。さらに、撮像装置100は、モジュール制御部130で処理した画像データに対して、階調変換、ホワイトバランス補正、γ補正処理などの各種画像処理を施す画像信号処理回路170と、種々の処理を施した画像データを表示する表示装置150と、種々の処理を施した画像データを記録する記録装置160と、画像欠陥部分の検出処理および画像欠陥部分の補正処理などの各種処理を行うプログラム、並びに各部の制御を行うための制御用プログラム、さらには設定情報などを格納しているEEPROM180とを有している。ここで、表示装置150は、液晶パネルなどの表示部152と、この表示部152で画像データに応じた画像が表示されるようにこの表示部152を制御する表示制御部151とを有し、記録装置160は、画像データを格納する記録媒体162と、該記録媒体に対するデータのアクセスを制御するメモリ制御部161とを有している。
ここで、モジュール制御部130は、一時記憶メモリ140、表示制御部151、メモリ制御部161、画像信号処理回路170およびEEPROM180と相互にデータのアクセスが可能となるようにデータバスDbusにより接続されている。また、カメラモジュールを構成するイメージセンサは、例えば、CCDイメージセンサあるいはCMOSイメージセンサといった固体撮像素子であるが、光学系とともにモジュール化可能な撮像素子であればどのようなものでもよい。
図2は、本発明の実施形態1による撮像装置を構成するカメラモジュールおよびモジュール制御部の具体的な構成を説明する図であり、図2(a)はこのモジュール制御部の構成を示している。
この撮像装置100のモジュール制御部130は、第1および第2のカメラモジュール110および120からの画像データPs1およびPs2を受けて撮像画像における画像欠陥部分を検出して補正する処理を実行する動作制御部131と、この動作制御部131から供給された画像データPs1およびPs2bに基づいて、各カメラモジュールで得られたベストピント画像(つまり、最適焦点位置で撮像された最適焦点画像)における、画像欠陥部分が発生していると疑われる欠陥疑惑部分を、このベストピント画像の画像解析により検出し、解析結果を示す解析信号Anを出力する画像解析部132と、欠陥の判定対象となるベストピント画像(以下、判定対象画像ともいう。)における欠陥疑惑部分を、判定対象画像以外の他のベストピント画像における、該欠陥疑惑部分に対応する部分であって、画像欠陥部分が発生していると疑われていない部分と比較し、比較結果を示す比較結果信号Cpsを出力する比較部133とを備えている。この比較部133は、欠陥疑惑部分が、判定対象画像における他のベストピント画像に対する画角内領域に対応する部分に含まれているとき、判定対象画像における欠陥疑惑部分を、他のベストピント画像における、該欠陥疑惑部分に対応する部分であって、画像欠陥部分が発生していると疑われていない部分と比較し、一方、欠陥疑惑部分が、判定対象画像における他のベストピント画像に対する画角外領域に対応する部分に含まれているとき、判定対象画像における欠陥疑惑部分を、他のベストピント画像に対応する画角拡大画像(ベストピント画像の画角を拡大して撮像した画像)における、該欠陥疑惑部分に対応する部分であって、画像欠陥部分が発生していると疑われていない部分と比較するように構成されている。
また、モジュール制御部130は、比較部133により検出された判定対象画像の画像欠陥部分を補正する補正処理部134を備え、さらに、信号処理部113および123からの画像データ、画像解析部132での解析結果Anなどに基づいて、絞り機構114bおよび124b並びにレンズ駆動機構114cおよび124cを制御する光学系駆動制御部135を備えている。ここで、各カメラモジュールは、モジュール制御部130の制御の下でオートフォーカス(AF動作)を行うように構成されている。また、上記モジュール制御部130は、上記EEPROM180に格納されている各種プログラムを読み込んで、動作制御部131、画像解析部132、比較部133、補正処理部134、および光学系駆動制御部135を少なくとも構築するCPUを含むものである。
また、カメラモジュール110および120は同一構造を有しているので、以下、第1のカメラモジュールの構造について具体的に説明する。
図2(b)は、第1のカメラモジュールの断面構造を示している。
このカメラモジュール110は、モジュール基板50aと、このモジュール基板50a上に搭載されたイメージセンサ111と、このイメージセンサ111を囲むよう配置された下側カバー53とを有し、この下側カバー53には、イメージセンサ111の撮像面に対向するようにカバー開口部53aが形成されており、このカバー開口部53aの下側には、リッドガラス59が装着されており、またこのリッドガラス59に重なるように、被写体からの光の赤外成分を遮断する赤外線カットフィルタ(図示せず)が配置されている。
なお、ここでは、イメージセンサ111を駆動する駆動回路112およびイメージセンサ111からの撮像信号Cs1を処理する信号処理部113は、モジュール基板50a上にイメージセンサ111の周囲に位置するように配置されている。ただし、イメージセンサとその周辺回路とは同一チップ上に形成したものでもよい。
また、下側カバー53上には上側カバー54が配置されており、この上側カバー54内には、被写体からの光を集光するレンズ114aと、このレンズ114aを保持するレンズホルダ56と、このレンズホルダ56を光軸L1の方向に沿って移動させるレンズ駆動機構114cとが収納されている。このレンズ駆動機構114cは、上記レンズホルダ56に取り付けられた永久磁石57と、この永久磁石57を囲むよう配置された電磁石としてのコイル58とを有しており、レンズホルダ56は図示しないバネ部材により下側カバー53および上側カバー54に支持されている。
なお、レンズ駆動機構114cは、上記のような構成に限定されるものではなく、例えば、レンズホルダには電磁石を取付け、永久磁石は上側カバー154に取り付けてもよく、従って、カメラモジュールの構成は図2(b)に示すものに限定されるものではない。
次に動作について説明する。
図3は、本発明の実施形態1による撮像装置の動作を説明する図であり、判定対象画像(欠陥の判定対象となるベストピント画像)の画像欠陥部分を検出して補正する処理をフローチャートにより示している。
この実施形態1の撮像装置100は、図3に示すように、第1および第2のカメラモジュール110および120で、ベストピント画像を取得するとともに、ベストピント画像に対して画角を拡げた画角拡大画像を取得し、ベストピント画像及び対応する画角拡大画像の合計4枚の画像から所要の画像を用いてベストピント画像における画像欠陥部分の検出を行い、これにより、判定対象画像の全領域にわたり画像欠陥部分を検出可能とするものである。
また、この固体撮像素子100は、上記画像欠陥部分の補正を、判定補正画像における画像欠陥部分の周囲に位置する周囲画素の情報(画素値)、及び判定対象画像以外のもう一方のベストピント画像あるいはその画角拡大画像における、判定対象画像の画像欠陥部分に該当する部分の画素の情報(画素値)の少なくとも一方の情報(画角値)を用いて行うものである。
以下、この撮像装置の動作について詳述する。
この撮像装置100では、撮像モードにて操作者がシャッター操作を行うと、モジュール制御部130は、シャッター操作に応じた操作信号Sopを受けてオートフォーカス動作を行う。具体的には、モジュール制御部130では、動作制御部131が、レンズ駆動信号Ld1およびLd2によりレンズ駆動部114cおよび124cを駆動して焦点レンズ114aおよび124aの位置を変えてイメージセンサ111および121で被写体の撮像を行い、イメージセンサ111および121から得られる撮像画像のコントラストなどに基づいて最適焦点位置を検出し、最適焦点位置で撮像した画像(ベストピント画像)a1およびb1を取得する(ステップS1)。つまり、ステップS1では、各カメラモジュール110および120はベストピント画像a1およびb1の撮影を行う。このとき、各カメラモジュール110および120で撮影されたベストピント画像a1およびb1の画像データPs1およびPs2は信号処理部113および123からモジュール制御部130の動作制御部131に供給され、動作制御部131により一時記憶メモリ140に一旦格納される。
次に、動作制御部131が、一時記憶メモリ140に格納されている画像データPs1およびPs2を画像解析部132に供給すると、この画像解析部132では、この画像データPs1およびPs2に基づいて、ベストピント画像a1およびb1に、画像欠陥部分が発生していると疑われる部分(以下、欠陥疑惑部分という。)が含まれているか否かを判定する(ステップS2)。
この欠陥疑惑部分の判定の仕方には種々の方法を用いることができ、例えば、欠陥の判定対象となるベストピント画像における輝度が所定の値に達しない閉じた領域を欠陥疑惑部分とする、あるいは、ベストピント画像における注目画素とその周辺画素との相関に基づいて相関の極端に低い注目画素を欠陥疑惑画素とするといった方法を用いることができる。
次に、画像解析部132がこの判定結果を示す判定信号Anを動作制御部131に送る。この判定の結果、いずれのベストピント画像a1およびb1も欠陥疑惑部分を含まない場合、動作制御部131は、メモリ制御部161を制御して、一時記憶メモリ140に格納されているベストピント画像a1およびb1の画像データPs1、Ps2を記憶装置160の記録媒体162に格納する。これにより撮像画像であるベストピント画像の記録が行われる(ステップS9)。
一方、上記判定の結果、ベストピント画像a1およびb1のいずれかに欠陥疑惑部分が含まれる場合、動作制御部131は、画像データPs1およびPs2と、画像解析部132からの解析信号Anに含まれる欠陥疑惑部分の位置を示す情報とに基づいて、欠陥疑惑部分が、ベストピント画像a1およびb1の一方における、その他方のベストピント画像に対する画角外領域に対応する部分に含まれるか否かの判定を行う(ステップS3)。
例えば、図4に示すように、ベストピント画像a1に欠陥疑惑部分Dpがある場合、動作制御部131は、この欠陥疑惑部分Dpが、ベストピント画像a1におけるベストピント画像b1の画角外領域b11に対応する部分(つまり、ベストピント画像a1の左端部分a12)に含まれているか否かの判定を行う。
この判定の結果、欠陥疑惑部分が、ベストピント画像a1およびb1の一方における、その他方の画角内領域に対応する部分に含まれているときは、モジュール制御部130では、ベストピント画像a1およびb1同士の比較により欠陥疑惑部分が画像欠陥部分であるか、あるいは本来の画像を構成する正常部分であるかの判定が行われ、画像欠陥部分であれば、これを修復する処理が行われ、画像欠陥部分でなければ、撮像画像であるベストピント画像の記録が行われる(ステップS4a)。このとき、ベストピント画像a1およびb1同士の比較は、動作制御部131の制御の下で比較部133により行われ、画像欠陥部分の補正は、動作制御部131の制御の下で補正処理部134により行われる。補正された画像データPs1あるいはPs2である画像データApsは、動作制御部131を介して記録装置160の記録媒体162に格納される。その後、動作制御部131は、ステップS2で検出された欠陥疑惑部分を全て処理したか否かの判断を行い、全ての欠陥疑惑部分に対する判定および補正処理が完了しておれば、最後に一時記憶メモリ140に格納されたベストピント画像の最新の補正データを処理済みの画像データとして記録装置に格納する(ステップS9)。
一方、ステップS8での判定の結果、未処理の欠陥疑惑部分が残っておれば、動作制御部131は、ステップS3の処理に戻り、残りの欠陥疑惑部分の1つに対して上記ステップS3、S4、S4a、S5〜S9の処理を行う。
また、ステップS3での判定の結果、欠陥疑惑部分が、ベストピント画像a1およびb1の一方における、他方の画角外領域に対応する部分に含まれているときは、モジュール制御部130は、光学系駆動制御部135に光学系制御信号CLsより、焦点レンズ114aおよび124aを、ベストピント画像a1およびb1よりも画角の大きな画角拡大画像a2、b2が得られる位置に移動させるように指令する。これにより、光学系駆動制御部135はレンズ駆動信号Ld1およびLd2によりレンズ駆動機構114cおよび124cを駆動して焦点レンズ114aおよび124aを、イメージセンサ111および121から遠ざかる方向に移動させる。この状態で、カメラモジュール110および120は被写体の撮像を行って画角拡大画像を生成する(ステップS4)。得られた画角拡大画像a2およびb2の画像データPs1およびPs2がモジュール制御部130に供給されると、動作制御部131は、画角拡大画像a2およびb2の画像データPs1およびPs2を比較部133に供給するとともに、一時記憶メモリ140に格納されているベストピント画像a1およびb1の画像データPs1およびPs2を比較部133に供給する。
ここで、画角拡大画像a2は、ベストピント画像a1と、ベストピント画像b1の右端部分b12に対応する画角外領域a11の画像とを合わせた合成画像a10を縮小した縮小合成画像ra10を含んでおり、画角拡大画像b2は、ベストピント画像b1と、ベストピント画像a1の左端部分a12に対応する画角外領域b11の画像とを合わせた合成画像b10を縮小した縮小合成画像rb10を含んでいる。
なお、上記画角拡大画像a2はベストピント画像a1の画角を拡大して得られる撮像画像であり、上記画角拡大画像b2はベストピント画像b1の画角を拡大して得られる撮像画像である。画角拡大画像2aには、画角拡大画像b2の右端部分に対応する部分は含まれておらず、この部分はこの画角拡大画像a2の画角外領域a21に対応しており、画角拡大画像b2には、画角拡大画像a2の左端部分に対応する部分は含まれておらず、この画角拡大画像b2の画角外領域b21に対応している。
比較部133では、欠陥疑惑部分Dpが例えばベストピント画像a1の左端部分a12(つまり、ベストピント画像b1の画角外領域b11に対応する部分)に位置している場合は、判定対象画像であるベストピント画像a1を、他のベストピントb1の画角を拡大して得られた画角拡大画像b2と比較し(ステップS5)、画角拡大画像b2における、ベストピント画像a1の欠陥疑惑部分Dpに対応する部分に、欠陥疑惑部分Dpと同様な画素値を持つ画素が存在するか否かの判定を行う(ステップS6)。
この判定の結果、ベストピント画像a1の欠陥疑惑部分Dpが画像欠陥部分ではなかった場合は、つまり、画角拡大画像b2における、ベストピント画像a1の欠陥疑惑部分Dpに対応する部分に、欠陥疑惑部分Dpと同様な画素値を持つ画素が存在している場合は、動作制御部131は、すべての欠陥疑惑部分を処理したか否かの判定を行い(ステップS8)、全ての欠陥疑惑部分に対する判定および補正処理が完了しておれば、処理済みの画像データを記録装置に格納する(ステップS9)。
一方、未処理の欠陥疑惑部分が残っておれば、動作制御部131は、ステップS3の処理に戻り、残りの欠陥疑惑部分の1つに対して上記ステップS4、S4a、S5〜S9の処理を行う。
また、ステップS6での判定の結果、ベストピント画像a1の欠陥疑惑部分Dpが画像欠陥部分であった場合は、つまり、画角拡大画像b2における、ベストピント画像a1の欠陥疑惑部分Dpに対応する部分に、欠陥疑惑部分Dpと同様な画素値を持つ画素が存在していない場合は、画像欠陥部分の補正は、動作制御部131の制御の下で補正処理部134により行われる。
この補正は、該判定対象画像の画像欠陥部分を、該判定対象画像の、画像欠陥部分の周囲に位置する周辺画素の画素値を用いて補間することにより行われる。
ただし、画像欠陥部分の画角値を補正する方法はこれに限定されるものではなく、該判定対象画像の画像欠陥部分を、該他のベストピント画像に対応する画角拡大画像における、判定対象画像の画像欠陥部分に対応する部分の画素の画素値を用いて補正してもよい。
さらに、該判定対象画像の画像欠陥部分を、判定対象画像の、画像欠陥部分の周囲に位置する周辺画素の画素値と、該他のベストピント画像に対応する画角拡大画像における、該画像欠陥部分に対応する部分の画素の画素値とを用い、具体的には、両者の画素値を適宜重み付けして加算した合成画素値を用いて補正してもよい。
そして、補正処理部134で補正された画像データCpsは動作制御部131を介して一時記憶メモリ140に格納される。その後、動作制御部131は、ステップS2で検出された欠陥疑惑部分を全て処理したか否かの判断を行い(ステップS8)、未処理の欠陥疑惑部分が残っておれば、動作制御部131は、ステップS3の処理に戻り、全ての欠陥疑惑部分に対する判定および補正処理が完了しておれば、一時記憶メモリ140に格納した補正済みの画像データを処理済みの画像データとして記録装置160に格納する(ステップS9)。
次に作用効果について説明する。
例えば、複数台のカメラ(実施形態1では2つのカメラモジュール)により同一被写体Taを撮影して撮像画像を取得する場合、各撮像画像に特有の画像部分が発生したときは、その画像部分が画素欠陥などに起因した画像欠陥部分であるか否かの判定を行う必要がある。
ところが、それぞれのカメラ(例えば、撮像部としてのカメラモジュール)で得られた撮像画像にはカメラの配置上、必ず他の撮像画像の画角外領域に対応する部分が発生するため、この実施形態1の撮像装置100では、撮像画像(ベストピント画像)に対して、オートフォーカスなどの機能を利用して画角を拡げた画角拡大画像を取得し、通常の撮影、つまり最適焦点位置での撮影では得られない画角外の情報を、欠陥の判定対象となる判定対象画像以外のベストピント画像から取得し、判定対象画像における、他のベストピント画像に対する画角外領域に対応する部分を、この他のベストピント画像の画角を拡げた画角拡大画像と比較することで、判定対象画像における画像欠陥部分を検出している。
従って、この実施形態1の撮像装置100では、2つのカメラモジュール110および120により、例えば立体画像を構成する視差を有する2つの撮像画像(ベストピント画像)を取得する場合、各カメラモジュールで得られる撮像画像のいずれの位置に画像欠陥部分が含まれていても、確実にかつ短時間に、黒キズやシミの原因となる画素欠陥などによる画像欠陥部分を検出することができる。
また、この実施形態1では、判定対象画像の画像欠陥部分に対して、該判定対象画像における、該画像欠陥部分の周辺に位置する画素の画素値、及び画像欠陥を含まない他の撮像画像における対応部分の画素の画素値の少なくとも一方を用いて画像情報を補間するので、2つのカメラモジュールの特性などを考慮して判定対象画像の周辺画素の画素値と他の撮像画像の画素値との重み付けを調整するなどにより、画像欠陥部分に適切な画素値を補填することが可能となる。
このように本実施形態1では、被写体を撮像する第1および第2のカメラモジュール110および120を有する撮像装置100において、モジュール制御部130を、各カメラモジュールが最適焦点位置で被写体を撮像してベストピント画像a1およびb1を生成する最適焦点モードと、各カメラモジュールがベストピント画像の画角より大きい画角で被写体を撮像して画角拡大画像a2およびb2を生成する画角拡大モードとを、各カメラモジュールの光学系114および124の焦点位置を制御することにより切り替えるように構成し、一方のベストピント画像の、他方のベストピント画像に対する画角外領域に対応する部分に含まれる画像欠陥部分Dpを、他方のベストピント画像の画角を拡大してなる画角拡大画像を用いて検出するようにしたので、視差を有する2つのカメラモジュールで得られた撮像画像の全領域にわたり、高精度にかつ高速に画像欠陥部分が存在するか否かの判定を行うことができる。
つまり、2つ以上のカメラモジュールを有する撮像装置であれば、あらゆる状況においても画像欠陥部分の検出および補正が可能となり、その結果、画像欠陥による画質の品位低下を防止することが可能となる。これにより、撮像装置の製造工程における異物除去にかかるコストの低減、さらに部材性能や設計面における低コスト化も可能となる。
さらに、撮影時に画像欠陥部分(黒キズ・シミ)を確実に検出できるために、可動異物による画質の低下を低減させることも可能となる。
また、使用時に撮像画像の画像欠陥部分の検出および補正が可能となるため、工程出荷時の異物出荷基準を緩和することも可能となる。
さらに、この実施形態1では、操作者によるシャッター操作に対応する操作信号を受けたとき、複数の撮像部の動作モードを、複数の撮像部の各々がベストピント画像を生成する最適焦点モードに設定し、最適焦点モードで得られた複数のベストピント画像のうちの判定対象画像の欠陥疑惑部分が、判定対象画像における他のベストピント画像に対する画角外領域に対応する部分に含まれているとき、他のベストピント画像に対応する画角拡大画像が生成されるように、最適焦点モードを画角拡大モードに切り換えるので、判定対象画像の画像欠陥部分を検出する際に不必要な画角拡大画像を生成する無駄な動作を回避することができ、電池など消費を抑えることができる。
(実施形態2)
図5は、本発明の実施形態2による撮像装置を説明する図であり、この撮像装置の全体構成を示している。
この実施形態2の撮像装置200は、実施形態1の撮像装置100におけるモジュール制御部130に代えて、このモジュール制御部130とは、撮像画像を取得する処理および画像欠陥部分を検出し補正する処理を行う順序が異なるモジュール制御部230を備えたものであり、その他の構成は、実施形態1における撮像装置100と同一である。
図6は、本発明の実施形態2による撮像装置を構成するモジュール制御部の構成を示している。
このモジュール制御部230は、実施形態1の撮像装置100を構成するモジュール制御部130における動作制御部131に代えて、常にベストピント画像とその画角を拡大して得られる画角拡大画像とが撮像されるように、光学系駆動制御部135を制御するとともに、イメージセンサ111および121の駆動回路112および122を制御する動作制御部231を備えたものであり、この実施形態2の撮像装置200におけるモジュール制御部230のその他の構成は実施形態1のモジュール制御部130におけるものと同一である。
つまり、この実施形態2の撮像装置200のモジュール制御部230では、動作制御部231は、シャッター操作時には、各カメラモジュールでベストピント画像およびこれに対応する画角拡大画像が連続して撮像されるようにカメラモジュール110および120を制御し、さらに撮像されたベストピント画像及び画角拡大画像の画像データを一時記憶メモリ140に格納し、撮像後にこれらの画像を編集あるいは表示したり、記録媒体に保存したりする際に、動作制御部231は、ベストピント画像における画像欠陥部分の検出および補正が行われるように、画像解析部132、比較部133および補正処理部134を制御する構成となっている。
次に動作について説明する。
図7は、本発明の実施形態2による撮像装置の動作を説明する図であり、図7(a)は、ベストピント画像および画角拡大画像を撮像する処理をフローチャートにより示し、図7(b)は、補正対象画像の画像欠陥部分を検出して補正する処理をフローチャートにより示している。
この実施形態2の撮像装置200では、図7(a)に示すように、シャッター操作時には、動作制御部231は、各カメラモジュールでベストピント画像およびこれに対応する画角拡大画像の撮像が連続して行われるようにカメラモジュール110、120の駆動回路および光学系を制御してベストピント画像および画角拡大画像を取得し、取得したベストピント画像及び画角拡大画像の画像データを一時記憶メモリ140に記憶する。このように被写体の撮像を行った後、これらの画像を出力する際、つまり撮像した画像を編集あるいは表示したり、記録媒体に保存したりする際に、図7(b)に示す処理フローに従って、ベストピント画像における画像欠陥部分を検出して補正する処理を行う。
以下、この実施形態2の撮像装置200の動作について詳述する。
この撮像装置200では、撮像モードにて操作者がシャッター操作を行うと、モジュール制御部230の動作制御部231は、シャッター操作に対応する操作信号Sopを受けて実施形態1のモジュール制御部130と同様にオートフォーカス動作を行って最適焦点位置を検出し、ベストピント画像が撮像されるように光学系114および124並びにイメージセンサ111および121の駆動回路112および122を制御する(ステップS1b)。これにより各カメラモジュール110および120でベストピント画像として撮像画像が生成されると、動作制御部231は、撮像画像の画像データPs1およびPsp2を取得し、これらの撮像画像の画像データを一時記憶メモリ140に格納する(ステップS2b)。
続いて、モジュール制御部230では動作制御部231は、光学系駆動制御部135に、焦点レンズ114aおよび124aを、ベストピント画像a1およびb1よりも画角の大きな画角拡大画像a2、b2が得られる位置に移動させるように光学系制御信号CLsにより指令する。これにより、光学系駆動制御部135はレンズ駆動機構114cおよび124cを駆動して焦点レンズ114aおよび124aを、イメージセンサ111および121から遠ざかる方向に移動させる。この状態で、カメラモジュール110および120で被写体の撮像が行われ(ステップS3b)、これにより撮像画像として画角拡大画像が生成されると、動作制御部231は、これらの撮像画像の画像データPs1およびPs2を取得して一時記憶メモリ140に格納する(ステップS4b)。
その後、撮影モードを終了して、撮影した画像データを編集あるいは表示したり、記録媒体に記録したりする際に、動作制御部231は、図7(b)に示すステップS11〜S13、S13a、S14〜S18に従って、ベストピント画像で生じている画像欠陥部分が検出され、さらに補正されるように、画像解析部132、比較部133および補正処理部134を制御する。
すなわち、操作者により、撮影した画像データの編集、表示あるいは記録媒体への記録を行うための操作が行われると、動作制御部231は、対応する操作信号Sopを受けて、撮像したベストピント画像a1およびb1の画像データPs1およびPs2を一時記憶メモリ140から読み出し(ステップS11)、さらに読み出した画像データを画像解析部132に供給すると、この画像解析部132では、この画像データPs1およびPs2に基づいて、ベストピント画像a1およびb1に、画像欠陥が発生していると疑われる欠陥疑惑部分が含まれているか否かを判定する(ステップS12)。この欠陥疑惑領域の判定の仕方は実施形態1で説明したものと同じ方法を用いる。
画像解析部132はこの判定の結果を示す判定信号Anを動作制御部231に送る。この判定の結果、いずれのベストピント画像a1およびb1も欠陥疑惑部分を含まない場合、動作制御部231は、一時記憶メモリ140に撮像画像として格納されているベストピント画像a1およびb1の画像データPs1、Ps2を出力する(ステップS18)。
具体的には、動作制御部231は、一時記憶メモリ140に格納されているベストピント画像a1およびb1の画像データPs1、Ps2が記憶装置160の記録媒体162に格納されるようにメモリ制御部161を制御したり、あるいは一時記憶メモリ140に格納されているベストピント画像a1およびb1の画像データPs1、Ps2に基づいて、これらのベストピント画像が表示部152で表示されるように表示制御部151を制御したり、あるいは動作制御部は、一時記憶メモリ140に格納されているベストピント画像a1およびb1の画像データPs1、Ps2が編集されるように編集処理部(図示せず)を制御する。
一方、ステップS12での判定の結果、ベストピント画像a1およびb1のいずれかに欠陥疑惑部分が含まれる場合、動作制御部231は、ベストピント画像a1およびb1の画像データPs1およびPs2と、画像解析部132からの判定信号Anに含まれる欠陥疑惑部分の位置を示す情報に基づいて、欠陥疑惑部分が、ベストピント画像a1およびb1の一方における、その他方の画角外領域に対応する部分に含まれるか否かの判定を行う(ステップS13)。
具体的には、動作制御部231は、図4に示すように、例えばベストピント画像a1に欠陥疑惑部分Dpがある場合、この欠陥疑惑部分Dpが、ベストピント画像a1におけるベストピント画像b1の画角外領域b11に対応する部分a12に含まれているか否かの判定を行う。
この判定の結果、欠陥疑惑部分Dpが、ベストピント画像a1およびb1の一方における他方のベストピント画像の画角内領域b1に対応する部分a1に含まれているときは、モジュール制御部230では動作制御部231の制御の下で、ベストピント画像a1およびb1同士の比較により欠陥疑惑部分Dpが画像欠陥部分であるか、あるいは本来の画像を構成する正常部分であるかの判定が行われ、画像欠陥部分であれば、これを修復する処理が行われ、画像欠陥部分でなければ、撮像画像であるベストピント画像の記録が行われる(ステップS13a)。このとき、ベストピント画像a1およびb1同士の比較は、動作制御部231の制御の下で比較部133により行われ、画像欠陥部分の補正は、動作制御部231の制御の下で補正処理部134により行われる。
その後、動作制御部231は、ステップS12で検出された欠陥疑惑部分を全て処理したか否かの判断を行い(ステップS17)、全ての欠陥疑惑部分に対する判定および補正処理が完了しておれば、補正処理部134で補正された画像データApsは動作制御部231を介して記録装置160の記録媒体162に格納されたり、表示部152に表示されたりする。(ステップS18)。
一方、未処理の欠陥疑惑部分が残っておれば、動作制御部231は、ステップS13の処理に戻る。
また、ステップS13での判定の結果、欠陥疑惑部分が、ベストピント画像a1およびb1の一方における他方の画角外領域に含まれているときは、動作制御部231は、一時記憶メモリ140に格納されている上記ベストピント画像およびこれに対応する画角拡大画像の画像データPs1およびPs2を比較部133に供給する。
比較部133では、例えば、欠陥疑惑部分Dpが、ベストピント画像a1の左端部分a12(つまり、ベストピント画像b1に対する画角外領域b11に対応する部分)(図4参照)に位置している場合は、ベストピントa1と画角拡大画像b2との比較を行って(ステップS14)、ベストピント画像b1の画角を拡大して得られた画角拡大画像b2(図4参照)に含まれる縮小合成領域rb10における、欠陥疑惑部分Dpに対応する部分に、欠陥疑惑部分Dpと同様な画素値を持つ画素が存在するか否かの判定を行う(ステップS15)。
この判定の結果、ベストピント画像a1の欠陥疑惑部分Dpが欠陥ではなかった場合は、動作制御部231は、すべての欠陥疑惑部分を処理したか否かの判定を行い(ステップs17)、全ての欠陥疑惑部分に対する判定および補正処理が完了しておれば、処理済みの画像データを出力する(ステップS18)。つまり、処理済みの画像データを記録媒体162に格納したり、あるいは表示部152に表示させたりする。
一方、未処理の欠陥疑惑部分が残っておれば、動作制御部131は、ステップS13の処理に戻る。
また、ステップS15での判定の結果、欠陥疑惑部分Dpがベストピント画像a1の画像欠陥部分であった場合は、この画像欠陥部分の補正は、動作制御部231の制御の下で補正処理部134により行われる(ステップS16)。この補正は、実施形態1で説明したものと同様のものである。
その後、動作制御部231は、すべての欠陥疑惑部分を処理したか否かの判定を行い(ステップS17)、未処理の欠陥疑惑部分が残っておれば、動作制御部231は、ステップS13の処理に戻り、全ての欠陥疑惑部分に対する判定および補正処理が完了しておれば、処理済みの画像データを出力する(ステップS18)。つまり、処理済みの画像データを記録媒体に格納したり、あるいは表示部に表示させたりする。
このように本実施形態2の撮像装置200では、シャッター操作時には、図7(a)に示す処理フローに従って、各カメラモジュール110および120でベストピント画像およびこれに対応する画角拡大画像の撮像を連続して行って、これらのベストピント画像及び画角拡大画像の画像データを一時記録メモリ140に記憶し、撮像後にこれらの画像を表示したり、記録媒体に保存したりする際に、図7(b)に示す処理フローに従って、ベストピント画像における画像欠陥部分を検出して補正する処理を行うので、実施形態1の撮像装置と同様に、視差を有する2つのカメラモジュールで得られる撮像画像の全領域にわたり、高精度にかつ高速に欠陥領域が存在するか否かの判定を行うことができる。
また、この実施形態2では、操作者によるシャッター操作信号を受けたとき、複数の撮像部の動作モードを、複数のカメラモジュール110および120の各々が最適焦点位置で被写体を撮像してベストピント画像を生成する最適焦点モードに設定し、最適焦点モードでカメラモジュールによりベストピント画像が生成された後、ベストピント画像に対応する画角拡大画像が生成されるように、最適焦点モードを画角拡大モードに切り換えるので、撮像時には判定対象画像における画像欠陥部分を検出する処理を省略し、この画像欠陥部分の検出処理を、撮像後にベストピント画像の編集や表示、あるいは記録媒体への記録を行うなどの、操作者が重要と考える撮像画像(ベストピント画像)に対してのみ行うことができ、画像欠陥部分の検出処理を効率よく行うことができる。
なお、上記実施形態1および2では、撮像装置が2つのカメラモジュールを有する場合について説明したが、撮像装置を構成する視差を有するカメラモジュールは2つに限定されるものではない。
本発明は、視差を有する3以上の撮像部(カメラモジュール)で同一の被写体を撮像する場合には、1つのカメラモジュールで得られた撮像画像における、他のカメラモジュールで得られた撮像領域の画角外領域に対応する部分にある欠陥疑惑部分が画像欠陥領域であるか正常な画像であるかを判定するのに適用することができる。
つまり、複数台のカメラ(例えば、撮像部としてのカメラモジュール)により同一被写体を撮影した際に、各々のカメラで生成された撮像画像にのみ存在する画像部分が発生した場合、それらの画像部分が欠陥部分であるか否かを判定する必要があるが、カメラの配置上、各カメラの撮像領域には、必ず他のカメラの撮像領域に対する画角外領域に対応する部分が発生する。そこで、他のカメラによる撮像画像の画角をオートフォーカス機能により拡げることにより、通常の最適焦点位置での撮影では得られない、他のカメラによる撮像画像の画角外領域の画像情報を取得し、判定対象画像(ベストピント画像)における、他のカメラによる撮像画像(ベストピント画像)に対する画角外領域に対応する部分を、この他のカメラによる撮像画像(ベストピント画像)の画角を拡げた画角拡大画像と比較することで、画像欠陥部分を検出することができ、あらゆる状況においても、確実に、かつ短時間に画素欠陥などに起因する画像欠陥部分(黒キズ・シミ)を検出することができる。
さらに、上記実施形態1および2では、特に説明しなかったが、上記実施形態1および2の撮像装置の少なくともいずれかを撮像手段として用いた、例えばデジタルビデオカメラ、デジタルスチルカメラなどのデジタルカメラや、画像入力カメラ、スキャナ、ファクシミリ、カメラ付き携帯電話装置などの、画像入力デバイスを有した電子情報機器について以下簡単に説明する。
(実施形態3)
図8は、本発明の実施形態3として、実施形態1あるいは2の撮像装置を撮像手段として用いた電子情報機器の概略構成例を示すブロック図である。
図8に示す本発明の実施形態3による電子情報機器90は、本発明の上記実施形態1および2の撮像装置の少なくともいずれかを、被写体の撮影を行う撮像手段91として備えたものであり、このような撮像手段による撮影により得られた高品位な画像データを記録用に所定の信号処理した後にデータ記録する記録メディアなどのメモリ部92と、この画像データを表示用に所定の信号処理した後に液晶表示画面などの表示画面上に表示する液晶表示装置などの表示部93と、この画像データを通信用に所定の信号処理をした後に通信処理する送受信装置などの通信部94と、この画像データを印刷(印字)して出力(プリントアウト)する画像出力部95とのうちの少なくともいずれかを有している。
このように2つのカメラモジュールを含む撮像装置を搭載した携帯電話などの電子情報機器では、2つのカメラモジュールで1つの被写体を撮像して得られる、例えば1つの立体画像を構成する右目画像および左目画像の一方の画像欠陥部分を、その他方の画像あるいはその画角拡大画像を用いて、立体画像を構成する各画像の全領域にわたり、高精度にかつ高速に欠陥領域が存在するか否かの判定を行うことができる。
以上のように、本発明の好ましい実施形態を用いて本発明を例示してきたが、本発明は、この実施形態に限定して解釈されるべきものではない。本発明は、特許請求の範囲によってのみその範囲が解釈されるべきであることが理解される。当業者は、本発明の具体的な好ましい実施形態の記載から、本発明の記載および技術常識に基づいて等価な範囲を実施することができることが理解される。本明細書において引用した特許、特許出願および文献は、その内容自体が具体的に本明細書に記載されているのと同様にその内容が本明細書に対する参考として援用されるべきであることが理解される。