JP2009111774A - 撮像装置および画像処理方法 - Google Patents
撮像装置および画像処理方法 Download PDFInfo
- Publication number
- JP2009111774A JP2009111774A JP2007282389A JP2007282389A JP2009111774A JP 2009111774 A JP2009111774 A JP 2009111774A JP 2007282389 A JP2007282389 A JP 2007282389A JP 2007282389 A JP2007282389 A JP 2007282389A JP 2009111774 A JP2009111774 A JP 2009111774A
- Authority
- JP
- Japan
- Prior art keywords
- image
- imaging
- focus
- optical system
- depth
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
【課題】光波面変調素子を用いる必要がなく、光学系に依存しない深度拡張システムを実現可能な撮像装置および画像処理方法を提供する。
【解決手段】光学系110からの被写体像の撮像素子120への結像状態を変化させることができる結像状態調節部300と、撮像素子120からの画像信号から少なくともピントに関する評価値を得る機能および画像信号に対して焦点深度拡張処理を施す深度拡張処理機能を有する画像処理装置140と、撮像素子120からの画像を複数エリアに分割し、結像状態調節部によって結像状態を変化させながら画像処理装置140によってピントに関する評価値を分割した複数エリア毎に取得し、それぞれ評価値がピークとなる焦点状態から被写体距離を推定し、それぞれ推定した被写体距離に対応する深度拡張フィルタを用いて焦点深度拡張処理を施すように制御する制御装置200とを有する。
【選択図】図1
【解決手段】光学系110からの被写体像の撮像素子120への結像状態を変化させることができる結像状態調節部300と、撮像素子120からの画像信号から少なくともピントに関する評価値を得る機能および画像信号に対して焦点深度拡張処理を施す深度拡張処理機能を有する画像処理装置140と、撮像素子120からの画像を複数エリアに分割し、結像状態調節部によって結像状態を変化させながら画像処理装置140によってピントに関する評価値を分割した複数エリア毎に取得し、それぞれ評価値がピークとなる焦点状態から被写体距離を推定し、それぞれ推定した被写体距離に対応する深度拡張フィルタを用いて焦点深度拡張処理を施すように制御する制御装置200とを有する。
【選択図】図1
Description
本発明は、撮像素子を用い、光学系を備えたデジタルスチルカメラや携帯電話搭載カメラ、携帯情報端末搭載カメラ、画像検査装置、自動制御用産業カメラ、情報コード読取装置等に適用可能な撮像装置および画像処理方法に関するものである。
近年急峻に発展を遂げている情報のデジタル化に相俟って映像分野においてもその対応が著しい。
特に、デジタルカメラに象徴されるように撮像面は従来のフィルムに代わって固体撮像素子であるCCD(Charge Coupled Device),CMOS(Complementary Metal Oxide Semiconductor)センサが使用されているのが大半である。
特に、デジタルカメラに象徴されるように撮像面は従来のフィルムに代わって固体撮像素子であるCCD(Charge Coupled Device),CMOS(Complementary Metal Oxide Semiconductor)センサが使用されているのが大半である。
このように、撮像素子にCCDやCMOSセンサを使った撮像レンズ装置は、被写体の映像を光学系により光学的に取り込んで、撮像素子により電気信号として抽出するものであり、デジタルスチルカメラの他、ビデオカメラ、デジタルビデオユニット、パーソナルコンピュータ、携帯電話機、携帯情報端末(PDA:Personal DigitalAssistant)、画像検査装置、自動制御用産業カメラ等に用いられている。
図22は、一般的な撮像レンズ装置の構成および光束状態を模式的に示す図である。
この撮像レンズ装置1は、光学系2とCCDやCMOSセンサ等の撮像素子3とを有する。
光学系は、物体側レンズ21,22、絞り23、および結像レンズ24を物体側(OBJS)から撮像素子3側に向かって順に配置されている。
この撮像レンズ装置1は、光学系2とCCDやCMOSセンサ等の撮像素子3とを有する。
光学系は、物体側レンズ21,22、絞り23、および結像レンズ24を物体側(OBJS)から撮像素子3側に向かって順に配置されている。
撮像レンズ装置1においては、図22に示すように、ベストフォーカス面を撮像素子面上に合致させている。
図23(A)〜(C)は、撮像レンズ装置1の撮像素子3の受光面でのスポット像を示している。
図23(A)〜(C)は、撮像レンズ装置1の撮像素子3の受光面でのスポット像を示している。
また、光波面変調素子である位相板により光束を規則的に分散し、デジタル処理により復元させ被写界深度の深い画像撮影を可能にする等の撮像装置が提案されている(たとえば非特許文献1,2、特許文献1〜5参照)。
"Wavefront Coding;jointly optimized optical and digital imaging systems",Edward R.Dowski,Jr.,Robert H.Cormack,Scott D.Sarama. "Wavefront Coding;A modern method of achieving high performance and/or low cost imaging systems",Edward R.Dowski,Jr.,Gregory E.Johnson. USP6,021,005
USP6,642,504
USP6,525,302
USP6,069,738
特開2003−235794号公報
"Wavefront Coding;jointly optimized optical and digital imaging systems",Edward R.Dowski,Jr.,Robert H.Cormack,Scott D.Sarama. "Wavefront Coding;A modern method of achieving high performance and/or low cost imaging systems",Edward R.Dowski,Jr.,Gregory E.Johnson.
ところで、上記技術では、位相変調素子(光波面変調素子)を光学系に挿入した際に、PSF(Point−Spread−Function)が一定になっていることが前提である。
そのために、そこで用いられる位相変調素子は各光学系固有のものとして設計、製造する必要があるため、汎用度が低いという欠点がある。
そのために、そこで用いられる位相変調素子は各光学系固有のものとして設計、製造する必要があるため、汎用度が低いという欠点がある。
本発明の目的は、光波面変調素子を用いる必要がなく、光学系に依存しない深度拡張システムを実現可能な撮像装置および画像処理方法を提供することにある。
本発明の第1の観点の撮像装置は、光学系と、前記光学系を通過した被写体像を撮像する撮像素子と、前記撮像素子への結像状態を変化させることができる結像状態調節部と、前記撮像素子からの画像信号から少なくともピントに関する評価値を得る機能を有する画像信号処理部と、前記画像信号処理部からの画像信号に対して焦点深度拡張処理を施す深度拡張処理部と、前記焦点深度拡張処理で用いる被写体距離に応じた特性を持つ複数の深度拡張フィルタを格納する記憶部と、前記撮像素子からの画像を複数エリアに分割し、前記結像状態調節部によって結像状態を変化させながら前記画像信号処理部によって前記ピントに関する評価値を前記分割した複数エリア毎に取得し、それぞれ前記評価値がピークとなる焦点状態から被写体距離を推定し、それぞれ推定した被写体距離に対応する前記深度拡張フィルタを用いて前記焦点深度拡張処理を施す制御部とを有する。
好適には、前記制御部は、前記分割した複数エリアのうち選択されたエリアに対してのみ前記深度拡張処理を施す。
好適には、前記結像状態調節部は、前記深度拡張処理を施す画像を撮像する場合は、前記選択されたエリアの焦点位置の分布の中央となる位置に焦点調節を行う。
好適には、前記結像状態調節部は、前記光学系の全部もしくは一部を光軸方向に移動させることによって結像状態の調節を行う。
好適には、前記結像状態調節部は、前記撮像素子を光軸方向に移動させることによって結像状態の調節を行う。
好適には、前記結像状態調節部は、前記光学系の光軸上の何れかの位置に焦点距離が外部信号に依存する外部依存型レンズが配置されている。
好適には、前記結像状態調節部の外部依存型レンズには、液体レンズもしくは液晶レンズを含む。
本発明の第2の観点の画像処理方法は、光学系を通過した被写体像を撮像し、撮像した画像データに画像処理を行う画像処理方法であって、前記撮像素子からの画像を複数エリアに分割するステップと、前記撮像素子への結像状態を変化させながら当該撮像素子からの画像信号から少なくともピントに関する評価値を前記分割した複数エリア毎に取得するステップと、それぞれ前記評価値がピークとなる焦点状態から被写体距離を推定するステップと、それぞれ推定した被写体距離に対応する前記深度拡張フィルタを用いて前記焦点深度拡張処理を施すステップとを有する。
本発明によれば、波面変調素子を用いる必要がなく、光学系に依存しない深度拡張システムを実現することができる。
以下、本発明の実施形態を添付図面に関連付けて説明する。
図1は、本発明に係る撮像装置の一実施形態を示すブロック構成図である。
本実施形態に係る撮像装置100は、光学系110、撮像素子120、アナログフロントエンド部(AFE)130、画像処理装置140、記憶部としてのメモリ150、カメラ信号処理部160、画像表示メモリ170、画像モニタリング装置180、操作部190、制御装置200、および結像状態調節部300を有している。
本実施形態においては、画像処理装置140は、画像信号処理部および深度拡張処理部として機能する。
本実施形態においては、画像処理装置140は、画像信号処理部および深度拡張処理部として機能する。
本実施形態に係る撮像装置100は、光学系110に光波面変調素子を適用せずに、光学系に依存しない深度拡張光学系システム(DEOS:Depth Expantion Optical system)というシステムを採用し、被写体像を的確に高精度で読み取ることが可能に構成されている。
本撮像装置100においては、後で詳述するように、撮像素子120からの画像を複数エリアに分割し、光学系110による被写体像の撮像素子120への結像状態を変化させながら撮像素子120からの画像信号から少なくともピントに関する評価値を分割した複数エリア毎に取得して、各評価値がピークとなる焦点状態から被写体距離を推定し、それぞれ推定した被写体距離に対応する深度拡張フィルタを用いて焦点深度拡張処理を施す機能を有している。
光学系110は、被写体OBJを撮影した像を撮像素子120に供給する。
撮像素子120は、光電変換素子として機能し、光学系110で取り込んだ像が結像され、結像1次画像情報を電気信号の1次画像信号FIMとして、アナログフロントエンド部130を介して画像処理装置140に出力するCCDやCMOSセンサからなる。
図1においては、撮像素子120を一例としてCCDとして記載している。
図1においては、撮像素子120を一例としてCCDとして記載している。
本実施形態においては、光学系110による被写体像の撮像素子120への結像状態が、結像状態調節部300により変動可能に構成されている。
アナログフロントエンド部130は、タイミングジェネレータ131と、アナログ/デジタル(A/D)コンバータ132と、を有する。
タイミングジェネレータ131では、撮像素子120のCCDの駆動タイミングを生成しており、A/Dコンバータ132は、CCDから入力されるアナログ信号をデジタル信号に変換し、画像処理装置140に出力する。
タイミングジェネレータ131では、撮像素子120のCCDの駆動タイミングを生成しており、A/Dコンバータ132は、CCDから入力されるアナログ信号をデジタル信号に変換し、画像処理装置140に出力する。
画像信号処理部の一部を構成する画像処理装置(二次元コンボリューション手段)140は、前段のAFE130からくる撮像画像のデジタル信号を入力し、二次元のコンボリューション処理を施し、後段のカメラ信号処理部(DSP)160に渡す。
画像処理装置140は、撮像素子120からの画像を複数エリアに分割し、光学系110による被写体像の撮像素子120への結像状態を変化させながら得られる撮像素子120からの画像信号から少なくともピントに関する評価値を分割した複数エリア毎に取得して、各評価値がピークとなる焦点状態から被写体距離を推定し、それぞれ推定した被写体距離に対応する深度拡張フィルタを用いて焦点深度拡張処理を施す。
実際の撮影時であるが、通常、画面内の位置により物体距離は異なっている。そこで、上述と同様に光線の結像状態を変化させながら撮影を行い、画面内の各位置において、事前にメモリ150に記録していたボケ方の変化情報と比較する事で、測距を行う。
メモリ150には、物体距離が既存な物体を光線の結像状態を変化させながら撮影、事前情報として図2に示すような、ボケ方情報を記録しておく。換言すれば、メモリ150は、この物体の結像状態を変化させることによる生じる結像状態の変化を格納する。
画像処理装置140は、制御装置200の各種情報に応じて、画像データに対してフィルタリング処理を行う。
画像処理装置140は、制御装置200の各種情報に応じて、画像データに対してフィルタリング処理を行う。
また、画像処理装置140は、基本的に、図1に示すように、生(RAW)バッファメモリ141、コンボリューション演算器142、記憶手段としてのカーネルデータ格納ROM143、およびコンボリューション制御部144を有する。
コンボリューション制御部144は、コンボリューション処理のオンオフ、画面サイズ、カーネルデータの入れ替え等の制御を行い、制御装置200により制御される。
また、カーネルデータ格納ROM143には、たとえば図2に示すように予め用意されたそれぞれの光学系のPSFにより算出されたコンボリューション用のカーネルデータが格納されており、コンボリューション制御部144を通じてカーネルデータを選択制御する。
図3の例では、カーネルデータAは物体距離情報が100mm、カーネルデータBは物体距離が500mm、カーネルデータCは物体距離が4mに対応したデータとなっている。
以下に、本実施形態の画像処理装置140の画像分割による焦点深度拡張処理についてさらに詳述する。
<画面分割>
画像処理装置140において画面(画像)を、たとえば図4に示すように、3×4の12個のエリアA〜Lに分割する。
分割形状は正方形状にはこだわらないが、処理の便宜上はその方が有利である。
分割はより細かい方が望ましい。但し細かすぎると演算量が増大することから、適度の分割数を選定する。
画像処理装置140において画面(画像)を、たとえば図4に示すように、3×4の12個のエリアA〜Lに分割する。
分割形状は正方形状にはこだわらないが、処理の便宜上はその方が有利である。
分割はより細かい方が望ましい。但し細かすぎると演算量が増大することから、適度の分割数を選定する。
<結像状態を変化させながら、それぞれのエリア内で独立してAF評価値を算出>
図5は、結像状態の変化に伴うAF評価値の変化の例を示す図である。
図5は、結像状態の変化に伴うAF評価値の変化の例を示す図である。
ピントが合った結像状態の場合はAF評価値が高く、ピントが前側にずれる場合(前ピン)にしても、後ろ側にずれる場合(後ピン)にしてもはずれるほどAF評価値は低くなる。つまり、無限遠から至近まで結像状態を変化させていくと、図5に示すように、山状の軌跡を描く。この山のピークの結像状態が、最も被写体にピントが合った状態ということになる(所謂山登り方式もしくはコントラスト方式のAF)。
結像状態を変化させる方法は後で詳述するように様々な方法があるが、以下の説明では、一例として現状で最も一般的なレンズを動かす方法を挙げて説明する。
AF評価値も画像のコントラスト値をとる方法やエッジの先鋭度(微分値)をとる方法等があるが、ここでの説明では、一般的なコントラスト値にて説明する。
AF評価値も画像のコントラスト値をとる方法やエッジの先鋭度(微分値)をとる方法等があるが、ここでの説明では、一般的なコントラスト値にて説明する。
<エリア毎のAF評価値の軌跡>
図6(A)〜(D)は、光学系110のレンズを無限遠から至近端に向かって移動させながら、それぞれレンズ位置において各分割エリア内でコントラスト値を算出し、プロットした例を示す図である。
図6(A)〜(D)は、光学系110のレンズを無限遠から至近端に向かって移動させながら、それぞれレンズ位置において各分割エリア内でコントラスト値を算出し、プロットした例を示す図である。
エリアAおよびBについては、図4に示すように、被写体は遠景の山で、空と山の稜線がはっきりしているためコントラストも高い。よって、図6(A)および(B)に示すように、軌跡は遠側にピークがあり、かつピークにおけるコントラスト値は高いものとなっている。
エリアFについては、図4に示すように、主要被写体は比較的近距離に位置する人の顔で、コントラストもあまり高くないものとすると、図6(C)に示すように、軌跡は近側にピークがあり、かつピークにおけるコントラスト値は低いものとなる。
エリアHについては、図4に示すように、主要被写体は中距離に位置する樹木で、コントラストは比較的はっきりしているものとすると、図6(D)に示すように、軌跡は中距離位置にピークがあり、かつピークにおけるコントラスト値も比較的高い値を示すものとなる。
エリアFについては、図4に示すように、主要被写体は比較的近距離に位置する人の顔で、コントラストもあまり高くないものとすると、図6(C)に示すように、軌跡は近側にピークがあり、かつピークにおけるコントラスト値は低いものとなる。
エリアHについては、図4に示すように、主要被写体は中距離に位置する樹木で、コントラストは比較的はっきりしているものとすると、図6(D)に示すように、軌跡は中距離位置にピークがあり、かつピークにおけるコントラスト値も比較的高い値を示すものとなる。
<エリア毎に最適な深度拡張フィルタの選択>
以上のように、各エリアにおけるレンズ位置に対するコントラスト値の軌跡が求まると、そのピークを示すレンズ位置に対応する被写体位置が、各エリアの主要被写体の被写体距離と言うことになる。
ここで、任意のレンズ位置(たとえば全距離領域でバランスを取るために無限遠と至近端の中央のレンズ位置)における各被写体距離に応じた深度拡張フィルタを各エリアの被写体距離に合わせて選択して、エリア毎に深度拡張処理を実施することにより、各被写体にピントの合った画を得ることができる。
以上のように、各エリアにおけるレンズ位置に対するコントラスト値の軌跡が求まると、そのピークを示すレンズ位置に対応する被写体位置が、各エリアの主要被写体の被写体距離と言うことになる。
ここで、任意のレンズ位置(たとえば全距離領域でバランスを取るために無限遠と至近端の中央のレンズ位置)における各被写体距離に応じた深度拡張フィルタを各エリアの被写体距離に合わせて選択して、エリア毎に深度拡張処理を実施することにより、各被写体にピントの合った画を得ることができる。
<エリアの選択>
分割したエリアをある条件によって選択し、その選択したエリアの被写体距離を中心に深度拡張処理を行う方法もある。
深度拡張フィルタは、レンズ位置毎に被写体距離(代表的な数種類でOK)に応じたものを用意する。
分割したエリアをある条件によって選択し、その選択したエリアの被写体距離を中心に深度拡張処理を行う方法もある。
深度拡張フィルタは、レンズ位置毎に被写体距離(代表的な数種類でOK)に応じたものを用意する。
・決め込み
画面内のある任意のエリア(たとえば画面中央部)のレンズ位置に対するコントラスト値の軌跡から対象エリアの主要被写体の距離を割り出す。
レンズ位置はコントラスト値のピークが得られた位置で画像を取り込み、そのレンズ位置における各被写体距離に応じた深度拡張フィルタを用いて深度拡張処理を行う。
画面内のある任意のエリア(たとえば画面中央部)のレンズ位置に対するコントラスト値の軌跡から対象エリアの主要被写体の距離を割り出す。
レンズ位置はコントラスト値のピークが得られた位置で画像を取り込み、そのレンズ位置における各被写体距離に応じた深度拡張フィルタを用いて深度拡張処理を行う。
・近距離を選択
たとえば、前出の図4を用いると各エリアにおけるレンズ位置に対するコントラスト値の軌跡を求めた結果、最も近距離に主要被写体(人)があるエリアはF(もしくはJ)となる。そこで、エリアFでコントラスト値のピークが得られたレンズ位置にて画像を取り込み、そのレンズ位置における各被写体距離に応じた深度拡張フィルタを用いて深度拡張処理を行う。
たとえば、前出の図4を用いると各エリアにおけるレンズ位置に対するコントラスト値の軌跡を求めた結果、最も近距離に主要被写体(人)があるエリアはF(もしくはJ)となる。そこで、エリアFでコントラスト値のピークが得られたレンズ位置にて画像を取り込み、そのレンズ位置における各被写体距離に応じた深度拡張フィルタを用いて深度拡張処理を行う。
また、選択するのは複数個所としても良い。
図7は、エリアFと、エリアFの次に近い距離に主要被写体(樹木)があるエリアHのコントラスト値の軌跡を併せて示す図である。
この2つのエリアをバランス良く深度内に収めるには、図7に示すように、レンズ位置を双方の中間の位置において画像を取り込み、そのレンズ位置における各被写体距離に応じた深度拡張フィルタを用いて深度拡張処理を行う。
なお、選択するのは近距離に限らず、遠距離やある任意の距離範囲という設定もある。
図7は、エリアFと、エリアFの次に近い距離に主要被写体(樹木)があるエリアHのコントラスト値の軌跡を併せて示す図である。
この2つのエリアをバランス良く深度内に収めるには、図7に示すように、レンズ位置を双方の中間の位置において画像を取り込み、そのレンズ位置における各被写体距離に応じた深度拡張フィルタを用いて深度拡張処理を行う。
なお、選択するのは近距離に限らず、遠距離やある任意の距離範囲という設定もある。
・被写体を識別して選択
被写体の特徴を識別(たとえば人の顔)してその被写体距離に合わせた画像の取り込みおよび深度拡張処理を行う方法も選択方法の違いのみで上記同様の手順で可能である。
識別対象の特徴を持った被写体が複数(複数人)検出された場合も上記と同様である。
被写体の特徴を識別(たとえば人の顔)してその被写体距離に合わせた画像の取り込みおよび深度拡張処理を行う方法も選択方法の違いのみで上記同様の手順で可能である。
識別対象の特徴を持った被写体が複数(複数人)検出された場合も上記と同様である。
カメラ信号処理部(DSP)160は、カラー補間、ホワイトバランス、YCbCr変換処理、圧縮、ファイリング等の処理を行い、画像表示メモリ170への格納や画像モニタリング装置180への画像表示等を行う。
制御装置200は、露出制御を行うとともに、操作部190などの操作入力を持ち、それらの入力に応じて、システム全体の動作を決定し、AFE130、画像処理装置140、DSP150等を制御し、システム全体の調停制御を司るものである。
また、制御装置200は、制御信号CTLにより結像状態調節部300を制御して、光学系110または、および撮像素子120を駆動して光学系110による被写体像の撮像素子120への結像状態を変化させる。
たとえば制御装置200は、結像状態調節部300により光学系110または、および撮像素子120の相対位置を光軸方向に変動させる。
たとえば制御装置200は、結像状態調節部300により光学系110または、および撮像素子120の相対位置を光軸方向に変動させる。
結像状態調節部300は、図1に示すように、駆動制御装置310、光学系駆動機構部320、および撮像素子駆動機構部330により構成されている。
駆動制御装置310は、制御装置200による制御信号CTLに応じて光学系110による被写体像の撮像素子120への結像状態を変化させるために、駆動信号DRV1を光学系駆動機構部320に出力し、または、および、駆動信号DRV2を撮像素子駆動機構部330に出力する。
光学系駆動機構部320は、駆動制御装置310による駆動信号DRV1に応答して、光学系110を光軸に平行方向に駆動する。
撮像素子駆動機構部330は、駆動制御装置310による駆動信号DRV2に応答して、撮像素子120を光軸に平行方向に駆動する。
図8(A),(B)は、光学系および撮像素子を光軸に方向に変動させる光学系駆動機構部および撮像素子駆動機構部の第1の構成例を示す図であって、図8(A)が光学系駆動機構部の第1の構成例を示す図8(B)が撮像素子駆動機構部の第1の構成例を示している。
光学系駆動機構部320Aは、図8(A)に示すように、図中に設定した直交座標系におけるZ方向において、光学系110の光軸と直交する側面に配置されたアクチュエータ323を有している。
撮像素子駆動機構部330Aは、図中に設定した直交座標系におけるZ方向において、可動ステージ331の撮像素子120の配置面と対向する面に配置されたアクチュエータ334を有している。
なお、駆動機構は像の変化量としてたとえば1画素ピッチ以下未満の微小変動が目的である等のため、ピエゾ素子や磁歪素子、ボイスコイルモータといったアクチュエータが適している。
図9(A),(B)は、光学系および撮像素子を光軸に方向に変動させる光学系駆動機構部および撮像素子駆動機構部の第2の構成例を示す図であって、図9(A)が光学系駆動機構部の第2の構成例を示す図9(B)が撮像素子駆動機構部の第2の構成例を示している。
光学系駆動機構部320Bは、図9(A)に示すように、アクチュエータの代わりに、モータ324を用い、リードスクリュー325を時計方向または反時計方向に回転させることにより締結部326に固定されたレンズを光軸方向に移動させる。
撮像素子駆動機構部330Bは、アクチュエータの代わりに、モータ335を用い、リードスクリュー336を時計方向または反時計方向に回転させることにより可動ステージ331に固定された撮像素子120を光軸方向に移動させる。
このように、本実施形態に係る撮像装置100において、画像処理装置140は、撮像素子120からの画像を複数エリアに分割し、結像状態調節部300により光学系110を介した被写体像の撮像素子120への結像状態を変化させながら得られる撮像素子120からの画像信号から少なくともピントに関する評価値を分割した複数エリア毎に取得して、各評価値がピークとなる焦点状態から被写体距離を推定し、それぞれ推定した被写体距離に対応する深度拡張フィルタを用いて焦点深度拡張処理を施す。
ここで、画像処理の基本原理について説明した後、画像処理装置140における画像分割による焦点深度拡張処理について要約して説明する。
図10に示すように、被写体の画像fが光学系Hに入ることにより、g画像が生成される。
これは、次のような式で表される。
これは、次のような式で表される。
[数1]
g=H*f
ただし、*はコンボリューションを表す。
g=H*f
ただし、*はコンボリューションを表す。
生成された画像から被写体を求めるためには、次の処理を要する。
[数2]
f=H-1*g
f=H-1*g
ここで、Hに関するカーネルサイズと演算係数について説明する。
光学切り替え情報をKPn,KPn−1・・・とする。また、それぞれのH関数をHn,Hn−1、・・・・とする。
各々のスポット像が異なるため、各々のH関数は、次のようになる。
光学切り替え情報をKPn,KPn−1・・・とする。また、それぞれのH関数をHn,Hn−1、・・・・とする。
各々のスポット像が異なるため、各々のH関数は、次のようになる。
この行列の行数および/または列数の違いをカーネルサイズ、各々の数字を演算係数とする。
ここで、各々のH関数はメモリに格納しておいても構わないし、PSFを物体距離の関数としておき、物体距離によって計算し、H関数を算出することによって任意の物体距離に対して最適なフィルタを作るように設定できるようにしても構わない。また、H関数を物体距離の関数として、物体距離によってH関数を直接求めても構わない。
ここで、各々のH関数はメモリに格納しておいても構わないし、PSFを物体距離の関数としておき、物体距離によって計算し、H関数を算出することによって任意の物体距離に対して最適なフィルタを作るように設定できるようにしても構わない。また、H関数を物体距離の関数として、物体距離によってH関数を直接求めても構わない。
次に、画像処理装置140における画像分割による焦点深度拡張処理について、図11〜図15に関連付けて説明する。
図11は、画像分割による焦点深度拡張処理について説明するためのフローチャートである。
図12は、画面内のある位置における事前評価情報例を示す図である。
図13は、被写体距離の変化に相当する結像状態の変化量を示す図である。
図14は、結像状態の変化における評価値の変化を示す図である。
図15は、メモリに格納された深度拡張フィルタの例を示す図である。
図12は、画面内のある位置における事前評価情報例を示す図である。
図13は、被写体距離の変化に相当する結像状態の変化量を示す図である。
図14は、結像状態の変化における評価値の変化を示す図である。
図15は、メモリに格納された深度拡張フィルタの例を示す図である。
ステップST10:
画像gを複数のエリアに分割し、さらに結像状態調節部300の焦点調節機能によって結像状態を変化させながら(ST11)、画像を取得し、画像の各位置の評価値aijを順次取得する(ST12〜ST15)。
図12に示すような、位置毎の評価情報は、事前にピント(基準)位置前後のデフォーカス評価値を画面内の各位置に対して取得し、算出されるフィルタを図15に示すように、メモリ150に確保しておく。
画像gを複数のエリアに分割し、さらに結像状態調節部300の焦点調節機能によって結像状態を変化させながら(ST11)、画像を取得し、画像の各位置の評価値aijを順次取得する(ST12〜ST15)。
図12に示すような、位置毎の評価情報は、事前にピント(基準)位置前後のデフォーカス評価値を画面内の各位置に対して取得し、算出されるフィルタを図15に示すように、メモリ150に確保しておく。
ステップST20:
結像状態を変化した時の各エリアのピント位置の状態より被写体距離を推定する(ST21)。
被写体距離の算出は、結像状態を変化させて取得した評価値からピント位置までの変化量を算出する。この変化量から事前に記録しておいた位置毎の評価情報と比較し、被写体距離を算出する。
結像状態を変化した時の各エリアのピント位置の状態より被写体距離を推定する(ST21)。
被写体距離の算出は、結像状態を変化させて取得した評価値からピント位置までの変化量を算出する。この変化量から事前に記録しておいた位置毎の評価情報と比較し、被写体距離を算出する。
ステップST30:
各位置に対応するフィルタH-1 ijを選択する。
被写体距離に適応するフィルタH-1 ijを元画像gi0に掛け被写体画像fi0を生成する(ST31,ST32)。
各位置に対応するフィルタH-1 ijを選択する。
被写体距離に適応するフィルタH-1 ijを元画像gi0に掛け被写体画像fi0を生成する(ST31,ST32)。
図16は、本実施形態にかかる撮像位置において、物体が焦点位置から外れたときの変調伝達関数(MTF)のレスポンスを示す図である。
図17は、データ復元後のMTFのレスポンスを示す図である。
図17は、データ復元後のMTFのレスポンスを示す図である。
図からもわかるように、本実施形態の撮像装置によれば、コンボリューションフィルタによる処理によって、MTFのレスポンスが向上する。
以上説明したように、本実施形態によれば、光学系110と、光学系110を通過した被写体像を撮像する撮像素子120と、撮像素子120への結像状態を変化させることができる結像状態調節部300と、撮像素子120からの画像信号から少なくともピントに関する評価値を得る機能および画像信号に対して焦点深度拡張処理を施す深度拡張処理機能を有する画像処理装置140と、焦点深度拡張処理で用いる被写体距離に応じた特性を持つ複数の深度拡張フィルタを格納するメモリ150と、撮像素子120からの画像を複数エリアに分割し、結像状態調節部によって結像状態を変化させながら画像処理装置140によってピントに関する評価値を分割した複数エリア毎に取得し、それぞれ評価値がピークとなる焦点状態から被写体距離を推定し、それぞれ推定した被写体距離に対応する深度拡張フィルタを用いて焦点深度拡張処理を施すように制御する制御装置200とを有することから、光波面変調素子を用いる必要がなく、光学系に依存しない深度拡張システムを実現することができる。
光波面変調素子を用いないで行う深度拡張と用いる場合との効果について考察する。
光波面変調素子を用いると、光学系のピント位置から離れてデフォーカス量が大きくなっても、ある程度まではMTFの低下を抑えることができる。よって、そこに深度拡張処理をかけてやることで、広い被写体距離範囲を深度内に収めることができる。
光波面変調素子を用いると、光学系のピント位置から離れてデフォーカス量が大きくなっても、ある程度まではMTFの低下を抑えることができる。よって、そこに深度拡張処理をかけてやることで、広い被写体距離範囲を深度内に収めることができる。
これに対し、光波面変調素子を用いない場合は、光学系のピント位置から離れた距離においてMTFの低下を抑えることができないため、深度拡張処理によって深度内に収めることができる被写体距離範囲も、光波面変調素子を用いた場合に比べてあまり広くは望めない。
しかし、光波面変調素子を用いない深度拡張処理は、構成の簡略化や、コスト面でメリットはある。
しかし、光波面変調素子を用いない深度拡張処理は、構成の簡略化や、コスト面でメリットはある。
なお、上述した実施形態においては、結像状態を変化させるために、たとえば、レンズ、または、光学系、もしくは像面を光軸方向に駆動する機構的な結像状態調節部を用いた場合を例に説明した。
結像状態調節部は、機構部が無いほうが、大きさが小さくなり、また、製品の耐環境性が向上するため望ましい。
したがって、焦点距離が外部信号に依存する外部依存型レンズ、たとえば液体レンズもしくは液晶レンズを適用すると良い。
結像状態調節部は、機構部が無いほうが、大きさが小さくなり、また、製品の耐環境性が向上するため望ましい。
したがって、焦点距離が外部信号に依存する外部依存型レンズ、たとえば液体レンズもしくは液晶レンズを適用すると良い。
図18は、液晶素子(液晶レンズ)を用いた構成例を示す図である。
図18の例では、撮像素子120を含むセンサユニット210において、撮像素子120の結像面の近傍に液晶レンズ340を配置し、たとえば制御装置200による制御信号(電圧)を液晶レンズ340に与えて、光学系110、液晶レンズ340による光線の結像状態を変化させる。
後の処理は、先に詳述したとおりである。
後の処理は、先に詳述したとおりである。
図19は、液体レンズを用いた構成例を示す図である。
図19の例では、光学系110の前面、すなわち被写体側に液体レンズ350を配置し、たとえば制御装置200による制御信号(電圧)を液体レンズ350に与えて、液体レンズ350、光学系110による光線の結像状態を変化させる。
後の処理は、先に詳述したとおりである。
後の処理は、先に詳述したとおりである。
本実施形態に係る撮像装置100は、デジタルカメラやカムコーダー等の民生機器の小型、軽量、コストを考慮されたDEOSの光学システムに使用することが可能である。
ところで、CCDやCMOSセンサを撮像素子として用いた場合、画素ピッチから決まる解像力限界が存在し、光学系の解像力がその限界解像力以上であるとエリアジングのような現象が発生し、最終画像に悪影響を及ぼすことは周知の事実である。
画質向上のため、可能な限りコントラストを上げることが望ましいが、そのことは高性能なレンズ系を必要とする。
画質向上のため、可能な限りコントラストを上げることが望ましいが、そのことは高性能なレンズ系を必要とする。
しかし、上述したように、CCDやCMOSセンサを撮像素子として用いた場合、エリアジングが発生する。
現在、エリアジングの発生を避けるため、撮像レンズ装置では、一軸結晶系からなるローパスフィルタを併用し、エリアジングの現象の発生を避けている。
このようにローパスフィルタを併用することは、原理的に正しいが、ローパスフィルタそのものが結晶でできているため、高価であり、管理が大変である。また、光学系に使用することは光学系をより複雑にしているという不利益がある。
現在、エリアジングの発生を避けるため、撮像レンズ装置では、一軸結晶系からなるローパスフィルタを併用し、エリアジングの現象の発生を避けている。
このようにローパスフィルタを併用することは、原理的に正しいが、ローパスフィルタそのものが結晶でできているため、高価であり、管理が大変である。また、光学系に使用することは光学系をより複雑にしているという不利益がある。
以上のように、時代の趨勢でますます高精細の画質が求められているにもかかわらず、高精細な画像を形成するためには、従来の撮像レンズ装置では光学系を複雑にしなければならない。複雑にすれば、製造が困難になったりし、また高価なローパスフィルタを利用したりするとコストアップにつながる。
しかし、本実施形態によれば、ローパスフィルタを用いなくとも、エリアジングの現象の発生を避けることができ、高精細な画質を得ることができる。
しかし、本実施形態によれば、ローパスフィルタを用いなくとも、エリアジングの現象の発生を避けることができ、高精細な画質を得ることができる。
なお、このような特徴を有する本実施形態に係る撮像装置は、たとえば図21に示すような情報コード読取装置に適用可能である。
図20は、本発明の実施形態に係る撮像装置を適用可能な情報コード読取装置の一例を示す外観図である。
図21(A)〜(C)は、情報コードの例を示す図である。
図21(A)〜(C)は、情報コードの例を示す図である。
本実施形態に係る情報コード読取装置400は、図20に示すように、本体410がケーブル411を介して図示しない電子レジスタ等の処理装置と接続され、たとえば読み取り対象物420に印刷された反射率の異なるシンボル、コード等の情報コード421を読み取り可能な装置である。
情報コード読取装置400は、本体410に形成された読取開始スイッチ412が操作されると、それをトリガとして、情報コードの読み取りを、たとえば10回試みて7回デコード判定で可となればそれをデコード結果とする機能を有している。
この機能を有する理由は、情報コードの読み取り1回でデコード判定を可とすると、外乱や弱い情報に対して読み取りができない状態が続く場合が想定されることから、利用者の使い勝手を考慮したものである。ちなみにこの再試行の7回の設定は変更できように構成されている。
この機能を有する理由は、情報コードの読み取り1回でデコード判定を可とすると、外乱や弱い情報に対して読み取りができない状態が続く場合が想定されることから、利用者の使い勝手を考慮したものである。ちなみにこの再試行の7回の設定は変更できように構成されている。
読み取り対象の情報コードとしては、たとえば図21(A)に示すような、JANコードのような1次元のバーコード422と、図21(B)および(C)に示すようなスタック式のCODE49、あるいはマトリックス方式のQRコードのような二次元のバーコード423が挙げられる。
本実施形態に係る情報コード読取装置400は、本体410内に、図示しない照明光源と、図1に示すような撮像装置100とが配置される。
情報コード読取装置400の配置される撮像装置100は、たとえば外部とのびインタフェース部(I/F)が設けられる。
情報コード読取装置400の配置される撮像装置100は、たとえば外部とのびインタフェース部(I/F)が設けられる。
本実施形態に係る情報コード読取装置400によれば、画像の復元処理においてコントラストの向上と共に深度を拡張することができ、精度の高いコード読み取りを実現できる。
100・・・撮像装置、110・・・光学系、120・・・撮像素子、130・・・アナログフロントエンド部(AFE)、140・・・画像処理装置、160・・・カメラ信号処理部、190・・・操作部、200・・・制御装置、300・・・結像状態調節部、400・・・情報コード読取装置、421・・・情報コード。
Claims (8)
- 光学系と、
前記光学系を通過した被写体像を撮像する撮像素子と、
前記撮像素子への結像状態を変化させることができる結像状態調節部と、
前記撮像素子からの画像信号から少なくともピントに関する評価値を得る機能を有する画像信号処理部と、
前記画像信号処理部からの画像信号に対して焦点深度拡張処理を施す深度拡張処理部と、
前記焦点深度拡張処理で用いる被写体距離に応じた特性を持つ複数の深度拡張フィルタを格納する記憶部と、
前記撮像素子からの画像を複数エリアに分割し、前記結像状態調節部によって結像状態を変化させながら前記画像信号処理部によって前記ピントに関する評価値を前記分割した複数エリア毎に取得し、それぞれ前記評価値がピークとなる焦点状態から被写体距離を推定し、それぞれ推定した被写体距離に対応する前記深度拡張フィルタを用いて前記焦点深度拡張処理を施す制御部と
を有する撮像装置。 - 前記制御部は、
前記分割した複数エリアのうち選択されたエリアに対してのみ前記深度拡張処理を施す
請求項1に記載の撮像装置。 - 前記結像状態調節部は、
前記深度拡張処理を施す画像を撮像する場合は、前記選択されたエリアの焦点位置の分布の中央となる位置に焦点調節を行う
請求項2に記載の撮像装置。 - 前記結像状態調節部は、
前記光学系の全部もしくは一部を光軸方向に移動させることによって結像状態の調節を行う
請求項1から3のいずれか一に記載の撮像装置。 - 前記結像状態調節部は、
前記撮像素子を光軸方向に移動させることによって結像状態の調節を行う
請求項1から3のいずれか一に記載の撮像装置。 - 前記結像状態調節部は、
前記光学系の光軸上の何れかの位置に焦点距離が外部信号に依存する外部依存型レンズが配置されている
請求項1から3のいずれか一に記載の撮像装置。 - 前記結像状態調節部の外部依存型レンズには、液体レンズもしくは液晶レンズを含む
請求項6に記載の撮像装置。 - 光学系を通過した被写体像を撮像し、撮像した画像データに画像処理を行う画像処理方法であって、
前記撮像素子からの画像を複数エリアに分割するステップと、
前記撮像素子への結像状態を変化させながら当該撮像素子からの画像信号から少なくともピントに関する評価値を前記分割した複数エリア毎に取得するステップと、
それぞれ前記評価値がピークとなる焦点状態から被写体距離を推定するステップと、
それぞれ推定した被写体距離に対応する前記深度拡張フィルタを用いて前記焦点深度拡張処理を施すステップと
を有する画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007282389A JP2009111774A (ja) | 2007-10-30 | 2007-10-30 | 撮像装置および画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007282389A JP2009111774A (ja) | 2007-10-30 | 2007-10-30 | 撮像装置および画像処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009111774A true JP2009111774A (ja) | 2009-05-21 |
Family
ID=40779778
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007282389A Withdrawn JP2009111774A (ja) | 2007-10-30 | 2007-10-30 | 撮像装置および画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009111774A (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009188894A (ja) * | 2008-02-08 | 2009-08-20 | Mitsubishi Electric Corp | 撮像装置 |
JP2009213129A (ja) * | 2008-02-05 | 2009-09-17 | Fujifilm Corp | 画像処理装置、画像処理方法、およびプログラム |
CN102111544A (zh) * | 2009-12-24 | 2011-06-29 | 株式会社东芝 | 摄像模块、图像处理装置及图像记录方法 |
JP2011191086A (ja) * | 2010-03-12 | 2011-09-29 | Omron Corp | 画像処理方法および画像処理装置 |
WO2012157250A1 (ja) * | 2011-05-16 | 2012-11-22 | パナソニック株式会社 | レンズユニット及び撮像装置 |
WO2013054527A1 (ja) * | 2011-10-12 | 2013-04-18 | パナソニック株式会社 | 撮像装置、半導体集積回路および撮像方法 |
JP2017525228A (ja) * | 2014-06-17 | 2017-08-31 | ゼットティーイー コーポレーションZte Corporation | カメラ自動焦点最適化の方法及びカメラ |
JP2018194704A (ja) * | 2017-05-18 | 2018-12-06 | 興和株式会社 | 眼用装置 |
-
2007
- 2007-10-30 JP JP2007282389A patent/JP2009111774A/ja not_active Withdrawn
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009213129A (ja) * | 2008-02-05 | 2009-09-17 | Fujifilm Corp | 画像処理装置、画像処理方法、およびプログラム |
JP2009188894A (ja) * | 2008-02-08 | 2009-08-20 | Mitsubishi Electric Corp | 撮像装置 |
US8542290B2 (en) | 2009-12-24 | 2013-09-24 | Kabushiki Kaisha Toshiba | Camera module, image processing apparatus, and image recording method |
CN102111544A (zh) * | 2009-12-24 | 2011-06-29 | 株式会社东芝 | 摄像模块、图像处理装置及图像记录方法 |
JP2011135359A (ja) * | 2009-12-24 | 2011-07-07 | Toshiba Corp | カメラモジュール及び画像処理装置 |
JP2011191086A (ja) * | 2010-03-12 | 2011-09-29 | Omron Corp | 画像処理方法および画像処理装置 |
WO2012157250A1 (ja) * | 2011-05-16 | 2012-11-22 | パナソニック株式会社 | レンズユニット及び撮像装置 |
JPWO2012157250A1 (ja) * | 2011-05-16 | 2014-07-31 | パナソニック株式会社 | レンズユニット及び撮像装置 |
US9057871B2 (en) | 2011-05-16 | 2015-06-16 | Panasonic Intellectual Property Management Co., Ltd. | Set of compound lenses and imaging apparatus |
JP5891440B2 (ja) * | 2011-05-16 | 2016-03-23 | パナソニックIpマネジメント株式会社 | レンズユニット及び撮像装置 |
WO2013054527A1 (ja) * | 2011-10-12 | 2013-04-18 | パナソニック株式会社 | 撮像装置、半導体集積回路および撮像方法 |
CN103168271A (zh) * | 2011-10-12 | 2013-06-19 | 松下电器产业株式会社 | 摄像装置、半导体集成电路以及摄像方法 |
JPWO2013054527A1 (ja) * | 2011-10-12 | 2015-03-30 | パナソニックIpマネジメント株式会社 | 撮像装置、半導体集積回路および撮像方法 |
US9185393B2 (en) | 2011-10-12 | 2015-11-10 | Panasonic Intellectual Property Management Co., Ltd. | Image capturing device, semiconductor integrated circuit, and image capturing method |
JP2017525228A (ja) * | 2014-06-17 | 2017-08-31 | ゼットティーイー コーポレーションZte Corporation | カメラ自動焦点最適化の方法及びカメラ |
US10044931B2 (en) | 2014-06-17 | 2018-08-07 | Xi'an Zhongxing New Software Co., Ltd. | Camera auto-focusing optimization method and camera |
JP2018194704A (ja) * | 2017-05-18 | 2018-12-06 | 興和株式会社 | 眼用装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4749959B2 (ja) | 撮像装置、並びにその製造装置および製造方法 | |
JP5052127B2 (ja) | 撮像装置及び撮像方法 | |
JP5139840B2 (ja) | 撮像装置、画像生成方法、および電子機器 | |
JP4818957B2 (ja) | 撮像装置およびその方法 | |
JP2009111774A (ja) | 撮像装置および画像処理方法 | |
JP2008048293A (ja) | 撮像装置、およびその製造方法 | |
JP2007322560A (ja) | 撮像装置、並びにその製造装置および製造方法 | |
JP2008085697A (ja) | 撮像装置、並びにその製造装置および製造方法 | |
JP2008268937A (ja) | 撮像装置および撮像方法 | |
JP2014029353A (ja) | 焦点調整装置および焦点調整方法 | |
JP2007300208A (ja) | 撮像装置 | |
JP2007206738A (ja) | 撮像装置およびその方法 | |
US9800811B2 (en) | Image capturing apparatus and control method for the same | |
JP4364847B2 (ja) | 撮像装置および画像変換方法 | |
WO2013094552A1 (ja) | 撮像装置、その制御方法およびプログラム | |
WO2013094551A1 (ja) | 撮像装置、その制御方法およびプログラム | |
JP2006208443A (ja) | オートフォーカス装置 | |
JP2009086017A (ja) | 撮像装置および撮像方法 | |
JP6218385B2 (ja) | 交換レンズ及び撮像装置 | |
JP4818956B2 (ja) | 撮像装置およびその方法 | |
JP2009033607A (ja) | 撮像装置および画像処理方法 | |
JP2008158028A (ja) | 電子スチルカメラ | |
JPH11211974A (ja) | 撮像装置 | |
JP5197784B2 (ja) | 撮像装置 | |
JP2008058540A (ja) | 撮像装置、および画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20101027 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20110704 |