JP2015203756A - 視差量算出装置、距離算出装置、撮像装置および視差量算出方法 - Google Patents
視差量算出装置、距離算出装置、撮像装置および視差量算出方法 Download PDFInfo
- Publication number
- JP2015203756A JP2015203756A JP2014082781A JP2014082781A JP2015203756A JP 2015203756 A JP2015203756 A JP 2015203756A JP 2014082781 A JP2014082781 A JP 2014082781A JP 2014082781 A JP2014082781 A JP 2014082781A JP 2015203756 A JP2015203756 A JP 2015203756A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- parallax amount
- pupil region
- distance
- amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Focusing (AREA)
- Automatic Focus Adjustment (AREA)
- Studio Devices (AREA)
Abstract
【課題】簡易な演算にて、像ズレの方向が斜めになることに起因する視差量算出誤差を低減可能な測距技術を提供する。
【解決手段】結像光学系の射出瞳内の第1の瞳領域を通過した光束に対応する第1の画像データと、前記射出瞳内の第2の瞳領域を通過した光束に対応する第2の画像データに基づいて、前記第1の画像データと前記第2の画像データ間の相対的な位置ズレ量である第1の視差量を算出する視差量算出部を備える視差量算出装置であって、前記第2の瞳領域は、前記第1の瞳領域の部分領域である、視差量算出装置。
【選択図】図3
【解決手段】結像光学系の射出瞳内の第1の瞳領域を通過した光束に対応する第1の画像データと、前記射出瞳内の第2の瞳領域を通過した光束に対応する第2の画像データに基づいて、前記第1の画像データと前記第2の画像データ間の相対的な位置ズレ量である第1の視差量を算出する視差量算出部を備える視差量算出装置であって、前記第2の瞳領域は、前記第1の瞳領域の部分領域である、視差量算出装置。
【選択図】図3
Description
本発明は、視差量算出装置、距離算出装置、撮像装置および視差量算出方法に関し、特にデジタルスチルカメラやデジタルビデオカメラなどの撮像装置に用いられる視差量算出装置、距離算出装置、撮像装置および視差量算出方法に関する。
デジタルスチルカメラやデジタルビデオカメラにおいて、撮像素子の一部あるいは全部の画素に測距機能を有する画素(以下、「測距画素」ともいう。)を配置し、位相差方式で被写体までの距離を検出するようにした固体撮像素子が特許文献1に提案されている。測距画素は、複数の光電変換部を備え、撮影レンズの瞳上の異なる領域を通過した光束が、異なる光電変換部に導かれるように構成される。
各測距画素に含まれる光電変換部により生成された電気信号から、異なる瞳領域を通過した光束により生成される光像(以下、それぞれ「A像」、「B像」とも呼ぶ。)に基づく画像データ(以降、A像に基づく画像データをA像データ、B像に基づく画像データをB像データと呼ぶ。)が取得される。このA像データとB像データの相対的な位置ズレ量である視差量(像ズレ量ともいう)が算出される。
視差量の算出には、テンプレートマッチングと呼ばれる領域ベースの対応点探索技術が多く用いられる。従来のテンプレートマッチングでは、A像データまたはB像データの一方の画像データを基準画像データとして用い、他方の画像データを参照画像データとして用いる。基準画像データ上に、注目点を中心とする基準領域(基準ウィンドウともいう)を設定すると共に、参照画像データ上にて注目点と対応する参照点に対しても参照領域(参照ウィンドウともいう)を設定する。参照点を順次移動させながら、基準領域内の画像データと参照領域内の画像データの相関が最も高くなる参照点を探索する。この相関が最も高くなる参照点のことを、対応点と呼ぶ。注目点と対応点の相対的な位置ズレ量を用いて視差量が算出される。一般に、探索領域のサイズを小さくすると、局所演算に起因する視差量の算出誤差が発生するため、比較的大きな領域サイズ(例えば、9画素×9画素など)が用いられている。
算出した視差量に変換係数を掛けてデフォーカス量に変換することで、被写体までの距離を算出できる。このような測距手法によると、従来のコントラスト方式とは異なり、距離を測定するためにレンズを動かす必要が無いため、高速高精度な測距が可能となる。
測距精度は、視差量を正確に求めることで向上する。視差量の誤差が発生する要因の1つに、光量バランスの崩れが上げられる。光量バランスの崩れは、撮影レンズのレンズ枠などによる光束のケラレや測距画素感度の角度特性などにより、A像とB像の光量比が像高に応じて変化する現象である。
特許文献2では、像高が高くなった時に撮影レンズの口径食によって生じるA像とB像の光量バランスの崩れを補正する技術が開示されている。
上述の特許文献2では、口径食によって生じるA像とB像の光量バランスの崩れを、射出瞳の形状情報に基づき補正している。
一方、撮影レンズの口径食は、A像とB像の光量バランスの崩れの要因となるだけではなく、像ズレ方向が斜めになる要因ともなる。撮像素子の中心像高においてA像とB像の像ズレ方向が横方向であっても、周辺像高(特に対角方向の像高)においては、撮影レンズの口径食と収差(例えば、歪曲収差やコマ収差など)により、像ズレ方向が斜めになることがある。その場合、周辺画角においても、中心像高における対応点の探索方向と同じ方向に参照点を移動させながら対応点の探索を行うと、被写体によっては視差量ひいては被写体距離に算出誤差が発生する。上述の特許文献2に開示されているような、口径食によって生じる光量バランスの崩れを補正するのみでは、像ズレ方向が斜めになることに起因する誤差を抑制することはできない。
そこで本発明は、簡易な演算にて、像ズレの方向が斜めになることに起因する視差量算出誤差を低減可能な測距技術を提供することを目的とする。
本発明に係る視差量算出装置は、結像光学系の射出瞳内の第1の瞳領域を通過した光束に対応する第1の画像データと、前記射出瞳内の第2の瞳領域を通過した光束に対応する第2の画像データに基づいて、前記第1の画像データと前記第2の画像データ間の相対的な位置ズレ量である第1の視差量を算出する視差量算出部を備える視差量算出装置であって、前記第2の瞳領域は、前記第1の瞳領域の部分領域であることを特徴とする。
また、本発明に係る視差量算出方法は、視差量算出装置が行う視差量算出方法であって、結像光学系の射出瞳内の第1の瞳領域を通過した光束に対応する第1の画像データと、前記射出瞳内の第2の瞳領域を通過した光束に対応する第2の画像データを取得する取得ステップと、前記第1の画像データおよび前記第2の画像データに基づいて、前記第1の画像データと前記第2の画像データ間の相対的な位置ズレ量である第1の視差量を算出する算出ステップと、を含み、前記第2の瞳領域は、前記第1の瞳領域の部分領域である、ことを特徴とする。
本発明では、簡易な演算によって、A像とB像の像ズレの方向が斜めになることに起因する視差量算出誤差を低減し、視差量を高精度に算出することができる。
(第一の実施形態)
以下、図を参照しながら本発明の第一の実施形態について詳細に説明する。以下の説明では、本発明の視差量算出装置を備えた撮像装置の一例として、デジタルカメラを用いて説明するが、本発明の適用はこれに限定されるものではない。尚、図を参照した説明においては、図番は異なっても原則として同一部位を示す部位には、同一の符号を付すこととし、なるべく重複した説明は避ける。
以下、図を参照しながら本発明の第一の実施形態について詳細に説明する。以下の説明では、本発明の視差量算出装置を備えた撮像装置の一例として、デジタルカメラを用いて説明するが、本発明の適用はこれに限定されるものではない。尚、図を参照した説明においては、図番は異なっても原則として同一部位を示す部位には、同一の符号を付すこととし、なるべく重複した説明は避ける。
<デジタルカメラの構成>
図1(A)は、本実施形態にかかる視差量算出装置110を備えたデジタルカメラ100を示す。デジタルカメラ100は、結像光学系120、撮像素子101、視差量算出部102、画像生成部(不図示)、レンズ駆動制御部(不図示)が、カメラ筐体135の内部に配置され、構成される。視差量算出装置110は、視差量算出部102から構成される。視差量算出部102は論理回路を用いて構成することができる。視差量算出部102の別の形態として中央演算処理装置(CPU)と演算処理プログラムを格納するメモリとから構成してもよい。
図1(A)は、本実施形態にかかる視差量算出装置110を備えたデジタルカメラ100を示す。デジタルカメラ100は、結像光学系120、撮像素子101、視差量算出部102、画像生成部(不図示)、レンズ駆動制御部(不図示)が、カメラ筐体135の内部に配置され、構成される。視差量算出装置110は、視差量算出部102から構成される。視差量算出部102は論理回路を用いて構成することができる。視差量算出部102の別の形態として中央演算処理装置(CPU)と演算処理プログラムを格納するメモリとから構成してもよい。
結像光学系120は、デジタルカメラ100の撮影レンズであり、被写体の像を結像光学系120の予定結像面に配置された撮像素子101に形成する機能を有する。結像光学系120は複数のレンズ群(不図示)、絞り(不図示)から構成され、撮像素子101から所定距離離れた位置に射出瞳130を有する。尚、図1(A)には、結像光学系120の光軸140が示される。本明細書中では光軸140はz軸と平行とする。さらに、x軸とy軸は互いに垂直であり、且つ光軸140と垂直な軸とする。
ここで、このデジタルカメラ100の動作例について説明しておく。図11はデジタルカメラ100のメイン電源が入り、シャッターボタン(不図示)が所謂半押しされた後の動作フローを説明する図である。まず、ステップS1101にて結像光学系120の情報(焦点距離、絞り値など)を読み出し、メモリ部(不図示)に保存する。次に、ステップS1102〜S1104の処理を行い、焦点調節を行う。すなわち、ステップS1102では、撮像素子101から出力される画像データに基づき、図3を用いて後述する視差量算出手順を用いて視差量を算出する。ステップS1103では、算出した視差量に基づき、結像光学系120が合焦状態かどうか判別する。合焦していない場合は、ステップS1104にて、レンズ駆動制御部により視差量に基づき結像光学系120内のフォーカスレンズを合焦位置へ駆動したのち、ステップS1102へ戻る。ステップS1103にて合焦していると判定された場合は、ステップS1105にて、シャッターボタン(不図示)の操作によりシャッターがレリーズ(所謂全押し)されたか否かの判定を行う。レリーズされていないと判定された場合は、ステップS1102へ戻り、上述の処理を繰り返す。ステップS1105にてシャッターがレリーズされたと判定された場合には、撮像素子101から画像データを読み出し、メモリ部(不図示)に保存する。メモリ部に保存された画像データに画像生成部により現像処理を施すことで、観賞用画像を生成することができる。なお、ここで説明した処理はデジタルカメラ100の一つの動作例に過ぎない。また、メモリ部に保存された画像データに、図3を用いて後述する視差量算出手順を適用することで、観賞用画像と対応した視差量画像(視差量分布)を生成することができる。
<撮像素子の構成>
撮像素子101はCMOS(相補型金属酸化膜半導体)やCCD(電荷結合素子)から構成される。結像光学系120を介して撮像素子101上に結像した被写体像は、撮像素子101により光電変換され、被写体像に基づく画像データが生成される。以下、本実施形態における撮像素子101について、図1(B),1(C)を用いてより詳細に説明する。
撮像素子101はCMOS(相補型金属酸化膜半導体)やCCD(電荷結合素子)から構成される。結像光学系120を介して撮像素子101上に結像した被写体像は、撮像素子101により光電変換され、被写体像に基づく画像データが生成される。以下、本実施形態における撮像素子101について、図1(B),1(C)を用いてより詳細に説明する。
図1(B)は、撮像素子101のxy断面図である。撮像素子101は、測距機能を有する測距画素200D1及び200D2を一部に備えた2行×2列の測距画素群200が複数配列され、さらに撮像機能を有する撮像画素群(不図示)が複数配列されて、構成される。測距画素群200は、対角方向に測距画素200D1及び200D2、他の2画素に赤画素200R及び青画素200Bが配置され、構成されている。一方、撮像画素群は、対角方向に2つの緑画素を備え、他の2画素に赤画素と青画素を備えた、いわゆるベイヤー配列を有する。測距画素群200からは、主として視差量の算出に用いる画像データが出力される。一方、撮像画素群からは、主として観賞用画像の生成に用いる画像データが出力される。撮像素子101から出力される画像データは、視差量算出部102に入力される。
図1(C)は、測距画素群200のI−I’断面及びJ−J’断面を模式的に示した図である。各画素は受光層204と導光層205から構成される。受光層204には、受光した光を光電変換するための光電変換部が配置される。導光層205には、画素へ入射した光束を光電変換部へ効率良く導くためのマイクロレンズ203、所定の波長帯域の光を通過させるカラーフィルタ(不図示)、画像読み出し用及び画素駆動用の配線(不図示)などが配置される。測距画素200D1には、第1の光電変換部201が配置される。測距画素200D2には、第2の光電変換部202が配置される。赤画素200Rと青画素200Bには、撮像画素群と同じ光電変換部が配置される。
<視差量算出(距離計測)の原理説明>
本実施形態にかかる視差量算出装置における視差量算出について説明する。なお、視差量は被写体の距離に応じて定まるので、以下は距離計測の原理の説明を兼ねる。
本実施形態にかかる視差量算出装置における視差量算出について説明する。なお、視差量は被写体の距離に応じて定まるので、以下は距離計測の原理の説明を兼ねる。
まず、図2を用いて撮像素子101内の第1の光電変換部及び第2の光電変換部が受光する光束について説明する。図2(A)は、結像光学系120の射出瞳130と、撮像素子101中に配置される測距画素200D1についてのみ示した概略図である。また、図2(B)は、結像光学系120の射出瞳130と、撮像素子101中に配置される測距画素200D2についてのみ示した概略図である。図2においては、説明のために光軸140がマイクロレンズ203の中心を通るように図示している。
マイクロレンズ203は、射出瞳130と受光層204が光学的に共役関係になるように配置している。その結果、図2(A)に示すように、射出瞳130内の第2の瞳領域320を通過した光束が第1の光電変換部201に入射する。一方、図2(B)に示すように、射出瞳内の第3の瞳領域330を通過した光束は、第2の光電変換部202に入射する。
複数の第1の光電変換部201は、受光した光束を光電変換して第2の画像データを生成する。また同様に、複数の第2の光電変換部202は、受光した光束を光電変換して第3の画像データを生成する。従って、第2の画像データから、第2の瞳領域320を主に通過した光束が撮像素子101上に形成する像(A像)の強度分布を得ることができる。同様に、第3の画像データから第3の瞳領域330を主に通過した光束が撮像素子101上に形成する像(B像)の強度分布を得ることができる。第2の画像データと第3の画像データを合成した第1の画像データは、図2(A)及び図2(B)に示す第2の瞳領域320と第3の瞳領域330を合成した第1の瞳領域310を通過した光束が撮像素子101上に形成する像(AB像)の強度分布となる。従って、第2の瞳領域及び第3の瞳領域は、第1の瞳領域の部分領域となる。
また、図2(C)は光軸140と撮像素子101の交点(いわゆる中心像高)から、結
像光学系120の射出瞳130を見た図である。第2の瞳領域320の重心位置を321で示し、第3の瞳領域330の重心位置を331で示し、第1の瞳領域310の重心位置を311で示している。本実施形態においては、第2の重心位置321は、第1の重心位置311から第1の軸300に沿って+x方向に沿って偏心(シフト)している。一方、第3の重心位置331は、第1の重心位置311から第1の軸300に沿って、第2の重心位置321とは逆の方向に偏心(シフト)している。本実施形態においては、第1の光電変換部201を測距画素200D1のxy面内の中心から−x方向にシフトして配置しているため、第2の重心位置321は第1の軸に沿って+x方向に偏心している。一方、第2の光電変換部202を測距画素200D2のxy面内の中心から+x方向にシフトして配置しているため、第3の重心位置331は第1の軸に沿って−x方向に332に偏心している。
像光学系120の射出瞳130を見た図である。第2の瞳領域320の重心位置を321で示し、第3の瞳領域330の重心位置を331で示し、第1の瞳領域310の重心位置を311で示している。本実施形態においては、第2の重心位置321は、第1の重心位置311から第1の軸300に沿って+x方向に沿って偏心(シフト)している。一方、第3の重心位置331は、第1の重心位置311から第1の軸300に沿って、第2の重心位置321とは逆の方向に偏心(シフト)している。本実施形態においては、第1の光電変換部201を測距画素200D1のxy面内の中心から−x方向にシフトして配置しているため、第2の重心位置321は第1の軸に沿って+x方向に偏心している。一方、第2の光電変換部202を測距画素200D2のxy面内の中心から+x方向にシフトして配置しているため、第3の重心位置331は第1の軸に沿って−x方向に332に偏心している。
第1の画像データ(AB像データ、すなわちA像とB像の合成像のデータ)と第2の画像データ(A像データ)の相対的な位置ズレ量である第1の視差量は、被写体までの距離に応じた量となる。また、第1の画像データ(AB像データ)と第3の画像データ(B像データ)の相対的な位置ズレ量である第2の視差量は、被写体までの距離に応じた量となる。よって、第1の視差量及び第2の視差量を後述の手法によって算出することで、被写体までの距離に応じた視差量を得ることができる。
なお、図2(A)〜(C)において、第2の瞳領域はx座標が正の領域とし、第3の瞳領域はx座標が負の領域として図示したが、実際には受光層204に到達する光は、光の回折現象により一定の拡がりを有する。また、受光層204内部における電気的なクロストークによっても、受光層204に到達する光は、一定の拡がりを有する。すなわち、x座標が負の領域を通過した光束が測距画素200D1に入射する場合においても、測距画素200D1は低感度ながらも受光感度を有する。その為、第2の瞳領域320を通過する光束の光量分布に測距画素200D1の受光感度を乗じた分布と、第3の瞳領域330を通過する光束の光量分布に測距画素200D2の受光感度を乗じた分布は、勾配を有するなだらかな分布となる。従って、第2の瞳領域と第3の瞳領域は明確に区分することはできず、重複した領域を有することになる。本実施形態においては、便宜的に第2の瞳領域と第3の瞳領域を明確に区分した形で説明する。図2(C)を用いて説明した重心位置の算出方法及び定義については、図5を用いて後述する。
<視差量算出手順の説明>
以下、本実施形態の視差量算出手順について、図3(A)を参照しながら詳細に説明する。図3(A)は、撮像素子101にて画像データを取得し、視差量を算出するまでの処理フローを説明する図である。
以下、本実施形態の視差量算出手順について、図3(A)を参照しながら詳細に説明する。図3(A)は、撮像素子101にて画像データを取得し、視差量を算出するまでの処理フローを説明する図である。
まず、ステップS401では、視差量算出部102は、撮像素子101から第2の画像データ(A像データ)及び第3の画像データ(B像データ)を取得する。ステップS402で視差量算出部102は、第2の画像データ及び第3の画像データを合成して第1の画像データ(AB像データ)を取得する。すなわち、本実施形態では、第2の画像データおよび第3の画像データは撮像素子101から取得され、第1の画像データは視差量算出部102における演算によって取得される。
第2の画像データは、第2の瞳領域320を主として通過した光束による像(A像)を表し、第3の画像データは、第3の瞳領域330を主として通過した光束による像(B像)を表す。従って、第2の画像データと第3の画像データを加算することで第1の瞳領域310を通過した光束による像(AB像)の強度分布を表す第1の画像データを生成することができる。後述するステップS403における第1の視差量算出工程にて相関値を正しく算出するためには、相互相関演算を行う画像データ間で画素値の範囲が略等しいこと
が望まれる。従って、第2の画像データと第3の画像データの加算平均(算術平均)を用いて第1の画像データを生成することが好ましい。
が望まれる。従って、第2の画像データと第3の画像データの加算平均(算術平均)を用いて第1の画像データを生成することが好ましい。
次にステップS403(第1の視差量算出工程)において、視差量算出部102は第1の画像データ(AB像データ)に対する第2の画像データ(A像データ)の相対的な位置ズレ量である第1の視差量の算出を行う。第1の視差量の算出方法について、図4を用いて説明する。図4は第1の視差量の算出方法を説明する図であり、第1の画像データ601、第2の画像データ602、撮影被写体600を示している。視差量算出部102は、第1の画像データ601に対して、注目点610を設定し、注目点610を中心に基準領域620を設定する。一方、第2の画像データ602に対して、注目点610と対応する位置に参照点611を設定し、参照点611を中心に参照領域621を設定する。視差量算出部102は、参照点611を所定の視差量探索範囲を対象として、第1の軸(中心像高での瞳領域重心の偏心方向)に沿って順次移動させながら、注目点610に対応する対応点を探索する(一次元探索)。具体的には、視差量算出部102は、基準領域620内の第1の画像データと参照領域621内の第2の画像データの相関値を算出し、最も相関の高い参照点611を注目点610の対応点として決定する。本実施形態において、前述の視差量探索範囲は、視差量算出を行いたい最大視差量と最小視差量から決めている。例えば最大視差量は被写体までの距離が無限遠時の視差量と設定し、最小視差量は結像光学系120の最小撮影距離に相当する視差量と設定する。従って、視差量探索範囲は、最大視差量と最小視差量の範囲とすればよい。注目点610と対応点間の相対的な位置ズレ量が第1の視差量となる。注目点610を順次移動させながら対応点の探索を行うことで、第1の画像データ内の各データ位置(各測距画素位置)における第1の視差量を算出することができる。
相関値の算出方法は公知の任意の手法を用いることができる。例えば、基準領域620内の画像データと参照領域621内の画像データの差の2乗和を評価値とするSSD(Sum of Squared Difference)と呼ばれる手法を用いることができる。以上の説明の通り、本実施形態の第1の視差量算出工程においては、第1の画像データに基準領域を設定し、第2の画像データに参照領域を設定して、第1の視差量の算出を行っている。なお、上記ステップS403の第1の視差量算出工程の説明では、第1の画像データ(AB像データ)に対する第2の画像データ(A像データ)の相対的な位置ズレ量を算出する方法について述べた。しかし、第1の画像データ(AB像データ)に対する第3の画像データ(B像データ)の相対的な位置ズレ量を算出しても構わない。また、撮像素子101の+x側の領域と−x側の領域とで、第2の画像データと第3の画像データを入れ替えて第1の視差量を算出しても構わない。画像データのSN比を考慮すると、結像光学系120の口径食を考慮して、第2の画像データと第3の画像データの内、各瞳領域を通過する光束の光量が高い画像データについて第1の画像データとの視差量を算出することが望ましい。
<像ズレ方向が斜めになる要因とその影響を抑制可能な理由>
像ズレ方向が斜めになる要因について図6を用いて説明する。
第1の要因として、結像光学系120の口径食が挙げられる。図6(A)は、撮像素子101を上面から見た様子を模式的に示した図である。結像光学系120の光軸140と撮像素子101の交点である第1の位置801から、結像光学系120の射出瞳130を見た図が図6(B)である。また、撮像素子101の周辺像高である第2の位置802から、結像光学系120の射出瞳130を見た図が図6(C)である。以下では、A像を形成する光束が通過する瞳領域を領域810、B像を形成する光束が通過する瞳領域を領域820であるとして説明する。第1の位置801においては(図6(B))、射出瞳130は円形のために領域810の重心位置811から領域820の重心位置821に向かうベクトル830はx軸(第1の軸)と平行になる。すなわち、像ズレ方向はx方向となる
。一方、第2の位置802においては、(図6(C))、射出瞳130は口径食により一部がケラれ、異方性の強い形状となる。従って、重心位置811から重心位置821に向かうベクトル840は、x成分とy成分を有するベクトルとなる。すなわち、像ズレ方向は第1の位置801とは異なり、斜め方向になる。このように、像ズレ方向が斜めになる一因として口径食が挙げられる。
像ズレ方向が斜めになる要因について図6を用いて説明する。
第1の要因として、結像光学系120の口径食が挙げられる。図6(A)は、撮像素子101を上面から見た様子を模式的に示した図である。結像光学系120の光軸140と撮像素子101の交点である第1の位置801から、結像光学系120の射出瞳130を見た図が図6(B)である。また、撮像素子101の周辺像高である第2の位置802から、結像光学系120の射出瞳130を見た図が図6(C)である。以下では、A像を形成する光束が通過する瞳領域を領域810、B像を形成する光束が通過する瞳領域を領域820であるとして説明する。第1の位置801においては(図6(B))、射出瞳130は円形のために領域810の重心位置811から領域820の重心位置821に向かうベクトル830はx軸(第1の軸)と平行になる。すなわち、像ズレ方向はx方向となる
。一方、第2の位置802においては、(図6(C))、射出瞳130は口径食により一部がケラれ、異方性の強い形状となる。従って、重心位置811から重心位置821に向かうベクトル840は、x成分とy成分を有するベクトルとなる。すなわち、像ズレ方向は第1の位置801とは異なり、斜め方向になる。このように、像ズレ方向が斜めになる一因として口径食が挙げられる。
第2の要因は、結像光学系120の収差が挙げられる。図6(D)は、像ズレ方向が斜めになる要因の1つである歪曲収差について説明する図である。図6(D)において、実線850は、格子状の被写体を示しており、破線851は、被写体の像を示している。結像光学系120の歪曲収差により、格子状の被写体850は、樽型に歪曲した被写体像851となる。歪曲収差が発生すると、第2の位置802における射出瞳130上の重心位置811を通過した光線は、撮像素子101上にて−y方向によりシフトした位置に到達する。一方、第2の位置802における射出瞳130上の重心位置821を通過した光線は、撮像素子101上にて+y方向によりシフトした位置に到達する。従って、周辺像高である第2の位置802では、歪曲収差によっても像ズレ方向が斜めになる。また、周辺像高においては、歪曲収差の他に、コマ収差によっても像ズレ方向が斜めになる。このように、像ズレ方向が斜めになる一因として収差が挙げられる。
上記2つの要因により、周辺像高における像ズレ方向は、中心像高とは異なり斜め方向になる。以下、図3(A)を用いて説明した視差量を算出する処理により、像ズレ方向が斜めになる影響を抑制し、高精度に視差量を算出できる理由について図7を用いて説明する。
図7は、図6(A)の第2の位置802から見た射出瞳130を示す図である。第2の瞳領域320の重心位置321は+y方向に偏心しており、第3の瞳領域330の重心位置331は−y方向に偏心している。また、第1の瞳領域310の重心位置311は、射出瞳130の重心位置と等しい。図7では、第2の画像データと第3の画像データ間の像ズレ方向のy成分が901として示され、第1の画像データと第2の画像データ間の像ズレ方向のy成分が902として示されている。
図4を用いて説明した対応点探索処理では、探索領域をx軸(第1の軸)に沿った方向にとっている。したがって、第2の画像データ(A像データ)と第3の画像データ(B像データ)間の視差量算出を行う場合には、図7に示すように像ズレ方向のy成分901が大きいと、算出される相関値が小さくなり対応点を誤算出してしまう。一方、本実施形態の視差量の算出方法においては、第1の画像データ(AB像データ)と第2の画像データ(A像データ)間の視差量を算出している。図7に示すように、第1の重心位置311と第2の重心位置321間像ズレ方向のy成分902は、第2の重心位置321および第3の重心位置331間の像ズレ方向のy成分901と比べて小さい。したがって、像ズレ方向が斜めになる影響を抑制でき、算出される相関値がより大きくなるので、より高精度に対応点の探索および視差量の算出ができる。上記説明では、第1の画像データと第2の画像データの場合について説明したが、第1の画像データと第3の画像データを用いる場合にも、同様の理由により像ズレ方向が斜めになる影響を抑制し、より高精度に対応点の探索および視差量の算出ができる。
なお、図4に示す対応点探索方法では、参照点611を第1の軸に沿って移動させながら相関値の算出をしている(一次元探索)が、参照点611第1の軸と垂直な第2の軸方向にも移動させて相関値の算出を行ってもよい(二次元探索)。この場合には、y成分902が901と比べて小さくなるため、対応点を探索する範囲が狭くなり、より少ない演算量で視差量を算出することができる。
本実施形態にかかる視差量算出装置では、図4を用いて説明したように、注目点610を順次移動させながら、第1の視差量を算出している。従って、各測距画素200D1に対応した画素位置の視差量分布を算出することができる。また一方で、撮像画素群により取得した画像データに対して、所定の現像処理を施すことで観賞用画像も同時に取得することができる。観賞用画像中の被写体のボケ量は、被写体までの距離に応じて発生する。また、視差量は被写体までの距離に応じた量である。従って、撮影後の観賞用画像に対して本実施形態にかかる視差量算出装置により算出した視差量分布に応じた画像処理を行うことで、例えば、撮影後にピント位置を変更するリフォーカス処理を行うことができる。
また、第1の視差量をオートフォーカス処理に用いることも好ましい。この場合、第1の視差量を算出する際、必ずしも注目点610を順次移動させる必要はない。例えば、一つまたは数個の固定の注目点610を設定し、第1の視差量をある特定の測距画素位置についてのみ算出しても構わない。結像光学系120のフォーカスレンズの繰り出し量を、第1の視差量に応じた量とし、特定の測距画素位置についてのみ第1の視差量を算出することで、より高速に結像光学系120を所望の被写体に合焦させることができる。
いずれの場合においても、本実施例の視差量算出装置は、像ズレ方向が斜めになる影響を抑制し、高精度に視差量を算出することができるため、より適切な画像処理及び合焦処理が可能となる。
<視差量算出方法の別の形態>
本実施形態における視差量算出手順の別の形態について、図3(B)および図3(C)を参照して説明する。
本実施形態における視差量算出手順の別の形態について、図3(B)および図3(C)を参照して説明する。
まず、図3(B)に示す視差量算出の変形例について説明する。ステップS401からステップS403の処理は、図3(A)における処理と同じであるため説明を省略する。次に、ステップS404の第2の視差量算出工程において、視差量算出部102は、第1の画像データ(AB像データ)と第3の画像データ(B像データ)間の相対的な位置ズレ量である第2の視差量を算出する。より具体的には、視差量算出部102は、第1の画像データに対して前述の注目点を設定し、第3の画像データに対して前述の参照点を設定し、対応点の探索を行うことで、第2の視差量を算出する。
図3(B)に示す視差量算出手順では、第1の画像データと第2の画像データと第3の画像データに基づき、第1の視差量と第2の視差量を算出している。第1の視差量と第2の視差量の符号の整合性を考慮しつつ、これら2つの視差量を加算または加算平均(算術平均)することで、撮像素子101にて画像データを生成する際に発生するノイズの影響を抑制し、より高精度に視差量を算出することができる。
また、視差量算出手順の更なる変形例として、図3(C)に示す方法を採用することもできる。図3(C)の処理は、図3(B)の処理と比較してステップS405の視差量探索範囲決定工程が追加されている点で異なる。ステップS405は、後段の第2の視差量算出工程における視差量探索範囲を決定するための工程である。結像光学系120の設計値及び撮像素子101の感度特性から、第1の視差量と第2の視差量の比は、予め予測することができる。従って、視差量算出部102は、ステップS502にて算出された第1の視差量に基づき、ステップS405において、第2の視差量を探索する為の視差量探索範囲を設定する。ステップS404において、第2の視差量を探索するための視差量探索範囲を第1の視差量に基づき限定することで、対応点の探索に係る演算量を削減することができ、より高速に第2の視差量を算出することができる。
視差量探索範囲決定工程は、対応点探索処理において一次元探索ではなく二次元探索を
行う場合にも適用できる。二次元探索を用いる場合は、探索範囲を決定(限定)することで、演算量をより削減することができる。
行う場合にも適用できる。二次元探索を用いる場合は、探索範囲を決定(限定)することで、演算量をより削減することができる。
<撮像素子の別の形態(1)>
図1に示す撮像素子101の代わりに、図8(A)(B)に示す撮像素子1001を採用してもよい。図8(A)(B)に示す測距画素群200は、図1に示す撮像素子101の測距画素200D1の位置に、測距画素210D1が配置されている。測距画素210D1には、撮像画素と略等しい開口面積を有する第1の光電変換部211が配置されている。この結果、複数の測距画素210D1により生成される第1の画像データは、第1の瞳領域310(図2)を通過した光束が撮像素子1001上に形成する像の強度分布となる。
図1に示す撮像素子101の代わりに、図8(A)(B)に示す撮像素子1001を採用してもよい。図8(A)(B)に示す測距画素群200は、図1に示す撮像素子101の測距画素200D1の位置に、測距画素210D1が配置されている。測距画素210D1には、撮像画素と略等しい開口面積を有する第1の光電変換部211が配置されている。この結果、複数の測距画素210D1により生成される第1の画像データは、第1の瞳領域310(図2)を通過した光束が撮像素子1001上に形成する像の強度分布となる。
図8(A)(B)に示す撮像素子1001を用いた場合、図3(A)〜3(C)におけるステップS402の画像生成処理を省くことができ、より高速に視差量の算出が可能となる。また、図3(B)及び図3(C)に示す視差量算出手順を用いる場合には、ステップS402の代わりに、第1の画像データから第2の画像データを減算して、第3の画像データを生成する処理を行う。このようにして生成した第1の画像データと第2の画像データと第3の画像データを用いて、第1の視差量及び第2の視差量を算出することができる。
図8(A)(B)に示す撮像素子1001を用いた場合、取得される第1の画像データは、広い開口面積を有する第1の光電変換部により生成される画像データである。従って、図8(A)(B)の撮像素子により取得される第1の画像データは、高いSN比を有する画像データとなり、例えば暗所においてもノイズの影響を低減した視差量の算出が可能となる。
<撮像素子の別の形態(2)>
図1に示す撮像素子101の代わりに、図8(C)(D)に示す撮像素子1002を採用してもよい。図8(C)(D)に示す画素群1100は、測距機能と撮像機能の両方の機能を併せ持った画素から構成されている。図8(C)(D)の撮像素子1002は、2行×2列の画素群1100が複数配置され、構成される。画素群1100の対角方向には緑画素1100G1及び緑画素1100G2が配置され、他の2画素に赤画素1100Rと青画素1100Bが配置される。
図1に示す撮像素子101の代わりに、図8(C)(D)に示す撮像素子1002を採用してもよい。図8(C)(D)に示す画素群1100は、測距機能と撮像機能の両方の機能を併せ持った画素から構成されている。図8(C)(D)の撮像素子1002は、2行×2列の画素群1100が複数配置され、構成される。画素群1100の対角方向には緑画素1100G1及び緑画素1100G2が配置され、他の2画素に赤画素1100Rと青画素1100Bが配置される。
画素群1100内の各画素には、第1の光電変換部1101と第2の光電変換部1102の2つの光電変換部が配置される。図8(C)のI−I’断面を模式的に示したのが図8(D)である。導光層1105には、各画素に対応した波長帯域を通過するカラーフィルタ(不図示)、マイクロレンズ203、画像読み出し用及び画素駆動用の配線(不図示)などから構成される。また、受光層1104には、受光した光を光電変換するための光電変換部(第1の光電変換部1101と第2の光電変換部1102)が2つ配置される。マイクロレンズ203により、受光層1104と射出瞳130は光学的に共役関係になるように配置している。従って、図2を用いた説明と同様の原理で、複数の第1の光電変換部1101は第2の瞳領域320を主として通過した光束を光電変換し、第2の画像データを生成する。また、複数の第2の光電変換部1102は第3の瞳領域330を主として通過した光束を光電変換し、第3の画像データを生成する。
図8(C)(D)の撮像素子1002にて生成された第2の画像データと第3の画像データに基づき、本実施形態の視差量算出方法(図3)を適用することで、第1の視差量(及び第2の視差量)を算出することができる。
図8(C)(D)に示した撮像素子1002においては、測距機能を有する画素が高密度に配置されている。従って、本実施形態の視差量算出装置により、空間分解能(撮像素子1002と平行な面内における)が高く、高精度な視差量分布を得ることができる。さらに、図4を用いて説明した基準領域620及び参照領域621内に、より多くの画素が内包されるため、局所演算に起因する視差量の算出誤差を低減することができる。また、一方で、画素群1100内の各画素は撮像機能も有しているため、第1の画像データに対して所定の現像処理を施すことで、観賞用画像も同時に生成することができる。観賞用画像に対して高密度かつ高精度な視差量分布を用いた画像処理を行うことで、例えば、前述のリフォーカス処理をより適切に行うことができる。
(第二の実施形態)
以下、図を参照しながら本発明の第二の実施形態について詳細に説明する。第二の実施形態は、第一の実施形態に記載の視差量算出部を備えた距離算出装置である。
以下、図を参照しながら本発明の第二の実施形態について詳細に説明する。第二の実施形態は、第一の実施形態に記載の視差量算出部を備えた距離算出装置である。
以下の説明では、距離算出装置を備えた撮像装置の一例として、デジタルカメラを用いて説明するが、本発明の適用はこれに限定されるものではない。尚、図を参照した説明においては、図番は異なっても原則として同一部位を示す部位には、同一の符号を付すこととし、なるべく重複した説明は避ける。
<デジタルカメラ及び撮像素子の構成>
図9は、本実施形態に係る距離算出装置1210を備えたデジタルカメラ1200である。図1のデジタルカメラ100の構成に加えて、デジタルカメラ1200は、距離算出部103が、カメラ筐体135の内部に配置され、構成される。距離算出装置1210は、視差量算出部102及び距離算出部103から構成される。視差量算出部102及び距離算出部103は論理回路を用いて構成することができる。視差量算出部102及び距離算出部103の別の形態として中央演算処理装置(CPU)と演算処理プログラムを格納するメモリとから構成してもよい。
図9は、本実施形態に係る距離算出装置1210を備えたデジタルカメラ1200である。図1のデジタルカメラ100の構成に加えて、デジタルカメラ1200は、距離算出部103が、カメラ筐体135の内部に配置され、構成される。距離算出装置1210は、視差量算出部102及び距離算出部103から構成される。視差量算出部102及び距離算出部103は論理回路を用いて構成することができる。視差量算出部102及び距離算出部103の別の形態として中央演算処理装置(CPU)と演算処理プログラムを格納するメモリとから構成してもよい。
本実施形態の撮像素子101は、第一の実施形態にて図8(C)(D)を用いて説明した画素配置を有する。複数の第1の光電変換部1101は、第2の瞳領域320を通過した光束を主として受光し、第2の画像データを生成する。一方、複数の第2の光電変換部1102は、第3の瞳領域330を通過した光束を主として受光し、第3の画像データを生成する。
<距離算出方法>
以下、本実施形態にかかる距離算出手順について、図5及び図10を参照しながら詳細に説明する。図5(A)は画素の受光感度の入射角度特性を表す図であり、図5(B)(C)は受光感度を射出瞳上に投影した受光感度分布を示す図である。図10(A)〜(C)は、3種類の距離算出処理を示すフローチャートである。
以下、本実施形態にかかる距離算出手順について、図5及び図10を参照しながら詳細に説明する。図5(A)は画素の受光感度の入射角度特性を表す図であり、図5(B)(C)は受光感度を射出瞳上に投影した受光感度分布を示す図である。図10(A)〜(C)は、3種類の距離算出処理を示すフローチャートである。
まず、図10(A)に記載の距離算出方法について説明する。ステップS1301では、視差量算出部102が、第1の画像データ(AB像データ)と第2の画像データ(A像データ)の視差量(第1の視差量)を算出する。ステップS1301の処理は、図3(A)の処理と同様であるため、説明は省略する。
ステップS1302では、距離算出部103が、変換係数を用いて視差量を被写体距離へ変換する為の処理を行う。変換係数の算出方法について図5を用いて説明する。
図5(A)は、画素の受光感度入射角度特性を示している。横軸は画素へ入射する光の入射角度(xz面に射影した光線とz軸とが成す角度)、縦軸は受光感度を示している。
実線701は、第1の光電変換部の受光感度と第2の光電変換部の受光感度を加算した受光感度(以降、合算受光感度)を示している。破線702は、第1の光電変換部の受光感度(第1の受光感度)を示している。図5(B)は、合算受光感度を、光軸140と撮像素子101の交点である第1の位置(撮像素子101の中心像高)から見た射出瞳130に投影して、射出瞳130上の受光感度分布として表現した図である。図5(C)は、同様に、第1の受光感度の射出瞳130上の受光感度分布として表現した図である。以下では、合算受光感度を射影した受光感度分布を合算受光感度分布と呼び、第1の受光感度を射影した受光感度分布を第1の受光感度分布と呼ぶ。図5(B)(C)では、色が薄くなるほど受光感度が高いことを示している。
実線701は、第1の光電変換部の受光感度と第2の光電変換部の受光感度を加算した受光感度(以降、合算受光感度)を示している。破線702は、第1の光電変換部の受光感度(第1の受光感度)を示している。図5(B)は、合算受光感度を、光軸140と撮像素子101の交点である第1の位置(撮像素子101の中心像高)から見た射出瞳130に投影して、射出瞳130上の受光感度分布として表現した図である。図5(C)は、同様に、第1の受光感度の射出瞳130上の受光感度分布として表現した図である。以下では、合算受光感度を射影した受光感度分布を合算受光感度分布と呼び、第1の受光感度を射影した受光感度分布を第1の受光感度分布と呼ぶ。図5(B)(C)では、色が薄くなるほど受光感度が高いことを示している。
前述の通り、画素内を伝搬する光は光の回折現象により一定の拡がりを有する。従って、図5(C)に示す通り、第2の瞳領域は、なだらかな勾配を有する分布となり、明確な境界は持たない。ただし、第1の受光感度が閾値以上の領域が、合算受光感度が当該閾値以上の領域の部分領域であれば、第2の瞳領域は第1の瞳領域の部分領域であるといえる。第1の受光感度分布は第1の光電変換部のxy面内の断面領域に依存する。従って、第1の光電変換部のxy面内領域が、第1の光電変換部と第2の光電変換部を重ねて描画したxy面内領域の部分領域であれば、第2の瞳領域は第1の瞳領域の部分領域であるといえる。これは、第3の瞳領域についても同様である。
図5(B)における符号711は、第1の瞳領域の重心位置である第1の重心位置を示す。同様に、図5(C)における符号712は、第2の瞳領域の重心位置である第2の重心位置を示す。第1の重心位置711は、図5(B)に示す合算受光感度分布の重心位置を、射出瞳130の範囲内にて算出した位置である。一方、第2の重心位置712は、図5(C)に示す第1の受光感度分布の重心位置を、射出瞳130の範囲内にて算出した位置である。重心位置712は、重心位置711から第1の軸に沿って+x方向に偏心している。重心位置711と重心位置712間の距離713は基線長と呼ばれ、視差量をデフォーカス量に変換するための変換係数として用いられる。なお、第3の瞳領域の重心位置である第3の重心位置(不図示)を算出するためには、第2の光電変換部の受光感度を、射出瞳130へ射影して得られる第3の受光感度分布を用いればよい。
図10(A)のステップS1302(距離算出工程)では、変換係数である基線長に基づき、第1の視差量をデフォーカス量へ変換する。第1の視差量をd、基線長をw、撮像素子101から射出瞳130までの瞳距離をLとしたときデフォーカス量ΔLは数式1を用いて第1の視差量をデフォーカス量に変換することができる。
結像光学系120の射出瞳130は像高に応じて口径食が発生する。口径食により、重心位置711及び重心位置712の相対的な位置関係は像高に応じて変化するため、基線長wは像高に応じて異なる値となる。従って、第1の視差量を精度良くデフォーカス量に変換するためには、基線長wを像高の関数とすることが望ましい。
なお、本実施例では数式1を用いて第1の視差量をデフォーカス量に変換したが、数式1にて基線長wが視差量dに比べて十分大きいとの仮定に基づき、
としてゲイン値Gainを算出し、
で表されるように視差量dにゲイン値Gainを掛けてデフォーカス量に変換してもよい。数式3を用いることで視差量からデフォーカス量への変換を容易に行うことができ、被写体距離の算出に係る演算量を削減することができる。また、視差量からデフォーカス量への変換に、変換用のルックアップテーブルを用いてもよい。この場合にも、被写体距離の算出に係る演算量を削減することができる。いずれの場合においても、第1の視差量からデフォーカス量に変換する際には、像高に応じた変換係数または変換テーブルを保持することが望ましい。なお、本実施例中では、デフォーカス量を撮像素子101から結像光学系の焦点面までの距離として説明している。
としてゲイン値Gainを算出し、
で表されるように視差量dにゲイン値Gainを掛けてデフォーカス量に変換してもよい。数式3を用いることで視差量からデフォーカス量への変換を容易に行うことができ、被写体距離の算出に係る演算量を削減することができる。また、視差量からデフォーカス量への変換に、変換用のルックアップテーブルを用いてもよい。この場合にも、被写体距離の算出に係る演算量を削減することができる。いずれの場合においても、第1の視差量からデフォーカス量に変換する際には、像高に応じた変換係数または変換テーブルを保持することが望ましい。なお、本実施例中では、デフォーカス量を撮像素子101から結像光学系の焦点面までの距離として説明している。
本実施形態の距離算出工程S302では、視差量をデフォーカス量に変換している。デフォーカス量と被写体距離は、結像光学系120の結像関係を用いて変換可能である。従って、本実施形態のステップS1302において、視差量を直接被写体距離へ変換しても構わない。いずれの場合においても、視差量を正確に算出することで、精度良くデフォーカス量や被写体距離を算出することができる。
本実施形態に係る距離算出装置1210は、視差量算出部102内において、図3に示した視差量算出手順を行っている。そして、距離算出部103が、視差量算出部102にて算出した視差量に基づいて被写体距離を算出している。本実施形態によると、像ズレ方向が斜めになる影響を低減し、高精度に視差量の算出が可能となるため、被写体距離を高精度に算出することができる。
本実施形態にかかる距離算出装置1210により算出した被写体距離を用いて、例えば、高精度にオートフォーカスによる合焦動作を行うことができる。また、他の例として、被写体距離に応じた画像処理を観賞用画像に対して施すことで、撮影後にピント位置を変更するリフォーカス処理を行うことができる。いずれの例においても、本実施形態にかかる距離算出装置1210においては、像ズレ方向が斜めになる影響を低減し、高精度に被写体距離を算出することができるため、撮影時または撮影後に行う被写体距離の応じた処理をより適切に行うことができる。
本実施形態における撮像素子101の別の形態として、図1(B)(C)や図8(A)(B)に記載の画素配置及び構成を備えた撮像素子を用いても構わない。いずれの場合においても、本実施形態にかかる距離算出装置を用いることで、像ズレ方向が斜めになる影響を低減し、高精度に被写体距離を算出することができる。
<距離算出手順の変形例>
以下、距離算出手順の変形例について、図10(B)(C)を参照しながら詳細に説明する。図10(B)(C)はいずれも、第1の視差量だけでなく第2の視差量も用いて被写体距離を算出する距離算出手順である。
以下、距離算出手順の変形例について、図10(B)(C)を参照しながら詳細に説明する。図10(B)(C)はいずれも、第1の視差量だけでなく第2の視差量も用いて被写体距離を算出する距離算出手順である。
まず、図10(B)に記載の手順について説明する。ステップS1303は、視差量算出部102が、第1の視差量および第2の視差量を算出する。ステップS1303の処理は、図3(B)あるいは図3(C)の処理と同様であるため、説明は省略する。
ステップS1304では、距離算出部103が、第1の視差量と第2の視差量を合成し、第3の視差量を算出する。第1の視差量は、第1の画像データ(AB像データ)に対す
る第2の画像データ(A像データ)の相対的な位置ズレ量である。また、第2の視差量は、第1の画像データ(AB像データ)に対する第3の画像データ(B像データ)の相対的な位置ズレ量である。従って、第1の視差量から第2の視差量を減算することで、第2の画像データ(A像データ)と第3の画像データ(B像データ)間の視差量としての第3の視差量を算出することができる。ここで、減算をしているのは、第1の視差量と第2の視差量が、像ズレ方向を考慮した符号付きの数値として表されているためである。第3の視差量は、第1の視差量の絶対値と第2の視差量の絶対値の和として求めることもできる。
る第2の画像データ(A像データ)の相対的な位置ズレ量である。また、第2の視差量は、第1の画像データ(AB像データ)に対する第3の画像データ(B像データ)の相対的な位置ズレ量である。従って、第1の視差量から第2の視差量を減算することで、第2の画像データ(A像データ)と第3の画像データ(B像データ)間の視差量としての第3の視差量を算出することができる。ここで、減算をしているのは、第1の視差量と第2の視差量が、像ズレ方向を考慮した符号付きの数値として表されているためである。第3の視差量は、第1の視差量の絶対値と第2の視差量の絶対値の和として求めることもできる。
ステップS1305では、距離算出部103が、変換係数を介して第3の視差量をデフォーカス量に変換する距離算出工程を行う。本形態における第3の視差量は、第2の画像データと第3の画像データ間の視差量である。従って、重心位置712と前述した第3の重心位置間の距離を基線長として、前述の数式1にて第3の視差量をデフォーカス量に変換する。この際、dには第1の視差量ではなく、第3の視差量を代入する。
一般に、位相差方式の被写体距離検出においては、基線長が長いほど被写体距離の検出精度が向上する。本形態の距離算出装置1210は、第3の視差量に基づき被写体距離を算出している。第3の視差量と対応する基線長は第1の視差量と対応する基線長よりも長いため、本形態の距離算出装置1210は、像ズレ方向が斜めになる影響を抑制しつつ、基線長が長いために、より高精度に視差量を算出することができる。従って、本形態の距離算出装置1210においては、より高精度に被写体距離を算出することができる。
次に、図10(C)に記載の被写体距離算出手順について説明する。ステップS1303の処理は図10(B)と同様であり、視差量算出部102が第1の視差量および第2の視差量を算出する。ステップS1306では、距離算出部103が、第1の視差量に対応した基線長(第1の変換係数)を用いて第1のデフォーカス量を算出する。またステップS1307では、距離算出部103が、第2の視差量に対応した基線長(第2の変換係数
)を用いて第2のデフォーカス量を算出する。なお、第2の視差量に対応した基線長は、前述の第3の重心位置と重心位置711間の距離を用いれば良い。ステップS1308において、距離算出部103が、第1のデフォーカス量と第2のデフォーカス量の加算平均(算出平均)をとることにより、デフォーカス量の最終結果を得る。このように、第1の視差量と第2の視差量の両方を用いることで、画像データを生成する際に発生するノイズの影響を抑制し、高精度な測距が可能となる。
)を用いて第2のデフォーカス量を算出する。なお、第2の視差量に対応した基線長は、前述の第3の重心位置と重心位置711間の距離を用いれば良い。ステップS1308において、距離算出部103が、第1のデフォーカス量と第2のデフォーカス量の加算平均(算出平均)をとることにより、デフォーカス量の最終結果を得る。このように、第1の視差量と第2の視差量の両方を用いることで、画像データを生成する際に発生するノイズの影響を抑制し、高精度な測距が可能となる。
<実装例>
上述した本発明の距離計測技術は、例えば、デジタルカメラやデジタルカムコーダなどの撮像装置、あるいは撮像装置で得られた画像データに対し画像処理を施す画像処理装置やコンピュータなどに好ましく適用できる。また、このような撮像装置或いは画像処理装置を内蔵する各種の電子機器(携帯電話、スマートフォン、スレート型端末、パーソナルコンピュータを含む)にも本発明を適用することができる。
上述した本発明の距離計測技術は、例えば、デジタルカメラやデジタルカムコーダなどの撮像装置、あるいは撮像装置で得られた画像データに対し画像処理を施す画像処理装置やコンピュータなどに好ましく適用できる。また、このような撮像装置或いは画像処理装置を内蔵する各種の電子機器(携帯電話、スマートフォン、スレート型端末、パーソナルコンピュータを含む)にも本発明を適用することができる。
また、実施形態の説明では、撮像装置本体に距離計測の機能を組み込んだ構成を示したが、距離計測は撮像装置以外で行ってもよい。たとえば、撮像装置を有するコンピュータに距離計測の機能を組み込み、撮像装置で撮影した画像をコンピュータが取得して、距離の算出を行うようにしてもよい。また、有線あるいは無線によりネットワークアクセス可能なコンピュータに距離計測の機能を組み込み、当該コンピュータがネットワークを介して複数枚の画像を取得し、距離計測を行うようにしてもよい。
得られた距離情報(視差量、デフォーカス量、距離)は、例えば、画像の領域分割、立体画像や奥行き画像の生成、ボケ効果のエミュレーションなどの各種画像処理に利用することができる。
なお、上記装置への具体的な実装は、ソフトウェア(プログラム)による実装とハードウェアによる実装のいずれも可能である。例えば、撮像装置や画像処理装置に内蔵されたコンピュータ(マイコン、FPGA等)のメモリにプログラムを格納し、当該プログラムをコンピュータに実行させることで、本発明の目的を達成するための各種処理を実現してもよい。また、本発明の全部又は一部の処理を論理回路により実現するASIC等の専用プロセッサを設けることも好ましい。
この目的のために、上記プログラムは、例えば、ネットワークを通じて、又は、上記記憶装置となり得る様々なタイプの記録媒体(つまり、非一時的にデータを保持するコンピュータ読取可能な記録媒体)から、上記コンピュータに提供される。したがって、上記コンピュータ(CPU、MPU等のデバイスを含む)、上記方法、上記プログラム(プログラムコード、プログラムプロダクトを含む)、上記プログラムを非一時的に保持するコンピュータ読取可能記録媒体は、いずれも本発明の範疇に含まれる。
102 視差量算出部
110 視差量算出装置
110 視差量算出装置
Claims (19)
- 結像光学系の射出瞳内の第1の瞳領域を通過した光束に対応する第1の画像データと、前記射出瞳内の第2の瞳領域を通過した光束に対応する第2の画像データと、に基づいて、前記第1の画像データと前記第2の画像データ間の相対的な位置ズレ量である第1の視差量を算出する視差量算出部を備える視差量算出装置であって、
前記第2の瞳領域は、前記第1の瞳領域の部分領域である、
視差量算出装置。 - 前記視差量算出部は、第1の軸に沿った探索範囲を対象として、前記第1の画像データと前記第2の画像データの対応点を探索することにより前記第1の視差量を算出し、
前記第1の軸は、前記結像光学系の光軸と予定結像面の交点における、前記第1の瞳領域の重心位置と前記第2の瞳領域の重心位置の偏心方向である、
請求項1に記載の視差量算出装置。 - 前記視差量算出部は、前記第1の画像データと、前記射出瞳内の第3の瞳領域を通過した光束に対応する第3の画像データと、に基づいて、前記第1の画像データと前記第3の画像データ間の相対的な位置ズレ量である第2の視差量を算出し、
前記第3の瞳領域は、前記第2の瞳領域とは異なる、前記第1の瞳領域の部分領域であり、
前記結像光学系の光軸と予定結像面の交点における前記第3の瞳領域の重心位置が、前記第1の瞳領域の重心位置から前記第2の瞳領域の重心位置とは逆の方向に偏心している、
請求項1または2に記載の視差量算出装置。 - 前記視差量算出部は、前記第1の視差量と前記第2の視差量に基づいて、第3の視差量を算出する、
請求項3に記載の視差量算出装置。 - 前記視差量算出部は、前記第1の視差量に基づいて、前記第2の視差量を算出する際の探索範囲を決定する、
請求項3または4に記載の視差量算出装置。 - 請求項1から5のいずれか1項に記載の視差量算出装置と、距離算出部を備えた距離算出装置であって、
前記距離算出部は、前記第1の視差量に基づいて、被写体までの距離である被写体距離または前記結像光学系の予定結像面から結像面までの距離であるデフォーカス量を算出する、
距離算出装置。 - 前記距離算出部は、所定の変換係数を用いて、前記第1の視差量を前記被写体距離または前記デフォーカス量に変換する、
請求項6に記載の距離算出装置。 - 請求項3から5のいずれか1項に記載の視差量算出装置と、距離算出部を備えた距離算出装置であって、
前記距離算出部は、前記第1の視差量と前記第2の視差量に基づいて、被写体までの距離である被写体距離または前記結像光学系の予定結像面から結像面までの距離であるデフォーカス量を算出する、
距離算出装置。 - 前記距離算出部は、所定の変換係数を用いて、前記第1の視差量と前記第2の視差量に基づく第3の視差量を前記被写体距離または前記デフォーカス量に変換する、
請求項8に記載の距離算出装置。 - 前記距離算出部は、
第1の変換係数を用いて、前記第1の視差量を第1の被写体距離または第1のデフォーカス量に変換し、
第2の変換係数を用いて、前記第2の視差量を第2の被写体距離または第2のデフォーカス量に変換し、
前記第1の被写体距離または前記第1のデフォーカス量と、前記第2の被写体距離または前記第2のデフォーカス量に基づいて、前記被写体距離または前記デフォーカス量を算出する、
請求項8に記載の距離算出装置。 - 結像光学系と、請求項1から5のいずれか1項に記載の視差量算出装置と、前記第1の瞳領域を通過した光束を受光する第1の光電変換部と前記第2の瞳領域を通過した光束を受光する第2の光電変換部とを備える撮像素子と、を有する、
撮像装置。 - 前記視差量算出部は、前記第1の画像データと、前記射出瞳内の第3の瞳領域を通過した光束に基づく第3の画像データと、に基づいて、前記第1の画像データと前記第3の画像データ間の相対的な位置ズレ量である第2の視差量を算出し、
前記第3の瞳領域は、前記第2の瞳領域とは異なる、前記第1の瞳領域の部分領域であり、
前記結像光学系の光軸と予定結像面の交点における前記第3の瞳領域の重心位置が、前記第1の瞳領域の重心位置から前記第2の瞳領域の重心位置とは逆の方向に偏心しており、
前記視差量算出部は、前記第1の光電変換部から前記第1の画像データを取得し、前記第2の光電変換部から前記第2の画像データを取得し、前記第1の画像データから前記第2の画像データを減算することにより、前記第3の画像データを取得する、
請求項11に記載の撮像装置。 - 結像光学系と、請求項3から5のいずれか1項に記載の視差量算出装置と、前記第2の瞳領域を通過した光束を受光する第2の光電変換部と前記第3の瞳領域を通過した光束を受光する第3の光電変換部を備える撮像素子と、を有する、
撮像装置。 - 前記視差量算出部は、前記第2の光電変換部から前記第2の画像データを取得し、前記第3の光電変換部から前記第3の画像データを取得し、前記第2の画像データと前記第3の画像データを加算することにより、前記第1の画像データを取得する、
請求項13に記載の撮像装置。 - 結像光学系と、請求項6から10のいずれか1項に記載の距離算出装置と、前記第1の瞳領域を通過した光束を受光する第1の光電変換部と前記第2の瞳領域を通過した光束を受光する第2の光電変換部とを備える撮像素子と、を有する、
撮像装置。 - 前記視差量算出部は、前記第1の画像データと、前記射出瞳内の第3の瞳領域を通過した光束に基づく第3の画像データと、に基づいて、前記第1の画像データと前記第3の画
像データ間の相対的な位置ズレ量である第2の視差量を算出し、
前記第3の瞳領域は、前記第2の瞳領域とは異なる、前記第1の瞳領域の部分領域であり、
前記結像光学系の光軸と予定結像面の交点における前記第3の瞳領域の重心位置が、前記第1の瞳領域の重心位置から前記第2の瞳領域の重心位置とは逆の方向に偏心しており、
前記視差量算出部は、前記第1の光電変換部から前記第1の画像データを取得し、前記第2の光電変換部から前記第2の画像データを取得し、前記第1の画像データから前記第2の画像データを減算することにより、前記第3の画像データを取得する、
請求項15に記載の撮像装置。 - 結像光学系と、請求項8から10のいずれか1項に記載の距離算出装置と、前記第2の瞳領域を通過した光束を受光する第2の光電変換部と前記第3の瞳領域を通過した光束を受光する第3の光電変換部を備える撮像素子と、を有する、
撮像装置。 - 前記視差量算出部は、前記第2の光電変換部から前記第2の画像データを取得し、前記第3の光電変換部から前記第3の画像データを取得し、前記第2の画像データと前記第3の画像データを加算することにより、前記第1の画像データを取得する、
請求項17に記載の撮像装置。 - 視差量算出装置が行う視差量算出方法であって、
結像光学系の射出瞳内の第1の瞳領域を通過した光束に対応する第1の画像データと、前記射出瞳内の第2の瞳領域を通過した光束に対応する第2の画像データと、を取得する取得ステップと、
前記第1の画像データおよび前記第2の画像データに基づいて、前記第1の画像データと前記第2の画像データ間の相対的な位置ズレ量である第1の視差量を算出する視差量算出ステップと、
を含み、
前記第2の瞳領域は、前記第1の瞳領域の部分領域である、
視差量算出方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014082781A JP2015203756A (ja) | 2014-04-14 | 2014-04-14 | 視差量算出装置、距離算出装置、撮像装置および視差量算出方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014082781A JP2015203756A (ja) | 2014-04-14 | 2014-04-14 | 視差量算出装置、距離算出装置、撮像装置および視差量算出方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015203756A true JP2015203756A (ja) | 2015-11-16 |
Family
ID=54597243
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014082781A Pending JP2015203756A (ja) | 2014-04-14 | 2014-04-14 | 視差量算出装置、距離算出装置、撮像装置および視差量算出方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015203756A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017228082A (ja) * | 2016-06-22 | 2017-12-28 | キヤノン株式会社 | 追跡装置、追跡方法、及びプログラム |
WO2018221382A1 (ja) * | 2017-05-31 | 2018-12-06 | キヤノン株式会社 | 撮像素子及び撮像装置 |
WO2024070123A1 (ja) * | 2022-09-27 | 2024-04-04 | キヤノン株式会社 | 測距装置、車載システム、および移動装置 |
-
2014
- 2014-04-14 JP JP2014082781A patent/JP2015203756A/ja active Pending
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017228082A (ja) * | 2016-06-22 | 2017-12-28 | キヤノン株式会社 | 追跡装置、追跡方法、及びプログラム |
WO2018221382A1 (ja) * | 2017-05-31 | 2018-12-06 | キヤノン株式会社 | 撮像素子及び撮像装置 |
JP2018207227A (ja) * | 2017-05-31 | 2018-12-27 | キヤノン株式会社 | 撮像素子及び撮像装置 |
CN110710200A (zh) * | 2017-05-31 | 2020-01-17 | 佳能株式会社 | 摄像器件和摄像设备 |
US10911702B2 (en) | 2017-05-31 | 2021-02-02 | Canon Kabushiki Kaisha | Imaging device and imaging apparatus |
CN110710200B (zh) * | 2017-05-31 | 2021-12-28 | 佳能株式会社 | 摄像器件、摄像设备和移动体 |
WO2024070123A1 (ja) * | 2022-09-27 | 2024-04-04 | キヤノン株式会社 | 測距装置、車載システム、および移動装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6643122B2 (ja) | 距離画像装置、撮像装置、および距離画像補正方法 | |
US10070038B2 (en) | Image processing apparatus and method calculates distance information in a depth direction of an object in an image using two images whose blur is different | |
JP6021780B2 (ja) | 画像データ処理装置、距離算出装置、撮像装置および画像データ処理方法 | |
JP6584149B2 (ja) | 撮像装置 | |
US9535193B2 (en) | Image processing apparatus, image processing method, and storage medium | |
JP7009091B2 (ja) | 距離情報生成装置、撮像装置、距離情報生成方法、およびプログラム | |
JP6800650B2 (ja) | 信頼度生成装置、信頼度生成方法、および撮像装置 | |
JP2022000695A (ja) | 撮像装置 | |
JP2013145982A (ja) | 撮像装置、画像処理装置及び方法 | |
JP2017158018A (ja) | 画像処理装置およびその制御方法、撮像装置 | |
JP2015212772A (ja) | 測距装置、撮像装置、測距方法、および測距パラメータ算出方法 | |
JP2015203756A (ja) | 視差量算出装置、距離算出装置、撮像装置および視差量算出方法 | |
JP6173549B2 (ja) | 画像データ処理装置、距離算出装置、撮像装置および画像データ処理方法 | |
US10339665B2 (en) | Positional shift amount calculation apparatus and imaging apparatus | |
JP6941011B2 (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP6632406B2 (ja) | 距離算出装置、撮像装置、および距離算出方法 | |
US20190089891A1 (en) | Image shift amount calculation apparatus and method, image capturing apparatus, defocus amount calculation apparatus, and distance calculation apparatus | |
JP6566800B2 (ja) | 撮像装置及び撮像方法 | |
JP2016090975A (ja) | 距離検出装置、撮像装置、距離検出方法、およびプログラム | |
JP7200002B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および記憶媒体 | |
JP7005313B2 (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP2018026768A (ja) | 撮像装置とその制御方法及びプログラム | |
JP2015161785A (ja) | 焦点検出装置、焦点検出方法およびプログラム、並びに撮像装置 | |
JP2016133595A (ja) | 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体 | |
JP2018050231A (ja) | 撮像装置、撮像方法および撮像制御プログラム |