JP6632406B2 - 距離算出装置、撮像装置、および距離算出方法 - Google Patents

距離算出装置、撮像装置、および距離算出方法 Download PDF

Info

Publication number
JP6632406B2
JP6632406B2 JP2016019813A JP2016019813A JP6632406B2 JP 6632406 B2 JP6632406 B2 JP 6632406B2 JP 2016019813 A JP2016019813 A JP 2016019813A JP 2016019813 A JP2016019813 A JP 2016019813A JP 6632406 B2 JP6632406 B2 JP 6632406B2
Authority
JP
Japan
Prior art keywords
image
distance
value
axis
reliability
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016019813A
Other languages
English (en)
Other versions
JP2016212081A (ja
JP2016212081A5 (ja
Inventor
和哉 野林
和哉 野林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to US15/144,853 priority Critical patent/US10306132B2/en
Publication of JP2016212081A publication Critical patent/JP2016212081A/ja
Priority to US16/395,420 priority patent/US10477100B2/en
Publication of JP2016212081A5 publication Critical patent/JP2016212081A5/ja
Application granted granted Critical
Publication of JP6632406B2 publication Critical patent/JP6632406B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Studio Devices (AREA)

Description

本発明は、画像に基づいて被写体距離を算出する距離算出装置に関する。
デジタルスチルカメラやデジタルビデオカメラにおいて、撮像素子の一部あるいは全部の画素に測距機能を有する画素(以下、「測距画素」ともいう)を配置し、位相差方式を用いて被写体までの距離を検出する技術が知られている。
このような方式では、測距画素に複数の光電変換部を配置し、撮影レンズの瞳上の異なる領域を通過した光束が、異なる光電変換部に導かれるように構成される。各測距画素に含まれる光電変換部が出力した信号により、異なる瞳領域を通過した光束によって生成された光像(以下、それぞれ「A像」「B像」)を取得でき、A像およびB像にそれぞれ基づいて複数の画像を取得することができる。なお、A像に対応する瞳領域と、B像に対応する瞳領域は、瞳分割方向と呼ばれる軸に沿って互いに異なる方向に偏心している。
また、取得した複数の画像(以下、それぞれ「A画像」「B画像」)の間には、瞳分割方向に沿って、デフォーカス量に応じた相対的な位置ズレが生じる。この位置ズレは、像ズレと呼ばれ、像ズレの量を像ズレ量と呼ぶ。像ズレ量を、所定の変換係数を介してデフォーカス量に変換することで、被写体までの距離を算出することができる。このような方式によると、従来のコントラスト方式とは異なり、距離を測定するためにレンズを動かす必要が無いため、高速かつ高精度な測距が可能となる。
像ズレ量の算出には、一般的に、テンプレートマッチングと呼ばれる、領域ベースの対応点探索技術が用いられる。テンプレートマッチングでは、A画像またはB画像の一方を基準画像とし、他方の画像を参照画像とする。また、基準画像上に、注目点を中心とする局所領域(以下、照合領域)を設定すると共に、参照画像上にも、注目点に対応する参照点を中心とする照合領域を設定する。そして、参照点を順次移動させながら、照合領域内のA画像とB画像との相関(すなわち類似度)が最も高くなる点を探索する。この点と、注目点との相対的な位置ズレ量によって、像ズレ量を算出する。
テンプレートマッチングを用いて像ズレ量を算出する場合、画像のコントラストに起因して、像ズレ量の算出誤差が大きくなるという問題が発生しうる。例えば、画像のコントラストが低い場合、類似度の変化が小さくなるため、対応点を正しく算出することができず、像ズレ量の算出誤差が大きくなる場合がある。
この問題を解決するため、特許文献1に記載の装置では、ステレオ画像に基づいて被写体までの距離を算出するとともに、算出した距離の信頼度を表す分布を生成している。そして、信頼度が低い領域がある場合には、信頼度が向上するように撮影条件を再度設定し、距離を再度算出している。
また、特許文献2に記載の装置では、デフォーカス量を算出することができない小領域が存在する場合に、当該領域についてデフォーカス量を補間することで、測距精度の低下を防いでいる。
特許第3855812号公報 特許第5066851号公報
前述した先行技術は、いずれも、被写体の条件によって、所望の効果が得られないケースが発生する。
例えば、特許文献1に記載の装置では、画像中の特定の軸方向にのみコントラストの変化があるような場合に、距離の信頼度を誤って算出してしまうケースが発生する。これは、瞳分割方向を考慮せずに、照合領域内に含まれる画像の分散値にのみに基づいてコントラストの変化量を算出していることに起因する。
また、特許文献2に記載の装置は、画像同士の相違度の変化量を示す傾きを用いているため、ノイズ耐性が低く、画像中のノイズが多い場合に、判定を誤るおそれがある。
すなわち、従来技術は、測距精度の向上という点において課題があった。
本発明は、このような従来技術の課題に鑑みてなされたものであり、距離情報とともに信頼度を算出する距離算出装置において、信頼度の精度を向上させる技術を提供することを目的とする。
上記課題を解決するための、本発明の第一の形態に係る距離算出装置は、
結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、
第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置であって、前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出手段と、前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、を有することを特徴とする。
また、本発明の第二の形態に係る距離算出装置は、
結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置であって、前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出手段と、前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域におけるコントラストの変化量の大きさを表す値であるコントラスト評価値と、前記第一の画像と前記第二の画像の少なくとも一方に基づいて算出されたノイズ量推定値との比に基づき、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、を有することを特徴とする。
また、本発明の第三の形態に係る距離算出装置は、
結像光学系が有する射出瞳に内包された、複数の瞳領域を通過した光束に基づいて生成された複数の画像に基づいて、被写体距離を算出する距離算出装置であって、前記複数の画像の中から、対応する瞳領域の重心が、第一の軸に沿ってそれぞれ異なる位置にある二つの画像の組を生成する生成手段と、前記二つの画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出手段と、前記二つの画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、を有することを特徴とする。
また、本発明の第四の形態に係る距離算出装置は、
結像光学系が有する射出瞳に内包された、複数の瞳領域を通過した光束に基づいて生成された複数の画像に基づいて、被写体距離を算出する距離算出装置であって、
前記複数の画像の中から、対応する瞳領域の重心が、第一の軸に沿ってそれぞれ異なる位置にある二つの画像の組を生成する生成手段と、
前記二つの画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出手段と、
前記二つの画像の少なくとも一方に設定された局所領域におけるコントラストの変化量の大きさを表す値であるコントラスト評価値と、前記二つの画像の少なくとも一方に基づいて算出されたノイズ量推定値との比に基づき、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、
を有することを特徴とする。

また、本発明の第一の形態に係る距離算出装置の制御方法は、
結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、を含むことを特徴とする。
また、本発明の第二の形態に係る距離算出装置の制御方法は、
結像光学系が有する射出瞳に内包された、複数の瞳領域を通過した光束に基づいて生成された複数の画像に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、前記複数の画像の中から、対応する瞳領域の重心が、第一の軸に沿ってそれぞれ異なる位置にある二つの画像の組を生成する生成ステップと、前記二つの画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、前記二つの画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、を含むことを特徴とする。
また、本発明の第三の形態に係る距離算出装置の制御方法は、
結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、
前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、
前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、
前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、
を含むことを特徴とする。
また、本発明の第四の形態に係る距離算出装置の制御方法は、
結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、
前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、
前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、
前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域におけるコントラストの変化量の大きさを表す値であるコントラスト評価値と、前記第一の画像と前記第二の画像の少なくとも一方に基づいて算出されたノイズ量推定値との比に基づき、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、
を含むことを特徴とする。
本発明によれば、距離情報とともに信頼度を算出する距離算出装置において、信頼度の精度を向上させることができる。
第一の実施形態に係るデジタルカメラおよび撮像素子の構成を示す図。 光電変換部と瞳領域、および、射出瞳と瞳領域との関係を説明する図。 第一の実施形態に係るデジタルカメラの処理フローチャート図。 被写体距離を算出する工程を説明する図。 コントラストの変化と像ズレ量を説明する第一の図。 コントラストの変化と像ズレ量を説明する第二の図。 第二の実施形態に係るデジタルカメラの処理フローチャート図。 第三の実施形態における撮像素子と射出瞳を説明する図。 第三の実施形態に係るデジタルカメラの処理フローチャート図。 第四の実施形態に係るデジタルカメラの処理フローチャート図。 第四の実施形態におけるノイズの近似方法を説明する図。 第五の実施形態に係るデジタルカメラの処理フローチャート図。 実施形態に係るデジタルカメラの処理フローチャート図。 第六の実施形態に係るデジタルカメラの処理フローチャート図。 変形例に係るデジタルカメラの構成を示す図。
(第一の実施形態)
以下、図面を参照しながら、本発明の第一の実施形態について詳細に説明する。
第一の実施形態は、本発明に係る距離算出装置を備えた撮像装置(デジタルカメラ)であるが、本発明はこれに限定されるものではない。なお、同一の構成要素には原則として
同一の符号を付して、説明を省略する。
図1(A)は、第一の実施形態に係るデジタルカメラ100の構成図である。
デジタルカメラ100は、結像光学系120、撮像素子101、距離算出部102、画像格納部104、画像生成部(不図示)、レンズ駆動制御部(不図示)を有している。このうち、結像光学系120、撮像素子101、距離算出部102、画像格納部104を、距離算出装置110と称する。
結像光学系120は、デジタルカメラ100の撮影レンズであり、被写体の像を撮像面である撮像素子101に形成する手段である。結像光学系120は、複数のレンズ群および絞りから構成され、撮像素子101から所定の距離だけ離れた位置に射出瞳130を形成する。なお、図1(A)中の符号140は、結像光学系120の光軸であり、本実施形態では、Z軸と平行な軸である。また、X軸とY軸は互いに垂直であり、かつ、光軸と垂直な軸である。
撮像素子101は、CMOS(相補型金属酸化膜半導体)や、CCD(電荷結合素子)から構成されるイメージセンサである。結像光学系120を介して撮像素子101上に結像した被写体像は、撮像素子101により電気信号に変換される。以下、撮像素子101について、図1(B)を用いてより詳細に説明する。
図1(B)は、撮像素子101のX−Y断面図である。撮像素子101は、2×2の画素からなる画素群150を複数配列したものである。画素群150は、対角方向に、緑画素150G1および150G2を、他の二画素に、赤画素150Rおよび青画素150Bを配置している。
また、緑画素150G1および150G2、赤画素150R、および青画素150Bのそれぞれの画素は、複数の光電変換部を有している。
図1(C)は、画素群150のI−I’断面を模式的に示した図である。各画素は、受光層182と導光層181から構成される。受光層182には、受光した光を電気信号に変換するための二つの光電変換部(第一の光電変換部161および第二の光電変換部162)が配置される。また、導光層181には、画素へ入射した光束を光電変換部へ効率良く導くためのマイクロレンズ170、所定の波長帯域の光を通過させるカラーフィルタ(不図示)、画像読み出し用および画素駆動用の配線(不図示)などが配置される。
なお、本実施形態では、撮像素子101は、デジタル変換した電気信号を出力するものとする。以下、一枚の画像に対応するデジタル信号の集合を、単に「画像」と称する。当該画像は、いわゆるRAW形式のデータであり、不図示の画像生成部によって現像されたのちにユーザに提供される。
距離算出部102は、画像生成部が生成した画像に基づいて、被写体までの距離(以下、被写体距離)を算出する手段である。詳細な処理の内容については後述する。なお、距離算出部102は、専用に設計されたハードウェアによって実現されてもよいし、ソフトウェアモジュールによって実現されてもよい。また、FPGA(Field Programmable Gate Array)やASIC(Application Specific Integrated Circuit)などによって実現されてもよいし、これらの組合せによって実現されてもよい。
前述した手段がソフトウェアとして構成される場合、補助記憶装置に記憶されたプログラムが主記憶装置にロードされ、CPUによって実行されることによって各手段が機能する。(CPU、補助記憶装置、主記憶装置はいずれも不図示)
次に、本実施形態に係るデジタルカメラ100が、画像を撮像する処理について、処理フローチャートである図13を参照しながら説明する。図13の処理は、デジタルカメラ100のシャッターボタンが押されている間(半押しを含む)、不図示の制御部によって
実行される。
まず、ステップS1301にて、結像光学系120からレンズ情報(焦点距離、絞り値など)を読み出し、一時的に記憶する。
ステップS1302〜S1304は、被写体に対するフォーカシングを行う処理である。
まず、ステップS1302で、撮像素子101が出力した画像に基づいて、後述する距離算出処理によって、デフォーカス量と、算出した距離に対する信頼度(以下、距離信頼度)を算出する。
次に、ステップS1303で、算出したデフォーカス量ならびに距離信頼度に基づいて、結像光学系120が合焦状態にあるか否かを判別する。ここで、目的の被写体に合焦していない場合は、ステップS1304に遷移し、算出したデフォーカス量に基づいて、レンズ駆動制御部を制御し、結像光学系120を合焦位置へ駆動させる。
ステップS1303にて、目的の被写体に合焦していると判定された場合は、ステップS1305に遷移して、シャッターがレリーズ(全押し)されたか否かの判定を行う。レリーズされていないと判定された場合は、ステップS1302へ戻り、上述の処理を繰り返す。
ステップS1305にてシャッターがレリーズされたと判定された場合には、撮像素子101から画像を取得し、画像格納部104に保存する。
本実施形態に係るデジタルカメラ100は、画像格納部104に保存された画像に対して、画像生成部が現像処理を施すことで、観賞用の画像を生成することができる。また、画像格納部104に保存された画像に対して、ステップS1302で実行したものと同様の距離算出処理を行うことで、観賞用画像に対応する距離画像と、当該距離画像に対応する信頼度の分布を生成することができる。
次に、撮像素子101が出力した画像に基づいて、被写体距離を算出する方法について説明する。
図2(A)は、撮像素子101が備える、第一の光電変換部161および第二の光電変換部162が受光する光束について説明する図である。なお、図2(A)では、結像光学系120の射出瞳130と、撮像素子101中に配置される代表画素(緑画素150G1)のみを示している。
図2に示した画素150G1内のマイクロレンズ170は、射出瞳130と受光層182が光学的に共役関係になるように配置されている。その結果、射出瞳130に内包される第一の瞳領域210を通過した光束は、第一の光電変換部161に入射する。同様に、第二の瞳領域220を通過した光束は、第二の光電変換部162に入射する。
各画素に設けられた、複数の第一の光電変換部161は、受光した光束を光電変換して第一の画像を生成する。同様に、各画素に設けられた、複数の第二の光電変換部162は、受光した光束を光電変換して第二の画像を生成する。以降、第一の画像をA画像、第二の画像をB画像とも称する。
第一の画像から、第一の瞳領域を主に通過した光束が撮像素子101上に形成する像の強度分布を得ることができ、第二の画像から、第二の瞳領域を主に通過した光束が撮像素子101上に形成する像の強度分布を得ることができる。以降、前者をA像、後者をB像とも称する。
図2(B)は、光軸140と撮像素子101の交点から、結像光学系120の射出瞳130を見た図である。ここでは、第一の瞳領域210の重心位置を、第一の重心位置211で示し、第二の瞳領域220の重心位置を、第二の重心位置221で示している。
本実施形態においては、第一の重心位置221は、射出瞳130の中心から、第一の軸
200に沿って偏心(シフト)している。一方、第二の重心位置221は、第一の軸200に沿って、第一の重心位置211とは逆の方向に偏心(シフト)している。すなわち、第一の瞳領域と第二の瞳領域は、第一の軸に沿って互いに異なる方向に偏心している。
本実施形態においては、第一の光電変換部161は、緑画素150G1の中心点から、X軸(第一の軸)に沿って負方向にシフトしている。すなわち、第一の重心位置211は、第一の軸に沿って正方向に偏心している。
一方、第二の光電変換部162は、緑画素150G1の中心点から、X軸に沿って正方向にシフトしている。すなわち、第二の重心位置221は、第一の軸に沿って負方向に偏心している。
第一の画像と第二の画像の相対的な位置ズレ量は、A像とB像との像ズレ量となる。像ズレ量は、デフォーカス量に応じた量となる。よって、第一の画像と第二の画像との間の像ズレ量を、後述する手法によって算出し、変換係数を介して像ズレ量をデフォーカス量に変換することで、被写体までの距離を算出することができる。
なお、図2においては、第一の瞳領域を、Xが正である領域とし、第二の瞳領域を、Xが負である領域として図示したが、実際には、受光層182に到達する光は、光の回折現象により、一定の拡がりを有する。また、受光層182内部におけるキャリアのクロストークによっても、一定の拡がりが発生する。
すなわち、Xが負である領域を通過した光束が、第一の光電変換部161に入射することがあり、Xが正である領域を通過した光束が、第二の光電変換部162に入射することがある。したがって、第一の瞳領域と第二の瞳領域は明確に区分することはできず、重複した領域を有することになる。しかし、本実施形態では、便宜的に、第一の瞳領域と第二の瞳領域が明確に区分されているものとして説明する。
次に、第一の画像と第二の画像を用いて、被写体の距離を算出する処理について、距離算出部102が行う処理フローチャートである図3(A)を参照しながら説明する。
まず、ステップS1で、撮像素子101にて取得され、画像格納部104に格納されている第一の画像および第二の画像を取得する。
次に、ステップS2で、第一の画像と第二の画像との間の光量バランスを補正する処理を行う。光量バランスの補正方法については、公知の方法を用いることができる。例えば、予め均一な面光源を撮影した画像を保存しておき、当該画像を用いて、光量バランスを補正するための係数を算出することができる。
ステップS3は、第一の画像と第二の画像に基づいて、被写体の距離を算出する工程(距離算出工程)である。距離算出工程について、図3(B)および図4(A)を用いて説明する。
図3(B)は、ステップS3にて行われる工程を詳細に説明する図である。
まず、ステップS31で、第一の画像に対する、第二の画像の像ズレ量を算出する。像ズレ量の算出方法について、図4(A)を参照して説明する。
図4(A)では、符号401が第一の画像を表し、符号402が第二の画像を表す。また、X軸を第一の軸とする。
ステップS31では、まず、基準となる画像として、第一の画像401を選択し、第一の画像401上に照合領域420を設定する。照合領域とは、注目点410を中心とする局所領域である。なお、照合領域420が小さい場合、局所演算に起因する像ズレ量の算出誤差が生じるため、照合領域は、9画素×9画素程度のサイズであることが好ましい。
次に、参照先の画像として第二の画像402を選択し、第二の画像402上に、同様に照合領域421を設定する。第二の画像に設定される照合領域は、参照点411を中心とする局所領域である。
そして、第一の軸(X軸)に沿って、参照点411を動かしながら、照合領域420内の画像(第一の画像)と、照合領域421内の画像(第二の画像)との相関を算出し、最も相関が高い参照点を対応点とする。そして、注目点410と対応点間の相対的な位置ズレ量を求め、像ズレ量とする。
このような処理を、注目点410を第一の軸に沿って順次移動させながら行うことで、第一の画像内の各画素位置における像ズレ量を算出することができる。なお、相関度の算出方法は公知の手法を用いることができる。例えば、画素値同士の差の二乗和を評価値とするSSD(Sum of Squared Difference)と呼ばれる手法を用いることができる。
次に、ステップS32で、所定の変換係数を用いて、ステップS31で取得した像ズレ量をデフォーカス量に変換する。デフォーカス量とは、撮像素子101から、結像光学系120による結像面までの距離である。
ここで、像ズレ量をd、変換係数である基線長をw、撮像素子101から射出瞳130までの距離をLとすると、デフォーカス量ΔLは、式(1)によって表すことができる。
なお、基線長wとは、図2(B)に示した、第一の重心位置211と第二の重心位置221との距離である。なお、本実施形態では、式(1)を用いて像ズレ量をデフォーカス量に変換するが、式(1)において、w>>dと近似することができるため、式(2)のような式を用いてもよい。
ステップS33では、ステップS32にて算出したデフォーカス量を、被写体距離に変換する。デフォーカス量から被写体距離への変換は、結像光学系120の結像関係を用いて行うことができる。
ステップS3の処理によって、取得した画像に対する、被写体距離の分布(以下、距離画像)を得ることができる。
図3(A)に戻り、説明を続ける。
ステップS4は、ステップS3にて算出した被写体距離の信頼度を表す分布(以下、信頼度画像)を算出する工程(信頼度算出工程)である。信頼度算出工程については、図3(C)および図4(B)を用いて説明する。図3(C)は、ステップS4にて行われる工程を詳細に説明する図である。
まず、ステップS41で、第一の軸に沿って、コントラストの変化量を算出する。
コントラストの変化量を算出する方法について、図4(B)を用いて説明する。図4(B)は、第一の画像401と、当該画像に設定された注目点410および照合領域420を示した図である。
図4(B)では、ハッチングで示した領域430が一つの画素を表す。本例では、照合領域420は、X座標がXpからXqの範囲にあり、Y座標がYpからYqの範囲にあるものとする。また、注目点410の座標が(Xc,Yc)であるものとする。
本実施形態では、コントラストの変化量として、照合領域420に含まれる第一の画像の画素値の分散を、第一の軸(すなわちX軸)に沿って、Y座標ごとに算出する。
コントラストの変化量C(x,y)は、式(3)および式(4)によって表すことができる。なお、I(x,y)は、画素列中の位置(x,y)における第一の画像の画素値であり、Nxは、照合領域420内に含まれるX軸方向の画素数である。
以下、Y座標ごとに得られた、コントラストの変化量を第一の値と称する。

次に、ステップS42で、第二の軸(すなわちY軸)方向に複数得られた、第一の値の代表値(以下、第二の値)を算出する。本実施形態では、第一の値の代表値として、第一の値の平均値を算出する。
すなわち、注目点410におけるコントラスト変化の代表値Conf(x,y)は、式5によって表すことができる。なお、Nyは、照合領域420内に含まれるY方向の画素数である。
本実施形態では、このようにして求めた、コントラスト変化の代表値の集合(Conf)を、被写体距離に対応する距離信頼度とする。
ここで、第一の値の分散が大きいほど、第一の画像における、第一の軸方向のコントラストの変化が大きいことがわかる。さらに、第二の軸に沿って画素値の分散を平均化することで、照合領域420内に含まれる第一の画像の、像ズレ量算出に寄与するコントラスト変化量の大きさを算出することができる。
本実施形態に係る距離算出装置110では、第一の光電変換部161と第二の光電変換部162を、第一の軸であるX軸に沿って並置している。そのため、第一の画像と第二の画像は、第一の軸に沿って像ズレが生じる。
このような場合、X軸と平行な方向にコントラスト変化を有する被写体については、精度良く像ズレ量を検出することができるが、X軸と平行な方向のコントラスト変化が小さい被写体については、像ズレ量の検出誤差が大きくなる。
すなわち、コントラストの変化の大小に基づいて、像ズレ量の誤差を予測することができる。
図5を参照しながら、コントラストの変化と、像ズレ量との関係を説明する。
図5(A)は、X軸と平行な方向にコントラスト変化を有する被写体510の輝度分布と、当該被写体を撮像して得られた第一の画像511および第二の画像512を示した図である。
また、図5(B)の実線は、第一の画像511の画素値を示し、破線は第二の画像の画素値を示している。図からもわかるように、被写体510がデフォーカス状態にある場合
、第一の画像511と第二の画像512は、X方向にずれた状態となっている。
被写体510は、X方向に輝度値のコントラスト変化があるため、図4(A)を参照して説明したような対応点の探索方法を用いることで、像ズレ量を精度良く算出することができる。
一方、図5(C)は、Y軸と平行な方向にコントラスト変化を有する被写体520の輝度分布と、当該被写体を撮像して得られた第一の画像521および第二の画像522を示した図である。
また、図5(D)も、図5(B)と同様に、第一の画像のX方向の画素値と、第二の画像のX方向の画素値を示したものであるが、図5(D)を見てわかるように、実線と破線が重なっている。これは、第一の画像と第二の画像との間の像ズレがX方向に生じているためである。したがって、このように、X方向にコントラスト変化が無い場合、像ズレ量を検出することが困難になる。
そこで、本実施形態では、まずステップS41において、第一の軸(X軸)に沿って画素値の分散を算出することでコントラストの変化量(第一の値)を算出し、更に、ステップS42において、第二の軸に沿って第一の値の平均値(第二の値)を算出している。そして、このようにして得られた第二の値を、距離に対する信頼度とする。
このような方法によって距離信頼度を算出すると、図5(A)中の被写体510については、信頼度が高いという評価結果が得られ、図5(C)中の被写体520については、信頼度が低いという評価結果が得られる。すなわち、距離信頼度を正しく算出することができる。
一方で、特許文献1に開示されている信頼度の算出方法では、像ズレが生じる方向を考慮せずに、照合領域内に含まれるすべての画素値の分散を算出している。つまり、図5(A)のような場合であっても、図5(C)のような場合であっても、分散が略等しい値となる。したがって、図5(C)のように、Y方向にのみコントラスト変化を有する被写体を撮像すると、誤った距離信頼度が生成されるおそれがある。
また、信頼度を算出するための従来技術として、相関を用いたものがある。例えば、特許文献2に記載の装置では、相関値の最小値と、最小値近傍の相関値から算出した傾きの比を用いることで信頼度を算出している。このような場合、局所的なノイズが存在すると、相関値がばらつくため、傾きが大きく算出されたり、最小値が小さく算出されたりする恐れがある。
図6(A)は、コントラスト比が2.0である被写体610の輝度分布と、当該被写体を撮像して得られた第一の画像611および第二の画像612を示した図である。また、図6(B)は、コントラスト比が1.25である被写体620の輝度分布と、当該被写体を撮像して得られた第一の画像621および第二の画像622を示した図である。図6(A)および図6(B)には、ともにISO感度100に相当するノイズが付加されている。
図6(C)は、被写体610と被写体620のそれぞれについて、横軸に参照点の移動量、縦軸にSSD(すなわち、画素値のの差の二乗和)を用いた相関値をとったグラフである。図6(C)中の実線613は、被写体610の相関値を表し、破線623は、被写体620の相関値を表している。なお、ここでは、SSDを用いているため、相関値の値が小さいほど相関が高いことを意味する。また、矢印630は像ズレ量の正解値を表し、矢印640は、被写体610の像ズレ量算出結果を表す。また、矢印650は、被写体620の像ズレ量算出結果を表している。図6(C)からわかるように、コントラスト比が高いほど、精度良く像ズレ量が算出できることが分かる。
表1は、本実施形態における信頼度算出工程によって算出された距離の信頼度と、特許文献2(以下、比較例)に記載されているような、相関値の最小値と、最小値近傍の傾きの比とを用いて算出した信頼度の大小関係を表した表である。
なお、本実施形態における距離信頼度は、値が大きいほど信頼度が高いことを示し、比較例では、値が小さいほど信頼度が高いことを示す。比較例では、被写体620について、像ズレ量の算出誤差が大きいにもかかわらず、高い距離信頼度が算出されている。これは、相関値の最小値近傍では、局所的なノイズの影響で、相関値の最小値近傍の傾きが大きく評価されてしまっていることに起因する。
一方で、本実施形態における距離信頼度の算出方法では、照合領域に含まれる画素値のX方向のコントラスト変化を、分散により評価しているため、局所的なノイズの影響を受けにくい。その結果、被写体620のように、コントラスト比が低い被写体を撮像すると、距離信頼度が低く算出される。
なお、本実施形態では、ステップS3で距離算出を行った後に、ステップS4で距離信頼度を算出しているが、ステップS3とステップS4を逆に実行してもよい。ステップS4をステップS3よりも前に実行することで、予め距離信頼度を取得することができる。また、予め取得した距離信頼度に基づいて、被写体距離を算出する際に用いるパラメータ(照合領域420のサイズ、対応点を探索する範囲など)を設定することができ、被写体距離の算出精度を高めることができる。
以上説明したように、本実施形態に係る距離算出装置では、第一の軸に沿って画素値の分散を算出することで、瞳分割方向である第一の軸に沿ってコントラスト変化量を算出する。さらに、第二の軸に沿ってコントラスト変化量の代表値を算出することで、照合領域内に含まれる第一の軸方向のコントラスト変化の大きさのみを評価する。
この結果、像ズレ量の算出に寄与するコントラスト変化のみを評価することができ、精度良く距離信頼度を算出することができる。さらに、照合領域内に含まれる画素を用いて統計的評価を行うことで、局所的なノイズの影響を低減することができる。
なお、本実施形態では、コントラストの変化量として、画素値の分散を算出しているが、コントラスト変化の大きさを評価することができれば、必ずしも分散を用いる必要はない。例えば、標準偏差、画素値の最大値と最小値の差分の絶対値、画素値を第一の軸方向に微分した結果の絶対値の最大値(あるいは平均値)などを用いてもよい。なお、ノイズの影響をより低減するため、統計的評価である分散または標準偏差を用いることが好ましい。
また、本実施形態では、第二の値として、第一の値の平均値を用いているが、照合領域内における第一の値の代表値を算出できれば、平均値以外を用いてもよい。例えば、総和、最大値、最小値、中央値、最頻値などを用いてもよい。
ただし、第二の値の算出方法は、像ズレ量を算出する際に用いた相関値演算方法と対応するものであることが望ましい。すなわち、像ズレ量演算時の相関値として、差分の絶対値の和や、差分の二乗和を用いる場合には、和に基づく演算である総和または平均値を用いることが望ましい。
また、本実施形態では、ステップS4にて、第一の画像のみを用いてコントラスト変化量を算出しているが、第一の画像と第二の画像の両方を用いてもよい。また、第一の画像と第二の画像を合成した第三の画像を生成し、第三の画像を用いてコントラスト変化量を算出してもよい。この場合、対応する画素位置の画素値の和または平均を用いて、第一の画像と第二の画像を合成すればよい。
(第二の実施形態)
第一の実施形態では、距離算出工程(ステップS3)を実行した後で、距離信頼度算出工程(ステップS4)を実行した。これに対し、第二の実施形態は、距離の算出と距離信頼度の算出を同一のステップで実行する実施形態である。
図7(A)は、第二の実施形態における距離算出部102の処理フローチャートである。
第二の実施形態は、第一の実施形態における、ステップS3およびステップS4のかわりに、被写体距離と距離信頼度を同時に算出するステップS5が実行されるという点において、第一の実施形態と相違する。
以下、ステップS5で実行される処理の詳細について、図7(B)を用いて説明する。
ステップS31については、第一の実施形態と同様であるため、説明は省略する。
本実施形態では、ステップS31にて像ズレ量を算出した後で、第一の画像と第二の画像を合成した第三の画像を生成し、第三の画像を用いてコントラスト変化量を算出するステップ(ステップS51)を実行する。
具体的には、まず、第一の画像に対して、ステップS31で像ズレ量の算出に用いた注目点と照合領域を設定する。さらに、第二の画像に対して、ステップS31で算出した対応点と、対応点を中心とする照合領域を設定する。そして、照合領域内に含まれる第一の画像と第二の画像の合成画像である第三の画像を生成する。なお、合成画像は、対応する画素同士の和、または平均を用いて生成すればよい。
そして、生成した第三の画像を用いて、ステップS41と同様に、第一の軸に沿って第三の画像の分散を算出することで、第一の値を算出する。
なお、ステップS42、ステップS32、ステップS33については、第一の実施形態と同様であるため説明は省略する。
このように、第二の実施形態では、第一の画像と第二の画像を合成した画像である第三の画像を用いてコントラストの変化量を算出する。これにより、像ズレ量を算出した際と近い条件でコントラストの変化量を算出することができるため、距離信頼度の算出精度を高めることができる。
また、撮像環境によっては、例えば、撮像素子101の周辺画角において、結像光学系の口径食(ヴィネッティング)が発生した場合など、第一の画像と第二の画像とでコントラストの変化量が異なるケースが発生し得る。一方、第二の実施形態では、第一の画像と第二の画像を統合したうえでコントラストの変化量を算出するため、このようなケースにおいても、距離信頼度の算出精度を確保することができる。
(第三の実施形態)
第一ないし第二の実施形態では、画素ごとに二つの光電変換部を用いた。これに対し、第三の実施形態は、画素ごとに四つの光電変換部を配置した実施形態である。
図8(A)は、第三の実施形態における撮像素子801のXY断面図である。第三の実
施形態における撮像素子801は、2×2の画素からなる画素群850を複数配列したものである。具体的には、対角方向に、緑画素850G1及び850G2を配置し、他の二画素に、赤画素850R及び青画素850Bを配置している。
また、各画素には、受光層に四つの光電変換部(第一の光電変換部861、第二の光電変換部862、第三の光電変換部863、第四の光電変換部864)が並置されている。
図8(B)は、光軸140と撮像素子801の交点から、結像光学系120の射出瞳130を見た図である。各画素に設けられる複数の第一の光電変換部は、第一の瞳領域810を通過した光束を光電変換し、第一の画像を生成する。また、第二の光電変換部、第三の光電変換部、第四の光電変換部も同様に、それぞれ、第二の瞳領域820、第三の瞳領域830、第四の瞳領域840を通過した光束を光電変換し、第二の画像、第三の画像、第四の画像を生成する。
図8(B)では、第一の瞳領域810の重心位置を第一の重心位置811、第二の瞳領域820の重心位置を第二の重心位置821で表している。また、第三の瞳領域830の重心位置を第三の重心位置831、第四の瞳領域840の重心位置を第四の重心位置841で表している。
また、第一の瞳領域と第四の瞳領域を結合した領域(以下、和領域)の重心位置を第五の重心位置851とし、第二の瞳領域と第三の瞳領域の和領域の重心位置を第六の重心位置861としている。さらに、第一の瞳領域と第二の瞳領域の和領域の重心位置を第七の重心位置871とし、第三の瞳領域と第四の瞳領域の和領域の重心位置を第八の重心位置881としている。
第三の実施形態では、合成する画像の組み合わせを変えることで、像ズレを発生させる方向を変えることができる。
例えば、第一の画像と第四の画像を合成した画像(第五の画像と称する)は、第一の瞳領域810と第四の瞳領域840を通過した光束が、撮像素子801上に形成する像の強度分布となる。また、第二の画像と第三の画像を合成した画像(第六の画像と称する)は、第二の瞳領域820と第三の瞳領域830を通過した光束が、撮像素子801上に形成する像の強度分布となる。
第五の画像に対応する和領域の重心位置851と、第六の画像に対応する和領域の重心位置861は、X軸に沿って互いに異なる方向に偏心している。したがって、像ズレはX軸に沿って発生する。このような場合、X軸を第一の軸とし、Y軸を第二の軸とすることで、前述した距離信頼度の算出を行うことができる。
次に、Y軸に沿って像ズレを発生させる方法について説明する。
第一の画像と第二の画像を合成した第七の画像は、第一の瞳領域810と第二の瞳領域820を通過した光束が撮像素子801上に形成する像の強度分布となる。また、第三の画像と第四の画像を合成した第八の画像は、第三の瞳領域830と第四の瞳領域840を通過した光束が撮像素子801上に形成する像の強度分布となる。
第七の画像に対応する和領域の重心位置871と、第八の画像に対応する和領域の重心位置881は、Y軸に沿って互いに異なる方向に偏心している。したがって、像ズレはY軸に沿って発生する。このような場合、Y軸を第一の軸とし、X軸を第二の軸とすることで、前述した距離信頼度の算出を行うことができる。
このように、合成する画像の組み合わせを変えることで、像ズレが発生する軸を変えることができる。
第三の実施形態は、像ズレが発生する軸に応じて、第一の軸と第二の軸を適宜設定して、距離信頼度を算出する。これにより、被写体のコントラストの方向に応じて、像ズレが
発生する軸を変えることができ、被写体までの距離を精度よく算出することができる。
例えば、図5(A)における被写体510のように、被写体が、X方向にのみコントラスト変化を有する場合、第五の画像と第六の画像を用いて像ズレ量を算出する。この場合、像ズレがX軸に沿って発生するため、精度良く被写体までの距離を算出することができる。
また、図5(B)における被写体520のように、被写体が、Y方向にのみコントラスト変化を有する場合、第七の画像と第八の画像を用いて像ズレ量を算出する。この場合、像ズレがY軸に沿って発生するため、精度良く被写体までの距離を算出することができる。
ただし、コントラストの変化がどの軸に沿って発生するかは、事前にはわからない。そこで、第三の実施形態では、合成する画像の組み合わせを複数生成し、各組み合わせについて、被写体距離と距離信頼度を算出したうえで、最も信頼度が高い被写体距離を選択する。この結果、精度よく被写体距離を算出することができる。
図9(A)は、第三の実施形態における距離算出部102の処理フローチャートである。
ステップS101およびステップS102は、第一の実施形態におけるステップS1およびステップS2と同様であるが、処理対象の画像が二つではなく四つ(第一の画像〜第四の画像)であるという点において相違する。
ステップS106では、四つの画像を用いて、合成画像を生成する。具体的には、以下の四つの画像を生成する。
(1)第一の画像と第四の画像の互いに対応する位置にある画素値を平均化し、第五の画像を生成する。
(2)第二の画像と第三の画像の互いに対応する位置にある画素値を平均化し、第六の画像を生成する。
(3)第一の画像と第二の画像の互いに対応する位置にある画素値を平均化し、第七の画像を生成する。
(4)第三の画像と第四の画像の互いに対応する位置にある画素値を平均化し、第八の画像を生成する。
ステップS103は、第一の実施形態におけるステップS3と同様であるが、二パターンの距離画像を生成するという点において相違する。
具体的には、第五の画像と第六の画像を用いて第一の距離画像を生成し、また、第七の画像と第八の画像を用いて第二の距離画像を生成する。なお、距離画像の生成には、図3(B)の手順を用いることができる。
まず、第一の距離画像を生成するために、基準画像として第五の画像を選択し、参照画像として第六の画像を選択する。また、第二の距離画像を生成するために、基準画像として第七の画像を選択し、参照画像として第八の画像を選択する。
なお、第五の画像と第六の画像に基づいて算出した像ズレ量を、デフォーカス量に変換するための基線長は、第五の重心位置851と第六の重心位置861と間の距離となる。また、第七の画像と第八の画像に基づいて算出した像ズレ量を、デフォーカス量に変換するための基線長は、第七の重心位置871と第八の重心位置881との間の距離となる。
ステップS104は、距離信頼度を算出する工程である。本工程では、まず、第五の画像に基づき、第一の信頼度画像を算出する。さらに、第七の画像に基づき、第二の信頼度画像を算出する。信頼度画像を算出する方法には、図3(C)の手順を用いることができる。
ステップS107は、第一の距離画像と第二の距離画像を統合して、単一の距離画像(統合距離画像)を生成する工程である。本ステップでは、第一の信頼度画像と第二の信頼度画像を用いて、第一の距離画像と第二の距離画像を重み付け平均する。すなわち、第一の信頼度画像と第二の信頼度画像を比較し、信頼度の高い距離の比率がより高くなるように、第一の距離画像と第二の距離画像を平均化し、統合した距離画像を得る。
このように、第三の実施形態では、複数の画像を組み合わせて、複数の距離画像および信頼度画像を算出し、信頼度が高くなるように重み付けされた統合距離画像を算出する。これにより、被写体距離の算出精度をより高めることができる。
なお、第三の実施形態では、距離画像を複数算出し、信頼度画像に基づいて重み付けを行ったうえで距離画像を統合したが、信頼度画像を先に算出したうえで、算出結果を用いて距離画像を生成してもよい。
図9(B)は、処理フローチャートの変形例である。
本変形例では、ステップS104にて、合成画像の組み合わせごとに信頼度画像を算出し、ステップS103にて、信頼度の高い合成画像の組み合わせを用いて距離画像を生成する。このように、予め合成画像の組み合わせごとに信頼度画像を算出することで、ステップS103における演算量を削減することができる。
なお、第三の実施形態では、合成画像を組み合わせることで、X軸に沿って像ズレを発生させるパターンと、Y軸に沿って像ズレを発生させるパターンについて説明したが、像ズレの方向は、X軸またはY軸に平行な方向でなくてもよい。例えば、X軸と45度を成す軸に沿って像ズレを発生させるため、第一の画像と第三の画像の組み合わせや、第二と第四の画像の組み合わせなどを用いてもよい。いずれの場合においても、像ズレが発生する軸と平行な軸を第一の軸とし、第一の軸に対して垂直な軸を第二の軸とすればよい。
また、第一の画像と第二の画像を用いて像ズレを発生させることができれば、必ずしも合成画像を生成する必要はない。
(第四の実施形態)
第四の実施形態は、第一の実施形態と比較して、距離信頼度の算出方法が異なる実施形態である。
図10(A)は、第四の実施形態における距離算出部102の処理フローチャートであり、図10(B)は、ステップS8で実行される処理の詳細を示したフローチャートである。
なお、ステップS1〜ステップS3、ステップS41〜ステップS42については、第一の実施形態と同様であるため説明は省略する。
ステップS81は、ノイズ量を推定するステップである。
本ステップでは、予め均一な輝度分布を有する被写体を、デジタルカメラ100にて撮影した場合に、撮像素子101において生じるノイズ量を推定する。具体的には、撮像素子によって発生するノイズを近似式によって表し、撮像面におけるノイズの分布を生成する。
撮像素子101おいて発生するノイズには、読み出しノイズ、光ショットノイズ、暗電流ショットノイズなどがある。ここでは、式(6)によってノイズ量を近似する。これにより、画素位置(x,y)におけるノイズ量推定値(N(x,y))を得ることができる。
なお、ISOはデジタルカメラ100の撮影時のISO感度であり、I(x,y)は、
画素位置(x,y)における第一の画像の画素値である。また、AおよびBは、近似パラメータである。
図11(A)は、式(5)によって表されたノイズ量の推定結果の例を表したグラフである。なお、横軸が画素値であり、縦軸が、推定されたノイズ量である。
本例では、画素値が大きい場合に、一次関数に漸近し、画素値が小さい場合に、一次関数を外れ、近似パラメータAに近づくような近似式を用いている。これは、画素値が大きいほど光ショットノイズの影響が支配的になり、画素値が小さいほど、読み出しノイズや暗電流ショットノイズの影響が大きくなるという理由による。
このように、撮像素子101にて生じるノイズ特性を考慮した近似式を用いることで、ノイズ量を精度よく近似することができる。なお、式(6)では、近似パラメータAを定数としたが、撮影時の露光時間に関連する変数としてもよい。このようにすることで、暗電流ショットノイズの影響をより精度良く表すことができるようになる。
また、より簡易的にノイズ量を推定するために、式(7)を用いてもよい。
max(a,b)は、aとbのうち大きい値を返す関数である。式(7)によるノイズ量の推定結果が、図11(B)である。
ステップS82では、ステップS42にて算出したコントラスト変化量の代表値と、ステップS81にて算出したノイズ量推定値を用いて、画像の信号対雑音比(画像S/N比)を算出し、算出したS/N比を距離信頼度として出力する。画像S/N比は、コントラスト変化量の代表値と、ノイズ量推定値の比を用いて算出することができる。
このように、第四の実施形態では、撮像画素において発生するノイズを近似したうえで画像S/N比を算出し、算出した画像S/N比を距離信頼度とする。
デジタルカメラにて、高感度撮影を行う場合や、高輝度の被写体を撮影する場合、画像に含まれるノイズ量が多くなる。そこで、画像S/N比に基づいて距離信頼度を算出することで、ノイズの影響を低減することができ、ノイズ量が多い場合においても、精度良く距離信頼度を算出することができる。
なお、本実施形態では、ステップS82にて、位置(x,y)のノイズ量を推定するために、位置(x,y)にある画素の画素値を用いているが、照合領域内に含まれる画素の平均画素値を用いてノイズ量を推定してもよい。照合領域内における平均画素値を用いることで、像ズレ量の算出時に近い条件でノイズ量を推定することができるため、距離信頼度をより精度よく算出することができる。
なお、ノイズ量を近似するための式は、コントラスト変化量の評価方法に応じて適宜変更する必要がある。例えば、式(6)に示した近似式は、画素値の分散を用いて第一の値を算出する場合に好適に適用することができるが、画素値の標準偏差を用いる場合には、平方根関数に漸近する近似式を用いることが望ましい。
(第五の実施形態)
第五の実施形態は、生成した信頼度画像を用いて、生成した距離画像を補正する実施形
態である。
図12(A)は、第五の実施形態における距離算出部102の処理フローチャートであり、図12(B)は、ステップS9で実行される処理の詳細を示したフローチャートである。
なお、ステップS1〜ステップS4については、第一の実施形態と同様であるため説明は省略する。
ステップS9は、被写体距離の分布を表す距離画像と、当該距離画像に対応する信頼度画像に基づいて、算出した距離画像を補正する工程である。
ステップS91では、距離画像内に第一の画素位置を設定するとともに、第一の画素位置を中心とした参照領域を設定する。
ステップS92では、第一の画素位置に対応する補正距離を算出する。具体的には、ステップS91にて設定した参照領域内に含まれる被写体距離を、距離信頼度を用いて重み付け平均し、補正距離を算出する。そして、第一の画素位置を移動させながら補正距離を算出することで、補正後の距離画像を生成する。
式(8)は、距離画像を、信頼度画像で重み付け平均する方法を表した式である。
なお、Dr(x,y)は、距離画像中の位置(x,y)における被写体距離を表し、Dc(x,y)は、位置(x,y)における、補正後の被写体距離を表す。また、Conf(x,y)は位置(x,y)における距離信頼度を示す。
このように、第五の実施形態では、距離画像と信頼度画像を用いて重み付け平均を行い、補正後の距離画像を算出している。これにより、距離画像の算出誤差が小さい領域の比率を高くして平滑化することができる。この結果、より精度の高い被写体距離を得ることができる。
なお、本実施形態では、式(8)に示したように、距離信頼度の分布を用いて重み付け平均を行っているが、必ずしも重み付け平均を行う必要はない。例えば、予め設定した閾値を用いて、信頼度画像を、信頼度が有る領域と無い領域とに分け、信頼度が有る領域に対応する距離画像のみを用いて平均値を算出し、補正後の距離画像を算出してもよい。
また、本実施形態では、信頼度画像のみを用いて距離画像の補正を行ったが、例えば、式(9)のように、画像情報をさらに用いて補正を行うようにしてもよい。式(9)におけるIc(x,y)は、位置(x,y)における画像情報である。画像情報とは、色相や輝度値(例えば、位置(x,y)を基準とした色差や輝度差)、コントラストの変化量(第二の値)などである。なお、第一の画素位置から離れるほど比率が低くなるように重み付け平均を行うようにしてもよい。
(第六の実施形態)
第六の実施形態は、第一の実施形態と比較して、距離信頼度の算出方法が異なる実施形態である。
図14(A)は、第六の実施形態における距離算出部102の処理フローチャートであり、図14(B)は、ステップS10で実行される処理の詳細を示したフローチャートである。なお、ステップS1〜ステップS3と、ステップS81〜ステップS82については、第四の実施形態と同様であるため、説明は省略する。
ステップS10は、ステップS3にて算出した被写体距離に対応する信頼度画像を算出する工程(信頼度算出工程)である。
ステップS101では、コントラストの変化量を表す値(コントラスト評価値)を算出する。本実施形態においては、ステップS31にて像ズレ量を算出した際の相関度を用いて、コントラスト評価値を算出する。具体的には、最も高い相関を得る対応点近傍の相関度から算出した傾きをコントラスト評価値とする。ステップS31にて、相関度を評価するためにSSDを用いた場合、対応点近傍の相関度を2次関数で近似することで、傾きを算出することができる。すなわち、以下の式(10)を用いて傾きSLOPEを算出することができる。
なお、式(10)にて、Sは、SSDによる相関度である。S(0)は、最も高い相関を与える参照点の相関度であり、S(−1)とS(+1)、最も高い相関を与える参照点から移動量が1画素少ない場合と1画素多い場合の相関度である。
ステップS81は、ノイズ量を推定するステップである。第四の実施形態と同様に、式(6)または、式(7)のいずれかを用いて、ノイズ量を推定する。なお、本実施形態においては、ステップS31にて相関度を評価するためにSSDを用いた場合を例に説明を行う。SSDは、画素値同士の差の二乗和を評価値としているため、ステップS101にて算出するコントラスト評価値は、次数n=2を有すると言える。光ショットノイズは、フォトン数の平方根に比例すると近似できるため、画素値が大きい場合には、1次多項式で近似、または1次多項式に漸近する式を用いてノイズ量を推定している。
ステップS31にて、SSDではなく、差の絶対値和を評価値として用いるSAD(Sum of Absolute Difference)を用い、相関度の傾きからコントラスト評価値を算出することもできる。この場合、コントラスト評価値は次数n=1を有する。従って、このような場合には、画素値が大きい場合に、平方根関数で近似、または平方根関数に漸近する式を用いてノイズ量を推定することが望ましい。すなわち、コントラスト評価値の次数をnとし、定数Aおよび定数Bをおいたとき、以下の式(11)または式(12)を用いてノイズ量推定値Nを算出することが望ましい。なお、値I(x,y)は、位置(x,y)における画像情報である。

なお、本実施形態においては、ステップS81にて、位置(x,y)のノイズ量を推定するために、位置(x,y)にある画素の画素値を用いているが、照合領域内に含まれる画素の平均画素値を用いてノイズ量を推定してもよい。照合領域内における平均画素値を用いることで、像ズレ量の算出時に近い条件でノイズ量を推定することができるため、距離信頼度をより精度よく算出することができる。
本実施形態においては、ステップS82にて、ステップS101にて算出したコントラスト評価値と、ステップS81にて算出したノイズ量との比に基づき、距離信頼度を算出している。しかし、撮像画素において発生するノイズが多い場合には、ステップS101にて、相関度の傾きから算出されるコントラスト評価値が誤って算出される場合がある。従って、ステップS81にて算出したノイズ量が、所定の閾値を超えた場合には、ステップS82にて、比を算出せずに、距離信頼度が低いことを表す所定の値を距離信頼度としても構わない。そのようにすることで、距離信頼度が低いにも関わらず、距離信頼度が高いと誤判定することを防止することができる。
このように、第六の実施形態においては、撮像画素において発生するノイズを近似したうえで画像S/N比を算出し、算出した画像S/N比を距離信頼度とする。デジタルカメラにて、高感度撮影を行う場合や、高輝度の被写体を撮影する場合、画像に含まれるノイズ量が多くなる。そこで、撮像画素に含まれるノイズ量を、撮像画像から直接的に算出することで、より精度よくノイズ量を推定している。そのため、ノイズ量が多い場合においても、精度良く距離信頼度を算出することができる。
(変形例)
なお、実施形態の説明は本発明を説明する上での例示であり、本発明は、発明の趣旨を逸脱しない範囲で適宜変更または組み合わせて実施することができる。例えば、本発明は、上記処理の少なくとも一部を含む距離算出装置として実施することもできるし、距離算出装置の制御方法として実施することもできる。また、当該制御方法を距離算出装置に実行させるプログラムとして実施することもできる。上記処理や手段は、技術的な矛盾が生じない限りにおいて、自由に組み合わせて実施することができる。
また、実施形態の説明では、本発明に係る距離算出装置を備えた撮像装置の一例として、デジタルカメラを例示したが、本発明はこれ以外に適用してもよい。例えば、デジタル距離計測器に適用してもよい。
また、実施形態の説明では、一つの結像光学系および一つの撮像素子を有するデジタルカメラを例示したが、例えば、図15(A)に示したデジタルカメラ1300のように、結像光学系および撮像素子は二つであってもよい。
本例において、第一の結像光学系1320aおよび第二の結像光学系1320bは、デジタルカメラ1300の撮影レンズであり、被写体の像を、それぞれ撮像面である撮像素子1301aおよび撮像素子1301bに形成する機能を有する。
第一の結像光学系1320aは、複数のレンズ群、並びに絞りから構成され、撮像素子
1301aから所定距離離れた位置に射出瞳1330aを有する。また、第二の結像光学系1320bも同様に、複数のレンズ群、並びに絞りから構成され、撮像素子1301bから所定距離離れた位置に射出瞳1330bを有する。
図15(B)は、光軸1340aと撮像素子1301aの交点から見た第一の結像光学系1320aの射出瞳1330aと、光軸1340bと撮像素子1301bの交点から見た第二の結像光学系1320bの射出瞳1330bを示す図である。
第一の瞳領域210は射出瞳1330aに内包され、第二の瞳領域220は射出瞳1330bに内包されている。また、第一の瞳領域210の重心位置211(第一の重心位置)と第二の瞳領域220の重心位置221(第二の重心位置)は、第一の軸200に沿って偏心(シフト)している。
デジタルカメラ1300のように、複数の結像光学系並びに撮像素子を備えた撮像装置においても、例示した方法と同様の方法によって、被写体距離ならびに距離信頼度を算出することができる。
また、本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
120・・・結像光学系、101・・・撮像素子、102・・・距離算出部、110・・・距離算出装置

Claims (30)

  1. 結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置であって、
    前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、
    前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出手段と、
    前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、
    を有する、距離算出装置。
  2. 前記第一の値は、前記局所領域に含まれ、前記第一の軸に沿った画素列が有する画素値の分散である
    ことを特徴とする、請求項1に記載の距離算出装置。
  3. 前記第一の値は、前記局所領域に含まれ、前記第一の軸に沿った画素列が有する画素値の最大値と最小値との差分である
    ことを特徴とする、請求項1に記載の距離算出装置。
  4. 前記第一の値は、前記局所領域に含まれ、前記第一の軸に沿った画素列が有する画素値を、前記第一の軸に沿って微分した値の絶対値の和もしくは絶対値の平均である
    ことを特徴とする、請求項1に記載の距離算出装置。
  5. 前記第二の値は、複数の前記第一の値の総和、平均値、中央値、最頻値のうちの少なくともいずれかである
    ことを特徴とする、請求項1から4のいずれか1項に記載の距離算出装置。
  6. 結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、
    第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置であって、
    前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、
    前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出手段と、
    前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域におけるコントラストの変化量の大きさを表す値であるコントラスト評価値と、前記第一の画像と前記第二の画像の少なくとも一方に基づいて算出されたノイズ量推定値との比に基づき、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、
    を有する、距離算出装置。
  7. 前記局所領域に含まれる前記第一の画像と前記第二の画像の少なくとも一方の画像の画素値が大きいほど、前記ノイズ量推定値が大きくなる
    ことを特徴とする、請求項6に記載の距離算出装置。
  8. 画素位置(x,y)における前記第一の画像と前記第二の画像の少なくとも一方の画素値に基づく値I(x,y)と、定数Aと、定数Bと、前記コントラスト評価値の次数nと、をおいた場合に、式

    によって、画素位置(x,y)における前記ノイズ量推定値N(x,y)を算出する
    ことを特徴とする、請求項6に記載の距離算出装置。
  9. 画素位置(x,y)における前記第一の画像と前記第二の画像の少なくとも一方の画素値に基づく値I(x,y)と、定数Aと、定数Bと、前記コントラスト評価値の次数nと、をおいた場合に、式

    によって、画素位置(x,y)における前記ノイズ量推定値N(x,y)を算出する
    ことを特徴とする、請求項6に記載の距離算出装置。
  10. 前記画素位置(x,y)における、前記第一の画像と前記第二の画像の少なくとも一方の画素値に基づく値であるI(x,y)は、
    前記画素位置(x,y)における被写体距離を算出する際に用いた、前記局所領域に含まれる画素値の平均値である
    ことを特徴とする、請求項8または9に記載の距離算出装置。
  11. 前記信頼度算出手段は、
    前記第一の軸に沿った前記局所領域に含まれる前記第一の画像と前記第二の画像の少なくとも一方の画像のコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸に沿って複数算出し、
    複数の前記第一の値を代表する値である第二の値をコントラスト評価値とする
    ことを特徴とする、請求項6から10のいずれか1項に記載の距離算出装置。
  12. 前記コントラスト評価値は、前記第一の画像の前記局所領域、前記第二の画像の前記局所領域、又は、前記第一の画像と前記第二の画像の合成画像の局所領域において、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸と交差する第二の
    軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて算出される、
    ことを特徴とする請求項6から11のいずれか1項に記載の距離算出装置。
  13. 前記第一の値は、前記第一の軸に沿った画素列が有する画素値の分散、前記第一の軸に沿った画素列が有する画素値の最大値と最小値との差分、前記第一の軸に沿った画素列が有する画素値を前記第一の軸に沿って微分した値の絶対値の和、もしくは、絶対値の平均、のうちの少なくともいずれかである、
    ことを特徴とする請求項12に記載の距離算出装置。
  14. 前記第二の値は、複数の前記第一の値の総和、平均値、中央値、最頻値、のうちの少なくともいずれかである、
    ことを特徴とする請求項12または13に記載の距離算出装置。
  15. 前記距離算出手段は、前記算出した信頼度に基づいて、被写体距離を算出する際に用いるパラメータを設定する
    ことを特徴とする、請求項1から14のいずれか1項に記載の距離算出装置。
  16. 前記距離算出手段が算出した被写体距離を、算出した信頼度に基づいて補正する補正手段をさらに有する
    ことを特徴とする、請求項1から15のいずれか1項に記載の距離算出装置。
  17. 前記距離算出手段は、前記第一の画像と第二の画像に基づいて、被写体距離の分布を表す距離画像を生成し、
    前記信頼度算出手段は、前記被写体距離の信頼度の分布を表す信頼度画像を生成し、
    前記補正手段は、前記距離画像および信頼度画像に、第一の画素位置を含む参照領域を設定し、前記参照領域に含まれる被写体距離を、前記参照領域に含まれる信頼度に基づいて重み付け平均し、得られた結果を用いて、前記第一の画素位置に対応する被写体距離を補正する
    ことを特徴とする、請求項16に記載の距離算出装置。
  18. 前記補正手段は、前記参照領域に対応する、画素の輝度、画素の色相、第二の値の少なくともいずれかにさらに基づいて重み付け平均を行い、得られた結果を用いて、前記第一の画素位置に対応する被写体距離を補正する
    ことを特徴とする、請求項17に記載の距離算出装置。
  19. 第一の結像光学系をさらに有し、
    前記第一の瞳領域と前記第二の瞳領域は、前記第一の結像光学系の射出瞳に内包される
    ことを特徴とする、請求項1から18のいずれか1項に記載の距離算出装置。
  20. 第一の結像光学系と第二の結像光学系をさらに有し、
    前記第一の瞳領域は、前記第一の結像光学系の射出瞳に内包され、前記第二の瞳領域は、前記第二の結像光学系の射出瞳に内包される
    ことを特徴とする、請求項1から18のいずれか1項に記載の距離算出装置。
  21. 結像光学系が有する射出瞳に内包された、複数の瞳領域を通過した光束に基づいて生成された複数の画像に基づいて、被写体距離を算出する距離算出装置であって、
    前記複数の画像の中から、対応する瞳領域の重心が、第一の軸に沿ってそれぞれ異なる位置にある二つの画像の組を生成する生成手段と、
    前記二つの画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体
    距離を算出する距離算出手段と、
    前記二つの画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、
    を有する、距離算出装置。
  22. 前記生成手段は、前記第一の軸の方向を変更しながら、前記二つの画像の組を複数生成し、
    前記距離算出手段は、被写体距離の分布を表す距離画像を前記画像の組ごとに生成し、
    前記信頼度算出手段は、生成した距離画像ごとに、前記被写体距離の信頼度の分布を表す信頼度画像を生成し、
    前記複数の信頼度画像に基づき、前記複数の距離画像を統合した統合距離画像を生成する統合手段をさらに有する
    ことを特徴とする、請求項21に記載の距離算出装置。
  23. 前記生成手段が生成する二つの画像の組に含まれる画像は、前記射出瞳に内包された複数の領域をそれぞれ通過した光束に基づいて生成された複数の画像を結合して得られる画像である
    ことを特徴とする、請求項22に記載の距離算出装置。
  24. 結像光学系が有する射出瞳に内包された、複数の瞳領域を通過した光束に基づいて生成された複数の画像に基づいて、被写体距離を算出する距離算出装置であって、
    前記複数の画像の中から、対応する瞳領域の重心が、第一の軸に沿ってそれぞれ異なる位置にある二つの画像の組を生成する生成手段と、
    前記二つの画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出手段と、
    前記二つの画像の少なくとも一方に設定された局所領域におけるコントラストの変化量の大きさを表す値であるコントラスト評価値と、前記二つの画像の少なくとも一方に基づいて算出されたノイズ量推定値との比に基づき、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、
    を有する、距離算出装置。
  25. 結像光学系と、前記結像光学系を通過した光束に基づいて画像を生成する撮像手段と、
    請求項1から24のいずれか1項に記載の距離算出装置と、
    を有する撮像装置。
  26. 結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、
    前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、
    前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、
    前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、
    を含む、距離算出方法。
  27. 結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、
    前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、
    前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、
    前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域におけるコントラストの変化量の大きさを表す値であるコントラスト評価値と、前記第一の画像と前記第二の画像の少なくとも一方に基づいて算出されたノイズ量推定値との比に基づき、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、
    を含む、距離算出方法。
  28. 結像光学系が有する射出瞳に内包された、複数の瞳領域を通過した光束に基づいて生成された複数の画像に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、
    前記複数の画像の中から、対応する瞳領域の重心が、第一の軸に沿ってそれぞれ異なる位置にある二つの画像の組を生成する生成ステップと、
    前記二つの画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、
    前記二つの画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、
    を含む、距離算出方法。
  29. 結像光学系が有する射出瞳に内包された、複数の瞳領域を通過した光束に基づいて生成された複数の画像に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、
    前記複数の画像の中から、対応する瞳領域の重心が、第一の軸に沿ってそれぞれ異なる位置にある二つの画像の組を生成する生成ステップと、
    前記二つの画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、
    前記二つの画像の少なくとも一方に設定された局所領域におけるコントラストの変化量の大きさを表す値であるコントラスト評価値と、前記二つの画像の少なくとも一方に基づいて算出されたノイズ量推定値との比に基づき、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、
    を含む、距離算出方法。
  30. 請求項26から29のいずれか1項に記載の距離算出方法の各ステップをコンピュータに実行させるプログラム。
JP2016019813A 2015-05-11 2016-02-04 距離算出装置、撮像装置、および距離算出方法 Active JP6632406B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US15/144,853 US10306132B2 (en) 2015-05-11 2016-05-03 Distance calculation apparatus, imaging apparatus and distance calculation method that include confidence calculation of distance information
US16/395,420 US10477100B2 (en) 2015-05-11 2019-04-26 Distance calculation apparatus, imaging apparatus, and distance calculation method that include confidence calculation of distance information

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015096658 2015-05-11
JP2015096658 2015-05-11

Publications (3)

Publication Number Publication Date
JP2016212081A JP2016212081A (ja) 2016-12-15
JP2016212081A5 JP2016212081A5 (ja) 2019-05-30
JP6632406B2 true JP6632406B2 (ja) 2020-01-22

Family

ID=57551616

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016019813A Active JP6632406B2 (ja) 2015-05-11 2016-02-04 距離算出装置、撮像装置、および距離算出方法

Country Status (1)

Country Link
JP (1) JP6632406B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI672937B (zh) * 2018-02-05 2019-09-21 廣達電腦股份有限公司 三維影像處理之裝置及方法

Also Published As

Publication number Publication date
JP2016212081A (ja) 2016-12-15

Similar Documents

Publication Publication Date Title
US10477100B2 (en) Distance calculation apparatus, imaging apparatus, and distance calculation method that include confidence calculation of distance information
JP6643122B2 (ja) 距離画像装置、撮像装置、および距離画像補正方法
JP6021780B2 (ja) 画像データ処理装置、距離算出装置、撮像装置および画像データ処理方法
CN109104599B (zh) 距离信息生成装置及方法、摄像设备、移动单元和介质
JP6645682B2 (ja) 距離取得装置、距離画像信号補正装置、撮像装置、距離画像量子化装置、および方法
JP2012215785A (ja) 固体撮像素子及び撮像装置
JP6800650B2 (ja) 信頼度生成装置、信頼度生成方法、および撮像装置
US20240214668A1 (en) Image processing device, image processing method, imaging device, and recording medium
JP6214271B2 (ja) 距離検出装置、撮像装置、距離検出方法、プログラム及び記録媒体
JP6921500B2 (ja) 距離検出装置および距離検出方法
US10514248B2 (en) Distance detecting apparatus
JP2023115356A (ja) 計測装置、撮像装置、制御方法及びプログラム
JP6353233B2 (ja) 画像処理装置、撮像装置、及び画像処理方法
JP2015212772A (ja) 測距装置、撮像装置、測距方法、および測距パラメータ算出方法
JP6173549B2 (ja) 画像データ処理装置、距離算出装置、撮像装置および画像データ処理方法
JP6632406B2 (ja) 距離算出装置、撮像装置、および距離算出方法
US10339665B2 (en) Positional shift amount calculation apparatus and imaging apparatus
JP2015203756A (ja) 視差量算出装置、距離算出装置、撮像装置および視差量算出方法
US11070715B2 (en) Image shift amount calculation apparatus and method, image capturing apparatus, defocus amount calculation apparatus, and distance calculation apparatus
JPH09211316A (ja) 像信号処理装置
JP6590463B2 (ja) 距離算出装置
US11790600B2 (en) Image processing device, imaging apparatus, image processing method, and recording medium
JP2017083817A (ja) ズレ量取得装置、撮像装置、およびズレ量取得方法
JP2016090975A (ja) 距離検出装置、撮像装置、距離検出方法、およびプログラム
JP2024021700A (ja) 画像処理装置、撮像装置、画像処理方法、及びコンピュータプログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20181116

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190416

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191023

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191210

R151 Written notification of patent or utility model registration

Ref document number: 6632406

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151