JP6632406B2 - 距離算出装置、撮像装置、および距離算出方法 - Google Patents
距離算出装置、撮像装置、および距離算出方法 Download PDFInfo
- Publication number
- JP6632406B2 JP6632406B2 JP2016019813A JP2016019813A JP6632406B2 JP 6632406 B2 JP6632406 B2 JP 6632406B2 JP 2016019813 A JP2016019813 A JP 2016019813A JP 2016019813 A JP2016019813 A JP 2016019813A JP 6632406 B2 JP6632406 B2 JP 6632406B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- distance
- value
- axis
- reliability
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Measurement Of Optical Distance (AREA)
- Focusing (AREA)
- Automatic Focus Adjustment (AREA)
- Studio Devices (AREA)
Description
また、特許文献2に記載の装置では、デフォーカス量を算出することができない小領域が存在する場合に、当該領域についてデフォーカス量を補間することで、測距精度の低下を防いでいる。
例えば、特許文献1に記載の装置では、画像中の特定の軸方向にのみコントラストの変化があるような場合に、距離の信頼度を誤って算出してしまうケースが発生する。これは、瞳分割方向を考慮せずに、照合領域内に含まれる画像の分散値にのみに基づいてコントラストの変化量を算出していることに起因する。
また、特許文献2に記載の装置は、画像同士の相違度の変化量を示す傾きを用いているため、ノイズ耐性が低く、画像中のノイズが多い場合に、判定を誤るおそれがある。
すなわち、従来技術は、測距精度の向上という点において課題があった。
結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、
第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置であって、前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出手段と、前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、を有することを特徴とする。
また、本発明の第二の形態に係る距離算出装置は、
結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置であって、前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出手段と、前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域におけるコントラストの変化量の大きさを表す値であるコントラスト評価値と、前記第一の画像と前記第二の画像の少なくとも一方に基づいて算出されたノイズ量推定値との比に基づき、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、を有することを特徴とする。
また、本発明の第三の形態に係る距離算出装置は、
結像光学系が有する射出瞳に内包された、複数の瞳領域を通過した光束に基づいて生成された複数の画像に基づいて、被写体距離を算出する距離算出装置であって、前記複数の画像の中から、対応する瞳領域の重心が、第一の軸に沿ってそれぞれ異なる位置にある二つの画像の組を生成する生成手段と、前記二つの画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出手段と、前記二つの画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、を有することを特徴とする。
また、本発明の第四の形態に係る距離算出装置は、
結像光学系が有する射出瞳に内包された、複数の瞳領域を通過した光束に基づいて生成された複数の画像に基づいて、被写体距離を算出する距離算出装置であって、
前記複数の画像の中から、対応する瞳領域の重心が、第一の軸に沿ってそれぞれ異なる位置にある二つの画像の組を生成する生成手段と、
前記二つの画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出手段と、
前記二つの画像の少なくとも一方に設定された局所領域におけるコントラストの変化量の大きさを表す値であるコントラスト評価値と、前記二つの画像の少なくとも一方に基づいて算出されたノイズ量推定値との比に基づき、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、
を有することを特徴とする。
結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、を含むことを特徴とする。
また、本発明の第二の形態に係る距離算出装置の制御方法は、
結像光学系が有する射出瞳に内包された、複数の瞳領域を通過した光束に基づいて生成された複数の画像に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、前記複数の画像の中から、対応する瞳領域の重心が、第一の軸に沿ってそれぞれ異なる位置にある二つの画像の組を生成する生成ステップと、前記二つの画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、前記二つの画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、を含むことを特徴とする。
また、本発明の第三の形態に係る距離算出装置の制御方法は、
結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、
前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、
前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、
前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、
を含むことを特徴とする。
また、本発明の第四の形態に係る距離算出装置の制御方法は、
結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、
前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、
前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、
前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域におけるコントラストの変化量の大きさを表す値であるコントラスト評価値と、前記第一の画像と前記第二の画像の少なくとも一方に基づいて算出されたノイズ量推定値との比に基づき、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、
を含むことを特徴とする。
以下、図面を参照しながら、本発明の第一の実施形態について詳細に説明する。
第一の実施形態は、本発明に係る距離算出装置を備えた撮像装置(デジタルカメラ)であるが、本発明はこれに限定されるものではない。なお、同一の構成要素には原則として
同一の符号を付して、説明を省略する。
デジタルカメラ100は、結像光学系120、撮像素子101、距離算出部102、画像格納部104、画像生成部(不図示)、レンズ駆動制御部(不図示)を有している。このうち、結像光学系120、撮像素子101、距離算出部102、画像格納部104を、距離算出装置110と称する。
図1(B)は、撮像素子101のX−Y断面図である。撮像素子101は、2×2の画素からなる画素群150を複数配列したものである。画素群150は、対角方向に、緑画素150G1および150G2を、他の二画素に、赤画素150Rおよび青画素150Bを配置している。
図1(C)は、画素群150のI−I’断面を模式的に示した図である。各画素は、受光層182と導光層181から構成される。受光層182には、受光した光を電気信号に変換するための二つの光電変換部(第一の光電変換部161および第二の光電変換部162)が配置される。また、導光層181には、画素へ入射した光束を光電変換部へ効率良く導くためのマイクロレンズ170、所定の波長帯域の光を通過させるカラーフィルタ(不図示)、画像読み出し用および画素駆動用の配線(不図示)などが配置される。
なお、本実施形態では、撮像素子101は、デジタル変換した電気信号を出力するものとする。以下、一枚の画像に対応するデジタル信号の集合を、単に「画像」と称する。当該画像は、いわゆるRAW形式のデータであり、不図示の画像生成部によって現像されたのちにユーザに提供される。
前述した手段がソフトウェアとして構成される場合、補助記憶装置に記憶されたプログラムが主記憶装置にロードされ、CPUによって実行されることによって各手段が機能する。(CPU、補助記憶装置、主記憶装置はいずれも不図示)
実行される。
まず、ステップS1301にて、結像光学系120からレンズ情報(焦点距離、絞り値など)を読み出し、一時的に記憶する。
まず、ステップS1302で、撮像素子101が出力した画像に基づいて、後述する距離算出処理によって、デフォーカス量と、算出した距離に対する信頼度(以下、距離信頼度)を算出する。
次に、ステップS1303で、算出したデフォーカス量ならびに距離信頼度に基づいて、結像光学系120が合焦状態にあるか否かを判別する。ここで、目的の被写体に合焦していない場合は、ステップS1304に遷移し、算出したデフォーカス量に基づいて、レンズ駆動制御部を制御し、結像光学系120を合焦位置へ駆動させる。
ステップS1303にて、目的の被写体に合焦していると判定された場合は、ステップS1305に遷移して、シャッターがレリーズ(全押し)されたか否かの判定を行う。レリーズされていないと判定された場合は、ステップS1302へ戻り、上述の処理を繰り返す。
本実施形態に係るデジタルカメラ100は、画像格納部104に保存された画像に対して、画像生成部が現像処理を施すことで、観賞用の画像を生成することができる。また、画像格納部104に保存された画像に対して、ステップS1302で実行したものと同様の距離算出処理を行うことで、観賞用画像に対応する距離画像と、当該距離画像に対応する信頼度の分布を生成することができる。
図2(A)は、撮像素子101が備える、第一の光電変換部161および第二の光電変換部162が受光する光束について説明する図である。なお、図2(A)では、結像光学系120の射出瞳130と、撮像素子101中に配置される代表画素(緑画素150G1)のみを示している。
図2に示した画素150G1内のマイクロレンズ170は、射出瞳130と受光層182が光学的に共役関係になるように配置されている。その結果、射出瞳130に内包される第一の瞳領域210を通過した光束は、第一の光電変換部161に入射する。同様に、第二の瞳領域220を通過した光束は、第二の光電変換部162に入射する。
第一の画像から、第一の瞳領域を主に通過した光束が撮像素子101上に形成する像の強度分布を得ることができ、第二の画像から、第二の瞳領域を主に通過した光束が撮像素子101上に形成する像の強度分布を得ることができる。以降、前者をA像、後者をB像とも称する。
本実施形態においては、第一の重心位置221は、射出瞳130の中心から、第一の軸
200に沿って偏心(シフト)している。一方、第二の重心位置221は、第一の軸200に沿って、第一の重心位置211とは逆の方向に偏心(シフト)している。すなわち、第一の瞳領域と第二の瞳領域は、第一の軸に沿って互いに異なる方向に偏心している。
一方、第二の光電変換部162は、緑画素150G1の中心点から、X軸に沿って正方向にシフトしている。すなわち、第二の重心位置221は、第一の軸に沿って負方向に偏心している。
すなわち、Xが負である領域を通過した光束が、第一の光電変換部161に入射することがあり、Xが正である領域を通過した光束が、第二の光電変換部162に入射することがある。したがって、第一の瞳領域と第二の瞳領域は明確に区分することはできず、重複した領域を有することになる。しかし、本実施形態では、便宜的に、第一の瞳領域と第二の瞳領域が明確に区分されているものとして説明する。
まず、ステップS1で、撮像素子101にて取得され、画像格納部104に格納されている第一の画像および第二の画像を取得する。
図3(B)は、ステップS3にて行われる工程を詳細に説明する図である。
まず、ステップS31で、第一の画像に対する、第二の画像の像ズレ量を算出する。像ズレ量の算出方法について、図4(A)を参照して説明する。
ステップS31では、まず、基準となる画像として、第一の画像401を選択し、第一の画像401上に照合領域420を設定する。照合領域とは、注目点410を中心とする局所領域である。なお、照合領域420が小さい場合、局所演算に起因する像ズレ量の算出誤差が生じるため、照合領域は、9画素×9画素程度のサイズであることが好ましい。
そして、第一の軸(X軸)に沿って、参照点411を動かしながら、照合領域420内の画像(第一の画像)と、照合領域421内の画像(第二の画像)との相関を算出し、最も相関が高い参照点を対応点とする。そして、注目点410と対応点間の相対的な位置ズレ量を求め、像ズレ量とする。
このような処理を、注目点410を第一の軸に沿って順次移動させながら行うことで、第一の画像内の各画素位置における像ズレ量を算出することができる。なお、相関度の算出方法は公知の手法を用いることができる。例えば、画素値同士の差の二乗和を評価値とするSSD(Sum of Squared Difference)と呼ばれる手法を用いることができる。
ここで、像ズレ量をd、変換係数である基線長をw、撮像素子101から射出瞳130までの距離をLとすると、デフォーカス量ΔLは、式(1)によって表すことができる。
ステップS3の処理によって、取得した画像に対する、被写体距離の分布(以下、距離画像)を得ることができる。
ステップS4は、ステップS3にて算出した被写体距離の信頼度を表す分布(以下、信頼度画像)を算出する工程(信頼度算出工程)である。信頼度算出工程については、図3(C)および図4(B)を用いて説明する。図3(C)は、ステップS4にて行われる工程を詳細に説明する図である。
コントラストの変化量を算出する方法について、図4(B)を用いて説明する。図4(B)は、第一の画像401と、当該画像に設定された注目点410および照合領域420を示した図である。
図4(B)では、ハッチングで示した領域430が一つの画素を表す。本例では、照合領域420は、X座標がXpからXqの範囲にあり、Y座標がYpからYqの範囲にあるものとする。また、注目点410の座標が(Xc,Yc)であるものとする。
コントラストの変化量C(x,y)は、式(3)および式(4)によって表すことができる。なお、I(x,y)は、画素列中の位置(x,y)における第一の画像の画素値であり、Nxは、照合領域420内に含まれるX軸方向の画素数である。
以下、Y座標ごとに得られた、コントラストの変化量を第一の値と称する。
すなわち、注目点410におけるコントラスト変化の代表値Conf(x,y)は、式5によって表すことができる。なお、Nyは、照合領域420内に含まれるY方向の画素数である。
このような場合、X軸と平行な方向にコントラスト変化を有する被写体については、精度良く像ズレ量を検出することができるが、X軸と平行な方向のコントラスト変化が小さい被写体については、像ズレ量の検出誤差が大きくなる。
すなわち、コントラストの変化の大小に基づいて、像ズレ量の誤差を予測することができる。
図5(A)は、X軸と平行な方向にコントラスト変化を有する被写体510の輝度分布と、当該被写体を撮像して得られた第一の画像511および第二の画像512を示した図である。
また、図5(B)の実線は、第一の画像511の画素値を示し、破線は第二の画像の画素値を示している。図からもわかるように、被写体510がデフォーカス状態にある場合
、第一の画像511と第二の画像512は、X方向にずれた状態となっている。
被写体510は、X方向に輝度値のコントラスト変化があるため、図4(A)を参照して説明したような対応点の探索方法を用いることで、像ズレ量を精度良く算出することができる。
また、図5(D)も、図5(B)と同様に、第一の画像のX方向の画素値と、第二の画像のX方向の画素値を示したものであるが、図5(D)を見てわかるように、実線と破線が重なっている。これは、第一の画像と第二の画像との間の像ズレがX方向に生じているためである。したがって、このように、X方向にコントラスト変化が無い場合、像ズレ量を検出することが困難になる。
一方で、特許文献1に開示されている信頼度の算出方法では、像ズレが生じる方向を考慮せずに、照合領域内に含まれるすべての画素値の分散を算出している。つまり、図5(A)のような場合であっても、図5(C)のような場合であっても、分散が略等しい値となる。したがって、図5(C)のように、Y方向にのみコントラスト変化を有する被写体を撮像すると、誤った距離信頼度が生成されるおそれがある。
なお、本実施形態における距離信頼度は、値が大きいほど信頼度が高いことを示し、比較例では、値が小さいほど信頼度が高いことを示す。比較例では、被写体620について、像ズレ量の算出誤差が大きいにもかかわらず、高い距離信頼度が算出されている。これは、相関値の最小値近傍では、局所的なノイズの影響で、相関値の最小値近傍の傾きが大きく評価されてしまっていることに起因する。
一方で、本実施形態における距離信頼度の算出方法では、照合領域に含まれる画素値のX方向のコントラスト変化を、分散により評価しているため、局所的なノイズの影響を受けにくい。その結果、被写体620のように、コントラスト比が低い被写体を撮像すると、距離信頼度が低く算出される。
この結果、像ズレ量の算出に寄与するコントラスト変化のみを評価することができ、精度良く距離信頼度を算出することができる。さらに、照合領域内に含まれる画素を用いて統計的評価を行うことで、局所的なノイズの影響を低減することができる。
ただし、第二の値の算出方法は、像ズレ量を算出する際に用いた相関値演算方法と対応するものであることが望ましい。すなわち、像ズレ量演算時の相関値として、差分の絶対値の和や、差分の二乗和を用いる場合には、和に基づく演算である総和または平均値を用いることが望ましい。
第一の実施形態では、距離算出工程(ステップS3)を実行した後で、距離信頼度算出工程(ステップS4)を実行した。これに対し、第二の実施形態は、距離の算出と距離信頼度の算出を同一のステップで実行する実施形態である。
図7(A)は、第二の実施形態における距離算出部102の処理フローチャートである。
ステップS31については、第一の実施形態と同様であるため、説明は省略する。
本実施形態では、ステップS31にて像ズレ量を算出した後で、第一の画像と第二の画像を合成した第三の画像を生成し、第三の画像を用いてコントラスト変化量を算出するステップ(ステップS51)を実行する。
そして、生成した第三の画像を用いて、ステップS41と同様に、第一の軸に沿って第三の画像の分散を算出することで、第一の値を算出する。
なお、ステップS42、ステップS32、ステップS33については、第一の実施形態と同様であるため説明は省略する。
第一ないし第二の実施形態では、画素ごとに二つの光電変換部を用いた。これに対し、第三の実施形態は、画素ごとに四つの光電変換部を配置した実施形態である。
施形態における撮像素子801は、2×2の画素からなる画素群850を複数配列したものである。具体的には、対角方向に、緑画素850G1及び850G2を配置し、他の二画素に、赤画素850R及び青画素850Bを配置している。
また、各画素には、受光層に四つの光電変換部(第一の光電変換部861、第二の光電変換部862、第三の光電変換部863、第四の光電変換部864)が並置されている。
また、第一の瞳領域と第四の瞳領域を結合した領域(以下、和領域)の重心位置を第五の重心位置851とし、第二の瞳領域と第三の瞳領域の和領域の重心位置を第六の重心位置861としている。さらに、第一の瞳領域と第二の瞳領域の和領域の重心位置を第七の重心位置871とし、第三の瞳領域と第四の瞳領域の和領域の重心位置を第八の重心位置881としている。
例えば、第一の画像と第四の画像を合成した画像(第五の画像と称する)は、第一の瞳領域810と第四の瞳領域840を通過した光束が、撮像素子801上に形成する像の強度分布となる。また、第二の画像と第三の画像を合成した画像(第六の画像と称する)は、第二の瞳領域820と第三の瞳領域830を通過した光束が、撮像素子801上に形成する像の強度分布となる。
第一の画像と第二の画像を合成した第七の画像は、第一の瞳領域810と第二の瞳領域820を通過した光束が撮像素子801上に形成する像の強度分布となる。また、第三の画像と第四の画像を合成した第八の画像は、第三の瞳領域830と第四の瞳領域840を通過した光束が撮像素子801上に形成する像の強度分布となる。
第七の画像に対応する和領域の重心位置871と、第八の画像に対応する和領域の重心位置881は、Y軸に沿って互いに異なる方向に偏心している。したがって、像ズレはY軸に沿って発生する。このような場合、Y軸を第一の軸とし、X軸を第二の軸とすることで、前述した距離信頼度の算出を行うことができる。
このように、合成する画像の組み合わせを変えることで、像ズレが発生する軸を変えることができる。
発生する軸を変えることができ、被写体までの距離を精度よく算出することができる。
例えば、図5(A)における被写体510のように、被写体が、X方向にのみコントラスト変化を有する場合、第五の画像と第六の画像を用いて像ズレ量を算出する。この場合、像ズレがX軸に沿って発生するため、精度良く被写体までの距離を算出することができる。
また、図5(B)における被写体520のように、被写体が、Y方向にのみコントラスト変化を有する場合、第七の画像と第八の画像を用いて像ズレ量を算出する。この場合、像ズレがY軸に沿って発生するため、精度良く被写体までの距離を算出することができる。
ステップS101およびステップS102は、第一の実施形態におけるステップS1およびステップS2と同様であるが、処理対象の画像が二つではなく四つ(第一の画像〜第四の画像)であるという点において相違する。
(1)第一の画像と第四の画像の互いに対応する位置にある画素値を平均化し、第五の画像を生成する。
(2)第二の画像と第三の画像の互いに対応する位置にある画素値を平均化し、第六の画像を生成する。
(3)第一の画像と第二の画像の互いに対応する位置にある画素値を平均化し、第七の画像を生成する。
(4)第三の画像と第四の画像の互いに対応する位置にある画素値を平均化し、第八の画像を生成する。
具体的には、第五の画像と第六の画像を用いて第一の距離画像を生成し、また、第七の画像と第八の画像を用いて第二の距離画像を生成する。なお、距離画像の生成には、図3(B)の手順を用いることができる。
なお、第五の画像と第六の画像に基づいて算出した像ズレ量を、デフォーカス量に変換するための基線長は、第五の重心位置851と第六の重心位置861と間の距離となる。また、第七の画像と第八の画像に基づいて算出した像ズレ量を、デフォーカス量に変換するための基線長は、第七の重心位置871と第八の重心位置881との間の距離となる。
図9(B)は、処理フローチャートの変形例である。
本変形例では、ステップS104にて、合成画像の組み合わせごとに信頼度画像を算出し、ステップS103にて、信頼度の高い合成画像の組み合わせを用いて距離画像を生成する。このように、予め合成画像の組み合わせごとに信頼度画像を算出することで、ステップS103における演算量を削減することができる。
また、第一の画像と第二の画像を用いて像ズレを発生させることができれば、必ずしも合成画像を生成する必要はない。
第四の実施形態は、第一の実施形態と比較して、距離信頼度の算出方法が異なる実施形態である。
なお、ステップS1〜ステップS3、ステップS41〜ステップS42については、第一の実施形態と同様であるため説明は省略する。
本ステップでは、予め均一な輝度分布を有する被写体を、デジタルカメラ100にて撮影した場合に、撮像素子101において生じるノイズ量を推定する。具体的には、撮像素子によって発生するノイズを近似式によって表し、撮像面におけるノイズの分布を生成する。
なお、ISOはデジタルカメラ100の撮影時のISO感度であり、I(x,y)は、
画素位置(x,y)における第一の画像の画素値である。また、AおよびBは、近似パラメータである。
本例では、画素値が大きい場合に、一次関数に漸近し、画素値が小さい場合に、一次関数を外れ、近似パラメータAに近づくような近似式を用いている。これは、画素値が大きいほど光ショットノイズの影響が支配的になり、画素値が小さいほど、読み出しノイズや暗電流ショットノイズの影響が大きくなるという理由による。
max(a,b)は、aとbのうち大きい値を返す関数である。式(7)によるノイズ量の推定結果が、図11(B)である。
デジタルカメラにて、高感度撮影を行う場合や、高輝度の被写体を撮影する場合、画像に含まれるノイズ量が多くなる。そこで、画像S/N比に基づいて距離信頼度を算出することで、ノイズの影響を低減することができ、ノイズ量が多い場合においても、精度良く距離信頼度を算出することができる。
第五の実施形態は、生成した信頼度画像を用いて、生成した距離画像を補正する実施形
態である。
なお、ステップS1〜ステップS4については、第一の実施形態と同様であるため説明は省略する。
ステップS91では、距離画像内に第一の画素位置を設定するとともに、第一の画素位置を中心とした参照領域を設定する。
式(8)は、距離画像を、信頼度画像で重み付け平均する方法を表した式である。
第六の実施形態は、第一の実施形態と比較して、距離信頼度の算出方法が異なる実施形態である。
ステップS101では、コントラストの変化量を表す値(コントラスト評価値)を算出する。本実施形態においては、ステップS31にて像ズレ量を算出した際の相関度を用いて、コントラスト評価値を算出する。具体的には、最も高い相関を得る対応点近傍の相関度から算出した傾きをコントラスト評価値とする。ステップS31にて、相関度を評価するためにSSDを用いた場合、対応点近傍の相関度を2次関数で近似することで、傾きを算出することができる。すなわち、以下の式(10)を用いて傾きSLOPEを算出することができる。
なお、実施形態の説明は本発明を説明する上での例示であり、本発明は、発明の趣旨を逸脱しない範囲で適宜変更または組み合わせて実施することができる。例えば、本発明は、上記処理の少なくとも一部を含む距離算出装置として実施することもできるし、距離算出装置の制御方法として実施することもできる。また、当該制御方法を距離算出装置に実行させるプログラムとして実施することもできる。上記処理や手段は、技術的な矛盾が生じない限りにおいて、自由に組み合わせて実施することができる。
本例において、第一の結像光学系1320aおよび第二の結像光学系1320bは、デジタルカメラ1300の撮影レンズであり、被写体の像を、それぞれ撮像面である撮像素子1301aおよび撮像素子1301bに形成する機能を有する。
第一の結像光学系1320aは、複数のレンズ群、並びに絞りから構成され、撮像素子
1301aから所定距離離れた位置に射出瞳1330aを有する。また、第二の結像光学系1320bも同様に、複数のレンズ群、並びに絞りから構成され、撮像素子1301bから所定距離離れた位置に射出瞳1330bを有する。
第一の瞳領域210は射出瞳1330aに内包され、第二の瞳領域220は射出瞳1330bに内包されている。また、第一の瞳領域210の重心位置211(第一の重心位置)と第二の瞳領域220の重心位置221(第二の重心位置)は、第一の軸200に沿って偏心(シフト)している。
Claims (30)
- 結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置であって、
前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、
前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出手段と、
前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、
を有する、距離算出装置。 - 前記第一の値は、前記局所領域に含まれ、前記第一の軸に沿った画素列が有する画素値の分散である
ことを特徴とする、請求項1に記載の距離算出装置。 - 前記第一の値は、前記局所領域に含まれ、前記第一の軸に沿った画素列が有する画素値の最大値と最小値との差分である
ことを特徴とする、請求項1に記載の距離算出装置。 - 前記第一の値は、前記局所領域に含まれ、前記第一の軸に沿った画素列が有する画素値を、前記第一の軸に沿って微分した値の絶対値の和もしくは絶対値の平均である
ことを特徴とする、請求項1に記載の距離算出装置。 - 前記第二の値は、複数の前記第一の値の総和、平均値、中央値、最頻値のうちの少なくともいずれかである
ことを特徴とする、請求項1から4のいずれか1項に記載の距離算出装置。 - 結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、
第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置であって、
前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、
前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出手段と、
前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域におけるコントラストの変化量の大きさを表す値であるコントラスト評価値と、前記第一の画像と前記第二の画像の少なくとも一方に基づいて算出されたノイズ量推定値との比に基づき、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、
を有する、距離算出装置。 - 前記局所領域に含まれる前記第一の画像と前記第二の画像の少なくとも一方の画像の画素値が大きいほど、前記ノイズ量推定値が大きくなる
ことを特徴とする、請求項6に記載の距離算出装置。 - 画素位置(x,y)における前記第一の画像と前記第二の画像の少なくとも一方の画素値に基づく値I(x,y)と、定数Aと、定数Bと、前記コントラスト評価値の次数nと、をおいた場合に、式
によって、画素位置(x,y)における前記ノイズ量推定値N(x,y)を算出する
ことを特徴とする、請求項6に記載の距離算出装置。 - 画素位置(x,y)における前記第一の画像と前記第二の画像の少なくとも一方の画素値に基づく値I(x,y)と、定数Aと、定数Bと、前記コントラスト評価値の次数nと、をおいた場合に、式
によって、画素位置(x,y)における前記ノイズ量推定値N(x,y)を算出する
ことを特徴とする、請求項6に記載の距離算出装置。 - 前記画素位置(x,y)における、前記第一の画像と前記第二の画像の少なくとも一方の画素値に基づく値であるI(x,y)は、
前記画素位置(x,y)における被写体距離を算出する際に用いた、前記局所領域に含まれる画素値の平均値である
ことを特徴とする、請求項8または9に記載の距離算出装置。 - 前記信頼度算出手段は、
前記第一の軸に沿った前記局所領域に含まれる前記第一の画像と前記第二の画像の少なくとも一方の画像のコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸に沿って複数算出し、
複数の前記第一の値を代表する値である第二の値をコントラスト評価値とする
ことを特徴とする、請求項6から10のいずれか1項に記載の距離算出装置。 - 前記コントラスト評価値は、前記第一の画像の前記局所領域、前記第二の画像の前記局所領域、又は、前記第一の画像と前記第二の画像の合成画像の局所領域において、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸と交差する第二の
軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて算出される、
ことを特徴とする請求項6から11のいずれか1項に記載の距離算出装置。 - 前記第一の値は、前記第一の軸に沿った画素列が有する画素値の分散、前記第一の軸に沿った画素列が有する画素値の最大値と最小値との差分、前記第一の軸に沿った画素列が有する画素値を前記第一の軸に沿って微分した値の絶対値の和、もしくは、絶対値の平均、のうちの少なくともいずれかである、
ことを特徴とする請求項12に記載の距離算出装置。 - 前記第二の値は、複数の前記第一の値の総和、平均値、中央値、最頻値、のうちの少なくともいずれかである、
ことを特徴とする請求項12または13に記載の距離算出装置。 - 前記距離算出手段は、前記算出した信頼度に基づいて、被写体距離を算出する際に用いるパラメータを設定する
ことを特徴とする、請求項1から14のいずれか1項に記載の距離算出装置。 - 前記距離算出手段が算出した被写体距離を、算出した信頼度に基づいて補正する補正手段をさらに有する
ことを特徴とする、請求項1から15のいずれか1項に記載の距離算出装置。 - 前記距離算出手段は、前記第一の画像と第二の画像に基づいて、被写体距離の分布を表す距離画像を生成し、
前記信頼度算出手段は、前記被写体距離の信頼度の分布を表す信頼度画像を生成し、
前記補正手段は、前記距離画像および信頼度画像に、第一の画素位置を含む参照領域を設定し、前記参照領域に含まれる被写体距離を、前記参照領域に含まれる信頼度に基づいて重み付け平均し、得られた結果を用いて、前記第一の画素位置に対応する被写体距離を補正する
ことを特徴とする、請求項16に記載の距離算出装置。 - 前記補正手段は、前記参照領域に対応する、画素の輝度、画素の色相、第二の値の少なくともいずれかにさらに基づいて重み付け平均を行い、得られた結果を用いて、前記第一の画素位置に対応する被写体距離を補正する
ことを特徴とする、請求項17に記載の距離算出装置。 - 第一の結像光学系をさらに有し、
前記第一の瞳領域と前記第二の瞳領域は、前記第一の結像光学系の射出瞳に内包される
ことを特徴とする、請求項1から18のいずれか1項に記載の距離算出装置。 - 第一の結像光学系と第二の結像光学系をさらに有し、
前記第一の瞳領域は、前記第一の結像光学系の射出瞳に内包され、前記第二の瞳領域は、前記第二の結像光学系の射出瞳に内包される
ことを特徴とする、請求項1から18のいずれか1項に記載の距離算出装置。 - 結像光学系が有する射出瞳に内包された、複数の瞳領域を通過した光束に基づいて生成された複数の画像に基づいて、被写体距離を算出する距離算出装置であって、
前記複数の画像の中から、対応する瞳領域の重心が、第一の軸に沿ってそれぞれ異なる位置にある二つの画像の組を生成する生成手段と、
前記二つの画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体
距離を算出する距離算出手段と、
前記二つの画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、
を有する、距離算出装置。 - 前記生成手段は、前記第一の軸の方向を変更しながら、前記二つの画像の組を複数生成し、
前記距離算出手段は、被写体距離の分布を表す距離画像を前記画像の組ごとに生成し、
前記信頼度算出手段は、生成した距離画像ごとに、前記被写体距離の信頼度の分布を表す信頼度画像を生成し、
前記複数の信頼度画像に基づき、前記複数の距離画像を統合した統合距離画像を生成する統合手段をさらに有する
ことを特徴とする、請求項21に記載の距離算出装置。 - 前記生成手段が生成する二つの画像の組に含まれる画像は、前記射出瞳に内包された複数の領域をそれぞれ通過した光束に基づいて生成された複数の画像を結合して得られる画像である
ことを特徴とする、請求項22に記載の距離算出装置。 - 結像光学系が有する射出瞳に内包された、複数の瞳領域を通過した光束に基づいて生成された複数の画像に基づいて、被写体距離を算出する距離算出装置であって、
前記複数の画像の中から、対応する瞳領域の重心が、第一の軸に沿ってそれぞれ異なる位置にある二つの画像の組を生成する生成手段と、
前記二つの画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出手段と、
前記二つの画像の少なくとも一方に設定された局所領域におけるコントラストの変化量の大きさを表す値であるコントラスト評価値と、前記二つの画像の少なくとも一方に基づいて算出されたノイズ量推定値との比に基づき、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出手段と、
を有する、距離算出装置。 - 結像光学系と、前記結像光学系を通過した光束に基づいて画像を生成する撮像手段と、
請求項1から24のいずれか1項に記載の距離算出装置と、
を有する撮像装置。 - 結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、
前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、
前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、
前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、
を含む、距離算出方法。 - 結像光学系が有する第一の瞳領域を通過した光束に基づいて生成された第一の画像と、第二の瞳領域を通過した光束に基づいて生成された第二の画像と、に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、
前記第一の瞳領域の重心と、前記第二の瞳領域の重心は、第一の軸に沿って異なる位置にあり、
前記第一の画像および第二の画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、
前記第一の画像と前記第二の画像の少なくとも一方に設定された局所領域におけるコントラストの変化量の大きさを表す値であるコントラスト評価値と、前記第一の画像と前記第二の画像の少なくとも一方に基づいて算出されたノイズ量推定値との比に基づき、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、
を含む、距離算出方法。 - 結像光学系が有する射出瞳に内包された、複数の瞳領域を通過した光束に基づいて生成された複数の画像に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、
前記複数の画像の中から、対応する瞳領域の重心が、第一の軸に沿ってそれぞれ異なる位置にある二つの画像の組を生成する生成ステップと、
前記二つの画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、
前記二つの画像の少なくとも一方に設定された局所領域における、前記第一の軸に沿ったコントラストの変化量を表す第一の値を、前記第一の軸とは異なる第二の軸方向に複数算出し、複数の前記第一の値を代表する値である第二の値に基づいて、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、
を含む、距離算出方法。 - 結像光学系が有する射出瞳に内包された、複数の瞳領域を通過した光束に基づいて生成された複数の画像に基づいて、被写体距離を算出する距離算出装置が行う距離算出方法であって、
前記複数の画像の中から、対応する瞳領域の重心が、第一の軸に沿ってそれぞれ異なる位置にある二つの画像の組を生成する生成ステップと、
前記二つの画像にそれぞれ設定された局所領域に含まれる画素を比較することで被写体距離を算出する距離算出ステップと、
前記二つの画像の少なくとも一方に設定された局所領域におけるコントラストの変化量の大きさを表す値であるコントラスト評価値と、前記二つの画像の少なくとも一方に基づいて算出されたノイズ量推定値との比に基づき、前記局所領域に対応する被写体距離の信頼度を算出する信頼度算出ステップと、
を含む、距離算出方法。 - 請求項26から29のいずれか1項に記載の距離算出方法の各ステップをコンピュータに実行させるプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/144,853 US10306132B2 (en) | 2015-05-11 | 2016-05-03 | Distance calculation apparatus, imaging apparatus and distance calculation method that include confidence calculation of distance information |
US16/395,420 US10477100B2 (en) | 2015-05-11 | 2019-04-26 | Distance calculation apparatus, imaging apparatus, and distance calculation method that include confidence calculation of distance information |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015096658 | 2015-05-11 | ||
JP2015096658 | 2015-05-11 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016212081A JP2016212081A (ja) | 2016-12-15 |
JP2016212081A5 JP2016212081A5 (ja) | 2019-05-30 |
JP6632406B2 true JP6632406B2 (ja) | 2020-01-22 |
Family
ID=57551616
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016019813A Active JP6632406B2 (ja) | 2015-05-11 | 2016-02-04 | 距離算出装置、撮像装置、および距離算出方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6632406B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI672937B (zh) * | 2018-02-05 | 2019-09-21 | 廣達電腦股份有限公司 | 三維影像處理之裝置及方法 |
-
2016
- 2016-02-04 JP JP2016019813A patent/JP6632406B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2016212081A (ja) | 2016-12-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10477100B2 (en) | Distance calculation apparatus, imaging apparatus, and distance calculation method that include confidence calculation of distance information | |
JP6643122B2 (ja) | 距離画像装置、撮像装置、および距離画像補正方法 | |
JP6021780B2 (ja) | 画像データ処理装置、距離算出装置、撮像装置および画像データ処理方法 | |
CN109104599B (zh) | 距离信息生成装置及方法、摄像设备、移动单元和介质 | |
JP6645682B2 (ja) | 距離取得装置、距離画像信号補正装置、撮像装置、距離画像量子化装置、および方法 | |
JP2012215785A (ja) | 固体撮像素子及び撮像装置 | |
JP6800650B2 (ja) | 信頼度生成装置、信頼度生成方法、および撮像装置 | |
US20240214668A1 (en) | Image processing device, image processing method, imaging device, and recording medium | |
JP6214271B2 (ja) | 距離検出装置、撮像装置、距離検出方法、プログラム及び記録媒体 | |
JP6921500B2 (ja) | 距離検出装置および距離検出方法 | |
US10514248B2 (en) | Distance detecting apparatus | |
JP2023115356A (ja) | 計測装置、撮像装置、制御方法及びプログラム | |
JP6353233B2 (ja) | 画像処理装置、撮像装置、及び画像処理方法 | |
JP2015212772A (ja) | 測距装置、撮像装置、測距方法、および測距パラメータ算出方法 | |
JP6173549B2 (ja) | 画像データ処理装置、距離算出装置、撮像装置および画像データ処理方法 | |
JP6632406B2 (ja) | 距離算出装置、撮像装置、および距離算出方法 | |
US10339665B2 (en) | Positional shift amount calculation apparatus and imaging apparatus | |
JP2015203756A (ja) | 視差量算出装置、距離算出装置、撮像装置および視差量算出方法 | |
US11070715B2 (en) | Image shift amount calculation apparatus and method, image capturing apparatus, defocus amount calculation apparatus, and distance calculation apparatus | |
JPH09211316A (ja) | 像信号処理装置 | |
JP6590463B2 (ja) | 距離算出装置 | |
US11790600B2 (en) | Image processing device, imaging apparatus, image processing method, and recording medium | |
JP2017083817A (ja) | ズレ量取得装置、撮像装置、およびズレ量取得方法 | |
JP2016090975A (ja) | 距離検出装置、撮像装置、距離検出方法、およびプログラム | |
JP2024021700A (ja) | 画像処理装置、撮像装置、画像処理方法、及びコンピュータプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20181116 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190131 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190416 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191023 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191112 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191210 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6632406 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |