JP2019143986A - 測距装置および撮像装置 - Google Patents
測距装置および撮像装置 Download PDFInfo
- Publication number
- JP2019143986A JP2019143986A JP2018025525A JP2018025525A JP2019143986A JP 2019143986 A JP2019143986 A JP 2019143986A JP 2018025525 A JP2018025525 A JP 2018025525A JP 2018025525 A JP2018025525 A JP 2018025525A JP 2019143986 A JP2019143986 A JP 2019143986A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- distance
- light
- imaging optical
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Measurement Of Optical Distance (AREA)
- Focusing (AREA)
- Automatic Focus Adjustment (AREA)
Abstract
【課題】環境の変化によらず被写体距離を高精度に算出することが可能な測距装置を提供する。【解決手段】測距装置1は、複数の視差画像を形成する撮像光学系111a、111bと、撮像光学系111a、111bの縮小側から拡大側へ向かって照射光を発する発光部113a、113bと、照射光が撮像光学系を通って反射された戻り光に関する情報を検出する検出部112と、戻り光に関する情報と複数の視差画像とに基づいて、被写体に関する距離情報を算出する画像処理部20とを有する。【選択図】図1
Description
本発明は、監視カメラや車載カメラなどの撮像装置に適して用いられ、被写体までの距離を測定する測距装置に関する。
特許文献1には、先行車両のブレーキランプの幅を参考情報として、先行車両の近距離画像と遠距離画像とを用いて視差オフセット値を補正する画像処理装置が開示されている。特許文献2には、温度変化に応じて基線長および光学系の焦点距離を補正して測距結果の誤差を補正する測距装置が開示されている。
しかしながら、特許文献1に開示された画像処理装置は、前方に車両が存在しない場合、測距結果の誤差を補正することができない。特許文献2に開示された測距装置は、温度変化に起因する誤差を補正することができるが、その他の要因による光学特性の誤差を補正することはできない。特に車載カメラでは、衝突防止のため、環境の変化によらず前方の車両からの距離を高精度に把握することが望まれる。
そこで本発明は、環境の変化によらず被写体距離を高精度に算出することが可能な測距装置および撮像装置を提供することを目的とする。
本発明の一側面としての測距装置は、複数の視差画像を形成する撮像光学系と、前記撮像光学系の縮小側から拡大側へ向かって照射光を発する発光部と、前記照射光が前記撮像光学系を通って反射された戻り光に関する情報を検出する検出部と、前記戻り光に関する情報と前記複数の視差画像とに基づいて、被写体に関する距離情報を算出する画像処理部とを有する。
本発明の他の側面としての撮像装置は、画像を取得する第1の撮像部と、複数の視差画像を取得する第2の撮像部とを有し、前記第2の撮像部は、前記複数の視差画像を形成する撮像光学系と、前記撮像光学系の縮小側から拡大側へ向かって照射光を発する発光部と、前記照射光が前記撮像光学系を通って反射された戻り光に関する情報を検出する検出部と、前記戻り光に関する情報と前記複数の視差画像とに基づいて、被写体に関する距離情報を算出する画像処理部とを有する。
本発明の他の目的及び特徴は、以下の実施形態において説明される。
本発明によれば、環境の変化によらず被写体距離を高精度に算出することが可能な測距装置および撮像装置を提供することができる。
以下、本発明の実施形態について、図面を参照しながら詳細に説明する。
まず、図10を参照して、2つの撮像光学系を用いて被写体距離を取得する方法について説明する。図10は、被写体距離の算出方法の説明であり、互いに同一の構造を有する2つの撮像光学系CA、CBを用いて撮影シーンのうちの1点に存在する被写体Objを撮像する様子を示している。撮像素子SA、SBはそれぞれ、撮像光学系CA、CBにより形成された被写体像(光学像)を受光する。撮像光学系CA、CBのそれぞれの入射瞳中心は(−D/2,0)、(D/2,0)に存在し、被写体Objは(x、z)に存在する。撮像光学系CA、CBのそれぞれの焦点距離をf、撮像素子SA、SBのそれぞれにおける被写体Objの座標をa、bとすると、以下の式(1)が成立する。
式(1)において、b−aは、互いに異なる視点から同一の被写体を撮像した際の撮像面上での位置のずれ、すなわち視差である。視差b−a(視差量)を取得することができれば、視差b−a、撮像光学系CA、CBのそれぞれの焦点距離f、および、基線長Dを式(1)に代入することにより、被写体距離z(撮像光学系の入射瞳中心から被写体Objまでの距離)を算出することができる。
続いて、図11を参照して、2つの撮像光学系を用いて取得された2つの画像から視差量を取得するための対応被写体探索処理について説明する。図11は、対応被写体探索処理の説明図であり、互いに異なる視点から撮像された画像IMG1、IMG2を示している。画像座標(X,Y)は、図11中に示される画素群の中心を原点として定義し、水平方向をX軸、垂直方向をY軸とする。また、画像座標(X,Y)に位置する画像IMG1の画素値をF1(X,Y)とし、画像IMG2の画素値をF2(X,Y)として説明する。画像IMG1における任意の座標(X,Y)に対応する画像IMG2の画素は、座標(X,Y)における画像IMG1の画素値F1(X,Y)と最も類似する画像IMG2の画素値を探すことで求めることができる。なお、以降の説明において、画像上の対応点と対応画素とは同一の意味である。
ここで、図11に示される画像IMG1、IMG2上の縦線で示される画素P1、P2は、互いに同じ被写体からの光を記録した、対応画素(対応点)に相当する。ただし、一般的に任意の画素と最も類似する画素を探すことは難しいため、画像座標(X,Y)の近傍の画素も用い、ブロックマッチング法と呼ばれる手法で類似画素を探索することができる。
例えば、ブロックサイズが3である場合のブロックマッチング処理について説明する。画像IMG1の任意の座標(X,Y)の画素(注目画素)、および、その前後の座標(X−1、Y)、(X+1、Y)に位置する2つの画素の計3画素の画素値はそれぞれ、F1(X,Y)、F1(X−1,Y)、F1(X+1,Y)となる。これに対し、座標(X,Y)からX方向にkだけずれた画像IMG2の画素の画素値はそれぞれ、F2(X+k,Y),F2(X+k−1,Y),F2(X+k+1,Y)となる。このとき、画像IMG1の座標(X,Y)に位置する注目画素と、画像IMG2の座標(X+k,Y)に位置する画素との類似度Eは、以下の式(2)のように定義される。
式(2)において逐次kの値を変えて類似度Eを算出し、最も小さい類似度Eを与える座標(X+k、Y)が、画像IMG1の注目画素に対応する画像IMG2の画素の座標となる。ここでは、X方向にのみ逐次座標を変化させながら類似度Eを算出しているが、Y方向、または、X方向およびY方向の両方向にも逐次座標を変化させながら類似度Eを算出してもよい。このような対応被写体探索処理を行うことにより、2つの画像のそれぞれにおける対応点(対応画素)の座標を取得することができ、それらの相違量である視差量を算出することが可能である。
本実施形態では、ブロックサイズが3である場合のブロックマッチング処理について説明したが、前述の処理において、探索範囲およびブロックサイズは変更可能なパラメータである。視差量が事前にある程度予測される場合には、探索範囲をある領域に絞って処理を行うことで、処理負荷を大幅に低減して高速化を図ることができる。ブロックサイズについては、一般的に被写体の構造サイズに合わせて設定することにより、視差量の算出精度を向上させることができる。また、特に画像がボケている場合、そのボケ量を加味してブロックサイズを拡大することにより、視差量の算出誤差を低減することができる。また、類似度Eに対して直線フィッティングやパラボラフィッティングによってサブ画素レベルで視差量を算出する手法が知られている。これらのフィッティング関数は、画像の鮮鋭度に応じてサブ画素算出誤差が変化することが知られており、画像の鮮鋭度に応じて関数を選択することも可能である。
以上説明したように、2つの撮像光学系を用いて取得した2つの画像において対応被写体探索処理を行うことにより視差量を算出し、この視差量に基づいて被写体距離を算出することができる。また、撮像光学系に応じて視差量と像面移動量であるデフォーカス量との関係は決定される。このため、その視差量に基づいてデフォーカス量を算出することができる。そして、そのデフォーカス量に基づいてレンズの繰り出し量を求め、レンズを移動し合焦させることができる(位相差AF)。以降、本明細書中では、被写体距離、視差量、デフォーカス量、または、位相差情報を被写体距離に関する情報という意味で距離情報とも表現する。
ここで、前述の被写体距離zの算出では、撮像光学系CA、CBを用いて(x、z)に存在する被写体Objを撮像した場合、撮像素子SA、SB上の常に同じ位置である座標a、bに被写体Objの像が生じることを前提としている。この前提条件は、撮像光学系CA、CBが変形しない場合には常に成り立つが、撮像光学系CA、CBが変形した場合にはその限りではない。一例として、図12は、図10に示される撮像光学系CAが左方向に偏芯し、撮像光学系CBが左回りに傾いた場合の状態を模式的に示している。この状態で撮像光学系CA、CBを用いて(x、z)に存在する被写体Objを撮像した場合、被写体Objの像が生じる座標は、撮像素子SAではa+cの位置、撮像素子SBではb+dの位置となる。すなわち、初期状態である図10から撮像光学系が変形した図12の状態への変化により、撮像素子SA、SB上の像位置がそれぞれ像ズレ量c、dだけずれる。式(1)から明らかなように、分母に像ズレ量c、dが加わるため、式(1)の右辺の値は被写体距離zとは異なる値となる。すなわち、撮像光学系の変形による像ズレ量の発生により、被写体距離zの算出に誤差が生じる。
本実施形態は、撮像光学系および撮像素子を介して複数の視差画像を取得し、視差画像に基づいて距離情報を算出する測距装置であって、撮像光学系の縮小側から拡大側に向かって照射光を発する発光部を有する。また測距装置は、照射光が撮像光学系を通って測距装置を構成する任意の面により反射された戻り光を検出する検出部を有する。また測距装置は、検出部により検出された戻り光に関する情報に基づいて像ズレ量を検出する。そして測距装置は、像ズレ量に基づいて測距のための補正値を算出し、補正値と複数の視差画像とに基づいて距離情報を算出する。このような構成により、撮像光学系の変位や変形による像ズレが発生した場合でも、距離算出精度を向上させることができる。ここまで、本実施形態の測距装置による距離算出方法の概要について説明した。以下、測距装置(撮像装置)について、各実施例において詳述する。
まず、図1および図2を参照して、本発明の実施例1における測距装置について説明する。図1は、測距装置1のブロック図である。図2は、測距装置1の外観図である。
測距装置1は、主として被写体の距離情報を取得する撮像部110を有する。撮像部110は、撮像光学系111a、111b、撮像素子112、および、発光部113a、113bを有する。撮像素子112は、CMOSセンサやCCDセンサなどの固体撮像素子である。発光部113a、113bは、レーザやLEDなどの固体発光素子(光源部)である。撮像光学系111a、111bはそれぞれ、被写体(不図示)からの光を撮像素子112上に結像させる単焦点撮像光学系である。撮像素子112は、撮像光学系111a、111bをそれぞれ介して形成された光学像(被写体像)を光電変換してアナログ電気信号(画像信号)を出力する。A/Dコンバータ10は、撮像素子112により生成されたアナログ電気信号をデジタル信号に変換し、デジタル信号を画像処理部20に出力する。
画像処理部20は、2つの画像を生成する。画像処理部20は、A/Dコンバータ10から出力されるデジタル信号に対して、画素補間処理、輝度信号処理、および、色信号処理など、いわゆる現像処理を行う。画像処理部20により生成される2つの画像は、撮像光学系111a、111bのそれぞれにより形成された被写体像に相当し、互いに視差を有する複数(2つ)の視差画像である。また、画像処理部20で生成された画像は、半導体メモリや光ディスクなどの画像記憶媒体60に記録される。また、画像処理部20で生成された画像を表示部70に表示してもよい。入力部50は、ユーザの操作により様々な情報が入力される。入力部50を介して入力される情報の一例としては、画像取得時の撮像条件であり、具体的にはF値やISO感度などである。
システムコントローラ30は、撮像制御部40を介して撮像部110に設けられた撮像素子112を制御して撮像を行う。またシステムコントローラ30は、撮像制御部40を介して撮像部110に設けられた発光部113a、113bを制御し、発光部113a、113bから光を照射する。発光部113a、113bから撮像光学系111a、111bのそれぞれの拡大側(物体側)に向けて照射された光は、撮像光学系111a、111bを通って光学面111Sa、111Sbで反射する。そして光学面111Sa、111Sbで反射した光は、撮像光学系111a、111bの縮小側(像側)へ向けて再度、撮像光学系111a、111bを通り、戻り光として戻ってくる。戻り光の一部は、撮像素子112に到達し、画像信号(戻り光に関する情報)として検出される。
本実施例において、発光部113a、113bは、人の目では見えない不可視光である近赤外光を照射する近赤外光源である。また、撮像光学系111a、111bの第一面である光学面111Sa、111Sbは、近赤外光を反射する反射膜を有する。本実施例および後述する各実施例において、可視光の波長は400nm〜700nmであり、近赤外光の波長は700nm〜2500nmであるものとして説明する。好ましくは、光学面111Sa、111Sbのそれぞれに形成された反射膜は、700nm〜2500nmの波長の近赤外光に対して90%以上の反射率を有する。このような構成により、測距のための通常撮影に不要となる外部からの近赤外光を光学面111Sa、111Sbで遮断することができる。また、撮像部110の内部に設けられた発光部113a、113bからの近赤外光を効率的に反射させることにより、撮像素子112での戻り光の検出効率を高めることが可能である。
撮像素子112における光電変換により生成された戻り光のアナログ電気信号(画像信号)は、A/Dコンバータ10でデジタル信号に変換されて画像処理部20に入力される。画像処理部20の補正値算出部21は、画像処理部20に入力された戻り光に相当する画像信号に基づいて、像ズレ量を算出する。また補正値算出部21は、補正値算出部21により算出された2つの撮像光学系111a、111bの像ズレ量に基づいて、測距のための補正値を算出する。メモリ(記憶部)80は、測距装置1を組み立てた初期状態での補正値などの補正情報を記憶している。画像処理部20の距離情報算出部22は、画像処理部20により生成された2つの視差画像と、補正値算出部21により算出された補正値とを用いて、被写体距離を算出する。なお距離情報算出部22は、入力部50を介して指定された特定の領域または特定の被写体の距離を算出してもよい。
撮像部110を構成する撮像光学系111a、111bは、最も被写体に近いレンズ同士の間の長さが50mmになるように配置されており、この長さは撮像部110の基線長Dに相当する。撮像光学系111a、111bは、互いに同一の構成であって、左右対称になるように平行に配置されている。また、撮像部110を構成する2つの撮像光学系111a、111bの画角は同一である。本実施例において、撮像部110を構成する2つの撮像光学系111a、111bの焦点距離は35mm判換算で400mmである。
次に、図3を参照して、測距装置1による測距方法について説明する。図3は、本実施例における測距方法のフローチャートである。図3の各ステップは、主にシステムコントローラ30または画像処理部20により実行される。まずステップS101において、システムコントローラ30は、撮像制御部40を介して撮像部110を制御して撮像を行うことにより、2つの画像を取得する。また同時に、システムコントローラ30は、発光部113a、113bを発光させる。
ここで、図4を参照して、撮像光学系111a、111bが変形していない状態における撮像部110の構成について説明する。図4は、撮像部110の構成図である。図4(a)に示されるように、撮像光学系111aは、2つのレンズ115a1、115a2と2つのプリズム116a1、116a2とを備えて構成されている。同様に、撮像光学系111bは、2つのレンズ115b1、115b2と2つのプリズム116b1、116b2とを備えて構成されている。図4(a)において、撮像光学系111a、111bの光軸OA1、OA2がそれぞれ一本鎖線で示されている。撮像光学系111aの光軸OA1は、X−Z平面においてプリズム116a1で90度、プリズム116a2でそれぞれ−90度折り曲げられ、撮像素子112に入射する。すなわち、2つのプリズム116a1、116a2はそれぞれ、撮像光学系111aの光軸OA1を90度屈曲させる。同様に、撮像光学系111bにおける2つのプリズム116b1、116b2は、光軸OA2を90度屈曲させる。撮像光学系111a、111bは互いに同一の構成を有し、撮像素子112の中心を通り、Z軸に平行な直線に対して回転対称になるように配置されている。
このように、光軸OA1、OA2を2回折り曲げる反射部材(プリズム)を2つ組み合わせることで、2つの撮像光学系111a、111bに1つの撮像素子112が対応する場合でも、長い基線長Dを実現することができる。これは、基線長Dは、2つの撮像光学系111a、111bの入射瞳の中心を結ぶ線分であり、撮像部110においては、撮像光学系111a、111bのそれぞれの被写体に最も近いレンズの中心間の距離に相当するためである。
図4(b)において、基線長Dを一点鎖線で示している。また図4(b)において、撮像光学系111aのイメージサークルをICa、光軸OA1と撮像素子112との交点をOCa、画像読み出し領域をRaとしてそれぞれ示している。また図4(b)において、撮像光学系111bのイメージサークルをICb、光軸OA2と撮像素子112との交点をOCb、画像読み出し領域をRbとしてそれぞれ示している。このように、撮像光学系111a、111bは、光軸OA1、OA2と撮像素子112との交点OCa、OCbとをそれぞれ結ぶ直線と、基線長Dとが互いに略水平(平行)となるように配置されている。また、撮像素子112は、その長辺が基線長Dと略平行になり、その短辺が基線長Dと略垂直となるように配置されている。
画像読み出し領域Ra、Rbは、撮像光学系111a、111bのそれぞれに対応する画素領域である。画像読み出し領域Ra、Rb内の画素を読み出すことにより、撮像光学系111a、111bのそれぞれが形成した被写体像(光学像)を画像として取得する。図4の状態(撮像光学系111a、111bが変形していない状態)では、発光部113a、113bから拡大側へ照射された照射光は、撮像光学系111a、111bの第一面である光学面111Sa、111Sbでそれぞれ反射され、縮小側へ戻り光として戻る。発光部113a、113bはそれぞれ、画像読み出し領域Ra、Rbの範囲外かつイメージサークルICa、ICbの内側に配置されており、その戻り光は各光軸を挟んだ反対側の位置Ba、Bbにそれぞれ戻る。
次に、図5を参照して、撮像光学系111a、111bが変形した状態における撮像部110の構成について説明する。図5は、撮像部110の構成図である。変形の例として、ここでは撮像光学系111a、111bのプリズム116a1、116b1が内側に倒れた状態を説明する。このような変形が生じた場合、図4(a)に示されるような光路(光軸OA1、OA2)を通っていた軸上光線は、図5(a)中に一点鎖線で示すように、プリズム116a1、116b1で光路(光軸OA1’、OA2’)が傾く。その結果、図5(c)に示されるように、元々の光軸光線が交点OCa’、OCb’とそれぞれ像ズレ量c、dだけ内側にずれた場所に到達する。同様に、本実施例の構成で発光部113a、113bから図5(b)に破線で示されるように拡大側に照射された照射光は、撮像光学系111a、111bのそれぞれの第一面である光学面111Sa、111Sbで反射され、縮小側へ戻る。その戻り光は、図5(b)の実線で示されるように、同様の像ズレ量c、dだけ内側にずれた位置Ba’,Bb’にそれぞれ戻る。このように、撮像光学系111a、111bの最も拡大側(物体側)に配置された光学素子である光学面(プリズム面)111Sa、111Sbに照射光の反射面を設置することにより、撮像光学系111a、111bの全系を照射光が往復することができる。すなわち、撮像光学系111a、111bを構成する全ての光学素子の倒れや偏芯などの影響を検出することが可能となる。
続いて、図3のステップS102において、システムコントローラ30は、撮像素子(検出部)112を用いて、戻り光の位置を検出する。変形が生じていない図4に示される状態の場合、戻り光の位置は初期状態における位置と変わらないため、検出位置は0となる。ここで、初期状態との比較として、システムコントローラ30は、メモリ80から初期状態時の戻り光の位置情報を取得して比較することも可能である。一方、変形が生じた場合である図5に示される状態の場合、初期状態から内向きに像ズレ量c、dがそれぞれ発生している。すなわち、撮像光学系111aの戻り光の位置は−cとなり、撮像光学系111bの戻り光の位置は−dとなる。なお本実施例において、戻り光の位置検出を撮像と同時に毎回実施するように構成されているが、これに限定されるものではない。これは、撮像光学系111a、111bの変形が常に生じ続けるわけではないためであり、変形が生じうる頻度に応じて任意に戻り光の検出や後段の補正値の算出処理を低減させることができる。例えば、撮影30フレーム毎に1回の戻り光検出を実行する又は1時間毎に実行するなどの例が考えられる。
続いてステップS103において、補正値算出部21は、戻り光の位置情報に基づいて、測距に必要となる補正値を算出する。本実施例のように撮像光学系111a、111bの第一プリズム面である光学面111Sa、111Sbを反射面とする場合、図5に示されるように、プリズム116a1、116b1の倒れにより生じる撮像画像の像ズレ量が戻り光のズレ量と同じとなる。すなわち、レンズ鏡筒の変形によるプリズムの倒れにより生じる像ズレ量が、初期状態からの戻り光のズレ量により検出可能となる。本実施例では、補正値として撮像光学系111aに対しては−c、撮像光学系111bに対しては−dという補正値を算出する。本実施例では、前述のような補正値となるが、発光部113a、113bからの照射光を反射させる反射面の設置位置に応じて、戻り光の位置情報と補正値との関係は変化する。このため、メモリ80に戻り光の位置情報から補正値の換算関数を保存しておいてもよい。
続いてステップS104において、距離情報算出部22は、2つの撮影画像とステップS103にて算出された補正値とに基づいて、距離情報を算出する。被写体距離を算出する際に必要となる撮像部110を構成する2つの撮像光学系111a、111bの焦点距離、基線長D、撮像素子112の画素サイズなどの情報はメモリ80に格納されている。距離情報算出部22は、メモリ80から適宜その情報を受け取ることができる。距離情報算出部22は、前述の対応被写体探索処理により、2つの撮影画像から各被写体の視差量を算出する。図5に示されるような変形が生じた状態で撮像された2つの画像から算出される視差量は、像ズレ量を含む値である。本実施例において、一例として、算出された視差量は(a+c+b+d)であり、正確な視差量は(a+b)であるとする。このため、そのままの視差量を用いて式(1)から被写体距離を算出すると、像ズレ量(c+d)の誤差が距離情報に生じてしまう。そこで、ステップS103にて算出された像ズレ量に相当する補正値を用い、算出された視差量から像ズレ量を差し引くことにより、像ズレにより生じる距離情報の誤差を低減することが可能となる。
このように本実施例において、測距装置は、撮像光学系111a、111b、発光部113a、113b、検出部(撮像素子112)、および、画像処理部20を有する。撮像光学系111a、111bは、複数の視差画像を形成する。発光部113a、113bは、撮像光学系111a、111bの縮小側から拡大側へ向かって照射光を発する。検出部は、照射光が撮像光学系111a、111bを通って反射された戻り光に関する情報を検出する。画像処理部20は、戻り光に関する情報と複数の視差画像とに基づいて、被写体に関する距離情報を算出する。好ましくは、画像処理部20は、戻り光に関する情報に基づいて測距のための補正値を算出する補正値算出部21と、補正値と複数の視差画像とに基づいて距離情報を算出する距離情報算出部22とを有する。より好ましくは、距離情報算出部22は、複数の視差画像に基づいて、被写体に関する視差量を算出し、視差量に基づいて距離情報を算出する。また好ましくは、戻り光に関する情報は、戻り光の位置情報である。より好ましくは、補正値算出部21は、戻り光の位置情報に基づいて、視差量に含まれる像ズレ量を補正するための補正値を算出する。このような構成により、光学系の変位や変形による像ズレが発生した場合でも、距離算出精度を向上させることができる。
次に、本発明の実施例2における測距装置について説明する。図7は、本実施例の測距装置における撮像部120の構成図である。なお、本実施例の測距装置の構成は、撮像部120を除き、図1を参照して説明した実施例1の測距装置1と同様であるため、それらの説明を省略する。
撮像部120は、撮像光学系121a、121b、撮像素子122、および、発光部123a、123bを有する。システムコントローラ30は、撮像制御部40を介して撮像部120の発光部123a、123bを制御し、発光部123a、123bから光を照射する。発光部123a、123bから撮像光学系121a、121bの拡大側に向けた照射光は、撮像光学系121a、121bを通り、カバーガラス(最も拡大側に配置された光学素子)127a、127bの裏面である光学面121Sa、121Sbで反射される。そして、その反射光は、撮像光学系121a、121bの縮小側へ、再度、撮像光学系121a、121bを通り戻り光として戻る。戻り光の一部は、撮像素子122に到達し、画像信号(戻り光に関する情報)として検出される。
本実施例において、発光部123a、123bは、人の目では見えない不可視光である近赤外光を照射する近赤外光源である。また、撮像光学系121a、121bの第二面である光学面121Sa、121Sbには、近赤外光を反射する反射膜が形成されている。このような構成により、測距のための通常撮影に不要となる外部からの近赤外光を光学面121Sa、121Sbで遮断することができる。また、発光部123a、123bからの近赤外光を効率的に反射させることにより、撮像素子122での戻り光の検出効率を高めることが可能となる。なお本実施例では発光部123a、123bが近赤外光源であるが、可視光を発光する光源としてもよい。その場合、カバーガラス127a、127bの裏面である光学面121Sa、121Sbに近赤外光の反射膜を形成する必要はない。また、光学面121Sa、121Sbへ発光部123a、123bの発光波長域で反射強度が大きくなる特性を有する反射膜を形成してもよい。
撮像光学系121a、121bは、最も被写体に近いレンズ同士の間の長さが50mmになるように配置されており、この長さが撮像部120の基線長Dに相当する。撮像光学系121a、121bは、互いに同一の構成であって、左右対称になるように平行に配置されている。また、撮像部120を構成する2つの撮像光学系121a、121bの画角は同一である。本実施例において、撮像光学系121a、121bのそれぞれの焦点距離は、35mm判換算で400mmである。
次に、図6を参照して、本実施例の測距装置による測距方法について説明する。図6は、本実施例における測距方法のフローチャートである。図6の各ステップは、主にシステムコントローラ30または画像処理部20により実行される。
まずステップS201において、システムコントローラ30は、発光部123a、123bを発光制御させるか否かを判定する。発光制御させる場合、ステップS202へ移行する。一方、発光制御させない場合、ステップS206へ移行する。システムコントローラ30は、温度検出手段(不図示)による温度測定結果や振動検出手段(不図示)による振動量測定結果に基づいて撮像光学系121a、121bの変形要因が検出されたか否かを判定することにより、発光制御判定を行うこともできる。本実施例において、システムコントローラ30は、1時間毎に発光部123a、123bを発光制御させるタイマー機能を有する。
ステップS206において、システムコントローラ30は、撮像制御部40を介して撮像部120を制御して撮像を行うことにより、2つの画像を取得する。
ステップS202において、システムコントローラ30は、撮像制御部40を介して撮像部120を制御して撮像を行うことにより、2つの画像を取得する。また同時に、システムコントローラ30は、発光部123a、123bを発光させる。
ここで、図7を参照して、撮像光学系121a、121bが変形していない状態における撮像部120の構成について説明する。図7(a)に示されるように、撮像光学系121aは、2つのレンズ125a1、125a2と2つのプリズム126a1、126a2とカバーガラス127aとを備えて構成されている。同様に、撮像光学系121bは、2つのレンズ125b1、125b2と2つのプリズム126b1、126b2とカバーガラス127bを備えて構成されている。図7(a)において、撮像光学系121a、121bの光軸OA1、OA2がそれぞれ一本鎖線で示されている。撮像光学系121aの光軸OA1は、X−Z平面においてプリズム116a1で90度、プリズム116a2でそれぞれ−90度折り曲げられ、撮像素子122に入射する。すなわち、2つのプリズム126a1、126a2はそれぞれ、撮像光学系121aの光軸OA1を90度屈曲させる。同様に、撮像光学系121bにおける2つのプリズム126b1、126b2は、光軸OA2を90度屈曲させる。撮像光学系121a、121bは互いに同一の構成を有し、撮像素子122の中心を通り、Z軸に平行な直線に対して回転対称になるように配置されている。
このように、光軸OA1、OA2を2回折り曲げる反射部材(プリズム)を2つ組み合わせることで、2つの撮像光学系121a、121bに1つの撮像素子122が対応する場合でも、長い基線長Dを実現することができる。これは、基線長Dは、2つの撮像光学系121a、121bの入射瞳の中心を結ぶ線分であり、撮像部120においては、撮像光学系121a、121bのそれぞれの被写体に最も近いレンズの中心間の距離に相当するためである。
図7(b)において、基線長Dを一点鎖線で示している。また図7(b)において、撮像光学系121aのイメージサークルをICa、光軸OA1と撮像素子122との交点をOCa、画像読み出し領域をRaとしてそれぞれ示している。また図7(b)において、撮像光学系121bのイメージサークルをICb、光軸OA2と撮像素子122との交点をOCb、画像読み出し領域をRbとしてそれぞれ示している。このように、撮像光学系121a、121bは、光軸OA1、OA2と撮像素子122との交点OCa、OCbとをそれぞれ結ぶ直線と、基線長Dとが互いに略水平(平行)となるように配置されている。また、撮像素子122は、その長辺が基線長Dと略平行になり、その短辺が基線長Dと略垂直となるように配置されている。
図7の状態(撮像光学系121a、121bが変形していない状態)において、発光部123a、123bから拡大側に照射された光は、撮像光学系121a、121bのカバーガラス127a、127bの裏面である光学面121Sa、121Sbで反射される。光学面121Sa、121Sbで反射された反射光は、縮小側へ戻り光として戻る。発光部123a、123bはそれぞれ、画像読み出し領域Ra、Rbの範囲外かつイメージサークルICa、ICbの内側に配置されており、その戻り光は各光軸を挟んだ反対側の位置Ba、Bbにそれぞれ戻る。
次に、図8を参照して、撮像光学系121a、121bが変形した状態における撮像部120の構成について説明する。図8は、撮像部120の構成図である。変形の例として、ここでは撮像光学系121a、121bのプリズム126a2、126b2が内側に倒れた状態を説明する。
このような変形が生じた場合、図7(a)に示されるような光路(光軸OA1、OA2)を通っていた軸上光線は、図8(a)中に一点鎖線で示すように、プリズム126a2、126b2で光路(光軸OA1’、OA2’)が傾く。その結果、図8(c)に示されるように、元々の光軸光線が交点OCa’、OCb’とそれぞれ像ズレ量c、dだけ内側にずれた場所に到達する。同様に、本実施例の構成で発光部123a、123bから図8(b)に破線で示されるように拡大側に照射された照射光は、カバーガラス127a、127の裏面である光学面121Sa、121Sbで反射され、縮小側へ戻る。その戻り光は、図8(b)の実線で示されるように、同様の像ズレ量c、dだけ内側にずれた位置Ba’,Bb’にそれぞれ戻る。このように本実施例では、撮像光学系121a、121bの最も拡大側(物体側)に配置された光学素子であるカバーガラス127a、127bの光学面121Sa、121Sbに照射光の反射面を設置する。これにより、撮像光学系111a、111bの全系を照射光が往復することができる。すなわち、撮像光学系111a、111bを構成する全ての光学素子の倒れや偏芯などの影響を検出することが可能となる。
続いて、図6のステップS203において、システムコントローラ30は、撮像素子(検出部)122を用いて、戻り光の位置を検出する。変形が生じていない図7に示される状態の場合、戻り光の位置は初期状態における位置と変わらないため、検出位置は0となる。ここで、初期状態との比較として、システムコントローラ30は、メモリ80から初期状態時の戻り光の位置情報を取得して比較することも可能である。一方、変形が生じた場合である図8に示される状態の場合、初期状態から内向きに像ズレ量2c、2dがそれぞれ発生している。すなわち、撮像光学系121aの戻り光の位置は−2cとなり、撮像光学系121bの戻り光の位置は−2dとなる。
続いてステップS204において、補正値算出部21は、戻り光の位置情報に基づいて、測距に必要となる補正値を算出する。本実施例のようにカバーガラス127a、127bの裏面である光学面111Sa、111Sbを反射面とする場合、図8に示されるように、プリズム126a2、126b2の倒れにより生じる撮像画像の像ズレ量が戻り光のズレ量の半分となる。これは、発光部123a、123bからの照射光が撮像光学系121a、121bを往復するためである。すなわち、レンズ鏡筒の変形によるプリズムの倒れにより生じる像ズレ量が、初期状態からの戻り光のズレ量によって検出可能となる。本実施例では、補正値として撮像光学系121aに対しては-c、撮像光学系121bに対しては-dという補正値を算出する。本実施例では、前述のような補正値となるが、発光部123a、123bからの照射光を反射させる反射面の設置位置に応じて、戻り光の位置情報と補正値の関係は変化する。このため、メモリ80に戻り光の位置情報から補正値を換算するテーブルを保存しておいてもよい。
続いてステップS205において、距離情報算出部22は、2つの撮影画像とステップS204にて算出された補正値とに基づいて、距離情報を算出する。被写体距離を算出する際に必要となる撮像部120を構成する2つの撮像光学系121a、121bの焦点距離、基線長D、撮像素子122の画素サイズなどの情報はメモリ80に格納されている。距離情報算出部22は、メモリ80から適宜その情報を受け取ることができる。距離情報算出部22は、前述の対応被写体探索処理により、2つの撮影画像から各被写体の視差量を算出する。図8に示されるような変形が生じた状態で撮像された2つの画像から算出される視差量は、像ズレ量を含む値である。本実施例において、一例として、算出された視差量は(a+c+b+d)であり、正確な視差量は(a+b)であるとする。このため、そのままの視差量を用いて式(1)から被写体距離を算出すると、像ズレ量(c+d)の誤差が距離情報に生じてしまう。そこで、ステップS204にて算出された像ズレ量に相当する補正値を用い、算出された視差量から像ズレ量を差し引くことにより、像ズレにより生じる距離情報の誤差を低減することが可能となる。また、ステップS206からステップS205へ移行する経路では、補正値として最も新しく算出した値をメモリ80に保存しておき、その最新の補正値を使用することにより、前述と同様の距離算出を実行することができる。
以上のような構成により、撮像光学系の変位や変形による像ズレが発生した場合でも、距離算出精度を向上させることが可能となる。
次に、図9を参照して、本発明の実施例3における撮像装置3について説明する。図9は、撮像装置3の外観図であり、図9(a)は俯瞰図、図9(b)は正面図をそれぞれ示している。
図9に示されるように、撮像装置3は、主撮像部(第1の撮像部)100と、副撮像部(第2の撮像部)を構成する実施例2の測距装置の撮像光学系121a、121bとを有する。なお、撮像装置3の基本構成(撮像装置3に設けられた測距装置)は、図1を参照して説明した実施例1の測距装置1と同様である。このように撮像装置3は、被写体の撮像に用いられる主撮像部100および被写体の距離情報を取得する副撮像部(例えば実施例2の撮像部120)を有する。主撮像部100は、副撮像部とは別に撮像光学系と撮像素子とをそれぞれ有し、被写体像を撮像する。
撮像装置3において、システムコントローラ30は、撮像制御部40を介して主撮像部100に設けられたフォーカスレンズを駆動し、実施例2と同様の測距方法により得られる距離情報(被写体距離)に基づいて、主撮像部100を注目被写体に合焦させる。被写体距離に応じた主撮像部100のフォーカスレンズの位置は、メモリ80にテーブルとして格納されており、撮像部の撮像条件と被写体距離とに応じて適宜判定することができる。像ズレ量を補正された副撮像部による正確な距離情報に基づいて、主撮像部100のフォーカス制御を行うことにより、高精度に被写体へのフォーカシングが可能である。このため、主撮像部100の撮影視野に被写体が入った後のフォーカス制御の時間を短縮することができ、ボケた画像を撮影する頻度を低下させることが可能となる。その結果、副撮像部として前述の各実施例の測距装置を組み込んだ撮像装置3を構成することにより、動く被写体の撮影の成功率を向上させることができる。
(その他の実施例)
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
各実施例によれば、環境の変化によらず被写体距離を高精度に算出することが可能な測距装置および撮像装置を提供することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
1 測距装置
20 画像処理部
111a、111b 撮像光学系
112 撮像素子(検出部)
113a、113b 発光部
20 画像処理部
111a、111b 撮像光学系
112 撮像素子(検出部)
113a、113b 発光部
Claims (14)
- 複数の視差画像を形成する撮像光学系と、
前記撮像光学系の縮小側から拡大側へ向かって照射光を発する発光部と、
前記照射光が前記撮像光学系を通って反射された戻り光に関する情報を検出する検出部と、
前記戻り光に関する情報と前記複数の視差画像とに基づいて、被写体に関する距離情報を算出する画像処理部と、を有することを特徴とする測距装置。 - 前記画像処理部は、前記戻り光に関する情報に基づいて測距のための補正値を算出する補正値算出部と、
前記補正値と前記複数の視差画像とに基づいて前記距離情報を算出する距離情報算出部と、を有することを特徴とする請求項1に記載の測距装置。 - 前記距離情報算出部は、前記複数の視差画像に基づいて、前記被写体に関する視差量を算出し、前記視差量に基づいて前記距離情報を算出することを特徴とする請求項2に記載の測距装置。
- 前記戻り光に関する情報は、前記戻り光の位置情報であることを特徴とする請求項3に記載の測距装置。
- 前記補正値算出部は、前記戻り光の位置情報に基づいて、前記視差量に含まれる像ズレ量を補正するための前記補正値を算出することを特徴とする請求項4に記載の測距装置。
- 前記検出部は、前記撮像光学系を介して形成された前記複数の視差画像を取得する撮像素子であることを特徴とする請求項1乃至5のいずれか1項に記載の測距装置。
- 前記発光部は、700nm〜2500nmの波長の近赤外光を照射することを特徴とする請求項1乃至6のいずれか1項に記載の測距装置。
- 前記戻り光は、前記撮像光学系のうち最も拡大側に配置された光学素子の光学面で反射された光であることを特徴とする請求項1乃至7のいずれか1項に記載の測距装置。
- 前記光学素子は、プリズムであることを特徴とする請求項8に記載の測距装置。
- 前記光学素子は、カバーガラスであることを特徴とする請求項8に記載の測距装置。
- 前記光学素子には、前記照射光を反射する反射膜が形成されていることを特徴とする請求項9または10に記載の測距装置。
- 前記反射膜は、700nm〜2500nmの波長の近赤外光に対して90%以上の反射率を有することを特徴とする請求項11に記載の測距装置。
- 被写体を撮像するための第1の撮像部と、
前記被写体に関する距離情報を取得するための第2の撮像部と、を有し、
前記第2の撮像部は、
複数の視差画像を形成する撮像光学系と、
前記撮像光学系の縮小側から拡大側へ向かって照射光を発する発光部と、
前記照射光が前記撮像光学系を通って反射された戻り光に関する情報を検出する検出部と、
前記戻り光に関する情報と前記複数の視差画像とに基づいて、前記被写体に関する距離情報を算出する画像処理部と、を有することを特徴とする撮像装置。 - 前記距離情報に基づいて前記第1の撮像部のフォーカス制御を行う制御部を更に有することを特徴とする請求項13に記載の撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018025525A JP2019143986A (ja) | 2018-02-16 | 2018-02-16 | 測距装置および撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018025525A JP2019143986A (ja) | 2018-02-16 | 2018-02-16 | 測距装置および撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019143986A true JP2019143986A (ja) | 2019-08-29 |
Family
ID=67772113
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018025525A Pending JP2019143986A (ja) | 2018-02-16 | 2018-02-16 | 測距装置および撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019143986A (ja) |
-
2018
- 2018-02-16 JP JP2018025525A patent/JP2019143986A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6626132B2 (ja) | 距離画像取得装置及びその応用 | |
JP6394005B2 (ja) | 投影画像補正装置、投影する原画像を補正する方法およびプログラム | |
JP6245885B2 (ja) | 撮像装置およびその制御方法 | |
US9749614B2 (en) | Image capturing system obtaining scene depth information and focusing method thereof | |
JP6296401B2 (ja) | 距離測定装置および固体撮像素子 | |
US9832432B2 (en) | Control apparatus, image pickup apparatus, control method, and non-transitory computer-readable storage medium | |
US9092875B2 (en) | Motion estimation apparatus, depth estimation apparatus, and motion estimation method | |
JP6172978B2 (ja) | 撮像装置、撮像システム、信号処理装置、プログラム、および、記憶媒体 | |
JP2008002995A (ja) | 三次元形状測定装置 | |
US9619886B2 (en) | Image processing apparatus, imaging apparatus, image processing method and program | |
JP6071257B2 (ja) | 画像処理装置及びその制御方法、並びにプログラム | |
JP2013044844A (ja) | 画像処理装置および画像処理方法 | |
JP6014452B2 (ja) | 焦点検出装置及びそれを有するレンズ装置及び撮像装置 | |
JP2013037166A (ja) | 焦点検出装置及びそれを有するレンズ装置及び撮像装置 | |
US10999491B2 (en) | Control apparatus, image capturing apparatus, control method, and storage medium | |
WO2020183710A1 (ja) | 画像処理装置及び3次元計測システム | |
JP6395429B2 (ja) | 画像処理装置、その制御方法及び記憶媒体 | |
JP2017134561A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP3991501B2 (ja) | 3次元入力装置 | |
JP2021039018A (ja) | 画像処理装置 | |
JP2019143986A (ja) | 測距装置および撮像装置 | |
JP7233261B2 (ja) | 3次元測量装置、撮像装置、制御方法及びプログラム | |
JP7057200B2 (ja) | 撮像装置 | |
KR102061087B1 (ko) | 비디오 프로젝터용 포커싱방법, 장치 및 저장매체에 저장된 프로그램 | |
JP2011090166A (ja) | ステレオ撮像装置 |