JP6060482B2 - 測距装置、測距システム、測距プログラムおよび視差補正方法 - Google Patents

測距装置、測距システム、測距プログラムおよび視差補正方法 Download PDF

Info

Publication number
JP6060482B2
JP6060482B2 JP2011277294A JP2011277294A JP6060482B2 JP 6060482 B2 JP6060482 B2 JP 6060482B2 JP 2011277294 A JP2011277294 A JP 2011277294A JP 2011277294 A JP2011277294 A JP 2011277294A JP 6060482 B2 JP6060482 B2 JP 6060482B2
Authority
JP
Japan
Prior art keywords
image
temperature
parallax
lens
imaging system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011277294A
Other languages
English (en)
Other versions
JP2013127416A (ja
Inventor
高橋 禎郎
禎郎 高橋
丸山 剛
剛 丸山
真裕 藤本
真裕 藤本
渡部 順
順 渡部
大内田 茂
茂 大内田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2011277294A priority Critical patent/JP6060482B2/ja
Publication of JP2013127416A publication Critical patent/JP2013127416A/ja
Application granted granted Critical
Publication of JP6060482B2 publication Critical patent/JP6060482B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)

Description

本発明は、測距装置、測距システム、測距プログラムおよび視差補正方法に関する。
ステレオカメラを利用した測距システムは、近年、様々な分野で広く利用されている。例えば、ステレオカメラを利用した測距システムを搭載した自動車、家電、デジタルカメラなどが実用化されている。
ステレオカメラは、第1レンズおよび第1撮像素子を含む第1撮像系と、第2レンズおよび第2撮像素子を含む第2撮像系とを備える。第1撮像系と第2撮像系とは、焦点距離が等しく、光軸が互いに平行である。第1撮像系と第2撮像系の光軸間の距離は、基線長と呼ばれる。
ステレオカメラを利用した測距システムでは、第1撮像系により撮像された被写体の第1画像と、第2撮像系により撮像された被写体の第2画像とに基づき、被写体までの距離を計測する。具体的には、第1画像と第2画像から、第1撮像素子における被写体の像の位置と第2撮像素子における被写体の像の位置との差分である視差を求める。そして、求めた視差と、上記の基線長と、第1撮像系および第2撮像系の焦点距離とに基づいて、三角測量の原理により被写体までの距離を計測する。
また、ステレオカメラのカメラモジュールとして、第1レンズおよび第2レンズを同一面上に一体形成したレンズアレイを備えるステレオカメラモジュールも提案されている。このレンズアレイを備えるステレオカメラモジュールは、小型化が容易で、様々な機器に搭載可能という利点を持つ一方、温度変化の影響を受けやすいという欠点がある。特にレンズアレイが樹脂により構成されている場合、温度変化によってレンズアレイが伸縮し、計測される距離に誤差が生じる。
このような問題に対し、温度センサをステレオカメラモジュールに搭載して環境温度を検出し、検出した環境温度に応じて補正を行う技術が提案されている。例えば、特許文献1には、撮像素子が実装された基板に温度センサを装着して基板の温度を検出し、検出した温度に基づいて、温度変化に伴う基線長の変化分だけ視差を補正する技術が開示されている。
また、特許文献2には、レンズアレイに温度センサを装着してレンズアレイの温度を検出し、検出した温度に基づいて基線長を補正し、補正後の基線長を用いて距離を算出する技術が開示されている。
しかし、上記の従来技術は、温度変化に応じた基線長の変化分のみを補正する技術であるため、補正が不十分であるという問題があった。すなわち、温度変化によりステレオカメラモジュールを構成する部材が伸縮すると、基線長だけでなく、レンズと撮像素子間の距離(バックフォーカス)や、レンズアレイの材質に応じた屈折率にも変化が生じ、これら基線長の変化以外の要因によっても画像が変化する。しかし、従来技術では基線長の変化分のみを補正するため、高精度な補正を行うことができない。
本発明は、上記に鑑みてなされたものであって、第1画像および第2画像の撮像時の温度に応じて、第1画像および第2画像から算出される視差を高精度に補正して、正確な距離の計測を行うことができる測距装置、測距システム、測距プログラムおよび視差正方法を提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る測距装置は、第1レンズと第1撮像素子とを含む第1撮像系と、前記第1レンズと一体成形された第2レンズと第2撮像素子とを含む第2撮像系と、前記第1撮像素子および前記第2撮像素子とが配置された基板と、前記基板の前記第1撮像素子および前記第2撮像素子が配置された面の反対面に配置された温度検出手段と、を備えるステレオカメラモジュールから、前記第1撮像系により撮像された被写体の第1画像と前記第2撮像系により撮像された前記被写体の第2画像とを入力する入力手段と、前記第1画像と前記第2画像とに基づいて、前記第1画像における前記被写体の位置と前記第2画像における前記被写体の位置との差分である視差を算出する視差算出手段と、前記第1画像および前記第2画像の撮像時に前記温度検出手段により検出された前記基板の温度と基準温度との差分である温度差を算出する温度差算出手段と、前記温度差と、予め求めた温度係数とに基づいて、前記第1撮像系と前記第2撮像系との光軸間の距離である基線長の伸縮による誤差成分を補正するための第1補正値と、前記第1画像および前記第2画像の倍率の変化による誤差成分を補正するための第2補正値とを算出し、前記視差を、前記第1補正値と前記第2補正値とに基づいて補正して、補正視差を算出する視差補正手段と、前記補正視差と、伸縮のない前記基線長と、前記第1撮像系および前記第2撮像系の焦点距離とに基づいて、前記被写体までの距離を算出する距離算出手段と、を備え、前記温度係数は、前記第1レンズおよび前記第2レンズの線膨張率を表す第1温度係数と、前記第1レンズおよび前記第2レンズの焦点距離の膨張率と前記第1温度係数との和である第2温度係数とを含み、前記第1補正値は、前記基準温度のときの伸縮のない前記基線長に前記第1温度係数を乗算した値に対して前記温度差を乗算した値であり、前記第2補正値は、前記温度差に前記第2温度係数を乗算した値に対して1を加算した値であり、前記視差補正手段は、前記視差から前記第1補正値を減算した値に対して前記第2補正値を除算した値を前記補正視差として算出することを特徴とする。
また、本発明に係る測距システムは、第1レンズと第1撮像素子とを含み、被写体の第1画像を撮像する第1撮像系と、前記第1レンズと一体成形された第2レンズと第2撮像素子とを含み、前記被写体の第2画像を撮像する第2撮像系と、前記第1撮像素子および前記第2撮像素子とが配置された基板と、前記基板の前記第1撮像素子および前記第2撮像素子が配置された面の反対面に配置された温度検出手段と、前記第1画像と前記第2画像とに基づいて、前記第1画像における前記被写体の位置と前記第2画像における前記被写体の位置との差分である視差を算出する視差算出手段と、前記第1画像および前記第2画像の撮像時に前記温度検出手段により検出された前記基板の温度と基準温度との差分である温度差を算出する温度差算出手段と、前記温度差と、予め求めた温度係数とに基づいて、前記第1撮像系と前記第2撮像系との光軸間の距離である基線長の伸縮による誤差成分を補正するための第1補正値と、前記第1画像および前記第2画像の倍率の変化による誤差成分を補正するための第2補正値とを算出し、前記視差を、前記第1補正値と前記第2補正値とに基づいて補正して、補正視差を算出する視差補正手段と、前記補正視差と、伸縮のない前記基線長と、前記第1撮像系および前記第2撮像系の焦点距離とに基づいて、前記被写体までの距離を算出する距離算出手段と、を備え、前記温度係数は、前記第1レンズおよび前記第2レンズの線膨張率を表す第1温度係数と、前記第1レンズおよび前記第2レンズの焦点距離の膨張率と前記第1温度係数との和である第2温度係数とを含み、前記第1補正値は、前記基準温度のときの伸縮のない前記基線長に前記第1温度係数を乗算した値に対して前記温度差を乗算した値であり、前記第2補正値は、前記温度差に前記第2温度係数を乗算した値に対して1を加算した値であり、前記視差補正手段は、前記視差から前記第1補正値を減算した値に対して前記第2補正値を除算した値を前記補正視差として算出することを特徴とする。
また、本発明に係る測距プログラムは、コンピュータに、第1レンズと第1撮像素子とを含む第1撮像系と、前記第1レンズと一体成形された第2レンズと第2撮像素子とを含む第2撮像系と、前記第1撮像素子および前記第2撮像素子とが配置された基板と、前記基板の前記第1撮像素子および前記第2撮像素子が配置された面の反対面に配置された温度検出手段と、を備えるステレオカメラモジュールから、前記第1撮像系により撮像された被写体の第1画像と前記第2撮像系により撮像された前記被写体の第2画像とを入力する入力手段の機能と、前記第1画像と前記第2画像とに基づいて、前記第1画像における前記被写体の位置と前記第2画像における前記被写体の位置との差分である視差を算出する視差算出手段の機能と、前記第1画像および前記第2画像の撮像時に前記温度検出手段により検出された前記基板の温度と基準温度との差分である温度差を算出する温度差算出手段の機能と、前記温度差と、予め求めた温度係数とに基づいて、前記第1撮像系と前記第2撮像系との光軸間の距離である基線長の伸縮による誤差成分を補正するための第1補正値と、前記第1画像および前記第2画像の倍率の変化による誤差成分を補正するための第2補正値とを算出し、前記視差を、前記第1補正値と前記第2補正値とに基づいて補正して、補正視差を算出する視差補正手段の機能と、前記補正視差と、伸縮のない前記基線長と、前記第1撮像系および前記第2撮像系の焦点距離とに基づいて、前記被写体までの距離を算出する距離算出手段の機能と、を実現させ、前記温度係数は、前記第1レンズおよび前記第2レンズの線膨張率を表す第1温度係数と、前記第1レンズおよび前記第2レンズの焦点距離の膨張率と前記第1温度係数との和である第2温度係数とを含み、前記第1補正値は、前記基準温度のときの伸縮のない前記基線長に前記第1温度係数を乗算した値に対して前記温度差を乗算した値であり、前記第2補正値は、前記温度差に前記第2温度係数を乗算した値に対して1を加算した値であり、前記視差補正手段は、前記視差から前記第1補正値を減算した値に対して前記第2補正値を除算した値を前記補正視差として算出する。
また、本発明に係る視差補正方法は、第1レンズと第1撮像素子とを含む第1撮像系と、前記第1レンズと一体成形された第2レンズと第2撮像素子とを含む第2撮像系と、前記第1撮像素子および前記第2撮像素子とが配置された基板と、前記基板の前記第1撮像素子および前記第2撮像素子が配置された面の反対面に配置された温度検出手段と、を備えるステレオカメラモジュールから、前記第1撮像系により撮像された被写体の第1画像と前記第2撮像系により撮像された前記被写体の第2画像とを入力し、前記第1画像における前記被写体の位置と前記第2画像における前記被写体の位置との差分である視差を算出する装置において実行される視差補正方法であって、前記第1画像および前記第2画像の撮像時に前記温度検出手段により検出された前記基板の温度と基準温度との差分である温度差を算出するステップと、前記温度差と、予め求めた温度係数とに基づいて、前記第1撮像系と前記第2撮像系との光軸間の距離である基線長の伸縮による誤差成分を補正するための第1補正値を算出するステップと、前記温度差と、予め求めた温度係数とに基づいて、前記第1画像および前記第2画像の倍率の変化による誤差成分を補正するための第2補正値を算出するステップと、前記第1補正値と前記第2補正値とに基づいて、前記視差を補正して、補正視差を算出するステップと、を含み、前記温度係数は、前記第1レンズおよび前記第2レンズの線膨張率を表す第1温度係数と、前記第1レンズおよび前記第2レンズの焦点距離の膨張率と前記第1温度係数との和である第2温度係数とを含み、前記第1補正値は、前記基準温度のときの伸縮のない前記基線長に前記第1温度係数を乗算した値に対して前記温度差を乗算した値であり、前記第2補正値は、前記温度差に前記第2温度係数を乗算した値に対して1を加算した値であり、前記補正視差を算出するステップは、前記視差から前記第1補正値を減算した値に対して前記第2補正値を除算した値を前記補正視差として算出することを特徴とする。
本発明によれば、第1画像および第2画像の撮像時の温度に応じて、第1画像および第2画像から算出される視差を高精度に補正して、正確な距離の計測を行うことができるという効果を奏する。
図1は、ステレオカメラモジュールの一構成例を示す図である。 図2は、図1に示した構成のステレオカメラモジュールをモデル化した図である。 図3は、ある基準温度からΔtだけ温度上昇したときのステレオカメラモジュールをモデル化した図である。 図4は、測距装置の機能的な構成を示すブロック図である。 図5は、視差補正部の演算回路の一構成を示す図である。 図6は、視差補正部の演算回路の他の構成を示す図である。 図7は、第1画像および第2画像から算出される視差と環境温度との関係を示す図である。 図8は、レンズアレイを直接測定した温度と温度センサにより測定した基板の温度との関係を示す図である。
以下に添付図面を参照して、この発明に係る測距装置、測距システム、測距プログラムおよび視差補正方法の実施の形態を詳細に説明する。
測距システムは、ステレオカメラモジュールと、測距装置と、を備える。測距装置は、ステレオカメラモジュールの2つの撮像系(第1撮像系および第2撮像系)により撮像された被写体の画像(第1画像および第2画像)に基づいて、ステレオカメラモジュールから被写体までの距離を計測する。測距装置は、ステレオカメラモジュールと一体に構成(ステレオカメラモジュールに内蔵)されていてもよいし、ステレオカメラモジュールから分離した外部装置として構成され、ステレオカメラモジュールに対して第1画像および第2画像を入力可能に接続されてもよい。以下では、測距装置をステレオカメラモジュールから分離した外部装置として構成した例について説明する。
(ステレオカメラモジュール)
まず、図1を参照してステレオカメラモジュールの構成について説明する。図1は、本実施形態に係るステレオカメラモジュール100の一構成例を示す図であり、図1(a)は、ステレオカメラモジュール100を正面側から見た正面図、図1(b)は図1(a)のX−X線断面図、図1(c)は、ステレオカメラモジュール100を裏面側から見た裏面図である。
ステレオカメラモジュール100は、鏡枠101により保持されたレンズアレイ110および基板120を備える。
鏡枠101は、例えば、樹脂またはステンレススチール(SUS)を矩形の筒状に成形して作製される部品であり、ステレオカメラモジュール100の側壁部を構成する。鏡枠101の内面には、突起102が立設されている。レンズアレイ110は、この突起102上に支持されている。また、基板120は、鏡枠101の端部に接合され、ステレオカメラモジュール100の裏面を構成している。
レンズアレイ110は、第1レンズ111および第2レンズ112を一体成形した光学部品である。第1レンズ111は、後述する第1撮像素子の撮像面に被写体の像を結像させる機能を持つ。第2レンズ112は、後述する第2撮像素子の撮像面に被写体の像を結像させる機能を持つ。レンズアレイ110は、例えば、透明樹脂材を成形して作製される。レンズアレイ110を構成する透明樹脂材としては、例えば、ZEONEX E48R(製品名、日本ゼオン株式会社製、ZEONEXは日本ゼオン株式会社の登録商標)などが好適である。
基板120のレンズアレイ110と対向する一方の主面部には、例えばCMOSイメージセンサとして構成された第1撮像素子121および第2撮像素子122が実装されている。第1撮像素子121は、その撮像面の中心が第1レンズ111の光軸中心と一致するように、基板120上の位置が定められている。また、第2撮像素子122は、その撮像面の中心が第2レンズ112の光軸中心と一致するように、基板120上の位置が定められている。
第1撮像素子121および第2撮像素子122は、例えば、同一のシリコンウエハ上に形成されて一体に切り出された構成である。この構成により、レンズアレイ110として構成された第1レンズ111および第2レンズに対する第1撮像素子121および第2撮像素子122の位置合わせが容易となる。なお、第1撮像素子121と第2撮像素子122とを独立して形成して基板120に実装することも可能である。
第1レンズ111と第1撮像素子121は、被写体の第1画像を撮像する第1撮像系を構成する。また、第2レンズ112と第2撮像素子122は、被写体の第2画像を撮像する第2撮像系を構成する。第1撮像系と第2撮像系とは、焦点距離が等しく、光軸が互いに平行である。第1撮像系と第2撮像系の光軸間の距離は、基線長と呼ばれる。
レンズアレイ110の前方(被写体側)には、アパーチャアレイ130が配置されている。アパーチャアレイ130は、鏡枠101の内周に嵌合する矩形の板材として構成される。アパーチャアレイ130には、第1撮像系の光軸上で開口する第1アパーチャ131と、第2撮像系の光軸上で開口する第2アパーチャ132とが設けられている。第1アパーチャ131は第1撮像系に入射する光量を制限する絞りの機能を持ち、第2アパーチャ132は、第2撮像系に入射する光量を制限する絞りの機能を持つ。
第1撮像系と第2撮像系との間には、第1アパーチャ131を介して入射した光が第2撮像系に干渉するのを防止するとともに、第2アパーチャ132を介して入射した光が第1撮像系に干渉するのを防止するための遮光壁103が設けられている。なお、第1撮像素子131と第2撮像素子132との間の距離や、第1撮像系および第2撮像系の画角によっては、第1撮像系と第2撮像系とで光の干渉が生じない構成とすることもできる。この場合には、遮光壁103は不要となる。
基板120の裏面側(第1撮像素子121および第2撮像素子122の実装面とは逆側の面)には、基板120の温度が変化すると抵抗値が変化するサーミスタ141が取り付けられている。サーミスタ141は、該サーミスタ141の抵抗値の変化を、基板120の温度変化を表すデジタル値として出力する温度センサ回路142に接続されている。ステレオカメラモジュール100では、これらサーミスタ141および温度センサ回路142により、基板120の温度を測定できるようになっている。以下では、サーミスタ141と温度センサ回路142との組み合わせを、温度センサ140と表記する。
また、基板120の裏面側には、記憶部150が設けられている。記憶部150には、ステレオカメラモジュール100の各種パラメータが記憶されている。具体的には、例えば、第1撮像系と第2撮像系との間の光軸間の距離である基線長(環境温度が基準温度のときの伸縮のない基線長)、第1撮像系および第2撮像系の焦点距離(環境温度が基準温度のときの焦点距離)、オフセット値、歪み補正のためのカメラキャリブレーションパラメータ、キャリブレーション時における温度センサ140の出力値(基準温度)などが、記憶部150に記憶されている。
また、基板120の裏面側には、FPC(フレキシブル配線基板)160を介してステレオカメラモジュール100に接続された測距装置との間の信号伝送を司るインタフェース回路170が設けられている。このインタフェース回路170によりFPC160を介して測距装置との間で伝送される信号は、第1撮像系により撮像された第1画像の画像信号、第2撮像系により撮像された第2画像の画像信号、カメラ制御信号、温度センサ140の出力信号、記憶部150に記憶された上記の各種パラメータなどである。
(ステレオ測距の原理と温度変化による影響)
次に、図2および図3を参照して、ステレオカメラモジュール100を用いたステレオ測距の原理と温度変化の影響について説明する。
図2は、図1に示した構成のステレオカメラモジュール100をモデル化した図であり、ある基準温度のときの第1撮像系および第2撮像系の位置関係を表している。基準温度のときは、図2に示すように、第1レンズ111の主点を通って第1撮像素子121の撮像面に垂直に当たる光軸中心(第1撮像系の光軸)が、第1撮像素子121の撮像面の中心CLに一致する。また、第2レンズ112の主点を通って第2撮像素子122の撮像面に垂直に当たる光軸中心(第2撮像系の光軸)が、第2撮像素子122の撮像面の中心CRに一致する。第1撮像系の光軸と第2撮像系の光軸とは互いに平行であり、第1レンズ111の主点と第2レンズ112の主点とを結ぶ線分は、第1撮像系の光軸および第2撮像系の光軸に対して垂直で、第1撮像素子121の撮像面および第2撮像素子122の撮像面に対して平行となる。
第1レンズ111の主点と第2レンズ112の主点とを結ぶ線分の長さは、基線長Bである。被写体の位置から、第1レンズ111の主点と第2レンズ112の主点とを結ぶ線分に対して垂直に下ろした垂線は、第1レンズ111の主点と第2レンズ112の主点とを結ぶ線分の中点と交差する。この交点と被写体の位置との間の距離が、計測の対象となる被写体までの距離Zである。また、第1レンズ111の主点と第1撮像素子121の撮像面の中心CLとの間の距離が第1撮像系の焦点距離f、第2レンズ112の主点と第2撮像素子122の撮像面の中心CRとの間の距離が第2撮像系の焦点距離fとなり、第1撮像系の焦点距離fと第2撮像系の焦点距離fは等しい値である。
ここで、第1撮像素子121の撮像面の中心CLから被写体の像が結像した位置までの距離をdL、第2撮像素子122の撮像面の中心CRから被写体の像が結像した位置までの距離をdRとすると、第1撮像系により撮像された第1画像における被写体の位置と第2撮像系により撮像された第2画像における被写体の位置との差分である視差dsは、下記式(1)のように表すことができる。
ds=dL+dR=B・f/Z ・・・(1)
基準温度の環境下では、基線長Bと第1撮像系および第2撮像系の焦点距離fに変動はなく、固定の値である。したがって、第1撮像系により撮像された第1画像と第2撮像系により撮像された第2画像とから視差dsを求めれば、上記式(1)より、被写体までの距離Zを算出することができる。
しかし、ステレオカメラモジュール100が設置されている環境の温度(環境温度)が変化したときには、ステレオカメラモジュール100を構成する各部品の材料の線膨張率に応じて、部品が伸縮する。そして、ステレオカメラモジュール100の構成部品の伸縮により、上記の基線長Bが伸縮することになる。例えば、レンズアレイ110の材料として広く用いられる上記の透明樹脂材ZEONEX E48Rの線膨張率は6×10−5である。一方、基板120上の第1撮像素子121および第2撮像素子122はシリコンで構成されているため、線膨張係数は2.4×10−6である。したがって、温度変化による基線長Bの伸縮は、おおよそレンズアレイ110の伸縮に支配されることがわかる。
また、環境温度が変化すると、レンズアレイ110の伸縮により、第1レンズ111および第2レンズ112の屈折率が変化する。屈折率は、物質の密度が大きくなると大きくなるため、温度が上昇すると屈折率は減少し、温度が下降すると屈折率は増大する。第1レンズ111および第2レンズ112の屈折率の温度に対する変動率は、極端な高温域や低温域を除く一般的な室温範囲では一定値とみなしてよい。例えば、上記の透明樹脂材ZEONEX E48Rの屈折率の温度係数は、およそ−1×10−4である。
また、環境温度が変化すると、レンズアレイ110と基板120を保持する鏡枠101にも伸縮が生じる。鏡枠101は、ステンレススチール(SUS)により構成されることが多い。SUSの線膨張係数は1.0×10−6〜1.5×10−6である。環境温度が変化すると、この鏡枠101の線膨張係数に応じた伸縮により、レンズアレイ110と基板120間の距離、つまり第1レンズ111および第2レンズ112と第1撮像素子121および第2撮像素子122間の距離(バックフォーカス)も変動することになる。
第1レンズ111や第2レンズ112の屈折率が変化するということは、第1レンズ111から射出されて第1撮像素子121へ入射する光の角度や、第2レンズ112から射出されて第2撮像素子122へ入射する光の角度が変わるということである。環境温度が上昇し、レンズアレイ110が伸張すると、第1レンズ111および第2レンズ112の密度が小さくなって屈折率が減少する。すなわち、第1レンズ111や第2レンズ112で光があまり曲がらなくなるため、第1撮像素子121や第2撮像素子122に投影される像が大きくなる。一方、環境温度が下降する場合は、反対に第1撮像素子121や第2撮像素子122に投影される像が小さくなる。
第1撮像素子121や第2撮像素子122に投影される像の、環境温度の変化に起因する変化は、ピンホールカメラのモデルでは焦点距離fの変化に相当する。第1レンズ111や第2レンズ112の屈折率の変化、および、第1レンズ111および第2レンズ112と第1撮像素子121および第2撮像素子122間の距離(バックフォーカス)は常温の範囲では小さいため、焦点距離fが環境温度に比例して伸張すると考えてよい。したがって焦点距離fの膨張率τfを下記式(2)のように定義できる。ここで、Δfは焦点距離fの変化量、Δtは環境温度の変化量である。
Δf=τf・f・Δt ・・・(2)
ここで、環境温度が変化したときに観測される視差ds’を求めてみる。図3は、ある基準温度からΔtだけ温度上昇したときのステレオカメラモジュール100をモデル化した図であり、構成部品に温度膨張が生じたときの第1撮像系および第2撮像系の位置関係を表している。
計測の対象となる被写体までの距離をZ、ステレオカメラモジュール100の焦点距離をf+Δf(fは温度変化前の焦点距離、Δfは温度変化による焦点距離の変化量)、基線長をB+ΔB(Bは温度変化前の基線長、ΔBは温度変化による基線長の変化量)、第1撮像素子121の撮像面の中心CLから被写体の像が結像した位置までの距離をd1、第2撮像素子122の撮像面の中心CRから被写体の像が結蔵した位置までの距離をd2、第1撮像素子121の撮像面における第1レンズ111の光軸上の位置から被写体の像が結像した位置までの距離をdL’、第2撮像素子122の撮像面における第2レンズ122の光軸上の位置から被写体の像が結像した位置までの距離をdR’とすると、視差ds’は下記式(3)で表される。
ds’=dL’+dR’+ΔB/2・2=(B+ΔB)(f+Δf)/Z+ΔB ・・・(3)
ここで、Δf・ΔB≒0であるとすると、下記式(4)が得られる。
ds’=ds+ΔB+(B・Δf+f・ΔB)/Z=ds(1+Δf/f+ΔB/B)+ΔB ・・・(4)
したがって、観測される視差ds’から温度変化前の視差ds(=dL+dR)を求める式は、下記式(5)のようになる。
ds=ds’−ΔB/(1+Δf/f+ΔB/B) ・・・(5)
ここで、Δf=τf・f・Δt(上記式(2))であり、ΔB=B・τB・Δt(τBはレンズアレイ110の線膨張率)であるので、τf+τB=τとすると、上記式(5)は下記式(6)のように変形できる。
ds=ds’−B・τB・Δt/(1+τ・Δt) ・・・(6)
上記式(6)で示されるように、温度変化に起因する観測される視差の変化量(ds’−ds)には、基線長Bの伸縮だけでなく、基線長Bの伸縮と第1レンズ111や第2レンズ112の屈折率の変化などによる焦点距離fの変化による画像の倍率の変化も影響している。後者の倍率の変化による視差の変化量は、温度変化の大きさに応じて変化するので、温度の変化が大きくなった場合は特に影響を受けることになる。
そこで、本実施形態に係る測距システムでは、基線長Bの伸縮だけでなく、画像の倍率の変化も考慮して、観測される視差ds’を環境温度の変化に応じて補正することで、被写体までの距離を正確に計測できるようにしている。具体的には、ステレオカメラモジュール100で第1画像および第2画像を撮像する際の温度(本実施形態では基板120の温度)を温度センサ140により測定して、キャリブレーション時に温度センサ140により測定された基準温度との差分(温度差Δt)を求める。そして、この温度差Δtに基づいて、環境温度の変化に起因する基線長Bの伸縮による誤差成分を補正するための第1補正値と、環境温度の変化に起因する第1画像および第2画像の倍率の変化による誤差成分を補正するための第2補正値とを算出する。そして、第1画像と第2画像とに基づいて算出される視差ds’を第1補正値と第2補正値とに基づいて補正して、補正視差dsを得る。そして、補正視差dsと、伸縮のない基線長Bおよび焦点距離fとから、被写体までの距離Zを算出する。
本実施形態では、第1画像と第2画像とに基づいて視差ds’を算出する処理や、第1補正値と第2補正値とに基づいて視差ds’を補正して補正視差dsを算出する処理、補正視差dsを用いて被写体までの距離Zを算出する処理を、ステレオカメラモジュール100から分離した外部装置である測距装置により行う。以下、この測距装置の具体的な構成例について説明する。
(測距装置)
図4は、本実施形態に係る測距装置200の機能的な構成を示すブロック図である。測距装置200は、図4に示すように、第1インタフェース部201と、カメラ制御部202と、画像信号歪み補正部203と、視差演算部204と、温度差算出部205と、視差補正部206と、距離算出部207と、第2インタフェース部208と、を備える。これらの各部(その全部または一部)は、例えば、測距装置200がCPUやROM、RAM、入出力回路などを備えるマイクロコンピュータとして構成されている場合、このマイクロコンピュータで実行されるプログラム(ソフトウェア)により実現することができる。また、測距装置200が備える上記の各部(その全部または一部)を、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field-Programmable Gate Array)などの専用のハードウェアを用いて構成することもできる。
第1インタフェース部201は、ステレオカメラモジュール100との間でFPC160を介した信号伝送を行うためのインタフェースである。第1インタフェース部201は、カメラ制御部202の制御に応じて、ステレオカメラモジュール100から第1画像および第2画像を入力する機能を持つ。
カメラ制御部202は、ステレオカメラモジュール100の動作を制御する。カメラ制御部202は、第1撮像素子121や第2撮像素子122からの画像信号の読み出しを制御するとともに、例えば、自動露出、ホワイトバランス、画像信号モード(グレースケール/YUVカラー/Raw画像)など、ステレオカメラモジュール100による画像の撮像に関する各種機能の設定を実行する。ステレオカメラモジュール100による画像の撮像に関する各種機能の設定は、例えば、カメラ制御部202内のレジスタの値により決定される。
また、カメラ制御部202は、測距装置200の電源が投入された際に、ステレオカメラモジュール100の基板120に搭載された記憶部150からステレオカメラモジュール100の各種パラメータの読み出しを行う。具体的には、カメラ制御部202は、測距装置200の電源投入時に、環境温度が基準温度のときの伸縮のない基線長B、環境温度が基準温度のときの焦点距離f、オフセット値、歪み補正のためのカメラキャリブレーションパラメータ、キャリブレーション時における温度センサ140の出力値(基準温度)などを、ステレオカメラモジュール100の記憶部150から読み出す。ステレオカメラモジュール100の記憶部150から読み出されたこれらの各種パラメータは、測距装置200内部の図示しないメモリに保存される。
画像信号歪み補正部203は、第1インタフェース部201から入力された第1画像および第2画像の画像信号の歪みを補正する。画像信号歪み補正部203は、電源投入の際にステレオカメラモジュール100の記憶部150から読み出されたカメラキャリブレーションパラメータが図示しないメモリに保存されているので、そのカメラキャリブレーションパラメータをメモリから読み出して画像信号の歪み補正を実行する。画像信号の歪み補正の方式は、例えば、ルックアップテーブル方式、あるいは多項式近似方式など、広く知られている様々な方式を利用することができる。ルックアップテーブル方式で画像信号の歪み補正を実行する場合、記憶部150に記憶されているカメラキャリブレーションパラメータはルックアップテーブルの値である。多項式近似方式で画像信号の歪みを実行する場合は、多項式の係数が記憶部150に記憶されている。
視差演算部204は、画像信号歪み補正部203で歪み補正が実行された後の第1画像および第2画像の画像信号に基づいて視差ds’を算出し、算出した視差ds’を視差補正部206に出力する。視差演算部204による視差ds’の算出は、例えば、第1画像における被写体の位置と第2画像における被写体の位置との差分を画素単位で検出する処理となる。例えば、視差演算部204による視差ds’の算出方式には、画素単位のマッチング位置を検出するためのブロックマッチングアルゴリズムとしてZSSD(Zero-mean Sum of Squared Differences)を用いることができる。また、副画素(サブピクセル)単位のマッチング位置を推定するための方式として、広く知られている二次曲線フィッティングを使用することができる。ZSSDは、第1画像と第2画像とのブロックマッチングに使用するブロックの画素値の平均値を各画素から引いた値を使って、差分二乗和を計算する。この差分二乗和の最小値が得られるマッチングブロックの位置を画素単位のマッチング位置とし、マッチングさせるブロックを1画素左右にずらしたときに得られる差分二乗和の値とを用いて二次曲線フィッティングを行って、サブピクセルのマッチング位置を推定する。このZSSD方式は、特に第1画像と第2画像とで明るさが異なるときに有利な方法である。
温度差算出部205は、ステレオカメラモジュール100によって第1画像および第2画像の撮像が行われたときに温度センサ140により測定された基板120の温度(撮像時温度)を、第1インタフェース部201を介して取得する。また、温度差算出部205は、測距装置200の電源投入時にカメラ制御部202によってステレオカメラモジュール100の記憶部150から読み出され、測距装置200内部の図示しないメモリに格納された、キャリブレーション時における温度センサ140の出力値(基準温度)をメモリから読み出す。そして、温度差算出部205は、撮像時温度と基準温度との差分である温度差Δtを算出し、算出した温度差Δtを視差補正部206に出力する。
視差補正部206は、温度差算出部205が算出した温度差Δtに基づいて、基線長Bの伸縮による誤差成分を補正するための第1補正値と、第1画像および第2画像の倍率の変化による誤差成分を補正するための第2補正値とを算出し、視差演算部204が算出した視差ds’を、第1補正値と第2補正値とに基づいて補正して、補正視差dsを算出する。すなわち、補正視差演算部206は、温度差算出部205が算出した温度差Δtに基づき、上記式(6)で示す演算を実行し、補正視差dsを算出する。上記式(6)の演算で使用するパラメータτ,τBは、測距装置200内部の図示しないメモリにあらかじめ格納されている。また、パラメータBは、環境温度が基準温度のときの伸縮のない基線長であり、測距装置200の電源投入時にカメラ制御部202によってステレオカメラモジュール100の記憶部150から読み出され、測距装置200内部の図示しないメモリに格納されている。
図5は、視差補正部206が上記式(6)の演算を実行する場合の演算回路の構成を示している。この場合、視差補正部206は、伸縮のない基線長BにτBを乗算した値に温度差Δtを乗算して第1補正値を算出する。また、視差補正部206は、τに温度差Δtを乗算した値に1を加算して第2補正値を算出する。そして、視差補正部206は、視差演算部204が算出した視差ds’から第1補正値を減算した値に対して第2補正値を除算した値を、補正視差dsとして算出する。
また、τ・Δtが小さい値の場合は、視差補正部206は、上記式(6)の近似式となる下記式(7)を使用して補正視差ds’を算出することも可能である。ここで、τ・τBは、十分0に近いとしている。
ds=ds’(1−τ・Δt)−B・τB・Δt ・・・(7)
図6は、視差補正部206が上記式(7)の演算を実行する場合の演算回路の構成を示している。この場合、視差補正部206は、τBに温度差Δtを乗算した値に伸縮のない基線長Bを乗算して第1補正値を算出する。また、視差補正部206は、τに温度差Δtを乗算した値から1を減算して第2補正値を算出する。そして、視差補正部206は、視差演算部204が算出した視差ds’に第2補正値を乗算した値から第1補正値を減算した値を、補正視差dsとして算出する。
距離算出部207は、視差補正部206が算出した補正視差dsと、伸縮のない基線長Bと、焦点距離fとに基づいて、被写体までの距離Zを算出する。被写体までの距離Zは、例えば下記式(8)により算出することができる。
Z=B・f/(ds−doffset) ・・・(8)
ここで、doffsetは無限遠を撮影したときに得られる視差である。また、Bとfはキャリブレーション時の基線長の値と焦点距離(伸縮のない基線長および焦点距離)である。これらの値は、ステレオカメラモジュール100のキャリブレーションパラメータと同様に、ステレオカメラモジュール100の記憶部150にあらかじめ記憶されており、測距装置200の電源投入後、カメラ制御部202によって記憶部150から読み出されて測距装置200内部の図示しないメモリに格納される。上記式(8)の演算には、このメモリに格納されている値が用いられる。
第2インタフェース部208は、距離算出部207が算出した被写体までの距離の情報を、測距装置200からFPC210を介して外部の情報処理装置に出力するためのインタフェースである。
(温度係数τ、τBの決定方法)
次に、上記式(6)または上記式(7)の演算により補正視差dsを算出するために使用される温度係数であるτとτBを決定する方法の具体例について説明する。
環境温度の変化に起因する視差の誤差成分は、上述したように、レンズアレイ110の伸縮による影響が支配的である。しかし、環境温度の変化を検出するためにステレオカメラモジュール100に設けられた温度センサ140は、レンズアレイ110の温度を直接測定しているわけではない。また、ステレオカメラモジュール100を構成する各部品の材質が異なれば、それぞれの材質に特有の線膨張率があり、さらにステレオカメラモジュール100の製造方法によっても、ステレオカメラモジュール100を構成する各部品の伸縮の仕方が異なってくる。したがって、温度係数であるτとτBは、あらかじめ実験的に求めておく。以下では、τとτBを実験的に求める具体的手法について説明する。
ある基準温度のときに、ステレオカメラモジュール100から所定の距離だけ離れた位置にある被写体を撮像し、得られた第1画像および第2画像から視差を算出しておく。次に、環境温度を上下させて基板120の温度を変化させ、複数の環境温度において、同様に被写体を撮像して視差を算出するとともに、温度センサ140により測定された温度を記録する。すると、図7に示すようなデータが得られる。図7は、算出される視差と環境温度との関係を示す図である。図7に示すように、温度差が小さい場合は、温度変化に対して視差が直線的に変化するが、温度差が大きくなると、上記式(6)の分母の項の影響が大きくなってくるので、温度差と視差との関係が直線からずれていく。この図7に示すデータに対して、上記式(6)を用いたフィッティングを実行することにより、温度係数τとτBとを決定することができる。
ここでτBは、理想的にはレンズアレイ110の材質の線膨張係数であるが、温度センサ140が基板120に装着されているため、温度センサ140により測定される温度はレンズアレイ110の温度とは異なる。実際に測定すると、熱電対を用いて直接測定したレンズアレイ110の温度(以下、レンズ温度という。)と温度センサ140により測定される基板120の温度(以下、基板温度という。)とは、図8に示すように直線的な関係にあることが分かった。図8は、レンズ温度と基板温度との関係を示す図である。
図8に示すように、レンズ温度と基板温度との関係は、直線的ではあるが、その傾きが1ではない。図8の例では、レンズ温度よりも基板温度の方が温度上昇が急峻で、その傾きは1.1である。したがって、基板温度とレンズ温度との関係は、基板温度=1.1×レンズ温度+定数として表すことができる。この場合には、τBはレンズアレイ110の線膨張係数に0.9を乗じた値にほぼ等しいことが実験で確かめられている。もちろん、ステレオカメラモジュール100の構成が異なる場合には、レンズ温度の変化と基板温度の変化との関係は異なってくるので、τBの値も異なってくる。このように、補正視差dsを算出するために使用される温度係数であるτとτBは、あらかじめ実験的に求めておくことができる。
(実施形態の効果)
以上、具体的な例を挙げながら詳細に説明したように、本実施形態に係る測距システムでは、測距装置200が、ステレオカメラモジュール100で第1画像および第2画像を撮像する際の温度と基準温度との温度差Δtに基づいて、環境温度の変化に起因する基線長Bの伸縮による誤差成分を補正するための第1補正値と、環境温度の変化に起因する第1画像および第2画像の倍率の変化による誤差成分を補正するための第2補正値とを算出する。そして、第1画像と第2画像とに基づいて算出される視差ds’を、第1補正値と第2補正値とに基づいて補正して補正視差dsを算出し、算出した補正視差dsを用いて被写体までの距離Zを算出する。したがって、本実施形態に係る測距システムによれば、第1画像および第2画像の撮像時の温度に応じて、第1画像および第2画像から算出される視差ds’を高精度に補正して、被写体までの距離Zを正確に計測することができる。
また、測距装置200の視差補正部206が、上記式(6)で示す演算を行って、視差ds’から第1補正値を減算した値に対して第2補正値を除算した値を補正視差dsとして算出する場合には、厳密な計算により極めて正確に視差ds’を補正して補正視差dsを算出することができる。
また、測距装置200の視差補正部206が、上記式(7)で示す演算を行って、視差ds’と第2補正値とを乗算した値から第1補正値を減算した値を補正視差dsとして算出する場合には、除算演算を使わずに低コストで補正視差dsを算出することができる。
本実施形態に係る測距システムにおいて、図4に示した測距装置200の機能的な構成は、一例として、測距装置200を構成するマイクロコンピュータのCPUが、測距プログラムを実行することにより実現することができる。この場合、マイクロコンピュータのCPUが実行する測距プログラムは、例えば、マイクロコンピュータのROMなどに予め組み込まれて提供される。
また、測距装置200を構成するマイクロコンピュータのCPUが実行する測距プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク、CD−R、DVD等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。また、測距装置200を構成するマイクロコンピュータのCPUが実行する測距プログラムを、インターネットなどのネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、測距装置200を構成するマイクロコンピュータのCPUが実行する測距プログラムを、インターネットなどのネットワーク経由で提供または配布するように構成してもよい。
測距装置200を構成するマイクロコンピュータのCPUが実行する測距プログラムは、例えば、第1インタフェース部201、カメラ制御部202、画像信号歪み補正部203、視差演算部204、温度差算出部205、視差補正部206、距離算出部207および第2インタフェース部208を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上記ROMから測距プログラムを読み出して実行することにより上記各部が主記憶装置(例えばRAM)上にロードされ、第1インタフェース部201、カメラ制御部202、画像信号歪み補正部203、視差演算部204、温度差算出部205、視差補正部206、距離算出部207および第2インタフェース部208が主記憶装置上に生成されるようになっている。
以上、本発明の具体的な実施形態について説明したが、本発明は、上述した実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。
100 ステレオカメラモジュール
110 レンズアレイ
111 第1レンズ
112 第2レンズ
120 基板
121 第1撮像素子
122 第2撮像素子
140 温度センサ
200 測距装置
204 視差演算部
205 温度差算出部
206 視差補正部
207 距離算出部
特開2007−322128号公報 特開2009−250785号公報

Claims (8)

  1. 第1レンズと第1撮像素子とを含む第1撮像系と、前記第1レンズと一体成形された第2レンズと第2撮像素子とを含む第2撮像系と、前記第1撮像素子および前記第2撮像素子とが配置された基板と、前記基板の前記第1撮像素子および前記第2撮像素子が配置された面の反対面に配置された温度検出手段と、を備えるステレオカメラモジュールから、前記第1撮像系により撮像された被写体の第1画像と前記第2撮像系により撮像された前記被写体の第2画像とを入力する入力手段と、
    前記第1画像と前記第2画像とに基づいて、前記第1画像における前記被写体の位置と前記第2画像における前記被写体の位置との差分である視差を算出する視差算出手段と、
    前記第1画像および前記第2画像の撮像時に前記温度検出手段により検出された前記基板の温度と基準温度との差分である温度差を算出する温度差算出手段と、
    前記温度差と、予め求めた温度係数とに基づいて、前記第1撮像系と前記第2撮像系との光軸間の距離である基線長の伸縮による誤差成分を補正するための第1補正値と、前記第1画像および前記第2画像の倍率の変化による誤差成分を補正するための第2補正値とを算出し、前記視差を、前記第1補正値と前記第2補正値とに基づいて補正して、補正視差を算出する視差補正手段と、
    前記補正視差と、伸縮のない前記基線長と、前記第1撮像系および前記第2撮像系の焦点距離とに基づいて、前記被写体までの距離を算出する距離算出手段と、を備え
    前記温度係数は、前記第1レンズおよび前記第2レンズの線膨張率を表す第1温度係数と、前記第1レンズおよび前記第2レンズの焦点距離の膨張率と前記第1温度係数との和である第2温度係数とを含み、
    前記第1補正値は、前記基準温度のときの伸縮のない前記基線長に前記第1温度係数を乗算した値に対して前記温度差を乗算した値であり、
    前記第2補正値は、前記温度差に前記第2温度係数を乗算した値に対して1を加算した値であり、
    前記視差補正手段は、前記視差から前記第1補正値を減算した値に対して前記第2補正値を除算した値を前記補正視差として算出することを特徴とする測距装置。
  2. 第1レンズと第1撮像素子とを含む第1撮像系と、前記第1レンズと一体成形された第2レンズと第2撮像素子とを含む第2撮像系と、前記第1撮像素子および前記第2撮像素子とが配置された基板と、前記基板の前記第1撮像素子および前記第2撮像素子が配置された面の反対面に配置された温度検出手段と、を備えるステレオカメラモジュールから、前記第1撮像系により撮像された被写体の第1画像と前記第2撮像系により撮像された前記被写体の第2画像とを入力する入力手段と、
    前記第1画像と前記第2画像とに基づいて、前記第1画像における前記被写体の位置と前記第2画像における前記被写体の位置との差分である視差を算出する視差算出手段と、
    前記第1画像および前記第2画像の撮像時に前記温度検出手段により検出された前記基板の温度と基準温度との差分である温度差を算出する温度差算出手段と、
    前記温度差と、予め求めた温度係数とに基づいて、前記第1撮像系と前記第2撮像系との光軸間の距離である基線長の伸縮による誤差成分を補正するための第1補正値と、前記第1画像および前記第2画像の倍率の変化による誤差成分を補正するための第2補正値とを算出し、前記視差を、前記第1補正値と前記第2補正値とに基づいて補正して、補正視差を算出する視差補正手段と、
    前記補正視差と、伸縮のない前記基線長と、前記第1撮像系および前記第2撮像系の焦点距離とに基づいて、前記被写体までの距離を算出する距離算出手段と、を備え、
    前記温度係数は、前記第1レンズおよび前記第2レンズの線膨張率を表す第1温度係数と、前記第1レンズおよび前記第2レンズの焦点距離の膨張率と前記第1温度係数との和である第2温度係数とを含み、
    前記第1補正値は、前記第1温度係数に前記温度差を乗算した値に対して前記基準温度のときの伸縮のない前記基線長を乗算した値であり、
    前記第2補正値は、前記温度差に前記第2温度係数を乗算した値から1を減算した値であり、
    前記視差補正手段は、前記視差と前記第2補正値とを乗算した値から前記第1補正値を減算した値を前記補正視差として算出することを特徴とする測距装置。
  3. 第1レンズと第1撮像素子とを含み、被写体の第1画像を撮像する第1撮像系と、
    前記第1レンズと一体成形された第2レンズと第2撮像素子とを含み、前記被写体の第2画像を撮像する第2撮像系と、
    前記第1撮像素子および前記第2撮像素子とが配置された基板と、
    前記基板の前記第1撮像素子および前記第2撮像素子が配置された面の反対面に配置された温度検出手段と、
    前記第1画像と前記第2画像とに基づいて、前記第1画像における前記被写体の位置と前記第2画像における前記被写体の位置との差分である視差を算出する視差算出手段と、
    前記第1画像および前記第2画像の撮像時に前記温度検出手段により検出された前記基板の温度と基準温度との差分である温度差を算出する温度差算出手段と、
    前記温度差と、予め求めた温度係数とに基づいて、前記第1撮像系と前記第2撮像系との光軸間の距離である基線長の伸縮による誤差成分を補正するための第1補正値と、前記第1画像および前記第2画像の倍率の変化による誤差成分を補正するための第2補正値とを算出し、前記視差を、前記第1補正値と前記第2補正値とに基づいて補正して、補正視差を算出する視差補正手段と、
    前記補正視差と、伸縮のない前記基線長と、前記第1撮像系および前記第2撮像系の焦点距離とに基づいて、前記被写体までの距離を算出する距離算出手段と、を備え
    前記温度係数は、前記第1レンズおよび前記第2レンズの線膨張率を表す第1温度係数と、前記第1レンズおよび前記第2レンズの焦点距離の膨張率と前記第1温度係数との和である第2温度係数とを含み、
    前記第1補正値は、前記基準温度のときの伸縮のない前記基線長に前記第1温度係数を乗算した値に対して前記温度差を乗算した値であり、
    前記第2補正値は、前記温度差に前記第2温度係数を乗算した値に対して1を加算した値であり、
    前記視差補正手段は、前記視差から前記第1補正値を減算した値に対して前記第2補正値を除算した値を前記補正視差として算出することを特徴とする測距システム。
  4. 第1レンズと第1撮像素子とを含み、被写体の第1画像を撮像する第1撮像系と、
    前記第1レンズと一体成形された第2レンズと第2撮像素子とを含み、前記被写体の第2画像を撮像する第2撮像系と、
    前記第1撮像素子および前記第2撮像素子とが配置された基板と、
    前記基板の前記第1撮像素子および前記第2撮像素子が配置された面の反対面に配置された温度検出手段と、
    前記第1画像と前記第2画像とに基づいて、前記第1画像における前記被写体の位置と前記第2画像における前記被写体の位置との差分である視差を算出する視差算出手段と、
    前記第1画像および前記第2画像の撮像時に前記温度検出手段により検出された前記基板の温度と基準温度との差分である温度差を算出する温度差算出手段と、
    前記温度差と、予め求めた温度係数とに基づいて、前記第1撮像系と前記第2撮像系との光軸間の距離である基線長の伸縮による誤差成分を補正するための第1補正値と、前記第1画像および前記第2画像の倍率の変化による誤差成分を補正するための第2補正値とを算出し、前記視差を、前記第1補正値と前記第2補正値とに基づいて補正して、補正視差を算出する視差補正手段と、
    前記補正視差と、伸縮のない前記基線長と、前記第1撮像系および前記第2撮像系の焦点距離とに基づいて、前記被写体までの距離を算出する距離算出手段と、を備え、
    前記温度係数は、前記第1レンズおよび前記第2レンズの線膨張率を表す第1温度係数と、前記第1レンズおよび前記第2レンズの焦点距離の膨張率と前記第1温度係数との和である第2温度係数とを含み、
    前記第1補正値は、前記第1温度係数に前記温度差を乗算した値に対して前記基準温度のときの伸縮のない前記基線長を乗算した値であり、
    前記第2補正値は、前記温度差に前記第2温度係数を乗算した値から1を減算した値であり、
    前記視差補正手段は、前記視差と前記第2補正値とを乗算した値から前記第1補正値を減算した値を前記補正視差として算出することを特徴とする測距システム。
  5. コンピュータに、
    第1レンズと第1撮像素子とを含む第1撮像系と、前記第1レンズと一体成形された第2レンズと第2撮像素子とを含む第2撮像系と、前記第1撮像素子および前記第2撮像素子とが配置された基板と、前記基板の前記第1撮像素子および前記第2撮像素子が配置された面の反対面に配置された温度検出手段と、を備えるステレオカメラモジュールから、前記第1撮像系により撮像された被写体の第1画像と前記第2撮像系により撮像された前記被写体の第2画像とを入力する入力手段の機能と、
    前記第1画像と前記第2画像とに基づいて、前記第1画像における前記被写体の位置と前記第2画像における前記被写体の位置との差分である視差を算出する視差算出手段の機能と、
    前記第1画像および前記第2画像の撮像時に前記温度検出手段により検出された前記基板の温度と基準温度との差分である温度差を算出する温度差算出手段の機能と、
    前記温度差と、予め求めた温度係数とに基づいて、前記第1撮像系と前記第2撮像系との光軸間の距離である基線長の伸縮による誤差成分を補正するための第1補正値と、前記第1画像および前記第2画像の倍率の変化による誤差成分を補正するための第2補正値とを算出し、前記視差を、前記第1補正値と前記第2補正値とに基づいて補正して、補正視差を算出する視差補正手段の機能と、
    前記補正視差と、伸縮のない前記基線長と、前記第1撮像系および前記第2撮像系の焦点距離とに基づいて、前記被写体までの距離を算出する距離算出手段の機能と、を実現させ
    前記温度係数は、前記第1レンズおよび前記第2レンズの線膨張率を表す第1温度係数と、前記第1レンズおよび前記第2レンズの焦点距離の膨張率と前記第1温度係数との和である第2温度係数とを含み、
    前記第1補正値は、前記基準温度のときの伸縮のない前記基線長に前記第1温度係数を乗算した値に対して前記温度差を乗算した値であり、
    前記第2補正値は、前記温度差に前記第2温度係数を乗算した値に対して1を加算した値であり、
    前記視差補正手段は、前記視差から前記第1補正値を減算した値に対して前記第2補正値を除算した値を前記補正視差として算出する測距プログラム。
  6. コンピュータに、
    第1レンズと第1撮像素子とを含む第1撮像系と、前記第1レンズと一体成形された第2レンズと第2撮像素子とを含む第2撮像系と、前記第1撮像素子および前記第2撮像素子とが配置された基板と、前記基板の前記第1撮像素子および前記第2撮像素子が配置された面の反対面に配置された温度検出手段と、を備えるステレオカメラモジュールから、前記第1撮像系により撮像された被写体の第1画像と前記第2撮像系により撮像された前記被写体の第2画像とを入力する入力手段の機能と、
    前記第1画像と前記第2画像とに基づいて、前記第1画像における前記被写体の位置と前記第2画像における前記被写体の位置との差分である視差を算出する視差算出手段の機能と、
    前記第1画像および前記第2画像の撮像時に前記温度検出手段により検出された前記基板の温度と基準温度との差分である温度差を算出する温度差算出手段の機能と、
    前記温度差と、予め求めた温度係数とに基づいて、前記第1撮像系と前記第2撮像系との光軸間の距離である基線長の伸縮による誤差成分を補正するための第1補正値と、前記第1画像および前記第2画像の倍率の変化による誤差成分を補正するための第2補正値とを算出し、前記視差を、前記第1補正値と前記第2補正値とに基づいて補正して、補正視差を算出する視差補正手段の機能と、
    前記補正視差と、伸縮のない前記基線長と、前記第1撮像系および前記第2撮像系の焦点距離とに基づいて、前記被写体までの距離を算出する距離算出手段の機能と、を実現させ、
    前記温度係数は、前記第1レンズおよび前記第2レンズの線膨張率を表す第1温度係数と、前記第1レンズおよび前記第2レンズの焦点距離の膨張率と前記第1温度係数との和である第2温度係数とを含み、
    前記第1補正値は、前記第1温度係数に前記温度差を乗算した値に対して前記基準温度のときの伸縮のない前記基線長を乗算した値であり、
    前記第2補正値は、前記温度差に前記第2温度係数を乗算した値から1を減算した値であり、
    前記視差補正手段は、前記視差と前記第2補正値とを乗算した値から前記第1補正値を減算した値を前記補正視差として算出する測距プログラム。
  7. 第1レンズと第1撮像素子とを含む第1撮像系と、前記第1レンズと一体成形された第2レンズと第2撮像素子とを含む第2撮像系と、前記第1撮像素子および前記第2撮像素子とが配置された基板と、前記基板の前記第1撮像素子および前記第2撮像素子が配置された面の反対面に配置された温度検出手段と、を備えるステレオカメラモジュールから、前記第1撮像系により撮像された被写体の第1画像と前記第2撮像系により撮像された前記被写体の第2画像とを入力し、前記第1画像における前記被写体の位置と前記第2画像における前記被写体の位置との差分である視差を算出する装置において実行される視差補正方法であって、
    前記第1画像および前記第2画像の撮像時に前記温度検出手段により検出された前記基板の温度と基準温度との差分である温度差を算出するステップと、
    前記温度差と、予め求めた温度係数とに基づいて、前記第1撮像系と前記第2撮像系との光軸間の距離である基線長の伸縮による誤差成分を補正するための第1補正値を算出するステップと、
    前記温度差と、予め求めた温度係数とに基づいて、前記第1画像および前記第2画像の倍率の変化による誤差成分を補正するための第2補正値を算出するステップと、
    前記第1補正値と前記第2補正値とに基づいて、前記視差を補正して、補正視差を算出するステップと、を含み、
    前記温度係数は、前記第1レンズおよび前記第2レンズの線膨張率を表す第1温度係数と、前記第1レンズおよび前記第2レンズの焦点距離の膨張率と前記第1温度係数との和である第2温度係数とを含み、
    前記第1補正値は、前記基準温度のときの伸縮のない前記基線長に前記第1温度係数を乗算した値に対して前記温度差を乗算した値であり、
    前記第2補正値は、前記温度差に前記第2温度係数を乗算した値に対して1を加算した値であり、
    前記補正視差を算出するステップは、前記視差から前記第1補正値を減算した値に対して前記第2補正値を除算した値を前記補正視差として算出することを特徴とする視差補正方法。
  8. 第1レンズと第1撮像素子とを含む第1撮像系と、前記第1レンズと一体成形された第2レンズと第2撮像素子とを含む第2撮像系と、前記第1撮像素子および前記第2撮像素子とが配置された基板と、前記基板の前記第1撮像素子および前記第2撮像素子が配置された面の反対面に配置された温度検出手段と、を備えるステレオカメラモジュールから、前記第1撮像系により撮像された被写体の第1画像と前記第2撮像系により撮像された前記被写体の第2画像とを入力し、前記第1画像における前記被写体の位置と前記第2画像における前記被写体の位置との差分である視差を算出する装置において実行される視差補正方法であって、
    前記第1画像および前記第2画像の撮像時に前記温度検出手段により検出された前記基板の温度と基準温度との差分である温度差を算出するステップと、
    前記温度差と、予め求めた温度係数とに基づいて、前記第1撮像系と前記第2撮像系との光軸間の距離である基線長の伸縮による誤差成分を補正するための第1補正値を算出するステップと、
    前記温度差と、予め求めた温度係数とに基づいて、前記第1画像および前記第2画像の倍率の変化による誤差成分を補正するための第2補正値を算出するステップと、
    前記第1補正値と前記第2補正値とに基づいて、前記視差を補正して、補正視差を算出するステップと、を含み、
    前記温度係数は、前記第1レンズおよび前記第2レンズの線膨張率を表す第1温度係数と、前記第1レンズおよび前記第2レンズの焦点距離の膨張率と前記第1温度係数との和である第2温度係数とを含み、
    前記第1補正値は、前記第1温度係数に前記温度差を乗算した値に対して前記基準温度のときの伸縮のない前記基線長を乗算した値であり、
    前記第2補正値は、前記温度差に前記第2温度係数を乗算した値から1を減算した値であり、
    前記補正示唆を算出するステップは、前記視差と前記第2補正値とを乗算した値から前記第1補正値を減算した値を前記補正視差として算出することを特徴とする視差補正方法。
JP2011277294A 2011-12-19 2011-12-19 測距装置、測距システム、測距プログラムおよび視差補正方法 Expired - Fee Related JP6060482B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011277294A JP6060482B2 (ja) 2011-12-19 2011-12-19 測距装置、測距システム、測距プログラムおよび視差補正方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011277294A JP6060482B2 (ja) 2011-12-19 2011-12-19 測距装置、測距システム、測距プログラムおよび視差補正方法

Publications (2)

Publication Number Publication Date
JP2013127416A JP2013127416A (ja) 2013-06-27
JP6060482B2 true JP6060482B2 (ja) 2017-01-18

Family

ID=48778030

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011277294A Expired - Fee Related JP6060482B2 (ja) 2011-12-19 2011-12-19 測距装置、測距システム、測距プログラムおよび視差補正方法

Country Status (1)

Country Link
JP (1) JP6060482B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9823352B2 (en) * 2014-10-31 2017-11-21 Rockwell Automation Safety Ag Absolute distance measurement for time-of-flight sensors
CN111985398B (zh) * 2020-08-20 2023-11-28 广州洪拓光电技术有限公司 红外辅助双目测距方法和距离补偿热值采集方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006105811A (ja) * 2004-10-06 2006-04-20 Fuji Electric Device Technology Co Ltd 半導体光センサデバイス及び測距方法
JP4510930B2 (ja) * 2008-07-23 2010-07-28 パナソニック株式会社 撮像装置及び半導体回路素子

Also Published As

Publication number Publication date
JP2013127416A (ja) 2013-06-27

Similar Documents

Publication Publication Date Title
JP5549230B2 (ja) 測距装置、測距用モジュール及びこれを用いた撮像装置
US9681043B2 (en) Multi-camera imaging system, and compensation method for image reconstruction
JP4378434B2 (ja) 複眼カメラモジュール
JP6427900B2 (ja) 校正方法、校正システム、プログラム及び移動体
US8390703B2 (en) Image pickup apparatus and semiconductor circuit element
JP6520080B2 (ja) ステレオカメラ校正方法、視差算出装置、ステレオカメラ及び車両
JP2011209269A (ja) 撮像装置及び距離取得システム
US10277799B2 (en) Image capturing apparatus, and control method and storage medium thereof
CN109212711A (zh) 自动对焦装置和操作具有温度敏感部件的自动对焦装置的方法
JP2019132855A (ja) ステレオカメラ校正方法、視差算出装置及びステレオカメラ
WO2016079965A1 (en) Depth detection apparatus, imaging apparatus and depth detection method
JP2009250785A (ja) 撮像装置
JP6060482B2 (ja) 測距装置、測距システム、測距プログラムおよび視差補正方法
JP5493900B2 (ja) 撮像装置
JP5377092B2 (ja) 撮像装置及び測距方法
JP2014060621A (ja) 光学部品位置合わせ装置
JP6680335B2 (ja) ステレオカメラ、車両、算出方法及びプログラム
JP2020165968A (ja) 校正方法、校正装置及びプログラム
JP5866779B2 (ja) 測距装置及び撮像装置
TWI843475B (zh) 用於修正影像記錄中的幾何像差的方法和攝影機
JP2005010353A (ja) プロジェクタ
JP3745056B2 (ja) 測距位置調節装置
JP5489607B2 (ja) 撮像装置
JP2006029983A (ja) 変位測定装置
JP2024063309A (ja) 測距カメラシステム、それを備える移動装置、校正方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141118

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150903

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150915

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160412

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161128

R151 Written notification of patent or utility model registration

Ref document number: 6060482

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees