JP2008070120A - 距離計測装置 - Google Patents

距離計測装置 Download PDF

Info

Publication number
JP2008070120A
JP2008070120A JP2006246253A JP2006246253A JP2008070120A JP 2008070120 A JP2008070120 A JP 2008070120A JP 2006246253 A JP2006246253 A JP 2006246253A JP 2006246253 A JP2006246253 A JP 2006246253A JP 2008070120 A JP2008070120 A JP 2008070120A
Authority
JP
Japan
Prior art keywords
zoom
change amount
stereo
imaging
distance measuring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006246253A
Other languages
English (en)
Other versions
JP4957134B2 (ja
Inventor
Shinichiro Hirooka
廣岡慎一郎
Norihiko Nakano
中野憲彦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2006246253A priority Critical patent/JP4957134B2/ja
Publication of JP2008070120A publication Critical patent/JP2008070120A/ja
Application granted granted Critical
Publication of JP4957134B2 publication Critical patent/JP4957134B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)

Abstract

【課題】
ズームが可変なステレオ撮像を用いた距離計測装置において、ズームが変化した場合でも正確なステレオ画像処理による距離計測を行うこと。
【解決手段】
撮像を行うズームが可変な第一、第二の撮像手段と、第一、第二の撮像手段が出力するステレオ撮像画像を用いてステレオ画像処理を行い距離情報を演算するステレオ画像処理手段と、第一の撮像手段と第二の撮像手段が出力する撮像画像を用いて画像処理を行い、ズームの変化量を検出するズーム変化量検出手段とを、有する。
検出した第一、第二の撮像手段のズーム倍率に差がある場合に、その差を補正するように第一、第二の撮像手段とを制御し、また、ステレオ画像処理手段がズーム変化量検出手段の出力するズーム変化量を用いてステレオ画像処理を行うことで、ズーム変化時にも精度の良いステレオ画像処理を行い、正確な距離計測を行うことが可能となる。
【選択図】 図4

Description

本発明は、ステレオ撮像手段とステレオ画像処理手段を備える距離計測装置に関する。
本技術分野の背景技術として、例えば、特開平5−130646号公報(特許文献1)がある。該公報には、「撮像装置の光学系に発生する光軸ズレ等を自動的に修正し、適正な撮像条件で立体視映像を得る。」ことを目的とし、解決手段として、「上述した課題を解決するために第1の発明は、撮像条件設定部を有する撮像装置を複数用い、立体像化処理部を介して観察対象の立体像を感得可能な立体カメラ装置において、上記撮像条件設定部は上記撮像装置の位置を検出する位置検出部と、撮像条件補正値が格納された補正データ格納部と、上記位置検出部で検出された位置信号を上記補正データ格納部に格納された撮像条件補正値で補正する位置ズレ補正部とを備え、上記撮像条件補正値を参照して適正撮像条件となるように上記撮像装置の位置ズレ補正制御を行うことを特徴とするものである。また、第2の発明は、撮像条件設定部を有する撮像装置を複数用い、立体像化処理部を介して観察対象の立体視像を感得可能な立体カメラ装置において、上記撮像条件設定部は上記撮像装置の位置を検出する位置検出部と、各撮像装置で撮像された立体視画像を記憶する画像記憶部と、この画像記憶部からの画像色情報あるいは濃度情報を比較計算する画像解析部と、この計算結果から撮像条件補正値を作成し格納する補正値計算部と、上記位置検出部で検出された位置信号を上記補正値計算部の撮像条件補正値で補正する位置ズレ補正部とを備え、上記画像解析部で標本化された画像データをもとに撮像条件補正値を作成更新し、この撮像条件補正値を参照して各撮像時に適正撮像条件となるように上記撮像装置の位置ズレ補正制御を行なうことを特徴とするものである。」という技術が開示されている。
特開平5−130646号公報
上記特許文献1では、立体視を行うための複数の撮像部を持つステレオカメラ乃至マルチカメラにおいて、ズームが変化した際にカメラ間に生じる光軸のずれやズーム量の差を補正し、自然な感得を可能としている。しかし、ステレオカメラにより距離計測を行うためには、カメラ間の相対的なずれ量を補正するだけでなく、そのズームにおけるカメラの焦点距離の値そのものを取得する必要がある。
そこで、ステレオ画像処理を用いた距離計測装置において、ズームが変化した際に焦点距離の変化量を自動で演算して焦点距離の値を更新し、また、カメラ間にズームのずれが生じた場合にはこれを自動で補正することで、ズームが変化した場合でも正確な距離計測を継続することが必要である。
本発明は、距離計測装置における距離計測の正確性の向上を目的とする。
上記目的は特許請求の範囲に記載の本発明により達成される。
本発明のある一面の概要は、複数の撮像手段それぞれにおけるズームの変化量をそれぞれ検出し、これらが異なる場合、一致するようにズーム位置を補正し、そして、複数の撮像手段から出力される画像情報をステレオ画像処理して、距離を計測することを特徴とする。
本発明によれば、ステレオ距離計測装置においてズームが変化した場合でも正確な距離計測が可能となる。
上記した以外の課題、構成および効果は、以下の実施形態の説明により明らかにされる。
以下、図面を用いて本発明の実施例を説明する。
図1は、本発明の第1実施例に係るステレオ距離計測システムを示す模式図である。図1において、0101はステレオ撮像部、0102はステレオ画像処理部、0103はステレオ撮像制御部、0104はズーム変化量検出部である。
ステレオ距離計測システムにおいて、ステレオ撮像部0101は、ズーミングやフォーカシングが可能なレンズ群やシャッタやアイリスや撮像素子やAGCやADやカメラ信号処理DSPやタイミングジェネレータ等から構成される撮像部を2つ持ち、それぞれの撮像部に置いて光電変換により撮像を行い、ステレオ画像データを出力する。光電変換のために用いる撮像素子には、CCDやCMOSを用いればよい。また、ステレオ撮像部0101がミラーやプリズムを用いて構成され、1つの撮像素子から構成される1つの撮像部を持つ形態としても良い。また、ステレオ撮像部0101が3つ以上の撮像部から構成され、複数の撮像画像を出力するマルチ撮像部の形態としても良い。ステレオ画像処理部0102は、ステレオ撮像部0101が出力するステレオ画像データを用いてステレオ画像処理を行い、距離情報や情報の信頼度を演算し出力する。ステレオ画像処理部0102で行われるステレオ画像処理には、レンズ歪み補正処理・画像間倍率補正処理・平行化処理等のキャリブレーション処理や、ノイズ除去を行うためのローパスフィルタ処理等の前処理や、エッジ検出等の特徴量演算処理、正規化相互相関や差分絶対値和等のブロックマッチングやspace-sweep法等の各種の相関演算処理を用いてステレオ画像間の対応点検索を行い視差情報を取得するステレオマッチング処理、ランクフィルタ処理やラベリング等により特異点の除去を行う後処理、視差情報を用いて距離情報を演算する距離計算処理、などがあり、処理の途中で得られる情報、例えばステレオマッチング処理で対応点検索を行った場合のテンプレート画像とマッチング画像の輝度情報や、視差情報、評価値すなわち演算スコアや、探索領域での評価値の分布、を出力することもできる。ステレオ撮像制御部0103は、不図示の操作部におけるユーザの操作や不図示の画像処理部における画像認識結果等に基づく制御によりズームの変化量や変化方向を決定し、ステレオ撮像部0101のズーミングやフォーカシングが可能なレンズ群の制御を行う。レンズ群の駆動を行うものとしては、ステッピングモータや超音波モータ等がある。ステレオ画像処理を好適に行うために、ズーム倍率は2つの撮像部で等しくなるように制御を行われることが望ましい。ただし、実際にはレンズ特性の個々のばらつきや構造の精度から、複数の撮像部間でレンズ位置を等量だけ制御してもズーム倍率が等しく変化するとは限らない。そのため、工場出荷時にズーム及びフォーカスのレンズの制御量とズーム倍率の変化量の関係をデータテーブルに保存し、ズーム制御時に2つの撮像部のズーム倍率が等量だけ変化するようにすれば良い。また、このときデータテーブルにはいくつかの代表的な関係のみを保存しておき、データテーブルに保存されていない値だけレンズの制御を行った場合は、データテーブルに保存されている近傍の値を用いて補間することで、保存データ量の削減を図っても良い。また、ステレオ撮像制御部0103はズームの変化量を検出する装置を備え、ズーム制御情報としてステレオ画像処理部0102に出力しても良い。但し、ステレオ撮像制御部0103の出力するズーム制御情報はステレオ画像処理に用いるには十分な精度で無い場合がある。ズーム変化量検出部0104は、ステレオ撮像部0101の出力するステレオ画像データに画像処理を行い、ズームやフォーカスの変化に伴う焦点距離変化量や、ステレオ撮像間の焦点距離の差を検出する。ステレオ画像処理部0102は、ステレオ撮像制御部0103から取得したズーム制御情報や、ズーム変化量検出部0104から取得した焦点距離変化量の情報を個別に、あるいは組み合わせて用いて、距離計算に必要なパラメータを演算する。
図2は、本発明の第1実施例に係る焦点距離変化量の検出処理の一例を示す第一の図である。図2の焦点距離変化量の検出処理は、ズーム変化量検出部0104で実行される。
図2において、0201_1はズーム変化前の第一の撮像画像、0202_1はズーム変化前の第二の撮像画像、0201_2はズーム変化後の第一の撮像画像、0202_2はズーム変化後の第二の撮像画像である。但し、第一の撮像画像及び第二の撮像画像は、ステレオ撮像部0101の撮像部がそれぞれ出力する撮像画像を指す。
ズーム変化量検出部0104は、ズーム変化前の第一の撮像画像0201_1における静止物体の特徴点0203_1のズーム変化前のステレオ画像における視差d1と、カメラから静止物体の特徴点0203_1までの空間中の距離Zをステレオ画像処理部より取得する。ズーム変化前の静止物体の特徴点0203_1の検出において、静止物体の検出は、ズーム変化前の第一の撮像画像0201_1を、それより過去の1フレーム乃至複数フレームの撮像画像と比較し差分情報を演算することで行うことができる。また、特徴点の検出には、PrewittやSobel等のエッジ強調フィルタや、Harrisオペレータなどのコーナ抽出フィルタを利用することができる。また、静止物体の特徴点0203_1のステレオ画像にける視差d1及びカメラから静止物体の特徴点0203_1までの空間中の距離Zは、ステレオ画像処理部0102より取得するのではなく、ズーム変化量検出部0104で演算しても良い。その場合、焦点距離変化量の検出をステレオ画像処理とは独立に行うことができるため、得られた焦点距離変化量の情報をステレオ画像処理時に用いて、高精度にステレオ画像処理を行うことができる。次に、ズーム変化後の第一の撮像画像0201_1において静止物体の特徴点0203_1に対応する特徴点0203_2を検出し、特徴点0203_2のズーム変化後のステレオ画像における視差d2をステレオ画像処理部より取得する。ズーム変化前の静止物体の特徴点に対応するズーム変化後の特徴点は、KLT法やオプティカルフローなどを利用した特徴追跡手法や、同一の撮像部の画像内においてズーム変化前後の自己相関を行い相関値を評価することにより取得できる。また、静止物体の特徴点0203_2のステレオ画像にける視差d2は、ステレオ画像処理部0102より取得するのではなく、ズーム変化量検出部0104で演算しても良い。
ズーム変化量検出部0104は、ズームの変化の前後でカメラから静止した物体の特徴点までの空間中の距離Zが不変であることを利用し、特徴点のズーム変化前のステレオ画像における視差d1と、特徴点のズーム変化後のステレオ画像における視差d2と、カメラから特徴点までの距離Zから焦点距離変化量を演算する。図2では一つの静止物体の特徴点を用いた場合を図示しているが、静止物体の特徴点をステレオ画像中から複数個検出し、それぞれに焦点距離の変化量を演算してヒストグラムを作成し評価することで、静止領域の検出における誤検出や、マッチング処理における誤対応の影響を低減し、焦点距離変化量の演算の確度向上を図ることが可能である。このように、静止した物体の特徴点の撮像画像間の視差情報を利用することで焦点距離変化量を演算することができ、ズーム変化時も正しい焦点距離を用いて正確な距離計測を行うことが可能となる。
図3は、本発明の第1実施例に係る焦点距離変化量の検出処理の一例を示す第二の図である。図3の焦点距離変化量の検出処理は、ズーム変化量検出部0104で実行される。
図2で示した焦点距離変化量の検出処理では、焦点距離の変化量を演算するための特徴点を、静止した物体の特徴点に限定していた。それに対し本方法では、ステレオ画像中から任意の特徴点を多数検出し、それぞれの特徴点について、ズーム変化前のステレオ画像における視差と、ズーム変化後のステレオ画像における視差と、カメラから特徴点までの空間中の距離とを用いて焦点距離の変化量を推定する。ズーム変化量検出部0104は、推定した焦点距離の変化量を横軸に、頻度を縦軸にとり、図3に示すようなヒストグラムを作成し、評価を行うことで、正しい焦点距離変化量を検出する。図3において、A1は静止物体0301や不図示の背景領域の特徴点などズームの変化時において距離の不変な特徴点の焦点距離変化量推定値であり、すなわち正しい焦点距離変化量である。A2は第一の移動物体0302の特徴点などズームの変化時において距離がカメラより遠方に変化する特徴群の焦点距離変化量推定値、A3は第二の移動物体0303の特徴点などズームの変化時において距離がカメラより近方に変化する特徴群の焦点距離変化量推定値である。撮像画像中に背景などの静止する領域を多く含む場合や、動きのある物体が少ない場合には、ヒストグラムにおけるA1の頻度はA2及びA3の頻度より大きくなるため、ヒストグラムを評価することにより正しい焦点距離変化量を取得することができる。ヒストグラムを作成する際には、特徴点毎に画像中心からの距離により推定した焦点距離の変化量に重みを付けたヒストグラムを作成し、ズームが広角に変化した時に画角外に外れた特徴点の影響を低減しても良い。また、ヒストグラムを作成する際には、特徴追跡時の相関度の演算結果により推定した焦点距離の変化量に重みを付けたヒストグラムを作成し、オクルージョンにより隠れた特徴点や見え方の変化により誤追跡した特徴点の影響を低減しても良い。
前記の静止物体の検出処理では、ズーム変化前のステレオ画像を取得した時点で静止した物体を検出しており、ズーム変化時に突然移動して距離の変化した物体に関しては正しい焦点距離変化量が得られない可能性があったが、この方法では、ズーム変化時に距離の変化する物体に関しても、その影響による焦点距離変化量の誤演算を低減することが可能である。
図2または図3に示す焦点距離変化量の演算処理は、ステレオ制御撮像部0103がステレオ撮像部0101のズームを制御する際にズーム変化量検出部0104に制御開始信号と制御終了信号を通知して、ステレオ撮像部0101のズーム変化時の前後を含む一定時間のみに限定して処理を行うことで処理の効率化を図ることができる。また、ステレオ撮像部0101が出力するステレオ画像に対し毎フレームに処理を行って、焦点距離が変化した場合のみに、その変化量をステレオ画像処理部0102に出力すれば、振動や衝撃によりズームやフォーカスが変化した場合の焦点距離変化量を検出できるようにしてが可能である。
かように本実施例に拠れば、ステレオ距離計測処理において、ステレオ撮像部のズームが変化した場合でも、静止した被写体のズーム変化前の視差情報とズーム変化後の視差情報を用いて焦点距離の変化量を演算し、正しい焦点距離の値を用いることで正確な距離計測を行うことが可能となる。
実施例1で説明したように、ステレオ距離計測装置においてズームが変化した場合、焦点距離変化量を検出して、焦点距離の値を更新することで正確な距離計測を行うことができる。しかし実際には、レンズ特性や構造の精度不足から複数の撮像部間でズーム倍率が等量に変化するとは限らない。また、工場出荷時にこれらの要因を考慮してズーム倍率が等量に変化するように制御可能なデータテーブルを作成し、ズーム制御時に利用した場合でも、レンズや構造の経年変化により、ズーム倍率の等量変化に必要な制御データがデータテーブルの保存値とずれる場合がある。また、振動や接触による衝撃により、ズーム倍率が変化する場合もある。このような場合においては、以下に示すアルゴリズムで解決すればよい。
図4は、本発明の第2実施例に係るステレオ距離計測システムを示す模式図である。図4において、0401_1は第一の撮像部、0401_2は第二の撮像部である。
第一の撮像部0401_1は、レンズやシャッタやアイリスや撮像素子やAGCやAD等から構成され、光電変換により撮像を行い撮像データを出力する。第二の撮像部0401_2は、レンズやシャッタやアイリスや撮像素子やAGCやAD等から構成され、光電変換により撮像を行い撮像データを出力する。
図5は、本発明の第2実施例に係るステレオ距離計測システムの処理シーケンスの一例を示す図である。図5に示す焦点距離変化量の演算処理シーケンスは、ズーム変化量検出部0104で実行される。
図5の焦点距離変化量の演算処理シーケンスにおいて、ST0501では、第一の撮像部0401_1の焦点距離変化量を単眼の画像処理を用いて算出する。焦点距離変化量の検出処理の説明については後述する。ST0502では、第二の撮像部0401_2の焦点距離変化量を単眼の画像処理を用いて算出する。ST0503では、第一の撮像部0401_1の焦点距離変化量と、第二の撮像部0401_2の焦点距離変化量とを、ステレオ撮像制御部0103に出力する。ステレオ撮像制御部0103は、第一の撮像部0401_1の焦点距離変化量と、第二の撮像部0401_2の焦点距離変化量とを比較し、ズームの差を補正するために必要なズーム変化量と変化方向を決定して、第一の撮像部0401_1または第二の撮像部0401_2のズーム及びフォーカスを制御することによりズームの差を補正する。このとき、ズームの制御を行う撮像部としては、記録やモニタリングなどに用いる主撮像部が存在する場合には、主撮像部のズームに合わせるようにもう一方の撮像部を選択すれば良い。また、現在のズーム倍率に応じて重みを付け、2つの撮像部のズーム倍率の間の特定のズーム倍率に合わせるように、2つの撮像部を制御してもよい。また、ズーム倍率のずれの補正には、ズーム及びフォーカスのレンズ位置を制御して光学的に補正するだけでなく、撮像部内にて電子ズームを用いて補正しても良い。ST0504では、第一の撮像部0401_1の焦点距離変化量と、第二の撮像部0401_2の焦点距離変化量とを、ステレオ画像処理部0102に通知する。ステレオ画像処理部0102は、ズーム変化前の焦点距離情報と、第一の撮像部0401_1の焦点距離変化量と、第二の撮像部0401_2の焦点距離変化量とを元に、距離計測に必要な焦点距離の値を演算する。また、ST0503にて撮像部間のズーム倍率の差を検出してから、ステレオ撮像制御部0103が補正処理を行うまでの間に得られるステレオ画像には、ズーム倍率の差が存在し続けることになる。よって、このように誤差がある場合には、ステレオ画像処理の前処理として、ST0504で通知された情報を元に、ステレオ画像処理部0102で電子ズームによる倍率補正を行っても良い。この場合、撮像部間にズーム倍率の誤差がある場合でも精度の良いマッチング処理などのステレオ画像処理を行うことが可能となり、計測する距離情報の精度が向上する。さらに、ズームが変化している途中でも撮像画像間のズーム倍率差を補正し、高精度な距離計測を継続することが可能となる。なお、倍率の補正を行う画像は、ST0503にてズームの制御を行う撮像部と同じ基準で決定すれば良い。
図6は、本発明の第2実施例の焦点距離変化量を検出する処理の一例を示す第一の図である。図6の焦点距離変化量の検出処理は、図5においてST0501及びST0502に該当し、ズーム変化量検出部0104において第一の撮像部0401_1により得られた画像及び第二の撮像部0401_2により得られた画像のそれぞれについて行う処理である。
図6において、0601_1はズーム変化前の撮像画像、0601_2はズーム変化後の撮像画像、0602_1及び0603_1はズーム変化前の撮像画像0601_1において撮像部からの光軸方向の距離が等距離である特徴点でかつ静止する特徴点、0602_2及び0603_2はズーム変化後の撮像画像0601_2においてそれぞれ0602_1及び0603_1に対応する特徴点である。今、ズーム変化前の特徴点0602_1及び0603_1の間隔a1と、ズーム変化後の対応する特徴点0602_2及び0603_2の間隔a2との関係は、撮像部から特徴点までの空間中の光軸方向の距離Zとズーム変化前の焦点距離f1及びズーム変化後の焦点距離f2を用いて一意に表すことができる。よって、撮像部からの距離が既知で、かつ撮像部から等距離に存在する静止した特徴点を画像から抽出し、その特徴点間隔を利用することで、ズーム変化に伴う焦点距離変化量を取得することができる。また、撮像部から特徴点までの空間中の光軸方向の距離Zが焦点距離f1及びf2より十分に大きいときは、撮像部から等距離にある特徴点の間隔は焦点距離にほぼ比例する。この近似を用いて、撮像部から特徴点までの空間中の距離Zを用いず、処理量の低減を図っても良い。さらに、この近時を用いることができる場合には、2つの特徴点は撮像部からの光軸方向の距離が等距離であるという制限を無視することができ、距離が既知の任意の2点の特徴点で代替して用いることができるため、撮影環境への依存性が低減する。図6では、2点の特徴点を用いているが、3つ以上の複数の特徴点を用いて確度向上を図っても良い。また、静止する特徴点の検出や、ズーム変化時における特徴点の追跡処理は、第一実施例における焦点距離変化量の検出処理の第一の例と同様に行えばよい。このように、撮像部からの光軸方向の距離が既知の2つ以上の特徴点の間隔を利用するとで、少ない計算量で高速に焦点距離変化量を取得することが可能となる。
図7は、本発明の第2実施例の焦点距離変化量を検出する処理の一例を示す第二の図である。図7の焦点距離変化量の検出処理は、図5においてST0501及びST0502に該当し、ズーム変化量検出部0104において第一の撮像部0401_1により得られた画像及び第二の撮像部0401_2により得られた画像のそれぞれについて行う処理である。
図7において、0701はズーム変化前の撮像画像、0702はズーム変化後の撮像画像、0703はズーム変化後の撮像画像0702をズーム変化量検出部0104において画像処理でn倍に拡大縮小処理した画像である。ズーム変化量検出部0104は、nの値を変化させながらn倍化されたズーム変化後の撮像画像0703とズーム変化前の撮像画像0701とのマッチング処理を行い相関値を評価することで、焦点距離変化量をnの値から取得することができる。マッチング処理は画像全体について相関値を演算しても良いし、ズーム変化の影響の受けにくい画像中心付近の任意サイズのブロックについて相関値を演算しても良い。図7(c)に示すように、nがズーム倍率と等しくなったときにn倍化されたズーム変化後の撮像画像0703とズーム変化前の撮像画像0701は最も高い相関を得る。ここではズーム変化後の撮像画像に拡大縮小処理を行ったが、ズーム変化前の撮像画像に拡大縮小処理を行ってからマッチング処理を行っても良い。画像処理による拡大縮小処理においては、拡大処理より縮小処理のほうが精度の良い画像を得られるため、広角の画像を優先して縮小処理を行っても良い。また、ステレオ撮像制御部0103のズーム制御情報から各撮像部の凡そのズーム量を取得し、nを変化させるときの初期値として、その近傍の値で拡大縮小処理を行っても良い。
このように、画像全体を拡大縮小処理してマッチング処理による相関値を演算することで、特定の特徴点を評価して選択する処理を行わずに、焦点距離変化量の取得を行うことができる。
図8は、本発明の第2実施例の焦点距離変化量を検出する処理の一例を示す第三の図である。図8の焦点距離変化量の検出処理は、図5においてST0501及びST0502に該当し、ズーム変化量検出部0104において第一の撮像部0401_1により得られた画像及び第二の撮像部0401_2により得られた画像のそれぞれについて行う処理である。
図8において、0801_1はズーム変化前の撮像画像、0801_2はズーム変化後の撮像画像、0802_1はズーム変化前の撮像画像0801_1において静止した特徴点、0802_2はズーム変化後の撮像画像0801_2において特徴点0802_1に対応する特徴点である。ズーム変化前の特徴点0802_1と画像中心との間隔b1と、ズーム変化後の対応する特徴点0802_2と画像中心との間隔b2との関係は、カ撮像部から特徴点までの光軸方向の距離Zとズーム変化前の焦点距離f1及びズーム変化後の焦点距離f2を用いて一意に表すことができる。よって、撮像部からの距離が既知でかつ静止した特徴点を画像から抽出し、その特徴点と画像中心との間隔を利用することで、ズーム変化に伴う焦点距離変化量を取得することができる。また、撮像部から特徴点までの空間中の距離Zが焦点距離f1及びf2より十分に大きいときは、特徴点と画像中心との間隔は焦点距離にほぼ比例する。この近似を用いて、撮像部から特徴点までの空間中の距離Zを用いず、処理量の低減を図っても良い。図8では、1点の特徴点を用いているが、2つ以上の複数の特徴点を用いて確度向上を図っても良い。画像中心の座標の値は、x座標とy座標を、画像の幅と画像の高さをそれぞれ二分の一にした値で近似して用いることができる。ただし実際には、画像中心の座標の値は撮像部ごとに多少のばらつきが存在するため、正確な画像中心の座標の値を工場出荷時に計測し、メモリ等に格納して用いてもよい。また、静止する特徴点の検出や、ズーム変化時における特徴点の追跡処理は、第一実施例における焦点距離変化量の検出処理の第一の例と同様に行えばよい。このように、撮像部からの距離が既知の1つ以上の特徴点と画像中心との間隔を利用することで、撮像部から等距離にある特徴点を複数検出するのが困難で、図6で示した方法が適用できない場合や、画面内で動いている物体が多数存在し、図7で示した方法が適用できない場合でも焦点距離変化量の取得を行うことができる。
図6〜図8で示した焦点距離変化量の計測処理は、撮影環境や処理能力に応じてそれぞれ単独で用いても良いし、いくつかを組み合わせて用いても良い。このとき、例えば、特徴点追跡の信頼性やマッチング処理時の相関値に応じて、焦点距離変化量に重み付けして選択した値を用いても良い。
かように本実施例に拠れば、ステレオ距離計測処理において、ステレオ撮像部のズームが変化した際に撮像部間でズーム倍率の誤差が生じた場合でも、カメラ毎の必要な焦点距離の変化量を演算し、撮像部間のズーム倍率の誤差を補正し、また、正しい焦点距離の値を用いることで、正確な距離計測を継続することが可能となる。また、本実施例では単眼の撮像部の撮像画像を用いて焦点距離変化量を取得しているため、ステレオ画像処理を用いた焦点距離変化量の取得処理に比べ、撮像部間の見え方の違いの影響を受けにくく、より精度の良い焦点距離変化量の取得が行える。
第2実施例では、ステレオ距離計測システムにおいて第一の撮像部0401_1のズーム変化量と第二の撮像部0401_2のズーム変化量をそれぞれ演算することでズームの倍率差の補正を行った。ステレオ画像処理による距離計測では撮像部間のズームの倍率差が精度に大きく寄与するが、第二実施例に記載の方法では、一方の撮像部または両方の撮像部に置いてズーム変化量の演算結果に誤差が存在すると、ズームの倍率差が精度良く補正できない可能性がある。また、ズーム制御を繰り返し行う場合に、ズーム変化量の演算時に生じる誤差が蓄積される可能性がある。そこで、撮像部間のズームの倍率差を精度良く補正するには、以下に示すアルゴリズムで解決してやればよい。
図9は、本発明の第3実施例に係るステレオ距離計測システムの処理シーケンスの一例を示す図である。図9に示す焦点距離の撮像部間の差分の演算処理シーケンスは、ズーム変化量検出部0104で実行される。
図9の焦点距離の撮像部間の差分の演算処理シーケンスにおいて、ST0901では、第一の撮像部0401_1より取得した第一の撮像画像と、第二の撮像部0401_2より取得した第二の撮像画像とを用いて画像処理を行い、第一の撮像部0401_1と第二の撮像部0401_2との間の焦点距離の差分を算出する。焦点距離の差分の演算処理の説明については後述する。ST0902では、第一の撮像部0401_1と第二の撮像部0401_2との間の焦点距離の差分情報を、ステレオ撮像制御部0103に出力する。ステレオ撮像制御部0103は、第一の撮像部0401_1と第二の撮像部0401_2との間の焦点距離の差分情報を用いて、ズームの差を補正するために必要なズーム変化量と変化方向を決定して、第一の撮像部0401_1または第二の撮像部0401_2のズーム及びフォーカスを制御することによりズームの差を補正する。このとき、ズームの制御を行う撮像部としては、記録やモニタリングなどに用いる主撮像部が存在する場合には、主撮像部のズームに合わせるようにもう一方の撮像部を選択すれば良い。また、現在のズーム倍率に応じて重みを付け、2つの撮像部のズーム倍率の間の特定のズーム倍率に合わせるように、2つの撮像部を制御してもよい。また、ズーム倍率のずれの補正には、ズーム及びフォーカスのレンズ位置を制御して光学的に補正するだけでなく、撮像部内にて電子ズームを用いて補正しても良い。ST0903では、第一の撮像部0401_1と第二の撮像部0401_2との間の焦点距離の差分情報を、ステレオ画像処理部0102に通知する。ステレオ画像処理部0102は、第一の撮像部0401_1と第二の撮像部0401_2との間の焦点距離の差分情報を用いて、ステレオ画像処理の前処理として、電子ズームによる倍率補正を行う。この場合、撮像部間にズーム倍率の誤差がある場合でも精度の良いマッチング処理などのステレオ画像処理を行うことが可能となり、計測する距離情報の精度が向上する。さらに、ズームが変化している途中でも撮像画像間のズーム倍率差を補正し、高精度な距離計測を継続することが可能となる。なお、倍率の補正を行う画像は、ST0503にてズームの制御を行う撮像部と同じ基準で決定すれば良い。また、ステレオ画像処理部0102は、撮像画像間のズーム倍率を補正した後、距離計測に必要な焦点距離の値を演算する。焦点距離の値の演算には、撮像画像内から距離が既知の特徴と、その特徴における視差情報を用いて算出すれば良い。この距離情報は、以前にステレオ画像処理部0102が演算した距離計測結果を用いることができる。また、ズーム補正処理による誤差が蓄積して距離計測結果の信頼性が劣化した場合や、撮像部の視野が変化し既存の距離計測結果が用いることができない場合には、不図示の距離情報入力部からユーザの入力や他の距離センサが入力した距離情報を用いても良い。
このように、第一の撮像部0401_1により取得した撮像画像と、第二の撮像部0401_2により取得した撮像画像とを用いて焦点距離の差分を演算し、撮像部間のズームの倍率差を検出することにより、直接撮像部間の撮像画像を比較することから、第2実施例にて示した方法に対し高精度にズームの倍率差を検出することが可能である。そこで、本実施例にて示す方法を、第1実施例や第2実施例にて示した処理の、前処理や後処理や連携した処理として用いても良い。この場合、本実施例にて示す、撮像部間のズームの倍率差の検出処理と、第一実施例または第二実施例にて示す、ズームの変化量の検出処理を組み合わせることにより、非常に高精度なステレオ画像処理による距離計測が行える。
また、本実施例では、第2実施例にて示した方法と比較し、画像処理に用いる撮像画像が少ないことからメモリ量の削減も図れる。
図10は、本発明の第3実施例に係る焦点距離の差分情報を検出する処理の一例を示す第一の図である。図10の焦点距離の差分情報の検出処理は、ズーム変化量検出部0104において行われる処理である。
図10において、1001は第一の撮像部0401_1より取得できる第一の撮像画像、1002は第一の撮像部0401_1とは異なるズーム倍率の第二の撮像部0401_2より取得できる第二の撮像画像、1003は第二の撮像画像をズーム変化量検出部0404において画像処理でn倍に拡大縮小処理した画像である。ズーム変化量検出部0104は、nの値を変化させながらn倍化された第二の撮像画像1003と第一の撮像画像1001とのマッチング処理を行い相関値を評価することで、焦点距離変化量をnの値から取得することができる。ただし、第一の撮像画像1001とn倍化された第二の撮像画像1003の間には、撮像位置の違いによる視差が存在するため、視差方向に2つの画像をずらしながらマッチング処理を行い、最大相関値を取得する。マッチング処理は画像全体について相関値を演算しても良いし、撮像位置の違いによるオクルージョンや見え方の違いの影響を低減するため、任意のサイズのブロックに分割してそれぞれ相関値を演算しても良い。図10に示すように、nがズーム倍率と等しくなったときにn倍化された第二の撮像画像1003と第一の撮像画像1001は最も高い最大相関値を得る。ここでは、第二の撮像画像に拡大縮小処理を行ってからマッチング処理を行ったが、画像処理による拡大縮小処理においては、拡大処理より縮小処理のほうが精度の良い画像を得られるため、広角の画像を優先して縮小処理を行っても良い。また、ステレオ撮像制御部0103のズーム制御情報から各撮像部の凡そのズーム量を取得し、nを変化させるときの初期値として、その近傍の値で拡大縮小処理を行っても良い。このように、画像全体を拡大縮小処理してマッチング処理による相関値を演算することで、特定の特徴点を評価して選択する処理を行わずに、高速に撮像部間の焦点距離の差の取得を行うことができる。
図11は、本発明の第3実施例に係る焦点距離の差分情報を検出する処理の一例を示す第二の図である。図11の焦点距離の差分情報の検出処理は、ズーム変化量検出部0104において行われる処理である。
図11において、1101_1は第一の撮像部0401_1より取得できる第一の撮像画像、1101_2は第二の撮像部0401_2より取得できる第二の撮像画像、1102_1は第一の撮像画像1101_1に撮像されている撮像部からの距離が既知の被写体、1102_2は第一の撮像画像1101_2に撮像されている、被写体1102_1に対応する被写体である。ズーム変化量検出部0104は、被写体1101_1から2個以上の特徴を検出し、それぞれの特徴について、第一の撮像画像1101_1と第二の撮像画像1101_2の間でマッチング処理を行う。特徴の検出には、PrewittやSobel等のエッジ強調フィルタや、Harrisオペレータなどのコーナ抽出フィルタを利用することができる。また、マッチング処理には、正規化相互相関や差分絶対値和等の各種の相関演算法を利用することができる。なお、マッチング処理を行う場合には、あらかじめ撮像部間にズーム倍率の差があることを考慮し、ブロックマッチングにおけるブロックサイズや、対応点を検索する探索領域を変更することで、マッチング精度の向上と探索処理量の低減を図ることができる。このとき、ブロックサイズや探索領域の変更量の基準として、ステレオ撮像制御部0103のズーム制御情報から各撮像部の凡そのズーム量を取得し、用いても良い。各特徴についてマッチング処理したら、特徴ごとにエピポーラ線のずれを検出する。2つの撮像部が、それぞれの走査線方向が一致するように水平に設置されている場合、撮像部間にズーム倍率の差がなければ、エピポーラ線は走査線と一致する。一方で、2つの撮像部間にズーム倍率の差があった場合、図11に示すように、対応する特徴の縦軸方向の座標のずれがエピポーラ線のずれとして生じる。このとき、被写体1101_1内の第一の特徴におけるエピポーラずれc1と、第一の特徴におけるエピポーラずれc2と、撮像部から被写体までの空間中の光軸方向の距離Zを用いることで、焦点距離の差を演算できる。なお、第一の特徴と第二の特徴が、撮像部から異なる距離を持っていても、それぞれの距離情報が既知であれば、焦点距離の差を演算可能である。また、第一の特徴と第二の特徴が同一の被写体に存在しない場合でも当然構わない。また、複数の特徴を用いて焦点距離の差の最適解を推定することで確度の向上を図っても良い。このとき、マッチング処理時の相関の評価値を用いて、演算した焦点距離の差に重み付けすることで、マッチング処理時の誤対応の影響を低減することが可能である。なお、2つの撮像部が走査線方向が一致するように水平に設置されていない場合でも、撮像部間の幾何関係などの情報を用いて、ステレオ撮像画像に対して平行化処理を行うことで、2つの撮像部が走査線方向が一致するように水平に設置されている場合と同様に扱うことができる。平行化処理に用いる情報は、ステレオ画像処理部0102にてキャリブレーション時に用いる情報を取得して用いれば良い。このように、ステレオ画像内の撮像部からの距離が既知の特徴のエピポーラ線のずれを用いることで、オクルージョンの影響や、視線方向の違いから、撮像画像の見え方が撮像部ごとに大きく異なり、図10で示した方法を適用できない場合でも、選択的に検出した特徴を用いることで、高精度な撮像部間の焦点距離の差の取得が行える。
図12は、本発明の第3実施例に係る焦点距離の差分情報を検出する処理の一例を示す第三の図である。図12の焦点距離の差分情報の検出処理は、ズーム変化量検出部0104において行われる処理である。
図12において、1201は第一の撮像部0401_1より取得できる第一の撮像画像、1202は第一の撮像画像1201において、空間中に存在する直線成分の投影像上の特徴点群である。図12(a)に示すように、空間中に存在する直線成分は、レンズ歪みの影響がない状態では、画像上でも直線として存在する。そこで、第一の撮像画像1201と、第二の撮像部0401_2より取得できる不図示の第二の撮像画像とを用いてステレオ画像処理による距離計測を行い、特徴点群1202の3次元位置を取得すると、撮像画像間にズームの倍率差がない場合は、図12(b)に示すように、特徴点群1202の3次元位置は直線上に存在する。一方で、撮像画像間にズームの倍率差がある場合には、図12(b)に示すように、特徴点群1202の3次元位置は曲線上に存在する。ズーム変化量検出部0104は、第一の撮像画像1201から、直線上の3点以上の特徴点群を抽出する。特徴の検出には、PrewittやSobel等のエッジ強調フィルタや、Harrisオペレータなどのコーナ抽出フィルタを利用することができる。また、抽出した特徴が直線上に存在するかは、ハフ変換などを利用して直線度の評価を行えば良い。こうして得られた、直線上の特徴点群に対し、撮像部間のズームの倍率差を考慮した上で、マッチング処理を行い、距離計測による3次元位置の取得を行う。マッチング処理を行う場合には、ブロックマッチングにおけるブロックサイズや、対応点を検索する探索領域をズームの倍率差に応じて変更することで、マッチング精度の向上と探索処理量の低減を図ることができる。ここでは、ズームの倍率差の予測値を用いて上記のマッチング処理時の補正を行う。また、距離計測時には、このズームの倍率差の予測値を用いて距離計測に必要なパラメータの更新を行う。このようにして得られた3点以上の特徴点群の3次元位置が、直線上に存在するかを判定することで、予測したズームの倍率差から実際のズーム倍率差を取得し、焦点距離の差を演算する。ただし、撮像部間のズームの倍率差は未知であるため、予測値として複数の値を用い、最適な結果を用いる。このとき、予測値として、ステレオ撮像制御部0103のズーム制御情報から各撮像部の凡そのズーム量を取得し、その近傍で変更して用いても良い。また、マッチング処理時に、ズームの倍率差を考慮して逐次補正するのではなく、前処理として撮像画像間のズームの倍率差がなくなるように電子ズームによる補正処理を行って、一度の補正処理で済むようにしても良い。室内や、屋外でも建築物が多い場面など、撮影環境中に直線成分が多い場合には、この直線上の特徴点群の3次元位置情報を利用する方法を用いて高精度に撮像部間の焦点距離の差の取得が行える。
かように本実施例に拠れば、ステレオ距離計測において、撮像部間でズームの倍率差が存在する場合でも、高精度に撮像部間のズームの倍率差を検出し、精度の良いステレオ画像処理を行い、正確な距離計測を行うことができる。
第1実施例から第3実施例では、撮像部間のズームの倍率差やズームの変化量などを検出し、高精度なステレオ画像処理による距離計測を可能としていた。しかし、ズーミングやフォーカシングを行うためにレンズ群を駆動した場合、ズーム及びフォーカスの機構によってはレンズの光軸が多少ずれる場合がある。また、レンズの歪み特性はズーム量に応じて変化することが知られている。ステレオ画像処理を高精度に行うための光軸の補正やレンズ歪みの補正は、ステレオ画像処理部0102においてキャリブレーション処理により実現するが、キャリブレーションを行う際に必要なパラメータは、ズームやフォーカスのレンズ群の位置が変わると、光軸やレンズ歪みの影響が変化するため、適宜に最適な値を用いる必要がある。このような場合は、以下に示す方法で解決すれば良い。
図13は、本発明の第4実施例に係るステレオ距離計測システムを示す模式図である。図13において、1305は補正テーブル格納部である。
補正テーブル格納部1305には、工場出荷時の時点で、ズーミング及びフォーカシングを行うレンズ群の制御量と、それに伴う光軸の変化やレンズ歪みなどを補正するための補正データとの関係を、補正データテーブルとして保存されている。この補正データテーブルは、レンズ群の各々の制御量と補正データとを多次元テーブルとして記述しても良いし、データ量を削減するために、レンズ群を一つのレンズとみなして、レンズ群の統合の制御量と補正データとを2次元テーブルとして記述しても良い。また、補正データテーブルにはいくつかの代表的な関係のみを保存しておき、データテーブルに保存されていない値だけレンズの制御を行った場合は、データテーブルに保存されている近傍の値を用いて補間することで、保存データ量の削減を図っても良い。
補正テーブル格納部1305は、ズーム変化量検出部0104から、第一の撮像部0401_1及び第二の撮像部0401_2のズームの変化量を取得し、その情報を元にズーム時のレンズ群の制御量に応じた補正データをテーブルから読み込みステレオ画像処理部0102に出力する。ステレオ画像処理部0102は、取得した補正データを用いてキャリブレーション処理を行うことで、高精度な距離計測を行うことが可能となる。
ズーム変化量検出部0104は、画像処理を用いてズームの変化量を検出するため、ズーム変化に伴う光軸の変化やレンズ歪み特性の変化の影響により、ズームの変化量の検出精度が低下する可能性がある。そこで、補正テーブル格納部1305が、ズーム変化量検出部0104が検出したズーム変化量を取得して、対応する補正データテーブルをズーム変化量検出部0104に出力し、ズーム変化量検出部0104が取得した補正データテーブルを用いて前処理としてステレオ画像の画像補正処理を行った上で、再度ズーム変化量を検出するプロセスを行っても良い。この処理を再帰的に繰り返すことにより、ズーム変化量検出部0104は、最終的に、光軸の変化やレンズの歪み特性の変化の影響を受けない高精度なズーム変化量を検出することが可能となる。なお、このズーム変化量検出の再帰的な処理を行う際に、ズーム変化量の初期値に、軸の変化やレンズの歪み特性の変化の影響を最も受けた、ズーム変化量検出部0104が最初に検出したズーム変化量を用いる変わりに、ステレオ撮像制御部0103が出力する、凡そのズーム制御情報を用いても良い。
また、レンズ歪み量や光軸の変化量は、キャリブレーションパターンなどを用いて、機知の方法で検出し、補正データテーブルを更新しても良い。これにより、経年変化や振動などにより、実際に必要な補正データテーブルの値が、工場出荷時から変わってしまった場合でも、再度最適なパラメータに更新し直して用いることができる。この処理はズーム変化量検出部0104で、必要に応じてズーム変化量の検出処理と並行して行えば良い。
かように本実施例に拠れば、ズーミングやフォーカシングに伴い、ズーム変化の他に、光軸の変化やレンズの歪み特性の変化が起きた場合でも、補正データテーブルを用いて高精度なステレオ画像処理による距離計測を行うことができる。
本発明において、ステレオ撮像制御部0102におけるズーム変化量の制御の方法の例を以下に示す。
ステレオ撮像制御部0102は、第一の撮像部0401_1及び第二の撮像部0401_2のズームが、撮像部間で等速度で変化するように制御する。例えば、レンズ特性の個々のばらつきや構造の精度から、第一の撮像部0401_1と第二の撮像部0401_2のズーム倍率を等量だけ変化するためのレンズの駆動量に差異があり、第一の撮像部0401_1が第二の撮像部0401_2のn倍だけ、レンズが駆動するように制御する必要がある場合は、ステレオ撮像制御部0103は、第一の撮像部0401_1のレンズ駆動を、第二の撮像部0401_2のレンズ駆動の1/n倍の速度で行うように制御する。このように、各々の撮像部のズーム倍率が等速に移動することで、ズームが変化する途中で、第一の撮像部0401_1と第二の撮像部0401_2がそれぞれ撮像した撮像画像が、撮像部間のレンズ特性の違いや構造に関わらず、常に等量のズーム倍率を持つため、ズームが変化する途中でもステレオ画像処理による距離計測を高精度に行うことができる。
また、第一の撮像部0401_1及び第二の撮像部0401_2のズームが大きく変化する場合、ステレオ撮像制御部0102は、ズームを一度に変化するのではなく、ズームが所望の量になるまで複数のズーム制御を段階的に行っても良い。このとき、ズーム制御が終わったタイミングで撮像した画像を、ズーム変化量検出部0104及びステレオ画像処理部0102が画像処理に用いることで、ズーム時に撮像画像中に生じるぶれの影響を低減し、高精度な画像処理が行える。また、複数のズーム制御がそれぞれ終わったときに、逐次にズーム変化量検出部0104が撮像部間のズーム変化量の差を検出し、ステレオ撮像制御部0103が、次の段階のズーム制御を行う前に、ズーム変化量の差を補正するズーム制御を行うことで、一度に大きくズームを変化させる場合に、撮像部間で大きなズーム変化量の差が生じることを回避することができる。
かように、本実施例に拠れば、ステレオ画像処理に好適なズーム制御を行うことで、撮像画像間のズーム倍率の差のない、あるいは小さいステレオ画像を用いて、高精度なステレオ画像処理による距離計測を行うことができる。
図14は、本発明の第6実施例に係るステレオ距離計測システムを示す模式図である。図14において、1406は制御指示インタフェース部である。
図14に示すステレオ距離計測システムは、撮像部のズーミングやフォーカシングを行うレンズ群として、バリフォーカルレンズなどの手動でズーミングを行うことの可能なレンズを用いた場合を考慮したシステムである。
ユーザ操作指示インタフェース部1406は、ズーム変化量検出部0103の出力した、第一の撮像部0401_1と第二の撮像部0401_2のそれぞれのズーム変化量、または、ズーム倍率の差の情報を取得し、撮像部間のズーム倍率の差を補正するために必要なズーム制御情報を、映像や音声を用いてユーザに通知する。通知するための手段としては、TVやPCのモニタや携帯端末やスピーカやブザーなどの、各種の映像端末や音源を用いることができる。ユーザは、制御指示インタフェース部1406の指示を元に、直接第一の撮像部0401_1または第二の撮像部0401_2のレンズ群を操作し、ズーム制御を行う。このように、ズームの倍率差を補正するのに必要なズーム制御情報を、ユーザ操作指示インタフェース部1406を用いてユーザに指示することで、手動でズーム制御を行うレンズ群を持つ撮像部に対しても、精度良く撮像部間のズーム倍率の差を補正することが可能である。
図15は、本発明の第6実施例に係るズーム補正のためのズーム制御情報を映像を用いてユーザに指示する方法の一例を示す図である。
図15において、1501はユーザ操作指示インタフェースであり、ここではPCのモニタを想定している。PCのモニタには、ズームの制御を行う必要のある撮像部の撮像画像に、ズーム制御を行うために必要な情報を重畳して表示している。ズームの制御を行う必要のある撮像部としては、記録やモニタリングなどに用いる主撮像部が存在する場合には、主撮像部のズームに合わせるようにもう一方の撮像部を選択すれば良い。また、現在のズーム倍率に応じて重みを付け、2つの撮像部のズーム倍率の間の特定のズーム倍率に合わせるように、2つの撮像部を制御しても良く、その場合にはモニタ上には、各撮像部の撮像画像を並べて表示すれば良い。撮像画像に重畳した、ズーム制御を行うために必要な情報の表現として、図15では、撮像画像中の特定の被写体を用いた方法と、文字や記号を用いた方法を組み合わせて用いている。撮像画像中の特定の被写体を用いた方法としては、撮像画像中の被写体がズーム補正後に表示される位置を、ズーム補正後の倍率で拡大した被写体を透過させ、点線で表示することで示している。ユーザは手動でズーム制御を行い、実際の撮像画像中の被写体が、モニタ上に重畳されたズーム補正後の被写体に重なるようにすることで、必要な量のズーム制御を直感的に操作して行うことができる。この他に、ユーザにズーム制御方法が理解しやすいように、ズーム制御方法そのものを図示しても良い。例えば、ズームの制御をネジ回しで行う場合には、ネジの位置や回す方向を映像上に図示することで、ユーザは簡易にズーム制御の操作が行える。また、モニタ右上に表示しているように、ズーム補正に必要なズーム方向とズーム倍率を矢印や文字で記述しても良い。この例では、上矢印と「×1.1」の組み合わせは、ズームを拡大方向に1.1倍制御する必要があることを示している。この他に、必要なズームの制御方向や、制御量、一致度を文字や記号や数値の組み合わせで表示しても良い。この場合、映像上に図示する場合に比べ、少ない情報量と表示量ですむため、携帯端末などでも表示することができる。
図15では、映像によりユーザにズーム制御の指示を行う方法を示したが、映像の変わりに音声を用いても良い。映像上に文字で表示する場合のズーム制御情報を音声でそのままユーザに通知しても良いし、ズーム補正に必要なズーム方向とズーム倍率と一致度を、ブザー音の間隔や高低や音量で組み合わせて表現しても良い。音声を用いた場合には、モニタを設置するようなスペースが存在しない場合でも、ズーム制御に必要な情報をユーザに通知することが可能である。また、ユーザが操作している撮像部を見ながら作業できるという利点がある。
なお、以上のような映像や音声によるユーザへの操作方法の指示は、ズーム補正時だけでなく、実施例4で記載した光軸のずれなどを補正する場合に用いることもできる。
かように、本実施例に拠れば、撮像部間のズーム倍率の差の補正に必要な情報をユーザに通知することで、手動でレンズ群の制御を行うようなステレオ距離計測システムにおいても、精度の良い撮像部間のズーム倍率の差の補正が行える。
本発明において、ズーム変化量検出部0104が行うズーム変化量の検出処理を、経年変化の補正に応用する例を示す。
ズーム変化量検出部0104は第一実施例から第三実施例にて示した方法で、ズームの変化量や、撮像部間のズームの倍率差を取得する。この処理を、ズーム撮像制御部がズーム制御を行っていないときにも常に行うことで、振動や、装置の経年による劣化によりズームが微小に変化した場合でも、その影響を低減するようにズームの補正を行うことができ、高精度なステレオ画像処理が行える。
また、図6で示した、撮像画像中の2つの特徴点間の間隔の変化を用いて、ズームの変化量を検出する処理を応用し、特徴点の位置の変化量から撮像部の平行移動、及び光軸周りの回転移動を検出することができる。撮像部のズーム変化が起きずに、撮像部が撮像面と並行に並行移動を行ったり、光軸周りの回転を行った場合には、撮像画像中の2つの特徴点間の間隔が変わらず、特徴点の画像上の位置のみが変化する。よって、特徴点の画像上の位置の変化を検出することで、これらの撮像部の移動を検出できる。このように、ズーム変化量検出処理を応用して、ズーム変化以外の、光軸変化などへの経年変化による影響を検出し、補正しても良い。
かように、本実施例に拠れば、第一実施例から第三実施例までに示した、ズーム変化量の検出処理を応用して、ステレオ距離計測システムの経年変化に対するロバスト性を向上することが可能である。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。
本発明は監視カメラや立体視カメラ、車載カメラに利用可能である。
本発明の第1実施例に係るステレオ距離計測システムを示す模式図である。 本発明の第1実施例に係る焦点距離変化量の検出処理の一例を示す第一の図である。 本発明の第1実施例に係る焦点距離変化量の検出処理の一例を示す第二の図である。 本発明の第2実施例に係るステレオ距離計測システムを示す模式図である。 本発明の第2実施例に係るステレオ距離計測システムの処理シーケンスの一例を示す図である。 本発明の第2実施例の焦点距離変化量を検出する処理の一例を示す第一の図である。 本発明の第2実施例の焦点距離変化量を検出する処理の一例を示す第二の図である。 本発明の第2実施例の焦点距離変化量を検出する処理の一例を示す第三の図である。 本発明の第3実施例に係るステレオ距離計測システムの処理シーケンスの一例を示す図である。 本発明の第3実施例に係る焦点距離の差分情報を検出する処理の一例を示す第一の図である。 本発明の第3実施例に係る焦点距離の差分情報を検出する処理の一例を示す第二の図である。 本発明の第3実施例に係る焦点距離の差分情報を検出する処理の一例を示す第三の図である。 本発明の第4実施例に係るステレオ距離計測システムを示す模式図である。 本発明の第6実施例に係るステレオ距離計測システムを示す模式図である。 本発明の第6実施例に係るズーム補正のためのズーム制御情報を映像を用いてユーザに指示する方法の一例を示す図である。
符号の説明
0101 ステレオ撮像部
0102 ステレオ画像処理部
0103 ステレオ撮像制御部
0104 ズーム変化量検出部
0201_1 ズーム変化前の第一の撮像画像
0201_2 ズーム変化後の第一の撮像画像
0202_1 ズーム変化前の第二の撮像画像
0202_2 ズーム変化後の第二の撮像画像
0203_1 ズーム変化前の静止物体の特徴点
0203_2 ズーム変化後の静止物体の特徴点
0301 静止物体
0302 第一の移動物体
0303 第二の移動物体
0401_1 第一の撮像部
0401_2 第二の撮像部
0601_1 ズーム変化前の撮像画像
0601_2 ズーム変化後の撮像画像
0602〜3_1 ズーム変化前の撮像画像において撮像部からの光軸方向の距離が等距離である特徴点でかつ静止する特徴点
0602〜3_2 ズーム変化後の0602〜3_1にそれぞれ対応する特徴点
0701 ズーム変化前の撮像画像
0702 ズーム変化後の撮像画像
0703 n倍化されたズーム変化後の撮像画像
0801_1 ズーム変化前の撮像画像
0801_2 ズーム変化後の撮像画像
0802_1 ズーム変化前の撮像画像において静止した特徴点
0802_2 ズーム変化後の撮像画像において0802_1に対応する特徴点
1001 第一の撮像画像
1002 第二の撮像画像
1003 n倍化された第二の撮像画像
1101_1 第一の撮像画像
1101_2 第二の撮像画像
1102_1〜2 被写体
1201 第一の撮像画像
1202 特徴点群
1305 補正テーブル格納部
1406 ユーザ操作指示インタフェース部
1501 ズーム制御指示インタフェース

Claims (20)

  1. ズームが可変な複数の撮像手段と、
    該複数の撮像手段から出力される画像情報を用いて、該複数の撮像手段それぞれにおけるズームの変化量をそれぞれ検出するズーム変化量検出手段と、
    該ズーム変化量検出手段で検出された該複数の撮像手段それぞれにおけるズームの変化量が異なる場合に、該複数の撮像手段それぞれにおけるズームの変化量を一致させるように該複数の撮像手段の一部または全部のズームの位置を補正するズーム位置補正手段と、
    該複数の撮像手段から出力される画像情報に対してステレオ画像処理をし、該ステレオ撮像処理により生成された視差情報を用いて被写体までの距離を計測する距離計測手段と、
    を備えることを特徴とする距離計測装置。
  2. ステレオ撮像を行うズームが可変なステレオ撮像手段と、
    該ステレオ撮像手段が出力するステレオ撮像画像を用いてステレオ画像処理を行い距離情報を演算するステレオ画像処理手段と、
    該ステレオ撮像手段の撮像条件を制御するステレオ撮像制御手段と、
    を備え、
    前記ステレオ撮像制御手段が前記ステレオ撮像手段のズームを制御した場合に、前記ステレオ撮像制御手段がズーム制御情報を前記ステレオ画像処理手段に出力し、前記ステレオ画像処理手段が前記ズーム変化量検出手段の出力するズーム制御情報を用いてステレオ画像処理を行うこと、
    を特徴とする距離計測装置。
  3. ステレオ撮像を行うズームが可変なステレオ撮像手段と、
    該ステレオ撮像手段が出力するステレオ撮像画像を用いてステレオ画像処理を行い距離情報を演算するステレオ画像処理手段と、
    該ステレオ撮像手段の撮像条件を制御するステレオ撮像制御手段と、
    該ステレオ撮像手段が出力するステレオ撮像画像を用いてズームの変化量を検出するズーム変化量検出手段とを備え、
    該ズーム変化量検出手段が、ステレオ撮像画像内の特徴の視差情報を用いてズーム変化量を演算し、該ステレオ画像処理手段が、該ズーム変化量検出手段の出力するズーム変化量を用いてステレオ画像処理を行うこと、
    を特徴とする距離計測装置。
  4. 請求項3に記載の距離計測装置において、
    該ズーム変化量検出手段がズーム変化量の演算を行う場合に、ステレオ撮像手段からの距離がズーム変化時に不変な特徴の視差情報を用いてズーム変化量を検出すること、
    を特徴とする距離計測装置。
  5. 請求項3に記載の距離計測装置において、
    該ズーム変化量検出手段がズーム変化量の演算を行う場合に、複数の特徴についてズーム変化量推定値を演算し、そのヒストグラム情報を用いてズーム変化量を検出すること、
    を特徴とする距離計測装置。
  6. 撮像を行うズームが可変な第一の撮像手段と、
    撮像を行うズームが可変な第二の撮像手段と、
    該第一の撮像手段と該第二の撮像手段が出力するステレオ撮像画像を用いてステレオ画像処理を行い距離情報を演算するステレオ画像処理手段と、
    該第一の撮像手段と該第二の撮像手段の撮像条件を制御するステレオ撮像制御手段と、
    該第一の撮像手段と該第二の撮像手段が出力する撮像画像を用いて画像処理を行い、ズームの変化量を画像処理を用いて検出するズーム変化量検出手段と、
    を備え、
    該ステレオ撮像制御手段が、該ズーム変化量検出手段からズームの変化量の情報を取得し、ズーム倍率に差がある場合に、その差を補正するように該第一の撮像手段と該第二の撮像手段とを制御し、該ステレオ画像処理手段が該ズーム変化量検出手段の出力するズーム変化量を用いてステレオ画像処理を行うこと、
    を特徴とする距離計測装置。
  7. 請求項6に記載の距離計測装置において、
    該ステレオ画像処理手段が、該ズーム変化量検出手段からズームの変化量の情報を取得してステレオ画像処理を行う場合に、ズーム倍率に差がある場合にその差を補正するようにステレオ撮像画像の倍率補正を行うこと、
    を特徴とする距離計測装置。
  8. 請求項6または7に記載の距離計測装置において、
    前記ズーム変化量検出手段がズーム変化量を検出する場合に、第一の撮像手段のズーム変化量と、第二の撮像手段のズーム時のズーム変化量とをそれぞれ演算すること、
    を特徴とする距離計測装置。
  9. 請求項8に記載の距離計測装置において、
    該ズーム変化量検出手段がズーム変化量を検出する際に、複数の特徴点間の間隔を利用してズーム変化量を演算すること、
    を特徴とする距離計測装置。
  10. 請求項8に記載の距離計測装置において、
    該ズーム変化量検出手段がズーム変化量を検出する際に、ズーム変化前に取得した撮像画像とズーム変化後に取得した撮像画像の一方を複数の倍率で拡大縮小し、もう一方の撮像画像とマッチング処理を行って得られる相関値を利用してズーム変化量を演算すること、
    を特徴とする距離計測装置。
  11. 請求項8に記載の距離計測装置において、
    該ズーム変化量検出手段がズーム変化量を検出する際に、撮像画像内の特徴点と画像中心との間隔を利用してズーム変化量を演算すること、
    を特徴とする距離計測装置。
  12. 請求項6または7に記載の距離計測装置において、
    前記ズーム変化量検出手段がズーム変化量を検出する場合に、第一の撮像手段より取得した撮像画像と第二の撮像手段より取得した撮像画像を比較してズーム量の倍率差を演算すること、
    を特徴とする距離計測装置。
  13. 請求項12に記載の距離計測装置において、
    前記ズーム変化量検出手段がズーム倍率差を検出する際に、前記第一の撮像手段より取得した撮像画像と前記第二の撮像手段より取得した撮像画像の一方を複数の倍率で拡大縮小し、もう一方の撮像画像とマッチング処理を行って得られる相関値を利用してズーム倍率差を演算すること、
    を特徴とする距離計測装置。
  14. 請求項12に記載の距離計測装置において、
    前記ズーム変化量検出手段がズーム倍率差を検出する際に、複数の特徴について前記第一の撮像手段より取得した撮像画像と前記第二の撮像手段より取得した撮像画像との間でマッチング処理を行い、マッチング位置のずれの情報を利用してズーム倍率差を演算すること、
    を特徴とする距離計測装置。
  15. 請求項12に記載の距離計測装置において、
    前記ズーム変化量検出手段がズーム倍率差を検出する際に、前記第一の撮像手段より取得した撮像画像と前記第二の撮像手段より取得した撮像画像を用いてステレオ画像処理による距離計測を行い、その結果を利用してズーム倍率差を演算すること、
    を特徴とする距離計測装置。
  16. 請求項6に記載の距離計測装置において、
    ズーム変化時に生じる光軸やレンズ歪みなどの変化を補正するためのパラメータを格納する補正テーブル格納手段を備え、
    該補正テーブル格納手段が、前記ステレオ撮像制御部が出力するズーム制御情報や、前記ズーム変化量検出手段が検出したズーム変化量情報を取得して、適切なパラメータを前記ステレオ画像処理手段に出力し、前記ステレオ画像処理手段が補正テーブルを用いてキャリブレーション処理を行うこと、
    を特徴とする距離計測装置。
  17. 請求項16に記載の距離計測装置において、
    前記補正テーブル格納手段が、前記ズーム変化量検出手段が検出したズーム変化量情報に対応する補正テーブルを前記ズーム変化量検出手段に出力し、前記ズーム変化量検出手段が補正テーブルを用いてステレオ撮像画像の補正処理を前意処理にて行い、ズーム変化量の検出を再度行うこと、
    を特徴とする距離計測装置。
  18. 請求項1から17のいずれかに記載の距離計測装置において、
    前記ステレオ撮像制御手段が、前記ステレオ画像処理手段がズーム制御の途中で取得したステレオ撮像画像においても好適にステレオ画像処理が行えるように、ズームの制御を行うこと、
    を特徴とする距離計測装置。
  19. 撮像を行うズームが可変な第一の撮像手段と、
    撮像を行うズームが可変な第二の撮像手段と、
    該第一の撮像手段と該第二の撮像手段が出力するステレオ撮像画像を用いてステレオ画像処理を行い距離情報を演算するステレオ画像処理手段と、
    該第一の撮像手段と該第二の撮像手段が出力する撮像画像を用いて画像処理を行い、ズームの変化量を画像処理を用いて検出するズーム変化量検出手段と、
    該第一の撮像手段と該第二の撮像手段とを制御するために必要な情報を映像または音声などで出力するユーザ操作指示インタフェース手段と、
    を備え、
    該ユーザ操作指示インタフェース手段が、該ズーム変化量検出手段からズームの変化量の情報を取得し、ズーム倍率に差がある場合に、該第一の撮像手段と該第二の撮像手段とをユーザが操作してその差を補正するために必要な情報を出力し、該ステレオ画像処理手段が該ズーム変化量検出手段の出力するズーム変化量を用いてステレオ画像処理を行うこと、
    を特徴とする距離計測装置。
  20. 請求項1から19に記載の距離計測装置において、
    前記ズーム変化量検出手段が行うズーム変化量の検出処理を、距離計測装置の経年変化の対応に利用すること、
    を特徴とする距離計測装置。
JP2006246253A 2006-09-12 2006-09-12 距離計測装置 Active JP4957134B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006246253A JP4957134B2 (ja) 2006-09-12 2006-09-12 距離計測装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006246253A JP4957134B2 (ja) 2006-09-12 2006-09-12 距離計測装置

Publications (2)

Publication Number Publication Date
JP2008070120A true JP2008070120A (ja) 2008-03-27
JP4957134B2 JP4957134B2 (ja) 2012-06-20

Family

ID=39291843

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006246253A Active JP4957134B2 (ja) 2006-09-12 2006-09-12 距離計測装置

Country Status (1)

Country Link
JP (1) JP4957134B2 (ja)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010103949A (ja) * 2008-10-27 2010-05-06 Fujifilm Corp 撮影装置、方法およびプログラム
WO2010100915A1 (ja) * 2009-03-06 2010-09-10 パナソニック株式会社 測距装置及びその製造方法
JP2011041990A (ja) * 2009-08-19 2011-03-03 Denso Wave Inc ロボットの制御装置及びロボットのティーチング方法
WO2011125937A1 (ja) * 2010-04-06 2011-10-13 富士フイルム株式会社 キャリブレーションデータ選択装置、選択方法、及び選択プログラム、並びに三次元位置測定装置
JP2012202942A (ja) * 2011-03-28 2012-10-22 Casio Comput Co Ltd 三次元モデリング装置、三次元モデリング方法、ならびに、プログラム
JP2014062803A (ja) * 2012-09-21 2014-04-10 Tadano Ltd 監視カメラ装置
WO2016103621A1 (ja) * 2014-12-24 2016-06-30 パナソニックIpマネジメント株式会社 3次元情報復元装置、3次元情報復元システム、及び3次元情報復元方法
JP2016218758A (ja) * 2015-05-20 2016-12-22 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および情報処理方法
JP2017090420A (ja) * 2015-11-17 2017-05-25 パナソニックIpマネジメント株式会社 3次元情報復元装置及び3次元情報復元方法
WO2018051809A1 (ja) * 2016-09-16 2018-03-22 ソニーセミコンダクタソリューションズ株式会社 撮像装置、及び、電子機器
JP2020122754A (ja) * 2019-01-31 2020-08-13 株式会社豊田中央研究所 3次元位置推定装置及びプログラム
WO2024122135A1 (ja) * 2022-12-08 2024-06-13 日立Astemo株式会社 画像処理装置及び画像処理方法
JP7554105B2 (ja) 2020-12-02 2024-09-19 ヤマハ発動機株式会社 距離認識システムおよびその制御方法、船舶
WO2024195373A1 (ja) * 2023-03-22 2024-09-26 株式会社Jvcケンウッド 三次元情報処理装置及び三次元情報処理方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9404742B2 (en) * 2013-12-10 2016-08-02 GM Global Technology Operations LLC Distance determination system for a vehicle using holographic techniques

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0252204A (ja) * 1988-08-15 1990-02-21 Nippon Telegr & Teleph Corp <Ntt> 3次元座標計測装置
JPH08280006A (ja) * 1995-04-06 1996-10-22 Yazaki Corp 車両周辺監視装置
JPH1021401A (ja) * 1996-07-04 1998-01-23 Canon Inc 三次元情報処理装置
JP2000074665A (ja) * 1998-06-19 2000-03-14 Sony Corp 距離画像生成装置及び方法
JP2001091245A (ja) * 1999-09-22 2001-04-06 Fuji Heavy Ind Ltd ステレオ画像処理装置
JP2002010297A (ja) * 2000-06-26 2002-01-11 Topcon Corp ステレオ画像撮影システム
JP2003097914A (ja) * 2001-09-25 2003-04-03 Nippon Hoso Kyokai <Nhk> 位置検出装置及び位置検出プログラム
JP2006093860A (ja) * 2004-09-21 2006-04-06 Olympus Corp 2眼撮像系を搭載したカメラ

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0252204A (ja) * 1988-08-15 1990-02-21 Nippon Telegr & Teleph Corp <Ntt> 3次元座標計測装置
JPH08280006A (ja) * 1995-04-06 1996-10-22 Yazaki Corp 車両周辺監視装置
JPH1021401A (ja) * 1996-07-04 1998-01-23 Canon Inc 三次元情報処理装置
JP2000074665A (ja) * 1998-06-19 2000-03-14 Sony Corp 距離画像生成装置及び方法
JP2001091245A (ja) * 1999-09-22 2001-04-06 Fuji Heavy Ind Ltd ステレオ画像処理装置
JP2002010297A (ja) * 2000-06-26 2002-01-11 Topcon Corp ステレオ画像撮影システム
JP2003097914A (ja) * 2001-09-25 2003-04-03 Nippon Hoso Kyokai <Nhk> 位置検出装置及び位置検出プログラム
JP2006093860A (ja) * 2004-09-21 2006-04-06 Olympus Corp 2眼撮像系を搭載したカメラ

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010103949A (ja) * 2008-10-27 2010-05-06 Fujifilm Corp 撮影装置、方法およびプログラム
WO2010100915A1 (ja) * 2009-03-06 2010-09-10 パナソニック株式会社 測距装置及びその製造方法
JP4880799B2 (ja) * 2009-03-06 2012-02-22 パナソニック株式会社 測距装置及びその製造方法
US8654194B2 (en) 2009-03-06 2014-02-18 Panasonic Corporation Distance measuring device and method for manufacturing same
JP2011041990A (ja) * 2009-08-19 2011-03-03 Denso Wave Inc ロボットの制御装置及びロボットのティーチング方法
WO2011125937A1 (ja) * 2010-04-06 2011-10-13 富士フイルム株式会社 キャリブレーションデータ選択装置、選択方法、及び選択プログラム、並びに三次元位置測定装置
CN102822621A (zh) * 2010-04-06 2012-12-12 富士胶片株式会社 校准数据选择装置、选择方法、选择程序以及三维位置测量设备
JP2012202942A (ja) * 2011-03-28 2012-10-22 Casio Comput Co Ltd 三次元モデリング装置、三次元モデリング方法、ならびに、プログラム
JP2014062803A (ja) * 2012-09-21 2014-04-10 Tadano Ltd 監視カメラ装置
US20170345184A1 (en) * 2014-12-24 2017-11-30 Panasonic Intellectual Property Management Co., Ltd. Three-dimensional information restoration device, three-dimensional information restoration system, and three-dimensional information restoration method
WO2016103621A1 (ja) * 2014-12-24 2016-06-30 パナソニックIpマネジメント株式会社 3次元情報復元装置、3次元情報復元システム、及び3次元情報復元方法
US10249058B2 (en) 2014-12-24 2019-04-02 Panasonic Intellectual Property Management Co., Ltd. Three-dimensional information restoration device, three-dimensional information restoration system, and three-dimensional information restoration method
JP2016218758A (ja) * 2015-05-20 2016-12-22 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および情報処理方法
US10638120B2 (en) 2015-05-20 2020-04-28 Sony Interactive Entertainment Inc. Information processing device and information processing method for stereoscopic image calibration
JP2017090420A (ja) * 2015-11-17 2017-05-25 パナソニックIpマネジメント株式会社 3次元情報復元装置及び3次元情報復元方法
WO2018051809A1 (ja) * 2016-09-16 2018-03-22 ソニーセミコンダクタソリューションズ株式会社 撮像装置、及び、電子機器
EP3515057A4 (en) * 2016-09-16 2019-10-02 Sony Semiconductor Solutions Corporation PICTURE RECORDING DEVICE AND ELECTRONIC DEVICE
US10795024B2 (en) 2016-09-16 2020-10-06 Sony Semiconductor Solutions Corporation Imaging device and electronic device
US12061264B2 (en) 2016-09-16 2024-08-13 Sony Semiconductor Solutions Corporation Imaging device and electronic device
JP2020122754A (ja) * 2019-01-31 2020-08-13 株式会社豊田中央研究所 3次元位置推定装置及びプログラム
JP7554105B2 (ja) 2020-12-02 2024-09-19 ヤマハ発動機株式会社 距離認識システムおよびその制御方法、船舶
WO2024122135A1 (ja) * 2022-12-08 2024-06-13 日立Astemo株式会社 画像処理装置及び画像処理方法
WO2024195373A1 (ja) * 2023-03-22 2024-09-26 株式会社Jvcケンウッド 三次元情報処理装置及び三次元情報処理方法

Also Published As

Publication number Publication date
JP4957134B2 (ja) 2012-06-20

Similar Documents

Publication Publication Date Title
JP4957134B2 (ja) 距離計測装置
JP6245885B2 (ja) 撮像装置およびその制御方法
US10277809B2 (en) Imaging device and imaging method
KR101415872B1 (ko) 영상 획득 장치의 자동초점조절 방법 및 장치
US20070189750A1 (en) Method of and apparatus for simultaneously capturing and generating multiple blurred images
JP5483953B2 (ja) 焦点調節装置、焦点調節方法及びプログラム
JP5094068B2 (ja) 撮像装置及びフォーカス制御方法
JP5839786B2 (ja) 撮像装置およびトラッキングデータの調整方法
US8872944B2 (en) Method and system for image centering during zooming
JP2014168227A (ja) 画像処理装置、撮像装置、画像処理方法
JP2008241491A (ja) 3次元計測装置
WO2015050008A1 (ja) 撮像装置、撮像装置の作動方法
JP2008026802A (ja) 撮像装置
WO2011125937A1 (ja) キャリブレーションデータ選択装置、選択方法、及び選択プログラム、並びに三次元位置測定装置
JP2010117593A (ja) 距離情報取得装置、撮像装置、及びプログラム
JP2013044844A (ja) 画像処理装置および画像処理方法
JP2017194569A (ja) 画像処理装置、撮像装置及び画像処理方法
US10999491B2 (en) Control apparatus, image capturing apparatus, control method, and storage medium
JP5454392B2 (ja) 測距装置及び撮像装置
JP6486453B2 (ja) 画像処理装置、画像処理方法、プログラム
JP4574559B2 (ja) 撮像装置、合焦位置検出装置、及び合焦位置検出方法
JP2007166442A (ja) 撮像装置
JP2000105332A (ja) 焦点位置決定方法および装置
JPH0252204A (ja) 3次元座標計測装置
JPH07209576A (ja) 光学的検出装置およびフォーカス制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080725

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110322

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110527

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120221

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120305

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150330

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4957134

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250