JP2004354256A - キャリブレーションずれ検出装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステム - Google Patents
キャリブレーションずれ検出装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステム Download PDFInfo
- Publication number
- JP2004354256A JP2004354256A JP2003153450A JP2003153450A JP2004354256A JP 2004354256 A JP2004354256 A JP 2004354256A JP 2003153450 A JP2003153450 A JP 2003153450A JP 2003153450 A JP2003153450 A JP 2003153450A JP 2004354256 A JP2004354256 A JP 2004354256A
- Authority
- JP
- Japan
- Prior art keywords
- calibration
- unit
- deviation
- calibration data
- shift
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
Abstract
【課題】3次元計測等を行うステレオ画像を撮影する撮影装置のキャリブレーションずれを、簡易に定量的に検出することが可能なキャリブレーションずれ検出装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステムを提供することである。
【解決手段】ステレオ画像を撮影する撮影装置のキャリブレーションずれを検出するキャリブレーションずれ検出装置に於いて、撮影装置11に関わるキャリブレーションデータがキャリブレーションデータ記憶装置8に記憶されている。上記撮影装置11が撮影したステレオ画像から特徴抽出装置5によって特徴が抽出される。この特徴抽出装置5で抽出された特徴に基づき、上記キャリブレーションデータ記録装置8に記憶されたキャリブレーションデータに関するキャリブレーションずれが、キャリブレーションずれ判定装置6で判定される。
【選択図】 図1
【解決手段】ステレオ画像を撮影する撮影装置のキャリブレーションずれを検出するキャリブレーションずれ検出装置に於いて、撮影装置11に関わるキャリブレーションデータがキャリブレーションデータ記憶装置8に記憶されている。上記撮影装置11が撮影したステレオ画像から特徴抽出装置5によって特徴が抽出される。この特徴抽出装置5で抽出された特徴に基づき、上記キャリブレーションデータ記録装置8に記憶されたキャリブレーションデータに関するキャリブレーションずれが、キャリブレーションずれ判定装置6で判定される。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、ステレオ画像を撮影する撮影装置のキャリブレーションずれを検出するキャリブレーションずれ検出装置及びステレオカメラに関する。更に、本発明は、位置の基準を規定する外部装置とステレオ画像を撮影する撮影装置との間のキャリブレーションずれを検出するキャリブレーションずれ検出装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステムに関するものである。
【0002】
【従来の技術】
従来より使用されている画像撮影装置に関わるキャリブレーションに関しては、大きくわけると
▲1▼ステレオ画像を撮影する装置自体に関わるキャリブレーション
▲2▼撮影装置と外部装置間の位置姿勢に関わるキャリブレーション
に相当するものがある。
【0003】
上記▲1▼に関するキャリブレーションは、いわゆるステレオカメラのキャリブレーションとして一般的に知られているものである。これは、ステレオカメラの撮影特性に関するパラメータである、焦点距離、拡大率、画像中心、レンズディストーション等に代表されるカメラパラメータと、ステレオカメラを構成する少なくとも2台のカメラ間の位置姿勢関係を規定する位置姿勢パラメータに関するキャリブレーションである。こうしたパラメータは、ステレオ撮影装置の内部キャリブレーションパラメータと称される。
【0004】
また、上記▲2▼に関するキャリブレーションは、ステレオ撮影装置と外部装置間の位置姿勢に関するパラメータに関するキャリブレーションに相当する。より具体的には、例えば、ステレオ撮影装置がある環境に配置されている場合には、ステレオカメラが設置されている環境内での位置姿勢パラメータが、このキャリブレーションで規定すべきパラメータとなる。また、ステレオ撮影装置が車両に装着され、そのステレオカメラで車両前方の障害物の位置関係を計測する場合には、車両の基準となる原点に対して、ステレオ撮影装置がどこに装着してあるかを規定する位置姿勢パラメータがキャリブレーションで規定すべきパラメータとなる。こうしたパラメータは、撮影装置と外部装置間の外部キャリブレーションパラメータと称される。
【0005】
次に、こうしたキャリブレーションずれに関して説明する。
【0006】
上記▲1▼のステレオ撮影装置の内部キャリブレーションパラメータに起因するキャリブレーションずれに関して考える。例えば、2台のカメラからステレオ画像を撮影する装置の場合には、(▲1▼−1)各カメラの撮影に関するカメラパラメータのずれに基づくキャリブレーションずれ、(▲1▼−2)2台のカメラ間の位置姿勢を規定するパラメータのずれに基づくキャリブレーションずれ、に分けることができる。
【0007】
例えば、上記(▲1▼―1)に関するキャリブレーションずれが起こる原因としては、カメラを構成する光学レンズ系の変形、光学レンズ系と撮像素子(CCDやCMOS等)との間の位置ずれ、光学レンズのフォーカス位置のずれ、光学レンズのズームレンズの制御系のずれ等が考えられる。
【0008】
また、上記(▲1▼−2)に関するキャリブレーションずれが起こる原因としては、2台のカメラ間を固定する機構の位置ずれによる。例えば、2台のカメラを機械的なシャフトで固定している場合には、そのシャフトの経時的変形等がこの例に対応する。また、2台のカメラをねじ止めであるシャフトに装着してある場合には、そのねじの弛み等による位置ずれ等にも起因する。
【0009】
一方、上記▲2▼のキャリブレーションずれが起こる原因としては、ステレオ撮影装置と外部装置を固定する機械的要素の変形、取り付け治具の変形などが考えられる。例えば、車載カメラにステレオ撮影装置を利用して、この撮影装置をフロントウィンドウとバックミラーの間の取り付け治具を用いて、外部装置である車両に取り付ける場合を考える。この場合、車両の基準位置を車両先端と規定すれば、ステレオ撮影装置の取り付け治具自体の変形、取り付け部材である「ねじ」の弛み等による変形、車両自体の経時的変形、寒冷地等の使用する際の季節的変動に伴う車両や取り付け治具の機械的変形等、各種の機械的変形に伴うキャリブレーションずれを考えることができる。
【0010】
こうしたキャリブレーションずれの検出或いは補正の従来例を考えると、以下のような技術が提案されている(例えば、特許文献1、非特許文献1及び非特許文献参照)
上記特許文献1に記載の方式は、ステレオカメラの撮影画像の光学的位置ずれを補正するもので、上記▲2▼の撮影装置と外部装置間の位置姿勢に関わるキャリブレーションに関するキャリブレーションずれを補正する方法が提供されている。より具体的には、2台のカメラのそれぞれの視野に設定した基準マーカの各撮影画像内での初期位置を記憶しており、実際に撮影された画像内での位置ずれから、位置ずれに関わる補正を行うものである。
【0011】
また、上記非特許文献1に記載の方式は、2台のカメラで撮影された自然特徴点(撮影された画像から任意に選択された特徴点)を利用して、2台のカメラに関わる相対的な位置関係を算出する方法がある。この算出にあたっては、数学的に基本行列を算出するものである。基本的には、カメラ間の距離に関わる推定値は相対的な推定により算出されるものである。またカメラのレンズディストーションは無視できると仮定している。
【0012】
更に、上記非特許文献2の方式は、一般的なカメラキャリブレーションの方法とステレオカメラへの応用を説明している。具体的には、基準座標系に数多くの既知特徴点(既知マーカ)を配置して、その特徴点の画像内での位置を算出することにより、カメラ(ステレオカメラ)に関する各種パラメータを算出する方法である。従って、この方式により、キャリブレーションパラメータを、全て再算出することが可能である。
【0013】
【特許文献1】
特開平11−325890号公報
【0014】
【比特許文献1】
徐剛、写真から作る3次元CG、近代科学社、2001
【0015】
【非特許文献2】
J. Weng, et al., ”Camera calibration with distortion models and accuracy evaluation, ” IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 14, No. 10, October 1992, pp. 965−980.
【0016】
【発明が解決しようとする課題】
上記特許文献1の従来例では、撮影装置と外部装置間の位置ずれを検出して、補正する方法を提供するのみであり、撮影装置内部キャリブレーションパラメータに関するキャリブレーションずれの検出や補正には対応できていないという課題を有している。
【0017】
また、上記非特許文献1の方法で、基本行列を算出してカメラキャリブレーションする方法では、カメラ間の絶対距離としての位置姿勢関係を算出することが不可能であるため、ステレオ撮影装置を、3次元計測装置として使用するには問題がある。
【0018】
更に、上記非特許文献2の従来例では、カメラキャリブレーションの一般的方法を提供するものであり、元来キャリブレーションずれを目的としたものではない。加えて、キャリブレーションを実行するためには、複数の既知マーカを配置して処理を行わなければならないという課題を有していた。
【0019】
本発明は、このような課題に鑑みてなされたものであり、その目的とするところは、3次元計測等を行うステレオ画像を撮影する撮影装置のキャリブレーションが、経時変化や衝撃振動などの機械ずれによっても、ステレオ画像を解析することにより、簡易にキャリブレーションずれを定量的に検出することが可能なキャリブレーションずれ検出装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステムを提供することにある。
【0020】
【課題を解決するための手段】
すなわち請求項1に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を具備することを特徴とする。
【0021】
請求項2に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を具備することを特徴とする。
【0022】
請求項3に記載の発明は、基準位置を規定するために利用される所定の外部装置と撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を具備することを特徴とする。
【0023】
請求項4に記載の発明は、基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を具備することを特徴とする。
【0024】
請求項5に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、を具備することを特徴とする。
【0025】
請求項6に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理装置と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、を具備することを特徴とする。
【0026】
請求項7に記載の発明は、基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、を具備することを特徴とする。
【0027】
請求項8に記載の発明は、基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、を具備することを特徴とする。
【0028】
請求項9に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0029】
請求項10に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理装置と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0030】
請求項11に記載の発明は、基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0031】
請求項12に記載の発明は、基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0032】
請求項13に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0033】
請求項14に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出ぶが抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0034】
請求項15に記載の発明は、基準位置を規定するために利用された所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0035】
請求項16に記載の発明は、基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影するための撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0036】
請求項17に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づき、上記撮影装置により得たステレオ画像に対しディストーションを補正するディストーション処理を施すディストーション補正処理部を更に具備することを特徴とする。
【0037】
請求項18に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記特徴抽出部は、当該ステレオ画像の対応関係にある特徴を複数抽出するように構成されたことを特徴とする。
【0038】
請求項19に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記特徴抽出部は、上記撮影装置により得たステレオ画像の対応関係にある特徴を複数抽出し、該複数抽出された対応のとれた特徴のうち異常と判定できる特徴は排除して、上記キャリブレーションずれ判定部でのずれ判定に供するように構成されたことを特徴とする。
【0039】
請求項20に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記キャリブレーションずれ判定部は、上記撮影装置により得たステレオ画像の対応関係にある特徴について、上記キャリブレーションデータ保持部が保持するキャリブレーションデータに基づくエピポーラ線拘束を利用してキャリブレーションずれを判定するように構成されたことを特徴とする。
【0040】
請求項21に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記特徴抽出部は、上記撮影装置により得たステレオ画像の一方の画像内でキャリブレーションずれ検出に有効な特徴を選択する特徴選択部と、当該選択された特徴に対応する特徴を他方の画像内から抽出若しくは探索する特徴対応探索部と、を含んでなることを特徴とする。
【0041】
請求項22に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記キャリブレーションデータ保持部は、相対的な位置関係が既知な複数の特徴のデータを保持するものであり、上記キャリブレーションずれ判定部は、上記特徴抽出部が抽出した特徴を表す情報に上記キャリブレーションデータ保持部が保持する上記位置関係を表すデータも利用してキャリブレーションずれ判定を行うものであることを特徴とする。
【0042】
請求項23に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記撮影装置として、複数の視点による視差を生じる複数の像を得る光学系と単一のカメラ部とを有するステレオアダプタ方式の撮影装置に対してそのキャリブレーションずれ検出を行うように構成されたことを特徴とする。
【0043】
請求項24に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記撮影装置としての、複数のカメラを含んでなる撮像システムを対象としてキャリブレーションずれ検出を行うように構成されたものであることを特徴とする。
【0044】
請求項25に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、車載型の上記撮像装置に係るキャリブレーションずれを検出するように構成されたことを特徴とする。
【0045】
請求項26に記載の発明は、請求項9乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記状況判断部は、外部センサの出力に基づいて状況判断を行うことを特徴とする。
【0046】
請求項27に記載の発明は、請求項5、6、7、8、13、14、15若しくは16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に係る処理動作中である旨を表示可能に構成されたものであることを特徴とする。
【0047】
請求項28に記載の発明は、請求項5、6、7、8、13、14、15若しくは16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に係る処理の結果として得られたパラメータと上記キャリブレーションデータ保持部に予め保持されていたパラメータとの差異を表わす情報を表示可能に構成されたものであることを特徴とする。
【0048】
請求項29に記載の発明は、請求項5、6、7、8、13、14、15若しくは16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、正規のずれ検出が行われ得なかったときにはその旨を表わすエラーコードを表示可能に構成されたものであることを特徴とする。
【0049】
請求項30に記載の発明は、請求項5、6、7、8、13、14、15若しくは16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に関する信頼度を表すステータスを表示可能に構成されたものであることを特徴とする。
【0050】
請求項31に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記特徴抽出部は、上記撮影装置により得たステレオ画像に関する信頼度を弁別するように構成され、該特徴抽出部が上記撮影装置により得たステレオ画像に関する信頼度が不十分であることを弁別したときには、該撮影装置による撮影処理を繰り返すように制御する制御が更に設けられることを特徴とする。
【0051】
また、請求項32に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表す映像信号出力を得るようになされた撮像部と、上記撮像部のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、を具備するステレオカメラであって、上記キャリブレーションずれ検出部は、上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮像部により得た映像信号出力としてのステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴を表す情報に基づき上記キャリブレーションデータ記憶部に記憶されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を有することを特徴とする。
【0052】
請求項33に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表す映像信号出力を得るようになされた撮像部と、上記撮像部のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、を具備するステレオカメラであって、上記キャリブレーションずれ検出部は、上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮像部が撮像したステレオ画像を、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づいてレクティフィケーション処理するレクティフィケーション処理部と、上記レクティフィケーション処理部が処理したレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴を表す情報に基づき上記キャリブレーションデータ記憶部に記憶されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を有することを特徴とする。
【0053】
請求項34に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表す映像信号出力を得るようになされた撮像部と、上記撮像部と所定の基準位置を規定する外部装置との間のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力を勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、を具備するステレオカメラであって、上記キャリブレーションずれ検出部は、上記基準位置を規定するために利用される所定の外部装置と上記撮像部の間のキャリブレーションずれに係るキャリブレーションデータを記憶するキャリブレーションデータ記憶部と、上記撮像部により得た映像信号出力としてのステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を有することを特徴とする。
【0054】
請求項35に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表す映像信号出力を得るようになされた撮像部と、上記撮像部と所定の基準位置を規定する外部装置との間のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力を勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、を具備するステレオカメラであって、上記キャリブレーションずれ検出部は、上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮像部が撮像したステレオ画像を、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づいてレクティフィケーション処理するレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴を表す情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を有することを特徴とする。
【0055】
請求項36に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表わす映像信号出力を得るようになされた撮像部と、上記撮像部のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、上記キャリブレーションずれ検出部、演算部、並びに、上記撮像部の出力に関連した所要の表示を行うための表示部と、を含んで構成されたステレオカメラシステムであって、上記キャリブレーションずれ検出部は、上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮像部により得た映像信号出力としてのステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴を表わす情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を含んで構成されたものであり、上記表示部は、上記キャリブレーションずれ判定部の判定結果を自己の表示面に表示可能に構成されたものであることを特徴とする。
【0056】
請求項37に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表わす映像信号出力を得るようになされた撮像部と、上記撮像部のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、上記キャリブレーションずれ検出部、演算部、並びに、上記撮像部の出力に関連した所要の表示を行うための表示部と、を含んで構成されたステレオカメラシステムであって、上記キャリブレーションずれ検出部は、上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮像部により得た映像信号出力としてのステレオ画像に対し上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴を表わす情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を含んで構成されたものであり、上記表示部は、上記キャリブレーションずれ判定部の判定結果を自己の表示面に表示可能に構成されたものであることを特徴とする。
【0057】
請求項38に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表わす映像信号出力を得るようになされた撮像部と、上記撮像部と所定の基準位置を規定する外部装置との間のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、上記キャリブレーションずれ検出部、演算部、並びに、上記撮像部の出力に関連した所要の表示を行うための表示部と、を含んで構成されたステレオカメラシステムであって、上記キャリブレーションずれ検出部は、上記基準位置を規定するために利用される所定の外部装置と上記撮像部間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮像部により得た映像信号出力としてのステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴を表わす情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を含んで構成されたものであり、上記表示部は、上記キャリブレーションずれ判定部の判定結果を自己の表示面に表示可能に構成されたものであることを特徴とする。
【0058】
請求項39に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表わす映像信号出力を得るようになされた撮像部と、上記撮像部と所定の基準位置を規定する外部装置との間のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、上記キャリブレーションずれ検出部、演算部、並びに、上記撮像部の出力に関連した所要の表示を行うための表示部と、を含んで構成されたステレオカメラシステムであって、上記キャリブレーションずれ検出部は、上記基準位置を規定するために利用される所定の外部装置と上記撮像部間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮像部により得た映像信号出力としてのステレオ画像に対し上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴を表わす情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を含んで構成されたものであり、上記表示部は、上記キャリブレーションずれ判定部の判定結果を自己の表示面に表示可能に構成されたものであることを特徴とする。
【0059】
請求項40に記載の発明は、請求項36、37、38若しくは39の何れかに記載のステレオカメラシステムに於いて、上記表示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に係る処理動作中である旨を表示可能に構成されたものであることを特徴とする。
【0060】
請求項41に記載の発明は、請求項36、37、38若しくは39の何れかに記載のステレオカメラシステムに於いて、上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に係る処理の結果として得られたパラメータと上記キャリブレーションデータ保持部に予め保持されていたパラメータとの差異を表わす情報を表示可能に構成されたものであることを特徴とする。
【0061】
請求項42に記載の発明は、請求項36、37、38若しくは39の何れかに記載のステレオカメラシステムに於いて、上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、正規のずれ検出が行われ得なかったときにはその旨を表わすエラーコードを表示可能に構成されたものであることを特徴とする。
【0062】
請求項43に記載の発明は、請求項36、37、38若しくは39の何れかに記載のステレオカメラシステムに於いて、上記キャリブレーションずれ検出部は、その特徴抽出部が上記撮像部により得たステレオ画像に関する信頼度を弁別するように構成され、該特徴抽出部が上記撮像部により得たステレオ画像に関する信頼度が不十分であることを弁別したときには、該撮像部による撮像処理を繰り返すように制御する制御部を更に具えたことを特徴とする。
【0063】
請求項44に記載の発明は、請求項37若しくは38に記載のステレオカメラシステムに於いて、上記キャリブレーションずれ検出部は、当該外部装置として、上記撮像部が装備された車両の特定の形状部を適用するものであることを特徴とする。
【0064】
【発明の実施の形態】
以下、図面を参照して、本発明の実施の形態について説明する。
【0065】
尚、本発明を構成する各部は、当該各部の機能を実現する各個の装置としても観念できるものであるため、以下、実施の形態の説明に於いてはこれらを装置と称呼する。尚、キャリブレーションデータ保持部は、キャリブレーションに係るデータを記憶、保持するキャリブレーションデータ記憶装置として実現される。
【0066】
(第1の実施の形態)
初めに、第1の実施の形態として、撮影装置内部のキャリブレーションずれ検出について説明する。
【0067】
図1は、本発明の第1の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。本実施の形態では、ステレオ撮影装置に関する内部キャリブレーションパラメータに関するキャリブレーションずれを検出する方法である。
【0068】
図1に於いて、このキャリブレーションずれ検出装置1は、各部の装置に制御信号を送ったり全体のシーケンスを司る制御装置2と、状況判断装置3と、レクティフィケーション処理装置4と、特徴抽出装置5と、キャリブレーションずれ判定装置6と、ずれ結果呈示装置7と、キャリブレーションデータ記憶装置8とを有して構成されている。
【0069】
このキャリブレーションずれ検出装置1は、ステレオ画像を撮影し、キャリブレーションずれを検出すべき撮影装置11を、キャリブレーションずれがあるどうかを検出するための装置である。
【0070】
上記状況判断装置3は、キャリブレーションずれ検出を行うかどうかを判断するためのものである。上記キャリブレーションデータ記憶装置8は、予め撮影装置11のキャリブレーションデータを記憶しているものである。
【0071】
また、上記レクティフィケーション処理装置4は、撮影装置11で撮影されたステレオ画像をレクティフィケーション処理するためのものである。特徴抽出装置5は、このレクティフィケーション処理装置4でレクティフィケーション処理されたステレオ画像からステレオ画像内で対応する特徴を抽出するためのものである。
【0072】
キャリブレーションずれ判定装置6は、特徴抽出装置5で抽出された特徴と、キャリブレーションデータ記憶装置に記憶されたキャリブレーションデータを利用して、キャリブレーションずれがあるか否かを判定する。そのずれ判定結果により、ずれ結果呈示装置7が、ずれ結果を報告するようになっている。
【0073】
ずれ結果呈示装置7は、本発明の構成要素たるずれ結果呈示部をなすものであるが、このずれ結果呈示部は図25に基づいて後述する表示装置108を表示器として自己の構成要素として保有する形態を採り得るが、該ずれ結果呈示部は、より一般的に、このような表示器までも自己の部分として保有する態様のものに限られず、キャリブレーションずれ判定装置6による判定結果を表す信号に基づいて、ずれ結果を呈示するための出力信号乃至データを生成する限りの態様を採る場合もあり得る。
【0074】
尚、キャリブレーションずれ検出装置1内の各装置は、ハードウェアや回路で構成されたもよいし、コンピュータやデータ処理装置のソフトウェアで処理されてもよい。
【0075】
ここで、第1の実施の形態の具体的説明をする前に、本発明で重要となるステレオ撮影に関する技術的内容について、その概要を説明する。
【0076】
[数学的準備とカメラモデル]
先ず、ステレオ画像を利用して撮像装置で画像を撮影すると、その画像は、撮像装置内の撮像素子(例えば、CCDやCMOS等の半導体素子)で画像として結像されると共に画像信号となる。この画像信号は、アナログ或いはデジタル信号であるが、キャリブレーションずれ検出装置内では、デジタル画像データとなる。デジタルデータは2次元配列として表現できるが、もちろん六方細密充填のようなハニカム構造の2次元配列でも良いことは当然である。
【0077】
撮影装置がアナログ画像を送信する場合には、キャリブレーションずれ検出装置内或いはその装置外にフレームメモリを用意して、その画像をデジタル画像に変換する。キャリブレーションずれ検出装置内で規定される画像について、その画素は、正方或いは長方格子状に定義できると仮定する。
【0078】
いま、画像の座標を(u,v)等の2次元座標で表現することとする。
【0079】
先ず、図2に示されるように、ステレオ画像を撮影する撮影装置11は、左右の2台のカメラ12a、12bとから構成されているとする。そして、左画像を撮影するカメラ12aを規定する座標系を左カメラ座標系L、右画像を撮影する座標系を右カメラ座標系Rとする。そして、ステレオ画像として、左カメラ内の画像座標を(uL ,vL )、右カメラ内の画像座標値を(uR ,vR )等で表現するとする。尚、13a、13bは、それぞれ左カメラ画像面、右カメラ画像面とする。
【0080】
また、撮影装置11の全体が規定する基準座標系を定義することも可能である。この基準座標系を、例えばWとする。もちろん、基準座標系として、一方のカメラ座標系LまたはRを採用しても良いことは明白である。
【0081】
いままでは、撮影装置として2台のカメラによるステレオ撮影により、ステレオ画像を生成するものを考えてきたが、これ以外にステレオ画像を生成する方法もある。例えば、1台のカメラの前にステレオアダプタを装着して、同時に左右画像を1台のCCD或いはCMOSなどの撮像素子の中に撮影する方法である(例えば、本件出願人による特開平8−171151号公報等参照)。
【0082】
このようなステレオアダプタの場合には、図3に示されるように、左ミラー群14a、右ミラー群14bを有するステレオアダプタで撮影される画像は、あたかも2台の撮像装置で2台のフレームメモリが存在するかの如く、通常のステレオカメラに展開することができる。また、ステレオアダプタの変形例としては、上述した特開平8−171151号公報にあるように、左右ステレオ画像をCCD面上で上下分割するように光学的な変形素子を設けるものでもよい。
【0083】
本発明に於けるステレオ撮影は、このように2台或いは2台以上の複数のカメラで撮影されるステレオ画像でもよい。或いは、ステレオアダプタを利用して撮影されるステレオ画像でもよい。
【0084】
本発明では、こうしたステレオ画像を撮影する装置の光学系として、光学レンズ系にレンズディストーションがある場合でも可能なような装置構成とする。但し、先ず説明を簡単にするために、光学系にはレンズディストーションがない場合に関する撮像に関する数学的モデル化を行い、続いてより一般化したレンズディストーションを含む場合の取り扱いを行う。
【0085】
そのために、先ず、撮像装置とフレームメモリの光学的特性をピンホールカメラでモデル化することを考える。
【0086】
すなわち、左画像に関連するピンホールカメラモデルの座標系を左カメラ座標系Lとし、右画像に関連するピンホールカメラモデルの座標系を右カメラ座標系Rとする。また左カメラ座標系L内の点を(xL,yL,zL)、その画像対応点を(uL,vL)、右カメラ座標系R内の点を(xR,yR,zR)、その画像対応点を(uR,vR)とすると、図2に示されるカメラ位置CL,CRを考慮しながら、下記式の如く求める。
【0087】
【数1】
【0088】
ここで本数学的モデルでは、カメラの横及び縦方向の画像拡大率を持って、カメラの焦点距離に関するパラメータをモデル化しているが、もちろんこれらのパラメータをカメラの焦点距離に関するパラメータのみで記述することは可能である。
【0089】
基準座標系Wで定義される点P(x,y,z)の左画像内での位置を(uL,vL)、右画像内での位置を(uR,vR)とし、左画像で想定される撮像装置とフレームメモリに対応する左カメラ12aの基準座標系に於ける位置CL(左カメラ座標系の原点)と、右画像で想定される撮像装置とフレームメモリに対応する右カメラ12bの基準標系に於ける位置CR (右カメラ座標系の原点)を考えることができる。このとき、基準座標系Wの点P(x,y,z)から左(uL,vL)へ射影される変換式と、同一の点から右(uR,vR)へ射影される変換式は、以下のように表すことができる。
【0090】
【数2】
【0091】
一方基準座標系として例えば左カメラ座標系を採用した場合には、下記式の如くなる。
【0092】
【数3】
【0093】
[ディストーション補正]
一方、撮像装置の光学レンズ等のレンズディストーションが3次元計測に要求精度に対して無視できない場合には、レンズディストーションを含めた光学系を考える必要がある。この場合には、上記式(3)、(4)は、以下に示されるような式(7)、(8)で表現することができる。この式では、レンズディストーションを表現するのにラディアルディストーションとタンジェンシャルディストーションを表したものであるが、もちろんこれ以外のディストーション表現であってもよい。
【0094】
【数4】
【0095】
またディストーション除去或いはディストーション補正のステップとは、以下のようにして画像を生成することを意味する。
【0096】
(左画像のディストーション補正)
【数5】
【0097】
(右画像のディストーション補正)
【数6】
【0098】
[内部キャリブレーションパラメータとキャリブレーションずれ問題の定義]
2台のカメラから構成されるステレオ画像を撮影する撮影装置の、左カメラの座標系をL、右カメラの座標系をRとして、これらのカメラの位置関係を考える。座標系Lと座標系Rの間の座標値の関係は、座標変換(回転行列と並進ベクトル)を利用して、下記のように表現することができる。
【0099】
【数7】
【0100】
【数8】
【0101】
本発明に於いては、この撮影装置の内部キャリブレーションパラメータpなどをキャリブレーションパラメータとして、キャリブレーションデータ記憶装置に記憶される。キャリブレーションデータとしては、このカメラキャリブレーションパラメータpは少なくとも含まれていることとする。
【0102】
【数9】
【0103】
またキャリブレーションずれの検出とは、このように設定されたキャリブレーションパラメータの値が変化したかを検出することである。
【0104】
[外部キャリブレーションパラメータとキャリブレーションずれ問題の定義]
先に説明したように、撮影装置と外部装置間のキャリブレーションも考える必要がある。
【0105】
この場合には、例えば左カメラ座標系Lを撮影装置の基準座標系としてとり、左カメラ座標系と外部装置間の間の位置姿勢関係を規定することがキャリブレーションに相当する。例えば、外部装置の座標系をOとすると、外部装置座標系Oから左カメラ座標系Lへの座標変換パラメータを式(18)のようにすると、式(19)で表される6個のパラメータにより、その位置姿勢関係を記述することができる。
【0106】
【数10】
【0107】
[ステレオ画像におけるエピポーラ線拘束]
ステレオ画像を用いて画像計測を行う際には、後にも述べるとおり、左右画像内で対応点探索を行うことが重要になる。この対応点探索に関して重要なのがいわゆるエピポーラ線拘束という概念である。以下、図4(a)、(b)を参照して説明する。
【0108】
【数11】
【0109】
この直線のことをエピポーラ線と称する。
【0110】
ここで重要なのは、ディストーションが画像内で顕著なときには、ディストーション補正或いは除去を予め行っておかなければならないということである。また、ディストーション補正された正規化画像に於いても、同様にエピポーラ線拘束が成立する。従って、以下では、先ずディストーション補正され、かつ正規化された画像面内で、本発明で考えるエピポーラ線の定義を行う。
【0111】
【数12】
【0112】
今までは、正規化された画像面で考えてきたが、ディストーション補正された画像面でも同様にエピポーラ線の方程式を導くことができる。
【0113】
【数13】
【0114】
[レクティフィケーション処理]
以上、エピポーラ線拘束を左右画像内の特徴点として考えてきたが、それ以外の方法として、レクティフィケーション(rectification)処理というものが、ステレオ画像処理ではよく用いられる。
【0115】
以下に、本発明に於けるレクティフィケーションについて説明する。
【0116】
レクティフィケーション処理を行うと、左右の画像内で対応する特徴点どうしが同一水平直線上になるという拘束を導くことができる。言い換えれば、レクティフィケーション処理後の画像では、左画像の同一直線上の特徴点群が、右画像上で同一直線をエピポーラ線として定義できることになる。
【0117】
図5は、この様子を表したものである。図5(a)はレクティフィケーション前の画像を表しており、(b)はレクティフィケーション後の画像を表している。
【0118】
このようなレクティフィケーションを実現するために、図6に示されるように、左右カメラ原画像を、互いに水平になるようにそれぞれ変換する。この際、左カメラ座標系Lと右カメラ座標系Rの原点CL ,CR は移動せずに、カメラ座標系の軸のみを変更することにより、新しい左右の画像面を生成するわけである。
【0119】
左カメラ座標系Lと右カメラ座標系Rを、レクティフィケーションした後の座標系をそれぞれLRect ,RRect とする。上述したとおり、LとLRect 、RとRRect の原点は一致する。
【0120】
これから2個の座標系の座標系間の座標変換を考えるが、その前に基準座標系を左カメラ座標系Lととることにする。(基準座標系を他にとっても同様である。)
このとき、レクティフィケーション後の左カメラ座標系LRect と右カメラ座標系RRect を以下のように定義する。
【0121】
先ず、左カメラ座標系Lの原点から右カメラ座標系Rの原点へのベクトルを考える。これは、もちろん基準座標系を基準として測ったものである。
【0122】
【数14】
【0123】
このように設定すると、図5或いは図6で示されるように、正規化された画像空間では、左右の対応点が一直線上(エピポーラ線上)に配置されるようになることは自明である。
【0124】
【数15】
【0125】
【数16】
【0126】
【数17】
【0127】
右カメラ系でも同様である。
【0128】
いままでは、ディストーション補正を含まないカメラ系で説明してきたが、ディストーション補正を含む実際の場合には、以下のような方法によればよい。
【0129】
【数18】
【0130】
[ディストーション除去を含むレクティフィケーションステップ (RecL及びRecRステップ)]
【数19】
【0131】
これまでレクティフィケーション処理の方法として、上記のような説明をしたが、レクティフィケーションの方法はこれに限られるものではない。例えば、Andrea Fusiello, et al, ”A compact algorithm for rectification of stereo pairs,” Machine Vision and Applications, 2000, 12: 16−22に示されているような方法でもよい。
【0132】
以上、実施の形態を説明するのに必要となる用語の説明と処理の方法について述べたが、以下に、図1に示されるキャリブレーションずれ検出装置に関して具体的に説明する。
【0133】
図7は、本第1の実施の形態に於けるキャリブレーションずれ検出装置の詳細な動作を説明するフローチャートである。尚、本実施の形態に於いては、制御装置2の制御によって動作される。
【0134】
先ず、ステップS1に於いて、状況判断装置3によって、キャリブレーションずれが現時点で検出されるべきか否かが判断される。ここで判断される方法としては、次のようなものがある。
【0135】
キャリブレーションデータ記憶装置8に記憶された、キャリブレーションパラメータが過去に設定された時刻や状態等から判断する。例えば、キャリブレーションずれを定期的に行う場合には、その過去の時刻と現在時刻との差をとり、その差がある閾値より大きければ、キャリブレーションずれを検出すべきか否かを判断する。
【0136】
その他、自動車等の、装着された撮影装置の場合等には、車に装着された走行距離メータ(Odometer)等の値から判断してもよい。
【0137】
また、現在の天候や時間がキャリブレーションずれを検出するのに適しているか否かを判断するなどということも考えられる。例えば、自動車の車外を監視するための撮影装置の場合には、夜や雨等の悪天候の場合に、キャリブレーションずれ検出を避ける等の判断をする。
【0138】
以上のような状況をふまえて、キャリブレーションずれ検出が必要か否かが判断される。その結果、キャリブレーション検出が必要と判断された場合には、その旨が制御装置2に告知される。制御装置2がその告知を受けた場合には、ステップS2に移行する。一方、キャリブレーションずれ検出が不必要、或いは不可ならば、本ルーチンが終了する。
【0139】
ステップS2では、撮影装置11によりステレオ画像が撮影される。この撮影装置11で撮影される画像は、上述したように、撮影装置11が撮影する画像はアナログ画像でもデジタル画像でもかまわない。アナログ画像の際には、その画像がデジタル画像に変換される。
【0140】
この撮影装置11で撮影された画像は、左画像と右画像としてキャリブレーションずれ検出装置1に送出される。
【0141】
図8は左右原画像を表したものであり、(a)は左カメラにより撮影された左原画像であり、(b)は右カメラにより撮影された右原画像である。
【0142】
次に、ステップS3では、レクティフィケーション処理装置1に於いて、過去に記憶されたキャリブレーションデータがキャリブレーションデータ記憶装置8から受け取られて、レクティフィケーション処理が施される。
【0143】
【数20】
【0144】
レクティフィケーション処理に際して、撮影装置11を構成する左右のカメラのレンズディストーションが顕著である場合には、上述したRecLとRecRのステップに従って、レンズディストーション補正のアルゴリズムを含めて処理が行われる。尚、レンズディストーションが無視できる際には、RecLとRecRの中のディストーション補正の部分を除いて処理が行われるようにすればよい。
【0145】
このようにレクティフィケーション処理された画像は、次の特徴抽出装置5へ送出される。
【0146】
図9はレクティフィケーションされた左右の画像を表したもので、(a)は左画像、(b)は右画像である。
【0147】
ステップS4では、上記ステップS3でレクティフィケーションされたステレオ画像について、キャリブレーションずれ検出に必要となる特徴が抽出される。この処理は、特徴抽出装置5で行われる。
【0148】
特徴抽出装置5は、例えば、図10に示されるように、特徴選択部5aと特徴対応探索部5bとから構成されている。特徴選択部5aでは、レクティフィケーションされたステレオ画像から、キャリブレーションずれを検出するのに有効となりそうな画像特徴が、一方の画像から抽出及び選択される。そして、この特徴選択部5aで選択された特徴に対応する特徴が、上記特徴対応探索部5bにて、他方の画像内で探索されて最適な特徴が抽出され、これらの特徴対の集合がデータとして生成される。
【0149】
こうして得られた特徴対のデータは、左右画像レクティフィケーション後の画像座標値として登録される。
【0150】
【数21】
【0151】
ここで、上記特徴抽出装置5の特徴選択部5a及び特徴対応探索部5bの詳細を説明する。
【0152】
先ず、特徴選択部5aでは、一方の画像、例えば左画像の中に於いて、キャリブレーションずれ検出に有効となりそうな特徴が選択される。例えば、特徴として、特徴点を候補にする際には、先ず、レクティフィケーションされた左画像が、図11に示されるように、M×N個の正方形から成る小ブロックに分割される。そして、その各ブロック内の画像から、多くとも1個のコーナーポイント等の特徴点が抽出される。
【0153】
この方法としては、例えば、R. Haralick and L. Shapiro, Computer and Robot Vision, Volume II, pp. 332 − 338, Addison−Wesley, 1993にあるような Interest OperatorやCorner Point Extraction法等を利用すればよい。または、各ブロック内でエッジ成分が抽出されて、その強度がある閾値以上のエッジ点をもって特徴点としてもよい。
【0154】
ここで重要なのは、あるブロック内が全く均一な領域のみで構成されている場合には、その領域からは特徴点が選択されない可能性もあるという点である。このようにして選択された特徴点の例が、図12に示される。この図12に於いて、○(白丸)で示された点15が、このようにして選択された特徴である。
【0155】
次に、特徴対応探索部5bについて説明する。一方の画像から特徴選択部5aで選択された特徴に関して、他方の画像内で、対応する特徴を抽出するのが特徴対応探索部5bの機能である。この特徴対応探索部5bでは、以下の方法により対応する特徴が探索される。
【0156】
ここで、探索範囲の設定について説明する。
【0157】
上記ステップS3で作成されたレクティフィケーション処理後の画像は、キャリブレーションデータ記憶装置8から過去に記憶されたキャリブレーションデータが使用されたものである。従って、キャリブレーションずれがある場合には、エピポーラ線上に対応点があるとは限らない。故に、対応探索される範囲は、想定される最大のキャリブレーションずれにも適合する対応探索範囲が設定されることがある。実際には、左画像内の特徴(u,v)に対応する右画像内のエピポーラ線の上下にある領域が用意される。
【0158】
【数22】
【0159】
次に、エリアベースマッチングによる対応探索について説明する。
【0160】
上述した探索範囲の設定により決定された探索領域内で、最適な対応が探索される。最適な対応が探索される方法としては、例えば、J. Weng, et al, Motion and Structure from Image Sequences, Springer−Verlag, pp. 7 − 64, 1993に示される方法等がある。または、左画像内の特徴に近傍の領域を利用して、その領域の画素値に最も類似した画像領域を右画像内の対応探索領域内で探索する方法でもよい。
【0161】
【数23】
【0162】
これらの類似度或いは非類似度の値が利用されることで、それぞれマッチングのクオリティ或いは信頼度を考えることができる。例えば、SADを考えた場合、そのSADの値が対応点付近では、ピークの鋭い小さな値を得れば、その対応点の信頼度は高いということができる。このように最適と判断された対応点毎に、その信頼度を考えるわけである。その対応点(u′,v′)が決定される。もちろん信頼度を考慮する場合には、
対応点対応点(u′,v′): 信頼度が閾値以上
対応点なし : 信頼度が閾値未満
というようにすることも可能である。このように信頼度を考慮する場合には、もちろん未対応点を有する画素が左画像或いは右画像に存在することになる。
【0163】
【数24】
【0164】
このように、対応のとれた右画像内に於ける特徴が、図14に示される。図14に於いて、○(白丸)で示された点16が、このようにして対応のとれた右画像内の特徴点を表している。
【0165】
図7のフローチャートに戻って、ステップS5では、特徴抽出装置5にて更に、上記ステップS4で登録された特徴対の数や信頼度がチェックされる。ここで、登録された特徴対の数が、ある所定の数より少ない場合には、撮影されたステレオ画像は不適切であったと判断される。従って、上記ステップS1に移行して、再度撮影処理等が繰り返される。この撮影処理の繰り返しは、特徴抽出装置5の出力データに基づいて制御装置2から発せられる制御指令によって行われる。この点は、図1、図17、図20及び図24の構成に於いて同様である。
【0166】
一方、信頼性のある特徴対が得られたと判断された場合には、特徴対の集合が、キャリブレーションずれ判定装置6へ送出される。
【0167】
次いで、ステップS6では、キャリブレーションずれ判定装置6での処理が行われる。
【0168】
【数25】
【0169】
ここで、キャリブレーションずれ判定方法について説明する。
【0170】
キャリブレーションずれ判定方法1として、上記ステップS4で登録されたn個の特徴に関して、事前に得られているキャリブレーションデータに基づいてレクティフィケーションされた特徴対の画像座標値が利用される。すなわち、キャリブレーションデータのずれが全くないとすれば、登録された特徴対は完全にエピポーラ線拘束を満たしていることになる。逆に言えば、キャリブレーションずれが生じている場合には、このエピポーラ線拘束が満たされていないと判断できる。そこで、特徴対全体として、どの程度エピポーラ線拘束が満たされていないかが評価値として、キャリブレーションずれが判定されることにする。
【0171】
【数26】
【0172】
図15は、こうした様子を示したものである。図15に於いて、各特徴に関して、エピポーラ線からのずれdiは、特徴点のエピポーラ線からの画像内距離に対応するわけである。
【0173】
次に、キャリブレーションずれ判定方法2について説明する。
【0174】
上記判定方法1で説明した方法で、対応探索の信頼度が高い場合には良好な結果が得られるが、対応探索結果に信頼度が低いものが含まれている可能性がある場合には、下記式(48)で算出された各特徴の差異の中、ノイズ成分が多く含まれている可能性があると考えられる。
【0175】
【数27】
【0176】
このような場合には、ノイズ成分と思われる異常値が予め取り除かれた後に平均が取られる作業により、キャリブレーションずれが判定される方法が有効である。
【0177】
【数28】
【0178】
図7のフローチャートに戻って、ステップS7では、上記ステップS6で判定された結果が、ずれ結果呈示装置7によって呈示される。
【0179】
図16は、ずれ結果呈示装置7の一例を表したものである。本例では、ずれ結果呈示装置7として表示装置108(図25につき後述する)を利用したものであり、より具体的には、ディスプレイやLCDモニタ等で構成されている。もちろん、このディスプレイは、別の用途のディスプレイでもよく、そのディスプレイの画面一部分を利用して、ずれ結果を表示するものでもよいし、ずれ結果表示のために、画面表示のモードを切り替えるタイプのものでもよい。
【0180】
本発明の実施の形態に於けるこのずれ結果表示装置7は、上記キャリブレーションずれ判定部との協働によりずれ検出に係る処理動作中である旨を表示可能に構成され、また、ずれ検出に係る処理の結果として得られたパラメータと上記キャリブレーションデータ保持部に予め保持されていたパラメータとの差異を表わす情報を表示可能になされ、更に、正規のずれ検出が行われ得なかったときにはその旨を表わすエラーコードを表示可能に構成される。
【0181】
図16の表示では、3個のカラムA、B、Cを有しており、それぞれのカラムに結果が表示されるようになっている。
【0182】
カラムAの部分は、キャリブレーションずれ検出中にはフラッシュすることになり、ずれ検出の結果が得られたときには、カラムBの部分にずれ量の大きさや判定結果等が表示される。また、カラムCの部分には、ずれ検出に関わるステータスが表示される。ステータスとしては、上述したステップS5で示される途中結果や、ずれ検出に関わるエラーコード等が表示されるようになっている。
【0183】
このような方法をとることにより、ずれ検出の各種モードや処理結果が、ユーザや或いはステレオ撮影装置等をメンテナンスする作業者等に、効果的に告知することが可能となる。
【0184】
その他のずれ検出結果の呈示方法としては、音声による呈示、警報アラームや音源による呈示等が考えられる。
【0185】
(第2の実施の形態)
次に、本発明の第2の実施の形態として、レクティフィケーションを行わないで、ずれ検出する方法について説明する。
【0186】
上述した第1の実施の形態では、入力された左及び右画像に関してレクティフィケーション処理を施した後に、エピポーラ線拘束を利用して、特徴がどの程度エピポーラ線拘束を満たしているかを判断材料とすることで、撮影装置の内部キャリブレーションパラメータに関するキャリブレーションずれを検出することを行っていた。
【0187】
これに対し、第2の実施の形態では、レクティフィケーション処理を行わずに、撮影装置の内部キャリブレーションパラメータに関するキャリブレーションずれを検出する方法について述べる。
【0188】
図17は、本発明の第2の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。
【0189】
尚、以下に述べる実施の形態に於いて、上述した第1の実施の形態と同一の部分には同一の参照番号を付して説明を省略するものとする。
【0190】
図17に於いて、ステレオ画像を撮影してキャリブレーションずれを検出すべき撮影装置11が、キャリブレーションずれ検出装置20でキャリブレーションずれがあるかが検出される。
【0191】
キャリブレーションずれ検出装置20は、制御装置2と、状況判断装置3と、特徴抽出装置5と、キャリブレーションずれ判定装置6と、ずれ結果呈示装置7(図16につき既述)と、キャリブレーションデータ記憶装置8とから構成されている。すなわち、図1に示される構成のキャリブレーションずれ検出装置1から、レクティフィケーション処理装置4を除いた構成となっている。
【0192】
ここで、キャリブレーションずれ装置20内の各装置は、ハードウェアや回路で構成されたもよいし、コンピュータやデータ処理装置のソフトウェアで処理されてもよい。
【0193】
次に、図18のフローチャートを参照して、第2の実施の形態に於けるキャリブレーションずれ検出装置の動作について説明する。
【0194】
ステップS11にてキャリブレーションずれが現時点で検出されるべきか否かが判断され、続くステップS12にて撮影装置11によりステレオ画像が撮影される。これらステップS11及びS12の動作は、上述した図7のフローチャートに於けるステップS1及びS2と同様であるので、詳細な説明は省略する。
【0195】
次いで、ステップS13にて、上記ステップS12で撮影されたステレオ画像について、キャリブレーションずれ検出に必要となる特徴が抽出される。この処理は、特徴抽出装置5で行われる。
【0196】
特徴抽出装置5は、上述した第1の実施の形態の場合と同様に、図10に示されるように、特徴選択部5aと、特徴対応探索部5bとから構成されている。こうして得られた特徴対のデータは、左右画像レクティフィケーション後の画像座標値として、登録される。
【0197】
【数29】
【0198】
ここで、第2の実施の形態に於ける上記特徴抽出装置5の画像選択部5a及び特徴対応探索部5bの詳細を説明する。
【0199】
先ず、特徴選択部5aでは、ステレオ撮影装置11で撮影された画像に対して、レンズディストーションが著しく顕著な場合にはディストーション補正処理によりディストーション成分が除去される操作が行われる。
【0200】
次に、一方の画像、例えば左画像の中に於いて、キャリブレーションずれ検出に有効となりそうな特徴が選択される。例えば、特徴として、特徴点を候補にする際には、先ずレクティフィケーションされた左画像が、上述した図11に示されるように、M×N個の正方形から成る小ブロックに分割され、その各ブロック内の画像から多くとも1個のコーナーポイント等の特徴点が抽出される。この方法は、上述した第1の実施の形態の場合と同様である。
【0201】
次に、特徴対応探索部5bについて説明する。
【0202】
一方の画像から特徴選択部5aで選択された特徴に関して、他方の画像内で、対応する特徴を抽出するのが特徴対応探索部5bの機能である。特徴対応探索部5bでは、以下の方法により対応する特徴が探索される。
【0203】
探索範囲の設定について説明する。
【0204】
撮影された画像は、キャリブレーションデータ記憶装置8から過去に記憶されたキャリブレーションデータが使用されたものであるので、キャリブレーションずれがある場合には、エピポーラ線上に対応点があるとは限らない。従って、上述した第1の実施の形態の場合と同様に、対応探索される範囲は、想定される最大のキャリブレーションずれにも適合する対応探索範囲が設定されることがある。実際には、左画像内の特徴(u,v)に対応する右画像内のエピポーラ線の上下にある領域が用意される。
【0205】
図19(a)、(b)はこの設定を示したものであり、エピポーラ線の上下方向にある幅2Wv の幅が設けられて、探索が行われることとなる。
【0206】
次に、エリアベースマッチングによる対応探索が行われる。
【0207】
上記探索範囲の設定により決定された探索領域内で、最適な対応が探索される。最適な対応を探索する方法としては、例えば、J. Weng, et al, Motion and Structure from Image Sequences, Springer−Verlag, pp. 7 − 64, 1993に示される方法等がある。または、上述した第1の実施の形態で説明した方法でもよい。
【0208】
図18のフローチャートに戻って、ステップS14では、特徴抽出装置5にて、更に上記ステップS13で登録された特徴対の数や信頼度がチェックされる。登録された特徴対の数が、ある所定の数より少ない場合には、撮影されたステレオ画像は不適切であったと判定される。この場合は上記ステップS11に移行して、撮影処理等が繰り返される。一方、信頼性のある特徴対が得られたと判定された場合には、特徴対の集合が、キャリブレーションずれ判定装置6へ送出される。
【0209】
次いで、ステップS15は、キャリブレーションずれ判定装置6によって行われる。
【0210】
【数30】
【0211】
ここで、第2の実施の形態に於けるキャリブレーションずれ判定方法について説明する。
【0212】
判定方法1として、上記ステップS13で登録されたn個の特徴に関して、事前に得られているキャリブレーションデータに基づいてレクティフィケーションされた特徴対の画像座標値が利用される。すなわち、キャリブレーションデータのずれが全くないとすれば、登録された特徴対は完全にエピポーラ線拘束を満たしていることになる。逆に言えば、キャリブレーションずれが生じている場合には、このエピポーラ線拘束が満たされていないと判断できる。そこで、特徴対全体として、どの程度エピポーラ線拘束が満たされていないかを評価値として、キャリブレーションずれを判定することにする。
【0213】
【数31】
【0214】
次に、キャリブレーションずれ判定方法2について説明する。
【0215】
上述した判定方法1の方法で、対応探索の信頼度が高い場合には良好な結果が得られるが、対応探索結果に信頼度が低いものが含まれている可能性がある場合には、下記(53)式で算出された各特徴の差異の中、ノイズ成分が多く含まれている可能性があると考えられる。
【0216】
【数32】
【0217】
このような場合には、ノイズ成分と思われる異常値が予め取り除かれた後に平均が取られる作業により、キャリブレーションずれが判定される方法が有効である。
【0218】
【数33】
【0219】
図18のフローチャートに戻って、ステップS16では、上述したステップS15で判定された結果が、ずれ結果呈示装置7によって呈示される。表示方法は、上述した第1の実施の形態と同様であるので、ここでは省略する。
【0220】
この第2の実施の形態によれば、レクティフィケーション処理にかかる時間を短縮することが可能となる。特に、特徴点数が少なくてよい場合には有効である。
【0221】
(第3の実施の形態)
次に、本発明の第3の実施の形態として、撮影装置と外部装置間のキャリブレーションずれについて説明する。
【0222】
この第3の実施の形態では、キャリブレーションに於ける基準位置を規定するために利用される所定の外部装置と撮影装置間の位置姿勢ずれは生じているとき、そのキャリブレーションずれが起こっているか否かを検出する装置について説明する。
【0223】
図20は、本発明の第3の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。
【0224】
図20に於いて、ステレオ画像を撮影してキャリブレーションずれを検出すべき撮影装置11が、キャリブレーションずれ検出装置22でキャリブレーションずれがあるかが検出される。
【0225】
キャリブレーションずれ検出装置22は、制御装置2と、状況判断装置3と、特徴抽出装置5と、キャリブレーションずれ判定装置6と、ずれ結果呈示装置7と、キャリブレーションデータを保持しているキャリブレーションデータ記憶装置8とから構成されている。すなわち、図17に示される第2の実施の形態のキャリブレーションずれ検出装置20と、構成上は同じである。
【0226】
ここでキャリブレーションずれ装置22内の各装置は、ハードウェアや回路で構成されたもよいし、コンピュータやデータ処理装置のソフトウェアで処理されてもよい。
【0227】
尚、撮影装置11と外部装置間の位置姿勢キャリブレーションパラメータに関するキャリブレーションずれを検出するためには、基準位置を規定するために利用される所定の外部装置を基準としてその場所が既知な既知特徴が必要となる。
【0228】
【数34】
【0229】
例えば、外部装置である車両にステレオ撮影装置を装着して、車両とステレオ撮影装置間のキャリブレーションずれが起こっているかを検出する場合を考える。また、ステレオ撮影装置は、車両の前方を撮影するために設定されたもので、その撮影には、車両の一部が撮影されているものとする。このような場合には、撮影される車両の一部の形状に関する特徴を既知特徴として登録することが可能である。
【0230】
例えば、図21には、そのような配置の既知特徴が示されている。この際、ステレオ撮影装置は、車両前方のウインドウとバックミラーの間に配置されており、ステレオ撮影装置が撮影する画像の下部に、車両前方のボンネットが撮影されており、そのボンネット25上に存在するコーナーやエッジ点26等を登録すればよい。この際、車両に於けるこうした特徴は、車両のCADモデル等から、その3次元座標が容易に得ることができる。
【0231】
上述の特徴を得るための外部装置としては、種々のものを適用可能であるが、撮像部が装備された車両の特定の形状部を適用する例としては、既存のボンネット上のコーナやエッジ点等の他、例えば、フロントガラスの一部に相対的な位置が既知なマーカを既知特徴として予め配置しておき、それらの3次元位置を予め計測しておき、それらの全部或いは一部がステレオ撮影装置で撮影できるようにしておいてもよい。
【0232】
図21(a)は撮影される左画像の例を表したものであり、(b)は既知特徴として選択された特徴を黒丸27で示したものである。
【0233】
尚、ここでは3点のみを既知特徴として表したが、この数は少なくとも1個以上あり、且つ複数個あってもかまわない。また特徴として特徴点でなくても曲線であってもかまわない。
【0234】
図21(c)は、フロントガラスの一部に既知特徴である黒丸の既知マーカを配置した様子の例を表したものである。この図に於いて、既知マーカ群は、左右カメラ内でその全部あるいはその一部が撮影できるように配置されているわけである。またこれらのマーカ群は、図21(d)及び(e)に示されるように、ステレオ左右画像の画像周辺部に写り込むように配置されており、重要な映像となる中心部には写り込まないように設計されている。
【0235】
次に、図22のフローチャートを参照して、第3の実施の形態に於けるキャリブレーションずれ検出装置の動作について説明する。
【0236】
ステップS21にてキャリブレーションずれが現時点で検出されるべきか否かが判断され、続くステップS22にて撮影装置11によりステレオ画像が撮影される。これらステップS21及びS22の動作は、上述した図7のフローチャートに於けるステップS1及びS2、図18のフローチャートに於けるステップS11及びS12と同様であるので、詳細な説明は省略する。
【0237】
次いで、ステップS23にて、上記ステップS22で撮影されたステレオ画像について、キャリブレーションずれ検出に必要となる既知特徴が抽出される。この処理は、特徴抽出装置5で行われる。特徴抽出装置5では、撮影されたステレオ画像から、キャリブレーションずれを検出するのに必要となる既知特徴とその対応する特徴が、ステレオ画像の中から抽出される。
【0238】
【数35】
【0239】
尚、既知特徴を抽出する方法としては、上述した第1の実施の形態で説明したように、画像に関してキャリブレーションずれが起こっていないと仮定した場合に、各特徴が規定するエピポーラ線に対して、その周辺に探索範囲を拡大することで、対応する既知特徴を抽出する方法を採用してもよい。
【0240】
また、既知特徴の数が少ない場合には、これに加えて、上述した第1或いは第2の実施の形態で説明したような、画像内で撮影された特徴(これらを自然特徴と称する)が撮影されて、その対応特徴が抽出される。
【0241】
【数36】
【0242】
このようにして抽出された特徴の集合A及びBが、図23(a)、(b)に示される。図23(a)、(b)に於いて、黒丸29は既知特徴を表し、白丸30は自然特徴を表している。
【0243】
次に、ステップS24に於いて、特徴抽出装置5にて、更に上記ステップS23で登録された特徴対の数や信頼度がチェックされる。登録された特徴対の数が、ある所定の数より少ない場合には、撮影されたステレオ画像は不適切であるとされる。この場合には、上記ステップS21へ移行して、撮影処理等が繰り返される。一方、信頼性のある特徴対が得られたと判定された場合には、特徴対の集合が、キャリブレーションずれ判定装置6へ送出される。
【0244】
続くステップS25では、以下のサブステップSS1とSS2とが利用されて、キャリブレーションずれがあるか否かが推定される。すなわち、
1)ステレオ撮影装置の内部キャリブレーションパラメータがキャリブレーションずれを起こしているかを判定する
2)1)が起こっていないとした場合、ステレオ撮影装置と外部装置間の位置姿勢ずれに伴うキャリブレーションずれが起こっているかを判定する
の2種類の判定が、サブステップSS1とSS2により行われるわけである。
【0245】
先ず、サブステップSS1について説明する。
【0246】
ステレオ画像内で、先ず、既知特徴が利用されて、その既知特徴が画像内であるべき位置にあるか否かが判定される。
【0247】
【数37】
【0248】
【数38】
【0249】
もちろんこの画像内での位置は、キャリブレーションデータが全て正しいと仮定した場合に成立する式である。従って、上記式(55)の集合Bで表される画像内での位置と、キャリブレーションデータが正しいと仮定した場合の画像位置との差が計算されることにより、キャリブレーションずれが起こっているか否かが判定できるわけである。
【0250】
【数39】
【0251】
すなわち、サブステップSS1によってキャリブレーションずれが少なくとも起きているか否かを判定することができる。
【0252】
次に、サブステップSS2について説明する。
【0253】
サブステップSS2では、上述したサブステップSS1でキャリブレーションずれが起こっている際に、それが、少なくともステレオ撮影装置の内部キャリブレーションずれに起因するのか、或いはステレオ撮影装置と外部装置間の位置姿勢関係に関するキャリブレーションずれに起因するのかを判断するものである。
【0254】
このためには、上記式(55)集合Bと式(56)集合Aの何れか一方、或いは両方A及びBの特徴、上述した第1或いは第2の実施の形態で説明したエピポーラ線拘束が成立しているかどうかを判定基準として、内部キャリブレーションずれが起こっているかどうかを判定するわけである。すなわち、上記式(47)、(49)、或いは式(52)、(54)で判定すればよい。
【0255】
撮影装置の内部に関するキャリブレーションずれがないと判定された場合で、サブステップSS1でキャリブレーションずれがありと判定された場合には、キャリブレーションずれは、ステレオ撮影装置と外部装置間の位置姿勢ずれに基づくキャリブレーションずれであると判定することができる。
【0256】
一方、サブステップSS2でもキャリブレーションずれがありと判定された場合には、キャリブレーションずれは、内部キャリブレーションずれがあることが確実であることがわかるわけである。
【0257】
図22のフローチャートに戻って、ステップS26では、上記ステップS25で判定された結果が、ずれ結果呈示装置7によって呈示される。この第3の実施の形態では、複数のキャリブレーションずれの種類を検出できるので、その情報を含めて表示することも可能である。表示方法は、上述した第1の実施の形態と同様であるので、ここでは省略する。
【0258】
このように、第3の実施の形態によれば、ステレオ撮影装置と外部装置間の位置姿勢キャリブレーションのずれも検出できることになる。
【0259】
(第4の実施の形態)
次に、第4の実施の形態として、撮影装置が複数回撮影してその画像を利用する場合について説明する。
【0260】
上述した第1乃至第3の実施の形態では、ステレオ画像装置で撮影する画像は1回であることを想定してきたが、第4の実施の形態では、キャリブレーションずれの検出をより信頼おけるものにするために、ステレオ撮影装置で複数回撮影し、その複数回の撮影から得られる特徴(自然特徴或いは既知特徴)を利用するようにしている。
【0261】
本第4の実施の形態では、この方法について説明する。キャリブレーションずれ検出装置の基本構成は、上述した第1乃至第3の実施の形態で表されるものと同様である。
【0262】
複数回の撮影に伴い、キャリブレーションずれを検出する方法としては、以下のような2種の方法の何れでもよい。
【0263】
第1の方法としては、ステレオ画像装置が複数回撮影して、その複数回の撮影を利用してずれを検出する。この方法では、複数回撮影されたステレオ画像から自然特徴或いは既知特徴を抽出し、それらを式(55)集合Bと式(56)集合Aで表される特徴の集合として扱えば、上述した第1乃至第3の実施の形態と同様に全ての処理を扱うことが可能となる。
【0264】
第2の方法としては、複数回の撮影のうち第1回目でずれ検出をして、第2回目以降でその検証を行うものである。すなわち、第1回目でずれが検出された場合に限り、本当にずれがあるかどうかを再判定するわけである。第1回目、第2回目以降の処理に関しては、上述した第1乃至第3の実施の形態の場合と同様であるので、その方法の詳細については説明を省略する。
【0265】
次に、方法のバリエーションについて説明する。
【0266】
以上、ステレオ撮影装置で撮影できるところにある既知特徴を利用してずれ検出する方法について説明したが、この他にも既知特徴を配置するバリエーションを考えることができる。
【0267】
すなわち、外部装置を基準としてその位置が既知であるキャリブレーションボードを配置し、そのキャリブレーションボード内にある既知マーカの位置をステレオ撮影装置により撮影することも可能である。この場合には、本第4の実施の形態で説明したように、例えばキャリブレーションずれを検出する作業員が、このキャリブレーションボードを外部装置に相対するように配置して、それを状況判断装置が判断することでキャリブレーションずれ検出処理を行えばよい。
【0268】
このように、第4の実施の形態によれば、キャリブレーションずれの検出をよりロバストに信頼性よく行うことができる。
【0269】
(第5の実施の形態)
次に、第5の実施の形態として、車載に応用した例について説明する。
【0270】
上述した第1乃至第4の実施の形態では、状況判断装置について、詳細な説明は省略していたが、この第5の実施の形態では、この状況判断装置の機能を中心に説明する。
【0271】
図24は、本発明の第5の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。
【0272】
この第5の実施の形態が上述した第1乃至第4の実施の形態と異なるのは、外部センサ33から状況判断装置3に各種のセンサ出力の信号が供給されることである。また、必要に応じて、キャリブレーションずれ検出に関わる情報が、キャリブレーションデータ記憶装置8に送出され、その情報が、キャリブレーションデータ記憶装置8に書き込まれる点も異なっている。その他の構成及び全体の構成に関する処理ステップは、上述した第1乃至第3の実施の形態で説明したものと同様であるので説明は省略する。
【0273】
以下、状況判断装置3の応用として、車両にステレオ撮影装置を装着した場合について説明する。もちろん、本方式は車両用の車載ステレオ撮影装置に限るものでは、なく、その他の監視カメラシステム等にも応用が可能であることは明白である。
【0274】
状況判断装置3に接続される外部センサ33としては、次のようなものが考えられる。すなわち、走行距離計、時計或いはタイマ、温度センサ、車両傾斜計測センサ或いはジャイロセンサ、車速センサ、エンジン始動センサ、日射センサ、雨滴センサ等である。
【0275】
そして、状況判断装置3は、以下のような条件で、車載応用に必要な条件に基づいて、キャリブレーションずれの検出が現在必要であるか否かを判定するわけである。
【0276】
また、キャリブレーションデータ記憶装置8が記憶するキャリブレーションデータとしては、過去にキャリブレーションを行ったときのパラメータp,e′や既知特徴のデータ等を含みながら、以下の情報が書き込まれている。すなわち、過去に行ったステレオ撮影装置の内部キャリブレーションパラメータp、過去に行ったステレオ撮影装置と外部装置間の位置姿勢キャリブレーションパラメータe′、過去に行った既知特徴の3次元位置、過去にキャリブレーションした際の車両走行距離、過去にキャリブレーションした際の日時と時刻、過去にキャリブレーションした際の外部温度、過去にキャリブレーション検出した際の車両走行距離、過去にキャリブレーション検出した際の日時と時刻、過去にキャリブレーション検出した際の外部温度、等である。
【0277】
次に、上述した状況判断装置3が、どのようにキャリブレーション検出をすべきか、その状況判断の方法について説明する。
【0278】
本装置では、キャリブレーションずれ検出を行う条件として、車両が停止しているときに行う、以前ずれ検出したときから少なくとも一定時間Tを経た後に行う、晴天で昼間に行う、等の3つの条件が成立するときに行う場合について説明する。
【0279】
先ず、1つ目の条件を満たすために、車速センサ或いはジャイロセンサ等で、車両が移動していないことが確認される。次いで、2つ目の条件を満たすために、過去にキャリブレーションずれ検出を行ったときの時刻と時計等から算出される現時刻との時間差が算出される。3つ目の条件に関しては、日射センサや雨滴センサ等が利用されて、条件が満たされるかどうかが判断される。
【0280】
このようにして、キャリブレーションずれ検出が実行されると、その結果はずれ結果呈示装置7に送出される。また、必要に応じて、キャリブレーションずれ検出結果がキャリブレーションデータ記憶装置8に書き込まれる。
【0281】
以上のような方法が採用されることにより、本キャリブレーションずれ検出装置は、車載等に応用することが可能となる。
【0282】
(第6の実施の形態)
次に、本発明の第6の実施の形態として、キャリブレーションずれ検出装置が適用されたステレオカメラの例について説明する。
【0283】
図25は、本発明の第6の実施の形態に係るキャリブレーションずれ検出装置が適用されたステレオカメラの構成を示すブロック図である。尚、ここでは、ステレオカメラが車両に搭載された例として説明する。
【0284】
このステレオカメラは、距離画像入力装置100と、制御装置104と、物体認識装置105と、警告装置106と、運転装置107と、表示装置108と、車速センサ109と、測距レーダ110と、照度センサ111と、外部カメラ112と、GPS(全地球測位システム)113と、VICS(渋滞情報取得装置)114及び外部通信装置115から構成されている。
【0285】
上記距離画像入力装置100は、被写体150を撮影する撮像装置102と、この撮像装置102の先端に取り付けられるステレオアダプタ101とから成るステレオアダプタカメラ116と、上記被写体150の距離画像を計測する距離画像処理装置103と、から構成される。
【0286】
上記表示装置108は、キャリブレーション装置134を含む距離画像処理装置103並びに制御装置104と機能的に結合されて、キャリブレーション装置134(その内部のキャリブレーションずれ検出部)や演算部(距離算出装置133)、並びに、上記撮像部(撮像装置102)の出力に関連した所要の表示をユーザ(運転者)に認識され得るように行うものであり、図16につき上述したずれ結果呈示装置乃至同装置の部分としても機能する。
【0287】
上記撮像装置102は、一般のビデオカメラ、デジタルスティルカメラ等と同様に、撮像光学系102Aと、撮影絞り調整装置(図示せず)と、撮影フォーカス調整装置(図示せず)と、撮影シャッタ速度調整装置(図示せず)と、撮像素子(図示せず)と、感度調整装置(図示せず)とから構成される。更に、この撮像装置102には、ステレオアダプタ101が装着される。
【0288】
このステレオアダプタ101は、光路分割装置101Aを有している。この光路分割装置101Aは、撮像装置102の撮像光学系102Aの前方に取り付けられるもので、異なる視点からの被写体150の像を撮像素子に結像することができるようになっている。このようにして撮像装置102で撮影されたステレオ画像は、距離画像処理装置103に供給される。
【0289】
距離画像処理装置103は、フレームメモリ131と、レクティフィケーション装置132と、距離算出装置133と、キャリブレーション装置134とを有して構成されている。
【0290】
そして、上記撮像装置102から供給されたステレオ画像はフレームメモリ131に入力され、更にレクティフィケーション装置132に供給される。このレクティフィケーション装置132からは、距離演算装置133に対して、左画像及び右画像を出力が出力される。距離演算装置133からは、制御装置104を介して物体認識装置105に、距離画像出力として3次元距離画像が出力される。
【0291】
また、キャリブレーション装置134からは、レクティフィケーション装置132に対してはレクティフィケーションパラメータが、距離算出装置133に対しては距離算出用パラメータが、そして物体認識装置105に対しては物体認識用パラメータが、それぞれ出力される。
【0292】
尚、このステレオカメラの構成は、本件出願人が特願2003−48324号として先に提案しているものと略同様である。
【0293】
このようにして、車両に搭載されたステレオカメラとしても適用が可能である。
【0294】
以上説明した第1乃至第6の実施の形態では、2台のカメラから構成されるステレオ撮影装置に関するキャリブレーションずれを検出するものであったが、これを2台以上のカメラから構成されるステレオ撮影装置(すなわち、多眼ステレオ撮影装置)に応用できることは自明である。すなわち、多眼ステレオ撮影装置を構成するn台のカメラについて、その2台毎のペアについて、上述した実施の形態で説明してきた方法を利用することにより、同様にキャリブレーションずれを検出することが可能となる。
【0295】
【発明の効果】
以上のように本発明によれば、3次元計測等を行うステレオ画像を撮影する撮影装置のキャリブレーションが、経時変化や衝撃振動などの機械ずれによっても、ステレオ画像を解析することにより、簡易にキャリブレーションずれを定量的に検出することが可能なキャリブレーションずれ検出装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステムを提供することができる。
【0296】
そして、請求項1に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。
【0297】
請求項2に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。また、レクティフィケーション処理を行うことで、特徴の対応点探索が容易になり、よりロバストなずれ検出を行うことが可能となる。
【0298】
請求項3に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。
【0299】
請求項4に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。またレクティフィケーション処理を行うことで、特徴の対応点探索が容易になり、よりロバストなずれ検出を行うことが可能となる。
【0300】
請求項5乃至8に記載の発明によれば、キャリブレーションずれが判定された場合には、その内容をユーザは迅速に知ることができるので、撮影装置の再キャリブレーションやキャリブレーション補正などを迅速に行うことが可能となる。また、キャリブレーションずれがないと判定された場合には、ユーザは安心して信頼して、撮影装置を使用することが可能となる。
【0301】
請求項9乃至16に記載の発明によれば、キャリブレーションずれ検出を行うかどうかを判定する状況判断装置を導入することで、撮影装置の使用状況や撮影装置の動作状況に応じてキャリブレーションずれ検出を行うかを判断することが可能となり、より信頼のおけるサービスをユーザに提供することができる。また、キャリブレーションずれ検出処理の処理回数を系統的に制御することも可能となり、不要なキャリブレーションずれ検出回数を減少させることも可能となる。
【0302】
請求項17に記載の発明によれば、撮影装置の光学系に含まれるレンズディストーションの成分をステレオ画像から除去或いはディストーション補正することにより、より正確なずれ検出が可能となり、装置の信頼性を向上することができる。
【0303】
請求項18に記載の発明によれば、ステレオ画像の対応関係にある特徴を複数抽出し利用することで、キャリブレーションずれを定量化することが可能となり、信頼性のあるずれ検出が可能となる。
【0304】
請求項19に記載の発明によれば、ステレオ画像の対応関係にある特徴を複数抽出し利用することで、キャリブレーションずれを定量化することが可能となり、信頼性のあるずれ検出が可能となる。
【0305】
請求項20に記載の発明によれば、エピポーラ線拘束を利用することで、キャリブレーションずれを定量化することが可能となり、信頼性のあるずれ検出が可能となる。
【0306】
請求項21に記載の発明によれば、有効な特徴を選択するので、必要最小限の計算で安定的に、且つロバストにキャリブレーションずれ検出を行うことができる。
【0307】
請求項22に記載の発明によれば、予め相対的な位置関係が既知な複数の特徴を利用することで、キャリブレーションずれ判定に於いて、付加的な条件を加えることができるので、よりロバストで信頼性のあるキャリブレーションずれ判定を行うことが可能となる。
【0308】
請求項23に記載の発明によれば、ステレオアダプタでも応用が可能となる。
【0309】
請求項24に記載の発明によれば、多眼カメラでも応用が可能となる。
【0310】
請求項25に記載の発明によれば、車載用に応用することが可能となる。
【0311】
請求項26に記載の発明によれば、車両に搭載されたステレオカメラとしても適用が可能となる。
【0312】
請求項27に記載の発明によれば、ずれ検出に係る処理動作中であることが表示されるので、ユーザは容易にキャリブレーションずれ検出中であることを知ることができる。
【0313】
請求項28に記載の発明によれば、2種類のパラメータの差異が表示されるので、ユーザは容易にずれの内容を知ることができる。
【0314】
請求項29に記載の発明によれば、ずれ検出に係る処理動作がエラーとなった場合にエラーコードが呈示されるので、ユーザはその原因を容易に確認することができる。
【0315】
請求項30に記載の発明によれば、ずれ検出に関する信頼度が表示されるので、ユーザは安心してキャリブレーションずれ検出を行うことができる。
【0316】
請求項31に記載の発明によれば、ステレオ画像に関する信頼度が不十分である場合は、撮影処理が繰り返されるので、確実にキャリブレーションずれ検出を行うことができる。
【0317】
更に、請求項32に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。
【0318】
請求項33に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。また、レクティフィケーション処理を行うことで、特徴の対応点探索が容易になり、よりロバストなずれ検出を行うことが可能となる。
【0319】
請求項34に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。
【0320】
請求項35に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。またレクティフィケーション処理を行うことで、特徴の対応点探索が容易になり、よりロバストなずれ検出を行うことが可能となる。
【0321】
請求項36乃至39に記載の発明によれば、キャリブレーションずれの判定結果が表示されるので、ユーザは安心してキャリブレーションずれ検出を行うことができる。
【0322】
請求項40に記載の発明によれば、ずれ検出に係る処理動作中であることが表示されるので、ユーザは容易にキャリブレーションずれ検出中であることを知ることができる。
【0323】
請求項41に記載の発明によれば、2種類のパラメータの差異が表示されるので、ユーザは容易にずれの内容を知ることができる。
【0324】
請求項42に記載の発明によれば、ずれ検出に係る処理動作がエラーとなった場合にエラーコードが呈示されるので、ユーザはその原因を容易に確認することができる。
【0325】
請求項43に記載の発明によれば、ずれ検出に関する信頼度が表示されるので、ユーザは安心してキャリブレーションずれ検出を行うことができる。
【0326】
そして、請求項44に記載の発明によれば、撮像部が装備された車両の特定の形状部を適用するので、新たに特定の形状部を設けることがない。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。
【図2】ステレオ画像を撮影する撮影装置のカメラ座標について説明する図である。
【図3】(a)はステレオアダプタの視野を示す図、(b)は(a)のステレオアダプタの展開図である。
【図4】ステレオ画像に於けるエピポーラ線拘束を説明する図である。
【図5】レクティフィケーション処理を説明するためもので、(a)はレクティフィケーション前の画像を表した図、(b)はレクティフィケーション後の画像を表した図である。。
【図6】レクティフィケーション処理を説明するための図である。
【図7】本発明の第1の実施の形態に於けるキャリブレーションずれ検出装置の詳細な動作を説明するフローチャートである。
【図8】左右原画像を表したもので、(a)は左カメラにより撮影された左原画像を示した図、(b)は右カメラにより撮影された右原画像を示した図である。
【図9】レクティフィケーションされた左右の画像を表したもので、(a)は左画像を示した図、(b)は右画像を示した図である。
【図10】特徴抽出装置5の構成例を示したブロック図である。
【図11】レクティフィケーションされた左画像を分割された小ブロックで示した図である。
【図12】左画像で登録された特徴点の例を示した図である。
【図13】探索範囲の設定を説明するための図である。
【図14】右画像で抽出された対応する特徴点の例を示した図である。
【図15】キャリブレーションずれ判定方法について説明するための図である。
【図16】ずれ結果呈示装置7の一例を表した図である。
【図17】本発明の第2の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。
【図18】本発明の第2の実施の形態に於けるキャリブレーションずれ検出装置の動作について説明するフローチャートである。
【図19】探索範囲の設定を説明するための図である。
【図20】本発明の第3の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。
【図21】撮影される車両の一部の形状に関する特徴を既知特徴とした配置の例を示したもので、(a)は撮影される左画像の例を表した図、(b)は既知特徴として選択された特徴を黒丸27で示した図、(c)はフロントガラスの一部に既知特徴である黒丸の既知マーカを配置した様子の例を表した図、(d)はマーカ群を表した左画像の例を示した図、(e)はマーカ群を表した右画像の例を示した図である。
【図22】本発明の第3の実施の形態に於けるキャリブレーションずれ検出装置の動作について説明するフローチャートである。
【図23】抽出された特徴の集合A及びBの例を示した図である。
【図24】本発明の第5の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。
【図25】本発明の第6の実施の形態に係るキャリブレーションずれ検出装置が適用されたステレオカメラの構成を示すブロック図である。
【符号の説明】
1、20、22、32…キャリブレーションずれ検出装置、2、104…制御装置、3…状況判断装置、4…レクティフィケーション処理装置、5…特徴抽出装置、5a…特徴選択部、5b…特徴対応探索部、6…キャリブレーションずれ判定装置、7…ずれ結果呈示装置、8…キャリブレーションデータ記憶装置、11…撮影装置、12a…左カメラ、12b…右カメラ、33…外部センサ、100…距離画像入力装置、101…ステレオアダプタ、102…撮像装置、103…距離画像処理装置、105…物体認識装置、150…被写体。
【発明の属する技術分野】
本発明は、ステレオ画像を撮影する撮影装置のキャリブレーションずれを検出するキャリブレーションずれ検出装置及びステレオカメラに関する。更に、本発明は、位置の基準を規定する外部装置とステレオ画像を撮影する撮影装置との間のキャリブレーションずれを検出するキャリブレーションずれ検出装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステムに関するものである。
【0002】
【従来の技術】
従来より使用されている画像撮影装置に関わるキャリブレーションに関しては、大きくわけると
▲1▼ステレオ画像を撮影する装置自体に関わるキャリブレーション
▲2▼撮影装置と外部装置間の位置姿勢に関わるキャリブレーション
に相当するものがある。
【0003】
上記▲1▼に関するキャリブレーションは、いわゆるステレオカメラのキャリブレーションとして一般的に知られているものである。これは、ステレオカメラの撮影特性に関するパラメータである、焦点距離、拡大率、画像中心、レンズディストーション等に代表されるカメラパラメータと、ステレオカメラを構成する少なくとも2台のカメラ間の位置姿勢関係を規定する位置姿勢パラメータに関するキャリブレーションである。こうしたパラメータは、ステレオ撮影装置の内部キャリブレーションパラメータと称される。
【0004】
また、上記▲2▼に関するキャリブレーションは、ステレオ撮影装置と外部装置間の位置姿勢に関するパラメータに関するキャリブレーションに相当する。より具体的には、例えば、ステレオ撮影装置がある環境に配置されている場合には、ステレオカメラが設置されている環境内での位置姿勢パラメータが、このキャリブレーションで規定すべきパラメータとなる。また、ステレオ撮影装置が車両に装着され、そのステレオカメラで車両前方の障害物の位置関係を計測する場合には、車両の基準となる原点に対して、ステレオ撮影装置がどこに装着してあるかを規定する位置姿勢パラメータがキャリブレーションで規定すべきパラメータとなる。こうしたパラメータは、撮影装置と外部装置間の外部キャリブレーションパラメータと称される。
【0005】
次に、こうしたキャリブレーションずれに関して説明する。
【0006】
上記▲1▼のステレオ撮影装置の内部キャリブレーションパラメータに起因するキャリブレーションずれに関して考える。例えば、2台のカメラからステレオ画像を撮影する装置の場合には、(▲1▼−1)各カメラの撮影に関するカメラパラメータのずれに基づくキャリブレーションずれ、(▲1▼−2)2台のカメラ間の位置姿勢を規定するパラメータのずれに基づくキャリブレーションずれ、に分けることができる。
【0007】
例えば、上記(▲1▼―1)に関するキャリブレーションずれが起こる原因としては、カメラを構成する光学レンズ系の変形、光学レンズ系と撮像素子(CCDやCMOS等)との間の位置ずれ、光学レンズのフォーカス位置のずれ、光学レンズのズームレンズの制御系のずれ等が考えられる。
【0008】
また、上記(▲1▼−2)に関するキャリブレーションずれが起こる原因としては、2台のカメラ間を固定する機構の位置ずれによる。例えば、2台のカメラを機械的なシャフトで固定している場合には、そのシャフトの経時的変形等がこの例に対応する。また、2台のカメラをねじ止めであるシャフトに装着してある場合には、そのねじの弛み等による位置ずれ等にも起因する。
【0009】
一方、上記▲2▼のキャリブレーションずれが起こる原因としては、ステレオ撮影装置と外部装置を固定する機械的要素の変形、取り付け治具の変形などが考えられる。例えば、車載カメラにステレオ撮影装置を利用して、この撮影装置をフロントウィンドウとバックミラーの間の取り付け治具を用いて、外部装置である車両に取り付ける場合を考える。この場合、車両の基準位置を車両先端と規定すれば、ステレオ撮影装置の取り付け治具自体の変形、取り付け部材である「ねじ」の弛み等による変形、車両自体の経時的変形、寒冷地等の使用する際の季節的変動に伴う車両や取り付け治具の機械的変形等、各種の機械的変形に伴うキャリブレーションずれを考えることができる。
【0010】
こうしたキャリブレーションずれの検出或いは補正の従来例を考えると、以下のような技術が提案されている(例えば、特許文献1、非特許文献1及び非特許文献参照)
上記特許文献1に記載の方式は、ステレオカメラの撮影画像の光学的位置ずれを補正するもので、上記▲2▼の撮影装置と外部装置間の位置姿勢に関わるキャリブレーションに関するキャリブレーションずれを補正する方法が提供されている。より具体的には、2台のカメラのそれぞれの視野に設定した基準マーカの各撮影画像内での初期位置を記憶しており、実際に撮影された画像内での位置ずれから、位置ずれに関わる補正を行うものである。
【0011】
また、上記非特許文献1に記載の方式は、2台のカメラで撮影された自然特徴点(撮影された画像から任意に選択された特徴点)を利用して、2台のカメラに関わる相対的な位置関係を算出する方法がある。この算出にあたっては、数学的に基本行列を算出するものである。基本的には、カメラ間の距離に関わる推定値は相対的な推定により算出されるものである。またカメラのレンズディストーションは無視できると仮定している。
【0012】
更に、上記非特許文献2の方式は、一般的なカメラキャリブレーションの方法とステレオカメラへの応用を説明している。具体的には、基準座標系に数多くの既知特徴点(既知マーカ)を配置して、その特徴点の画像内での位置を算出することにより、カメラ(ステレオカメラ)に関する各種パラメータを算出する方法である。従って、この方式により、キャリブレーションパラメータを、全て再算出することが可能である。
【0013】
【特許文献1】
特開平11−325890号公報
【0014】
【比特許文献1】
徐剛、写真から作る3次元CG、近代科学社、2001
【0015】
【非特許文献2】
J. Weng, et al., ”Camera calibration with distortion models and accuracy evaluation, ” IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 14, No. 10, October 1992, pp. 965−980.
【0016】
【発明が解決しようとする課題】
上記特許文献1の従来例では、撮影装置と外部装置間の位置ずれを検出して、補正する方法を提供するのみであり、撮影装置内部キャリブレーションパラメータに関するキャリブレーションずれの検出や補正には対応できていないという課題を有している。
【0017】
また、上記非特許文献1の方法で、基本行列を算出してカメラキャリブレーションする方法では、カメラ間の絶対距離としての位置姿勢関係を算出することが不可能であるため、ステレオ撮影装置を、3次元計測装置として使用するには問題がある。
【0018】
更に、上記非特許文献2の従来例では、カメラキャリブレーションの一般的方法を提供するものであり、元来キャリブレーションずれを目的としたものではない。加えて、キャリブレーションを実行するためには、複数の既知マーカを配置して処理を行わなければならないという課題を有していた。
【0019】
本発明は、このような課題に鑑みてなされたものであり、その目的とするところは、3次元計測等を行うステレオ画像を撮影する撮影装置のキャリブレーションが、経時変化や衝撃振動などの機械ずれによっても、ステレオ画像を解析することにより、簡易にキャリブレーションずれを定量的に検出することが可能なキャリブレーションずれ検出装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステムを提供することにある。
【0020】
【課題を解決するための手段】
すなわち請求項1に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を具備することを特徴とする。
【0021】
請求項2に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を具備することを特徴とする。
【0022】
請求項3に記載の発明は、基準位置を規定するために利用される所定の外部装置と撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を具備することを特徴とする。
【0023】
請求項4に記載の発明は、基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を具備することを特徴とする。
【0024】
請求項5に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、を具備することを特徴とする。
【0025】
請求項6に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理装置と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、を具備することを特徴とする。
【0026】
請求項7に記載の発明は、基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、を具備することを特徴とする。
【0027】
請求項8に記載の発明は、基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、を具備することを特徴とする。
【0028】
請求項9に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0029】
請求項10に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理装置と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0030】
請求項11に記載の発明は、基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0031】
請求項12に記載の発明は、基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0032】
請求項13に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0033】
請求項14に記載の発明は、ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出ぶが抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0034】
請求項15に記載の発明は、基準位置を規定するために利用された所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0035】
請求項16に記載の発明は、基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影するための撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部が抽出した特徴に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、を具備することを特徴とする。
【0036】
請求項17に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づき、上記撮影装置により得たステレオ画像に対しディストーションを補正するディストーション処理を施すディストーション補正処理部を更に具備することを特徴とする。
【0037】
請求項18に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記特徴抽出部は、当該ステレオ画像の対応関係にある特徴を複数抽出するように構成されたことを特徴とする。
【0038】
請求項19に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記特徴抽出部は、上記撮影装置により得たステレオ画像の対応関係にある特徴を複数抽出し、該複数抽出された対応のとれた特徴のうち異常と判定できる特徴は排除して、上記キャリブレーションずれ判定部でのずれ判定に供するように構成されたことを特徴とする。
【0039】
請求項20に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記キャリブレーションずれ判定部は、上記撮影装置により得たステレオ画像の対応関係にある特徴について、上記キャリブレーションデータ保持部が保持するキャリブレーションデータに基づくエピポーラ線拘束を利用してキャリブレーションずれを判定するように構成されたことを特徴とする。
【0040】
請求項21に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記特徴抽出部は、上記撮影装置により得たステレオ画像の一方の画像内でキャリブレーションずれ検出に有効な特徴を選択する特徴選択部と、当該選択された特徴に対応する特徴を他方の画像内から抽出若しくは探索する特徴対応探索部と、を含んでなることを特徴とする。
【0041】
請求項22に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記キャリブレーションデータ保持部は、相対的な位置関係が既知な複数の特徴のデータを保持するものであり、上記キャリブレーションずれ判定部は、上記特徴抽出部が抽出した特徴を表す情報に上記キャリブレーションデータ保持部が保持する上記位置関係を表すデータも利用してキャリブレーションずれ判定を行うものであることを特徴とする。
【0042】
請求項23に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記撮影装置として、複数の視点による視差を生じる複数の像を得る光学系と単一のカメラ部とを有するステレオアダプタ方式の撮影装置に対してそのキャリブレーションずれ検出を行うように構成されたことを特徴とする。
【0043】
請求項24に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記撮影装置としての、複数のカメラを含んでなる撮像システムを対象としてキャリブレーションずれ検出を行うように構成されたものであることを特徴とする。
【0044】
請求項25に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、車載型の上記撮像装置に係るキャリブレーションずれを検出するように構成されたことを特徴とする。
【0045】
請求項26に記載の発明は、請求項9乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記状況判断部は、外部センサの出力に基づいて状況判断を行うことを特徴とする。
【0046】
請求項27に記載の発明は、請求項5、6、7、8、13、14、15若しくは16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に係る処理動作中である旨を表示可能に構成されたものであることを特徴とする。
【0047】
請求項28に記載の発明は、請求項5、6、7、8、13、14、15若しくは16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に係る処理の結果として得られたパラメータと上記キャリブレーションデータ保持部に予め保持されていたパラメータとの差異を表わす情報を表示可能に構成されたものであることを特徴とする。
【0048】
請求項29に記載の発明は、請求項5、6、7、8、13、14、15若しくは16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、正規のずれ検出が行われ得なかったときにはその旨を表わすエラーコードを表示可能に構成されたものであることを特徴とする。
【0049】
請求項30に記載の発明は、請求項5、6、7、8、13、14、15若しくは16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に関する信頼度を表すステータスを表示可能に構成されたものであることを特徴とする。
【0050】
請求項31に記載の発明は、請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置に於いて、上記特徴抽出部は、上記撮影装置により得たステレオ画像に関する信頼度を弁別するように構成され、該特徴抽出部が上記撮影装置により得たステレオ画像に関する信頼度が不十分であることを弁別したときには、該撮影装置による撮影処理を繰り返すように制御する制御が更に設けられることを特徴とする。
【0051】
また、請求項32に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表す映像信号出力を得るようになされた撮像部と、上記撮像部のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、を具備するステレオカメラであって、上記キャリブレーションずれ検出部は、上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮像部により得た映像信号出力としてのステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴を表す情報に基づき上記キャリブレーションデータ記憶部に記憶されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を有することを特徴とする。
【0052】
請求項33に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表す映像信号出力を得るようになされた撮像部と、上記撮像部のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、を具備するステレオカメラであって、上記キャリブレーションずれ検出部は、上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮像部が撮像したステレオ画像を、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づいてレクティフィケーション処理するレクティフィケーション処理部と、上記レクティフィケーション処理部が処理したレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴を表す情報に基づき上記キャリブレーションデータ記憶部に記憶されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を有することを特徴とする。
【0053】
請求項34に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表す映像信号出力を得るようになされた撮像部と、上記撮像部と所定の基準位置を規定する外部装置との間のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力を勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、を具備するステレオカメラであって、上記キャリブレーションずれ検出部は、上記基準位置を規定するために利用される所定の外部装置と上記撮像部の間のキャリブレーションずれに係るキャリブレーションデータを記憶するキャリブレーションデータ記憶部と、上記撮像部により得た映像信号出力としてのステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を有することを特徴とする。
【0054】
請求項35に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表す映像信号出力を得るようになされた撮像部と、上記撮像部と所定の基準位置を規定する外部装置との間のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力を勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、を具備するステレオカメラであって、上記キャリブレーションずれ検出部は、上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮像部が撮像したステレオ画像を、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づいてレクティフィケーション処理するレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴を表す情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を有することを特徴とする。
【0055】
請求項36に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表わす映像信号出力を得るようになされた撮像部と、上記撮像部のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、上記キャリブレーションずれ検出部、演算部、並びに、上記撮像部の出力に関連した所要の表示を行うための表示部と、を含んで構成されたステレオカメラシステムであって、上記キャリブレーションずれ検出部は、上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮像部により得た映像信号出力としてのステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴を表わす情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を含んで構成されたものであり、上記表示部は、上記キャリブレーションずれ判定部の判定結果を自己の表示面に表示可能に構成されたものであることを特徴とする。
【0056】
請求項37に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表わす映像信号出力を得るようになされた撮像部と、上記撮像部のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、上記キャリブレーションずれ検出部、演算部、並びに、上記撮像部の出力に関連した所要の表示を行うための表示部と、を含んで構成されたステレオカメラシステムであって、上記キャリブレーションずれ検出部は、上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮像部により得た映像信号出力としてのステレオ画像に対し上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴を表わす情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を含んで構成されたものであり、上記表示部は、上記キャリブレーションずれ判定部の判定結果を自己の表示面に表示可能に構成されたものであることを特徴とする。
【0057】
請求項38に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表わす映像信号出力を得るようになされた撮像部と、上記撮像部と所定の基準位置を規定する外部装置との間のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、上記キャリブレーションずれ検出部、演算部、並びに、上記撮像部の出力に関連した所要の表示を行うための表示部と、を含んで構成されたステレオカメラシステムであって、上記キャリブレーションずれ検出部は、上記基準位置を規定するために利用される所定の外部装置と上記撮像部間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮像部により得た映像信号出力としてのステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴を表わす情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を含んで構成されたものであり、上記表示部は、上記キャリブレーションずれ判定部の判定結果を自己の表示面に表示可能に構成されたものであることを特徴とする。
【0058】
請求項39に記載の発明は、相互に離隔した複数の視点による視差を持った複数の映像を表わす映像信号出力を得るようになされた撮像部と、上記撮像部と所定の基準位置を規定する外部装置との間のキャリブレーションずれを検出するキャリブレーションずれ検出部と、上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、上記キャリブレーションずれ検出部、演算部、並びに、上記撮像部の出力に関連した所要の表示を行うための表示部と、を含んで構成されたステレオカメラシステムであって、上記キャリブレーションずれ検出部は、上記基準位置を規定するために利用される所定の外部装置と上記撮像部間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、上記撮像部により得た映像信号出力としてのステレオ画像に対し上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、上記特徴抽出部で抽出された特徴を表わす情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、を含んで構成されたものであり、上記表示部は、上記キャリブレーションずれ判定部の判定結果を自己の表示面に表示可能に構成されたものであることを特徴とする。
【0059】
請求項40に記載の発明は、請求項36、37、38若しくは39の何れかに記載のステレオカメラシステムに於いて、上記表示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に係る処理動作中である旨を表示可能に構成されたものであることを特徴とする。
【0060】
請求項41に記載の発明は、請求項36、37、38若しくは39の何れかに記載のステレオカメラシステムに於いて、上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に係る処理の結果として得られたパラメータと上記キャリブレーションデータ保持部に予め保持されていたパラメータとの差異を表わす情報を表示可能に構成されたものであることを特徴とする。
【0061】
請求項42に記載の発明は、請求項36、37、38若しくは39の何れかに記載のステレオカメラシステムに於いて、上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、正規のずれ検出が行われ得なかったときにはその旨を表わすエラーコードを表示可能に構成されたものであることを特徴とする。
【0062】
請求項43に記載の発明は、請求項36、37、38若しくは39の何れかに記載のステレオカメラシステムに於いて、上記キャリブレーションずれ検出部は、その特徴抽出部が上記撮像部により得たステレオ画像に関する信頼度を弁別するように構成され、該特徴抽出部が上記撮像部により得たステレオ画像に関する信頼度が不十分であることを弁別したときには、該撮像部による撮像処理を繰り返すように制御する制御部を更に具えたことを特徴とする。
【0063】
請求項44に記載の発明は、請求項37若しくは38に記載のステレオカメラシステムに於いて、上記キャリブレーションずれ検出部は、当該外部装置として、上記撮像部が装備された車両の特定の形状部を適用するものであることを特徴とする。
【0064】
【発明の実施の形態】
以下、図面を参照して、本発明の実施の形態について説明する。
【0065】
尚、本発明を構成する各部は、当該各部の機能を実現する各個の装置としても観念できるものであるため、以下、実施の形態の説明に於いてはこれらを装置と称呼する。尚、キャリブレーションデータ保持部は、キャリブレーションに係るデータを記憶、保持するキャリブレーションデータ記憶装置として実現される。
【0066】
(第1の実施の形態)
初めに、第1の実施の形態として、撮影装置内部のキャリブレーションずれ検出について説明する。
【0067】
図1は、本発明の第1の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。本実施の形態では、ステレオ撮影装置に関する内部キャリブレーションパラメータに関するキャリブレーションずれを検出する方法である。
【0068】
図1に於いて、このキャリブレーションずれ検出装置1は、各部の装置に制御信号を送ったり全体のシーケンスを司る制御装置2と、状況判断装置3と、レクティフィケーション処理装置4と、特徴抽出装置5と、キャリブレーションずれ判定装置6と、ずれ結果呈示装置7と、キャリブレーションデータ記憶装置8とを有して構成されている。
【0069】
このキャリブレーションずれ検出装置1は、ステレオ画像を撮影し、キャリブレーションずれを検出すべき撮影装置11を、キャリブレーションずれがあるどうかを検出するための装置である。
【0070】
上記状況判断装置3は、キャリブレーションずれ検出を行うかどうかを判断するためのものである。上記キャリブレーションデータ記憶装置8は、予め撮影装置11のキャリブレーションデータを記憶しているものである。
【0071】
また、上記レクティフィケーション処理装置4は、撮影装置11で撮影されたステレオ画像をレクティフィケーション処理するためのものである。特徴抽出装置5は、このレクティフィケーション処理装置4でレクティフィケーション処理されたステレオ画像からステレオ画像内で対応する特徴を抽出するためのものである。
【0072】
キャリブレーションずれ判定装置6は、特徴抽出装置5で抽出された特徴と、キャリブレーションデータ記憶装置に記憶されたキャリブレーションデータを利用して、キャリブレーションずれがあるか否かを判定する。そのずれ判定結果により、ずれ結果呈示装置7が、ずれ結果を報告するようになっている。
【0073】
ずれ結果呈示装置7は、本発明の構成要素たるずれ結果呈示部をなすものであるが、このずれ結果呈示部は図25に基づいて後述する表示装置108を表示器として自己の構成要素として保有する形態を採り得るが、該ずれ結果呈示部は、より一般的に、このような表示器までも自己の部分として保有する態様のものに限られず、キャリブレーションずれ判定装置6による判定結果を表す信号に基づいて、ずれ結果を呈示するための出力信号乃至データを生成する限りの態様を採る場合もあり得る。
【0074】
尚、キャリブレーションずれ検出装置1内の各装置は、ハードウェアや回路で構成されたもよいし、コンピュータやデータ処理装置のソフトウェアで処理されてもよい。
【0075】
ここで、第1の実施の形態の具体的説明をする前に、本発明で重要となるステレオ撮影に関する技術的内容について、その概要を説明する。
【0076】
[数学的準備とカメラモデル]
先ず、ステレオ画像を利用して撮像装置で画像を撮影すると、その画像は、撮像装置内の撮像素子(例えば、CCDやCMOS等の半導体素子)で画像として結像されると共に画像信号となる。この画像信号は、アナログ或いはデジタル信号であるが、キャリブレーションずれ検出装置内では、デジタル画像データとなる。デジタルデータは2次元配列として表現できるが、もちろん六方細密充填のようなハニカム構造の2次元配列でも良いことは当然である。
【0077】
撮影装置がアナログ画像を送信する場合には、キャリブレーションずれ検出装置内或いはその装置外にフレームメモリを用意して、その画像をデジタル画像に変換する。キャリブレーションずれ検出装置内で規定される画像について、その画素は、正方或いは長方格子状に定義できると仮定する。
【0078】
いま、画像の座標を(u,v)等の2次元座標で表現することとする。
【0079】
先ず、図2に示されるように、ステレオ画像を撮影する撮影装置11は、左右の2台のカメラ12a、12bとから構成されているとする。そして、左画像を撮影するカメラ12aを規定する座標系を左カメラ座標系L、右画像を撮影する座標系を右カメラ座標系Rとする。そして、ステレオ画像として、左カメラ内の画像座標を(uL ,vL )、右カメラ内の画像座標値を(uR ,vR )等で表現するとする。尚、13a、13bは、それぞれ左カメラ画像面、右カメラ画像面とする。
【0080】
また、撮影装置11の全体が規定する基準座標系を定義することも可能である。この基準座標系を、例えばWとする。もちろん、基準座標系として、一方のカメラ座標系LまたはRを採用しても良いことは明白である。
【0081】
いままでは、撮影装置として2台のカメラによるステレオ撮影により、ステレオ画像を生成するものを考えてきたが、これ以外にステレオ画像を生成する方法もある。例えば、1台のカメラの前にステレオアダプタを装着して、同時に左右画像を1台のCCD或いはCMOSなどの撮像素子の中に撮影する方法である(例えば、本件出願人による特開平8−171151号公報等参照)。
【0082】
このようなステレオアダプタの場合には、図3に示されるように、左ミラー群14a、右ミラー群14bを有するステレオアダプタで撮影される画像は、あたかも2台の撮像装置で2台のフレームメモリが存在するかの如く、通常のステレオカメラに展開することができる。また、ステレオアダプタの変形例としては、上述した特開平8−171151号公報にあるように、左右ステレオ画像をCCD面上で上下分割するように光学的な変形素子を設けるものでもよい。
【0083】
本発明に於けるステレオ撮影は、このように2台或いは2台以上の複数のカメラで撮影されるステレオ画像でもよい。或いは、ステレオアダプタを利用して撮影されるステレオ画像でもよい。
【0084】
本発明では、こうしたステレオ画像を撮影する装置の光学系として、光学レンズ系にレンズディストーションがある場合でも可能なような装置構成とする。但し、先ず説明を簡単にするために、光学系にはレンズディストーションがない場合に関する撮像に関する数学的モデル化を行い、続いてより一般化したレンズディストーションを含む場合の取り扱いを行う。
【0085】
そのために、先ず、撮像装置とフレームメモリの光学的特性をピンホールカメラでモデル化することを考える。
【0086】
すなわち、左画像に関連するピンホールカメラモデルの座標系を左カメラ座標系Lとし、右画像に関連するピンホールカメラモデルの座標系を右カメラ座標系Rとする。また左カメラ座標系L内の点を(xL,yL,zL)、その画像対応点を(uL,vL)、右カメラ座標系R内の点を(xR,yR,zR)、その画像対応点を(uR,vR)とすると、図2に示されるカメラ位置CL,CRを考慮しながら、下記式の如く求める。
【0087】
【数1】
【0088】
ここで本数学的モデルでは、カメラの横及び縦方向の画像拡大率を持って、カメラの焦点距離に関するパラメータをモデル化しているが、もちろんこれらのパラメータをカメラの焦点距離に関するパラメータのみで記述することは可能である。
【0089】
基準座標系Wで定義される点P(x,y,z)の左画像内での位置を(uL,vL)、右画像内での位置を(uR,vR)とし、左画像で想定される撮像装置とフレームメモリに対応する左カメラ12aの基準座標系に於ける位置CL(左カメラ座標系の原点)と、右画像で想定される撮像装置とフレームメモリに対応する右カメラ12bの基準標系に於ける位置CR (右カメラ座標系の原点)を考えることができる。このとき、基準座標系Wの点P(x,y,z)から左(uL,vL)へ射影される変換式と、同一の点から右(uR,vR)へ射影される変換式は、以下のように表すことができる。
【0090】
【数2】
【0091】
一方基準座標系として例えば左カメラ座標系を採用した場合には、下記式の如くなる。
【0092】
【数3】
【0093】
[ディストーション補正]
一方、撮像装置の光学レンズ等のレンズディストーションが3次元計測に要求精度に対して無視できない場合には、レンズディストーションを含めた光学系を考える必要がある。この場合には、上記式(3)、(4)は、以下に示されるような式(7)、(8)で表現することができる。この式では、レンズディストーションを表現するのにラディアルディストーションとタンジェンシャルディストーションを表したものであるが、もちろんこれ以外のディストーション表現であってもよい。
【0094】
【数4】
【0095】
またディストーション除去或いはディストーション補正のステップとは、以下のようにして画像を生成することを意味する。
【0096】
(左画像のディストーション補正)
【数5】
【0097】
(右画像のディストーション補正)
【数6】
【0098】
[内部キャリブレーションパラメータとキャリブレーションずれ問題の定義]
2台のカメラから構成されるステレオ画像を撮影する撮影装置の、左カメラの座標系をL、右カメラの座標系をRとして、これらのカメラの位置関係を考える。座標系Lと座標系Rの間の座標値の関係は、座標変換(回転行列と並進ベクトル)を利用して、下記のように表現することができる。
【0099】
【数7】
【0100】
【数8】
【0101】
本発明に於いては、この撮影装置の内部キャリブレーションパラメータpなどをキャリブレーションパラメータとして、キャリブレーションデータ記憶装置に記憶される。キャリブレーションデータとしては、このカメラキャリブレーションパラメータpは少なくとも含まれていることとする。
【0102】
【数9】
【0103】
またキャリブレーションずれの検出とは、このように設定されたキャリブレーションパラメータの値が変化したかを検出することである。
【0104】
[外部キャリブレーションパラメータとキャリブレーションずれ問題の定義]
先に説明したように、撮影装置と外部装置間のキャリブレーションも考える必要がある。
【0105】
この場合には、例えば左カメラ座標系Lを撮影装置の基準座標系としてとり、左カメラ座標系と外部装置間の間の位置姿勢関係を規定することがキャリブレーションに相当する。例えば、外部装置の座標系をOとすると、外部装置座標系Oから左カメラ座標系Lへの座標変換パラメータを式(18)のようにすると、式(19)で表される6個のパラメータにより、その位置姿勢関係を記述することができる。
【0106】
【数10】
【0107】
[ステレオ画像におけるエピポーラ線拘束]
ステレオ画像を用いて画像計測を行う際には、後にも述べるとおり、左右画像内で対応点探索を行うことが重要になる。この対応点探索に関して重要なのがいわゆるエピポーラ線拘束という概念である。以下、図4(a)、(b)を参照して説明する。
【0108】
【数11】
【0109】
この直線のことをエピポーラ線と称する。
【0110】
ここで重要なのは、ディストーションが画像内で顕著なときには、ディストーション補正或いは除去を予め行っておかなければならないということである。また、ディストーション補正された正規化画像に於いても、同様にエピポーラ線拘束が成立する。従って、以下では、先ずディストーション補正され、かつ正規化された画像面内で、本発明で考えるエピポーラ線の定義を行う。
【0111】
【数12】
【0112】
今までは、正規化された画像面で考えてきたが、ディストーション補正された画像面でも同様にエピポーラ線の方程式を導くことができる。
【0113】
【数13】
【0114】
[レクティフィケーション処理]
以上、エピポーラ線拘束を左右画像内の特徴点として考えてきたが、それ以外の方法として、レクティフィケーション(rectification)処理というものが、ステレオ画像処理ではよく用いられる。
【0115】
以下に、本発明に於けるレクティフィケーションについて説明する。
【0116】
レクティフィケーション処理を行うと、左右の画像内で対応する特徴点どうしが同一水平直線上になるという拘束を導くことができる。言い換えれば、レクティフィケーション処理後の画像では、左画像の同一直線上の特徴点群が、右画像上で同一直線をエピポーラ線として定義できることになる。
【0117】
図5は、この様子を表したものである。図5(a)はレクティフィケーション前の画像を表しており、(b)はレクティフィケーション後の画像を表している。
【0118】
このようなレクティフィケーションを実現するために、図6に示されるように、左右カメラ原画像を、互いに水平になるようにそれぞれ変換する。この際、左カメラ座標系Lと右カメラ座標系Rの原点CL ,CR は移動せずに、カメラ座標系の軸のみを変更することにより、新しい左右の画像面を生成するわけである。
【0119】
左カメラ座標系Lと右カメラ座標系Rを、レクティフィケーションした後の座標系をそれぞれLRect ,RRect とする。上述したとおり、LとLRect 、RとRRect の原点は一致する。
【0120】
これから2個の座標系の座標系間の座標変換を考えるが、その前に基準座標系を左カメラ座標系Lととることにする。(基準座標系を他にとっても同様である。)
このとき、レクティフィケーション後の左カメラ座標系LRect と右カメラ座標系RRect を以下のように定義する。
【0121】
先ず、左カメラ座標系Lの原点から右カメラ座標系Rの原点へのベクトルを考える。これは、もちろん基準座標系を基準として測ったものである。
【0122】
【数14】
【0123】
このように設定すると、図5或いは図6で示されるように、正規化された画像空間では、左右の対応点が一直線上(エピポーラ線上)に配置されるようになることは自明である。
【0124】
【数15】
【0125】
【数16】
【0126】
【数17】
【0127】
右カメラ系でも同様である。
【0128】
いままでは、ディストーション補正を含まないカメラ系で説明してきたが、ディストーション補正を含む実際の場合には、以下のような方法によればよい。
【0129】
【数18】
【0130】
[ディストーション除去を含むレクティフィケーションステップ (RecL及びRecRステップ)]
【数19】
【0131】
これまでレクティフィケーション処理の方法として、上記のような説明をしたが、レクティフィケーションの方法はこれに限られるものではない。例えば、Andrea Fusiello, et al, ”A compact algorithm for rectification of stereo pairs,” Machine Vision and Applications, 2000, 12: 16−22に示されているような方法でもよい。
【0132】
以上、実施の形態を説明するのに必要となる用語の説明と処理の方法について述べたが、以下に、図1に示されるキャリブレーションずれ検出装置に関して具体的に説明する。
【0133】
図7は、本第1の実施の形態に於けるキャリブレーションずれ検出装置の詳細な動作を説明するフローチャートである。尚、本実施の形態に於いては、制御装置2の制御によって動作される。
【0134】
先ず、ステップS1に於いて、状況判断装置3によって、キャリブレーションずれが現時点で検出されるべきか否かが判断される。ここで判断される方法としては、次のようなものがある。
【0135】
キャリブレーションデータ記憶装置8に記憶された、キャリブレーションパラメータが過去に設定された時刻や状態等から判断する。例えば、キャリブレーションずれを定期的に行う場合には、その過去の時刻と現在時刻との差をとり、その差がある閾値より大きければ、キャリブレーションずれを検出すべきか否かを判断する。
【0136】
その他、自動車等の、装着された撮影装置の場合等には、車に装着された走行距離メータ(Odometer)等の値から判断してもよい。
【0137】
また、現在の天候や時間がキャリブレーションずれを検出するのに適しているか否かを判断するなどということも考えられる。例えば、自動車の車外を監視するための撮影装置の場合には、夜や雨等の悪天候の場合に、キャリブレーションずれ検出を避ける等の判断をする。
【0138】
以上のような状況をふまえて、キャリブレーションずれ検出が必要か否かが判断される。その結果、キャリブレーション検出が必要と判断された場合には、その旨が制御装置2に告知される。制御装置2がその告知を受けた場合には、ステップS2に移行する。一方、キャリブレーションずれ検出が不必要、或いは不可ならば、本ルーチンが終了する。
【0139】
ステップS2では、撮影装置11によりステレオ画像が撮影される。この撮影装置11で撮影される画像は、上述したように、撮影装置11が撮影する画像はアナログ画像でもデジタル画像でもかまわない。アナログ画像の際には、その画像がデジタル画像に変換される。
【0140】
この撮影装置11で撮影された画像は、左画像と右画像としてキャリブレーションずれ検出装置1に送出される。
【0141】
図8は左右原画像を表したものであり、(a)は左カメラにより撮影された左原画像であり、(b)は右カメラにより撮影された右原画像である。
【0142】
次に、ステップS3では、レクティフィケーション処理装置1に於いて、過去に記憶されたキャリブレーションデータがキャリブレーションデータ記憶装置8から受け取られて、レクティフィケーション処理が施される。
【0143】
【数20】
【0144】
レクティフィケーション処理に際して、撮影装置11を構成する左右のカメラのレンズディストーションが顕著である場合には、上述したRecLとRecRのステップに従って、レンズディストーション補正のアルゴリズムを含めて処理が行われる。尚、レンズディストーションが無視できる際には、RecLとRecRの中のディストーション補正の部分を除いて処理が行われるようにすればよい。
【0145】
このようにレクティフィケーション処理された画像は、次の特徴抽出装置5へ送出される。
【0146】
図9はレクティフィケーションされた左右の画像を表したもので、(a)は左画像、(b)は右画像である。
【0147】
ステップS4では、上記ステップS3でレクティフィケーションされたステレオ画像について、キャリブレーションずれ検出に必要となる特徴が抽出される。この処理は、特徴抽出装置5で行われる。
【0148】
特徴抽出装置5は、例えば、図10に示されるように、特徴選択部5aと特徴対応探索部5bとから構成されている。特徴選択部5aでは、レクティフィケーションされたステレオ画像から、キャリブレーションずれを検出するのに有効となりそうな画像特徴が、一方の画像から抽出及び選択される。そして、この特徴選択部5aで選択された特徴に対応する特徴が、上記特徴対応探索部5bにて、他方の画像内で探索されて最適な特徴が抽出され、これらの特徴対の集合がデータとして生成される。
【0149】
こうして得られた特徴対のデータは、左右画像レクティフィケーション後の画像座標値として登録される。
【0150】
【数21】
【0151】
ここで、上記特徴抽出装置5の特徴選択部5a及び特徴対応探索部5bの詳細を説明する。
【0152】
先ず、特徴選択部5aでは、一方の画像、例えば左画像の中に於いて、キャリブレーションずれ検出に有効となりそうな特徴が選択される。例えば、特徴として、特徴点を候補にする際には、先ず、レクティフィケーションされた左画像が、図11に示されるように、M×N個の正方形から成る小ブロックに分割される。そして、その各ブロック内の画像から、多くとも1個のコーナーポイント等の特徴点が抽出される。
【0153】
この方法としては、例えば、R. Haralick and L. Shapiro, Computer and Robot Vision, Volume II, pp. 332 − 338, Addison−Wesley, 1993にあるような Interest OperatorやCorner Point Extraction法等を利用すればよい。または、各ブロック内でエッジ成分が抽出されて、その強度がある閾値以上のエッジ点をもって特徴点としてもよい。
【0154】
ここで重要なのは、あるブロック内が全く均一な領域のみで構成されている場合には、その領域からは特徴点が選択されない可能性もあるという点である。このようにして選択された特徴点の例が、図12に示される。この図12に於いて、○(白丸)で示された点15が、このようにして選択された特徴である。
【0155】
次に、特徴対応探索部5bについて説明する。一方の画像から特徴選択部5aで選択された特徴に関して、他方の画像内で、対応する特徴を抽出するのが特徴対応探索部5bの機能である。この特徴対応探索部5bでは、以下の方法により対応する特徴が探索される。
【0156】
ここで、探索範囲の設定について説明する。
【0157】
上記ステップS3で作成されたレクティフィケーション処理後の画像は、キャリブレーションデータ記憶装置8から過去に記憶されたキャリブレーションデータが使用されたものである。従って、キャリブレーションずれがある場合には、エピポーラ線上に対応点があるとは限らない。故に、対応探索される範囲は、想定される最大のキャリブレーションずれにも適合する対応探索範囲が設定されることがある。実際には、左画像内の特徴(u,v)に対応する右画像内のエピポーラ線の上下にある領域が用意される。
【0158】
【数22】
【0159】
次に、エリアベースマッチングによる対応探索について説明する。
【0160】
上述した探索範囲の設定により決定された探索領域内で、最適な対応が探索される。最適な対応が探索される方法としては、例えば、J. Weng, et al, Motion and Structure from Image Sequences, Springer−Verlag, pp. 7 − 64, 1993に示される方法等がある。または、左画像内の特徴に近傍の領域を利用して、その領域の画素値に最も類似した画像領域を右画像内の対応探索領域内で探索する方法でもよい。
【0161】
【数23】
【0162】
これらの類似度或いは非類似度の値が利用されることで、それぞれマッチングのクオリティ或いは信頼度を考えることができる。例えば、SADを考えた場合、そのSADの値が対応点付近では、ピークの鋭い小さな値を得れば、その対応点の信頼度は高いということができる。このように最適と判断された対応点毎に、その信頼度を考えるわけである。その対応点(u′,v′)が決定される。もちろん信頼度を考慮する場合には、
対応点対応点(u′,v′): 信頼度が閾値以上
対応点なし : 信頼度が閾値未満
というようにすることも可能である。このように信頼度を考慮する場合には、もちろん未対応点を有する画素が左画像或いは右画像に存在することになる。
【0163】
【数24】
【0164】
このように、対応のとれた右画像内に於ける特徴が、図14に示される。図14に於いて、○(白丸)で示された点16が、このようにして対応のとれた右画像内の特徴点を表している。
【0165】
図7のフローチャートに戻って、ステップS5では、特徴抽出装置5にて更に、上記ステップS4で登録された特徴対の数や信頼度がチェックされる。ここで、登録された特徴対の数が、ある所定の数より少ない場合には、撮影されたステレオ画像は不適切であったと判断される。従って、上記ステップS1に移行して、再度撮影処理等が繰り返される。この撮影処理の繰り返しは、特徴抽出装置5の出力データに基づいて制御装置2から発せられる制御指令によって行われる。この点は、図1、図17、図20及び図24の構成に於いて同様である。
【0166】
一方、信頼性のある特徴対が得られたと判断された場合には、特徴対の集合が、キャリブレーションずれ判定装置6へ送出される。
【0167】
次いで、ステップS6では、キャリブレーションずれ判定装置6での処理が行われる。
【0168】
【数25】
【0169】
ここで、キャリブレーションずれ判定方法について説明する。
【0170】
キャリブレーションずれ判定方法1として、上記ステップS4で登録されたn個の特徴に関して、事前に得られているキャリブレーションデータに基づいてレクティフィケーションされた特徴対の画像座標値が利用される。すなわち、キャリブレーションデータのずれが全くないとすれば、登録された特徴対は完全にエピポーラ線拘束を満たしていることになる。逆に言えば、キャリブレーションずれが生じている場合には、このエピポーラ線拘束が満たされていないと判断できる。そこで、特徴対全体として、どの程度エピポーラ線拘束が満たされていないかが評価値として、キャリブレーションずれが判定されることにする。
【0171】
【数26】
【0172】
図15は、こうした様子を示したものである。図15に於いて、各特徴に関して、エピポーラ線からのずれdiは、特徴点のエピポーラ線からの画像内距離に対応するわけである。
【0173】
次に、キャリブレーションずれ判定方法2について説明する。
【0174】
上記判定方法1で説明した方法で、対応探索の信頼度が高い場合には良好な結果が得られるが、対応探索結果に信頼度が低いものが含まれている可能性がある場合には、下記式(48)で算出された各特徴の差異の中、ノイズ成分が多く含まれている可能性があると考えられる。
【0175】
【数27】
【0176】
このような場合には、ノイズ成分と思われる異常値が予め取り除かれた後に平均が取られる作業により、キャリブレーションずれが判定される方法が有効である。
【0177】
【数28】
【0178】
図7のフローチャートに戻って、ステップS7では、上記ステップS6で判定された結果が、ずれ結果呈示装置7によって呈示される。
【0179】
図16は、ずれ結果呈示装置7の一例を表したものである。本例では、ずれ結果呈示装置7として表示装置108(図25につき後述する)を利用したものであり、より具体的には、ディスプレイやLCDモニタ等で構成されている。もちろん、このディスプレイは、別の用途のディスプレイでもよく、そのディスプレイの画面一部分を利用して、ずれ結果を表示するものでもよいし、ずれ結果表示のために、画面表示のモードを切り替えるタイプのものでもよい。
【0180】
本発明の実施の形態に於けるこのずれ結果表示装置7は、上記キャリブレーションずれ判定部との協働によりずれ検出に係る処理動作中である旨を表示可能に構成され、また、ずれ検出に係る処理の結果として得られたパラメータと上記キャリブレーションデータ保持部に予め保持されていたパラメータとの差異を表わす情報を表示可能になされ、更に、正規のずれ検出が行われ得なかったときにはその旨を表わすエラーコードを表示可能に構成される。
【0181】
図16の表示では、3個のカラムA、B、Cを有しており、それぞれのカラムに結果が表示されるようになっている。
【0182】
カラムAの部分は、キャリブレーションずれ検出中にはフラッシュすることになり、ずれ検出の結果が得られたときには、カラムBの部分にずれ量の大きさや判定結果等が表示される。また、カラムCの部分には、ずれ検出に関わるステータスが表示される。ステータスとしては、上述したステップS5で示される途中結果や、ずれ検出に関わるエラーコード等が表示されるようになっている。
【0183】
このような方法をとることにより、ずれ検出の各種モードや処理結果が、ユーザや或いはステレオ撮影装置等をメンテナンスする作業者等に、効果的に告知することが可能となる。
【0184】
その他のずれ検出結果の呈示方法としては、音声による呈示、警報アラームや音源による呈示等が考えられる。
【0185】
(第2の実施の形態)
次に、本発明の第2の実施の形態として、レクティフィケーションを行わないで、ずれ検出する方法について説明する。
【0186】
上述した第1の実施の形態では、入力された左及び右画像に関してレクティフィケーション処理を施した後に、エピポーラ線拘束を利用して、特徴がどの程度エピポーラ線拘束を満たしているかを判断材料とすることで、撮影装置の内部キャリブレーションパラメータに関するキャリブレーションずれを検出することを行っていた。
【0187】
これに対し、第2の実施の形態では、レクティフィケーション処理を行わずに、撮影装置の内部キャリブレーションパラメータに関するキャリブレーションずれを検出する方法について述べる。
【0188】
図17は、本発明の第2の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。
【0189】
尚、以下に述べる実施の形態に於いて、上述した第1の実施の形態と同一の部分には同一の参照番号を付して説明を省略するものとする。
【0190】
図17に於いて、ステレオ画像を撮影してキャリブレーションずれを検出すべき撮影装置11が、キャリブレーションずれ検出装置20でキャリブレーションずれがあるかが検出される。
【0191】
キャリブレーションずれ検出装置20は、制御装置2と、状況判断装置3と、特徴抽出装置5と、キャリブレーションずれ判定装置6と、ずれ結果呈示装置7(図16につき既述)と、キャリブレーションデータ記憶装置8とから構成されている。すなわち、図1に示される構成のキャリブレーションずれ検出装置1から、レクティフィケーション処理装置4を除いた構成となっている。
【0192】
ここで、キャリブレーションずれ装置20内の各装置は、ハードウェアや回路で構成されたもよいし、コンピュータやデータ処理装置のソフトウェアで処理されてもよい。
【0193】
次に、図18のフローチャートを参照して、第2の実施の形態に於けるキャリブレーションずれ検出装置の動作について説明する。
【0194】
ステップS11にてキャリブレーションずれが現時点で検出されるべきか否かが判断され、続くステップS12にて撮影装置11によりステレオ画像が撮影される。これらステップS11及びS12の動作は、上述した図7のフローチャートに於けるステップS1及びS2と同様であるので、詳細な説明は省略する。
【0195】
次いで、ステップS13にて、上記ステップS12で撮影されたステレオ画像について、キャリブレーションずれ検出に必要となる特徴が抽出される。この処理は、特徴抽出装置5で行われる。
【0196】
特徴抽出装置5は、上述した第1の実施の形態の場合と同様に、図10に示されるように、特徴選択部5aと、特徴対応探索部5bとから構成されている。こうして得られた特徴対のデータは、左右画像レクティフィケーション後の画像座標値として、登録される。
【0197】
【数29】
【0198】
ここで、第2の実施の形態に於ける上記特徴抽出装置5の画像選択部5a及び特徴対応探索部5bの詳細を説明する。
【0199】
先ず、特徴選択部5aでは、ステレオ撮影装置11で撮影された画像に対して、レンズディストーションが著しく顕著な場合にはディストーション補正処理によりディストーション成分が除去される操作が行われる。
【0200】
次に、一方の画像、例えば左画像の中に於いて、キャリブレーションずれ検出に有効となりそうな特徴が選択される。例えば、特徴として、特徴点を候補にする際には、先ずレクティフィケーションされた左画像が、上述した図11に示されるように、M×N個の正方形から成る小ブロックに分割され、その各ブロック内の画像から多くとも1個のコーナーポイント等の特徴点が抽出される。この方法は、上述した第1の実施の形態の場合と同様である。
【0201】
次に、特徴対応探索部5bについて説明する。
【0202】
一方の画像から特徴選択部5aで選択された特徴に関して、他方の画像内で、対応する特徴を抽出するのが特徴対応探索部5bの機能である。特徴対応探索部5bでは、以下の方法により対応する特徴が探索される。
【0203】
探索範囲の設定について説明する。
【0204】
撮影された画像は、キャリブレーションデータ記憶装置8から過去に記憶されたキャリブレーションデータが使用されたものであるので、キャリブレーションずれがある場合には、エピポーラ線上に対応点があるとは限らない。従って、上述した第1の実施の形態の場合と同様に、対応探索される範囲は、想定される最大のキャリブレーションずれにも適合する対応探索範囲が設定されることがある。実際には、左画像内の特徴(u,v)に対応する右画像内のエピポーラ線の上下にある領域が用意される。
【0205】
図19(a)、(b)はこの設定を示したものであり、エピポーラ線の上下方向にある幅2Wv の幅が設けられて、探索が行われることとなる。
【0206】
次に、エリアベースマッチングによる対応探索が行われる。
【0207】
上記探索範囲の設定により決定された探索領域内で、最適な対応が探索される。最適な対応を探索する方法としては、例えば、J. Weng, et al, Motion and Structure from Image Sequences, Springer−Verlag, pp. 7 − 64, 1993に示される方法等がある。または、上述した第1の実施の形態で説明した方法でもよい。
【0208】
図18のフローチャートに戻って、ステップS14では、特徴抽出装置5にて、更に上記ステップS13で登録された特徴対の数や信頼度がチェックされる。登録された特徴対の数が、ある所定の数より少ない場合には、撮影されたステレオ画像は不適切であったと判定される。この場合は上記ステップS11に移行して、撮影処理等が繰り返される。一方、信頼性のある特徴対が得られたと判定された場合には、特徴対の集合が、キャリブレーションずれ判定装置6へ送出される。
【0209】
次いで、ステップS15は、キャリブレーションずれ判定装置6によって行われる。
【0210】
【数30】
【0211】
ここで、第2の実施の形態に於けるキャリブレーションずれ判定方法について説明する。
【0212】
判定方法1として、上記ステップS13で登録されたn個の特徴に関して、事前に得られているキャリブレーションデータに基づいてレクティフィケーションされた特徴対の画像座標値が利用される。すなわち、キャリブレーションデータのずれが全くないとすれば、登録された特徴対は完全にエピポーラ線拘束を満たしていることになる。逆に言えば、キャリブレーションずれが生じている場合には、このエピポーラ線拘束が満たされていないと判断できる。そこで、特徴対全体として、どの程度エピポーラ線拘束が満たされていないかを評価値として、キャリブレーションずれを判定することにする。
【0213】
【数31】
【0214】
次に、キャリブレーションずれ判定方法2について説明する。
【0215】
上述した判定方法1の方法で、対応探索の信頼度が高い場合には良好な結果が得られるが、対応探索結果に信頼度が低いものが含まれている可能性がある場合には、下記(53)式で算出された各特徴の差異の中、ノイズ成分が多く含まれている可能性があると考えられる。
【0216】
【数32】
【0217】
このような場合には、ノイズ成分と思われる異常値が予め取り除かれた後に平均が取られる作業により、キャリブレーションずれが判定される方法が有効である。
【0218】
【数33】
【0219】
図18のフローチャートに戻って、ステップS16では、上述したステップS15で判定された結果が、ずれ結果呈示装置7によって呈示される。表示方法は、上述した第1の実施の形態と同様であるので、ここでは省略する。
【0220】
この第2の実施の形態によれば、レクティフィケーション処理にかかる時間を短縮することが可能となる。特に、特徴点数が少なくてよい場合には有効である。
【0221】
(第3の実施の形態)
次に、本発明の第3の実施の形態として、撮影装置と外部装置間のキャリブレーションずれについて説明する。
【0222】
この第3の実施の形態では、キャリブレーションに於ける基準位置を規定するために利用される所定の外部装置と撮影装置間の位置姿勢ずれは生じているとき、そのキャリブレーションずれが起こっているか否かを検出する装置について説明する。
【0223】
図20は、本発明の第3の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。
【0224】
図20に於いて、ステレオ画像を撮影してキャリブレーションずれを検出すべき撮影装置11が、キャリブレーションずれ検出装置22でキャリブレーションずれがあるかが検出される。
【0225】
キャリブレーションずれ検出装置22は、制御装置2と、状況判断装置3と、特徴抽出装置5と、キャリブレーションずれ判定装置6と、ずれ結果呈示装置7と、キャリブレーションデータを保持しているキャリブレーションデータ記憶装置8とから構成されている。すなわち、図17に示される第2の実施の形態のキャリブレーションずれ検出装置20と、構成上は同じである。
【0226】
ここでキャリブレーションずれ装置22内の各装置は、ハードウェアや回路で構成されたもよいし、コンピュータやデータ処理装置のソフトウェアで処理されてもよい。
【0227】
尚、撮影装置11と外部装置間の位置姿勢キャリブレーションパラメータに関するキャリブレーションずれを検出するためには、基準位置を規定するために利用される所定の外部装置を基準としてその場所が既知な既知特徴が必要となる。
【0228】
【数34】
【0229】
例えば、外部装置である車両にステレオ撮影装置を装着して、車両とステレオ撮影装置間のキャリブレーションずれが起こっているかを検出する場合を考える。また、ステレオ撮影装置は、車両の前方を撮影するために設定されたもので、その撮影には、車両の一部が撮影されているものとする。このような場合には、撮影される車両の一部の形状に関する特徴を既知特徴として登録することが可能である。
【0230】
例えば、図21には、そのような配置の既知特徴が示されている。この際、ステレオ撮影装置は、車両前方のウインドウとバックミラーの間に配置されており、ステレオ撮影装置が撮影する画像の下部に、車両前方のボンネットが撮影されており、そのボンネット25上に存在するコーナーやエッジ点26等を登録すればよい。この際、車両に於けるこうした特徴は、車両のCADモデル等から、その3次元座標が容易に得ることができる。
【0231】
上述の特徴を得るための外部装置としては、種々のものを適用可能であるが、撮像部が装備された車両の特定の形状部を適用する例としては、既存のボンネット上のコーナやエッジ点等の他、例えば、フロントガラスの一部に相対的な位置が既知なマーカを既知特徴として予め配置しておき、それらの3次元位置を予め計測しておき、それらの全部或いは一部がステレオ撮影装置で撮影できるようにしておいてもよい。
【0232】
図21(a)は撮影される左画像の例を表したものであり、(b)は既知特徴として選択された特徴を黒丸27で示したものである。
【0233】
尚、ここでは3点のみを既知特徴として表したが、この数は少なくとも1個以上あり、且つ複数個あってもかまわない。また特徴として特徴点でなくても曲線であってもかまわない。
【0234】
図21(c)は、フロントガラスの一部に既知特徴である黒丸の既知マーカを配置した様子の例を表したものである。この図に於いて、既知マーカ群は、左右カメラ内でその全部あるいはその一部が撮影できるように配置されているわけである。またこれらのマーカ群は、図21(d)及び(e)に示されるように、ステレオ左右画像の画像周辺部に写り込むように配置されており、重要な映像となる中心部には写り込まないように設計されている。
【0235】
次に、図22のフローチャートを参照して、第3の実施の形態に於けるキャリブレーションずれ検出装置の動作について説明する。
【0236】
ステップS21にてキャリブレーションずれが現時点で検出されるべきか否かが判断され、続くステップS22にて撮影装置11によりステレオ画像が撮影される。これらステップS21及びS22の動作は、上述した図7のフローチャートに於けるステップS1及びS2、図18のフローチャートに於けるステップS11及びS12と同様であるので、詳細な説明は省略する。
【0237】
次いで、ステップS23にて、上記ステップS22で撮影されたステレオ画像について、キャリブレーションずれ検出に必要となる既知特徴が抽出される。この処理は、特徴抽出装置5で行われる。特徴抽出装置5では、撮影されたステレオ画像から、キャリブレーションずれを検出するのに必要となる既知特徴とその対応する特徴が、ステレオ画像の中から抽出される。
【0238】
【数35】
【0239】
尚、既知特徴を抽出する方法としては、上述した第1の実施の形態で説明したように、画像に関してキャリブレーションずれが起こっていないと仮定した場合に、各特徴が規定するエピポーラ線に対して、その周辺に探索範囲を拡大することで、対応する既知特徴を抽出する方法を採用してもよい。
【0240】
また、既知特徴の数が少ない場合には、これに加えて、上述した第1或いは第2の実施の形態で説明したような、画像内で撮影された特徴(これらを自然特徴と称する)が撮影されて、その対応特徴が抽出される。
【0241】
【数36】
【0242】
このようにして抽出された特徴の集合A及びBが、図23(a)、(b)に示される。図23(a)、(b)に於いて、黒丸29は既知特徴を表し、白丸30は自然特徴を表している。
【0243】
次に、ステップS24に於いて、特徴抽出装置5にて、更に上記ステップS23で登録された特徴対の数や信頼度がチェックされる。登録された特徴対の数が、ある所定の数より少ない場合には、撮影されたステレオ画像は不適切であるとされる。この場合には、上記ステップS21へ移行して、撮影処理等が繰り返される。一方、信頼性のある特徴対が得られたと判定された場合には、特徴対の集合が、キャリブレーションずれ判定装置6へ送出される。
【0244】
続くステップS25では、以下のサブステップSS1とSS2とが利用されて、キャリブレーションずれがあるか否かが推定される。すなわち、
1)ステレオ撮影装置の内部キャリブレーションパラメータがキャリブレーションずれを起こしているかを判定する
2)1)が起こっていないとした場合、ステレオ撮影装置と外部装置間の位置姿勢ずれに伴うキャリブレーションずれが起こっているかを判定する
の2種類の判定が、サブステップSS1とSS2により行われるわけである。
【0245】
先ず、サブステップSS1について説明する。
【0246】
ステレオ画像内で、先ず、既知特徴が利用されて、その既知特徴が画像内であるべき位置にあるか否かが判定される。
【0247】
【数37】
【0248】
【数38】
【0249】
もちろんこの画像内での位置は、キャリブレーションデータが全て正しいと仮定した場合に成立する式である。従って、上記式(55)の集合Bで表される画像内での位置と、キャリブレーションデータが正しいと仮定した場合の画像位置との差が計算されることにより、キャリブレーションずれが起こっているか否かが判定できるわけである。
【0250】
【数39】
【0251】
すなわち、サブステップSS1によってキャリブレーションずれが少なくとも起きているか否かを判定することができる。
【0252】
次に、サブステップSS2について説明する。
【0253】
サブステップSS2では、上述したサブステップSS1でキャリブレーションずれが起こっている際に、それが、少なくともステレオ撮影装置の内部キャリブレーションずれに起因するのか、或いはステレオ撮影装置と外部装置間の位置姿勢関係に関するキャリブレーションずれに起因するのかを判断するものである。
【0254】
このためには、上記式(55)集合Bと式(56)集合Aの何れか一方、或いは両方A及びBの特徴、上述した第1或いは第2の実施の形態で説明したエピポーラ線拘束が成立しているかどうかを判定基準として、内部キャリブレーションずれが起こっているかどうかを判定するわけである。すなわち、上記式(47)、(49)、或いは式(52)、(54)で判定すればよい。
【0255】
撮影装置の内部に関するキャリブレーションずれがないと判定された場合で、サブステップSS1でキャリブレーションずれがありと判定された場合には、キャリブレーションずれは、ステレオ撮影装置と外部装置間の位置姿勢ずれに基づくキャリブレーションずれであると判定することができる。
【0256】
一方、サブステップSS2でもキャリブレーションずれがありと判定された場合には、キャリブレーションずれは、内部キャリブレーションずれがあることが確実であることがわかるわけである。
【0257】
図22のフローチャートに戻って、ステップS26では、上記ステップS25で判定された結果が、ずれ結果呈示装置7によって呈示される。この第3の実施の形態では、複数のキャリブレーションずれの種類を検出できるので、その情報を含めて表示することも可能である。表示方法は、上述した第1の実施の形態と同様であるので、ここでは省略する。
【0258】
このように、第3の実施の形態によれば、ステレオ撮影装置と外部装置間の位置姿勢キャリブレーションのずれも検出できることになる。
【0259】
(第4の実施の形態)
次に、第4の実施の形態として、撮影装置が複数回撮影してその画像を利用する場合について説明する。
【0260】
上述した第1乃至第3の実施の形態では、ステレオ画像装置で撮影する画像は1回であることを想定してきたが、第4の実施の形態では、キャリブレーションずれの検出をより信頼おけるものにするために、ステレオ撮影装置で複数回撮影し、その複数回の撮影から得られる特徴(自然特徴或いは既知特徴)を利用するようにしている。
【0261】
本第4の実施の形態では、この方法について説明する。キャリブレーションずれ検出装置の基本構成は、上述した第1乃至第3の実施の形態で表されるものと同様である。
【0262】
複数回の撮影に伴い、キャリブレーションずれを検出する方法としては、以下のような2種の方法の何れでもよい。
【0263】
第1の方法としては、ステレオ画像装置が複数回撮影して、その複数回の撮影を利用してずれを検出する。この方法では、複数回撮影されたステレオ画像から自然特徴或いは既知特徴を抽出し、それらを式(55)集合Bと式(56)集合Aで表される特徴の集合として扱えば、上述した第1乃至第3の実施の形態と同様に全ての処理を扱うことが可能となる。
【0264】
第2の方法としては、複数回の撮影のうち第1回目でずれ検出をして、第2回目以降でその検証を行うものである。すなわち、第1回目でずれが検出された場合に限り、本当にずれがあるかどうかを再判定するわけである。第1回目、第2回目以降の処理に関しては、上述した第1乃至第3の実施の形態の場合と同様であるので、その方法の詳細については説明を省略する。
【0265】
次に、方法のバリエーションについて説明する。
【0266】
以上、ステレオ撮影装置で撮影できるところにある既知特徴を利用してずれ検出する方法について説明したが、この他にも既知特徴を配置するバリエーションを考えることができる。
【0267】
すなわち、外部装置を基準としてその位置が既知であるキャリブレーションボードを配置し、そのキャリブレーションボード内にある既知マーカの位置をステレオ撮影装置により撮影することも可能である。この場合には、本第4の実施の形態で説明したように、例えばキャリブレーションずれを検出する作業員が、このキャリブレーションボードを外部装置に相対するように配置して、それを状況判断装置が判断することでキャリブレーションずれ検出処理を行えばよい。
【0268】
このように、第4の実施の形態によれば、キャリブレーションずれの検出をよりロバストに信頼性よく行うことができる。
【0269】
(第5の実施の形態)
次に、第5の実施の形態として、車載に応用した例について説明する。
【0270】
上述した第1乃至第4の実施の形態では、状況判断装置について、詳細な説明は省略していたが、この第5の実施の形態では、この状況判断装置の機能を中心に説明する。
【0271】
図24は、本発明の第5の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。
【0272】
この第5の実施の形態が上述した第1乃至第4の実施の形態と異なるのは、外部センサ33から状況判断装置3に各種のセンサ出力の信号が供給されることである。また、必要に応じて、キャリブレーションずれ検出に関わる情報が、キャリブレーションデータ記憶装置8に送出され、その情報が、キャリブレーションデータ記憶装置8に書き込まれる点も異なっている。その他の構成及び全体の構成に関する処理ステップは、上述した第1乃至第3の実施の形態で説明したものと同様であるので説明は省略する。
【0273】
以下、状況判断装置3の応用として、車両にステレオ撮影装置を装着した場合について説明する。もちろん、本方式は車両用の車載ステレオ撮影装置に限るものでは、なく、その他の監視カメラシステム等にも応用が可能であることは明白である。
【0274】
状況判断装置3に接続される外部センサ33としては、次のようなものが考えられる。すなわち、走行距離計、時計或いはタイマ、温度センサ、車両傾斜計測センサ或いはジャイロセンサ、車速センサ、エンジン始動センサ、日射センサ、雨滴センサ等である。
【0275】
そして、状況判断装置3は、以下のような条件で、車載応用に必要な条件に基づいて、キャリブレーションずれの検出が現在必要であるか否かを判定するわけである。
【0276】
また、キャリブレーションデータ記憶装置8が記憶するキャリブレーションデータとしては、過去にキャリブレーションを行ったときのパラメータp,e′や既知特徴のデータ等を含みながら、以下の情報が書き込まれている。すなわち、過去に行ったステレオ撮影装置の内部キャリブレーションパラメータp、過去に行ったステレオ撮影装置と外部装置間の位置姿勢キャリブレーションパラメータe′、過去に行った既知特徴の3次元位置、過去にキャリブレーションした際の車両走行距離、過去にキャリブレーションした際の日時と時刻、過去にキャリブレーションした際の外部温度、過去にキャリブレーション検出した際の車両走行距離、過去にキャリブレーション検出した際の日時と時刻、過去にキャリブレーション検出した際の外部温度、等である。
【0277】
次に、上述した状況判断装置3が、どのようにキャリブレーション検出をすべきか、その状況判断の方法について説明する。
【0278】
本装置では、キャリブレーションずれ検出を行う条件として、車両が停止しているときに行う、以前ずれ検出したときから少なくとも一定時間Tを経た後に行う、晴天で昼間に行う、等の3つの条件が成立するときに行う場合について説明する。
【0279】
先ず、1つ目の条件を満たすために、車速センサ或いはジャイロセンサ等で、車両が移動していないことが確認される。次いで、2つ目の条件を満たすために、過去にキャリブレーションずれ検出を行ったときの時刻と時計等から算出される現時刻との時間差が算出される。3つ目の条件に関しては、日射センサや雨滴センサ等が利用されて、条件が満たされるかどうかが判断される。
【0280】
このようにして、キャリブレーションずれ検出が実行されると、その結果はずれ結果呈示装置7に送出される。また、必要に応じて、キャリブレーションずれ検出結果がキャリブレーションデータ記憶装置8に書き込まれる。
【0281】
以上のような方法が採用されることにより、本キャリブレーションずれ検出装置は、車載等に応用することが可能となる。
【0282】
(第6の実施の形態)
次に、本発明の第6の実施の形態として、キャリブレーションずれ検出装置が適用されたステレオカメラの例について説明する。
【0283】
図25は、本発明の第6の実施の形態に係るキャリブレーションずれ検出装置が適用されたステレオカメラの構成を示すブロック図である。尚、ここでは、ステレオカメラが車両に搭載された例として説明する。
【0284】
このステレオカメラは、距離画像入力装置100と、制御装置104と、物体認識装置105と、警告装置106と、運転装置107と、表示装置108と、車速センサ109と、測距レーダ110と、照度センサ111と、外部カメラ112と、GPS(全地球測位システム)113と、VICS(渋滞情報取得装置)114及び外部通信装置115から構成されている。
【0285】
上記距離画像入力装置100は、被写体150を撮影する撮像装置102と、この撮像装置102の先端に取り付けられるステレオアダプタ101とから成るステレオアダプタカメラ116と、上記被写体150の距離画像を計測する距離画像処理装置103と、から構成される。
【0286】
上記表示装置108は、キャリブレーション装置134を含む距離画像処理装置103並びに制御装置104と機能的に結合されて、キャリブレーション装置134(その内部のキャリブレーションずれ検出部)や演算部(距離算出装置133)、並びに、上記撮像部(撮像装置102)の出力に関連した所要の表示をユーザ(運転者)に認識され得るように行うものであり、図16につき上述したずれ結果呈示装置乃至同装置の部分としても機能する。
【0287】
上記撮像装置102は、一般のビデオカメラ、デジタルスティルカメラ等と同様に、撮像光学系102Aと、撮影絞り調整装置(図示せず)と、撮影フォーカス調整装置(図示せず)と、撮影シャッタ速度調整装置(図示せず)と、撮像素子(図示せず)と、感度調整装置(図示せず)とから構成される。更に、この撮像装置102には、ステレオアダプタ101が装着される。
【0288】
このステレオアダプタ101は、光路分割装置101Aを有している。この光路分割装置101Aは、撮像装置102の撮像光学系102Aの前方に取り付けられるもので、異なる視点からの被写体150の像を撮像素子に結像することができるようになっている。このようにして撮像装置102で撮影されたステレオ画像は、距離画像処理装置103に供給される。
【0289】
距離画像処理装置103は、フレームメモリ131と、レクティフィケーション装置132と、距離算出装置133と、キャリブレーション装置134とを有して構成されている。
【0290】
そして、上記撮像装置102から供給されたステレオ画像はフレームメモリ131に入力され、更にレクティフィケーション装置132に供給される。このレクティフィケーション装置132からは、距離演算装置133に対して、左画像及び右画像を出力が出力される。距離演算装置133からは、制御装置104を介して物体認識装置105に、距離画像出力として3次元距離画像が出力される。
【0291】
また、キャリブレーション装置134からは、レクティフィケーション装置132に対してはレクティフィケーションパラメータが、距離算出装置133に対しては距離算出用パラメータが、そして物体認識装置105に対しては物体認識用パラメータが、それぞれ出力される。
【0292】
尚、このステレオカメラの構成は、本件出願人が特願2003−48324号として先に提案しているものと略同様である。
【0293】
このようにして、車両に搭載されたステレオカメラとしても適用が可能である。
【0294】
以上説明した第1乃至第6の実施の形態では、2台のカメラから構成されるステレオ撮影装置に関するキャリブレーションずれを検出するものであったが、これを2台以上のカメラから構成されるステレオ撮影装置(すなわち、多眼ステレオ撮影装置)に応用できることは自明である。すなわち、多眼ステレオ撮影装置を構成するn台のカメラについて、その2台毎のペアについて、上述した実施の形態で説明してきた方法を利用することにより、同様にキャリブレーションずれを検出することが可能となる。
【0295】
【発明の効果】
以上のように本発明によれば、3次元計測等を行うステレオ画像を撮影する撮影装置のキャリブレーションが、経時変化や衝撃振動などの機械ずれによっても、ステレオ画像を解析することにより、簡易にキャリブレーションずれを定量的に検出することが可能なキャリブレーションずれ検出装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステムを提供することができる。
【0296】
そして、請求項1に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。
【0297】
請求項2に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。また、レクティフィケーション処理を行うことで、特徴の対応点探索が容易になり、よりロバストなずれ検出を行うことが可能となる。
【0298】
請求項3に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。
【0299】
請求項4に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。またレクティフィケーション処理を行うことで、特徴の対応点探索が容易になり、よりロバストなずれ検出を行うことが可能となる。
【0300】
請求項5乃至8に記載の発明によれば、キャリブレーションずれが判定された場合には、その内容をユーザは迅速に知ることができるので、撮影装置の再キャリブレーションやキャリブレーション補正などを迅速に行うことが可能となる。また、キャリブレーションずれがないと判定された場合には、ユーザは安心して信頼して、撮影装置を使用することが可能となる。
【0301】
請求項9乃至16に記載の発明によれば、キャリブレーションずれ検出を行うかどうかを判定する状況判断装置を導入することで、撮影装置の使用状況や撮影装置の動作状況に応じてキャリブレーションずれ検出を行うかを判断することが可能となり、より信頼のおけるサービスをユーザに提供することができる。また、キャリブレーションずれ検出処理の処理回数を系統的に制御することも可能となり、不要なキャリブレーションずれ検出回数を減少させることも可能となる。
【0302】
請求項17に記載の発明によれば、撮影装置の光学系に含まれるレンズディストーションの成分をステレオ画像から除去或いはディストーション補正することにより、より正確なずれ検出が可能となり、装置の信頼性を向上することができる。
【0303】
請求項18に記載の発明によれば、ステレオ画像の対応関係にある特徴を複数抽出し利用することで、キャリブレーションずれを定量化することが可能となり、信頼性のあるずれ検出が可能となる。
【0304】
請求項19に記載の発明によれば、ステレオ画像の対応関係にある特徴を複数抽出し利用することで、キャリブレーションずれを定量化することが可能となり、信頼性のあるずれ検出が可能となる。
【0305】
請求項20に記載の発明によれば、エピポーラ線拘束を利用することで、キャリブレーションずれを定量化することが可能となり、信頼性のあるずれ検出が可能となる。
【0306】
請求項21に記載の発明によれば、有効な特徴を選択するので、必要最小限の計算で安定的に、且つロバストにキャリブレーションずれ検出を行うことができる。
【0307】
請求項22に記載の発明によれば、予め相対的な位置関係が既知な複数の特徴を利用することで、キャリブレーションずれ判定に於いて、付加的な条件を加えることができるので、よりロバストで信頼性のあるキャリブレーションずれ判定を行うことが可能となる。
【0308】
請求項23に記載の発明によれば、ステレオアダプタでも応用が可能となる。
【0309】
請求項24に記載の発明によれば、多眼カメラでも応用が可能となる。
【0310】
請求項25に記載の発明によれば、車載用に応用することが可能となる。
【0311】
請求項26に記載の発明によれば、車両に搭載されたステレオカメラとしても適用が可能となる。
【0312】
請求項27に記載の発明によれば、ずれ検出に係る処理動作中であることが表示されるので、ユーザは容易にキャリブレーションずれ検出中であることを知ることができる。
【0313】
請求項28に記載の発明によれば、2種類のパラメータの差異が表示されるので、ユーザは容易にずれの内容を知ることができる。
【0314】
請求項29に記載の発明によれば、ずれ検出に係る処理動作がエラーとなった場合にエラーコードが呈示されるので、ユーザはその原因を容易に確認することができる。
【0315】
請求項30に記載の発明によれば、ずれ検出に関する信頼度が表示されるので、ユーザは安心してキャリブレーションずれ検出を行うことができる。
【0316】
請求項31に記載の発明によれば、ステレオ画像に関する信頼度が不十分である場合は、撮影処理が繰り返されるので、確実にキャリブレーションずれ検出を行うことができる。
【0317】
更に、請求項32に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。
【0318】
請求項33に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。また、レクティフィケーション処理を行うことで、特徴の対応点探索が容易になり、よりロバストなずれ検出を行うことが可能となる。
【0319】
請求項34に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。
【0320】
請求項35に記載の発明によれば、撮影装置の経時変化に伴う光学ずれ或いは機械ずれがある場合にも、容易に且つロバストにずれの検出を行うことができる。またレクティフィケーション処理を行うことで、特徴の対応点探索が容易になり、よりロバストなずれ検出を行うことが可能となる。
【0321】
請求項36乃至39に記載の発明によれば、キャリブレーションずれの判定結果が表示されるので、ユーザは安心してキャリブレーションずれ検出を行うことができる。
【0322】
請求項40に記載の発明によれば、ずれ検出に係る処理動作中であることが表示されるので、ユーザは容易にキャリブレーションずれ検出中であることを知ることができる。
【0323】
請求項41に記載の発明によれば、2種類のパラメータの差異が表示されるので、ユーザは容易にずれの内容を知ることができる。
【0324】
請求項42に記載の発明によれば、ずれ検出に係る処理動作がエラーとなった場合にエラーコードが呈示されるので、ユーザはその原因を容易に確認することができる。
【0325】
請求項43に記載の発明によれば、ずれ検出に関する信頼度が表示されるので、ユーザは安心してキャリブレーションずれ検出を行うことができる。
【0326】
そして、請求項44に記載の発明によれば、撮像部が装備された車両の特定の形状部を適用するので、新たに特定の形状部を設けることがない。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。
【図2】ステレオ画像を撮影する撮影装置のカメラ座標について説明する図である。
【図3】(a)はステレオアダプタの視野を示す図、(b)は(a)のステレオアダプタの展開図である。
【図4】ステレオ画像に於けるエピポーラ線拘束を説明する図である。
【図5】レクティフィケーション処理を説明するためもので、(a)はレクティフィケーション前の画像を表した図、(b)はレクティフィケーション後の画像を表した図である。。
【図6】レクティフィケーション処理を説明するための図である。
【図7】本発明の第1の実施の形態に於けるキャリブレーションずれ検出装置の詳細な動作を説明するフローチャートである。
【図8】左右原画像を表したもので、(a)は左カメラにより撮影された左原画像を示した図、(b)は右カメラにより撮影された右原画像を示した図である。
【図9】レクティフィケーションされた左右の画像を表したもので、(a)は左画像を示した図、(b)は右画像を示した図である。
【図10】特徴抽出装置5の構成例を示したブロック図である。
【図11】レクティフィケーションされた左画像を分割された小ブロックで示した図である。
【図12】左画像で登録された特徴点の例を示した図である。
【図13】探索範囲の設定を説明するための図である。
【図14】右画像で抽出された対応する特徴点の例を示した図である。
【図15】キャリブレーションずれ判定方法について説明するための図である。
【図16】ずれ結果呈示装置7の一例を表した図である。
【図17】本発明の第2の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。
【図18】本発明の第2の実施の形態に於けるキャリブレーションずれ検出装置の動作について説明するフローチャートである。
【図19】探索範囲の設定を説明するための図である。
【図20】本発明の第3の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。
【図21】撮影される車両の一部の形状に関する特徴を既知特徴とした配置の例を示したもので、(a)は撮影される左画像の例を表した図、(b)は既知特徴として選択された特徴を黒丸27で示した図、(c)はフロントガラスの一部に既知特徴である黒丸の既知マーカを配置した様子の例を表した図、(d)はマーカ群を表した左画像の例を示した図、(e)はマーカ群を表した右画像の例を示した図である。
【図22】本発明の第3の実施の形態に於けるキャリブレーションずれ検出装置の動作について説明するフローチャートである。
【図23】抽出された特徴の集合A及びBの例を示した図である。
【図24】本発明の第5の実施の形態に於けるキャリブレーションずれ検出装置の基本構成例を示したブロック図である。
【図25】本発明の第6の実施の形態に係るキャリブレーションずれ検出装置が適用されたステレオカメラの構成を示すブロック図である。
【符号の説明】
1、20、22、32…キャリブレーションずれ検出装置、2、104…制御装置、3…状況判断装置、4…レクティフィケーション処理装置、5…特徴抽出装置、5a…特徴選択部、5b…特徴対応探索部、6…キャリブレーションずれ判定装置、7…ずれ結果呈示装置、8…キャリブレーションデータ記憶装置、11…撮影装置、12a…左カメラ、12b…右カメラ、33…外部センサ、100…距離画像入力装置、101…ステレオアダプタ、102…撮像装置、103…距離画像処理装置、105…物体認識装置、150…被写体。
Claims (44)
- ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、
上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - 基準位置を規定するために利用される所定の外部装置と撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - 基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、
上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理装置と、
上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - 基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - 基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、
上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理装置と、
上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - 基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - 基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、
上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、
上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - ステレオ画像を撮影する撮影装置に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、
上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出ぶが抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、
上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - 基準位置を規定するために利用された所定の外部装置とステレオ画像を撮影する撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴を表す情報に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、
上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - 基準位置を規定するために利用される所定の外部装置とステレオ画像を撮影するための撮影装置間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮影装置が撮影したステレオ画像に対し、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、
上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部が抽出した特徴に基づき、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
上記キャリブレーションずれ判定部が判定したキャリブレーションずれの有無等の判定結果を呈示するためのずれ結果呈示部と、
上記撮影装置に係るキャリブレーションと所定の相関を有する情報乃至所定の操作に応じてキャリブレーションずれ検出を行うか否かを判断する状況判断部と、
を具備することを特徴とするキャリブレーションずれ検出装置。 - 上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づき、上記撮影装置により得たステレオ画像に対しディストーションを補正するディストーション処理を施すディストーション補正処理部を更に具備することを特徴とする請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置。
- 上記特徴抽出部は、当該ステレオ画像の対応関係にある特徴を複数抽出するように構成されたことを特徴とする請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置。
- 上記特徴抽出部は、上記撮影装置により得たステレオ画像の対応関係にある特徴を複数抽出し、該複数抽出された対応のとれた特徴のうち異常と判定できる特徴は排除して、上記キャリブレーションずれ判定部でのずれ判定に供するように構成されたことを特徴とする請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置。
- 上記キャリブレーションずれ判定部は、上記撮影装置により得たステレオ画像の対応関係にある特徴について、上記キャリブレーションデータ保持部が保持するキャリブレーションデータに基づくエピポーラ線拘束を利用してキャリブレーションずれを判定するように構成されたことを特徴とする請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置。
- 上記特徴抽出部は、上記撮影装置により得たステレオ画像の一方の画像内でキャリブレーションずれ検出に有効な特徴を選択する特徴選択部と、当該選択された特徴に対応する特徴を他方の画像内から抽出若しくは探索する特徴対応探索部と、を含んでなることを特徴とする請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置。
- 上記キャリブレーションデータ保持部は、相対的な位置関係が既知な複数の特徴のデータを保持するものであり、上記キャリブレーションずれ判定部は、上記特徴抽出部が抽出した特徴を表す情報に上記キャリブレーションデータ保持部が保持する上記位置関係を表すデータも利用してキャリブレーションずれ判定を行うものであることを特徴とする請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置。
- 上記撮影装置として、複数の視点による視差を生じる複数の像を得る光学系と単一のカメラ部とを有するステレオアダプタ方式の撮影装置に対してそのキャリブレーションずれ検出を行うように構成されたことを特徴とする請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置。
- 上記撮影装置としての、複数のカメラを含んでなる撮像システムを対象としてキャリブレーションずれ検出を行うように構成されたものであることを特徴とする請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置。
- 車載型の上記撮像装置に係るキャリブレーションずれを検出するように構成されたことを特徴とする請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置。
- 上記状況判断部は、外部センサの出力に基づいて状況判断を行うことを特徴とする請求項9乃至16の何れかに記載のキャリブレーションずれ検出装置。
- 上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に係る処理動作中である旨を表示可能に構成されたものであることを特徴とする請求項5、6、7、8、13、14、15若しくは16の何れかに記載のキャリブレーションずれ検出装置。
- 上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に係る処理の結果として得られたパラメータと上記キャリブレーションデータ保持部に予め保持されていたパラメータとの差異を表わす情報を表示可能に構成されたものであることを特徴とする請求項5、6、7、8、13、14、15若しくは16の何れかに記載のキャリブレーションずれ検出装置。
- 上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、正規のずれ検出が行われ得なかったときにはその旨を表わすエラーコードを表示可能に構成されたものであることを特徴とする請求項5、6、7、8、13、14、15若しくは16の何れかに記載のキャリブレーションずれ検出装置。
- 上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に関する信頼度を表すステータスを表示可能に構成されたものであることを特徴とする請求項5、6、7、8、13、14、15若しくは16の何れかに記載のキャリブレーションずれ検出装置。
- 上記特徴抽出部は、上記撮影装置により得たステレオ画像に関する信頼度を弁別するように構成され、該特徴抽出部が上記撮影装置により得たステレオ画像に関する信頼度が不十分であることを弁別したときには、該撮影装置による撮影処理を繰り返すように制御する制御が更に設けられることを特徴とする請求項1乃至16の何れかに記載のキャリブレーションずれ検出装置。
- 相互に離隔した複数の視点による視差を持った複数の映像を表す映像信号出力を得るようになされた撮像部と、
上記撮像部のキャリブレーションずれを検出するキャリブレーションずれ検出部と、
上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、
を具備するステレオカメラであって、
上記キャリブレーションずれ検出部は、
上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮像部により得た映像信号出力としてのステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部で抽出された特徴を表す情報に基づき上記キャリブレーションデータ記憶部に記憶されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
を有することを特徴とするステレオカメラ。 - 相互に離隔した複数の視点による視差を持った複数の映像を表す映像信号出力を得るようになされた撮像部と、
上記撮像部のキャリブレーションずれを検出するキャリブレーションずれ検出部と、
上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、
を具備するステレオカメラであって、
上記キャリブレーションずれ検出部は、
上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮像部が撮像したステレオ画像を、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づいてレクティフィケーション処理するレクティフィケーション処理部と、
上記レクティフィケーション処理部が処理したレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部で抽出された特徴を表す情報に基づき上記キャリブレーションデータ記憶部に記憶されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
を有することを特徴とするステレオカメラ。 - 相互に離隔した複数の視点による視差を持った複数の映像を表す映像信号出力を得るようになされた撮像部と、
上記撮像部と所定の基準位置を規定する外部装置との間のキャリブレーションずれを検出するキャリブレーションずれ検出部と、
上記キャリブレーションずれ検出部の検出出力を勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、
を具備するステレオカメラであって、
上記キャリブレーションずれ検出部は、
上記基準位置を規定するために利用される所定の外部装置と上記撮像部の間のキャリブレーションずれに係るキャリブレーションデータを記憶するキャリブレーションデータ記憶部と、
上記撮像部により得た映像信号出力としてのステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部で抽出された特徴に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
を有することを特徴とするステレオカメラ。 - 相互に離隔した複数の視点による視差を持った複数の映像を表す映像信号出力を得るようになされた撮像部と、
上記撮像部と所定の基準位置を規定する外部装置との間のキャリブレーションずれを検出するキャリブレーションずれ検出部と、
上記キャリブレーションずれ検出部の検出出力を勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、
を具備するステレオカメラであって、
上記キャリブレーションずれ検出部は、
上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮像部が撮像したステレオ画像を、上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づいてレクティフィケーション処理するレクティフィケーション処理部と、
上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部で抽出された特徴を表す情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
を有することを特徴とするステレオカメラ。 - 相互に離隔した複数の視点による視差を持った複数の映像を表わす映像信号出力を得るようになされた撮像部と、
上記撮像部のキャリブレーションずれを検出するキャリブレーションずれ検出部と、
上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、
上記キャリブレーションずれ検出部、演算部、並びに、上記撮像部の出力に関連した所要の表示を行うための表示部と、
を含んで構成されたステレオカメラシステムであって、
上記キャリブレーションずれ検出部は、
上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮像部により得た映像信号出力としてのステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部で抽出された特徴を表わす情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
を含んで構成されたものであり、
上記表示部は、
上記キャリブレーションずれ判定部の判定結果を自己の表示面に表示可能に構成されたものであることを特徴とするステレオカメラシステム。 - 相互に離隔した複数の視点による視差を持った複数の映像を表わす映像信号出力を得るようになされた撮像部と、
上記撮像部のキャリブレーションずれを検出するキャリブレーションずれ検出部と、
上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、
上記キャリブレーションずれ検出部、演算部、並びに、上記撮像部の出力に関連した所要の表示を行うための表示部と、
を含んで構成されたステレオカメラシステムであって、
上記キャリブレーションずれ検出部は、
上記撮像部に係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮像部により得た映像信号出力としてのステレオ画像に対し上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、
上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部で抽出された特徴を表わす情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
を含んで構成されたものであり、
上記表示部は、
上記キャリブレーションずれ判定部の判定結果を自己の表示面に表示可能に構成されたものであることを特徴とするステレオカメラシステム。 - 相互に離隔した複数の視点による視差を持った複数の映像を表わす映像信号出力を得るようになされた撮像部と、
上記撮像部と所定の基準位置を規定する外部装置との間のキャリブレーションずれを検出するキャリブレーションずれ検出部と、
上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、
上記キャリブレーションずれ検出部、演算部、並びに、上記撮像部の出力に関連した所要の表示を行うための表示部と、
を含んで構成されたステレオカメラシステムであって、
上記キャリブレーションずれ検出部は、
上記基準位置を規定するために利用される所定の外部装置と上記撮像部間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮像部により得た映像信号出力としてのステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部で抽出された特徴を表わす情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
を含んで構成されたものであり、
上記表示部は、
上記キャリブレーションずれ判定部の判定結果を自己の表示面に表示可能に構成されたものであることを特徴とするステレオカメラシステム。 - 相互に離隔した複数の視点による視差を持った複数の映像を表わす映像信号出力を得るようになされた撮像部と、
上記撮像部と所定の基準位置を規定する外部装置との間のキャリブレーションずれを検出するキャリブレーションずれ検出部と、
上記キャリブレーションずれ検出部の検出出力データを勘案して上記撮像部で得た映像信号出力に依拠して被写体の距離等のデータを算出する演算部と、
上記キャリブレーションずれ検出部、演算部、並びに、上記撮像部の出力に関連した所要の表示を行うための表示部と、
を含んで構成されたステレオカメラシステムであって、
上記キャリブレーションずれ検出部は、
上記基準位置を規定するために利用される所定の外部装置と上記撮像部間のキャリブレーションに係るキャリブレーションデータを保持するキャリブレーションデータ保持部と、
上記撮像部により得た映像信号出力としてのステレオ画像に対し上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに基づくレクティフィケーション処理を施すレクティフィケーション処理部と、
上記レクティフィケーション処理部によってレクティフィケーションされたステレオ画像から特徴を抽出する特徴抽出部と、
上記特徴抽出部で抽出された特徴を表わす情報に基づき上記キャリブレーションデータ保持部に保持されたキャリブレーションデータに関するキャリブレーションずれを判定するキャリブレーションずれ判定部と、
を含んで構成されたものであり、
上記表示部は、
上記キャリブレーションずれ判定部の判定結果を自己の表示面に表示可能に構成されたものであることを特徴とするステレオカメラシステム。 - 上記表示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に係る処理動作中である旨を表示可能に構成されたものであることを特徴とする請求項36、37、38若しくは39の何れかに記載のステレオカメラシステム。
- 上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、ずれ検出に係る処理の結果として得られたパラメータと上記キャリブレーションデータ保持部に予め保持されていたパラメータとの差異を表わす情報を表示可能に構成されたものであることを特徴とする請求項36、37、38若しくは39の何れかに記載のステレオカメラシステム。
- 上記ずれ結果呈示部は、上記キャリブレーションずれ判定部との協働により、正規のずれ検出が行われ得なかったときにはその旨を表わすエラーコードを表示可能に構成されたものであることを特徴とする請求項36、37、38若しくは39の何れかに記載のステレオカメラシステム。
- 上記キャリブレーションずれ検出部は、その特徴抽出部が上記撮像部により得たステレオ画像に関する信頼度を弁別するように構成され、該特徴抽出部が上記撮像部により得たステレオ画像に関する信頼度が不十分であることを弁別したときには、該撮像部による撮像処理を繰り返すように制御する制御部を更に具えたことを特徴とする請求項36、37、38若しくは39の何れかに記載のステレオカメラシステム。
- 上記キャリブレーションずれ検出部は、当該外部装置として、上記撮像部が装備された車両の特定の形状部を適用するものであることを特徴とする請求項37若しくは38に記載のステレオカメラシステム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003153450A JP2004354256A (ja) | 2003-05-29 | 2003-05-29 | キャリブレーションずれ検出装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステム |
PCT/JP2004/007557 WO2004106856A1 (ja) | 2003-05-29 | 2004-05-26 | ステレオカメラ支持装置、ステレオカメラ支持方法及びキャリブレーション検出装置及びキャリブレーション補正装置並びにステレオカメラシステム |
EP04734940A EP1637836A1 (en) | 2003-05-29 | 2004-05-26 | Device and method of supporting stereo camera, device and method of detecting calibration, and stereo camera system |
US11/169,098 US20050237385A1 (en) | 2003-05-29 | 2005-06-28 | Stereo camera supporting apparatus, stereo camera supporting method, calibration detection apparatus, calibration correction apparatus, and stereo camera system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003153450A JP2004354256A (ja) | 2003-05-29 | 2003-05-29 | キャリブレーションずれ検出装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004354256A true JP2004354256A (ja) | 2004-12-16 |
Family
ID=34048403
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003153450A Pending JP2004354256A (ja) | 2003-05-29 | 2003-05-29 | キャリブレーションずれ検出装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004354256A (ja) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009119229A1 (ja) * | 2008-03-26 | 2009-10-01 | コニカミノルタホールディングス株式会社 | 3次元撮像装置及び3次元撮像装置の校正方法 |
JP2013515959A (ja) * | 2009-12-24 | 2013-05-09 | コグネックス・コーポレイション | カメラのミスキャリブレーションの実行時決定のためのシステムと方法 |
US8648895B2 (en) | 2007-08-29 | 2014-02-11 | Omron Corporation | Method and apparatus for performing three-dimensional measurement |
JP2015001465A (ja) * | 2013-06-17 | 2015-01-05 | キヤノン株式会社 | 三次元位置計測装置、及び三次元位置計測装置のキャリブレーションずれ判定方法 |
EP2902967A1 (en) * | 2014-01-31 | 2015-08-05 | Ricoh Company, Ltd. | Stereo camera calibration method, disparity calculating device, and stereo camera |
JP2016521473A (ja) * | 2013-03-13 | 2016-07-21 | フォックス スポーツ プロダクションズ,インコーポレイティッド | 車載カメラ用に画像を調整するシステムおよび方法 |
US10127687B2 (en) | 2014-11-13 | 2018-11-13 | Olympus Corporation | Calibration device, calibration method, optical device, image-capturing device, projection device, measuring system, and measuring method |
JP2020187097A (ja) * | 2019-05-17 | 2020-11-19 | 株式会社キーエンス | 三次元座標測定装置 |
US10939140B2 (en) | 2011-08-05 | 2021-03-02 | Fox Sports Productions, Llc | Selective capture and presentation of native image portions |
US11039109B2 (en) | 2011-08-05 | 2021-06-15 | Fox Sports Productions, Llc | System and method for adjusting an image for a vehicle mounted camera |
US11159854B2 (en) | 2014-12-13 | 2021-10-26 | Fox Sports Productions, Llc | Systems and methods for tracking and tagging objects within a broadcast |
US11758238B2 (en) | 2014-12-13 | 2023-09-12 | Fox Sports Productions, Llc | Systems and methods for displaying wind characteristics and effects within a broadcast |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0814828A (ja) * | 1994-06-29 | 1996-01-19 | Kobe Steel Ltd | ステレオ画像センサのキャリブレーション方法及びその装置 |
JP2004354257A (ja) * | 2003-05-29 | 2004-12-16 | Olympus Corp | キャリブレーションずれ補正装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステム |
-
2003
- 2003-05-29 JP JP2003153450A patent/JP2004354256A/ja active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0814828A (ja) * | 1994-06-29 | 1996-01-19 | Kobe Steel Ltd | ステレオ画像センサのキャリブレーション方法及びその装置 |
JP2004354257A (ja) * | 2003-05-29 | 2004-12-16 | Olympus Corp | キャリブレーションずれ補正装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステム |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8648895B2 (en) | 2007-08-29 | 2014-02-11 | Omron Corporation | Method and apparatus for performing three-dimensional measurement |
JPWO2009119229A1 (ja) * | 2008-03-26 | 2011-07-21 | コニカミノルタホールディングス株式会社 | 3次元撮像装置及び3次元撮像装置の校正方法 |
WO2009119229A1 (ja) * | 2008-03-26 | 2009-10-01 | コニカミノルタホールディングス株式会社 | 3次元撮像装置及び3次元撮像装置の校正方法 |
JP2013515959A (ja) * | 2009-12-24 | 2013-05-09 | コグネックス・コーポレイション | カメラのミスキャリブレーションの実行時決定のためのシステムと方法 |
US11699247B2 (en) | 2009-12-24 | 2023-07-11 | Cognex Corporation | System and method for runtime determination of camera miscalibration |
US10939140B2 (en) | 2011-08-05 | 2021-03-02 | Fox Sports Productions, Llc | Selective capture and presentation of native image portions |
US11490054B2 (en) | 2011-08-05 | 2022-11-01 | Fox Sports Productions, Llc | System and method for adjusting an image for a vehicle mounted camera |
US11039109B2 (en) | 2011-08-05 | 2021-06-15 | Fox Sports Productions, Llc | System and method for adjusting an image for a vehicle mounted camera |
JP2016521473A (ja) * | 2013-03-13 | 2016-07-21 | フォックス スポーツ プロダクションズ,インコーポレイティッド | 車載カメラ用に画像を調整するシステムおよび方法 |
JP2015001465A (ja) * | 2013-06-17 | 2015-01-05 | キヤノン株式会社 | 三次元位置計測装置、及び三次元位置計測装置のキャリブレーションずれ判定方法 |
EP3514758A1 (en) * | 2014-01-31 | 2019-07-24 | Ricoh Company, Ltd. | Stereo camera calibration method, disparity calculating device, and stereo camera |
EP2902967A1 (en) * | 2014-01-31 | 2015-08-05 | Ricoh Company, Ltd. | Stereo camera calibration method, disparity calculating device, and stereo camera |
US10127687B2 (en) | 2014-11-13 | 2018-11-13 | Olympus Corporation | Calibration device, calibration method, optical device, image-capturing device, projection device, measuring system, and measuring method |
US11159854B2 (en) | 2014-12-13 | 2021-10-26 | Fox Sports Productions, Llc | Systems and methods for tracking and tagging objects within a broadcast |
US11758238B2 (en) | 2014-12-13 | 2023-09-12 | Fox Sports Productions, Llc | Systems and methods for displaying wind characteristics and effects within a broadcast |
JP2020187097A (ja) * | 2019-05-17 | 2020-11-19 | 株式会社キーエンス | 三次元座標測定装置 |
JP7211891B2 (ja) | 2019-05-17 | 2023-01-24 | 株式会社キーエンス | 三次元座標測定装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4406381B2 (ja) | 障害物検出装置及び方法 | |
JP2004354257A (ja) | キャリブレーションずれ補正装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステム | |
CN111179358B (zh) | 标定方法、装置、设备及存储介质 | |
JP5615441B2 (ja) | 画像処理装置及び画像処理方法 | |
Goldbeck et al. | Lane detection and tracking by video sensors | |
KR101647370B1 (ko) | 카메라 및 레이더를 이용한 교통정보 관리시스템 | |
CN107122770B (zh) | 多目相机系统、智能驾驶系统、汽车、方法和存储介质 | |
JP4414661B2 (ja) | ステレオアダプタ及びそれを用いた距離画像入力装置 | |
JP2008186246A (ja) | 移動物体認識装置 | |
JP6032034B2 (ja) | 物体検知装置 | |
JP2004354256A (ja) | キャリブレーションずれ検出装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステム | |
US6697146B2 (en) | Range finder for finding range by image realization | |
KR102268094B1 (ko) | 동적 입체 캘리브레이션을 위한 시스템 및 방법 | |
JP5539250B2 (ja) | 接近物体検知装置及び接近物体検知方法 | |
JP2017517727A (ja) | 三次元情報の規模測定 | |
JP2006318062A (ja) | 画像処理装置、画像処理方法、および画像処理用プログラム | |
CN114821497A (zh) | 目标物位置的确定方法、装置、设备及存储介质 | |
US20210335010A1 (en) | Calibration method and calibration apparatus | |
JP2004257837A (ja) | ステレオアダプタ撮像システム | |
JP4752319B2 (ja) | 画像認識装置及び画像認識方法 | |
JP2008026999A (ja) | 障害物検出システム、及び障害物検出方法 | |
JP2004126905A (ja) | 画像処理装置 | |
KR102065337B1 (ko) | 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치 및 방법 | |
US20220076399A1 (en) | Photographing guide device | |
JP2018201146A (ja) | 画像補正装置、画像補正方法、注目点認識装置、注目点認識方法及び異常検知システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060426 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080422 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080623 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20090414 |