JP2014074632A - 車載ステレオカメラの校正装置及び校正方法 - Google Patents
車載ステレオカメラの校正装置及び校正方法 Download PDFInfo
- Publication number
- JP2014074632A JP2014074632A JP2012221731A JP2012221731A JP2014074632A JP 2014074632 A JP2014074632 A JP 2014074632A JP 2012221731 A JP2012221731 A JP 2012221731A JP 2012221731 A JP2012221731 A JP 2012221731A JP 2014074632 A JP2014074632 A JP 2014074632A
- Authority
- JP
- Japan
- Prior art keywords
- camera
- inter
- feature point
- parameter
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
【課題】車載ステレオカメラにおいて、経年変化により左右のカメラの相対位置に変化が生じてもこれを自動的に補正し、位置測定精度を向上させる。
【解決手段】互いの視野が重なるように配置された左カメラ1L及び右カメラ1Rと、左右のカメラ1L,1Rの出力に基づき物体までの距離を算出するとともに物体の3次元位置を推定する3次元座標推定部2と、3次元座標推定部2における推定処理に用いられるカメラ間パラメータを記憶するカメラ間パラメータ記憶部3と、左右のカメラ1L,1Rの出力に基づき予め大きさが分かっている平面状の対象物を認識するとともに、対象物の特徴点座標を取得する対象物認識及び特徴点収集部4と、対象物認識及び特徴点収集部4により得られた特徴点座標を記憶する特徴点座標記憶部5と、特徴点座標に基づきカメラ間パラメータを求めるカメラ間パラメータ推定部6とを備える。
【選択図】図1
【解決手段】互いの視野が重なるように配置された左カメラ1L及び右カメラ1Rと、左右のカメラ1L,1Rの出力に基づき物体までの距離を算出するとともに物体の3次元位置を推定する3次元座標推定部2と、3次元座標推定部2における推定処理に用いられるカメラ間パラメータを記憶するカメラ間パラメータ記憶部3と、左右のカメラ1L,1Rの出力に基づき予め大きさが分かっている平面状の対象物を認識するとともに、対象物の特徴点座標を取得する対象物認識及び特徴点収集部4と、対象物認識及び特徴点収集部4により得られた特徴点座標を記憶する特徴点座標記憶部5と、特徴点座標に基づきカメラ間パラメータを求めるカメラ間パラメータ推定部6とを備える。
【選択図】図1
Description
本発明は、車両に取り付けられた2台のカメラにより得られた画像を用いて、車両周辺の3次元座標を取得する3次元座標取得装置に関するものであり、それらカメラ間の相対的な位置関係に係るパラメータを取得して3次元座標取得装置のキャリブレーションを行う車載ステレオカメラの校正装置及び校正方法に関する。
車両にカメラを搭載し、車両前方や後方の画像を撮影し、周辺の環境を3次元的に認識するシステムが開発されている。カメラで3次元座標(距離)を測定する方法としては、2台以上のカメラを利用するステレオ視(複眼ステレオ)が一般的である。
複眼ステレオによる3次元座標取得装置は、撮像範囲が重なる少なくとも2台のカメラ及び撮影された映像を処理する演算装置より構成される。複眼ステレオの場合、空間的に離れた位置に置かれた複数台のカメラで画像を撮影し、物体の特徴的な点(特徴点)やテクスチャの視差を利用して、いわゆる三角測量の原理で3次元座標(距離)を計算している。この3次元情報を利用して、単眼カメラと比較してより高精度の障害物、歩行者認識を可能としている。
3次元座標(距離)を計算する際には、カメラ間の相対的な位置関係に係るパラメータが必要である(パラメータの具体的内容については後述する)。これらは事前のキャリブレーション(校正)により得られる。
例えば、特許文献1には、1台のカメラが取得した画像から、第1の特徴点を抽出し、その3次元座標を演算する手段と、2台のカメラが同時に取得した2枚の画像から第2の特徴点を抽出し、2枚の画像の中で対応付ける手段と、第2の特徴点の対応関係から基礎行列を演算し、カメラの仮のキャリブレーション値を推定して第2の特徴点の仮の3次元座標を演算する手段と、同一の第1及び第2の特徴点についてそれぞれ演算された3次元座標を比較して、2台のカメラ間の距離スケールを求める手段と、第2の特徴点の仮の3次元座標及び2台のカメラ間の距離スケールから、第2の特徴点の3次元座標を演算する手段と、を備える3次元座標取得装置が記載されている。この装置によれば、特別な装置を必要とすることなく、ステレオカメラのキャリブレーションを行うことができる。
また、特許文献2には、2個以上のカメラによる撮像から対象物との距離を算出する複眼距離算出手段と、カメラによって撮影した他車両のナンバープレートの撮像(ナンバープレート像)に基づき、自車両と他車両との距離を基準距離として算出する基準距離算出手段と、算出した自車両と対象物との距離を基準距離を用いて校正する測定距離校正手段と、を備える3次元座標取得装置が記載されている。この装置によれば、簡単な演算処理により、複眼カメラの位置ずれに伴う距離測定誤差を低減できる。
3次元位置を三角測量の原理によって算出していることから、車両周辺の3次元座標を精度良く取得するためには、2つのカメラの位置関係について極めて精度が高い情報(パラメータ)が必要とされる。
しかしながら、2つのカメラの位置関係は、どんなに精度良く初期に校正しても、車載という条件を考慮すると、振動や温度条件その他外的要因の影響により、初期の値を保持し続けるのは困難であり、位置ずれが生じる可能性が高い。そのため、ある程度期間経過後あるいは一定間隔で再校正等の作業などのメンテナンスを行う必要がある。そこで、走行中に自動的に補正する装置が求められている。
先行技術1は、単眼での3次元認識法であるモーションステレオ法で対象物までの距離情報を算出し、その情報を元に高精度にステレオカメラの2つのカメラ間位置関係を補正することを開示している。
先行技術1の原理は、走行中に2つのカメラに写った同一対象物の特徴点のそれぞれのカメラ座標系での位置の違いを元に、カメラ間の6軸(並進3軸、回転6軸)の相対位置を算出し(これを表現する行列を基礎行列という)、この値を元に補正を行う方法である。この時、並進3軸は原理上方向ベクトルの算出可能だが、その大きさを算出できない(片方のカメラからもう一方のカメラがある方向はわかるが、距離はわからない)。これを解決するために単眼のモーションステレオ手法から距離を算出し、その値を元にカメラ間距離を特定し2つのカメラ間の位置関係を推定するようにしている。この方法は、基礎行列算出という非常に計算負荷が高い計算が必要であり、車両への搭載に対応できない可能性がある。また、画像認識がし易く既知の情報である対象物(テストパターン)ではなく、車載の風景等の任意の映像から特徴点の座標によりカメラ間の位置関係を求める手法は、映像のノイズやその他理由により精度的に問題が生じる可能性がある。さらに単眼のモーションステレオ法は映像内に移動物体があると精度が悪化する欠点がある。車載という条件を考えると移動物体は多数あることが予想され完璧に除去することは難しい。このため、要求される精度での推定は困難である。
先行技術2は、既知な情報であるナンバープレート大きさを元に単眼でナンバープレートまでの距離を算出し、その情報を元にステレオカメラで求めた距離情報に対する補正係数を算出することを開示している。
先行技術2は、既知の情報をもったナンバープレートに基づき単眼で距離を求め、それとステレオカメラで求めた距離との相違があれば、その比を補正係数としてかけるというものである。この方法は計算的にシンプルであり負荷が少ない。しかし、このカメラのずれが並進方向のみであれば問題ないが、回転方向のずれに対しては単純に比をかけただけでは距離の補正ができない。また、ステレオカメラの距離の測定は処理の負荷低減、精度向上のためにエピポール束縛を利用して左右のカメラでの視差を求め距離を算出すのが一般的である(エピポール束縛とは一方のカメラに写っている点は、もう一方のカメラではある直線上に存在する原理であり、左右の対応点探査はこの原理を利用すれば直線領域探査でよく全域探査と比較して大幅に計算時間が短縮される)。そのため、ずれが大きくなると対応点探査が不可能になるため、ステレオカメラでの距離の測定ができなくなり、この補正手法は対応できなくなるという問題がある。
本発明は上記の課題を解決するためになされたもので、計算負荷を低減しつつ精度がよい認識(構成)を行うことができ、また、カメラ間の大きなずれや回転方向のずれにも対応できる車載ステレオカメラの校正装置及び校正方法を提供することを目的とする。
本発明は、第1カメラ及び第2カメラと、3次元座標推定部と、カメラ間パラメータ記憶部とを備える車載ステレオカメラにおいて、第1カメラと第2カメラの間の位置関係について校正を行うための校正装置である。第1カメラ及び第2カメラは、互いの視野が重なるように配置される。3次元座標推定部は、第1カメラ及び第2カメラの出力に基づき物体までの距離を算出するとともに当該物体の3次元位置を推定する。カメラ間パラメータ記憶部は、3次元座標推定部における推定処理に用いられるカメラ間パラメータを記憶する。
校正装置は、対象物認識及び特徴点収集部と、特徴点座標記憶部と、カメラ間パラメータ推定部とを備える。対象物認識及び特徴点収集部は、第1カメラ及び第2カメラの出力に基づき予め大きさが分かっている平面状の対象物を認識するとともに、対象物の特徴点座標を取得する。特徴点座標記憶部は、対象物認識及び特徴点収集部により得られた特徴点座標を記憶する。カメラ間パラメータ推定部は、第1カメラ又は第2カメラの何れか一方の映像から得られた前記特徴点座標を他方のカメラの映像へ投影し、この投影された座標を前記他方のカメラの映像から得られた特徴点座標と比較することによりカメラ間パラメータを求める。
カメラ間パラメータ推定部は、推定したカメラ間パラメータをカメラ間パラメータ記憶部のカメラ間パラメータと比較し、この比較結果に基づき推定したカメラ間パラメータをカメラ間パラメータ記憶部に書き込む。
例えば、前記カメラ間パラメータは、回転方向のずれを表す回転行列RLRと並進方向のずれを表す並進ベクトルtLRであり、これらRLR、tLRは、複数の映像の特徴点座標について第1カメラの映像に基づく第2カメラの映像への投影点と第2カメラの映像における実際に計測された点の差の合計を示す式(6)(後述)の値が最小になるものとして求められる。
例えば、カメラ間パラメータ推定部は、特徴点座標記憶部から下記の第1〜第3の条件のうち何れか一つ又は複数の条件を満たす複数の前記特徴点座標を選択する。
第1の条件は、第1カメラ及び第2カメラの映像における対象物が予め定められた閾値よりも大きな面積であることである。第2の条件は、第1カメラ及び第2カメラの映像における対象物の向きが互いに異なっていることである。第3の条件は、第1カメラ及び第2カメラの映像における対象物の位置が互いに異なっていることである。
さらに、車両のエンジン回転数又は速度を含む情報に基づきカメラ間パラメータ推定部を作動させるタイミングかどうかを判定する作動条件判定部を備えるようにしてもよい。
また、本発明の校正方法は、上記車載ステレオカメラにおいて、第1カメラと第2カメラの間の位置関係について校正を行うための校正方法であって、以下の第1〜第6ステップを備える。
第1ステップでは、第1カメラ及び第2カメラの出力に基づき予め大きさが分かっている平面状の対象物を認識する。第2ステップでは、第1カメラ及び第2カメラの映像それぞれについて対象物の特徴点座標を取得する。第3ステップでは、第1ステップ及び第2ステップを繰り返して特徴点座標を複数取得する。第4ステップでは、第3ステップで取得された複数の特徴点座標から予め定められた条件に基づき複数の特徴点座標を選択する。第5ステップでは、第1カメラ又は第2カメラの何れか一方の映像から得られた特徴点座標を他方のカメラの映像へ投影し、この投影された座標を他方のカメラの映像から得られた特徴点座標と比較することによりカメラ間パラメータを求める。第6ステップでは、第5ステップで求めたカメラ間パラメータをカメラ間パラメータ記憶部のカメラ間パラメータと比較し、この比較結果に基づき第5ステップで求めたカメラ間パラメータをカメラ間パラメータ記憶部に書き込む。
本発明は、車両の走行中などにおいてワールド座標系(任意の座標系)にて同一平面上にある位置座標が既知な物体(寸法が分かっている平面上の対象物で特徴点を4点以上両方のカメラで認識でき、画像認識し易いものがよい)の特徴点に基づき複数のカメラ間の位置関係を良く求めるものである。既知の情報を用いることで精度がよい認識が可能となるうえに計算負荷も低減できる。カメラ間の位置関係を直接求めるため、大きなずれや回転方向のずれにも対応できる。走行中の認識が比較的容易な物体は、例えばナンバープレートである。
本発明は、コンピュータを、上記対象物認識及び特徴点収集部、上記特徴点座標記憶部及び、上記カメラ間パラメータ推定部として機能させるプログラムであってもよく、該プログラムは、記録媒体に記録されてもよい。
媒体には、例えば、EPROMデバイス、フラッシュメモリデバイス、フレキシブルディスク、ハードディスク、磁気テープ、光磁気ディスク、CD(CD−ROM、Video−CDを含む)、DVD(DVD−Video、DVD−ROM、DVD−RAMを含む)、ROMカートリッジ、バッテリバックアップ付きのRAMメモリカートリッジ、フラッシュメモリカートリッジ、不揮発性RAMカートリッジ等を含む。
また、電話回線等の有線通信媒体、マイクロ波回線等の無線通信媒体等の通信媒体を含む。インターネットもここでいう通信媒体に含まれる。
媒体とは、何等かの物理的手段により情報(主にデジタルデータ、プログラム)が記録されているものであって、コンピュータ、専用プロセッサ等の処理装置に所定の機能を行わせることができるものである。
本発明によれば、第1カメラ及び第2カメラの出力に基づき予め大きさが分かっている平面状の対象物を認識するとともに、前記対象物の特徴点座標を取得し、前記特徴点座標に基づき前記カメラ間パラメータを推定し、推定した前記カメラ間パラメータを従前用いられたカメラ間パラメータと比較し、この比較結果に基づき推定した前記カメラ間パラメータで置き換えるようにしたので、経年変化により左右のカメラの相対位置に変化が生じてもこれを自動的に補正することができ、車載ステレオカメラによる位置測定精度を維持することができる。
発明の実施の形態に係る装置及びその動作について、図面を参照して説明を加える。
図1は、発明の実施の形態に係る校正装置を備える車載ステレオカメラ装置のブロック図である。
車載ステレオカメラ装置は、2台のカメラ1L,1Rと、3次元座標推定部2と、カメラ感パラメータ記憶部3とを備える。
カメラ1L、1Rは、それぞれの視野が重なるように配置されている。カメラ1Lは所定の方向(説明の便宜上「左側」とする)を向き、カメラ1Rは他の方向(説明の便宜上「右側」とする)を向く。なお、カメラの数は2台以上であっても良いが、最低でも2台は必要である。
カメラ1L、1Rは、CCDやCMOSといった固体撮像素子を備える。カメラ1Lとカメラ1Rは、同じレンズ構成、カメラ特性を有しており、例えば自車両の前方風景を撮影する。カメラ1Lとカメラ1Rは、その配置の差に基づき視差のみ異なる、ほぼ同じ前方風景の像を撮像する。このステレオカメラ1L、1Rは、前方風景を撮像するのに都合のよい位置、例えば、自車両のフロントウインドウの両端や、2つのヘッドライトの隣にそれぞれ搭載される。なお、ステレオカメラ1L、1Rは、前方風景でなくても後方風景や側方風景を撮像するように、それらを自車両の後方や側方に向けるようにしてもよい。図1の例では2つのカメラを示しているが、3個以上のカメラを用いてもよい。
一般的なステレオカメラは2つのカメラを完全に平行(撮像素子面が平行)になるように物理的に設定している。しかしながら物理的な調整に限界があるために、テストパターン等を用いて2つのカメラの間の6方向の位置関係を計算し、その値を用いて映像の補正をソフト的に事前に行うようにしている。これに対し、本発明の実施の形態では、後述の構成により、2つのカメラの6軸方向の位置関係を車載の通常使用状況にて求めるようにしている。
3次元座標推定部2は、カメラ1L、1Rの出力に基づき三角測量原理により、物体までの距離を算出し、これを元にカメラ座標(車両座標系)系における物体の3次元位置を検知する。3次元座標推定部2における3次元座標推定処理には公知の方法を適用するため、その詳細な説明は省略する。
カメラ間パラメータ記憶部3は、3次元座標推定処理を行う際に用いるパラメータであるカメラ間パラメータを記憶する。カメラ間パラメータは2つのカメラ1L、1Rの位置関係を示すものであり、具体的には回転行列と並進ベクトルである(これらについては後に説明を加える)。
カメラ1L、1Rにより撮像は同じタイミングで行われる。カメラ1Lと1Rの撮像タイミングにずれがあると、取得される画像間に、カメラ1Lとカメラ1Rの視差に基づく違い以外の条件、例えば、走行速度の影響などが生じて、距離測定誤差を生じさせるようになる。このため、カメラ1Lとカメラ1Rの撮像タイミングのずれは極力排除する必要がある。カメラ1L、1Rにより撮像された画像は3次元座標推定部2に転送され、そこで所定の演算処理が施される。
校正装置は、対象認識及び特徴点収集部4と、特徴点座標記憶部5と、カメラ間パラメータ推定部6と、作動条件判定部7とを備える。
対象物認識及び特徴点収集部4は、カメラ1L、1Rにより撮像された画像に基づき、平面状な既知サイズの対象物を認識するとともに、その特徴点座標を取得する。対象物認識及び特徴点収集部4の動作は、後に詳しく説明する。なお、現時点で走行中の認識が比較的容易な既知な物体としては、ナンバープレートが考えられる。
特徴点座標記憶部5は、対象物認識及び特徴点収集部4により得られた特徴点座標を記憶する。
対象物認識及び特徴点収集部4は、基本的に、通常上走行時においてカメラ間パラメータ推定に必要なデータの収集を継続して行っている。すなわち、システム作動時は常に動作している。
対象物認識及び特徴点収集部4は、例えば1フレーム(100ms)又はこれよりも短い期間毎に行われるのが望ましい。特徴点座標記憶部5は、特徴点座標を当該間隔で順番に記憶している。この例では、対象物認識及び特徴点収集部4の動作周期と特徴点座標記憶部5への書き込み間隔は、1フレーム(100ms)又はこれよりも短い期間である。なお、特徴点データはある程度の数があれば校正データとして十分であるため、本処理をフレームごとに常に行う必要はない(後述する図2のステップS11参照)。
カメラ間パラメータ推定部6は、前記特徴点座標に基づきカメラ間パラメータ(回転行列と並進ベクトル)を求める。
作動条件判定部7は、エンジン回転数や速度などの情報に基づきカメラ間パラメータ推定部6を作動させるタイミングかどうかを判定する。
カメラ間パラメータの推定は常に行う必要はなく、特定の場面にて行えばよい。例えば、エンジン始動時、エンジン停止時、車両停止時などで作動させるようにする。作動条件判定部7はそのような場面において信号をカメラ間パラメータ推定部7に送り、これを作動させる。
対象物認識及び特徴点収集部4、特徴点座標記憶部5、カメラ間パラメータ推定部6、作動条件判定部7は、本発明の実施の形態に係る校正装置を構成する。なお、この校正装置及びこれを備える車載ステレオカメラ装置は、CPU(マイコン)が記憶部(ROM)に予め記憶されたプログラムを実行することで実現される。あるいは、専用のICの組み合わせにより実現される。
次に、対象物認識及び特徴点収集部4の動作について、図2のフローチャートを参照して説明を加える。この処理は、平面状な既知サイズの対象物(ナンバープレート)の認識とその特徴点座標データ収集するものである。
まず、左右カメラ1L、1Rより、同期した映像を対象物認識及び特徴点収集部4のメモリに読み込む(ステップS10)。車載の安全装置を考えると、この読込は1フレーム100ms以下毎に行われるのが望ましい。従って図2の処理は100ms以下ごとに行われている。
次に、処理条件に適しているかの判断を行う(ステップS11)。本処理は最終的には対象物であるナンバープレートの画像認識及びデータの蓄積を目的としているが、得られるデータの精度は当然高いほうが望ましい。特徴点データはある程度の数があれば校正データとして十分であるため、本処理をフレームごとに処理する必要はない。そこで、現在の映像が画像認識に望ましい状況か否かの判断を行い、望ましい状況であれば処理を続行し、望ましくない状況であれば現在のフレームでの処理を終了する。ここで画像認識に望ましい状況か否かの判断例を挙げる。
左右カメラ1L、1Rによる映像の輝度の平均値がある程度近い値かを判定する。一方のカメラのみ逆光や影の影響を受けると、左右カメラで認識したナンバープレート同一かの判断にミスが生じる可能性がある。具体的には、予め閾値を定めておき、左右の映像の平均値の差が前記閾値を超えたとき、ステップS11でNOと判定する。
映像の輝度の平均値がある程度大きいか否かを判定する。夜間や薄暗い所で撮影された映像を用いると推定の精度が低下する。そこで、予め閾値を定めておき、左右の映像の平均値の一方又は両方が前記閾値を下回るとき、ステップS11でNOと判定する。
現在車両は停止中かを判定する。カメラ1L、1Rが停止していいた方が映像の流れが少なく精度向上が望める。そこで、予め閾値を定めておき、車両の速度が前記閾値を超えるとき、ステップS11でNOと判定する。
次に、カメラ1Lの映像に基づくナンバープレート認識処理を実行する(ステップS12L)。
ナンバープレートの認識手法は公知であるのでその詳細な説明は省略する。基本的原理は、あらかじめナンバープレートのテンプレートを用意し、サイズ、位置、回転をパラメータにして変化させながら映像との相関値を求め、設定した閾値よりも相関値の大きい画像領域を求めるテンプレートマッチング処理により行うことができる。また同時にナンバー(値)自体も画像認識にて読み取る。
ナンバープレートを認識できない場合(ステップS13L:NO)は、処理を終了する。例えば、テンプレートマッチング処理において相関値が閾値を超えなかった場合にS13LでNOと判定する。
次に、左映像と同様に、カメラ1Rの映像よりナンバープレート認識処理を実行する(ステップS12R)。すなわち、左映像と同様に、ナンバープレート領域の抽出及びナンバーの読み取りを行い、ナンバープレートを認識できない場合(ステップS13R:NO)は、処理を終了する。
次に、ナンバープレート左右映像の同一性を確認する(ステップS14)。すなわち、左映像より認識したナンバープレートと右映像により認識したナンバープレートとが同一のものであるかの判断処理を行う。同一性の判断は抽出した左右映像から切り出したナンバープレート領域の相関値を求め、設定した閾値より大きくなったら同一と判断する手法や、読みだしたナンバー自体が一致するかなどで判断できる。
同一性が確認できない場合(ステップS15:NO)は、処理を終了する。
同一性が確認できた場合(ステップS15:YES)は、左右映像上のナンバープレート特徴点座標を算出する(ステップS16)。すなわち、左右同一と判断された左右映像から抽出したナンバープレート領域より、左右それぞれについて特徴点を算出する。特徴点としては比較的精度が見込まれる、プレートの4隅の座標を計算する。座標は抽出映像より、縦エッジフィルタより縦の線を抽出し、横エッジフィルタより横線を抽出しプレートを枠の4線を選別しその交点を四隅の座標とする。
次に、特徴座標をメモリに保存する(ステップS17)。上記処理により、一つのナンバープレートに対して、左右カメラでそれぞれ4点の計8点の座標を算出できるので、それらをメモリ(特徴点座標記憶部5)に保存して、処理を終了する。
次に、カメラ間パラメータ推定部6の動作について、図3のフローチャートを参照して説明する。この処理は、対象物認識及び特徴点収集部4により収集されたデータに基づき2つのカメラ1L、1R間のパラメータを推定するものである。
まず、特徴点座標記憶部5より、使用する特徴点データを選択する(ステップS20)。対象物認識及び特徴点収集部4により収集された左右映像それぞれ4点の座標データのうち条件が良いものを複数選択する。
選択する基準は例えば以下のようにする。
ナンバープレート(対象物)が大きく写っていること。例えば、映像における面積(ピクセル数)に対応する閾値を用意しておき、これを超える映像に係る特徴点データを選択する。
ナンバープレートの向きが多様であること。向きは上下左右の辺の長さで判断する。例えば、各映像のナンバープレートの各辺の長さ(ピクセル数)を測定し、選択するかどうか判断対象であるナンバープレートの各辺の長さが、選択したナンバープレートの各辺の長さと一致しているあるいは各辺の差が所定の閾値を下回るとき、当該判断対象であるナンバープレートに係る特徴点データは選択しない。
ナンバーレートの映像上に写っている位置が多様であること。例えば、選択するかどうか判断対象であるナンバープレートの位置(例えば重心、対角線の交点など)が、選択したナンバープレートの位置に一致しているあるいはそれらの差が所定の閾値を下回るとき、当該判断対象であるナンバープレートに係る特徴点データは選択しない。
次に、選択された特徴点データとカメラ内部パラメータより、カメラ間の位置関係を計算する(ステップS21)。
画像上の座標(u,v)とカメラ座標系(x,y)、ワールド座標系(X,Y,Z)の間には同次座標系を用いて以下のような関係がある。これらの座標系は公知であるので説明は省略する。
ここでKは3×3のカメラ内部行列と呼ばれるカメラ一つずつ固有の行列で、
で表現され、一度計測すれば殆どずれることが無いため、固定値として扱うことができる。今回は左右のカメラとも既知な値とする。Rはカメラ座標系とワールド座標系の回転方向のずれを表す3×3の回転行列であり、tはカメラ座標系とワールド座標系の並進方向のずれを表す3×1の行列である。
ここで、
とおくと、式(3)は、
となる。このとき、
はホモグラフィ(Homography)行列と呼ばれる。この行列は未知数が8個なので左右カメラで計測した同じナンバープレート4点以上のそれぞれの映像上の座標の組と、それに対応するナンバープレートのワールド座標系での座標(=ナンバープレートの大きさ)が既知であれば求めることができる。4点が既知の場合は線形解法にて、それ以上の点の場合は最小2乗近似で求める。
左カメラ1Lでとらえたナンバープレトートの映像上の座標を(uL,vL)、カメラ座標系での座標(xL,yL)、カメラ内部行列KL、ホモグラフィ行列HL、同様に右カメラ1Rについて(uR,vR)、カメラ座標系での座標(xR,yR)、カメラ内部行列KR、ホモグラフィ行列HRとすると、上記に述べた関係より
となり、これより、
となる。
HLHR -1が左カメラ1Lと右カメラ1Rの間のホモグラフィ行列となる。
ここで左右カメラ間の回転行列をRLR、i番目の列べクトルをrLRi(i=1,2,3)、左右カメラ間の3×1並進ベクトルをtLRとすると、
と表現できる。式(4)、(5)より、
となり、rLR1、rLR2、tLRが計算できる。
回転行列の各列ベクトルは、大きさが1で直交するので、第1列と第2列と直交するベクトルが左カメラと右カメラのずれを表す回転ベクトルの第3列となる。
これにより、2つのカメラ問の位置関係を表す回転行列と並進ベクトル計算できる。
ただし、より正確な値を取得するために多数のナンバープレート映像データより、再投影誤差の合計を最小化するような行列を求める。
具体的には今回k枚の映像とそれぞれに対して1点のデータがあるとすると、i番目の映像のj番目のデータの左映像の点をmLij=(uLij,vLij)、右映像の点をmRij=(uRij,vRij)、i番目の映像より求めた回転行列をRLRi並進ベクトルをtLRiとすると、これらmLij、RLRi、tLRiと左右のカメラ内部行列より右画像の投影点が計算でき、この点は、
とあらわされる。この時、再投影誤差は実際の計測した右映像上点の差であり、
となる。これらの全ての映像及び計測点に対して合計は、
となり、これを最小になるようにRLR、tLRを求めることである。式(6)を最小化する手法は色々あり例えばlevenberg marquardt法が代表的な手法である。
次に、現状のパラメータとの比較を行う(ステップS22)。
現在ソフト補正で使用している回転行列と並進ベクトルの値と、今回計算した値が大きく違う場合は、今回計算した値で映像のソフト補正パラメータとする。
カメラ間パラメータ推定部6は、カメラ間パラメータ記憶部3から現在使用されている回転行列と並進ベクトルの値を、今回計算した回転行列と並進ベクトルの値と比較し、両者の差が所定の閾値よりも大きいときパラメータを更新する。例えば、現在使用されている行列と今回計算した行列について両者の各要素の差の絶対値をそれぞれ合計し、これらの差について判定する。例えば、ベクトルの場合はその絶対値(大きさ)の差について判定する。
発明の実施の形態によれば、カメラ間パラメータを適宜のタイミングで推定し、必要に応じてそれを更新するので、経年変化により左右のカメラの相対位置に変化が生じてもこれを自動的に補正することができ、車載ステレオカメラによる位置測定精度を維持することができる。車載ステレオカメラで問題となっている振動等による2つのカメラ間の物理的ズレが生じても、特別な校正作業なしに精度良く自動補正が可能となる。
発明の実施の形態においては既知の情報を用いているので、任意の(不特定の)物体の特徴点に基づきカメラ間の位置関係を求めるために映像のノイズの影響を受け易く精度的に問題がある先行技術1と比べて精度がよい認識が可能となるうえに計算負荷も低減できる。
また、発明の実施の形態においてはカメラ間の位置関係を直接求めているので、カメラ間の大きなずれや、その回転方向のずれにも対応できる。これに対し、先行技術2はカメラの並進方向のずれを補正できるに過ぎない。
本発明は、以上の実施の形態に限定されることなく、特許請求の範囲に記載された発明の範囲内で、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。
また、本明細書において、部(手段)とは必ずしも物理的手段を意味するものではなく、各手段の機能が、ソフトウェアによって実現される場合も包含する。さらに、一つの手段の機能が、二つ以上の物理的手段により実現されても、若しくは、二つ以上の手段の機能が、一つの物理的手段により実現されてもよい。
1L 左カメラ
1R 右カメラ
2 3次元座標推定部
3 カメラ間パラメータ記憶部
4 対象物認識及び特徴点収集部
5 特徴点座標記憶部
6 カメラ間パラメータ推定部
7 作動条件判定部
1R 右カメラ
2 3次元座標推定部
3 カメラ間パラメータ記憶部
4 対象物認識及び特徴点収集部
5 特徴点座標記憶部
6 カメラ間パラメータ推定部
7 作動条件判定部
Claims (5)
- 互いの視野が重なるように配置された第1カメラ及び第2カメラと、前記第1カメラ及び第2カメラの出力に基づき物体までの距離を算出するとともに当該物体の3次元位置を推定する3次元座標推定部と、前記3次元座標推定部における推定処理に用いられるカメラ間パラメータを記憶するカメラ間パラメータ記憶部とを備える車載ステレオカメラにおいて、前記第1カメラと第2カメラの間の位置関係について校正を行うための校正装置であって、
前記第1カメラ及び第2カメラの出力に基づき予め大きさが分かっている平面状の対象物を認識するとともに、前記対象物の特徴点座標を取得する対象物認識及び特徴点収集部と、
前記対象物認識及び特徴点収集部により得られた前記特徴点座標を記憶する特徴点座標記憶部と、
前記第1カメラ又は第2カメラの何れか一方の映像から得られた前記特徴点座標を他方のカメラの映像へ投影し、この投影された座標を前記他方のカメラの映像から得られた前記特徴点座標と比較することにより前記カメラ間パラメータを求めるカメラ間パラメータ推定部と、を備え、
前記カメラ間パラメータ推定部は、推定した前記カメラ間パラメータを前記カメラ間パラメータ記憶部の前記カメラ間パラメータと比較し、この比較結果に基づき推定した前記カメラ間パラメータを前記カメラ間パラメータ記憶部に書き込む
ことを特徴とする車載ステレオカメラの校正装置。 - 請求項1に記載の校正装置であって、
前記カメラ間パラメータは、回転方向のずれを表す回転行列RLRと並進方向のずれを表す並進ベクトルtLRであり、これらRLR、tLRは、複数の映像の前記特徴点座標について前記第1カメラの映像に基づく前記第2カメラの映像への投影点と前記第2カメラの映像における実際に計測された点の差の合計を示す下記式の値が最小になるものとして求められる
ことを特徴とする車載ステレオカメラの校正装置。
kは前記対象物認識及び特徴点収集部で処理された映像の数
lは前記映像におけるデータの数
mLij、mRijはそれぞれ前記第1カメラ及び第2カメラのi番目の映像のj番目のデータの映像の点
KR、KLはそれぞれ前記第1カメラ及び第2カメラの内部行列
- 請求項1又は請求項2に記載の校正装置であって、
前記カメラ間パラメータ推定部は、
前記第1カメラ及び第2カメラの映像における前記対象物が予め定められた閾値よりも大きな面積であるという第1の条件、
前記第1カメラ及び第2カメラの映像における前記対象物の向きが互いに異なるという第2の条件、及び
前記第1カメラ及び第2カメラの映像における前記対象物の位置が互いに異なるという第3の条件
のうち何れか一つ又は複数の条件を満たす複数の前記特徴点座標を選択する
ことを特徴とする車載ステレオカメラの校正装置。 - 請求項1〜請求項3のうち何れか1項に記載の校正装置であって、
車両のエンジン回転数又は速度を含む情報に基づき前記カメラ間パラメータ推定部を作動させるタイミングかどうかを判定する作動条件判定部を備えた
ことを特徴とする車載ステレオカメラの校正装置。 - 互いの視野が重なるように配置された第1カメラ及び第2カメラと、前記第1カメラ及び第2カメラの出力に基づき物体までの距離を算出するとともに当該物体の3次元位置を推定する3次元座標推定部と、前記3次元座標推定部における推定処理に用いられるカメラ間パラメータを記憶するカメラ間パラメータ記憶部とを備える車載ステレオカメラにおいて、前記第1カメラと第2カメラの間の位置関係について校正を行う方法であって、
前記第1カメラ及び第2カメラの出力に基づき予め大きさが分かっている平面状の対象物を認識する第1ステップと、
前記第1カメラ及び第2カメラの映像それぞれについて前記対象物の特徴点座標を取得する第2ステップと、
前記第1ステップ及び前記第2ステップを繰り返して前記特徴点座標を複数取得する第3ステップと、
取得された複数の前記特徴点座標から予め定められた条件に基づき複数の前記特徴点座標を選択する第4ステップと、
前記第1カメラ又は第2カメラの何れか一方の映像から得られた前記特徴点座標を他方のカメラの映像へ投影し、この投影された座標を前記他方のカメラの映像から得られた前記特徴点座標と比較することにより前記カメラ間パラメータを求める第5ステップと、
前記第5ステップで求めた前記カメラ間パラメータを前記カメラ間パラメータ記憶部の前記カメラ間パラメータと比較し、この比較結果に基づき前記第5ステップで求めた前記カメラ間パラメータを前記カメラ間パラメータ記憶部に書き込む第6ステップと、を備えた
ことを特徴とする車載ステレオカメラの校正方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012221731A JP2014074632A (ja) | 2012-10-03 | 2012-10-03 | 車載ステレオカメラの校正装置及び校正方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012221731A JP2014074632A (ja) | 2012-10-03 | 2012-10-03 | 車載ステレオカメラの校正装置及び校正方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014074632A true JP2014074632A (ja) | 2014-04-24 |
Family
ID=50748871
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012221731A Pending JP2014074632A (ja) | 2012-10-03 | 2012-10-03 | 車載ステレオカメラの校正装置及び校正方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2014074632A (ja) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016052505A1 (ja) * | 2014-09-30 | 2016-04-07 | クラリオン株式会社 | カメラキャリブレーション装置及びカメラキャリブレーションシステム |
KR20160118578A (ko) * | 2015-04-02 | 2016-10-12 | 현대자동차주식회사 | 스테레오 카메라에서 획득된 영상데이터의 보정장치 및 방법 |
JP2017151050A (ja) * | 2016-02-26 | 2017-08-31 | キヤノン株式会社 | 校正方法、プログラム、計測装置、および物品の製造方法 |
CN107728617A (zh) * | 2017-09-27 | 2018-02-23 | 速感科技(北京)有限公司 | 多目在线标定方法、可移动机器人及系统 |
WO2019021925A1 (ja) | 2017-07-28 | 2019-01-31 | 日立オートモティブシステムズ株式会社 | 車載環境認識装置 |
JP2019199229A (ja) * | 2018-05-18 | 2019-11-21 | 株式会社小糸製作所 | センサシステムおよび検査方法 |
JP2020053950A (ja) * | 2018-09-28 | 2020-04-02 | 株式会社Subaru | 車両用ステレオカメラ装置 |
WO2020117285A1 (en) * | 2018-12-03 | 2020-06-11 | Didi Research America, Llc | A multicamera system for autonamous driving vehicles |
CN111693254A (zh) * | 2019-03-12 | 2020-09-22 | 纬创资通股份有限公司 | 车载镜头偏移检测方法与车载镜头偏移检测系统 |
CN111915606A (zh) * | 2020-08-20 | 2020-11-10 | 新石器慧义知行智驰(北京)科技有限公司 | 一种车辆相机参数标定结果的评价方法及装置 |
KR20210090126A (ko) * | 2014-10-30 | 2021-07-19 | 현대모비스 주식회사 | 차량 경보 장치 |
JP2022510924A (ja) * | 2019-11-18 | 2022-01-28 | 商▲湯▼集▲團▼有限公司 | センサキャリブレーション方法及び装置、記憶媒体、キャリブレーションシステム並びにプログラム製品 |
US11740078B2 (en) | 2020-07-21 | 2023-08-29 | Argo AI, LLC | Enhanced sensor alignment |
-
2012
- 2012-10-03 JP JP2012221731A patent/JP2014074632A/ja active Pending
Cited By (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016070814A (ja) * | 2014-09-30 | 2016-05-09 | クラリオン株式会社 | カメラキャリブレーション装置及びカメラキャリブレーションシステム |
WO2016052505A1 (ja) * | 2014-09-30 | 2016-04-07 | クラリオン株式会社 | カメラキャリブレーション装置及びカメラキャリブレーションシステム |
US10594943B2 (en) | 2014-09-30 | 2020-03-17 | Clarion Co., Ltd. | Camera calibration device and camera calibration system |
KR102448629B1 (ko) | 2014-10-30 | 2022-09-29 | 현대모비스 주식회사 | 차량 경보 장치 |
KR20210090126A (ko) * | 2014-10-30 | 2021-07-19 | 현대모비스 주식회사 | 차량 경보 장치 |
KR102250289B1 (ko) * | 2015-04-02 | 2021-05-11 | 현대자동차주식회사 | 스테레오 카메라에서 획득된 영상데이터의 보정장치 및 방법 |
KR20160118578A (ko) * | 2015-04-02 | 2016-10-12 | 현대자동차주식회사 | 스테레오 카메라에서 획득된 영상데이터의 보정장치 및 방법 |
JP2017151050A (ja) * | 2016-02-26 | 2017-08-31 | キヤノン株式会社 | 校正方法、プログラム、計測装置、および物品の製造方法 |
WO2019021925A1 (ja) | 2017-07-28 | 2019-01-31 | 日立オートモティブシステムズ株式会社 | 車載環境認識装置 |
CN107728617A (zh) * | 2017-09-27 | 2018-02-23 | 速感科技(北京)有限公司 | 多目在线标定方法、可移动机器人及系统 |
CN107728617B (zh) * | 2017-09-27 | 2021-07-06 | 速感科技(北京)有限公司 | 多目在线标定方法、可移动机器人及系统 |
JP7189682B2 (ja) | 2018-05-18 | 2022-12-14 | 株式会社小糸製作所 | センサシステムおよび検査方法 |
CN110497861A (zh) * | 2018-05-18 | 2019-11-26 | 株式会社小糸制作所 | 传感器系统及检查方法 |
CN110497861B (zh) * | 2018-05-18 | 2022-11-01 | 株式会社小糸制作所 | 传感器系统及检查方法 |
JP2019199229A (ja) * | 2018-05-18 | 2019-11-21 | 株式会社小糸製作所 | センサシステムおよび検査方法 |
JP7165012B2 (ja) | 2018-09-28 | 2022-11-02 | 株式会社Subaru | 車両用ステレオカメラ装置 |
JP2020053950A (ja) * | 2018-09-28 | 2020-04-02 | 株式会社Subaru | 車両用ステレオカメラ装置 |
WO2020117285A1 (en) * | 2018-12-03 | 2020-06-11 | Didi Research America, Llc | A multicamera system for autonamous driving vehicles |
US11173841B2 (en) | 2018-12-03 | 2021-11-16 | Beijing Voyager Technology Co., Ltd. | Multicamera system for autonamous driving vehicles |
CN111693254B (zh) * | 2019-03-12 | 2022-09-20 | 纬创资通股份有限公司 | 车载镜头偏移检测方法与车载镜头偏移检测系统 |
CN111693254A (zh) * | 2019-03-12 | 2020-09-22 | 纬创资通股份有限公司 | 车载镜头偏移检测方法与车载镜头偏移检测系统 |
JP2022510924A (ja) * | 2019-11-18 | 2022-01-28 | 商▲湯▼集▲團▼有限公司 | センサキャリブレーション方法及び装置、記憶媒体、キャリブレーションシステム並びにプログラム製品 |
US11740078B2 (en) | 2020-07-21 | 2023-08-29 | Argo AI, LLC | Enhanced sensor alignment |
CN111915606A (zh) * | 2020-08-20 | 2020-11-10 | 新石器慧义知行智驰(北京)科技有限公司 | 一种车辆相机参数标定结果的评价方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2014074632A (ja) | 車載ステレオカメラの校正装置及び校正方法 | |
JP4814669B2 (ja) | 3次元座標取得装置 | |
US10567704B2 (en) | Method for motion estimation between two images of an environmental region of a motor vehicle, computing device, driver assistance system as well as motor vehicle | |
US20170339397A1 (en) | Stereo auto-calibration from structure-from-motion | |
JP5588812B2 (ja) | 画像処理装置及びそれを用いた撮像装置 | |
JP5293131B2 (ja) | 車両用複眼距離測定装置及び複眼距離測定方法 | |
KR102166691B1 (ko) | 객체의 3차원 형상을 산출하는 장치 및 방법 | |
JP4943034B2 (ja) | ステレオ画像処理装置 | |
JP4702569B2 (ja) | 車両用画像処理装置 | |
JP6599685B2 (ja) | 画像処理装置および誤差判定方法 | |
WO2012139636A1 (en) | Online vehicle camera calibration based on road surface texture tracking and geometric properties | |
JP2014092461A (ja) | 画像処理装置および方法、画像処理システム、並びにプログラム | |
KR20150074544A (ko) | 차량 검출 방법 | |
JP2010181919A (ja) | 三次元形状特定装置、三次元形状特定方法、三次元形状特定プログラム | |
JP6035620B2 (ja) | 車載ステレオカメラシステム及びそのキャリブレーション方法 | |
WO2017056088A2 (en) | Method and system for recalibrating sensing devices without familiar targets | |
JP5228614B2 (ja) | パラメータ計算装置、パラメータ計算システムおよびプログラム | |
JP2010181209A (ja) | カメラの自動キャリブレーション装置及び自動キャリブレーション方法 | |
JP6543935B2 (ja) | 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム | |
KR20200118073A (ko) | 동적 입체 캘리브레이션을 위한 시스템 및 방법 | |
KR102278536B1 (ko) | 영상 이미지를 이용하여 거리를 측정하기 위한 장치 및 방법 | |
JP6161704B2 (ja) | 撮影装置、車両および画像補正方法 | |
JP2018136739A (ja) | キャリブレーション装置 | |
GB2513703A (en) | Method and apparatus for three-dimensional imaging of at least a partial region of a vehicle environment | |
JP2004028811A (ja) | 監視システムの距離補正装置および距離補正方法 |