(第1の実施形態)
図1~図7を参照して、状態計測装置の第1の実施形態について説明する。本実施形態の状態計測装置は、移動体に用いられる状態計測装置である。本実施形態の移動体は、自動車等の車両10である。
図1に示すように、車両10は、当該車両10の車両状態を計測する状態計測装置1を備えている。車両状態としては、車両10が停止又は走行している路面100(図2参照)に対する車両10の速度(以下、車速と記す)、及び車両10の位置、加速度、旋回等の少なくとも1つが挙げられる。本実施形態では、車両状態は車速であり、対向面は路面100(図2参照)から構成される。
車両10は、GPS(グローバルポジショニングシステム)アンテナ20、ステレオカメラ21、及び車載制御装置25を備える。車載制御装置25は、信号処理部30、記憶部34及び出力部40を備える。
GPSアンテナ20は、複数のGPS衛星が送信するGPS信号を受信する。GPSアンテナ20は、受信したGPS信号を信号処理部30に送信する。GPS信号には、GPSアンテナ20の現在の緯度、経度、GPS誤差及び測位時刻を取得可能な情報が含まれている。
図2及び図3に示すように、ステレオカメラ21は、2つのカメラで対象物を撮影することに基づいて撮影対象までの距離を計測する撮影機器である。本実施形態では、ステレオカメラ21は、車両10が停止又は走行している路面100を撮影するとともに、路面100までの距離(高さ)を計測する。具体的には、対向面撮影部としてのステレオカメラ21は、いわゆるパッシブ型であって、視差をもつように車両10の幅方向にカメラ間隔を空けて配置された第1カメラ22及び第2カメラ23を有している。第1カメラ22及び第2カメラ23は、車両10に取り付けられた位置から路面100を撮影可能であり、例えばCCDカメラやCMOSカメラである。
図1に示すように、第1カメラ22及び第2カメラ23は、路面100を撮影する露光量を規定するパラメータ22G,23Gを記憶する記憶部をそれぞれ備える。露光量を規定するパラメータ22G,23Gには、可変減光フィルタの度合い、絞り(F値)、シャッター速度、及び、アナログゲイン(感度)、フレームレートのうちの少なくともシャッター速度を含む1つ以上のパラメータと、その設定値とが含まれている。ステレオカメラ21は、第1カメラ22で第1カメラ画像を撮影し、第2カメラ23で第2カメラ画像を撮影する。ステレオカメラ21は、第1カメラ画像と第2カメラ画像とに重複して撮影された範囲の視差に基づいて撮影された路面100(図2参照)までの距離を計測し、計測された距離情報を撮影画像に対応付ける。
図2及び図3に示すように、走行中の車両10は、上下に振動するため、路面100とステレオカメラ21との間の距離が逐次変動する。そこで、路面100とステレオカメラ21との距離を逐次算出し、この算出した距離を撮影画像に対応させ、この距離に基づいて撮影範囲におけるスケールとしての1画素の長さ(ピクセル当たりの路面100の実際の長さ)を規定してもよい。
第1カメラ22及び第2カメラ23は、路面100に対して略垂直方向から撮影可能なように車両10の後部に設けられ、車両10から略垂直方向下方となる路面100を撮影する。また、第1カメラ22及び第2カメラ23は、車両10の幅方向に所定のカメラ間隔を有している。また、第1カメラ22及び第2カメラ23は、それらの光軸が互いに平行になるように設けられている。ステレオカメラ21は、路面100の撮影画像である第1カメラ画像と第2カメラ画像とそれら画像に対応付けられている距離情報を信号処理部30(図1参照)に送信する。
図1に示すように、車載制御装置25は、CPU、ROM、RAM、その他の記憶装置を有するコンピュータを含み構成されている。記憶部34は、その他の記憶装置の少なくとも一部から構成されている。車載制御装置25は、ROMや記憶部34に記憶されているプログラムをCPUで演算処理することにより、所定の処理を行う。本実施形態では、ROMや記憶部34に記憶されているプログラムをCPUで演算処理することにより、信号処理部30、及び出力部40のそれぞれに必要とされる各演算処理を実行する。
記憶部34は、信号処理部30からのデータの読み出しや、書き込みが可能に構成されている。記憶部34は、信号処理部30で実行されるプログラムや、第1カメラ22や第2カメラ23に設定するパラメータ22G,23Gの設定値や、ステレオカメラ21から送られた第1カメラ画像や第2カメラ画像等を記憶している。
信号処理部30は、車両状態として車速を算出するが、走行位置や加速度、旋回を算出してもよい。信号処理部30は、GPSアンテナ20から取得したGPS信号に基づいて走行位置や車速を算出するGPS車速算出部31と、ステレオカメラ21から取得した路面100の撮影画像に基づいて車速を算出する画像車速算出部32とを備える。本実施形態では、GPS信号に基づいて算出された車速がGPS車速である。
GPS車速算出部31は、GPS信号に基づいて車両10の現在位置を計測する。具体的にはGPS車速算出部31は、車両10の位置情報として緯度及び経度を算出する。
また、GPS車速算出部31は、GPS信号に基づいて車速を計測する。本実施形態では、高精度に車速が計測される構成の一例として、GPS車速算出部31は、GPS衛星から出力されている搬送波のドップラー効果から車速を求める。
また、GPS信号に基づいて車速や旋回を計測する一態様として、算出した緯度、経度及び経過時間に基づいて計測する技術もある。
画像車速算出部32は、路面100の撮影画像に基づいて車速を計測する。路面100の撮影画像に基づいて算出された車速を画像車速とする。さらに詳述すると、画像車速算出部32は、観測位置のトラッキングに基づき計測される車速である複画像車速を算出するトラッキング部としての複画像車速算出部322と、撮影画像のモーションブラーに基づいて計測される車速である単画像車速を算出する計測部としての単画像車速算出部321とを備える。トラッキングは、撮影タイミングの相違する2つの画像において同一位置を検出することであり、撮影タイミングの間に移動した移動量を取得可能にする。モーションブラーは、いわゆる画像に生じたぶれであり、画像上の所定の位置が、露光開始タイミングから露光終了タイミングまでの間に画像上に移動軌跡として写ったものである。
複画像車速算出部322は、所定の撮影間隔で撮影された2つの画像における観測位置をトラッキングして得られた移動距離に基づいて複画像車速を計測する。
単画像車速算出部321は、所定の露光時間で撮影された1つの画像に含まれるモーションブラーの大きさに基づいて単画像車速を計測する。
路面100の撮影画像には、第1カメラ画像及び第2カメラ画像の少なくとも一方が含まれる。なお、複画像車速算出部322及び単画像車速算出部321は、いずれも車速を、第1カメラ画像、又は第2カメラ画像のいずれか一方の画像から算出できるので、ここでは説明の便宜上、第1カメラ画像に基づいて車速を計測する場合を例示する。
複画像車速算出部322は、アスファルト舗装された路面100を、第1カメラ22で撮影するとともに、撮影間隔に対応する時間間隔を有する2枚の第1カメラ画像を取得する。複画像車速算出部322は、取得した2枚の第1カメラ画像に含まれる同一の観測位置をトラッキングして撮影間隔の間に移動した距離を取得して車速を算出する。すなわち、撮影間隔だけ時間の相違する2枚の第1カメラ画像において、同一の観測位置が移動した距離と、前記撮影間隔との商に基づいて車速が計測される。複画像車速算出部322では、撮影間隔の間に車両10が実際に移動した距離は、第1カメラ画像上で移動した距離(画素数)と、下式(1)に示される1画素当たりの実際の長さとの積によって求められる。
単画像車速算出部321は、例えばアスファルト舗装された路面100を、所定の露光時間に設定された第1カメラ22で撮影して1枚の第1カメラ画像P11(又は第1カメラ画像P12)(図4(a),(b)参照)を取得する。例えば、停止しているアスファルトの路面100の模様の粒度分布はどちらの向きにも同様である。単画像車速算出部321は、取得した1枚の第1カメラ画像P11(又は第1カメラ画像P12)に含まれる路面100の模様に着目し、当該着目した模様の有するモーションブラーの大きさを取得することに基づいて車速を算出する。すなわち、所定の露光時間において第1カメラ画像P11(又は第1カメラ画像P12)に生じた、車両10の移動方向に対するモーションブラーの大きさで車速が計測される。単画像車速算出部321では、所定の露光時間の間に車両10が実際に移動した距離は、第1カメラ画像上での移動方向に対するモーションブラーの大きさ、具体的には、進行方向に対するモーションブラーの長さ(画素数)と、式(1)に示される1画素当たりの実際の長さとの積によって求められる。
まず式(1)について説明する。2つの撮影位置(間隔は既知)に2つのカメラが配置されているとき、注目している同一領域までの距離dは、2つのカメラがそれぞれ撮影した2つのカメラ画像から求められる。具体的には、2つのカメラ間の基線(単に2つのカメラ同士を結んだ線)の長さと、カメラ画像において注目している同一領域に対する一方のカメラの主光線の角度αと、他方のカメラの主光線の角度βとから基線に対する距離dを得る。また、カメラの画角をθ、画像一辺の画素数Qとすれば、前記基線に対する距離dとともに1画素当たりの実際の長さ、すなわち長さ換算値s[mm/画素]が式(1)で求められる。
s=2d/Q・tan(θ/2)…(1)
なお、画像車速算出部32の複画像車速算出部322による車速計測では、2枚の第1カメラ画像の両方に同一の観測領域が含まれる必要がある。車速が低ければ、両方に含まれる同一領域は多くなり、逆に、車速が高ければ、両方に含まれる同一領域が少なくなる。また、撮影間隔は、カメラ性能や処理能力の制約により最短間隔が定まる。よって、車速が高くなることで2つの第1カメラ画像P11,P12での重複範囲が減少し、車速の計測精度が低下するおそれがある。仮に、重複範囲がなくなる程度に車速が高くなると車速を計測することができなくなる。
そのようなとき、単画像車速算出部321による速度計測が行われる。つまり、信号処理部30は、画像車速算出部32における速度計測を、複画像車速算出部322による速度計測と、単画像車速算出部321による速度計測との間で切り替えることができる。すなわち、単画像車速算出部321が速度計測に用いる第1カメラ画像を撮影するときのシャッター速度は、複画像車速算出部322が速度計測に用いる2枚の第1カメラ画像を撮影するときの撮影間隔よりも短時間の現象(変位)を捉えることができる。
また、信号処理部30は、GPS車速算出部31が算出したGPS車速と、複画像車速算出部322による画像車速と、単画像車速算出部321による画像車速とのうち、いずれか1つの車速を選択する切替部35を備える。
切替部35は、所定の選択条件に基づいていずれか1つの車速を選択してもよいし、運転者等の指示に基づいていずれか1つの車速を選択してもよい。切替部35は、GPS車速が選択されない条件下においては、所定の切替速度までは複画像車速算出部322による画像車速の計測を行い、所定の切替速度を超えると単画像車速算出部321による画像車速の計測を行うようにしてもよい。また例えば、切替部35は、複画像車速算出部322による速度の計測精度が低下する速度領域において、単画像車速算出部321による画像速度の計測を行ってもよい。
出力部40は、切替部35で選択された車速を外部へ出力する。なお、出力部40から出力される画像車速は、車両10の実路走行における走行評価の結果として測定装置に記憶されてもよい。また、表示装置等を介して車速を表示してもよい。
本実施形態の画像車速算出部32は、複画像車速算出部322によるトラッキングができないとしても、精度及び連続性を維持しつつ、画像車速を出力できる。
そこで、図1及び図4~図8を参照して、車載制御装置25が画像車速算出部32の単画像車速算出部321で単画像車速を計測する態様について説明する。
まず、図1に示すように、信号処理部30は、ステレオカメラ21の各カメラのパラメータ22G,23Gを設定するパラメータ設定部33を有している。各パラメータ22G,23Gは、可変減光フィルタの度合い、絞り、シャッター速度、フレームレート、及び、アナログゲインを含んでいる。例えば、パラメータ設定部33は、第1カメラ22及び第2カメラ23の露光量を、第1カメラ22のパラメータ22Gと、第2カメラ23のパラメータ23Gとでそれぞれ設定できる。また、第1カメラ22及び第2カメラ23に、車速に対応したシャッター速度を優先的に定める場合、可変減光フィルタの度合い、絞り、フレームレート、アナログゲインを調整することでカメラの露光量を調整する。
一般的に、露光量は、シャッター速度と絞りとの関係により定まるので、当該関係に基づいて、必要な露光量の得られる絞りが選択される。同様に、露光量は、シャッター速度とアナログゲインとの関係によっても定まるので、当該関係に基づいて、2つのカメラの露光量が適正になるアナログゲインを選択する。以上のことにより、露光量は、シャッター速度とアナログゲインと絞りとの関係によっても定まるので、当該関係に基づいて、2つのカメラの露光量が適正になるアナログゲインと絞りとを選択してもよい。
そして、パラメータ設定部33は、選択したシャッター速度とアナログゲインと絞りとフレームレートとをそれぞれ第1カメラ22のパラメータ22G及び第2カメラ23のパラメータ23Gに設定する。単画像車速算出部321による速度計測を行う場合、パラメータ設定部33は、モーションブラーの大きさを大きくするとき、露光時間を相対的に長くする。また、パラメータ設定部33は、車両10の速度が高くなることに比例して露光時間を相対的に短くする。なお、複画像車速算出部322により車速を計測するために略静止画を撮影するときのシャッター速度に比べて、単画像車速算出部321により車速を計測するためのモーションブラーを含む画像を撮影するときのシャッター速度は低速にしなければならない。単画像車速算出部321によれば、シャッター速度が高速である高価なカメラに比べて、シャッター速度が相対的に低速な汎用的で安価なカメラを利用しても画像車速を計測できる。
よって、ステレオカメラ21は、パラメータ22G,23Gに設定された撮影条件に基づいて第1カメラ22で第1カメラ画像を、第2カメラ23で第2カメラ画像をそれぞれ撮影する。なお、以下では、第1カメラ22で撮影した第1カメラ画像に基づいて車速を算出する場合について示し、第2カメラ23で撮影した第2カメラ画像に基づいて車速を算出する場合についての例示は割愛する。
図4(a),(b)を参照して、撮影条件が所定のシャッター速度に設定された第1カメラ22によって撮影された路面100について説明する。ここでは、路面100の輝度に対して第1カメラ22の露光量は適正であるものとする。
図4(a)は、車両10が停止中(相対速度ベクトルの大きさが0)のとき第1カメラ22によって撮影された路面100の画像である第1カメラ画像P11を示している。図4(b)は、車両10が走行中(相対速度ベクトルの大きさが0ではない)のとき第1カメラ22によって撮影された路面100の画像である第1カメラ画像P12を示す。以下では、相対速度ベクトルを速度ベクトルと記す。停止中の第1カメラ画像P11は、路面100の画像にモーションブラーは生じておらず、走行中の第1カメラ画像P12は、路面100の画像にモーションブラーが生じている。そして、停止中の第1カメラ画像P11や、走行中の第1カメラ画像P12のモーションブラーの大きさが2次元FFT処理で算出される。
図5を参照して、第1カメラ画像に対する2次元FFT処理について説明する。
時間領域の画像データを周波数領域で表現するには、離散的フーリエ変換(DFT:Discrete Fourier Transform)、あるいは高速フーリエ変換(FFT:Fast Fourier Transform)を用いて演算することになる。2次元データに対するFFTは、いわゆる2次元FFT処理であって、2次元信号を、(x,y)空間から(u,v)空間へ変換するアルゴリズムで、式(2)で表される。
画像は2次元信号であることから、周波数領域で考えたとき、水平方向と垂直方向の2つの周波数成分を有する。そこで、画像にFFT処理を行うには、1次元FFTを横方向に行い、次に、1次元FFTを縦方向に行う、つまり、2次元FFT処理を行う。これにより、水平周波数をu、垂直周波数をvとして、図5(a)に示す2次元FFT処理を行う前の画像から、図5(c)のような空間周波数スペクトルを得ることができる。このとき、もとの2次元信号には、いわゆる窓関数を掛けることでギブズ現象の影響を抑制してもよい。
詳述すると、図5(a)に示す2次元FFT処理を行う前の画像に2次元FFT処理を行うと、まず、図5(b)に示すような空間周波数スペクトルを得ることができる。また、画像においては、図5(b)を4つの領域「A」,「B」,「C」,「D」に分割し、図5(c)のように4つの領域を再統合することで、空間周波数スペクトルの中心付近が低周波成分、中心から離れるに従って高周波成分となるスペクトルが得られる。この再統合は、周波数領域でのフィルタ処理を行う際に便利である(ハイパスやローパスフィルタをDC成分中心の円形で表現できる)からであり、また、分散共分散行列を用いた処理にも役に立つ。こうして再統合された空間周波数スペクトルは、大まかな模様の画像や濃淡の変化が緩やかな画像については、高い空間周波数成分が減り、逆に、細かい模様の多い画像や濃淡の変化が急な画像については、高い空間周波数成分が増える。
図6(a)に示すように、停止時の路面100の第1カメラ画像P11(図4(a)参照)に対する2次元FFT処理の結果は、空間周波数スペクトルの中心から等方的に広がる(等高断面が円形状をなす)スペクトルとなる。詳述すると、路面100のアスファルトの粒度はu、v軸に関して略sinc関数に沿う分布であることが期待される。これにより、アスファルトの画像のスペクトルは等方的な分布となり、2次元スペクトルに対し一定強度を超える点群を包含する形状は、進行方向に対する直径L1と、進行方向に直交する方向に対する直径W1とが略等しくなる。ここで、基になる点群は、いわゆるメインローブの分布形状のみを得る必要があるため、DC成分に対して小さすぎない強度(1/2程度)によって抽出する。そして、2次元スペクトルに対し一定強度を超える点群を包含する形状とは、周波数成分の分布から一定強度を超える点群を抽出し、この点群の集まりを領域抽出して得られる領域であって、換言すると、2次元スペクトルから得られた一定強度を超える点群の集まる抽出領域である。
図6(b)に示す、走行時の路面100の第1カメラ画像P12(図4(b)参照)に対する2次元FFT処理の結果は、空間周波数スペクトルの一定強度を超える点群が中心付近に楕円状に集まるスペクトルとなる。楕円形は、進行方向に短径L2、直交方向に長径W2を有する。詳述すると、路面100のアスファルトの粒度はu、v軸に関して略sinc関数に沿う分布であるが、進行方向にモーションブラーの掛かったアスファルト画像のスペクトルは、進行方向の低周波数成分の分布領域の短径L2が、直交方向の周波数成分の分布領域の長径W2に比べて短くなる。
実走行時のアスファルトの模様を2次元FFT処理し、一定強度を超える点群を得た結果は、楕円状に分布することが期待される。その楕円形の長径及び短径は、以下の手順1~5で得られる。
手順1:2次元周波数スペクトルを閾値で2値化
手順2:点群に対して2×2の分散共分散行列Σを計算
手順3:分散共分散行列Σの固有値を算出
手順4:2つの固有値から長径と短径の大きさを算出
手順5:短径に対応する固有値から分散共分散行列Σの固有ベクトルを算出
あるいは、楕円形の長径及び短径は、手順1~5に代えて以下の代替手段で得られる。
代替手段:2次元周波数スペクトルをある閾値で2値化した分布領域に対して、外接する楕円形でフィッティングし、フィッティングした楕円形の長径及び短径を取得
なお、手順1では、3次元情報となる2次元FFTの結果を、2次元点群情報へ変換することで楕円形状を取得しやすいようにしている。手順4では、例えば、固有値の逆数の平方根を2倍して長径と短径の大きさを得るようにしてもよい。
得られた長径の逆数と短径の逆数との「差」を算出し、算出した「差」に対して、二値化した閾値に応じたスケール係数と画素当たりの実距離に換算する係数とをかけることで、変位を得ることができる。より具体的には、予め用意したテーブルや式から2次元スペクトルを二値化した閾値に応じたスケール係数と、第1カメラ22から路面100までの距離に応じて変化する画素当たりの長さ換算値s[mm/画素]とをかけた値が、合成換算係数として取得される。つまり、速度ベクトルは、大きさを単位時間あたりの変位、向きを短径に対応する固有ベクトルの方向として得ることができる。なお、第1カメラ22の光軸と路面100とが直交せず、傾いている場合、2次元周波数スペクトルの一定強度を超える点群を包含する分布が円形から楕円形に変形する。そこで、計測開始前に、2次元周波数スペクトルの一定強度を超える点群を包含する分布が円形からどれだけずれているか取得して補正量を算出し、この算出した補正量で、その後、周波数成分の分布形状を補正してもよい。
(車速計測の動作)
図7を参照して、状態計測装置1における車速計測の動作について説明する。状態計測装置1は、車速の計測を、車両10のエンジンが始動されたことや、状態計測装置1のスタートボタンが押されたこと等で計測可能になると開始し、状態計測装置1のストップボタンが押されたことや、車両10のエンジンが停止されたこと等、計測不可能な状態になることで終了する。ここでは、説明の便宜上、車載制御装置25は、単画像車速算出部321の計測した「画像車速」のみを選択するものとする。車載制御装置25は、単画像車速算出部321で「画像車速」を一定周期で算出するとともに、算出された「画像車速」は常に取得可能であるものとする。よって、複画像車速算出部322が計測する「画像車速」、及び、「GPS車速」についての説明は割愛する。
車速の計測が開始されると、状態計測装置1は、ステレオカメラ21の第1カメラ22で撮影した第1カメラ画像P11及び第2カメラ23で撮影した第2カメラ画像を取得する(ステップS10)。第1カメラ22及び第2カメラ23はそれぞれ、路面100に適切な大きさのモーションブラーが生じるように設定された所定の露光時間で第1カメラ画像及び第2カメラ画像を撮影する。状態計測装置1は、撮影した第1カメラ画像P11及び第2カメラ画像をステレオカメラ21から信号処理部30に入力し、同じ撮影タイミングで撮影された画像であることが識別可能な状態で記憶部34に記憶する。
画像車速算出部32は、単画像車速算出部321で速度計測を行うため、第1カメラ画像P11や第2カメラ画像について前処理を行う(ステップS13)。前処理は、各カメラ画像を2次元FFT処理に適した状態にする処理であり、例えば、ゲイン調整、歪み補正、ビニング、及び、2のべき乗サイズへのトリミング等の処理である。画素数が2のべき乗であるカメラ画像は2次元FFT処理を効率よく演算できる。
また、状態計測装置1の画像車速算出部32は、入力された第1カメラ画像P11及び第2カメラ画像から、ステレオカメラ21と路面100との間の距離を算出する(ステップS11)。
また、画像車速算出部32は、第1カメラ画像P11と第2カメラ画像とのうちから車速計測に利用するカメラ画像として第1カメラ画像P11を選択する(ステップS12)。このとき、第1カメラ画像P11と第2カメラ画像とのうちから、コントラストの弱い等の所定の条件で一方の画像が選択されるようにしてもよい。ここで、第1カメラ画像P11が選択される。
画像車速算出部32は、前処理された第1カメラ画像P11について、単画像車速算出部321で2次元FFT処理を行う(ステップS14)。
画像車速算出部32は、2次元FFT処理して得られた第1カメラ画像P11の空間周波数スペクトルについて楕円形状決定を行う(ステップS15)。楕円形状決定には、分散共分散行列の主軸問題を解く処理が含まれ、低周波数成分の点群分布領域を楕円形とみなしたときの長径と短径、及び短径の方向が得られる。
画像車速算出部32は、楕円形状決定で得られた楕円形の長径と短径、及び短径の方向に基づいて速度ベクトルを算出する(ステップS16)。例えば、長径の逆数と短径の逆数との「差」(画素数)に対して、二値化した閾値に応じたスケール係数と、実距離に変換する係数[mm/画素]との積を求め、さらに、露光時間との商から車速を算出する。
続いて、車載制御装置25は車速計測の終了条件が成立しているか否かを判定する(ステップS17)。車速計測の終了条件は、状態計測装置1のストップボタンが押されたこと、車両10のエンジンが停止されたこと等に基づいて判定される。車速計測の終了条件が成立しないと判定された場合(ステップS17でNO)、車載制御装置25は、状態計測装置1の処理をステップS10に戻して、ステップS10に続く車速計測の処理を実行する。一方、車速計測終了の条件が成立すると判定された場合(ステップS17でYES)、状態計測装置1の車速計測の処理が終了される。
以上説明したように、本実施形態によれば、以下に記載する効果が得られる。
(1)所定の撮影タイミングで路面100を撮影した1つの第1カメラ画像に生じるモーションブラーに基づいて車両10の路面100に対する相対速度ベクトルを計測できる。1つの第1カメラ画像から相対速度ベクトルを計測できることから、撮影タイミングの相違する複数の第1カメラ画像を要する場合に比べて、撮影の制約が少なくなり撮影が容易になる。つまり、構造が簡単である安価なカメラで実現可能な撮影条件での計測上限の拡張が可能になる。
また、1つの第1カメラ画像全体に現れる現象から車速の速度ベクトルの計測を行うので、複数の第1カメラ画像から車速の速度ベクトル計測を行う場合に比べて、路面上に現れるアスファルト以外の物体に影響されにくい。
(2)2次元FFT処理により得られる2次元空間周波数成分の分布に基づいてモーションブラーの方向と大きさとが得られる。具体的には、アスファルトのように等方的な周波数成分の分布に対して一定強度を超える点群を包含する形状の低周波数側への圧縮方向と幅とに基づいて、モーションブラーの方向と大きさとから速度ベクトルが求められる。そして、モーションブラーの方向と大きさとから移動方向と車速とが求められる。
(3)速度に起因するモーションブラーによって速度方向に沿う空間周波数スペクトルは低周波数側にシフトする。このため、2次元FFT処理から得られる周波数成分の分布から得られた一定強度を超える点群の集まりが抽出された抽出領域について、抽出領域の最小幅をとる方向を移動方向として取得することができる。また、抽出領域の移動方向に対する長さの逆数と直交方向に対する長さの逆数との差に基づいて、モーションブラーの方向と大きさとが求められる。そして、モーションブラーの方向と大きさから速度ベクトルを算出できる。
(4)モーションブラーの方向と大きさとを、周波数成分を低周波数成分としたときの抽出領域にフィッティングされた楕円から算出できる。
(5)速度と移動方向が、低周波数成分の抽出領域にフィッティングされた楕円に基づいて算出される。
(6)画素数が2のべき乗である対向面画像によって2次元FFT処理を効率よく演算できる。
(7)車両10と路面100との間の距離を計測するので、モーションブラーが示す変位量に対応する、画素当たりの長さ換算値s[mm/画素]が得られる。
(8)ステレオカメラ等の単眼カメラ以外のカメラを対向面撮影部として利用でき、ステレオカメラから得られる対向面までの距離を用いて、画素あたりの長さ換算値sの算出に利用することができる。
(第2の実施形態)
以下、図8及び図9を参照して、状態計測装置の第2の実施形態について説明する。この実施形態の状態計測装置は、低周波数成分の分布領域をフィッティングした楕円形の長径及び短径の「比」に基づいてシャッター速度を設定する機能を有する点が上記第1の実施形態と相違する。以下、第1の実施形態との相違点を中心に説明する。また、説明の便宜上、同様の構成については同じ符号を付し、説明を割愛する。
第1カメラ22のシャッター速度が一定の速さ(所定の露光時間)の状態で、車両10の速度が低くなると路面100のモーションブラーは小さくなり、逆に、車両10の速度が高くなると路面100のモーションブラーは大きくなる。所定の露光時間において、路面100のアスファルトの模様がほとんど移動しないとき、長径と短径との「比」が1に漸近するので、2次元FFT処理による車速測定の精度(分解能)が低下する。また、例えば、所定の露光時間において、路面100のアスファルトの模様のモーションブラーが、2次元FFT処理に利用される第1カメラ画像の範囲を超える場合、適切なモーションブラーの大きさが得られないために車速の計測精度が第1カメラ画像の範囲を超えるモーションブラーの割合増加に応じて低下する。
速度が高くなると、アスファルト面の画像のスペクトルは、進行方向の低周波数成分の点群分布領域の短径L3が小さくなり、進行方向に直交する直交方向の低周波数成分の分布領域の長径W3との「比」が大きくなる。一方で、長径及び短径の「比」が大きくなると、モーションブラーの全長をカメラ画像内に捉えられる割合が減るため、速度の算出において精度が低下する。
そこで、図8(a)に示すように、本実施形態の調整部としてのパラメータ設定部33(図1参照)は、進行方向における楕円形の短径L3と長径W3との比が、所定の下限値未満となると、シャッター速度を速くし、モーションブラーを小さくする。これにより、図8(b)に示すように、楕円形の短径L4と長径W3との比が「1」に近くなる。これによって、速度変化に対する短径の計測精度は、低下が抑制される。例えば、楕円の短径が長径の1/3になったら、楕円の短径が長径の2/3に戻るように露光時間(シャッター速度)を調整する。
逆に、図8(b)に示すように、パラメータ設定部33(図1参照)は、進行方向における楕円形の短径L4と長径W4との比のように、所定の上限値より大きくなることに応じて、シャッター速度を遅くし、モーションブラーを大きくする。これにより、図8(a)に示すように、楕円形の短径L3と長径W3との比が大きくなる。これにより、速度の算出において精度が維持、又は、低下が抑制される。
つまり、楕円形の短径L3と長径W3との間の比が所定の上限値と所定の下限値との間である所定の範囲を大きい方向又は小さい方向に超えると露光時間が調節される。
(車速計測の動作)
図9を参照して、状態計測装置1における車速計測の動作について説明する。
車速の計測が開始されると、状態計測装置1は、第1カメラ22で撮影した第1カメラ画像P11及び第2カメラ23で撮影した第2カメラ画像を取得し(ステップS10)、取得画像から選択した第1カメラ画像P11について前処理を行う(ステップS13)。
画像車速算出部32は、前処理した第1カメラ画像P11について、単画像車速算出部321で2次元FFT処理を行い(ステップS14)、2次元FFT処理して得られた第1カメラ画像P11の空間周波数スペクトルについて楕円形状決定を行う(ステップS15)。楕円形状決定により、低周波数成分の分布領域をフィッティングさせた楕円形の長径及び短径を得る。そして、画像車速算出部32は、楕円形状決定で得られた楕円形の長径及び短径に基づいて速度ベクトルを算出する(ステップS16)。
また、画像車速算出部32のパラメータ設定部33は、長径と短径との比に基づいて、シャッター速度を調整する。また、調整したシャッター速度を優先にその他の撮影条件も調整するカメラパラメータの制御(ステップS18)を行う。カメラパラメータの制御は、シャッター速度、可変減光フィルタの度合い、絞り、フレームレート、アナログゲインの制御を含んでいる。カメラパラメータは、第1カメラ22及び第2カメラ23のパラメータ22G,23Gにそれぞれ設定され、次回、又は、調整の間に合う撮影に反映される。
続いて、車載制御装置25は車速計測の終了条件が成立しているか否かを判定し(ステップS17)、車速計測の終了条件が不成立と判定された場合(ステップS17でNO)、車速を計測する処理を実行する一方、車速計測の終了条件が成立と判定された場合(ステップS17でYES)、車速を計測する処理が終了される。
以上説明したように、本実施形態によれば、第1の実施形態の(1)~(8)に記載の効果に加え、以下に記載の効果を奏することができる。
(9)モーションブラーが大きくなったとき、パラメータ設定部33によってモーションブラーが小さくなるように露光時間が調整され、2次元FFT処理によって検知できる範囲にモーションブラーの大きさが抑えられる。逆に、モーションブラーが小さくなったとき、パラメータ設定部33によってモーションブラーが大きくなるように露光時間が調整され、周波数成分の分布において一定強度を超える点群楕円領域の短径と長径との比が適切な大きさに調整される。これらのことから、モーションブラーの大小が大きく変化したとしても、速度の計測精度の低下が抑制されるとともに、計測速度限界を適切に制御することができる。
(第3の実施形態)
状態計測装置の第3の実施形態について説明する。この実施形態の状態計測装置は、撮影条件が相違する第1カメラ画像P11と、第2カメラ画像とに基づいて速度を測定する点が上記第1の実施形態と相違する。
ここで、撮影条件のうち、撮影開始タイミングは同時であり、シャッター速度が第1カメラ画像P11では、例えば「1ms」、第2カメラ画像では、例えば「2ms」であるものとする。つまり、露光時間は、第1カメラ22の撮影タイミングが第2カメラ23の撮影タイミングに含まれることを条件としている。こうした条件であるため、撮影される第1カメラ画像と、第2カメラ画像との同一性が高まるので、2つのカメラ画像の撮影する対向面の模様に対する考慮をしなくても、2つのカメラ画像に基づいて比較可能なモーションブラーを取得することができる。
まず、単画像車速算出部321は、第1カメラ22で撮影した1枚の第1カメラ画像P11を取得し、第1カメラ画像P11に含まれる路面100の模様の有するモーションブラーの大きさを2次元FFT処理により取得する。
また、単画像車速算出部321は、第2カメラ23で撮影した1枚の第2カメラ画像を取得し、第2カメラ画像に含まれる路面100の模様の有するモーションブラーの大きさを2次元FFT処理により取得する。
このとき、第1カメラ画像P11に基づくモーションブラーと、第2カメラ画像に基づくモーションブラーとは、同じ領域を含んでいる画像であるため、通常、周波数成分の分布において一定強度を超える点群楕円領域の長径にはほとんど違いは生じない。
一方、楕円領域の短径は、(x、y)空間の周波数成分の分布が等方的でなくても、例えば白線などが写っていても、短径同士を比較すれば、シャッター速度「0ms」(つまり、速度ゼロのとき)の短径である静止時短径を推定することができる。
例えば、静止時短径方向が速度ベクトル方向と一致している単純なケースにおいて、第1カメラ画像P11に基づくモーションブラーは、短径が「12ピクセル」、長径が「13ピクセル」であり、第2カメラ画像に基づくモーションブラーは、短径が「10ピクセル」、長径が「13ピクセル」であるとするとき、静止時短径は式(3)で求められる。
静止時短径=12[ピクセル]+(0[ms]-1[ms])・(12[ピクセル]-10[ピクセル])/(1[ms]-2[ms])=14[ピクセル]…(3)
モーションブラーから速度を求める基本原理は、周波数成分の分布において一定強度を超える点群楕円領域の「長径の逆数-短径の逆数」をピクセル値に変換して得ることである。そこで、上述のようにゼロ速度の特性がわかっているのであれば、「短径(2msのとき)の逆数-短径(0msのとき)の逆数」で算出した値に、二値化した閾値に応じたスケール係数をかけたピクセル値に基づいて速度を算出することができる。
以上説明したように、本実施形態によれば、第1及び第2の実施形態の(1)~(9)に記載の効果に加え、以下に記載の効果を奏することができる。
(10)同じタイミングで撮影を開始した第1カメラ画像P11と第2カメラ画像とに基づいて速度を算出するので、路面模様に特別な特性(例えば、白線)があったとしても特別な特性も相殺されるので速度を適切に求めることができる。
(その他の実施形態)
なお上記実施形態は、以下の態様で実施することもできる。
・車載制御装置25は、信号処理部30や、切替部35や、出力部40の処理を実行するプログラムを有するパーソナルコンピュータ(PC)等であってもよい。
また、一旦、記憶部34に記憶したカメラ画像に基づいて事後に車速を計測してもよい。
・上記各実施形態では、第1カメラ22及び第2カメラ23が記憶部にパラメータ22G,23Gを保持している場合を示した。これに限らず、車載制御装置からの信号操作が可能ならば、カメラにパラメータを保持する記憶部が備えられていなくてもよい。この場合、パラメータは車載制御装置に保持される。
・上記各実施形態では、車載制御装置25の信号処理部30にパラメータ設定部33を設ける場合を示した。これに限らず、各カメラに適切なパラメータを予め設定できれば、車載制御装置の信号処理部にパラメータ設定部を設けなくてもよい。
一例として、第1カメラ22のパラメータ22Gと、第2カメラ23のパラメータ23Gとのパラメータを予め適切な値に設定できればよい。例えば、テストコース走行など、予め路面100のテクスチャとその変動とが分かっているとき、パラメータに予め適切な値を設定し、パラメータ設定部33により設定しなくてもよい。これにより、状態測定装置におけるパラメータに係る処理を軽減できる。
・信号処理部30は、GPS車速算出部31を外部装置として有し、外部装置で計測した車速等を取得してもよい。例えば、外部装置としては、LC-8300(小型高感度速度計、株式会社小野測器社製)等が挙げられる。これにより、画像車速(路面相対速度)とGPS車速(水平速度)とを利用し勾配を算出できる。
・上記各実施形態では、状態計測装置1は、GPS車速算出部31と画像車速算出部32とを備える場合を示した。これに限らず、状態計測装置は、GPS車速算出部を備えていなくてもよい。
・上記各実施形態では、所定の切替速度までは複画像車速算出部322による画像車速の計測を行い、所定の切替速度を超えると単画像車速算出部321による画像車速の計測を行う場合を示した。これに限らず、複画像車速算出部による画像車速の計測を行わず、単画像車速算出部による画像車速の計測のみを行ってもよい。
・上記各実施形態では、ステレオカメラ21の第1カメラ22と第2カメラ23とのそれぞれの撮影条件が同一である場合を示した。これに限らず、第1カメラと第2カメラとのそれぞれの撮影条件を相違させてもよい。そして、2つのカメラがそれぞれ相違する撮影条件で撮影した複数の画像から、速度計測に適した画像を選択して車速を計測してもよい。これにより、環境変化に対する耐性を高めることができる、あるいは、より高い精度で速度ベクトルの計測が行えるようになる。
・上記各実施形態では、単画像車速算出部321の使用する第1カメラ画像がステレオカメラ21の第1カメラ22によって撮影される場合を示した。これに限らず、モーションブラーを有する画像を撮影できれば、カメラは単眼カメラであってもよい。
・上記第1の実施形態では、ステレオカメラ21と路面100との距離(高さ)を算出する場合を示した。これに限らず、ステレオカメラを用いて路面との距離を計測しなくてもよい。車両は走行に応じてステレオカメラと路面との距離に変動が生じるものの、その変動幅が少ないのであれば誤差も少なく抑えられるので、予め設定した距離に基づいて車速を計測してもよい。
また、上記第1の実施形態では、第1カメラ画像と第2カメラ画像との撮影条件が同じであれば、車速の計測に用いる画像を、予め第1カメラ画像及び第2カメラ画像の一方に定めてもよい。
例えば、図10に示すように、車速の計測が開始されると、状態計測装置1は、第1カメラ22で撮影した第1カメラ画像P11及び第2カメラ23で撮影した第2カメラ画像を取得し(図10のステップS10)、予め定められた一方の第1カメラ画像についてのみ前処理を行う(図10のステップS13)ようにしてもよい。すなわち、固定距離に基づいて処理する場合や他の装置から距離を取得する場合、図7に示す、ステレオカメラ21と路面100との間の距離を算出する(図7のステップS11)ことと、第1カメラ画像P11及び第2カメラ画像から車速計測に利用するカメラ画像を選択する(図7のステップS12)こととを行わなくてもよい。
・上記第1の実施形態では、画像取得(図7のステップS10)の後に距離算出(図7のステップS11)を行う場合を示した。これに限らず、距離を算出してから、画像を取得してもよい。
例えば、図11に示すように、まず、ステレオカメラ21で距離を算出し、その後、車速計測用のカメラ画像をステレオカメラ21で取得してもよい。または、車載制御装置25が、距離を算出し、その後、車速計測用のカメラ画像をステレオカメラ21から取得してもよい。
・上記各実施形態では、ステレオカメラ21の光軸が路面100に対して略垂直である場合を示した。これに限らず、ステレオカメラは、路面の模様を解析可能な程度に撮影できれば、光軸が路面に対して略垂直ではなくてもよい。例えば、路面に対するカメラの光軸が、車両の前後方向に傾きを有していたり、車両の幅方向に傾きを有していてもよい。こうした傾きによる影響は、傾きを考慮した演算処理等により適切に処理可能であり、傾きを補正する演算により垂直である場合と同様に処理できる。なお、画像車速の計測には、路面100に対する傾きが垂直(90°)に近いほうが非常に好ましいが、45°以上であれば計測可能である。
例えば、図7のステップS11では、ステレオカメラ21と路面100との間の距離を算出するとき、ステレオカメラ21から路面100までの距離マップを取得して路面100に対する傾斜量を算出し、この傾斜量を補正するための射影変換をカメラ画像に行うようにするとよい。
例えば、図12には、バックモニタ用のカメラ21Cを画像車速の計測に使用する一例が記載されている。バックモニタ用のカメラ21Cは、車両10後方の駐車区画を認識できる。また、障害物等を認識できるように撮影可能範囲が広角である。そして、カメラ21Cが撮影した画像のうち、路面100が鮮明に撮影されている範囲を取得することで、カメラ21Cの高さ、及び、画像車速を計測できる。
・ステレオカメラ21は、車両10の後部に設置される場合に限られず、路面100の撮影が可能ならば車両10の前方、車両10の側方、車両10の底面の少なくとも1か所に設けられていてもよい。
例えば、図13(a)及び(b)に示すように、ステレオカメラ21Aを車両10の底面に取り付けてもよい。一般に、カメラは周囲の明るさの変化が急激であると、露光量の調整が終わるまで適切な明度の画像を撮影できない。この点、車両10の底面は、車両10に覆われていることから相対的には暗いものの、特に照明を装置の一部に持つ場合は環境光の変化が相対的に小さく、露光量の調整も少なくて済むため、走行環境によらず画像を適切な明るさで撮影する可能性が高められる。
・上記各実施形態では、ステレオカメラ21の2つのカメラは車幅方向にカメラ間隔を空けて配置される場合を示したが、これに限らず、カメラの路面からの距離を計測できれば、カメラが車長方向など、車幅方向以外にカメラ間隔を空けて配置されてもよい。
例えば、図14(a)及び(b)に示すように、ステレオカメラ21Bを構成する2台のカメラを車両10の底面において車長方向にカメラ間隔を空けて取り付けてもよい。この場合も、三角測量の原理に基づいて路面に対するステレオカメラ21Bの高さを計測できる。
・ステレオカメラ21は、第1カメラ22及び第2カメラ23の光軸が平行である場合に限らず、2つのカメラの間の相対角度及びカメラ間隔等の相対関係が明確であれば、第1カメラ22及び第2カメラ23の光軸が平行ではなくてもよい。
・ステレオカメラ21は、第1カメラ22及び第2カメラ23の2つのカメラを有する場合に限られず、3つ以上のカメラを有し、3つ以上のカメラのなかから選択される2つであってもよい。
・上記各実施形態では、ステレオカメラ21は、パッシブ型である場合を示した。これに限らず、ステレオカメラは、レーザ発振器から照射したレーザ光をカメラで受光し、この受光したレーザ光の変位に基づいて計測するアクティブ型であってもよい。
・上記各実施形態では、路面100からの高さ(距離)がステレオカメラ21で計測される場合を示した。これに限らず、ステレオカメラの第1カメラ画像と第2カメラ画像とを得た車載制御装置の信号処理部で撮影範囲に対応する距離を計測してもよい。
・上記各実施形態では、ステレオカメラ21で路面100との距離(高さ)を計測する場合を示した。これに限らず、距離(高さ)は光学式の距離計、レーザ式の距離計、超音波式の距離計等で計測してもよい。
・上記各実施形態では、第1カメラ22及び第2カメラ23のレンズ中心から路面100までの距離を逐次算出する場合を示した。これに限らず、路面からステレオカメラまでの高さ(レンズ中心から測定対象までの距離)の変動が小さければ、1画素に対応する実際の長さを予め設定した長さとしてもよい。車両の振動が小さければ、あらかじめ設定された1画素の長さを利用しても、一定の精度で車速を計測できる。
・上記各実施形態では、第1カメラ画像を2次元FFT処理する場合を示した。このとき、画像車速算出部は、第1カメラ画像の全体を2次元FFT処理する第1のモードと、第1カメラ画像の一部を2次元FFT処理する第2のモードとを備えてもよい。そして、画像車速算出部は、所定の条件に応じて第1のモードと第2のモードとを切り替えてもよい。つまり、第1のモードと第2のモードとが選択可能になる。例えば、高い精度が必要なとき第1のモードを選択し、演算負荷を軽減したいとき第2のモードを選択できる。また、2次元FFT処理に不適当な像(グレーチング等)の映り込みの領域を避けたり、影響の程度の低いモードによる処理を選択したりすることで高い精度を維持できる。
すなわち、2次元FFT処理するにあたり、第1カメラ画像を適切な画素数、かつ、演算負荷に収まる大きさにトリミング、もしくはビニングしてもよい。
・上記第1の実施形態等に対して、シャッター速度を設定する機能を設けてもよい。これにより、単画像車速算出部321が画像速度を計測することのできる速度範囲の拡大が図られるとともに、低周波数成分のある閾値を超える点群が分布する楕円形の領域の長径の逆数と短径の逆数との差の分解能が高まり、速度を高い精度で計測できる。
・上記各実施形態では、路面100の撮影画像のモーションブラーの大きさに基づいて車速が算出される場合を示したが、これに限らず、路面100の撮影画像モーションブラーの流れる向きに基づいて旋回等を計測してもよい。また、第1カメラ画像や第2カメラ画像における車両の直進方向の向きは予め分かっているので、複数の観測位置の直交方向の位置の変化量によって車両の旋回を計測することもできる。
・上記各実施形態では、状態計測装置1は、車速を計測する場合を示したが、これに限らず、状態計測装置1は、車速に基づいて計測できる走行位置や加速度を計測してもよい。
・上記各実施形態では、進行方向に対するモーションブラーの大きさが、2次元FFT処理で算出される低周波数成分の点群分布領域の楕円形の短径及び長径に基づいて定まる場合を示した。これに限らず、モーションブラーの大きさが、その他の画像処理によって定められてもよい。アスファルトを略円形の粒とすれば、複数箇所に対する画像処理によって、モーションブラーの短尺と長尺とを得ることによって、モーションブラーの大きさを定められる。また、例えば、モーションブラーの大きさを、事前に、第1カメラ22が所定の速度で撮影した第1カメラ画像のモーションブラーの大きさと、速度計測用に撮影された第1カメラ画像との比較に基づいて求めてもよい。
・上記各実施形態では、状態計測装置1は、車両10の状態を計測する場合を示したが、これに限らず、状態計測装置1は、路面や床面等を移動する移動体の速度等の状態を計測してもよい。
上記実施形態及び変更例から把握できる技術的思想について記載する。
(イ)前記モーションブラーの大きさは、前記低周波数領域の周波数成分を二値化した点群分布に対する分散共分散行列の主成分分析により得られた直交する主成分から求められる請求項1に記載の状態計測装置。
このような構成によれば、移動方向へのモーションブラーの大きさを、周波数成分を二値化した分布の主成分を基として算出できる。なお、主成分分析により得られた固有値の平方根の逆数の2倍は、低周波数領域の周波数成分を二値化した点群分布が形成する楕円の短径と長径とに相当する。
これにより、周波数成分の2次元的なフィッティングにより主成分を取得できる。なお、主成分分析を用いる場合、その変換を実現する回転行列から移動方向を算出できる。
(ロ)前記計測部は、前記複数のカメラがそれぞれ相違する撮影条件で撮影した複数の対向面画像を有し、前記移動体の速度を、前記複数の対向画像がそれぞれ有しているモーションブラー毎の大きさの逆数の差と、前記撮影条件としての露光時間の差とに基づいて求められる請求項11に記載の状態計測装置。
このような構成によれば、2つ以上の露光時間により得られたモーションブラーのうち、一方を基準とみることで、路面模様の等方性に影響されることなく速度計測できる。つまり、複数のカメラでそれぞれ露光時間を変えた画像のモーションブラーから、対向画像の有する等方性の同一性等を前提条件として考慮しなくても速度、瞬間加速度等を求めることができる。
(ハ)前記計測部は、複数の異なる位置に対する前記モーションブラーの向きと大きさから算出した複数の前記移動体の速度に基づいて、前記移動体の平均速度、回転半径及び回転角速度のうちの少なくとも1つを計測する(ロ)に記載の状態計測装置。
このような構成によれば、1回の計測から得られる画像のうち異なる位置に対して算出した速度から、より精度の高い平均値を求めることができる。あるいは、複数の計測位置の距離と各々の速度から回転半径や回転角速度を算出できる。つまり、複数の移動体速度は、カメラの位置によってずれているので、移動体の平均速度、回転半径及び回転角速度のうちの少なくとも1つを計測できる。
(ニ)前記計測部は、前記複数のカメラがそれぞれ相違する撮影条件で撮影した複数の対向面画像のモーションブラーの大きさからそれぞれ算出した複数の前記移動体の速度に基づいて、前記移動体の平均速度、加速度、回転半径及び回転角加速度のうちの少なくとも1つを計測する請求項11に記載の状態計測装置。
このような構成によれば、3つ以上の露光時間から得られた時間的に異なる速度や回転角速度に基づいて、理想的に短い時間における角速度、角加速度等を計測できる。つまり、移動体の平均速度、加速度、回転半径及び回転角加速度のうちの少なくとも1つを計測できる。移動体で計測する複数の速度は、撮影タイミングがずれていてもよい。同じカメラで撮影タイミングだけずれた速度から加速度を算出することもできる。