(第1の実施の形態)
図1は、本発明の一実施形態による車載用周囲環境認識装置100の構成を示すブロック図である。図1に示す車載用周囲環境認識装置100は、車両に搭載されて使用されるものであり、カメラ1と、制御部2と、警報出力部3と、動作状態報知部4と、を備える。
カメラ1は、車両の後方に向けて設置されており、車両後方の路面を含む撮影領域内の画像を所定の時間間隔ごとに撮影する。このカメラ1には、たとえばCCDやCMOSなどの撮像素子が用いられる。カメラ1により取得された撮影画像は、カメラ1から制御部2へ出力される。
図2は、カメラ1の撮影領域を示す図であり、カメラ1を横方向から見た様子を示している。カメラ1は、この撮影領域において、車両後方の路面を含む画像を撮影する。ここで、カメラ1の撮影領域(画角)は、車両後方の路面を左右方向について十分に広い範囲で撮影できるように比較的広く設定されている。
図3は、カメラ1の取り付け位置の例を示す図である。自車両の後方部分において、車体20にはナンバープレート21が設置されている。このナンバープレート21の直上の位置に、斜め下に向けてカメラ1が取り付けられている。なお、ここで示した取り付け位置はあくまで一例であるため、他の位置にカメラ1を取り付けてもよい。サイドカメラやフロントカメラにおいても、本手法を利用しても良い。
制御部2は、カメラ1からの撮影画像を用いて所定の画像処理を行い、その処理結果に応じた各種制御を行う。この制御部2が行う制御により、車載用周囲環境認識装置100において、たとえば、レーン認識、他車両認識、歩行者検知、標識検知、巻き込み防止検知、駐車枠認識、移動体検知、と呼ばれる様々な機能が実現される。
警報出力部3は、警報ランプや警報ブザー等による警報を車両の運転者に対して出力するための部分である。この警報出力部3の動作は、制御部2によって制御される。たとえば、前述のレーン認識において自車両が走行中の車線から逸脱しそうと判断された場合や、他車両検知、歩行者検知、巻き込み防止、移動体検知などにおいて、自車両と衝突する可能性のある車両が検出された場合に、制御部2の制御に応じて警報出力部3から警報が出力される。
動作状態報知部4は、車載用周囲環境認識装置100の動作状態を車両の運転者に報知するための部分である。たとえば、所定の動作条件が満たされておらずに車載用周囲環境認識装置100が非動作状態にある場合、制御部2の制御により、動作状態報知部4として車両の運転席付近に設置されたランプを点灯させる。これにより、車載用周囲環境認識装置100が非動作状態であることを運転者に報知する。
次に、車載用周囲環境認識装置100において行われる路面映り込み時の警報抑制について説明する。前述の他車両認識部や歩行者検知部、移動体検知部などで物体を検出する際に、路面が濡れており反射係数が高い場合などでは、撮影画像の背景部分にある様々な背景物が、路面に形成された水膜等に映り込むことがある。このような場合、路面に映り込んだ背景物を認識対象物として誤検出してしまい、運転者に対する警報が誤ったタイミングで出力されてしまう場合がある。そこで、車載用周囲環境認識装置100では、こうした水膜等による路面への背景物の映り込みの有無を判定し、映り込みがあると判定した場合は警報の出力を抑制する。これにより、路面への背景物の映り込みが他車両として誤検出されることで警報が誤ったタイミングで出力されるのを防止する。
図4は、路面映り込み時の警報抑制に関する制御部2の制御ブロック図である。制御部2は、路面映り込み時の警報抑制に関して、領域設定部201、特徴量算出部202、映り込み判定部203、アプリ実行部204、警報制御部205および警報抑制調整部206の各制御ブロックを有する。制御部2では、たとえば、これらの各制御ブロックに対応するプログラムをマイクロコンピュータで実行することにより、図4の各制御ブロックを実現している。
領域設定部201は、カメラ1により取得された撮影画像に対して、背景部分に当たる背景領域と、この背景領域に対応する路面上の映り込み領域とを、左右にそれぞれ複数ずつ設定する。図7は、領域設定部201の機能ブロック例を示す図である。図7に示すように、領域設定部201は、たとえば、路面領域設定部201a、背景横位置設定部201b、反射背景領域設定部201c、および画像領域変換部201dからなる。
領域設定部201では、カメラ1により取得された撮影画像に対して、他車両認識に利用する隣接車線の路面領域を路面領域設定部201aにて設定する。図11は、三次元での路面領域および背景領域の設定を説明する図である。路面領域設定部201aでは、図11に示すように、隣接車線の車両を検知するために、自車両カメラ位置を中心に左右の処理領域110、111を設定し、車両検知の路面領域を更に分割した局所領域を複数ずつ設定する。この路面領域設定後に、自車両カメラ位置と、路面領域の三次元位置が既知であるため、入射角と反射角が等しい鏡面反射の性質を利用して、路面に映り込むであろう背景位置を、反射背景領域設定部201cにて特定する。ただし、自車両カメラから路面で鏡面反射したベクトル方向は算出可能であるが、これが自車両カメラからどの横位置の背景であるかは特定できない。すなわち、路面に映り込む背景が、すぐ近くの障害物なのか、20m離れた街灯なのかは、未知数である。このため、背景横位置設定部201bにおいて、横位置をある規定値を設けて設定することとする。映り込む背景がある程度絞り込めるような条件においては、この横位置を動的に指定することで、より高精度に水膜映り込みを判定しても良い。ただし、ある規定値を設けても処理領域の多少のずれであれば許容可能である。反射背景領域設定部201cでは、図11に示すように横位置112を決定し、ここに大きな壁113が立っていることを仮定し、先ほど求めた路面局所領域の各頂点での反射ベクトルを延長し、壁113とぶつかりあう三次元位置114を推定する。これにより、反射背景領域の推定計算を実施する。最後に、これまでの説明では、自車両を中心とした世界座標での推定計算であったため、画像領域変換部201dにおいて画像上でどの位置になるかをそれぞれの領域について実施する。
特徴量算出部202は、領域設定部201により設定された各背景領域および各映り込み領域について、これらの各領域内での画像の特徴を示す特徴量をそれぞれ算出する。図8は、特徴量算出部202の機能ブロック例を示す図である。図8に示すように、特徴量算出部202は、たとえば、路面エッジ角度ヒストグラム抽出部202a、白線エッジ角度推定部202b、背景エッジ角度ヒストグラム抽出部202c、背景路面エッジ角度相関性推定部202d、および背景路面立体物エッジ推定部202eからなる。
映り込み判定部203は、特徴量算出部202により算出された特徴量を基に、撮影画像のうち各背景領域内の画像と、撮影画像のうち各映り込み領域内の画像とを、対応するもの同士でそれぞれ比較する。この比較結果から、路面への背景物の映り込みの有無を判定し、映り込みありと判定した場合はその旨を警報制御部205へ通知する。図9は、映り込み判定部203の機能ブロック例を示す図である。図9に示すように、映り込み判定部203は、たとえば、エッジ強度解析部203a、白線エッジ抑制部203b、立体物エッジ強調部203c、局所領域別相関性解析部203d、および左右別相関性解析部203eからなる。
図10は、アプリ実行部204の機能ブロック例を示す図である。図10に示すように、アプリ実行部204は、たとえば、レーン認識部204a、他車両認識部204b、歩行者検知部204c、標識検知部204d、巻き込み防止認識部204e、駐車枠認識部204f、移動体検知部204gからなる。
レーン認識部204aは、カメラ1により取得された撮影画像に基づいて、自車両左右のレーンを認識する。撮像画像の中から、白線特徴量を抽出し、この白線特徴量が並ぶ直線を抽出し、最終的に画像上の線から世界座標における自車両と白線の相対位置、相対姿勢を算出し、車線外に逸脱しそうかどうかを判定する。車線逸脱すると予測した場合には、警報制御部205に対して警報出力の指示を行う。
他車両認識部204bは、カメラ1により取得された撮影画像に基づいて、自車両の左後方または右後方に存在する他車両を認識する。このときアプリ実行部204は、後で詳しく説明するような他車両認識処理を実行することにより、撮影画像中に設定された検出領域内の画像に基づく画像情報値を基に他車両を認識すると共に、自車両に対する認識した他車両の相対速度を検出する。この他車両の認識結果を基に、アプリ実行部204は、自車両と衝突する可能性がある他車両の有無を判断する。たとえば、自車両が車線変更を開始しようとしており、その車線変更方向に存在する他車両が自車両に接近しているような場合に、自車両と衝突する可能性があると判断し、警報制御部205に対して警報出力の指示を行う。
歩行者検知部204cは、カメラ1により取得された撮像画像に基づいて、撮像画像の中から歩行者を検知する。自車両進行方向で、衝突可能性がある歩行者について検知し、衝突の恐れがある場合に警報する。
標識検知部204dは、カメラ1により取得された撮像画像に基づいて、撮像画像中の中から標識を検知し、ユーザに音声やディスプレイ表示にて、標識の種類を伝える。
巻き込み防止認識部204eは、カメラ1により取得された撮像画像に基づいて、交差点を曲がる際に、巻き込む2輪車などが存在しないかを認識し、自車両に接触の恐れがある場合に、警報する。
駐車枠認識204fは、自動駐車や、駐車支援を目的として、駐車枠を認識し、駐車枠の位置、姿勢から、自車両を駐車するためのアシスト、もしくは制御を実施する。
移動体検知部204gは、カメラ1により取得された撮影画像に基づいて、低車速時における自車両周囲の移動体を認識する。撮像画像の中から、移動体を検出し移動方向と自車挙動に基づいて接触の可能性が高いと判定した場合には、警報制御部205に対して警報出力の指示を行う。
警報制御部205は、アプリ実行部204からの指示に応じて、警報出力部3へ警報出力信号を出力する。この警報出力信号の出力により、警報出力部3から運転者に対して警報が出力される。以上説明したようなアプリ実行部204および警報制御部205の動作により、車載用周囲環境認識装置100において障害物などの衝突の危険がある場合に警報が実現される。
なお、警報制御部205は、映り込み判定部203から映り込みありの通知を受けた場合、警報出力部3に対する警報出力信号の出力を停止する。このときアプリ実行部204から警報出力の指示が行われても、警報制御部205から警報出力部3に警報出力信号は出力されない。これにより、路面への背景物の映り込みがあるときには、警報出力部3による警報出力が抑制されるようにする。
警報抑制調整部206は、アプリ実行部204において他車両認識部204bにより検出した他車両の相対速度に基づいて、上記の警報制御部205が行う警報出力の抑制度合いを調整する。すなわち、他車両の相対速度が比較的小さい場合は、路面に映り込んだ背景物が他車両として誤認識される可能性が高いと考えられる。したがってこのような場合は、警報抑制調整部206により警報出力の抑制度合いを高めることで、背景物の映り込みによる誤警報をより一層発生しにくくする。なお、この警報抑制調整部206が行う警報出力の抑制度合いの具体的な調整方法については、後で説明する。
図5は、以上説明した路面映り込み時の警報抑制で実行される処理のフローチャートである。このフローチャートに示す処理は、アプリケーション(アプリ)の実行中に、制御部2において所定の処理周期ごとに行われる。
ステップS110において、制御部2は、カメラ1を用いて、車両の周囲の路面を含む所定の撮影領域内を撮影し、撮影画像を取得する。この撮影画像は、カメラ1から制御部2へ出力され、以降の処理において利用される。
ステップS120において、制御部2は、ステップS110で取得した撮影画像に、背景領域および映り込み領域を設定する。ここでは、後方車線検知、後側方車両認識、巻き込み防止認識に利用する例として、領域設定部201により、撮影画像内の所定部分に、背景領域および映り込み領域をそれぞれ複数ずつ設定する。その他に、歩行者検知、標識検知であればフロントカメラの利用を前提とする。レーン認識、他車両認識、移動体検知に関しては、フロントカメラや、サイドカメラ、リアカメラのどれを利用しても良い。巻き込み防止や、駐車枠認識はサイドカメラ、リアカメラのどちらを利用しても良い。どのカメラを利用しても基本的な手法や考え方に関しては、そのまま適用可能である。
図6は、撮影画像に設定される背景領域および映り込み領域の例を示す図である。図6に示す撮影画像30は、路面が撮影されている路面画像領域32と、背景画像領域33とに分けられている。ステップS120では、この撮影画像30に対して、図6に示すように、車両の右後方(リアカメラの場合)または左前方(フロントカメラの場合)に対応する位置に背景領域34a〜34fおよび映り込み領域35a〜35fを設定し、左後方(リアカメラの場合)または右前方(フロントカメラの場合)に対応する位置に背景領域36a〜36fおよび映り込み領域37a〜37fを設定する。路面領域設定部201aでは、このようにして、右または左の隣接車線の映り込み領域35a〜35fと、左または右の隣接車線の映り込み領域37a〜37fを設定する。また、反射背景領域設定部201cでは、右または左の背景領域34a〜34fと、右または左の背景領域36a〜36fを設定する。
背景領域34a〜34fおよび36a〜36fは、背景画像領域33内において、車両の走行に応じて生じる撮影画像30中での背景物の位置変化の方向に沿って、左右対称の位置にそれぞれ設定される。この背景領域34a〜34fおよび36a〜36fにそれぞれ対応して、路面画像領域32内に、映り込み領域35a〜35fおよび37a〜37fが設定される。たとえば、撮影画像30内で左右端側、すなわち実空間上では車両から最も近い側の位置に設定されている背景領域34a、36aは、映り込み領域35a、37aにそれぞれ対応している。また、撮影画像30内で中央寄り、すなわち実空間上では車両から最も遠い側の位置に設定されている背景領域34f、36fは、映り込み領域35f、37fにそれぞれ対応している。このようにして、映り込み領域35a〜35f、37a〜37fを路面画像領域32内にそれぞれ設定し、これらの各映り込み領域に対して背景物の映り込みが生じる背景画像領域33内の位置に、背景領域34a〜34f、36a〜36fをそれぞれ設定する。なお、撮影画像30において、映り込み領域35a〜35fおよび37a〜37fの設定位置は、アプリの検出を行う領域、たとえば他車両認識部204bが自車両の左後方または右後方に存在する他車両を認識する際に用いる検出領域に対応する位置とすることが好ましい。
ステップS130において、制御部2は、アプリ実行部204の他車両認識部204bにより、自車両の周囲を走行している他車両を認識するための他車両認識処理を行う。この他車両認識処理により、自車両の左後方または右後方に他車両が存在する場合はその他車両が認識されると共に、自車両に対するその他車両の相対速度が検出される。なお、ここで実行される他車両認識処理の具体的な内容については、後で詳しく説明する。
ステップS140において、制御部2は、ステップS130の他車両認識処理により自車両の左後方(右前方)または右後方(左前方)に存在する他車両が認識されたか否かを判定する。他車両が認識された場合はステップS150へ進み、認識されなかった場合はステップS170へ進む。
ステップS150において、制御部2は、ステップS130の他車両認識処理で検出された他車両の相対速度が所定範囲内、たとえば時速0〜10kmの範囲内であるか否かを判定する。他車両の相対速度がこの範囲内にある場合はステップS160へ進み、範囲外である場合はステップS170へ進む。
ステップS160において、制御部2は、警報抑制調整部206により、警報抑制度合いの調整を実行する。ここでは、後述のステップS180で路面への背景物の映り込みの有無を判定するための条件を緩和することで、映り込みありとの判定結果が得られやすいようにし、それに応じて行われる警報出力の抑制の時間的な度合い(頻度)を高める。これにより、他車両の相対速度が所定範囲内である場合は、そうでない場合と比べて警報抑制が行われやすくなるように、警報抑制の度合いを調整する。なお、背景物の映り込みの有無を判定するための条件を緩和する具体的な方法については、後で詳しく説明する。
ステップS170において、制御部2は、特徴量算出部202により、ステップS120で設定した背景領域34a〜34fおよび36a〜36fと、映り込み領域35a〜35fおよび37a〜37fとに対して、これらの各領域内での画像の特徴を表す特徴量をそれぞれ算出する。たとえば、背景領域34a〜34f、36a〜36fにそれぞれ対応する画像の各画素と、映り込み領域35a〜35f、37a〜37fにそれぞれ対応する画像の各画素とについて、その周囲の各画素の輝度に基づき、撮影画像30内でのエッジ角度をそれぞれ算出する。こうして算出された各画素のエッジ角度を領域ごとにヒストグラム化することで、各領域の画像のエッジ角度に応じた各領域の特徴量を算出することができる。なお、各領域での画像の特徴を適切に表すことができるものであれば、特徴量の算出方法はこれに限定されるものではない。
特徴量算出部202の詳細の処理を図8の機能ブロック図により説明する。まず、路面エッジ角度ヒストグラム抽出部202aにおいて、路面の局所領域毎に設定された映り込み領域35a〜35f、37a〜37fのそれぞれについて、輝度の勾配方向を示すベクトルの角度をエッジ角度として抽出する。ここでは、各映り込み領域内の各画素についてエッジ角度を抽出し、これを映り込み領域毎にヒストグラム化することにより、各映り込み領域内のエッジ角度の分布を調べる。このエッジ角度のヒストグラムには、路面の白線エッジ角度成分が含まれている可能性が比較的高い。しかし、後述のステップS180において背景領域と路面の映り込み領域の相関をとる場合には、白線は路面のみにあることが既知であるため、白線のエッジ角度成分は除いて相関をとった方が相関性の精度が上がる。このため、白線エッジ角度推定部202bにおいて、各映り込み領域における白線のエッジ角度を推定する。この推定結果は、後でステップS180の処理において背景領域と映り込み領域の相関をとる際に、映り込み領域に対する白線のエッジ角度成分の抑制に利用される。次に、背景エッジ角度ヒストグラム抽出部202cにおいて、背景の局所領域毎に設定された背景領域34a〜34f、36a〜36fにそれぞれについて、映り込み領域と同様にエッジ角度を抽出し、領域毎にヒストグラム化する。背景路面エッジ角度相関性推定部202dでは、互いに対応する背景領域と映り込み領域毎に、背景のエッジ角度と路面のエッジ角度の対応を推定する。ここでは、たとえば背景領域に角度45度のエッジがあった場合に、そのエッジが路面に映り込むと、対応する映り込み領域では、画像上何度のエッジ角度になるかという対応表を生成する。最後に、最も誤検知要因となりやすい立体物の背景と路面のエッジ角度についても、背景路面立体物エッジ推定部202eにおいて、上記の対応表とは別に、互いに対応する背景領域と映り込み領域毎に推定を行い、その推定結果を記録する。
ステップS180において、制御部2は、映り込み判定部203により、ステップS170で算出した各領域の特徴量に基づいて、路面への背景物の映り込みの有無を判定するための映り込み判定を行う。ここではまず、背景領域34a〜34f、36a〜36fに対してそれぞれ算出された特徴量と、映り込み領域35a〜35f、37a〜37fに対してそれぞれ算出された特徴量とを、対応するもの同士でそれぞれ比較する。たとえば、背景領域34aの特徴量と、これに対応する映り込み領域35aの特徴量とを比較し、背景領域36aの特徴量と、これに対応する映り込み領域37aの特徴量とを比較する。また、背景領域34fの特徴量と、これに対応する映り込み領域35fの特徴量とを比較し、背景領域36fの特徴量と、これに対応する映り込み領域37fの特徴量とを比較する。他の背景領域および映り込み領域についても同様に、対応するもの同士で特徴量をそれぞれ比較する。こうして各背景領域と各映り込み領域の特徴量をそれぞれ比較することにより、各背景領域内の画像と各映り込み領域内の画像とをそれぞれ比較し、その組み合わせごとに相関性を解析する。
映り込み判定部203の詳細な処理を図9の機能ブロック図により説明する。ここで、路面での映り込みを判定したい理由は、路面の反射で背景物の映り込みが生じた場合、これによる誤検知を抑制するためである。つまり、路面のエッジ強度が弱ければ、そもそもレーン認識、他車両認識、歩行者検知などで、誤検知は発生しない。また、背景のエッジ強度が低い場合は、そもそも背景に映り込むような物体が存在しない可能性が高く、したがって路面に映り込む物体が存在しない可能性が高い。このため、映り込み判定実施の前に、路面にも、背景にもそれなりのエッジ分布があることをエッジ強度解析部203aで解析する。次に、白線エッジ抑制部203bにて、ステップS170で推定した前述の白線エッジ角度を利用して、路面の映り込み領域のエッジ角度のヒストグラムの中から、白線エッジ角度近辺のヒストグラムの大きさを抑制する。例えば、白線エッジ角度を中心とした所定の角度範囲について、実際のヒストグラムの高さに0.3倍をかけて白線の影響を小さくする前処理を、背景との相関性をとる前に、白線エッジ抑制部203bにて実行する。これにより映り込み誤判定要因である白線の影響を軽減することができる。
次に、立体物エッジ強調部203cにて、エッジ角度ヒストグラムの中から、背景路面立体物エッジ推定部202eで推定した背景領域は立体物エッジ角度、路面映り込み領域は立体物映り込みエッジ角度について、ヒストグラムの対応する部分の高さを2倍にして強調する。これにより立体物のエッジ角度の相関性を見ることができるために、アプリの認識ロジックが誤検知しやすい立体物エッジの相関性を安定して得ることが可能となる。
次に、局所領域別相関性解析部203dでは、対応する路面映り込み領域と背景領域のエッジ角度ヒストグラムの相関性を解析する。
なお、上記のような特徴量の比較においては、映り込みによるエッジ角度の変化を考慮して、各領域の特徴量として算出した前述のエッジ角度のヒストグラム同士を比較することが好ましい。すなわち、各背景領域のエッジ角度のヒストグラムにおける配列位置が、各映り込み領域のエッジ角度のヒストグラムにおいてどの配列位置に対応するかを予め背景路面エッジ角度相関性推定部202dにおいて計算しておき、この計算結果を基に両ヒストグラムの比較を行う。このようにすれば、各背景領域の特徴量を表すエッジ角度のヒストグラムと、各映り込み領域の特徴量を表すエッジ角度のヒストグラムとを、映り込み状態を反映して正しく相関性を解析することができる。局所領域における相関性のチェックは、画面左側から、映り込み領域35aと背景領域34aの対応する処理領域同士で比較する。続けると、映り込み領域35bと背景領域34b、映り込み領域35cと背景領域34c、映り込み領域35dと背景領域34d、映り込み領域35eと背景領域34e、映り込み領域35fと背景領域34fで、それぞれ路面映り込みと対応する背景領域の特徴量に相関性があるかを解析する。同様に、画面右側も、映り込み領域37aと背景領域36a、映り込み領域37bと背景領域36b、映り込み領域37cと背景領域36c、映り込み領域37dと背景領域36d、映り込み領域37eと背景領域36e、映り込み領域37fと背景領域36fで相関性をそれぞれ解析する。
以上説明したようにして各背景領域と各映り込み領域の対応する領域同士で特徴量をそれぞれ比較する。すなわち、画面左側では、背景領域34a〜34fの各々に対して算出された特徴量を路面の映り込み領域35a〜35fと比較する。画面右側も同様に、背景領域36a〜36fの各々に対して算出された特徴量を路面の映り込み領域37a〜37fと比較する。これらの領域について、同一のアルファベットの添え字が付されたものどうしで比較する。
次に、左右別相関性解析部203eでは、画面の左右で背景領域と映り込み領域をそれぞれまとめて相関性を解析する。まずは、自車の移動に応じて、背景領域と路面の映り込み領域の双方で特徴量が後方へそれぞれ移動するかを確認する。例えば、画面左の映り込み領域35bに角度45度のエッジ角度を示す特徴量があった場合に、次のフレームでは、この特徴量が後方に流れて、例えば映り込み領域35eで同様な傾向が伺えたとする。また、背景には相関性の高い背景のエッジ角度が存在し、これも時系列で背景領域34bから背景領域34eに移動したとする。このような場合、路面への背景物の映り込みが生じた可能性が高いと判断する。
また、背景領域と路面の映り込み領域の局所的な相関性以外に、特徴量の有無や、奥行き方向についてそれぞれ相関性があるかどうかも判定する。例えば、画面左側で、背景領域34bと映り込み領域35bにのみ相関性があり、他領域には特徴量があるにも関わらず相関性が低ければ、偶然、相関性がある局所領域が存在した可能性が高いと考える。反対に、背景領域34bと映り込み領域35bにのみ相関性があり、他領域においては背景領域、路面映り込み領域それぞれの特徴量が少なく相関性がとれない状態であれば、これは画面左側の路面映り込みが発生している可能性が高く画面左側の相関性が高いといえる。局所領域毎の相関性の後には、このように左右別でみた局所領域の相関性の並び方と動き方を参考に左右別の相関性を解析し、左右別の路面映り込みの判定を実施する。
ステップS180では、以上説明したような各領域の特徴量の比較を行い、その比較結果に基づいて、背景領域34a〜34fと映り込み領域35a〜35fの間、および背景領域36a〜36fと映り込み領域37a〜37fの間で、背景物の映り込みがあるか否かをそれぞれ判定する。たとえば、背景領域34a〜34fと映り込み領域35a〜35fの間の相関性がそれぞれ十分に高く、かつ背景領域群34a〜34f内の各画像と映り込み領域群35a〜35f内の各画像が全体的に車両に対して遠ざかるような方向に移動している場合、車両の右後方において、路面への背景物の映り込みがあると判定する。同様に、背景領域36a〜36fと映り込み領域37a〜37fの間の相関性がそれぞれ十分に高く、かつ背景領域群36a〜36f内の各画像と映り込み領域群37a〜37f内の各画像が全体的に車両に対して遠ざかるような方向に移動している場合、車両の左後方において、路面への背景物の映り込みがあると判定する。
なお、前述のステップS160では、ステップS180で上記のように各領域の特徴量を比較してその相関性により路面への背景物の映り込みの有無を判定する際の基準値を変化させることで、警報抑制度合いの調整を行うことができる。すなわち、上記ステップS180では、背景領域34a〜34fと映り込み領域35a〜35fの間、および背景領域36a〜36fと映り込み領域37a〜37fの間で、特徴量の相関性が所定の閾値以上であれば、これらの各領域内での画像間の相関性が高いとみなして、背景物の映り込みがあると判定する。ステップS160では、この相関性に対する閾値を下げることで、ステップS180において背景物の映り込みの有無を判定するための条件を緩和し、後述のステップS200で警報抑制が行われやすくなるように警報抑制の度合いを調整することができる。
また、前述のステップS160では、ステップS170で各領域の特徴量を算出する際の条件、より具体的にはエッジの検出条件を変化させることでも、警報抑制度合いの調整を行うことができる。すなわち、上記ステップS170では、背景領域34a〜34fおよび36a〜36fと、映り込み領域35a〜35fおよび37a〜37fとの各領域について、近傍画素間の輝度差が所定値以上である部分をエッジとして検出し、このエッジ角度をヒストグラム化することで各領域の特徴量を算出する。ステップS160では、このエッジ検出条件としての輝度差を下げてより多くのエッジ成分が検出されるようにすることで、ステップS180において背景物の映り込みの有無を判定するための条件を緩和し、後述のステップS200で警報抑制が行われやすくなるように警報抑制の度合いを調整することができる。
なお、ステップS160で警報抑制の度合いを調整する際には、上記ステップS180での相関性に対する閾値の変化と、上記ステップS170でのエッジ検出条件の変化とを、それぞれ単独で行ってもよいし、両方を合わせて実行してもよい。
ステップS190において、制御部2は、ステップS180の映り込み判定の結果から、路面への背景物の映り込みの有無を判定する。車両の左後方および右後方のいずれか少なくとも一方において路面への背景物の映り込みがあるとステップS180で判定した場合は、ステップS190からステップS200へ進む。一方、車両の左右後方のいずれにおいても路面への背景物の映り込みがないとステップS180で判定した場合は、ステップS200を実行せずに図5のフローチャートを終了する。
ステップS200において、制御部2は、警報出力部3に対して、警報出力信号の出力を停止させる。このとき制御部2は、映り込み判定部203から警報制御部205に対して所定の通知を行うことにより、警報制御部205から警報出力部3への警報出力信号を停止し、警報出力部3による警報の出力を抑制する。これにより、自車両の左後方または右後方において路面に映り込んだ背景物が、アプリ実行部204によって自車両と衝突する可能性がある他車両として誤検出された場合でも、誤って警報出力部3から警報が出力されないようにする。なお、ステップS200では、車両の左後方および右後方のうち、ステップS180で路面への背景物の映り込みがあると判定された方についてのみ、警報の出力を停止させることが好ましい。ステップS200を実行したら、制御部2は図5のフローチャートを終了する。
また、上記と同様に、レーン認識部204aにおいても、認識結果の横位置が不安定かつ映り込み判定された場合には、レーン認識を利用した車線逸脱時の警報を抑制することで、誤警報を抑制する効果が得られる。
また、歩行者検知部204cにおいても、映り込みを移動体と誤検知する恐れがあるために、警報の出力を抑制することで、誤警報抑制する効果が得られる。標識検知部204dにおいても、映り込みを標識と誤検知する恐れがあるために、警報の出力を抑制することで、誤警報抑制する効果が得られる。巻き込み防止認識部204eにおいても、映り込みを障害物と誤検知する恐れがあるために、警報の出力を抑制することで、誤警報抑制する効果が得られる。駐車枠認識部204fにおいても、映り込みにより駐車枠の位置が不安定になったり誤認識する恐れがあるために、駐車枠を利用したアプリケーションの停止により、誤制御などを抑止する。
また、移動体検知部204gにおいても、映り込みを移動体と誤検知する恐れがあるために、警報の出力を抑制することで、誤警報抑制する効果が得られる。
図12は、以上説明したような本実施形態の車載用周囲環境認識装置100によって得られる誤警報の低減効果を説明するための図である。ここでは、たとえば他車両の相対速度が図12(a)に示すような変化をする場合に、前述の警報抑制調整部206が行う警報出力の抑制度合いの調整により、警報出力部3からの警報の出力タイミングがどのように変化するかを例示している。図12の例において、図12(a)に示す他車両の相対速度は、時刻Tv1から時刻Tv2までの間では図5のステップS150で説明したような所定の範囲内であり、これ以外では範囲外である。
警報抑制調整部206は、上記の時刻Tv1から時刻Tv2の期間において、前述のような警報出力の抑制度合いの調整を実行し、路面への背景物の映り込みの有無を判定するための条件を緩和する。これにより、映り込み判定部203では、映り込み有りとの判定結果が得られやすくなる。その結果、たとえば図12(b)に示すように、映り込み無しと判定されるタイミングが時刻Tr4から時刻Tr4aへと移動され、映り込み有りとの判定結果が得られる期間が延長される。なお、図12(b)において破線で示す部分は、警報出力の抑制度合いの調整を実行しない場合に得られる路面への背景物の映り込みの判定結果の例を示している。
ここで、アプリ実行部204の他車両認識部204bにより実行される他車両認識処理において、図12(c)の符号50に示す画像情報値が得られたとする。この画像情報値50が閾値Th0を超えると、他車両として認識される。図12(c)の例では、時刻To1から時刻To2の期間で画像情報値50が閾値Th0を超えているため、この期間内で他車両が認識される。
警報出力部3は、警報制御部205からの警報出力信号に応じて、図12(d)に示すようなタイミングで警報出力を行う。この警報出力のタイミングは、図12(b)で映り込み有りと判定されており、かつ図12(c)で他車両が認識されている期間である。なお、図12(d)において破線で示す部分は、警報出力の抑制度合いの調整を実行しない場合の警報出力のタイミングであり、上記の時刻Tr4から時刻To2の期間では警報出力が行われることを示している。すなわち、他車両の相対速度が所定範囲内である時刻Tv1から時刻Tv2の期間では、警報出力の抑制度合いが調整され、これに応じて図12(b)のように映り込み有りとの判定結果が得られる期間が延長される。その結果、時刻Tr4から時刻To2の期間における警報出力を抑制することができる。
(他車両認識処理の説明)
次に、図5のステップS130でアプリ実行部204の他車両認識部204bが実行する他車両認識処理について以下に説明する。
図13は、本発明の車載用周囲環境認識装置100において他車両認識部204bが実行する他車両認識処理を説明するための車両の概略構成図である。車載用周囲環境認識装置100は、自車両Vの運転者が運転中に注意を払うべき他車両、例えば、自車両Vが車線変更する際に接触の可能性がある他車両を障害物として検出する装置である。特に、本例の車載用周囲環境認識装置100は自車両が走行する車線の隣の隣接車線(以下、単に隣接車線ともいう)を走行する他車両を検出する。また、本例の車載用周囲環境認識装置100は、検出した他車両の移動距離、移動速度を算出することができる。このため、以下説明する一例は、車載用周囲環境認識装置100を自車両Vに搭載し、自車両周囲において検出される立体物のうち、自車両Vが走行する車線の隣の隣接車線を走行する他車両を検出する例を示すこととする。同図に示すように、本例の車載用周囲環境認識装置100は、カメラ1と、車速センサ5と、他車両認識部204bとを備える。
カメラ1は、図1に示すように自車両Vの後方における高さhの箇所において、光軸が水平から下向きに角度θとなるように自車両Vに取り付けられている。カメラ1は、この位置から自車両Vの周囲環境のうちの所定領域を撮像する。本実施形態において自車両Vの後方の立体物を検出するために設けられるカメラ1は一つであるが、他の用途のため、例えば車両周囲の画像を取得するための他のカメラを設けることもできる。車速センサ5は、自車両Vの走行速度を検出するものであって、例えば車輪に回転数を検知する車輪速センサで検出した車輪速から車速度を算出する。他車両認識部204bは、車両後方の立体物を他車両として検出するとともに、本例ではその立体物について移動距離及び移動速度を算出する。
図14は、図13の自車両Vの走行状態を示す平面図である。同図に示すように、カメラ1は、所定の画角aで車両後方側を撮像する。このとき、カメラ1の画角aは、自車両Vが走行する車線に加えて、その左右の車線についても撮像可能な画角に設定されている。撮像可能な領域には、自車両Vの後方であり、自車両Vの走行車線の左右隣の隣接車線上の検出対象領域A1,A2を含む。
図15は、図13の他車両認識部204bの詳細を示すブロック図である。なお、図15においては、接続関係を明確とするためにカメラ1及び車速センサ5についても図示する。
図15に示すように、他車両認識部204bは、視点変換部31と、位置合わせ部32と、立体物検出部33と、立体物判断部34と、虚像判断部38と、制御部39と、スミア検出部40とを備える。本実施形態の他車両認識部204bは、差分波形情報を利用した立体物の検出ブロックに関する構成である。本実施形態の他車両認識部204bは、エッジ情報を利用した立体物の検出ブロックに関する構成とすることもできる。この場合は、図15に示す構成のうち、位置合わせ部32と、立体物検出部33から構成される検出ブロック構成Aを、破線で囲んだ輝度差算出部35と、エッジ線検出部36と、立体物検出部37から構成される検出ブロック構成Bと置き換えて構成することができる。もちろん、検出ブロック構成A及び検出ブロック構成Bの両方を備え、差分波形情報を利用した立体物の検出を行うとともに、エッジ情報を利用した立体物の検出も行うことができるようにすることができる。検出ブロック構成A及び検出ブロック構成Bを備える場合には、例えば明るさなどの環境要因に応じて検出ブロック構成A又は検出ブロック構成Bのいずれかを動作させることができる。以下、各構成について説明する。
《差分波形情報による立体物の検出》
本実施形態の車載用周囲環境認識装置100は、車両後方を撮像する単眼のカメラ1により得られた画像情報に基づいて車両後方の右側検出領域又は左側検出領域に存在する立体物を検出する。
視点変換部31は、カメラ1による撮像にて得られた所定領域の撮像画像データを入力し、入力した撮像画像データを鳥瞰視される状態の鳥瞰画像データに視点変換する。鳥瞰視される状態とは、上空から例えば鉛直下向きに見下ろす仮想カメラの視点から見た状態である。この視点変換は、例えば日本国特開2008−219063号公報に記載されるようにして実行することができる。撮像画像データを鳥瞰視画像データに視点変換するのは、立体物に特有の鉛直エッジは鳥瞰視画像データへの視点変換により特定の定点を通る直線群に変換されるという原理に基づき、これを利用すれば平面物と立体物とを識別できるからである。なお、視点変換部31による画像変換処理の結果は、後述するエッジ情報による立体物の検出においても利用される。
位置合わせ部32は、視点変換部31の視点変換により得られた鳥瞰画像データを順次入力し、入力した異なる時刻の鳥瞰画像データの位置を合わせる。図16は、位置合わせ部32の処理の概要を説明するための図であり、(a)は自車両Vの移動状態を示す平面図、(b)は位置合わせの概要を示す画像である。
図16(a)に示すように、現時刻の自車両VがV1に位置し、一時刻前の自車両VがV2に位置していたとする。また、自車両Vの後側方向に他車両VXが位置して自車両Vと並走状態にあり、現時刻の他車両VXがV3に位置し、一時刻前の他車両VXがV4に位置していたとする。さらに、自車両Vは、一時刻で距離d移動したものとする。なお、一時刻前とは、現時刻から予め定められた時間(例えば1制御周期)だけ過去の時刻であってもよいし、任意の時間だけ過去の時刻であってもよい。
このような状態において、現時刻における鳥瞰画像PBtは図16(b)に示すようになる。この鳥瞰画像PBtでは、路面上に描かれる白線については矩形状となり、比較的正確に平面視された状態となるが、位置V3にある他車両VXの位置については倒れ込みが発生する。また、一時刻前における鳥瞰画像PBt−1についても同様に、路面上に描かれる白線については矩形状となり、比較的正確に平面視された状態となるが、位置V4にある他車両VXについては倒れ込みが発生する。既述したとおり、立体物の鉛直エッジ(厳密な意味の鉛直エッジ以外にも路面から三次元空間に立ち上がったエッジを含む)は、鳥瞰視画像データへの視点変換処理によって倒れ込み方向に沿った直線群として現れるのに対し、路面上の平面画像は鉛直エッジを含まないので、視点変換してもそのような倒れ込みが生じないからである。
位置合わせ部32は、上記のような鳥瞰画像PBt,PBt−1の位置合わせをデータ上で実行する。この際、位置合わせ部32は、一時刻前における鳥瞰画像PBt−1をオフセットさせ、現時刻における鳥瞰画像PBtと位置を一致させる。図16(b)の左側の画像と中央の画像は、移動距離d’だけオフセットした状態を示す。このオフセット量d’は、図16(a)に示した自車両Vの実際の移動距離dに対応する鳥瞰視画像データ上の移動量であり、車速センサ5からの信号と一時刻前から現時刻までの時間に基づいて決定される。
また、位置合わせ後において位置合わせ部32は、鳥瞰画像PBt,PBt−1の差分をとり、差分画像PDtのデータを生成する。ここで、差分画像PDtの画素値は、鳥瞰画像PBt,PBt−1の画素値の差を絶対値化したものでもよいし、照度環境の変化に対応するために当該絶対値が所定の閾値pを超えたときに「1」とし、超えないときに「0」としてもよい。図16(b)の右側の画像が、差分画像PDtである。この閾値pは、予め設定しておいてもよいし、後述する制御部39の虚像判断の結果に応じた制御命令に従い変更してもよい。
図15に戻り、立体物検出部33は、図16(b)に示す差分画像PDtのデータに基づいて立体物を検出する。この際、本例の立体物検出部33は、実空間上における立体物の移動距離についても算出する。立体物の検出及び移動距離の算出にあたり、立体物検出部33は、まず差分波形を生成する。なお、立体物の時間あたりの移動距離は、立体物の移動速度の算出に用いられる。そして、立体物の移動速度は、立体物が車両であるか否かの判断に用いることができる。
差分波形の生成にあたって本実施形態の立体物検出部33は、差分画像PDtにおいて検出領域を設定する。本例の車載用周囲環境認識装置100は、自車両Vの運転手が注意を払う他車両であり、特に、自車両Vが車線変更する際に接触の可能性がある自車両Vが走行する車線の隣の車線を走行する他車両を検出対象物として検出する。このため、画像情報に基づいて立体物を検出する本例では、カメラ1により得られた画像のうち、自車両Vの右側及び左側に二つの検出領域を設定する。具体的に、本実施形態では、図14に示すように自車両Vの後方の左側及び右側に矩形状の検出領域A1,A2を設定する。この検出領域A1,A2において検出された他車両は、自車両Vが走行する車線の隣の隣接車線を走行する障害物として検出される。なお、このような検出領域A1,A2は、自車両Vに対する相対位置から設定してもよいし、白線の位置を基準に設定してもよい。白線の位置を基準に設定する場合に、移動距離検出装置1は、例えば既存の白線認識技術等を利用するとよい。
また、立体物検出部33は、設定した検出領域A1,A2の自車両V側における辺(走行方向に沿う辺)を接地線L1,L2(図14)として認識する。一般に接地線は立体物が地面に接触する線を意味するが、本実施形態では地面に接触する線でなく上記の如くに設定される。なおこの場合であっても、経験上、本実施形態に係る接地線と、本来の他車両VXの位置から求められる接地線との差は大きくなり過ぎず、実用上は問題が無い。
図17は、図3に示す立体物検出部33による差分波形の生成の様子を示す概略図である。図17に示すように、立体物検出部33は、位置合わせ部32で算出した差分画像PDt(図16(b)の右図)のうち検出領域A1,A2に相当する部分から、差分波形DWtを生成する。この際、立体物検出部33は、視点変換により立体物が倒れ込む方向に沿って、差分波形DWtを生成する。なお、図17に示す例では、便宜上検出領域A1のみを用いて説明するが、検出領域A2についても同様の手順で差分波形DWtを生成する。
具体的に説明すると、立体物検出部33は、差分画像DWtのデータ上において立体物が倒れ込む方向上の線Laを定義する。そして、立体物検出部33は、線La上において所定の差分を示す差分画素DPの数をカウントする。ここで、所定の差分を示す差分画素DPは、差分画像DWtの画素値が鳥瞰画像PBt,PBt−1の画素値の差を絶対値化したものである場合は、所定の閾値を超える画素であり、差分画像DWtの画素値が「0」「1」で表現されている場合は、「1」を示す画素である。
立体物検出部33は、差分画素DPの数をカウントした後、線Laと接地線L1との交点CPを求める。そして、立体物検出部33は、交点CPとカウント数とを対応付け、交点CPの位置に基づいて横軸位置、すなわち図17右図の上下方向軸における位置を決定するとともに、カウント数から縦軸位置、すなわち図17右図の左右方向軸における位置を決定し、交点CPにおけるカウント数としてプロットする。
以下同様に、立体物検出部33は、立体物が倒れ込む方向上の線Lb,Lc…を定義して、差分画素DPの数をカウントし、各交点CPの位置に基づいて横軸位置を決定し、カウント数(差分画素DPの数)から縦軸位置を決定しプロットする。立体物検出部33は、上記を順次繰り返して度数分布化することで、図17右図に示すように差分波形DWtを生成する。
なお、図17左図に示すように、立体物が倒れ込む方向上の線Laと線Lbとは検出領域A1と重複する距離が異なっている。このため、検出領域A1が差分画素DPで満たされているとすると、線Lb上よりも線La上の方が差分画素DPの数が多くなる。このため、立体物検出部33は、差分画素DPのカウント数から縦軸位置を決定する場合に、立体物が倒れ込む方向上の線La,Lbと検出領域A1とが重複する距離に基づいて正規化する。具体例を挙げると、図17左図において線La上の差分画素DPは6つあり、線Lb上の差分画素DPは5つである。このため、図17においてカウント数から縦軸位置を決定するにあたり、立体物検出部33は、カウント数を重複距離で除算するなどして正規化する。これにより、差分波形DWtに示すように、立体物が倒れ込む方向上の線La,Lbに対応する差分波形DWtの値はほぼ同じとなっている。
差分波形DWtの生成後、立体物検出部33は一時刻前の差分波形DWt−1との対比により移動距離を算出する。すなわち、立体物検出部33は、差分波形DWt,DWt−1の時間変化から移動距離を算出する。
詳細に説明すると、立体物検出部33は、図18に示すように差分波形DWtを複数の小領域DWt1〜DWtn(nは2以上の任意の整数)に分割する。図18は、立体物検出部33によって分割される小領域DWt1〜DWtnを示す図である。小領域DWt1〜DWtnは、例えば図18に示すように、互いに重複するようにして分割される。例えば小領域DWt1と小領域DWt2とは重複し、小領域DWt2と小領域DWt3とは重複する。
次いで、立体物検出部33は、小領域DWt1〜DWtn毎にオフセット量(差分波形の横軸方向(図18の上下方向)の移動量)を求める。ここで、オフセット量は、一時刻前における差分波形DWt−1と現時刻における差分波形DWtとの差(横軸方向の距離)から求められる。この際、立体物検出部33は、小領域DWt1〜DWtn毎に、一時刻前における差分波形DWt−1を横軸方向に移動させた際に、現時刻における差分波形DWtとの誤差が最小となる位置(横軸方向の位置)を判定し、差分波形DWt−1の元の位置と誤差が最小となる位置との横軸方向の移動量をオフセット量として求める。そして、立体物検出部33は、小領域DWt1〜DWtn毎に求めたオフセット量をカウントしてヒストグラム化する。
図19は、立体物検出部33により得られるヒストグラムの一例を示す図である。図19に示すように、各小領域DWt1〜DWtnと一時刻前における差分波形DWt−1との誤差が最小となる移動量であるオフセット量には、多少のバラつきが生じる。このため、立体物検出部33は、バラつきを含んだオフセット量をヒストグラム化し、ヒストグラムから移動距離を算出する。この際、立体物検出部33は、ヒストグラムの極大値から立体物の移動距離を算出する。すなわち、図19に示す例において立体物検出部33は、ヒストグラムの極大値を示すオフセット量を移動距離τ*と算出する。なおこの移動距離τ*は、自車両Vに対する他車両VXの相対移動距離である。このため、立体物検出部33は、絶対移動距離を算出する場合には、得られた移動距離τ*と車速センサ5からの信号とに基づいて、絶対移動距離を算出することとなる。
なお、ヒストグラム化にあたり立体物検出部33は、複数の小領域DWt1〜DWtn毎に重み付けをし、小領域DWt1〜DWtn毎に求めたオフセット量を重みに応じてカウントしてヒストグラム化してもよい。図20は、立体物検出部33による重み付けを示す図である。
図20に示すように、小領域DWm(mは1以上n−1以下の整数)は平坦となっている。すなわち、小領域DWmは所定の差分を示す画素数のカウントの最大値と最小値との差が小さくなっている。立体物検出部33は、このような小領域DWmについて重みを小さくする。平坦な小領域DWmについては、特徴がなくオフセット量の算出にあたり誤差が大きくなる可能性が高いからである。
一方、小領域DWm+k(kはn−m以下の整数)は起伏に富んでいる。すなわち、小領域DWmは所定の差分を示す画素数のカウントの最大値と最小値との差が大きくなっている。立体物検出部33は、このような小領域DWmについて重みを大きくする。起伏に富む小領域DWm+kについては、特徴的でありオフセット量の算出を正確に行える可能性が高いからである。このように重み付けすることにより、移動距離の算出精度を向上することができる。
なお、移動距離の算出精度を向上するために上記実施形態では差分波形DWtを複数の小領域DWt1〜DWtnに分割したが、移動距離の算出精度がさほど要求されない場合は小領域DWt1〜DWtnに分割しなくてもよい。この場合に、立体物検出部33は、差分波形DWtと差分波形DWt−1との誤差が最小となるときの差分波形DWtのオフセット量から移動距離を算出することとなる。すなわち、一時刻前における差分波形DWt−1と現時刻における差分波形DWtとのオフセット量を求める方法は上記内容に限定されない。
図15に戻り、他車両認識部204bはスミア検出部40を備える。スミア検出部40は、カメラ1による撮像によって得られた撮像画像のデータからスミアの発生領域を検出する。なお、スミアはCCDイメージセンサ等に生じる白飛び現象であることから、こうしたスミアが生じないCMOSイメージセンサ等を用いたカメラ1を採用する場合にはスミア検出部40を省略してもよい。
図21は、スミア検出部40による処理及びそれによる差分波形DWtの算出処理を説明するための画像図である。まずスミア検出部40にスミアSが存在する撮像画像Pのデータが入力されたとする。このとき、スミア検出部40は、撮像画像PからスミアSを検出する。スミアSの検出方法は様々であるが、例えば一般的なCCD(Charge-Coupled?Device)カメラの場合、光源から画像下方向にだけスミアSが発生する。このため、本実施形態では画像下側から画像上方に向かって所定値以上の輝度値を持ち、且つ、縦方向に連続した領域を検索し、これをスミアSの発生領域と特定する。
また、スミア検出部40は、スミアSの発生箇所について画素値を「1」とし、それ以外の箇所を「0」とするスミア画像SPのデータを生成する。生成後、スミア検出部40はスミア画像SPのデータを視点変換部31に送信する。また、スミア画像SPのデータを入力した視点変換部31は、このデータを鳥瞰視される状態に視点変換する。これにより、視点変換部31はスミア鳥瞰画像SBtのデータを生成する。生成後、視点変換部31はスミア鳥瞰画像SBtのデータを位置合わせ部33に送信する。また、視点変換部31は一時刻前のスミア鳥瞰画像SBt−1のデータを位置合わせ部33に送信する。
位置合わせ部32は、スミア鳥瞰画像SBt,SBt−1の位置合わせをデータ上で実行する。具体的な位置合わせについては、鳥瞰画像PBt,PBt−1の位置合わせをデータ上で実行する場合と同様である。また、位置合わせ後、位置合わせ部32は、各スミア鳥瞰画像SBt,SBt−1のスミアSの発生領域について論理和をとる。これにより、位置合わせ部32は、マスク画像MPのデータを生成する。生成後、位置合わせ部32は、マスク画像MPのデータを立体物検出部33に送信する。
立体物検出部33は、マスク画像MPのうちスミアSの発生領域に該当する箇所について、度数分布のカウント数をゼロとする。すなわち、図21に示すような差分波形DWtが生成されていた場合に、立体物検出部33は、スミアSによるカウント数SCをゼロとし、補正された差分波形DWt’を生成することとなる。
なお、本実施形態において立体物検出部33は、車両V(カメラ1)の移動速度を求め、求めた移動速度から静止物についてのオフセット量を求める。静止物のオフセット量を求めた後、立体物検出部33は、ヒストグラムの極大値のうち静止物に該当するオフセット量を無視したうえで、立体物の移動距離を算出する。
図22は、立体物検出部33により得られるヒストグラムの他例を示す図である。カメラ1の画角内に他車両VXの他に静止物が存在する場合に、得られるヒストグラムには2つの極大値τ1,τ2が現れる。この場合、2つの極大値τ1,τ2のうち、いずれか一方は静止物のオフセット量である。このため、立体物検出部33は、移動速度から静止物についてのオフセット量を求め、そのオフセット量に該当する極大値について無視し、残り一方の極大値を採用して立体物の移動距離を算出する。
なお、静止物に該当するオフセット量を無視したとしても、極大値が複数存在する場合、カメラ1の画角内に他車両VXが複数台存在すると想定される。しかし、検出領域A1,A2内に複数の他車両VXが存在することは極めて稀である。このため、立体物検出部33は、移動距離の算出を中止する。
次に差分波形情報による立体物検出手順を説明する。図23及び図24は、本実施形態の立体物検出手順を示すフローチャートである。図23に示すように、まず、他車両認識部204bはカメラ1による撮像画像Pのデータを入力し、スミア検出部40によりスミア画像SPを生成する(S1)。次いで、視点変換部31は、カメラ1からの撮像画像Pのデータから鳥瞰画像PBtのデータを生成すると共に、スミア画像SPのデータからスミア鳥瞰画像SBtのデータを生成する(S2)。
そして、位置合わせ部33は、鳥瞰画像PBtのデータと、一時刻前の鳥瞰画像PBt−1のデータとを位置合わせすると共に、スミア鳥瞰画像SBtのデータと、一時刻前のスミア鳥瞰画像SBt−1のデータとを位置合わせする(S3)。この位置合わせ後、位置合わせ部33は、差分画像PDtのデータを生成すると共に、マスク画像MPのデータを生成する(S4)。その後、立体物検出部33は、差分画像PDtのデータと、一時刻前の差分画像PDt−1のデータとから、差分波形DWtを生成する(S5)。差分波形DWtを生成後、立体物検出部33は、差分波形DWtのうち、スミアSの発生領域に該当するカウント数をゼロとし、スミアSによる影響を抑制する(S6)。
その後、立体物検出部33は、差分波形DWtのピークが第1閾値α以上であるか否かを判断する(S7)。この第1閾値αは、予め設定しておき、図15に示す制御部39の制御命令に従い変更することもできるが、その詳細については後述する。ここで、差分波形DWtのピークが第1閾値α以上でない場合、すなわち差分が殆どない場合には、撮像画像P内には立体物が存在しないと考えられる。このため、差分波形DWtのピークが第1閾値α以上でないと判断した場合には(S7:NO)、立体物検出部33は、立体物が存在せず、障害物としての他車両が存在しないと判断する(図24:S16)。そして、図23及び図24に示す処理を終了する。
一方、差分波形DWtのピークが第1閾値α以上であると判断した場合には(S7:YES)、立体物検出部33は、立体物が存在すると判断し、差分波形DWtを複数の小領域DWt1〜DWtnに分割する(S8)。次いで、立体物検出部33は、小領域DWt1〜DWtn毎に重み付けを行う(S9)。その後、立体物検出部33は、小領域DWt1〜DWtn毎のオフセット量を算出し(S10)、重みを加味してヒストグラムを生成する(S11)。
そして、立体物検出部33は、ヒストグラムに基づいて自車両Vに対する立体物の移動距離である相対移動距離を算出する(S12)。次に、立体物検出部33は、相対移動距離から立体物の絶対移動速度を算出する(S13)。このとき、立体物検出部33は、相対移動距離を時間微分して相対移動速度を算出すると共に、車速センサ5で検出された自車速を加算して、絶対移動速度を算出する。
その後、立体物検出部33は、立体物の絶対移動速度が10km/h以上、且つ、立体物の自車両Vに対する相対移動速度が+60km/h以下であるか否かを判断する(S14)。双方を満たす場合には(S14:YES)、立体物検出部33は、立体物が他車両VXであると判断する(S15)。そして、図23及び図24に示す処理を終了する。一方、いずれか一方でも満たさない場合には(S14:NO)、立体物検出部33は、他車両が存在しないと判断する(S16)。そして、図23及び図24に示す処理を終了する。
なお、本実施形態では自車両Vの後側方を検出領域A1,A2とし、自車両Vが走行中に注意を払うべきである、自車両の走行車線の隣にある隣接車線を走行する他車両VXを検出すること、特に、自車両Vが車線変更した場合に接触する可能性がある否かに重点を置いている。自車両Vが車線変更した場合に、自車両の走行車線の隣の隣接車線を走行する他車両VXと接触する可能性がある否かを判断するためである。このため、ステップS14の処理が実行されている。すなわち、本実施形態にけるシステムを高速道路で作動させることを前提とすると、立体物の速度が10km/h未満である場合、たとえ他車両VXが存在したとしても、車線変更する際には自車両Vの遠く後方に位置するため問題となることが少ない。同様に、立体物の自車両Vに対する相対移動速度が+60km/hを超える場合(すなわち、立体物が自車両Vの速度よりも60km/hより大きな速度で移動している場合)、車線変更する際には自車両Vの前方に移動しているため問題となることが少ない。このため、ステップS14では車線変更の際に問題となる他車両VXを判断しているともいえる。
また、ステップS14において立体物の絶対移動速度が10km/h以上、且つ、立体物の自車両Vに対する相対移動速度が+60km/h以下であるかを判断することにより、以下の効果がある。例えば、カメラ1の取り付け誤差によっては、静止物の絶対移動速度を数km/hであると検出してしまう場合があり得る。よって、10km/h以上であるかを判断することにより、静止物を他車両VXであると判断してしまう可能性を低減することができる。また、ノイズによっては立体物の自車両Vに対する相対速度を+60km/hを超える速度に検出してしまうことがあり得る。よって、相対速度が+60km/h以下であるかを判断することにより、ノイズによる誤検出の可能性を低減できる。
ステップS14において他車両VXを判断するための相対移動速度の閾値は任意に設定することができる。たとえば、−20km/h以上、100km/h以下を相対移動速度の閾値として設定することができる。ここで負の下限値は、検出物が自車両VXの後方に移動する、つまり、検出物が後方に流れていく状態であるときの移動速度の下限値である。この閾値は、適宜に予め設定することができるが、後述する制御部39の制御命令に従い変更することができる。
さらに、ステップS14の処理に代えて、絶対移動速度がマイナスでないことや、0km/hでないことを判断してもよい。また、本実施形態では自車両Vが車線変更した場合に接触する可能性がある否かに重点を置いているため、ステップS15において他車両VXが検出された場合に、自車両の運転者に警告音を発したり、所定の表示装置により警告相当の表示を行ったりしてもよい。
このように、本例の差分波形情報による立体物の検出手順によれば、視点変換により立体物が倒れ込む方向に沿って、差分画像PDtのデータ上において所定の差分を示す画素数をカウントして度数分布化することで差分波形DWtを生成する。ここで、差分画像PDtのデータ上において所定の差分を示す画素とは、異なる時刻の画像において変化があった画素であり、言い換えれば立体物が存在した箇所であるといえる。このため、立体物が存在した箇所において、立体物が倒れ込む方向に沿って画素数をカウントして度数分布化することで差分波形DWtを生成することとなる。特に、立体物が倒れ込む方向に沿って画素数をカウントすることから、立体物に対して高さ方向の情報から差分波形DWtを生成することとなる。そして、高さ方向の情報を含む差分波形DWtの時間変化から立体物の移動距離を算出する。このため、単に1点の移動のみに着目するような場合と比較して、時間変化前の検出箇所と時間変化後の検出箇所とは高さ方向の情報を含んで特定されるため立体物において同じ箇所となり易く、同じ箇所の時間変化から移動距離を算出することとなり、移動距離の算出精度を向上させることができる。
また、差分波形DWtのうちスミアSの発生領域に該当する箇所について、度数分布のカウント数をゼロとする。これにより、差分波形DWtのうちスミアSによって生じる波形部位を除去することとなり、スミアSを立体物と誤認してしまう事態を防止することができる。
また、異なる時刻に生成された差分波形DWtの誤差が最小となるときの差分波形DWtのオフセット量から立体物の移動距離を算出する。このため、波形という1次元の情報のオフセット量から移動距離を算出することとなり、移動距離の算出にあたり計算コストを抑制することができる。
また、異なる時刻に生成された差分波形DWtを複数の小領域DWt1〜DWtnに分割する。このように複数の小領域DWt1〜DWtnに分割することによって、立体物のそれぞれの箇所を表わした波形を複数得ることとなる。また、小領域DWt1〜DWtn毎にそれぞれの波形の誤差が最小となるときのオフセット量を求め、小領域DWt1〜DWtn毎に求めたオフセット量をカウントしてヒストグラム化することにより、立体物の移動距離を算出する。このため、立体物のそれぞれの箇所毎にオフセット量を求めることとなり、複数のオフセット量から移動距離を求めることとなり、移動距離の算出精度を向上させることができる。
また、複数の小領域DWt1〜DWtn毎に重み付けをし、小領域DWt1〜DWtn毎に求めたオフセット量を重みに応じてカウントしてヒストグラム化する。このため、特徴的な領域については重みを大きくし、特徴的でない領域については重みを小さくすることにより、一層適切に移動距離を算出することができる。従って、移動距離の算出精度を一層向上させることができる。
また、差分波形DWtの各小領域DWt1〜DWtnについて、所定の差分を示す画素数のカウントの最大値と最小値との差が大きいほど、重みを大きくする。このため、最大値と最小値との差が大きい特徴的な起伏の領域ほど重みが大きくなり、起伏が小さい平坦な領域については重みが小さくなる。ここで、平坦な領域よりも起伏の大きい領域の方が形状的にオフセット量を正確に求めやすいため、最大値と最小値との差が大きい領域ほど重みを大きくすることにより、移動距離の算出精度を一層向上させることができる。
また、小領域DWt1〜DWtn毎に求めたオフセット量をカウントして得られたヒストグラムの極大値から、立体物の移動距離を算出する。このため、オフセット量にバラつきがあったとしても、その極大値から、より正確性の高い移動距離を算出することができる。
また、静止物についてのオフセット量を求め、このオフセット量を無視するため、静止物により立体物の移動距離の算出精度が低下してしまう事態を防止することができる。また、静止物に該当するオフセット量を無視したうえで、極大値が複数ある場合、立体物の移動距離の算出を中止する。このため、極大値が複数あるような誤った移動距離を算出してしまう事態を防止することができる。
なお上記実施形態において、自車両Vの車速を車速センサ5からの信号に基づいて判断しているが、これに限らず、異なる時刻の複数の画像から速度を推定するようにしてもよい。この場合、車速センサが不要となり、構成の簡素化を図ることができる。
また、上記実施形態においては撮像した現時刻の画像と一時刻前の画像とを鳥瞰図に変換し、変換した鳥瞰図の位置合わせを行ったうえで差分画像PDtを生成し、生成した差分画像PDtを倒れ込み方向(撮像した画像を鳥瞰図に変換した際の立体物の倒れ込み方向)に沿って評価して差分波形DWtを生成しているが、これに限定されない。例えば、一時刻前の画像のみを鳥瞰図に変換し、変換した鳥瞰図を位置合わせした後に再び撮像した画像相当に変換し、この画像と現時刻の画像とで差分画像を生成し、生成した差分画像を倒れ込み方向に相当する方向(すなわち、倒れ込み方向を撮像画像上の方向に変換した方向)に沿って評価することによって差分波形DWtを生成してもよい。すなわち、現時刻の画像と一時刻前の画像との位置合わせを行い、位置合わせを行った両画像の差分から差分画像PDtを生成し、差分画像PDtを鳥瞰図に変換した際の立体物の倒れ込み方向に沿って評価できれば、必ずしも明確に鳥瞰図を生成しなくともよい。
《エッジ情報による立体物の検出》
次に、図15に示す検出ブロックAに代えて動作させることが可能である、輝度差算出部35、エッジ線検出部36及び立体物検出部37で構成されるエッジ情報を利用した立体物の検出ブロックBについて説明する。図25は、図15のカメラ1の撮像範囲等を示す図であり、図25(a)は平面図、図25(b)は、自車両Vから後側方における実空間上の斜視図を示す。図25(a)に示すように、カメラ1は所定の画角aとされ、この所定の画角aに含まれる自車両Vから後側方を撮像する。カメラ1の画角aは、図14に示す場合と同様に、カメラ1の撮像範囲に自車両Vが走行する車線に加えて、隣接する車線も含まれるように設定されている。
本例の検出領域A1,A2は、平面視(鳥瞰視された状態)において台形状とされ、これら検出領域A1,A2の位置、大きさ及び形状は、距離d1〜d4に基づいて決定される。なお、同図に示す例の検出領域A1,A2は台形状に限らず、図14に示すように鳥瞰視された状態で矩形など他の形状であってもよい。
ここで、距離d1は、自車両Vから接地線L1,L2までの距離である。接地線L1,L2は、自車両Vが走行する車線に隣接する車線に存在する立体物が地面に接触する線を意味する。本実施形態においては、自車両Vの後側方において自車両Vの車線に隣接する左右の車線を走行する他車両VX等(2輪車等を含む)を検出することが目的である。このため、自車両Vから白線Wまでの距離d11及び白線Wから他車両VXが走行すると予測される位置までの距離d12から、他車両VXの接地線L1,L2となる位置である距離d1を略固定的に決定しておくことができる。
また、距離d1については、固定的に決定されている場合に限らず、可変としてもよい。この場合に、他車両認識部204bは、白線認識等の技術により自車両Vに対する白線Wの位置を認識し、認識した白線Wの位置に基づいて距離d11を決定する。これにより、距離d1は、決定された距離d11を用いて可変的に設定される。以下の本実施形態においては、他車両VXが走行する位置(白線Wからの距離d12)及び自車両Vが走行する位置(白線Wからの距離d11)は大凡決まっていることから、距離d1は固定的に決定されているものとする。
距離d2は、自車両Vの後端部から車両進行方向に伸びる距離である。この距離d2は、検出領域A1,A2が少なくともカメラ1の画角a内に収まるように決定されている。特に本実施形態において、距離d2は、画角aに区分される範囲に接するよう設定されている。距離d3は、検出領域A1,A2の車両進行方向における長さを示す距離である。この距離d3は、検出対象となる立体物の大きさに基づいて決定される。本実施形態においては、検出対象が他車両VX等であるため、距離d3は、他車両VXを含む長さに設定される。
距離d4は、図25(b)に示すように、実空間において他車両VX等のタイヤを含むように設定された高さを示す距離である。距離d4は、鳥瞰視画像においては図25(a)に示す長さとされる。なお、距離d4は、鳥瞰視画像において左右の隣接車線よりも更に隣接する車線(すなわち2車線隣りの車線)を含まない長さとすることもできる。自車両Vの車線から2車線隣の車線を含んでしまうと、自車両Vが走行している車線である自車線の左右の隣接車線に他車両VXが存在するのか、2車線隣りの車線に他車両VXが存在するのかについて、区別が付かなくなってしまうためである。
以上のように、距離d1〜距離d4が決定され、これにより検出領域A1,A2の位置、大きさ及び形状が決定される。具体的に説明すると、距離d1により、台形をなす検出領域A1,A2の上辺b1の位置が決定される。距離d2により、上辺b1の始点位置C1が決定される。距離d3により、上辺b1の終点位置C2が決定される。カメラ1から始点位置C1に向かって伸びる直線L3により、台形をなす検出領域A1,A2の側辺b2が決定される。同様に、カメラ1から終点位置C2に向かって伸びる直線L4により、台形をなす検出領域A1,A2の側辺b3が決定される。距離d4により、台形をなす検出領域A1,A2の下辺b4の位置が決定される。このように、各辺b1〜b4により囲まれる領域が検出領域A1,A2とされる。この検出領域A1,A2は、図25(b)に示すように、自車両Vから後側方における実空間上では真四角(長方形)となる。
図15に戻り、視点変換部31は、カメラ1による撮像にて得られた所定領域の撮像画像データを入力する。視点変換部31は、入力した撮像画像データに対して、鳥瞰視される状態の鳥瞰画像データに視点変換処理を行う。鳥瞰視される状態とは、上空から例えば鉛直下向き(又は、やや斜め下向き)に見下ろす仮想カメラの視点から見た状態である。この視点変換処理は、例えば日本国特開2008−219063号公報に記載された技術によって実現することができる。
輝度差算出部35は、鳥瞰視画像に含まれる立体物のエッジを検出するために、視点変換部31により視点変換された鳥瞰視画像データに対して、輝度差の算出を行う。輝度差算出部35は、実空間における鉛直方向に伸びる鉛直仮想線に沿った複数の位置ごとに、当該各位置の近傍の2つの画素間の輝度差を算出する。輝度差算出部35は、実空間における鉛直方向に伸びる鉛直仮想線を1本だけ設定する手法と、鉛直仮想線を2本設定する手法との何れかによって輝度差を算出することができる。
鉛直仮想線を2本設定する具体的な手法について説明する。輝度差算出部35は、視点変換された鳥瞰視画像に対して、実空間で鉛直方向に伸びる線分に該当する第1鉛直仮想線と、第1鉛直仮想線と異なり実空間で鉛直方向に伸びる線分に該当する第2鉛直仮想線とを設定する。輝度差算出部35は、第1鉛直仮想線上の点と第2鉛直仮想線上の点との輝度差を、第1鉛直仮想線及び第2鉛直仮想線に沿って連続的に求める。以下、この輝度差算出部35の動作について詳細に説明する。
輝度差算出部35は、図26(a)に示すように、実空間で鉛直方向に伸びる線分に該当し、且つ、検出領域A1を通過する第1鉛直仮想線La(以下、注目線Laという)を設定する。また輝度差算出部35は、注目線Laと異なり、実空間で鉛直方向に伸びる線分に該当し、且つ、検出領域A1を通過する第2鉛直仮想線Lr(以下、参照線Lrという)を設定する。ここで参照線Lrは、実空間における所定距離だけ注目線Laから離間する位置に設定される。なお、実空間で鉛直方向に伸びる線分に該当する線とは、鳥瞰視画像においてはカメラ1の位置Psから放射状に広がる線となる。この放射状に広がる線は、鳥瞰視に変換した際に立体物が倒れ込む方向に沿う線である。
輝度差算出部35は、注目線La上に注目点Pa(第1鉛直仮想線上の点)を設定する。また輝度差算出部35は、参照線Lr上に参照点Pr(第2鉛直板想線上の点)を設定する。これら注目線La、注目点Pa、参照線Lr、参照点Prは、実空間上において図26(b)に示す関係となる。図26(b)から明らかなように、注目線La及び参照線Lrは、実空間上において鉛直方向に伸びた線であり、注目点Paと参照点Prとは、実空間上において略同じ高さに設定される点である。なお、注目点Paと参照点Prとは必ずしも厳密に同じ高さである必要はなく、注目点Paと参照点Prとが同じ高さとみなせる程度の誤差は許容される。
輝度差算出部35は、注目点Paと参照点Prとの輝度差を求める。仮に、注目点Paと参照点Prとの輝度差が大きいと、注目点Paと参照点Prとの間にエッジが存在すると考えられる。このため、図15に示したエッジ線検出部36は、注目点Paと参照点Prとの輝度差に基づいてエッジ線を検出する。
この点をより詳細に説明する。図27は、輝度差算出部35の詳細動作を示す図であり、図27(a)は鳥瞰視された状態の鳥瞰視画像を示し、図27(b)は、図27(a)に示した鳥瞰視画像の一部B1を拡大した図である。なお図27についても検出領域A1のみを図示して説明するが、検出領域A2についても同様の手順で輝度差を算出する。
カメラ1が撮像した撮像画像内に他車両VXが映っていた場合に、図27(a)に示すように、鳥瞰視画像内の検出領域A1に他車両VXが現れる。図27(b)に図27(a)中の領域B1の拡大図を示すように、鳥瞰視画像上において、他車両VXのタイヤのゴム部分上に注目線Laが設定されていたとする。この状態において、輝度差算出部35は、先ず参照線Lrを設定する。参照線Lrは、注目線Laから実空間上において所定の距離だけ離れた位置に、鉛直方向に沿って設定される。具体的には、本実施形態に係る車載用周囲環境認識装置100において、参照線Lrは、注目線Laから実空間上において10cmだけ離れた位置に設定される。これにより、参照線Lrは、鳥瞰視画像上において、例えば他車両VXのタイヤのゴムから10cm相当だけ離れた他車両VXのタイヤのホイール上に設定される。
次に、輝度差算出部35は、注目線La上に複数の注目点Pa1〜PaNを設定する。図27(b)においては、説明の便宜上、6つの注目点Pa1〜Pa6(以下、任意の点を示す場合には単に注目点Paiという)を設定している。なお、注目線La上に設定する注目点Paの数は任意でよい。以下の説明では、N個の注目点Paが注目線La上に設定されたものとして説明する。
次に、輝度差算出部35は、実空間上において各注目点Pa1〜PaNと同じ高さとなるように各参照点Pr1〜PrNを設定する。そして、輝度差算出部35は、同じ高さ同士の注目点Paと参照点Prとの輝度差を算出する。これにより、輝度差算出部35は、実空間における鉛直方向に伸びる鉛直仮想線に沿った複数の位置(1〜N)ごとに、2つの画素の輝度差を算出する。輝度差算出部35は、例えば第1注目点Pa1とは、第1参照点Pr1との間で輝度差を算出し、第2注目点Pa2とは、第2参照点Pr2との間で輝度差を算出することとなる。これにより、輝度差算出部35は、注目線La及び参照線Lrに沿って、連続的に輝度差を求める。すなわち、輝度差算出部35は、第3〜第N注目点Pa3〜PaNと第3〜第N参照点Pr3〜PrNとの輝度差を順次求めていくこととなる。
輝度差算出部35は、検出領域A1内において注目線Laをずらしながら、上記の参照線Lrの設定、注目点Pa及び参照点Prの設定、輝度差の算出といった処理を繰り返し実行する。すなわち、輝度差算出部35は、注目線La及び参照線Lrのそれぞれを、実空間上において接地線L1の延在方向に同一距離だけ位置を変えながら上記の処理を繰り返し実行する。輝度差算出部35は、例えば、前回処理において参照線Lrとなっていた線を注目線Laに設定し、この注目線Laに対して参照線Lrを設定して、順次輝度差を求めていくことになる。
図15に戻り、エッジ線検出部36は、輝度差算出部35により算出された連続的な輝度差から、エッジ線を検出する。例えば、図27(b)に示す場合、第1注目点Pa1と第1参照点Pr1とは、同じタイヤ部分に位置するために、輝度差は、小さい。一方、第2〜第6注目点Pa2〜Pa6はタイヤのゴム部分に位置し、第2〜第6参照点Pr2〜Pr6はタイヤのホイール部分に位置する。したがって、第2〜第6注目点Pa2〜Pa6と第2〜第6参照点Pr2〜Pr6との輝度差は大きくなる。このため、エッジ線検出部36は、輝度差が大きい第2〜第6注目点Pa2〜Pa6と第2〜第6参照点Pr2〜Pr6との間にエッジ線が存在することを検出することができる。
具体的には、エッジ線検出部36は、エッジ線を検出するにあたり、先ず下記の数式1に従って、i番目の注目点Pai(座標(xi,yi))とi番目の参照点Pri(座標(xi’,yi’))との輝度差から、i番目の注目点Paiに属性付けを行う。
(数式1)
I(xi,yi)>I(xi’,yi’)+tのとき
s(xi,yi)=1
I(xi,yi)<I(xi’,yi’)−tのとき
s(xi,yi)=−1
上記以外のとき
s(xi,yi)=0
上記数式1において、tは閾値を示し、I(xi,yi)はi番目の注目点Paiの輝度値を示し、I(xi’,yi’)はi番目の参照点Priの輝度値を示す。上記数式1によれば、注目点Paiの輝度値が、参照点Priに閾値tを加えた輝度値よりも高い場合には、当該注目点Paiの属性s(xi,yi)は‘1’となる。一方、注目点Paiの輝度値が、参照点Priから閾値tを減じた輝度値よりも低い場合には、当該注目点Paiの属性s(xi,yi)は‘−1’となる。注目点Paiの輝度値と参照点Priの輝度値とがそれ以外の関係である場合には、注目点Paiの属性s(xi,yi)は‘0’となる。この閾値tは、予め設定しておき、図15に示す制御部39が発する制御命令に従い変更することもできるが、その詳細については後述する。
次にエッジ線検出部36は、下記数式2に基づいて、注目線Laに沿った属性sの連続性c(xi,yi)から、注目線Laがエッジ線であるか否かを判定する。
(数式2)
s(xi,yi)=s(xi+1,yi+1)のとき(且つ0=0を除く)、
c(xi,yi)=1
上記以外のとき、
c(xi,yi)=0
注目点Paiの属性s(xi,yi)と隣接する注目点Pai+1の属性s(xi+1,yi+1)とが同じである場合には、連続性c(xi,yi)は‘1’となる。注目点Paiの属性s(xi,yi)と隣接する注目点Pai+1の属性s(xi+1,yi+1)とが同じではない場合には、連続性c(xi,yi)は‘0’となる。
次にエッジ線検出部36は、注目線La上の全ての注目点Paの連続性cについて総和を求める。エッジ線検出部36は、求めた連続性cの総和を注目点Paの数Nで割ることにより、連続性cを正規化する。エッジ線検出部36は、正規化した値が閾値θを超えた場合に、注目線Laをエッジ線と判断する。なお、閾値θは、予め実験等によって設定された値である。閾値θは予め設定しておいてもよいし、後述する制御部39の虚像の判断結果に応じた制御命令に従い変更してもよい。
すなわち、エッジ線検出部36は、下記数式3に基づいて注目線Laがエッジ線であるか否かを判断する。そして、エッジ線検出部36は、検出領域A1上に描かれた注目線Laの全てについてエッジ線であるか否かを判断する。
(数式3)
Σc(xi,yi)/N>θ
図15に戻り、立体物検出部37は、エッジ線検出部36により検出されたエッジ線の量に基づいて立体物を検出する。上述したように、本実施形態に係る車載用周囲環境認識装置100は、実空間上において鉛直方向に伸びるエッジ線を検出する。鉛直方向に伸びるエッジ線が多く検出されるということは、検出領域A1,A2に立体物が存在する可能性が高いということである。このため、立体物検出部37は、エッジ線検出部36により検出されたエッジ線の量に基づいて立体物を検出する。さらに、立体物検出部37は、立体物を検出するに先立って、エッジ線検出部36により検出されたエッジ線が正しいものであるか否かを判定する。立体物検出部37は、エッジ線上の鳥瞰視画像のエッジ線に沿った輝度変化が所定の閾値よりも大きいか否かを判定する。エッジ線上の鳥瞰視画像の輝度変化が閾値よりも大きい場合には、当該エッジ線が誤判定により検出されたものと判断する。一方、エッジ線上の鳥瞰視画像の輝度変化が閾値よりも大きくない場合には、当該エッジ線が正しいものと判定する。なお、この閾値は、実験等により予め設定された値である。
図28は、エッジ線の輝度分布を示す図であり、図28(a)は検出領域A1に立体物としての他車両VXが存在した場合のエッジ線及び輝度分布を示し、図28(b)は検出領域A1に立体物が存在しない場合のエッジ線及び輝度分布を示す。
図28(a)に示すように、鳥瞰視画像において他車両VXのタイヤゴム部分に設定された注目線Laがエッジ線であると判断されていたとする。この場合、注目線La上の鳥瞰視画像の輝度変化はなだらかなものとなる。これは、カメラ1により撮像された画像が鳥瞰視画像に視点変換されたことにより、他車両VXのタイヤが鳥瞰視画像内で引き延ばされたことによる。一方、図28(b)に示すように、鳥瞰視画像において路面に描かれた「50」という白色文字部分に設定された注目線Laがエッジ線であると誤判定されていたとする。この場合、注目線La上の鳥瞰視画像の輝度変化は起伏の大きいものとなる。これは、エッジ線上に、白色文字における輝度が高い部分と、路面等の輝度が低い部分とが混在しているからである。
以上のような注目線La上の輝度分布の相違に基づいて、立体物検出部37は、エッジ線が誤判定により検出されたものか否かを判定する。立体物検出部37は、エッジ線に沿った輝度変化が所定の閾値よりも大きい場合には、当該エッジ線が誤判定により検出されたものであると判定する。そして、当該エッジ線は、立体物の検出には使用しない。これにより、路面上の「50」といった白色文字や路肩の雑草等がエッジ線として判定されてしまい、立体物の検出精度が低下することを抑制する。
具体的には、立体物検出部37は、下記数式4,5の何れかにより、エッジ線の輝度変化を算出する。このエッジ線の輝度変化は、実空間上における鉛直方向の評価値に相当する。下記数式4は、注目線La上のi番目の輝度値I(xi,yi)と、隣接するi+1番目の輝度値I(xi+1,yi+1)との差分の二乗の合計値によって輝度分布を評価する。下記数式5は、注目線La上のi番目の輝度値I(xi,yi)と、隣接するi+1番目の輝度値I(xi+1,yi+1)との差分の絶対値の合計値よって輝度分布を評価する。
(数式4)
鉛直相当方向の評価値=Σ[{I(xi,yi)−I(xi+1,yi+1)}2]
(数式5)
鉛直相当方向の評価値=Σ|I(xi,yi)−I(xi+1,yi+1)|
なお、数式5に限らず、下記数式6のように、閾値t2を用いて隣接する輝度値の属性bを二値化して、当該二値化した属性bを全ての注目点Paについて総和してもよい。
(数式6)
鉛直相当方向の評価値=Σb(xi,yi)
但し、|I(xi,yi)−I(xi+1,yi+1)|>t2のとき、
b(xi,yi)=1
上記以外のとき、
b(xi,yi)=0
注目点Paiの輝度値と参照点Priの輝度値との輝度差の絶対値が閾値t2よりも大きい場合、当該注目点Pa(xi,yi)の属性b(xi,yi)は‘1’となる。それ以外の関係である場合には、注目点Paiの属性b(xi,yi)は‘0’となる。この閾値t2は、注目線Laが同じ立体物上にないことを判定するために実験等によって予め設定されている。そして、立体物検出部37は、注目線La上の全注目点Paについての属性bを総和して、鉛直相当方向の評価値を求めて、エッジ線が正しいものかを判定する。
次に、本実施形態に係るエッジ情報を利用した立体物検出方法について説明する。図29及び図30は、本実施形態に係る立体物検出方法の詳細を示すフローチャートである。なお、図29及び図30においては、便宜上、検出領域A1を対象とする処理について説明するが、検出領域A2についても同様の処理が実行される。
図29に示すように、先ずステップS21において、カメラ1は、画角a及び取付位置によって特定された所定領域を撮像する。次に視点変換部31は、ステップS22において、ステップS21にてカメラ1により撮像された撮像画像データを入力し、視点変換を行って鳥瞰視画像データを生成する。
次に輝度差算出部35は、ステップS23において、検出領域A1上に注目線Laを設定する。このとき、輝度差算出部35は、実空間上において鉛直方向に伸びる線に相当する線を注目線Laとして設定する。次に輝度差算出部35は、ステップS24において、検出領域A1上に参照線Lrを設定する。このとき、輝度差算出部35は、実空間上において鉛直方向に伸びる線分に該当し、且つ、注目線Laと実空間上において所定距離離れた線を参照線Lrとして設定する。
次に輝度差算出部35は、ステップS25において、注目線La上に複数の注目点Paを設定する。この際に、輝度差算出部35は、エッジ線検出部36によるエッジ検出時に問題とならない程度の数の注目点Paを設定する。また、輝度差算出部35は、ステップS26において、実空間上において注目点Paと参照点Prとが略同じ高さとなるように、参照点Prを設定する。これにより、注目点Paと参照点Prとが略水平方向に並ぶこととなり、実空間上において鉛直方向に伸びるエッジ線を検出しやすくなる。
次に輝度差算出部35は、ステップS27において、実空間上において同じ高さとなる注目点Paと参照点Prとの輝度差を算出する。次にエッジ線検出部36は、上記の数式1に従って、各注目点Paの属性sを算出する。次にエッジ線検出部36は、ステップS28において、上記の数式2に従って、各注目点Paの属性sの連続性cを算出する。次にエッジ線検出部36は、ステップS29において、上記数式3に従って、連続性cの総和を正規化した値が閾値θより大きいか否かを判定する。正規化した値が閾値θよりも大きいと判断した場合(S29:YES)、エッジ線検出部36は、ステップS30において、当該注目線Laをエッジ線として検出する。そして、処理はステップS31に移行する。正規化した値が閾値θより大きくないと判断した場合(S29:NO)、エッジ線検出部36は、当該注目線Laをエッジ線として検出せず、処理はステップS31に移行する。この閾値θは予め設定しておくことができるが、制御部39に制御命令に応じて変更することもできる。
ステップS31において、輝度差算出部35は、検出領域A1上に設定可能な注目線Laの全てについて上記のステップS23〜ステップS30の処理を実行したか否かを判断する。全ての注目線Laについて上記処理をしていないと判断した場合(S31:NO)、ステップS23に処理を戻して、新たに注目線Laを設定して、ステップS31までの処理を繰り返す。一方、全ての注目線Laについて上記処理をしたと判断した場合(S31:YES)、処理は図30のステップS32に移行する。
図30のステップS32において、立体物検出部37は、図29のステップS30において検出された各エッジ線について、当該エッジ線に沿った輝度変化を算出する。立体物検出部37は、上記数式4,5,6の何れかの式に従って、エッジ線の輝度変化を算出する。次に立体物検出部37は、ステップS33において、エッジ線のうち、輝度変化が所定の閾値よりも大きいエッジ線を除外する。すなわち、輝度変化の大きいエッジ線は正しいエッジ線ではないと判定し、エッジ線を立体物の検出には使用しない。これは、上述したように、検出領域A1に含まれる路面上の文字や路肩の雑草等がエッジ線として検出されてしまうことを抑制するためである。したがって、所定の閾値とは、予め実験等によって求められた、路面上の文字や路肩の雑草等によって発生する輝度変化に基づいて設定された値となる。
次に立体物検出部37は、ステップS34において、エッジ線の量が第2閾値β以上であるか否かを判断する。なお、この第2閾値βは、予め実験等によって求めておいて設定しておき、図15に示す制御部39が発する制御命令に従い変更することもできるが、その詳細については後述する。例えば、検出対象の立体物として四輪車を設定した場合、当該第2閾値βは、予め実験等によって検出領域A1内において出現した四輪車のエッジ線の数に基づいて設定される。エッジ線の量が第2閾値β以上であると判定した場合(S34:YES)、立体物検出部37は、ステップS35において、検出領域A1内に立体物が存在すると検出する。一方、エッジ線の量が第2閾値β以上ではないと判定した場合(S34:NO)、立体物検出部37は、検出領域A1内に立体物が存在しないと判断する。その後、図29及び図30に示す処理は終了する。検出された立体物は、自車両Vが走行する車線の隣の隣接車線を走行する他車両VXであると判断してもよいし、検出した立体物の自車両Vに対する相対速度を考慮して隣接車線を走行する他車両VXであるか否かを判断してもよい。この第2閾値βは予め設定しておくことができるが、制御部39に制御命令に応じて変更することもできる。
以上のように、本実施形態のエッジ情報を利用した立体物の検出方法によれば、検出領域A1,A2に存在する立体物を検出するために、鳥瞰視画像に対して実空間において鉛直方向に伸びる線分としての鉛直仮想線を設定する。そして、鉛直仮想線に沿った複数の位置ごとに、当該各位置の近傍の2つの画素の輝度差を算出し、当該輝度差の連続性に基づいて立体物の有無を判定することができる。
具体的には、鳥瞰視画像における検出領域A1,A2に対して、実空間において鉛直方向に伸びる線分に該当する注目線Laと、注目線Laとは異なる参照線Lrとを設定する。そして、注目線La上の注目点Paと参照線Lr上の参照点Prとの輝度差を注目線La及び参照線Laに沿って連続的に求める。このように、点同士の輝度差を連続的に求めることにより、注目線Laと参照線Lrとの輝度差を求める。注目線Laと参照線Lrとの輝度差が高い場合には、注目線Laの設定箇所に立体物のエッジがある可能性が高い。これによって、連続的な輝度差に基づいて立体物を検出することができる。特に、実空間において鉛直方向に伸びる鉛直仮想線同士との輝度比較を行うために、鳥瞰視画像に変換することによって立体物が路面からの高さに応じて引き伸ばされてしまっても、立体物の検出処理が影響されることはない。したがって、本例の方法によれば、立体物の検出精度を向上させることができる。
また、本例では、鉛直仮想線付近の略同じ高さの2つの点の輝度差を求める。具体的には、実空間上で略同じ高さとなる注目線La上の注目点Paと参照線Lr上の参照点Prとから輝度差を求めるので、鉛直方向に伸びるエッジが存在する場合における輝度差を明確に検出することができる。
更に、本例では、注目線La上の注目点Paと参照線Lr上の参照点Prとの輝度差に基づいて注目点Paに属性付けを行い、注目線Laに沿った属性の連続性cに基づいて当該注目線Laがエッジ線であるかを判断するので、輝度の高い領域と輝度の低い領域との境界をエッジ線として検出し、人間の自然な感覚に沿ったエッジ検出を行うことができる。この効果について詳細に説明する。図31は、エッジ線検出部36の処理を説明する画像例を示す図である。この画像例は、輝度の高い領域と輝度の低い領域とが繰り返される縞模様を示す第1縞模様101と、輝度の低い領域と輝度の高い領域とが繰り返される縞模様を示す第2縞模様102とが隣接した画像である。また、この画像例は、第1縞模様101の輝度が高い領域と第2縞模様102の輝度の低い領域とが隣接すると共に、第1縞模様101の輝度が低い領域と第2縞模様102の輝度が高い領域とが隣接している。この第1縞模様101と第2縞模様102との境界に位置する部位103は、人間の感覚によってはエッジとは知覚されない傾向にある。
これに対し、輝度の低い領域と輝度が高い領域とが隣接しているために、輝度差のみでエッジを検出すると、当該部位103はエッジとして認識されてしまう。しかし、エッジ線検出部36は、部位103における輝度差に加えて、当該輝度差の属性に連続性がある場合にのみ部位103をエッジ線として判定するので、エッジ線検出部36は、人間の感覚としてエッジ線として認識しない部位103をエッジ線として認識してしまう誤判定を抑制でき、人間の感覚に沿ったエッジ検出を行うことができる。
さらに、本例では、エッジ線検出部36により検出されたエッジ線の輝度変化が所定の閾値よりも大きい場合には、当該エッジ線が誤判定により検出されたものと判断する。カメラ1により取得された撮像画像を鳥瞰視画像に変換した場合、当該撮像画像に含まれる立体物は、引き伸ばされた状態で鳥瞰視画像に現れる傾向がある。例えば、上述したように他車両VXのタイヤが引き伸ばされた場合に、タイヤという1つの部位が引き伸ばされるため、引き伸ばされた方向における鳥瞰視画像の輝度変化は小さい傾向となる。これに対し、路面に描かれた文字等をエッジ線として誤判定した場合に、鳥瞰視画像には、文字部分といった輝度が高い領域と路面部分といった輝度が低い領域とが混合されて含まれる。この場合に、鳥瞰視画像において、引き伸ばされた方向の輝度変化は大きくなる傾向がある。したがって、本例のようにエッジ線に沿った鳥瞰視画像の輝度変化を判定することによって、誤判定により検出されたエッジ線を認識することができ、立体物の検出精度を高めることができる。
《立体物の最終判断》
図15に戻り、上述した2つの立体物検出部33(又は立体物検出部37)による立体物の検出にあたり、本例の車載用周囲環境認識装置100における他車両認識部204bは、立体物判断部34と、虚像判断部38と、制御部39とを備える。立体物判断部34は、立体物検出部33(又は立体物検出部37)による検出結果に基づいて、検出された立体物が検出領域A1,A2に存在する他車両VXであるか否かを最終的に判断する。立体物検出部33(又は立体物検出部37)は、後述する虚像判断部38の判断結果を反映させた立体物の検出を行う。虚像判断部38は、検出された立体物に対応する画像のテクスチャ分析の結果から、検出された立体物が路面に形成された水膜などに建物などの像が移り込んだ虚像であるか否かを判断する。制御部39は、虚像判断部38により検出された立体物に対応する画像が虚像であると判断された場合には、検出される立体物が検出領域A1,A2に存在する他車両Vであると判断されることが抑制されるように他車両認識部204bを構成する各部(制御部39を含む)を制御する制御命令を出力する。
本実施形態の立体物判断部34は、立体物検出部33、37において検出された立体物が検出領域A1,A2に存在する他車両VXであるか否かを最終的に判断する。立体物判断部34が検出された立体物が検出領域A1,A2に存在する他車両VXであると判断した場合には、乗員への報知などの処理が実行される。この立体物判断部34は、制御部39の制御命令に従い、検出された立体物が他車両VXであると判断することを抑制することができる。具体的に、虚像判断部38により検出された立体物の像が虚像であると判断された場合には、制御部39は、検出された立体物が他車両VXであると判断することを抑制する制御命令を立体物判断部34に送出する。立体物判断部34は、この制御命令に従い立体物の判断処理を中止し、又は検出された立体物は他車両VXではない、つまり検出領域A1,A2には他車両VXは存在しないと判断する。もちろん、制御命令を取得しない場合には、立体物検出部33、37において検出された立体物は検出領域A1,A2に存在する他車両VXであると判断することもできる。
本実施形態の虚像判断部38の処理について説明する。本実施形態の虚像判断部38は、立体物検出部33により生成された差分波形情報に基づいて、検出に係る立体物の像が虚像であるか否かを判断することができる。特に限定されないが、本実施形態の虚像判断部38は、立体物に対応する画像情報、特に鉛直方向に沿う立体物の輪郭に対応する画像情報の画像領域の輝度差が所定値未満である場合には、画像領域を含む領域において検出された立体物は虚像であると判断する。
具体的に、虚像判断部38は、鳥瞰視画像を視点変換した際に立体物が倒れ込む方向に沿う判定線(図17のLa〜Lf)のうち、差分波形情報においてカウントされた度数が所定値以上である一つの基準判定線(例えばLa)を特定し、基準判定線(La)上の画像領域の輝度と基準判定線と隣り合う判定線(Lc又はLd)を含む一又は複数の比較判定線(Lb,Lc,Ld,Le)上の画像領域の輝度との輝度差が所定値未満であるか否かを判断し、輝度差が所定値未満である場合には、画像領域を含む領域において検出された立体物は虚像であると判断する。輝度差の比較は、基準判定線(La)上のある一画素又はこの画素を含む画像領域の輝度と、比較判定線(Lb,Lc,Ld,Le)のある一画素又はこの画素を含む画像領域の輝度とを比較することができる。また、輝度差は、図17に示す差分波形情報における所定の差分を示す画素数又は度数分布化された値に基づいて判断することができる。
鳥瞰視画像を視点変換した際に立体物が倒れ込む方向に沿う判定線であって、隣接する複数の判定線上の画素又は画像領域の輝度差が小さく、検出された立体物に対応する画像領域のコントラストが低い場合には、この画像は実在する立体物から得た像ではなく、立体物が路面の水たまり(水膜)に映りこんだ虚像であると判断することができる。
このとき、虚像判断部38は、基準判定線(La)上の画像領域の輝度との輝度差が所定値未満である画像領域を含む比較判定線(Lb,Lc,Ld,Le)が所定数以上ある場合には、画像領域を含む領域において検出された立体物は虚像であると判断することができる。このように、広い範囲でコントラストの有無を検証して、虚像であるか否かを判断することにより、虚像であるか否かの判断を正確に行うことができる。
図32は、検出領域A2内の路面に水溜り(水膜)が形成され、その表面に周囲の構造物の像が映りこんでいる状態を示す図である。図33、図34は、検出領域A1に実在する他車両VXの画像の鳥瞰視画像から生成した差分波形情報DWt1と、検出領域A2に形成された水膜に周囲の構造物の像が映り込んだ画像の鳥瞰視画像から生成した差分波形情報DWt2とを示す。図33の左側の図及び図34(A)に示すように、実在する他車両VXの鳥瞰視画像から生成された差分波形情報DWt1には立体物の倒れ込み方向に沿った所定の差分を示す画素が検出され、立体物の外観特徴に応じたピークが見られるのに対して、図33の右側の図及び図34(B)に示すように、周囲構造物が水膜に映り込んだ虚像の鳥瞰視画像から生成された差分波形情報DWt2には立体物の倒れ込み方向に沿った所定の差分を示す画素数には変化がなく、立体物特有のピークがない。このように、本実施形態では、路面の水膜に周囲構造物が映り込んだ虚像の画像は、コントラストが低いという特徴を利用して、検出された立体物に対応する像が実像であるのか虚像であるのかを判断することができる。
また、同様の観点から、本実施形態の虚像判断部38は、立体物検出部37により生成されたエッジ情報に基づいて、検出に係る立体物の像が虚像であるか否かを判断することができる。具体的に、虚像判断部38は、鳥瞰視画像を視点変換した際に立体物が倒れ込む方向に沿う判定線(図26のLa〜Ld,Lr)のうち、互いに隣接する画像領域の輝度差が所定閾値以上であるエッジが検出された一つの基準判定線(例えばLr)を特定し、基準判定線(Lr)上の画像領域の輝度と基準判定線(Lr)と隣り合う判定線(Lb〜Lc)を含む一又は複数の比較判定線(La〜Ld)上の画像領域の輝度との輝度差が所定値未満である場合には、画像領域を含む領域において検出された立体物は虚像であると判断する。このとき、虚像判断部38は、基準判定線(Lr)上の画像領域の輝度との輝度差が所定値未満である画像領域を含む比較判定線(Lb〜Lc)が所定数以上ある場合には、画像領域を含む領域において検出された立体物は虚像であると判断することができる。このように、広い範囲でコントラストの有無を検証して、虚像であるか否かを判断することにより、虚像であるか否かの判断を正確に行うことができる。
本実施形態の虚像判断部38は、検出領域A1と検出領域A2の画像情報のコントラストに基づいて検出した立体物に対応する画像情報が虚像であるか又は実像であるかを判断する。本実施形態において画像情報のコントラストは、検出領域A1と検出領域A2の画像情報のテクスチャの特徴量に基づいて算出する。本実施形態において、画像情報のテクスチャの抽出、評価、定量などの手法は出願時に知られているテクスチャ解析手法を適宜に適用することができる。
次に、制御部39について説明する。本実施形態の制御部39は、前回の処理において虚像判断部38が立体物検出部33により検出された立体物が虚像であると判断した場合には、次回の処理において立体物検出部33,37、立体物判断部34、虚像判断部38、又は自身である制御部39の何れか一つ以上の各部において実行される制御命令を生成することができる。
本実施形態の制御命令は、検出される立体物が他車両VXであると判断されることが抑制されるように各部の動作を制御するための命令である。周囲構造物が路面の水膜に映り込んだ虚像を、誤って他車両VXと判断することを防止するためである。本実施形態の他車両認識部204bはコンピュータであるため、立体物検出処理、立体物判断処理、虚像判断処理に対する制御命令は各処理のプログラムに予め組み込んでもよいし、実行時に送出してもよい。本実施形態の制御命令は、検出された立体物を他車両として判断する処理を中止させたり、検出された立体物を他車両ではないと判断させたりする結果に対する命令であってもよいし、差分波形情報に基づいて立体物を検出する際の感度を低下させる命令、エッジ情報に基づいて立体物を検出する際の感度を調整する命令、虚像であるか否かを判断する際の輝度差の値を調整する命令であってもよい。
以下、制御部39が出力する各制御命令について説明する。
まず、差分波形情報に基づいて立体物を検出する場合の制御命令について説明する。先述したように、立体物検出部33は、差分波形情報と第1閾値αとに基づいて立体物を検出する。そして、本実施形態の制御部39は、虚像判断部38が立体物に対応する像が虚像であると判断した場合には、第1閾値αを高くする制御命令を生成し、立体物検出部33に出力する。第1閾値αとは、図23のステップS7において、差分波形DWtのピークを判断するための第1閾値αである(図17参照)。また、制御部39は、差分波形情報における画素値の差分に関する閾値pを高くする制御命令を立体物検出部33に出力することができる。
制御部39は、前回の処理で立体物に対応する画像情報が虚像であると判断されると、検出領域A1,A2には水膜が形成されており、検出領域A1,A2の画像情報に周囲の構造物が映り込む可能性が高いと判断できる。このまま、通常と同じ手法で立体物を検出すると、検出領域A1,A2には他車両VXが存在しないにもかかわらず、水膜に映り込んだ虚像を他車両VXの実像と誤検出する場合がある。このため、本実施形態では、次回の処理においては立体物が検出されにくいように、差分波形情報を生成する際の画素値の差分に関する閾値を高く変更する。このように、判断の閾値を高く変更することにより、自車両Vの走行車線の隣を走行する他車両VXが検出されにくいように検出感度が調整されるため、水膜に映り込んだ周囲構造物を隣の車線を走行する他車両VXとして誤検出することを防止することができる。
また、本実施形態の制御部39は、虚像判断部38が立体物に対応する画像情報が虚像であると判断した場合には、鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値を低く出力する制御命令を立体物検出部33に出力することができる。鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値とは、図23のステップS5において生成される差分波形DWtの縦軸の値である。制御部39は、前回の処理で立体物が虚像であると判断されると、検出領域A1,A2に水膜が形成されている可能性が高いと判断できるため、次回の処理においては検出領域A1,A2において他車両VXが誤検出されにくいように、差分波形DWtの度数分布化された値を低く変更する。このように、出力値を低くすることにより、自車両Vの走行車線の隣を走行する他車両VXが検出されにくいように検出感度が調整されるため、水膜に形成された虚像を隣の車線を走行する他車両VXとして誤検出することを防止することができる。
次に、エッジ情報に基づいて立体物を検出する場合の制御命令について説明する。本実施形態の制御部39は、虚像判断部38により立体物に対応する画像情報が虚像であると判断された場合には、エッジ情報を検出する際に用いられる輝度に関する所定閾値を高くする制御命令を立体物検出部37に出力する。エッジ情報を検出する際に用いられる輝度に関する所定閾値とは、図29のステップS29における各注目点Paの属性の連続性cの総和を正規化した値を判断する閾値θ、又は図30のステップ34におけるエッジ線の量を評価する第2閾値βである。制御部39は、前回の処理で立体物が虚像であると判断された場合には、検出領域A1,A2に水膜が形成され、この水膜に周囲構造物が映り込んでいる可能性が高いと判断できるため、次回の処理においては立体物が検出されにくいように、エッジ線を検出する際に用いられる閾値θ又はエッジ線の量を評価する第2閾値βを高く変更する。このように、判断の閾値を高く変更することにより、自車両Vの走行車線の隣を走行する他車両VXが検出されにくいように検出感度が調整されるため、水膜に映り込んだ周囲構造物の虚像を隣の車線を走行する他車両VXとして誤検出することを防止することができる。
また、本実施形態の制御部39は、虚像判断部38により立体物に対応する画像情報が虚像であると判断された場合には、検出したエッジ情報の量を低く出力する制御命令を立体物検出部37に出力する。検出したエッジ情報の量とは、図29のステップS29における各注目点Paの属性の連続性cの総和を正規化した値、又は図30のステップ34におけるエッジ線の量である。制御部39は、前回の処理で立体物が虚像であると判断されると、水たまりなどの水膜に周囲構造物が映り込んでいる可能性が高いと判断できるため、次回の処理においては立体物が検出されにくいように、各注目点Paの属性の連続性cの総和を正規化した値又はエッジ線の量を低く変更する。このように、出力値を低くすることにより、自車両Vの走行車線の隣を走行する他車両VXが検出されにくいように出力値を小さくすることで検出感度が調整されるため、水膜に映り込んだ周囲構造物の虚像を隣の車線を走行する他車両VXとして誤検出することを防止することができる。
さらに、本実施形態の制御部39は、検出領域A1,A2の輝度が所定値以上である場合には、第1閾値α、閾値p、第2閾値β又は閾値θの何れかをさらに高くする制御命令を生成し、立体物検出部33、37に出力することができる。検出領域A1、A2の輝度は、カメラ1の撮像画像から取得することができる。検出領域A1,A2の輝度が所定値よりも高く、明るい場合には検出領域A1,A2に光を反射する水膜が形成されている可能性が高いと判断できる。本実施形態では、検出領域A1,A2の輝度が所定値よりも高い場合には、自車両Vの走行車線の隣を走行する他車両VXが検出されにくいように閾値を高くすることで検出感度を調整することにより、水膜に映り込んだ周囲構造物の虚像を隣の隣接車線を走行する他車両VXとして誤検出することを防止することができる。
さらに、本実施形態の制御部39は、自車両Vの移動速度を車速センサ5から取得し、車速センサ5により検出された自車両Vの移動速度が所定値未満である場合には、第1閾値α、閾値p、第2閾値β又は閾値θをさらに高くする制御命令を生成し、立体物検出部へ出力することができる。自車両Vの移動速度が低いと差分波形情報における差分及びエッジ情報における差分の識別能が低下する傾向がある。つまり、自車両Vの移動速度が低いと、立体物の存在が差分波形情報又はエッジ情報に正確に反映されない場合がある。このため、本実施形態では、自車両の移動速度が所定値未満である場合には、自車両Vの走行車線の隣を走行する他車両VXが検出されにくいように、閾値を高くすることで検出感度を調整することにより、水膜に映り込んだ周囲構造物の虚像を隣の隣接車線を走行する他車両VXとして誤検出することを防止することができる。
さらにまた、本実施形態の制御部39は、上述した立体物検出部33,37が、検出された立体物の自車両Vに対する相対移動速度が所定値域以内である場合には、立体物を他車両VXなどの検出対象であると判断する処理において、自車両Vの走行車線の隣を走行する他車両VXが検出されにくいように検出感度を調整する。具体的に、本実施形態の制御部39は、虚像判断部38が立体物を虚像であると判断した場合には、立体物検出部33,37における相対移動速度を評価するための所定値域を縮小する制御命令を生成し、立体物検出部33,37へ出力する。前回の処理において検出された立体物が虚像であると判断された場合には、立体物は路面に形成された水膜の像であり、立体物として検出されたものは静止物であると推測することができる。このような静止物を、他車両VXと誤検出しないように、他車両VXであるか否かの判断に用いられる相対移動速度の所定値域を狭くして、検出感度を高くすることができる。
この場合において、制御部39は、相対移動速度を評価するための所定値域の負の値で示された下限値を高い値に変更して、所定値域を縮小する制御命令を生成することができる。具体的に、制御部39は、−20km〜100kmと定義されていた所定値域において負の値で示された下限値を高い値に変更し、例えば、−5km〜100kmと定義することができる。負の値で示された相対移動速度は、自車両Vの進行方向に対して後方に進む速度である。前回の処理において検出された立体物が虚像であると判断された場合には、立体物は路面に形成された水膜の像であり、立体物として検出されたものは静止物であると推測することができる。静止物は、走行する自車両Vの後方に流れる可能性があるので、負の値で示される所定速度以上で後方へ進むものは、水膜である可能性が高いため、これが他車両VXと誤検出されないように、これを排除するために所定値域において負の値で示された下限値を高い値に変更する。このように、負の値で示された下限値を高い値にすることにより、所定速度以上で後方に流れる水膜などを、他車両VXとして誤検出されないようにすることができる。
速度に関する閾値を調整するにあたり、制御部39は、検出領域A1,A2の輝度が所定値以上である場合には、相対移動速度を評価するための所定値域をさらに縮小する制御命令を生成し、立体物検出部33,37へ出力することができる。検出領域A1,A2の輝度は、先述したように、カメラ1の画像情報から取得することができる。検出領域A1,A2の輝度が所定値よりも高く、明るい場合には検出領域A1,A2に光を反射する水膜が形成されている可能性が高いと判断できる。本実施形態では、検出領域A1,A2の輝度が所定値よりも高い場合には、相対移動速度を評価するための所定値域をさらに縮小して自車両Vの走行車線の隣を走行する他車両VXが検出されにくいように検出感度を調整することにより、水膜に映り込んだ周囲構造物の虚像を隣の隣接車線を走行する他車両VXとして誤検出することを防止することができる。
同じく、速度に関する閾値を調整するにあたり、制御部39は、自車両Vの移動速度を車速センサ5から取得し、車速センサ5により検出された自車両Vの移動速度が所定値未満である場合には、相対移動速度を評価するための所定値域をさらに縮小する制御命令を生成し、立体物検出部33,37へ出力することができる。自車両Vの移動速度が低いと差分波形情報における差分及びエッジ情報における差分の識別能が低下する傾向がある。つまり、自車両Vの移動速度が低いと、立体物の存在が差分波形情報又はエッジ情報に正確に反映されない場合があり、他車両VX以外のものも立体物として検出してしまう傾向がある。このため、本実施形態では、自車両の移動速度が所定値未満である場合には、相対移動速度を評価するための所定値域をさらに縮小して自車両Vの走行車線の隣を走行する他車両VXが検出されにくいように、閾値を高くすることで検出感度を調整することにより、水膜に映り込んだ周囲構造物の虚像を隣の隣接車線を走行する他車両VXとして誤検出することを防止することができる。
以下、図35〜39を参照して、制御部39及び制御命令を取得した立体物判断部34、立体物検出部33,37の動作を説明する。図35〜39に示す処理は、前回の立体物検出処理の後に、前回処理の結果を利用して行われる今回の立体検出処理である。
まず、図35に示すステップS41において、虚像判断部38は、立体物検出部33により検出された立体物が虚像であるか否かを判断する。立体物が虚像であるか否かは、検出された立体物の画像情報のコントラストに基づいて行うことができる。この場合において、先述した立体物検出部33が生成した差分波形情報に基づいて行うこともできるし、立体物検出部37が生成したエッジ情報に基づいておこなうこともできる。
つぎに、ステップ42において、制御部39は、ステップ41において算出された虚像の判断において、検出された立体物が虚像であるか否かを判断する。
制御部39は、検出された立体物が虚像である場合には、検出される立体物が他車両VXであると判断されることが抑制されるように各部に制御命令を出力する。その一例として、ステップS46に進み、制御部39は立体物の検出処理を中止する内容の制御命令を立体物判断部34に出力する。また、他の例として、ステップS47に進み、制御部39は、検出された立体物は他車両VXではないと判断することもできる。
検出された立体物が虚像でない場合には、ステップS43に進み、立体物の検出処理を行う。この立体物の検出処理は上述した立体物検出部33による図23、図24の差分波形情報を用いた処理、又は立体物検出部37による図29、図30のエッジ情報を用いた処理に従って行われる。そして、ステップ43において、この立体物検出部33,37により検出領域A1,A2に立体物が検出された場合にはステップS45に進み、検出された立体物が他車両VXであると判断する。他方、立体物検出部33,37により検出領域A1,A2に立体物が検出されない場合にはステップS47に進み、検出領域A1,A2に他車両VXは存在しないと判断する。
図36に、他の処理例を示す。制御部39は、ステップ42において検出された立体物が虚像であると判断された場合には、ステップS51に進み、差分波形情報を生成する際の画素値の差分に関する閾値p、差分波形情報から立体物を判断する際に用いる第1閾値α、エッジ情報を生成する際の閾値θ、エッジ情報から立体物を判断する際に用いる第2閾値βの何れか一つ以上を高く設定する旨の制御命令を立体物検出部33,37へ送出する。先述したように、第1閾値αは、図23のステップS7において、差分波形DWtのピークを判断するためのである。閾値θは、図29のステップS29における各注目点Paの属性の連続性cの総和を正規化した値を判断する閾値であり、第2閾値βは、図30のステップ34におけるエッジ線の量を評価する閾値である。なお、制御部39は、閾値を上げる代わりに、閾値によって評価される出力値を下げる制御命令を生成し、立体物検出部33、37に出力してもよい。他の処理は、図35に示すものと同じである。
また、図37に示すように、制御部39は、ステップ42において検出された立体物が虚像であると判断された場合には、ステップS52に進み、検出領域A1,A2の輝度が所定値以上であるか否かを判断する。検出領域A1,A2の輝度が所定値以上である場合にはステップS53に進み、図36のステップS51の閾値をさらに上げる制御命令を生成し、立体物検出部33、37に出力してもよい。なお、制御部39は、閾値を上げる代わりに、閾値によって評価される出力値をさらに下げる制御命令を生成し、立体物検出部33、37に出力してもよい。他の処理は、図35に示すものと同じである。
さらに、図38に示すように、制御部39は、ステップ42において検出された立体物が虚像であると判断された場合には、ステップS54に進み、自車両の移動速度が所定値未満であるか否かを判断する。自車両の移動速度が所定値未満である場合にはステップS55に進み、図36のステップS51の閾値をさらに上げる制御命令を生成し、立体物検出部33、37に出力してもよい。なお、制御部39は、閾値を上げる代わりに、閾値によって評価される出力値をさらに下げる制御命令を生成し、他の処理は、図35に示すものと同じである。
なお、出力値を低くする場合には、制御部39は、鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値を低く出力する制御命令を立体物検出部33に出力する。鳥瞰視画像の差分画像上において所定の差分を示す画素数をカウントして度数分布化された値とは、図23のステップS5において生成される差分波形DWtの縦軸の値である。同様に、制御部39は、検出したエッジ情報の量を低く出力する制御命令を立体物検出部37に出力することができる。検出したエッジ情報の量とは、図29のステップS29における各注目点Paの属性の連続性cの総和を正規化した値、又は図30のステップ34におけるエッジ線の量である。制御部39は、前回の処理で検出された立体物が虚像であると判断された場合には、検出領域A1,A2に水膜が形成されていると判断できるため、次回の処理においては立体物が検出されにくいように、各注目点Paの属性の連続性cの総和を正規化した値又はエッジ線の量を低く変更する制御命令を立体物検出部37に出力することができる。
図39には、さらに他の処理例を示す。制御部39は、ステップ42において検出された立体物が虚像であると判断された場合には、ステップS61に進み、相対移動速度を評価するための所定値域を縮小する制御命令を生成し、立体物検出部33,37へ出力する。ちなみに、立体物検出部33,37は、検出された立体物の自車両に対する相対移動速度が所定値域以内である場合には、立体物を他車両などの検出対象として検出結果を立体物判断部34へ送出する。
図5のステップS130において、アプリ実行部204の他車両認識部204bは、以上説明したような他車両認識処理を実行することができる。
以上説明した本発明の第1の実施の形態によれば、次のような作用効果を奏する。
(1)車載用周囲環境認識装置100は、カメラ1により取得された撮影画像に基づいて、アプリ実行部204により、車両の周囲を走行している他車両を認識し、車両に対する他車両の相対速度を検出する(ステップS130)。また、映り込み判定部203により、撮影画像に基づいて路面への背景物の映り込みの有無を判定する(ステップS180)。そして、ステップS180で映り込みがあると判定した場合、警報制御部205から警報出力部3への警報出力信号を停止して(ステップS200)、警報出力部3による警報の出力を抑制する。このとき、ステップS130で検出した他車両の相対速度に基づいて、警報抑制調整部206により警報信号の出力の抑制度合いを調整し(ステップS160)、この調整された抑制度合いに応じて警報信号の出力を抑制する。このようにしたので、路面への背景物の映り込みが車両として誤検出されることで警報が誤ったタイミングで出力されるのを防止することができる。
(2)警報抑制調整部206は、ステップS160において、映り込み判定部203が路面への背景物の映り込みの有無を判定するための条件を他車両の相対速度に応じて変化させることにより、警報信号の出力の抑制度合いを調整することができる。具体的には、ステップS180で各領域の特徴量を比較してその相関性により路面への背景物の映り込みの有無を判定する際の基準値を変化させることで、警報抑制度合いの調整を行う。すなわち、車載用周囲環境認識装置100は、領域設定部201により、カメラ1により取得された撮影画像30に、背景領域34a〜34fおよび36a〜36fと、映り込み領域35a〜35fおよび37a〜37fとを設定する(ステップS20)。ステップS180において、映り込み判定部203は、撮影画像30のうち背景領域34a〜34f、36a〜36f内の画像と、撮影画像30のうち映り込み領域35a〜35f、37a〜37f内の画像とを比較し、その相関性が所定の閾値以上であるか否かを判定することにより、路面への背景物の映り込みの有無を判定する。ステップS160では、他車両の相対速度に応じてこの閾値を変化させる、より具体的には、他車両の相対速度が所定範囲内である場合は閾値を下げることにより、警報抑制度合いの調整を行う。このようにしたので、警報抑制度合いの調整を容易にかつ確実に行うことができる。さらに、ステップS180で背景物の映り込みの有無を判定するための条件を緩和して、警報抑制が行われやすくなるようにすることができる。
(3)警報抑制調整部206はまた、ステップS170で各領域の特徴量を算出する際の条件を変化させることでも、警報抑制度合いの調整を行うことができる。すなわち、車載用周囲環境認識装置100は、特徴量算出部202により、背景領域34a〜34f、36a〜36f内の画像と、映り込み領域35a〜35f、37a〜37f内の画像とで、所定の検出条件を満たすエッジをそれぞれ検出し、検出したエッジに応じた特徴量を背景領域34a〜34f、36a〜36fと映り込み領域35a〜35f、37a〜37fについてそれぞれ算出する(ステップS170)。ステップS180において、映り込み判定部203は、背景領域34a〜34f、36a〜36fの特徴量と、映り込み領域35a〜35f、37a〜37fの特徴量とを比較することにより、路面への背景物の映り込みの有無を判定する。ステップS160では、他車両の相対速度に応じてこの検出条件を変化させる、より具体的には、他車両の相対速度が所定範囲内である場合はエッジ検出条件としての輝度差を下げることにより、警報抑制度合いの調整を行う。このようにしても、警報抑制度合いの調整を容易にかつ確実に行うことができる。さらに、ステップS180で背景物の映り込みの有無を判定するための条件を緩和して、警報抑制が行われやすくなるようにすることができる。
(第2の実施の形態)
次に、本発明の第2の実施の形態について説明する。上記で説明した第1の実施の形態では、映り込み判定部203から映り込みありの通知を受けると、警報制御部205から警報出力部3に対する警報出力信号の出力を停止することで警報出力を抑制する場合の例を説明した。これに対して、本実施形態では、映り込み判定部203から映り込みありの通知を受けると、アプリ実行部204の他車両認識部204bが実行する他車両認識処理において他車両が認識されづらいようにすることで警報出力を抑制する場合の例を説明する。なお、本実施形態による車載用周囲環境認識装置100の構成や、路面映り込み時の警報抑制に関する制御部2の制御ブロック図は、図1、4にそれぞれ示したものと同じである。そのため、以下ではこれらの説明を省略する。
図40は、本実施形態において路面映り込み時の警報抑制で実行される処理のフローチャートである。このフローチャートに示す処理は、前述の第1の実施の形態で説明した図5のフローチャートと同様に、アプリケーション(アプリ)の実行中に、制御部2において所定の処理周期ごとに行われる。
なお、図40のフローチャートでは、図5のフローチャートと同一の処理を行う処理ステップに対して、図5と同じステップ番号を付している。以下では、この図5と同じステップ番号の各処理ステップについての説明は、特に必要のない限り省略する。
ステップS161において、制御部2は、警報抑制調整部206により、警報抑制度合いの調整を実行する。ここでは、以下の(A)、(B)、(C)のいずれかの方法により、他車両の相対速度が所定範囲内である場合は、そうでない場合と比べて警報抑制が行われやすくなるように、警報抑制の度合いを調整する。
(A)他車両認識条件の変更
この方法では、次回以降のステップS130の他車両認識処理において、路面への背景物の映り込みがあると判定されたときの他車両認識条件を変更する。すなわち、撮影画像中に設定された検出領域内の画像に基づく画像情報値として差分波形情報を取得し、これを基に前述のような差分波形情報による立体物の検出を実行することで他車両を認識する場合は、差分波形DWtから立体物が存在するか否かを判断するための閾値、具体的には図23のステップS7の判定に用いられる第1閾値αの値を大きくする。また、撮影画像中に設定された検出領域内の画像に基づく画像情報値としてエッジ情報を取得し、これを基に前述のようなエッジ情報による立体物の検出を実行することで他車両を認識する場合は、注目線がエッジ線であるか否かを判断するための閾値、具体的には数式3の閾値θの値を大きくする。これらの閾値の調整により、他車両認識条件を変更することができる。
あるいは、上記のような立体物の検出条件としての閾値の調整を行う代わりに、画像情報値を取得する際の条件を変更してもよい。すなわち、撮影画像中に設定された検出領域内の画像に基づく画像情報値として差分波形情報を取得し、これを基に前述のような差分波形情報による立体物の検出を実行することで他車両を認識する場合は、差分波形DWtの生成に用いられる差分画像PDtを得るための閾値、具体的には図16(b)で説明した閾値pの値を大きくする。また、撮影画像中に設定された検出領域内の画像に基づく画像情報値としてエッジ情報を取得し、これを基に前述のようなエッジ情報による立体物の検出を実行することで他車両を認識する場合は、注目点を属性付けするための閾値、具体的には数式1の閾値tの値を大きくする。これらの閾値の調整によっても、他車両認識条件を変更することができる。
以上説明したような方法により、ステップS130で他車両を認識するための条件を厳しくすることで、他車両が認識されにくいようにして警報出力の抑制の度合いを高めることができる。これにより、他車両の相対速度が所定範囲内である場合は、そうでない場合と比べて警報抑制が行われやすくなるように、警報抑制の度合いを調整する。なお、上述した立体物の検出条件としての閾値の調整と、画像情報値の取得条件としての閾値の調整とは、いずれか一方のみを行ってもよいし、両方を同時に行ってもよい。
(B)映り込み判定条件の変更
この方法では、前述の第1の実施形態で説明したのと同様の手法を用いて、ステップS180で路面への背景物の映り込みの有無を判定するための条件を変更する。すなわち、図6の背景領域34a〜34fと映り込み領域35a〜35f、および背景領域36a〜36fと映り込み領域37a〜37fの各領域間での画像の相関性を判断するための閾値を下げる。または、背景領域34a〜34fおよび36a〜36f、映り込み領域35a〜35fおよび37a〜37fの各領域に対するエッジ検出条件の輝度差を下げる。
以上説明したような方法により、ステップS180で路面への背景物の映り込みの有無を判定するための条件を緩和することで、映り込みありとの判定結果が得られやすいようにして警報出力の抑制の度合いを高めることができる。これにより、他車両の相対速度が所定範囲内である場合は、そうでない場合と比べて警報抑制が行われやすくなるように、警報抑制の度合いを調整する。なお、上述した相関性に対する閾値の調整と、エッジ検出条件の調整とは、いずれか一方のみを行ってもよいし、両方を同時に行ってもよい。
(C)警報抑制期間の延長
この方法では、路面への背景物の映り込みがないと判定された場合に警報抑制期間を延長する。すなわち、ステップS180の映り込み判定において、路面への背景物の映り込みがないと判定され、その後に映り込みなしと判定された場合に、映り込みなしとの判定結果が得られた後にも延長して警報の抑制を行うようにする。これにより、他車両の相対速度が所定範囲内である場合は、そうでない場合と比べて警報抑制が行われやすくなるように、警報抑制の度合いを調整する。なお、警報抑制を延長する期間は、背景物の映り込みなしと判定されてから他車両の相対速度が所定範囲内であることが継続している期間としてもよいし、所定時間または自車両が所定距離走行するまでの期間としてもよい。
ステップS161では、以上説明した(A)〜(C)のいずれか少なくとも1つの方法を用いて、警報抑制の度合いを調整することができる。なお、(A)〜(C)の各方法はそれぞれ単独で採用してもよいし、複数を任意に組み合わせてもよい。
ステップS190において、制御部2は、第1の実施の形態で説明した図5のフローチャートと同様に、ステップS180の映り込み判定の結果から、路面への背景物の映り込みの有無を判定する。車両の左後方および右後方のいずれか少なくとも一方において路面への背景物の映り込みがあるとステップS180で判定した場合は、ステップS190からステップS210へ進む。一方、車両の左右後方のいずれにおいても路面への背景物の映り込みがないとステップS180で判定した場合は、ステップS190からステップS220へ進む。
ステップS190からステップS210へ進んだ場合、制御部2はステップS210において、次回以降のステップS130の他車両認識処理に対して閾値Th1を採用する。一方、ステップS190からステップS220へ進んだ場合、制御部2はステップS220において、次回以降のステップS130の他車両認識処理に対して閾値Th0を採用する。ここで、Th1>Th0である。ステップS210またはS220を実行したら、制御部2は図40のフローチャートを終了する。
なお、上記の閾値Th1およびTh0は、前述のステップS161において(A)の方法で用いられる立体物の検出条件としての閾値に相当するものである。すなわち、撮影画像中に設定された検出領域内の画像に基づく画像情報値として差分波形情報を取得し、これを基に前述のような差分波形情報による立体物の検出を実行することで他車両を認識する場合は、図23のステップS7の判定に用いられる第1閾値αとして、Th1またはTh0いずれかの値を採用する。また、撮影画像中に設定された検出領域内の画像に基づく画像情報値としてエッジ情報を取得し、これを基に前述のようなエッジ情報による立体物の検出を実行することで他車両を認識する場合は、数式3の閾値θとして、Th1またはTh0いずれかの値を採用する。
以上説明したように、ステップS180の映り込み判定で路面への背景物の映り込みがあると判定した場合は、ステップS210において、映り込みがない場合の閾値Th0よりも高い閾値Th1を他車両認識処理での閾値として採用する。こうしてステップS130で他車両を認識するための条件を厳しくすることで、他車両が認識されにくいようにして警報出力を抑制することができる。なお、ステップS161で上記(A)の方法を用いる場合は、他車両の相対速度が所定範囲内であるときに、この路面への背景物の映り込みがあると判定されたときの閾値Th1を上げるか、または路面への背景物の映り込みがあると判定されたときの画像情報値の取得条件を厳しくすることで、警報出力がさらに抑制される。
図41〜図45は、以上説明したような本実施形態の車載用周囲環境認識装置100によって得られる誤警報の低減効果を説明するための図である。これらの図では、図41(a)〜図45(a)にそれぞれ示す他車両の相対速度が第1の実施の形態で説明した図12と同様に変化するものとして、警報抑制調整部206が行う警報出力の抑制度合いの調整により警報出力部3からの警報の出力タイミングがどのように変化するかをそれぞれ例示している。
図41および図42は、図40のステップS161において、前述の(A)〜(C)のうち(A)の方法を用いて警報抑制の度合いを調整した場合の例をそれぞれ示している。図41は、立体物の検出条件としての閾値、すなわち前述の第1閾値αまたは閾値θに相当する他車両認識の閾値Th1を調整した場合の例であり、図42は、画像情報値の取得条件としての閾値、すなわち前述の閾値pまたは閾値tを調整した場合の例である。
図41において、警報抑制調整部206は、路面への背景物の映り込みがあると判定された時刻Tr1から時刻Tr2の期間および時刻Tr3から時刻Tr4の期間では、図41(c)に示すように、他車両を認識するための閾値をTh0からTh1に変更することで警報出力を抑制する。さらに時刻Tr3から時刻Tr4の期間では、他車両の相対速度が所定範囲内であるため、閾値Th1を上げることで警報出力の抑制度合いの調整を実行する。なお、図41(c)において破線で示す部分は、警報出力の抑制度合いの調整を実行しない場合の閾値Th1を示している。
上記のようにして警報出力の抑制度合いを調整し、他車両を認識するための条件を厳しくすることにより、アプリ実行部204の他車両認識部204bでは他車両が認識されづらくなる。その結果、たとえば図41(c)に示すように、他車両が認識され始めるタイミングは、画像情報値50が調整前の閾値Th1を超える時刻To3から、映り込み無しと判定されて警報出力の抑制が終了される時刻Tr4へと変更される。なお、画像情報値50が閾値Th0を下回って他車両の認識が終了するタイミングについては、時刻To4のままで変更されない。これにより図41(d)に示すように、警報出力される期間が時刻Tr4から時刻To4までの期間に短縮される。なお、図41(d)において破線で示す部分は、警報出力の抑制度合いの調整を実行しない場合の警報出力のタイミングであり、上記の期間に加えて時刻To3から時刻Tr4の期間でも警報出力が行われることを示している。
以上説明したように、他車両の相対速度が所定範囲内であり、かつ映り込みありと判定された時刻Tr3から時刻Tr4の期間では、他車両を認識するための閾値Th1が変更されることで警報出力の抑制度合いが調整される。その結果、時刻To3から時刻Tr4の期間における警報出力を抑制することができる。
図42において、警報抑制調整部206は、路面への背景物の映り込みがあると判定された時刻Tr1から時刻Tr2の期間および時刻Tr3から時刻Tr4の期間では、図41の場合と同様に、他車両を認識するための閾値をTh0からTh1に変更することで警報出力を抑制する。さらに時刻Tr3から時刻Tr4の期間では、他車両の相対速度が所定範囲内であるため、画像情報値を取得する際の条件を厳しくすることで警報出力の抑制度合いの調整を実行する。
上記のようにして警報出力の抑制度合いを調整し、他車両を認識するための条件を厳しくすることにより、アプリ実行部204の他車両認識部204bでは、得られる画像情報値50がたとえば図42(c)に示すように減少し、他車両が認識されづらくなる。なお、図42(c)において画像情報値50のうち破線で示す部分は、警報出力の抑制度合いの調整を実行しない場合の値を示している。その結果、たとえば図42(c)に示すように、他車両が認識され始めるタイミングは、調整前の画像情報値50が閾値Th1を超える時刻To3から、映り込み無しと判定されて警報出力の抑制が終了される時刻Tr4へと変更される。これにより図42(d)に示すように、警報出力される期間が図41の場合と同様に、時刻Tr4から時刻To4までの期間に短縮される。なお、図42(d)において破線で示す部分は、警報出力の抑制度合いの調整を実行しない場合の警報出力のタイミングであり、上記の期間に加えて時刻To3から時刻Tr4の期間でも警報出力が行われることを示している。
以上説明したように、他車両の相対速度が所定範囲内であり、かつ映り込みありと判定された時刻Tr3から時刻Tr4の期間では、他車両を認識するための画像情報値50を取得する際の条件を厳しくすることで警報出力の抑制度合いが調整され、これに応じて画像情報値50が変更される。その結果、時刻To3から時刻Tr4の期間における警報出力を抑制することができる。
図43は、図40のステップS161において、前述の(A)〜(C)のうち(B)の方法を用いて警報抑制の度合いを調整した場合の例を示している。
図43において、警報抑制調整部206は、第1の実施の形態で説明した図12の場合と同様に、図43(a)に示す他車両の相対速度が所定範囲内である時刻Tv1から時刻Tv2の期間において、路面への背景物の映り込みの有無を判定するための条件を緩和することで警報出力の抑制度合いの調整を実行する。これにより、映り込み判定部203では、映り込み有りとの判定結果が得られやすくなる。その結果、たとえば図43(b)に示すように、映り込み無しと判定されるタイミングが時刻Tr4から時刻Tr4aへと移動され、映り込み有りとの判定結果が得られる期間が延長される。
上記のようにして映り込み有りとの判定結果が得られる期間が延長されると、それに応じて図43(c)に示すように、警報出力を抑制する期間も同じだけ延長される。すなわち、他車両を認識するための閾値をTh1からTh0に下げるタイミングが、時刻Tr4から時刻Tr4aに変更される。その結果、他車両の認識が終了するタイミングは、警報出力を抑制しない場合の閾値Th0を画像情報値50が下回る時刻To4から、警報出力を抑制した場合の閾値Th1を画像情報値50が下回る時刻To4aへと変更される。なお、画像情報値50が閾値Th1を超えて他車両が認識され始めるタイミングについては、時刻To3のままで変更されない。これにより図43(d)に示すように、警報出力される期間が時刻To3から時刻To4aまでの期間に短縮される。なお、図43(d)において破線で示す部分は、警報出力の抑制度合いの調整を実行しない場合の警報出力のタイミングであり、上記の期間に加えて時刻To4aから時刻To4の期間でも警報出力が行われることを示している。
以上説明したように、他車両の相対速度が所定範囲内である時刻Tv1から時刻Tv2の期間では、路面への背景物の映り込みの有無を判定するための条件を緩和することで警報出力の抑制度合いが調整され、これに応じて映り込み有りとの判定結果が得られる期間が延長される。その結果、時刻To4aから時刻To4の期間における警報出力を抑制することができる。
図44は、図40のステップS161において、前述の(A)〜(C)のうち(C)の方法を用いて警報抑制の度合いを調整した場合の例を示している。
図44において、警報抑制調整部206は、路面への背景物の映り込みがあると判定された時刻Tr1から時刻Tr2の期間および時刻Tr3から時刻Tr4の期間では、図41〜43の場合と同様に、他車両を認識するための閾値をTh0からTh1に変更することで警報出力を抑制する。さらに時刻Tr4の後にも、他車両の相対速度が所定範囲内である時刻Tv2まで閾値をTh1とする期間を延長することで警報出力の抑制度合いの調整を実行する。なお、図44(c)において破線で示す部分は、警報出力の抑制度合いの調整を実行しない場合に閾値をTh1からTh0に下げるタイミングを示している。
上記のようにして警報出力の抑制度合いを調整することで、他車両を認識するための閾値をTh1からTh0に下げるタイミングが時刻Tr4から時刻Tv2に変更される。その結果、他車両の認識が終了するタイミングは、図43の場合と同様に、警報出力を抑制しない場合の閾値Th0を画像情報値50が下回る時刻To4から、警報出力を抑制した場合の閾値Th1を画像情報値50が下回る時刻To4aへと変更される。これにより図44(d)に示すように、警報出力される期間が時刻To3から時刻To4aまでの期間に短縮される。なお、図44(d)において破線で示す部分は、警報出力の抑制度合いの調整を実行しない場合の警報出力のタイミングであり、上記の期間に加えて時刻To4aから時刻To4の期間でも警報出力が行われることを示している。
以上説明したように、路面への背景物の映り込みありとの判定が終了した時刻Tr4から他車両の相対速度が所定範囲内である時刻Tv2の期間では、警報抑制を延長して行うことで警報出力の抑制度合いが調整される。その結果、時刻To4aから時刻To4の期間における警報出力を抑制することができる。
図45は、図40のステップS161において、前述の(A)〜(C)のうち(A)の方法と(C)の方法とを組み合わせて用いて警報抑制の度合いを調整した場合の例を示している。なお、この図45の例では、(A)の方法において、立体物の検出条件としての閾値、すなわち前述の第1閾値αまたは閾値θを調整することとした。
図45において、警報抑制調整部206は、路面への背景物の映り込みがあると判定された時刻Tr1から時刻Tr2の期間および時刻Tr3から時刻Tr4の期間では、図45(c)に示すように、他車両を認識するための閾値をTh0からTh1に変更することで警報出力を抑制する。また、時刻Tr3から時刻Tr4の期間では、他車両の相対速度が所定範囲内であるため、閾値Th1を上げることで警報出力の抑制度合いの調整を実行する。さらに時刻Tr4の後にも、他車両の相対速度が所定範囲内である時刻Tv2まで閾値をTh1とする期間を延長することで警報出力の抑制度合いの調整を実行する。なお、(c)において破線で示す部分は、時刻Tr3から時刻Tr4の期間で警報出力の抑制度合いの調整を実行しない場合の閾値Th1と、時刻Tr4の後に警報出力の抑制度合いの調整を実行しない場合に閾値をTh1からTh0に下げるタイミングとを示している。
上記のようにして警報出力の抑制度合いを調整することにより、アプリ実行部204の他車両認識部204bでは他車両が認識されづらくなる。その結果、たとえば図45(c)に示すように、時刻Tr3から時刻Tv2の期間内で画像情報値50が調整後の閾値Th1を超えることがなくなり、他車両が認識されなくなる。これにより図45(d)に示すように、全ての期間で警報が出力されなくなる。すなわち、全ての期間における警報出力を抑制することができる。なお、図45(d)において破線で示す部分は、警報出力の抑制度合いの調整を実行しない場合の警報出力のタイミングであり、時刻To3から時刻To4の期間で警報出力が行われることを示している。
なお、以上説明した図45では、(A)の方法と(C)の方法とを組み合わせて用いて警報抑制の度合いを調整した場合の例を説明したが、これ以外の組み合わせとしてもよい。たとえば、(A)〜(C)全ての方法を組み合わせて用いることもできる。また、誤警報の発生状況等から、(A)〜(C)いずれの方法を単独で、または組み合わせて用いるかを判断してもよい。
以上説明した本発明の第2の実施の形態によれば、次のような作用効果を奏する。
(1)車載用周囲環境認識装置100は、カメラ1により取得された撮影画像に基づいて、アプリ実行部204により、車両の周囲を走行している他車両を認識し、車両に対する他車両の相対速度を検出する(ステップS130)。また、映り込み判定部203により、撮影画像に基づいて路面への背景物の映り込みの有無を判定する(ステップS180)。そして、ステップS180で映り込みがあると判定した場合、閾値Th1を採用して(ステップS210)、警報出力部3による警報の出力を抑制する。このとき、ステップS130で検出した他車両の相対速度に基づいて、警報抑制調整部206により警報信号の出力の抑制度合いを調整し(ステップS161)、この調整された抑制度合いに応じて警報信号の出力を抑制する。このようにしたので、第1の実施の形態と同様に、路面への背景物の映り込みが車両として誤検出されることで警報が誤ったタイミングで出力されるのを防止することができる。
(2)警報抑制調整部206は、ステップS161において、前述の(A)〜(C)のような方法を用いて警報信号の出力の抑制度合いを調整することができる。(B)の方法では、第1の実施の形態と同様に、映り込み判定部203が路面への背景物の映り込みの有無を判定するための条件を他車両の相対速度に応じて変化させることにより、警報信号の出力の抑制度合いを調整することができる。すなわち、ステップS180で各領域の特徴量を比較してその相関性により路面への背景物の映り込みの有無を判定する際の相関性の閾値や、ステップS170で各領域の特徴量を算出する際のエッジ検出条件を変化させることにより、警報抑制度合いの調整を行う。このようにしたので、警報抑制度合いの調整を容易にかつ確実に行うことができる。さらに、ステップS180で背景物の映り込みの有無を判定するための条件を緩和して、警報抑制が行われやすくなるようにすることができる。
(3)警報抑制調整部206は、(A)の方法では、アプリ実行部204が他車両を認識するための条件を他車両の相対速度に応じて変化させることにより、警報信号の出力の抑制度合いを調整することができる。すなわち、車載用周囲環境認識装置100は、アプリ実行部204により、撮影画像に設定された検出領域内の画像に基づく画像情報値50が所定の閾値Th0またはTh1以上であるか否かを判定することにより、他車両を認識する。ステップS161では、他車両の相対速度に応じてこの閾値を変化させる、より具体的には、他車両の相対速度が所定範囲内である場合は、他車両認識中の閾値Th1をさらに上げることにより、警報抑制度合いの調整を行う。このようにしたので、警報抑制度合いの調整を容易にかつ確実に行うことができる。さらに、ステップS130で他車両を認識するための条件を厳しくして、警報抑制が行われやすくなるようにすることができる。
(4)警報抑制調整部206は、(A)の方法ではまた、アプリ実行部204が他車両を認識するための別の条件を他車両の相対速度に応じて変化させることにより、警報信号の出力の抑制度合いを調整することもできる。すなわち、車載用周囲環境認識装置100は、アプリ実行部204により、撮影画像に設定された検出領域内の画像に基づく画像情報値が所定の取得条件を満たす場合にその画像情報値を検出対象として検出し、検出した画像情報値に基づいて他車両を認識する。ステップS161では、他車両の相対速度に応じてこの検出条件を変化させる、より具体的には、他車両の相対速度が所定範囲内である場合は、画像情報値の検出条件をより厳しく設定することにより、警報抑制度合いの調整を行う。このようにしたので、上記と同様に、警報抑制度合いの調整を容易にかつ確実に行うことができる。さらに、ステップS130で他車両を認識するための条件を厳しくして、警報抑制が行われやすくなるようにすることができる。
(5)警報抑制調整部206は、(C)の方法では、映り込み判定部203が路面への背景物の映り込みありと判定し、その後に路面への背景物の映り込みなしと判定したときに、他車両の相対速度に応じて警報信号の出力の抑制を延長して行うことにより、警報信号の出力の抑制度合いを調整することができる。より具体的には、他車両の相対速度が所定範囲内であることが継続されている期間または所定時間、警報信号の出力の抑制を延長することにより、警報抑制度合いの調整を行う。このようにしたので、上記と同様に、警報抑制度合いの調整を容易にかつ確実に行うことができる。さらに、ステップS130で他車両を認識するための条件を厳しくして、警報抑制が行われやすくなるようにすることができる。
なお、以上説明した各実施の形態では、他車両の相対速度が所定範囲内であることを条件に警報抑制度合いの調整を行うこととしたが、他車両の相対速度に対して別の条件を用いてもよい。たとえば、他車両の相対速度の変動(安定性)を確認し、これが所定範囲内であることを条件に警報抑制度合いの調整を行ってもよい。あるいは、これらの条件を組み合わせて用いてもよい。
また、以上説明した各実施の形態では、カメラ1が車両の後方の路面を撮影するようにしたが、車両の前方の路面を撮影してもよい。車両の周囲の路面を撮影できる限り、カメラ1の撮影範囲をどのように設定しても構わない。
以上説明した各実施の形態や各種の変形例はあくまで一例であり、発明の特徴が損なわれない限り、本発明はこれらの内容に限定されるものではない。
次の優先権基礎出願の開示内容は引用文としてここに組み込まれる。
日本国特許出願2012年第167603号(2012年7月27日出願)