以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書および図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
近年では、車両に搭載した車載カメラによって自車両の前方の道路環境を撮像し、撮像した画像内における色情報や位置情報に基づいて先行車両等の対象物を特定し、特定された対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ(ACC:Adaptive Cruise Control)、所謂衝突防止機能を搭載した車両が普及しつつある。
かかるACCや衝突防止機能では、例えば、自車両前方に位置する対象物の、自車両との相対距離を導出し、かかる相対距離に基づいて、自車両の前方に位置する対象物との衝突を回避したり、対象物が車両(先行車両)であった場合、その先行車両との相対距離を安全な距離に保つように制御する。また、先行車両のブレーキランプの点灯有無等を認識し、先行車両の減速動作を推測する処理を組み込むことで、より円滑なクルーズコントロールを実現することが可能となる。以下、このような目的を達成するための環境認識システムを説明し、その具体的な構成要素である車外環境認識装置を詳述する。
(環境認識システム100)
図1は、環境認識システム100の接続関係を示したブロック図である。環境認識システム100は、自車両1内に設けられた、撮像装置110と、車外環境認識装置120と、車両制御装置(ECU:Engine Control Unit)130とを含んで構成される。
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成され、自車両1の前方に相当する環境を撮像し、カラー値で表されるカラー画像を生成することができる。ここで、カラー値は、1つの輝度(Y)と2つの色差(UV)からなる、または、3つの色相(R(赤)、G(緑)、B(青))からなる数値群である。
また、撮像装置110は、自車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、自車両1の前方の検出領域に存在する対象物を撮像した画像データを、例えば1/20秒のフレーム毎(20fps)に連続して生成する。ここで、認識する対象物は、車両、歩行者、信号機、道路(進行路)、ガードレール、建物といった独立して存在する立体物のみならず、ブレーキランプ、ハイマウントストップランプ、テールランプ、ウィンカー、信号機の各点灯部分等、立体物の一部として特定できる物も含む。以下の実施形態における各機能部は、このような画像データの更新を契機としてフレーム毎に各処理を遂行する。
さらに、本実施形態において、撮像装置110は、車外環境の明るさ(照度計の計測結果等)に応じた露光時間や絞りを示す第1露光態様で検出領域を撮像し、第1画像を生成する。また、撮像装置110は、ブレーキランプ等、特定のランプが自発光しているか否かを判別可能な画像を生成する。その方法としては、ダイナミックレンジが広い撮像素子を用い、発光していない対象物が黒く潰れず、ランプが白とびしないように撮像してもよいし、第1露光態様とは露光態様(露光時間、絞り)が異なる第2露光態様で検出領域を撮像し、第2画像を生成してもよい。例えば、昼間であれば、明るい車外環境に応じた第1露光態様の露光時間より第2露光態様の露光時間を短くして、または、絞りを強くして第2画像を生成する。本実施形態において、第1画像および第2画像はそれぞれカラー画像および距離画像として用いられる。また、上記第1露光態様と第2露光態様とは、以下のようにして実現される。
例えば、撮像装置110の周期的な撮像タイミングを時分割し、第1露光態様による撮像と第2露光態様による撮像とを交互に行うことで、第1画像と第2画像とを順次生成することができる。また、画素毎に2つのキャパシタが設けられ、その2つのキャパシタに並行して電荷をチャージできる撮像素子において、一度の露光でチャージする時間を異ならせて露光態様の異なる2つの画像を並行して生成することもできる。さらに、1つのキャパシタの電荷のチャージ中に、時間を異ならせて2回読み出し、露光態様の異なる2つの画像を並行して生成したりすることでも上記の目的を達成できる。また、撮像装置110を、露光態様を異ならせて予め2セット準備しておき(ここでは、2つの撮像装置110×2セット)、2セットの撮像装置110からそれぞれ画像を生成したりすることも可能である。露光態様を支配する露光時間は、例えば1〜60msecの範囲で適切に制御される。
車外環境認識装置120は、2つの撮像装置110それぞれから画像データを取得し、一方の画像データから任意に抽出したブロック(例えば水平4画素×垂直4画素の配列)に対応するブロックを他方の画像データから検索する、所謂パターンマッチングを用いて視差、および、任意のブロックの画面内の位置を示す画面位置を含む視差情報を導出する。ここで、水平は、撮像した画像の画面横方向を示し、垂直は、撮像した画像の画面縦方向を示す。このパターンマッチングとしては、一対の画像間において、任意のブロック単位で輝度(Y)を比較することが考えられる。例えば、輝度値の差分をとるSAD(Sum of Absolute Difference)、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。車外環境認識装置120は、このようなブロック単位の視差導出処理を検出領域(例えば600画素×200画素)に映し出されている全てのブロックについて行う。ここでは、ブロックを4画素×4画素としているが、ブロック内の画素数は任意に設定することができる。
ただし、車外環境認識装置120では、検出分解能単位であるブロック毎に視差を導出することはできるが、そのブロックがどのような対象物の一部であるかを認識できない。したがって、視差情報は、対象物単位ではなく、検出領域における検出分解能単位(例えばブロック単位)で独立して導出されることとなる。ここでは、このようにして導出された視差情報を画像データに対応付けた画像を、上述したカラー画像と区別して距離画像という。
図2は、カラー画像126と距離画像128を説明するための説明図である。例えば、2つの撮像装置110を通じ、検出領域124について図2(a)のようなカラー画像(画像データ)126が生成されたとする。ただし、ここでは、理解を容易にするため、2つのカラー画像126の一方のみを模式的に示している。車外環境認識装置120は、このようなカラー画像126からブロック毎の視差を求め、図2(b)のような距離画像128を形成する。距離画像128における各ブロックには、そのブロックの視差が関連付けられている。ここでは、説明の便宜上、視差が導出されたブロックを黒のドットで表している。本実施形態では、このようなカラー画像126と距離画像128とを第1画像および第2画像それぞれに基づいて生成している。したがって、本実施形態では、第1画像に基づくカラー画像126、第1画像に基づく距離画像128、第2画像に基づくカラー画像126、第2画像に基づく距離画像128が用いられる。
また、車外環境認識装置120は、カラー画像126に基づくカラー値、および、距離画像128に基づく自車両1との相対距離を含む実空間における3次元の位置情報を用い、カラー値が等しく3次元の位置情報が近いブロック同士を対象物としてグループ化して、自車両1前方の検出領域における対象物がいずれの特定物(例えば、先行車両)に対応するかを特定する。例えば、相対距離等によって先行車両を特定し、さらに、カラー値によってその先行車両のブレーキランプの位置や点灯有無を把握することができる。このような処理により、ブレーキランプの点灯による当該車両の減速を迅速に把握し、衝突回避制御やACCに利用することが可能となる。
なお、上記相対距離は、距離画像128におけるブロック毎の視差情報を、所謂ステレオ法を用いて三次元の位置情報に変換することで求められる。ここで、ステレオ法は、三角測量法を用いることで、対象物の視差からその対象物の撮像装置110に対する相対距離を導出する方法である。
車外環境認識装置120は、対象物を任意の特定物、例えば、先行車両を特定すると、その先行車両を追跡しつつ、先行車両との相対距離および先行車両の相対速度等を導出し、先行車両と自車両1とが衝突する可能性が高いか否かの判定を行う。このとき、先行車両のブレーキランプを特定していれば、そのブレーキランプの点灯により先行車両の減速を早期に認識できる。ここで、先行車両と衝突の可能性が高いと判定した場合、車外環境認識装置120は、その旨、運転者の前方に設置されたディスプレイ122を通じて運転者に警告表示(報知)を行うとともに、車両制御装置130に対して、その旨を示す情報を出力する。
車両制御装置130は、ステアリングホイール132、アクセルペダル134、ブレーキペダル136を通じて運転者の操作入力を受け付け、操舵機構142、駆動機構144、制動機構146に伝達することで自車両1を制御する。また、車両制御装置130は、車外環境認識装置120の指示に従い、駆動機構144、制動機構146を制御する。例えば、車外環境認識装置120から先行車両と衝突の可能性が高い旨の情報が入力されると、車両制御装置130は、制動機構146を通じて運転者のブレーキ操作を支援する。
以下、車外環境認識装置120の構成について詳述する。ここでは、本実施形態に特徴的な、先行車両やブレーキランプの特定処理について詳細に説明し、本実施形態の特徴と無関係の構成については説明を省略する。
(車外環境認識装置120)
図3は、車外環境認識装置120の概略的な機能を示した機能ブロック図である。図3に示すように、車外環境認識装置120は、I/F部150と、データ保持部152と、中央制御部154とを含んで構成される。
I/F部150は、撮像装置110や車両制御装置130との双方向の情報交換を行うためのインターフェースである。データ保持部152は、RAM、フラッシュメモリ、HDD等で構成され、特定物テーブルや、以下に示す各機能部の処理に必要な様々な情報を保持し、また、撮像装置110から受信した画像データ(第1画像および第2画像に基づくカラー画像126、距離画像128)を一時的に保持する。ここで、特定物テーブルは、以下のように定義される。
図4は、特定物テーブル200を説明するための説明図である。特定物テーブル200では、複数の特定物に対して、カラー値(ここではR、G、B)の範囲を示すカラー範囲202と、道路表面からの高さの範囲を示す高さ範囲204と、特定物の水平距離の幅範囲206と、特定物の垂直距離の幅範囲208と、同一特定物との水平距離の差分210と、同一特定物との垂直距離の差分212と、同一特定物との面積比214とが対応付けられている。ここで、特定物としては、「ブレーキランプ(赤)」、「ハイマウントストップランプ(赤)」、「テールランプ(赤)」、「ウィンカー(橙)」等、車両を特定する際に要する様々な物が想定されている。ただし、特定物は図4に記載された物に限定されないのは言うまでもない。特定物のうち、例えば、特定物「ブレーキランプ(赤)」には、カラー範囲(R)「200以上」、カラー範囲(G)「50以下」、カラー範囲(B)「50以下」、高さ範囲「0.3〜2.0m」、水平距離の幅範囲「0.05〜0.2m」、垂直距離の幅範囲「0.05〜0.2m」、水平距離の差分「1.4〜1.9m」、垂直距離の差分「0.3m以下」、面積比「50〜200%」が対応付けられている。
図3に戻って説明すると、中央制御部154は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス156を通じて、I/F部150、データ保持部152等を制御する。また、本実施形態において、中央制御部154は、画像取得部160、位置情報導出部162、対象物特定部164、領域位置情報生成部166、領域予測位置導出部168、基準領域決定部170、類似領域抽出部172、統合領域生成部174、情報更新部176、位置対応付け部178、配置判定部180としても機能する。以下、各機能部の動作を説明するとともに、本実施形態に特徴的な車外環境認識処理について詳述する。
(車外環境認識処理)
図5は、車外環境認識処理を示すフローチャートである。車外環境認識装置120の画像取得部160は、撮像装置110から、車外環境の明るさに応じた第1露光態様で検出領域124を撮像した第1画像と、第1露光態様と露光態様が異なる第2露光態様で検出領域124を撮像した第2画像とを取得する(S300)。
続いて、位置情報導出部162は、第1画像に基づく距離画像128における検出領域124内のブロック毎の視差情報を、上述したステレオ法を用いて、水平距離x、(道路表面からの)高さyおよび相対距離zを含む三次元の位置情報に変換する(S302)。ここで、視差情報が、距離画像128における各ブロックの視差を示すのに対し、三次元の位置情報は、実空間における各ブロックの相対距離の情報を示す。また、視差情報が画素単位ではなくブロック単位、即ち複数の画素単位で導出されている場合、その視差情報はブロックに属する全ての画素の視差情報とみなして、画素単位の計算を実行することができる。かかる三次元の位置情報への変換については、特開2013−109391号公報等、既存の技術を参照できるので、ここでは、その詳細な説明を省略する。
次に、対象物特定部164は、第1画像および第2画像に基づいて、画像内の対象物がいずれの特定物に対応するか特定する。本実施形態において、対象物特定部164は、特に、先行する車両(先行車両)と、ブレーキランプ(ランプ)とを特定する(車両特定処理S304、ランプ特定処理S306)。したがって、以下では、対象物特定部164のうち、先行車両を特定する車両特定処理S304を実行する機能部を車両特定部164aとし、ブレーキランプを特定するランプ特定処理S306を実行する機能部をランプ特定部164bとして説明する。また、対象物特定部164(車両特定部164a、ランプ特定部164b)は、特定物が特定された対象物を追跡(追尾)し、その対象物の自車両1に対する相対距離、相対速度、相対加速度、および、自車両1の走行状態を加味した先行車両の絶対速度、絶対加速度も検出する。
図6は、車両特定部164aによる車両特定処理S304を示すフローチャートであり、図7および図8は、車両特定処理S304を説明するための説明図である。車両特定部164aは、まず、第1画像に基づく距離画像128の検出領域124を、水平方向に対して複数の分割領域216に分割する(S304−1)。すると、分割領域216は図7(a)のような短冊形状になる。このような短冊形状の分割領域216は、本来、例えば、水平幅4画素のものが150列配列してなるが、ここでは、説明の便宜上、検出領域124を16等分したもので説明する。
続いて、車両特定部164aは、分割領域216毎に、位置情報に基づき、道路表面より上方に位置する全てのブロックを対象に、複数に区分した所定距離それぞれに含まれる相対距離を積算してヒストグラム(図7(b)中、横長の四角(バー)で示す、以下、「距離ヒストグラム」と称する)を生成する(S304−2)。すると、図7(b)のような距離分布218が得られる。ここで、縦方向は、区分した所定距離(距離区分)を、横方向は、距離区分それぞれに相対距離が含まれるブロックの個数(度数)を示している。ただし、図7(b)は計算を行う上での仮想的な画面であり、実際には視覚的な画面の生成を伴わない。そして、車両特定部164aは、このようにして導出された距離分布218を参照し、ピークに相当する相対距離である代表距離(図7(b)中、黒で塗りつぶした四角で示す)220を特定する(S304−3)。ここで、ピークに相当するとは、ピーク値またはピーク近傍で任意の条件を満たす値をいう。
次に、車両特定部164aは、隣接する分割領域216同士を比較し、図8に示すように、代表距離220が近接する(例えば、1m以下に位置する)分割領域216をグループ化して1または複数の分割領域群222を生成する(S304−4)。このとき、3以上の分割領域216で代表距離220が近接していた場合にも、連続する全ての分割領域216を分割領域群222として纏める。かかるグループ化によって、車両特定部164aは、道路表面より上方に位置する立体物を特定することができる。
続いて、車両特定部164aは、分割領域群222内における、相対距離zが代表距離220に相当するブロックを基点として、そのブロックと、水平距離xの差分、高さyの差分および相対距離zの差分が予め定められた範囲(例えば0.1m)内にあるブロックとを、同一の特定物に対応すると仮定してグループ化する(S304−5)。こうして、仮想的なブロック群である対象物224が生成される。上記の範囲は実空間上の距離で表され、製造者や搭乗者によって任意の値に設定することができる。また、車両特定部164aは、グループ化により新たに追加されたブロックに関しても、そのブロックを基点として、水平距離xの差分、高さyの差分および相対距離zの差分が所定範囲内にあるブロックをさらにグループ化する。結果的に、同一の特定物と仮定可能なブロック全てがグループ化されることとなる。
また、ここでは、水平距離xの差分、高さyの差分および相対距離zの差分をそれぞれ独立して判定し、全てが所定範囲に含まれる場合のみ同一のグループとしているが、他の計算によることもできる。例えば、水平距離xの差分、高さyの差分および相対距離zの差分の二乗平均√((水平距離xの差分)2+(高さyの差分)2+(相対距離zの差分)2)が所定範囲に含まれる場合に同一のグループとしてもよい。かかる計算により、ブロック同士の実空間上の正確な距離を導出することができるので、グループ化精度を高めることができる。
次に、車両特定部164aは、グループ化した対象物224が、予め定められた車両に相当する所定の条件を満たしていれば、その対象物224を特定物「車両」として決定する(S304−6)。例えば、車両特定部164aは、グループ化された対象物224が道路上に位置する場合、その対象物224全体の大きさが、特定物「車両」の大きさに相当するか否かを判定し、特定物「車両」の大きさに相当すると判定されれば、その対象物224を特定物「車両」と特定する。ここで、車両特定部164aは、特定物「車両」と特定された対象物224が画面上占有する領域の外接矩形に相当する領域を車両領域とする。なお、外接矩形は、長方形であり、外縁の横方向が画像の横方向に平行となり、外縁の縦方向が画像の縦方向に平行となる。
続いて、車両特定部164aは、位置情報導出部162により導出された位置情報に基づいて、特定物「車両」と特定された対象物224の相対距離zおよび水平距離xを導出する(S304−7)。また、車両特定部164aは、システムバス156、I/F部150を通じて、車両制御装置130から自車両1の速度と、ヨーレートとを取得する(S304−8)。そして、車両特定部164aは、相対距離z、水平距離x、自車両1の速度、ヨーレートに基づいて、車両予測位置を導出する(S304−9)。車両予測位置は、次フレームにおける対象物224(車両)の相対位置と予測(推定)される位置である。
以上説明したように、車外環境認識装置120では、第1画像に基づく距離画像128から、1または複数の対象物224を、特定物、例えば、車両(先行車両)として抽出することができ、その情報を様々な制御に用いることが可能となる。例えば、検出領域124内の任意の対象物224が車両であると特定されると、特定した車両(先行車両)を追跡し、相対距離や相対加速度を導出して、先行車両との衝突を回避したり、先行車両との車間距離を安全な距離に保つように制御することができる。
続いて、ランプ特定部164bは、ランプ特定処理S306を実行する。図9は、ランプ特定処理S306を示すフローチャートである。ランプ特定部164bは、第2画像に基づくカラー画像126から、画素単位で3つの色相(R、G、B)のカラー値を取得する(S306−1)。このとき、検出領域124が例えば雨天や曇天であった場合、ランプ特定部164bは、本来のカラー値を取得できるようにホワイトバランスを調整してから取得してもよい。
ランプ特定部164bは、データ保持部152に保持された特定物テーブル200と、第2画像に基づくカラー画像126の各画素のカラー値とによって所定のランプを仮に特定する(S306−2)。具体的に、ランプ特定部164bは、特定物テーブル200に登録されている特定物から、第2露光態様に対応付けられた特定のランプ(ここでは「ブレーキランプ」)を選択し、取得した1の画素のカラー値が、選択した特定物のカラー範囲202に含まれるか否か判定する。そして、対象となるカラー範囲202に含まれれば、その画素を当該特定物「ブレーキランプ」と仮定する。
上記第2画像は、上述したように特定のランプ、例えば、特定物「ブレーキランプ」が自発光しているか否かを判別可能な第2露光態様で撮像した画像である。ここで、特定物「ブレーキランプ」のように自発光するものは、太陽や街灯の明るさに拘わらず、高いカラー値を取得することができる。特に、特定物「ブレーキランプ」の点灯時の明るさは法規で概ね規定されているので、所定の明るさしか露光できない露光態様(例えば、短時間の露光)で撮像することで、特定物「ブレーキランプ」に相当する画素のみを容易に抽出することが可能である。
図10は、第1露光態様による撮像と第2露光態様による撮像との違いを説明するための説明図である。図10(a)は、第1露光態様による第1画像を示し、特に、図10(a)の左図ではテールランプが点灯しており、図10(a)の右図ではテールランプに加えブレーキランプが点灯している。図10(a)を参照して理解できるように、車外環境の明るさに応じた第1露光態様では、ブレーキランプ非点灯かつテールランプ点灯時のテールランプ位置230のカラー値と、ブレーキランプ点灯かつテールランプ点灯時のブレーキランプ位置232とでカラー値の差がほとんど生じない。これは、露光時間の長い第1露光態様では、テールランプもブレーキランプもRGB成分全てのカラー値がサチレーションしてしまうことに起因する。
図10(b)は、第2露光態様による第2画像を示し、特に、図10(b)の左図ではテールランプが点灯しており、図10(b)の右図ではテールランプに加えブレーキランプが点灯している。第2露光態様は、ブレーキランプが点灯しているときのカラー値のみを取得可能に設定されている。したがって、図10(b)を参照して理解できるように、テールランプが点灯していてもテールランプ位置230では、その明るさに準じるカラー値をほとんど取得できず、ブレーキランプ点灯時のブレーキランプ位置232では、明確に高いカラー値を取得できている。
かかる第2露光態様では、ブレーキランプのカラー値が撮像素子において、R成分がサチレーションするかしないかといった程度の露光時間に設定することが望ましい。撮像装置110は、通常、ダイナミックレンジが人間より大幅に狭いので、夕方くらいの明度の低さで第1露光態様により撮像すると、車外環境に対して相対的にブレーキランプのカラー値が高くなる。すると、R成分のみならず、R成分とオーバーラップしてG成分やB成分も最大値(例えばカラー値が255)にサチレーションし、画素が白くなってしまう。そこで、第2露光態様を、ブレーキランプ点灯時にR成分がサチレーションするかしないかといった程度の露光時間とすることで、外部の環境に拘わらず、G成分やB成分のカラー値への影響を抑制しつつ、R成分のみを最大値で抽出する。こうして、例えば、テールランプとのカラー値差を最大限確保することが可能となる。
具体的に、夜間の走行時に先行車両が存在する場合に、テールランプが点灯している程度、例えば、カラー範囲(R)「50」、カラー範囲(G)「50」、カラー範囲(B)「50」程度では第2画像に表示されない。これに対して、ブレーキランプが点灯していると、図4の特定物テーブル200に示すように、カラー範囲202が、カラー範囲(R)「200以上」、カラー範囲(G)「50以下」、カラー範囲(B)「50以下」となり、第2露光態様で撮像したとしても、その位置が把握できる程度に第2画像に表示される。こうしてランプ特定部164bは、第2画像を通じて、ブレーキランプ等、所定のランプのみを特定することが可能となる。また、ここでは、第2露光態様による露光時間を固定しているが、車外環境に応じて自発的にまたは搭乗者の操作に応じて調整されるとしてもよい。
また、ランプ特定部164bは、ランプの候補とされた画素同士の水平距離xの差分、高さyの差分および相対距離zの差分が所定範囲(例えば0.1m)内にある場合、その複数の画素を1のランプ候補としてグループ化する(S306−3)。そして、ランプ特定部164bは、グループ化したランプ候補が画面上占有する領域の外接矩形に相当する領域(ランプ領域)を特定する。
このようにグループ化したランプ領域HRのうち、大きさが類似しているランプ領域HRを抽出し、抽出したランプ領域HRの、左右の位置関係に基づいてブレーキランプであるか否か判定すると、実際には先行車両のブレーキランプが点灯しているにも拘らず、消灯していると誤判定してしまうおそれがある。具体的に説明すると、先行車両が、所定の発光源群からなるブレーキランプが配された車両である場合、ブレーキランプが点灯しているにも拘らず、消灯していると誤判定してしまう場合がある。
図11は、所定の発光源群からなるブレーキランプが配された車両におけるブレーキランプの誤判定を説明するための図である。例えば、図11(a)に示すように、車両後部の左右に、所定の発光源群からなる(複数のLEDランプを発光源として内蔵した)ブレーキランプが配された車両が先行車両であるとする。この場合、自車両1との相対距離zが遠距離(例えば、30m以上)であると、図11(b)に示すように、第2画像上で複数の発光源を示す画素同士が繋がって、発光源群が1のランプ領域HRとして検出される。また、自車両1との相対距離zが中距離(例えば、20mから30m)であると、図11(c)に示すように、発光源群を構成する複数の発光源が、第2画像上で複数のグループ、例えば、2または3のグループに分けられて、グループごとにランプ領域HRとして検出される場合がある。さらに、自車両1との相対距離zが近距離(例えば、15m未満)であると、グループ化するための所定範囲の設定によっては、図11(d)に示すように、第2画像上で、発光源群を構成する個々の発光源それぞれが、1のランプ領域HRとして検出される場合がある。つまり、先行車両の接近に従って、ブレーキランプ由来のランプ領域HRの数が増加することとなる。
図11(b)に示す遠距離の場合には、グループ化したランプ領域HRを、左右の位置関係に基づいてブレーキランプであるか否か判定しても、ブレーキランプの点灯を検出できる。しかし、図11(c)に示す中距離の場合には、左右のランプ領域HRの数が異なり、各ランプ領域HRにおいて、対の条件を満たす相手のランプ領域HRを検出できないおそれがある。例えば、図11(c)中、左の発光源群が3つのランプ領域HRとして検出され、右の発光源群が1つのランプ領域HRとして検出された場合、左のランプ領域HRのいずれとも、右のランプ領域HRの大きさが異なる。このため、対の条件を満たす相手のランプ領域HRを検出できず、ブレーキランプが消灯していると誤判定してしまうおそれがある。
また、図11(d)に示す近距離の場合、1の発光源群を構成する個々の発光源それぞれが、1のランプ領域HRとして検出されてしまうため、対の条件を満たす相手のランプ領域HRが特定できずに、ブレーキランプが消灯していると誤判定してしまうおそれがある。
さらに、複数フレームに亘って、先行車両の車両領域における、ランプ領域HRの面積の変化を導出し、かかる面積の変化に基づいて、ランプの点灯有無を判定する学習ロジックを用いる場合にも問題が生じる。例えば、ブレーキランプが点灯している先行車両に徐々に近づいている場合、フレーム(fn)において、1の発光源群が1のランプ領域HRとして検出され、次のフレーム(fn+1)において、1の発光源群が複数のランプ領域HRとして検出されたとする。この検出結果を用いて学習ロジックを実行し、フレーム(fn)でブレーキランプが点灯していると学習した場合、フレーム(fn+1)ではランプ領域HRの面積が小さくなってしまい、先行車両と近づいているにも拘らず、ブレーキランプが消灯していると誤認識してしまうおそれがある。なお、上記学習ロジックは、特願2014−073374号等、既存の技術を参照できるので、ここでは、その詳細な説明を省略する。
そこで、本実施形態では、予め定められた類似条件に基づいて、複数のランプ領域HRを統合することで、所定の発光源群からなるブレーキランプの点灯有無の判定の精度を向上できる統合処理を実行する。以下、統合処理について説明する。
(統合処理)
図12は、統合処理を説明するための図である。ただし、図12は計算を行う上での仮想的な画面であり、実際には視覚的な画面の生成を伴わない。以下、今回の統合処理を実行する際に利用する画像(第2画像)を現在画像とし、現在画像より前に撮像された画像(第2画像)、すなわち、今回の統合処理より前に実行された統合処理で利用した画像を過去画像と称する。したがって、今回の統合処理の実行対象となる画像は、次回の統合処理においては過去画像となる。
統合処理において、まず、領域位置情報生成部166は、上記S306−3で特定されたランプ領域HRの画像上の位置を示す領域位置情報を生成する(S306−4)。そして、領域位置情報生成部166は、過去画像におけるランプ領域HRの領域位置情報がRAM(記憶部)に記憶されているか否かを判定する(S306−5)。詳しくは後述するが、領域位置情報は、画像取得部160によって取得された過去画像ごとに関連付けられて記憶される。したがって、記憶判定処理S306−5の結果、領域位置情報が記憶されていないと判定されるということは、これまでに車両領域内においてランプ領域HRが特定されたことがないということを示す。つまり、当該記憶判定処理S306−5は、車両領域内においてランプ領域HRが特定されたことがあるか否かを判定する処理である。
領域位置情報が記憶されていないと判定すると(S306−5におけるNO)、領域位置情報生成部166は、S306−4で生成した領域位置情報を、画像取得部160によって取得された現在画像に関連付けてRAMに記憶して(S360−6)、S306−13に移る。例えば、図12(a)、(b)に示すように、前回の発光領域特定処理S306−3(過去画像、フレーム(fn−1))において、ランプ領域HRが特定されなかったが、当該発光領域特定処理S306−3(現在画像、フレーム(fn))において初めてランプ領域HRが特定された場合である。なお、ここで、領域位置情報生成部166は、初めて特定されたランプ領域HRについて、検出回数DNに1をセットする。
一方、領域位置情報生成部166が、領域位置情報が記憶されていると判定すると(S306−5におけるYES)、領域予測位置導出部168は、領域予測位置REを導出する(S306−7)。ここで、領域予測位置REは、RAMに記憶されている領域位置情報(過去画像の領域位置情報)に対して、上記S304−9において車両特定部164aが導出した車両予測位置を用いて補正することにより、当該フレーム(フレームfn+1)において、ランプ領域HRが位置するであろうと予測される現在画像上の位置である(図12(c)参照)。換言すれば、領域予測位置REは、自車両1と先行車両の挙動に応じて導出される、過去画像の領域位置情報が示す位置に相当する現在画像における位置である。また、領域予測位置REは、前回のフレームfnにおいて一度検出されたランプ領域HRに基づくものであるため、領域予測位置REの検出回数DNは、前回のフレームfnでランプ領域HRに関連付けられた検出回数DN(図12(c)ではDN=1)を引き継ぐこととなる。
基準領域決定部170は、S306−3で特定されたランプ領域HR(図12(c)〜(i)において、HRa、HRb、HRcで示す)のうち、領域予測位置REに対応する1のランプ領域HRaを基準領域KRと決定する(図12(d)参照)。また、基準領域決定部170は、基準領域KRの検出回数DNを領域予測位置REの検出回数DNを1インクリメントした回数とする(S306−8)。具体的に説明すると、基準領域決定部170は、例えば、ランプ特定部164bが特定したランプ領域HRのうち、領域予測位置REの重心(中心)に対して、重心の距離が最も近いランプ領域HRaを基準領域KRと決定する。
続いて、類似領域抽出部172は、領域予測位置REを拡大した拡大予測位置KEを導出する。ここでは、領域予測位置REが示す領域を上下左右にそれぞれ50%拡大した領域の位置を示す拡大予測位置KEを導出する(S306−9、図12(e)参照)。
そして、類似領域抽出部172は、S306−3で特定されたランプ領域HRのうち、基準領域KR以外のランプ領域HRであって、予め定められた第1類似条件、第2類似条件、および、第3類似条件を満たすランプ領域HRを類似領域RRとして抽出する(S306−10)。
第1類似条件は、領域予測位置REに基づいて設定される条件であり、ここでは、ランプ領域HRが、拡大予測位置KE内に含まれることである。第2類似条件は、検出回数に基づいて設定され、例えば、検出回数が1回であることである。
また、第3類似条件は、所定の色相条件を満たすことである。色相条件は、所定のカラー範囲内のカラー値(ブレーキランプと異なる色相、例えば、R成分のカラー値>150、G成分のカラー値>R×24/32、B成分のカラー値>R×14/32)である画素の数(具体的には、黄色を示す画素の数)に基づいて設定される。具体的に説明すると、第3類似条件は、ランプ領域HR内の黄色の画素の数が、基準領域KR内の黄色の画素の数の1.1倍以下であることである。
ここでは、まず、類似領域抽出部172は、第1類似条件を満たすランプ領域HR、すなわち、ランプ領域HRが、拡大予測位置KEに含まれるランプ領域HRを抽出するとともに、ランプ領域HRごとの検出回数DNを1インクリメントする(図12(f)参照)。そして、類似領域抽出部172は、拡大予測位置KEに含まれるランプ領域HRのうち、第2類似条件を満たすランプ領域HR、すなわち、検出回数DNが1回のランプ領域HRを抽出する。さらに、類似領域抽出部172は、第3類似条件を満たすランプ領域HR、すなわち、拡大予測位置KEに含まれ、検出回数DNが1回のランプ領域HRのうち、ランプ領域HR内の黄色の画素の数が、基準領域KRの黄色の画素の数の1.1倍以下のランプ領域HRbを類似領域RRとして抽出する(図12(g))。
領域予測位置REは、あくまで、自車両1と先行車両との挙動に基づいて予測しているため、領域予測位置REと、今回のブレーキランプに相当するランプ領域HRの位置とで誤差が生じる。そこで、類似領域抽出部172が、基準領域KRと類似するランプ領域HRである類似領域RRを抽出するために、上記第1類似条件を採用することにより、領域予測位置REより広い範囲である拡大予測位置KEを用いて類似領域RRを抽出することができ、予測による誤差を吸収することが可能となる。
また、類似領域抽出部172が、第2類似条件として、検出回数が1回のランプ領域HRを採用することにより、前回フレームまでに(過去画像で)検出されたランプ領域HRであって、ブレーキランプと判定されていないランプ領域HRを類似領域RRから除外することができる。
また、ランプ領域HRには、ブレーキランプに相当するランプ領域HRのみならず、ブレーキランプと異なる色相のランプ(例えば、ウィンカー)に相当するランプ領域HRも含まれる。そこで、類似領域抽出部172が、第3類似条件として、所定のカラー範囲内のカラー値(ブレーキランプと異なる色相)である画素の数が、ブレーキランプとして対応付けられる基準領域KR内の所定のカラー範囲内のカラー値である画素数の1.1倍以下のランプ領域HRのみを類似領域RRとすることで、ブレーキランプ以外のランプ領域HRを類似領域RRから除外することができる。
続いて、統合領域生成部174は、1または複数の類似領域RRを、基準領域KRに統合して、外接矩形に相当する1の統合領域TRを生成し、S306−8において更新された基準領域KRの検出回数DNを、統合領域TRの検出回数とする(S306−11、図12(i)参照)。なお、統合領域生成部174によって統合されなかったランプ領域HRcは、図12(b)のランプ領域HRに相当するため、次フレーム(fn+2)において、領域予測位置REが導出され、以降、上記S306−4からS306−11までの処理が実行されることとなる。
情報更新部176は、統合領域TRを新たなランプ領域HRとして領域位置情報を導出し、RAMに記憶されている統合前の各ランプ領域HRの領域位置情報を削除し、新たなランプ領域HRの領域位置情報を現在画像に関連付けて新たにRAMに記憶(更新)する(S306−12)。また、情報更新部176は、予め定められた所定時間、ランプ領域HRが特定されなかったことをトリガとして、RAMに記憶されている領域位置情報を削除する。
また、ランプ特定部164bは、統合領域TRが生成された場合には、統合領域TRを新たなランプ領域HRとし、1のランプ領域HRの大きさが予め定められた閾値(例えば、水平および垂直の幅0.05m)以上の場合にのみ、1のランプ領域HRに含まれるランプの候補をランプとして特定する(S306−13)。なお、ランプ特定部164bは、大きさに加えて、そのランプ領域HRに含まれるランプの候補の形も条件としてよい。例えば、ブレーキランプが車両後部の左右端部に鉛直方向に延伸する形状である場合、その大きさのみならず、ブレーキランプとみなせる形状であることを判定する。こうして、本来、所定のランプとしてみなすべきではないノイズに相当するランプを排除し、ブレーキランプ(ランプ)を抽出することができるので、特定物を高精度に特定することが可能となる。
このように、ランプ特定部164bによって、ブレーキランプを高精度に抽出することができる。しかし、第2露光態様による第2画像のみでは、夜間などに検出領域124全体のカラー値が低く(暗く)なってしまい、ブレーキランプ等のランプ以外は何も把握できなくなってしまう。そこで、当該「ブレーキランプ」と、上述した第1露光態様による第1画像によって特定した「車両」とを対応付ける。
位置対応付け部178は、車両特定部164aが特定物「車両」としてグループ化した車両領域と、ランプ特定部164bが特定したランプ(ブレーキランプ)の位置とを対応付ける(S306−14)。そして、車両特定部164aによる特定物「車両」の追跡と、ランプ特定部164bによる特定物「ブレーキランプ」の追跡とを支援し、一方の位置情報で他方の位置情報を校正する。こうして、先行する車両の外縁と車両のブレーキランプとの位置関係を維持することができる。
配置判定部180は、同一の先行車両に存在すると仮定される1対のブレーキランプの組み合わせを特定し、図4に示した特定物テーブル200に基づいて、位置対応付け部178によって対応付けられた車両領域とランプであるブレーキランプの位置との相対配置が適切な配置か否かを判定する(S306−15)。配置判定部180は、例えば、ブレーキランプが、それ単体で高さ範囲「0.3〜2.0m」、水平距離の幅範囲「0.05〜0.2m」、垂直距離の幅範囲「0.05〜0.2m」の条件を満たすか判定する。さらに、配置判定部180は、1対のブレーキランプの組み合わせが、水平距離の差分「1.4〜1.9m」、垂直距離の差分「0.3m以下」、面積比「50〜200%」の条件を満たすか否かを判定する。かかる条件を満たすことで、先行車両のブレーキランプが点灯していると特定されることとなる。このように、ブレーキランプと仮定されたランプが車両の適切な位置に対応している場合にのみブレーキランプとして正式に特定する構成により、リアフォグランプなど、同等の明るさで一灯だけで点灯しているランプを誤認識するのを防止することができる。
以上説明したように、本実施形態にかかる車外環境認識装置120によれば、所定の発光源群からなる車両用のランプを特定することが可能となる。
また、コンピュータを、車外環境認識装置120として機能させるプログラムや当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
例えば、上述した実施形態において、ランプ特定部164bは、撮像装置110が生成したカラー画像126に基づいてブレーキランプの点灯有無を判定しているが、モノクロ画像に基づいてブレーキランプの点灯有無を判定するとしてもよい。
また、上記実施形態において、ランプ特定部164bは、特定物「車両」と特定された対象物224の相対距離zおよび水平距離xを導出しているが、これに加えて、垂直距離を導出して、車両予測位置を導出してもよい。
また、上記実施形態において、基準領域決定部170は、現在画像の領域予測位置REに対応する1のランプ領域HRaを基準領域KRと決定しているため、基準領域KRは、領域予測位置REを介して間接的に、過去画像の領域位置情報に対応付けられている。しかし、基準領域決定部170は、過去画像の領域位置情報に対応する1のランプ領域HRaを基準領域KRと決定し、過去画像の領域位置情報と基準領域KRとが直接対応付けられてもよい。
また、上記実施形態において、第1類似条件は、ランプ領域HRが拡大予測位置KE内に含まれることとした。しかし、第1類似条件は、領域予測位置REに基づいて設定される条件であればよい。例えば、ランプ領域HRが領域予測位置RE内に含まれることであってもよい。いずれにせよ、第1類似条件は、予測された先行車両の挙動に応じて導出される、過去画像の領域位置情報が示す位置と所定の位置関係にある現在画像における位置に基づいて設定されればよい。
また、第1類似条件は、領域予測位置REに基づいて設定される条件に代えて、過去画像の領域位置情報に基づいて設定される条件であってもよい。例えば、ランプ領域HRが、過去画像の領域位置情報が示す位置内に含まれることであってもよい。
また、上記実施形態において、類似領域抽出部172は、第1類似条件を満たし、さらに、第2類似条件および第3類似条件を満たしたランプ領域HRを類似領域RRとして抽出する構成を例に挙げて説明した。しかし、類似領域抽出部172は、第1類似条件を満たし、かつ、第2類似条件および第3類似条件のうちいずれか一方を満たすランプ領域HRを類似領域RRとして抽出するとしてもよい。また、類似領域抽出部172は、少なくとも、第1類似条件を満たすランプ領域HRを類似領域RRとして抽出すればよい。
また、上記実施形態において、車外環境認識装置120は、所定の発光源群からなる車両用のランプとして、ブレーキランプを例に挙げて説明した。しかし、車外環境認識装置120は、所定の発光源群からなる車両用のランプであれば、ウィンカー、リアフォグランプ等を特定することができる。
なお、本明細書の車外環境認識処理の各工程は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいはサブルーチンによる処理を含んでもよい。