以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書および図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
近年では、車両に搭載した車載カメラによって自車両の前方の道路環境を撮像し、撮像した画像内における色情報や位置情報に基づいて先行車両等の対象物を特定し、特定された対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ(ACC:Adaptive Cruise Control)、所謂衝突防止機能を搭載した車両が普及しつつある。
かかるACCや衝突防止機能では、例えば、自車両前方に位置する対象物の、自車両との相対距離を導出し、かかる相対距離に基づいて、自車両の前方に位置する対象物との衝突を回避したり、対象物が車両(先行車両)であった場合、その先行車両との相対距離を安全な距離に保つように制御する。また、先行車両のブレーキランプの点灯有無等を認識し、先行車両の減速動作を推測する処理を組み込むことで、より円滑なクルーズコントロールを実現することが可能となる。以下、このような目的を達成するための環境認識システムを説明し、その具体的な構成要素である車外環境認識装置を詳述する。
(環境認識システム100)
図1は、環境認識システム100の接続関係を示したブロック図である。環境認識システム100は、自車両1内に設けられた、撮像装置110と、車外環境認識装置120と、車両制御装置(ECU:Engine Control Unit)130とを含んで構成される。
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成され、自車両1の前方に相当する環境を撮像し、カラー値で表されるカラー画像を生成することができる。ここで、カラー値は、1つの輝度(Y)と2つの色差(UV)からなる、または、3つの色相(R(赤)、G(緑)、B(青))からなる数値群である。
また、撮像装置110は、自車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、自車両1の前方の検出領域に存在する対象物を撮像した画像データを、例えば1/20秒のフレーム毎(20fps)に連続して生成する。ここで、認識する対象物は、車両、歩行者、信号機、道路(進行路)、ガードレール、建物といった独立して存在する立体物のみならず、ブレーキランプ、ハイマウントストップランプ、テールランプ、ウィンカー、信号機の各点灯部分等、立体物の一部として特定できる物も含む。以下の実施形態における各機能部は、このような画像データの更新を契機としてフレーム毎に各処理を遂行する。
さらに、本実施形態において、撮像装置110は、車外環境の明るさ(照度計の計測結果等)に応じた露光時間や絞りを示す第1露光態様で検出領域を撮像し、第1画像を生成する。また、撮像装置110は、ブレーキランプ等、特定の発光源が自発光しているか否かを判別可能な画像を生成する。その方法としては、ダイナミックレンジが広い撮像素子を用い、発光していない対象物が黒く潰れず、発光源が白とびしないように撮像してもよいし、第1露光態様とは露光態様(露光時間、絞り)が異なる第2露光態様で検出領域を撮像し、第2画像を生成してもよい。例えば、昼間であれば、明るい車外環境に応じた第1露光態様の露光時間より第2露光態様の露光時間を短くして、または、絞りを強くして第2画像を生成する。本実施形態において、第1画像および第2画像はそれぞれカラー画像および距離画像として用いられる。また、上記第1露光態様と第2露光態様とは、以下のようにして実現される。
例えば、撮像装置110の周期的な撮像タイミングを時分割し、第1露光態様による撮像と第2露光態様による撮像とを交互に行うことで、第1画像と第2画像とを順次生成することができる。また、画素毎に2つのキャパシタが設けられ、その2つのキャパシタに並行して電荷をチャージできる撮像素子において、一度の露光でチャージする時間を異ならせて露光態様の異なる2つの画像を並行して生成することもできる。さらに、1つのキャパシタの電荷のチャージ中に、時間を異ならせて2回読み出し、露光態様の異なる2つの画像を並行して生成したりすることでも上記の目的を達成できる。また、撮像装置110を、露光態様を異ならせて予め2セット準備しておき(ここでは、2つの撮像装置110×2セット)、2セットの撮像装置110からそれぞれ画像を生成したりすることも可能である。露光態様を支配する露光時間は、例えば1〜60msecの範囲で適切に制御される。
車外環境認識装置120は、2つの撮像装置110それぞれから画像データを取得し、一方の画像データから任意に抽出したブロック(例えば水平4画素×垂直4画素の配列)に対応するブロックを他方の画像データから検索する、所謂パターンマッチングを用いて視差、および、任意のブロックの画面内の位置を示す画面位置を含む視差情報を導出する。ここで、水平は、撮像した画像の画面横方向を示し、垂直は、撮像した画像の画面縦方向を示す。このパターンマッチングとしては、一対の画像間において、任意のブロック単位で輝度(Y)を比較することが考えられる。例えば、輝度値の差分をとるSAD(Sum of Absolute Difference)、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。車外環境認識装置120は、このようなブロック単位の視差導出処理を検出領域(例えば600画素×200画素)に映し出されている全てのブロックについて行う。ここでは、ブロックを4画素×4画素としているが、ブロック内の画素数は任意に設定することができる。
ただし、車外環境認識装置120では、検出分解能単位であるブロック毎に視差を導出することはできるが、そのブロックがどのような対象物の一部であるかを認識できない。したがって、視差情報は、対象物単位ではなく、検出領域における検出分解能単位(例えばブロック単位)で独立して導出されることとなる。ここでは、このようにして導出された視差情報を画像データに対応付けた画像を、上述したカラー画像と区別して距離画像という。
図2は、カラー画像126と距離画像128を説明するための説明図である。例えば、2つの撮像装置110を通じ、検出領域124について図2(a)のようなカラー画像(画像データ)126が生成されたとする。ただし、ここでは、理解を容易にするため、2つのカラー画像126の一方のみを模式的に示している。車外環境認識装置120は、このようなカラー画像126からブロック毎の視差を求め、図2(b)のような距離画像128を形成する。距離画像128における各ブロックには、そのブロックの視差が関連付けられている。ここでは、説明の便宜上、視差が導出されたブロックを黒のドットで表している。本実施形態では、このようなカラー画像126と距離画像128とを第1画像および第2画像それぞれに基づいて生成している。したがって、本実施形態では、第1画像に基づくカラー画像126、第1画像に基づく距離画像128、第2画像に基づくカラー画像126、第2画像に基づく距離画像128が用いられる。
また、車外環境認識装置120は、カラー画像126に基づくカラー値、および、距離画像128に基づく自車両1との相対距離を含む実空間における3次元の位置情報を用い、カラー値が等しく3次元の位置情報が近いブロック同士を対象物としてグループ化して、自車両1前方の検出領域における対象物がいずれの特定物(例えば、先行車両)に対応するかを特定する。例えば、相対距離等によって先行車両を特定し、さらに、カラー値によってその先行車両のブレーキランプの位置や点灯有無を把握することができる。このような処理により、ブレーキランプの点灯による当該車両の減速を迅速に把握し、衝突回避制御やACCに利用することが可能となる。
なお、上記相対距離は、距離画像128におけるブロック毎の視差情報を、所謂ステレオ法を用いて三次元の位置情報に変換することで求められる。ここで、ステレオ法は、三角測量法を用いることで、対象物の視差からその対象物の撮像装置110に対する相対距離を導出する方法である。
車外環境認識装置120は、対象物を任意の特定物、例えば、先行車両を特定すると、その先行車両を追跡しつつ、先行車両との相対距離および先行車両の相対速度等を導出し、先行車両と自車両1とが衝突する可能性が高いか否かの判定を行う。このとき、先行車両のブレーキランプを特定していれば、そのブレーキランプの点灯により先行車両の減速を早期に認識できる。ここで、先行車両と衝突の可能性が高いと判定した場合、車外環境認識装置120は、その旨、運転者の前方に設置されたディスプレイ122を通じて運転者に警告表示(報知)を行うとともに、車両制御装置130に対して、その旨を示す情報を出力する。
車両制御装置130は、ステアリングホイール132、アクセルペダル134、ブレーキペダル136を通じて運転者の操作入力を受け付け、操舵機構142、駆動機構144、制動機構146に伝達することで自車両1を制御する。また、車両制御装置130は、車外環境認識装置120の指示に従い、駆動機構144、制動機構146を制御する。例えば、車外環境認識装置120から先行車両と衝突の可能性が高い旨の情報が入力されると、車両制御装置130は、制動機構146を通じて運転者のブレーキ操作を支援する。
以下、車外環境認識装置120の構成について詳述する。ここでは、本実施形態に特徴的な、先行車両やブレーキランプの特定処理について詳細に説明し、本実施形態の特徴と無関係の構成については説明を省略する。
(車外環境認識装置120)
図3は、車外環境認識装置120の概略的な機能を示した機能ブロック図である。図3に示すように、車外環境認識装置120は、I/F部150と、データ保持部152と、中央制御部154とを含んで構成される。
I/F部150は、撮像装置110や車両制御装置130との双方向の情報交換を行うためのインターフェースである。データ保持部152は、RAM、フラッシュメモリ、HDD等で構成され、特定物テーブルや、以下に示す各機能部の処理に必要な様々な情報を保持し、また、撮像装置110から受信した画像データ(第1画像および第2画像に基づくカラー画像126、距離画像128)を一時的に保持する。ここで、特定物テーブルは、以下のように定義される。
図4は、特定物テーブル200を説明するための説明図である。特定物テーブル200では、複数の特定物に対して、カラー値(ここではR、G、B)の範囲を示すカラー範囲202と、道路表面からの高さの範囲を示す高さ範囲204と、特定物の水平距離の幅範囲206と、特定物の垂直距離の幅範囲208と、同一特定物との水平距離の差分210と、同一特定物との垂直距離の差分212と、同一特定物との面積比214とが対応付けられている。ここで、特定物としては、「ブレーキランプ(赤)」、「ハイマウントストップランプ(赤)」、「テールランプ(赤)」、「ウィンカー(橙)」等、車両を特定する際に要する様々な物が想定されている。ただし、特定物は図4に記載された物に限定されないのは言うまでもない。特定物のうち、例えば、特定物「ブレーキランプ(赤)」には、カラー範囲(R)「200以上」、カラー範囲(G)「50以下」、カラー範囲(B)「50以下」、高さ範囲「0.3〜2.0m」、水平距離の幅範囲「0.05〜0.2m」、垂直距離の幅範囲「0.05〜0.2m」、水平距離の差分「1.4〜1.9m」、垂直距離の差分「0.3m以下」、面積比「50〜200%」が対応付けられている。
中央制御部154は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス156を通じて、I/F部150、データ保持部152等を制御する。また、本実施形態において、中央制御部154は、画像取得部160、位置情報導出部162、対象物特定部164、位置対応付け部166、配置判定部168、面積変換部170、ヒストグラム生成部172、カラー変化判定部174、面積閾値導出部176としても機能する。以下、各機能部の動作を説明するとともに、本実施形態に特徴的な車外環境認識処理について詳述する。
(第1の実施形態:車外環境認識処理)
図5は、車外環境認識処理を示すフローチャートである。車外環境認識装置120の画像取得部160は、撮像装置110から、車外環境の明るさに応じた第1露光態様で検出領域124を撮像した第1画像と、第1露光態様と露光態様が異なる第2露光態様で検出領域124を撮像した第2画像とを取得する(S300)。
続いて、位置情報導出部162は、第1画像に基づく距離画像128における検出領域124内のブロック毎の視差情報を、上述したステレオ法を用いて、水平距離x、(道路表面からの)高さyおよび相対距離zを含む三次元の位置情報に変換する(S302)。ここで、視差情報が、距離画像128における各ブロックの視差を示すのに対し、三次元の位置情報は、実空間における各ブロックの相対距離の情報を示す。また、視差情報が画素単位ではなくブロック単位、即ち複数の画素単位で導出されている場合、その視差情報はブロックに属する全ての画素の視差情報とみなして、画素単位の計算を実行することができる。かかる三次元の位置情報への変換については、特開2013−109391号公報等、既存の技術を参照できるので、ここでは、その詳細な説明を省略する。
次に、対象物特定部164は、第1画像および第2画像に基づいて、画像内の対象物がいずれの特定物に対応するか特定する。本実施形態において、対象物特定部164は、特に、先行する車両(先行車両)と、ブレーキランプ(発光源)と、ハイマウントストップランプ(発光源)を特定する。したがって、以下では、対象物特定部164のうち、先行車両を特定する機能部を車両特定部164aとし、ブレーキランプやハイマウントストップランプを特定する機能部をブレーキランプ特定部164bとして説明する。また、対象物特定部164(車両特定部164a、ブレーキランプ特定部164b)は、特定物が特定された対象物を追跡(追尾)し、その対象物の自車両1に対する相対距離、相対速度、相対加速度、および、自車両1の走行状態を加味した先行車両の絶対速度、絶対加速度も検出する。
図6および図7は、車両特定部164aの処理を説明するための説明図である。車両特定部164aは、まず、第1画像に基づく距離画像128の検出領域124を、水平方向に対して複数の分割領域216に分割する(S304)。すると、分割領域216は図6(a)のような短冊形状になる。このような短冊形状の分割領域216は、本来、例えば、水平幅4画素のものが150列配列してなるが、ここでは、説明の便宜上、検出領域124を16等分したもので説明する。
続いて、車両特定部164aは、分割領域216毎に、位置情報に基づき、道路表面より上方に位置する全てのブロックを対象に、複数に区分した所定距離それぞれに含まれる相対距離を積算してヒストグラム(図6(b)中、横長の四角(バー)で示す)を生成する(S306)。すると、図6(b)のような距離分布218が得られる。ここで、縦方向は、区分した所定距離(距離区分)を、横方向は、距離区分それぞれに相対距離が含まれるブロックの個数(度数)を示している。ただし、図6(b)は計算を行う上での仮想的な画面であり、実際には視覚的な画面の生成を伴わない。そして、車両特定部164aは、このようにして導出された距離分布218を参照し、ピークに相当する相対距離である代表距離(図6(b)中、黒で塗りつぶした四角で示す)220を特定する(S308)。ここで、ピークに相当するとは、ピーク値またはピーク近傍で任意の条件を満たす値をいう。
次に、車両特定部164aは、隣接する分割領域216同士を比較し、図7に示すように、代表距離220が近接する(例えば、1m以下に位置する)分割領域216をグループ化して1または複数の分割領域群222を生成する(S310)。このとき、3以上の分割領域216で代表距離220が近接していた場合にも、連続する全ての分割領域216を分割領域群222として纏める。かかるグループ化によって、車両特定部164aは、道路表面より上方に位置する立体物を特定することができる。
続いて、車両特定部164aは、分割領域群222内における、相対距離zが代表距離220に相当するブロックを基点として、そのブロックと、水平距離xの差分、高さyの差分および相対距離zの差分が予め定められた範囲(例えば0.1m)内にあるブロックとを、同一の特定物に対応すると仮定してグループ化する(S312)。こうして、仮想的なブロック群である対象物224が生成される。上記の範囲は実空間上の距離で表され、製造者や搭乗者によって任意の値に設定することができる。また、車両特定部164aは、グループ化により新たに追加されたブロックに関しても、そのブロックを基点として、水平距離xの差分、高さyの差分および相対距離zの差分が所定範囲内にあるブロックをさらにグループ化する。結果的に、同一の特定物と仮定可能なブロック全てがグループ化されることとなる。
また、ここでは、水平距離xの差分、高さyの差分および相対距離zの差分をそれぞれ独立して判定し、全てが所定範囲に含まれる場合のみ同一のグループとしているが、他の計算によることもできる。例えば、水平距離xの差分、高さyの差分および相対距離zの差分の二乗平均√((水平距離xの差分)2+(高さyの差分)2+(相対距離zの差分)2)が所定範囲に含まれる場合に同一のグループとしてもよい。かかる計算により、ブロック同士の実空間上の正確な距離を導出することができるので、グループ化精度を高めることができる。
次に、車両特定部164aは、グループ化した対象物224が、予め定められた車両に相当する所定の条件を満たしていれば、その対象物224を特定物「車両」として決定する(S314)。例えば、車両特定部164aは、グループ化された対象物224が道路上に位置する場合、その対象物224全体の大きさが、特定物「車両」の大きさに相当するか否かを判定し、特定物「車両」の大きさに相当すると判定されれば、その対象物224を特定物「車両」と特定する。ここで、車両特定部164aは、特定物「車両」と特定された対象物224が画面上占有する矩形の領域を車両領域とする。
こうして、車外環境認識装置120では、第1画像としての距離画像128から、1または複数の対象物224を、特定物、例えば、車両(先行車両)として抽出することができ、その情報を様々な制御に用いることが可能となる。例えば、検出領域124内の任意の対象物224が車両であると特定されると、特定した車両(先行車両)を追跡し、相対距離や相対加速度を検出して、先行車両との衝突を回避したり、先行車両との車間距離を安全な距離に保つように制御することができる。このような先行車両の特定や先行車両の挙動をさらに迅速に把握するため、以下では、車両領域に存在する発光源をブレーキランプとみなし、その点灯有無を判定する。
続いて、ブレーキランプ特定部164bは、第2画像に基づくカラー画像126から、画素単位で3つの色相(R、G、B)のカラー値を取得する(S316)。このとき、検出領域124が例えば雨天や曇天であった場合、ブレーキランプ特定部164bは、本来のカラー値を取得できるようにホワイトバランスを調整してから取得してもよい。
ブレーキランプ特定部164bは、データ保持部152に保持された特定物テーブル200と、第2画像に基づくカラー画像126の各画素のカラー値とによって所定の発光源を仮に特定する(S318)。具体的に、ブレーキランプ特定部164bは、特定物テーブル200に登録されている特定物から、第2露光態様に対応付けられた特定の発光源(ここでは「ブレーキランプ」)を選択し、取得した1の画素のカラー値が、選択した特定物のカラー範囲202に含まれるか否か判定する。そして、対象となるカラー範囲202に含まれれば、その画素を当該特定物「ブレーキランプ」と仮定する。
上記第2画像は、上述したように特定の発光源、例えば、特定物「ブレーキランプ」が自発光しているか否かを判別可能な第2露光態様で撮像した画像である。ここで、特定物「ブレーキランプ」のように自発光するものは、太陽や街灯の明るさに拘わらず、高いカラー値を取得することができる。特に、特定物「ブレーキランプ」の点灯時の明るさは法規で概ね規定されているので、所定の明るさしか露光できない露光態様(例えば、短時間の露光)で撮像することで、特定物「ブレーキランプ」に相当する画素のみを容易に抽出することが可能である。
図8は、第1露光態様による撮像と第2露光態様による撮像との違いを説明するための説明図である。図8(a)は、第1露光態様による第1画像を示し、特に、図8(a)の左図ではテールランプが点灯しており、図8(a)の右図ではテールランプに加えブレーキランプが点灯している。図8(a)を参照して理解できるように、車外環境の明るさに応じた第1露光態様では、ブレーキランプ非点灯かつテールランプ点灯時のテールランプ位置230のカラー値と、ブレーキランプ点灯かつテールランプ点灯時のブレーキランプ位置232とでカラー値の差がほとんど生じない。これは、露光時間の長い第1露光態様では、テールランプもブレーキランプもRGB成分全てのカラー値がサチレーションしてしまうことに起因する。
図8(b)は、第2露光態様による第2画像を示し、特に、図8(b)の左図ではテールランプが点灯しており、図8(b)の右図ではテールランプに加えブレーキランプが点灯している。第2露光態様は、ブレーキランプが点灯しているときのカラー値のみを取得可能に設定されている。したがって、図8(b)を参照して理解できるように、テールランプが点灯していてもテールランプ位置230では、その明るさに準じるカラー値をほとんど取得できず、ブレーキランプ点灯時のブレーキランプ位置232では、明確に高いカラー値を取得できている。
かかる第2露光態様では、ブレーキランプのカラー値が撮像素子において、R成分がサチレーションするかしないかといった程度の露光時間に設定することが望ましい。撮像装置110は、通常、ダイナミックレンジが人間より大幅に狭いので、夕方くらいの明度の低さで第1露光態様により撮像すると、車外環境に対して相対的にブレーキランプのカラー値が高くなる。すると、R成分のみならず、R成分とオーバーラップしてG成分やB成分も最大値(例えばカラー値が255)にサチレーションし、画素が白くなってしまう。そこで、第2露光態様を、ブレーキランプ点灯時にR成分がサチレーションするかしないかといった程度の露光時間とすることで、外部の環境に拘わらず、G成分やB成分のカラー値への影響を抑制しつつ、R成分のみを最大値で抽出する。こうして、例えば、テールランプとのカラー値差を最大限確保することが可能となる。
具体的に、夜間の走行時に先行車両が存在する場合に、テールランプが点灯している程度、例えば、カラー範囲(R)「50」、カラー範囲(G)「50」、カラー範囲(B)「50」程度では第2画像に表示されない。これに対して、ブレーキランプが点灯していると、図4の特定物テーブル200に示すように、カラー範囲202が、カラー範囲(R)「200以上」、カラー範囲(G)「50以下」、カラー範囲(B)「50以下」となり、第2露光態様で撮像したとしても、その位置が把握できる程度に第2画像に表示される。こうしてブレーキランプ特定部164bは、第2画像を通じて、ブレーキランプ等、所定の発光源のみを特定することが可能となる。また、ここでは、第2露光態様による露光時間を固定しているが、車外環境に応じて自発的にまたは搭乗者の操作に応じて調整されるとしてもよい。
また、ブレーキランプ特定部164bは、発光源候補とされた画素同士の水平距離xの差分、高さyの差分および相対距離zの差分が所定範囲(例えば0.1m)内にある場合、その複数の画素を1の発光源候補としてグループ化する(S320)。こうして、ブレーキランプを構成する画素が複数に跨がっていても、また、車両の左右のブレーキランプがそれぞれ複数のランプで構成されている場合であっても、それを左右に存在するブレーキランプの一方として個々に認識することが可能となる。
また、ブレーキランプ特定部164bは、この1の発光源候補の大きさが予め定められた閾値(例えば、水平および垂直の幅0.05m)以上の場合にのみ、1の発光源候補を発光源として特定する(S322)。なお、ブレーキランプ特定部164bは、大きさに加えて、その発光源候補の形も条件としてよい。例えば、ブレーキランプが車両後部の左右端部に鉛直方向に延伸する形状である場合、その大きさのみならず、ブレーキランプとみなせる形状であることを判定する。また、ブレーキランプ特定部164bは、ブレーキランプと同等の手順で、1の発光源候補の大きさや形状からハイマウントストップランプも特定する。こうして、本来、所定の発光源としてみなすべきではないノイズに相当する発光源を排除し、ブレーキランプ等、所望する発光源を抽出することができるので、特定物を高精度に特定することが可能となる。
このように、ブレーキランプ特定部164bによって、ブレーキランプやハイマウントストップランプを高精度に抽出することができる。しかし、第2露光態様による第2画像のみでは、夜間などに検出領域124全体のカラー値が低く(暗く)なってしまい、ブレーキランプ等の発光源以外は何も把握できなくなってしまう。そこで、当該「ブレーキランプ」と、上述した第1露光態様による第1画像によって特定した「車両」とを対応付ける。
位置対応付け部166は、車両特定部164aが特定物「車両」としてグループ化した車両領域と、ブレーキランプ特定部164bが特定した発光源(ブレーキランプ)の位置とを対応付ける(S324)。そして、車両特定部164aによる特定物「車両」の追跡と、ブレーキランプ特定部164bによる特定物「ブレーキランプ」の追跡とを支援し、一方の位置情報で他方の位置情報を校正する。こうして、先行する車両の外縁と車両のブレーキランプとの位置関係を維持することができる。
配置判定部168は、同一の先行車両に存在すると仮定される2対のブレーキランプの組み合わせを特定し、図4に示した特定物テーブル200に基づいて、位置対応付け部166によって対応付けられた車両領域と発光源であるブレーキランプの位置との相対配置が適切な配置か否かを判定する(S326)。配置判定部168は、例えば、ブレーキランプが、それ単体で高さ範囲「0.3〜2.0m」、水平距離の幅範囲「0.05〜0.2m」、垂直距離の幅範囲「0.05〜0.2m」の条件を満たすか判定する。さらに、配置判定部168は、2対のブレーキランプの組み合わせが、水平距離の差分「1.4〜1.9m」、垂直距離の差分「0.3m以下」、面積比「50〜200%」の条件を満たすか否かを判定する。このように、ブレーキランプと仮定された発光源が車両の適切な位置に対応している場合にのみブレーキランプとして正式に特定する構成により、リアフォグランプなど、同等の明るさで一灯だけで点灯している発光源をブレーキランプと誤認識するのを防止することができる。
ただし、先行する車両の挙動を正確に判断するには、ブレーキランプを発光源として特定するのみならず、その点灯有無を判定しなくてはならない。しかし、ブレーキランプのカバーの形状、発光源の種類や日照条件といった外部環境によっては、太陽光の反射等の影響を受けてその明るさが変化するので、特定したブレーキランプのカラー値と固定的な閾値とを単純に比較するだけでは、その点灯有無の判定を誤ってしまうおそれがある。例えば、ブレーキランプが点灯していないのに、カラー値が固定の閾値より高くなってしまい、点灯していると誤認識したり、ブレーキランプが点灯しているのに、カラー値が固定の閾値より低くなってしまい、点灯していないと誤認識したりするおそれがある。
また、上記のブレーキランプ特定部164b、位置対応付け部166、配置判定部168によっては、ブレーキランプの形状や位置関係からブレーキランプの確からしさを判定できるが、検出領域124中の先行車両との位置関係の変動に伴って、ブレーキランプの位置も画面左右上下に変動しやすく、ブレーキランプの正確な位置における点灯有無を把握するのは難しい。また、リフレクター等、車両に対して左右対称に配置された対象物は、太陽光を反射したときの瞬時的なカラー値および位置関係においてブレーキランプと差異が生じず、上記のブレーキランプの特定だけでは、リフレクターを排除できないといった問題があった。
そこで、本実施形態では、先行車両の特に車両領域全体におけるカラー値を判定することで、先行車両との位置関係の変動に拘わらず、ブレーキランプのカラー値の変化(カラー値が高い状態とカラー値が低い状態)を適切に判定する。そして、上記のブレーキランプ特定部164b、位置対応付け部166、配置判定部168によるブレーキランプの特定は、ブレーキランプらしさを判定する上で補助的(冗長的)に用いることとする。ここでは、ブレーキランプのカラー値が高い状態を点灯状態、ブレーキランプのカラー値が低い状態を消灯状態という。具体的に、本実施形態では、所定のカラー条件を満たした面積の変化を時間方向に積分し、その面積と閾値(面積閾値)とを比較することで適切に点灯有無を判定する。
面積変換部170は、車両特定部164aに特定された先行車両の車両領域において、予め定められた1または複数のカラー閾値に基づくカラー条件を満たした画素数を計数し、画素数を面積に変換(正規化)する(S328)。以下、カラー閾値とカラー条件を説明する。
図9は、カラー閾値を示す説明図である。本実施形態では、第2露光態様における標準的なシャッター速度を17msecとし、例えば、図9に示すような「黄色」、「赤色」の2段階のカラー閾値を設ける。また、本実施形態では、このような複数のカラー閾値を個々に用いず、複数のカラー閾値のいずれかを満たすことを条件とするカラー条件を採用する。ここで、カラー条件として複数のカラー閾値を準備するのは以下の理由による。すなわち、ブレーキランプの明度が高くなると、色相Rのカラー値が飽和するため、R、G、Bのカラー値のバランスが変化し、赤色が、黄色から白みがかった色に変化する。そこで、カラー条件を、所定のカラー閾値とそれより明度が高い他のカラー閾値との和とすることで、所定のカラー閾値より明度が高い領域を適切に求めることができる。
面積変換部170は、まず、図9に示した2つの色のいずれかを満たした画素数を計数する。すなわち、車両領域において、色相Rのカラー値が225より高く、色相Gのカラー値が169未満、色相Bのカラー値が98未満となる画素と、色相Rのカラー値が150より高く、色相Gのカラー値が113未満、色相Bのカラー値が66未満となる画素とのいずれも計数する。本実施形態では、フレーム毎に、上記カラー条件を満たす1の画素数さえ導出すれば足りるので、処理負荷を軽減することが可能となる。
ところで、自車両1と先行車両との相対距離が長いと、カラー条件を満たす発光源が小さくなり、その画素数も少なくなる。これに対し、先行車両との相対距離が短いと、カラー条件を満たす発光源が大きくなり、その画素数が多くなる。したがって、ブレーキランプが点灯状態を維持していても、先行車両との相対距離の変化に応じてカラー条件を満たす画素数が変動する。
後述するように、カラー変化判定部174は、カラー条件を満たす範囲を1の閾値(面積閾値)と比較して、その範囲の大きさが面積閾値以上であればブレーキランプが点灯状態にあると判定し、面積閾値未満であれば、ブレーキランプが消灯状態にあると判定する。このとき、上述したように、ブレーキランプが点灯状態を維持しているにも拘わらず、先行車両との位置関係の変化によりカラー条件を満たす画素数が変動すると、本来はブレーキランプが点灯状態にあり、カラー条件を満たす画素が存在しても、相対距離が長すぎて、その数が面積閾値に満たない結果が生じうる。そこで、本実施形態では、先行車両との相対距離に基づいて画素数を実際の面積に変換する。
図10は、自車両1と先行車両との相対距離と画素数の関係を示した説明図である。図10では、横軸に相対距離を示し、縦軸に所定の大きさの対象物が占有する画素数が示されている。図10を参照して理解できるように、同一の対象物(同一の面積)であっても、相対距離が長くなるほど、画素数が小さくなる。かかる推移は、関数で近似でき、0から図10における相対距離a地点までは、相対距離に比例し、a地点以降は、相対距離の3/2乗に比例する。通常、画像における対象物の大きさは、その相対距離に単純に比例するが、発光源の場合、発光の影響を受けて見た目上の発光範囲が広がる。よって、図10のように、相対距離と画素数の関係が非線形になる。
したがって、ブレーキランプ特定部164bは、先行車両(発光源)との相対距離も特定し、面積変換部170は、先行車両との相対距離に基づいて、図10の逆関数により(図10の画素数で除算し)、カラー条件を満たした画素数を面積に変換する。こうして、ブレーキランプが点灯状態を維持している場合の対象物の大きさの変動が少なくなり、後述するカラー変化判定部174は、カラー条件を満たす面積の変化を高精度に判定することが可能となる。
続いて、ヒストグラム生成部172は、面積変換部170によって変換された面積に応じてヒストグラム(基準ヒストグラム)を生成する(S330)。ここでのヒストグラムは、相異なる複数段階の面積区分を階級とし、その面積区分毎の度数を示す。ヒストグラム生成部172は、面積変換部170によって変換された面積が含まれる面積区分に所定の投票値(例えば1)を投票する。ただし、ヒストグラム生成部172は、投票した面積区分の投票値を時間方向に積分した結果によってヒストグラムを生成する。
図11は、ヒストグラム生成部172による時間方向の積分を説明するための説明図である。ヒストグラム生成部172は、投票した面積区分の投票値Xnを以下の数式1に従って時間方向に積分し、度数Ynを求める。ここでnは現在のフレームを示し、n−1は前回フレームを示す。
Yn=0.99×Yn−1+0.01×Xn …(数式1)
かかる数式1は一次遅れ関数であり、今回のフレームにおける投票値Xnは、度数Ynに対して0.01程度しか影響しない。また、数式1における一次遅れの時定数はブレーキランプの点灯と消灯との切り替わりに要する時間より十分長い。したがって、点灯と消灯とが切り替わる途中の面積がヒストグラムへ出現するのは抑制される。
したがって、図11(a)に示すように、仮に、面積変換部170によって変換された面積が所定の期間、同一の面積区分S0内に含まれており、その間、面積区分S0への投票値Xnが1である状態が連続していた場合、面積区分S0の度数Ynは、図11(b)に示すように、一次遅れを伴い1に推移し、投票値が0となると、一次遅れを伴い0に推移する。また、面積が面積区分S0を超えて変動すると、面積区分S0の度数Ynは、0〜1の間で変動することとなる。
ここでは、数式1に示すように、単純な一次遅れ関数を用いているので、度数Ynが無制限に大きくなることもなく0〜1の範囲に留まり、0〜1の間の任意の基準値を用いてその量的な判定を容易に行うことができる。また、このように、時間方向に投票値を積分することで、単発的に出現する投票値が度数に与える影響を抑制することができ、先行車両との位置関係の変動に拘わらず、安定した度数に基づいて点灯有無を判定することが可能となる。
図12は、ヒストグラムを説明するための説明図である。ブレーキランプが点灯している場合、上記カラー条件を満たす面積は大きくなり、ブレーキランプが消灯している場合、カラー条件を満たす面積は小さくなる。したがって、ヒストグラムを生成すると、図12(a)に示すように、ブレーキランプの点灯時に相対的に大きい面積区分S1において度数が1に近づき、ブレーキランプの消灯時に相対的に小さい面積区分S2において度数が1に近づく。
ただし、通常、自車両1も先行車両も移動しているので、相対的な位置関係が変動し、カラー条件を満たす面積も変動する。したがって、このような位置関係が変動する状況下でヒストグラムを生成すると、図12(b)に示すように、ブレーキランプの点灯時には、相対的に大きい面積区分S1近傍に所定の偏差を伴って所定の度数が出現し、ブレーキランプの消灯時には、相対的に小さい面積区分S2近傍に所定の偏差を伴って所定の度数が出現する。
そして、カラー変化判定部174は、ヒストグラム生成部172が生成したヒストグラムにおける相対的に度数が高い面積区分が、所定の面積閾値以上であるか否かに基づき、発光源の点灯状態(カラー値が高い状態)と消灯状態(カラー値が低い状態)とを判定する(S332)。
図13は、ヒストグラムを説明するための説明図である。具体的に、カラー変化判定部174は、ヒストグラム生成部172が生成したヒストグラムに基づき、度数が所定の度数閾値F(例えば0.3)以上となった場合に、その度数を示す面積区分が、図13(a)に示すよう、所定の面積閾値L以上であれば点灯状態と判定し、その度数を示す面積区分が、図13(b)に示すように、所定の面積閾値L未満であれば消灯状態と判定する。ここで、度数閾値Fは、実績から算出された値を採用でき、面積閾値Lは、取得された度数の2つのピーク(図12(b)参照)の中間値とするのが望ましい。また、カラー変化判定部174は、点灯状態をブレーキの操作状態とみなし、消灯状態をブレーキの非操作状態とみなす。
こうして、車外環境認識装置120では、カラー条件を満たす面積の変化に基づいて、先行車両との位置関係の変動に拘わらず、先行車両における発光源のカラー値の変化を適切に判定することが可能となる。
(第2の実施形態:車外環境認識処理)
上述した第1の実施形態では、先行車両の車両領域においてカラー条件を満たした面積が所定の面積閾値以上であるか否かに基づいて点灯態様を判定した。しかし、カラー条件を満たす面積は先行車両との相対距離に応じて変動するので、それに伴い面積閾値も適切な値に変動させるのが望ましい。そこで、第2の実施形態では、点灯態様を判定するための面積閾値を適切に更新する。
図14は、第2の実施形態における車外環境認識処理を示すフローチャートである。かかる図14のフローチャートのうちステップS300〜S332については、第1の実施形態で説明した処理と実質的に等しいので、ここではその詳細な説明を省略し、処理の異なるステップS400とステップS402のみを説明する。
ヒストグラム生成部172がヒストグラム(基準ヒストグラム)を生成すると(S330)、面積閾値導出部176は、面積閾値を決定したか否か判定する(S400)。その結果、面積閾値を決定していれば(S400におけるYES)、カラー変化判定部174は、相対的に度数が高い面積区分が、決定された面積閾値以上であるか否かに基づいて点灯態様を判定する(S332)。ただし、何かしらの理由で車外環境が大きく変化する場合、面積閾値を決定していない状態に戻し、面積閾値を更新してもよい。
また、面積閾値導出部176が面積閾値を決定していなければ(S400におけるNO)、面積閾値を導出する(S402)。ここでは、第1の実施形態で説明した基準ヒストグラムに加え、相異なる複数段階の面積区分を階級とし、その面積区分毎の度数を示す複数のヒストグラムが準備されている。複数のヒストグラムとしては、例えば、加減速(加速、巡行、減速)、および、ハイマウントストップランプに対応させた、加減速(加速、巡行、減速)ヒストグラム、および、ハイマウントストップランプヒストグラムがある。具体的に、面積閾値導出部176は、所定の投票条件を満たした場合、投票条件を満たしたヒストグラムに対して、基準ヒストグラムと等しい面積区分(面積変換部170が変換した面積を含む面積区分)への投票値を時間方向に積分して投票する。
図15は、面積閾値導出ステップS402の具体的な処理の流れを示したフローチャートである。まず、面積閾値導出部176は、ブレーキランプ特定部164bによってハイマウントストップランプが検出されたか否か判定する(S402−1)。ここで、ハイマウントストップランプを用いているのは、ハイマウントストップランプの配置および発光面の角度等が、ブレーキランプより太陽光等、環境の影響を受けにくいからである。したがって、ブレーキランプ特定部164bでは、ブレーキランプより高精度にハイマウントストップランプの点灯態様を把握することができ、面積閾値導出部176は、その結果も参照してブレーキランプの点灯態様を判定する。
ステップS402−1の判定の結果、ハイマウントストップランプが検出されていれば(S402−1におけるYES)、基準ヒストグラムと等しい面積区分への投票値Xnを、上記数式1に従い、ハイマウントストップランプヒストグラムにおいて時間方向に積分し、その積分した度数Ynをハイマウントストップランプヒストグラムに投票して(S402−2)、ステップS402−11に処理を移す。本実施形態において、全てのヒストグラムの投票には、このような積分が伴うが、説明の便宜のため、以下では、単にヒストグラムに投票するといった表現で説明する。
ハイマウントストップランプが検出されていなければ(S402−1におけるNO)、面積閾値導出部176は、先行車両の絶対速度が所定値(例えば、10km/h)未満であるか否か判定する(S402−3)。その結果、先行車両の絶対速度が所定値未満であれば(S402−3におけるYES)、正確な判定結果を得るのが難しいとして、基準ヒストグラム以外のヒストグラムの投票を行わず、ステップS402−11に処理を移す。
先行車両の絶対速度が所定値以上であれば(S402−3におけるNO)、面積閾値導出部176は、先行車両との相対距離が所定値(例えば、80m)以上であるか否か判定する(S402−4)。その結果、先行車両との相対距離が所定値以上であれば(S402−4におけるYES)、正確な判定結果を得るのが難しいとして、基準ヒストグラム以外のヒストグラムの投票を行わず、ステップS402−11に処理を移す。
先行車両との相対距離が所定値未満であれば(S402−4におけるNO)、面積閾値導出部176は、先行車両の絶対加速度が加速に相当する値(例えば0.05G以上)であり、かつ、道路勾配が水平または上りに相当する値(例えば、−0.05G以上)であるか否か判定する(S402−5)。その結果、先行車両の絶対加速度が加速に相当し、かつ、道路勾配が水平または上りに相当すると判定されれば(S402−5におけるYES)、加速のヒストグラムにおける、基準ヒストグラムと同一の面積区分に上記数式1に従って投票して(S402−6)、ステップS402−11に処理を移す。
先行車両の絶対加速度が加速に相当せず、または、道路勾配が水平または上りに相当しないと判定されれば(S402−5におけるNO)、面積閾値導出部176は、先行車両の絶対加速度が巡行に相当する値(例えば−0.1G以上、0.05G未満)であり、かつ、道路勾配が水平または上りに相当する値(例えば、−0.05G以上)であるか否か判定する(S402−7)。その結果、先行車両の絶対加速度が巡行に相当し、かつ、道路勾配が水平または上りに相当すると判定されれば(S402−7におけるYES)、巡行ヒストグラムにおける、基準ヒストグラムと同一の面積区分に投票して(S402−8)、ステップS402−11に処理を移す。ただし、ここでは、以下の数式2に従って投票値Xnが時間方向に積分され度数Ynが求められる。
Yn=0.92×Yn−1+0.08×Xn …(数式2)
したがって、巡行ヒストグラムにおいて、今回のフレームにおける投票値Xnは、度数Ynに対して0.08程度影響することとなる。
先行車両の絶対加速度が巡行に相当せず、または、道路勾配が水平または上りに相当しないと判定されれば(S402−7におけるNO)、面積閾値導出部176は、先行車両の絶対加速度が減速に相当する値(例えば−0.1G未満)であり、かつ、道路勾配が水平または下りに相当する値(例えば、0.05G未満)であるか否か判定する(S402−9)。その結果、先行車両の絶対加速度が減速に相当し、かつ、道路勾配が水平または下りに相当すると判定されれば(S402−9におけるYES)、減速のヒストグラムにおける、基準ヒストグラムと同一の面積区分に上記数式1に従って投票して(S402−10)、ステップS402−11に処理を移す。また、先行車両の絶対加速度が減速に相当せず、または、道路勾配が水平または下りに相当しないと判定されれば(S402−9におけるNO)、基準ヒストグラム以外のヒストグラムの投票を行わず、ステップS402−11に処理を移す。
図16は、ヒストグラムを説明するための説明図である。上記の面積閾値導出ステップS402−1〜S402−10に従って投票条件を判定すると、例えば、先行車両がブレーキ操作を伴って減速している場合、図16(a)のように、基準ヒストグラム上で、相対的に大きい面積区分S1近傍に所定の偏差を伴って所定の度数が出現するとともに、減速ヒストグラムやハイマウントストップランプのヒストグラムの面積区分S1近傍に所定の偏差を伴って所定の度数が出現し易い。一方、先行車両が巡行している場合、図16(b)のように、基準ヒストグラム上で、相対的に小さい面積区分S2近傍に所定の偏差を伴って所定の度数が出現するとともに、加速ヒストグラムや巡行ヒストグラムの面積区分S2近傍に所定の偏差を伴って所定の度数が出現し易くなる。
そして、面積閾値導出部176は、基準ヒストグラム、加速ヒストグラム、巡行ヒストグラム、減速ヒストグラム、および、ハイマウントストップランプヒストグラムを用い、その対応関係に基づき、基準ヒストグラムに出現した度数の群それぞれに対して減速状態と加速状態を判定する(S402−11)。
具体的に、面積閾値導出部176は、まず、基準ヒストグラムに出現した度数の群、すなわち、所定の度数閾値F以上となる相対的に高い度数の面積区分と、その近傍の面積区分とを合わせた面積領域(図16(a)のQ1や図16(b)のQ2)それぞれについて、一点鎖線で囲んだ、その面積領域内の度数のみを参照し、以下に示す数式3および数式4を用いて減速得点Dと加速得点Aを導出する。
D={α・ハイマウントストップランプ度数+β・減速度数}/{(α+β)/2}
…(数式3)
A={γ・加速度数+δ・巡行度数}/{(γ+δ)/2}…(数式4)
ただし、α、β、γ、δは重み付け係数であり、例えば、{α、β、γ、δ}={10、5、3、0.37}が採用される。また、ハイマウントストップランプ度数、減速度数、加速度数、巡行度数は、ハイマウントストップランプ、減速、加速、巡行の各ヒストグラムにおける度数である。
そして、面積閾値導出部176は、度数の群それぞれに対し、数式3および数式4から導出された減速得点Dと加速得点Aに基づいて、減速状態と加速状態を判定する。
図17は、減速得点Dおよび加速得点Aによる判定条件を示した説明図である。ここでは、縦欄に減速得点Dが、横欄に加速得点Aが示され、それぞれの得点に応じて、減速状態または減速状態が特定される。例えば、数式3および数式4により減速得点Dが0.7、加速得点Aが0となった場合、先行車両は減速状態であることが特定される。
続いて、面積閾値導出部176は、減速状態と判定された度数群と、加速状態と判定された度数群とをそれぞれ集計する。ここでは、度数が所定の度数閾値F以上となる度数群のみを集計対象としているが、全ての度数群を集計してもよいし、度数が高い順に1または複数の度数群を選択して集計してもよい。
図18は、面積閾値導出部176による集計処理を説明するための説明図である。ここでは、説明の便宜のため、複数の度数群を、その外形を模擬した線分で示している。面積閾値導出部176は、度数群が減速状態と判定されると、その度数群を図18(a)のように1のヒストグラムに集計し、度数群が加速状態と判定されると、その度数群を図18(b)のように1のヒストグラムに集計する。そして、面積閾値導出部176は、集計された図18(a)の減速状態ヒストグラムを参照して、度数群を構成する面積区分の最小値Ldと、集計された図18(b)の加速状態ヒストグラムを参照して、度数群を構成する面積区分の最大値Luとを導出し、図18に示すように、その平均値((Ld+Lu)/2)を面積閾値Lとして決定する。したがって、ヒストグラムの集計は、度数群を構成する面積区分の最小値Ldまたは最大値Luの特定で置き換えることができる。
ここでは、減速状態に相当する度数群の最小値Ldと、加速状態に相当する度数群の最大値Luとの平均値を用いて面積閾値Lとしているが、かかる場合に限らず、減速状態に相当する度数群の平均値や最頻値と、加速状態に相当する度数群の平均値や最頻値との平均値を面積閾値Lとしてもよい。
こうして、減速状態と加速状態とを区別可能な適切な面積閾値を導出することが可能となり、車外環境認識装置120は、先行車両との位置関係の変動に拘わらず、カラー条件を満たす面積の変化に基づいて、先行車両における発光源のカラー値の変化を適切に判定することが可能となる。また、適切な面積閾値を導出することで、リフレクターをブレーキランプと誤認識してしまうこともない。
また、コンピュータを、車外環境認識装置120として機能させるプログラムや当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
例えば、上述した実施形態においては、面積閾値導出部176が、基準ヒストグラム、加速ヒストグラム、巡行ヒストグラム、減速ヒストグラム、および、ハイマウントストップランプヒストグラム全ての度数の対応関係に基づいて面積閾値を導出する例を挙げて説明したが、かかる場合に限らず、基準ヒストグラムと、いずれか1または複数のヒストグラムとの度数の対応関係に基づいて面積閾値を導出することができる。
また、上述した実施形態に加え、下記の条件を追加することで、点灯有無の判定の信頼性をより高くできる。例えば、ブレーキランプの左右のペアの判定結果を互いに校正に利用したり、ブレーキランプとウィンカーを共用する車両において、その点灯・消灯時間に基づいてブレーキ操作かウィンカー操作かを判定する。
なお、本明細書の車外環境認識処理の各工程は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいはサブルーチンによる処理を含んでもよい。