以下、図面を参照して本発明の実施の形態を詳細に説明する。なお、本実施の形態では、車両に搭載され、撮像された前方画像に基づいてヘッドライトを制御する照明制御装置に本発明を適用した場合を例に説明する。
図1に示すように、第1の実施の形態に係る照明制御装置10は、自車両の前方の画像を撮像するCCDカメラ等からなる撮像装置12と、カーナビ画面等を表示する表示装置14と、撮像された前方画像に基づいて、自車両に設けられたヘッドライト16を制御すると共に、表示装置14の表示を制御するコンピュータ18とを備えている。なお、撮像装置12は、カメラの台数や画角については特に限定されるものではなく、任意の構成としてよい。また、撮像装置12によって出力される画像は、濃淡画像及びカラー画像の何れであってもよい。
コンピュータ18は、CPU、後述する照明制御処理ルーチンのプログラムを記憶したROM、データ等を記憶するRAM、及びこれらを接続するバスを含んで構成されている。このコンピュータ18をハードウエアとソフトウエアとに基づいて定まる機能実現手段毎に分割した機能ブロックで説明すると、図1に示すように、コンピュータ18は、撮像装置12から出力される前方画像を入力する画像入力部20と、画像入力部20の出力である前方画像の各画素について、輝度値が閾値以上であるか否かを判定して、輝度値が閾値以上となる高輝度領域を抽出する領域抽出部22と、抽出された複数の高輝度領域から、高輝度領域の類似性に基づいて、横方向に並んだ類似した高輝度領域のペアを、車両灯火ペア候補として探索するペア候補探索部24と、探索された車両灯火ペア候補の各々について、3次元位置を算出する3次元位置算出部26と、算出された3次元位置の高さ成分に基づいて、車両灯火ペア候補が、車両灯火のペアを表わしているか否かを判定する車両灯火ペア判定部28と、判定結果に基づいて、表示装置14の表示を制御する表示制御部30と、判定結果に基づいて、ヘッドライト16を制御する照明制御部32とを備えている。
画像入力部20は、例えば、A/Dコンバータや1画面の画像データを記憶する画像メモリ等で構成される。
領域抽出部22は、画像入力部20によって入力された図2に示すような前方画像の各画素の輝度値を閾値処理して、図3に示すように、光源に対応する高輝度領域を抽出する。
ペア候補探索部24は、抽出された複数の高輝度領域から、以下に説明するように、車両灯火ペア候補を探索する。まず、ペア探索対象の高輝度領域について、予め定められた車両灯火の横方向の長さと灯火ペア間の間隔との比を用いて、高輝度領域の横方向の長さに対応する灯火ペア間の間隔を横方向の長さとするペア探索範囲を、高輝度領域の左右に設定する。
そして、ペア探索範囲内に存在する高輝度領域と、ペア探索対象の高輝度領域とを比較して、領域の縦方向の長さの差が所定範囲内であり、かつ、横方向の長さの差が所定範囲内である場合には、領域の縦方向の長さと横方向の長さとがほぼ同一であると判断し、ペア探索対象の高輝度領域と、比較対象の高輝度領域とを、車両灯火ペア候補とする。
上記の探索処理を、各高輝度領域について行い、複数の車両灯火ペア候補を探索する。なお、上記では、車両灯火ペア候補として判断する条件が、領域の縦方向の長さ及び横方向の長さの類似性に関する条件である場合を例に説明したが、これに限定されるものではなく、領域の縦横比がほぼ同一であること、領域面積がほぼ同一であること、及び輝度値がほぼ同一であることの何れかを、車両灯火ペア候補として判断する条件としてもよく、また、領域の縦方向の長さ及び横方向の長さがほぼ同一であること、領域面積がほぼ同一であること、及び輝度値がほぼ同一であることの任意の組み合わせを、車両灯火ペア候補として判断する条件としてもよい。
ここで、本実施の形態の原理について説明する。車両灯火のペアは、多くの場合車両の両端に設置されている。また、車幅は、車種によって違いはあるものの、例えば乗用車については1.6〜1.8mとほぼ規定の車幅となるように製造されている。したがって、車幅を仮定し、灯火間隔も同程度の距離であると仮定すると、三角測量の原理により、画像中での光源間の距離に基づいて、対象車両までの距離を概算することができる。さらに、カメラの取付状況(高さや、俯角、ヨー角)も考慮すれば、対象車両の高さや横位置を計算することができる。
そこで、本実施の形態では、3次元位置算出部26によって、図4に示すように、灯火間隔wを仮定して、以下の(1)式〜(3)式に従って、前方画像中での車両灯火ペア候補が車両灯火のペアを表していると推定した場合の車両灯火のペアの中点の3次元座標(x,y,z)を算出することができる。なお、簡単のため、撮像装置12の光軸が水平であり、かつ、撮像装置12の光軸が車両の正面方向と一致している場合を仮定する。
ただし、(X、Y)は、前方画像における車両灯火ペア候補の1対の高輝度領域の中点の座標であり、(XC、YC)は、前方画像の中心座標である。また、hは、予め求められた撮像装置12の取り付け位置の路面を基準とした高さ、fは、予め求められた撮像装置12の焦点距離である。また、dxは、前方画像における車両灯火ペア候補の1対の高輝度領域の重心間の距離である。
なお、上記(1)式〜(3)式では、撮像装置12の光軸が水平であり、かつ、撮像装置12の光軸が車両の正面方向と一致している場合の算出方法について説明したが、撮像装置12の取り付けにおいて、撮像装置12の光軸が、水平でない場合や車両の正面方向と一致しない場合には、撮像装置12の光軸の水平面に対する俯角や、撮像装置12の光軸の車両正面方向に対するヨー角(方位角)を更に考慮して、車両灯火ペアの3次元座標を算出するようにすればよい。
また、「道路運送車両の保安基準の細目を定める告示」にて、車両灯火の取付位置に関する条件が規定されている。例えば、ブレーキランプについては、上縁の高さが地上2.1m以下であって、下縁の高さが地上0.35m以上となるように取り付けることが規定されており、テールランプについては、照明部の中心が地上2m以下となるように取り付けることが規定されている。また、ヘッドライトについては、取付位置が地上1m以下となるように取り付けることが規定されている。
そこで、車両灯火ペア判定部28は、算出された3次元位置の高さが、路面を基準とした、車両灯火の取り付け位置の高さに関する所定範囲(0.35m〜2.1m)内に存在するか否かを判定し、算出された3次元位置の高さが、上記の所定範囲内となる車両灯火ペア候補は、車両灯火のペアとして矛盾しないため、車両灯火のペアを表わしていると判定し、一方、算出された3次元位置の高さが、上記の所定範囲外となる車両灯火ペア候補は、車両灯火のペアとして矛盾するため、車両灯火のペアを表わしていないと判定する。
表示制御部30は、前方画像から探索された車両灯火ペア候補が車両灯火のペアを表わしていると判定された場合、車両灯火ペアが存在することを運転者に提示するための画像を生成して、生成した画像を表示装置14に表示させる。
照明制御部32は、前方画像から探索された車両灯火ペア候補が車両灯火のペアを表わしていると判定された場合、ヘッドライト16からロービームが照射されるようにヘッドライト16を制御し、前方画像から探索された全ての車両灯火ペア候補が車両灯火のペアを表わしていないと判定された場合、ヘッドライト16からハイビームが照射されるようにヘッドライト16を制御する。
次に、第1の実施の形態に係る照明制御装置10の作用について説明する。照明制御装置10を搭載した自車両が夜間に道路上を走行しているときに、撮像装置12によって、自車両の前方が撮像されると、コンピュータ18において、図5に示す照明制御処理ルーチンが実行される。
まず、ステップ100において、撮像装置12より撮像された前方画像を取得し、ステップ102において、上記ステップ100で取得した前方画像の各画素について、輝度値が閾値以上であるか否かを判定して、輝度値が閾値以上となる高輝度領域を抽出する。
そして、ステップ104で、上記ステップ102で抽出された高輝度領域の各々について、ペア探索対象の高輝度領域の横方向の長さに応じた探索範囲を、ペア探索対照の高輝度領域の左右の各々に設定し、ペア探索対象の高輝度領域の縦方向及び横方向の大きさと、探索範囲内に存在する高輝度領域の縦方向及び横方向の大きさとを比較して、横方向に並んだ類似した高輝度領域のペアを、車両灯火ペア候補として探索する。
次のステップ106では、上記ステップ104で探索された車両灯火ペア候補の各々について、仮定した灯火間隔、前方画像から算出される前方画像における車両灯火ペア候補の1対の高輝度領域の中点の座標、予め求められた撮像装置12の取り付け位置の路面を基準とした高さ、予め求められた撮像装置12の焦点距離、及び前方画像から算出される前方画像における車両灯火ペア候補の1対の高輝度領域間の間隔に基づいて、上記(1)式〜(3)式に従って、車両灯火ペア候補が車両灯火ペアを表していると推定した場合の車両灯火の3次元位置を算出する。
そして、ステップ108において、上記ステップ106で算出された車両灯火ペア候補の各々の3次元位置の高さ成分yが、車両灯火の取り付け位置の高さについて予め定められた所定範囲内であるか否かを判定して、車両灯火ペア候補の各々が、車両灯火ペアを表わしているか否かを判定する。
次のステップ110では、上記ステップ108の判定結果に基づいて、車両灯火のペアを表わしている車両灯火ペア候補があったか否かを判定する。前方画像から探索された車両灯火ペア候補の少なくとも一つが、車両灯火のペアを表わしていると判定された場合には、ステップ112において、前方に車両灯火のペアが存在することを表示装置14に表示させる。そして、ステップ114において、ヘッドライト16からロービームが照射されるようにヘッドライト16を制御して、照明制御処理ルーチンを終了する。
一方、上記ステップ110において、前方画像から探索された車両灯火ペア候補の全てが、車両灯火のペアを表わしていないと判定された場合には、ステップ116へ移行し、ヘッドライト16からハイビームが照射されるようにヘッドライト16を制御して、照明制御処理ルーチンを終了する。
以上説明したように、第1の実施の形態に係る照明制御装置によれば、車両灯火ペア候補が表わす車両灯火ペアが存在する路面を基準とした高さを用いて、車両灯火ペア候補が、車両灯火のペアを表わしているか否かを判定することにより、撮像された前方画像が、車両灯火ペアを表わしているか否かを精度よく判定することができる。
また、抽出された高輝度領域の縦方向及び横方向の各々の長さに基づいて、車両灯火ペア候補を探索することによって、横方向に並んだ類似した高輝度領域のペアを車両灯火ペア候補として精度よく探索することができる。
また、ペア探索対象の高輝度領域の横方向の長さに基づいて、ペア探索対象の高輝度領域の左右の各々に探索範囲を設定することにより、横方向に並んだ類似した高輝度領域のペアを車両灯火ペア候補として高速に探索することができる。
また、周辺車両の存在に応じて、ヘッドライトのハイビーム及びロービームの切り替えを適切に制御することができる。
また、算出した3次元位置の高さ情報から、車両灯火と街路灯とを精度よく区別することができる。
なお、上記の実施の形態では、車両灯火ペアの3次元位置を算出して、車両灯火ペアの高さを求める場合を例に説明したが、これに限定されるものではなく、仮定した車両灯火ペアの灯火間の距離、前方画像から得られる車両灯火ペア候補の一対の高輝度領域間の距離、路面を基準とした撮像装置の取付位置の高さ、予め求められた水平面を基準とした撮像装置の光軸の俯角、及び前方画像から得られる前方画像における車両灯火ペア候補の高輝度領域の座標の高さ成分に基づいて、三角測量の原理より、車両灯火ペアの高さを求めるようにしてもよい。
次に、第2の実施の形態について説明する。なお、第2の実施の形態に係る照明制御装置は、第1の実施の形態と同様の構成であるため、同一符号を付して説明を省略する。
第2の実施の形態では、車両灯火ペア候補から推定される車両灯火ペアまでの距離と、車両灯火ペア候補の高輝度領域の輝度値とに基づいて、車両灯火ペア候補が車両灯火のペアを表わしているか否かを判定している点が第1の実施の形態と異なっている。
第2の実施の形態に係る照明制御装置のコンピュータ18では、3次元位置算出部26によって、前方画像中での車両灯火ペア候補が車両灯火ペアを表していると推定した場合の車両灯火の3次元位置を算出すると共に、算出された3次元位置に基づいて、自車両から算出された3次元位置までの距離を算出する。
また、「道路運送車両の保安基準の細目を定める告示」にて、車両灯火の明るさに関する条件が規定されている。例えば、ブレーキランプについては、昼間に100m離れた位置から点灯を確認できるような明るさであって、光源が15W以上60W以下であることが規定されており、テールランプについては、昼間に150m離れた位置から点灯を確認できる明るさであって、光源が3W以上であることが規定されており、ヘッドライトについては、夜間に前方15mの距離にある障害物を確認できる明るさであることが規定されている。
また、撮像画像の車両灯火を表わす領域の輝度値は、撮像装置から車両灯火までの距離の2乗に反比例して低下する。従って、車両灯火の明るさを仮定すれば、車両灯火までの距離が所定距離である場合に、撮像画像の車両灯火を表わす領域を推定することができる。
そこで、車両灯火ペア判定部28では、車両灯火を表わす領域の輝度値の範囲を予め定めておき、各車両灯火ペア候補について、一対の高輝度領域の平均輝度値を検出する。また、車両灯火ペア判定部28は、検出された車両灯火ペア候補の一対の高輝度領域の平均輝度値が、平均輝度値及び距離について定められた条件として、算出された3次元位置に基づく距離に応じて推定される車両灯火の輝度値の範囲内に存在するか否かを判定し、検出された一対の高輝度領域の平均輝度値が、上記の算出された距離に応じた輝度値の範囲内となる車両灯火ペア候補は、車両灯火のペアとして矛盾しないため、車両灯火のペアを表わしていると判定し、一方、検出された一対の高輝度領域の平均輝度値が、上記の算出された距離に応じた輝度値の範囲外となる車両灯火ペア候補は、車両灯火のペアとして矛盾するため、車両灯火のペアを表わしていないと判定する。
なお、車両灯火を表わす領域の輝度値の範囲については、統計的又は実験的に、「道路運送車両の保安基準の細目を定める告示」に規定されている明るさの車両灯火を撮像した画像から、車両灯火を表わす領域の輝度値を調べておき、車両灯火を表わす領域の輝度値の範囲を予め設定しておけばよい。また、車両灯火までの距離と、車両灯火の輝度値の範囲との関係については、統計的又は実験的に、車両灯火までの距離が異なる複数パターンについて、上記の輝度値の範囲となる車両灯火を撮像した場合の車両灯火を表わす領域の輝度値を調べておき、車両灯火までの距離と車両灯火の輝度値の範囲との関係を予め設定しておけばよい。
次に、第2の実施の形態に係る照明制御処理ルーチンについて図6を用いて説明する。なお、第1の実施の形態と同様の処理については、同一符号を付して説明を省略する。
まず、ステップ100で、撮像装置12より撮像された前方画像を取得し、ステップ102において、取得した前方画像から、輝度値が閾値以上となる高輝度領域を抽出し、次のステップ104で、抽出された高輝度領域から、車両灯火ペア候補を探索する。
そして、ステップ200において、探索された車両灯火ペア候補の各々について、車両灯火ペア候補が車両灯火ペアを表していると推定した場合の車両灯火の3次元位置を算出すると共に、算出した3次元位置までの距離を算出する。
そして、ステップ202において、車両灯火ペア候補の各々について、一対の高輝度領域の平均輝度値を検出し、次のステップ204で、算出された距離、及び予め定められた車両灯火の輝度値の範囲と距離との関係に基づいて、算出された距離に応じた車両灯火の輝度値の範囲を算出する。
そして、ステップ206において、車両灯火ペア候補の各々について、検出された一対の高輝度領域の平均輝度値が、算出された距離に応じた車両灯火の輝度値の範囲内であるか否かを判定して、車両灯火ペア候補の各々が、車両灯火ペアを表わしているか否かを判定する。
次に、ステップ110で、上記ステップ206の判定結果に基づいて、車両灯火のペアを表わしている車両灯火ペア候補があったか否かを判定し、車両灯火ペア候補の少なくとも一つが、車両灯火のペアを表わしていると判定された場合には、ステップ112で、前方に車両灯火のペアが存在することを表示装置14に表示させると共に、ステップ114において、ヘッドライト16からロービームが照射されるようにヘッドライト16を制御して、照明制御処理ルーチンを終了する。
一方、上記ステップ110で、探索された車両灯火ペア候補の全てが、車両灯火のペアを表わしていないと判定された場合には、ステップ116において、ヘッドライト16からハイビームが照射されるようにヘッドライト16を制御して、照明制御処理ルーチンを終了する。
以上説明したように、第2の実施の形態に係る照明制御装置によれば、車両灯火ペア候補が表わす車両灯火ペアまでの距離と車両灯火ペア候補の一対の高輝度領域の平均輝度値とを用いて、車両灯火ペア候補が、車両灯火のペアを表わしているか否かを判定することにより、撮像された前方画像が、車両灯火ペアを表わしているか否かを精度よく判定することができる。
なお、上記の実施の形態では、車両灯火ペア候補について、一対の高輝度領域の平均輝度値を検出して、推定される輝度値の範囲内に存在するか否かを判定する場合を例に説明したが、これに限定されるものではなく、車両灯火ペア候補について、右側の高輝度領域の平均輝度値及び左側の高輝度領域の平均輝度値を検出して、各々の平均輝度値について、推定される輝度値の範囲内に存在するか否かを判定するようにしてもよい。
次に、第3の実施の形態について説明する。なお、第3の実施の形態に係る照明制御装置は、第1の実施の形態と同様の構成であるため、同一符号を付して説明を省略する。
第3の実施の形態では、車両灯火ペア候補から推定される車両灯火ペアまでの距離と、車両灯火ペア候補の高輝度領域の面積とに基づいて、車両灯火ペア候補が車両灯火のペアを表わしているか否かを判定している点が第1の実施の形態と異なっている。
第3の実施の形態に係る照明制御装置のコンピュータ18では、3次元位置算出部26によって、前方画像中での車両灯火ペア候補が車両灯火ペアを表していると推定した場合の車両灯火の3次元位置を算出すると共に、算出された3次元位置に基づいて、自車両から算出された3次元位置までの距離を算出する。
また、「道路運送車両の保安基準の細目を定める告示」にて、車両灯火の面積に関する条件が規定されている。例えば、ブレーキランプについては、照明部の面積が20cm2以上であることが規定されており、テールランプについては、照明部の面積が10cm2以上であることが規定されている。
また、撮像画像の車両灯火を表わす領域の大きさは、撮像装置から車両灯火までの距離の2乗に反比例して小さくなる。従って、車両灯火の大きさを仮定すれば、車両灯火までの距離が所定距離である場合に、撮像画像の車両灯火を表わす領域の大きさを推定することができる。
そこで、車両灯火ペア判定部28では、車両灯火を表わす領域の面積の範囲を予め定めておき、各車両灯火ペア候補について、一対の高輝度領域の平均面積を算出する。また、車両灯火ペア判定部28は、算出された車両灯火ペア候補の一対の高輝度領域の平均面積が、平均面積及び距離について定められた条件として、算出された3次元位置に基づく距離に応じて推定される車両灯火の面積の範囲内に存在するか否かを判定し、検出された一対の高輝度領域の平均面積が、上記の算出された距離に応じた面積の範囲内となる車両灯火ペア候補は、車両灯火のペアとして矛盾しないため、車両灯火のペアを表わしていると判定し、一方、検出された一対の高輝度領域の平均面積が、上記の算出された距離に応じた面積の範囲外となる車両灯火ペア候補は、車両灯火のペアとして矛盾するため、車両灯火のペアを表わしていないと判定する。
なお、車両灯火を表わす領域の面積の範囲については、統計的又は実験的に、「道路運送車両の保安基準の細目を定める告示」に規定されている大きさの車両灯火を撮像した画像において、車両灯火を表わす領域の面積を調べておき、車両灯火を表わす領域の面積の範囲を予め設定しておけばよい。また、車両灯火までの距離と、車両灯火の面積の範囲との関係については、統計的又は実験的に、車両灯火までの距離が異なる複数パターンについて、上記の面積の範囲となる車両灯火を撮像した場合の車両灯火を表わす領域の面積を調べておき、車両灯火までの距離と車両灯火の面積の範囲との関係を予め設定しておけばよい。
また、第3の実施の形態に係る照明制御処理ルーチンでは、撮像装置12より撮像された前方画像を取得し、取得した前方画像から、輝度値が閾値以上となる高輝度領域を抽出し、抽出された高輝度領域から、車両灯火ペア候補を探索する。
そして、探索された車両灯火ペア候補の各々について、車両灯火ペア候補が車両灯火ペアを表していると推定した場合の車両灯火の3次元位置を算出すると共に、算出した3次元位置までの距離を算出する。
そして、車両灯火ペア候補の各々について、一対の高輝度領域の平均面積を算出し、また、算出された距離、及び予め定められた車両灯火の面積の範囲と距離との関係に基づいて、算出された距離に応じた車両灯火の面積の範囲を算出する。
そして、車両灯火ペア候補の各々について、算出された一対の高輝度領域の平均面積が、算出された距離に応じた車両灯火の面積の範囲内であるか否かを判定して、車両灯火ペア候補の各々が、車両灯火のペアを表わしているか否かを判定する。
次に、判定結果に基づいて、車両灯火のペアを表わしている車両灯火ペア候補があったか否かを判定し、車両灯火ペア候補の少なくとも一つが、車両灯火のペアを表わしていると判定された場合には、前方に車両灯火のペアが存在することを表示装置14に表示させると共に、ヘッドライト16からロービームが照射されるようにヘッドライト16を制御して、照明制御処理ルーチンを終了する。
一方、探索された車両灯火ペア候補の全てが、車両灯火のペアを表わしていないと判定された場合には、ヘッドライト16からハイビームが照射されるようにヘッドライト16を制御して、照明制御処理ルーチンを終了する。
以上説明したように、第3の実施の形態に係る照明制御装置によれば、車両灯火ペア候補が表わす車両灯火ペアまでの距離と車両灯火ペア候補の一対の高輝度領域の平均面積とを用いて、車両灯火ペア候補が、車両灯火のペアを表わしているか否かを判定することにより、撮像された前方画像が、車両灯火ペアを表わしているか否かを精度よく判定することができる。
なお、上記の第2の実施の形態及び第3の実施の形態では、車両灯火ペアの3次元位置を算出して、車両灯火ペアまでの距離を求める場合を例に説明したが、これに限定されるものではなく、仮定した車両灯火ペアの灯火間の距離、前方画像から得られる車両灯火ペア候補の一対の高輝度領域間の距離、及び撮像装置の焦点距離に基づいて、三角測量の原理により、車両灯火ペア候補が表わす車両灯火ペアまでの距離を求めるようにしてもよい。
次に、第4の実施の形態について説明する。なお、第1の実施の形態と同様の構成となる部分については、同一符号を付して説明を省略する。
第4の実施の形態では、前方画像から水平面上の道路領域を認識している点と、車両灯火ペア候補から推定される車両灯火ペアの水平面上の位置と、認識された水平面上の道路領域とに基づいて、車両灯火ペア候補が車両灯火のペアを表わしているか否かを判定している点とが、第1の実施の形態と異なっている。
図7に示すように、第4の実施の形態に係る照明制御装置410のコンピュータ418は、画像入力部20と、領域抽出部22と、ペア候補探索部24と、3次元位置算出部26と、入力された前方画像に基づいて、水平面上の道路領域を認識する道路領域認識部427と、算出された3次元位置から得られる水平面上の位置、及び認識された水平面上の道路領域に基づいて、車両灯火ペア候補が、車両灯火のペアを表わしているか否かを判定する車両灯火ペア判定部428と、表示制御部30と、照明制御部32とを備えている。
道路領域認識部427は、前方画像に対してパターン認識処理を行い、前方画像に表された自車両が走行中の道路について、車線幅又は道路幅、及び道路形状に関する情報(曲率や勾配)を認識し、認識した車線幅又は道路幅、及び道路形状に関する情報に基づいて、水平面上における数百m先までの道路領域を推定する。
車両灯火ペア判定部428は、算出された3次元位置から得られる車両灯火ペア候補が表わす車両灯火ペアの水平面上の位置(x軸方向の位置、z軸方向の位置)が、認識された水平面上の道路領域内に存在するか否かを判定し、車両灯火ペア候補が表わす車両灯火ペアの水平面上の位置が、認識された水平面上の道路領域内に存在する車両灯火ペア候補は、車両灯火のペアとして矛盾しないため、車両灯火のペアを表わしていると判定し、一方、車両灯火ペア候補が表わす車両灯火ペアの水平面上の位置が、認識された水平面上の道路領域外に存在する車両灯火ペア候補は、車両灯火のペアとして矛盾するため、車両灯火のペアを表わしていないと判定する。
次に、第4の実施の形態に係る照明制御処理ルーチンについて図8を用いて説明する。なお、第1の実施の形態と同様の処理については、同一符号を付して詳細な説明を省略する。
まず、ステップ100で、撮像装置12より撮像された前方画像を取得し、ステップ102において、取得した前方画像から、輝度値が閾値以上となる高輝度領域を抽出し、次のステップ104で、抽出された高輝度領域から、車両灯火ペア候補を探索する。
そして、ステップ106において、探索された車両灯火ペア候補の各々について、車両灯火ペア候補が車両灯火ペアを表していると推定した場合の車両灯火の3次元位置を算出する。
そして、ステップ450において、上記ステップ100で取得した前方画像に対してパターン認識処理を行い、自車両が走行中の道路の道路幅又は車線幅、及び道路形状に関する情報を認識する。そして、ステップ452において、上記ステップ450で認識した道路の道路幅又は車線幅、及び道路形状に関する情報に基づいて、水平面上における数百m先までの道路領域を推定する。
次のステップ454において、車両灯火ペア候補の各々について、算出された車両灯火の3次元位置から得られる水平面上の位置が、上記ステップ452で推定された水平面上の道路領域内であるか否かを判定して、車両灯火ペア候補の各々が、車両灯火のペアを表わしているか否かを判定する。
次に、ステップ110で、上記ステップ454の判定結果に基づいて、車両灯火のペアを表わしている車両灯火ペア候補があったか否かを判定し、車両灯火ペア候補の少なくとも一つが、車両灯火のペアを表わしていると判定された場合には、ステップ112で、前方に車両灯火のペアが存在することを表示装置14に表示させると共に、ステップ114において、ヘッドライト16からロービームが照射されるようにヘッドライト16を制御して、照明制御処理ルーチンを終了する。
一方、上記ステップ110で、探索された車両灯火ペア候補の全てが、車両灯火のペアを表わしていないと判定された場合には、ステップ116において、ヘッドライト16からハイビームが照射されるようにヘッドライト16を制御して、照明制御処理ルーチンを終了する。
以上説明したように、第4の実施の形態に係る照明制御装置によれば、車両灯火ペア候補が表わす車両灯火ペアが存在する水平面上の位置と前方画像から認識された水平面上の道路領域とを用いて、車両灯火ペアが存在する位置が、道路上であるか否かを確認して、車両灯火ペア候補が、車両灯火のペアを表わしているか否かを判定することにより、撮像された前方画像が、車両灯火ペアを表わしているか否かを精度よく判定することができる。
次に、第5の実施の形態について説明する。なお、第1の実施の形態及び第4の実施の形態と同様の構成となる部分については、同一符号を付して説明を省略する。
第5の実施の形態では、ナビゲーションシステムから得られるナビ地図情報に基づいて、水平面上の道路領域を示す情報を取得している点が、第4の実施の形態と主に異なっている。
図9に示すように、第5の実施の形態に係る照明制御装置510のコンピュータ518は、画像入力部20と、領域抽出部22と、ペア候補探索部24と、3次元位置算出部26と、自車両に搭載されたナビゲーションシステム(図示省略)から取得されるナビ地図情報に基づいて、水平面上の道路領域を示す情報を取得する道路領域取得部527と、算出された3次元位置から得られる水平面上の位置、及び取得された情報が示す水平面上の道路領域に基づいて、車両灯火ペア候補が、車両灯火のペアを表わしているか否かを判定する車両灯火ペア判定部528と、表示制御部30と、照明制御部32とを備えている。
道路領域取得部527は、ナビゲーションシステム(図示省略)から取得されるナビ地図情報から、数百m先までの走行中の道路に関する情報を取得し、水平面上における数百m先までの道路領域を示す情報を取得する。
車両灯火ペア判定部528は、算出された3次元位置から得られる車両灯火ペア候補が表わす車両灯火ペアの水平面上の位置(x軸方向の位置、z軸方向の位置)が、取得された情報が示す水平面上の道路領域内に存在するか否かを判定し、車両灯火ペア候補が表わす車両灯火ペアの水平面上の位置が、取得された情報が示す水平面上の道路領域内に存在する車両灯火ペア候補は、車両灯火のペアとして矛盾しないため、車両灯火のペアを表わしていると判定し、一方、車両灯火ペア候補が表わす車両灯火ペアの水平面上の位置が、取得された情報が示す水平面上の道路領域外に存在する車両灯火ペア候補は、車両灯火のペアとして矛盾するため、車両灯火のペアを表わしていないと判定する。
第5の実施の形態に係る照明制御処理ルーチンでは、撮像装置12より撮像された前方画像を取得し、取得した前方画像から、輝度値が閾値以上となる高輝度領域を抽出し、抽出された高輝度領域から、車両灯火ペア候補を探索する。次に、探索された車両灯火ペア候補の各々について、車両灯火ペア候補が車両灯火のペアを表していると推定した場合の車両灯火の3次元位置を算出する。
そして、ナビゲーションシステムから自車両の周辺道路に関するナビ地図情報を取得し、ナビ地図情報から、自車両が走行している道路の数百m先までの道路に関する情報を取得する。そして、取得した数百m先までの道路に関する情報に基づいて、水平面上における数百m先までの道路領域を示す情報を取得する。
次に、車両灯火ペア候補の各々について、算出された車両灯火の3次元位置から得られる水平面上の位置が、取得した情報が示す水平面上の道路領域内であるか否かを判定して、車両灯火ペア候補の各々が、車両灯火のペアを表わしているか否かを判定する。
そして、上記の判定結果に基づいて、車両灯火のペアを表わしている車両灯火ペア候補があったか否かを判定し、車両灯火ペア候補の少なくとも一つが、車両灯火のペアを表わしていると判定された場合には、前方に車両灯火のペアが存在することを表示装置14に表示させると共に、ヘッドライト16からロービームが照射されるようにヘッドライト16を制御して、照明制御処理ルーチンを終了する。
一方、探索された車両灯火ペア候補の全てが、車両灯火のペアを表わしていないと判定された場合には、ヘッドライト16からハイビームが照射されるようにヘッドライト16を制御して、照明制御処理ルーチンを終了する。
このように、車両灯火ペア候補が表わす車両灯火ペアが存在する水平面上の位置とナビ地図情報から取得された情報が示す水平面上の道路領域とを用いて、車両灯火ペアが存在する位置が、道路上であるか否かを確認して、車両灯火ペア候補が、車両灯火のペアを表わしているか否かを判定することにより、撮像された前方画像が、車両灯火ペアを表わしているか否かを精度よく判定することができる。
なお、上記の実施の形態では、ナビ地図情報から水平面上の道路領域を示す情報を取得する場合を例に説明したが、これに限定されるものではなく、路車間通信などにより、道路情報を取得して、水平面上の道路領域を示す情報を取得するようにしてもよい。
また、車両灯火ペア候補が表わす車両灯火ペアが存在する位置が、道路上であると判断された場合には、車両灯火ペアが存在する道路の車線を更に判定して、車両灯火ペアの車両が、対向車及び先行車の何れであるかを識別するようにしてもよい。
また、上記の第4の実施の形態及び第5の実施の形態では、車両灯火ペアの3次元位置を算出して、車両灯火ペアの水平面上の位置を求める場合を例に説明したが、これに限定されるものではなく、仮定された車両灯火ペアの灯火間の距離、前方画像から得られる車両灯火ペア候補の一対の高輝度領域間の距離、前方画像における車両灯火ペア候補一対の高輝度領域の位置、予め求められた撮像装置の光軸の方向(車両正面方向に対する光軸のヨー角や水平面を基準とした光軸の俯角)に基づいて、三角測量の原理より、車両灯火ペア候補が表わす車両灯火ペアの水平面上の位置を求めるようにしてもよい。
次に、第6の実施の形態について説明する。なお、第1の実施の形態と同様の構成となる部分については、同一符号を付して説明を省略する。
第6の実施の形態では、ヘッドライト候補となる高輝度領域と、テールランプ候補となる高輝度領域とに分けて抽出している点と、抽出されたヘッドライト候補となる高輝度領域から、ヘッドライトのペアを表わしているか否かを判定し、抽出されたテールライト候補となる高輝度領域から、テールランプ又はブレーキランプのペアを表わしているか否かを判定している点が、第1の実施の形態と主に異なっている。
図10に示すように、第6の実施の形態に係る照明制御装置610のコンピュータ618は、画像入力部20と、画像入力部20の出力である前方画像の各画素について、輝度値が、ヘッドライトに対応して定められた第1閾値以上であるか否かを判定して、輝度値が第1閾値以上となるヘッドライト候補の高輝度領域を抽出するヘッドライト候補領域抽出部622と、画像入力部20の出力である前方画像の各画素について、輝度値が、テールランプに対応して定められた第2閾値以上であるか否かを判定して、輝度値が第2閾値以上となるテールランプ候補の高輝度領域を抽出するテールランプ候補領域抽出部623と、抽出されたヘッドライト候補の複数の高輝度領域から、高輝度領域の類似性に基づいて、横方向に並んだ類似する高輝度領域のペアを、ヘッドライトペア候補として探索すると共に、抽出されたテールランプ候補の複数の高輝度領域から、高輝度領域の類似性に基づいて、横方向に並んだ類似する高輝度領域のペアを、テールランプペア候補として探索するペア候補探索部624と、探索されたヘッドライトペア候補の各々について、3次元位置を算出すると共に、探索されたテールランプペア候補の各々について、3次元位置を算出する3次元位置算出部626と、算出された3次元位置の高さ情報に基づいて、ヘッドライトペア候補が、ヘッドライトのペアを表わしているか否かを判定すると共に、テールランプペア候補が、テールランプ又はブレーキランプのペアを表わしているか否かを判定する車両灯火ペア判定部628と、判定結果に基づいて、表示装置14の表示を制御する表示制御部630と、判定結果に基づいて、ヘッドライト16を制御する照明制御部632とを備えている。
ヘッドライト候補領域抽出部622は、対向車のヘッドライトを想定して定められた第1閾値を用いて、画像入力部20によって入力された前方画像の各画素の輝度値を閾値処理して、ヘッドライト候補の高輝度領域を抽出する。
テールランプ候補領域抽出部623は、先行車のテールランプ(特に遠距離に存在する先行車のテールランプ)を想定して定められた第2閾値を用いて、画像入力部20によって入力された前方画像の各画素の輝度値を閾値処理して、テールランプ候補の高輝度領域を抽出する。第2閾値は第1閾値よりも低い値であるので、テールランプ候補領域抽出部623では、ヘッドライト候補領域抽出部622で抽出したヘッドライト候補の高輝度領域と重なる領域を抽出することができる。しかし、ヘッドライト候補の高輝度領域を用いた探索及び判定は別途行なうため、テールランプ候補領域抽出部623では、ヘッドライト候補の高輝度領域として抽出された領域とは重ならない領域のみを、テールランプ候補の高輝度領域として抽出する。
ペア候補探索部624は、抽出されたヘッドライト候補の複数の高輝度領域から、上記の第1の実施の形態に係るペア候補探索部24と同様に、ヘッドライトペア候補を探索する。また、ペア候補探索部624は、抽出されたテールランプ候補の複数の高輝度領域から、上記の第1の実施の形態に係るペア候補探索部24と同様に、テールランプ候補を探索する。
3次元位置算出部626は、ヘッドライトの灯火間隔wを仮定して、上記の(1)式〜(3)式に従って、前方画像中でのヘッドライトペア候補がヘッドライトのペアを表していると推定した場合のヘッドライトの3次元位置(x,y,z)を算出する。また、3次元位置算出部626は、テールランプの灯火間隔wを仮定して、上記の(1)式〜(3)式に従って、前方画像中でのテールランプペア候補がテールランプのペアを表していると推定した場合のテールランプの3次元位置(x,y,z)を算出する。
車両灯火ペア判定部628は、算出されたヘッドライトの3次元位置の高さが、路面を基準としたヘッドライトの取り付け位置の高さの範囲(0.35m〜1m)内に存在するか否かを判定し、算出された3次元位置の高さが、上記の高さの範囲内となるヘッドライトペア候補は、ヘッドライトのペアを表わしていると判定し、一方、算出されたヘッドライトの3次元位置の高さが、上記の高さの範囲外となるヘッドライトペア候補は、ヘッドライトのペアを表わしていないと判定する。
また、車両灯火ペア判定部628は、算出されたテールランプの3次元位置の高さが、路面を基準としたテールランプ及びブレーキランプの取り付け位置の高さの範囲(0.35m〜2.1m)内に存在するか否かを判定し、算出された3次元位置の高さが、上記の高さの範囲内となるテールランプペア候補は、テールランプ又はブレーキランプのペアを表わしていると判定し、一方、算出されたテールランプの3次元位置の高さが、上記の高さの範囲外となるテールランプペア候補は、テールランプのペア及びブレーキランプのペアの何れも表わしていないと判定する。
表示制御部630は、前方画像から探索されたヘッドライトペア候補がヘッドライトのペアを表わしていると判定された場合、及び探索されたテールランプペア候補がテールランプ又はブレーキランプのペアを表わしていると判定された場合には、ヘッドライトのペア、テールランプのペア、又はブレーキランプのペアが存在することを運転者に提示するための画像を生成して、生成した画像を表示装置14に表示させる。
照明制御部632は、前方画像から探索されたヘッドライトペア候補がヘッドライトのペアを表わしていると判定された場合、又は前方画像から探索されたテールランプペア候補がテールランプ又はブレーキランプのペアを表わしていると判定された場合に、ヘッドライト16からロービームが照射されるようにヘッドライト16を制御する。また、照明制御部632は、前方画像から探索されたヘッドライトペア候補の全てがヘッドライトのペアを表わしていないと判定され、かつ、前方画像から探索された全てのテールランプペア候補がテールランプ又はブレーキランプのペアを表わしていないと判定された場合、ヘッドライト16からハイビームが照射されるようにヘッドライト16を制御する。
次に、第6の実施の形態に係る照明制御処理ルーチンについて図11を用いて説明する。なお、第1の実施の形態と同様の処理については、同一符号を付して説明を省略する。
まず、ステップ100において、撮像装置12より撮像された前方画像を取得し、ステップ650において、上記ステップ100で取得した前方画像の各画素について、輝度値が第1閾値以上であるか否かを判定して、輝度値が第1閾値以上となるヘッドライト候補の高輝度領域を抽出する。
そして、ステップ652で、上記ステップ650で抽出されたヘッドライト候補の高輝度領域の各々について、ペア探索対象の高輝度領域の横方向の長さに応じた探索範囲を、ペア探索対象の高輝度領域の左右の各々に設定し、ペア探索対象の高輝度領域の縦方向及び横方向の大きさと、探索範囲内に存在するヘッドライト候補の高輝度領域の縦方向及び横方向の大きさとを比較して、横方向に並んだ類似したヘッドライト候補の高輝度領域のペアを、ヘッドライトペア候補として探索する。
次のステップ654では、上記ステップ652で探索されたヘッドライトペア候補の各々について、仮定した灯火間隔、前方画像から算出される前方画像におけるヘッドライトペア候補の1対の高輝度領域の中点の座標、予め求められた撮像装置12の取り付け位置の路面を基準とした高さ、予め求められた撮像装置12の焦点距離、及び前方画像から算出される前方画像におけるヘッドライトペア候補の1対の高輝度領域間の間隔に基づいて、上記(1)式〜(3)式に従って、ヘッドライトペア候補がヘッドライトのペアを表していると推定した場合のヘッドライトの3次元位置を算出する。
そして、ステップ656において、上記ステップ654で算出されたヘッドライトペア候補の各々の3次元位置の高さ成分yが、ヘッドライトの取り付け位置の高さについて予め定められた範囲内であるか否かを判定して、ヘッドライトペア候補の各々が、ヘッドライトのペアを表わしているか否かを判定する。
次のステップ658では、上記ステップ100で取得した前方画像の各画素について、輝度値が第2閾値以上であるか否かを判定して、輝度値が第2閾値以上となるテールランプ候補の高輝度領域を抽出する。なお、上記ステップ650で抽出されたヘッドライト候補の高輝度領域については、抽出対象から除外する。
そして、ステップ660で、上記ステップ658で抽出されたテールランプ候補の高輝度領域の各々について、ペア探索対象の高輝度領域の横方向の長さに応じた探索範囲を、ペア探索対象の高輝度領域の左右の各々に設定し、ペア探索対象の高輝度領域の縦方向及び横方向の大きさと、探索範囲内に存在するテールランプ候補の高輝度領域の縦方向及び横方向の大きさとを比較して、横方向に並んだ類似したテールランプ候補の高輝度領域のペアを、テールランプペア候補として探索する。
次のステップ662では、上記ステップ660で探索されたテールランプペア候補の各々について、仮定した灯火間隔、前方画像から算出される前方画像におけるテールランプペア候補の1対の高輝度領域の中点の座標、予め求められた撮像装置12の取り付け位置の路面を基準とした高さ、予め求められた撮像装置12の焦点距離、及び前方画像から算出される前方画像におけるテールランプペア候補の1対の高輝度領域間の間隔に基づいて、上記(1)式〜(3)式に従って、テールランプペア候補がテールランプのペアを表していると推定した場合のテールランプの3次元位置を算出する。
そして、ステップ664において、上記ステップ662で算出されたテールランプペア候補の各々の3次元位置の高さ成分yが、テールランプ又はブレーキランプの取り付け位置の高さについて予め定められた範囲内であるか否かを判定して、テールランプペア候補の各々が、テールランプのペアを表わしているか否かを判定する。
そして、ステップ666において、上記ステップ656の判定結果及び上記ステップ664の判定結果に基づいて、ヘッドライトのペアを表わしているヘッドライトペア候補や、テールランプ又はブレーキランプを表しているテールランプペア候補があったか否かを判定する。前方画像から探索されたヘッドライトペア候補の少なくとも一つが、ヘッドライトのペアを表わしていると判定された場合、及び前方画像から探索されたテールランプペア候補の少なくとも一つが、テールランプ又はブレーキランプのペアを表わしていると判定された場合には、ステップ668において、ヘッドライトのペア、テールランプのペア、又はブレーキランプのペアが前方に存在することを表示装置14に表示させる。
そして、ステップ114において、ヘッドライト16からロービームが照射されるようにヘッドライト16を制御して、照明制御処理ルーチンを終了する。
また、上記ステップ666において、前方画像から探索されたヘッドライトペア候補の全てが、ヘッドライトのペアを表わしていないと判定され、かつ、前方画像から探索されたテールランプペア候補の全てが、テールランプ又はブレーキランプのペアを表わしていないと判定された場合には、ステップ116へ移行し、ヘッドライト16からハイビームが照射されるようにヘッドライト16を制御して、照明制御処理ルーチンを終了する。
このように、車両灯火の種類別に、前方画像が車両灯火を表わしているか否かを精度よく判定することができる。
なお、上記の実施の形態では、2種類の車両灯火に応じて輝度値に関する閾値を2段階設定した場合を例に説明したが、これに限定されるものではなく、ヘッドライト、テールランプ、及びブレーキランプの3種類の車両灯火に応じて、輝度値に関する3段階の閾値を設定してもよい。また、更に、車両灯火ペアが存在する位置までの距離に応じて、輝度値に関する閾値を多段階に設定してもよい。
次に、第7の実施の形態について説明する。なお、第7の実施の形態に係る照明制御装置は、第4の実施の形態と同様の構成であるため、同一符号を付して説明を省略する。
第7の実施の形態に係る照明制御装置では、3次元位置算出部26によって、前方画像中での車両灯火ペア候補が車両灯火ペアを表していると推定した場合の車両灯火の3次元位置を算出すると共に、算出された3次元位置に基づいて、自車両から算出された3次元位置までの距離を算出する。
車両灯火ペア判定部428では、上記の第1の実施の形態と同様に、算出された3次元位置の高さが、路面を基準とした、車両灯火の取り付け位置の高さに関する所定範囲内に存在するか否かを判定する。また、上記の第2の実施の形態と同様に、各車両灯火ペア候補について、一対の高輝度領域の平均輝度値を検出し、検出された車両灯火ペア候補の一対の高輝度領域の平均輝度値が、算出された3次元位置に基づく距離に応じて推定される車両灯火の輝度値の範囲内に存在するか否かを判定する。また、上記の第3の実施の形態と同様に、各車両灯火ペア候補について、一対の高輝度領域の平均面積を算出し、算出された車両灯火ペア候補の一対の高輝度領域の平均面積が、算出された3次元位置に基づく距離に応じて推定される車両灯火の面積の範囲内に存在するか否かを判定する。また、算出された3次元位置から得られる車両灯火ペア候補が表わす車両灯火ペアの水平面上の位置(x軸方向の位置、z軸方向の位置)が、道路領域認識部427によって認識された水平面上の道路領域内に存在するか否かを判定する。車両灯火ペア判定部428は、判定対象の車両灯火ペア候補について、算出された3次元位置の高さが、上記の所定範囲内となると判定され、検出された一対の高輝度領域の平均輝度値が、上記の算出された距離に応じた輝度値の範囲内となると判定され、検出された一対の高輝度領域の平均面積が、上記の算出された距離に応じた面積の範囲内となると判定され、車両灯火ペア候補が表わす車両灯火ペアの水平面上の位置が、認識された水平面上の道路領域内に存在すると判定された場合、判定対象の車両灯火ペア候補は、車両灯火のペアとして矛盾しないため、車両灯火のペアを表わしていると判定する。それ以外の場合には、車両灯火ペア候補は、車両灯火のペアとして矛盾するため、車両灯火のペアを表わしていないと判定する。
なお、照明制御装置の他の構成及び作用については、第4の実施の形態と同様であるため、説明を省略する。
このように、車両灯火ペア候補が表わす車両灯火ペアが存在する路面を基準とした高さ、車両灯火ペアまでの距離、及び車両灯火ペアが存在する水平面上の位置を用いて、車両灯火ペア候補が、車両灯火のペアを表わしているか否かを判定することにより、撮像された前方画像が、車両灯火ペアを表わしているか否かを精度よく判定することができる。
なお、上記の実施の形態では、前方画像から水平面上の道路領域を認識する場合を例に説明したが、これに限定されるものではなく、上記の第5の実施の形態と同様に、ナビ地図情報から、水平面上の道路領域を示す情報を取得するようにしてもよい。
また、算出された3次元位置の高さに関する判定、車両灯火ペア候補の一対の高輝度領域の平均輝度値と距離とに関する判定、車両灯火ペア候補の一対の高輝度領域の平均面積と距離とに関する判定、及び車両灯火ペア候補が表わす車両灯火ペアの水平面上の位置と水平面上の道路領域とに関する判定の任意の組み合わせを行って、前方画像が車両灯火ペアを表わしているか否かを判定するようにしてもよい。
また、上記の第1の実施の形態〜第7の実施の形態では、前方画像が車両灯火ペアを表わしているか否かによって、ヘッドライトのハイビーム及びロービームを制御する場合を例に説明したが、これに限定されるものではなく、ヘッドライトの輝度を調整するようにしてもよい。また、テールランプの輝度やブレーキランプの輝度を調整するようにしてもよい。
また、前方画像が車両灯火ペアを表わしていると判定された場合、前方画像が車両灯火ペアを表わしていることを表示装置に表示させる場合を例に説明したが、これに限定されるものではなく、車両灯火ペアが存在する位置を表示装置に表示させるようにしてもよい。また、前方画像が車両灯火ペアを表わしていることを、ランプ等の光や音声出力によって提示するようにしてもよい。
また、先行車両や対向車両が、普通乗用車である場合を想定して、撮像された前方画像が、車両灯火ペアを表わしているか否かを判定する場合を例に説明したが、これに限定されるものではなく、先行車両や対向車両が、普通乗用車及び大型車の各々である場合を想定してもよい。この場合には、普通乗用車である場合を想定し、灯火間隔を1.6〜1.8mと仮定して、車両灯火の高さや3次元位置を算出すると共に、大型車である場合を想定し、灯火間隔を2.25〜2.5mと仮定して、車両灯火の高さや3次元位置を算出する。そして、普通乗用車及び大型車の各々を想定した場合の算出結果に基づいて、車両灯火ペアを表わしているか否かを判定するようにすればよい。また、他の車種についても同様に、車種に応じた灯火間隔を仮定して、車両灯火の高さや3次元位置を算出し、車両灯火ペアを表わしているか否かを判定するようにすればよい。