本実施例は、本発明の車載レーンマーカ認識装置を、車両の走行中に、走行車線からの逸脱の可能性を判断して、逸脱の可能性があると判断されたときに、注意喚起や警報、もしくは、車両の挙動を制御して車線逸脱を未然に防止するLDW(Lane Departure Warning)システムが実装された車両に適用した例である。
まず、図1を用いてLDWシステムの動作を説明する。道路2を紙面左に向かって走行中の車両5の後方を監視する撮像部10は、車両5の後部に後ろ向きに取り付けられて、車両5の後方の左右隣接車線を含む範囲ωを撮像する。そして、撮像された画像の中から、画像処理によって車両5が走行中の車線Y1の左右両側にある車線境界B1,B2の位置を検出する。
一般に、車線境界には、その位置を運転者に知らせるマーカが敷設されている。マーカの例としては、白や黄色にペイントされた実線や破線、また、鋲などがある。こうした車線境界の位置を示すマーカを、以下、レーンマーカと呼ぶことにする。そして、以下の説明では、レーンマーカが、白や黄色にペイントされた実線や破線で構成されている場合を例にあげて説明する。
さらに、前述したように、レーンマーカが複数の実線や破線からなる多重線で構成されている場合もある。図1は、撮像部10から見て左側の車線境界B1が多重線で構成されている例であり、車線境界B1は、撮像部10から見て左から順に破線LL1、実線LL2、破線LL3で構成されている。ここで、実線LL2と破線LL3の間隔をオフセットεと呼ぶ。オフセットεは、車両の逸脱を判断するときに利用されるが、詳しくは後述する。
なお、図1において、撮像部10から見て右側の車線境界B2は1本の実線LR1で構成されている。
LDWシステムは、車両5が所定車速以上で走行しているときに起動されて、時刻tにおいて撮像部10で撮像された画像I(x,y,t)(以後、画像Iと呼ぶ。また、特に(x,y)の値が意味を持つときは画像I(x,y)と呼び、tの値が意味を持つときは画像I(t)と呼ぶ。)の中から、左右のレーンマーカをそれぞれ検出する。ここで、撮像部10で撮像された画像Iの中で左側に映ったレーンマーカをLL、右側に映ったレーンマーカをLRとする。
左右のレーンマーカLL,LRが検出されると、車両5から左側のレーンマーカLLまでの距離、または車両5から右側のレーンマーカLRまでの距離と、車両5のヨー角、およびそのときの車速に基づいて、車両5がそのときと同じ状態(同じ車速、同じ操舵角)で進行したときに車線を逸脱するまでの時間(車線逸脱予測時間F)が算出される。
そして、こうして算出された車線逸脱予測時間Fが所定時間以内であるときに、警報を出力して、運転者に注意を喚起する。
本発明に係る車載レーンマーカ認識装置では、レーンマーカとして多重線が検出されたときに、その多重線の中から、最も認識しやすいレーンマーカを認識基準線として最初に検出し、次に、検出した認識基準線(以下、第1レーンマーカと呼ぶ)の位置に基づいて、車線逸脱判断を行う警報基準線(以下、第2レーンマーカと呼ぶ)を検出する。
ここで、図2を用いて、第1レーンマーカと第2レーンマーカについて説明する。図2は、前記車両5が、前記道路2を走行中(図1参照)に、車両5に設置された前記撮像部10で撮像した画像Iを示す。
図2に示すように、画像Iの中央から左側の領域には、左から順に、破線からなるレーンマーカLL1,実線からなるレーンマーカLL2,破線からなるLL3で構成された多重線からなる道路境界(図1のB1)が映っており、画像Iの中央から右側の領域には、実線からなるレーンマーカLR1から構成された道路境界(図1のB2)が映っている。
なお、画像Iの下部に映っている影Kは、車両5のリアバンパーの映りこみである。そして、以後説明する画像処理では、影Kの領域に対しては、画像処理を行わないものとする。
ここで、レーンマーカLLiは、撮像部10で撮像した画像Iの中で中央から左側の領域(以後、単に左側と呼ぶ。)に映るレーンマーカのうち、左からi番目のレーンマーカであることを表し、レーンマーカLRiは、撮像部10で撮像した画像Iの中で中央から右側の領域(以後、単に右側と呼ぶ。)に映るレーンマーカのうち、左からi番目のレーンマーカであることを表すものとする。
画像Iの左側に映ったレーンマーカに着目すると、多重線を構成する真中の実線からなるレーンマーカLL2は、左側の破線からなるレーンマーカLL1や右側の破線からなるレーンマーカLL3と比べて、レーンマーカを構成する特徴点であるエッジ構成点の数が多いため、画像処理によって検出しやすい。このように、多重線を構成するレーンマーカの中で最も検出しやすいと考えられるレーンマーカを第1レーンマーカ(認識基準線)と呼ぶ。そして、画像Iの左側に映ったレーンマーカの中の第1レーンマーカをLLMで表すことにする。
また、画像Iの中から検出したレーンマーカの位置に基づいて車線逸脱の可能性を判断する場合、その判断の信頼性を向上させるためには、例えば、多重線の中で車両から最も近い位置にある、最も内側のレーンマーカの位置に応じて車線逸脱を判断すべきである。このように、多重線を構成するレーンマーカの中で、車線逸脱を判断する基準とするレーンマーカを第2レーンマーカ(警報基準線)と呼ぶ。
そして、図2において、画像Iの左側に映ったレーンマーカの場合、最も内側に映ったレーンマーカであるLL3を第2レーンマーカとする。そして、画像Iの左側に映ったレーンマーカの中の第2レーンマーカをLLSで表すことにする。
なお、図2において、画像Iの右側に映ったレーンマーカは、1本の実線から構成されている。このような場合は、第1レーンマーカと第2レーンマーカは一致する。そして、画像Iの右側に映ったレーンマーカの中の第1レーンマーカをLRMで表し、画像Iの右側に映ったレーンマーカの中の第2レーンマーカをLRSで表すことにする。
次に、図3から図6を用いて、実施例1に係る車載レーンマーカ認識装置の構成を説明する。
実施例1に係る車載レーンマーカ認識装置8は、図3に示すように、図示しない車両5の後部ライセンスプレート付近に設置されて、進行方向後方を観測する撮像部10と、撮像部10で撮像された画像の中の所定の領域の中から、前記車両が走行中の車線の左右にあるレーンマーカの候補を検出するレーンマーカ候補検出部20と、撮像部で撮像された画像の中の、レーンマーカが映ると考えられる位置にウインドゥを設定するウインドゥ設定部30と、設定されたレーンマーカを検出する領域の中から、レーンマーカらしさを表す特徴量として、画像Iの中から、左右に隣接する画素の間の輝度差を検出するレーンマーカ特徴量検出部40と、検出されたレーンマーカ特徴量に基づいて、多重線を構成する各レーンマーカの位置を、多重線を構成する各レーンマーカの属性と対応付けて算出する多重線認識部50(レーンマーカ検出部)と、車両5の車速と車輪速とヨーレートを取得する車両情報取得部60と、レーンマーカの検出結果と車両5の車速とヨー角から、車両5の車線逸脱を判断する車線逸脱判断部70と、車線逸脱すると判断されたときに車内に設置されたブザー等を鳴動させて警報を出力する警報出力部80と、多重線認識部50において多重線を認識する際に利用する、多重線の構造(線種別、色、並び順等)、および、多重線を構成するレーンマーカの中で、いずれのレーンマーカが第1レーンマーカであり、いずれのレーンマーカが第2レーンマーカであるか、に関する情報が格納された多重線種別データベース90を備えている。
前記レーンマーカ候補検出部20は、図4に示すように、撮像部10で撮像された画像Iの中に設定した所定の領域の中から、レーンマーカを構成すると考えられる特徴量を検出して、レーンマーカの左右方向の幅を推定する多重線幅推定部22と、多重線幅推定部22の推定結果に基づいて、レーンマーカの中の第1レーンマーカの幅を設定する第1レーンマーカ幅設定部24を備えている。
前記多重線認識部50(レーンマーカ検出部)は、図5に示すように、前記レーンマーカ特徴量検出部40で検出された特徴量をパラメータ平面に投票する特徴量投票部51と、特徴量投票部51の投票結果に基づいて、多重線を構成する各レーンマーカの属性を判定する多重線判定部52と、多重線判定部52の判定結果に基づいて、レーンマーカを検出する領域のサイズと位置を制御する処理領域制御部53と、多重線判定部52の判定結果に基づいて、特徴量投票部51の投票結果の中からレーンマーカの候補となる候補線を抽出する候補線抽出部54と、候補線抽出部54で抽出した候補線の中から、第1レーンマーカ(LLMまたはLRM)を選択する第1レーンマーカ選択部55と、第1レーンマーカ選択部55で選択した第1レーンマーカ(LLMまたはLRM)の選択結果に基づいて、前記レーンマーカ候補検出部20における特徴量検出の閾値を制御する特徴量検出制御部56と、候補線抽出部54で抽出した候補線の中から、第2レーンマーカ(LLSまたはLRS)を選択する第2レーンマーカ選択部57を備えている。
また、前記車線逸脱判断部70は、図6に示すように、前記第1レーンマーカ(LLMまたはLRM)と前記第2レーンマーカ(LLSまたはLRS)の間隔であるオフセットεを推定するオフセット推定部72と、オフセット推定部72で推定したオフセットεと、前記車両情報取得部60で取得した車速V、および、前記車両情報取得部60で取得した情報を用いて算出した車両5のヨー角ρに基づいて、車両5が車線を逸脱するまでの車線逸脱予測時間Fを推定する車線逸脱推定部74を備えている。
次に、図7を用いて、前記多重線種別データベース90の詳細構成を説明する。
多重線種別データベース90は、図7に示すように、多重線を構成するレーンマーカの属性であるレーンマーカの形態(実線、破線、線の色、並び順)、および、多重線を構成するレーンマーカのうち、いずれのレーンマーカが第1レーンマーカ(LLMまたはLRM)であり、いずれのレーンマーカが第2レーンマーカ(LLSまたはLRS)であるかが登録されている。
具体的には、図7の各行A,B,C,…には、多重線の種類が登録されている。そして、行Aは、撮像部10から見て左から順に、「白い実線」、「白い実線」で構成されるレーンマーカであることを表し、行Bは、撮像部10から見て左から順に、「白い実線」、「白い実線」、「黄色い実線」で構成されるレーンマーカであることを表し、行Cは、撮像部10から見て左から順に、「白い破線」、「白い実線」、「白い破線」で構成されるレーンマーカであることを表している。
そして、図7の横軸方向には、各多重線を構成するレーンマーカの属性(線の種類、線の色、線の並び順)と、多重線を構成するレーンマーカのうち、いずれのレーンマーカが第1レーンマーカ(LLMまたはLRM)に対応して、いずれのレーンマーカが第2レーンマーカ(LLSまたはLRS)に対応するかが登録されている。なお、レーンマーカが、撮像部10で撮像した画像Iの中で左側に見えるか、右側に見えるかによって、第1レーンマーカ,第2レーンマーカの定義が異なるため、図7に示すように、両方のケースが登録されている。
また、図7には記載しないが、多重線種別データベース90には、図7に記載した情報の他に、レーンマーカを構成する各線の間隔(オフセットε)や各線の幅等が登録されている。
具体的には、行Aの多重線は、撮像部10から見て左側の「白い実線」が1番のレーンマーカであり、撮像部10から見て右側の「白い実線」が2番のレーンマーカである。そして、このレーンマーカが画像の中で左側に見えたときは、2番のレーンマーカが第1レーンマーカLLMであり、2番のレーンマーカが第2レーンマーカLLSであることを表している。また、このレーンマーカが画像の中で右側に見えたときは、1番のレーンマーカが第1レーンマーカLRMであり、2番のレーンマーカが第2レーンマーカLRSであることを表している。
また、行Bの多重線は、撮像部10から見て左側の「白い実線」が1番のレーンマーカであり、撮像部10から見て中央の「白い実線」が2番のレーンマーカであり、撮像部10から見て右側の「黄色い実線」が3番のレーンマーカである。そして、このレーンマーカが画像の中で左側に見えたときは、2番のレーンマーカが第1レーンマーカLLMであり、3番のレーンマーカが第2レーンマーカLLSであることを表している。また、このレーンマーカが画像の中で右側に見えたときは、2番のレーンマーカが第1レーンマーカLRMであり、1番のレーンマーカが第2レーンマーカLRSであることを表している。
さらに、行Cの多重線は、撮像部10から見て左側の「白い破線」が1番のレーンマーカであり、撮像部10から見て中央の「白い実線」が2番のレーンマーカであり、撮像部10から見て右側の「白い破線」が3番のレーンマーカである。そして、このレーンマーカが画像の中で左側に見えたときは、2番のレーンマーカが第1レーンマーカLLMであり、3番のレーンマーカが第2レーンマーカLLSであることを表している。また、このレーンマーカが画像の中で右側に見えたときは、2番のレーンマーカが第1レーンマーカLRMであり、1番のレーンマーカが第2レーンマーカLRSであることを表している。
次に、実施例1に係る車載レーンマーカ認識装置8の一連の動作の流れについて、図8のフローチャートを用いて説明する。
まず、ステップS10において、前記撮像部10で撮像された画像Iの中に、前記レーンマーカ候補検出部20、および前記ウインドゥ設定部30によって、レーンマーカを検出すべき領域が設定される。このレーンマーカ候補検出部20によって行われる処理領域設定処理の詳細は後述する。
次に、ステップS20において、前記レーンマーカ特徴量検出部40によって、画像Iの中から、レーンマーカを構成すると考えられる特徴量が検出される。このレーンマーカ特徴量検出部40によって行われる特徴量検出処理の詳細は後述する。
次に、ステップS30において、前記多重線認識部50によって、前記特徴量抽出処理の結果に基づいて、画像Iの中に映っているレーンマーカが多重線であるか否かを判定する多重線判断処理が行われる。この多重線判断処理の詳細は後述する。
ステップS30において、多重線であると判断されると、ステップS50に進み、多重線でないと判断されると、ステップS40に進む。
そして、ステップS40では、多重線認識部50によって、第1レーンマーカを検出する第1レーンマーカ検出処理が行われる。この第1レーンマーカ検出処理の詳細は後述する。そして、その後、ステップS80に進む。
一方、ステップS50では、多重線認識部50によって、第1レーンマーカを検出する第1レーンマーカ検出処理が行われる。この第1レーンマーカ検出処理の詳細は後述する。
次に、ステップS60において、多重線認識部50によって、第1レーンマーカと第2レーンマーカの間にオフセットがあるか否かを判定するオフセット判定処理が行われる。この判定は、多重線認識部50によって認識された多重線の構成と、多重線種別データベース90に登録された情報に基づいて行われる。このオフセット判定処理の詳細は後述する。
ステップS60において、オフセット有と判定されると、ステップS70に進み、オフセット無と判定されると、ステップS80に進む。
そして、オフセット有と判定されたときは、ステップS70において、多重線認識部50によって、第2レーンマーカを検出する第2レーンマーカ検出処理が行われる。この第2レーンマーカ検出処理の詳細は後述する。
次に、ステップS80において、車線逸脱判断部70によって、車両の逸脱の可能性を判断する車線逸脱可能性判断処理が行われる。そして、車線逸脱の可能性があると判断されたときはステップS90に進み、車線逸脱の可能性がないと判断されたときは、図8の処理を終了する。この車線逸脱可能性判断処理の詳細は後述する。
そして、車線逸脱の可能性があると判断されたときは、ステップS90において、警報出力部80によって警報を出力して、運転者の注意を喚起する。また、図3の構成図には記載しないが、車両5の制動制御や操舵制御に介入して、車両5の車線逸脱を防止する制御を行ってもよい。
次に、図8の各ステップで行われる処理の詳細について、順に説明する。
(処理領域設定処理)
図9,図10を用いて、ステップS10で行われる処理領域設定処理について説明する。まず、前記レーンマーカ候補検出部20によって、図9に示すように、画像Iの中の所定の位置に、レーンマーカの特徴量を検出するためのウインドゥが設定される。このウインドゥは、画像Iの中で道路が映っている領域のなるべく下部の位置に、画像Iの左側と右側にそれぞれ設定する。ここで、左側のウインドゥをWL0、右側のウインドゥをWR0とする。
そして、次に、ウインドゥWL0とウインドゥWR0の内部でレーンマーカ特徴量が検出される。
レーンマーカ特徴量は、ウインドゥWL0の内部に設定した所定の水平ラインmL上を右から左に探索しながら、画像I(x,y,t)の中の隣接する画素の輝度値の差分値(I(x,y,t)−I(x+1,y,t))を演算することによって算出する。そして、この差分値が所定値を超える正の値を示す画素(S1,S3)と、差分値が負の値を示し、その絶対値が所定値を超える画素(S2,S4)を検出する。
次に、ウインドゥWR0の内部に設定した所定の水平ラインmR上を左から右に探索しながら、画像I(x,y,t)の中の隣接する画素の輝度値の差分値(I(x,y,t)−I(x+1,y,t))を演算し、差分値が負の値を示し、その絶対値が所定値を超える画素S5と、差分値が所定値を超える正の値を示す画素S6を検出する。
こうして検出された画素のうち、隣り合った画素(ウインドゥWL0内の画素S1と画素S2、および画素S3と画素S4、ウインドゥWR0内の画素S5と画素S6)が、多重線を構成する各々のレーンマーカの位置を示す候補となる。
次に、前記多重線幅推定部22において、ウインドゥWL0内、およびウインドゥWR0内において想定される多重線の幅を推定する。この推定は、先にウインドゥWL0、ウインドゥWR0内で検出されたレーンマーカの位置を示す候補となる画素の最大座標と最小座標の差を演算することによって行う。
すなわち、図9の場合、ウインドゥWL0では、画素S1と画素S4の水平方向の座標の差が算出される。また、ウインドゥWR0では、画素S5と画素S6の水平方向の座標の差が算出される。
そして、こうして算出された水平方向の画素の位置の差が、ウインドゥWL0、およびウインドゥWR0の内部に存在する多重線の幅であると推定する。
なお、多重線の幅の推定を確実に行うために、ウインドゥWL0の内部、およびウインドゥWR0の内部に、複数の水平ラインmLi(i=1,2,…)、およびmRi(i=1,2,…)を設定して、複数の水平ラインmLi、およびmRiで検出したレーンマーカの位置を示す候補となる画素に基づいて、多重線の幅を推定してもよい。
また、異なる時間に撮像された複数の画像I(t),I(t+Δt),…からそれぞれ検出された、レーンマーカの位置を示す候補となる画素に基づいて、多重線の幅を推定してもよい。
そして、このとき、多重線種別データベース90の内容を参照して、検出された特徴点に、多重線を構成する何本目のレーンマーカであるかを示すラベル付けを行う。また、このときに、検出された特徴点の輝度差、ウインドゥWL0内の特徴点の数、時系列で見たときの特徴点の出現頻度等に基づいて、多重線を構成する各々のレーンマーカの種別(実線、破線、白線、黄色線等)の情報を付与することもできる。
次に、前記第1レーンマーカ幅設定部24において、画像Iの中に設定したウインドゥWL0、およびウインドゥWR0における第1レーンマーカの幅を設定する。これは、車両5への撮像部10の設置レイアウト(高さや俯角)、および、多重線種別データベース90から読み取った、第1レーンマーカの実際の幅の値に基づいて算出される。
次に、前記ウインドゥ設定部30において、画像Iの中の、レーンマーカが映る領域にウインドゥが設定される。この領域の設定方法について、図10を用いて説明する。
図10(a)は、多重線の幅推定が実施されない場合に、画像Iの内部に設定された領域の例を示し、図10(b)は、先に説明した多重線の幅推定が行われた後で、画像Iの内部に設定された領域の例を示す。
設定する領域は、画像Iの左側と右側にそれぞれ設定され、車両5の直近から遠方に亘って延びる長方形状を有する。そして、その横幅は、先に推定した多重線の幅に所定値を加えた値に設定される。これは、前方の道路線形によっては、レーンマーカが屈曲している場合もあるためである。
そして、図10(a)に示すように、多重線の幅推定が実施されないときは、内側のレーンマーカLL2に設定したウインドゥWL’が触れてしまい、この先に行うレーンマーカの検出処理に失敗してしまう可能性があるのに対し、多重線の幅推定がなされると、図10(b)に示すように、多重線を構成する2本のレーンマーカLL1とLL2が、設定したウインドゥWLに包含されることがわかる。
なお、画像Iの右側には、レーンマーカが1本しかないため、多重線の幅推定を実施しないで設定した図10(a)のウインドゥWR’、多重線の幅推定を行って設定した図10(b)のウインドゥWRのいずれであっても、レーンマーカLR1を包含するウインドゥが設定される。
(特徴量検出処理)
次に、図11を用いて、ステップS20で行われる特徴量検出処理について説明する。この特徴量検出処理は、前記レーンマーカ特徴量検出部40において行われる。
特徴検出は、先に処理領域設定処理の説明の中で説明した通り、画像Iの中の隣り合った画素の輝度値の差分に基づいて行う。そして、例えば、図11(a)に示すように、先の処理領域設定処理で設定されたウインドゥの内部で画像Iを右から左に探索して、輝度差が所定値以上の画素(特徴点)を全て検出する。なお、この探索は、探索位置の上下方向の座標を複数設定して、複数の位置で行う。そして、図11(a)の例では、検出した画素(特徴点)の位置に、「+」印を付与している。なお、画像Iの右側に設定したウインドゥの内部についても、同様の処理を行う。
なお、この特徴量検出処理を行った後で、多重線種別データベース90の内容を参照して、検出された特徴点に、多重線を構成する何本目のレーンマーカであるかを示すラベル付けを行うことができる。また、このときに、検出された特徴点の輝度差、ウインドゥWL0内の特徴点の数、時系列で見たときの特徴点の出現頻度等に基づいて、多重線を構成する各々のレーンマーカの種別(実線、破線、白線、黄色線等)の情報を付与することもできる。
なお、図11(a)は特徴量検出のみ行って、特徴点にラベル付けを行わなかったときの結果を示し、図11(b)は特徴量検出を行った後で、特徴点にラベル付けを行ったときの結果を示す。
図11(b)からわかるように、特徴量検出を行った後で、レーンマーカ2本から構成される多重線であることを認識してラベル付けを行うことによって、2本のレーンマーカをそれぞれ識別することができ、図11(b)の例では、外側のレーンマーカLL1から検出された画素(特徴点)の位置に「×」印が付与されて、内側のレーンマーカLL2から検出された画素(特徴点)の位置に「+」印が付与される。なお、図11(a),(b)に示すように、レーンマーカの位置は、レーンマーカの内側端部を構成する画素の位置(左側のレーンマーカは右端部、右側のレーンマーカは左端部)によって規定されるものとする。
(多重線判断処理)
次に、図12〜図14を用いて、ステップS30で行われる多重線判断処理について説明する。この多重線判断処理は、前記多重線認識部50において行われる。
まず、前記特徴量投票部51において、先に特徴量検出処理で検出した特徴点の座標を、予め用意したXY平面(前記パラメータ平面)に投票する。
この投票の様子を、図12を用いて説明する。図12(a)は、画像Iの中から特徴点を検出した結果を示す。ここで、図12(a)の中に表示した「+」印を付与された特徴点は、撮像部10の設置レイアウト(高さや俯角)が既知であるため、例えば、道路が平面で構成されており、勾配がないと仮定すると、各特徴点の道路上の座標値を推定することができる。
図12(b)は、図12(a)の左側のレーンマーカLL1,LL2について、上記の推定を行い、推定結果をXY平面に投票した結果を示す。
図12(b)からわかるように、道路左側の2本のレーンマーカLL1,LL2に対応する位置に「+」印がプロットされる。なお、図12(b)ではプロットされた様子をわかり易くするために、「+」印をプロットしているが、実際の処理では、「+」印をプロットするのではなく、対応するXY平面の値をインクリメントする(投票を行う)。
そして、この投票を、異なる時間に撮影された複数の画像I(t),I(t+Δt),…から検出された特徴点に対して順次実施する。なお、このとき、時間Δtの間の車両5の移動量を、車両情報取得部60から取得した車速Vに基づいて算出し、こうして算出された車両5の移動量の分だけ、XY平面にインクリメントすべき座標位置を移動させた後で、XY平面に投票を行う。これにより、XY平面は、レーンマーカの右端部が存在する位置において、高い値を有する。
なお、図12は、画像Iの中に多重線があることを認識していない例である。したがって、車載レーンマーカ認識装置8は、図12(b)の中に何本のレーンマーカが存在するかを認識していない。そのため、図12(b)の中から実際のレーンマーカを検出するのは困難である。
一方、図13,図14は、画像Iの中に多重線があることを認識できた場合(前記したラベル付けを行った場合)の例である。すなわち、検出された特徴点が、多重線を構成するどのレーンマーカを表しているかがわかっているため、先に説明した手順によってXY平面への投票を行うと、図13(b),図14(b)に示すように、多重線を構成する各々のレーンマーカが識別されてXY平面に投票される。そのため、この後説明する第1レーンマーカ検出処理、および第2レーンマーカ検出処理を効率的に実行することができる。
なお、図13はレーンマーカが2本の実線から構成されている場合の例であり、図14はレーンマーカが1本の実線と2本の破線から構成されている場合の例である。特に、図14のように、レーンマーカが破線を含むときは、多重線種別データベース90の内容を参照して特徴点にラベル付けを行う効果が高く、少ない特徴点を確実に検出することができる。
そして、多重線判定部52は、XY平面に投票されたラベルの数に基づいて、ラベルの数が2以上のときは、XY平面に多重線が投票されたと判定する。
なお、図8のフローチャートには記載しないが、処理領域制御部53において、この多重線の判定結果に基づいて、ステップS10で設定した処理領域のサイズや位置を見直してもよい。すなわち、ステップS10で推定した多重線の幅(多重線を構成するレーンマーカの数)と、ステップS30で判定した多重線を構成するレーンマーカの数とが異なったときには、ステップS30の判定結果を採用して、処理領域のサイズや位置を見直すことができる。
(第1レーンマーカ検出処理)
次に、図13,図14を用いて、ステップS40とステップS50で行われる第1レーンマーカ検出処理について説明する。この第1レーンマーカ検出処理は、前記多重線認識部50において行われる。
なお、ステップS40において行われる第1レーンマーカ検出処理は、前記XY平面に投票された1本のレーンマーカの投票結果の中から、その1本のレーンマーカを検出するものである。これは、ステップS50において行われる、前記XY平面に投票された複数本のレーンマーカの投票結果の中から、第1レーンマーカを検出する処理の特別な場合であるため、以下ではステップS50の処理内容について説明する。
まず、生成されたXY平面の中から、前記候補線抽出部54において、レーンマーカの候補線を抽出する。この処理は、図13(b),図14(b)に示すXY平面の投票結果に対して、直線や曲線の適合処理を行うことによって行われる。このとき、同じラベルが付与された情報同士に1本の直線や曲線が適合される。実際の適合処理は、最小二乗法を用いる方法等、数学的に提案されているいずれの方法によって行っても構わない。
なお、この適合を行うときには、多重線が複数のレーンマーカから構成されている場合、多重線を構成する個々のレーンマーカ同士は互いに平行になっているため、平行な直線や平行な曲線を適合させる等の効率化を図ることができる。
こうして、直線や曲線を適合させることによって、多重線を構成する個々のレーンマーカを検出することができる。
次に、第1レーンマーカ選択部55において、先に検出された候補線の中から第1レーンマーカを選択する。
第1レーンマーカは、多重線を構成するレーンマーカのうち、どのレーンマーカに対応するかは、予め多重線種別データベース90に登録されているため、その情報に基づいて、先に検出した候補線の中から、該当する線を、第1レーンマーカとして選択する。
なお、図8のフローチャートには記載しないが、第1レーンマーカの検出結果に応じて、前記特徴量検出制御部56において、前記レーンマーカ候補検出部20やレーンマーカ特徴量検出部40において使用される特徴量検出の閾値を制御するようにしてもよい。これは、同じ白線であっても、汚れた白線である場合や、夜間で視認性が低い場合等は、実際の第1レーンマーカの検出結果に応じて、特徴量検出の閾値を変更して、より確実にレーンマーカを検出できるようにするためである。
(オフセット判定処理)
次に、ステップS60で行われるオフセット判定処理について説明する。オフセット判定処理は、先に検出した第1レーンマーカの検出結果と、多重線種別データベース90の登録内容に基づいて、前記オフセット推定部72において行われる。
オフセット推定部72は、多重線種別データベース90の登録内容の中から、先に検出した第1レーンマーカを含む多重線の欄を参照して、第1レーンマーカとして定義されたレーンマーカと、第2レーンマーカとして定義されたレーンマーカが同一のレーンマーカか否かを判断する。
このとき、第1レーンマーカとして定義されたレーンマーカと、第2レーンマーカとして定義されたレーンマーカが同一であったら、オフセットなし(ε=0)と判定する。
一方、第1レーンマーカとして定義されたレーンマーカと、第2レーンマーカとして定義されたレーンマーカが異なるときは、オフセットあり(ε≠0)と判定する。
(第2レーンマーカ検出処理)
次に、ステップS70で行われる第2レーンマーカ検出処理について説明する。前記オフセット判定処理において、オフセットあり(ε≠0)と判定されたときは、前記第2レーンマーカ選択部57において、第2レーンマーカの選択を行う。
ここでは、まず、多重線種別データベース90の登録内容を参照して、第1レーンマーカと第2レーンマーカの相対関係の確認を行う。そして、第1レーンマーカの何本隣が第2レーンマーカであるかを確認する。
第2レーンマーカ選択部57は、その確認結果に基づいて、対応する第2レーンマーカを、先に抽出した候補線の中から選択する。
(車線逸脱可能性判断処理)
次に、図15,図16を用いて、ステップS80で行われる車線逸脱可能性判断処理について説明する。車線逸脱可能性判断処理は、前記車線逸脱推定部74で行われる。
車線逸脱推定部74は、まず、前記車両情報取得部60によって取得した情報に基づいて、車両5のヨー角ρ(図15,図16参照)を算出する。また、多重線種別データベース90の登録内容を参照して、オフセットεの値を取得する。
次に、車線逸脱推定部74は、検出された第1レーンマーカの位置に基づいて、車両5と第1レーンマーカの横偏位量δ(図15,図16参照)を算出する。横偏位量δは、具体的には、画像Iの中から無限遠点である消失点の位置を検出して、こうして検出した消失点を通る、画像Iの中で上下方向に延びる直線と、第1レーンマーカの位置とのずれ量に基づいて算出される。
そして、こうして取得した値に基づいて、(式1)によって車線逸脱予測時間Fを算出する。
F=(δ−ε)/(Vsinρ) (式1)
こうして算出された車線逸脱予測時間Fが、所定値よりも小さいときには、車線逸脱の可能性があるものと判断する。一方、車線逸脱予測時間Fが、所定値よりも小さいときには、車線逸脱の可能性がないものと判断する。
以下、図15,図16を用いて、車載レーンマーカ認識装置8の実際の適用例を説明する。
図15は、車両5が、左側に白い実線からなるレーンマーカLR3,白い実線からなるレーンマーカLR2,黄色い実線からなるレーンマーカLR1で構成された多重線を有し、右側に白い実線LL1からなるレーンマーカを有する車線を走行中の様子を示す(撮像部10で撮像された画像Iの中では、左右の位置、および順番が逆転する)。
そして、左側の多重線の中で、レーンマーカLR2が第1レーンマーカLRM、レーンマーカLR1が第2レーンマーカLRSに定義されており、右側のレーンマーカの中でレーンマーカLL1が第1レーンマーカLLM、および第2レーンマーカLLSに定義されている。
すなわち、図15の場合、多重線を構成する黄色線(レーンマーカLR1)は路面とのコントラストが低く、画像処理によって検出しにくい場合があるため、多重線を構成する最も内側の白い実線であるレーンマーカLR2が第1レーンマーカLLMに選択される。
そして、車線逸脱警報は、車両5に最も近いレーンマーカの位置に基づいて出力すべきであるため、黄色線(レーンマーカLR1)が第2レーンマーカLLSに選択される。
車両5に設置された撮像部10は、図15に示す撮像範囲T1の領域を撮像して画像Iを取得し、画像Iの中から先に説明した画像処理によって、第1レーンマーカLRM,第2レーンマーカLRS、そして第1レーンマーカLLM(第2レーンマーカLLS)を検出する。
こうして検出された第1レーンマーカLRMの位置に基づいて、車両5と第1レーンマーカLRMの横偏位量δを算出し、第1レーンマーカLRMと第2レーンマーカLRSのオフセットε、車速V,ヨー角ρを用いて、車線逸脱予測時間Fを算出して、車線逸脱予測時間Fが所定値よりも小さいときに、警報が出力される。
このように、レーンマーカが多重線で構成されているときに、画像処理によって認識するレーンマーカ(第1レーンマーカ(認識基準線))と、車線逸脱を判断するレーンマーカ(第2レーンマーカ(警報基準線))を異なるレーンマーカとすることによって、多重線が黄色線を含む場合であっても、レーンマーカの位置を確実に検出することができる。
また、図16は、車両5が、左側に白い実線からなるレーンマーカLR1からなるレーンマーカを有し、右側に白い破線からなるレーンマーカLL3,白い実線からなるレーンマーカLL2,白い破線からなるレーンマーカLL1で構成された多重線を有する車線を走行中の様子を示す(撮像部10で撮像された画像Iの中では、左右の位置、および順番が逆転する)。
そして、左側のレーンマーカの中で、レーンマーカLR1が第1レーンマーカLRM、および第2レーンマーカLRSに定義されており、右側の多重線の中でレーンマーカLL2が第1レーンマーカLLM、レーンマーカLL3が第2レーンマーカLLSに定義されている。
すなわち、図16の場合、多重線を構成する破線(レーンマーカLL3)は途中で途切れているため、画像処理によって検出しにくく、認識結果が安定しない場合があるため、多重線を構成する最も内側の白い実線であるレーンマーカLL2が第1レーンマーカLLMに選択される。
そして、車線逸脱警報は、車両5に最も近いレーンマーカの位置に基づいて出力すべきであるため、破線(レーンマーカLL3)が第2レーンマーカLLSに選択される。
車両5に設置された撮像部10は、図16に示す撮像範囲T2の領域を撮像して画像Iを取得し、画像Iの中から先に説明した画像処理によって、第1レーンマーカLLM,第2レーンマーカLLS、そして第1レーンマーカLRM(第2レーンマーカLRS)を検出する。
こうして検出された第1レーンマーカLLMの位置に基づいて、車両5と第1レーンマーカLLMの横偏位量δを算出し、第1レーンマーカLLMと第2レーンマーカLLSのオフセットε、車速V,ヨー角ρを用いて、車線逸脱予測時間Fを算出して、車線逸脱予測時間Fが所定値よりも小さいときに、警報が出力される。
このように、レーンマーカが多重線で構成されているときに、画像処理によって認識するレーンマーカ(第1レーンマーカ(認識基準線))と、車線逸脱を判断するレーンマーカ(第2レーンマーカ(警報基準線))を異なるレーンマーカとすることによって、多重線が破線を含む場合であっても、レーンマーカの位置を確実に検出することができる。
なお、図16は直線路の場合で説明したが、図16のレーンマーカの構成を有する左カーブの場合には、車両の進路がカーブの外側に膨らむことによって右側のレーンマーカに近づくため、車線逸脱警報が出力されやすくなる。したがって、このような場合には、外側の破線であるレーンマーカLL1を第2レーンマーカLLSとしてもよい。このように、道路状況に応じて、第1レーンマーカや第2レーンマーカの位置を変更することによって、より一層、運転状況に合った車線逸脱警報を実現することができる。
以上、本発明に係る車載レーンマーカ認識装置の動作について説明したが、第1レーンマーカ、第2レーンマーカの検出方法は、上記した方法に限定されるものではない。
すなわち、上記説明では、XY平面への投票結果から、レーンマーカの候補線を全て検出して、その後、レーンマーカの候補線の中から第1レーンマーカを選択し、次に第2レーンマーカを選択したが、これは、XY平面の中から第1レーンマーカのみを検出して、第1レーンマーカの検出結果と、多重線種別データベース90から読み取った、第1レーンマーカから第2レーンマーカまでのオフセットεと、そのオフセットの方向に基づいて、XY平面の中から第2レーンマーカを検出するようにしてもよい。この検出方法によると、全てのレーンマーカ候補を抽出する必要がないため、処理時間の短縮を図ることができる。
さらに、XY平面の中から第1レーンマーカのみを検出して、第1レーンマーカの検出結果と多重線種別データベース90の登録内容の中から、第1レーンマーカから第2レーンマーカまでのオフセットεと、そのオフセットの方向を読み取って、画像Iの中の第1レーンマーカが検出された位置を、オフセットに相当する量だけオフセットの方向に対応する方向に移動させることによって、第2レーンマーカの出現位置を推定し、こうして推定された第2レーンマーカの出現位置に基づいて車線逸脱判断を行うようにしてもよい。この検出方法によると、実際に検出を行うのは第1レーンマーカのみでよいため、より一層の処理時間の短縮を図ることができる。
以上説明したように、このように構成された本発明の車載レーンマーカ認識装置8によれば、撮像部10によって撮像された画像Iの中の所定の領域の中から、レーンマーカ候補検出部20が、左右のレーンマーカの候補を検出して、多重線であると認識したときに、ウインドゥ設定部30が、レーンマーカ候補検出部20の検出結果に基づいて、撮像部10で撮像された画像の中の、レーンマーカが映ると考えられる位置にウインドゥを設定して、レーンマーカ特徴量検出部40が、ウインドゥ設定部30で設定されたウインドゥの中で、レーンマーカらしさを表すレーンマーカ特徴量を検出して、多重線認識部50(レーンマーカ検出部)が、レーンマーカ特徴量検出部で検出されたレーンマーカ特徴量に基づいて、所定の第1レーンマーカを検出して、こうして検出された所定の第1レーンマーカの検出結果に基づいて、撮像部10によって撮像された画像Iの中から、所定の第2レーンマーカを検出し、車線逸脱判断部70が、第2レーンマーカの検出結果に基づいて、車両5が、走行中の車線から逸脱する可能性を判断して、車線から逸脱する可能性があるときに、警報出力部80が警報を出力するため、レーンマーカが多重線で構成されているときであっても、最初に、認識しやすい第1レーンマーカ(LLMまたはLRM)を検出して、この第1レーンマーカの位置に基づいて、車線逸脱判断を行う第2レーンマーカ(LLSまたはLRS)を検出するため、車線逸脱判断に必要な第2レーンマーカが低コントラストで見えにくい状態にあった場合でも、認識しやすい第1レーンマーカの検出結果に基づいて、第2レーンマーカの位置を確実に認識することができるため、これによって、誤警報や不警報の発生を防止することができる。
また、本発明の車載レーンマーカ認識装置8によれば、レーンマーカ候補検出部20が、レーンマーカが複数の線で構成される多重線であると認識したときには、多重線認識部50(レーンマーカ検出部)は、多重線の中から所定の第1レーンマーカを検出して、所定の第1レーンマーカの検出結果に基づいて、第2レーンマーカの位置を推定し、車線逸脱判断部70は、第2レーンマーカの位置の推定結果に基づいて、車両5が走行中の車線Y2から逸脱する可能性を判断するため、第1のレーンマーカのみを検出することによって車線逸脱判断を行うことができ、これによって処理時間の短縮を図ることができる。
また、本発明の車載レーンマーカ認識装置8によれば、多重線を構成する複数の線の線種と色と並び順、および、多重線を構成する複数の線のうち、いずれの線が第1レーンマーカ(LLMまたはLRM)に対応して、いずれの線が第2レーンマーカ(LLSまたはLRS)に対応するか、が登録された多重線種別データベースを有するため、レーンマーカが多重線で構成されているときに、多重線を構成するレーンマーカを個別に認識することができるため、これによって、画像処理で検出する第1レーンマーカと、車線逸脱警報を出力する際の判断基準となる第2レーンマーカを、別のレーンマーカとして設定することができる。
また、本発明の車載レーンマーカ認識装置8によれば、ウインドゥ設定部30は、レーンマーカ候補検出部20が検出した多重線を全て包含するように画像Iの中にウインドゥWR,WRを設定するため、多重線を構成するレーンマーカの本数が増加した場合であっても、多重線を構成するレーンマーカの位置を確実に検出することができる。
また、本発明の車載レーンマーカ認識装置8によれば、レーンマーカ特徴量検出部40は、多重線を構成する線毎にレーンマーカ特徴量を検出するため、画像処理で検出する第1レーンマーカと、車線逸脱警報を出力する際の判断基準となる第2レーンマーカを、別のレーンマーカとして設定することができる。
また、本発明の車載レーンマーカ認識装置8によれば、多重線は、異なる線種を含む複数の線、もしくは同一線種で構成された複数の線としたため、様々な形態の多重線に対して、多重線を構成する個々のレーンマーカの位置を確実に検出することができる。
また、本発明の車載レーンマーカ認識装置8によれば、多重線が実線と破線を含むときには、第1レーンマーカ(LLMまたはLRM)を実線として、第2レーンマーカLLSまたはLRS)を破線とするため、画像処理によって第1レーンマーカを確実に検出して、第2レーンマーカによって車線逸脱を適切なタイミングで確実に判断することができる。
以上、本発明の実施例を図面により詳述したが、実施例は本発明の例示にしか過ぎないものであるため、本発明は実施例の構成にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲の設計の変更等があっても、本発明に含まれることは勿論である。