JP2010198119A - 道路白線認識装置及び道路白線認識方法 - Google Patents

道路白線認識装置及び道路白線認識方法 Download PDF

Info

Publication number
JP2010198119A
JP2010198119A JP2009039629A JP2009039629A JP2010198119A JP 2010198119 A JP2010198119 A JP 2010198119A JP 2009039629 A JP2009039629 A JP 2009039629A JP 2009039629 A JP2009039629 A JP 2009039629A JP 2010198119 A JP2010198119 A JP 2010198119A
Authority
JP
Japan
Prior art keywords
point
displacement
road
points
white line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009039629A
Other languages
English (en)
Other versions
JP5287335B2 (ja
Inventor
Hiroyuki Kosho
裕之 古性
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2009039629A priority Critical patent/JP5287335B2/ja
Publication of JP2010198119A publication Critical patent/JP2010198119A/ja
Application granted granted Critical
Publication of JP5287335B2 publication Critical patent/JP5287335B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】演算処理量を抑え且つ所定の精度を確保可能な道路白線認識を可能とする。
【解決手段】車両周囲の道路を撮影して取得した画像から道路白線候補点を抽出する。そして、その抽出した道路白線候補点に基づいて、道路白線位置に対応する曲線である道路曲線を検出する。このとき、上記道路曲線を規定する複数の変位点を設定し、その複数の変位点の少なくとも一つを基準点とし、基準点以外のオフセット変位点を上記基準点を通る第1の直線からのオフセット量として定義する。そして、上記基準点の位置、及びオフセット変位点のオフセット量をパラメータとするパラメータ推定によって上記道路曲線を検出する。
【選択図】 図9

Description

本発明は、車両周囲の画像から道路白線、特に車両進行方向に位置する道路白線を、検出して認識する道路白線認識の技術に関する。
道路白線認識装置としては、例えば特許文献1に記載の装置がある。車両前方を撮像した画像から道路白線の候補点を抽出する。抽出した候補点を使用して多項式による曲線として道路白線を検出する。具体的には、上記候補点をそれぞれ個別の座標値で定義する。そして、その複数の候補点のうちから選択する任意のN個を使用して多項式からなる曲線モデルを規定することを繰り返しつつ、ハフ変換によって、曲線モデルのパラメータ推定を実施する。これによって、道路曲線に対する曲線を検出する。
特開平10−124687号公報
上記従来技術では、選択したN個の候補点によって求めたパラメータによる曲線モデルの規定を何度も繰り返しつつ、ハフ変換で信頼性のある結果を得る必要がある。このため、次数が高い程、量子数が多くなり、評点が大きくなるための繰り返し回数は莫大なものとなる。すなわち、道路白線の認識処理の負荷が高く且つ処理に時間が掛かる。また、これを回避するために高速演算可能なプロセッサを使用すると、コストアップとなる。
本発明は、上記のような点に着目したもので、演算処理量を抑え且つ所定の精度を確保可能な道路白線認識の技術を提供可能とすることを課題とする。
上記課題を解決するために、本発明は、車両周囲の道路を撮影して取得した画像から道路白線候補点を抽出する。そして、その抽出した道路白線候補点に基づいて、道路白線位置に対応する曲線である道路曲線を検出する。
このとき、上記道路曲線を規定する複数の変位点を設定し、その複数の変位点の少なくとも一つを基準点とし、基準点以外のオフセット変位点を上記基準点を通る第1の直線からのオフセット量として定義する。そして、上記基準点の位置、及びオフセット変位点のオフセット量をパラメータとするパラメータ推定によって上記道路曲線を検出する。
本発明によれば、上記道路白線候補点と関係なく(道路白線候補点上でも別でも良い。)、上記道路曲線を規定する複数の変位点を予め設定するので、従来のように、複数の候補点のうちから選択する任意のN個による曲線モデルの規定を繰り返す必要がない。
また、曲線モデルを規定する変位点のうちオフセット変位点を、基準点に対するオフセット量で規定することで拘束することで、オフセット変位点の取り得る範囲を限定することが出来る。
以上のことから、道路曲線を検出するためのパラメータ推定の演算処理量を抑えることが可能となる。また、オフセット変位点の取り得る範囲が限定されることから、ロバスト性が向上する。すなわち、演算処理量を抑え且つ所定の精度を確保可能な道路白線認識の技術を提供可能となる。
本発明に基づく実施形態に係る構成図である。 本発明に基づく実施形態に係る車両前方画像例である。 本発明に基づく実施形態に係る道路白線認識処理部の構成を説明する図である。 画像の中央下付近は路面が撮像されている可能性が高いことを示す図である。 路面画像にソーベルフィルタを施し、差分画像の作成を説明する図である。 ソーベルフィルタを施して得られた差分画像を示す図である。 道路領域の周囲に輪郭点を抽出するエリアを示す図である。 輪郭点抽出結果を説明する図である。 本発明に基づく第1実施形態に係る道路曲線を規定するパラメータを説明する図である。 dx3の探索範囲を説明する図である。 遺伝アルゴリズムによる処理を説明する図である。 想定する必要のない曲線例を説明するである。 dx3の探索範囲を説明する図である。 dx2の探索範囲を説明する図である。 想定する必要のない曲線例を説明するである。 想定する必要のある曲線例を説明するである。 本発明に基づく第1実施形態に係る道路曲線を規定するパラメータの変形例を説明する図である。 本発明に基づく第2実施形態に係る道路曲線を規定するパラメータを説明する図である。 本発明に基づく第2実施形態に係る作用を説明する図である。 本発明に基づく第3実施形態に係る道路曲線を規定するパラメータを説明する図である。
(第1実施形態)
次に、本発明の第1実施形態について図面を参照しつつ説明する。
図1に本実施形態の構成を示す。すなわち、車両に対してカメラ1を搭載する。カメラ1は、車両の周囲を撮像する。撮像は、車両前方、側方、後方などが考えられるが、本実施形態では、車両前方を撮像する場合を例に挙げて説明する。カメラ1は、撮像した車両周囲の道路画像を道路白線認識処理部2に出力する。
ここで、上記カメラ1が撮像した画像は離散化して記憶する。画像の離散化単位を画素とよび、例えば、横640×縦480個の画素が1画面を構成する。各画素には対応する位置の輝度情報を蓄積する。図2に道路画像の一例を示す。
上記道路白線認識処理部2は、離散時間間隔で繰り返し実行して、入力した道路画像を処理して、道路白線を認識する。道路白線認識処理部2による処理結果は、車線に対する自車両の横位置やヨー角、もしくは道路曲率などの情報に変換し、変換した情報を、車線維持支援システムや車線逸脱警報システムで利用する。
上記道路白線認識処理部2は、図3に示すように、候補点抽出手段2A及び道路曲線検出手段2Bを備える。
候補点抽出手段2Aは、車両周囲の道路を撮影して取得した画像から道路白線候補点を抽出する。候補点抽出手段2Aは、図3に示すように、道路領域検出部2Aa、輪郭点推定部2Ab、輪郭点抽出部2Acを備える。
道路領域検出部2Aaは、画像の中央下付近は道路の路面と推定し、その位置の輝度と実質的に同じ値を持つ領域を探索することにより、道路領域を検出する。ここで、一般に取り込まれた画像の中央下付近は道路の路面を撮像していることが多い。道路領域検出部2Aaの検出結果の一例を図4に示す。
輪郭点推定部2Abは、道路領域検出部2Aaが検出した道路領域を使用し、輝度差が大きい箇所を輪郭点として検出する。これは、道路白線と路面との間に輝度差が存在するという特性を使用したものである。まず、輝度差を得るために路面画像にソーベルフィルタ等を施して差分画像を得る。そして差分画像において輝値が大きい画素を輪郭点として抽出する。差分画像の輝度は原画像の輝度差分に相当する。
図5にソーベルフィルタを用いて差分画像を生成する様子を示す。コンボリューションとは以下の演算を意味する。
b= −1×b11 + 0×b12 + 1×b13
−2×b21 + 0×b22 + 2×b23
−1×b31 + 0×b32 + 2×b33
図5のソーベルフィルタは水平方向差分を表し、右側輝度が左側のそれよりも大きい場合に正の値を出力する。また、輝度差が大きい程、出力は大きくなる。このようにして取得した差分画像に対し、輝度の絶対値が所定値以上である画素を、輪郭点であるとして検出する。
輪郭点推定部2Abで検出した結果を図6に示す。輪郭点は黒で表現している。この輪郭点の中には、道路白線以外に、ガードレールや先行車、路面汚れ等の輪郭が含まれる可能性がある。
次に、輪郭点抽出部2Acは、道路領域検出部2Aaが検出した道路領域の境界付近に道路白線が存在すると推定し、図7のような輪郭点抽出エリアを設定する。この輪郭点抽出エリア内に存在する輪郭点を抽出する。なお、この段階においても、道路白線近傍に存在するノイズは拾う可能性がある。この様子を図8に示す。図8に示す輪郭線上に複数の輪郭点(適宜、候補点とも呼ぶ)が存在する。
候補点抽出手段2Aの候補点を抽出する処理はこれに限定しない。但し、多少のノイズが輪郭点として抽出されているとする。
また、上記道路曲線検出手段2Bは、抽出した候補点に基づいて道路白線位置に対応する曲線である道路曲線を検出する。本実施形態の道路曲線検出手段2Bは、上記道路曲線を規定する複数の変位点を、上記道路白線候補点上若しくは候補点とは別に設定すると共に、その複数の変位点の少なくとも一つを基準点とする。そして、基準点以外の変位点を上記基準点を通る第1の直線からのオフセット量として定義し、上記基準点の位置、及び基準点以外の変位点のオフセット量をパラメータとするパラメータ推定によって上記道路曲線を検出する。
以下、道路曲線検出手段2Bの処理について説明する。
道路曲線検出手段2Bは、道路白線を特定するための曲線モデルを有する。その曲線モデルについて、まず説明する。
(曲線モデルについて)
本実施形態では、曲線を規定する変位点が3点の場合を例にして説明する。3点の変位点で曲線を規定するため、曲線モデルは2次曲線となる。
撮像画面上にX−Y座標を設定する。Y座標は、車両前後方向に、車両に対して白線が延在すると想定される方向に設定する。X座標を車幅方向に設定する。図9に画像の座標系を示す。ここで、水平右方向をX軸正方向に垂直下方をY軸正方向に取る。この図9においては、下方に車両が位置することになる。
そして、y軸方向に沿って並ぶ点1〜点3の3点A1〜A3を変位点として設定する。すなわち、撮像画面上のy座標を3つ選択し、画像下方(実空間では手前)からy1、y2、y3とする。そして、y1、y2、y3を、各変位点のy値とする。
本実施形態では、各変位点のy値を定数とする。ここで、後述のように点1を基準点として設定するので、点2及び点3のy値を、点1に対するy軸方向へのオフセット量で定義しても良い。この場合、オフセット量は固定値とする。
上記3つの変位点のうち、実空間で車両に一番近い点1であるA1を基準点とする。また、点2及び点3であるA2、A3をオフセット変位点とする。
また、点2及び点3は、図9に示すように、点1を通過する第1の直線からのオフセット量で定義する。すなわち、第1の直線を、点1を通過しy軸に平行な線とする。そして、この第1の直線に対する点2及び点3のx軸方向のオフセット量Δx2、Δx3とする。そしてΔx2を、パラメータとしてdx2と定義する。
さらに、本実施形態では、点3について、点1及び点2を通過する第2の直線からのx軸方向のオフセット量をdx3と定義すると、
Δx3は、「dx2×(y3−y2)/(y2−y1)+dx3」と記述出来る。
すなわち、変位点である点1〜点3の座標は次のように記述出来る。
点1: (x1、y1)
点2: (x1+Δx2、y2)
点3: (x1+Δx3、y3)
更に、変位点である点1〜点3の座標は次のように記述出来る。
点1: (x1、y1)
点2: (x1+dx2、y2)
点3: (x1+{dx2×(y3−y2)/(y2−y1)}+dx3、y3)
すなわち、本実施形態では、道路曲線は、変位点3点を通過する2次曲線であって、パラメータ{x1、dx2、dx3}で定義する。なお、y1,y2,y3を固定値としているが、上述のようにy1も変数とした場合には、パラメータは{x1、dx2、dx3、y1}と4つとなる。
(パラメータの探索範囲について)
x1の探索範囲は例えば左白線の認識の場合ならば、画面の中央線のx座標よりも小さいように設定する。例えば、画面サイズが横640の場合、探索範囲を以下のように設定する。
{x1 | XXX < x1 < 320} 式3
ここで、中央位置は640/2=320となる。また、XXXは、0より小さい値をとることが多い。車両の横変位を考慮して決定する。
また、dx2は例えば以下のように設定する。
{dx2 | −100 < dx2 < 100} 式4
次にdx3は例えば以下のように設定する。
{dx3 | −80 < dx3 < 80} 式5
dx3は、白線上の2点と想定した点1及び点2を通過する第2の直線に対するx軸変位量で設定するので、dx2よりも探索範囲は小さく設定可能である。
ここで、式5は一例であるが、この探索範囲は想定するすべての道路形状をカバーするように設定する。図10にdx2が異なる例を2つ示した。同じ道路曲率でもdx2が異なればdx3の変化域も異なることが考えられるが、すべての条件を満たすように探索範囲を設定する。
そして、道路曲線検出手段2Bは、上記曲線モデルを使用し、遺伝アルゴリズムや焼き鈍し法等のランダムサーチに代表される最適値探索法によって、所定以上の適合度なるまでパラメータ推定を行って、道路曲線を検出する。所定の適合度は、例えば、曲線上に輪郭点の個数が所定値以上となった場合である。
以下に、図11を参照しつつ、最適値探索法として遺伝アルゴリズムを採用した場合の一つの処理例を説明する。
ステップG1にて、初期固体集団を作成する。
ランダムに決定した染色体をもつ複数(以後N個と表記する。)の個体を生成する。本例では染色体が{x1、dx2、dx3}となる。また、x1、dx2、dx3の探索範囲は上述の通りである。
次に染色体を定義する。例えば、x1、dx2、dx3に対応する染色体のbit長がそれぞれ8である場合、以下のような変換テーブルを用意する。
染色体x1 :−320<=>0x00、・・・、320<=>0xFF
染色体dx2:−100<=>0x00、・・・、100<=>0xFF
染色体dx3: −80<=>0x00、・・・、 80<=>0xFF
ここで、bit長は探索範囲及び要求される分解能で設定する。仮に分解能が同じとして、大きな探索範囲を考慮しなければならない場合、必要とするbit長は長くなる。bit長が長くなると最適値探索までの演算時間が長くなる。これは探索範囲拡大による演算時間増大を意味している。ここで、分解能とは、1bitあたりの変数の変化分であり、ここではx1、dx2、もしくはdx3の変化分に対応する。
そして、それぞれの個体の適合度を以下のように計算する。
ここで、適合度は、染色体(すなわち{x1、dx2、dx3})により規定する曲線上(もしくは曲線近傍)の輪郭点の個数である。
すなわち、3点を通過する2次曲線を計算し、曲線上(もしくは近傍の)の輪郭点の個数を数える。計算付加を低減するために3点を折れ線で結んでもある程度の近似が得られることがある。
次に、ステップG2で、次世代固体候補の選択を行う。
各個体の適合度をもとに、重複を許してN個の個体を選択する。適合度が大きい程、選択される確率が高くなるよう、選択手段を構成する。
次に、ステップG3で交叉の処理を行う。
個体を2個ずつランダムに組み合わせて両親とし、染色体を交叉させ2個の子孫を作り、子孫と両親を入れ替える。
次に、ステップG4で、突然変異の処理を行う。
全個体の染色体を所定の確率で変異させる。
次に、ステップG5で、適合度計算を行う。
すなわち、各個体の適合度を計算する。
ステップG6で、適応度が所定値以上であれば、それを解として終了する。それ以外はG2へ戻る。
(動作・作用)
最適値探索として遺伝アルゴリズムを用いていることで、計算時間が膨大であるハフ変換よりも演算時間が短くなる。
また、下記のように点3のx座標表現による誤認識の低減、及び演算時間の節約を実施する。
点3:(x1+{dx2×(y3−y2)/(y2−y1)}+dx3、y3)
すなわち、点3のx座標を点1、2を通る直線とのx方向オフセットdx3で表現することで誤認識が低減する。次に、その理由を説明する。
図10から明らかなように、道路曲率が大きくなるほど、dx3の絶対値は大きくなる。また、本道路白線認識装置の結果が車線維持支援装置等で利用することを考えると、想定する道路曲率の範囲を限定することができる。
以上の2点から、dx3の探索範囲を適切に狭めることが可能である。点3のx座標を、点1、点2を通る直線からのx方向オフセット量dx3を用いて表現したこと、及びそのオフセットの探索範囲を適切に狭めることにより、点1、2、3に道路形状に適した拘束条件を与えたことになる。ここで、図10の直線は道路曲率=零を表している。
ところで、変局点が車両近傍にある曲線の場合、dx3は図12に示すように非常に大きな値となる。しかし、このような曲線は想定する必要のない曲線である。従って、dx3の探索範囲を適切に狭く設定することができる本手法では、車両近傍に変局点があるような道路形状を探索することがない。その結果、誤認識が低減する。
ここで、点3のx座標を点2に対するオフセットを用いて表すことも考えることも出来る。この場合、点1との位置関係に対する拘束条件を与え無い分だけ、車両近傍に変局点が現れる形状を探索から除外することが出来ないおそれがある。また、点3の点2に対するオフセット探索領域は、図13に示すように、プラスマイナス対称とすべきため、dx3よりも大きく、演算時間上不利である。また、点3のx座標自体を未知パラメータとすれば、点1との位置関係に対する拘束条件を与えない分、探索範囲が大きくなり、演算時間上不利である。
なお、左右コーナに対応するためオフセット想定領域はプラスマイナス対称とすることが好ましい。
以上から、本方式による点3のx座標表現は、誤認識防止、演算時間節約の両面から優れていることが判る。
ここで、点3のx座標を点2に対するオフセットを用いて定義した場合であっても、その探索範囲は広がるものの、点2に対する可能な範囲によって、探索範囲を限定することは可能である。
次に、点2の探索範囲縮小により、演算時間を縮小することが可能となる。
点2 (x1 +dx2、y2)
すなわち、点2のx座標自体を未知パラメータとせず、点1のx値に拘束したdx2を用いて定義することにより、未知パラメータの探索範囲を縮小できる。すなわち、点1、2は、図14に示すように、それぞれ隣接して存在することが仮定できるため、探索範囲を限定することが可能である。
ここで、本実施形態のパラメータ推定にハフ変換を適用しても構わない。上記のように各変位点を候補点に必ずしも制限されることなく設定すること、及び各変位点間を拘束する上記のような拘束条件を設定することで、上述の従来例の処理と比較して演算時間を短縮することが可能である。
また、道路曲線を区分的に1次近似し、それらを繋ぐことが考えられる。しかしながら、局所的に直線を検出することにより、ノイズに捕らわれ易くなる。また、各区分の直線は別々に検出されるため、互いに連結していない結果となることも有り得る。このため、ハフ変換の代わりに遺伝アルゴリズムや焼き鈍し法等のランダムサーチに代表される最適値探索支援方法を適用することが挙げられる。すなわち、曲線の係数(変位点)の探索に最適値探索方法を適用する。ここで、上記従来技術に対して遺伝アルゴリズムを使用した場合であっても、次の課題がある。
すなわち、遺伝アルゴリズムでは、複数の未知パラメータそれぞれに探索範囲を指定できるが、パラメータ間の拘束条件を与えることができない。その結果、道路形状として想定する必要が無い曲線を誤認識する可能性がある。
以下、具体例で説明する。一般に車両近傍の道路形状は直線に近似できる。しかしながら、係数それぞれの探索範囲を制限するだけでは車両近傍に変局点のある曲線(図15中の曲線A)すなわち想定する必要の無い曲線を探索してしまう。その理由を説明する。
図15中の曲線Bは曲線Aと同じ係数を持つ。曲線Bは右カーブで遭遇する道路形状であり、車線認識で想定する曲線である。よって、曲線Bの係数は探索範囲に含む必要がある。また、曲線Aの定数項と同じ値を定数項に持つ曲線例を図16に示す。これは2次係数a2が零の直線であり、車線認識で遭遇する典型的な形状である。この直線の係数も探索範囲に含めなければならない。以上より、曲線Aの係数は探索範囲に含まれる。すなわち、探索範囲を制限することによって、曲線Aを排除することはできない。
また、不必要な形状を探索することによって、演算時間の増大も招く問題もある。
更に、高次になるに従い、曲線の自由度が増すため、ノイズにとらわれやすい。
遺伝アルゴリズムのもつ最適値探索の速さから、従来では実現困難な3次以上の関数を用いた道路形状推定が可能となった。2次では近似し得ない道路形状をフィッティングする可能性を開くものである。現に、道路遠方では道路白線は水平線に漸近するものであるが、この形状は2次関数では近似しずらい。また、コーナの内側の形状も2次では近似しずらいことが多い。
高次関数はフィッティング精度を向上させる長所を持つものの、自由度の拡大に伴う誤認識が多発する可能性がある。例えば3次関数では、パラメータの値によっては変局点は2となるが、実際の道路認識では変局点を2つ持つ形状をフィティングする要求は稀である。逆にこの自由度により、道路白線以外のノイズをフィッティングしてしまうことが考えられる。
ここで、最小2乗法やカルマンフィルタ等を用いて、高次関数を推定することも考えられる。これらの手法は程度の差こそあれ推定結果にノイズの影響が現れる。ハフ変換や遺伝アルゴリズムではノイズが少ないとまったくその影響を受けないのに対し、最小2乗法等はなんらかの影響が現れる。
これに対し、本実施形態は、白線の延在状態の特徴を利用して、道路曲線を規定するパラメータの記述方式を工夫した。これによって、以上のような問題を解決している。
(変形例)
(1)上記実施形態では、変位点が3点の場合を例示した。変位点は2点であっても良いし、4点以上であっても良い。変位点の数を増やす程、隣り合う変位点間のy軸方向の間隔が小さくなり、x軸方向の探索範囲を狭めることが可能となる。
変位点が4点の場合の例を、図17を参照して説明する。
この場合パラメータは{x1、dx2、dx3、dx4}となる。そして、道路曲線は、4点で規定される3次曲線となる。
この場合、4点の座標は以下のようになる。
点1: (x1、y1)
点2: (x1+dx2、y2)
点3: (x1+{dx2×(y3−y1)/(y2−y1)}+dx3、y3)
点4: (x1+{dx2×(y4−y1)/(y2−y1)}
+{ dx3×(y4−y2)/(y3−y2) }+dx4、y4)
ここで、dx4 は点2、3を通る直線と点4のx方向距離である。
この変化例は、2次から3次へ拡張したものである。従って、曲線フィッティングの自由度の拡大に伴い、道路曲線推定精度が向上する
また、未知パラメータの探索範囲がより狭くなって演算時間の短縮が可能となる。すなわち、dx4の探索範囲は、単なる点3からのオフセットよりも探索範囲を小さくすることができる。その結果、演算時間を短縮することが期待できる。
また、未知パラメータの探索範囲が狭さくなることで誤検知が低減する。すなわち、パラメータの探索範囲が小さいため、曲線の形状により強い拘束条件が発生する。この結果として、過重なノイズへのフィッティングを防止できる。
ここで、一般の高次関数では以下のようになる。探索範囲を狭めることができ、演算時間の短縮、ノイズの誤フィッティングを効果的に防止できる。
点1: (x1、y1)
点2: (x1+dx2、y2)
点3: (x1+{dx2×(y3−y1)/(y2−y1)}+dx3、y3)
点4: (x1+{dx2×(y4−y1)/(y2−y1)}
+{dx3×(y4−y2)/(y3−y2)}+ dx4、 y4)
点5: (x1+{dx2×(y5−y1)/(y2−y1)}
+{dx3×(y5−y2)/(y3−y2)}
+{dx4×(y5−y3)/(y4−y3)}+dx5、y4)
・・・
点n: (x1+{dx2×(yn−y1)/(y2−y1)}
+{dx3×(yn−y2)/(y3−y2)}
+{dxn−1×(yn−yn−2)/(yn−1−yn−2)}
+ dxn、yn)
ここで、2点の変位点を通過する第2の直線で別の変位点のオフセット量を定義する場合、その第2の直線を定義する2点の変位点の変位点の設定は、上記のように一番近い変位点とその次に近い変位点に限定されない。例えば、対象とする変位点を挟んだ変位点を第2の直線を定義する2点の変位点としても良い。2つの変位点の間の変位点であれば、2つの変位点で定義するから第2の直線のx軸方向の変位量は小さい。
(3)上記実施形態では、基準点のy値も固定する場合を例示した。基準点のy値を可変とし、例えば、車両近傍の候補点のy値を基準点のy値としても良い。
(4)上記実施形態では、車両近傍に一番近い基準点を設定した場合を例示している。これに限定しない。車両に対し一番遠い変位点を基準点としても良い。但し、車両の近い位置に基準点を設定した方が、基準点の探索範囲を小さくすることが出来る。
また、基準点をy軸方向に並んだ一番端の変位点に設定する必要はない。
(5)また、基準点を2点以上設定しても良い。上記の実施形態では、点3に対しは、点1及び点2を基準点とみなすことが可能である。
(6)上記実施形態では、車両前方の白線認識を例示したが、車両後方や車両側方の白線認識を対象としても良い。車両側方の白線認識の場合には、車両前後方向に沿った方向に変位点を初期設定すれば良い。
(本実施形態の効果)
(1)道路曲線検出手段2Bは、道路曲線を規定する複数の変位点を設定すると共に、その複数の変位点の少なくとも一つを基準点とし、基準点以外の変位点を上記基準点を通る第1の直線からのオフセット量として定義する。そして、上記基準点の位置、及び基準点以外の変位点のオフセット量をパラメータとするパラメータ推定によって上記道路曲線を検出する。ここで、上記複数の変位点は、道路白線の候補点上でも、道路白線の候補点とは別であっても良い。
上記道路曲線を規定する複数の変位点を予め設定するので、従来のように、複数の候補点のうちから選択する任意のN個による曲線モデルの規定を繰り返す必要がない。
また、曲線モデルを規定する変位点のうちオフセット変位点を、基準点に対するオフセット量で規定することで拘束することで、オフセット変位点の取り得る範囲を限定することが出来る。
以上のことから、道路曲線を検出するためのパラメータ推定の演算処理量を抑えることが可能となる。また、オフセット変位点の取り得る範囲が限定されることから、ロバスト性が向上する。すなわち、演算処理量を抑え且つ所定の精度を確保可能な道路白線認識の技術を提供可能となる。
(2)上記複数の変位点を、車両に対し白線が延在する方向と想定される方向に沿って初期設定することを特徴とする。
これによって、各パラメータの探索範囲を限定することが出来る。
(3)上記複数の変位点を、進行方向に沿った方向に初期設定する。
これによって、車両に対し白線が延在する方向と想定される方向に沿って初期設定することが可能となる。
(4)上記複数の変位点のうち、車両に近い変位点を基準点とする。
車両近傍の方が、白線の位置を限定可能である。このため、基準点の探索範囲を狭くすることが可能となる。
(5)上記複数の変位点を3点以上とする。そして、少なくとも一部のオフセット変位点を、対象とするオフセット変位点に対し、基準点よりも近い位置にある他のオフセット変位点と当該他のオフセット変位点よりも遠い位置にある変位点とを通る第2の直線からのオフセット量を用いて定義する。
道路白線の性質に鑑み、第2の直線からのオフセット量で定義することで、対象とするオフセット変位点の探索範囲をより狭めることが可能となる。
(6)少なくとも一部のオフセット変位点を、対象とするオフセット変位点に一番近い位置にある他のオフセット変位点と、当該他のオフセット変位点の次に近い位置にある変位点とを通る第2の直線からのオフセット量を用いて定義する。
道路白線の性質に鑑み、近傍の他のオフセット変位点を使用した第2の直線からのオフセット量で定義することで、対象とするオフセット変位点の探索範囲を、より確実に狭めることが可能となる。
(第2実施形態)
次に、第2実施形態について図面を参照して説明する。なお、上記実施形態と同様な装置等については同一の符号を付して説明する。
本実施形態の基本構成は上記第1実施形態と同様である。但し、道路曲線を規定するパラメータの設定が若干異なる。
本実施形態では、変位点が4点の場合を例に説明する。そして、点4のオフセット量を他の変位点である点3を定義するx軸方向オフセット量であるdx3を使用して定義する。すなわち、点4のオフセット量を、点2及び点3を通過する第2の直線に対するオフセット量dx4で定義する、但し、dx4を、k4×dx3として表現する。
すなわち、曲線のパラメータ(染色体)は{x1、dx2、dx3、k4}となる。
ここで{x1、dx2、dx3、k4}を図18を用いて説明する。
撮像画面上のy座標を4つ選択し、画像下方(実空間では手前)からy1、y2、y3、y4と定義する。これらは定数である。道路白線は以下の4点で規定した3次曲線とする。図22から判るように、4点の座標は以下のようになる。
点1: (x1、y1)
点2: (x1+dx2、y2)
点3: (x1+{dx2×(y3−y1)/(y2−y1)}+dx3、y3)
点4: (x1+{dx2×(y4−y1)/(y2−y1)}
+{dx3×(y4−y2)/(y3−y2)}+k4×dx3、 y4)
ここで、点1、2、3の座標は、第1実施形態と同じであり、dx2、dx3の定義も、第1実施形態と同じである。
また、「k4×dx3」は、点2、3を通る第2の直線に対する、点4のx方向オフセット量である。
x1、dx2、dx3の探索範囲は上記実施形態と同じである。
上記k4として正値を取るように設定する。
そして、k4の探索範囲は以下のように設定する。
k4 | 0≦k4<XXX 式6
XXXは正数とする。XXXが大きい程自由度は大きくなるが、探索すべき道路形状の限界を見極めて設定する。
(動作・作用)
道路認識結果を用いるレーンキープアシストシステムやレーン逸脱警報が対象とする状況は、高速道や単調な一般道である。このとき、画像上の道路白線形状では、変局点は1つしか現れない。よって、フィッティングすべき曲線モデルが変局点を2つ許すようであれば、それは無駄な探索を行っていると判断できる。すなわちパラメータ探索時間が増える。また、変局点を2つ許すとすると、ノイズの誤フィッティングの誤フィッティングが多発することも想定出来る。
本実施形態に示したように、パラメータk4が正であれば、3次曲線は変局点を2つ持つことは無くなる。その様子を図19に示す。
すなわち、変局点が2つとなること無く、ノイズに影響されにくく、かつ、演算時間短縮に有利な道路白線認識を実現できる。
(変形例)
(1)3次の曲線で説明したが、より高次の曲線にも応用できる。一般化した場合の曲線のパラメータと通過する点を以下に示す。
曲線のパラメータ{x1、dx2、dx3、k4、・・・、kn}
点1: (x1、y1)
点2: (x1+dx2、y2)
点3: (x1+{dx2×(y3−y1)/(y2−y1)}+dx3、y3)
点4: (x1+{dx2×(y4−y1)/(y2−y1)}
+{dx3×(y4−y2)/(y3−y2)}+dx4、y4)
点5: (x1+{dx2×(y5−y1)/(y2−y1)}
+{dx3×(y5−y2)/(y3−y2)}
+{dx4×(y5−y3)/(y4−y3)}+dx5、y4)
・・・
点n: (x1+{dx2×(yn−y1)/(y2−y1)}
+{dx3×(yn−y2)/(y3−y2)}
+{dxn−1×(yn−yn−2)/(yn−1−yn−2)}+dxn、
yn)
ただし、dxn=kn×dxn−1 (n ≧ 4)
(本実施形態の効果)
(1)上記複数の変位点を4点以上とする。少なくとも1つのオフセット変位点を、他のオフセット変位点を定義するオフセット量を使用した関数で定義する。
これによって、変局点が2つとなること無く、ノイズに影響されにくく、かつ、演算時間短縮に有利な道路白線認識を実現できる。
(第3実施形態)
次に、第3実施形態について図面を参照して説明する。なお、上記各実施形態と同様な装置等については同一の符号を付して説明する。
本実施形態の基本構成は上記第1及び第2実施形態と同様である。但し、道路曲線を規定する変位点の設定が若干異なる。
本実施形態は、各変位点を定義するy値である、定数y1、・・・、ynの設定に特徴を持たせたものである。図20にその様子を示す。すなわち、画面下(実空間での手前)でのynの間隔を広く、画面上(実空間での奥)では狭く設定する。
その他の構成は、上記各実施形態と同様である。
(動作・作用)
道路白線は手前ほど直線に見える。すなわち、手前は直線に拘束するようなモデルの場合、誤フィッティングが少ないことを期待できる。本実施形態のようにynを設定すれば、すくなくとも、画面下側の区間は区間が長い分、直線に近くなることが期待できる。結果として優れたフィッティングとノイズに影響されないロバスト性を両立することが可能となる。
(本実施形態の効果)
(1)上記複数の変位点における隣り合う変位点間の距離を、車両よりも離れた変位点間の距離よりも、車両に近い位置での変位点間の距離を大きく設定する。
車両近傍で直線的に見える道路形状を適切に近似する。これによって、道路白線に対し優れたフィッティングと、ノイズに影響されないロバスト性を両立することが可能となる。
1 カメラ
2 道路白線認識処理部
2A 候補点抽出手段
2Aa 道路領域検出部
2Ab 輪郭点推定部
2Ac 輪郭点抽出部
2B 道路曲線検出手段
A1〜A3 変位点
A1 基準点
A2,A3 オフセット変位点
dx2 オフセット量
dx3 オフセット量
dx4 オフセット量
k4 パラメータ
Δx2,Δx3 オフセット量

Claims (9)

  1. 車両周囲の道路を撮影して取得した画像から道路白線候補点を抽出する候補点抽出手段と、抽出した候補点に基づいて道路白線位置に対応する曲線である道路曲線を検出する道路曲線検出手段と、を備え、
    上記道路曲線検出手段は、
    上記道路曲線を規定する複数の変位点を設定すると共に、その複数の変位点の少なくとも一つを基準点とし、基準点以外の変位点を上記基準点を通る第1の直線からのオフセット量として定義し、
    上記基準点の位置、及び基準点以外の変位点のオフセット量をパラメータとするパラメータ推定によって上記道路曲線を検出することを特徴とする道路白線認識装置。
  2. 上記複数の変位点を、車両に対し白線が延在する方向と想定される方向に沿って並ぶように設定することを特徴とする請求項1に記載した道路白線認識装置。
  3. 上記複数の変位点を、進行方向に沿った方向に並ぶように設定することを特徴とする請求項2に記載した道路白線認識装置。
  4. 上記複数の変位点のうち、車両に近い変位点を基準点とすることを特徴とする請求項1〜請求項3のいずれか1項に記載した道路白線認識装置。
  5. 上記複数の変位点を3点以上とし、且つ、上記基準点以外の変位点を、オフセット変位点と定義したときに、
    少なくとも一部のオフセット変位点を、対象とするオフセット変位点に対し、基準点よりも近い位置にある他のオフセット変位点と当該他のオフセット変位点よりも遠い位置にある変位点とを通る第2の直線からのオフセット量を用いて定義することを特徴とする請求項1〜請求項4のいずれか1項に記載した道路白線認識装置。
  6. 上記基準点以外の変位点を、オフセット変位点と定義したときに、
    少なくとも一部のオフセット変位点を、対象とするオフセット変位点に一番近い位置にある他のオフセット変位点と、当該他のオフセット変位点の次に近い位置にある変位点とを通る第2の直線からのオフセット量を用いて定義することを特徴とする請求項5に記載した道路白線認識装置。
  7. 上記基準点以外の変位点を、オフセット変位点と定義したときに、
    上記複数の変位点を4点以上とし、少なくとも1つのオフセット変位点を、他のオフセット変位点を定義するオフセット量を使用した関数で定義することを特徴とする請求項1〜請求項6のいずれか1項に記載した道路白線認識装置。
  8. 上記複数の変位点における隣り合う変位点間の距離を、車両よりも離れた変位点間の距離よりも、車両に近い位置での変位点間の距離を大きく設定することを特徴とする請求項1〜請求項7のいずれか1項に記載した道路白線認識装置。
  9. 車両周囲の道路を撮影して取得した画像から抽出した道路白線候補点に基づいて、道路白線位置に対応する曲線である道路曲線を検出することで道路白線を認識する道路白線認識方法において、
    上記道路曲線を規定する複数の変位点を設定し、その複数の変位点の少なくとも一つを基準点とし、基準点以外の変位点を上記基準点を通る第1の直線からのオフセット量として定義し、上記基準点の位置、及び基準点以外の変位点のオフセット量をパラメータとするパラメータ推定によって上記道路曲線を検出することを特徴とする道路白線認識方法。
JP2009039629A 2009-02-23 2009-02-23 道路白線認識装置及び道路白線認識方法 Expired - Fee Related JP5287335B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009039629A JP5287335B2 (ja) 2009-02-23 2009-02-23 道路白線認識装置及び道路白線認識方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009039629A JP5287335B2 (ja) 2009-02-23 2009-02-23 道路白線認識装置及び道路白線認識方法

Publications (2)

Publication Number Publication Date
JP2010198119A true JP2010198119A (ja) 2010-09-09
JP5287335B2 JP5287335B2 (ja) 2013-09-11

Family

ID=42822817

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009039629A Expired - Fee Related JP5287335B2 (ja) 2009-02-23 2009-02-23 道路白線認識装置及び道路白線認識方法

Country Status (1)

Country Link
JP (1) JP5287335B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2426806A2 (en) 2010-09-03 2012-03-07 Sony Corporation Electric circuit, charge control device, charge system, and control method
JP2014203465A (ja) * 2013-04-08 2014-10-27 トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド 車線ベースの位置特定
JP2018037053A (ja) * 2016-08-29 2018-03-08 東軟集団股▲分▼有限公司 車線境界線を検出する方法、装置、およびデバイス
WO2021009894A1 (ja) * 2019-07-18 2021-01-21 三菱電機株式会社 車線形状認識システム及び車線形状認識方法
JP2021503414A (ja) * 2018-08-22 2021-02-12 ベイジン センスタイム テクノロジー デベロップメント カンパニー, リミテッド 知的運転制御方法および装置、電子機器、プログラムならびに媒体
KR102405472B1 (ko) * 2021-05-25 2022-06-08 포티투닷 주식회사 난잡한 환경에서 시맨틱 차선을 결정하기 위한 방법 및 장치

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09161065A (ja) * 1995-12-13 1997-06-20 Mitsubishi Motors Corp 白線検出方法
JP2004318618A (ja) * 2003-04-17 2004-11-11 Nissan Motor Co Ltd 車線認識装置
JP2008087726A (ja) * 2006-10-05 2008-04-17 Xanavi Informatics Corp 車両の走行制御システム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09161065A (ja) * 1995-12-13 1997-06-20 Mitsubishi Motors Corp 白線検出方法
JP2004318618A (ja) * 2003-04-17 2004-11-11 Nissan Motor Co Ltd 車線認識装置
JP2008087726A (ja) * 2006-10-05 2008-04-17 Xanavi Informatics Corp 車両の走行制御システム

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2426806A2 (en) 2010-09-03 2012-03-07 Sony Corporation Electric circuit, charge control device, charge system, and control method
JP2014203465A (ja) * 2013-04-08 2014-10-27 トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド 車線ベースの位置特定
JP2018037053A (ja) * 2016-08-29 2018-03-08 東軟集団股▲分▼有限公司 車線境界線を検出する方法、装置、およびデバイス
JP2021503414A (ja) * 2018-08-22 2021-02-12 ベイジン センスタイム テクノロジー デベロップメント カンパニー, リミテッド 知的運転制御方法および装置、電子機器、プログラムならびに媒体
JP7106664B2 (ja) 2018-08-22 2022-07-26 ベイジン・センスタイム・テクノロジー・デベロップメント・カンパニー・リミテッド 知的運転制御方法および装置、電子機器、プログラムならびに媒体
WO2021009894A1 (ja) * 2019-07-18 2021-01-21 三菱電機株式会社 車線形状認識システム及び車線形状認識方法
JPWO2021009894A1 (ja) * 2019-07-18 2021-12-09 三菱電機株式会社 車線形状認識システム及び車線形状認識方法
CN114127826A (zh) * 2019-07-18 2022-03-01 三菱电机株式会社 车道形状识别系统以及车道形状识别方法
JP7076646B2 (ja) 2019-07-18 2022-05-27 三菱電機株式会社 車線形状認識システム及び車線形状認識方法
CN114127826B (zh) * 2019-07-18 2023-10-31 三菱电机株式会社 车道形状识别系统以及车道形状识别方法
KR102405472B1 (ko) * 2021-05-25 2022-06-08 포티투닷 주식회사 난잡한 환경에서 시맨틱 차선을 결정하기 위한 방법 및 장치

Also Published As

Publication number Publication date
JP5287335B2 (ja) 2013-09-11

Similar Documents

Publication Publication Date Title
JP5287335B2 (ja) 道路白線認識装置及び道路白線認識方法
KR101448411B1 (ko) 입체물 검출 장치 및 입체물 검출 방법
US8655081B2 (en) Lane recognition system, lane recognition method, and lane recognition program
US9721460B2 (en) In-vehicle surrounding environment recognition device
JP5014237B2 (ja) レーンマーカ認識装置、車両、及びレーンマーカ認識用プログラム
JP4832227B2 (ja) 物体検出装置および物体検出方法
KR102099265B1 (ko) 보행자 상태 기반의 보행자와 차량간 충돌 경고 시스템 및 그 방법
EP1320072A2 (en) Lane marker recognition method
US20150262365A1 (en) Image processing device and image processing method
US20100110193A1 (en) Lane recognition device, vehicle, lane recognition method, and lane recognition program
JP2006031365A (ja) 車線認識画像処理装置
US7346190B2 (en) Traffic line recognition device
JP2006018751A (ja) 車両用画像処理装置
JPWO2010140578A1 (ja) 画像処理装置、画像処理方法、及び画像処理用プログラム
JP2002197444A (ja) 車両の走行路認識装置
JP2007183912A (ja) 走路境界線検出装置、および走路境界線検出方法
JP5401257B2 (ja) 遠赤外線歩行者検知装置
KR101483742B1 (ko) 지능형 차량의 차선 검출방법
JP6601506B2 (ja) 画像処理装置、物体認識装置、機器制御システム、画像処理方法、画像処理プログラム及び車両
JP6177541B2 (ja) 文字認識装置、文字認識方法及びプログラム
WO2007138898A1 (ja) 認識システム、認識方法および認識プログラム
JP2011022995A (ja) 消失点推定装置およびプログラム
JP2006350699A (ja) 画像処理装置及び方法
JP5983729B2 (ja) 白線検出装置、白線検出フィルタ装置及び白線検出方法
JP2008027046A (ja) 車線認識装置

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100917

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111219

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121030

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121106

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130507

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130520

R150 Certificate of patent or registration of utility model

Ref document number: 5287335

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees