JP3624867B2 - 道路白線認識装置 - Google Patents

道路白線認識装置 Download PDF

Info

Publication number
JP3624867B2
JP3624867B2 JP2001258721A JP2001258721A JP3624867B2 JP 3624867 B2 JP3624867 B2 JP 3624867B2 JP 2001258721 A JP2001258721 A JP 2001258721A JP 2001258721 A JP2001258721 A JP 2001258721A JP 3624867 B2 JP3624867 B2 JP 3624867B2
Authority
JP
Japan
Prior art keywords
white line
road
estimated
pitch angle
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001258721A
Other languages
English (en)
Other versions
JP2003065715A (ja
Inventor
裕之 古性
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2001258721A priority Critical patent/JP3624867B2/ja
Publication of JP2003065715A publication Critical patent/JP2003065715A/ja
Application granted granted Critical
Publication of JP3624867B2 publication Critical patent/JP3624867B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、道路上の通行区分帯表示用の白線を認識するための道路白線認識装置に関する。
【0002】
【従来の技術】
従来より、画像によって白線を認識し、自車両と白線との関係を、車両の自動制御又は一部自動制御に用いたりする技術が提案されている。
例えば、特開平11−281352号公報には、撮像画像を処理して道路上の白線を検出し、白線検出結果に基づいて、自車両の車線に対する横変位、道路曲率、自車両の車線に対するヨー角、ピッチ角、カメラ高さ、車線幅等といった道路形状及び車両挙動を表すパラメータを検出し、このパラメータに基づいて推定した車両挙動と実際の車両挙動とに基づいて前記パラメータを補正し、補正後のパラメータに基づいて、道路の形状を検出することによって、道路の分岐点を走行する場合や先行車両に割り込まれた場合であっても、走行車線の白線を正確に検出し、正確に道路形状を推定するようにしたものが提案されている。
【0003】
また、例えば特開平11−232467号公報には、車両前方の路面画像を取得し、その撮影画像の中から路面に表示されている白線と路面との境界線とを特定の探索領域内において検出し、検出された境界線の相対的位置関係から、例えば白線の両側の境界線が離れていくことを検出し、分岐していると判定するようにしたもの等が提案されている。
【0004】
【発明が解決しようとする課題】
ところで、一般に、分岐箇所においては、分流誘導路の白線の方が、走行車線の白線よりも鮮明であることが多い。例えば、分流が左側である場合には、分流箇所の左白線はかすれている場合が多い。これは、分流する自動車が左側白線の上を通過し、左白線を汚すためである。
【0005】
このように、分流誘導路の白線の方が、走行車線の白線よりも鮮明である場合、例えば上記特開平11−281352号公報の場合には、白線候補線を選択する際に、より鮮明な白線を選択しているため、分流誘導路の白線を走行車線の白線として誤認識してしまう場合がある。
これに対する対策として、道路パラメータとして推定したピッチ角やカメラ高さを監視し、これらが所定レンジを超えた場合に、道路パラメータの推定に失敗した、すなわち、誤推定と判断し、画像処理をリセットする等を行うようにしている。
【0006】
例えば、図20に示すように、分流直前で白線の誤認識が生じ、分流誘導線が左白線として誤認識されると、算出されるピッチ角は真のピッチ角よりも大きくなる。そして、ピッチ角が大きくなるほど、ピッチ角に相当する消失点Pは図20に示すように画像上方に移動し、ノーズダイブ状態となる。ピッチ角が、所定レンジを超えたとき、つまり、画像上において、消失点が通常存在する領域からはずれたときに、ピッチ角は誤推定されていると判断される。
【0007】
また、例えば、図21に示すように、分流部進入後に白線の誤認識が生じ、分流誘導線が左白線として誤認識されると、これに基づいて算出される車線幅が増加すると共に消失点は図21に示すように画像上方に移動する。ここで、車線幅がほぼ一定であるものとすると、推定されるカメラ高さは低下し、このカメラ高さが所定レンジを超えたときに、誤推定として判断される。
【0008】
逆に、カメラ高さを固定し、車線幅を可変として、道路パラメータを推定する方法では、分流部の誤認識によって車線幅が増加することになる。このように、一方を固定とするのは、カメラが単眼カメラであるための推定次元の制約である。仮にカメラがステレオであるならば、高さと車線幅とは分離されるため、車線幅増加が生じることになる。
【0009】
しかしながら、このように、ピッチ角或いはカメラ高さ、車線幅が所定レンジを超えたときに、誤推定として判断する方法にあっては、通常走行時に発生するピッチ角或いはカメラ高さ、車線幅に対し、これを誤推定として判断しないようにするために、所定レンジを必要以上に小さくすることができない。このため、分流時の誤推定の判断までに時間がかかるという問題がある。
【0010】
また、前記特開平11−232467号公報の場合には、道路白線を2本以上認識し、これらの振る舞いから分流を判断している。つまり、例えば、左分流の場合には、白線候補線が3本であり、そのうち、左2本の横方向の座標の差が大きくなる場合に分流と判断している。
しかしながら、分流の起点では、白線が3本ないことが多く、また、走行車線の分流側白線は一般にかすれており、2本以上の白線認識は困難な場合が多く、また、場合によっては、走行車線の分流側白線は一部全く書かれていない場合等もあり、的確に分流を識別することができない場合があるという問題がある。
【0011】
そこで、この発明は、上記従来の未解決の問題に着目してなされたものであり、分岐部分であっても的確に且つ速やかに走行路の白線を検出することの可能な道路白線認識装置を提供することを目的としている。
【0012】
【課題を解決するための手段】
上記目的を達成するために、本発明の請求項1に係る道路白線認識装置は、車両周囲の画像を撮像する撮像手段と、当該撮像手段の撮像画像を処理して道路上の白線を検出する白線検出手段と、当該白線検出手段での白線検出結果に基づいて路面形状及び路面に対する車両の相対位置関係の少なくとも何れか一方を表すパラメータを推定するパラメータ推定手段と、当該パラメータ推定手段で推定した推定値の、基準値に対する変位の符号が、所定時間同一であるときに前記白線検出手段での白線検出異常と判断する異常検出手段と、を備えることを特徴としている。
【0013】
また、請求項2に係る道路白線認識装置は、前記パラメータ推定手段は、自車両のピッチ角、前記撮像手段の高さ及び走行路の車線幅のうちの少なくとも何れか一つを前記パラメータとして推定するようになっていることを特徴としている。
【0014】
この請求項1及び請求項2に係る発明では、撮像手段で撮像した撮像画像から道路上の白線が検出され、この白線検出結果に基づいて路面形状や路面に対する車両の相対位置関係を表すパラメータが推定される。そして、この推定したパラメータの推定値と、その基準値とをもとに、道路白線が正常に検出されているかどうかの異常検出が行われ、前記パラメータの推定値の、基準値に対する変位の符号が所定時間同一であるときに、道路白線の検出異常と判断される。
【0015】
例えば、パラメータとして、自車両のピッチ角、前記撮像手段の高さ及び走行路の車線幅のうちの少なくも何れか一つが推定され、この推定したパラメータの推定値の、基準値に対する変位の符号が、所定時間同一であるときに白線検出異常と判断される。
ここで、推定される自車両のピッチ角、走行路の車線幅を固定として推定される撮像手段の高さ、撮像手段の高さを固定として推定される走行路の車線幅は、正常に道路白線を検出している状態では、定常値を基準として周期的に増減し、例えば分流部等において分流誘導路の白線を走行路の車線として誤認識した場合等には、推定したパラメータの推定値の、定常値に対する変化状況が変化し、定常値に対して周期的に増減しなくなる。したがって、定常値に対して周期的に増減しなくなったことを検出したとき、つまり、パラメータの推定値の、基準値に対する変位の符号が、所定時間継続して正値、又は負値であるときには、パラメータの推定値が周期的に増減していないから道路白線の検出異常であるとみなすことが可能となる。
【0016】
また、請求項3に係る道路白線認識装置は、自車両の前後加速度を検出する前後加速度検出手段を備え、前記異常検出手段は、前記パラメータ推定手段で推定する推定値の、前記前後加速度検出手段で検出した前後加速度に応じて生じると予測される変化量を検出し、検出した前後加速度相当変化量に基づいて前記基準値をオフセットするようになっていることを特徴としている。
【0017】
この請求項3に係る発明では、自車両の前後加速度が検出され、この前後加速度に応じて生じると予測される、パラメータの推定値の変化量が検出される。つまり、自車両に前後加速度が発生していると、この前後加速度に起因して車両挙動が変動するため、この状態で撮像手段で撮像した撮像画像に基づいて、各種パラメータを推定した場合、前後加速度に起因する推定値の変動量分を含むことになり、推定値の基準値に対する増減周期が変化するため、これに基づき道路白線の検出異常の判定を行った場合、誤判断する可能性がある。
【0018】
しかしながら、前後加速度に起因して生じると予測される推定値の変化量に相当する前後加速度相当変化量に基づいて、基準値がオフセットされるから、前後加速度の影響をうけることなく、道路白線の検出異常の判定が行われることになる。
また、請求項4に係る道路白線認識装置は、前記白線検出手段で検出した道路白線が実線であるか破線であるかを検出する破線検出手段を有し、前記パラメータ推定手段は、前記異常検出手段で前記白線検出異常を検出し、且つ前記破線検出手段での検出結果に基づき、道路上の左右の道路白線として検出された道路白線のうち一方のみが破線であると判定されるときには、前記白線検出異常を検出した後所定時間は、破線の道路白線のみを用いて前記パラメータを推定するようになっていることを特徴としている。
【0019】
この請求項4に係る発明では、撮像手段の撮像画像に基づいて検出された道路白線が、実線であるか破線であるかが検出される。そして、パラメータの推定値に基づいて白線の検出異常が検出され、且つ、自車両の走行路の左右の道路白線として検出された道路白線のうち、一方のみが破線であると判定されるときには、白線検出異常が検出された後、所定時間は、破線であると判定された道路白線のみを用いてパラメータの推定が行われる。
【0020】
ここで、一般に、分流部においては、分流誘導路の白線は実線であるため、白線の検出異常が生じていると判定される状態で、自車両走行路の左右の道路白線の一方のみが破線である場合には、分流誘導路の白線を自車両の走行路の白線と誤認識しているとみなすことができる。したがって、分流誘導路の白線を誤認識していると予測される所定時間は、この誤認識している道路白線を用いず、自車両の走行路の道路白線、つまり破線であると判定された道路白線を用いてパラメータを推定することによって、自車両の走行路に応じたパラメータの推定を行うことが可能となる。
【0021】
また、請求項5に係る道路白線認識装置は、前記撮像手段は単眼カメラであって、前記パラメータ推定手段は、前記撮像手段高さを当該撮像手段高さの平均値とオフセット量との和とし且つ前記オフセット量を安定系で近似して前記撮像手段高さを推定するようになっていることを特徴としている。
この請求項5に係る発明では、撮像手段は単眼カメラであって、パラメータとして撮像手段の高さを推定する場合には、この撮像手段高さの平均値とオフセット量との和を撮像手段の高さとし、オフセット量を安定系で近似することによって、撮像手段高さの推定が行われる。オフセット量を安定系で近似することによって、推定される撮像手段高さは、誤差を含む値から零へと合理的な速度で収束するから、正常な推定値へ連続的に復帰させることが可能となる。
【0022】
さらに、請求項6に係る道路白線認識装置は、前記撮像手段は単眼カメラであって、前記パラメータ推定手段は、走行路の車線幅を当該車線幅の平均値とオフセット量との和とし且つ前記オフセット量を安定系で近似して前記車線幅を推定するようになっていることを特徴としている。
この請求項6に係る発明では、撮像手段は単眼カメラであって、パラメータとして走行路の車線幅を推定する場合には、車線幅を、この車線幅の平均値とオフセット量との和とし、オフセット量を安定系で近似することによって、車線幅の推定が行われる。オフセット量を安定系で近似することによって、推定される車線幅は、誤差を含む値から零へと合理的な速度で収束するから、正常な推定値へ連続的に復帰させることが可能となる。
【0023】
【発明の効果】
本発明の請求項1に係る道路白線認識装置によれば、撮像画像から検出した道路白線に基づき推定したパラメータの推定値の、基準値に対する変位の符号が、所定時間同一であるときに白線検出異常と判断するようにしたから、パラメータの推定値の基準値に対する変化特性が変化した時点、つまり、異常が発生した初期の段階で白線検出異常を検出することができ、例えば、パラメータの推定値が許容範囲を超える以前のより早い時点で、白線検出異常を検出することができる。
【0024】
また、請求項2に係る道路白線認識装置によれば、パラメータとして自車両のピッチ角、撮像手段の高さ、走行路の車線幅等を推定し、この推定値の、基準値に対する変位の符号が、所定時間同一であるときに白線検出異常であると判断するようにしたから、白線検出異常を異常が発生した初期の段階で検出することができる。
【0025】
また、請求項3に係る道路白線認識装置によれば、自車両の前後加速度に応じて生じると予測される、パラメータの推定値の変化量に相当する前後加速度相当変化量に基づいて、基準値をオフセットするようにしたから、前後加速度の影響をうけることなく、的確に道路白線の検出異常の判定を行うことができる。
また、請求項4に係る道路白線認識装置によれば、白線検出異常を検出し、且つ道路上の左右の道路白線として検出された道路白線のうち一方のみが破線であると判定されるときには、白線検出異常を検出した後所定時間は、破線の道路白線のみを用いて前記パラメータを推定するようにしたから、白線検出異常を検出した状態であっても、自車両の走行路に応じたパラメータの推定を行うことができる。
【0026】
また、請求項5に係る道路白線認識装置によれば、撮像手段高さを、この撮像手段高さの平均値とオフセット量との和とし、オフセット量を安定系で近似して撮像手段高さを推定するようにしたから、正常な推定値へ連続的に復帰させることができる。
さらに、請求項6に係る道路白線認識装置によれば、走行路の車線幅を、この車線幅の平均値とオフセット量との和とし、オフセット量を安定系で近似して車線幅を推定するようにしたから、正常な推定値へ連続的に復帰させることができる。
【0027】
【発明の実施の形態】
以下、本発明の実施の形態を図面に基づいて説明する。
まず、本発明の第1の実施の形態を説明する。
図1は、第1の実施の形態の構成を示す図である。CCDカメラ等の単眼カメラで構成されるカメラ1は、図2に示すように、車幅方向中央の、車室内のフロントウィンドウ上部に、レンズの光軸と車両中心線とのヨー角が零、ピッチ角がαとなるように取り付けられ、車両前部の道路を含む車両の周囲環境を撮像する。画像処理装置2は、カメラ1からの撮像情報に対し所定の処理を行う。メモリ3は、後述する道路白線検出処理プログラムや道路形状及び車両挙動を表す道路パラメータ等を記憶する。制御コントローラ4は、画像処理装置2で所定の処理を施した画像データをもとに白線検出を行い、白線検出の結果に基づいて道路パラメータを推定し、推定結果を前記メモリ3に記憶する。
【0028】
図3は、制御コントローラ4で実行される道路白線を検出するための道路白線検出処理の処理手順の一例を示すフローチャートである。なお、この道路白線検出処理は、予め設定した所定周期で実行される。
まず、ステップS1で、画像処理装置2から1フレームの画像データを読み込み、ステップS2に移行し、例外処理フラグFがF=0であるか否かを判定する。なお、この例外処理フラグFは起動時には、F=0に設定されている。
【0029】
そして、例外処理フラグFがF=0である場合には、ステップS3に移行し、例外処理フラグFがF=0でない場合には、後述のステップS10に移行する。前記ステップS3では、ステップS1で読み込んだ画像データに対し、例えば図4に示すように、複数のウィンドウを設定する。なお、各フレームにおいて、図4に示すように、例えばその左上を原点とし、画像右方をX軸の正方向、画像左方向をX軸の負方向とする。
【0030】
なお、各ウィンドウのY方向、つまり画像上下方向のウィンドウ位置及びウィンドウサイズは予め設定しておく。例えば図4に示すように、各ウィンドウを添え字wで識別し、各ウィンドウの上辺のY座標をYwとして設定しておく。
そして、前記図4に示す座標系(X,Y)において、道路モデルを、各種道路パラメータを用いて表し、例えば本出願人が先に提案した特開平11−281352号公報に記載された(1)式で表す。
【0031】
X=(−A+I*E)×(Y+f*D)/H−B*H*f/(Y+f*D)−C*f ……(1)
なお、前記特開平11−281352号公報では、式(1)中のE及びHを変数としているが、本発明では、Eを定数としている。
また、式中の、Aは自車両の車線に対する横変位、Bは道路曲率、Cは自車両の車線に対するヨー角、Dはカメラ1の光軸に対するピッチ角、Hはカメラ1の路面からの高さである。また、Eは車線幅つまり、左白線及び右白線間の距離、fはカメラ1のカメラ透視変換係数、(X、Y)は、白線候補線上の任意の点の位置座標である。なお、Iは左白線であるときには“0”、右白線であるときには“1”に設定される。
【0032】
そして、以後、前記{A,B,C,D,H}を道路形状を記述する道路パラメータとよぶ。
ここで、前回のパラメータ推定結果を{A(−1),B(−1),C(−1),D(−1),H(−1)}とすると、今回のウィンドウの中心座標(xw、yw)は,前記(1)式から次式(2)で表すことができる。
【0033】
xw
=(−A(−1)+I*E) ×(yw+f*D(−1))/H−B(−1)*H*f/(yw+f*D(−1))−C(−1)*f ……(2)
なお、ウィンドウのX方向の幅は固定値でもよく、また、例えば特開平8−261756号公報に記載されているように、推定した道路パラメータの分散から合理的に設定するようにしてもよい。また、Y方向の幅は、前述のようにウィンドウのY方向の位置座標の代表値として設定されているから、これから特定される。したがって、画像データ上で、ウィンドウ位置が特定されることになる。
【0034】
このようにしてウィンドウを設定すると、続いて、ステップS4に移行し、白線候補点座標の算出を行う。
まず、画像データに対し、sobleフィルタを適用し、輝度変化を利用してエッジ検知を行う。例えば、図5に示すように、隣り合う画素について、左側の画素つまり、図5の場合にはX座標が小さい方の画素の輝度が右側の画素の輝度よりも大きい場合に、フィルタの出力が正値となり、逆に右側の画素の輝度が左側の画素の輝度よりも大きい場合に、フィルタの出力が負値となるようにすると、左白線の場合のエッジ候補点(xw,yw)は、前記フィルタの出力は正値となり、右白線の場合のエッジ候補点は、フィルタの出力が負値となる。なお、左白線の場合、ウィンドウ内の画素を全て走査し、フィルタの出力が予め設定した所定の正値を超えたものを白線候補点とみなす。
【0035】
そして、このようにして得たエッジ候補点(xw,yw)の集合から、白線候補線を得る。この処理は、例えば公知のハフ変換、最小自乗法等を適用することができる。例えばハフ変換直線近似を行う場合には、図6に示すように、ウィンドウ内を通過する直線のうち、最もエッジ候補点を多く貫いたものを、白線候補線として選択する。
【0036】
そして、選択した白線候補線上の任意の点を白線候補点Lとして選択する。例えば、図7に示すように、白線候補線とウィンドウの上辺との交点を白線候補点Lとし、この位置座標L(xn,yn)を算出する。
この処理を左右の各ウィンドウ毎に行い、各ウィンドウ毎に白線候補点L(xn,yn)を検出する。なお、候補点を得られなかったウィンドウについては、候補点のX座標を“0”として設定する。
【0037】
これによって、左右の各ウィンドウ毎の白線候補点LのX位置座標の配列{XL、XL、……;XR、XR、……}を得る。なお、配列中のLは、左側の白線候補点Lの座標であることを表し、Rは右側の白線候補点Lの座標であることを表す。
続いて、ステップS5に移行し、道路パラメータの推定を行う。まず、ステップS4で算出した白線候補点LのX位置座標の配列のうち、X位置座標が零以外のものを抽出し、これを変数{XXL、XXL、……;XXR、XXR、……}に格納する。
【0038】
例えば、{XL、XL、XL、XL、XL、XL;XR、XR、XR、XR、XR、XR}={50、45、40、35、30、0;0、0、215、220、225、0}である場合には、{XXL、XXL、XXL、XXL、XXL;XXR、XXR、XXR}={50、45、40、35、30;215、220、225}となる。
【0039】
そして、変数{XXL、XXL、……;XXR、XXR、……}に対応する白線候補点LのY座標の配列を、{YYL、YYL、……;YYR、YYR、……}と定義する。
つまり、上述の{XL、XL、XL、XL、XL、XL;XR、XR、XR、XR、XR、XR}に対応するY座標を、{YL、YL、YL、YL、YL、YL;YR、YR、YR、YR、YR、YR}とすると、変数{XXL、XXL、……;XXR、XXR、……}に対応する白線候補点LのY座標の配列は、{YYL、YYL、YYL、YYL、YYL;YYR、YYR、YYR}となり、これは、{YL、YL、YL、YL、YL;YR、YR、YR}となる。
【0040】
ここで、前記道路モデル式(1)をX=fn(A,B,C,D,H、Y)と表すものとすると、前記変数{XXL、XXL、……;XXR、XXR、……}は、白線候補点であるので、次式(3)が成り立つ。
Figure 0003624867
そして、これら各式を、A,B,C,D,Hの線形結合として近似する。前記道路モデルX=fn(A,B,C,D,H、Y)は次式(4)で近似することができる。
【0041】
Figure 0003624867
なお、(4)式中のd(fn)/d α(α=A〜H)は、関数fnを変数αで偏微分することを意味する。
したがって、前記(3)式は、次式(5)と表すことができる。
【0042】
Figure 0003624867
したがって、次式(6)を得ることができる。
【0043】
XX=MM*〔A B C D H〕 ……(6)
なお、(6)式中のXX及びMMはベクトルもしくはマトリクスを表す。また、〔 〕は、転置を表す。
前記(6)式は、一般的なオブザーバ定式化の出力方程式とみなすことができる。したがって、この(6)式から、パラメータA、B、C、D、Hを推定することができる。
【0044】
このようにして、前記(6)式にしたがって、パラメータA、B、C、D、Hを推定すると、ステップS6に移行し、ノーズダイブカウンタの更新処理を行う。まず、ステップS5で推定したピッチ角Dとピッチ角平均値DAVE との偏差に基づいてノーズダイブ状態であるかどうかを判定する。前記ピッチ角Dはカメラ1の光軸に対するピッチ角であるから、ピッチ角が大きいほどノーズダイブが強いことを表す。前記判定は、ピッチ角Dからピッチ角平均値DAVE を減算したピッチ角偏差に基づいて行い、ピッチ角偏差が正値であるとき、ノーズダイブ状態であると判定する。なお、前記ピッチ角平均値DAVE は、予め設定した値が初期値として設定され、以後、後述のステップS9の処理で更新されるようになっている。
【0045】
そして、ノーズダイブ状態であると判定されたときには、ノーズダイブカウンタCNDを“1”だけインクリメントし、ノーズダイブ状態でないと判定されたとき、ノーズダイブカウンタCNDを“0”にリセットする。なお、ノーズダイブカウンタCNDのカウント値は、ノーズダイブの継続時間を表している。
続いて、ステップS7に移行し、ノーズダイブ異常であるかどうかを判定する。この判定は、ノーズダイブカウンタCNDが、しきい値NDCNT0よりも大きいかどうかに基づいて行い、CND>NDCNT0であるとき、ノーズダイブ異常であると判定する。
【0046】
なお、前記しきい値NDCNT0は、通常走行している際に、ノーズダイブが継続する時間に応じて設定され、例えば車両のピッチング特性に基づいて設定される。具体的には、まず、ピッチ角データをオフラインで計測し、ピッチ角データの時系列{p1,p2,p3,…,pn}を得る。
この時系列に対し、その平均値をオフセット量として減算し、オフセット量を除去した時系列{pz1,pz2,pz3,…,pzn}を得る。この値が、正値であれば“1”、零を含む負値であれば“0”とする。
【0047】
そして、同じ値が連続する回数をカウントする。例えば、オフセット量を除去した時系列{pz1,pz2,pz3,…,pzn}が{1,1,0,0,0,1,1,1,1}である場合には、{2,3,4}となる。
これらの平均を算出し、これをピッチ角平均値DAVE とする。前述の場合には、(2+3+4)/3=3となる。
【0048】
このようにして、ノーズダイブ異常であるか否かを判定し、ノーズダイブ異常であると判定された場合には、ステップS8に移行する。
このステップS8では、例外処理フラグFをF=1に設定すると共に、道路パラメータ異常時の処理を行う。この道路パラメータ異常時の処理は、例えば、メモリ3の所定の記憶領域に格納した道路パラメータを初期値にリセットしたり、また、メモリ3に記憶している道路パラメータに基づいて所定の処理を行っている上位プログラムに対し、道路パラメータが異常となったことの通知等を行う。そして、ステップS10に移行する。
【0049】
一方、前記ステップS7で、ノーズダイブ異常でないと判定された場合には、ステップS9に移行し、ピッチ角平均値DAVE の更新を行う。ノーズダイブ異常と判定されるときのピッチ角Dは、推定誤差が含まれる可能性があるためノーズダイブ異常でないと判定されるときの、ピッチ角Dに基づいてピッチ角平均値DAVE を算出する。
【0050】
ここで、通常、ピッチ角は平均値を中心に往復運動している。この往復運動の周期は予めオフラインで計測し検出しておく。なお、前記しきい値NDCNT0は、前記往復運動の半周期、つまり、ノーズダイブが継続する時間に相当する値に設定される。
そして、ピッチ角の往復運動周期の半周期を基準として、その偶数倍の区間におけるピッチ角の平均値を算出する。なお、精度を上げるために偶数倍する偶数値を大きくしてもよいが、平均値の算出区間が長くなるほど、平均値算出に時間がかかるため、これを考慮して算出区間を設定する。
【0051】
そして、平均値の算出区間内の各サンプリング時におけるピッチ角に基づいてその平均値を算出する。
なお、ピッチ角の往復運動周期の半周期の区間では出力が変化しないようなローパスフィルタを用いて平均値を算出するようにしてもよい。
ここで、ピッチ角は車両乗車人数により変化し、また、工場出荷時のばらつきも存在する。予めプログラムで定数化しておくと、真のピッチ角平均値とのずれが生じることになって、ノーズダイブ異常の判断の際に誤判断を引き起こすことになる。しかしながら、このようにピッチ角平均値DAVE の更新を行うことによって、ノーズダイブ異常をより確実に検出することができることになる。
【0052】
このようにして、ピッチ角平均値DAVE を更新すると、処理を終了する。
一方、前記ステップS10では、再度ウィンドウの設定を行う。このウィンドウは、例外処理専用のウィンドウサイズを用意し、初期探索しやすいようにウィンドウを設定するようにしてもよく、また、ステップS3と同様のウィンドウサイズとし、ステップS3と同様にしてウィンドウを設定するようにしてもよい。
【0053】
続いて、ステップS11に移行し、上記ステップS4の処理と同様にして白線候補点Lの算出を行い、次いでステップS12に移行して、上記ステップS5の処理と同様にして道路パラメータの推定を行う。
そして、ステップS13に移行し、例外処理を終了するかどうかの判断を行う。この判断は、ステップS11で得ることができた白線候補点Lの個数が所定値以上であり、且つ、ステップS12で推定される道路パラメータが全て適正値に納まったとき、例外処理を終了すると判断する。前記白線候補点Lの個数を所定値以上とする理由は、道路パラメータは白線候補点Lが検出されないと真値には、収束しないためである。
【0054】
そして、ステップS13で、例外処理を終了すると判断された場合には、ステップS14に移行し、例外処理フラグFをF=0にリセットする。
一方、例外処理を終了すると判断されない場合にはそのまま処理を終了する。なお、道路パラメータの真値への収束時間を見込んで、ステップS13の処理で前記条件を所定時間継続して満足する場合に、例外処理フラグFをリセットするようにしてもよい。
【0055】
次に、上記第1の実施の形態の動作を説明する。
カメラ1で撮像された画像情報は、画像処理装置2に入力され、ここで所定の処理が行われ、1フレーム毎の画像データとして、制御コントローラ4に出力される。
制御コントローラ4では、所定周期で画像データを読み込み、このとき、例外処理フラグFがF=0に設定されているものとすると、ステップS3に移行し、画像データに対し、図4に示すようにウィンドウを設定する。そして、各ウィンドウ毎に白線候補点Lの座標を求め(ステップS4)、これに基づいて道路パラメータを推定する(ステップS5)。
【0056】
そして、推定した道路パラメータのうちのピッチ角に基づき、ノーズダイブ状態であるかどうかを判定し、ピッチ角Dからピッチ角平均値DAVE を減算したピッチ角偏差が正値のときにノーズダイブカウンタをインクリメントし、ピッチ角偏差が負値となったときに、ノーズダイブカウンタCNDをリセットする。
ここで、車両が自車両の走行車線の両側の白線を検出している場合には、ピッチ角は平均値を中心として所定周期で往復運動をするから、図8に示すように、推定したピッチ角も、同様に、平均値を中心として往復運動をすることになる。したがって、ノーズダイブカウンタCNDのカウント値は、しきい値NDCNT0を超える前にリセットされることになって、しきい値を超えることはない。よって、ステップS7の処理で、ノーズダイブ異常ではないと判定され、ステップS9に移行して、ピッチ角平均値DAVE の更新が行われる。
【0057】
これによって、現在の車両乗車人数、車両諸元に応じたピッチ角平均値DAVE が設定されることになって、ピッチ角平均値DAVE が的確ではないことに起因して、ノーズダイブ異常の判定が的確に行われなくなることが回避される。
この状態から、図20に示すように、車両が分流部に進入し、道路白線の左側の白線のかすれ等に起因して、ステップS4での白線候補点座標算出処理において、誤って分流誘導線を左白線として認識してしまうと、これに基づいて推定される道路パラメータは誤った推定が行われ、推定されるピッチ角は、真のピッチ角よりも大きくなってしまう(ステップS5)。
【0058】
このため、図8に示すように、ピッチ角の振幅の中心がピッチ角平均値DAVE からずれることになり、ピッチ角Dがピッチ角平均値DAVE を超えた状態が継続する。これに伴って、ノーズダイブカウンタCNDのカウント値が増加し、やがてしきい値NDCNT0を超えると、ステップS7の処理でノーズダイブ異常と判定されて、ステップS8に移行し、例外処理フラグFがF=1にセットされ、また、推定されメモリ3に格納した道路パラメータをリセットしたり、また、上位プログラムに対し、道路パラメータが異常であることを通知する等の道路パラメータ異常時の処理が行われる。
【0059】
これによって、推定した道路パラメータに基づいて所定の処理を行っている上位プログラムにおいては、処理の中止、或いは処理の固定等の処置を行い、誤った道路パラメータに基づいての処理の継続を中止する等といった、道路パラメータ異常時の処理を行う。
そして、画像データに対し、再度ウィンドウが設定され(ステップS10)各ウィンドウ毎に白線候補点が算出され(ステップS11)、これに基づいて再度道路パラメータが算出される(ステップS12)。そして、白線候補点Lとして得ることのできた位置座標が所定数以上ない場合、或いは、推定した道路パラメータが全て適正値に納まっていない場合には、分流誘導線を誤検出している可能性があるとして、例外処理終了と判断せずそのまま処理を終了する。
【0060】
そして、次の処理周期では、画像データを取得した後、ステップS2の処理で例外処理フラグFがF=1に設定されていることから、ステップS10に移行し、上記と同様に、ウィンドウを設定し白線候補点座標の算出を行い、これに基づいて道路パラメータの推定を行う。そして、白線候補点Lとして得ることができた位置座標が所定値以上であり、且つ推定した道路パラメータが全て適正値に納まったとき、つまり走行車線の左白線を検出することができたとみなすことができるとき、ステップS13からステップS14に移行し、例外処理フラグFをF=0にリセットする。これによって、上位プログラムでは、道路パラメータの推定が正常に行われるようになったことを認識することができ、道路パラメータに基づく処理を再開する。
【0061】
図9は、ピッチ角Dからピッチ角平均値DAVE を減算したピッチ角偏差を表したものである。時点tで分流誘導線を誤認識した場合、ピッチ角Dは徐々に増加し、時点tでピッチ角平均値DAVE を超えてから、ピッチ角Dの往復運動周期の半周期Tが経過した時点tの時点では引き続きピッチ角平均値DAVE よりも大きい状態を維持する。そして、ノーズダイブカウンタCNDが継続してカウントアップされ、ノーズダイブカウンタCNDがしきい値を超えた時点tで、異常として判断される。
【0062】
これに対し、ピッチ角Dがしきい値を超えたときに異常と判断するようにした場合には、図9に示すように、ピッチ角Dのピッチ角平均値DAVE に対する変位は往復運動を繰り返しながら、徐々に増加し、時点tでピッチ角がしきい値を超えたときに、異常と判定されることになる。
このように、ピッチ角Dのピッチ角平均値DAVE に対する変位の往復運動周期に基づいて道路パラメータ異常、つまり、白線検出異常を検出するようにしたから、ピッチ角Dの往復運動周期の半周期Tと誤判断しないための余裕時間Δとを加算したT+Δの時間で異常を検出することができ、従来に比較して、異常検出までに要する所要時間を大幅に短縮することができる。
【0063】
また、図10に示すように、分流誘導線の分流角が小さい場合には、ピッチ角Dのピッチ角平均値DAVE に対する変位がしきい値に到達するまでの所要時間は、図9に示す分流角が比較的大きい場合に比較して、より大きくなる。
しかしながら、ピッチ角偏差の往復運動周期に基づいて白線検出異常を検出するようにしているから、この場合も分流角が大きい場合と同様に、ピッチ角Dの往復運動周期の半周期Tに相当する所要時間で、誤認識判断を行うことができ、分流角の大きさに関わらず、確実に且つ速やかに誤認識判断を行うことができる。
【0064】
なお、上記第1の実施の形態において、前後加速度によるピッチ角Dの補正を行うようにしてもよい。
つまり、前後加速度が発生すると、推定されるピッチ角Dは、図11に示すように、その往復運動の中心が変動する。このため、この変動分を含んで白線検出異常の検出を行うと誤判断する場合がある。
【0065】
したがって、例えば、図12に示すように、前後加速度Gとピッチ角との関係を予め検出しておき、車両の前後加速度を検出するための前後加速度検出手段(例えば前後加速度センサ)を設け、車両の発生する前後加速度Gに応じた、ピッチ角想定値を前記図12から求める。そして、この求めたピッチ角想定値をピッチ角から減算し、推定したピッチ角Dをピッチ角想定値だけオフセットしたピッチ角D′に基づいて、白線検出異常の検出を行う。
【0066】
図13は、前後加速度Gと、ピッチ角Dをピッチ角想定値だけオフセットしたピッチ角D′との対応を表したものである。図13に示すように、ピッチ角D′は、前後加速度Gが増加した時点で多少過渡応答の影響が現れるものの、その平均値を基準として往復運動をしている。したがって、オフセットしたピッチ角D′を用いることによって、上記と同様に異常検出を行うことができると共に、前後加速度Gに起因する誤判断を回避することができる。
【0067】
また、例えば、車両の前後加速度を検出する前後加速度検出手段を設け、この前後加速度検出手段によって前後加速度Gを検出し、この前後加速度Gに応じたピッチ角想定値を前記図12から求め、求めたピッチ角想定値から前後加速度Gが零の場合のピッチ角想定値を減算した値をオフセット量とし、これを、ピッチ角平均値DAVE に加算した値を新たなピッチ角平均値DAVE として白線検出異常の検出を行うようにしてもよい。このようにすることによって、ピッチ角の変化は車両乗員人数の変化に影響されないから、車両乗車人数の変化等によるピッチ角の定常値のずれを考慮する必要がない。
【0068】
なお、上記第1の実施の形態においては、ピッチ角Dからピッチ角平均値DAVE を減算したピッチ角偏差が正値であるときの継続時間に基づいて白線検出異常を検出するようにした場合について説明したが、逆に、ピッチ角Dからピッチ角平均値DAVE を減算したピッチ角偏差が負値であるときの継続時間に基づいて白線検出異常を検出するようにすることも可能であり、この場合も上記第1の実施の形態と同等の作用効果を得ることができる。
【0069】
ここで、カメラ1が撮像手段に対応し、図3のステップS4の処理が白線検出手段に対応し、ステップS5の処理がパラメータ推定手段に対応し、ステップS6及びステップS7の処理が異常検出手段に対応している。
次に、本発明の第2の実施の形態を説明する。
この第2の実施の形態は、上記第1の実施の形態において、図3の道路白線検出処理の処理手順が異なること以外は同様であるので、同一部には、同一符号を付与し、その詳細な説明は省略する。
【0070】
第2の実施の形態においては、図14に示すフローチャートに基づいて道路白線検出処理を行う。
上記第1の実施の形態と同様に、まず、ステップS1で画像データを取得し、ステップS2で、例外処理フラグFがF=0であるか否かを判定し、例外処理フラグFがF=0であるときにはステップS3に移行し、例外処理フラグFがF=0でないときには、後述のステップS10aに移行する。そして、ステップS3でウィンドウを設定し、ステップS4で白線候補点Lを検出した後、ステップS4aに移行し、実線破線判断処理を行う(破線検出手段)。
【0071】
この実線破線判断処理は、白線候補点Lに基づいて、左白線及び右白線のそれぞれについて行う。まず、左白線についての判断は、左側の各ウィンドウ毎の白線候補点LのX位置座標の配列{XL、XL、……}の中で、その位置座標が零でないものの個数Nがしきい値以上であるとき、実線と判断し、個数Nがしきい値よりも小さいとき破線と判断する。
【0072】
なお、各ウィンドウ毎の個数Nに対しローパスフィルタ処理を施したフィルタ値LPF(N)を算出し、このフィルタ値LPF(N)が、しきい値以上であるときに、実線と判断するようにしてもよい。この場合、実線及び破線の切り替わり時の応答が遅れるが、瞬間的に白線候補点を検出することができなかった場合でも、安定して実線及び破線判断を行うことができる。
【0073】
そして、実線破線判断の結果、実線であると判断した場合には、実線フラグFLjをFLj=1に設定し、破線であると判断した場合には、実線フラグをFLj=0に設定する。
同様に、右白線の場合には、右側の各ウィンドウ毎の白線候補点LのX位置座標の配列{XR、XR、……}の中で、その位置座標が零でないものの個数Nがしきい値以上であるとき、実線と判断し、個数Nがしきい値よりも小さいとき破線と判断する。
【0074】
この場合も左白線の場合と同様に、各ウィンドウ毎の個数Nに対しローパスフィルタ処理を施したフィルタ値LPF(N)を算出し、このフィルタ値LPF(N)に基づいて、判断するようにしてもよい。
そして、実線破線判断の結果、実線であると判断した場合には、実線フラグFRjをFRj=1に設定し、破線であると判断した場合には、実線フラグをFRj=0に設定する。
【0075】
このようにして実線破線判断処理が終了すると、ステップS4aからステップS5に移行し、上記第1の実施の形態と同様にして道路パラメータの推定を行い、続いてステップS6に移行してノーズダイブカウンタの更新を行い、ノーズダイブ異常であるときにはステップS7からステップS9に移行して上記第1の実施の形態と同様にピッチ角平均値の更新処理を行い、ノーズダイブ異常である場合にはステップS8に移行して例外処理フラグをF=1にセットする。そして、ステップS10aに移行する。
【0076】
このステップS10aでは、ウィンドウ設定を行う。この場合、基本的な処理はステップS3と同様であるが、実線フラグFLj及びFRjを参照し、何れか一方が破線で一方が実線である場合には、例外処理フラグFがF=1に設定された後、所定時間、破線側の白線についてのみウィンドウを設定し、両方とも破線、又は両方とも実線である場合には、左右両ウィンドウを設定する。なお、前記破線側の白線についてのみウィンドウを設定する所定時間は、分流部において分流誘導路を一方の白線として誤認識する可能性のある区間を走行する際の所要時間に応じて設定される。
【0077】
そして、ステップS11aに移行し、ステップS10aで設定されたウィンドウに対し、白線候補点Lの検出を行う。つまり、破線側の白線についてのみウィンドウが設定されている場合には、このウィンドウについてのみ白線候補点Lの算出を行う。
次いで、ステップS12aに移行し、ステップS11aで算出された白線交点座標Lに基づいて、上記第1の実施の形態と同様に道路パラメータの推定を行う。ただし、ステップS10aの処理で、破線側についてのみウィンドウが設定されている場合には、片側のみなので、基本的にはカメラ高さHが求まらないが、例えばカメラ高さHを標準値に固定して推定する。この標準値は予め工場出荷時に設定してもよく、また、走行中に補正するようにしてもよい。
【0078】
走行中にカメラ高さの標準値を補正する場合には、上記第1の実施の形態において、ピッチ角平均値DAVE を更新する場合と同様に、ノーズダイブ異常でないときのカメラ高さの推定値をもとに、予め検出したカメラ高さの往復運動周期に基づいて平均値を算出するようにすればよい。
前記ステップS10aの処理で、ウィンドウが破線側に限定された場合には、次の手順で道路パラメータを推定する。
【0079】
例えば右白線を破線とした場合には、前記(1)式から、次式(7)が成り立つ。
Figure 0003624867
この(7)式を、道路パラメータA,B,C,Dの線形結合として近似する。例えば、X=fn(A,B,C,D,H、Y)は次式(8)で近似することができる。
【0080】
Figure 0003624867
なお、(4)式中のd(fn)/dZは、関数fnを変数Zで偏微分することを意味する。
したがって、前記(7)式は、次式(9)と表すことができる。
【0081】
Figure 0003624867
したがって、次式(10)を得ることができる。
【0082】
XX=MM*〔A B C D〕 ……(10)
この関係式を上記第1の実施の形態と同様にオブザーバに適用し、道路パラメータ〔A B C D〕を推定する。
そして、所定時間が経過し、破線側によるウィンドウ設定が解除され、道路白線両側にウィンドウが設定された場合には、カメラ高さの固定を解除し、上記第1の実施の形態と同様に、道路パラメータ推定を行う。
【0083】
次いで、ステップS12bに移行し、片側白線についてのみウィンドウの設定を行っている状態であるかどうかを判定する。そして、片側白線についてのみウィンドウの設定を行っている状態でない場合には、ステップS13に移行し、上記第1の実施の形態と同様に、例外処理の終了判断を行い、例外処理を終了するときにはステップS14に移行して例外処理フラグをF=0にリセットした後処理を終了し、例外処理を終了しないときにはそのまま処理を終了する。
【0084】
一方、ステップS12bで、片側白線についてのみウィンドウの設定を行っている状態であると判定される場合には、そのまま処理を終了する。
このように、この第2の実施の形態においては、白線を誤認識した場合には検出した左右の白線が破線であるか実線であるかを判断し、破線側の白線のみを用いて道路推定を行うようにしている。ここで、一般に、分流誘導路と逆側の白線は破線である。したがって、分流誘導路においてこれを走行路の白線として誤認識した場合には、誤認識したことを検出した後、分流誘導路とは逆側の破線について道路パラメータの推定が行われる。誤認識検出後、再度分流誘導路を一方の白線として誤認識した場合であっても、この誤認識した白線の情報は、道路パラメータの推定に用いないから、比較的高精度な道路パラメータを得ることができる。よって、道路パラメータの異常を検出した後には、道路パラメータが一旦リセットされるが、直ちに、片側の白線のみを用いて道路パラメータが推定されるから、上位プログラムでは、この片側の白線のみを用いて推定した道路パラメータに基づいて、所定の処理を再開することができる。
【0085】
また、分流部は所定区間を走行すれば必ず終了するため、その走行時間を考慮し、この走行時間の間は、破線側の白線に基づいてのみ道路パラメータを推定することによって、精度は多少低下するものの、継続して道路パラメータの推定を行い、前述の走行時間が経過した後は、両側の白線に基づいて道路パラメータを推定するように切り換えることによって、推定精度を早期に正常状態にまで復帰させることができる。
【0086】
また、一方の白線のみに基づいて道路パラメータを推定した場合、その精度が低下するが、カメラ高さの近似を行いこれに基づいて推定を行うことによって、精度の低下を抑制することができる。
次に、本発明の第3の実施の形態を説明する。
この第3の実施の形態は、上記第2の実施の形態において、道路白線検出処理の処理手順が異なること以外は同様である。同一部には、同一符号を付与しその詳細な説明は省略する。
【0087】
この第3の実施の形態においては、図15に示すフローチャートに基づいて道路白線検出処理を行う。
そして、上記第2の実施の形態と同様に、まず、ステップS1で画像データを取得し、ステップS2で、例外処理フラグFがF=0であるか否かを判定し、例外処理フラグFがF=0であるときには、ステップS3に移行し、例外処理フラグFがF=0でないときには、後述のステップS10bに移行する。
【0088】
そして、ステップS3〜ステップS6の処理を上記第2の実施の形態と同様に行った後、ステップS7の処理でノーズダイブ異常であるかどうかを判定し、ノーズダイブ異常でないと判定されたときにはステップS9に移行し、上記第2の実施の形態と同様にピッチ角平均値DAVE の更新を行った後、ステップS9aに移行する。
【0089】
このステップS9aでは、カメラ高さの平均値HAVE の更新を行う。まず、カメラ1の高さをH=HAVE +HXと定義する。ただし、HAVE は標準カメラ高さとしてのカメラ高さの平均値であって、予め工場出荷時にセットされている。前記HXは、標準カメラ高さHAVE からの変動分である。HAVE が真値であれば、HXは、零を中心に往復運動をするが、実際には、HAVE はずれている場合が多く、変動分HXは、零ではない値を中心として往復運動をする。この往復運動の周期を予めオフラインで検出しておく。或いは変動分HXの振る舞いから周期を検出するようにしてもよい。
【0090】
そして、往復運動の半周期を基準として、この偶数倍の区間における、カメラ高さHの推定値から、カメラ高さの変動分HXの平均値HXAVE を算出する。なお、区間を特定する偶数値を大きくすれば、平均値の精度は向上するが、その分平均値算出の所要時間が増加するため、これを考慮して偶数値を設定する。
なお、往復運動の半周期の区間では、出力が変化しないようなローパスフィルタを用いて平均値を算出するようにしてもよい。
【0091】
また、カメラ高さHは、両側の白線を認識している状態でないと、確定することができないため、カメラ高さの平均値HAVE の算出は、両側の白線を認識し、且つ、ノーズダイブ異常でないときにのみ行い、高精度な平均値を設定するようにしている。
そして、変動分の平均値HXAVE の更新が所定回数を超えたときに、カメラ高さの平均値HAVE に変動分の平均値HXAVE を加算した値を、新たにカメラ高さの平均値HAVE とする。
【0092】
ここで、標準カメラ高さHAVE は不変とみなすことができるから、変動分HXは零を中心に往復変動するとみなすことができる。
なお、この更新処理は、ステップS14の処理で例外処理フラグFをF=0にリセットした後に一度行うようにしてもよく、また、例外処理フラグFがF=0であるときに、定期的に行うようにしてもよい。
【0093】
一方、前記ステップS7の処理で、ノーズダイブ異常である場合には、ステップS8aに移行する。
このステップS8aでは、上記第2の実施の形態と同様に、例外処理フラグFをF=1にセットするが、メモリ3に記憶している道路パラメータのリセットは行わない。
【0094】
そして、ステップS10bに移行し、ウィンドウの設定を行う。このウィンドウの設定は、基本的には上記第2の実施の形態と同様に、検出した白線の一方が破線、他方が実線である場合には、ステップS8aの処理で例外処理フラグFをF=1に設定した後所定時間は、破線側のみにウィンドウを設定する。このとき、道路白線を再探索するのではないため、ステップS3と同様のウィンドウサイズのウィンドウを設定する。
【0095】
次いで、ステップS11bに移行して、ステップS10bで設定したウィンドウについて、白線候補点Lを算出し、ステップS12cに移行して道路パラメータを推定する。
この道路パラメータの推定は、カメラ高さHを、変動分HX+定数HAVE (HAVE はカメラ1の高さの平均値)とし、変動分HXの振る舞いを一次系で近似して行う。なお、破線側によるウィンドウ設定が解除され、道路白線両側にウィンドウが設定された場合には、高さ固定を解除し、上記第1の実施の形態と同様に、道路パラメータ推定を行う。
【0096】
上記第2の実施の形態と同様に、前記(1)式から、次式(11)が成り立つ。
Figure 0003624867
この(11)式を、道路パラメータA,B,C,D,HXの線形結合として近似する。例えば、X=fn(A,B,C,D,HX、Y)は次式(12)で近似することができる。
【0097】
Figure 0003624867
したがって、前記(12)式は、次式(13)と表すことができる。
Figure 0003624867
したがって、次式(14)を得ることができる。
【0098】
XX=MM*〔A B C D HX〕 ……(14)
この(14)式はオブザーバの出力方程式に相当する。
ここで、片側白線であるため、推定されるカメラ高さの変動分HXは、多少精度が劣化する可能性がある。しかしながら、単純に考えると高さがkx倍になったとしても、長さの単位をもつパラメータが全てkx倍(長さの自乗ならば(kx))になれば、静的な矛盾は生じないが、パラメータの過去のつながりを考えるとデータが不連続となったりして矛盾が生じる。しかしながら、オブザーバは、観測データのみではなく、過去の情報を踏まえて推定を行うため、静的には解けない場面であっても解を出力することができる。
【0099】
前記パラメータHXを含む道路パラメータの推定は次の手順で行う。まず、カメラ高さの変動分HXを、公知の白色ノイズで駆動される一次系でモデル化する。次式(15)となる。
d(HX)/dt=−HX/theta+nyuHX ……(15)
thetaは一次遅れ時定数、nyuHXは白色雑音を表す。
【0100】
道路パラメータをベクトルZZで表すと、ZZ=〔A B C D HX〕となる。
ベクトルZZの振る舞いを次式(16)の状態方程式で表す。
dZZ/dt=Am*Z+Bm*u+Gm*w ……(16)
なお、式中のZZ,u,wはベクトルを表し、Am、Bm、Gmは、マトリクスを表す。また、uは、制御入力であり、wはプロセスノイズである。道路パラメータA、B、C、Dのモデル化はここでは規定しないが、モデル化によっては、Bmを省略することができる。例として、道路パラメータA、B、C、Dを互いに無相関なランダムウォークモデルで表現すると、前記Am、Bm、Gmは、次式(17)となる。また、制御入力uは零、プロセスノイズwは次式(18)となる。
【0101】
【数1】
Figure 0003624867
【0102】
【数2】
Figure 0003624867
【0103】
前記(14)式の出力方程式及び(16)式の状態方程式とに基づいて、図16に示すオブザーバが構成される。図16中、Keはオブザーバゲインであって、プロセスノイズwと観測ノイズ等との大きさに基づいて設定される。例えばカルマンフィルタ等がある。
そして、前記オブザーバにしたがって、道路パラメータ〔A B C D HX〕を推定する。
【0104】
そして、このようにして道路パラメータを推定した後、ステップS13に移行し、例外処理を終了すると判定したときにステップS14に移行し、例外処理フラグFをF=0にリセットし、処理を終了する。
したがって、この第3の実施の形態においては、分流路等において白線が誤認識しされ、この後認識が検出される、ステップS7からステップS8aに移行し、例外処理フラグFがF=1に設定される。このとき、道路パラメータのリセットは行われない。そして、ステップS10b、S11bを経てS12cに移行し、以後、所定時間、片側の白線のみに基づいて道路パラメータの推定が行われる。
【0105】
例えば左側に分流路がある場合には、左白線は用いず、右側の白線のみに基づいてパラメータの推定が行われる。ピッチ角の往復運動周期に基づいて白線検出異常の検出を行っているので、異常検出は従来に比較して早くなるものの、異常検出直後に推定誤差が生じる可能性がある。すなわち、単眼カメラでは片側白線のみによっては、カメラ高さを静的に決定することができない。
【0106】
しかしながら、上記第3の実施の形態においては、図16に示す構成のオブザーバを用いて道路パラメータの推定を行っている。つまり、観測値XX、すなわち白線候補点におけるカメラ高さの変動分HXの推定値の補正フィードバックは小さい。これは静的には、カメラ高さを推定することができないことに起因している。逆にいえば、変動分HXは予め想定したモデルによる駆動が主となることを意味している。
【0107】
上記第3の実施の形態においては、変動分HXを白色ノイズで駆動される一次遅れモデル等の安定系で記述するようにしているから、変動分HXは誤差を含む値から誤差を含まない値に合理的な速度で収束するようになる。その結果、真値へのなめらかな復帰を実現することができ、誤推定から正常推定への連続性のある復帰を実現することができる。
【0108】
次に、本発明の第4の実施の形態を説明する。
この第4の実施の形態は、推定されるカメラ高さに基づいて白線検出異常を検出するようにしたものである。つまり、推定されるカメラ高さの定性的性質と、推定されるピッチ角の定性的特性とは同じであるため、ピッチ角に替えてカメラ高さに基づいて、道路パラメータの異常を検出している。
【0109】
したがって、上記第1の実施の形態において、道路白線検出処理の処理手順が異なること以外は同様であるので、同一部には同一符号を付与し、その詳細な説明は省略する。
この第4の実施の形態においては、図17に示すフローチャートに基づいて道路白線検出処理を行っている。
【0110】
図17に示すように、上記第1の実施の形態と同様に、ステップS1からステップS5の処理を行うが、ステップS5で道路パラメータの推定処理を行った後、ステップS6aに移行し、バウンドカウンタの更新処理を行う。具体的には、、ステップS5で推定したカメラ高さHと、カメラ高さの平均値HAVE との偏差が正値、つまり、カメラ高さH−カメラ高さの平均値HAVE が正値であるときには、バウンドカウンタをCBDを“1”だけインクリメントし、カメラ高さH−カメラ高さの平均値HAVE が負値であるときには、バウンドカウンタをCBDを“0”にリセットする。
【0111】
なお、バウンドカウンタCBDのカウント値は、バウンドの継続時間を表している。また、前記カメラ高さの平均値HAVE は、初期値として予め検出された値が設定され、後述のステップS9bの処理で更新されるようになっている。
なお、ここでは、カメラ高さHがカメラ高さの平均値HAVE を上回る継続時間を計測するようにしているが、逆に、カメラ高さがカメラ高さの平均値HAVE を下回る継続時間を計測するようにしてもよい。
【0112】
続いて、ステップS7aに移行し、バウンド異常であるかどうかを判定する。この判定は、バウンドカウンタCBDが、しきい値BDCNT0よりも大きいかどうかに基づいて行い、CBD>BDCNT0であるとき、バウンド異常であると判定する。なお、前記しきい値BDCNT0は、上記第1の実施の形態におけるしきい値NDCNT0の設定方法と同様に、通常走行している際に、一方の側にバウンドしている継続時間に応じて設定され、例えば車両のバウンド特性に基づいて設定される。具体的には、まず、カメラ高さをオフラインで計測し、カメラ高さの時系列{h1,h2,h3,…,hn}を得る。
【0113】
この時系列に対し、その平均値をオフセット量として減算し、オフセット量を除去した時系列{hz1,hz2,hz3,…,hzn}を得る。この値が、正値であれば“1”、零を含む負値であれば“0”とする。
そして、同じ値が連続する回数をカウントする。そして、これらの平均を算出し、これをカメラ高さの平均値HAVE とする。
【0114】
このようにして、バウンド異常であるか否かを判定し、バウンド異常であると判定された場合には、ステップS8に移行し以後、上記第1の実施の形態と同様に処理を行う。一方、バウンド異常でないと判定された場合には、ステップS9aに移行し、前記第3の実施の形態におけるステップS9aの処理と同様にして、カメラ高さの平均値HAVE を算出する。
【0115】
したがって、この第4の実施の形態においても、上記第1の実施の形態と同等の作用効果を得ることができる。
なお、上記第4の実施の形態においては、上記第1の実施の形態において、ピッチ角に替えてカメラ高さに基づいて道路パラメータの推定異常を検出するようにした場合について説明したが、上記第2の実施の形態及び第3の実施の形態に適用することもできる。図18は、前記第2の実施の形態において、ピッチ角に替えてカメラ高さに基づいて道路パラメータの異常を検出するようにした場合の道路白線検出処理の処理手順の一例を示すフローチャートであり、図19は、前記第3の実施の形態において、ピッチ角に替えてカメラ高さに基づいて道路パラメータの異常を検出するようにした場合の道路白線検出処理の処理手順の一例を示すフローチャートである。
【0116】
図18及び図19に示すように、前記第2及び第3の実施の形態に適用した場合であっても、上記第2及び第3の実施の形態と同等の作用効果を得ることができる。また、第3の実施の形態に適用した場合には、ピッチ角平均値に替えてカメラ高さを用いているから、図15のステップS9におけるピッチ角平均値の更新処理を行う必要がない。したがって、処理ステップがその分少なくなるから、その分演算時間の短縮を図ることができる。
【0117】
なお、上記第1から第4の実施の形態においては、車線幅Eを固定値として定式化した場合について説明したが、これに替えて、カメラ高さHを固定し車線幅Eを変数として定式化するようにしてもよく、このようにした場合には、誤認識時には、車線幅Eが変化するから、カメラ高さHに替えて車線幅Eに基づいて上述のように処理を行うことによって、上記各実施の形態と同等の作用効果を得ることができる。なお、上記第3の実施の形態の場合には、車線幅Eを、変動分EX+定数EAVE (EAVE は推定される車線幅の平均値)とし、車線幅の変動分EXの振る舞いを一次系で近似するようにすればよく、また、推定される車線幅Eの平均値は、カメラ高さHの平均値HAVE を算出する場合と同様に行えばよい。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態を示す概略構成図である。
【図2】カメラの取付位置を示す説明図である。
【図3】第1の実施の形態における道路白線検出処理の処理手順の一例を示すフローチャートである。
【図4】ウィンドウの設定位置を示す説明図である。
【図5】エッジ候補点の説明に供する説明図である。
【図6】白線候補線の説明に供する説明図である。
【図7】白線候補点Lの説明に供する説明図である。
【図8】ピッチ角平均値に対するピッチ角の変位を示すタイミングチャートである。
【図9】第1の実施の形態の動作説明に供するタイミングチャートである。
【図10】第1の実施の形態の動作説明に供するタイミングチャートである。
【図11】前後加速度に対するピッチ角変動を示すタイミングチャートである。
【図12】前後加速度とピッチ角との対応を示す特性図である。
【図13】前後加速度が変化した場合のピッチ角の変化を表すタイミングチャートである。
【図14】本発明の第2の実施の形態における道路白線検出処理の処理手順の一例を示すフローチャートである。
【図15】本発明の第3の実施の形態における道路白線検出処理の処理手順の一例を示すフローチャートである。
【図16】第3の実施の形態で用いたオブザーバの一例を示すブロック図である。
【図17】本発明の第4の実施の形態における道路白線検出処理の処理手順の一例を示すフローチャートである。
【図18】第4の実施の形態における道路白線検出処理のその他の処理手順の一例を示すフローチャートである。
【図19】第4の実施の形態における道路白線検出処理のその他の処理手順の一例を示すフローチャートである。
【図20】従来の動作説明に供する説明図である。
【図21】従来の動作説明に供する説明図である。
【符号の説明】
1 カメラ
2 画像処理装置
3 メモリ
4 制御コントローラ

Claims (6)

  1. 車両周囲の画像を撮像する撮像手段と、
    当該撮像手段の撮像画像を処理して道路上の白線を検出する白線検出手段と、
    当該白線検出手段での白線検出結果に基づいて路面形状及び路面に対する車両の相対位置関係の少なくとも何れか一方を表すパラメータを推定するパラメータ推定手段と、
    当該パラメータ推定手段で推定した推定値の、基準値に対する変位の符号が、所定時間同一であるときに前記白線検出手段での白線検出異常と判断する異常検出手段と、を備えることを特徴とする道路白線認識装置。
  2. 前記パラメータ推定手段は、自車両のピッチ角、前記撮像手段の高さ及び走行路の車線幅のうちの少なくとも何れか一つを前記パラメータとして推定するようになっていることを特徴とする請求項1記載の道路白線認識装置。
  3. 自車両の前後加速度を検出する前後加速度検出手段を備え、
    前記異常検出手段は、前記パラメータ推定手段で推定する推定値の、前記前後加速度検出手段で検出した前後加速度に応じて生じると予測される変化量を検出し、検出した前後加速度相当変化量に基づいて前記基準値をオフセットするようになっていることを特徴とする請求項1又は2記載の道路白線認識装置。
  4. 前記白線検出手段で検出した道路白線が実線であるか破線であるかを検出する破線検出手段を有し、
    前記パラメータ推定手段は、前記異常検出手段で前記白線検出異常を検出し、且つ前記破線検出手段での検出結果に基づき、道路上の左右の道路白線として検出された道路白線のうち一方のみが破線であると判定されるときには、前記白線検出異常を検出した後所定時間は、破線の道路白線のみを用いて前記パラメータを推定するようになっていることを特徴とする請求項1乃至3の何れかに記載の道路白線認識装置。
  5. 前記撮像手段は単眼カメラであって、前記パラメータ推定手段は、前記撮像手段高さを当該撮像手段高さの平均値とオフセット量との和とし且つ前記オフセット量を安定系で近似して前記撮像手段高さを推定するようになっていることを特徴とする請求項1乃至4の何れかに記載の道路白線認識装置。
  6. 前記撮像手段は単眼カメラであって、前記パラメータ推定手段は、走行路の車線幅を当該車線幅の平均値とオフセット量との和とし且つ前記オフセット量を安定系で近似して前記車線幅を推定するようになっていることを特徴とする請求項1乃至4の何れかに記載の道路白線認識装置。
JP2001258721A 2001-08-28 2001-08-28 道路白線認識装置 Expired - Fee Related JP3624867B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001258721A JP3624867B2 (ja) 2001-08-28 2001-08-28 道路白線認識装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001258721A JP3624867B2 (ja) 2001-08-28 2001-08-28 道路白線認識装置

Publications (2)

Publication Number Publication Date
JP2003065715A JP2003065715A (ja) 2003-03-05
JP3624867B2 true JP3624867B2 (ja) 2005-03-02

Family

ID=19086191

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001258721A Expired - Fee Related JP3624867B2 (ja) 2001-08-28 2001-08-28 道路白線認識装置

Country Status (1)

Country Link
JP (1) JP3624867B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8643723B2 (en) 2010-02-22 2014-02-04 Denso Corporation Lane-marker recognition system with improved recognition-performance

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5760523B2 (ja) * 2011-03-08 2015-08-12 株式会社豊田中央研究所 走路推定装置及びプログラム
JP6134276B2 (ja) 2014-03-03 2017-05-24 株式会社Soken 走行区画線認識装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8643723B2 (en) 2010-02-22 2014-02-04 Denso Corporation Lane-marker recognition system with improved recognition-performance

Also Published As

Publication number Publication date
JP2003065715A (ja) 2003-03-05

Similar Documents

Publication Publication Date Title
US9934442B2 (en) Passenger counting device, passenger counting method, and program recording medium
JP3780922B2 (ja) 道路白線認識装置
JP4776587B2 (ja) 画像処理装置,運転支援装置
US8687896B2 (en) Picture image processor, method for processing picture image and method for processing picture image
US7262710B2 (en) Collision time estimation apparatus for vehicles, collision time estimation method for vehicles, collision alarm apparatus for vehicles, and collision alarm method for vehicles
JP4793324B2 (ja) 車両監視装置および車両監視方法
EP3430594B1 (en) Method for motion estimation between two images of an environmental region of a motor vehicle, computing device, driver assistance system as well as motor vehicle
CN110555362B (zh) 物体识别装置
EP2422320A1 (en) Object detection device
CN109753841B (zh) 车道线识别方法和装置
US11151395B2 (en) Roadside object detection device, roadside object detection method, and roadside object detection system
JP7212486B2 (ja) 位置推定装置
US20220331912A1 (en) Automatic welding system, automatic welding method, welding assistance device, and program
EP2770478A2 (en) Image processing unit, imaging device, and vehicle control system and program
JP2019003606A (ja) 地図変化点検出装置
KR20220001498A (ko) 자동차의 환경에서 타겟 자동차의 궤적을 예측하기 위한 방법 및 시스템
EP1820020B1 (en) Apparatus and method for detecting objects
JP2020060550A (ja) 異常検出装置、異常検出方法、姿勢推定装置、および、移動体制御システム
JP2017034623A (ja) ピッチ角推定装置
JP2005214914A (ja) 移動速度検出装置および移動速度検出方法
JP3624867B2 (ja) 道路白線認識装置
JP4502733B2 (ja) 障害物測定方法及び障害物測定装置
JP2003067755A (ja) 道路白線認識装置
JP2008160635A (ja) カメラ状態検出方法
JP4069919B2 (ja) 衝突判定装置、および方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040506

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040810

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041006

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041122

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081210

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091210

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101210

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111210

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121210

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121210

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131210

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees