JP2002109695A - 車両の走行路認識装置 - Google Patents

車両の走行路認識装置

Info

Publication number
JP2002109695A
JP2002109695A JP2000302709A JP2000302709A JP2002109695A JP 2002109695 A JP2002109695 A JP 2002109695A JP 2000302709 A JP2000302709 A JP 2000302709A JP 2000302709 A JP2000302709 A JP 2000302709A JP 2002109695 A JP2002109695 A JP 2002109695A
Authority
JP
Japan
Prior art keywords
vehicle
road
lane marker
state quantity
model parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000302709A
Other languages
English (en)
Other versions
JP3521860B2 (ja
Inventor
Ryota Shirato
良太 白▲土▼
Hiroshi Mori
宏 毛利
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=18784018&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP2002109695(A) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2000302709A priority Critical patent/JP3521860B2/ja
Priority to EP01307656A priority patent/EP1193661B2/en
Priority to DE60102195T priority patent/DE60102195T3/de
Priority to US09/951,499 priority patent/US6823241B2/en
Publication of JP2002109695A publication Critical patent/JP2002109695A/ja
Application granted granted Critical
Publication of JP3521860B2 publication Critical patent/JP3521860B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60TVEHICLE BRAKE CONTROL SYSTEMS OR PARTS THEREOF; BRAKE CONTROL SYSTEMS OR PARTS THEREOF, IN GENERAL; ARRANGEMENT OF BRAKING ELEMENTS ON VEHICLES IN GENERAL; PORTABLE DEVICES FOR PREVENTING UNWANTED MOVEMENT OF VEHICLES; VEHICLE MODIFICATIONS TO FACILITATE COOLING OF BRAKES
    • B60T2201/00Particular use of vehicle brake systems; Special systems using also the brakes; Special software modules within the brake system controller
    • B60T2201/08Lane monitoring; Lane Keeping Systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60TVEHICLE BRAKE CONTROL SYSTEMS OR PARTS THEREOF; BRAKE CONTROL SYSTEMS OR PARTS THEREOF, IN GENERAL; ARRANGEMENT OF BRAKING ELEMENTS ON VEHICLES IN GENERAL; PORTABLE DEVICES FOR PREVENTING UNWANTED MOVEMENT OF VEHICLES; VEHICLE MODIFICATIONS TO FACILITATE COOLING OF BRAKES
    • B60T2201/00Particular use of vehicle brake systems; Special systems using also the brakes; Special software modules within the brake system controller
    • B60T2201/08Lane monitoring; Lane Keeping Systems
    • B60T2201/089Lane monitoring; Lane Keeping Systems using optical detection

Abstract

(57)【要約】 【課題】ノイズがあっても合理的に状態量が推定でき、
また状態量の急変もない、高精度で状態量を推定できる
車両の走行路認識装置を提供する。 【解決手段】車両前方の道路風景を撮像するCCDカメ
ラ101と、CCDカメラからの映像信号に対して画面
全体に一様な処理を施す前処理部102と、入力画面上
にレーンマーカを検出するための複数の小領域を設定す
るレーンマーカ検出用小領域設定部103と、複数の小
領域に対してレーンマーカの一部を検出する直線検出部
104と、直線検出部による直線検出結果がレーンマー
カの一部であることを検証するレーンマーカ候補点検出
部105と、レーンマーカの検出結果に基づいて車両前
方の道路形状を表すための道路モデルパラメータを算出
する道路モデルパラメータ算出部106と、を有する。
道路モデルパラメータ算出部106は、時間的および空
間的に連続性を有し、パラメータ決定に確率的な合理性
のある拡張カルマンフィルタを含む。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、自動車や無人搬送
車などの各種移動体の走行路を認識する装置に関する。
【0002】
【従来の技術】自動車や無人搬送車などの各種移動体に
おいては、危険回避のために補助的な警報を発したり、
人間の判断操作を補助したり、あるいは全面的な自動運
転を目的として、種々の形式の走行路の認識装置が検討
されている。たとえば、特開平8−5388号公報に
は、最小自乗法を用いてパラメータを推定する方法が提
案されている。
【0003】
【発明が解決しようとする課題】しかしながら、従来の
走行路の認識方法は、得られた画像を静止画像とみな
し、そこからモデルを表現するのに最も誤差が小さいパ
ラメータを計算するので、正しくない白線候補点が与え
られるとパラメータが急変したり、現実にはあり得ない
値が与えられるといった問題があった。
【0004】また、白線候補点のいくつかが与えられな
いときに、検出された少ない白線候補点に基づいて計算
が行われるため、精度が低下するといった問題もあっ
た。
【0005】本発明は、このような従来技術の問題点に
鑑みてなされたものであり、ノイズがあっても合理的に
状態量が推定でき、また状態量の急変もない、高精度で
状態量を推定できる車両の走行路認識装置を提供するこ
とを目的とする。
【0006】
【課題を解決するための手段】(1)上記目的を達成す
るために、請求項1記載の発明によれば、車両周囲の道
路風景を撮像する撮像部と、複数のレーンマーカの候補
点の撮像面上の座標値を検出するレーンマーカ候補点検
出部と、検出されたレーンマーカ候補点座標値に基づい
て道路モデルパラメータおよび車両状態量を算出する道
路モデルパラメータ算出部と、を有する車両の走行路認
識装置であって、前記道路モデルパラメータ算出部は、
パラメータの推定および車両状態量の推定に拡張カルマ
ンフィルタを用い、推定状態量、道路モデルパラメータ
として、車両のレーンマーカに対する横変位、道路曲
率、車両のレーンマーカに対するヨー角、車両のピッチ
角および前記撮像部の取り付け位置の地上高さを用いる
車両の走行路認識装置が提供される。
【0007】また、請求項2記載の発明によれば、車両
周囲の道路風景を撮像する撮像部と、複数のレーンマー
カの候補点の撮像面上の座標値を検出するレーンマーカ
候補点検出部と、検出されたレーンマーカ候補点座標値
に基づいて道路モデルパラメータおよび車両状態量を算
出する道路モデルパラメータ算出部と、を有する車両の
走行路認識装置であって、前記道路モデルパラメータ算
出部は、パラメータの推定および車両状態量の推定に拡
張カルマンフィルタを用い、推定状態量、道路モデルパ
ラメータとして、車両のレーンマーカに対する横変位、
道路曲率、車両のレーンマーカに対するヨー角、車両の
ピッチ角および走行車線の幅を用いる車両の走行路認識
装置が提供される。
【0008】車両が走行する道路のレーンマーカは、そ
の曲率が急変することがなく、しかも曲率が発生すると
ころでは緩和曲線が存在する。したがって、その動特性
はほぼ規定される。また、撮像部(CCDカメラ)の高
さや車両のピッチ角は道路の凹凸と車両の振動特性に依
存する。
【0009】こうした点に鑑み、本発明の車両の走行路
認識装置では、車両の状態量や道路パラメータを有色な
定常確率過程で模擬することで、ノイズに対して強く、
たとえノイズがあっても合理的に状態量を推定すること
ができる。また、時間的に連続性が確保されているの
で、状態量の急変がない。
【0010】上記発明における拡張カルマンフィルタの
状態方程式の状態推定量として、車両のレーンマーカに
対する横変位、レーンマーカが描く曲線の道路曲率、車
両のヨー角、車両のピッチ角および前記撮像部の取り付
け位置の地上高さを用いることができる(請求項1参
照)。
【0011】また、前記拡張カルマンフィルタの状態方
程式の状態推定量として、車両のレーンマーカに対する
横変位、レーンマーカが描く曲線の道路曲率、車両のヨ
ー角、車両のピッチ角およびレーンマーカが描く車線の
幅を用いることができる(請求項2参照)。
【0012】(2)上記発明において、前記拡張カルマ
ンフィルタの状態方程式は、離散値系のランダムウォー
クモデルで表すことができる(請求項3参照)。
【0013】また、前記拡張カルマンフィルタの状態方
程式を連続系の一次遅れで表すことにより、道路構造上
の道路曲率の変化を近似的に表すことができる(請求項
4参照)。
【0014】(3)上記目的を達成するために、請求項
5記載の発明によれば、車両周囲の道路風景を撮像する
撮像部と、複数のレーンマーカの候補点の撮像面上の座
標値を検出するレーンマーカ候補点検出部と、検出され
たレーンマーカ候補点座標値に基づいて道路モデルパラ
メータおよび車両状態量を算出する道路モデルパラメー
タ算出部と、操舵角を検出する操舵角検出部と、を有す
る車両の走行路認識装置であって、前記道路モデルパラ
メータ算出部は、パラメータの推定および車両状態量の
推定に拡張カルマンフィルタを用い、前記拡張カルマン
フィルタの状態方程式に、操舵角、車速による車両の状
態量の変化を用いる車両の走行路認識装置が提供され
る。
【0015】このとき、前記道路モデルパラメータ算出
部は、ハンドルの中立ズレを防止するように外乱の状態
量を推定する(請求項6参照)。
【0016】ドライバの操舵によるレーンマーカ候補点
の動きの動特性と、道路形状によって生じるレーンマー
カ候補点の動きの動特性は異なる。こうした点に鑑み、
本発明の車両の走行路認識装置では、操舵角情報を用い
て、撮像部に投影されるレーンマーカ候補点の動きを、
車両に加わる外乱による確率的な振る舞いと、操舵角に
応じた確定的な振る舞いとの組み合わせで表現する。こ
れにより、操舵入力時の速い車両挙動への追従性を確保
しつつ、路面ノイズによるレーンマーカの誤認識を少な
くすることができる。すなわち、推定値の追従性と耐ノ
イズ性の向上との両立を図ることができる。
【0017】
【発明の効果】請求項1乃至6記載の発明によれば、ノ
イズに対して強く、たとえノイズがあっても合理的に状
態量を推定することができる。また、時間的に連続性が
確保されているので、状態量の急変がない。
【0018】これに加えて、請求項5記載の発明によれ
ば、操舵入力時の速い車両挙動への追従性を確保しつ
つ、路面ノイズによるレーンマーカの誤認識を少なくす
ることができる。すなわち、推定値の追従性と耐ノイズ
性の向上との両立を図ることができる。
【0019】
【発明の実施の形態】以下、本発明の実施形態を図面に
基づいて説明する。第1実施形態 図1は本発明の車両の走行路認識装置の実施形態を示す
ブロック図である。本例の車両の走行路認識装置1は、
車両前方の道路風景を撮像するCCDカメラ101(本
発明の撮像部に相当する。)と、CCDカメラ101か
らの映像信号に対して画面全体に一様な処理を施す前処
理部102と、入力画面上にレーンマーカを検出するた
めの複数の小領域を設定するレーンマーカ検出用小領域
設定部103と、複数の小領域に対してレーンマーカの
一部を検出する直線検出部104と、直線検出結果がレ
ーンマーカの一部であることを検証するレーンマーカ候
補点検証部105と、レーンマーカの検出結果に基づい
て車両前方の道路形状を表すための道路パラメータを算
出する道路パラメータ算出部106とにより構成されて
いる。
【0020】次に走行路の認識手順について説明する。
図2は本例の処理の流れを示すフローチャートであり、
まずステップ201でドライバーのスイッチ操作又は車
両のイグニッションによりシステムが始動すると、ステ
ップ202では、車両前方の道路形状を認識するための
道路パラメータの初期化が実行される。
【0021】道路パラメータは以下の手順で定義され
る。すなわち、道路座標系を、図3に示すように、CC
Dカメラ101の撮像レンズの中心を原点として、車両
進行方向に向かって右→左上方にX軸、車両の高さ方向
へ上向きにY軸、レンズ光軸を車両進行方向にZ軸とす
るXYZ系で定義する。一方、画像処理画面の平面座標
系は、図4に示すように、NTSC等のテレビジョン通
信方式の画面操作方向にしたがい、画面左上を原点とし
て左から右へ水平方向にx軸、上から下へ垂直方向にy
軸と定義する。
【0022】これら2つの座標系の関係は図7に示すよ
うになるが、これを簡略化するために同図のように平面
座標系の原点が道路座標系のZ軸上にあるとすると、道
路座標系から平面座標系への座標変換は次式(1)
(2)で表される。
【0023】
【数1】
【0024】道路平面構造は、直線と曲率一定の曲線、
およびこれらを滑らかに結ぶための曲率変化率一定のク
ロソイド曲線で定義されるが、車両前方の数十mの区間
は、曲率一定の曲線路又は直線路とみなすことができ
る。そこで、図3(a)に示すように車線区分線(レー
ンマーカ)の形状を定式化した。また同様に、縦断構造
ついては一定勾配とみなすことができるので、同図
(b)に示すように定式化した。これら定式化したもの
をそれぞれ下記(3)(4)に示す。
【0025】
【数2】
【0026】以上の(1)〜(4)式より、画像処理画
面の平面座標系に投影されるレーンマーカの形状を定式
化することができる。(1)〜(4)式より、X,Y,
Zを消去して整理すると次式(5)〜(10)が得られ
る。
【0027】
【数3】
【0028】ここで、c,dは、図7において平面
座標系の原点を道路座標系のZ軸上としているのに対
し、実際には画像処理画面の左上を原点としているた
め、その分を補正する値である。
【0029】以上より、画像処理によって検出されるレ
ーンマーカ候補点が満たす(5)式のパラメータa〜e
の値を求めることで、道路曲率、車両のピッチ角・ヨー
角、車線内での車両の横変位を推定することができる。
図4は、二次元道路モデルの一例と、パラメータa〜e
の画面上での対応を示したものである。
【0030】図2に戻り、ステップ203では、CCD
カメラ101によって撮像された図4のような画像の画
像信号が前処理部102に入力され、ここで前処理が実
行される。レーンマーカを検出するための前処理とし
て、レーンマーカと路面の境界強調するために、例えば
Sobelフィルタによる一次空間微分を行う。レーン
マーカ検出ではこの境界を検出対象とする。レーンマー
カは、道路曲率により水平に近い部分と垂直に近い部分
とがあるため、水平方向微分と垂直方向微分との2つの
エッジ画像を作成する。なお、レーンマーカと路面との
境界を強調するため、他のエッジ強調フィルタを用いて
もよい。
【0031】次のステップ204では、自車が走行して
いる車線を表示するレーンマーカを画面内より検出する
ために、複数の小領域を設定する。検出領域は、図5に
示すように、前回の画像処理結果または初期設定の道路
パラメータから求められる道路形状に沿って所定の区間
ごとに区切られて設定される。このときの区間1〜5
は、画面を実際の三次元の道路座標系に変換した場合に
等しい距離になるように設定する。
【0032】ステップ205では、ステップ204で設
定された小領域の領域内で、直線検出を実行する。すな
わち、前回の画像処理結果または初期設定から、ある小
領域のレーンマーカと路面との境界が、図8に示す黒い
実線のように求められたとすると、今回の境界の位置
は、図8(a)に示すような平行に移動する変化と、同
図(b)に示すような傾きの変化とが考えられる。そこ
で、両者を組み合わせた図9に示すような台形状の小領
域を検出範囲とし、上辺と下辺とを横切る線分を検出対
象とする。検出範囲の大きさは、平行移動の振る舞いの
範囲pと傾き変化の振る舞いの範囲qで決まり、p×q
本の線分が検出対象となる。そして、エッジ画像上で各
線分を構成する画素のエッジ強度の和を線分ごとに演算
し、その和が最も大きい線分の始点と終点の座標値を検
出結果として出力する。
【0033】次のステップ206では、ステップ205
における検出結果をレーンマーカの一部が検出されたと
判断できるかどうかを検証する。道路には、レーンマー
カ以外にも、舗装の継ぎ目や影、先行車など、多くのノ
イズが存在する。これらの直線線分を誤検出しないため
に、以下のような条件を、直線検出結果をレーンマーカ
の候補点として用いる際に考慮する。
【0034】すなわち、まずレーンマーカ候補点の位置
が変化する範囲は、画像処理時間、車速、道路形状など
により制限される。また、レーンマーカは、白線または
黄線なので、正負の対になるエッジ点列が存在する。さ
らに、あるレーンマーカ候補点の動きは他の候補点の動
きと相関がある。
【0035】こうした条件を満たす直線検出結果を、レ
ーンマーカ候補点として道路モデルのパラメータ推定に
用いる。
【0036】次のステップ207では、ステップ206
で得られた画面上のレーンマーカ候補点の位置より道路
モデルのパラメータを算出する。画像処理によるレーン
マーカ候補点の検出結果に基づいて二次元道路モデル式
を推定する手段として、本例では拡張カルマンフィルタ
を用いる。
【0037】上述した(1)〜(4)式から下記(1
1)式が得られる。この式は、拡張カルマンフィルタを
構成する際の出力方程式として用いられ、これにより道
路曲率と車両状態量とから画像処理平面上に定義したy
座標値におけるx座標値が算出される。
【0038】
【数4】
【0039】拡張カルマンフィルタによる推定状態量
は、車両の横変位y、道路曲率ρ、車両のヨー角φ、
ピッチ角η、CCDカメラ101の高さhとし、レンズ
の焦点距離fおよび車線幅Wは一定値として扱う。各推
定状態量の変化は、確率的な振る舞いをするものとし
て、白色ガウス雑音νによって駆動される離散系のラン
ダムウォークモデルとして定義すると、状態方程式は下
記(12)式のようになる。
【0040】
【数5】
【0041】状態方程式(12)と出力方程式(11)
をそれぞれ下記(13)(14)式のように簡略化して
表記すると、拡張カルマンフィルタは(15)〜(1
8)式で構成される。
【0042】
【数6】
【0043】また、上記では離散系のランダムウォーク
モデルとして状態方程式を構成したが、連続系の一次遅
れとして表すこともできる。このときの状態方程式は下
記(19)式になる。
【0044】
【数7】
【0045】上記(19)式において、λは外乱が入っ
てくる周波数帯域を設定するパラメータ、wは平均値が
0の白色雑音である。この場合、各推定状態量Xは、
【0046】
【数8】
【0047】と表され、λX=2N、wの分散を2λ
とすれば、0を横切る頻度が1秒間にN回、振幅
がX0のポアソン方形波と等しいパワースペクトル密度
Φ(ω)が得られる。
【0048】
【数9】
【0049】よって、実際の推定状態量の変化がポアソ
ン方形波と異なっていても、その平均値と分散に関する
振る舞いは一致するので、実際の走行条件からλ、w
を定義することができる。なお、ここではポアソン方形
波を用いたが、実際の車両の走行条件を把握できる他の
モデルを使用してもよい。
【0050】また、実際の道路構造ではクロソイド曲線
によって直線と曲線とがつながれているので、曲率変化
を一次遅れで推定した場合、図16に示すように実際の
道路形状に近い推定結果を得ることができる。
【0051】図2に戻り、ステップ208では、ステッ
プ207で得られた道路モデルのパラメータa〜eによ
る道路形状の推定が正しいかどうかを判断する。例え
ば、パラメータaについて、パラメータaから算出され
る自車両の横方向の位置が所定の範囲を超えていたり、
前回の画像処理結果からの変動分(横方向の速度)が所
定値を超えている場合には、道路モデルのパラメータa
〜eによる道路形状の推定は誤っていると判断する。同
様に、パラメータb〜eについても、各々のパラメータ
から算出される物理量が所定の範囲を超えていたり、そ
れらの変動量が所定値を超えている場合には、道路モデ
ルのパラメータa〜eによる道路形状の推定は誤ってい
ると判断する。道路形状の推定が正しいと判断された場
合には、次のステップ209へと進み、道路形状の推定
が誤っていると判断された場合には、ステップ202に
戻って初期化処理から再実行する。
【0052】ステップ209では、ステップ207で算
出された道路パラメータをデータ記憶領域に保存する。
その後、ステップ203へ戻り、次画面の処理の実行に
移るべく画像の取り込みを行う。
【0053】以上の手順により本例の処理が実行され
る。
【0054】ちなみに、上述した実施形態では、パラメ
ータの変動を独立な白色ガウス雑音で駆動されるものと
して取り扱ったが、例えばヨー角と横変位の変化や、ピ
ッチ角とカメラ高さの変化、曲率とヨー角の変化などに
はある程度の相関があるので、これらを考慮して状態方
程式を構成することもできる。
【0055】第2実施形態 図10に、CCD面に投影されたレーンマーカ候補点の
座標系の時系列を示す。自動運転のように車線に沿って
滑らかに操舵しているときには、レーンマーカ候補点の
動きは穏やかである(同図の左図参照)。これに対し
て、同図の右図に示すように急なハンドル操作に対する
レーンマーカ候補点は、自動操舵時には発生しないほど
大きな速度で動く。また、穏やかな操舵を行っていても
路面のノイズなどでレーンマーカを誤認識し、レーンマ
ーカ候補点座標が急変する場合がある。雨で濡れた路面
でレーンマーカ候補点を誤認識している様子を図11に
示す。
【0056】上述したように、レーンマーカ候補点の動
きを、全て確率的な変動と捉えて状態推定器を構成した
場合、推定器の候補点の動特性を高く設定すると操舵介
入時に推定値が真値へ追従する性能は高くなるものの、
悪天候時の誤認識が多発する。逆に推定器の動特性を低
く設定すると操舵介入時に推定値が真値に対して遅れて
しまうという問題が生じる。
【0057】ところで、道路横断勾配や横風などの外乱
で発生するヨー角、横変位の周波数帯域は低く、一方、
操舵角によって生じるヨー角、横変位の周波数帯域は充
分に高い。したがって、発生しているヨー角、横変位が
操舵角の入力によって生じているのか否かを識別すれば
上記問題を解決することができる。
【0058】本実施形態では、道路曲率や路面不整によ
って生じるピッチング、バウンシングなどは定常確率過
程とみなし、操舵角入力によって生じる車両の運動は車
両モデルに基づいて確定的な状態として扱うことで、C
CD面に投影されるレーンマーカ候補点の動きを、車両
に加わる外乱による確率的な振る舞いと、操舵角に応じ
た確定的な振る舞いの組み合わせで表現することとし
た。このように拡張カルマンフィルタを構成すること
で、操舵入力時の速い車両挙動への追従性を確保しつ
つ、路面ノイズによるレーンマーカの誤認識を少なくす
ることが可能となる。
【0059】そこで、本例の車両の走行路認識装置1
は、図6に示すように、車両前方の道路風景を撮像する
CCDカメラ101(本発明の撮像部に相当する。)
と、CCDカメラ101からの映像信号に対して画面全
体に一様な処理を施す前処理部102と、入力画面上に
レーンマーカを検出するための複数の小領域を設定する
レーンマーカ検出用小領域設定部103と、複数の小領
域に対してレーンマーカの一部を検出する直線検出部1
04と、直線検出結果がレーンマーカの一部であること
を検証するレーンマーカ候補点検証部105と、レーン
マーカの検出結果に基づいて車両前方の道路形状を表す
ための道路パラメータを算出する道路パラメータ算出部
106と、車両の操舵角を検出してこれを道路パラメー
タ算出部106へ送出する操舵角検出部108と、同じ
く車両の走行速度を検出してこれを道路パラメータ算出
部106へ送出する車速検出部107とにより構成され
ている。
【0060】次に走行路の認識手順について説明する。
なお、本例の構想路の認識手順のステップは図2に示す
フローチャートと共通するので、同図を参照しながら、
特に第1実施形態と異なる点を中心に説明する。
【0061】なお、本実施形態では、道路モデルを図1
7の平面図に示すように定義した。図3(a)と異なる
点は、図3(a)では車両の横変位を左レーンマーカに
対する車両の横変位ycを用いているのに対し、図17
に示す本例では、道路中心線に対する車両の横変位yc
rを用いている。ただし、y=W/2−ycrであ
る。
【0062】図2に示すステップ201及び202の処
理は上述した第1実施形態と同じであるが、図17に示
す斜線区分線(レーンマーカ)の形状は、y=W/2
−y crの関係から、下記(22)式になる。ちなみ
に、縦断構造については上述した第1実施形態と同様の
式(23)となる。
【0063】
【数10】
【0064】上述した(1)式及び(2)式と(22)
式及び(23)式より、画像処理画面の平面座標系に投
影されるレーンマーカの形状を定式化することができ
る。これら(1)、(2)、(22)及び(23)式を
整理すると次式(24)が得られる。
【0065】
【数11】
【0066】本例では、(x,y)の組み合わせと操舵
角から道路形状および車両状態量を推定することを目的
としているが、車両は一般的な二輪モデルから、以下の
状態方程式(25)で表される。
【0067】
【数12】
【0068】(25)式における各定数a11
12,a13,a31,a32,a33,b11,b
31は、以下に示す車両諸元によって決まる定数であ
る。
【0069】
【数13】
【0070】ステップ203〜ステップ206では、上
述した第1実施形態と同じ処理が実行される。
【0071】次のステップ207では、ステップ206
で得られた画面上のレーンマーカ候補点の位置より道路
モデルのパラメータを算出する。画像処理によるレーン
マーカ候補点の検出結果に基づいて二次元道路モデル式
を推定する手段として、本例でも拡張カルマンフィルタ
が用いられる。
【0072】ここで、曲率ρ、ピッチ角η、バウンス量
hや種々の外乱などの確率的な状態変数ξの振る舞いは
以下の(26)式のように白色ノイズに駆動される一次
系として近似する。
【0073】
【数14】
【0074】ここで、λは外乱の入ってくる周波数帯域
の設定に用いられ、qはプロセスノイズの標準偏差に対
応している。νは正規化された白色ガウス雑音である。
車両の状態方程式は下記(27)式で表され、M,Fは
車両に加わる外乱のヨーモーメントと横力、[νρ ν
η ν ν ν]Tは、白色ガウス雑音を仮定し
ている。また、qρ,qη,q,q,qは各状態
変数を駆動する外乱の標準偏差を表す。ここで外乱のヨ
ーモメントや横力を状態変数にしたのは、これらの状態
量をフィードバックして車線追従性を向上させる目的
と、定常的な道路横断勾配や横風による直進時のハンド
ル中立の移動、または工場出荷時のハンドル中立ズレを
吸収する目的による。
【0075】
【数15】
【0076】上記(27)式の状態変数を保存しつつ、
離散化した式を簡略化して以下の(28)式に示す。
【0077】
【数16】
【0078】ここで、CCD面座標のxとの混同を避け
るために状態変数ベクトルにはxのようにsの添え字
を付けている。出力xは、CCD面上の画素のx座標値
である。その出力方程式は上述した(24)式で表され
るように状態変数の非線形関数になる。(x,y)の座
標値は、具体的にはレーンマーカの候補点座標であり、
左右レーンマーカで合計10点を選択し、y座標系は固
定値とした。j番目(j=1〜10)のx座標の出力方
程式は、下記(29)式のようになる。
【0079】
【数17】
【0080】この(29)式を簡略化して下記(30)
式とする。g(x,y)はx,yの非線形関数を表
す。
【0081】
【数18】
【0082】拡張カルマンフィルタは、下記(31)〜
(34)式で表される。
【0083】
【数19】
【0084】この拡張カルマンフィルタを用いて道路モ
デルのパラメータを求め、次のステップ208では、上
述した第1実施形態と同様にステップ207で得られた
道路モデルのパラメータa〜eによる道路形状の推定が
正しいかどうかを判断する。そして、道路形状の推定が
正しいと判断された場合には、次のステップ209へと
進み、道路形状の推定が誤っていると判断された場合に
は、ステップ202に戻って初期化処理から再実行す
る。
【0085】ステップ209では、ステップ207で算
出された道路パラメータをデータ記憶領域に保存する。
その後、ステップ203へ戻り、次画面の処理の実行に
移るべく画像の取り込みを行う。
【0086】操舵角によって生じる車両状態量の因果関
係を用いた拡張カルマンフィルタと、操舵角情報を考慮
しない拡張カルマンフィルタとの性能評価比較を、車載
ジャイロで実測したヨーレイトを基準として実施した。
このときの評価条件として、(1)速い操舵角が入力さ
れた場合、(2)路面ノイズでレーンマーカを誤認識す
る場合の2つの条件を用意した。レーンマーカ候補点は
エッジ処理を基本処理として検出しているため、条件
(2)の場合には雨等による道路上のノイズによって生
じるコントラストを誤認識し、図12に示すように不連
続的な振る舞いをする。
【0087】ここでまず、操舵角情報を加味しない拡張
カルマンフィルタの動特性を高く設定した場合の推定結
果を図13に示す。上図が条件(1)、下図が条件
(2)の推定結果である。同図の上図に示すように、上
述した条件(1)の速い操舵角が入力された場合に、推
定値が真値に応答良く追従している。しかしながら、同
図の下図に示すように、この状態では条件(2)のよう
に路面ノイズが多いときには大きな振幅の推定誤差が生
じてしまう。
【0088】これに対して、操舵角情報を加味しない拡
張カルマンフィルタの動特性を低く設定した場合の推定
結果を図14に示す。上図が条件(1)、下図が条件
(2)の推定結果である。この場合には図13に示す例
に比べて誤認識時の推定誤差振幅は小さくなるが(同図
の下図)、推定器の動特性が低すぎて正しい推定値が得
られないことが理解できる。
【0089】このように、操舵角情報を加味しない拡張
カルマンフィルタでは、真値への追従性(推定速度)と
誤認識時の推定誤差(耐ノイズ性能)の間にトレードオ
フが存在する。
【0090】これに対して、本実施形態である、操舵角
情報を加味した拡張カルマンフィルタを用いたときの推
定結果を図15に示す。上図が条件(1)、下図が条件
(2)の推定結果である。本例の拡張カルマンフィルタ
の動特性は条件によらず一定である。この結果から、操
舵角情報を考慮した拡張カルマンフィルタでは、操舵角
による車両挙動をモデル化したため、図13及び図14
に示す拡張カルマンフィルタで課題となったトレードオ
フを克服することができる。
【0091】ところで、従来の車線追従システムは、レ
ーンマーカを検出して前方注視点横変位を推定する画像
処理系と、その情報に基づいた操舵制御系とに分けて構
成されるのが一般的である。しかしながら、操舵系の最
適制御にあたっては、前方注視点横変位などの中間変数
の推定値を用いる制御系は無駄である。すなわち、最適
操舵制御系に必要な車両の状態変数を画像処理系で直接
推定し、使用した方が合理的で無駄がない。つまり、本
例では、CCD撮像面上の座標値から直接車両の状態量
を推定し、最適制御を実行する。
【0092】ここで、上述した(27)式をそのまま拡
張して一般化プラントとすることで容易にH制御を構
成することができる。ただし、出力方程式が(24)式
のように非線形なので、状態量の推定には4節の拡張カ
ルマンフィルタを用い、レギュレータ(状態フィードバ
ック部分)については、全状態が観測できるものとして
求めたフィードバックゲインを用いる。その結果、非線
形系ではあるが、近似的に外乱wから制御量zまでのH
ノルムの最小化が可能となる。
【0093】
【数20】
【0094】(35)式では、最適レギュレータと等価
な一般化プラントを構成し、横変位の重みをQとした。
このようなスカラ重みでなく、周波数整形することも可
能である。フィードバックゲインは、K=−B Hで
与えられ、Hはリカッチ方程式(36)の正定解であ
る。
【0095】
【数21】
【0096】シミュレーションで用いたレーンマーカの
例(左コーナを走行中)を図18に示す。画面上に投影
されるレーンマーカの形状、位置は、曲率および自車の
状態量に応じて自車と同様に適宜変化する。例として緩
和曲線のない曲線部へ自動操舵で進入したときの、カル
マンフィルタの推定値とシミュレーションにおける真の
状態量の比較を図19に示す。この図から、速い操舵角
が入力されても、実際の状態と推定値が良く一致してい
ることが理解される。
【0097】なお、以上説明した実施形態は、本発明の
理解を容易にするために記載されたものであって、本発
明を限定するために記載されたものではない。したがっ
て、上記の実施形態に開示された各要素は、本発明の技
術的範囲に属する全ての設計変更や均等物をも含む趣旨
である。
【図面の簡単な説明】
【図1】本発明の車両の走行路認識装置の実施形態を示
すブロック図である。
【図2】本発明の車両の走行路認識装置における情報処
理手順を示すフローチャートである。
【図3】図1に示す実施形態で用いた道路モデルを示す
平面図および側面図である。
【図4】図3に示す道路モデルを画像面上に展開した図
である。
【図5】本発明に係るレーンマーカ検出領域を説明する
ための図である。
【図6】本発明の車両の走行路認識装置の他の実施形態
を示すブロック図である。
【図7】本発明に係る道路モデルの座標を示す図であ
る。
【図8】本発明に係る直線検出を説明するための図であ
る。
【図9】本発明に係る直線検出を説明するための図であ
る。
【図10】操舵角によるレーンマーカ候補点の座標値の
影響を説明するためのグラフである。
【図11】路面ノイズによるレーンマーカ候補点の座標
値の影響を説明するためのグラフである。
【図12】路面ノイズによるレーンマーカ候補点の座標
値の影響を説明するためのグラフである。
【図13】操舵角によるレーンマーカ候補点の座標値の
影響を説明するためのグラフである。
【図14】操舵角によるレーンマーカ候補点の座標値の
影響を説明するためのグラフである。
【図15】操舵角によるレーンマーカ候補点の座標値の
影響を説明するためのグラフである。
【図16】本発明のカルマンフィルタの状態方程式を連
続系の一次遅れで表したときの効果を説明するためのグ
ラフである。
【図17】図6に示す実施形態で用いた道路モデルを示
す平面図である。
【図18】図6に示す実施形態のシミュレーション結果
を示す図である。
【図19】図6に示す実施形態のシミュレーション結果
を示すグラフである。
【符号の説明】
1…車両の走行路認識装置 101…CCDカメラ(撮像部) 102…前処理部 103…レーンマーカ検出小領域設定部 104…直線検出部 105…レーンマーカ候補点検証部 106…道路パラメータ算出部
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5B057 AA16 BA02 CA08 CA12 CA16 CB08 CB12 CB16 CC01 CE03 CE06 CH09 CH20 DB02 DB09 DC02 DC16 5H180 AA20 CC04 CC24 5H301 AA01 BB05 EE12 GG09

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】車両周囲の道路風景を撮像する撮像部と、
    複数のレーンマーカの候補点の撮像面上の座標値を検出
    するレーンマーカ候補点検出部と、検出されたレーンマ
    ーカ候補点座標値に基づいて道路モデルパラメータおよ
    び車両状態量を算出する道路モデルパラメータ算出部
    と、を有する車両の走行路認識装置であって、 前記道路モデルパラメータ算出部は、パラメータの推定
    および車両状態量の推定に拡張カルマンフィルタを用
    い、推定状態量、道路モデルパラメータとして、車両の
    レーンマーカに対する横変位、道路曲率、車両のレーン
    マーカに対するヨー角、車両のピッチ角および前記撮像
    部の取り付け位置の地上高さを用いる車両の走行路認識
    装置。
  2. 【請求項2】車両周囲の道路風景を撮像する撮像部と、
    複数のレーンマーカの候補点の撮像面上の座標値を検出
    するレーンマーカ候補点検出部と、検出されたレーンマ
    ーカ候補点座標値に基づいて道路モデルパラメータおよ
    び車両状態量を算出する道路モデルパラメータ算出部
    と、を有する車両の走行路認識装置であって、 前記道路モデルパラメータ算出部は、パラメータの推定
    および車両状態量の推定に拡張カルマンフィルタを用
    い、推定状態量、道路モデルパラメータとして、車両の
    レーンマーカに対する横変位、道路曲率、車両のレーン
    マーカに対するヨー角、車両のピッチ角および走行車線
    の幅を用いる車両の走行路認識装置。
  3. 【請求項3】前記道路モデルパラメータ算出部で用いら
    れる拡張カルマンフィルタの状態方程式が、離散値系の
    ランダムウォークモデルで表される請求項1または2記
    載の車両の走行路認識装置。
  4. 【請求項4】前記道路モデルパラメータ算出部で用いら
    れる拡張カルマンフィルタの状態方程式を連続系の一次
    遅れで構成することにより、道路構造上の道路曲率の変
    化を近似的に表す請求項1または2記載の車両の走行路
    認識装置。
  5. 【請求項5】車両周囲の道路風景を撮像する撮像部と、
    複数のレーンマーカの候補点の撮像面上の座標値を検出
    するレーンマーカ候補点検出部と、検出されたレーンマ
    ーカ候補点座標値に基づいて道路モデルパラメータおよ
    び車両状態量を算出する道路モデルパラメータ算出部
    と、操舵角を検出する操舵角検出部と、を有する車両の
    走行路認識装置であって、 前記道路モデルパラメータ算出部は、パラメータの推定
    および車両状態量の推定に拡張カルマンフィルタを用
    い、前記拡張カルマンフィルタの状態方程式に、操舵
    角、車速による車両の状態量の変化を用いる車両の走行
    路認識装置。
  6. 【請求項6】前記道路モデルパラメータ算出部は、ハン
    ドルの中立ズレを防止するように外乱の状態量を推定す
    る請求項5記載の車両の走行路認識装置。
JP2000302709A 2000-10-02 2000-10-02 車両の走行路認識装置 Expired - Fee Related JP3521860B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2000302709A JP3521860B2 (ja) 2000-10-02 2000-10-02 車両の走行路認識装置
EP01307656A EP1193661B2 (en) 2000-10-02 2001-09-10 Lane recognition apparatus for vehicle
DE60102195T DE60102195T3 (de) 2000-10-02 2001-09-10 Fahrspur-Erkennungsvorrichtung für Fahrzeuge
US09/951,499 US6823241B2 (en) 2000-10-02 2001-09-14 Lane recognition apparatus for vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000302709A JP3521860B2 (ja) 2000-10-02 2000-10-02 車両の走行路認識装置

Publications (2)

Publication Number Publication Date
JP2002109695A true JP2002109695A (ja) 2002-04-12
JP3521860B2 JP3521860B2 (ja) 2004-04-26

Family

ID=18784018

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000302709A Expired - Fee Related JP3521860B2 (ja) 2000-10-02 2000-10-02 車両の走行路認識装置

Country Status (4)

Country Link
US (1) US6823241B2 (ja)
EP (1) EP1193661B2 (ja)
JP (1) JP3521860B2 (ja)
DE (1) DE60102195T3 (ja)

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005149023A (ja) * 2003-11-13 2005-06-09 Mitsubishi Electric Corp 走行支援装置
JP2006285493A (ja) * 2005-03-31 2006-10-19 Daihatsu Motor Co Ltd 道路モデル推定装置及び道路モデル推定方法
JP2009211715A (ja) * 2009-05-29 2009-09-17 Clarion Co Ltd 車線位置検知システム
KR101071732B1 (ko) * 2007-12-17 2011-10-11 현대자동차주식회사 차량 주행속도 제어 장치 및 그 방법
WO2012039496A1 (ja) 2010-09-24 2012-03-29 トヨタ自動車株式会社 走路推定装置及びプログラム
US8526681B2 (en) 2007-07-17 2013-09-03 Toyota Jidosha Kabushiki Kaisha On-vehicle image processing device for vehicular control
JP2015170126A (ja) * 2014-03-06 2015-09-28 株式会社豊田中央研究所 パラメータ学習装置、運転支援装置、及びプログラム
US9280712B2 (en) 2012-03-19 2016-03-08 Nippon Soken, Inc. Apparatus and method for recognizing a lane
JP2016199196A (ja) * 2015-04-14 2016-12-01 株式会社日本自動車部品総合研究所 走行路推定装置
JP2017105260A (ja) * 2015-12-07 2017-06-15 株式会社豊田中央研究所 走路パラメータ推定装置及びプログラム
US9789877B2 (en) 2014-03-28 2017-10-17 Denso Corporation Information transmitter
CN108073167A (zh) * 2016-11-10 2018-05-25 深圳灵喵机器人技术有限公司 一种基于深度相机与激光雷达的定位与导航方法
US10108865B2 (en) 2015-12-16 2018-10-23 Toyota Jidosha Kabushiki Kaisha Information calculation device
JP2019101671A (ja) * 2017-11-30 2019-06-24 いすゞ自動車株式会社 情報処理装置及び情報処理システム
JP2019101821A (ja) * 2017-12-04 2019-06-24 株式会社豊田中央研究所 走路推定装置及びプログラム
JP2020060936A (ja) * 2018-10-10 2020-04-16 株式会社Soken 道路形状認識装置
US11120277B2 (en) 2018-10-10 2021-09-14 Denso Corporation Apparatus and method for recognizing road shapes
JP2022001462A (ja) * 2020-06-22 2022-01-06 株式会社Soken 道路形状認識装置

Families Citing this family (162)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6822563B2 (en) 1997-09-22 2004-11-23 Donnelly Corporation Vehicle imaging system with accessory control
US5877897A (en) 1993-02-26 1999-03-02 Donnelly Corporation Automatic rearview mirror, vehicle lighting control and vehicle interior monitoring system using a photosensor array
US6891563B2 (en) 1996-05-22 2005-05-10 Donnelly Corporation Vehicular vision system
US7655894B2 (en) 1996-03-25 2010-02-02 Donnelly Corporation Vehicular image sensing system
JP3780848B2 (ja) * 2000-12-27 2006-05-31 日産自動車株式会社 車両の走行路認識装置
US6882287B2 (en) 2001-07-31 2005-04-19 Donnelly Corporation Automotive lane change aid
US7697027B2 (en) 2001-07-31 2010-04-13 Donnelly Corporation Vehicular video system
US6751547B2 (en) * 2001-11-26 2004-06-15 Hrl Laboratories, Llc Method and apparatus for estimation of forward path geometry of a vehicle based on a two-clothoid road model
DE10319277A1 (de) * 2002-05-02 2003-11-13 I2 Technologies Inc Anzeige von in einer Anzahl von Angeboten spezifizierten Werten für eine Anzahl von Angebotsvariablen im Hinblick auf den Preis
EP1504276B1 (en) 2002-05-03 2012-08-08 Donnelly Corporation Object detection system for vehicle
US7139411B2 (en) * 2002-06-14 2006-11-21 Honda Giken Kogyo Kabushiki Kaisha Pedestrian detection and tracking with night vision
US7522091B2 (en) * 2002-07-15 2009-04-21 Automotive Systems Laboratory, Inc. Road curvature estimation system
US6718259B1 (en) * 2002-10-02 2004-04-06 Hrl Laboratories, Llc Adaptive Kalman filter method for accurate estimation of forward path geometry of an automobile
JP3661684B2 (ja) * 2002-11-28 2005-06-15 日産自動車株式会社 車線逸脱防止装置
EP1671216B1 (en) * 2003-10-09 2016-12-07 Honda Motor Co., Ltd. Moving object detection using low illumination depth capable computer vision
US7308341B2 (en) 2003-10-14 2007-12-11 Donnelly Corporation Vehicle communication system
US7197388B2 (en) * 2003-11-06 2007-03-27 Ford Global Technologies, Llc Roll stability control system for an automotive vehicle using an external environmental sensing system
US7482916B2 (en) 2004-03-15 2009-01-27 Anita Au Automatic signaling systems for vehicles
US7526103B2 (en) 2004-04-15 2009-04-28 Donnelly Corporation Imaging system for vehicle
DE102004028404A1 (de) * 2004-06-14 2006-01-19 Daimlerchrysler Ag Verfahren zur Schätzung des Verlaufs einer Fahrspur eines Kraftfahrzeuges
JP4069912B2 (ja) * 2004-08-19 2008-04-02 日産自動車株式会社 車両運動制御装置
KR100497781B1 (ko) * 2004-09-24 2005-06-28 주식회사 삼안 에스형, 복합형 및 난형 도로설계에서 크로소이드파라메타 계산방법
US7881496B2 (en) 2004-09-30 2011-02-01 Donnelly Corporation Vision system for vehicle
US7720580B2 (en) 2004-12-23 2010-05-18 Donnelly Corporation Object detection system for vehicle
JP4616068B2 (ja) * 2005-04-28 2011-01-19 本田技研工業株式会社 車両、画像処理システム、画像処理方法及び画像処理プログラム
EP1862988B1 (en) * 2006-05-30 2009-11-04 Mazda Motor Corporation A driving assist for a vehicle
US7972045B2 (en) 2006-08-11 2011-07-05 Donnelly Corporation Automatic headlamp control system
US8013780B2 (en) 2007-01-25 2011-09-06 Magna Electronics Inc. Radar sensing system for vehicle
JP2008217720A (ja) * 2007-03-07 2008-09-18 Ricoh Co Ltd 通信システム、通信方法、及び、通信装置
JP5309582B2 (ja) 2007-05-11 2013-10-09 日産自動車株式会社 車両の走行制御方法及び走行制御装置
US7914187B2 (en) 2007-07-12 2011-03-29 Magna Electronics Inc. Automatic lighting system with adaptive alignment function
US8017898B2 (en) 2007-08-17 2011-09-13 Magna Electronics Inc. Vehicular imaging system in an automatic headlamp control system
US8451107B2 (en) 2007-09-11 2013-05-28 Magna Electronics, Inc. Imaging system for vehicle
US8446470B2 (en) 2007-10-04 2013-05-21 Magna Electronics, Inc. Combined RGB and IR imaging sensor
US20090284361A1 (en) * 2008-05-19 2009-11-19 John Boddie Driver scoring system with lane changing detection and warning system
DE102008042538A1 (de) * 2008-10-01 2010-04-08 Robert Bosch Gmbh Verfahren und Vorrichtung zum Ermitteln eines Fahrspurverlaufs
EP2179892A1 (de) 2008-10-24 2010-04-28 Magna Electronics Europe GmbH & Co. KG Verfahren zum automatischen Kalibrieren einer virtuellen Kamera
US8989913B2 (en) * 2008-12-26 2015-03-24 Toyota Jidosha Kabushiki Kaisha Travel route estimation device and travel route estimation method used in the same device
DE102009033219A1 (de) * 2009-01-23 2010-07-29 Daimler Ag Verfahren zur Ermittlung eines Fahrzeug vorausliegenden Straßenprofils einer Fahrspur
US8964032B2 (en) 2009-01-30 2015-02-24 Magna Electronics Inc. Rear illumination system
US9126525B2 (en) 2009-02-27 2015-09-08 Magna Electronics Inc. Alert system for vehicle
JP5075152B2 (ja) * 2009-03-24 2012-11-14 日立オートモティブシステムズ株式会社 車両制御装置
US8376595B2 (en) 2009-05-15 2013-02-19 Magna Electronics, Inc. Automatic headlamp control
WO2011014482A1 (en) 2009-07-27 2011-02-03 Magna Electronics Inc. Parking assist system
WO2011014497A1 (en) 2009-07-27 2011-02-03 Magna Electronics Inc. Vehicular camera with on-board microcontroller
US9041806B2 (en) 2009-09-01 2015-05-26 Magna Electronics Inc. Imaging and display system for vehicle
JP5286214B2 (ja) * 2009-09-30 2013-09-11 日立オートモティブシステムズ株式会社 車両制御装置
US9150155B2 (en) 2010-01-13 2015-10-06 Magna Electronics Inc. Vehicular camera and method for periodic calibration of vehicular camera
US8890955B2 (en) 2010-02-10 2014-11-18 Magna Mirrors Of America, Inc. Adaptable wireless vehicle vision system based on wireless communication error
DE102010020984A1 (de) * 2010-04-20 2011-10-20 Conti Temic Microelectronic Gmbh Verfahren zur Bestimmung des Fahrbahnverlaufes für ein Kraftfahrzeug
US9117123B2 (en) 2010-07-05 2015-08-25 Magna Electronics Inc. Vehicular rear view camera display system with lifecheck function
WO2012068331A1 (en) 2010-11-19 2012-05-24 Magna Electronics Inc. Lane keeping system and lane centering system
WO2012075250A1 (en) 2010-12-01 2012-06-07 Magna Electronics Inc. System and method of establishing a multi-camera image using pixel remapping
US9264672B2 (en) 2010-12-22 2016-02-16 Magna Mirrors Of America, Inc. Vision display system for vehicle
WO2012103193A1 (en) 2011-01-26 2012-08-02 Magna Electronics Inc. Rear vision system with trailer angle detection
JP2012212282A (ja) * 2011-03-31 2012-11-01 Honda Elesys Co Ltd 路面状態検出装置、路面状態検出方法、及び路面状態検出プログラム
US9194943B2 (en) 2011-04-12 2015-11-24 Magna Electronics Inc. Step filter for estimating distance in a time-of-flight ranging system
US8996195B2 (en) * 2011-04-12 2015-03-31 Georgia Tech Research Corporation Systems and methods for derivative-free adaptive control
WO2012145818A1 (en) 2011-04-25 2012-11-01 Magna International Inc. Method and system for dynamically calibrating vehicular cameras
WO2012145822A1 (en) 2011-04-25 2012-11-01 Magna International Inc. Method and system for dynamically calibrating vehicular cameras
US9547795B2 (en) 2011-04-25 2017-01-17 Magna Electronics Inc. Image processing method for detecting objects using relative motion
US9058028B2 (en) * 2011-04-29 2015-06-16 Georgia Tech Research Corporation Systems and methods for parameter dependent riccati equation approaches to adaptive control
CN103582907B (zh) * 2011-06-13 2016-07-20 日产自动车株式会社 车载用图像识别装置及车道识别方法
CN102360499B (zh) * 2011-06-30 2014-01-22 电子科技大学 一种基于卡尔曼滤波器组的多车道线追踪方法
WO2013016409A1 (en) 2011-07-26 2013-01-31 Magna Electronics Inc. Vision system for vehicle
US9098751B2 (en) 2011-07-27 2015-08-04 Gentex Corporation System and method for periodic lane marker identification and tracking
WO2013019707A1 (en) 2011-08-01 2013-02-07 Magna Electronics Inc. Vehicle camera alignment system
DE112012003931T5 (de) 2011-09-21 2014-07-10 Magna Electronics, Inc. Bildverarbeitungssystem für ein Kraftfahrzeug mit Bilddatenübertragung undStromversorgung über ein Koaxialkabel
US9681062B2 (en) 2011-09-26 2017-06-13 Magna Electronics Inc. Vehicle camera image quality improvement in poor visibility conditions by contrast amplification
US9146898B2 (en) 2011-10-27 2015-09-29 Magna Electronics Inc. Driver assist system with algorithm switching
US9491451B2 (en) 2011-11-15 2016-11-08 Magna Electronics Inc. Calibration system and method for vehicular surround vision system
US10099614B2 (en) 2011-11-28 2018-10-16 Magna Electronics Inc. Vision system for vehicle
US9762880B2 (en) 2011-12-09 2017-09-12 Magna Electronics Inc. Vehicle vision system with customized display
CN103177236B (zh) * 2011-12-22 2016-06-01 株式会社理光 道路区域检测方法和装置、分道线检测方法和装置
JP5543501B2 (ja) * 2012-01-27 2014-07-09 株式会社日本自動車部品総合研究所 車両制御装置
US8948449B2 (en) * 2012-02-06 2015-02-03 GM Global Technology Operations LLC Selecting visible regions in nighttime images for performing clear path detection
US10457209B2 (en) 2012-02-22 2019-10-29 Magna Electronics Inc. Vehicle vision system with multi-paned view
WO2013126715A2 (en) 2012-02-22 2013-08-29 Magna Electronics, Inc. Vehicle camera system with image manipulation
US8694224B2 (en) 2012-03-01 2014-04-08 Magna Electronics Inc. Vehicle yaw rate correction
US10609335B2 (en) 2012-03-23 2020-03-31 Magna Electronics Inc. Vehicle vision system with accelerated object confirmation
US9319637B2 (en) 2012-03-27 2016-04-19 Magna Electronics Inc. Vehicle vision system with lens pollution detection
US9751465B2 (en) 2012-04-16 2017-09-05 Magna Electronics Inc. Vehicle vision system with reduced image color data processing by use of dithering
US10089537B2 (en) 2012-05-18 2018-10-02 Magna Electronics Inc. Vehicle vision system with front and rear camera integration
US9340227B2 (en) 2012-08-14 2016-05-17 Magna Electronics Inc. Vehicle lane keep assist system
DE102013217430A1 (de) 2012-09-04 2014-03-06 Magna Electronics, Inc. Fahrerassistenzsystem für ein Kraftfahrzeug
US9558409B2 (en) 2012-09-26 2017-01-31 Magna Electronics Inc. Vehicle vision system with trailer angle detection
US9446713B2 (en) 2012-09-26 2016-09-20 Magna Electronics Inc. Trailer angle detection system
US9723272B2 (en) 2012-10-05 2017-08-01 Magna Electronics Inc. Multi-camera image stitching calibration system
US9707896B2 (en) 2012-10-15 2017-07-18 Magna Electronics Inc. Vehicle camera lens dirt protection via air flow
US9090234B2 (en) 2012-11-19 2015-07-28 Magna Electronics Inc. Braking control system for vehicle
US9743002B2 (en) 2012-11-19 2017-08-22 Magna Electronics Inc. Vehicle vision system with enhanced display functions
US10025994B2 (en) 2012-12-04 2018-07-17 Magna Electronics Inc. Vehicle vision system utilizing corner detection
US9481301B2 (en) 2012-12-05 2016-11-01 Magna Electronics Inc. Vehicle vision system utilizing camera synchronization
US9092986B2 (en) 2013-02-04 2015-07-28 Magna Electronics Inc. Vehicular vision system
US20140218529A1 (en) 2013-02-04 2014-08-07 Magna Electronics Inc. Vehicle data recording system
US9445057B2 (en) 2013-02-20 2016-09-13 Magna Electronics Inc. Vehicle vision system with dirt detection
US10179543B2 (en) 2013-02-27 2019-01-15 Magna Electronics Inc. Multi-camera dynamic top view vision system
US9688200B2 (en) 2013-03-04 2017-06-27 Magna Electronics Inc. Calibration system and method for multi-camera vision system
US10027930B2 (en) 2013-03-29 2018-07-17 Magna Electronics Inc. Spectral filtering for vehicular driver assistance systems
US9327693B2 (en) 2013-04-10 2016-05-03 Magna Electronics Inc. Rear collision avoidance system for vehicle
US10232797B2 (en) 2013-04-29 2019-03-19 Magna Electronics Inc. Rear vision system for vehicle with dual purpose signal lines
US9508014B2 (en) 2013-05-06 2016-11-29 Magna Electronics Inc. Vehicular multi-camera vision system
US9205776B2 (en) 2013-05-21 2015-12-08 Magna Electronics Inc. Vehicle vision system using kinematic model of vehicle motion
US9563951B2 (en) 2013-05-21 2017-02-07 Magna Electronics Inc. Vehicle vision system with targetless camera calibration
US10567705B2 (en) 2013-06-10 2020-02-18 Magna Electronics Inc. Coaxial cable with bidirectional data transmission
US9260095B2 (en) 2013-06-19 2016-02-16 Magna Electronics Inc. Vehicle vision system with collision mitigation
US20140375476A1 (en) 2013-06-24 2014-12-25 Magna Electronics Inc. Vehicle alert system
US10755110B2 (en) 2013-06-28 2020-08-25 Magna Electronics Inc. Trailering assist system for vehicle
EP2826687B1 (en) 2013-07-16 2019-03-06 Honda Research Institute Europe GmbH Technique for lane assignment in a vehicle
US10326969B2 (en) 2013-08-12 2019-06-18 Magna Electronics Inc. Vehicle vision system with reduction of temporal noise in images
US9619716B2 (en) 2013-08-12 2017-04-11 Magna Electronics Inc. Vehicle vision system with image classification
US9499139B2 (en) 2013-12-05 2016-11-22 Magna Electronics Inc. Vehicle monitoring system
US9988047B2 (en) 2013-12-12 2018-06-05 Magna Electronics Inc. Vehicle control system with traffic driving control
US10160382B2 (en) 2014-02-04 2018-12-25 Magna Electronics Inc. Trailer backup assist system
US9623878B2 (en) 2014-04-02 2017-04-18 Magna Electronics Inc. Personalized driver assistance system for vehicle
US10115026B2 (en) * 2014-04-04 2018-10-30 Delphi Technologies, Inc. Method for lane detection
US9487235B2 (en) 2014-04-10 2016-11-08 Magna Electronics Inc. Vehicle control system with adaptive wheel angle correction
US9460624B2 (en) 2014-05-06 2016-10-04 Toyota Motor Engineering & Manufacturing North America, Inc. Method and apparatus for determining lane identification in a roadway
US10328932B2 (en) 2014-06-02 2019-06-25 Magna Electronics Inc. Parking assist system with annotated map generation
JP6285321B2 (ja) * 2014-08-25 2018-02-28 株式会社Soken 道路形状認識装置
CN104181926B (zh) * 2014-09-17 2017-06-13 上海畔慧信息技术有限公司 机器人的导航控制方法
US9925980B2 (en) 2014-09-17 2018-03-27 Magna Electronics Inc. Vehicle collision avoidance system with enhanced pedestrian avoidance
US9227635B1 (en) * 2014-09-25 2016-01-05 Nissan North America, Inc. Method and system of assisting a driver of a vehicle
CN104318258B (zh) * 2014-09-29 2017-05-24 南京邮电大学 一种基于时域模糊和卡尔曼滤波器的车道线检测方法
JP6132359B2 (ja) * 2014-10-20 2017-05-24 株式会社Soken 走行区画線認識装置
US10713506B2 (en) 2014-12-18 2020-07-14 Magna Electronics Inc. Vehicle vision system with 3D registration for distance estimation
US9946940B2 (en) 2014-12-18 2018-04-17 Magna Electronics Inc. Vehicle vision system with adaptive lane marker detection
US9916660B2 (en) 2015-01-16 2018-03-13 Magna Electronics Inc. Vehicle vision system with calibration algorithm
US9764744B2 (en) 2015-02-25 2017-09-19 Magna Electronics Inc. Vehicle yaw rate estimation system
US10286855B2 (en) 2015-03-23 2019-05-14 Magna Electronics Inc. Vehicle vision system with video compression
US10946799B2 (en) 2015-04-21 2021-03-16 Magna Electronics Inc. Vehicle vision system with overlay calibration
US10819943B2 (en) 2015-05-07 2020-10-27 Magna Electronics Inc. Vehicle vision system with incident recording function
US10449899B2 (en) 2015-05-08 2019-10-22 Magna Electronics Inc. Vehicle vision system with road line sensing algorithm and lane departure warning
KR102366402B1 (ko) * 2015-05-21 2022-02-22 엘지전자 주식회사 운전자 보조 장치 및 그 제어방법
US10214206B2 (en) 2015-07-13 2019-02-26 Magna Electronics Inc. Parking assist system for vehicle
US10078789B2 (en) 2015-07-17 2018-09-18 Magna Electronics Inc. Vehicle parking assist system with vision-based parking space detection
US10086870B2 (en) 2015-08-18 2018-10-02 Magna Electronics Inc. Trailer parking assist system for vehicle
US11228700B2 (en) 2015-10-07 2022-01-18 Magna Electronics Inc. Vehicle vision system camera with adaptive field of view
US10187590B2 (en) 2015-10-27 2019-01-22 Magna Electronics Inc. Multi-camera vehicle vision system with image gap fill
US10144419B2 (en) 2015-11-23 2018-12-04 Magna Electronics Inc. Vehicle dynamic control system for emergency handling
US10102434B2 (en) 2015-12-22 2018-10-16 Omnivision Technologies, Inc. Lane detection system and method
US11277558B2 (en) 2016-02-01 2022-03-15 Magna Electronics Inc. Vehicle vision system with master-slave camera configuration
US11433809B2 (en) 2016-02-02 2022-09-06 Magna Electronics Inc. Vehicle vision system with smart camera video output
JP6323473B2 (ja) * 2016-02-25 2018-05-16 トヨタ自動車株式会社 走行制御装置
US10160437B2 (en) 2016-02-29 2018-12-25 Magna Electronics Inc. Vehicle control system with reverse assist
US20170253237A1 (en) 2016-03-02 2017-09-07 Magna Electronics Inc. Vehicle vision system with automatic parking function
US10055651B2 (en) 2016-03-08 2018-08-21 Magna Electronics Inc. Vehicle vision system with enhanced lane tracking
US10300859B2 (en) 2016-06-10 2019-05-28 Magna Electronics Inc. Multi-sensor interior mirror device with image adjustment
US10102435B2 (en) * 2016-08-10 2018-10-16 Omnivision Technologies, Inc. Lane departure warning system and associated methods
CN106407893B (zh) * 2016-08-29 2019-11-22 东软集团股份有限公司 一种检测车道线的方法、装置和设备
IT201600094858A1 (it) * 2016-09-21 2018-03-21 St Microelectronics Srl Procedimento per un cross traffic alert avanzato a basso costo, corrispondente sistema di elaborazione, sistema per cross traffic alert e veicolo
CN106885523B (zh) * 2017-03-21 2019-03-08 浙江零跑科技有限公司 一种车辆路径跟随误差视觉测量优化方法
JP6889005B2 (ja) * 2017-04-05 2021-06-18 株式会社Soken 道路パラメータ推定装置
CN108090456B (zh) * 2017-12-27 2020-06-19 北京初速度科技有限公司 识别车道线模型的训练方法、车道线识别方法及装置
US10404909B1 (en) * 2018-04-18 2019-09-03 Ford Global Technologies, Llc Measurements via vehicle sensors
JP6697522B2 (ja) * 2018-09-28 2020-05-20 株式会社Subaru 区画線認識装置
CN109559334A (zh) * 2018-11-23 2019-04-02 广州路派电子科技有限公司 基于卡尔曼滤波器的车道线追踪方法
JP7180536B2 (ja) * 2019-05-24 2022-11-30 トヨタ自動車株式会社 車両
US11968639B2 (en) 2020-11-11 2024-04-23 Magna Electronics Inc. Vehicular control system with synchronized communication between control units
DE102020131130A1 (de) 2020-11-25 2022-05-25 Valeo Schalter Und Sensoren Gmbh Fahrbahnmarkierungsdetektion
EP4053662B1 (en) * 2021-03-01 2023-06-07 Volvo Truck Corporation A low-speed maneuvering assistant for a vehicle
CN113911122B (zh) * 2021-11-09 2023-12-22 河南交投通汇高速公路有限责任公司 道路预警方法、装置、设备和车辆

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4828061A (en) * 1988-06-27 1989-05-09 General Motors Corporation Closed-loop four wheel steering system having dual response rate rear steering
FR2679357B1 (fr) * 1991-07-19 1997-01-31 Matra Sep Imagerie Inf Dispositif embarque et procede de reperage et de suivi de la position d'un vehicule sur la route et dispositif d'aide a la conduite en comportant application.
US5351044A (en) * 1992-08-12 1994-09-27 Rockwell International Corporation Vehicle lane position detection system
JP3424334B2 (ja) 1994-06-21 2003-07-07 日産自動車株式会社 走行路検出装置
DE19507956C2 (de) * 1995-03-07 2002-11-07 Daimler Chrysler Ag Einrichtung zur Bestimmung des Fahrzeugabstandes von einer seitlichen Fahrbahnmarkierung
US6092018A (en) * 1996-02-05 2000-07-18 Ford Global Technologies, Inc. Trained neural network engine idle speed control system
JP3556766B2 (ja) * 1996-05-28 2004-08-25 松下電器産業株式会社 道路白線検出装置
EP0827127B1 (en) * 1996-08-28 2006-10-04 Matsushita Electric Industrial Co., Ltd. Local positioning apparatus, and method therefor
JP3740785B2 (ja) 1997-04-28 2006-02-01 日産自動車株式会社 自動操舵装置
JPH1123291A (ja) 1997-07-04 1999-01-29 Nissan Motor Co Ltd 車両用画像処理装置
JP3882304B2 (ja) 1997-07-04 2007-02-14 日産自動車株式会社 自動走行用自車位置検出装置
JP3358709B2 (ja) * 1997-08-11 2002-12-24 富士重工業株式会社 車両用運転支援装置
JP3644211B2 (ja) 1997-09-24 2005-04-27 日産自動車株式会社 車両の自動操舵装置
DE19749086C1 (de) * 1997-11-06 1999-08-12 Daimler Chrysler Ag Vorrichtung zur Ermittlung fahrspurverlaufsindikativer Daten
JP3319383B2 (ja) 1998-03-11 2002-08-26 株式会社豊田中央研究所 走行路認識装置
JP3319399B2 (ja) 1998-07-16 2002-08-26 株式会社豊田中央研究所 走行路認識装置

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005149023A (ja) * 2003-11-13 2005-06-09 Mitsubishi Electric Corp 走行支援装置
JP2006285493A (ja) * 2005-03-31 2006-10-19 Daihatsu Motor Co Ltd 道路モデル推定装置及び道路モデル推定方法
US8526681B2 (en) 2007-07-17 2013-09-03 Toyota Jidosha Kabushiki Kaisha On-vehicle image processing device for vehicular control
KR101071732B1 (ko) * 2007-12-17 2011-10-11 현대자동차주식회사 차량 주행속도 제어 장치 및 그 방법
JP2009211715A (ja) * 2009-05-29 2009-09-17 Clarion Co Ltd 車線位置検知システム
WO2012039496A1 (ja) 2010-09-24 2012-03-29 トヨタ自動車株式会社 走路推定装置及びプログラム
US8948455B2 (en) 2010-09-24 2015-02-03 Toyota Jidosha Kabushiki Kaisha Travel path estimation apparatus and program
US9280712B2 (en) 2012-03-19 2016-03-08 Nippon Soken, Inc. Apparatus and method for recognizing a lane
JP2015170126A (ja) * 2014-03-06 2015-09-28 株式会社豊田中央研究所 パラメータ学習装置、運転支援装置、及びプログラム
US9789877B2 (en) 2014-03-28 2017-10-17 Denso Corporation Information transmitter
JP2016199196A (ja) * 2015-04-14 2016-12-01 株式会社日本自動車部品総合研究所 走行路推定装置
JP2017105260A (ja) * 2015-12-07 2017-06-15 株式会社豊田中央研究所 走路パラメータ推定装置及びプログラム
US10108865B2 (en) 2015-12-16 2018-10-23 Toyota Jidosha Kabushiki Kaisha Information calculation device
CN108073167A (zh) * 2016-11-10 2018-05-25 深圳灵喵机器人技术有限公司 一种基于深度相机与激光雷达的定位与导航方法
JP2019101671A (ja) * 2017-11-30 2019-06-24 いすゞ自動車株式会社 情報処理装置及び情報処理システム
JP6992452B2 (ja) 2017-11-30 2022-01-13 いすゞ自動車株式会社 情報処理装置及び情報処理システム
JP2019101821A (ja) * 2017-12-04 2019-06-24 株式会社豊田中央研究所 走路推定装置及びプログラム
JP2020060936A (ja) * 2018-10-10 2020-04-16 株式会社Soken 道路形状認識装置
US11120277B2 (en) 2018-10-10 2021-09-14 Denso Corporation Apparatus and method for recognizing road shapes
JP7144271B2 (ja) 2018-10-10 2022-09-29 株式会社Soken 道路形状認識装置
JP2022001462A (ja) * 2020-06-22 2022-01-06 株式会社Soken 道路形状認識装置
JP7323493B2 (ja) 2020-06-22 2023-08-08 株式会社Soken 道路形状認識装置

Also Published As

Publication number Publication date
DE60102195T2 (de) 2005-02-03
DE60102195D1 (de) 2004-04-08
EP1193661B1 (en) 2004-03-03
EP1193661B2 (en) 2007-11-07
EP1193661A1 (en) 2002-04-03
US20020042668A1 (en) 2002-04-11
JP3521860B2 (ja) 2004-04-26
DE60102195T3 (de) 2008-05-08
US6823241B2 (en) 2004-11-23

Similar Documents

Publication Publication Date Title
JP3521860B2 (ja) 車両の走行路認識装置
US7085633B2 (en) System and method for improving vehicle operator driving assistance of automotive vehicle
JP6682833B2 (ja) 物体認識アルゴリズムの機械学習のためのデータベース構築システム
JP6770393B2 (ja) トラッキング装置及びプログラム
Wu et al. The heterogeneous systems integration design and implementation for lane keeping on a vehicle
US6535114B1 (en) Method and apparatus for environment recognition
US6850628B2 (en) Lane recognition apparatus for vehicle
JP3729095B2 (ja) 走行路検出装置
US8630806B1 (en) Image processing for vehicle control
JP2019517089A (ja) 地面マーキングを認識するための画像処理方法、および地面マーキングを検出するためのシステム
CN110956069B (zh) 一种行人3d位置的检测方法及装置、车载终端
CN112639849A (zh) 路径选择方法和路径选择装置
JP6432468B2 (ja) 車両制御装置及び走路推定方法
KR102373492B1 (ko) 자체적으로 생성된 정보 및 다른 개체에 의해 생성된 정보를 선택적으로 사용하여 카메라의 오정렬을 보정하는 방법 및 이를 이용한 장치
JP2018063476A (ja) 運転支援装置、運転支援方法及び運転支援用コンピュータプログラム
JP2019003606A (ja) 地図変化点検出装置
CN112150805B (zh) 一种可行驶区域的确定方法、装置、设备及存储介质
US20210012119A1 (en) Methods and apparatus for acquisition and tracking, object classification and terrain inference
JP2019066302A (ja) 対象物推定装置
Lee et al. A vision based lane departure warning system
US6956959B2 (en) Apparatus for recognizing environment
JP3911983B2 (ja) 後方監視装置
CN106408593A (zh) 一种基于视频的车辆跟踪方法及装置
Bellino et al. Lane detection algorithm for an onboard camera
JP6488226B2 (ja) 走路パラメータ推定装置及びプログラム

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040120

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040202

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080220

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090220

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090220

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100220

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100220

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110220

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120220

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120220

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130220

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130220

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140220

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees