JP3941252B2 - 車両の位置検出装置 - Google Patents
車両の位置検出装置 Download PDFInfo
- Publication number
- JP3941252B2 JP3941252B2 JP22438598A JP22438598A JP3941252B2 JP 3941252 B2 JP3941252 B2 JP 3941252B2 JP 22438598 A JP22438598 A JP 22438598A JP 22438598 A JP22438598 A JP 22438598A JP 3941252 B2 JP3941252 B2 JP 3941252B2
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- detecting
- image
- travel locus
- determined
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000001514 detection method Methods 0.000 title claims description 42
- 238000012937 correction Methods 0.000 claims description 17
- 238000010586 diagram Methods 0.000 description 33
- 238000000034 method Methods 0.000 description 20
- 238000005259 measurement Methods 0.000 description 11
- 230000014509 gene expression Effects 0.000 description 10
- 238000012545 processing Methods 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000005856 abnormality Effects 0.000 description 2
- 230000002411 adverse Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000012886 linear function Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000005282 brightening Methods 0.000 description 1
- 230000000593 degrading effect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000005562 fading Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60T—VEHICLE BRAKE CONTROL SYSTEMS OR PARTS THEREOF; BRAKE CONTROL SYSTEMS OR PARTS THEREOF, IN GENERAL; ARRANGEMENT OF BRAKING ELEMENTS ON VEHICLES IN GENERAL; PORTABLE DEVICES FOR PREVENTING UNWANTED MOVEMENT OF VEHICLES; VEHICLE MODIFICATIONS TO FACILITATE COOLING OF BRAKES
- B60T2201/00—Particular use of vehicle brake systems; Special systems using also the brakes; Special software modules within the brake system controller
- B60T2201/08—Lane monitoring; Lane Keeping Systems
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60T—VEHICLE BRAKE CONTROL SYSTEMS OR PARTS THEREOF; BRAKE CONTROL SYSTEMS OR PARTS THEREOF, IN GENERAL; ARRANGEMENT OF BRAKING ELEMENTS ON VEHICLES IN GENERAL; PORTABLE DEVICES FOR PREVENTING UNWANTED MOVEMENT OF VEHICLES; VEHICLE MODIFICATIONS TO FACILITATE COOLING OF BRAKES
- B60T2201/00—Particular use of vehicle brake systems; Special systems using also the brakes; Special software modules within the brake system controller
- B60T2201/08—Lane monitoring; Lane Keeping Systems
- B60T2201/089—Lane monitoring; Lane Keeping Systems using optical detection
Landscapes
- Navigation (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
Description
【発明の属する技術分野】
本発明は車両の位置検出装置に関するものである。
【0002】
【従来の技術】
走行路上における車両位置、例えば走行領域を示す車線区分線に対する車両の位置(横位置)を検出するために、カメラによって車両の横方向を撮像して、撮像された画像上での車線区分線の位置から、車線区分線と車両との実際の横方向距離を決定することが行われている。特開昭64−6115号公報には、車両横方向を撮像するカメラから得られる画像に基づいて、車両のヨー角を決定することが提案されている。
【0003】
【発明が解決しようとする課題】
ところで、カメラ等の車両周囲環境を検出するセンサからの信号に基づいて、走行路上での車両位置を決定する場合、車体やセンサの振動によって計測誤差を生じやすいものとなる。また、センサによって得られる検出値(センサがカメラの場合は撮像された画像)にノイズが多く含まれて、車両の位置決定を精度よく行えない場合も生じやすいものとなる(計測の信頼性低下)。特に、車線区分線としての白線は、汚れやかすれなどが発生していることが多く、局所的な誤差を生じやすいものとなる。
【0004】
本発明は以上のような事情を勘案してなされたもので、その目的は、車体、位置検出用センサの振動に伴う計測誤差や、車線区分線の汚れ等に起因する計測の信頼性低下を補償して、車両位置をより高精度かつ高い信頼性でもって得られるようにした車両の位置検出装置を提供することにある。
【0005】
【課題を解決するための手段】
前記目的を達成するため、本発明はその第1の解決手法として次のようにしてある。すなわち、特許請求の範囲における請求項1に記載のように、
走行路上における車両の位置に関する情報を検出する位置検出センサと、
前記位置検出センサからの出力に基づいて、車両の位置を決定する位置決定手段と、
道路形状を検出する道路形状検出手段と、
車速を検出する車速検出手段と、
車両に発生しているヨーレートを検出するヨーレート検出手段と、
前記道路形状検出手段で検出された道路形状と前記車速検出手段で検出された車速と前記ヨーレート検出手段で検出されたヨーレートとから、車両の走行軌跡を決定する走行軌跡決定手段と、
前記走行軌跡決定手段で決定された走行軌跡に基づいて、前記位置決定手段で決定された車両の位置を補正する補正手段と、
を備え、
前記位置決定手段で検出された車両位置の履歴と前記走行軌跡決定手段で決定された走行軌跡とのマッチングができない走行状態のときは、前記補正手段による補正が禁止される、
ようにしてある。
【0006】
前記目的を達成するため、本発明はその第2の解決手法として次のようにしてある。すなわち、特許請求の範囲における請求項2に記載のように、
走行路上における車両の位置に関する情報を検出する位置検出センサと、
前記位置検出センサからの出力に基づいて、車両の位置を決定する位置決定手段と、
道路形状を検出する道路形状検出手段と、
車速を検出する車速検出手段と、
車両に発生しているヨーレートを検出するヨーレート検出手段と、
前記道路形状検出手段で検出された道路形状と前記車速検出手段で検出された車速と前記ヨーレート検出手段で検出されたヨーレートとから、車両の走行軌跡を決定する走行軌跡決定手段と、
前記走行軌跡決定手段で決定された走行軌跡に基づいて、前記位置決定手段で決定された車両の位置を補正する補正手段と、
を備え、
前記位置決定手段で検出された車両位置の履歴と前記走行軌跡決定手段で決定された走行軌跡との差が所定以上のときは、前記位置決定手段による車両の位置決定および前記補正手段による補正が中止される、
ようにしてある。
前記第1および第2の解決手法を前提とした好ましい態様は、特許請求の範囲における 請求項3に記載のとおりである。
【0007】
【発明の効果】
請求項1あるいは請求項2によれば、センサを利用して得られた累積誤差を生じにくい車両位置を、局所的な誤差を生じにくい理論的な走行軌跡で補正して、車両位置を最終的に高精度かつ信頼性の高いものとして得ることができる。
特に、請求項1によれば、補正による悪影響を防止する上で好ましいものとなる。
また、請求項2によれば、車両位置決定が正しく行われない事態の発生を、センサにより決定された位置と理論的な走行軌跡との差を比較することにより容易に判別して、車両位置を大きく誤った状態で決定してしまう事態を防止する上で好ましいものとなる。
さらに、請求項3によれば、理論的な走行軌跡が十分得られない状態でもって補正を行うことを禁止して、補正による悪影響を防止する上で好ましいものとなる。
【0008】
【発明の実施の形態】
図1〜図7の説明
図1において、車両としての自動車1の側面には、位置検出用センサとしてのカメラ(実施形態ではビデオカメラ)2が設置されている。このカメラ2は、横方向でかつ下方の路面状況を撮像するものとなっており、より具体的には自動車1の横方向にある車線区分線(図面では白線として記載)3を撮像するためのものとなっている、図1では、自動車1の左側面にのみカメラ2を設けた場合が示されるが、右側面にも同様にカメラ2が設けられているものである(右側方撮像用)。カメラ2で撮像された画像(車線区分線の画像)から、自動車1と撮像されている車線区分線3との間の横方向距離(相対距離)Yが、後述のようにして決定される。
【0009】
図2には、自動車1と車線区分線3との距離決定と、決定された距離に基づいて所定の安全制御を行うための制御系統がブロック図的に示される。この図2において、Uはマイクロコンピュ−タを利用して構成された制御ユニット(コントロ−ラ)であり、この制御ユニットUは、横位置決定部4と、車線逸脱判断部5とを有する。横位置決定部4は、基本的にカメラ2で撮像された車線区分線の画像から、自動車1と車線区分線3との横方向距離を決定する。また、横位置決定部4は、後述するように、検出手段としてのセンサZ1〜Z3から得られる車速とヨーレートと道路形状(道路の曲率半径)とに基づいて、自動車1の走行軌跡を決定して、この決定された走行軌跡に基づいて、カメラ2を利用して得られた横位置を補正する。なお、道路形状を検出するセンサZ3は、車両外部から発信される道路形状情報を受信するものとされており、道路形状情報の発信源としては、ナビゲーション(人工衛星)、道路に埋め込まれた磁気ネイル、道路脇に設置された発信アンテナ等がある。
【0010】
車線逸脱判断部5は、横位置決定部4で決定された横位置(横方向距離Yを補正した後のy)に基づいて、現在の走行状況からして自動車1が車線区分線3を逸脱する可能性を判断する。そして、車線逸脱判断部5によって、車線逸脱の可能性が高いと判断されたときは、ブザー等の警報器6が作動され、車線逸脱の可能性が極めて高いときはブレーキ7が自動作動されて自動車1が減速される。なお、上記5〜7の構成要素は、自動車1と車線区分線3との横方向距離をどのように利用するかの例示のために記載されているものであり、上記横方向距離の利用の仕方はこれに限定されるものではない。
【0011】
次に、車速とヨーレート道路形状(曲率半径)とに基づいて、自動車1の走行軌跡を理論的に求める場合について説明する。いま、車線区分線3に対する直交方向での自動車1の横偏差をy(t)、ヨー角をθ(t)、サンプリング間隔を△tとすると、横偏差y(t)は式1に示すように、またヨー角θ(t)は式2に示すように、ヨーレートr(t)、車速v(t)、道路曲率半径R(t)を用いた漸化式で示される(tは時間)。なお、横偏差の初期値y0はy(t0)であり、ヨー角の初期値θ0はθ(t0)である。
【0012】
【数1】
【0013】
上記式1、式2の関係を用いて、時間T1からT2までの所定時間DTの間での横偏差の履歴S1を計算すると、例えば図3のようになる。一方、カメラ2の画像から計測した横偏差の履歴S2は、例えば図4に示すようになる。なお、図3、図4でのSは、自動車1の真の横偏差履歴である。上記履歴S1は、上記漸化式の初期値誤差、センサ信号の累積誤差のために、真の履歴Sとは一致しないことが多い。また、履歴S2は、カメラ2の振動や車線区分線3の汚れ、かすれ等による計測誤差のために、真の履歴Sと一致しないことが多い。
【0014】
上記2つの履歴S1とS2とのマッチングをとることにより、真の横偏差履歴Sが推定される。このマッチングにより、初期値誤差、累積誤差、計測誤差(ばらつき)が除去されて、高精度かつ信頼性の高い横偏差計測を行うことが可能となる。上記マッチングの手法としては、例えば、履歴S1とS2との誤差を最小にする初期値y0、θ0を最小自乗法により求め、求められた初期値y0、θ0と式1、式2から計算した横偏差を、現在の横偏差yとして決定(推定)される。このようにして決定された横偏差yが、図2の車線逸脱部5での判断用として用いられる。
【0015】
マッチング処理の対象とする時間幅DTが長くなると、S1に含まれる累積誤差が大きくなる。累積誤差が大きくなり過ぎるのを防止するために、センサ仕様から計算される累積誤差予想値とDTとの関係を例えば図6に示すようにあらかじめ求め、累積誤差がしきい値Aと等しくなる時間幅をDTとして用いるようにすることができる。なお、しきい値Aは、例えばビデオカメラ2による計測の誤差最大値の数分の1にする等の方法で決定することができる。
【0016】
走行開始直後においては、履歴のデータがないためマッチングの処理は行わずに、カメラ2による計測結果をそのまま最終的な横偏差(横方向位置)として決定すればよい。また、S1とS2との誤差が大きくなりすぎたとき、例えばS1とS2との誤差の最小値が所定のしきい値を越えたときは、カメラ2やセンサZ1〜Z3の異常等が考えられるので、この場合は位置決定を中止して、システム異常を示すフェイル信号を出力することができる。
【0017】
前述した制御内容を図7のフロ−チャ−トを参照しつつ説明するが、このフロ−チャ−トは図2の横位置決定部4での制御内容に相当する。なお、以下の説明でQはステップを示す。まず、Q1において、履歴計測時間DTが設定された後、Q2において、カメラ2で撮像された車線区分線3の画像が入力される。次いで、Q3において、画像上において、車線区分線に対する横偏差Yが検出(計測)される。
【0018】
Q4では、走行開始後、DT以上の時間が経過したか否かが判別される。このQ4の判別でYESのときは、Q5において、センサZ1〜Z3からの信号、つまり車速vと、ヨーレートrと、道路曲率半径Rとが読み込まれる。Q6では、車速vとヨーレートrと道路曲率半径Rとから、式1、式2を用いて、横偏差y′の履歴(S1)が演算される。Q7では、2つの履歴y′とYとのマッチングにより、初期値y0、θ0が決定される。Q8においては、マッチングの誤差が所定のしきい値よりも大きいか否かが判別される。Q8の判別でNOのときは、Q9において、上記初期値y0、θ0を用いて、式1、式2により、現在の横偏差yが演算される。この後、Q10において、横偏差yが車線逸脱判断部5へ出力される。
【0019】
前記Q4の判別でNOのときは、Q11において、カメラ2を用いて決定された横偏差Yが、そのまま最終的な横偏差yとして設定された後、Q10へ移行する。前記Q8の判別でYESのときは、Q12において、横位置決定の処理が中断(中止)されると共に、ランプ、ブザー等の警報器が作動される。
【0020】
以上の説明から理解されるように、図2において、横位置決定部4が、特許請求の範囲における請求項1での位置決定手段と、走行軌跡決定手段と、補正手段とを構成する。また、図7においては、Q3が位置決定手段となり、Q6が走行軌跡決定手段となり、Q7、Q9が補正手段となる。
【0021】
図8〜図10の説明
図8〜図10は、車体のロール角変動を補償して、横方向位置を精度よく検出するための手法を示すものである(図7のQ3での横方向距離Yそのものを高精度に決定)。まず、図8において、車線区分線が、互いに所定の小間隔を有する2本によって構成され、その所定間隔Dは既知とされている(Dは真の値)。また、自動車1(の車体)が、車線区分線3の方へθだけロールされている。図8の状態において、カメラ2で撮像された2本の車線区分線3のエッジが、図9のように示される。この場合、近い方の車線区分線3に対する自動車1の実際の横方向位置はa1であり、遠い方の車線区分線3に対する実際の横方向位置はa2であるが、ロールによりa1をb1として、またa2をb2として誤計測してしまう。
【0022】
図9は、図8を幾何学的に示したもので、カメラ2の高さ位置hは、ロール変動にかかわらず一定とみなしてある。この図9の幾何学関係において、以下に示す式3〜式6が成立する。2本の車線区分線3の間隔Dが真の値として既知なので、式3、式4より、以下に示す式5が成立する。式1、式2、式5より、θ、φ1、φ2を数値計算などにより求めることにより、ロール角θが求められる。求められたロール角θとφ1を用いることで、真の横偏差a1は、以下の式8により求められる。
【0023】
【数2】
【0024】
真の値としての間隔Dは、自動車1の横方向片側に位置する2本の車線区分線3の間隔に限らず、1本の車線区分線3の自動車1に近い側と遠い側とのエッジ部同士の間隔でもよく、また、自動車1を挟んで自動車1の左右に位置する2本の車線区分線3同士の間隔でもよい。なお、前記各式2〜式8による演算(図2の横位置決定部4での演算内容)が、特許請求の範囲における請求項8でのロール角決定手段、補正手段の内容を示すものとなる。
【0025】
図11〜図14の説明
図11〜図14は、車体のヨー角変動を補償して、横方向位置を精度よく検出するための手法を示すものである(図7のQ3での横方向距離Yそのものを高精度に決定)。まず、図11において、自動車1の車体前後方向中心線が車線区分線3に対してθだけ傾いていると(ヨー角がθ)、実際の横方向位置がYであるのに対して、カメラ2で得られる画像に基づいて得られる横方向位置は、Yとは異なるY′を計測してしまうことになる。カメラ2により得られる画像は、図12に示すようになるが、上記実際の横方向位置Yは、画面の基準点に対してもっとも近い距離である。図12に示すように、画像上の基準点(カメラ2の基準位置)から画像上の車線区分線3に対して垂線を下ろすことにより、この垂線上の距離が最小距離Yとなる(最小距離決定の一手法)。
【0026】
また、図13に示すように、上記基準点を中心として、画像上での車線区分線3に対しての距離を全て計測していくと(走査角度φの変更)、図14のようになり、図14上での最小距離が実際の距離Yとなる(最小距離決定の別の手法)。さらに、図12での画像上におけるXY軸平面上における車線区分線3を1次関数として決定して、この決定された1次関数から最小距離Yを決定するようにすることもできる((最小距離決定のさらに別の手法)。
【0027】
図15、図16の説明
図15、図16は、車線区分線3の汚れやかすれにより生じる横方向位置の誤計測を防止あるいは抑制する手法を示し、図2の横位置決定部4でのカメラ2で得られる画像からの横位置決定の手法に相当する。
【0028】
まず、図11に示すように、車線区分線3に対して自動車1がヨー角θだけ傾いている場合を想定して、カメラ2により得られる画像上での車線区分線3の傾き方向(ヨー角θ)が、例えば前述した式2を用いて決定される。図15の部分拡大図が図16に示されるが、車線区分線3は汚れやかすれによって、画像上において部分的に欠落して示されることになる。この図16において、欠落部分での横方向距離を計測すると、実際の横方向距離よりも長い距離yを計測してしまうことになる。
【0029】
2値化(明暗化)後に、車線区分線3の伸び方向に濃度ヒストグラムを作成すると、欠落部分が補償されて車線区分線3の位置する部分が大きなピーク値を示すものが得られる。この大きなピーク値とそうでない部分との境界位置を示す図16の符号Pで示す位置は、画像上の車線区分線3のうち自動車1に近い側のエッジ位置を示すことになる。したがって、位置Pを通り、ヨー角θより求めた車線区分線3の傾きを持つ線が、正しい車線区分線3の位置となる。したがて、正しい車線区分線3の位置と画像上の車線区分線探索ウインドの中央線との交点を求めることによって、車線区分線までの横方向距離がy′として得られることになる(欠落部分が存在しないように車線区分線3が推定されて、推定された車線区分線3により横方向距離が計測される)。
【0030】
図17〜図22の説明
図17〜図22は、路面ノイズが存在したり低コントラストのときに、画像上での車線区分線3を明確に認識できるようにしたものである(2値化のためのしきい値の好ましい設定手法)。まず、図17の(a)は、ノイズが少なくかつコントラストが十分なときに得られる画像濃度状態であり、車線区分線3を識別するための2値化のしきい値設定が極めて容易な場合を示す(理想的な画像状態)。また、図17の(b)はノイズがあるときの画像濃度状態であり、図17の(c)は低コントラストのときの画像濃度状態である。この図17の(b)、(c)から明らかなように、ノイズがあるときや低コントラストのときは、画像上での車線区分線3を認識するための2値化のためのしきい値設定が極めて難しい状況となる。
【0031】
一方、図18〜図19は、図17の(a)〜(c)での濃度画像から得られた微分ヒストグラムである。図18は図17の(a)に対応し、図19は図17の(b)に対応し,図20は図17の(c)に対応する。なお、微分ヒストグラムは、ある濃度における微分値の総和を求めるものであり、例えば全画素xに対してSDを微分値の総和とすると、以下の式9により得られるものである。
【0032】
【数3】
【0033】
次に、微分ヒストグラムSD濃度に対して、しきい値Tで2つのクラスに分割する。この際、2つのクラスの平均の分散と各クラスの分散の和との比を最大にするようにすれば、しきい値Tが常に自動的に決定できることになる。いま、全画素の平均をMとし、T=kとしたときの各クラスの値を図21のようにしたとき、各クラスの分散の和は次の式10のようになり、クラス間の分散は次の式11のようになる。
【0034】
【数4】
【0035】
「クラス間の分散/各クラスの分散の和」を最大にするには、クラス間の分散を最大にするT=kを求めればよいことになる。図22のフロ−チャ−トは、上述の手法でTを決定する手順を示すものである。勿論、この決定されたしきい値Tでもってカメラ2から得られた画像が2値化されて、車線区分線3が画像上において明確に識別されることになる。
【0036】
図23〜図26の説明
図23〜図26は、車線区分線3と、その付近において路面に表示されている制限速度表示等の路面表示とを識別して、車線区分線3までの横方向距離を精度よく計測するための手法を示すものである。このため、基本的に、同じ位置を撮像する2つのカメラ2が用いられる(図1のカメラ2が2台存在する)。一方のカメラで路面の明るさに応じて長時間露光させるが、図25に示すように、路面が明るいほどシャッター速度が小さくされる(通常のシャッター速度よりは小さくされる)。また、他方のカメラでは、車速に応じた短時間露光を行うが、図26に示すように、車速が大きいほどシャッター速度が小さくされる。
【0037】
長時間露光により得られる画像は、図23に示すように、路面表示に影響されない車線区分線を識別するための2値化のしきい値Tの設定が容易となる。そして、しきい値Tでもって2値化された後の車線区分線のエッジ位置がx0として決定される。ただし、位置x0は、長時間露光であるためにエッジ部がぼけた状態での車線区分線に基づいており、位置x0が正確に横方向距離を示すものとはなり難い。一方、短時間露光で得られた画像は、車線区分線等のエッジ部を明確に示すものの、図24に示すように、車線区分線と路面表示とが明確に識別しにくいものとなる。そこで、短時間露光で得られた画像上において、その2値化後に、長時間露光で得られた位置x0にもっとも近い位置xを選択して、この選択された位置xが最終的な横方向距離を示す位置とされる。
【0038】
図27、図28の説明
図27、図28は、短時間露光と長時間露光との2つの画像を利用して、車線区分線3のかすれや汚れによる部分的な欠落を補償して、横方向距離を精度よく計測するようにした例を示す。まず、図27には、長時間露光により得られた画像から、車線区分線3のエッジ部(ぼけている)の位置がx0として決定される。図28には、短時間露光により得られた車線区分線の画像が示されるが、かすれ等により部分的に欠落がある。そこで、短時間露光により得られた画像上において、図28に示すように検出ラインを複数設定して、この複数の検出ライン上において上記位置x0にもっとも近い位置xが、最終的な横方向距離のための位置として決定される。
【0039】
図29〜図31の説明
図29〜図31は、図27、図28の例の変形例を示す。図30は、図28に対応するものであり、短時間露光により得られた画像である。なお、長時間露光により得られる画像は図27と同じなので、省略してある。図29は、長時間露光画像での位置x0における濃度値がv1として示され、濃度の最大値がv2として示される、そして、v1/v2が重み係数Wとして設定される。さらに、位置x0における濃度の傾きが、Rとて設定される。
【0040】
重み係数Wと傾きRとを用いれば、真の車線区分線(のエッジ部)位置が位置x0とどの程度離れているのかかが正確に推定される。すなわち、図28の例では、x0にもっとも近い位置xが最終的に選択されるが、図30のxtで示すように、真の車線区分線に近い位置を最終決定することができる。本例によれば、WとRとを基準にして探索範囲を絞ることも可能となり、処理の高速化の上でも好ましいものとなる。
【0041】
図31は、上記重み係数Wと傾きRとを用いて最終的に位置xtを選択するまでの具体的な手法を示すフロ−チャ−トである。この図31のQ31において、長時間露光画像の2値化用のしきい値Tが設定される。Q32において、しきい値Tを用いて2値化した後の状態から、位置x0が決定される。Q33では、位置x0での濃度v1が求められる。Q34では、濃度の最大値v2とその位置x0′とが求められる。
【0042】
Q35では、v1とv2との比となる重み係数Wが算出される。Q36では、位置x0での濃度の傾きRが演算される。Q37では、WとRとが乗算される。画像上での各検出ラインのそれぞれについてWとRとの乗算値を得た後、Q38において、この乗算値を最大とする検出ライン上での位置xtが最終選択される。
【0043】
図32の説明
図32は、1つのカメラでもって、長時間露光画像と短時間露光画像とを得るための例を示すものである。まず、カメラ2としてCCDカメラが用いられる。11は、カメラ駆動回路であり、シャッター速度切替部12と、2つのタイミングICと、シャッター制御部15と、画像読み出し部16とを有する。タイミングIC13は、画像の偶数フィールド用(または奇数フィールド用)であり、長時間露光用のシャッター速度を設定する(例えば1/100秒)。タイミングIC14は、画像の奇数フィールド用(または偶数フィールド用)であり、短時間露光用のシャッター速度を設定する(例えば1/300秒)。制御部15は、所定時間(例えば1/60秒)毎に、タイミングIC13と14との設定速度でもって交互にシャッターを切らせるように制御する。画像読出し部16での画像読み出し(例えば1/60秒毎)と同期してシャッター速度の切替えが行われ、これにより、偶数フィールドには長時間露光画像が得られ、奇数フィールドには短時間露光画像が得られる。なお、フレーム(実施形態では1/30秒)毎の切換も可能であるため、時間分解能は1/2に低下するが、解像度は低下させずに1/15秒でシャッター時間の異なる2枚の画像を得ることが可能である。
【0044】
図33、〜図35の説明
図33〜図35は、自動車1の前後方向に隔置された2台のカメラ2A、2Bから得られる画像の相関処理によって、ヨー角θを検出すると共に、その処理速度を向上させるようにしたものである。まず、図33において、2台のカメラ2A、2Bの間隔が符号Wで示される。前方カメラ2Aで得られる画像が図34に、後方カメラ2Bで得られる画像が図35に示されるが、図35の破線が、前画像での車線区分線位置に相当する。
【0045】
画像の横方向(y方向)シフト量を相関処理により演算する。すなわち、画像全体に対して、次の式12に示す演算を行う(i=−y・・・・y)。そして得られたF(i)の最小値をとるiが、シフト量となる(車線区分線3に対する前方カメラ位置と後方カメラ位置との偏差に相当)。したがって、ヨー角θは、次の式13によって得られることになる。
【0046】
【数5】
【0047】
図36、図37の説明
図36、図37は、2つのカメラを用いて、検出レンジを拡大しつつ、車線区分線の認識の信頼性をも十分確保するようにしたものである。すなわち、図36に示すように、一方のカメラの視野を近い位置とし(視野1)、他方のカメラの視野を遠い位置とする(視野2で、視野1と連続するように設定)。視野1となる一方のカメラのみでもって視野2の範囲まで検出しようとすると、図37波線で示すように距離分解能が悪くなってしまう。一方のカメラのみでは距離分解能が悪くなる視野2を他方のカメラでもって分担することにより、全体として、視野1と視野2との広い検出レンジについて距離分解能を悪くすることなく撮像することが可能となる。
【0048】
図38、図39の説明
図38、図39は、2つのカメラを用いて、路面の反射状況にかかわらず車線区分線を明確に識別できるようにした例を示す。本例では、2台のカメラ共に、それぞれ偏向フィルタを通して撮像する。ただし、2つのカメラの間での偏向フィルタの偏向方向が互いに異なるように設定される(一方が縦偏向用、他方が横偏向用)。このように設定した場合、例えば一方のカメラで得られた画像の濃度分布おいて、図39に示すように路面反射によるノイズが大きいときでも、他方のカメラにより得られる画像の濃度分布は図38に示すようにノイズの少ないものとなる。ノイズの少ない方の濃度分布の画像を用いて、車線区分線を明確に識別(認識)することが可能となる。
【0049】
以上実施形態について説明したが、車両の周囲環境を検出するために用いるセンサとしては、カメラの他に、例えば赤外線レーダ等適宜のものを選択し得る。また、路面に、車線区分線以外に路面表示がある場合、この路面表示を車線区分線であると誤認識しないようにするため、次のようにすることもできる。すなわち、図3〜図7で説明したように、理論的な走行軌跡とカメラにより検出された前回の横方向位置(車線区分線位置)とから、今回の横方向位置を所定範囲に絞り込むことにより(予測)、この絞り込まれた範囲外にある路面表示を確実に除外して、車線区分線を精度よく認識することが可能となる。
【0050】
フロ−チャ−トに示す各ステップあるいはセンサ等の各種部材は、その機能の上位表現に手段の名称を付して表現することができる。また、本発明の目的は、明記されたものに限らず、実質的に好ましいあるいは利点として表現されたものを提供することをも暗黙的に含むものである。さらに、本発明は、位置検出方法として表現することも可能である。
【図面の簡単な説明】
【図1】自動車に搭載されたカメラと車線区分線とを示す平面図。
【図2】横位置決定のための制御系統図。
【図3】理論的に得られた走行軌跡の一例を示す図。
【図4】カメラ画像から得られた横方向位置の一例を示す図。
【図5】図3の走行軌跡と図4の横方向位置の履歴とのマッチングを示す図。
【図6】走行軌跡を演算する時間の設定例を説明するための図。
【図7】走行軌跡とカメラ画像から得られた横方向位置とに基づいて、最終的な横方向位置を決定するためのフロ−チャ−ト。
【図8】ロール角変動を加味した横方向位置を決定するための説明図。
【図9】画像上での2つの車線区分線を示す図。
【図10】図8を幾何学的に示す図。
【図11】ヨー角変動を加味した横方向位置を決定するための説明図。
【図12】ヨー角があるときに得られる画像から、横方向位置を決定する一例を示す図。
【図13】ヨー角があるときに得られる画像から、横方向位置を決定する別の例を示す説明図。
【図14】図13の例において、横方向位置を最終決定するときの説明図。
【図15】画像上の車線区分線に欠落部分があるときに、横方向位置を精度よく決定する一例を示す図。
【図16】図15の部分拡大図とその濃度ヒストグラムを示す図。
【図17】画像濃度の微分ヒストグラムを用いて横方向位置を精度よく検出する例を示す図。
【図18】画像の濃度分布が理想的な場合の微分ヒストグラムを示す図。
【図19】画像の濃度にノイズがある場合の微分ヒストグラムを示す図。
【図20】画像が低コントラストである場合の微分ヒストグラムを示す図。
【図21】微分ヒストグラムから2値化のためのしきい値を決定する場合の説明図。
【図22】図17に対応した制御例を示すフロ−チャ−ト。
【図23】長時間露光のときの画像と濃度とを示す図。
【図24】短時間露光のときの画像と濃度とを示す図。
【図25】長時間露光のときのシャッター速度設定例を示す図。
【図26】短時間露光のときのシャッター速度設定例を示す図。
【図27】長時間露光画像の一例を示す図。
【図28】図27の部分拡大図。
【図29】長時間露光画像での濃度分布を示す図。
【図30】短時間露光画像の部分拡大図。
【図31】図29の濃度分布を利用して横方向位置を精度よく決定するために用いるフロ−チャ−ト。
【図32】1つのカメラで、長時間露光画像と短時間露光画像とを得るための構成例を示す図。
【図33】2つのカメラを用いてヨー角を決定するための説明図。
【図34】図34の前方カメラから得られる画像を示す図。
【図35】図34の後方カメラから得られる画像を示す図。
【図36】2つのカメラ同士の間での視野を異ならる場合の例を示す図。
【図37】図36の設定例での各カメラの距離分解能を示す図。
【図38】偏向フィルタを用いて撮像する例を示す図。
【図39】図38の場合とは異なる偏向方向とされた偏向フィルタを用いて撮像する例を示す図。
【符号の説明】
1:自動車
2:カメラ
2A:カメラ
2B:カメラ
3:車線区分線
4:横位置決定部
Z1:車速センサ
Z2:ヨーレートセンサ
Z3:道路形状検出センサ
Claims (3)
- 走行路上における車両の位置に関する情報を検出する位置検出センサと、
前記位置検出センサからの出力に基づいて、車両の位置を決定する位置決定手段と、
道路形状を検出する道路形状検出手段と、
車速を検出する車速検出手段と、
車両に発生しているヨーレートを検出するヨーレート検出手段と、
前記道路形状検出手段で検出された道路形状と前記車速検出手段で検出された車速と前記ヨーレート検出手段で検出されたヨーレートとから、車両の走行軌跡を決定する走行軌跡決定手段と、
前記走行軌跡決定手段で決定された走行軌跡に基づいて、前記位置決定手段で決定された車両の位置を補正する補正手段と、
を備え、
前記位置決定手段で検出された車両位置の履歴と前記走行軌跡決定手段で決定された走行軌跡とのマッチングができない走行状態のときは、前記補正手段による補正が禁止される、
ことを特徴とする車両の位置検出装置。 - 走行路上における車両の位置に関する情報を検出する位置検出センサと、
前記位置検出センサからの出力に基づいて、車両の位置を決定する位置決定手段と、
道路形状を検出する道路形状検出手段と、
車速を検出する車速検出手段と、
車両に発生しているヨーレートを検出するヨーレート検出手段と、
前記道路形状検出手段で検出された道路形状と前記車速検出手段で検出された車速と前記ヨーレート検出手段で検出されたヨーレートとから、車両の走行軌跡を決定する走行軌跡決定手段と、
前記走行軌跡決定手段で決定された走行軌跡に基づいて、前記位置決定手段で決定された車両の位置を補正する補正手段と、
を備え、
前記位置決定手段で検出された車両位置の履歴と前記走行軌跡決定手段で決定された走行軌跡との差が所定以上のときは、前記位置決定手段による車両の位置決定および前記補正手段による補正が中止される、
ことを特徴とする車両の位置検出装置。 - 請求項1または請求項2において、
車両の走行開始から所定時間経過するまでは、前記補正手段による補正が禁止される、ことを特徴とする車両の位置検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP22438598A JP3941252B2 (ja) | 1998-08-07 | 1998-08-07 | 車両の位置検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP22438598A JP3941252B2 (ja) | 1998-08-07 | 1998-08-07 | 車両の位置検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000059764A JP2000059764A (ja) | 2000-02-25 |
JP3941252B2 true JP3941252B2 (ja) | 2007-07-04 |
Family
ID=16812929
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP22438598A Expired - Fee Related JP3941252B2 (ja) | 1998-08-07 | 1998-08-07 | 車両の位置検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3941252B2 (ja) |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10124730B2 (en) | 2016-03-17 | 2018-11-13 | Ford Global Technologies, Llc | Vehicle lane boundary position |
US11403069B2 (en) | 2017-07-24 | 2022-08-02 | Tesla, Inc. | Accelerated mathematical engine |
US11409692B2 (en) | 2017-07-24 | 2022-08-09 | Tesla, Inc. | Vector computational unit |
US11487288B2 (en) | 2017-03-23 | 2022-11-01 | Tesla, Inc. | Data synthesis for autonomous control systems |
US11537811B2 (en) | 2018-12-04 | 2022-12-27 | Tesla, Inc. | Enhanced object detection for autonomous vehicles based on field view |
US11562231B2 (en) | 2018-09-03 | 2023-01-24 | Tesla, Inc. | Neural networks for embedded devices |
US11561791B2 (en) | 2018-02-01 | 2023-01-24 | Tesla, Inc. | Vector computational unit receiving data elements in parallel from a last row of a computational array |
US11567514B2 (en) | 2019-02-11 | 2023-01-31 | Tesla, Inc. | Autonomous and user controlled vehicle summon to a target |
US11610117B2 (en) | 2018-12-27 | 2023-03-21 | Tesla, Inc. | System and method for adapting a neural network model on a hardware platform |
US11636333B2 (en) | 2018-07-26 | 2023-04-25 | Tesla, Inc. | Optimizing neural network structures for embedded systems |
US11665108B2 (en) | 2018-10-25 | 2023-05-30 | Tesla, Inc. | QoS manager for system on a chip communications |
US11681649B2 (en) | 2017-07-24 | 2023-06-20 | Tesla, Inc. | Computational array microprocessor system using non-consecutive data formatting |
US11734562B2 (en) | 2018-06-20 | 2023-08-22 | Tesla, Inc. | Data pipeline and deep learning system for autonomous driving |
US11748620B2 (en) | 2019-02-01 | 2023-09-05 | Tesla, Inc. | Generating ground truth for machine learning from time series elements |
US11790664B2 (en) | 2019-02-19 | 2023-10-17 | Tesla, Inc. | Estimating object properties using visual image data |
US11816585B2 (en) | 2018-12-03 | 2023-11-14 | Tesla, Inc. | Machine learning models operating at different frequencies for autonomous vehicles |
US11841434B2 (en) | 2018-07-20 | 2023-12-12 | Tesla, Inc. | Annotation cross-labeling for autonomous control systems |
US11893774B2 (en) | 2018-10-11 | 2024-02-06 | Tesla, Inc. | Systems and methods for training machine models with augmented data |
US11893393B2 (en) | 2017-07-24 | 2024-02-06 | Tesla, Inc. | Computational array microprocessor system with hardware arbiter managing memory requests |
US12014553B2 (en) | 2019-02-01 | 2024-06-18 | Tesla, Inc. | Predicting three-dimensional features for autonomous driving |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4389567B2 (ja) | 2003-12-03 | 2009-12-24 | 日産自動車株式会社 | 車線逸脱防止装置 |
US7050908B1 (en) * | 2005-03-22 | 2006-05-23 | Delphi Technologies, Inc. | Lane marker projection method for a motor vehicle vision system |
KR101297388B1 (ko) * | 2006-06-16 | 2013-08-19 | 삼성전자주식회사 | 위치 보정 기능을 제공하는 이동 장치 및 위치 보정 방법 |
JP5072533B2 (ja) * | 2007-10-25 | 2012-11-14 | アルパイン株式会社 | 運転支援装置および運転支援方法 |
JP5414673B2 (ja) * | 2008-07-07 | 2014-02-12 | 三菱電機株式会社 | 車両走行環境検出装置 |
JP5461065B2 (ja) * | 2009-05-21 | 2014-04-02 | クラリオン株式会社 | 現在位置特定装置とその現在位置特定方法 |
JP5493705B2 (ja) * | 2009-10-27 | 2014-05-14 | 富士通株式会社 | 車両位置検出装置、車両位置検出方法、及び車両位置検出プログラム |
CN103134494B (zh) * | 2012-12-05 | 2015-07-29 | 中国科学院深圳先进技术研究院 | 室内环境中的车辆导航方法和装置 |
JP6040788B2 (ja) * | 2013-01-30 | 2016-12-07 | トヨタ自動車株式会社 | 区画線信頼度判定装置および運転支援制御装置 |
CN103630122B (zh) * | 2013-10-15 | 2015-07-15 | 北京航天科工世纪卫星科技有限公司 | 一种单目视觉车道线检测方法及其测距方法 |
US9884623B2 (en) * | 2015-07-13 | 2018-02-06 | GM Global Technology Operations LLC | Method for image-based vehicle localization |
CN105447892B (zh) * | 2015-11-05 | 2018-04-17 | 奇瑞汽车股份有限公司 | 车辆偏航角的确定方法及装置 |
JP7139597B2 (ja) * | 2017-12-07 | 2022-09-21 | 株式会社豊田中央研究所 | 自己位置誤差推定装置及び自己位置誤差推定方法 |
CN110018503B (zh) * | 2018-01-10 | 2023-04-14 | 上海汽车集团股份有限公司 | 车辆的定位方法及定位系统 |
JP2019145039A (ja) * | 2018-02-23 | 2019-08-29 | Cyberdyne株式会社 | 自走式ロボットおよび自走式ロボットの制御方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2606203B2 (ja) * | 1987-03-03 | 1997-04-30 | 株式会社デンソー | 車両の走行方向異常警告装置 |
JP3321927B2 (ja) * | 1993-09-22 | 2002-09-09 | いすゞ自動車株式会社 | 車線逸脱警報装置 |
JPH07329743A (ja) * | 1994-06-03 | 1995-12-19 | Mitsubishi Heavy Ind Ltd | 無人搬送車の逸走検知装置 |
JP3670089B2 (ja) * | 1995-10-31 | 2005-07-13 | 本田技研工業株式会社 | 自動ステアリング制御装置 |
JP3402054B2 (ja) * | 1996-03-05 | 2003-04-28 | 三菱自動車工業株式会社 | 道路白線認識装置 |
JPH10111136A (ja) * | 1996-10-04 | 1998-04-28 | Toyota Motor Corp | 車両姿勢検出装置 |
-
1998
- 1998-08-07 JP JP22438598A patent/JP3941252B2/ja not_active Expired - Fee Related
Cited By (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10124730B2 (en) | 2016-03-17 | 2018-11-13 | Ford Global Technologies, Llc | Vehicle lane boundary position |
US11487288B2 (en) | 2017-03-23 | 2022-11-01 | Tesla, Inc. | Data synthesis for autonomous control systems |
US12020476B2 (en) | 2017-03-23 | 2024-06-25 | Tesla, Inc. | Data synthesis for autonomous control systems |
US11681649B2 (en) | 2017-07-24 | 2023-06-20 | Tesla, Inc. | Computational array microprocessor system using non-consecutive data formatting |
US11403069B2 (en) | 2017-07-24 | 2022-08-02 | Tesla, Inc. | Accelerated mathematical engine |
US11409692B2 (en) | 2017-07-24 | 2022-08-09 | Tesla, Inc. | Vector computational unit |
US11893393B2 (en) | 2017-07-24 | 2024-02-06 | Tesla, Inc. | Computational array microprocessor system with hardware arbiter managing memory requests |
US11561791B2 (en) | 2018-02-01 | 2023-01-24 | Tesla, Inc. | Vector computational unit receiving data elements in parallel from a last row of a computational array |
US11797304B2 (en) | 2018-02-01 | 2023-10-24 | Tesla, Inc. | Instruction set architecture for a vector computational unit |
US11734562B2 (en) | 2018-06-20 | 2023-08-22 | Tesla, Inc. | Data pipeline and deep learning system for autonomous driving |
US11841434B2 (en) | 2018-07-20 | 2023-12-12 | Tesla, Inc. | Annotation cross-labeling for autonomous control systems |
US11636333B2 (en) | 2018-07-26 | 2023-04-25 | Tesla, Inc. | Optimizing neural network structures for embedded systems |
US11983630B2 (en) | 2018-09-03 | 2024-05-14 | Tesla, Inc. | Neural networks for embedded devices |
US11562231B2 (en) | 2018-09-03 | 2023-01-24 | Tesla, Inc. | Neural networks for embedded devices |
US11893774B2 (en) | 2018-10-11 | 2024-02-06 | Tesla, Inc. | Systems and methods for training machine models with augmented data |
US11665108B2 (en) | 2018-10-25 | 2023-05-30 | Tesla, Inc. | QoS manager for system on a chip communications |
US11816585B2 (en) | 2018-12-03 | 2023-11-14 | Tesla, Inc. | Machine learning models operating at different frequencies for autonomous vehicles |
US11908171B2 (en) | 2018-12-04 | 2024-02-20 | Tesla, Inc. | Enhanced object detection for autonomous vehicles based on field view |
US11537811B2 (en) | 2018-12-04 | 2022-12-27 | Tesla, Inc. | Enhanced object detection for autonomous vehicles based on field view |
US11610117B2 (en) | 2018-12-27 | 2023-03-21 | Tesla, Inc. | System and method for adapting a neural network model on a hardware platform |
US11748620B2 (en) | 2019-02-01 | 2023-09-05 | Tesla, Inc. | Generating ground truth for machine learning from time series elements |
US12014553B2 (en) | 2019-02-01 | 2024-06-18 | Tesla, Inc. | Predicting three-dimensional features for autonomous driving |
US11567514B2 (en) | 2019-02-11 | 2023-01-31 | Tesla, Inc. | Autonomous and user controlled vehicle summon to a target |
US11790664B2 (en) | 2019-02-19 | 2023-10-17 | Tesla, Inc. | Estimating object properties using visual image data |
Also Published As
Publication number | Publication date |
---|---|
JP2000059764A (ja) | 2000-02-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3941252B2 (ja) | 車両の位置検出装置 | |
JP4962581B2 (ja) | 区画線検出装置 | |
JP3750512B2 (ja) | 車両用周辺障害物検出装置 | |
EP2422320B1 (en) | Object detection device | |
CN103139595B (zh) | 基于车辆的成像系统的功能诊断和验证 | |
JPH06281455A (ja) | 車両周辺監視装置 | |
EP1820020B1 (en) | Apparatus and method for detecting objects | |
JP3823782B2 (ja) | 先行車両認識装置 | |
JP5590774B2 (ja) | 物体検出装置 | |
JPH08285534A (ja) | 車載用画像処理装置 | |
JP2007164566A (ja) | 感応制御用車両感知システムおよび装置 | |
JPH07244717A (ja) | 車両用走行環境認識装置 | |
JP2009014645A (ja) | 車両用距離測定装置 | |
JP3952604B2 (ja) | 車両の位置検出装置 | |
US20190354781A1 (en) | Method and system for determining an object location by using map information | |
JP2000163691A (ja) | 交通流計測装置 | |
JP2019176300A (ja) | 汚れ検出装置、カメラ、コンピュータプログラムおよび記録媒体 | |
WO2008037473A1 (en) | Park assist system visually marking up dangerous objects | |
JP2001180404A (ja) | 車両の後方監視装置 | |
JP4225242B2 (ja) | 走行路認識装置 | |
JP2000057319A (ja) | 車両の位置検出装置 | |
JP2007010496A (ja) | 車両停止検出装置、カーナビゲーション装置 | |
JP2635232B2 (ja) | 車間距離検出装置 | |
JP2001033238A (ja) | 物体認識装置 | |
JP3393767B2 (ja) | 車両用障害物検出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050309 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20061207 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070109 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070216 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070313 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070326 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100413 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110413 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120413 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120413 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130413 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130413 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140413 Year of fee payment: 7 |
|
LAPS | Cancellation because of no payment of annual fees |