JP3510296B2 - The display mechanism of the vehicle travel control device - Google Patents

The display mechanism of the vehicle travel control device

Info

Publication number
JP3510296B2
JP3510296B2 JP23298893A JP23298893A JP3510296B2 JP 3510296 B2 JP3510296 B2 JP 3510296B2 JP 23298893 A JP23298893 A JP 23298893A JP 23298893 A JP23298893 A JP 23298893A JP 3510296 B2 JP3510296 B2 JP 3510296B2
Authority
JP
Japan
Prior art keywords
vehicle
distance
control
image
tracking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP23298893A
Other languages
Japanese (ja)
Other versions
JPH0781454A (en
Inventor
一弥 早舩
武司 渡邊
誠 貴志
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Motors Corp
Original Assignee
Mitsubishi Motors Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Motors Corp filed Critical Mitsubishi Motors Corp
Priority to JP23298893A priority Critical patent/JP3510296B2/en
Publication of JPH0781454A publication Critical patent/JPH0781454A/en
Application granted granted Critical
Publication of JP3510296B2 publication Critical patent/JP3510296B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Controls For Constant Speed Travelling (AREA)

Description

【発明の詳細な説明】 【0001】 【産業上の利用分野】本発明は自動車の走行制御装置の
表示機構に関するものである。更に詳述すると、自車の
車速に応じた目標車間距離を保った状態で先行車を追尾
しつつ走行する際に、モニタ上に表示する追尾車両の画
像を、他の車両像と区別して明確に表示することができ
るようにしたものである。 【0002】 【従来の技術】自動車の運転操作を軽減するために、定
速走行装置が実用化され、また車間距離制御装置が開発
されている。 【0003】「定速走行装置」は、「オートマチック・
スピード・コントロール」や「クルーズ・コントロー
ル」とも称ばれている。この装置を備えた自動車では、
セットスイッチを押すと、アクセルペダルから足を離し
ても、設定した車速を維持して走行を行う。設定車速は
コントロールスイッチの操作により変更することができ
る。運転者がブレーキを踏んだり、クラッチを踏んだ
り、ギヤシフトをするなどの操作をすると、この機能が
キャンセルされるようになっている。 【0004】上述した定速走行装置を利用したときの安
全性を確保するため、次のような機能を付加したものも
ある。即ち先行車との距離をレーザレーダ等で検出して
おき、先行車に異常接近したときには、警報を発して運
転者に注意を促したり、ギヤシフト段を4速(オーバー
ドライブ)から3速へシフトダウンしてエンジンブレー
キを作動させるオーバドライブオフにより減速したりす
る。 【0005】一方「車間距離制御装置」を備えた自動車
では、セットスイッチを押すと、そのときの自車の車速
から目標車間距離を演算し、また先行車との車間距離を
検出し、先行車との車間距離が目標車間距離となるよう
にエンジン出力やブレーキの制御をして、先行車を追尾
して走行する。この場合、先行車との車間距離の検出
は、カメラでとらえた画像を画像処理して求めたり、レ
ーザレーダ等により求める。 【0006】ところで従来の「定速走行装置」では、車
速の遅い先行車に追いついた場合には、運転者が減速操
作をして定速走行制御を解除しなければならない。その
ため、混雑した道路では操作が頻繁になり、かえって面
倒で危険度が高くなる。一方、従来の「車間距離制御装
置」では、先行車がいないときには制御ができない。 【0007】そこで本願発明者は、定速走行装置と車間
距離制御装置の機能を併せ持った「自動車の走行制御装
置」を開発している。この「自動車の走行制御装置」を
備えた自動車では、詳細は後述するが、先行車がいない
場合は設定車速で定速走行し、先行車が存在する場合に
は目標車間距離を保持しつつ先行車を追尾していき、更
に割り込みがあったときや高速の自車が低速の先行車に
追いついたときに減速制御をする。この「自動車の走行
制御装置」を高速道路の本線を走行するときに利用すれ
ば、運転者はハンドル操作するだけで走行でき、いわゆ
るイージードライブが実現できる。しかもちょっとした
傍見やいねむりをしても、前方車に異常接近したり追突
したりする危険を回避できることを考えれば、安全性の
向上も期待できる。 【0008】 【発明が解決しようとする課題】上述した自動車の走行
制御装置により車間距離制御をする場合には、目標車間
距離を保持しつつ先行車を追尾して走行していく(これ
を「追尾走行制御」と称す)。この場合、追尾していく
車両は、画像処理により検出してディスプレイに表示し
ている。しかしディスプレイには、追尾している車両の
みならず、隣の車線の車両や追尾車よりも更に先行して
いる車両など他の車両も同時に表示されてしまう。この
ためディスプレイを見ただけでは、どの車両を追尾して
いるのかをただちに知ることはできず、運転者は不安を
感じてしまうことがある。 【0009】本発明は、この「自動車の走行制御装置」
において追尾走行制御をするときに、追尾している車両
をディスプレイ上ではっきりと他の車両と区別して示す
ことができるようにすることを目的とする。 【0010】上記目的を達成する本発明は、自車から前
方の状況を一対の光学系を通じて撮影して対となった画
像を次々と得るカメラ手段と、前記カメラ手段で撮影し
た画像の中から縦方向の左右対称な直線で囲まれるエリ
を抽出しこの抽出したエリアを経時的にサーチするこ
とにより車両を示す車両画像を認識すると共に、対とな
った画像の中の車両画像の位置を比較することにより車
両までの距離を検出し、更に画像の中から走行車線を示
す白線を抽出することにより自車が走行している車線を
認識する画像処理部と、前記画像処理部で認識した自車
車線上にある車両を目標追尾車両であると認識する目標
追尾車両認識部と、撮影した画像を表示するモニタと、
前記モニタ上に表示した車両のうち,前記目標追尾車両
の中心回りに同目標追尾車両までの距離に応じた広さの
枠を設定して表示する枠設定部と、を有することを特徴
とする。 【0011】 【作用】本発明では追尾走行制御の際に、追尾している
車両を他の車両と区別しながらその状態が危険状態か安
全状態であるかを判断してディスプレイ上で表示する。 【0012】 【実施例】 <「自動車の走行制御装置」の全体説明>まずはじめに
現在開発しつつある自動車の走行制御装置を説明する。
この自動車の走行制御装置は、高速道路及び自動車専用
道路(以下両者を代表して「高速道路」と記す)を走行
するときに使用する。 【0013】図1は自動車の走行制御装置を備えた自動
車を示す。同図において、1はステレオ視カメラ、2は
レーザレーダ、3はスロットルアクチュエータ、4はブ
レーキアクチュエータ、5は操作スイッチ・情報表示
部、6はコントローラ、7は車速センサ、7aはハンド
ル角センサ、7bはブレーキスイッチ、7cはブレーキ
ペダルスイッチ、7dはアクセルペダルスイッチであ
る。 【0014】ステレオ視カメラ1は、正面図である図2
に示すように、自動車の前方の景色を撮影する2つのC
CDカメラ11,12を横置き配置したものであり、ボ
ディー13内に映像基板,絞り基板等の電子部品を搭載
している。このステレオ視カメラ1は、車室内でルーム
ミラーの近傍に取り付けられている。各カメラ11,1
2の水平面内での視野角はそれぞれ23度である。そし
てカメラ11,12で撮影した画像を示すビデオ信号が
コントローラ6に送られる。 【0015】2つのカメラ11,12で撮像した画像
を、コントローラ6の画像処理部にて画像処理をするこ
とにより、次の認識をする。 先行する自動車(先行車)の認識。 高速道路の複数の車線(レーン)のうち、自車が走
行している車線を示す白線の認識。 先行車と自車との間の車間距離の認識。 【0016】上述した先行車の認識は、例えば次のよう
にして行う。即ち画像の中から縦方向の直線に囲まれる
エリアを抽出し、抽出したエリアのうち左右対称で、且
つ、次々と取り込んでいく画像の中で位置があまり動か
ないものを、先行車として認識する。 【0017】上述したの自車の走行車線を示す白線の
認識は例えば次のようにして行う。即ち、図3(a)に
示すように、ステレオ視カメラ1から前方道路画面の取
り込みをし、次に図3(b)に示すように、水平方向の
4本のラインW1〜W4に沿い画素の明度を調べ、明る
い点を白線候補として選定し、図3(c)に示すよう
に、上方の候補点と下方の候補点を補間して結んだ線分
を白線として抽出する。 【0018】上述したの先行車と自車との間の車間距
離の認識は次のようにして行う。即ち、ステレオ視カメ
ラ1の2つのカメラ11,12からは、図4(a)
(b)に示すように2つの画像が得られる。右側の画像
のウインドウで囲まれた自動車画像と同じ画像は、左側
の画像の中に少し横方向にズレた位置にある。そこでウ
インドウで囲んだ右側の自動車画像を、左側の画像のサ
ーチ領域内で1画素づつシフトしながら、最も整合する
画の位置を求める。このとき図5に示すようにカメラ1
1,12のレンズの焦点距離をf、左右カメラ11,1
2の光軸間の距離をLとし、CCDの画素ピッチをP、
図4(a)(b)において左右の自動車画像が整合する
までに右画像をシフトした画素数をnとすると、先行し
ている自動車までの距離(車間距離)Rは、三角測量の
原理により、次式で計算できる。 R=(f・L)/(n・P) 【0019】一方、レーザレーダ2は車両の前端右側位
置と前端左側位置に1本づつ配置されている。レーザレ
ーダ2から出射するレーザビームの広がり角は2度であ
る。そしてレーザレーダ2からレーザビームを出射して
から、対象物で反射してきたレーザビームが、再びレー
ザレーダ2に戻ってくるまでの時間を計測することによ
り、対象物までの距離を計測することができる。 【0020】レーザレーダ2は遠距離(100m〜数百
m)の対象物であっても短時間でその有無を検出できる
が、対象物が自動車であるかどうかの判定はできない。
これに対しカメラを用いた画像処理は、対象物が自動車
であるかどうかの判定は正確にできるが、判定するまで
の処理時間が長くかかってしまう。そこでレーザレーダ
2により対象物の有無を検出し、対象物が存在すること
を確認したら、その検出エリアに絞ってカメラ画像の画
像処理をして自動車の有無を検出するように役割分担を
してもよい。このようにすれば先行車を迅速且つ正確に
検出することができる。 【0021】また高速道路を走行している自動車を上方
から見た図6に示すように、レーザレーダ2から出射す
るレーザビーム2aは直線状に進むのに対し、カメラ1
の視野1aは23度であるので、自車の前方に他車が急
に割り込んできたときには、まずレーザビーム2aが他
車に当って反射してくる(このとき割り込んできた他車
はカメラ1の視野1aに入ってきていない)。そこで割
り込み車の検出は、割り込み車を先に検出でき且つ応答
の早いレーザレーダ2が担当している。なお図6におい
て8,8a,8bは白線である。連続した白線8は高速
道路の端にあり、点線の白線8a,8bは車線を仕切る
位置にある。 【0022】コントローラ6の指令によりスロットルア
クチュエータ3が作動しスロットルの開度が大きくなっ
ていったら、エンジンの回転数が上昇して車速が大きく
なる。逆にスロットルの開度を小さくしていくとエンジ
ンブレーキが作動して減速していく。後述する追尾走行
制御や定速走行制御は、スロットル開度を調整して実行
する。またコントローラ6の指令によりブレーキアクチ
ュエータ4が作動してブレーキがかかると、急減速して
いく。この急減速は、自車の直前に他車が割り込んでき
たときや、後述するブレーキ制御をするとき、即ち高速
で走行していた自車が低速走行している先行車に近づい
てきて、車間距離が安全車間距離よりも短くなったとき
などに行なう。なお、本システムではコントローラ6の
指令により、急減速することはあっても急停車すること
はなく、急停車は運転者がブレーキペダルを踏むことに
よってのみ行なわれる。 【0023】次に図7を基に、コントローラ6を中心と
して行う走行制御の概要を説明する。コントローラ6の
画像処理部61は、ステレオ視カメラ1で撮影した画像
を画像処理し、車両認識部61aでは前方の景色の中か
ら自動車の画像を認識し、レーン認識部61bでは自車
が走行している車線を示す白線を認識し、車間距離認識
部61cでは先行車と自車との間の車間距離を認識す
る。目標追尾車両認識部62は、自車が走行している車
線に先行する自動車があった場合に、この自動車を目標
追尾車両と認識する。 【0024】目標追尾車両認識部62により目標追尾車
両を認識したときには、設定指令部63は追尾走行制御
をする。つまり設定指令部63は車間距離認識部61c
またはレーザレーダ2を利用して目標追尾車両までの車
間距離Dを求めると共に、車速センサ7から得た自車の
車速Va に設定時間(例えば2秒)を乗算して目標車間
距離D0 を求める。そして実際の車間距離Dが目標車間
距離D0 に等しくなるように、スロットルアクチュエー
タ3を作動させてエンジン回転数(∽スロットル開度)
をコントロールする。このようにすれば、車速に応じた
目標車間距離D 0 をとった状態で、目標追尾車両を追尾
しつつ自車が走行していく。したがって、目標追尾車両
が高速走行(例えば120km/h)しているときには、
目標車間距離D0 が長くなり(例えば66.7m)、自
車は目標追尾車両を追尾しつつ高速走行(例えば120
km/h)する。また目標追尾車両が低速走行(例えば6
0km/h)しているときには、目標車間距離D0 が短く
なり(例えば33.3m)、自車は目標追尾車両を追尾
しつつ低速走行(例えば60km/h)する。 【0025】追尾走行制御をしているときに、目標追尾
車両が高速走行して自車よりも先に進みステレオ視カメ
ラ1やレーザレーダ2により目標追尾車両を捕捉するこ
とができなくなったり、目標追尾車両が他の車線に移っ
たりしたときには、設定指令部63は、その時点の自車
の速度をあらかじめ設定した保持時間(例えば2秒)だ
け保持するように、スロットルアクチュエータ3による
スロットル開度(∽エンジン回転数)をコントロールす
る。つまり追尾走行制御から車速保持制御に移行する
(図8参照)。 【0026】上述した保持時間が経過する前に、他の先
行車を目標追尾車両と認識したとき、つまり自車の走行
車線上に先行車を捕捉することができたときには、再び
前述した追尾走行制御をする。上述した保持時間が経過
したら、次に述べる定速走行制御に移る(図8参照)。 【0027】定速走行制御に移ったら、設定指令部63
は、先行車を捕捉できなくなった時点の速度またはあら
かじめ設定した設定速度Vs で自車が走行するように、
スロットルアクチュエータ3によるスロットル開度(∽
エンジン回転数)をコントロールする。定速走行制御中
に目標追尾車両を捕捉したら追尾走行制御に移る(図8
参照)。 【0028】また追尾走行制御や車速保持制御や定速走
行制御をしているときに、レーザレーダ2により割り込
み車の存在が検出されたときは割り込み制御に移行し、
設定指令部63は、一定時間スロットルを全閉とするよ
うスロットルアクチュエータ3をコントロールする。全
閉とする一定時が経過した後は、目標追尾車両を捕捉で
きるときは追尾走行制御に移行し、目標追尾車両を捕捉
できないときは定速走行制御に移行する(図8参照)。 【0029】追尾走行制御、車速保持制御、定速走行制
御、割り込み制御をしている際に、安全車間距離(自車
と走行車との相対速度と、自車車速により決定する)よ
りも近い位置に先行車が存在することを検出したときに
は、減速走行制御に移行する。つまり設定指令部63
は、スロットルアクチュエータ3を作動させてスロット
ルを全閉とすると共に、ブレーキアクチュエータ4を作
動させてブレーキを作動させて減速する。この減速走行
制御は、低速走行している先行車に高速走行している自
車が追いついていったときや、先行車が急に減速したと
きなどに行なわれる。そして減速制御は、先行車との車
間距離が安全車間距離に戻るまで行なわれる。減速走行
制御が終了したときに、目標追尾車両を捕捉できるとき
は追尾走行制御に移行し、目標追尾車両を捕捉できない
ときは車速保持制御に移行する(図8参照)。 【0030】追尾走行制御、車速保持制御、定速走行制
御、割り込み制御、減速走行制御をしているときに、運
転者がアクセルペダル、ブレーキペダル、ウインカを操
作したときにはマニュアル操作に移行する。このときに
は、設定指令部63からスロットルアクチュエータ3及
びブレーキアクチュエータ4への制御指令を解除し、運
転者の操作を優先させる。マニュアル操作時にセットス
イッチ(後述)を投入すると、追尾走行制御や定速走行
制御に移行する。 【0031】次に図9を基に操作・スイッチ情報表示部
5の構成を説明する。51はメイン電源スイッチであ
り、ONすると走行制御装置、スロットルアクチュエー
タ及びブレーキアクチュエータの駆動部に電源が入り、
OFFすると制御出力をクリアしさらに前記アクチュエ
ータの駆動電源を切り、プログラムを終了する。52は
制御スイッチであり、セット側に投入するとそのときに
走行条件に応じて追尾走行制御か定速走行制御が行なわ
れると共に、セット側に投入したときの車速が定速走行
制御モードでの設定速度Vs となる。制御スイッチ52
をキャンセル側に投入すると運転者による通常の手動運
転を行うモードになる。53は増減スイッチであり、定
速走行制御モードの場合において+側に投入すると設定
速度Vs が大きくなり−側に投入すると設定速度Vs
小さくなり、追尾走行制御モードの場合において+側に
投入すると車速が一旦増加することにより目標車間距離
0が小さくなり−側に投入すると目標車間距離D0
大きくなる。 【0032】54は車速表示部であり、通常は自車の車
速(km/h)を表示する。55は車間距離表示部であ
り、目標追尾車両との車間距離を表示する。また追尾走
行制御モード時に増減スイッチ53を+側や−側に投入
すると、補正した目標車間距離D0 が車間距離表示部5
5に表示されると共に、定速走行制御モード時に増減ス
イッチ53を+側や−側に投入すると、補正した設定速
度Vs が車速表示部54に表示される。 【0033】56は追尾ランプ、57は定速ランプであ
り、追尾走行制御モードでは追尾ランプ56のみが点灯
し、定速走行制御モードでは定速ランプのみが点灯し、
手動運転モードではランプ56,57が共に点灯する。 【0034】58はシステム異常ランプであり、システ
ム異常時に点灯する。 【0035】59はモニタであり、ステレオ視カメラ1
で得た画像及びこの画像を画像処理した画像を表示す
る。 【0036】<本発明のポイントに対応した部分の説明
>ここで本発明のポイントに対応した部分の説明をす
る。上述した自動車の走行制御装置により追尾走行制御
をする場合には、モニタ59(図9参照)上に、追尾し
ている先行車の画像を映し出すが、このモニタ59には
追尾している車両以外の車両の画像も映し出されてしま
う。したがってモニタ59を瞬間的に見ただけでは、運
転者はどの車両を追尾しているのかを認識することがで
きず不安になることがある。 【0037】そこで本実施例では図10に示すように、
モニタ59上において追尾している目標追尾車両を示す
画像を枠100で囲んで示すようにした。つまり前述し
たように画像処理部61の車両認識部61aとレーン認
識部61bの判定を基に目標追尾車両認識部62により
目標追尾車両を認識すると、枠設定部61dは目標追尾
車両の中心101の座標(モニタ上の座標)を(x,
y)として記憶する。また枠設定部61dは車間距離認
識部61cで検出した車間距離をzとして記憶する。そ
して枠設定部61dは、座標(x,y)を中心として枠
100を設定し、しかも枠100の広さは図11に示す
ように、車間距離zに反比例させている。 【0038】更に枠設定部61dでは、危険状態か安全
状態であるか判断して枠100の色を変えている。危険
状態であるか安全状態であるかは次式で示す車間時間t
[秒]で評価する。 車間時間t=車間距離z[m]÷車速[m/s] このため例えば車速が100[km/h](=27m/
s)で車間距離が54[m]であると、車間時間tは2
[秒]となる。そして図12に示す対応関係に応じて枠
100の色を決める。例えば安全状態であると緑色の枠
100が表示され、危険状態であると赤色の枠100が
表示される。 【0039】 【発明の効果】以上実施例と共に具体的に説明したよう
に本発明によれば、モニタに表示した追尾車両の画像を
枠で囲んで表示するようにしたので、モニタ上で目標追
尾車両がどれであるかを、他の車両と区別して迅速・確
実に知ることができると共に、この枠の色を安全状態に
応じて変更するようにしたので、危険状態か安全状態で
あるかを容易に確認することができる。また、追尾車両
の画像を囲む枠の大きさを、追尾車両までの距離に応じ
て変更するため、枠の大きさを見るだけで、追尾車両ま
での車間距離を概ね判断することもできる。
DETAILED DESCRIPTION OF THE INVENTION [0001] BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a driving control device for an automobile.
It relates to a display mechanism. To explain in more detail,
Tracking the preceding vehicle while maintaining the target inter-vehicle distance according to the vehicle speed
The image of the tracked vehicle displayed on the monitor when traveling while
The image can be clearly displayed in distinction from other vehicle images.
That's what I did. [0002] 2. Description of the Related Art In order to reduce the driving operation of a car, a certain
High-speed traveling equipment is put to practical use, and an inter-vehicle distance control device is developed.
Have been. [0003] The "constant speed traveling device"
Speed Control and Cruise Control
Le ". In vehicles equipped with this device,
Press the set switch and release the accelerator pedal.
However, the vehicle travels while maintaining the set vehicle speed. Set vehicle speed
Can be changed by operating the control switch
You. Driver steps on brakes or clutches
Operation, such as shifting gears, this function
It is to be canceled. [0004] The safety when using the above-mentioned constant speed traveling device is reduced.
In order to ensure integrity, the following functions may be added.
is there. That is, the distance from the preceding vehicle is detected by a laser radar, etc.
When an abnormal approach to the preceding vehicle occurs,
Call attention to the divers and set the gearshift to 4th gear (over
Drive) downshifted to 3rd gear and engine brake
Deceleration due to overdrive off
You. On the other hand, an automobile equipped with an "inter-vehicle distance control device"
Then, when you press the set switch, the vehicle speed at that time
Calculates the target inter-vehicle distance from
Detects and sets the inter-vehicle distance with the preceding vehicle to the target inter-vehicle distance.
Control the engine output and brakes to track the preceding vehicle
And run. In this case, detection of the inter-vehicle distance with the preceding vehicle
Can be processed by image processing of the image
-Obtained by radar or the like. In the conventional "constant speed traveling device",
If the driver catches up with the slower preceding vehicle, the driver
And release the constant speed control. That
Therefore, operation becomes frequent on congested roads,
Danger increases with defeat. On the other hand, the conventional
In "place", control cannot be performed when there is no preceding vehicle. [0007] The inventor of the present application has proposed a method for controlling the distance between a constant speed traveling device and a vehicle
"Automobile driving control device with the function of distance control device"
Is being developed. This "vehicle driving control device"
For cars equipped with, details will be described later, but there is no preceding car
If the vehicle is traveling at a constant speed at the set speed and there is a preceding vehicle,
Keeps track of the preceding vehicle while maintaining the target inter-vehicle distance.
When the vehicle is interrupted or when the high-speed vehicle becomes the low-speed preceding vehicle
Perform deceleration control when catching up. This "car driving
Control device when driving on the main line of a highway.
In other words, the driver can drive simply by operating the steering wheel.
Easy drive can be realized. And a little
Abnormal approach or collision with a vehicle ahead even if you look aside or sleep
And the danger of safety
Improvement can also be expected. [0008] SUMMARY OF THE INVENTION
If the control unit controls the following distance, the target following distance
While following the preceding vehicle while maintaining the distance,
Is referred to as “tracking control”). In this case, follow
The vehicle is detected by image processing and displayed on the display.
ing. However, the display shows the
In addition, ahead of the vehicle in the next lane or tracker
Other vehicles, such as the vehicle in which they are, are also displayed at the same time. this
Therefore, just looking at the display,
Drivers cannot immediately know if they are
You may feel it. The present invention relates to this "vehicle travel control device".
The vehicle that is being tracked when performing tracking travel control in
Is clearly distinguished from other vehicles on the display
The purpose is to be able to. [0010] The present invention to achieve the above object is provided by
Of the other situation through a pair of optical systems
Camera means for obtaining images one after another;
From the imageEllipse surrounded by symmetrical straight lines
AExtract this extractedareaSearch over time
With this, the vehicle image showing the vehicle is recognized, and
By comparing the position of the vehicle image in the
Detects the distance to both, and shows the driving lane from the image
By extracting the white line, the lane where the vehicle is traveling
An image processing unit to be recognized, and the own vehicle recognized by the image processing unit
A target that recognizes vehicles on the lane as target tracking vehicles
A tracking vehicle recognizing unit, a monitor that displays a captured image,
The target tracking vehicle among the vehicles displayed on the monitor
Around the center of the vehicle according to the distance to the target tracking vehicle.
And a frame setting unit for setting and displaying a frame.
And [0011] According to the present invention, tracking is performed during tracking travel control.
Distinguish vehicle from other vehiclesWhile the condition is dangerous or cheap
Determine if it is in all statesAnd display it on the display. [0012] 【Example】 <Overall description of the "vehicle control device">
A description is now given of a traveling control device for a vehicle that is being developed.
This travel control device for automobiles is dedicated to expressways and automobiles.
Driving on a road (hereinafter, "expressway" is represented on both sides)
Used when FIG. 1 shows an automatic vehicle equipped with a traveling control device for an automobile.
Indicates a car. In the figure, 1 is a stereo camera and 2 is
Laser radar, 3 is throttle actuator, 4 is brake
Rake actuator, 5 is operation switch and information display
Unit, 6 is a controller, 7 is a vehicle speed sensor, 7a is a hand
Angle sensor, 7b is a brake switch, 7c is a brake
7d is an accelerator pedal switch.
You. FIG. 2 is a front view of the stereoscopic camera 1.
As shown in the figure, two C
CD cameras 11 and 12 are placed horizontally.
Electronic components such as video board and aperture board are mounted in D13
are doing. This stereoscopic camera 1 is used in a room
Mounted near the mirror. Each camera 11, 1
The viewing angles in the horizontal plane of No. 2 are each 23 degrees. Soshi
A video signal indicating an image captured by the camera 11 or 12
It is sent to the controller 6. Images taken by two cameras 11 and 12
Is processed by the image processing unit of the controller 6.
With this, the following recognition is made.   Recognition of the preceding car (preceding car).   Of the multiple lanes (lanes) of the highway,
Recognition of the white line indicating the lane in which you are traveling.   Recognition of the inter-vehicle distance between the preceding vehicle and the own vehicle. [0016]TipRecognition of a train is as follows
And do it. That is, a vertical straight line from the imageSurrounded by
Areas are extracted and the extracted areas are symmetrical and
OneThe position moves too much in the image being imported one after another
Those that do not exist are recognized as preceding vehicles. The white line indicating the traveling lane of the vehicle described above
The recognition is performed, for example, as follows. That is, in FIG.
As shown in FIG.
And then, as shown in FIG.
Check the brightness of the pixels along the four lines W1 to W4,
Point is selected as a white line candidate, as shown in FIG.
Is a line segment interpolated and connected between the upper candidate point and the lower candidate point.
Is extracted as a white line. The inter-vehicle distance between the preceding vehicle and the own vehicle described above.
The recognition of separation is performed as follows. That is, a stereoscopic camera
From the two cameras 11 and 12 of FIG.
Two images are obtained as shown in FIG. Right image
The same image as the car image surrounded by the window on the left
The image is slightly shifted in the horizontal direction. So c
The car image on the right, surrounded by windows, is
Best match while shifting one pixel at a time
Find the position of the image. At this time, as shown in FIG.
The focal length of the lenses 1 and 12 is f, the left and right cameras 11 and 1
2, the distance between the optical axes is L, the pixel pitch of the CCD is P,
4 (a) and 4 (b), the left and right vehicle images match.
Assuming that the number of pixels that have shifted the right image by n is n,
Distance (inter-vehicle distance) R to the car
According to the principle, it can be calculated by the following equation. R = (f · L) / (n · P) On the other hand, the laser radar 2 is located on the right side of the front end of the vehicle.
And one at the left of the front end. Laser Les
The divergence angle of the laser beam emitted from the radar 2 is 2 degrees.
You. And the laser beam is emitted from the laser radar 2
The laser beam reflected from the object from
By measuring the time it takes to return to Zadar 2
Thus, the distance to the object can be measured. The laser radar 2 has a long distance (100 m to several hundreds).
m) the presence or absence of the object can be detected in a short time
However, it cannot be determined whether or not the object is a car.
On the other hand, in image processing using a camera, the
Can be accurately determined, but until
Takes a long time. So laser radar
2. The presence or absence of the object is detected according to 2, and the object is present
After checking the camera image, focus on the detection area
Assign roles so that image processing is performed and the presence or absence of a car is detected.
May be. In this way, the preceding vehicle can be quickly and accurately
Can be detected. In addition, a car running on a highway is moved upward.
As shown in FIG.
Laser beam 2a travels in a straight line while camera 1
Is 23 degrees, so that another vehicle is
First, the laser beam 2a
Reflects on the car (other cars interrupted at this time
Is not in the field of view 1a of the camera 1). Therefore,
Detection of a car entering the car can be detected first and a response can be made
The fastest laser radar 2 is in charge. Note that in FIG.
8, 8a and 8b are white lines. Continuous white line 8 is fast
At the end of the road, dotted white lines 8a and 8b separate lanes
In position. The throttle valve is controlled by a command from the controller 6.
Actuator 3 operates and throttle opening increases
The engine speed increases and the vehicle speed increases
Become. Conversely, as the throttle opening decreases,
The brakes are activated and decelerate. Tracking running described later
Control and cruise control are performed by adjusting the throttle opening
I do. Also, the brake is activated by the command of the controller 6.
When the brakes are activated by the operation of the
Go. This sudden deceleration is caused by another car
Or when performing the brake control described later,
The vehicle that was traveling at a distance approaches the preceding vehicle that is traveling at low speed.
And the inter-vehicle distance becomes shorter than the safe inter-vehicle distance
And so on. In this system, the controller 6
Due to command, sudden deceleration may occur even if sudden deceleration occurs
There is no sudden stop, the driver depresses the brake pedal
Therefore, it is performed only. Next, based on FIG.
The outline of the traveling control to be performed is described. Controller 6
The image processing unit 61 is an image captured by the stereoscopic camera 1
Is processed in the vehicle recognition unit 61a.
The lane recognition unit 61b recognizes the image of the car
Recognizes inter-vehicle distance by recognizing the white line indicating the lane in which the vehicle is traveling
The unit 61c recognizes the inter-vehicle distance between the preceding vehicle and the own vehicle.
You. The target tracking vehicle recognition unit 62 is a vehicle in which the own vehicle is traveling.
If there is a car ahead of the line, target this car
Recognize as a tracking vehicle. The target tracked vehicle is recognized by the target tracked vehicle recognition unit 62.
When both are recognized, the setting command unit 63 performs the tracking drive control.
do. In other words, the setting command unit 63 is the inter-vehicle distance recognition unit 61c.
Or the car to the target tracking vehicle using the laser radar 2
The distance D is determined, and the vehicle speed obtained from the vehicle speed sensor 7 is
Vehicle speed VaMultiplied by the set time (for example, 2 seconds)
Distance D0Ask for. And the actual inter-vehicle distance D is the target inter-vehicle distance.
Distance D0Throttle actuator to equal
Engine 3 to operate the engine (∽ throttle opening)
Control. In this way, the vehicle speed
Target inter-vehicle distance D 0Tracking the target tracking vehicle with
The own vehicle is running while doing. Therefore, the target tracking vehicle
Is traveling at high speed (for example, 120 km / h)
Target inter-vehicle distance D0Becomes longer (for example, 66.7 m)
The vehicle runs at high speed while tracking the target tracking vehicle (for example, 120
km / h). Also, the target tracking vehicle runs at a low speed (for example, 6
0 km / h), the target following distance D0Is short
(For example, 33.3m), the vehicle tracks the target tracking vehicle
While traveling at a low speed (for example, 60 km / h). During tracking control, target tracking is performed.
The vehicle travels at high speed and goes ahead of its own
The target tracking vehicle is captured by the laser 1 and the laser radar 2.
Or the target tracking vehicle moves to another lane.
The setting command unit 63 returns to the current vehicle
Is a preset holding time (for example, 2 seconds)
So that the throttle actuator 3
Control the throttle opening (∽engine speed)
You. In other words, shift from tracking driving control to vehicle speed holding control
(See FIG. 8). Before the above-mentioned holding time elapses, another
When the oncoming vehicle is recognized as the target tracking vehicle,
When the vehicle ahead can be captured in the lane,
The tracking travel control described above is performed. Elapsed retention time described above
Then, the process proceeds to the constant speed traveling control described below (see FIG. 8). When the control is shifted to the constant speed running control, the setting command section 63
Is the speed at which the preceding vehicle can no longer be
Set speed V set in advancesSo that your car will run
Throttle opening by throttle actuator 3 (∽
Engine speed). Under constant speed driving control
When the target tracking vehicle has been captured, control is passed to tracking driving control (FIG. 8).
reference). In addition, tracking driving control, vehicle speed holding control, and constant speed driving
Interruption by laser radar 2 during line control
When the presence of a wheel is detected, the control shifts to interrupt control.
The setting command unit 63 will close the throttle fully for a certain period of time.
The throttle actuator 3 is controlled. all
After a certain time to close, the target tracking vehicle can be
When it is possible, shift to tracking driving control and capture the target tracking vehicle
If it is not possible, the routine shifts to the constant speed running control (see FIG. 8). Tracking running control, vehicle speed holding control, constant speed running control
Control, the safety inter-vehicle distance (own vehicle
Is determined by the relative speed of the vehicle and the traveling vehicle, and the speed of the own vehicle.)
When it detects that a preceding vehicle is
Shifts to deceleration running control. That is, the setting command section 63
Operates the throttle actuator 3 and
Fully closed and brake actuator 4
Operate the brake to decelerate. This deceleration running
The control is performed for the vehicle traveling at high speed to the preceding vehicle traveling at low speed.
When the car catches up or when the preceding car suddenly slows down
And so on. And the deceleration control
It is performed until the inter-vehicle distance returns to the safe inter-vehicle distance. Deceleration
When the target tracking vehicle can be captured when control is completed
Shifts to tracking driving control and cannot capture the target tracking vehicle
At this time, the process shifts to the vehicle speed holding control (see FIG. 8). Tracking running control, vehicle speed holding control, constant speed running control
Control, interrupt control, and deceleration
The divers operate the accelerator pedal, brake pedal and turn signal.
When it is made, it shifts to manual operation. At this time
Are transmitted from the setting command section 63 to the throttle actuator 3 and
Release the control command to the brake and brake actuators 4
Give priority to the operation of the transferee. Set during manual operation
When a switch (to be described later) is turned on, tracking driving control and constant speed driving are performed.
Transfer to control. Next, an operation / switch information display unit will be described with reference to FIG.
5 will be described. 51 is a main power switch.
When turned on, the travel control device and throttle actuator
Power to the drive unit of the brake and brake actuators,
When turned OFF, the control output is cleared and the actuator
Turn off the drive power of the data and end the program. 52 is
This is a control switch.
Tracking running control or constant speed running control is performed according to running conditions.
And the vehicle speed when inserted into the set
Set speed V in control modesBecomes Control switch 52
When the driver enters the cancel side, normal manual operation by the driver is performed.
It becomes a mode to perform the rotation. 53 is an increase / decrease switch.
Set when throwing to the + side in high-speed driving control mode
Speed VsBecomes larger, and when it is turned to the negative side, the set speed VsBut
It becomes smaller and moves to the + side in the case of the tracking control mode.
Once inserted, the target inter-vehicle distance increases once the vehicle speed increases
D0Becomes smaller and the target distance D0But
growing. Numeral 54 denotes a vehicle speed display unit, which is usually a vehicle of the own vehicle.
Displays speed (km / h). 55 is an inter-vehicle distance display section.
And displays the distance between the vehicle and the target tracking vehicle. Also track
Turn the increase / decrease switch 53 to the + or-side in the line control mode
Then, the corrected target inter-vehicle distance D0Is the distance display section 5
5 and the increase / decrease speed in the cruise control mode.
When the switch 53 is inserted to the + or-side, the corrected set speed
Degree VsIs displayed on the vehicle speed display section 54. Reference numeral 56 denotes a tracking ramp, and 57 denotes a constant speed ramp.
In the tracking control mode, only the tracking lamp 56 is lit.
However, in the constant speed control mode, only the constant speed lamp lights up,
In the manual operation mode, both the lamps 56 and 57 are turned on. Reference numeral 58 denotes a system abnormality lamp,
Lights when the system is abnormal. Reference numeral 59 denotes a monitor, which is a stereoscopic camera 1
Display the image obtained in
You. <Description of Parts Corresponding to the Points of the Present Invention
> Here, the part corresponding to the point of the present invention will be described.
You. Tracking travel control by the above-mentioned vehicle travel control device
In order to perform the tracking, the tracking is performed on the monitor 59 (see FIG. 9).
The image of the preceding vehicle is displayed.
Images of vehicles other than the one you are tracking are also displayed.
U. Therefore, just looking at the monitor 59 momentarily does not
The divers can recognize which vehicle they are tracking.
It can be scary. Therefore, in this embodiment, as shown in FIG.
Indicates the target tracking vehicle that is tracking on the monitor 59
The image was shown as surrounded by a frame 100. In other words,
As described above, the vehicle recognition unit 61a of the image processing unit 61 and the lane recognition
By the target tracking vehicle recognizing unit 62 based on the judgment of the recognition unit 61b.
Upon recognizing the target tracking vehicle, the frame setting unit 61d performs target tracking.
The coordinates of the center 101 of the vehicle (coordinates on the monitor) are represented by (x,
y). The frame setting section 61d recognizes the distance between vehicles.
The inter-vehicle distance detected by the recognition unit 61c is stored as z. So
Then, the frame setting unit 61d sets the frame around the coordinates (x, y).
100, and the width of the frame 100 is shown in FIG.
Thus, the distance is inversely proportional to the inter-vehicle distance z. Further, in the frame setting section 61d, a danger state or a safety
The color of the frame 100 is changed depending on whether the state is the state. Danger
Whether the vehicle is in the safe state or in the safe state is determined by the following time t
Evaluate in [seconds]. Inter-vehicle time t = inter-vehicle distance z [m] / vehicle speed [m / s] Therefore, for example, when the vehicle speed is 100 [km / h] (= 27 m / h)
If the inter-vehicle distance is 54 [m] in s), the inter-vehicle time t is 2
[Seconds]. Then, according to the correspondence shown in FIG.
Decide 100 colors. For example, it is a green frame when it is in a safe state
100 is displayed, and a red frame 100
Is displayed. [0039] The present invention has been described in detail with the embodiments.
According to the present invention, the image of the tracked vehicle displayed on the monitor is
The target is displayed on the monitor.
Quick and accurate identification of the tail vehicle can be distinguished from other vehicles.
You can really know and change the color of this frame to a safe state
Changes in response to a danger or safety condition.
Can be easily checked.Also, tracked vehicles
The size of the frame that surrounds the image according to the distance to the tracked vehicle
To change it, just look at the size of the frame
It is also possible to roughly determine the distance between the vehicles.

【図面の簡単な説明】 【図1】自動車の走行制御装置を備えた自動車を示す構
成図。 【図2】ステレオ視カメラを示す正面図。 【図3】画像処理により白線を検出する手法を示す説明
図。 【図4】画像処理により車間距離を検出する手法を示す
説明図。 【図5】三角測量の原理により車間距離を算出する原理
図。 【図6】高速道路を走行している自動車を示す平面図。 【図7】コントローラを示すブロック図。 【図8】走行制御の遷移状態を示す状態図。 【図9】操作スイッチ・情報表示部を示す構成図。 【図10】本発明の実施例を示すブロック図。 【図11】車間距離と枠の大きさの関係を示す表図。 【図12】車間距離と枠の色の関係を示す関係図。 【符号の説明】 1 ステレオ視カメラ 1a 視野 11,12 CCDカメラ 13 ボディー 2 レーザレーダ 2a レーザビーム 3 スロットルアクチュエータ 32 スロットル指令部 4 ブレーキアクチュエータ 5 操作スイッチ・情報表示部 51 メイン電源スイッチ 52 制御スイッチ 53 増減スイッチ 54 車速表示部 55 車間距離表示部 56 追尾ランプ 57 定速ランプ 58 システム異常ランプ 59 モニタ 6 コントローラ 61 画像処理部 61a 車両認識部 61b レーン認識部 61c 車間距離認識部 61d 枠設定部 62 目標追尾車両認識部 63 設定指令部 7 車速センサ 7a ハンドル角センサ 7b ブレーキスイッチ 7c ブレーキペダルスイッチ 7d アクセルペダルスイッチ 8,8a,8b 白線 100 枠 101 中心
BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is a configuration diagram showing an automobile provided with an automobile traveling control device. FIG. 2 is a front view showing a stereoscopic camera. FIG. 3 is an explanatory diagram showing a method of detecting a white line by image processing. FIG. 4 is an explanatory diagram showing a method of detecting an inter-vehicle distance by image processing. FIG. 5 is a principle diagram for calculating an inter-vehicle distance based on the principle of triangulation; FIG. 6 is a plan view showing an automobile running on a highway. FIG. 7 is a block diagram showing a controller. FIG. 8 is a state diagram showing a transition state of traveling control. FIG. 9 is a configuration diagram showing an operation switch / information display unit. FIG. 10 is a block diagram showing an embodiment of the present invention. FIG. 11 is a table showing the relationship between the distance between vehicles and the size of a frame. FIG. 12 is a relationship diagram showing a relationship between an inter-vehicle distance and a color of a frame. [Description of Signs] 1 Stereo camera 1a Field of view 11, 12 CCD camera 13 Body 2 Laser radar 2a Laser beam 3 Throttle actuator 32 Throttle command section 4 Brake actuator 5 Operation switch / information display section 51 Main power switch 52 Control switch 53 Increase / decrease Switch 54 Vehicle speed display unit 55 Inter-vehicle distance display unit 56 Tracking lamp 57 Constant speed lamp 58 System abnormality lamp 59 Monitor 6 Controller 61 Image processing unit 61a Vehicle recognition unit 61b Lane recognition unit 61c Inter-vehicle distance recognition unit 61d Frame setting unit 62 Target pursuit vehicle Recognition unit 63 Setting command unit 7 Vehicle speed sensor 7a Handle angle sensor 7b Brake switch 7c Brake pedal switch 7d Accelerator pedal switch 8, 8a, 8b White line 100 Center of frame 101

───────────────────────────────────────────────────── フロントページの続き (72)発明者 貴志 誠 東京都港区芝五丁目33番8号 三菱自動 車工業株式会社内 (56)参考文献 特開 昭64−66712(JP,A) 特開 平5−52562(JP,A) 特開 平4−313014(JP,A) 特開 昭63−26517(JP,A) 実開 昭61−199453(JP,U)   ────────────────────────────────────────────────── ─── Continuation of front page    (72) Inventor Makoto Takashi               Mitsubishi 33-5-8 Shiba 5-chome, Minato-ku, Tokyo               Inside the car industry                (56) References JP-A-64-66712 (JP, A)                 JP-A-5-52562 (JP, A)                 JP-A-4-313014 (JP, A)                 JP-A-63-26517 (JP, A)                 Shokai 61-199453 (JP, U)

Claims (1)

(57)【特許請求の範囲】 【請求項1】 自車から前方の状況を一対の光学系を通
じて撮影して対となった画像を次々と得るカメラ手段
と、 前記カメラ手段で撮影した画像の中から縦方向の左右対
称な直線で囲まれるエリアを抽出しこの抽出したエリア
を経時的にサーチすることにより車両を示す車両画像を
認識すると共に、対となった画像の中の車両画像の位置
を比較することにより車両までの距離を検出し、更に画
像の中から走行車線を示す白線を抽出することにより自
車が走行している車線を認識する画像処理部と、 前記画像処理部で認識した自車車線上にある車両を目標
追尾車両であると認識する目標追尾車両認識部と、 撮影した画像を表示するモニタと、 前記モニタ上に表示した車両のうち,前記目標追尾車両
の中心回りに同目標追尾車両までの距離に応じた広さの
枠を設定して表示する枠設定部と、を有することを特徴
とする自動車の走行制御装置の表示機構。
(57) [Claims 1] Camera means for photographing a situation in front of the own vehicle through a pair of optical systems to obtain a pair of images one after another; From left to right in the vertical direction from inside
The area surrounded by a straight line is extracted and the extracted area is searched with time to recognize the vehicle image indicating the vehicle and compare the position of the vehicle image in the paired image. An image processing unit that detects the distance to the vehicle, and further extracts a white line indicating the driving lane from the image, thereby recognizing the lane in which the vehicle is traveling. A target tracked vehicle recognizing unit that recognizes a vehicle on the lane as a target tracked vehicle, a monitor that displays a captured image, and a vehicle that is displayed on the monitor and that is located around the center of the target tracked vehicle. A display mechanism of a travel control device for an automobile, comprising: a frame setting unit that sets and displays a frame having a size corresponding to a distance to a target tracking vehicle.
JP23298893A 1993-09-20 1993-09-20 The display mechanism of the vehicle travel control device Expired - Fee Related JP3510296B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP23298893A JP3510296B2 (en) 1993-09-20 1993-09-20 The display mechanism of the vehicle travel control device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP23298893A JP3510296B2 (en) 1993-09-20 1993-09-20 The display mechanism of the vehicle travel control device

Publications (2)

Publication Number Publication Date
JPH0781454A JPH0781454A (en) 1995-03-28
JP3510296B2 true JP3510296B2 (en) 2004-03-22

Family

ID=16948045

Family Applications (1)

Application Number Title Priority Date Filing Date
JP23298893A Expired - Fee Related JP3510296B2 (en) 1993-09-20 1993-09-20 The display mechanism of the vehicle travel control device

Country Status (1)

Country Link
JP (1) JP3510296B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000025486A (en) * 1998-07-13 2000-01-25 Denso Corp Inter-vehicle distance control device and record medium

Also Published As

Publication number Publication date
JPH0781454A (en) 1995-03-28

Similar Documents

Publication Publication Date Title
JP3264060B2 (en) The preceding vehicle detection mechanism of the vehicle travel control device
JPH0785400A (en) Automobile running controller
CN111587206B (en) Vehicle control device, vehicle having the same, and control method
JP2007320458A (en) Intervehicular distance controller
JP2874083B2 (en) Car travel control device
JPH11348598A (en) Control device for vehicle
JPH0747862A (en) Running control device for automobile
JPH1153689A (en) Inter-vehicle communication equipment
JP3476221B2 (en) Car driving control device
JPH11321379A (en) Vehicle running control device
JP3588806B2 (en) Car driving control device
JP3060795B2 (en) Car travel control device
JP2001088574A (en) Travel control device for vehicle
JP3401855B2 (en) Car driving control device
JP3510296B2 (en) The display mechanism of the vehicle travel control device
JP3019684B2 (en) Car driving control device
JPH01281600A (en) Traveling vehicle recognizing device
JPH0789366A (en) Travel controller for automobile
JPH07125563A (en) Travel controller of automobile
JP3291859B2 (en) Car travel control device
JP3448320B2 (en) Traveling lane detection mechanism of automobile traveling control device
JP2940357B2 (en) Image processing mechanism of vehicle travel control device
JPH0789364A (en) Travel controller for automobile
JP2000057498A (en) Method for controlling drive of vehicle
JP3246109B2 (en) Car travel control device

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20010206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20031225

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080109

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090109

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090109

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100109

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100109

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110109

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120109

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120109

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130109

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees