JP3912236B2 - Vehicle periphery monitoring device - Google Patents
Vehicle periphery monitoring device Download PDFInfo
- Publication number
- JP3912236B2 JP3912236B2 JP2002265894A JP2002265894A JP3912236B2 JP 3912236 B2 JP3912236 B2 JP 3912236B2 JP 2002265894 A JP2002265894 A JP 2002265894A JP 2002265894 A JP2002265894 A JP 2002265894A JP 3912236 B2 JP3912236 B2 JP 3912236B2
- Authority
- JP
- Japan
- Prior art keywords
- intersection
- vehicle
- line
- image
- road
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【0001】
【発明の属する技術分野】
本発明は、車両の周辺を監視する車両周辺監視装置に関する。
【0002】
【従来の技術】
従来、車両に搭載されたカメラにて車両の周辺を監視し、見通しの悪い交差点に進入する際に交差道路の情報をモニタ表示や音声にて運転者に報知する車両周辺監視装置が知られている。この車両周辺監視装置では、スイッチ操作等による意思表示を行い、報知機能を作動させることで、交差道路の情報がモニタや音声にて報知されるようになっている。このため、車両が見通しの良い交差点に進入する場合など、交差道路の情報を必要としない場合には、スイッチ操作等による意思表示を行わず、モニタ表示等が不必要に行われてしまうことを防止することができる。しかし、逆に、車両が見通しの悪い交差点に進入する場合など、運転者が報知を必要とする場合にはスイッチ操作等による意思表示を行わなければならず、その操作等が非常に煩わしい。
【0003】
そこで、車両の前方に設置されたカメラからの映像やナビゲーションによる地図情報に基づいて、交差点を自動的に検出して報知機能を作動させる車両周辺監視装置が提案されている(例えば特許文献1参照)。
【0004】
図13は、特許文献1に記載の車両周辺監視装置における交差点自動認識の説明図である。図13(a)に示すように、車両200が交差点210に接近し、車両前方に設置されたカメラにより、図13(b)に示すような画像220が取得されたとする。このとき、車両周辺監視装置は、画像220中の交差点標識(一時停止標識)221を認識して、車両200が交差点210に進入しようとしていると判断する。また、車両周辺監視装置は、図13(c)に示すように、ナビゲーションによる地図情報230と自車位置情報240とに基づいて交差点に進入しようとしていると判断する。
【0005】
【特許文献1】
特開2001−084496号公報
【0006】
【発明が解決しようとする課題】
しかしながら、特許文献1に記載された車両周辺監視装置では、交差点を検出するために、標識を監視するカメラやナビゲーション等が必要となってしまい、構成が複雑化していた。
【0007】
本発明はこのような従来の課題を解決するためになされたものであり、その目的とするところは、構成を簡素化し、交差点の自動認識が可能な車両周辺監視装置を提供することにある。
【0008】
【課題を解決するための手段】
上記目的を達成するため、本発明は、車両の周辺を監視する車両周辺監視装置において、前記車両の側方を撮像する撮像手段と、前記撮像手段により撮像された画像に基づき前記車両の走行方向に沿う走行路道路線を検出する画像処理手段と、前記画像処理手段によって検出された前記走行路道路線の車両走行方向の前方が途切れていることを検出し、さらに、途切れている位置から、前記走行路道路線と異なる方向に伸びる走行路交差線を検出した場合、前記車両が交差点に進入しようとしていると判断する交差点判断手段と、を備え、前記交差点判断手段は、前記走行路道路線と前記走行路交差線とのなす角度が前記車両の動きに応じて変化すること、及び、前記走行路交差線の長さが所定値以上であることを検出した場合、前記車両が見通しの良い交差点に進入しようとしていると判断することを特徴とする。
【0009】
【発明の効果】
本発明によれば、車両側方を撮像する撮像手段からの画像に基づいて、画像処理手段により車両の走行方向に沿う走行路道路線が検出される。この走行路道路線は、例えば道路上の白線であったり路肩線であったりする。そして、交差点判断手段により、走行路道路線の車両走行方向の前方における途切れが検出され、さらに、走行路道路線の途切れている位置から、走行路道路線と異なる方向に伸びる走行路交差線が検出された場合に、交差点に進入しようとしていると判断される。すなわち、交差点判断手段は、車両の走行方向に沿う白線や路肩線等が途切れていることを検出し、さらに、その途切れている位置から、別方向に白線や路肩線等が伸びていることを検出して、道路が交差等していることを認識し、交差点に進入しようとしていると判断している。そして、交差点判断手段は、走行路道路線と走行路交差線とのなす角度が車両の動きに応じて変化すること、及び、走行路交差線の長さが所定値以上であることを検出した場合、車両が見通しの良い交差点に進入しようとしていると判断する。
【0010】
このように、交差道路などの情報を監視するために車両側方を撮像する撮像手段を用いて、交差点の認識が実現されているため、交差点を認識するのための標識認識用のカメラを新たに追加する必要もなく、さらにはナビゲーション装置をも必要としない。
【0011】
従って、構成を簡素化し、交差点を自動的に認識することができる。
【0012】
【発明の実施の形態】
以下、本発明の実施形態を図面に基づいて説明する。
【0013】
図1は、本発明の第1の実施形態に係る車両周辺監視装置の構成を示すブロック図である。同図に示すように、車両周辺監視装置1は、車両の左側方を撮像する左側方カメラ(撮像手段)10aと、車両の右側方を撮像する右側方カメラ(撮像手段)10bと、車速パルスを出力する車速センサ20と、両側方カメラ10a,10bにて撮像された画像から必要な情報を抽出し、これら抽出された情報と車速センサ20からの車速パルスとに基づいて、交差点を認識する処理ECU30と、警報音を発することで運転者に注意を促す警報用ブザー(警報手段)40と、点灯することで運転者に注意を促す警報用インジケータ(警報手段)50と、両側方カメラ10a,10bにて撮像された画像を表示する車載モニタ(表示手段)60と、を備えている。
【0014】
また、処理ECU30は、両側方カメラ10a,10bからの画像に基づき車両の走行方向に沿う走行路道路線を検出する画像処理部(画像処理手段)31と、画像処理部31によって検出された走行路道路線が途切れていることを検出し、さらに、途切れている位置から、走行路道路線と異なる方向に伸びる走行路交差線を検出した場合、道路が交差していることを認識する交差点判断部(交差点判断手段)32と、を備えている。ここで、走行路道路線とは、車両が走行する道路の白線や路肩線などであり、走行路交差線とは、車両が走行する道路と交差する道路の白線や路肩線等である。
【0015】
次に、図2及び図3を参照して、本実施形態の交差点認識方法の概略について説明する。図2は、道路走行中の車両位置を示す説明図であり、図3は、図2に示した車両位置で右側方カメラ10bから得られる画像例を示す説明図である。なお、以下の説明では、右側方カメラ10bが車両進行方向に対して垂直な向きに設置されているものとする。
【0016】
まず、図2(a)に示すように、交差点110が車両100の遠方に存在しているとする。道路120及びその付近には、道路120と建物との境目や道路120の白線などの車両走行方向に沿う走行路道路線121が存在している。このため、右側方カメラ10bからの画像は、図3(a)に示すように、車両100の走行方向に沿う走行路道路線121を含むものとなる。なお、走行路道路線121が車両走行方向に対して平行に伸びている場合、右側方カメラ10bが車両進行方向に対して垂直な向きに設置されているので、走行路道路線121は画面上では水平直線として検出される。
【0017】
次に、図2(b)に示すように、車両100が交差点110に進入しようとしているとする。車両100が走行している車線が優先道路でなく分岐していれば、白線等は、車両100の走行方向の前方で途切れることとなる。このため、画像は、図3(b)に示すように、車両100の走行方向の前方が途切れた走行路道路線121を含むものとなる。
【0018】
また、交差点110では、白線等の途切れた位置から、交差道路130の白線等が存在するため、画像は、図3(b)に示すように、走行路道路線121の途切れた位置から、走行路道路線121とは異なる方向に伸びる線を含むものとなる。この線が走行路交差線131である。
【0019】
本実施形態では、これに基づき、車両走行方向に沿う走行路道路線121が車両走行方向の前方で途切れていることを検出し、さらに、途切れた位置から、走行路道路線121と異なる方向に伸びる走行路交差線131を検出することによって、車両100が交差点110に進入しようとしていると判断する。
【0020】
次に、図2(c)に示すように、車両100が交差点110にさらに近づいたとする。この場合の画像(図3(c))は、図3(b)に示すものと同様である。
【0021】
次に、車両100がさらに前進し、図2(d)に示すように、交差点110を離脱しようとしているとする。このとき、車両100が進入しようとしている道路140の白線等が撮像されるので、画像は、図3(d)に示すように、車両走行方向の後方が途切れた走行路道路線141を含むものとなる。
【0022】
本実施形態では、これに基づき、走行路道路線141が車両進行方向の後方で途切れてることを検出したときに、交差点110を離脱しようとしていると判断する。
【0023】
次に、本実施形態の交差点認識方法について、さらに詳しく説明する。図4は、図1に示した処理ECU30により行われる交差点進入認識を示すフローチャートであり、図5は、図4に示した各処理の説明図である。なお、図5では、交差点進入時における右側方カメラ10bからの画像及びその画像を処理した様子を示している。
【0024】
まず、図4に示すように、画像処理部31は、右側方カメラ10bにより得られた画像(図5(a))から水平直線を検出する(S101、図5(b))。具体的に、画像処理部31は、画像内の横エッジを抽出した後、それをHough変換して水平な直線を抽出する。そして、画像処理部31は、これらの水平直線のうち画面上において高さが同一の直線を直線群としてグルーピングする(S102、図5(c))。
【0025】
グルーピング後、画像処理部31は、全直線(直線群を含む)の中から走行路道路線121に相当する直線を1つ選択する(S103、図5(d))。具体的に、画像処理部31は、画面上において最下方に存在し且つ所定値以上の長さを有する直線を走行路道路線121として選択する。
【0026】
その後、交差点判断部32は、走行路道路線121の車両走行方向の前方が途切れていることを検出し、途切れている位置(点S)から、車両進行方向の前方の画面端までの距離Dsを求める(S104、図5(e))。ここで、図2(a)に示すように、車両100が交差点110の遠方に存在する場合には、点Sが存在せず、距離Dsが「0」となる。
【0027】
そして、交差点判断部32は、距離Dsが所定値Diを超え且つ距離の変化量ΔDsが「0」以上であるか否かを判断する(S105)。距離の変化量ΔDsとは、前回の右側方カメラ10bからの画像に基づいて算出された距離Ds’を今回算出された距離Dsから減じて得られる値(=Ds−Ds’)である。
【0028】
距離Dsが所定値Diを超えるものでない及び/または距離の変化量ΔDsが「0」以上でないと判断した場合(S105:NO)、処理は終了する。走行路道路線121が途切れていない場合は、距離Dsが「0」となるので、処理は終了することとなる。なお、距離Dsが所定値Diを超えない場合は、自車と点Sとの距離は大きく、仮に点Sより前方が交差点110であったとしても、交差点進入はまだ先であると言え、また、距離の変化量ΔDsが「0」を下回る場合は、車両100が後退していることから、明らかに交差点進入でないと言える。すなわち、S105において「NO」と判断される場合は、車両100が交差点110へ進入するはずがないときである。
【0029】
一方、距離Dsが所定値Diを超え且つ距離の変化量ΔDsが「0」以上であると判断した場合(S105:YES)、交差点判断部32は、点Sから、走行路道路線121と異なる方向に伸びる走行路交差線131の検出を行う(S106、図5(f))。
【0030】
その後、交差点判断部32は、走行路交差線131が検出されたか否かを判断する(S107)。走行路交差線131が検出されなかったと判断した場合(S107:NO)、交差点判断部32は交差点未進入であると判断し(S111)、処理は終了する。
【0031】
走行路交差線131が検出されたと判断した場合(S107:YES)、交差点判断部32は、車両100が交差点110へ進入しようとしていると判断する。そして、交差点判断部32は、車速センサ20からの車速パルスに基づいて、車速が所定値V0以下であるか否か、すなわち車両100が徐行または一時停止状態であるか否かを判断する(S108)。
【0032】
車速が所定値V0以下でないと判断した場合、すなわち車両100が徐行または一時停止状態でないと判断した場合(S108、NO)、交差点判断部32は、交差道路130の情報を運転者に報知する必要がないと判断し(S110)、処理は終了する。つまり、交差点判断部32は、現在進入中の交差点110が所定値V0を超える速度で通過できるほどのものであるので、そもそも報知の必要がないと判断している。
【0033】
一方、車速が所定値V0以下であると判断した場合(S108、YES)、交差点判断部32は、交差道路130の情報を運転者に報知する必要があると判断し(S109)、処理は終了する。そして、処理ECU30の命令により、画像モニタ60は両側方カメラ10a,10bからの画像を表示し、警報用ブザー40は警報音にて警報を発し、警報用インジケータ50は点灯することにより警報を発する。
【0034】
図6は、図1に示した処理ECU30により行われる交差点離脱認識を示すフローチャートであり、図7は、図6に示した各処理の説明図である。なお、図7では、交差点離脱時における右側方カメラ10bからの画像及びその画像を処理した様子を示している。また、図6に示す交差点離脱認識の処理は、図4に示した交差点進入認識の処理において、車両100が交差点に進入しようとしていると判断された後に行われるものである。
【0035】
まず、図4に示したS101〜S103と同様に、画像処理部31は、右側方カメラ10bにより得られた画像(図7(a))から水平直線を検出し(S201)、これらの水平直線のうち画面内において高さが同一の直線を直線群としてグルーピングし(S202)、全直線(直線群を含む)群の中から走行路道路線141に相当する直線を1つ選択する(S203)。
【0036】
その後、交差点判断部32は、走行路道路線141の車両走行方向の後方が途切れていることを検出し、途切れている位置(点E)から、車両進行方向の後方の画面端までの距離Deを求める(S204、図7(b))。
【0037】
そして、交差点判断部32は、距離Deが所定値Doより小さく且つ距離の変化量ΔDeが「0」以下であるか否かを判断する(S205)。ここで、距離の変化量ΔDeとは、右側方カメラ10bからの前回の画像に基づいて算出された距離De’を今回算出された距離Deから減じて得られる値(=De−De’)である。
【0038】
距離Deが所定値Doより小さいものでない及び/または距離の変化量ΔDeが「0」以下でないと判断した場合(S205:NO)、交差点判断部32は、車両100が交差点内を走行中であると判断し(S207)、処理は終了する。すなわち、距離Deが所定値Do以上である場合、交差点判断部32は、自車から点Eまでの距離が長いことから交差点110の離脱はまだ先であると認識し、交差点走行中であると判断している。また、距離の変化量ΔDeが「0」を超えるものである場合、車両100が後退していることから車両100が交差点を離脱しようとしているとは言えず、交差点判断部32は、車両100が交差点内を走行中であると判断している。
【0039】
距離Deが所定値Doより小さく且つ距離の変化量ΔDeが「0」以下であると判断された場合(S205:YES)、交差点判断部32は、車両100が交差点110を離脱しようとしていると判断し(S206、図7(c))、処理は終了する。そして、画像モニタ60は、交差点走行中に両側方カメラ10a,10bからの画像を表示しているのであれば、両側方カメラ10a,10bからの画像が表示される1つ前の画像、例えばテレビ表示などに切り替えて表示し、警報用ブザー40及び警報用インジケータ50は、それぞれ警報動作を行っている場合、それら動作を停止する。
【0040】
このようにして、本実施形態に係る車両周辺監視装置1では、車両側方を撮像する両側方カメラ10a,10bからの画像に基づいて、画像処理部31により車両100の走行方向に沿う走行路道路線(例えば道路上の白線や路肩線)121が検出される。そして、交差点判断部32により、走行路道路線121の車両走行方向の前方における途切れが検出され、さらに、走行路道路線121の途切れている位置から、走行路道路線121と異なる方向に伸びる走行路交差線131が検出された場合に、交差点110に進入しようとしていると判断する。すなわち、交差点判断部32は、車両100の走行方向に沿う白線や路肩線等が途切れていることを検出し、さらに、その途切れている位置から、別方向に白線や路肩線等が伸びていることを検出して、道路が交差していることを認識し、車両100が交差点110に進入しようとしていると判断している。
【0041】
このように、交差道路130などの情報を監視するために車両側方を撮像する両側方カメラ10a,10bを用いて、交差点110の認識が実現されているので、交差点110の検出のために標識認識用のカメラを新たに追加することなく、さらにはナビゲーション装置をも必要としない。
【0042】
従って、構成を簡素化し、交差点を自動的に認識することができる。
【0043】
また、交差点判断部32により車両100が交差点110に進入しようとしていると判断された場合、画像モニタ60が両側方カメラ10a,10bからの画像を表示するので、交差点進入時には交差道路130の情報が自動的に画像モニタ60に表示される。このため、運転者の手を煩わせることがなく表示が行われることとなる。従って、利便性を向上させることができる。
【0044】
また、従来のように、標識の認識により交差点進入を判断する装置では、交差点離脱側には標識が存在しないため、離脱について認識することできず、さらに、ナビゲーションにおいても精度の問題から離脱を正確に判断できない。しかし、本実施形態に係る車両周辺監視装置1では、交差点110に進入しようとしていると判断した後に、走行路道路線141の車両走行の後方が途切れていることを検出した場合に、車両100が交差点を離脱しようとしていると判断するので、実際に撮像された画像に基づいて離脱の判断を行っていることとなり、交差点110の離脱を正確に判断することができる。
【0045】
また、従来では、離脱を判断できず、交差点離脱時にモニタ等の画像表示を元に戻すタイミングが不正確であったが、本実施形態では、交差点判断部32により車両100が交差点を離脱しようとしていると判断された場合、画像モニタ60は両側方カメラ10a,10bからの画像が表示される1つ前の画像に切り替えて表示するので、実際に撮像された画像に基づいて切替が行われることとなり、従来に比して、正確なタイミングで画像表示を元に戻すことができる。
【0046】
次に、本発明の第2の実施形態について説明する。第2の実施形態は、第1の実施形態とほぼ同様であるが、交差点判断部32が交差点の見通しの良し悪しを判断する機能を有している点で、第1の実施形態と異なる。
【0047】
図8〜図10を参照して、本実施形態の交差点見通し判断方法の概略について説明する。図8は、前進中の車両100により見通しの良い交差点で撮像された画像例を示す説明図であり、図9は、前進中の車両100により見通しの悪い交差点で撮像された画像例を示す説明図であり、図10は、図8及び図9に示した画像中の走行路道路線121及び走行路交差線131とのなす角度を示す説明図である。なお、図8及び図9では、車両進行方向に対して垂直な向きに設置された右側方カメラ10bにより撮像された画像例を示している。また、図9では、道路120の白線等が存在せず、道路120と建物との境目が走行路道路線121として認識されており、建物の角(点S上)が走行路交差線131として認識されてしまっているものとする。
【0048】
まず、図8(a)に示すように、時刻t0における走行路道路線121と走行路交差線131とのなす角度はθA1である。この角度θA1は、実際の走行路道路線121と走行路交差線131とがなす角度でなく画像上における角度である。また、図9(a)では、図8(a)と同時刻、すなわち時刻t0における走行路道路線121と走行路交差線131とのなす角度はθB(建物が垂直に切り立っている場合には90°)である。この角度θBも走行路道路線121と走行路交差線131とが画面上においてなす角度である。以下、走行路道路線121と走行路交差線131とがなす角度とは、それらが画面上においてなす角度であるとする。
【0049】
次に、車両100が前進して時刻t1になったとき、図8(b)に示すように、走行路道路線121と走行路交差線131とのなす角度はθA1よりも大きくなりθA2となる。これに対し、図9(b)では、車両100が前進しても、建物の壁は奥行き方向に広がりを有しないため、時刻t1において、走行路道路線121と走行路交差線131とのなす角度は、時刻t0のときと同じθB(90°)である。
【0050】
次に、車両100がさらに前進して時刻t2になったとき、図8(c)に示すように、走行路道路線121と走行路交差線131とのなす角度はθA2よりもさらに大きくなりθA3となる。これに対し、図9(c)では、さらに車両100が前進しても、時刻t2において、走行路道路線121と走行路交差線131とのなす角度は、時刻t0のときと同じθB(90°)である。
【0051】
この各時刻におけるそれぞれの角度は図10に示されるようになる。見通しの良い交差点では、車両100の前進に応じて走行路道路線121と走行路交差線131とのなす角度が変化するのに対し、見通しの悪い交差点では、走行路道路線121と走行路交差線131とのなす角度が90°で一定である。このように、走行路道路線121と走行路交差線131とのなす角度を監視しておくことで、交差点の見通しの良し悪しを判断することができるようになる。
【0052】
なお、見通しの悪い交差点では、走行路道路線121と走行路交差線131とのなす角度は必ずしも90°になるとは限らず、建物の壁が地面に対し垂直でない場合などには、90°以外の角度となる。
【0053】
本実施形態では、両側方カメラ10a,10bから画像を取得した後、交差点の見通しの良し悪しを判断するために、処理ECU30において以下に示す処理を行っている。
【0054】
次に、本実施形態の交差点見通し判断について、さらに詳しく説明する。図11は、図1に示した処理ECU30により行われる交差点進入認識及び交差点見通し判断を示すフローチャートである。同図に示すS301〜S311は、図4に示すS101〜S111と同じであるため、説明を省略する。
【0055】
S309の後、交差点判断部32は、走行路道路線121と走行路交差線131との為す角度θを算出する(S312)。その後、交差点判断部32は、前回算出した角度θと今回の角度θを比較することにより、今回の角度θが車両100の動きに応じて変化しているか否かを判断する(S313)。
【0056】
ここで、車速が「0」である場合には、角度θが車両100の動きに応じて変化しているか否かを判断することができないため、交差点判断部32は、車速が少なくとも「0」を超える値になるまで判断をしなかったり、可能な場合には前回の角度θと前々回の角度θとに基づいて判断を行ったりして、S313の判断が正常に行わなれるようにする。
【0057】
角度θが車両100の動きに応じて変化していないと判断した場合、すなわち角度θが車両100の動きにかかわらず一定であると判断した場合(S313:NO)、交差点判断部32は、進入しようとしている交差点が見通しの悪いものであると判断し(S315)、処理は終了する。そして、処理ECU30の命令により、画像モニタ60は両側方カメラ10a,10bからの画像を表示し、警報用ブザー40は警報音により警報を発し、警報用インジケータ50は点灯することにより警報を発する。
【0058】
一方、角度θが車両100の動きに応じて変化していると判断した場合(S313:YES)、交差点判断部32は、進入しようとしている交差点が見通しの良いものであると判断する(S314)。そして、交差点が見通しの良いものであると判断した場合、画像モニタ60は両側方カメラ10a,10bからの画像を表示することなく、さらに警報用ブザー40及び警報用インジケータ50は警報を発することなく、処理は終了する。
【0059】
なお、交差点の見通しが悪くなるのは、図12に示すように、建物が道路120の白線等から奥まった位置且つ交差道路130の白線等に近い位置に存在する場合も考えられる。上記のように、走行路道路線121と走行路交差線131とのなす角度θにより、見通しの良し悪しを判断している場合、白線等から奥まった位置に建物が存在しているときには、交差点110の見通しが良いと判断されてしまう。そこで、角度θが変化しているか否かの判断(S313の判断)に加え、走行路交差線131の長さが所定値以上であるか否かの判断を加えるようする。これにより、走行路交差線131が所定値未満である場合には、建物等の存在により見通しが悪くなっていると判断でき、逆に、走行路交差線131が所定値以上である場合には、建物等の存在がなく、交差点110の見通しは良いと判断できる。
【0060】
このようにして、本実施形態に係る車両周辺監視装置1では、構成を簡素化し、自動的に交差点の検出を行うことができ、利便性を向上させることができ、交差点110の離脱を正確に判断することができ、正確なタイミングで画像表示を元に戻すことができる。
【0061】
また、交差点判断部32は、角度θが車両100の動きに応じて変化することを検出し、走行路交差線131の長さが所定値以上であることを検出している。例えば、走行路道路線121が道路120と白線等であり、走行路交差線131が交差道路130の白線等である場合、角度θは車両100の動きに応じて変化する。さらに、例えば、走行路交差線131が建物等によって隠されていない場合、走行路交差線131の長さが所定値以上となる。すなわち、上記の2条件を満たすということは、交差道路130の白線等が視認しやすい位置に存在し、運転者にとって交差点110の見通しが良いと言える。従って、交差点の見通しの判断を行うことができる。
【0062】
また、交差点判断部32は、角度θが車両100の動きにかかわらず一定であることを検出している。例えば走行路道路線121が道路120と建物等との境目であり、走行路交差線131が建物等の角である場合、角度θが車両100の動きにかかわらず一定である。すなわち、上記の条件を満たすということは、交差道路130の白線等が建物等により視認できなくなっており、交差点110の見通しが悪くなっていると言える。従って、交差点の見通しの判断を行うことができる。
【0063】
また、警報用ブザー40や警報用インジケータ50は、車両100が見通しの悪い交差点に進入しようとしていると判断した場合に警報を発するので、見通しの悪い交差点の進入時にのみ注意を促すこととなるので、不要な報知をしてしまうことが防止される。
【0064】
また、車両100が見通しの良い交差点に進入しようとしていると交差点判断部32が判断した場合、画像モニタ60は両側方カメラ10a,10bからの画像を表示しないので、見通しの良い交差点に進入する際、表示内容がテレビ表示などから両側方カメラ10a,10bからの画像に切り替わってしまうことがなくなる。従って、不必要な情報を報知してしまうことが防止される。
【0065】
なお、本実施形態では、車両側方を撮像するカメラとして右及び左側方カメラ10a,10bを備えているが、本発明はこれに限定されるものではなく、右側方カメラ10aまたは左側方カメラ10bのいずれか一方を備えていればよい。
【0066】
また、本実施形態では、車両周辺監視装置1は、交差点110の判断に用いられているが、T字路等の判断に用いられてもよい。
【図面の簡単な説明】
【図1】本発明の第1の実施形態に係る車両周辺監視装置の構成を示すブロック図である。
【図2】道路走行中の車両位置を示す説明図であり、(a)は交差点に進入しようとする前の車両位置を示しており、(b)は交差点に進入しようとしているときの車両位置を示しており、(c)は交差点に進入しようとしており且つ図2(b)よりもさらに前進した場合の車両位置を示しており、(d)は交差点を離脱しようとしているときの車両位置を示している。
【図3】図2に示した車両位置で右側方カメラから得られる画像例を示す説明図であり、(a)は図2(a)に示す車両位置での画像例であり、(b)は図2(b)に示す車両位置での画像例であり、(c)は図2(c)に示す車両位置での画像例であり、(d)は図2(d)に示す車両位置での画像例である。
【図4】図1に示した処理ECUにより行われる交差点進入認識を示すフローチャートである。
【図5】図4に示した各処理の説明図であり、(a)は右側方カメラにより得られた画像を示しており、(b)はS101の処理がされた画像の様子を示しており、(c)はS102の処理がされた画像の様子を示しており、(d)はS103の処理がされた画像の様子を示しており、(e)はS104の処理がされた画像の様子を示しており、(f)はS106の処理がされた画像の様子を示している。
【図6】図1に示した処理ECUにより行われる交差点離脱認識を示すフローチャートである。
【図7】図6に示した各処理の説明図であり、(a)は右側方カメラにより得られた画像を示しており、(b)はS204の処理がされた画像の様子を示しており、(c)はS206の判断時の画像の様子を示している。
【図8】前進中の車両により見通しの良い交差点で撮像された画像例を示す説明図であり、(a)は時刻t0における画像例を示し、(b)は時刻t1における画像例を示し、(c)は時刻t2における画像例を示している。
【図9】前進中の車両により見通しの悪い交差点で撮像された画像例を示す説明図であり、(a)は時刻t0における画像例を示し、(b)は時刻t1における画像例を示し、(c)は時刻t2における画像例を示している。
【図10】図9及び図10に示した画像中の走行路道路線及び走行路交差線とのなす角度を示すグラフである。
【図11】図1に示した処理ECU30により行われる交差点進入認識及び交差点見通し判断を示すフローチャートである。
【図12】建物の壁等が走行路道路線上にせり出しておらず、且つ交差点の見通しが悪い場合の例を示す説明図である。
【図13】特許文献1に記載の交差点情報提供装置における交差点自動認識の説明図であり、(a)は交差道路における車両位置を示し、(b)は前方に設置されたカメラの映像例を示し、(c)はナビゲーションによる地図情報の例を示している。
【符号の説明】
1 車両周辺監視装置
10a 左側方カメラ(撮像手段)
10b 右側方カメラ(撮像手段)
31 画像処理部(画像処理手段)
32 交差点判断部(交差点判断手段)
40 警報用ブザー(警報手段)
50 警報用インジケータ(警報手段)
60 車載モニタ(表示手段)[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a vehicle periphery monitoring device that monitors the periphery of a vehicle.
[0002]
[Prior art]
Conventionally, there has been known a vehicle periphery monitoring device that monitors the periphery of a vehicle with a camera mounted on the vehicle and informs the driver of the information of the intersection road with a monitor display or voice when entering an intersection with poor visibility. Yes. In this vehicle periphery monitoring device, intention information is displayed by a switch operation or the like, and a notification function is activated, so that information on intersection roads is notified by a monitor or voice. For this reason, when information on intersection roads is not required, such as when a vehicle enters an intersection with good visibility, the intention display by switch operation etc. is not performed, and the monitor display etc. is performed unnecessarily. Can be prevented. However, conversely, when the driver needs to be notified, such as when a vehicle enters an intersection with poor visibility, it is necessary to perform intention display by a switch operation or the like, which is very troublesome.
[0003]
Therefore, a vehicle periphery monitoring device that automatically detects an intersection and activates a notification function based on video from a camera installed in front of the vehicle and map information by navigation has been proposed (see, for example, Patent Document 1). ).
[0004]
FIG. 13 is an explanatory diagram of automatic intersection recognition in the vehicle periphery monitoring device described in
[0005]
[Patent Document 1]
JP 2001-084496 A
[0006]
[Problems to be solved by the invention]
However, the vehicle periphery monitoring device described in
[0007]
The present invention has been made to solve such a conventional problem, and an object of the present invention is to provide a vehicle periphery monitoring device capable of simplifying the configuration and automatically recognizing an intersection.
[0008]
[Means for Solving the Problems]
In order to achieve the above object, the present invention provides a vehicle periphery monitoring device that monitors the periphery of a vehicle, an image capturing unit that captures an image of a side of the vehicle, and a traveling direction of the vehicle based on an image captured by the image capturing unit. An image processing means for detecting a road line along the road, and detecting that the front of the road direction of the vehicle detected by the image processing means is interrupted. Intersection detection means for determining that the vehicle is about to enter an intersection when a road intersection line extending in a direction different from the road line is detected.The intersection determination means is configured such that an angle formed between the roadway road line and the roadway intersection line changes according to the movement of the vehicle, and the length of the roadway intersection line is a predetermined value or more. If it is detected that the vehicle is about to enter an intersection with good visibilityIt is characterized by that.
[0009]
【The invention's effect】
According to the present invention, on the basis of the image from the imaging unit that images the side of the vehicle, the road road line along the traveling direction of the vehicle is detected by the image processing unit. The travel road line may be, for example, a white line on the road or a shoulder line. Then, the intersection determination means detects a break in the vehicle traveling direction ahead of the traveling road line, and further, there is a traveling road intersection line extending in a direction different from the traveling road line from the position where the traveling road line is broken. If detected, it is determined that the vehicle is about to enter the intersection. That is, the intersection judging means detects that the white line or the shoulder line along the traveling direction of the vehicle is interrupted, and further detects that the white line or the shoulder line extends in the other direction from the interrupted position. It detects and recognizes that the road is crossing, and judges that it is going to enter the intersection.Then, the intersection judging means detects that the angle formed between the travel road line and the travel road intersection line changes according to the movement of the vehicle, and that the length of the travel road intersection line is greater than or equal to a predetermined value. If so, it is determined that the vehicle is about to enter an intersection with good visibility.
[0010]
In this way, since the recognition of the intersection is realized by using the imaging means for imaging the side of the vehicle in order to monitor information such as the intersection road, a sign recognition camera for recognizing the intersection is newly provided. No navigation device is required.
[0011]
Therefore, the configuration can be simplified and the intersection can be automatically recognized.
[0012]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
[0013]
FIG. 1 is a block diagram showing a configuration of a vehicle periphery monitoring device according to the first embodiment of the present invention. As shown in the figure, the vehicle
[0014]
Further, the
[0015]
Next, an outline of the intersection recognition method of the present embodiment will be described with reference to FIGS. FIG. 2 is an explanatory diagram showing a vehicle position while traveling on a road, and FIG. 3 is an explanatory diagram showing an example of an image obtained from the right-
[0016]
First, as shown in FIG. 2A, it is assumed that an
[0017]
Next, it is assumed that the
[0018]
In addition, at the
[0019]
In this embodiment, based on this, it is detected that the traveling
[0020]
Next, as illustrated in FIG. 2C, it is assumed that the
[0021]
Next, it is assumed that the
[0022]
In the present embodiment, based on this, when it is detected that the
[0023]
Next, the intersection recognition method of this embodiment will be described in more detail. FIG. 4 is a flowchart showing intersection approach recognition performed by the
[0024]
First, as shown in FIG. 4, the
[0025]
After the grouping, the
[0026]
After that, the
[0027]
Then, the
[0028]
When it is determined that the distance Ds does not exceed the predetermined value Di and / or the distance change amount ΔDs is not equal to or greater than “0” (S105: NO), the process ends. If the
[0029]
On the other hand, when it is determined that the distance Ds exceeds the predetermined value Di and the distance change amount ΔDs is equal to or greater than “0” (S105: YES), the
[0030]
Thereafter, the
[0031]
When it is determined that the traveling
[0032]
When it is determined that the vehicle speed is not equal to or lower than the predetermined value V0, that is, when it is determined that the
[0033]
On the other hand, when it is determined that the vehicle speed is equal to or lower than the predetermined value V0 (S108, YES), the
[0034]
FIG. 6 is a flowchart showing intersection departure recognition performed by the
[0035]
First, similarly to S101 to S103 shown in FIG. 4, the
[0036]
After that, the
[0037]
Then, the
[0038]
When it is determined that the distance De is not smaller than the predetermined value Do and / or the distance change amount ΔDe is not equal to or less than “0” (S205: NO), the
[0039]
When it is determined that the distance De is smaller than the predetermined value Do and the distance change ΔDe is “0” or less (S205: YES), the
[0040]
Thus, in the vehicle
[0041]
As described above, the recognition of the
[0042]
Therefore, the configuration can be simplified and the intersection can be recognized automatically.The
[0043]
Further, when the
[0044]
In addition, as in the past, an apparatus that determines the approach of an intersection by recognizing a sign cannot recognize the departure because there is no sign on the exit side of the intersection. I cannot judge. However, in the vehicle
[0045]
Conventionally, the departure cannot be determined, and the timing for returning the image display on the monitor or the like to the original state when leaving the intersection is inaccurate. However, in this embodiment, the
[0046]
Next, a second embodiment of the present invention will be described. The second embodiment is substantially the same as the first embodiment, but is different from the first embodiment in that the
[0047]
With reference to FIGS. 8-10, the outline of the intersection sighting determination method of this embodiment is demonstrated. FIG. 8 is an explanatory diagram illustrating an example of an image captured at an intersection with good visibility by the
[0048]
First, as shown in FIG. 8A, the angle formed between the
[0049]
Next, when the
[0050]
Next, when the
[0051]
Each angle at each time is as shown in FIG. At an intersection with good visibility, the angle between the
[0052]
Note that at intersections with poor visibility, the angle between the
[0053]
In the present embodiment, after acquiring images from the two-
[0054]
Next, the intersection prospect determination according to the present embodiment will be described in more detail. FIG. 11 is a flowchart showing intersection approach recognition and intersection sighting determination performed by the
[0055]
After S309, the
[0056]
Here, when the vehicle speed is “0”, it cannot be determined whether or not the angle θ changes in accordance with the movement of the
[0057]
When it is determined that the angle θ does not change according to the movement of the
[0058]
On the other hand, when it is determined that the angle θ has changed according to the movement of the vehicle 100 (S313: YES), the
[0059]
Note that it is conceivable that the visibility of the intersection deteriorates, as shown in FIG. 12, where the building is located behind the white line of the
[0060]
Thus, in the vehicle
[0061]
In addition, the
[0062]
The
[0063]
Further, since the
[0064]
In addition, when the
[0065]
In the present embodiment, the right and
[0066]
Moreover, in this embodiment, although the vehicle
[Brief description of the drawings]
FIG. 1 is a block diagram showing a configuration of a vehicle periphery monitoring device according to a first embodiment of the present invention.
FIGS. 2A and 2B are explanatory diagrams showing vehicle positions during road travel, where FIG. 2A shows a vehicle position before entering the intersection, and FIG. 2B shows a vehicle position when entering the intersection; (C) shows the vehicle position when the vehicle is about to enter the intersection and further advances from FIG. 2 (b), and (d) shows the vehicle position when the vehicle is about to leave the intersection. Show.
3 is an explanatory diagram showing an example of an image obtained from the right-side camera at the vehicle position shown in FIG. 2, (a) is an example of an image at the vehicle position shown in FIG. 2 (a), and (b) Fig. 2B is an example of an image at the vehicle position shown in Fig. 2B, Fig. 2C is an example of an image at the vehicle position shown in Fig. 2C, and Fig. 2D is a vehicle position shown in Fig. 2D. It is an example of an image.
4 is a flowchart showing intersection approach recognition performed by the processing ECU shown in FIG. 1; FIG.
5A and 5B are explanatory diagrams of each process shown in FIG. 4, in which FIG. 5A shows an image obtained by the right side camera, and FIG. 5B shows a state of the image processed in S101. (C) shows the state of the image processed in S102, (d) shows the state of the image processed in S103, and (e) shows the image processed in S104. (F) shows the state of the image subjected to the processing of S106.
FIG. 6 is a flowchart showing intersection departure recognition performed by the processing ECU shown in FIG. 1;
7 is an explanatory diagram of each process shown in FIG. 6, in which (a) shows an image obtained by the right side camera, and (b) shows a state of the image subjected to the process of S204. (C) shows the state of the image at the time of determination in S206.
FIGS. 8A and 8B are explanatory diagrams illustrating an example of an image captured at an intersection with a good line of sight by a vehicle that is moving forward; FIG. 8A illustrates an example of an image at time t0; FIG. (C) shows an example of an image at time t2.
FIGS. 9A and 9B are explanatory diagrams illustrating an example of an image captured at an intersection with poor visibility by a vehicle traveling forward, where FIG. 9A illustrates an example of an image at time t0, and FIG. 9B illustrates an example of an image at time t1; (C) shows an example of an image at time t2.
10 is a graph showing an angle formed by a travel road line and a travel road intersection line in the images shown in FIGS. 9 and 10. FIG.
FIG. 11 is a flowchart showing intersection approach recognition and intersection line-of-sight judgment performed by the
FIG. 12 is an explanatory diagram showing an example of a case where a building wall or the like is not protruding on the roadway and the intersection has poor visibility.
13A and 13B are explanatory diagrams of automatic intersection recognition in the intersection information providing apparatus described in
[Explanation of symbols]
1 Vehicle perimeter monitoring device
10a Left side camera (imaging means)
10b Right side camera (imaging means)
31 Image processing unit (image processing means)
32 Intersection Judgment Unit (Intersection Judgment Means)
40 Alarm buzzer (alarm means)
50 Alarm indicator (alarm means)
60 On-vehicle monitor (display means)
Claims (7)
前記車両の側方を撮像する撮像手段と、
前記撮像手段により撮像された画像に基づき前記車両の走行方向に沿う走行路道路線を検出する画像処理手段と、
前記画像処理手段によって検出された前記走行路道路線の車両走行方向の前方が途切れていることを検出し、さらに、途切れている位置から、前記走行路道路線と異なる方向に伸びる走行路交差線を検出した場合、前記車両が交差点に進入しようとしていると判断する交差点判断手段と、
を備え、
前記交差点判断手段は、前記走行路道路線と前記走行路交差線とのなす角度が前記車両の動きに応じて変化すること、及び、前記走行路交差線の長さが所定値以上であることを検出した場合、前記車両が見通しの良い交差点に進入しようとしていると判断することを特徴とする車両周辺監視装置。In the vehicle periphery monitoring device for monitoring the periphery of the vehicle,
Imaging means for imaging the side of the vehicle;
Image processing means for detecting a roadway line along the traveling direction of the vehicle based on the image picked up by the image pickup means;
It detects that the front of the vehicle travel direction of the travel route road line detected by the image processing means is interrupted, and further, a travel route intersection line extending in a direction different from the travel route road line from the interrupted position. An intersection determination means for determining that the vehicle is about to enter an intersection,
Equipped with a,
The intersection determination means is configured such that an angle formed by the travel road line and the travel road intersection line changes according to the movement of the vehicle, and the length of the travel road intersection line is a predetermined value or more. When the vehicle is detected, it is determined that the vehicle is about to enter an intersection with good visibility .
前記表示手段は、前記車両が見通しの良い交差点に進入しようとしていると前記交差点判断手段により判断された場合に、前記撮像手段からの画像を表示しないことを特徴とする請求項1に記載の車両周辺監視装置。 2. The vehicle according to claim 1, wherein the display unit does not display an image from the imaging unit when the intersection determination unit determines that the vehicle is about to enter an intersection with good visibility. Perimeter monitoring device.
前記表示手段は、前記車両が交差点を離脱しようとしていると前記交差点判断手段により判断された場合に、前記撮像手段からの画像が表示される1つ前の画像に切り替えて表示することを特徴とする請求項6に記載の車両周辺監視装置。 The display means, when the intersection judgment means judges that the vehicle is about to leave the intersection, switches to the previous image on which the image from the imaging means is displayed, and displays it. The vehicle periphery monitoring apparatus according to claim 6.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002265894A JP3912236B2 (en) | 2002-09-11 | 2002-09-11 | Vehicle periphery monitoring device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002265894A JP3912236B2 (en) | 2002-09-11 | 2002-09-11 | Vehicle periphery monitoring device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004102827A JP2004102827A (en) | 2004-04-02 |
JP3912236B2 true JP3912236B2 (en) | 2007-05-09 |
Family
ID=32264899
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002265894A Expired - Fee Related JP3912236B2 (en) | 2002-09-11 | 2002-09-11 | Vehicle periphery monitoring device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3912236B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10974732B2 (en) | 2019-01-04 | 2021-04-13 | Toyota Motor Engineering & Manufacturing North America, Inc. | System, method, and computer-readable storage medium for traffic intersection navigation |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4729905B2 (en) * | 2004-11-17 | 2011-07-20 | アイシン・エィ・ダブリュ株式会社 | Vehicle notification device and program |
JP4899351B2 (en) * | 2005-06-17 | 2012-03-21 | 株式会社デンソー | Travel condition determination device and in-vehicle navigation device |
JP4561627B2 (en) * | 2005-12-26 | 2010-10-13 | アイシン・エィ・ダブリュ株式会社 | Vehicle periphery monitoring device |
JP4723405B2 (en) * | 2006-03-22 | 2011-07-13 | クラリオン株式会社 | Navigation device, control method thereof, and control program |
JP4910510B2 (en) * | 2006-06-30 | 2012-04-04 | 株式会社デンソー | Control information storage device and program |
JP2009064283A (en) * | 2007-09-07 | 2009-03-26 | Omron Corp | Traffic information providing system and traffic information providing method |
JP4716139B2 (en) | 2008-05-14 | 2011-07-06 | アイシン精機株式会社 | Perimeter monitoring device |
JP2010217978A (en) * | 2009-03-13 | 2010-09-30 | Toyota Motor Corp | Driving support device |
JP5896263B2 (en) * | 2011-01-31 | 2016-03-30 | 矢崎エナジーシステム株式会社 | Image recording control method and in-vehicle image recording apparatus |
JP5278528B2 (en) * | 2011-12-27 | 2013-09-04 | 日産自動車株式会社 | VEHICLE DISPLAY DEVICE AND VEHICLE VIDEO DISPLAY CONTROL METHOD |
JP5960506B2 (en) | 2012-05-25 | 2016-08-02 | 株式会社デンソー | Intersection recognition device and road type recognition device |
JP5807620B2 (en) * | 2012-06-19 | 2015-11-10 | トヨタ自動車株式会社 | Driving assistance device |
JP6194604B2 (en) * | 2013-03-15 | 2017-09-13 | 株式会社リコー | Recognizing device, vehicle, and computer executable program |
JP6586930B2 (en) * | 2016-08-04 | 2019-10-09 | トヨタ自動車株式会社 | Vehicle travel control device |
KR20200084473A (en) * | 2019-01-02 | 2020-07-13 | 현대모비스 주식회사 | Apparatus for detecting crossroad and method thereof |
-
2002
- 2002-09-11 JP JP2002265894A patent/JP3912236B2/en not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10974732B2 (en) | 2019-01-04 | 2021-04-13 | Toyota Motor Engineering & Manufacturing North America, Inc. | System, method, and computer-readable storage medium for traffic intersection navigation |
Also Published As
Publication number | Publication date |
---|---|
JP2004102827A (en) | 2004-04-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3912236B2 (en) | Vehicle periphery monitoring device | |
US11767024B2 (en) | Augmented reality method and apparatus for driving assistance | |
KR102408743B1 (en) | Method and system for determining whether a vehicle can enter a road | |
JP5345350B2 (en) | Vehicle driving support device | |
US9257045B2 (en) | Method for detecting a traffic lane by means of a camera | |
US20100049405A1 (en) | Auxiliary video warning device for vehicles | |
EP2993654A1 (en) | Method and system for forward collision warning | |
JP2008131648A (en) | Method and system for presenting video images | |
JP2008197863A (en) | Onboard device for recognizing traveling environment | |
JP2017529517A (en) | Method of tracking a target vehicle approaching a car by a car camera system, a camera system, and a car | |
JP4541609B2 (en) | Stop line recognition device and vehicle driving support device using the stop line recognition device | |
US20210070288A1 (en) | Driving assistance device | |
JP6129268B2 (en) | Vehicle driving support system and driving support method | |
JP3726754B2 (en) | Predecessor judgment method | |
JP2001195698A (en) | Device for detecting pedestrian | |
JP4887932B2 (en) | Road edge recognition device, automobile, and road edge recognition method | |
JP2000251198A (en) | Periphery monitor device for vehicle | |
JP2010281781A (en) | Driving lane detector | |
JP5997962B2 (en) | In-vehicle lane marker recognition device | |
JP4930432B2 (en) | Vehicle periphery monitoring device | |
WO2017013692A1 (en) | Travel lane determination device and travel lane determination method | |
JP2004302621A (en) | Vehicle collision preventing device | |
JP4003569B2 (en) | Intersection accident prevention device and program | |
JP2011103058A (en) | Erroneous recognition prevention device | |
JP2004252550A (en) | Driving support device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050624 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060926 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20061114 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061204 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070109 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070122 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110209 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120209 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120209 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130209 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130209 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140209 Year of fee payment: 7 |
|
LAPS | Cancellation because of no payment of annual fees |