JP3855552B2 - Obstacle monitoring device around the vehicle - Google Patents

Obstacle monitoring device around the vehicle Download PDF

Info

Publication number
JP3855552B2
JP3855552B2 JP24048399A JP24048399A JP3855552B2 JP 3855552 B2 JP3855552 B2 JP 3855552B2 JP 24048399 A JP24048399 A JP 24048399A JP 24048399 A JP24048399 A JP 24048399A JP 3855552 B2 JP3855552 B2 JP 3855552B2
Authority
JP
Japan
Prior art keywords
obstacle
vehicle
display
distance
ultrasonic sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP24048399A
Other languages
Japanese (ja)
Other versions
JP2001063500A (en
Inventor
昌弘 中園
裕司 中川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Electric Works Co Ltd
Original Assignee
Matsushita Electric Works Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Works Ltd filed Critical Matsushita Electric Works Ltd
Priority to JP24048399A priority Critical patent/JP3855552B2/en
Publication of JP2001063500A publication Critical patent/JP2001063500A/en
Application granted granted Critical
Publication of JP3855552B2 publication Critical patent/JP3855552B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Image Processing (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、車両周辺の死角領域の障害物を検出し、運転者に障害物の存在や接近を知らせて衝突を未然に防止する車両周辺障害物監視装置に関するものである。
【0002】
【従来の技術】
従来、車両周辺の死角領域の障害物を検出し、運転者に障害物の存在や接近を知らせて衝突を未然に防止するための車両周辺障害物監視装置としては、例えば車両後部にCCDカメラを取り付け、トランスミッションのシフトレバーがリバース位置に切り換えられたときにフロントパネルに取り付けられたカーナビゲーションシステム用のモニタ装置又はカーTV用のモニタ装置の画面にCCDカメラで撮像した映像を表示することで死角となり易い車両後方の状況を運転者に視認させるものや、超音波又はレーザ光を利用したセンサで障害物までの距離を検出し、検出された障害物までの距離が所定値を下回った場合にブザーや発光ダイオードによる警報を行うものがあった。
【0003】
【発明が解決しようとする課題】
しかしながら、上記前者の従来例においては、CCDカメラの映像で車両周辺(後方)の状況が容易に視認できるという利点があるが、壁のように表面形状が一様であってCCDカメラの画角に対して十分な大きさを有する物体(障害物)が撮像された場合には距離感が分かりづらいという問題があった。また、複数台のCCDカメラと各CCDカメラの映像を表示する表示器を車両に設置した場合には、何れの表示器に表示されている箇所が最も危険で注目しなければならないかといったことが分かりづらいという問題があった。
【0004】
一方、上記後者の従来例においては、超音波やレーザ光等を利用した反射型のセンサによって障害物までの距離を検出することが可能であるが、そのセンサによって検出可能な領域が分かりづらいという問題があった。例えば、レーザ光を利用したセンサの場合には泥や汚れの付着、超音波を利用したセンサの場合には積雪や凍結などによる目詰まりといった環境条件によって、センサ自体の動作には問題が無いものの検出可能な領域が縮小したり、検出精度が低下してしまい、正常時の検出能力が得られないことがあり、使用者が故障か否かの判断を行うことが難しいという問題があった。
【0005】
本発明は上記問題点の解決を目的とするものであり、運転者に対する車両周辺の状況の視認性と利便性を向上させた車両周辺障害物監視装置を提供しようとするものである。
【0006】
【課題を解決するための手段】
請求項1の発明は、上記目的を達成するために、車両に設置されて車両周辺の障害物までの距離を検出する距離検出手段と、距離検出手段で検出する障害物までの距離から障害物の位置を検出する位置検出手段と、車両に設置されて車両周辺を撮像する撮像手段と、撮像手段で撮像した映像を表示して車両周辺の状況を運転者に視認させる表示手段と、距離検出手段によって検出される障害物までの距離が所定のしきい値よりも近くなった場合に撮像手段で撮像した映像を表示手段に表示させる制御手段とを備えた車両周辺障害物監視装置であって、距離検出手段は、超音波を送波及び受波する超音波センサと、超音波を受波する超音波センサと、音による警報を発するブザーとを具備し、一方の超音波センサから送波された超音波が障害物で反射して各超音波センサで受波されるまでの時間に基づいて当該障害物までの距離を検出し、位置検出手段は、所定の距離を隔てて配置された前記2つの超音波センサを具備し、一方の超音波センサから送波された超音波が障害物で反射して2つの超音波センサで受波されたときに各超音波センサにおける受波の時間差に基づいて障害物の位置を検出してなり、制御手段は、位置検出手段の検出結果に基づいて撮像手段の撮像領域内における障害物の存否を判断し撮像領域内に障害物が存在する場合には表示手段における画面上で障害物が表示されるべき領域を算定するとともに算定された表示画面の該当領域を表示手段により強調して表示させ且つブザーを鳴動して警報を発し、さらに撮像領域内に存在していた障害物が撮像領域内に存在しなくなった時点でブザーの鳴動を停止するとともに当該時点から所定のオフディレイ時間が経過するまでは撮像手段で撮像した映像を表示手段に表示させ続けることを特徴とし、障害物が所定のしきい値よりも近い距離にあるときにのみ撮像手段で撮像された映像が表示手段の画面に表示されるため、遠い距離にあって衝突の可能性が低い障害物の映像が不要に表示されることが無く、また、壁のように映像からは距離が分かりづらい障害物に対して所定のしきい値よりも近い距離にある場合だけ映像が表示されることから、運転者が車両周辺の状況を的確に視認することができる。しかも、距離検出手段による検出結果と障害物までの実際の距離とを比べることによって、汚れの付着や目詰まりなどによる距離検出手段の検出能力の低下を容易に発見することができ、さらに距離検出手段の清掃等を行なっても検出能力が低下したままであれば、正常動作ではないために故障や断線等の他の原因で異常状態にあるということが直感的に判断でき、出荷検査時の動作試験の効率化や実使用時のメンテナンス性の向上を図ることができる。また、危険度合いの高い障害物の位置が表示手段の画面上で強調して表示されるため、障害物の視認性が向上し、安全性の向上が図れる。さらに、位置検出手段による障害物位置の検出結果と表示画面の画面表示を比較することにより、汚れの付着や目詰まりなどによる位置検出手段の検出能力の低下が発生していれば、検出結果に基づいて強調表示される領域と実際の障害物の表示位置が異なるため、利用者は位置検出手段の能力低下を容易に発見することができ、位置検出手段の清掃等を行なっても検出能力が低下した状態であれば、正常動作ではないために故障や断線等の他の原因で異常状態にあるということを直感的に判断でき、出荷検査時の動作試験の効率化や実使用時のメンテナンス性の向上を図ることができる。しかも、車両と障害物との距離がしきい値の近傍で変化した場合に表示手段の画面表示が点いたり消えたりするチャタリング動作を防止することができる。
【0007】
請求項2の発明は、請求項1の発明において、制御手段は、前記オフディレイ時間が経過する前に位置検出手段の検出結果に基づいて撮像領域内に障害物が存在すると判断したときはオフディレイ時間を初期化して撮像手段で撮像した映像を表示手段に表示させることを特徴とする。
【0008】
請求項3の発明は、請求項1の発明において、それぞれ異なる撮像領域を有する複数の撮像手段が車両に設置され、制御手段は、表示手段の表示画面を分割して複数の撮像手段の映像を各々独立して適宜表示させるとともに、位置検出手段によって検出された障害物の位置に対応する各撮像手段毎の表示範囲を表示手段により他の表示範囲よりも明るく表示させることを特徴とし、請求項1の発明の作用に加えて、表示手段の画面上で複数の撮像手段の映像から車両の広範囲の周辺状況を同時に視認することができるとともに、危険度合いの高い周辺状況を撮像した撮像手段の表示範囲が明るく強調して表示されるために障害物の視認性が向上し、安全性の向上が図れる。
【0009】
請求項4の発明は、請求項3の発明において、少なくとも車両の前方及び後方の両端部にそれぞれ撮像手段が設置されたことを特徴とし、請求項3の発明の作用に加えて、死角となり易い車両のコーナ部分の周辺状況を撮像することでさらに安全性の向上が図れる。
【0010】
請求項5の発明は、請求項4の発明において、少なくとも車両の前方及び後方の両端部にそれぞれ距離検出手段が設置されたことを特徴とし、請求項4の発明の作用に加えて、死角となり易い車両のコーナ部分で障害物の位置を検出するため、さらに安全性の向上が図れる。
【0011】
請求項6の発明は、請求項1の発明において、距離検出手段が、車両後方の障害物までの距離が検出可能な位置に設置されるとともに、撮像手段は、車両後方が撮像可能な位置に設置されたことを特徴とし、請求項1の発明の作用に加えて、運転者から見づらい車両の後方で障害物の位置を検出するとともに車両後方を撮像手段で撮像するため、障害物の視認性がさらに向上する。
【0012】
【発明の実施の形態】
(実施形態1)
以下、図1〜図6を参照して本発明の実施形態1を詳細に説明する。
【0013】
図2に示すように車両(自動車)Q1の後部のバンパに6個の超音波センサ1〜1が設置されている。これらの超音波センサ1〜1は従来周知の送波/受波兼用型であって、図1に示すように超音波センサ制御回路2により動作制御されて車両後方の障害物までの距離を検出する。また、超音波センサ制御回路2は、各超音波センサ1〜1に超音波の送波を指示する信号を送り、超音波センサ1〜1の受波信号を読み取って反射波の信号成分を検出し、超音波の送波開始から反射波を受波するまでの経過時間を測定することで超音波センサ1〜1から障害物までの距離を算出する。
【0014】
また、図1に示すように超音波センサ制御回路2にはブザー3並びにシフト位置センサ4が接続されている。このシフト位置センサ4は従来周知の構成を有し、車両が備えるトランスミッションのシフトレバーの位置、例えばP(パーキング)、R(リバース)、N(ニュートラル)、D(ドライブ)、2(2速)、1(1速)の何れの位置にシフトレバーが位置しているかを検出するものであって、検出したシフト位置を表す信号(以下、「シフト位置検出信号」という)を超音波センサ制御回路2に出力している。
【0015】
一方、超音波センサ制御回路2では、シフト位置センサ4から送られてくるシフト位置検出信号がN(ニュートラル)又はR(リバース)のシフト位置を示す場合にのみ超音波センサ1〜1を動作させ、P(パーキング)やD(ドライブ)等のシフト位置を示すシフト位置検出信号が送られてきている場合には超音波センサ1〜1を停止させる。すなわち、通常車両が後方へ動く可能性があるのはシフトレバーがN(ニュートラル)又はR(リバース)に位置している場合だけであるから、それ以外の場合に超音波センサ1〜1を停止させることでバッテリの不要な電力消費を防ぐことができる。なお、本実施形態ではシフト位置センサ4によってオートマチックトランスミッションのシフトレバーの位置を検出する場合を例示したが、マニュアルトランスミッションのシフトレバーの位置を検出する場合、あるいはそれ以外の方式であっても、車両が後退可能な状態を検出する検出手段を設けて超音波センサ1〜1の動作を制御するようにすれば、同様の作用効果を奏する。
【0016】
また本実施形態では、図2に示すように車両後部のルーフ近傍に車両の後方を撮像するCCDカメラ5が設置され、このCCDカメラ5の映像信号が表示制御回路6に入力されている。また、表示制御回路6には表示器7が接続されており、この表示器7は従来周知のカーナビゲーションシステム(図示せず)を構成する液晶ディスプレイ装置、あるいはカーTV用の液晶モニタ装置として用いられるものである。而して、表示制御回路6は表示器7の画面に通常表示されているナビゲーション情報やTV映像等と切り換えて、CCDカメラ5で撮像した映像を表示器7の画面全体あるいは画面の一部に形成される子画面に表示させるように表示器7を制御している。なお、本実施形態においては、超音波センサ制御回路2と表示制御回路6とで制御手段を構成している。
【0017】
ここで、図3にはCCDカメラ5で撮像された画面領域と、車両の輪郭を基準に測定した距離並びに車両の中心線からの角度の座標軸を図示し、同じく図4には上記座標軸上にCCDカメラ5で撮像された画面領域と、超音波センサ1〜1の検出エリアとの関係を図示してある。車両後部の両端近傍に設置されている2個の超音波センサ1,1の検出領域は、測距可能な距離が60cmで中心角度が60°の開きを有する領域M1,M6(図4参照)であり、それ以外の4個の超音波センサ1〜1の検出領域は、測距可能な距離が120cmで中心角度が約30°の開きを有する領域M2〜M5であって、CCDカメラ5の撮像可能な全領域がカバーできるように超音波センサ1〜1が配置してある。
【0018】
したがって、例えば超音波センサ1にて距離約80cmの位置に障害物が検出されたとすると、超音波センサ制御回路2においては、図4に示す超音波センサ1の検出領域M2内のA1の領域に障害物が存在すると特定できる。すなわち、本実施形態では超音波センサ1〜1と超音波センサ制御回路2とによって、障害物の位置を検出する位置検出手段を構成している。
【0019】
また、超音波センサ制御回路2では上述のようにして検出された障害物の位置情報を各超音波センサ1〜1の検出距離情報とともに表示制御回路6へ送る。そして表示制御回路6では、超音波センサ1〜1の位置と超音波センサ制御回路2から送られてきた距離情報とに基づいて障害物が存在すると特定された領域A1に該当する表示領域を判定し、図5に示すように該当する表示領域N1以外の表示領域N2〜N8の明度を暗くして該当する表示領域N1を強調して表示する。なお、本実施形態では、表示器7の画面を予め8つの表示領域N1〜N8に分割して強調する領域を規定している。また、複数の超音波センサ1…で同時に障害物が検出された場合には、各超音波センサ1…で検出された障害物までの距離を比較し、その距離値が最も小さい値を示す超音波センサ1…で検出された障害物が車両に最も接近しており危険であると考えられるため、最短距離で検知した障害物の位置が含まれる表示領域N1…を強調して表示する。また、同時に同じ距離に複数の障害物が検出された場合は、各々の障害物の位置が含まれる複数の表示領域N1…を同時に強調して表示する。
【0020】
次に、図6に示すタイムチャートを参照して本実施形態の動作を詳細に説明する。超音波センサ制御回路2では、各超音波センサ1〜1の検出距離値が予め設定されたしきい値(上限値)Lmax(例えば、90cm)よりも大きい場合(時刻t=0〜t=t0の間)には、表示制御回路6に対して超音波センサ1…の検出距離情報を出力せず、またブザー3も鳴動させない(図6(a)及び(c)参照)。このため、上記時刻t=0〜t=t0の間には障害物への衝突の危険度が低くカメラの撮像可能範囲を超える場合があるので、表示制御回路6はCCDカメラ5で撮像した映像を表示器7の画面に表示させない(図6(b)参照)。そして、車両と障害物との距離が縮まって例えば超音波センサ1の検出距離値が上限値Lmaxを下回ったとき(時刻t=t0)、超音波センサ制御回路2はブザーを断続的に鳴動させて運転者に警報を発するとともに(図6(c)参照)、表示制御回路6に対して上限値Lmaxを下回った検出距離値の情報を出力する。この検出距離情報を受け取った表示制御回路6では、表示器7を制御してCCDカメラ5で撮像された映像を画面上に表示させる。このとき、上述したように8つに分割された表示領域N1〜N8の中で障害物が存在する表示領域(例えば、N1)の明度を他よりも明るくすることで強調して表示する(図5参照)。このように危険度合いの高い障害物の位置が表示器7の画面上で強調して表示されるため、運転者による障害物の視認性が向上し、安全性の向上が図れる。
【0021】
また、車両と障害物との距離がさらに縮まって超音波センサ1…の検出距離値が予め設定された下限値Lmin(例えば、20cm)を下回ったとき(時刻t=t1)、超音波センサ制御回路2はブザー3を連続して鳴動させることで運転者に対してさらに強い警報を発する。
【0022】
そして、運転者が警報にしたがって車両を回避させた結果、車両と障害物との距離が広がり、超音波センサ1の検出距離値が下限値Lminを上回れば(時刻t=t2)、超音波センサ制御回路2はブザーの鳴動を連続から断続に切り換える。
【0023】
また、車両と障害物との距離がさらに広がって超音波センサ1の検出距離値が上限値Lmaxを上回ったとき(時刻t=t3)、ブザー3の鳴動を停止するとともに表示制御回路6に対する検出距離情報の出力を停止する。一方、表示制御回路6では、超音波センサ制御回路2から検出距離情報が入力されなくなっても直ちに表示器7におけるCCDカメラ5の映像表示を停止せず、予め設定されたオフディレイ時間Tdの間はCCDカメラ5の映像表示を継続し、オフディレイ時間Tdの経過後にCCDカメラ5の映像表示を停止して表示器7の画面をナビゲーション情報の表示等に切り換えるか、あるいは表示器7をオフする。なお、オフディレイ時間Td内に超音波センサ制御回路2から再度検出距離情報が入力されれば、オフディレイ時間Tdの時限を初期化してCCDカメラ5の映像表示を継続する。
【0024】
このようにオフディレイ時間Tdを設けたことにより、車両と障害物との距離が上限値Lmaxの近傍で変化した場合に表示器7の表示画面が点いたり消えたりするチャタリング動作を防止することができる。なお、このオフディレイ時間Td内では、検出距離値が超音波センサ1…の検出領域外となって表示器7の画面上に障害物が存在しない場合が生じる可能性があるが、そのときは表示制御回路6により強調表示を行わずに画面全面を均一の明度で表示するようにすればよい。
【0025】
このように本実施形態では、障害物が所定のしきい値(上限値Lmax)よりも近い距離にあるときにのみ、CCDカメラ5で撮像された映像が表示制御回路6によって表示器7の画面に表示されるため、遠い距離にあって衝突の可能性が低い障害物の映像が不要に表示されることが無く、また、壁のように映像から距離が分かりづらい障害物に対して上限値Lmaxよりも近い距離にある場合だけ映像が表示されることから、運転者が車両周辺の状況を的確に視認することができるという利点がある。しかも、超音波センサ1…及び超音波センサ制御回路2による検出結果と障害物までの実際の距離とを比べることによって、超音波センサ1…の汚れの付着や目詰まりなどによる検出能力の低下を容易に発見することができ、さらに超音波センサ1…の清掃等を行なっても検出能力が低下したままであれば、正常動作ではないために故障や断線等の他の原因で異常状態にあるということが直感的に判断でき、出荷検査時の動作試験の効率化や実使用時のメンテナンス性の向上を図ることができる。
【0026】
尚、本実施形態では車両の後部にのみ超音波センサ1…及びCCDカメラ5を設置しているが、車両の前部にも同様に超音波センサ及びCCDカメラを設置し、シフト位置センサ4で検出するシフト位置に応じて、D(ドライブ),2(2速),1(1速)又はN(ニュートラル)の場合には前方の超音波センサのみを動作させ、R(リバース)の場合には前部及び後部の全ての超音波センサ1…を動作させるとともに、P(パーキング)の場合には全ての超音波センサ1を停止させて、車両の前後における障害物の監視を行うようにしてもよい。
【0027】
(実施形態2)
以下、図7〜図17を参照して本発明の実施形態を説明する。但し、本実施形態の基本的な構成並びに動作は実施形態1と共通するので、共通する構成については同一の符号を付して説明を省略する。
【0028】
本実施形態においては、図8(a)(b)に示すように車両Q2の前部及び後部の各バンパにおける両コーナ部分にそれぞれCCDカメラ5〜5と、2個を1組とする超音波センサ111,112、121,122、131,132、141,142とがCCDカメラ5…を上方にして設置されている。なお、各組の一方の超音波センサ111,121,131,141は送波/受波兼用型であり、他方の超音波センサ112,122,132,142は受波専用型であって、互いに距離Lsを隔てて同一平面上に配置されている。
【0029】
超音波センサ111,112、…と障害物との位置関係は、図9に示すパラメータを用いて表現される。すなわち、Hは超音波センサ111,112の平面であり、超音波センサ111,112において超音波を送波/受波する開口が形成される開口面である。Vは上記平面Hの法線であり、超音波センサ111,112において超音波を送波/受波する開口の略中心Oを通り、超音波センサ111,112の垂直二等分線を構成する。Lは開口の略中心Oから障害物までの距離であり、φは法線Vと障害物とのなす角である。
【0030】
ここで、超音波センサ111,112、…及び超音波センサ制御回路2により車両から障害物までの距離と位置を検出する手順について説明する。なお、以下の説明では超音波センサ111,112の組について説明するが、他の組も全く同様の動作を行うために説明は省略する。
【0031】
それぞれの超音波センサ111,112は距離Lsを隔てて同一平面上に配置される。超音波センサ111には、図12(a)に示すように、超音波センサ制御回路2によって送波信号(パルス波形の信号)が印加され、送波信号がHレベルである間に超音波を送波するようになっている。送波信号がLレベルになった後も超音波センサ111を構成する超音波振動子の振動が停止するまでに所定の時間を要するために残響現象が生じ、超音波信号がしばらく放射され続ける(図12(b)参照)。
【0032】
なお、図12(d)は超音波センサ112の受波信号であり、その中で左側の信号(時間的に先に受波する信号)は超音波センサ111の送波信号を直接受波した波形であり、右側の信号(時間的に後から受波する信号)は障害物からの反射波を示している。また、図12R>2(b)及び(d)に示す受波信号は超音波振動子の振動波形(約40KHz)の包絡線を示しており、その振幅が一定のレベル以上である場合にLレベルになり、一定レベル以下である場合にHレベルになるように整形される(図12(c)及び(e)参照)。超音波センサ111及び112では、これら整形された信号(以下、「整形信号」という)a及びbのHレベルからLレベルへの立ち下がりを検出することで、受波された信号が反射波であることを認識するようになっている。
【0033】
超音波センサ111から放射された超音波が近接物体に当たって反射すると、図12(b)及び(d)に示すように、超音波センサ111,112において反射波が観測されることになる。超音波は空気中を音速c(=340m/s程度)で移動するので、近接物体までの距離は超音波の送波開始から反射波の受信までの時間を測定することで計算することが可能になる。
【0034】
反射波が超音波センサ111,112で受波される時間は、それぞれの超音波センサ111,112が離れて配置されているため、近接物体の位置によって変わる。例えば、超音波センサ111,112が配置されている法線Vよりも近接物体が超音波センサ111側に位置していれば、図13(c)に示すように超音波センサ111が先に反射波を受波し(ta<tb)、超音波センサ112側に位置していれば、図13(d)に示すように超音波センサ112が先に反射波を受波する(tb<ta)。すなわち、図10及び図11に示すように超音波センサ111から超音波が送波されてから超音波センサ111,112が反射波を受信するまでの時間ta,tbを測定することにより、法線Vと近接物体との角度φ及び開口の略中心Oから障害物までの距離L(=tb×c/2)を計算することができる。
【0035】
ただし、超音波センサ111の残響により、超音波を送波してからしばらくの間は反射波を受波することができない。したがって、例えば、図13(b)に示すように反射波の検出タイミングによっては、残響時間以内に反射波が受波されるような距離に障害物が存在すると、超音波センサ112でしか反射波が観測されない。この場合は、角度φの計算は行わず、距離Lの情報しか得られないので角度φは0であると近似する。
【0036】
以上のように、2個1組の超音波センサ111,112により、近接物体(障害物)までの距離Lと角度φとが求められる。上述の手続により車両に取り付けられた全ての超音波センサ111,112、…から得られる情報から車両の周囲に存在する障害物が検出されるのである。
【0037】
なお、超音波センサ制御回路2ではシフト位置センサ4から送られてくるシフト位置検出信号がD(ドライブ),2(2速),1(1速)又はN(ニュートラル)のシフト位置を示す場合には前方の超音波センサ111,112及び121,122のみを動作させ、R(リバース)の場合には前部及び後部の全ての超音波センサ111…を動作させるとともに、P(パーキング)の場合には全ての超音波センサ111を停止させる。
【0038】
ここで、図14にはCCDカメラ5〜5で撮像された画面領域と、超音波センサ111,112、…の中心を基準に測定した距離並びに角度の座標軸を図示し、同じく図15には上記座標軸上にCCDカメラ5…で撮像された画面領域と、超音波センサ111,112、…の検出エリアとの関係を図示してある。各超音波センサ111,112、…は、測距可能な距離が80cmで中心角度が120°の開きを有し、各組の超音波センサ111,112、…間の距離Lsを3cmとし、各組における互いの超音波センサ111,112、…の検出領域M11,M12が重なる部分が障害物までの距離と角度の検出可能領域となることから、この検出可能領域が各CCDカメラ5…の撮像可能領域全体をカバーするように車両に配置されている(図15参照)。
【0039】
したがって、例えば左前方のコーナ部に設置されている超音波センサ111,112にて距離約45cm、角度が30°の位置に障害物を検出したとすると、超音波センサ制御回路2においては、図15に示す超音波センサ111,112の検出領域内のA2の領域に障害物が存在すると特定できる。
【0040】
また、超音波センサ制御回路2では、実施形態1と同様に各超音波センサ111,112、…の組で検出された障害物の位置情報を表示制御回路6へ送る。そして表示制御回路6では、超音波センサ制御回路2から送られてきた位置情報に基づいて障害物が存在すると特定された領域A2に該当する表示領域を判定し、図16に示すように該当する表示領域N5以外の表示領域N1〜N4,N6〜N8の明度を暗くして該当する表示領域N5を強調して表示する。なお、本実施形態でも実施形態1と同様に、表示器7の画面を予め8つの表示領域N1〜N8に分割して強調する領域を規定している。
【0041】
また、本実施形態では、図17に示すように表示器7の画面を4つに分割して各領域W1〜W4を4台のCCDカメラ5〜5にそれぞれ割り当てて各CCDカメラ5…で撮像された映像を表示するように表示制御回路6が表示器7を制御する。ここで、複数組の超音波センサ111,112、…で同時に所定の上限値Lmax(例えば、50cm)を下回る距離で障害物が検出された場合には、各超音波センサ111,112…、で検出された障害物までの距離を比較し、その距離値が最も小さい値を示す超音波センサ111,112、…で検出された障害物が車両に最も接近しており危険であると考えられるため、その超音波センサ111,112、…の検出領域を撮像するCCDカメラ5…の映像を強調して表示する。
【0042】
例えば、図17に示すように左前と右後のコーナ部における超音波センサ111,112及び141,142の検出距離が上限値Lmaxを下回り且つ左前のコーナ部における超音波センサ111,112の検出距離の方が右後のコーナ部における超音波センサ141,142の検出距離よりも近い場合には、表示制御回路6が左前のコーナ部に設置されているCCDカメラ5の撮像画像を表示する領域W1の画面枠の色を異ならせて明るく表示し、右後のコーナ部に設置されているCCDカメラ5の撮像画像を表示する領域W4を全体的に明度を下げて表示するとともに、それ以外のコーナ部に設置されているCCDカメラ5,5の撮像画像を表示しないようにして、最も危険であると思われる左前のコーナ部のCCDカメラ5で撮像された映像を強調して表示している。但し、表示制御回路6は、実施形態1と同様に強調表示された領域W1内において、最短距離で検知した障害物の位置が含まれる表示領域N5を強調して表示する。また、同時に同じ距離に複数の障害物が検出された場合は、各々の障害物が撮像される領域W1…を同時に強調して表示する。
【0043】
而して、表示器7の画面上で複数のCCDカメラ5〜5で撮像した各映像から、車両の広範囲の周辺状況を同時に視認することができるとともに、危険度合いの高い周辺状況を撮像したCCDカメラ5…の映像の表示範囲が明るく強調して表示されるために障害物の視認性が向上し、特に、死角となり易い車両のコーナ部分で障害物の位置を検出するため、さらに安全性の向上が図れるという利点がある。
【0044】
次に、図6に示すタイムチャートを参照して本実施形態の動作を簡単に説明する。超音波センサ制御回路2では、各組の超音波センサ111,112、…の検出距離値が上記上限値Lmaxよりも大きい場合(時刻t=0〜t=t0の間)には、表示制御回路6に対して超音波センサ111…の検出距離情報を出力せず、またブザー3も鳴動させず、表示制御回路6ではCCDカメラ5〜5で撮像した映像を表示器7の画面に表示させない。そして、車両と障害物との距離が縮まって超音波センサ111,112、…の検出距離値が上限値Lmaxを下回ったとき(時刻t=t0)、超音波センサ制御回路2はブザーを断続的に鳴動させて運転者に警報を発するとともに、表示制御回路6に対して上限値Lmaxを下回った検出距離値の情報を出力する。この検出距離情報を受け取った表示制御回路6では、表示器7を制御して上限値Lmaxを下回ったコーナ部に設置されているCCDカメラ5…で撮像された映像を画面上の対応する領域W1…に表示させる。このとき、実施形態1と同様に各領域W1…内を8つに分割した表示領域N1〜N8の中で障害物が存在する表示領域(例えば、N5)の明度を他よりも明るくすることで強調して表示する(図17参照)。
【0045】
また、車両と障害物との距離がさらに縮まって超音波センサ111,112、…の検出距離値が予め設定された下限値Lmin(例えば、20cm)を下回ったとき(時刻t=t1)、超音波センサ制御回路2はブザー3を連続して鳴動させることで運転者に対してさらに強い警報を発する。
【0046】
そして、運転者が警報にしたがって車両を回避させた結果、車両と障害物との距離が広がり、超音波センサ111,112、…の検出距離値が下限値Lminを上回れば(時刻t=t2)、超音波センサ制御回路2はブザーの鳴動を連続から断続に切り換える。
【0047】
また、車両と障害物との距離がさらに広がって超音波センサ111,112、…の検出距離値が上限値Lmaxを上回ったとき(時刻t=t3)、ブザー3の鳴動を停止するとともに表示制御回路6に対する検出距離情報の出力を停止する。一方、表示制御回路6では、超音波センサ制御回路2から検出距離情報が入力されなくなってからオフディレイ時間Tdの経過後にCCDカメラ5…の映像表示を停止して表示器7の画面をナビゲーション情報の表示等に切り換えるか、あるいは表示器7をオフする。なお、オフディレイ時間Td内に超音波センサ制御回路2から再度検出距離情報が入力されれば、オフディレイ時間Tdの時限を初期化してCCDカメラ5…の映像表示を継続する。なお、このオフディレイ時間Td内では、検出された障害物が表示器7の表示可能範囲を超えている場合や、超音波センサ111,112、…の検出可能領域内に障害物を検出しない場合があるが、そのときは表示制御回路6により強調表示を行わず、その該当するコーナ部に対応する領域W1…全体を均一の明度で表示する。また、他のコーナ部における超音波センサ111,112、…の検出距離の方が近い場合には、そのコーナ部に設置されたCCDカメラ5…で撮像された映像を強調して表示する。
【0048】
このように本実施形態では、障害物が所定のしきい値(上限値Lmax)よりも近い距離にあるときにのみ、その障害物が存在する領域を撮像するCCDカメラ5…の映像が表示制御回路6によって表示器7の画面に表示されるとともに、危険度合いの高い障害物の位置が画面内でさらに強調して表示されるため、実施形態1よりもさらに障害物の視認性が向上し、安全性の向上が図れる。さらに、位置検出手段(超音波センサ111…及び超音波センサ制御回路2)による障害物位置の検出結果と表示画面の画面表示を比較することにより、汚れの付着や目詰まりなどによる位置検出手段の検出能力の低下が発生していれば、検出結果に基づいて強調表示される領域と実際の障害物の表示位置が異なるため、利用者は位置検出手段の能力低下を容易に発見することができ、超音波センサ111…の清掃等を行なっても検出能力が低下した状態であれば、正常動作ではないために故障や断線等の他の原因で異常状態にあるということを直感的に判断でき、出荷検査時の動作試験の効率化や実使用時のメンテナンス性の向上を図ることができる。
【0049】
なお、上述した本実施形態では、撮像手段としてCCDカメラ5を用いているが、可視光領域だけではなく赤外線領域まで撮像可能なものを用いて夜間など暗い状態での視認性を向上させることも可能である。さらに、表示器7の画面上で障害物位置の強調表示方法として、他の部分よりも明るく表示する形態を例示したが、該当する領域を線で囲って表示したりしても良い。また、検知した障害物の位置までの距離を数値で表示したり、座標軸をCCDカメラ5の画像の上に重ねて予め表示しておき、座標軸内部の該当する領域を点滅させたり他の色を重ね塗りして点滅させるなどしても良い。
【0050】
また、表示器7としてはフロントパネルに搭載されたナビゲーションシステム用やカーTV用のモニタ装置を用いているが、フロントガラス上に画像を投影する方式のディスプレイ装置や、ヘルメットあるいは眼鏡の視野内に画面を形成するヘッドアップディスプレイ装置を表示器として用いても良い。さらに、車両後部に設置した表示器をバックミラーを介して見ることにより後部の映像を確認することができるようにしたり、バックミラーに直接表示したり、その周辺に表示器を設けるなどしてバックミラーで後部を確認する動作を妨げないようにしながら後部の映像を確認できるようにしても良い。
【0051】
ここで、本実施形態では特に、表示の形態として4つのコーナ部に設置された各CCDカメラ5〜5の映像を1つの表示器7の画面を4分割して表示する例を示したが、各CCDカメラ5〜5の映像を表示する為の専用の表示器を設けて、各CCDカメラ5〜5毎の表示器を運転者が各コーナを見たときの視線上に位置するように分割して配置しても良い。
【0052】
ところで、超音波センサ1…による障害物までの距離検出に連動せず、単にCCDカメラ5の映像を表示する動作モードに移行する為のスイッチを設けて、運転者の要望に合わせて表示器7の画面表示の形態を切り換えるようにして、車両周辺障害物監視装置の機能選択ができるようにしても良い。さらに車両の側方を監視するための撮像手段と距離検出手段を設けて車両の全周囲を監視することも可能である。
【0053】
【発明の効果】
請求項1の発明は、車両に設置されて車両周辺の障害物までの距離を検出する距離検出手段と、距離検出手段で検出する障害物までの距離から障害物の位置を検出する位置検出手段と、車両に設置されて車両周辺を撮像する撮像手段と、撮像手段で撮像した映像を表示して車両周辺の状況を運転者に視認させる表示手段と、距離検出手段によって検出される障害物までの距離が所定のしきい値よりも近くなった場合に撮像手段で撮像した映像を表示手段に表示させる制御手段とを備えた車両周辺障害物監視装置であって、距離検出手段は、超音波を送波及び受波する超音波センサと、超音波を受波する超音波センサと、音による警報を発するブザーとを具備し、一方の超音波センサから送波された超音波が障害物で反射して各超音波センサで受波されるまでの時間に基づいて当該障害物までの距離を検出し、位置検出手段は、所定の距離を隔てて配置された前記2つの超音波センサを具備し、一方の超音波センサから送波された超音波が障害物で反射して2つの超音波センサで受波されたときに各超音波センサにおける受波の時間差に基づいて障害物の位置を検出してなり、制御手段は、位置検出手段の検出結果に基づいて撮像手段の撮像領域内における障害物の存否を判断し撮像領域内に障害物が存在する場合には表示手段における画面上で障害物が表示されるべき領域を算定するとともに算定された表示画面の該当領域を表示手段により強調して表示させ且つブザーを鳴動して警報を発し、さらに撮像領域内に存在していた障害物が撮像領域内に存在しなくなった時点でブザーの鳴動を停止するとともに当該時点から所定のオフディレイ時間が経過するまでは撮像手段で撮像した映像を表示手段に表示させ続けるので、障害物が所定のしきい値よりも近い距離にあるときにのみ撮像手段で撮像された映像が表示手段の画面に表示されるため、遠い距離にあって衝突の可能性が低い障害物の映像が不要に表示されることが無く、また、壁のように映像からは距離が分かりづらい障害物に対して所定のしきい値よりも近い距離にある場合だけ映像が表示されることから、運転者が車両周辺の状況を的確に視認することができるという効果がある。しかも、距離検出手段による検出結果と障害物までの実際の距離とを比べることによって、汚れの付着や目詰まりなどによる距離検出手段の検出能力の低下を容易に発見することができ、さらに距離検出手段の清掃等を行なっても検出能力が低下したままであれば、正常動作ではないために故障や断線等の他の原因で異常状態にあるということが直感的に判断でき、出荷検査時の動作試験の効率化や実使用時のメンテナンス性の向上を図ることができるという効果がある。また、危険度合いの高い障害物の位置が表示手段の画面上で強調して表示されるため、障害物の視認性が向上し、安全性の向上が図れるという効果がある。さらに、位置検出手段による障害物位置の検出結果と表示画面の画面表示を比較することにより、汚れの付着や目詰まりなどによる位置検出手段の検出能力の低下が発生していれば、検出結果に基づいて強調表示される領域と実際の障害物の表示位置が異なるため、利用者は位置検出手段の能力低下を容易に発見することができ、位置検出手段の清掃等を行なっても検出能力が低下した状態であれば、正常動作ではないために故障や断線等の他の原因で異常状態にあるということを直感的に判断でき、出荷検査時の動作試験の効率化や実使用時のメンテナンス性の向上を図ることができ、しかも、車両と障害物との距離がしきい値の近傍で変化した場合に表示手段の画面表示が点いたり消えたりするチャタリング動作を防止することができるという効果がある。
【0054】
請求項3の発明は、請求項1の発明において、それぞれ異なる撮像領域を有する複数の撮像手段が車両に設置され、制御手段は、表示手段の表示画面を分割して複数の撮像手段の映像を各々独立して適宜表示させるとともに、位置検出手段によって検出された障害物の位置に対応する各撮像手段毎の表示範囲を表示手段により他の表示範囲よりも明るく表示させるので、請求項1の発明の効果に加えて、表示手段の画面上で複数の撮像手段の映像から車両の広範囲の周辺状況を同時に視認することができるとともに、危険度合いの高い周辺状況を撮像した撮像手段の表示範囲が明るく強調して表示されるために障害物の視認性が向上し、安全性の向上が図れるという効果がある。
【0055】
請求項4の発明は、請求項3の発明において、少なくとも車両の前方及び後方の両端部にそれぞれ撮像手段が設置されたので、請求項3の発明の効果に加えて、死角となり易い車両のコーナ部分の周辺状況を撮像することでさらに安全性の向上が図れるという効果がある。
【0056】
請求項5の発明は、請求項4の発明において、少なくとも車両の前方及び後方の両端部にそれぞれ距離検出手段が設置されたので、請求項4の発明の効果に加えて、死角となり易い車両のコーナ部分で障害物の位置を検出するため、さらに安全性の向上が図れるという効果がある。
【0057】
請求項6の発明は、請求項1の発明において、距離検出手段が、車両後方の障害物までの距離が検出可能な位置に設置されるとともに、撮像手段は、車両後方が撮像可能な位置に設置されたので、請求項1の発明の効果に加えて、運転者から見づらい車両の後方で障害物の位置を検出するとともに車両後方を撮像手段で撮像するため、障害物の視認性がさらに向上するという効果がある。
【図面の簡単な説明】
【図1】 本発明の実施形態1を示すブロック図である。
【図2】 同上における超音波センサ及びCCDカメラの車両への設置箇所を説明する説明図である。
【図3】 同上の動作説明図である。
【図4】 同上の動作説明図である。
【図5】 同上の動作説明図である。
【図6】 同上の動作説明用のタイムチャートである。
【図7】 本発明の実施形態2を示すブロック図である。
【図8】 (a)及び(b)は同上における超音波センサ及びCCDカメラの車両への設置箇所を説明する説明図である。
【図9】 同上における超音波センサと障害物との位置関係を表示するパラメータの説明図である。
【図10】 同上における障害物の位置を検出する過程の説明図である。
【図11】 同上における障害物の位置を検出する過程の説明図である。
【図12】 同上における超音波センサの送受波信号のタイムチャートである。
【図13】 同上における超音波センサの送受波信号を整形した整形信号のタイムチャートである。
【図14】 同上の動作説明図である。
【図15】 同上の動作説明図である。
【図16】 同上の動作説明図である。
【図17】 同上の動作説明図である。
【符号の説明】
〜1 超音波センサ
2 超音波センサ制御回路
5 CCDカメラ
6 表示制御回路
7 表示器
[0001]
BACKGROUND OF THE INVENTION
  The present invention relates to a vehicle peripheral obstacle monitoring apparatus that detects an obstacle in a blind spot area around a vehicle and informs a driver of the presence or approach of the obstacle to prevent a collision.
[0002]
[Prior art]
  Conventionally, as a vehicle peripheral obstacle monitoring device for detecting obstacles in a blind spot area around a vehicle and informing the driver of the presence or approach of the obstacle to prevent a collision, a CCD camera is installed at the rear of the vehicle, for example. When the transmission shift lever is switched to the reverse position, the blind spot is displayed by displaying the image captured by the CCD camera on the screen of the monitor device for the car navigation system or the monitor device for the car TV attached to the front panel. When the distance to the obstacle is detected with a sensor using ultrasonic waves or laser light, and the distance to the detected obstacle falls below a predetermined value. Some alarms were given by buzzers or light emitting diodes.
[0003]
[Problems to be solved by the invention]
  However, the above-described conventional example has an advantage that the situation around the vehicle (rear) can be easily visually recognized by the image of the CCD camera, but the surface shape is uniform like a wall and the angle of view of the CCD camera. When an object (obstacle) having a sufficient size is captured, there is a problem that it is difficult to understand the sense of distance. In addition, when a plurality of CCD cameras and a display for displaying the images of each CCD camera are installed in the vehicle, the display on which display is the most dangerous and the attention must be paid. There was a problem that it was difficult to understand.
[0004]
  On the other hand, in the latter conventional example, it is possible to detect the distance to the obstacle by a reflection type sensor using ultrasonic waves, laser light, etc., but it is difficult to understand the area detectable by the sensor. There was a problem. For example, in the case of a sensor using laser light, there is no problem in the operation of the sensor itself due to environmental conditions such as adhesion of mud and dirt, and in the case of a sensor using ultrasonic waves, clogging due to snow accumulation or freezing. There is a problem that the detectable area is reduced or the detection accuracy is lowered, so that the detection capability at the normal time may not be obtained, and it is difficult for the user to determine whether or not there is a failure.
[0005]
  The present invention is intended to solve the above-described problems, and an object of the present invention is to provide a vehicle surrounding obstacle monitoring device that improves the visibility and convenience of the situation around the vehicle for the driver.
[0006]
[Means for Solving the Problems]
  In order to achieve the above object, a first aspect of the present invention provides a distance detecting means for detecting a distance to an obstacle around the vehicle and an obstacle from the distance to the obstacle detected by the distance detecting means. A position detecting means for detecting the position of the vehicle, an imaging means installed in the vehicle for picking up an image around the vehicle, a display means for displaying an image picked up by the image pickup means and allowing the driver to visually recognize the situation around the vehicle, and distance detection A vehicle surrounding obstacle monitoring device comprising: a control means for causing the display means to display an image captured by the imaging means when the distance to the obstacle detected by the means is closer than a predetermined threshold value. The distance detecting means includes an ultrasonic sensor for transmitting and receiving ultrasonic waves, an ultrasonic sensor for receiving ultrasonic waves,With a buzzer that sounds an alarmThe position detection is performed by detecting the distance to the obstacle based on the time until the ultrasonic wave transmitted from one ultrasonic sensor is reflected by the obstacle and received by each ultrasonic sensor. The means includes the two ultrasonic sensors arranged at a predetermined distance, and an ultrasonic wave transmitted from one ultrasonic sensor is reflected by an obstacle and received by the two ultrasonic sensors. The position of the obstacle is detected based on the time difference between the received waves in each ultrasonic sensor, and the control means determines whether the obstacle exists in the imaging area of the imaging means based on the detection result of the position detecting means. If there is an obstacle in the imaging area, the area on the display means where the obstacle should be displayed is calculated and the calculated area on the display screen is highlighted by the display means.And it sounds a buzzer and gives an alarm.When the obstacle that existed in the imaging area no longer exists in the imaging areaStop the buzzer and stopUntil the predetermined off-delay time elapses, the image picked up by the image pickup means is continuously displayed on the display means, and is picked up by the image pickup means only when the obstacle is at a distance closer than a predetermined threshold value. Since the recorded image is displayed on the screen of the display means, an image of an obstacle with a low distance and a low possibility of a collision is not displayed unnecessarily, and the distance from the image like a wall is not. Since the image is displayed only when the obstacle is indistinguishable from the predetermined threshold, the driver can visually recognize the situation around the vehicle. Moreover, by comparing the detection result of the distance detection means with the actual distance to the obstacle, it is possible to easily detect a decrease in the detection capability of the distance detection means due to dirt adhesion or clogging. If the detection capability remains low even after cleaning the device, it can be intuitively determined that the device is not operating normally and is in an abnormal state due to other causes such as failure or disconnection. It is possible to improve the efficiency of operation tests and improve maintainability during actual use. In addition, since the position of an obstacle with a high degree of danger is highlighted and displayed on the screen of the display means, the visibility of the obstacle can be improved and safety can be improved. Further, by comparing the detection result of the obstacle position by the position detection means and the screen display of the display screen, if the detection ability of the position detection means is reduced due to dirt adhesion or clogging, the detection result Because the display area of the actual obstacle is different from the highlighted area, the user can easily find a decrease in the ability of the position detection means, and the detection ability can be maintained even if the position detection means is cleaned. If it is in a degraded state, it can be intuitively determined that it is not normal operation and is in an abnormal state due to other causes such as a failure or disconnection, improving the efficiency of operation tests during shipping inspections and maintenance during actual use It is possible to improve the performance. Moreover, it is possible to prevent a chattering operation in which the screen display of the display means turns on and off when the distance between the vehicle and the obstacle changes in the vicinity of the threshold value.
[0007]
  The invention of claim 2 is the invention of claim 1, wherein the control means isIf it is determined that there is an obstacle in the imaging area based on the detection result of the position detection means before the off-delay time has elapsed, the off-delay time is initialized and the image captured by the imaging means is displayed on the display means.It is characterized by being displayed.
[0008]
  According to a third aspect of the present invention, in the first aspect of the invention, a plurality of imaging means each having a different imaging area is installed in the vehicle, and the control means divides the display screen of the display means to display the images of the plurality of imaging means. A display range for each image pickup unit corresponding to the position of the obstacle detected by the position detection unit is displayed brighter than other display ranges by the display unit, as appropriate and independently displayed. In addition to the operation of the first aspect of the invention, it is possible to simultaneously view a wide range of surrounding situations of the vehicle from the images of the plurality of imaging means on the screen of the display means, and to display the imaging means that images the surrounding situation with a high degree of danger. Since the range is brightly highlighted and displayed, the visibility of obstacles is improved and safety can be improved.
[0009]
  The invention of claim 4 is characterized in that, in the invention of claim 3, imaging means are installed at least at both front and rear ends of the vehicle, and in addition to the action of the invention of claim 3, it is easy to become a blind spot. The safety can be further improved by imaging the surrounding situation of the corner portion of the vehicle.
[0010]
  The invention of claim 5 is characterized in that, in the invention of claim 4, distance detecting means are installed at least at both the front and rear ends of the vehicle, respectively, and in addition to the function of the invention of claim 4, it becomes a blind spot. Since the position of the obstacle is detected at the corner of the vehicle, which is easy to perform, the safety can be further improved.
[0011]
  According to a sixth aspect of the invention, in the first aspect of the invention, the distance detecting means is installed at a position where the distance to the obstacle behind the vehicle can be detected, and the imaging means is arranged at a position where the rear of the vehicle can be imaged. In addition to the action of the invention of claim 1, the position of the obstacle is detected behind the vehicle which is difficult for the driver to see, and the rear of the vehicle is imaged by the imaging means. Is further improved.
[0012]
DETAILED DESCRIPTION OF THE INVENTION
  (Embodiment 1)
  Less than,With reference to FIGS.Embodiment 1 in detailexplain.
[0013]
  As shown in FIG. 2, six ultrasonic sensors 1 are disposed on the bumper at the rear of the vehicle (automobile) Q1.1~ 16Is installed. These ultrasonic sensors 11~ 16Is a conventionally well-known transmission / reception type, and the operation is controlled by the ultrasonic sensor control circuit 2 to detect the distance to the obstacle behind the vehicle as shown in FIG. In addition, the ultrasonic sensor control circuit 2 includes each ultrasonic sensor 1.1~ 16A signal instructing ultrasonic wave transmission is sent to the ultrasonic sensor 11~ 16The ultrasonic sensor 1 by detecting the signal component of the reflected wave, detecting the signal component of the reflected wave, and measuring the elapsed time from the start of transmitting the ultrasonic wave until receiving the reflected wave1~ 16Calculate the distance from the to the obstacle.
[0014]
  As shown in FIG. 1, a buzzer 3 and a shift position sensor 4 are connected to the ultrasonic sensor control circuit 2. This shift position sensor 4 has a conventionally well-known configuration, and the position of a shift lever of a transmission provided in the vehicle, for example, P (parking), R (reverse), N (neutral), D (drive), 2 (second speed) 1 (1st speed), a signal indicating the detected shift position (hereinafter referred to as “shift position detection signal”) is detected by an ultrasonic sensor control circuit. 2 is output.
[0015]
  On the other hand, in the ultrasonic sensor control circuit 2, the ultrasonic sensor 1 only when the shift position detection signal sent from the shift position sensor 4 indicates the shift position of N (neutral) or R (reverse).1~ 16When a shift position detection signal indicating a shift position such as P (parking) or D (drive) is sent, the ultrasonic sensor 1 is operated.1~ 16Stop. That is, the normal vehicle may move backward only when the shift lever is positioned at N (neutral) or R (reverse). In other cases, the ultrasonic sensor 11~ 16By stopping the operation, unnecessary power consumption of the battery can be prevented. BookEmbodimentIn the above, the case where the position of the shift lever of the automatic transmission is detected by the shift position sensor 4 is illustrated, but the vehicle can move backward even when the position of the shift lever of the manual transmission is detected or by other methods. The ultrasonic sensor 1 is provided with detecting means for detecting1~ 16If the operation is controlled, the same effect can be obtained.
[0016]
  Also bookEmbodimentThen, as shown in FIG. 2, a CCD camera 5 that captures the rear of the vehicle is installed in the vicinity of the roof at the rear of the vehicle, and a video signal of the CCD camera 5 is input to the display control circuit 6. A display 7 is connected to the display control circuit 6, and this display 7 is used as a liquid crystal display device constituting a conventionally known car navigation system (not shown) or a liquid crystal monitor device for a car TV. It is Thus, the display control circuit 6 switches to the navigation information or TV image normally displayed on the screen of the display device 7 and the image captured by the CCD camera 5 is displayed on the entire screen of the display device 7 or a part of the screen. The display device 7 is controlled so as to be displayed on the sub-screen formed. BookEmbodimentIn FIG. 2, the ultrasonic sensor control circuit 2 and the display control circuit 6 constitute a control means.
[0017]
  Here, FIG. 3 shows a screen area imaged by the CCD camera 5, a distance measured with reference to the contour of the vehicle, and a coordinate axis of an angle from the center line of the vehicle, and FIG. 4 also shows the coordinate axis on the coordinate axis. The screen area imaged by the CCD camera 5 and the ultrasonic sensor 11~ 16The relationship with the detection area is shown. Two ultrasonic sensors 1 installed near both ends of the rear part of the vehicle1, 16Detection areas are areas M1 and M6 (see FIG. 4) having an opening with a distance that can be measured of 60 cm and a center angle of 60 °, and the other four ultrasonic sensors 1.2~ 15The detection areas are areas M2 to M5 having an opening with a distance that can be measured of 120 cm and a center angle of about 30 °, and the ultrasonic sensor 1 so that the entire imageable area of the CCD camera 5 can be covered.1~ 16Is arranged.
[0018]
  Thus, for example, the ultrasonic sensor 12If an obstacle is detected at a distance of about 80 cm, the ultrasonic sensor control circuit 2 uses the ultrasonic sensor 1 shown in FIG.2It can be specified that an obstacle exists in the area A1 in the detection area M2. Ie bookEmbodimentThen, ultrasonic sensor 11~ 16And the ultrasonic sensor control circuit 2 constitute position detecting means for detecting the position of the obstacle.
[0019]
  Further, the ultrasonic sensor control circuit 2 uses the position information of the obstacle detected as described above as the ultrasonic sensor 1.1~ 16The detected distance information is sent to the display control circuit 6. In the display control circuit 6, the ultrasonic sensor 11~ 16The display area corresponding to the area A1 identified as the presence of the obstacle is determined based on the position and the distance information sent from the ultrasonic sensor control circuit 2, and the corresponding display area N1 as shown in FIG. The display areas N2 to N8 other than are darkened and the corresponding display area N1 is highlighted and displayed. BookEmbodimentIn this example, the screen of the display device 7 is divided into eight display areas N1 to N8 in advance to define areas to be emphasized. In addition, a plurality of ultrasonic sensors 11When an obstacle is detected at the same time, each ultrasonic sensor 11The ultrasonic sensor 1 which compares the distance to the obstacle detected in... And shows the smallest value.1Since the obstacle detected in... Is considered to be dangerous because it is closest to the vehicle, the display area N1 including the position of the obstacle detected in the shortest distance is highlighted and displayed. Further, when a plurality of obstacles are detected at the same distance at the same time, a plurality of display areas N1,.
[0020]
  Next, referring to the time chart shown in FIG.EmbodimentWill be described in detail. In the ultrasonic sensor control circuit 2, each ultrasonic sensor 11~ 16Is larger than a preset threshold value (upper limit value) Lmax (for example, 90 cm) (between time t = 0 and t = t0), the display control circuit 6 is ultrasonically detected. Sensor 11The detection distance information is not output and the buzzer 3 is not sounded (see FIGS. 6A and 6C). Therefore, during the time t = 0 to t = t0, the risk of collision with an obstacle is low and may exceed the imaging range of the camera. Therefore, the display control circuit 6 displays the image captured by the CCD camera 5. Is not displayed on the screen of the display 7 (see FIG. 6B). Then, the distance between the vehicle and the obstacle is reduced, for example, the ultrasonic sensor 11When the detected distance value is less than the upper limit value Lmax (time t = t0), the ultrasonic sensor control circuit 2 sounds the buzzer intermittently and issues a warning to the driver (see FIG. 6C). Information of the detected distance value below the upper limit value Lmax is output to the display control circuit 6. The display control circuit 6 that has received the detected distance information controls the display 7 to display the image captured by the CCD camera 5 on the screen. At this time, as described above, the display area (for example, N1) where the obstacle is present in the display areas N1 to N8 divided into eight areas is displayed with emphasis by making it brighter than the others (FIG. 5). Thus, since the position of the obstacle with a high degree of danger is highlighted and displayed on the screen of the display device 7, the visibility of the obstacle by the driver is improved, and the safety can be improved.
[0021]
  In addition, the distance between the vehicle and the obstacle is further reduced, and the ultrasonic sensor 11When the detection distance value of... Falls below a preset lower limit Lmin (for example, 20 cm) (time t = t1), the ultrasonic sensor control circuit 2 continuously sounds the buzzer 3 to the driver. A stronger alarm.
[0022]
  Then, as a result of the driver avoiding the vehicle according to the alarm, the distance between the vehicle and the obstacle increases, and the ultrasonic sensor 11If the detected distance value exceeds the lower limit value Lmin (time t = t2), the ultrasonic sensor control circuit 2 switches the buzzer from continuous to intermittent.
[0023]
  Further, the distance between the vehicle and the obstacle further increases, and the ultrasonic sensor 11When the detected distance value exceeds the upper limit value Lmax (time t = t3), the ringing of the buzzer 3 is stopped and the output of the detected distance information to the display control circuit 6 is stopped. On the other hand, the display control circuit 6 does not immediately stop the video display of the CCD camera 5 on the display 7 even if the detection distance information is not input from the ultrasonic sensor control circuit 2, and during the preset off-delay time Td. Continues the video display of the CCD camera 5 and stops the video display of the CCD camera 5 after the elapse of the off-delay time Td and switches the display 7 to the display of navigation information or the like, or turns off the display 7. . If the detection distance information is input again from the ultrasonic sensor control circuit 2 within the off-delay time Td, the time limit of the off-delay time Td is initialized and the video display of the CCD camera 5 is continued.
[0024]
  By providing the off-delay time Td as described above, it is possible to prevent a chattering operation in which the display screen of the display unit 7 is turned on or off when the distance between the vehicle and the obstacle changes in the vicinity of the upper limit value Lmax. it can. Note that, within the off-delay time Td, the detection distance value is the ultrasonic sensor 1.1There may be a case where there is no obstacle on the screen of the display device 7 outside the detection area of..., But in that case, the display control circuit 6 does not perform highlighting and the entire screen has a uniform brightness. What is necessary is just to display.
[0025]
  Book like thisEmbodimentIn this case, the image captured by the CCD camera 5 is displayed on the screen of the display 7 by the display control circuit 6 only when the obstacle is at a distance closer than a predetermined threshold value (upper limit Lmax). An image of an obstacle that is far away and has a low possibility of collision is not displayed unnecessarily, and is closer to the upper limit Lmax for an obstacle such as a wall whose distance is difficult to understand from the image. Since the video is displayed only in a certain case, there is an advantage that the driver can accurately see the situation around the vehicle. Moreover, the ultrasonic sensor 11.. And the ultrasonic sensor 1 by comparing the detection result by the ultrasonic sensor control circuit 2 with the actual distance to the obstacle.1It is possible to easily detect a decrease in detection ability due to dirt adhering or clogging, and the ultrasonic sensor 1.1If the detection capability remains low even after cleaning, etc., it can be intuitively determined that the device is not operating normally and is in an abnormal state due to other causes such as failure or disconnection. It is possible to improve the efficiency of operation tests and improve maintainability during actual use.
[0026]
  BookEmbodimentThen, the ultrasonic sensor 1 only at the rear of the vehicle1... and a CCD camera 5 are installed, but an ultrasonic sensor and a CCD camera are also installed in the front part of the vehicle in the same manner, and D (drive), 2 (in accordance with the shift position detected by the shift position sensor 4 In the case of 2nd speed), 1 (1st speed) or N (neutral), only the front ultrasonic sensor is operated, and in the case of R (reverse), all the ultrasonic sensors 1 at the front and rear1... and in the case of P (parking), all ultrasonic sensors 11May be stopped to monitor obstacles before and after the vehicle.
[0027]
  (Embodiment 2)
  Hereinafter, embodiments of the present invention will be described with reference to FIGS.2Will be explained. However, the basic configuration and operation of this embodiment areEmbodiment 1Therefore, the same components are denoted by the same reference numerals and description thereof is omitted.
[0028]
  In the present embodiment, as shown in FIGS. 8A and 8B, the CCD camera 5 is provided at each corner portion of each bumper at the front and rear of the vehicle Q2.1~ 54And ultrasonic sensor 1 which makes two sets one11, 1121twenty one, 1twenty two131, 132141, 142And CCD camera 51It is installed with ... facing up. In addition, one ultrasonic sensor 1 of each group11, 1twenty one, 131, 141Is a transmission / reception type, and the other ultrasonic sensor 112, 1twenty two, 132, 142Is a dedicated wave receiving type, and is arranged on the same plane at a distance Ls from each other.
[0029]
  Ultrasonic sensor 111, 112,... And obstacles are expressed using parameters shown in FIG. That is, H is the ultrasonic sensor 111, 112Of the ultrasonic sensor 111, 1121 is an opening surface in which an opening for transmitting / receiving ultrasonic waves is formed. V is a normal line of the plane H, and the ultrasonic sensor 111, 112The ultrasonic sensor 1 passes through substantially the center O of the opening for transmitting / receiving ultrasonic waves at11, 112To construct a perpendicular bisector. L is the distance from the approximate center O of the opening to the obstacle, and φ is the angle between the normal V and the obstacle.
[0030]
  Here, the ultrasonic sensor 111, 112,... And a procedure for detecting the distance and position from the vehicle to the obstacle by the ultrasonic sensor control circuit 2 will be described. In the following description, the ultrasonic sensor 111, 112However, since the other groups perform the same operation, the description is omitted.
[0031]
  Each ultrasonic sensor 111, 112Are arranged on the same plane at a distance Ls. Ultrasonic sensor 111As shown in FIG. 12A, a transmission signal (pulse waveform signal) is applied by the ultrasonic sensor control circuit 2 so that an ultrasonic wave is transmitted while the transmission signal is at the H level. It has become. The ultrasonic sensor 1 even after the transmission signal becomes L level11Since a predetermined time is required until the vibration of the ultrasonic transducers constituting the reverberation stops, a reverberation phenomenon occurs, and the ultrasonic signal continues to be emitted for a while (see FIG. 12B).
[0032]
  FIG. 12D shows the ultrasonic sensor 1.12The left signal (the signal received earlier in time) is the ultrasonic sensor 1.11The right signal (the signal received later in time) shows the reflected wave from the obstacle. In addition, the received signals shown in FIG. 12R> 2 (b) and (d) show an envelope of the vibration waveform (about 40 KHz) of the ultrasonic transducer, and L is obtained when the amplitude is above a certain level. It becomes a level, and when it is below a certain level, it is shaped so as to become the H level (see FIGS. 12C and 12E). Ultrasonic sensor 111And 112Then, by detecting the fall of these shaped signals (hereinafter referred to as “shaped signals”) a and b from the H level to the L level, it is recognized that the received signal is a reflected wave. It has become.
[0033]
  Ultrasonic sensor 111When the ultrasonic wave radiated from the light hits a nearby object and is reflected, as shown in FIGS. 12B and 12D, the ultrasonic sensor 111, 112A reflected wave will be observed at. Since the ultrasonic wave moves in the air at a sound velocity c (= about 340 m / s), the distance to a nearby object can be calculated by measuring the time from the start of transmission of the ultrasonic wave until reception of the reflected wave. become.
[0034]
  Reflected wave is ultrasonic sensor 111, 112The time received by each ultrasonic sensor 111, 112Since they are arranged away from each other, they vary depending on the position of a close object. For example, ultrasonic sensor 111, 112Is closer to the ultrasonic sensor 1 than the normal V where the11If it is located on the side, the ultrasonic sensor 1 as shown in FIG.11Receives the reflected wave first (ta <tb), and the ultrasonic sensor 112If it is located on the side, the ultrasonic sensor 1 as shown in FIG.12Receives the reflected wave first (tb <ta). That is, as shown in FIGS. 10 and 11, the ultrasonic sensor 111Ultrasonic sensor 1 after ultrasonic waves are transmitted from11, 112By measuring the times ta and tb until the reflected wave is received, the angle φ between the normal V and the adjacent object and the distance L (= tb × c / 2) from the approximate center O of the opening to the obstacle are obtained. Can be calculated.
[0035]
  However, ultrasonic sensor 111Due to the reverberation, the reflected wave cannot be received for a while after the ultrasonic wave is transmitted. Therefore, for example, as shown in FIG. 13B, depending on the detection timing of the reflected wave, if there is an obstacle at a distance where the reflected wave is received within the reverberation time, the ultrasonic sensor 112Only reflected waves are observed. In this case, the angle φ is not calculated, and only the information on the distance L is obtained, so that the angle φ is approximated to be zero.
[0036]
  As described above, a set of two ultrasonic sensors 111, 112Thus, the distance L to the proximity object (obstacle) and the angle φ are obtained. All ultrasonic sensors 1 attached to the vehicle by the above procedure11, 112Obstacles that exist around the vehicle are detected from the information obtained from.
[0037]
  In the ultrasonic sensor control circuit 2, the shift position detection signal sent from the shift position sensor 4 indicates a shift position of D (drive), 2 (second speed), 1 (first speed) or N (neutral). In the front ultrasonic sensor 111, 112And 1twenty one, 1twenty twoOnly in the case of R (reverse), the front and rear ultrasonic sensors 111... and in the case of P (parking), all ultrasonic sensors 111Stop.
[0038]
  Here, FIG. 14 shows the CCD camera 5.1~ 54Screen area imaged in 1 and ultrasonic sensor 111, 112,... Are shown with reference to the coordinate axes of distance and angle measured with reference to the center of the CCD camera 5.1The screen area imaged in ... and the ultrasonic sensor 111, 112,... Are shown in relation to the detection areas. Each ultrasonic sensor 111, 112,... Have an opening with a measurable distance of 80 cm and a center angle of 120 °, and each set of ultrasonic sensors 111, 112The distance Ls between them is 3 cm, and the ultrasonic sensors 1 in each group11, 112,... Are overlapped with each other to form a distance and angle detectable area to the obstacle.1Are arranged in the vehicle so as to cover the entire imageable area (see FIG. 15).
[0039]
  Therefore, for example, the ultrasonic sensor 1 installed at the left front corner portion.11, 112If the obstacle is detected at a position where the distance is about 45 cm and the angle is 30 °, the ultrasonic sensor control circuit 2 uses the ultrasonic sensor 1 shown in FIG.11, 112It can be specified that an obstacle exists in the area A2 in the detection area.
[0040]
  In the ultrasonic sensor control circuit 2,Embodiment 1Like each ultrasonic sensor 111, 112,... Are sent to the display control circuit 6. Then, the display control circuit 6 determines a display area corresponding to the area A2 specified as having an obstacle based on the position information sent from the ultrasonic sensor control circuit 2, and corresponds as shown in FIG. The display areas N1 to N4 and N6 to N8 other than the display area N5 are darkened to display the corresponding display area N5 with emphasis. In this embodiment as wellEmbodiment 1In the same manner as above, a region to be emphasized is defined by dividing the screen of the display 7 into eight display regions N1 to N8 in advance.
[0041]
  In the present embodiment, as shown in FIG. 17, the screen of the display unit 7 is divided into four, and each of the areas W1 to W4 is divided into four CCD cameras 5.1~ 54Assigned to each CCD camera 51The display control circuit 6 controls the display unit 7 so as to display the video imaged in. Here, a plurality of sets of ultrasonic sensors 111, 112When an obstacle is detected at a distance below a predetermined upper limit value Lmax (for example, 50 cm) at the same time, each ultrasonic sensor 111, 112..., the ultrasonic sensor 1 which compares the distance to the obstacle detected in and shows the smallest distance value.11, 112Since the obstacle detected in... Is closest to the vehicle and is considered dangerous, the ultrasonic sensor 111, 112CCD camera 5 for imaging the detection area1The image of… is highlighted.
[0042]
  For example, as shown in FIG. 17, the ultrasonic sensor 1 in the left front corner portion and the right rear corner portion.11, 112And 141, 142Ultrasonic sensor 1 at the left front corner where the detected distance is less than the upper limit Lmax11, 112Is the ultrasonic sensor 1 at the corner portion on the right rear41, 142When the display distance is shorter than the detection distance, the CCD camera 5 in which the display control circuit 6 is installed at the left front corner is shown.1The CCD camera 5 installed in the corner portion on the right rear is displayed brightly by changing the color of the screen frame of the area W1 in which the captured image is displayed.4The area W4 for displaying the picked-up image is displayed with reduced brightness as a whole, and the CCD camera 5 installed in the other corner portion.2, 53The left front corner CCD camera 5 which is considered to be the most dangerous is not displayed.1The image captured in is highlighted. However, the display control circuit 6Embodiment 1Similarly, the display area N5 including the position of the obstacle detected at the shortest distance is highlighted in the highlighted area W1. In addition, when a plurality of obstacles are detected at the same distance at the same time, the area W1,.
[0043]
  Thus, a plurality of CCD cameras 5 are displayed on the screen of the display 7.1~ 54A CCD camera 5 that can simultaneously recognize a wide range of surrounding conditions of the vehicle from each image captured in step S1, and that captures a high-risk surrounding situation.1The display range of the image of ... is displayed brightly and emphasized so that the visibility of obstacles is improved. In particular, the position of the obstacle is detected at the corner of the vehicle that is likely to become a blind spot, further improving safety. There is an advantage that it can be planned.
[0044]
  Next, the operation of this embodiment will be briefly described with reference to the time chart shown in FIG. In the ultrasonic sensor control circuit 2, each set of ultrasonic sensors 111, 112When the detection distance value of... Is larger than the upper limit value Lmax (between time t = 0 and t = t0), the ultrasonic sensor 1 is used for the display control circuit 6.11The detection distance information of... Is not output, and the buzzer 3 is not sounded.1~ 54The image picked up in (3) is not displayed on the display 7 screen. Then, the distance between the vehicle and the obstacle is reduced, and the ultrasonic sensor 111, 112When the detected distance value of... Falls below the upper limit value Lmax (time t = t0), the ultrasonic sensor control circuit 2 intermittently sounds a buzzer to alert the driver and to the display control circuit 6. Then, information on the detected distance value that is below the upper limit value Lmax is output. In the display control circuit 6 that has received the detection distance information, the CCD camera 5 installed in the corner portion where the display 7 is controlled to fall below the upper limit value Lmax.1... Are displayed in a corresponding area W1 on the screen. At this time,Embodiment 1Similarly, the display area N1 to N8 obtained by dividing each area W1... Into eight areas is displayed with emphasis by making the brightness of the display area (for example, N5) where an obstacle exists brighter than others ( FIG. 17).
[0045]
  In addition, the distance between the vehicle and the obstacle is further reduced, and the ultrasonic sensor 111, 112When the detection distance value of... Falls below a preset lower limit value Lmin (for example, 20 cm) (time t = t1), the ultrasonic sensor control circuit 2 continuously sounds the buzzer 3 to the driver. An even stronger warning is issued.
[0046]
  Then, as a result of the driver avoiding the vehicle according to the alarm, the distance between the vehicle and the obstacle increases, and the ultrasonic sensor 111, 112When the detected distance value of... Exceeds the lower limit value Lmin (time t = t2), the ultrasonic sensor control circuit 2 switches the buzzer from continuous to intermittent.
[0047]
  Further, the distance between the vehicle and the obstacle further increases, and the ultrasonic sensor 111, 112When the detection distance value of... Exceeds the upper limit value Lmax (time t = t3), the buzzer 3 stops ringing and the output of the detection distance information to the display control circuit 6 is stopped. On the other hand, in the display control circuit 6, the CCD camera 5 is turned on after the elapse of the off-delay time Td after the detection distance information is not input from the ultrasonic sensor control circuit 2.1The video display is stopped and the screen of the display 7 is switched to display navigation information or the like, or the display 7 is turned off. If the detection distance information is input again from the ultrasonic sensor control circuit 2 within the off-delay time Td, the time limit of the off-delay time Td is initialized and the CCD camera 51Continue the video display. Note that, within this off-delay time Td, when the detected obstacle exceeds the displayable range of the display 7 or when the ultrasonic sensor 1 is used.11, 112,... May not be detected in the detectable region, but at that time, the display control circuit 6 does not perform highlighting and displays the entire region W1 corresponding to the corresponding corner portion with uniform brightness. To do. Moreover, the ultrasonic sensor 1 in another corner part11, 112When the detection distance of... Is shorter, the CCD camera 5 installed at the corner portion.1The video imaged in the above is highlighted and displayed.
[0048]
  As described above, in the present embodiment, the CCD camera 5 that captures an area where the obstacle exists only when the obstacle is closer than the predetermined threshold (upper limit Lmax).1Is displayed on the screen of the display 7 by the display control circuit 6 and the position of the obstacle with a high degree of danger is further emphasized and displayed on the screen.Embodiment 1In addition, the visibility of obstacles is further improved, and safety can be improved. Furthermore, position detection means (ultrasonic sensor 111... and the detection result of the obstacle position by the ultrasonic sensor control circuit 2) and the screen display of the display screen are compared, and if the detection ability of the position detection means is deteriorated due to dirt adhesion or clogging, etc. Since the display area of the actual obstacle is different from the highlighted area based on the detection result, the user can easily find a decrease in the capability of the position detection means.11If the detection capability is reduced even after cleaning, etc., it is not normal operation, so it can be intuitively determined that it is abnormal due to other causes such as failure or disconnection. It is possible to improve the efficiency of operation tests and improve maintainability during actual use.
[0049]
  In the present embodiment described above, the CCD camera 5 is used as the imaging means. However, it is also possible to improve visibility in a dark state such as at night by using an imaging device that can capture not only the visible light region but also the infrared region. Is possible. Further, as an obstacle position highlighting method on the screen of the display device 7, an example of displaying brighter than other portions has been illustrated, but the corresponding region may be displayed surrounded by a line. Also, the distance to the detected obstacle position is displayed numerically, the coordinate axis is overlaid on the image of the CCD camera 5 and displayed in advance, the corresponding area inside the coordinate axis is blinked, and other colors are displayed. It may be overcoated and flashed.
[0050]
  Further, as the display device 7, a monitor device for a navigation system or a car TV mounted on the front panel is used, but the display device for projecting an image on a windshield, or in the field of view of a helmet or glasses. A head-up display device that forms a screen may be used as a display. In addition, the display installed at the rear of the vehicle can be viewed through the rearview mirror so that the rear image can be confirmed, displayed directly on the rearview mirror, or provided with a display around it. You may enable it to confirm the image | video of a rear part, without interfering with the operation | movement which confirms a rear part with a mirror.
[0051]
  Here, in this embodiment, in particular, each CCD camera 5 installed in four corners as a display form.1~ 54In the above example, the screen of one display 7 is divided into four parts, and each CCD camera 5 is displayed.1~ 54Each CCD camera 5 is provided with a dedicated display for displaying1~ 54You may divide | segment and arrange | position each indicator so that it may be located on the line of sight when a driver | operator looks at each corner.
[0052]
  By the way, ultrasonic sensor 11A switch for shifting to the operation mode for simply displaying the image of the CCD camera 5 is provided without interlocking with the distance detection to the obstacle by ..., and the screen display form of the display unit 7 is adapted to the driver's request. It is also possible to select the function of the vehicle surrounding obstacle monitoring device by switching. Further, it is possible to monitor the entire periphery of the vehicle by providing an image pickup means and a distance detection means for monitoring the side of the vehicle.
[0053]
【The invention's effect】
  The invention according to claim 1 is a distance detection unit that is installed in a vehicle and detects a distance to an obstacle around the vehicle, and a position detection unit that detects the position of the obstacle from the distance to the obstacle detected by the distance detection unit. An imaging unit installed in the vehicle for imaging the periphery of the vehicle, a display unit for displaying an image captured by the imaging unit to allow the driver to visually recognize the situation around the vehicle, and an obstacle detected by the distance detection unit A vehicle surrounding obstacle monitoring device comprising: a control unit that causes the display unit to display an image captured by the imaging unit when the distance of the vehicle is closer than a predetermined threshold value. An ultrasonic sensor for transmitting and receiving an ultrasonic wave, an ultrasonic sensor for receiving an ultrasonic wave, andWith a buzzer that sounds an alarmThe position detection is performed by detecting the distance to the obstacle based on the time until the ultrasonic wave transmitted from one ultrasonic sensor is reflected by the obstacle and received by each ultrasonic sensor. The means includes the two ultrasonic sensors arranged at a predetermined distance, and an ultrasonic wave transmitted from one ultrasonic sensor is reflected by an obstacle and received by the two ultrasonic sensors. The position of the obstacle is detected based on the time difference between the received waves in each ultrasonic sensor, and the control means determines whether the obstacle exists in the imaging area of the imaging means based on the detection result of the position detecting means. If there is an obstacle in the imaging area, the area on the display means where the obstacle should be displayed is calculated and the calculated area on the display screen is highlighted by the display means.And it sounds a buzzer and gives an alarm.When the obstacle that existed in the imaging area no longer exists in the imaging areaStop the buzzer and stopUntil the predetermined off-delay time elapses, the image captured by the image capturing unit is continuously displayed on the display unit. Therefore, the image captured by the image capturing unit only when the obstacle is closer than the predetermined threshold value. Is displayed on the screen of the display means, so images of obstacles that are far away and have a low possibility of collision will not be displayed unnecessarily, and obstacles that are difficult to understand from the image, such as walls Since the video is displayed only when the object is closer than the predetermined threshold, there is an effect that the driver can accurately see the situation around the vehicle. Moreover, by comparing the detection result of the distance detection means with the actual distance to the obstacle, it is possible to easily detect a decrease in the detection capability of the distance detection means due to dirt adhesion or clogging. If the detection capability remains low even after cleaning the device, it can be intuitively determined that the device is not operating normally and is in an abnormal state due to other causes such as failure or disconnection. This has the effect of improving the efficiency of the operation test and improving the maintainability during actual use. In addition, since the position of an obstacle with a high degree of danger is highlighted and displayed on the screen of the display means, there is an effect that the visibility of the obstacle is improved and safety can be improved. Further, by comparing the detection result of the obstacle position by the position detection means and the screen display of the display screen, if the detection ability of the position detection means is reduced due to dirt adhesion or clogging, the detection result Because the display area of the actual obstacle is different from the highlighted area, the user can easily find a decrease in the ability of the position detection means, and the detection ability can be maintained even if the position detection means is cleaned. If it is in a degraded state, it can be intuitively determined that it is not normal operation and is in an abnormal state due to other causes such as a failure or disconnection, improving the efficiency of operation tests during shipping inspections and maintenance during actual use In addition, it is possible to prevent a chattering operation in which the screen display of the display means turns on and off when the distance between the vehicle and the obstacle changes in the vicinity of the threshold value. There is an effect that.
[0054]
    According to a third aspect of the present invention, in the first aspect of the invention, a plurality of imaging means each having a different imaging area is installed in the vehicle, and the control means divides the display screen of the display means to display the images of the plurality of imaging means. The invention according to claim 1, in which the display range for each imaging unit corresponding to the position of the obstacle detected by the position detection unit is displayed brighter than the other display ranges by the display unit, as appropriate and independently displayed. In addition to the above effects, it is possible to simultaneously view a wide range of surrounding situations of the vehicle from the images of a plurality of imaging means on the screen of the display means, and the display range of the imaging means that captures a high-risk surrounding situation is bright. Since the display is highlighted, there is an effect that the visibility of the obstacle is improved and the safety can be improved.
[0055]
  According to a fourth aspect of the present invention, in the invention of the third aspect, since the image pickup means is installed at least at both the front and rear ends of the vehicle, in addition to the effect of the third aspect of the invention, the corner of the vehicle is likely to become a blind spot. There is an effect that the safety can be further improved by imaging the surrounding situation of the part.
[0056]
  According to a fifth aspect of the present invention, in the fourth aspect of the invention, since distance detecting means are installed at least at both front and rear ends of the vehicle, in addition to the effect of the fourth aspect of the invention, Since the position of the obstacle is detected at the corner, the safety can be further improved.
[0057]
  According to a sixth aspect of the invention, in the first aspect of the invention, the distance detecting means is installed at a position where the distance to the obstacle behind the vehicle can be detected, and the imaging means is arranged at a position where the rear of the vehicle can be imaged. Since it is installed, in addition to the effect of the invention of claim 1, the position of the obstacle is detected behind the vehicle, which is difficult for the driver to see, and the rear of the vehicle is imaged by the imaging means, so that the obstacle visibility is further improved. There is an effect of doing.
[Brief description of the drawings]
[Figure 1]Embodiment 1 of the present inventionFIG.
FIG. 2 is an explanatory diagram for explaining the installation location of the ultrasonic sensor and the CCD camera on the vehicle in the same as above.
FIG. 3 is an operation explanatory diagram of the above.
FIG. 4 is an operation explanatory view of the above.
FIG. 5 is an operation explanatory diagram of the above.
FIG. 6 is a time chart for explaining the operation.
[Fig. 7]Embodiment 2 of the present inventionFIG.
FIGS. 8A and 8B are explanatory views for explaining locations where the ultrasonic sensor and the CCD camera are installed in the vehicle.
FIG. 9 is an explanatory diagram of parameters for displaying the positional relationship between the ultrasonic sensor and the obstacle in the same as above.
FIG. 10 is an explanatory diagram of a process of detecting the position of an obstacle in the same as above.
FIG. 11 is an explanatory diagram of a process of detecting the position of an obstacle in the same as above.
FIG. 12 is a time chart of a transmission / reception signal of the ultrasonic sensor in the same as above.
FIG. 13 is a time chart of a shaped signal obtained by shaping the transmission / reception signal of the ultrasonic sensor according to the above.
FIG. 14 is an operation explanatory diagram of the above.
FIG. 15 is an operation explanatory diagram of the above.
FIG. 16 is an operation explanatory view of the above.
FIG. 17 is an operation explanatory view of the above.
[Explanation of symbols]
  11~ 16  Ultrasonic sensor
  2 Ultrasonic sensor control circuit
  5 CCD camera
  6 Display control circuit
  7 Display

Claims (6)

車両に設置されて車両周辺の障害物までの距離を検出する距離検出手段と、距離検出手段で検出する障害物までの距離から障害物の位置を検出する位置検出手段と、車両に設置されて車両周辺を撮像する撮像手段と、撮像手段で撮像した映像を表示して車両周辺の状況を運転者に視認させる表示手段と、距離検出手段によって検出される障害物までの距離が所定のしきい値よりも近くなった場合に撮像手段で撮像した映像を表示手段に表示させる制御手段とを備えた車両周辺障害物監視装置であって、距離検出手段は、超音波を送波及び受波する超音波センサと、超音波を受波する超音波センサと、音による警報を発するブザーとを具備し、一方の超音波センサから送波された超音波が障害物で反射して各超音波センサで受波されるまでの時間に基づいて当該障害物までの距離を検出し、位置検出手段は、所定の距離を隔てて配置された前記2つの超音波センサを具備し、一方の超音波センサから送波された超音波が障害物で反射して2つの超音波センサで受波されたときに各超音波センサにおける受波の時間差に基づいて障害物の位置を検出してなり、制御手段は、位置検出手段の検出結果に基づいて撮像手段の撮像領域内における障害物の存否を判断し撮像領域内に障害物が存在する場合には表示手段における画面上で障害物が表示されるべき領域を算定するとともに算定された表示画面の該当領域を表示手段により強調して表示させ且つブザーを鳴動して警報を発し、さらに撮像領域内に存在していた障害物が撮像領域内に存在しなくなった時点でブザーの鳴動を停止するとともに当該時点から所定のオフディレイ時間が経過するまでは撮像手段で撮像した映像を表示手段に表示させ続けることを特徴とする車両周辺障害物監視装置。Distance detection means installed in the vehicle to detect the distance to the obstacle around the vehicle, position detection means to detect the position of the obstacle from the distance to the obstacle detected by the distance detection means, and installed in the vehicle An imaging unit that images the periphery of the vehicle, a display unit that displays an image captured by the imaging unit to allow the driver to visually recognize the situation around the vehicle, and a distance to the obstacle detected by the distance detection unit is a predetermined threshold. A vehicle surrounding obstacle monitoring device including a control unit that displays on the display unit the video imaged by the imaging unit when the value becomes closer to the value, wherein the distance detection unit transmits and receives the ultrasonic wave Each ultrasonic sensor includes an ultrasonic sensor, an ultrasonic sensor that receives an ultrasonic wave, and a buzzer that issues a sound alarm. The ultrasonic wave transmitted from one ultrasonic sensor is reflected by an obstacle. Until it is received at The position detecting means includes the two ultrasonic sensors arranged at a predetermined distance, and the ultrasonic wave transmitted from one ultrasonic sensor is detected. The position of the obstacle is detected based on the time difference between the received waves in each ultrasonic sensor when reflected by the obstacle and received by the two ultrasonic sensors, and the control means detects the detection result of the position detecting means. Based on the above, the presence or absence of an obstacle in the imaging area of the imaging means is determined, and if there is an obstacle in the imaging area, the area on the display means where the obstacle should be displayed is calculated and calculated The relevant area of the display screen is highlighted and displayed by the display means, and a buzzer is sounded to give an alarm . Further, when the obstacle that was present in the imaging area no longer exists in the imaging area , the buzzer is sounded. When it stops Moni vehicle around obstacles monitoring device from the time point to a predetermined off-delay time has elapsed, characterized in that the continuously displayed on the display means an image captured by the imaging means. 制御手段は、前記オフディレイ時間が経過する前に位置検出手段の検出結果に基づいて撮像領域内に障害物が存在すると判断したときはオフディレイ時間を初期化して撮像手段で撮像した映像を表示手段に表示させることを特徴とする請求項1記載の車両周辺障害物監視装置。When the control means determines that an obstacle exists in the imaging area based on the detection result of the position detection means before the off-delay time elapses , the control means initializes the off-delay time and displays the video imaged by the imaging means. The vehicle surrounding obstacle monitoring device according to claim 1, wherein the vehicle peripheral obstacle monitoring device is displayed. それぞれ異なる撮像領域を有する複数の撮像手段が車両に設置され、制御手段は、表示手段の表示画面を分割して複数の撮像手段の映像を各々独立して適宜表示させるとともに、位置検出手段によって検出された障害物の位置に対応する各撮像手段毎の表示範囲を表示手段により他の表示範囲よりも明るく表示させることを特徴とする請求項1記載の車両周辺障害物監視装置。  A plurality of image pickup means having different image pickup areas are installed in the vehicle, and the control means divides the display screen of the display means and appropriately displays the images of the plurality of image pickup means independently and detects by the position detection means. 2. The vehicle peripheral obstacle monitoring apparatus according to claim 1, wherein a display range for each imaging unit corresponding to the position of the obstacle is displayed brighter than other display ranges by the display unit. 少なくとも車両の前方及び後方の両端部にそれぞれ撮像手段が設置されたことを特徴とする請求項1記載の車両周辺障害物監視装置。  2. The vehicle peripheral obstacle monitoring apparatus according to claim 1, wherein imaging means are installed at least at both front and rear ends of the vehicle. 少なくとも車両の前方及び後方の両端部にそれぞれ距離検出手段が設置されたことを特徴とする請求項4記載の車両周辺障害物監視装置。  5. The vehicle surrounding obstacle monitoring apparatus according to claim 4, wherein distance detecting means are installed at least at both front and rear ends of the vehicle. 距離検出手段は、車両後方の障害物までの距離が検出可能な位置に設置されるとともに、撮像手段は、車両後方が撮像可能な位置に設置されたことを特徴とする請求項1記載の車両周辺障害物監視装置。  2. The vehicle according to claim 1, wherein the distance detecting means is installed at a position where the distance to the obstacle behind the vehicle can be detected, and the imaging means is installed at a position where the rear of the vehicle can be imaged. Perimeter obstacle monitoring device.
JP24048399A 1999-08-26 1999-08-26 Obstacle monitoring device around the vehicle Expired - Lifetime JP3855552B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP24048399A JP3855552B2 (en) 1999-08-26 1999-08-26 Obstacle monitoring device around the vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP24048399A JP3855552B2 (en) 1999-08-26 1999-08-26 Obstacle monitoring device around the vehicle

Publications (2)

Publication Number Publication Date
JP2001063500A JP2001063500A (en) 2001-03-13
JP3855552B2 true JP3855552B2 (en) 2006-12-13

Family

ID=17060194

Family Applications (1)

Application Number Title Priority Date Filing Date
JP24048399A Expired - Lifetime JP3855552B2 (en) 1999-08-26 1999-08-26 Obstacle monitoring device around the vehicle

Country Status (1)

Country Link
JP (1) JP3855552B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102574485A (en) * 2009-10-01 2012-07-11 罗伯特·博世有限公司 Method and apparatus for the combined visual display of video and distance data for a traffic situation

Families Citing this family (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3764317B2 (en) * 2000-03-02 2006-04-05 株式会社オートネットワーク技術研究所 In-vehicle peripheral visual recognition device
JP4694032B2 (en) * 2001-05-02 2011-06-01 株式会社小松製作所 Work machine display
JP3608527B2 (en) * 2001-05-15 2005-01-12 株式会社豊田中央研究所 Peripheral status display device
KR100422647B1 (en) * 2001-07-12 2004-03-12 현대자동차주식회사 Method for doubling video frame rate of ccd camera
DE10236879B4 (en) 2001-08-14 2013-10-24 Denso Corporation Obstacle detection device and related communication device
JP3941926B2 (en) * 2002-03-12 2007-07-11 松下電器産業株式会社 Vehicle periphery monitoring device
JP3968271B2 (en) * 2002-06-25 2007-08-29 株式会社オートネットワーク技術研究所 Vehicle periphery visual recognition device
JP4010224B2 (en) * 2002-10-23 2007-11-21 トヨタ自動車株式会社 Vehicle periphery monitoring device
JP4160848B2 (en) * 2003-03-20 2008-10-08 本田技研工業株式会社 Collision protection device for vehicle
JP4131327B2 (en) * 2003-09-22 2008-08-13 日産自動車株式会社 VEHICLE DRIVE OPERATION ASSISTANCE DEVICE AND VEHICLE WITH VEHICLE DRIVE OPERATION ASSISTANCE DEVICE
JP4211562B2 (en) * 2003-10-10 2009-01-21 株式会社デンソー Vehicle periphery monitoring device
JP2005184523A (en) * 2003-12-19 2005-07-07 Matsushita Electric Ind Co Ltd On-vehicle monitoring camera apparatus
JP4683192B2 (en) * 2005-02-15 2011-05-11 株式会社デンソー Vehicle blind spot monitoring device and vehicle driving support system
JP4655751B2 (en) * 2005-05-10 2011-03-23 トヨタ自動車株式会社 Irradiation device and night vision device
JP4726586B2 (en) 2005-09-20 2011-07-20 鈴木 旭 Car drive recorder
JP4715604B2 (en) * 2006-04-13 2011-07-06 株式会社デンソー Peripheral image display device
JP2007329611A (en) * 2006-06-07 2007-12-20 Denso Corp Vehicle perimeter monitoring apparatus, vehicle perimeter monitoring system, and vehicle perimeter monitoring method
JP5160753B2 (en) * 2006-07-19 2013-03-13 クラリオン株式会社 In-vehicle equipment
JP4849333B2 (en) * 2006-12-04 2012-01-11 株式会社デンソー Visual aids for vehicles
JP4876938B2 (en) * 2007-01-29 2012-02-15 パナソニック株式会社 Driving support apparatus, method and program
JP4404103B2 (en) * 2007-03-22 2010-01-27 株式会社デンソー Vehicle external photographing display system and image display control device
JP5119721B2 (en) * 2007-04-24 2013-01-16 アイシン精機株式会社 Peripheral visibility check device for vehicles
JP4981566B2 (en) * 2007-07-20 2012-07-25 株式会社デンソーアイティーラボラトリ Driving support device and driving support method
JP4985250B2 (en) * 2007-09-06 2012-07-25 株式会社デンソー Parking assistance device
JP2009118072A (en) * 2007-11-05 2009-05-28 Ihi Corp Remote control device and remote control method
WO2013038509A1 (en) * 2011-09-13 2013-03-21 トヨタ自動車株式会社 Vehicle periphery monitoring apparatus, and vehicle periphery monitoring system
JP5803757B2 (en) * 2012-03-13 2015-11-04 トヨタ自動車株式会社 Perimeter monitoring device and perimeter monitoring method
JP6036548B2 (en) * 2013-05-22 2016-11-30 株式会社デンソー Video control device for vehicle
KR102158830B1 (en) 2013-12-27 2020-09-22 한화테크윈 주식회사 Apparatus and method for preventing crash accident
KR102146662B1 (en) * 2014-07-21 2020-08-21 현대모비스 주식회사 Device for correcting the detected obstacle position by parking assist system and method thereof
JP6262644B2 (en) * 2014-12-19 2018-01-17 日立建機株式会社 Work machine ambient monitoring device
US10267908B2 (en) * 2015-10-21 2019-04-23 Waymo Llc Methods and systems for clearing sensor occlusions
JP6679939B2 (en) * 2016-01-13 2020-04-15 株式会社Jvcケンウッド Vehicle display device and vehicle display method
JP6954749B2 (en) * 2017-03-03 2021-10-27 株式会社Soken Adhesion detection device
JP2019159380A (en) * 2018-03-07 2019-09-19 株式会社デンソー Object detection device, object detection method, and program
JP7350500B2 (en) * 2019-03-28 2023-09-26 日産自動車株式会社 Display method of images for remote control and remote control device
JP2020188372A (en) * 2019-05-15 2020-11-19 トヨタ車体株式会社 Vehicle operation support device and vehicle operation support method
CN110412554B (en) * 2019-06-26 2021-10-29 北京三一智造科技有限公司 Obstacle monitoring system and method

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06936U (en) * 1992-06-15 1994-01-11 市光工業株式会社 Multi-information device for automobile
JPH0792265A (en) * 1993-09-20 1995-04-07 Sumitomo Electric Ind Ltd Obstacle detection apparatus
JP3431678B2 (en) * 1994-02-14 2003-07-28 三菱自動車工業株式会社 Ambient situation display device for vehicles
JP3475507B2 (en) * 1994-08-08 2003-12-08 日産自動車株式会社 Ambient monitoring device for vehicles
JP3145592B2 (en) * 1994-12-16 2001-03-12 カルソニックカンセイ株式会社 Obstacle detection device for vehicles
JP3559083B2 (en) * 1994-12-26 2004-08-25 本田技研工業株式会社 Driving support device
JPH08223566A (en) * 1995-02-10 1996-08-30 Hitachi Ltd Surrounding state recognition device for vehicle
JPH0971198A (en) * 1995-09-06 1997-03-18 Mazda Motor Corp Obstacle confirming device
JP3828655B2 (en) * 1998-01-26 2006-10-04 本田技研工業株式会社 Automatic vehicle steering system
JPH11220726A (en) * 1998-01-30 1999-08-10 Niles Parts Co Ltd Vehicle surrounding monitoring device

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102574485A (en) * 2009-10-01 2012-07-11 罗伯特·博世有限公司 Method and apparatus for the combined visual display of video and distance data for a traffic situation
CN102574485B (en) * 2009-10-01 2015-09-09 罗伯特·博世有限公司 For the method and apparatus of the video data of traffic and the combination visual display of range data

Also Published As

Publication number Publication date
JP2001063500A (en) 2001-03-13

Similar Documents

Publication Publication Date Title
JP3855552B2 (en) Obstacle monitoring device around the vehicle
US5574426A (en) Obstacle detection system for vehicles moving in reverse
US6989739B2 (en) Vehicular monitoring systems with a multi-window display
US20100253780A1 (en) Vehicle auxiliary device
US20070091625A1 (en) Rear warning system employing outside mirror in vehicle
US20050128060A1 (en) Universally usable object detection system and method
KR100771276B1 (en) Sideward distance sensing system for car and tire, tire wheel or wheel cover for the system
JP3787218B2 (en) Vehicle rear monitoring device
GB2459889A (en) Vehicle auxiliary device comprising multiple cameras and ultrasonic transducers on the front and rear of the vehicle
JP2007137111A (en) Periphery monitoring device for vehicle
KR101515717B1 (en) Apparatus for dead zone watching in vehicle
JP3478149B2 (en) Obstacle display device for vehicles
JP3885930B2 (en) Obstacle detection device
JP2008275380A (en) Vehicle periphery monitoring device
JP3033390B2 (en) Vehicle image display device
JP2014016962A (en) Vehicle perimeter monitoring system
JP3922201B2 (en) In-vehicle visibility monitor system
JP2001039248A (en) Camera device for vehicle
JP4081958B2 (en) Obstacle detection device for vehicles
JP3553438B2 (en) Vehicle periphery monitoring device
JP3734601B2 (en) Obstacle detection device for automobile
JPH03110490A (en) Vehicle peripheral monitor device
KR101681577B1 (en) A warning apparatus for a vehicle
KR100483275B1 (en) Radar system for vehicle
CN214647948U (en) 360-degree vehicle body monitoring and protecting system for civil aviation special vehicle

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050307

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050809

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060213

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20060509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060710

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20060718

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060822

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060904

R151 Written notification of patent or utility model registration

Ref document number: 3855552

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090922

Year of fee payment: 3

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090922

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090922

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100922

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110922

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110922

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120922

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130922

Year of fee payment: 7

EXPY Cancellation because of completion of term