JP3883033B2 - 車両用表示装置 - Google Patents

車両用表示装置 Download PDF

Info

Publication number
JP3883033B2
JP3883033B2 JP2000236087A JP2000236087A JP3883033B2 JP 3883033 B2 JP3883033 B2 JP 3883033B2 JP 2000236087 A JP2000236087 A JP 2000236087A JP 2000236087 A JP2000236087 A JP 2000236087A JP 3883033 B2 JP3883033 B2 JP 3883033B2
Authority
JP
Japan
Prior art keywords
image
vehicle
display
displayed
map
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000236087A
Other languages
English (en)
Other versions
JP2002046504A (ja
Inventor
和典 礒本
浩一 小嶋
憲一 奥田
裕樹 上村
秀和 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mazda Motor Corp
Original Assignee
Mazda Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mazda Motor Corp filed Critical Mazda Motor Corp
Priority to JP2000236087A priority Critical patent/JP3883033B2/ja
Publication of JP2002046504A publication Critical patent/JP2002046504A/ja
Application granted granted Critical
Publication of JP3883033B2 publication Critical patent/JP3883033B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Instructional Devices (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Instrument Panels (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、車両周囲に存在する障害物等の状態を、その車両の乗員に表示によって報知する車両用表示装置に関し、例えば、代表的な車両である自動車に搭載して好適な表示装置に関する。
【0002】
【従来の技術】
従来より、車両周囲の状態を赤外線撮像装置を用いて撮像し、その撮像した画像を運転席の前方に表示する装置が提案されている。これらの装置によれば、ヘッドライトを点灯させたとしても、人間の視覚特性によりドライバが認識することが困難な車両周囲の状況(例えば、夜間、濃霧等)においても、実際には存在する障害物等の状態をドライバは容易に把握することができ、運転操作を効果的に支援することができる。
【0003】
また、特開平8−263784号には、赤外線撮像装置を用いて撮像した温度分布情報を、ナビゲーション用の地図画面に重ね合わせて表示することにより、前方の道路のどの部分に歩行者が存在するかをドライバに報知する技術が提案されている。
【0004】
【発明が解決しようとする課題】
上記の従来技術によれば、ドライバは悪天候においても歩行者の存在を地図画像上で確認することができ、安全運転に寄与することができるが、上記の如く重ね合わされた画像には、街路灯や建物の明かりや、自車両の走行車線(または推定した進行路)とは異なる方向に存在する障害物等も表示されるので、ドライバにとってナビゲーション用の地図画像に表示されている情報を認識し難くなり、利便性に欠ける。
【0005】
そこで本発明は、視認性の良くない走行環境における前方障害物の認識と、ナビゲーション用の地図画像の認識とをドライバが容易に行える車両用表示装置の提供を目的とする。
【0006】
【課題を解決するための手段】
上記の目的を達成するため、本発明に係る車両用表示装置は、以下の構成を特徴とする。
【0007】
即ち、車両に設けられ、その車両前方を赤外線を利用して撮像する撮像装置と、地図画像情報に基づいて生成した立体的な地図画像と前記撮像装置によって撮像された赤外画像とを、表示画面上で重ね合わせた表示態様で、前記車両に設けられた表示器に表示する表示制御手段とを備える車両用表示装置であって、前記表示制御手段は、前記赤外画像のうち、前記車両が走行する道路及びその近傍に対応する部分画像領域と、前記地図画像とを、表示画面上で重ね合わせて表示し、前記赤外画像の全体領域内の前記部分画像領域から外れた領域に障害物に相当する輻射熱源が含まれる場合であって、その輻射熱源の前記車両の走行車線に対する接近速度が所定速度より速いときに、該輻射熱源の画像も前記表示画面に併せて表示することを特徴とする。
【0009】
また、例えば前記表示制御手段は、前記赤外画像に含まれる前記輻射熱源の熱量が所定値より大きいときに、前記輻射熱源の部分画像領域を障害物を特定すると良い。
【0010】
または、上記の同目的を達成するため、本発明に係る車両用表示装置は、以下の構成を特徴とする。
【0011】
即ち、車両に設けられ、その車両前方を赤外線を利用して撮像する撮像装置と、設定された所望の目的地への経路誘導を行う経路誘導手段と、地図画像情報に基づいて生成した立体的な地図画像と前記撮像装置によって撮像された赤外画像とを、表示画面上で重ね合わせた表示態様で、前記車両に設けられた表示器に表示する表示制御手段とを備える車両用表示装置であって、前記表示制御手段は、前記経路誘導手段によって算出された経路誘導路情報に従って前記車両が走行する道路前方に存在する分岐路にて進路変更を行う方向を推定したときに、前記赤外画像のうち、前記車両の位置を基準として該分岐路から遠方に対応する部分画像領域については、該進路変更を行う方向に延びる画像領域だけを、表示画面上で前記地図画像に重ね合わせて表示することを特徴とする。
【0014】
【発明の効果】
上記の本発明によれば、視認性の良くない走行環境における前方障害物の認識と、ナビゲーション用の地図画像の認識とをドライバが容易に行える車両用表示装置の提供が実現する。
【0015】
即ち、赤外画像の全体領域の中から、ドライバにとって比較的必要性の低い部分画像領域がカットされた状態で地図画像との重ね合わせ表示が行われるので、視認性の良くない走行環境における前方障害物の認識と、ナビゲーション用の地図画像の認識(経路誘導用の矢印等のガイダンス表示を含む)とをドライバが容易に行うことができる。また、走行中の道路及びその近傍から外れた場所に存在する障害物であっても、自車両に接近する障害物は表示されるので、ドライバは、その障害物に対する迅速且つ的確な運転操作を行うことができる。
【0018】
【発明の実施の形態】
以下、本発明に係る車両用表示装置を、代表的な車両である自動車に搭載された表示装置の実施形態として、図面を参照して詳細に説明する。
【0019】
[第1の実施形態]
図1は、本発明の第1の実施形態における表示装置のシステム構成を示すブロック構成図である。
【0020】
同図において、2は、ヘッドランプ、スモールランプ、フォグランプのオン・オフ操作が可能なライトスイッチである。尚、本実施形態では、赤外線カメラ3によって撮影された画像を前方の視認性が良くない状況下において表示する表示オン・オフの条件を、一例として、ドライバによるライトスイッチ2の操作状態によって判別するが、この方法に限られるものではなく、ワイパーの動作設定が可能なワイパースイッチの操作状態(例えば、ワイパーの動作開始に応じて表示オンにすれば良い)、所定の時間帯(例えば、時間情報やカレンダ情報を参照することにより、夕方や夜間に表示オン、或いは、夏季には19時から5時、冬季には17時から7時まで表示オンにすれば良い)、或いは、外部より通信によって入手した天候状況等(例えば、雨天や濃霧の時に表示オン)を利用して判別しても良い。
【0021】
3は、自車両の前方を赤外線を利用して撮像する赤外線カメラであり、この赤外線カメラ3は、車両先頭部分における設置スペースの関係から、車両前後方向に延びる中央軸上から右方向にB(m)オフセットされた位置に搭載されている。ここで、オフセット量Bは、表示制御装置1のメモリに予め記憶しておく。
【0022】
4は、レーザレーダ、或はミリ波レーダ等を利用することにより、前方に存在する障害物との相対距離を検出する前方障害物センサであり、この前方障害物センサ5は、車両前後方向に延びる中央軸上に搭載されている。
【0023】
5は、外部より受信したGPS(グローバル・ポジショニング・システム)信号に基づいて自車両の現在位置を検出するGPSセンサである。6は、ナビゲーション機能をオン・オフ可能なナビゲーションメインスイッチである。
【0024】
7は、表示装置9Aまたは9Bに表示される地図画像のスクロールを指示可能な地図スクロールスイッチである。8は、経路誘導を希望する所望の目的地を設定可能な目的地設定スイッチである。
【0025】
9A及び9Bは、地図データベース10に予め格納されている地図情報に基づく地図画像及び/または赤外線カメラ3により撮像された画像(以下、赤外画像:図8(a)及び図9(a)の表示例参照)を表示する液晶表示器またはヘッドアップディスプレイ等の表示装置である。
【0026】
ここで、表示装置9A(第1表示器)は、自車両の運転席前方であってドライバが前方を凝視したときに大きな視線移動を行わずに容易に表示画像を見ることができる位置であって、ドライバにとって視認性の良好な高い位置(ダッシュボードの中央位置近傍であってもよい)に配設されている。また、表示装置9B(第2表示器)は、表示装置9Aの配設位置と比較してドライバが前方を凝視したときの視線範囲の外延部寄りとなるセンターコンソールに配設されている。
【0027】
11は、道路側の通信設備との通信を行うことにより、自車両の走行車線の位置情報(車線形状に関する情報)等を受信する路車間通信機である。12は、自車両の操舵角度を検出する舵角センサである。
【0028】
そして、1は、地図データベース10に予め格納されている地図情報に基づく地図画像の表示制御を行うと共に、GPSセンサ5によって検出された現在位置情報や、その現在位置情報に対応する地図情報等を利用して、乗員(ドライバ)が設定した所望の目的地への経路誘導を行う一般的なナビゲーション装置の制御機能と、赤外画像を利用した表示制御(詳細は後述する)とを行う表示制御装置である。この表示制御装置1によるナビゲーション制御及び表示制御は、予めメモリに格納されたソフトウエアを、不図示のCPUが実行することによって実現される。
【0029】
尚、本実施形態において、表示制御装置1による地図画像の表示態様は、図8(b)或いは図9(b)に例示するように、ドライバが運転席から見る前方の視界と同様な立体視が可能なタイプであり、経路誘導に際しては、ドライバに対するガイダンス表示として、表示画面に自車両が進行すべき矢印のシンボルが表示されるタイプを前提とする。尚、地図情報に基づいて立体的な地図画像を表示する方法は、一般的なものを採用するものとし、本実施形態における説明は省略する。
【0030】
次に、本実施形態において表示制御装置1が行う具体的な制御処理について説明する。
【0031】
表示制御装置1は、ナビゲーション機能による立体的な地図画像を表示するに際して、自車両の走行路の前方位置に、前方障害物の赤外画像を重ね合わせて表示することにより、ドライバにとって視認性の悪い環境においても、前方に存在する障害物の種類や大きさ及び存在位置(走行路との関係)の認知性を向上させる。その際、地図画像の全体領域と赤外画像の全体領域とを重ね合わせて表示すると、図9(c)に例示するように、建物の形状や照明等が重複して表示され、ドライバにとってナビゲーション用の地図画像に含まれる情報(矢線等のガイダンス表示)の認識がドライバにとって容易でなくなる場合があるので、本実施形態では、赤外画像の全体領域のうち、自車両が走行する道路及びその近傍に対応する部分画像だけを抽出し、抽出した部分画像と地図画像の全体領域とを、図8(d)或いは図9(d)に例示する如く表示画面上で重ね合わせて表示することにより、ナビゲーション用の地図画像のドライバによる認識性を確保する。
【0032】
次に、地図画像と赤外画像とを重ね合わせて表示する上で行わなければならない赤外線カメラ3と地図画像の表示基準との調整方法について、自車両が走行している道路が1車線の自動車専用道路である場合と、複数車線の自動車専用道路である場合とに分けて説明する。
【0033】
<走行路が1車線の道路である場合>
まず、自車両が走行する道路が、基本的には人間が走行路上に存在することがない1車線の自動車専用道路であり、地図画像に、赤外画像のうち前方障害物としての車両の部分画像だけを重ね合わせて表示する場合について説明する。この場合における表示態様としては、自車両と同じ車線を走行する前方車両の赤外画像を、その走行中の道路の走行レーンの中央を基準として表示すると良い。
【0034】
より具体的な動作として、表示制御装置1は、自車両が走行中の走行レーンの略中央に位置するように、図8(b)に例示するような地図画像を、現在位置の変化に応じて地図画像を次第にスクロールしながら、表示装置9Aまたは9Bに表示する。その際、前方に先行する車両が存在する場合には、赤外線カメラ3の赤外画像のうち当該車両の部分画像だけを、当該走行レーンの略中央に位置するように重ね合わせ、図8(d)に例示するような表示態様の画像を表示する。
【0035】
ここで、赤外画像(道路及びその近傍の部分画像)のずらし量は、前方障害物センサ4によって検出した前方車両の自車両に対する相対位置、オフセット量B、そして赤外画像及び地図画像のそれぞれの縮尺に基づいて設定する。例えば、両画像とも縮尺が1/2で、前方車両が自車両の中央軸から左にA(m)ずれた位置に存在し、上記の如く赤外線カメラ3のオフセット量が右にB(m)である場合、赤外画像のずらし量は、右方向に、(A−B)×1/2(m)である。
【0036】
尚、縮尺1/nとは、自車両の前方に存在する障害物に対するドライバの眼の横方向(水平方向)の視野角と、表示装置9Aに表示されている障害物に対するドライバの眼の横方向(水平方向)の視野角との比を表わし、予め実験により求めた値である。
【0037】
そして、表示制御装置1は、設定された縮尺で地図画像を表示するに際して、その縮尺に応じて赤外画像全体を拡大または縮小(両画像の縮尺が同じ場合はそのまま)すると共に、上記の如く算出したずらし量だけ横方向にずらし、その赤外画像の中から道路及びその近傍の部分画像を抽出し、その部分画像を、地図画像上に重ねて表示する。これにより、地図画像に前方車両の部分画像をそのまま重ね合わせた場合には図8(c)のような表示画面となるところ、図8(d)の如くドライバの運転席からの視界に応じた表示画面とすることができる。
【0038】
尚、赤外線カメラ2の画角と、前方障害物センサ4の検出範囲との対応関係は、図15及び図16を参照して後述するように、予めメモリに記憶しておくことにより、前方車両(障害物)に相当する部分画像の特定は、前方障害物センサ4の検出結果(自車両に対する距離及び位置)と、当該対応関係とに基づいて、赤外画像全体の中から検出することによって関連付けすることができる。また、輻射熱源としての一般的な車両の温度特性を予めメモリに記憶しておき、赤外画像内に含まれる前方車両(障害物)を特定する際に参照しても良い。
【0039】
<走行路が複数車線の道路である場合>
次に、自車両が走行する道路が、基本的には人間が走行路上に存在することがない複数車線の自動車専用道路であり、地図画像に、赤外画像の全体を重ね合わせて表示する場合について説明する。この場合における表示態様としては、検出した現在位置に基づいて地図情報を参照することにより、自車両が走行している車線を複数車線の中から検出し、自車両と同じ車線を走行する前方車両の赤外画像を、検出した車線の中央を基準として、走行路が1車線の道路である図6(d)と同様な表示を行うと良い。
【0040】
より具体的な動作として、赤外画像のずらし量は、オフセット量B、そして赤外画像及び地図画像のそれぞれの縮尺に基づいて設定する。例えば、両画像とも縮尺が1/2で、上記の如く赤外線カメラ3のオフセット量が右にB(m)である場合、赤外画像のずらし量は、左方向に、B×1/2(m)である。
【0041】
そして、表示制御装置1は、設定された縮尺で地図画像を表示するに際して、その縮尺に応じて赤外画像全体を拡大または縮小(両画像の縮尺が同じ場合はそのまま)すると共に、上記の如く算出したずらし量だけ赤外画像を横方向にずらし、地図画像上に重ねて表示する(尚、上記の複数車線の場合においても、1車線の場合と同様に道路及びその近傍の部分画像だけを地図画像に重ね合わせても良い)。
【0042】
尚、上述した1車線及び複数車線の何れの場合においても、自車両が走行レーンの中央から大きくずれている場合には、上記の如く赤外画像(またはその部分画像)をずらした上で、自車両が実際に存在する位置に重ね合わせて表示すると、表示画面とドライバの実際の視界とのずれが大きく、違和感を生じることが予想される。
【0043】
そこで、走行レーンに対する自車両の横位置(ずれ量)を検出し、検出した横位置が当該走行レーンの中央から所定量を越えて離れていると判定したときには、そのずれ量の分だけ、地図画像上に表示する障害物(前方車両)の表示位置をずらす、或いは、地図画像をずらすと良い。例えば、検出した横位置が右方向に1mであるときは、障害物の表示位置を、(1×縮尺)mだけ右方向にずらす、或いは、表示画面の略中央に、走行レーンの中央から右方向に(1×縮尺)mだけ偏ったラインが表示されるようにすれば良い。
【0044】
尚、走行レーンに対する横位置の検出方法は、現在では一般的であるため、説明は省略する。
【0045】
<表示制御処理>
次に、上述した1車線または複数車線の場合における表示態様を実現すべく表示制御装置1が行う表示制御処理の手順について説明する。
【0046】
図2は、第1の実施形態における表示制御装置1による表示制御処理を示すフローチャートである。
【0047】
同図において、ステップS1:路車間通信機11の受信データの入力、各種センサの検出結果や各種操作スイッチの操作状態を入力する。
【0048】
ステップS2,ステップS3:ライトスイッチ2の操作状態を検出し(ステップS2)、当該スイッチがオン状態に操作されているときには、ステップS3において、第1表示器である表示装置9Aに、上述した表示態様の如く、ナビゲーション機能による地図画像と、赤外画像の部分画像とを重ね合わせて表示する。一方、当該スイッチがオフ状態に操作されているときには、ステップS4に進む。尚、ステップS2の処理については、図3を参照して後述する。
【0049】
ステップS4:ナビゲーションメインスイッチ6の操作状態を検出し、当該スイッチの操作状態に応じて、オン状態に操作されているときにはステップS5に進み、オフ状態に操作されているときにはリターンする。
【0050】
ステップS5:GPSセンサ5によって検出された現在位置情報に基づいて、現在位置近傍の地図画像情報を地図データベース10から読み出し、その地図画像情報に応じた地図画像を、第2表示器である表示装置9Bに表示すると共に、その地図画像上に、現在位置を表わすシンボルを表示する。
【0051】
ステップS6:目的地設定スイッチ8の操作状態を検出することにより、ドライバによって目的地が設定され、その目的地への経路誘導が行われているかを判断し、この判断で経路誘導中のときにはステップS7に進み、そうでないときにはリターンする。
【0052】
ステップS7:設定されている目的地への経路誘導において、車線変更や右左折すべき地点までの距離が所定距離より短く、ガイダンス表示すべきタイミングであるかを判断し、この判断でガイダンス表示が必要なときにはステップS8に進み、そうでないときにはリターンする。
【0053】
ステップS8〜ステップS10:ライトスイッチ2がオン状態に操作され、表示装置9Aに地図画像と赤外画像とが重ね合わされて表示されている状態かを判断し(ステップS8)、この判断でYES(当該スイッチ:オン)のときには、表示装置9Aに表示中の画面(地図画像と赤外画像とが重ね合わされた表示画面)に進路ガイダンス用の矢印を更に重ね合わせて表示し(ステップS9)、NO(当該スイッチ:オフ)のときには、表示装置9Aに前方の道路を表わす地図画像を表示し、その地図画像に進路ガイダンス用の矢印を表示する(ステップS10)。尚、ステップS8の処理については、図3を参照して後述する。
【0054】
図3は、図2に示す表示制御処理のフローチャートのうち、ステップS3及びステップS9の詳細を示すフローチャートである。
【0055】
同図において、ステップS51:路車間通信機11からの受信データにより、自車両が走行している車線の位置情報を取得しているかを判断し、当該情報を取得しているときにはステップS52に進み、取得していないときにはステップS53に進む。
【0056】
ステップS52:路車間通信機11から受信した自車両が走行している車線の位置情報(車線形状に関する情報)を利用して、赤外画像内における自車両の走行車線領域に相当する部分画像を求める。
【0057】
具体的には、まず、路車間通信機11から受信した車線の位置情報と赤外画像との関連付けを行う。図13は、路車間通信機11から得られる車線情報として複数のノードデータ(ポイントデータ)の集まりを示す図である。図14は、各ノードデータを透視変換して赤外画像内に取り込んだ状態を示す図である。
【0058】
図13の座標中心は自車両位置であり、横軸は自車両の進行方向に直角の方向、縦軸は自車両の進行方向である。図13に示すように、路車間通信機11から得られる車線情報は、自車両周囲の道路に設けられた送受信設備から得られる位置情報の集まりであり、地図情報と同様に複数のノードデータ(ポイントデータ)m1〜m5、n1〜n5の集まりとなる。
【0059】
従って、図14に示すように、各ノードデータm1〜m5、n1〜n5を現在の自車両位置における赤外画像に対して透視変換を行って画像内に取り込み、その後画像上で各ノードデータを直線で結ぶか、2次曲線で近似することにより、路車間通信機11から得られる車線情報(道路端や車線区分線R1)を赤外画像に関連付けることができるので、当該赤外画像の全体領域における各ノードデータに基づいて求めた車線を表わす2本の軌跡(直線や曲線)に囲まれた部分を、走行車線領域の部分画像として特定することができる。
【0060】
尚、走行車線の位置は、自車両に搭載した磁気ネイルセンサにより、予め道路に車線の幅方向に沿って埋設された複数個の磁気ネイルからの磁気を検出し、その磁気の変化に基づいて特定しても良い。
【0061】
ステップS53,ステップS54:ステップS51の判断で走行中の車線の位置情報を受信できなかったので、他の方法で求める必要がある。そこで、舵角センサ12によって検出された操舵角と、不図示の車速センサによって検出された自車速とに基づいて、自車両の進行方向を算出する(ステップS53)と共に、算出した進行方向に沿って車幅方向に所定幅(例えば3メートル)の進行路(自車両がこれから進行するであろう予測経路)を算出する(ステップS54)。
【0062】
ここで、上記操舵角及び車速による進行路の推定は、例えば、特開平10−100820号公報に記載された公知の手法を用いて推定され、操舵角と車速から円弧式を用いて所定間隔ごと(例えば、10m間隔)に自車両に対する位置情報を演算する。
【0063】
ステップS55:当該赤外画像の全体領域の中から、ステップS54にて算出した進行路に対応する部分画像の領域を特定し、その部分画像を走行車線領域とする。即ち、ステップS54にて算出した複数の位置情報を、ステップS52にて上述した路車間通信機11の車線情報と赤外画像との関連付けにおけるノードデータと同様に透視変換して赤外画像内に取り込む。
【0064】
ステップS56:赤外画像内に含まれる熱源が、ステップS52またはステップS55にて求めた走行車線領域に対応する部分画像領域の内部に存在するかを判断し、この判断でNOのとき(存在しないとき)にはステップS58に進み、YESのとき(存在するとき)にはステップS57に進む。
【0065】
ステップS57:赤外画像内に、ステップS52またはステップS55にて求めた走行車線領域に対応する部分画像領域からはみ出した熱源が存在する(例えば図10(a)に示す状態)かを判断し、この判断でNOのとき(存在しないとき)にはステップS58に進み、YESのとき(存在するとき)にはステップS59に進む。
【0066】
ステップS58:ステップS56及びステップS57の判断の結果、走行車線領域に対応する部分画像領域の外側には熱源(障害物)が存在しないと判断されたので、本ステップでは、赤外画像の中から、ステップS52またはステップS55にて求めた走行車線領域に対応する部分画像領域を抽出する。
【0067】
ステップS59:ステップS56及びステップS57の判断の結果、走行車線領域に対応する部分画像領域からはみ出した状態の熱源(障害物)が存在すると判断されたので、本ステップでは、赤外画像から走行車線領域の部分画像と、障害物である熱源の部分画像とを抽出することにより、走行車線領域に対応する部分画像領域だけを抽出した場合には例えば図10(b)に示す状態となるところ、後述するステップS60にて得られる表示画像を、図10(c)のように障害物の全体形状が表示されるようにすることができる。より具体的には、赤外画像の全体領域の中から、最も高輝度(輻射熱源に相当)の部分を含む所定範囲内の部分画像を、一般的なフィルタ処理等の画像処理によって抽出すれば良い。また、高輝度部分に対して所定範囲を設定する際には、その高輝度部分が自車両から遠方に位置する(即ち、当該赤外画像の画角の左右の端または上部に位置する)ほど、小さな大きさに設定すると良い。
【0068】
ステップS60:上記のステップS51乃至ステップS59の処理が図2のステップS3(経路誘導を行っていない)の場合には、ステップS58またはステップS59にて抽出した部分画像と、GPSセンサ5によって検出した現在位置や地図データベース10の地図情報等に基づいて求めた地図画像とを重ね合わせた状態で表示する。一方、上記のステップS51乃至ステップS59の処理が図2のステップS9(経路誘導を行っている)の場合には、部分画像及び地図画像に加え、更に進路ガイダンス用の所定のシンボル(矢印等)を重ね合わせた状態で表示する。
【0069】
上述した本実施形態によれば、赤外画像の全体領域の中から、ドライバにとって比較的必要性の低い走行車線領域の外部の部分画像がカットされた状態(当該走行車線領域からはみ出す障害物が存在する場合はその障害物の画像を含む)で地図画像との重ね合わせ表示が行われるので、視認性の良くない走行環境における前方障害物の認識と、ナビゲーション用の地図画像の認識(経路誘導用の矢印等のガイダンス表示を含む)とをドライバが容易に行うことができ、ドライバの運転操作を効率的に支援することができる。
【0070】
また、図2に示す表示制御処理との組み合わせにより、2つの表示器が適切に使い分けられるので、ドライバが運転操作に伴って積極的に必要としない状況において、地図画像や赤外画像が視界の中央よりの表示装置9Aにおいて表示されることによるドライバの違和感(煩わしさ)を防止することができる。
【0071】
[第2の実施形態]
次に、上述した第1の実施形態に係る車両用表示装置を基本とする第2の実施形態を説明する。以下の説明においては、第1の実施形態と同様な構成については重複する説明を省略し、本実施形態における特徴的な部分を中心に説明する。
【0072】
上述した図2の表示制御処理では、赤外画像の表示条件(ライトスイッチ2がオン)が成立したときには、常に、地図画像と赤外画像(またはその部分画像)とを重ね合わせて表示したが、係る表示画面は、地図画像に赤外画像全体を重ね合わせる場合、表示画面内における物体の輪郭線が重複する等、鮮明さに欠け、ドライバの視覚に負担を与えることも予想される。
【0073】
そこで、本実施形態では、係る表示条件が成立した場合であっても、障害物が検出されていないときには、現在位置に応じた地図画像の表示だけを行い、障害物が検出されたときにだけ、第1の実施形態と同様に、地図画像と赤外画像とを重ね合わせて表示する。
【0074】
尚、本実施形態においても、上述した1車線または複数車線の場合における赤外画像のずらし量の算出方法は同様であり、重複する説明は省略する。
【0075】
図4は、第2の実施形態における表示制御装置1による表示制御処理を示すフローチャートである。
【0076】
同図において、第1の実施形態における図2のフローチャートと異なるのは、ステップS12におけるライトスイッチ2の操作状態の判断において当該スイッチがオンである場合には、まず、ステップS13において、第1表示器である表示装置9Aに現在位置に応じた地図画像を表示する。そして、ステップS14において赤外線カメラ3による赤外画像の中に、前方車両を表わす熱源が含まれるかを判断し、この判断で前方車両が検出された場合にだけ、ステップS15において地図画像と赤外画像(またはその部分画像)とを重ね合わせて表示する。
【0077】
ステップS16以降の各ステップの処理は、図2のステップS4以降の各ステップの処理と同様であり、ステップS15及びステップS21では、第1の実施形態におけるステップS3及びステップS9と同様に、図3のフローチャートの各ステップが実行される。
【0078】
このような本実施形態によれば、第1の実施形態と同様に前方に存在する障害物の種類や大きさ及び存在位置(走行路との関係)の認知性を向上させることができ、ドライバの運転操作を効率的に支援することができるのに加え、障害物が存在しない場合には、地図画像だけが表示され、地図画像と赤外画像とが重ね合わされた表示画面の表示機会を減らすことができるので、ドライバの視覚に対する負担を軽減することができる。
【0079】
[第3の実施形態]
次に、上述した第2の実施形態に係る車両用表示装置を基本とする第3の実施形態を説明する。以下の説明においては、第2の実施形態と同様な構成については重複する説明を省略し、本実施形態における特徴的な部分を中心に説明する。
【0080】
本実施形態では、障害物が検出されていないときには、現在位置に応じた地図画像の表示だけを行い、障害物が検出されたときにだけ、第1の実施形態と同様に、地図画像と赤外画像とを重ね合わせて表示すると共に、表示画面内に表示する障害物として、走行車線領域から外れた領域に障害物に相当する熱源が含まれる場合には、その熱源が当該走行車線領域に接近する速度が所定速度より速いときには当該熱源の部分画像も表示画面に併せて表示する。
【0081】
従って、表示制御処理の全体構成は、第2の実施形態で説明した図4のフローチャートと同様であり、第2の実施形態とは、ステップS15において以下に説明する図5に示すフローチャートの処理を行う点が異なる。
【0082】
図5は、図2に示す表示制御処理のフローチャートのうち、ステップS15の詳細を示すフローチャートである。
【0083】
同図に示す構成において、ステップS61乃至ステップS67、ステップS69乃至ステップS71に示す各ステップは、図3のステップS51乃至ステップS60の各ステップと略同じであるが、本実施形態では、ステップS66の判断においてNOのとき(検出した走行車線領域の部分画像内に熱源が存在しないとき)には赤外画像から走行車線領域の部分画像を抽出するステップS69に直接進むのではなく、ステップS68において走行車線領域外の熱源(障害物)が、当該走行車線領域に所定速度より速い速度で接近しているかを判断し、この判断でYESのとき(所定速度より速い速度で接近する障害物があるとき)にはステップS70に進み、NOのとき(所定速度より速い速度で接近する障害物はないとき)にはステップS69に進む点が異なる。
【0084】
ここで、ステップS68の判断においては、走行車線領域外の熱源のうち、表示すべき熱源(障害物)を正確に特定すべく前方障害物センサ4による検出結果を利用するが、その場合、赤外画像の画角と、当該センサの検出範囲とを予め関連付けしておく必要が有る。そこで、関連付けの方法について以下に説明する。
【0085】
次に、ステップ7の障害物センサの検出信号と赤外画像とを関連づけて障害物の位置を検出する具体的方法について説明する。
【0086】
図15は、赤外光カメラにより撮影された赤外画像の表示例を示す図である。図16は、前方障害物センサ4の検出範囲を上から見た様子を示す図であり、その検出範囲内に、図15に例示した赤外線カメラ3による撮影画像に対応するところの、障害物A(先行する他車両)と障害物B(歩行者)とが含まれる場合を示している。
【0087】
本実施形態において、前方障害物センサ4による障害物A及び障害物Bの検出結果は、自車両と障害物Aとの距離Da及び中心軸とのなす角度θa(≒0)、並びに自車両と障害物Bとの距離Db及び中心軸との角度θbとして得られる。
【0088】
従って、前方障害物センサ4の検出範囲における中心軸と、赤外線カメラ3の撮像面(画角)の座標軸との位置関係を予め対応(一致)させておけば、前方障害物センサ4から出力される障害物までの距離D(Da,Db)及び角度θを、当該撮像面において、図15に示すように、距離Dは当該撮像面の下辺からのライン数(画素数)としてカウントし、角度θ(θa,θb)は、当該撮像面の左右の中心線からの画素数としてカウントすることにより、そのカウントによって特定される当該撮像面内の位置(画素)を含む輻射熱源は、前方障害物センサ4によって検出された障害物の全体形状に相当すると判断できる。従って、このような処理をステップS68において行えば、赤外線カメラ3の撮影画像に含まれる障害物と、その障害物までの距離Dとを関連付けて、表示制御装置1に認識させることができる。
【0089】
ステップS68では、注目すべき障害物と赤外画像内の熱源との関連付けを上記の如く行った後、その障害物の単位時間当たりの移動量及び移動方向に基づいて、当該障害物が走行車線領域に所定速度より速い速度で接近しているかを判断している。
【0090】
このような本実施形態によれば、第2の実施形態と同様な効果に加え、走行中の道路及びその近傍から外れた場所に存在する障害物であっても、自車両に接近する障害物は表示されるので、ドライバは、その障害物に対する迅速且つ的確な運転操作を行うことができる。
【0091】
[第4の実施形態]
次に、上述した第1または第2の実施形態に係る車両用表示装置を基本とする第4の実施形態を説明する。以下の説明においては、第1及び第2の実施形態と同様な構成については重複する説明を省略し、本実施形態における特徴的な部分を中心に説明する。
【0092】
本実施形態では、上述した各実施形態とは異なる表示態様の重ね合わせ表示画面により、上述した各実施形態と同様に、視認性の良くない走行環境における前方障害物の認識と、ナビゲーション用の地図画像の認識(経路誘導用の矢印等のガイダンス表示を含む)とをドライバが容易に行うことができる車両用表示装置について説明する。
【0093】
本実施形態において、表示制御処理の全体構成は、第1及び第2の実施形態で説明した図2及び図4のフローチャートと同様であり、これらの各実施形態とは、経路誘導中の図2のステップS9、図4のステップS21において、以下に説明する図6に示すフローチャートの処理を行う点が異なる。
【0094】
図6は、図2または図4に示す表示制御処理のフローチャートのうち、ステップS9(図2)、ステップS21(図4)の詳細を示すフローチャートである。
【0095】
図6において、ステップS81:表示すべき経路誘導用のガイダンス表示の内容が右左折または分岐路の少なくとも一方であるかを判断し、この判断でYESのとき(当該ガイダンスの内容が右左折または分岐路の何れかの方向を示すとき)にはステップS89に進み、NOのとき(当該ガイダンスの内容が直進を示すとき)にはステップS82に進む。
【0096】
ステップS82〜ステップS86:第1の実施形態にて上述したステップS51乃至ステップS55(図3)と同様な処理を行うことにより、赤外画像内の、自車両が走行している車線に相当する走行車線領域を特定する。
【0097】
ステップS87,ステップS88:赤外画像の中から、ステップS83またはステップS86にて求めた走行車線領域に対応する部分画像領域を抽出し(ステップS87)、抽出した部分画像と、GPSセンサ5によって検出した現在位置や地図データベース10の地図情報等に基づいて求めた地図画像、並びに進路ガイダンス用の所定のシンボル(矢印等)を重ね合わせた状態で表示する。
【0098】
ステップS89:表示すべき経路誘導用のガイダンス表示の対象となる右左折地点または分岐路地点の赤外画像内における位置を求める。
【0099】
ステップS90:ステップS89にて求めた位置を基準として、表示すべき経路誘導用のガイダンス表示の内容が右左折の場合は、赤外画像における右左折地点より上(遠方に相当)の部分をカットし、当該ガイダンス表示の内容が分岐路の場合は、赤外画像内の分岐路地点から遠方方向であって自車両の進行路とは異なる方向の部分をカットする。
【0100】
ステップS91:ステップS90にて求めた部分画像(残りの部分)と、GPSセンサ5によって検出した現在位置や地図データベース10の地図情報等に基づいて求めた地図画像、並びに進路ガイダンス用の所定のシンボル(矢印等)を重ね合わせた状態で表示する。
【0101】
このような処理を行う本実施形態によれば、図11(a)に例示するような赤外画像と、右折を指示する経路誘導用のガイダンス表示を含む図11(b)に例示するような地図画像とを重ね合わせるに際して、そのままの状態で重ね合わせると図11(c)の如くガイダンス表示が見難くなるところ、ステップS90の処理により、右折地点より遠方の画像がカットされるので、ステップS91にて表示される画面は、図11(d)の如く右折する旨のガイダンス表示がドライバにとって見易い表示態様となるので、ドライバの運転操作を効率的に支援することができる。
【0102】
[第5の実施形態]
次に、上述した第1または第2の実施形態、並びに第4の実施形態に係る車両用表示装置を基本とする第5の実施形態を説明する。以下の説明においては、第1、第2、並びに図4の実施形態と同様な構成については重複する説明を省略し、本実施形態における特徴的な部分を中心に説明する。
【0103】
本実施形態では、上述した各実施形態とは異なる表示態様の重ね合わせ表示画面により、上述した各実施形態と同様に、視認性の良くない走行環境における前方障害物の認識と、ナビゲーション用の地図画像の認識(経路誘導用の矢印等のガイダンス表示を含む)とをドライバが容易に行うことができる車両用表示装置について説明する。
【0104】
本実施形態において、表示制御処理の全体構成は、第1及び第2の実施形態で説明した図2及び図4のフローチャートと同様であり、これらの各実施形態とは、経路誘導中の図2のステップS9、図4のステップS21において、以下に説明する図7に示すフローチャートの処理を行う点が異なる。
【0105】
図7は、図2または図4に示す表示制御処理のフローチャートのうち、ステップS9(図2)、ステップS21(図4)の詳細を示すフローチャートである。
【0106】
図7において、ステップS101:舵角センサ12によって検出した操舵角が所定値より大きいかを判断し、この判断でYES(操舵角が所定値以上)のときにはステップS109に進み、NO(操舵角が所定値より小さい)のときにはステップS102に進む。
【0107】
ステップS102〜ステップS108:第4の実施形態のステップS82乃至ステップS88(図6)と同様な処理を行うことにより、抽出した部分画像と、GPSセンサ5によって検出した現在位置や地図データベース10の地図情報等に基づいて求めた地図画像、並びに進路ガイダンス用の所定のシンボル(矢印等)を重ね合わせた状態で表示する。
【0108】
ステップS109:赤外画像内において、当該画像の左右中心として、旋回方向(操舵角度が検出されている方向)とは反対方向の部分をカットする。このとき、カットする領域は、舵角や車速が大きいほど大きな領域とし、画面の端から優先的にカットすると良い。
【0109】
ステップS110:ステップS109にて求めた部分画像(残りの部分)と、GPSセンサ5によって検出した現在位置や地図データベース10の地図情報等に基づいて求めた地図画像、並びに進路ガイダンス用の所定のシンボル(矢印等)を重ね合わせた状態で表示する。
【0110】
このような処理を行う本実施形態によれば、図12(a)に例示するような赤外画像から走行車線領域及びその走行車線領域からはみ出している熱源(障害物)を含む図12(b)に例示するような部分画像を、地図画像とを重ね合わせるに際して(ここでは、右左折等のガイダンス表示が行われていないタイミングであるとする)、そのままの状態で重ね合わせると、自車両の旋回方向とは反対方向の部分に位置する障害物まで表示され地図画像が見難くなるところ、ステップS109の処理により、係る反対方向の部分の画像がカットされるので、ステップS110にて表示される画面は、図12(c)の如く右折する旨のガイダンス表示がドライバにとって見易い表示態様となるので、ドライバの運転操作を効率的に支援することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態における表示装置のシステム構成を示すブロック構成図である。
【図2】第1の実施形態における表示制御装置1による表示制御処理を示すフローチャートである。
【図3】図2に示す表示制御処理のフローチャートのうち、ステップS3及びステップS9の詳細を示すフローチャートである。
【図4】第2の実施形態における表示制御装置1による表示制御処理を示すフローチャートである。
【図5】第3の実施形態としての図2に示す表示制御処理のフローチャートのうち、ステップS15の詳細を示すフローチャートである。
【図6】第4の実施形態としての図2または図4に示す表示制御処理のフローチャートのうち、ステップS9(図2)、ステップS21(図4)の詳細を示すフローチャートである。
【図7】第5の実施形態としての図2または図4に示す表示制御処理のフローチャートのうち、ステップS9(図2)、ステップS21(図4)の詳細を示すフローチャートである。
【図8】表示装置への地図画像等の表示例を示す図である。
【図9】第1の実施形態における重ね合わせ表示の基本的な表示態様を説明する図である。
【図10】第1の実施形態における重ね合わせ表示において表示すべき熱源が走行車線領域からはみ出して存在する場合の表示態様を説明する図である。
【図11】第4の実施形態における重ね合わせ表示の基本的な表示態様を説明する図である。
【図12】第5の実施形態における重ね合わせ表示の基本的な表示態様を説明する図である。
【図13】路車間通信機から得られる車線情報として複数のノードデータの集まりを示す図である。
【図14】各ノードデータを透視変換して赤外画像内に取り込んだ状態を示す図である。
【図15】赤外線カメラ3により撮影された赤外画像の画角と、所定の座標系との対応関係を示す図である。
【図16】前方障害物センサ4の検出範囲を上から見た様子を示す図である。
【符号の説明】
1:表示制御装置,
2:ライトスイッチ,
3:赤外線カメラ,
4:前方障害物センサ,
5:GPSセンサ,
6:ナビゲーションメインスイッチ,
7:地図スクロールスイッチ,
8:目的地設定スイッチ,
9A,9B:表示装置,
10:地図データベース,
11:路車間通信機,
12:舵角センサ,

Claims (3)

  1. 車両に設けられ、その車両前方を赤外線を利用して撮像する撮像装置と、地図画像情報に基づいて生成した立体的な地図画像と前記撮像装置によって撮像された赤外画像とを、表示画面上で重ね合わせた表示態様で、前記車両に設けられた表示器に表示する表示制御手段とを備える車両用表示装置であって、
    前記表示制御手段は、
    前記赤外画像のうち、前記車両が走行する道路及びその近傍に対応する部分画像領域と、前記地図画像とを、表示画面上で重ね合わせて表示し、
    前記赤外画像の全体領域内の前記部分画像領域から外れた領域に障害物に相当する輻射熱源が含まれる場合であって、その輻射熱源の前記車両の走行車線に対する接近速度が所定速度より速いときに、該輻射熱源の画像も前記表示画面に併せて表示する
    ことを特徴とする車両用表示装置。
  2. 前記表示制御手段は、前記赤外画像に含まれる前記輻射熱源の熱量が所定値より大きいときに、前記輻射熱源を障害物と特定する
    ことを特徴とする請求項記載の車両用表示装置。
  3. 車両に設けられ、その車両前方を赤外線を利用して撮像する撮像装置と、設定された所望の目的地への経路誘導を行う経路誘導手段と、地図画像情報に基づいて生成した立体的な地図画像と前記撮像装置によって撮像された赤外画像とを、表示画面上で重ね合わせた表示態様で、前記車両に設けられた表示器に表示する表示制御手段とを備える車両用表示装置であって、
    前記表示制御手段は、前記経路誘導手段によって算出された経路誘導路情報に従って前記車両が走行する道路前方に存在する分岐路にて進路変更を行う方向を推定したときに、前記赤外画像のうち、前記車両の位置を基準として該分岐路から遠方に対応する部分画像領域については、該進路変更を行う方向に延びる画像領域だけを、表示画面上で前記地図画像に重ね合わせて表示する
    ことを特徴とする車両用表示装置。
JP2000236087A 2000-08-03 2000-08-03 車両用表示装置 Expired - Fee Related JP3883033B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000236087A JP3883033B2 (ja) 2000-08-03 2000-08-03 車両用表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000236087A JP3883033B2 (ja) 2000-08-03 2000-08-03 車両用表示装置

Publications (2)

Publication Number Publication Date
JP2002046504A JP2002046504A (ja) 2002-02-12
JP3883033B2 true JP3883033B2 (ja) 2007-02-21

Family

ID=18728198

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000236087A Expired - Fee Related JP3883033B2 (ja) 2000-08-03 2000-08-03 車両用表示装置

Country Status (1)

Country Link
JP (1) JP3883033B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004023472A (ja) * 2002-06-17 2004-01-22 Denso Corp 車両前方暗視システム
US7356408B2 (en) 2003-10-17 2008-04-08 Fuji Jukogyo Kabushiki Kaisha Information display apparatus and information display method
EP1779295A4 (en) * 2004-07-26 2012-07-04 Automotive Systems Lab SYSTEM FOR PROTECTING USERS OF THE ROAD IN A DANGER SITUATION
DE102004048347A1 (de) * 2004-10-01 2006-04-20 Daimlerchrysler Ag Fahrassistenzvorrichtung zur gegenüber dem Sichtfeld des Fahrers eines Kraftfahrzeugs positionsrichtigen Darstellung des weiteren Straßenverlaufs auf einem Fahrzeugdisplay
EP1894779B1 (en) * 2006-09-01 2009-11-25 Harman Becker Automotive Systems GmbH Method of operating a night-view system in a vehicle and corresponding night-view system
JP4984974B2 (ja) 2007-03-02 2012-07-25 富士通株式会社 運転支援システム及び車載装置
JP5287827B2 (ja) * 2010-10-22 2013-09-11 株式会社デンソー 表示制御装置及び車載表示システム
DE102011115739A1 (de) * 2011-10-11 2013-04-11 Daimler Ag Verfahren zur Integration von virtuellen Objekten in Fahrzeuganzeigen
KR102451823B1 (ko) * 2015-10-30 2022-10-07 현대오토에버 주식회사 헤드업 디스플레이용 시야 거리 확보를 위한 도로 형상 표시 방법
JP6984997B2 (ja) * 2016-03-31 2021-12-22 倉敷紡績株式会社 画像配置方法及び画像配置用コンピュータプログラム

Also Published As

Publication number Publication date
JP2002046504A (ja) 2002-02-12

Similar Documents

Publication Publication Date Title
US10082670B2 (en) Display device for vehicle
US10436600B2 (en) Vehicle image display system and method
US10293690B2 (en) Vehicle information projecting system and vehicle information projecting method
JP7052786B2 (ja) 表示制御装置および表示制御プログラム
US9443429B2 (en) Optimum gaze location on full windscreen display
JP4749958B2 (ja) 運転支援装置
US20120044090A1 (en) Motor vehicle with digital projectors
JP5654269B2 (ja) 車両用ディスプレイ装置及び車両用ディスプレイの表示方法
WO2006006689A1 (en) Display system, vehicle, display method, display program and storage medium thereof
US20230135641A1 (en) Superimposed image display device
CN103171439A (zh) 自动驾驶系统的行为预测
JP7002246B2 (ja) 車両用表示方法及び車両用表示装置
JP7476568B2 (ja) 重畳画像表示装置、重畳画像描画方法及びコンピュータプログラム
US20190196184A1 (en) Display system
JP7019239B2 (ja) 車両用表示方法及び車両用表示装置
JP7331450B2 (ja) 車両の走行制御方法及び走行制御装置
JP3883033B2 (ja) 車両用表示装置
US9423267B2 (en) Navigation device and display control method
JP3870409B2 (ja) 車両用表示装置
JP2010012904A (ja) 運転支援装置
JP2021149319A (ja) 表示制御装置、表示制御方法およびプログラム
US8681219B2 (en) System and method for driving assistance at road intersections
JP3877127B2 (ja) 車両用表示装置
JP2001101596A (ja) 車両の表示装置
JP7571484B2 (ja) 重畳画像表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040917

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20040917

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20040917

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060418

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060526

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20061027

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061109

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091124

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101124

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111124

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111124

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121124

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121124

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131124

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees