JP4006272B2 - 運転支援装置 - Google Patents

運転支援装置 Download PDF

Info

Publication number
JP4006272B2
JP4006272B2 JP2002169078A JP2002169078A JP4006272B2 JP 4006272 B2 JP4006272 B2 JP 4006272B2 JP 2002169078 A JP2002169078 A JP 2002169078A JP 2002169078 A JP2002169078 A JP 2002169078A JP 4006272 B2 JP4006272 B2 JP 4006272B2
Authority
JP
Japan
Prior art keywords
image
vehicle
predicted course
driving support
steering angle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2002169078A
Other languages
English (en)
Other versions
JP2004009959A5 (ja
JP2004009959A (ja
Inventor
篤 飯阪
崇 吉田
修作 岡本
雅通 中川
和史 水澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2002169078A priority Critical patent/JP4006272B2/ja
Publication of JP2004009959A publication Critical patent/JP2004009959A/ja
Publication of JP2004009959A5 publication Critical patent/JP2004009959A5/ja
Application granted granted Critical
Publication of JP4006272B2 publication Critical patent/JP4006272B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、運転支援装置に関し、より特定的は、車両後方の実画像と車両の操舵を支援するための予測進路画像とを同時にモニタに表示させることで、車両を後退させる運転操作を支援する装置に関する。
【0002】
【従来の技術】
従来、車両の後退時に運転者が後方を振り向かなくても車載されるモニタの画面に車両の後方視界を写し出すようにした運転支援装置が、特公平2−36417号公報、特開平10−175482号公報又は特開2000−272445号公報等で、様々に提案されている。
これらの公報に記載されている従来の運転支援装置は、概ねテレビカメラを用いて車両の後方を撮影し、またセンサ等の検出部を用いて車両前輪の操舵角を検出してその操舵角に応じた予測進路を算出し、その予測進路を所定のマーカーを用いて表現した画像(以下、マーカー画像という)をテレビカメラで撮影された実画像に重畳して画像表示部(モニタ)の画面に表示させることを行っている。このように、従来の運転支援装置では、カメラで撮影された車両後方の実画像と共に、その時の操舵角に基づく車両の予測進路がマーカーでモニタの画面に重畳表示されるので、現在の操舵角を保持したままの状態で車両を後退させると、車両が目標の場所(例えば駐車枠内)に収まるか否かの判断が可能になる。
【0003】
【発明が解決しようとする課題】
ところで、このような従来の運転支援装置には、広角カメラが一般に用いられる。この広角カメラで撮影された画像は、図11のように画像中心から離れるほど歪んで表現される。よって、これら従来の運転支援装置では、この画像の歪みに対応させたマーカー画像を生成して、モニタの画面に表示させる必要がある。
【0004】
しかし、上述した従来の運転支援装置では、地面上に仮想的に描いた予測進路を示すのみ、すなわち二次元的な車両の進行範囲を示すのみである。このため、地面上に描かれた予測進路だけでは、予測進路の近傍に駐車している他の車両が存在する場面等、地面から高い位置での自車両と他車両との距離感を運転者に正確に把握させることが困難である。
【0005】
それ故に、本発明の目的は、特徴的なマーカー画像を採用して車両の進行範囲を三次元的に表現することで、車両後退時に近接する他車両と自車両との距離感、特に地面から高い位置での距離感を、運転者に把握させ易くすることができる運転支援装置を提供することである。
【0006】
【課題を解決するための手段及び発明の効果】
本発明の局面は、車両を後退させる時に運転者が行う車両操作を支援する運転支援装置に向けられている。本発明は、車両の後方を撮影するカメラと、ハンドルの切れ角から車輪の操舵角を算出する操舵角演算部と、算出された操舵角から車両の予測進路を求め、当該予測進路に基づいた所定のマーカー画像を生成して、カメラで撮影された画像に当該マーカー画像を重畳させる画像処理部と、画像処理部で重畳された画像を画面に表示する画像表示部とを備え、画像処理部は、移動する車両の地面上の車幅軌跡として予測進路を求め、当該予測進路上に仮想ポールを立設したマーカー画像を生成し、画像処理部は、予測進路および前記仮想ポールを、カメラ座標系で表示可能なように座標変換して、カメラで撮影された画像の歪みに対応させて、予測進路及び前記仮想ポールを歪ませたマーカー画像を生成することを特徴とする。
【0007】
予測進路が、車両の後輪外側が移動する軌跡であることが好ましい。また、予測進路が、車両の車体後部端が移動する軌跡であることが好ましい。
【0008】
仮想ポールが、予測進路上を一定間隔で複数立設されることが好ましい。また、仮想ポールが、車両の転回外側の前記予測進路上だけに立設されることが好ましい。また、仮想ポールは、操舵角が所定の角度以上である場合にだけ、予測進路上に立設されることが好ましい。また、仮想ポールは、車両の車体後部端から所定の距離までの間で、予測進路上に立設されることが好ましい。
【0009】
画像処理部は、操舵角がゼロの場合とゼロ以外の場合とで、マーカー画像の色彩を異ならせることが好ましい。
【0010】
画像処理部は、操舵角がゼロの場合の予測進路に基づいた他のマーカー画像を生成して、前記カメラで撮影された画像に当該他のマーカー画像を重畳させた別の画像を新たに生成し、画像表示部は、操舵角に関係なく、別の画像を前記画像と同時に画面表示させることが好ましい。
【0012】
【発明の実施の形態】
以下、本発明を具体化した実施形態を図1〜図10を用いて説明する。
図1は、本発明の一実施形態に係る運転支援装置の構成を示すブロック図である。図1において、本実施形態の運転支援装置は、カメラ10と、ハンドル角度センサ20と、操舵角演算部30と、画像処理部40と、表示制御部50と、モニタ60とを備える。
【0013】
カメラ10は、所定の範囲の景色をカラーによって撮影可能である。ハンドル角度センサ20は、車両のハンドルの切れ角を検出する。操舵角演算部30は、ハンドル角度センサ20で検出された角度から、車両の車輪の操舵角を演算する。画像処理部40は、カメラ10で撮影された実画像と、操舵角演算部30で演算された車輪の操舵角とから、所定の運転支援用画像を生成する。表示制御部50は、画像処理部40で生成された運転支援用画像をモニタ60の画面に表示させる。モニタ60は、例えばカラータイプの液晶ディスプレイである。
【0014】
画像処理部40は、画像処理全体を司るCPU(中央処理装置)41と、CPU41の制御プログラムを記憶するプログラムメモリ42と、CPU41による画像処理作業に使用される作業メモリ43とで構成される。作業メモリ43は、画像記憶部44、視点変換マップデータ格納部45、運転支援データ生成部46、軌跡マップデータ格納部47及び画像合成部48の各機能ブロックからなる。
【0015】
視点変換マップデータ格納部45は、視点変換に用いられる所定の視点変換マップデータを格納する。視点変換とは、カメラ10の視点で撮影された画像を所望する他の視点位置から観た画像に変換することをいい、周知の技術である。また、視点変換マップデータは、視点変換とレンズの歪補正を含めた変換マップデータとしてもよい。画像記憶部44は、カメラ10で撮影された実画像を取り込み、視点変換マップデータ格納部45に格納された視点変換マップデータに従って、実画像に所定の視点変換を施して視点変換画像を生成する。軌跡マップデータ格納部47は、所定のマーカーが付加された軌跡マップデータを車輪の操舵角毎にそれぞれ格納する。運転支援データ生成部46は、操舵角演算部30で演算された車輪の操舵角に従って、対応する軌跡マップデータを軌跡マップデータ格納部47から取得する。そして、運転支援データ生成部46は、画像記憶部44で行った処理と同様に、視点変換マップデータ格納部45に格納された視点変換マップデータに従って、軌跡マップデータに所定の視点変換を施してマーカー画像を生成する。画像合成部48は、画像記憶部44で生成された視点変換画像と運転支援データ生成部46で生成されたマーカー画像とを合成して運転支援用画像を生成し、所定のタイミングで表示制御部50へ出力する。
【0016】
典型的には、プログラムメモリ42、視点変換マップデータ格納部45及び軌跡マップデータ格納部47は、読み出し専用メモリ(ROM)で構成され、画像記憶部44、運転支援データ生成部46及び画像合成部48は、読み出し/書き替え可能なメモリ(RAM)で構成される。
【0017】
図2は、図1に示す本実施形態の運転支援装置を車両1に搭載させた場合のイメージ図である。
図2に示すように、車両1には、その後方の周囲を撮影するカメラ10が後方上部に設置されている。また、カメラ10は、その撮影範囲(視界範囲)内に、車両後部バンパー3等の車両1の一部が写り込むように設置されている。車両1の運転席には、モニタ60が設けられている。車両1にナビゲーション装置が搭載されている場合、モニタ60は、ナビゲーション装置の表示部としても機能する。またこの場合、モニタ60は、通常はナビゲーション装置の表示部として使用され、運転席に設けられたシフトレバー5がバック走行位置に操作されると、カメラ10で撮影される画像が表示可能な状態に切り換えられるようになっている。同様に、画像処理部40は、シフトレバー5がバック走行位置に操作された場合だけ、上述した画像処理を所定の周期(例えば、33msec)で行う。なお、シフトレバー5がバック走行位置に操作されたか否かは、シフトレバー5の位置を検知するスイッチを別途設けて判断すれば容易である。
【0018】
操舵輪である前輪7a及び7bは、ハンドル8の操作によって操舵される。ハンドル角度センサ20は、ハンドル8に対して所定の位置に設けられ、運転者によって操作されたハンドル8の切れ角θを検出する。操舵角演算部30は、ハンドル角度センサ20で検出された切れ角θから、前輪7a及び7bの操舵角(タイヤ切れ角)βを演算する。この操舵角βは、切れ角θに所定の係数Kを掛けることで求められる(β=Kθ)。
【0019】
次に、軌跡マップデータ格納部47に予め格納される軌跡マップデータの作成方法について説明する。
まず、図3に示す世界座標系による地面上の軌跡データが設計される。図3において、車両1の車幅をWと、ホイールベース長をLと、後輪7c及び7dの中心間距離をTrとすると、リヤアクスル中央(後輪7cと後輪7dとの中点)Ovの転回半径Rmid 、リヤアクスル中心線Axと転回中心Oに対して車体外側(後輪7cの外側)との交点の転回半径Rout 、及びリヤアクスル中心線Axと転回中心Oに対して車体内側(後輪7dの内側)との交点の転回半径Rinは、操舵角βを含む次式(1)〜(3)でそれぞれ表される。
Figure 0004006272
【0020】
そして、世界座標系での軌跡データ、すなわち車両が後退する予測進路Gin及びGout は、中点Ovが転回半径Rmid の軌跡Gmid 上を0〜300cm後退する範囲において、後輪7c及び7dの移動位置が25cm間隔でそれぞれ13箇所計算されることで求められる。この予測進路Gin及びGout を、操舵角βが取り得る値の範囲(例えば、0度〜37度の左右方向)について、1度刻みで求める。なお、計算の範囲及び箇所数については、上記の例以外であってもよい。また、操舵角βを刻む単位は、1度以外であっても構わない。
【0021】
これにより、図4のような軌跡データが作成される。図4の例では、予測進路Gin及びGout をライン101及び102(カラー表示では共に青色)で、車両後部バンパー3の後端が1m、2m及び3m後退した時の位置を、それぞれライン103(同グレー色)、ライン104(同グレー色)及びライン105(同青色)で表現している。なお、車両後部バンパー3の後端が後退した時のラインは、任意の間隔及び色彩で設定することができる。また、ハンドルが直進状態の場合を分かり易くするために、直進状態時における軌跡データの色を変化させてもよい。例えば、車両後部バンパー3の後端が1m、2m及び3m後退した時の位置を、ライン103(同赤色)、ライン104(同緑色)及びライン105(同黄色)で表示する。
【0022】
次に、この作成された軌跡データの予測進路Gin及びGout 上に、図5のように所定の高さ(長さ)、間隔及び色彩のマーカーを描き、仮想ポールを表現する。図5の例では、予測進路Gin及びGout 上、すなわちライン101及びライン102上を50cmの一定間隔で、高さ100cmの複数の仮想ポール106(カラー表示では緑色)が表示されている。なお、この仮想ポール106は、任意の間隔、高さ及び色彩で設定することができる。また、仮想ポール106を、操舵角βが所定の角度(例えば5度)以上になった場合にだけ表示するようにしてもよい。また、仮想ポール106を、車両1からの距離が遠くなるほど高くなるように、段階的に表示するようにしてもよい。また、仮想ポール106を、転回外側となる予測進路Gout 上だけに表示するようにしてもよい。さらに、仮想ポール106は、予測進路Gin及びGout 上の全てに亘って表示する必要はなく、車両後部バンパー3の後端から所定の距離までだけについて表示するようにしてもよい。
【0023】
そして、上記世界座標系で設計された軌跡データ及びそれに付加された仮想ポールデータを、カメラ座標系で表示可能なように座標変換して軌跡マップデータを生成する。図6は、カメラ座標系に座標変換された軌跡マップデータをモニタ表示させた場合の画面例である。この変換のために用いられる視点変換マップデータには、レンズ歪補正が含まれていない。また、この場合の視点変換先である視点は、カメラ10のレンズ中心であり、光軸方向もカメラ10の光軸と一致させている。なお、カメラ10の車両1に取り付けられている位置及び撮影方向(光軸)は、予めキャリブレーションされているので既知である。
【0024】
最後に、本発明の一実施形態に係る運転支援装置の画像処理部40で行われる処理を、図7のフローチャートを参照して説明する。
車両1のシフトレバー5がバック走行位置に切り換えられた状態の場合、ハンドル角度センサ20で検出されたハンドル8の切れ角θに応じた操舵角βが、操舵角演算部30で演算される(ステップS71)。次に、運転支援データ生成部46において、操舵角βに対応する軌跡マップデータが、軌跡マップデータ格納部47から読み出される(ステップS72)。次に、運転支援データ生成部46において、必要な視点変換が行われてマーカー画像が生成される(ステップS73)。次に、カメラ10で撮影されかつ必要な視点変換が行われた視点変換画像が、画像記憶部44から画像合成部48に書き込まれたか否かが判断される(ステップS74)。この書き込みが完了すると、画像合成部48において、マーカー画像が視点変換画像に重畳されて表示制御部50へ出力される(ステップS75,S76)。以上の処理は、車両1のシフトレバー5がバック走行位置にある間、繰り返して行われる(ステップS77)。
【0025】
以上のように、本発明の一実施形態に係る運転支援装置によれば、特徴的なマーカー(仮想ポール106)画像を採用して車両の進行範囲を三次元的に表現する。これにより、車両後退時に近接する他車両と自車両との距離感、特に地面から高い位置での距離感を、運転者に把握させ易くすることができる。
【0026】
なお、上記実施形態では、仮想ポール106を、車両1の後輪7c及び7dが移動する予測進路Gin及びGout 上に描く場合を説明した。しかし、図8及び図9に示すように、車両後部バンパー3の後端角(車両1の後端角)が移動する最遠予測進路GBout 上に、仮想ポール106を描いてもよい。このように描けば、後輪軸から車両後部バンパー3の後端角までの距離(オーバーハング)Lohが長く、予測進路Rout と最遠予測進路RBout との距離が大きくなるトラック等の車両に対しても、本発明を適用させることができる。
【0027】
また、上記実施形態では、1台のカメラ10で撮影された実画像を用いた場合を説明したが、2台以上のカメラで撮影された実画像を合成した画像を用いても構わない。また、カメラは、カラー撮影できるものに限られず、白黒撮影用のカメラでも十分である。この場合、上述した各ラインの色の違いを、コントラストの違いで表現すればよい。
【0028】
さらに、図10のように、操舵角βに応じたマーカー画像が重畳された運転支援用画像をモニタ60の画面全体に表示し、操舵角βに関係なく真っ直ぐ後進する場合のマーカー画像が重畳された運転支援用画像をモニタ60の画面一部に子画面表示してもよい。このように、複数の画像を同時にモニタ60に表示することによって、より詳細な情報を運転者に提供することができる。
【図面の簡単な説明】
【図1】本発明の一実施形態に係る運転支援装置の構成を示すブロック図である。
【図2】図1に示す運転支援装置を車両1に搭載させた場合のイメージ図である。
【図3】世界座標系における軌跡データの算出方法を説明するための図である。
【図4】軌跡データをモニタ表示させた場合の画面例である。
【図5】仮想ポールを加えた軌跡データをモニタ表示させた場合の画面例である。
【図6】カメラ座標系に座標変換された軌跡マップデータをモニタ表示させた場合の画面例である。
【図7】画像処理部40で行われる処理を示すフローチャートである。
【図8】世界座標系における軌跡データの他の算出方法を説明するための図である。
【図9】カメラ座標系に座標変換された他の軌跡マップデータをモニタに表示させた場合の画面例である。
【図10】子画面を利用したカメラ座標系に座標変換された軌跡マップデータをモニタ表示させた場合の画面例である。
【図11】広角カメラで撮影された画像の一例を示す図である。
【符号の説明】
1…車両
3…車両後部バンパー
5…シフトレバー
7a〜7d…車輪
8…ハンドル
10…カメラ
20…ハンドル角度センサ
30…操舵角演算部
40…画像処理部
41…CPU
42…プログラムメモリ
43…作業メモリ
44…画像記憶部
45…視点変換マップデータ格納部
46…運転支援データ生成部
47…軌跡マップデータ格納部
48…画像合成部
50…表示制御部
60…モニタ
101〜105…ライン
106…仮想ポール

Claims (9)

  1. 車両を後退させる時に運転者が行う車両操作を支援する運転支援装置であって、
    車両の後方を撮影するカメラと、
    ハンドルの切れ角から車輪の操舵角を算出する操舵角演算部と、
    算出された前記操舵角から車両の予測進路を求め、当該予測進路に基づいた所定のマーカー画像を生成して、前記カメラで撮影された画像に当該マーカー画像を重畳させる画像処理部と、
    前記画像処理部で重畳された画像を画面に表示する画像表示部とを備え、
    前記画像処理部は、移動する車両の地面上の車幅軌跡として前記予測進路を求め、当該予測進路上に仮想ポールを立設した前記マーカー画像を生成し、前記画像処理部は、前記予測進路および前記仮想ポールを、カメラ座標系で表示可能なように座標変換して、前記カメラで撮影された画像の歪みに対応させて、前記予測進路及び前記仮想ポールを歪ませた前記マーカー画像を生成することを特徴とする、運転支援装置。
  2. 前記予測進路が、車両の後輪外側が移動する軌跡であることを特徴とする、請求項1に記載の運転支援装置。
  3. 前記予測進路が、車両の車体後部端が移動する軌跡であることを特徴とする、請求項1に記載の運転支援装置。
  4. 前記仮想ポールが、前記予測進路上を一定間隔で複数立設されることを特徴とする、請求項1〜3のいずれかに記載の運転支援装置。
  5. 前記仮想ポールが、車両の転回外側の前記予測進路上だけに立設されることを特徴とする、請求項1〜4のいずれかに記載の運転支援装置。
  6. 前記仮想ポールは、前記操舵角が所定の角度以上である場合にだけ、前記予測進路上に立設されることを特徴とする、請求項1〜5のいずれかに記載の運転支援装置。
  7. 前記仮想ポールは、車両の車体後部端から所定の距離までの間で、前記予測進路上に立設されることを特徴とする、請求項1〜6のいずれかに記載の運転支援装置。
  8. 前記画像処理部は、前記操舵角がゼロの場合とゼロ以外の場合とで、前記マーカー画像の色彩を異ならせることを特徴とする、請求項1〜のいずれかに記載の運転支援装置。
  9. 前記画像処理部は、前記操舵角がゼロの場合の予測進路に基づいた他のマーカー画像を生成して、前記カメラで撮影された画像に当該他のマーカー画像を重畳させた別の画像を新たに生成し、
    前記画像表示部は、前記操舵角に関係なく、前記別の画像を前記画像と同時に画面表示させることを特徴とする、請求項1〜のいずれかに記載の運転支援装置。
JP2002169078A 2002-06-10 2002-06-10 運転支援装置 Expired - Lifetime JP4006272B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002169078A JP4006272B2 (ja) 2002-06-10 2002-06-10 運転支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002169078A JP4006272B2 (ja) 2002-06-10 2002-06-10 運転支援装置

Publications (3)

Publication Number Publication Date
JP2004009959A JP2004009959A (ja) 2004-01-15
JP2004009959A5 JP2004009959A5 (ja) 2005-09-15
JP4006272B2 true JP4006272B2 (ja) 2007-11-14

Family

ID=30435812

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002169078A Expired - Lifetime JP4006272B2 (ja) 2002-06-10 2002-06-10 運転支援装置

Country Status (1)

Country Link
JP (1) JP4006272B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4682830B2 (ja) * 2005-12-05 2011-05-11 日産自動車株式会社 車載画像処理装置
JP2010163103A (ja) * 2009-01-16 2010-07-29 Denso Corp 駐車支援装置および駐車支援システム
DE102011105884B4 (de) * 2011-06-28 2019-02-21 Volkswagen Aktiengesellschaft Verfahren und Vorrichtung zum Einparken eines Fahrzeugs
CN113120080B (zh) * 2021-04-12 2023-03-31 沈阳中科创达软件有限公司 倒车辅助线的建立方法、装置、终端及存储介质

Also Published As

Publication number Publication date
JP2004009959A (ja) 2004-01-15

Similar Documents

Publication Publication Date Title
JP5035284B2 (ja) 車両周辺表示装置
JP3947375B2 (ja) 駐車補助装置
JP4863791B2 (ja) 車両周辺画像生成装置および画像切替方法
JP4914458B2 (ja) 車両周辺表示装置
US20050074143A1 (en) Vehicle backing assist apparatus and vehicle backing assist method
US20110210868A1 (en) Parking assistance apparatus
US20030045973A1 (en) Motor vehicle parking support unit and method thereof
JP5209578B2 (ja) 車両用画像表示装置
JP4844323B2 (ja) 駐車支援装置および駐車支援方法
JPWO2009016925A1 (ja) 駐車支援装置、駐車支援装置の車両側装置、駐車支援方法及び駐車支援プログラム
JP2004114977A (ja) 移動体周辺監視装置
JP5720969B2 (ja) 車両運転支援装置
JP5077606B2 (ja) 少なくとも1つの全方位カメラ及び光学的表示ユニットを備えた装置のキャリブレーション方法
JP2007148472A (ja) 駐車支援システム、駐車施設装置、及び駐車支援装置
JP2006327498A (ja) 駐車支援方法及び駐車支援装置
JP2012040883A (ja) 車両周囲画像生成装置
JP2003182489A (ja) 駐車支援装置
JP2004203068A (ja) 移動体周辺監視装置
JP2002104117A (ja) 車両用運転支援システム
JP2004147083A (ja) 運転支援装置
JP2009056848A (ja) 運転支援装置
JP4059309B2 (ja) 車載カメラの画像表示制御方法及びその装置
JP4006272B2 (ja) 運転支援装置
JP2004252837A (ja) 車両周辺表示装置および車両周辺表示プログラム
WO2020196676A1 (ja) 画像処理装置、車両制御装置、および方法、並びにプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050324

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050324

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070420

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070517

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070712

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070827

R150 Certificate of patent or registration of utility model

Ref document number: 4006272

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100831

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110831

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110831

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120831

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130831

Year of fee payment: 6

EXPY Cancellation because of completion of term