JP3685574B2 - 運転支援画像取り込み装置 - Google Patents

運転支援画像取り込み装置 Download PDF

Info

Publication number
JP3685574B2
JP3685574B2 JP01639297A JP1639297A JP3685574B2 JP 3685574 B2 JP3685574 B2 JP 3685574B2 JP 01639297 A JP01639297 A JP 01639297A JP 1639297 A JP1639297 A JP 1639297A JP 3685574 B2 JP3685574 B2 JP 3685574B2
Authority
JP
Japan
Prior art keywords
image
imaging device
sub
driving
capturing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP01639297A
Other languages
English (en)
Other versions
JPH10215407A (ja
Inventor
泰三 南茂
巌 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Osaka Gas Co Ltd
Original Assignee
Osaka Gas Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Osaka Gas Co Ltd filed Critical Osaka Gas Co Ltd
Priority to JP01639297A priority Critical patent/JP3685574B2/ja
Publication of JPH10215407A publication Critical patent/JPH10215407A/ja
Application granted granted Critical
Publication of JP3685574B2 publication Critical patent/JP3685574B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Studio Circuits (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、複数方向の画像を取り込み、取り込まれた複数の画像から有用な合成画像情報を得る技術に関するものであり自動車の運転の教習にあたって、被教習者と教官とが教習用自動車に同乗し、教習所外の路上を運転する場合に、自動車の四方の画像を撮影しておき、このような撮像画像を路上運転の実習後、再生して教官による教習の用に供する等の用途に役立つ、運転支援画像取り込み技術に関する。
【0002】
【従来の技術】
自動者教習用に従来使用されてきた装置構成例を図に示した。
装置は、複数の撮像装置(具体的にはCCDカメラ)8、9、2と、これらのカメラからの画像情報を所定の表示状態に適合するように処理する画像処理装置4(例えば4分割表示用画像処理ユニット)とを備え、さらに、この4分割表示用画像処理ユニットからの合成画像情報を記憶するための記録装置5(所謂、ビデオレコーダ)を備えて構成されていた。
装置の使用にあたっては、図(イ)に示すように、4台の撮像装置を備える場合、第1の撮像装置8を自動車前方画像の撮像に、第2、3の撮像装置を自動車、左右前方画像9a、9bの撮像に、さらに、第4の撮像装置9cを運転席画像の撮像に供するようにしていた。得られた合成画像情報は、4台の撮像装置により採録された画像が、同一画面上に、図(ロ)に示すように4分割状態で合成されるものとされており、収録後の再生にあたっては、図(ロ)に示すような4分割状態の表示が常にされる構成となっていた。
一方、前方画像のみからなる合成画像(画像処理しないもの)も、装置動作開始前の選択により、得られるようになっていた。
【0003】
【発明が解決しようとする課題】
従って、初期の選択により、運転開始から終了に到るまで、1方向のみの画像を使用した合成画像、もしくは、4方向の画像を得て合成画像を得るものとなっていた。
さて、例えば、4方向の画像から合成画像を得る選択を行った場合、教官と被教習者が教習所にもどって、再生して見ることができる画像は、図(ロ)に示すような分割画像であり、この構成の画像が、路上運転開始から路上運転終了まで連続する。結果、本来、見る必要の無い画像まで、常時、見ることとなっていた。
さらに、教官は、収録された路上運転の状況をみながら、要所々で、コメントすることとなるが、経時的に連続した画像情報上でのこのようなコメント必要部位の割り出しは、連続的に画面を送りながら手動でおこなう必要があった。
【0004】
本発明は、上記のような問題を解消し、使用勝手のよい運転支援画像取り込み装置を得ることにある。
【0005】
【課題を解決するための手段】
この目的を達成するための本発明による、運転支援画像取り込み装置の特徴構成は、請求項1に記載されているように、
自動車運転教習用自動車の運転室内から見た前方正面の画像を撮像可能な主撮像装置と、前記主撮像装置とは異なった方向の画像を撮像可能な複数の副撮像装置とを備え、前記複数の副撮像装置により、前方正面を除く車周りと運転者の運転状態とを撮像可能に構成され、
走行速度を検出する走行速度検出装置を状態検出装置として備え、
前記走行速度検出装置により検出される走行速度に基づいて前記主撮像装置及び前記副撮像装置からの画像信号を選択し、
前記走行速度が高い場合に、自動車の前方正面画像を、前記走行速度が低い場合に、前記自動車の前方正面画像と、前方正面を除く車周りの画像とが組み合わされた画像を得る画像処理装置を備えるとともに
前記画像処理装置で得られた画像を記憶する記録装置を備えたことにある。
この運転支援画像取り込み装置は、複数の撮像装置(主撮像装置及び副撮像装置)を備え、これら複数の撮像装置からそれぞれ、異なった方向の画像信号が取りこまれ、これが画像処理装置に送られ、処理の対象となる。
ここで、副撮像装置としては、少なくとも前方正面を除く車周りと、運転者の運転状態とを撮像可能に構成されている。
一方、この画像取り込み装置には、状態検出装置が備えられ、この検出装置により、撮像環境の状態が検出される。このような撮像環境の状態として、自動車の走行速度を挙げることができる。
そして、この装置の画像処理装置にあっては、状態検出装置の検出結果に基づいて、画像を構成する要素となる原画像の選択が行われ、選択された画像信号から画像が合成される。即ち、走行速度が高い場合に、自動車の前方正面画像を、走行速度が低い場合に、自動車の前方正面画像と、前方正面を除く車周りの画像とが組み合わされた画像を得る。
従って、装置においては、画像を撮像環境に状態に応じたものとでき、このような環境状態に応じた画像を得ることができる。
そして、このような構成の運転支援画像取り込み装置において、この装置に記録装置を備えておく、画像処理装置で生成される画像を記録装置に記憶させておいて、後の用に供することができる。
走行速度は、自動車周りの情報を必要とする場合に対応する場合が多く、この検出情報に連動して画像の生成構成を変化させることにより、運転環境に適切に対応した画像を得ることができる。
【0006】
この目的を達成するための本発明による、運転支援画像取り込み装置の特徴構成は、請求項2に記載されているように、
自動車運転教習用自動車の運転室内から見た前方正面の画像を撮像可能な主撮像装置と、前記主撮像装置とは異なった方向の画像を撮像可能な副撮像装置とを備え、
前記複数の副撮像装置により、前方正面を除く車周りと運転者の運転状態とを撮像可能に構成され、
運転席付近の音声情報を収集する音声検出装置を状態検出装置として備え、
前記音声検出装置により検出される音声の有無に基づいて前記主撮像装置及び前記副撮像装置からの画像信号を選択し、
前記検出される音声が無い場合に、自動車の前方正面画像を、前記検出される音声が有る場合に、前記自動車の前方正面画像と、前方正面を除く車周りの画像とを組み合わせた画像を得る画像処理装置を備えるとともに
前記画像処理装置で得られた画像を記憶する記録装置を備えたことにある
この運転支援画像取り込み装置は、複数の撮像装置(主撮像装置及び副撮像装置)を備え、これら複数の撮像装置からそれぞれ、異なった方向の画像信号が取りこまれ、これが画像処理装置に送られ、処理の対象となる。
ここで、これら複数の副撮像装置により、前方正面を除く車周りと運転者の運転状態とを撮像可能に構成されている。
一方、この画像取り込み装置には、状態検出装置が備えられ、この検出装置により、撮像環境の状態が検出される。このような撮像環境の状態としては、教習用自動車の例の場合は、運転席付近の音声情報の有無を挙げることができる。
そして、この装置の画像処理装置にあっては、前記音声検出装置により検出される音声の有無に基づいて、画像を構成する要素となる原画像の選択が行われ、選択された画像信号から画像が合成される。即ち、検出される音声が無い場合に、自動車の前方正面画像を、前記検出される音声が有る場合に、前記自動車の前方正面画像と、前方正面を除く車周りの画像とを組み合わせた画像を得る。従って、装置においては、画像を撮像環境の状態に応じたものとでき、このような環境状態に応じた画像を得ることができる。
そして、このような構成の運転支援画像取り込み装置において、この装置に記録装置を備えておく、画像処理装置で生成される画像を記録装置に記憶させておいて、後の用に供することができる。
【0007】
さて、上記のような運転支援画像取り込み装置において、前記副撮像装置が、自動車の左前方領域を撮像する左前方副撮像装置と、自動車の右前方領域を撮像する右前方副撮像装置とを備えていることが好ましい。
この装置にあっては、前記主撮像装置からの画像に加えて、自動車の左右前方一対の画像を取り込むことができ、車前方の画像と左右前方の画像とを、適切に選択、組み合わせた合成画像を得ることができる。
【0008】
さらに、前記主撮像装置の撮像範囲が、バックミラーに写る後方画像を含む前記運転室内から見た自動車の前方正面領域であることが好ましい。
自動車前方の画像としては、フロントガラスから見える画像を撮れば、一応の走行状態の把握は可能であり、この画像を使用して、有用な合成画像を得ることができる。しかしながら、例えば、自動車教習用等に使用する場合にあっては、バックミラーからの自動車後方の情報も含まれている方が、運転者が実際に体験する運転状況をよりリアルに代表するものとなる。
従って、バックミラーに写る自動車後方画像を含む画像情報を主撮像装置によって捕らえることにより、より現実感のある合成画像を得ることができる。
【0009】
さらに、前記画像処理装置で得られた画像には、前記運転者の運転状態を撮像した画像が、画像内に含まれる。
【0010】
【発明の実施の形態】
本願の実施の形態を図面に基づいて以下説明する。
図1には、本願の自動車教習用の運転支援画像取り込み装置1の構成及び使用状態が示されており、図2は、本願の画像取り込み装置1により取り込まれるとともに、合成処理された合成画像の表示状態を示している。
【0011】
運転支援画像取り込み装置1は、基本的には、複数の撮像装置2(これは、主撮像装置8と副撮像装置9とからなる)と、撮像環境の状態を検出する状態検出装置3と、複数の撮像装置2からの画像信号を選択し、選択された画像信号からなる合成画像信号を得る画像処理装置4と、作成された合成画像信号を記憶する記録装置5を備えて構成されている。従って、従来技術との差異は、状態検出装置3が備えられ、この状態検出装置3の検出結果に基づいて、合成画像情報を構成する原画が選択されて、適切に合成される点にある。さらに、後にも示すように、従来、4分割均等に表示する構成とされていた合成画像は、本願の場合、原画の、合成画像全体に於ける部分を成す画像(この画像を部分画像と呼ぶ)の位置、専有面積等が設定変更可能に構成されており、予め、各部分画像の位置、専有面積等が、使用者によって適切に設定され、この設定に従って合成画像信号を生成し、さらに表示できるように構成されている。
【0012】
さらに、詳細に、図1、2に基づいて説明する。
この運転支援画像取り込み装置1は、運転教習用自動車6の運転室7内から見た前方正面の画像を撮像可能な主撮像装置8と、この主撮像装置8とは異なった方向の画像を撮像可能な副撮像装置9とを備えている。
さらに具体的には、主撮像装置8の撮像範囲は、バックミラー10に写る後方画像を含む運転室7内から見た自動車6の前方正面領域に設定されている。一方、副撮像装置9は、図1にも示すように、自動車6の左前方領域を撮像する左前方副撮像装置9a、右前方領域を撮像する右前方副撮像装置9b、運転状態にある運転者の運転状態を撮像する運転者副撮像装置9cを備えている。従って、本願の画像取り込み装置1においては、合計4種の原画を得ることができる構成となっている。この場合、副撮像装置として、図1に示すように、自動車の後方画像を得るものを使用してもよい。
次に装置1には、運転教習用自動車6の運転状態を検出する状態検出装置3が備えられている。この状態検出装置3として、様々な装置を採用可能であるが、この実施の態様においては、所謂、走行速度検出装置12が状態検出装置3として働くように構成されている。
この状態検出装置3によって、自動車6の走行速度が検出され、この走行速度の検出値に従って、合成画像の合成状態が変更される構成とされている。図2に示すように、合成画像の一例として、本願においては、図2(イ)に示す標準画像11と、図2(ロ)に示すオプション画像13が用意されている。
ここで、図示するように標準画像11は、主撮像装置8によって取り込まれるバックミラー10を含む運転室7内から見た自動車の前方正面画像14に、運転者副撮像装置9cからの画像を合成したものである。この運転者画像15は、前方正面画像14に対して、その右上に配設されている。
一方、オプション画像13は、前記標準画像11の左右に、前記左前方副撮像装置9a、右前方副撮像装置9b、それぞれからの画像が追加されたものとなっている。即ち、左前方副撮像装置9aからの左前方画像16が標準画像11の向かって左側に、右前方副撮像装置9bからの右前方画像17が標準画像11の向かって右側に、追加されている。
オプション画像13は、これら全ての部分画像が合成されて一画面を構成するものである。
【0013】
以上説明したように、本願にあっては、複数の合成状態(その第1は基本となる標準画像11を合成する状態であり、第2は前記オプション画像13を合成する状態)が予め設定されている。ここで、当然、この設定にあたっては、使用される部分画像である原画の配置、専有面積等も所望の状態に設定される。
さて、本願の画像取り込み装置1においては、上記複数の合成状態の選択が、
先に説明した状態検出装置3として働く走行速度検出装置12の検出情報に従って行われる。即ち、走行速度が大きい場合(例えば20km/hrより大きい)は、先に説明した標準画像11を得る処理をおこなうように構成され,走行速度が小さい場合(例えば20km/hr以下)は、合成画像の状態を先に説明したオプション画像13を得る処理をおこなうように構成されている。
即ち、本願の運転支援画像取り込み装置1は、状態検出装置3の検出結果に基づいて主撮像装置8及び副撮像装置9からの画像信号を選択し、選択された画像信号からなる合成画像信号を得る画像処理装置4を備える構成となっているのである。
従って、画像処理装置4は、先に説明した2状態での合成画像の画像信号情報を選択的に生成するように構成されており、この2状態の切り換えは、走行速度検出装置12からの検出情報によるものとされている。即ち、画像処理装置4には、各原画像に対して、使用すべき部分画像の選択、選択された部分画像の配置、各専有面積を予め設定可能な合成画像処理条件入力機構18を備えており、この機構18より入力される条件に従って、画像処理をおこなう構成とされている。
一方、状態検出装置3からの入力は、画像の取り込みと同時に行われ、検出情報の値に従って、先に説明した2状態の選択が行われる。
さらに、この画像処理装置4の出力側に、上記条件に従って、処理合成生成された合成画像信号を記憶する記録装置5が備えられている。
さて、本願の運転支援画像取り込み装置1には、運転席付近の音声情報を収集するマイクロホン(音声検出装置)20も備えられ、このマイクロホン20により運転席付近の音声も合成画像情報と並行して取り込むことができるようになっている。この音声情報は、その有無を確認できる構成とされ、音声入力がある場合に、合成画像をオプション画像13に合成し、音声入力がない場合に、合成画像を標準画像11に維持する構成とされている。従って、この構成においては、マイクロホン20も一種の状態検出装置3として働く。言い換えれば、この運転支援画像取り込み装置1には、状態検出装置3として、運転教習時に運転者と同乗する教官により入力される入力信号(実質上は教官の声)の有無を検出する教示ポイント入力信号検出装置21(教官音声情報の有無を検出する装置)が備えられている。このマイクロホン20は、運転席付近の音声を検出するため、この位置に伝わってくる音声を環境音として捕らえる。
【0014】
以下、本願の運転支援画像取り込み装置1を自動車教習用に使用する場合を説明する。
使用にあたっては、運転教習用自動車6の所定箇所に先に説明した撮像装置8、9を取付けた状態で装置は使用される。
装置1は、路上走行時に使用され、一定の走行順路を経る訓練運転時に渡って作動する。先に説明したように、記録装置5に記憶される合成画像は、通常走行時(比較的高速での運転が行われている)には、図2(イ)に示す状態の標準画像11の状態とされており、低速運転時あるいは教官等の音声が入っている場合は、図2(ロ)に示すオプション画像13が記録されたものとなる。
そして、路上走行を終了した時点で、記憶媒体であるテープ22を外し、別途、用意されているTV(図外)で、路上運転の状態を被教習者、教官が共に見ることができる。
この場合、これまで説明してきたように記録されている合成画像情報は、2状態の表示画像が混ざったものとなる。
即ち、一般に路上運転にあたっては、低速運転は、車が交差点にさしかかった場合、カーブに掛かった場合等に起こるものであり、このような場合に、車の周り状況を再度、合成画像情報から得て、適切な教官のアドバイス等を得ることができる。このような場合に、自動車6の前方正面画像のみでなく、自動車6の周囲の情報も載録されていることが、非常に有用である。
さらに、教官が音声で何か指示を与えた状況にあっても、本願においては、オプション画像13が表れる構成となる。このような場合も、通常、一旦停止が必要であったり、左右の確認が必要な場合が多い。このような状況において、本願にあっては、オプション画像13を見て、適切なアドバイス等を受けることができる。
さて、通常の高速走行時は、特に問題なく走行している場合が多い。このような場合にあっては、標準画像11の確認だけて、充分、運転状況を把握することができる。
【0015】
【図面の簡単な説明】
【図1】 本願の画像取り込み装置の使用状態を示す図
【図2】 合成画像信号の表示状態を示す図
【図】 従来技術の説明図
【符号の説明】
1 運転支援画像取り込み装置
2 撮像装置
3 状態検出装置
4 画像処理装置
5 記録装置
6 運転教習用自動車
7 運転室
8 主撮像装置
9 副撮像装置
10 バックミラー
11 標準画像
12 走行速度検出装置
13 オプション画像
21 教示ポイント入力信号検出装置

Claims (5)

  1. 自動車運転教習用自動車の運転室内から見た前方正面の画像を撮像可能な主撮像装置と、前記主撮像装置とは異なった方向の画像を撮像可能な複数の副撮像装置とを備え、前記複数の副撮像装置により、前方正面を除く車周りと運転者の運転状態とを撮像可能に構成され、
    走行速度を検出する走行速度検出装置を状態検出装置として備え、
    前記走行速度検出装置により検出される走行速度に基づいて前記主撮像装置及び前記副撮像装置からの画像信号を選択し、
    前記走行速度が高い場合に自動車の前方正面画像を、前記走行速度が低い場合に、前記自動車の前方正面画像と、前方正面を除く車周りの画像とが組み合わされた画像を得る画像処理装置を備え、
    前記画像処理装置で得られた画像を記憶する記録装置を備えた運転支援画像取り込み装置。
  2. 自動車運転教習用自動車の運転室内から見た前方正面の画像を撮像可能な主撮像装置と、前記主撮像装置とは異なった方向の画像を撮像可能な複数の副撮像装置とを備え、前記複数の副撮像装置により、前方正面を除く車周りと運転者の運転状態とを撮像可能に構成され、
    運転席付近の音声情報を収集する音声検出装置を状態検出装置として備え、
    前記音声検出装置により検出される音声の有無に基づいて前記主撮像装置及び前記副撮像装置からの画像信号を選択し、
    前記検出される音声が無い場合に、自動車の前方正面画像を、前記検出される音声が有る場合に、前記自動車の前方正面画像と、前方正面を除く車周りの画像とを組み合わせた画像を得る画像処理装置を備え、
    前記画像処理装置で得られた画像を記憶する記録装置を備えた運転支援画像取り込み装置。
  3. 前記副撮像装置が、自動車の左前方領域を撮像する左前方副撮像装置と、自動車の右前方領域を撮像する右前方副撮像装置とを備えた請求項1又は2項記載の運転支援画像取り込み装置。
  4. 前記主撮像装置の撮像範囲が、バックミラーに写る後方画像を含む前記運転室内から見た自動車の前方正面領域である請求項〜3のいずれか1項に記載の運転支援画像取り込み装置。
  5. 前記画像処理装置で得られた画像に、前記運転者の運転状態を撮像した画像が含まれている請求項1〜4のいずれか1項記載の運転支援画像取り込み装置。
JP01639297A 1997-01-30 1997-01-30 運転支援画像取り込み装置 Expired - Fee Related JP3685574B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP01639297A JP3685574B2 (ja) 1997-01-30 1997-01-30 運転支援画像取り込み装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP01639297A JP3685574B2 (ja) 1997-01-30 1997-01-30 運転支援画像取り込み装置

Publications (2)

Publication Number Publication Date
JPH10215407A JPH10215407A (ja) 1998-08-11
JP3685574B2 true JP3685574B2 (ja) 2005-08-17

Family

ID=11914983

Family Applications (1)

Application Number Title Priority Date Filing Date
JP01639297A Expired - Fee Related JP3685574B2 (ja) 1997-01-30 1997-01-30 運転支援画像取り込み装置

Country Status (1)

Country Link
JP (1) JP3685574B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005269256A (ja) * 2004-03-18 2005-09-29 Nec Corp 画像記憶システム及び方法、並びに車載装置
JP4715366B2 (ja) * 2005-07-27 2011-07-06 パナソニック電工株式会社 複数画像合成方法及び複数画像合成装置
JP2012048105A (ja) * 2010-08-30 2012-03-08 Sega Corp 運転模擬装置及びその制御プログラム
US9296336B2 (en) * 2011-09-29 2016-03-29 Toyota Jidosha Kabushiki Kaisha Image display device and image display method
WO2021199318A1 (ja) * 2020-03-31 2021-10-07 本田技研工業株式会社 画像処理装置、車両、画像処理方法およびプログラム

Also Published As

Publication number Publication date
JPH10215407A (ja) 1998-08-11

Similar Documents

Publication Publication Date Title
JP2696516B2 (ja) 車輌の安全監視装置
CN101380938B (zh) 车载显示设备和车载显示设备的显示方法
US4846686A (en) Motor vehicle simulator with multiple images
JP2005538393A (ja) コンピュータ利用運転授業システム
JP6504145B2 (ja) 車両用記録装置
JP2005003923A (ja) バーチャルドライビングシステム
US20070019311A1 (en) Semi-interactive driving simulator with multiple simulated mirror images and method of preparing images for use in simulator
WO2018150888A1 (ja) 情報記録装置、情報記録方法及び情報記録用プログラム
JP3685574B2 (ja) 運転支援画像取り込み装置
KR20180095359A (ko) 차량기록장치와 그를 포함하는 승객운송용 차량
JP2008083184A (ja) 運転評価システム
JP2007333784A (ja) 教習状況確認システム
JP4144480B2 (ja) マルチビジョン式の自動車教習装置
JP7492512B2 (ja) 画像出力を備えた車載用電子ミラー
DE4221558C2 (de) Fahrsimulationssystem
JPH05153687A (ja) 複合感覚評価用ダミーヘツド
KR100464100B1 (ko) 운전면허 시험(연습)용 자동차의 운전(교습) 기록장치 및그 방법
JP2020144332A (ja) 仮想現実システムおよび仮想現実方法
JP2020080544A (ja) 車両用映像記録装置、再生装置、プログラム
JP3758733B2 (ja) 教習用模擬運転装置
JP2020052801A (ja) 車両の運転支援装置
JP3503457B2 (ja) 移動物体における画像表示システム
WO2001015936A1 (en) A device for recording image of driving circumstances around automobile
JP2019083078A (ja) 車両用記録装置および再生方法
JP2000280832A (ja) 移動体の画像記録装置及び画像記録方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050217

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050418

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050519

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050531

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080610

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090610

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090610

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090610

Year of fee payment: 4

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090610

Year of fee payment: 4

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090610

Year of fee payment: 4

R370 Written measure of declining of transfer procedure

Free format text: JAPANESE INTERMEDIATE CODE: R370

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100610

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100610

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110610

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120610

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130610

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees