JP4192643B2 - 車両運転者の視線検出装置 - Google Patents
車両運転者の視線検出装置 Download PDFInfo
- Publication number
- JP4192643B2 JP4192643B2 JP2003079014A JP2003079014A JP4192643B2 JP 4192643 B2 JP4192643 B2 JP 4192643B2 JP 2003079014 A JP2003079014 A JP 2003079014A JP 2003079014 A JP2003079014 A JP 2003079014A JP 4192643 B2 JP4192643 B2 JP 4192643B2
- Authority
- JP
- Japan
- Prior art keywords
- driver
- image
- face
- reference position
- eyes
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は、車両運転者の視線検出装置に関し、特に運転者の顔位置を特定する装置に関する。
【0002】
【従来の技術】
従来から、車両運転者の運転状態(例えば脇見や居眠り状態など)を検出するため、車載カメラで車両運転者を撮影し、得られた画像を処理して運転者の目の状態を監視する装置が提案されている(例えば特許文献1)。この特許文献1には、車両運転者の有無を検出して車両運転者がいない場合の画像(背景画像)と車両運転者が存在する場合の画像(車両運転者画像)を取得し、両画像の差分値に基づいて運転者の顔位置を特定する技術が記載されている。
【0003】
【特許文献1】
特開平4−68500号公報(第3〜6頁、第2、4、5図)
【0004】
【発明が解決しようとする課題】
上記従来技術では、背景画像を取得してからすぐに車両運転者画像を取得するわけでなく両画像の取得の間に時間差が生じたときに背景画像に対して車両運転者を撮影した際の実際の背景が変化する場合があり、この場合には両画像の差分値には車両運転者に起因する差分値の他に、変化した背景に起因する差分値も含まれてしまうことになるので、運転者の顔位置を特定することが困難となるという問題があった。また、上記従来技術では、車両運転者画像を撮像した時点にて両画像の差分を計算し頭位置を特定し頭の位置座標をメモリに記憶し、その後運転者を撮像する際には撮像する度に先に記憶したメモリ内の位置座標を読み出してその位置座標に基づいて撮像した画像から目を抽出しているので、車両運転者画像と、この画像以降に撮像した画像の各頭位置が相対的にずれる場合には、正確かつ確実に運転者の目を抽出することができないおそれがあった。
【0005】
本発明は、上述した各問題を解消するためになされたもので、車両運転者の顔の基準位置を容易かつ確実に登録し、かつ、この登録された基準位置に基づいて所定時間毎に撮像した車両運転者画像内に顔位置を特定し、特定された顔位置から目位置を正確かつ確実に抽出する車両運転者の視線検出装置を提供することを目的とする。
【0006】
【課題を解決するための手段】
上記の課題を解決するため、請求項1に係る発明の構成上の特徴は、車両の運転シートに着座した運転者の前方に設けられて同運転者を正面から撮像するカメラと、運転者が運転シートに着座する直前の車内をカメラによって撮像する第1画像を、運転者が乗車するために車両のドアを開けたことを検出したら撮像して記憶装置に取り込む第1画像取り込み手段と、運転者が運転シートに着座していることを、運転シートに設けた体重センサを用いて検出する着座検出手段と、運転シートに着座した運転者をカメラによって撮像する第2画像を、運転者が運転シートに着座していることを検出したら撮像して記憶装置に取り込む第2画像取り込み手段と、第1および第2画像取り込み手段によってそれぞれ取り込まれた第1および第2画像の差分画像を算出する画像差分算出手段と、カメラの画像領域内であって画像差分算出手段により算出された差分画像のなかから予め記憶された顔の輪郭情報に基づいて運転者の顔または顔の位置を検出し、当該顔のなかから予め記憶された目情報に基づいて運転者の目を検出できたときには差分画像のなかから運転者の顔位置に相当する領域を運転者の顔の基準位置領域として登録する顔基準位置登録手段と、さらに顔基準位置登録手段にて、運転者の目を検出することができなかったと判定した場合には、顔基準位置登録手段にて目を検出することができたと判定されるまで、再度第2画像の撮像と画像差分算出手段の処理と顔基準位置登録手段の処理を繰り返し実行し、該顔基準位置登録手段が基準位置領域を登録した時点以降にカメラにより撮像した画像であって第2画像でない画像内に顔基準位置登録手段により登録された運転者の顔の基準位置領域から運転者の顔を特定する顔特定手段と、該顔特定手段により特定された運転者の顔内に目を特定する目特定手段と、該目特定手段により特定された運転者の目からの視線を検出する視線検出手段とを備えたことである。
【0010】
【発明の作用および効果】
上記のように構成した請求項1に係る発明においては、第1画像取り込み手段が、運転者が運転シートに着座する直前の車内をカメラによって撮像される第1画像を、運転者が乗車するために車両のドアを開けたことを検出したら撮像して記憶装置に取り込み、第2画像取り込み手段が、運転シートに着座した運転者を前記カメラによって撮像される第2画像を、運転者が運転シートに着座していることを検出したら撮像して記憶装置に取り込み、画像差分算出手段により第1および第2画像の差分画像を算出し、顔基準位置登録手段が、カメラの画像領域内であって画像差分算出手段により算出された差分画像のなかから予め記憶された顔の輪郭情報に基づいて運転者の顔または顔の位置を検出し、当該顔のなかから予め記憶された目情報に基づいて運転者の目を検出できたときには差分画像のなかから運転者の顔位置に相当する領域を運転者の顔の基準位置領域として登録する。これにより、運転者が運転シートに着座する直前の車内画像(第1画像)を取得した後、時間を空けずに車両運転者画像(第2画像)を取得するため、車両運転者の背景が変化する前に車両運転者画像を取得するので、背景の変化に起因する差分値をできるだけ排除した車両運転者に起因する差分値に基づいて容易かつ確実に運転者の顔の基準位置領域を特定することができる。そして、顔特定手段は、車両運転者画像を取得して運転者の顔の基準位置領域を登録した時点以降にカメラにより撮像した画像であって第2画像(車両運転者画像)でない画像内に、顔基準位置登録手段により登録された運転者の顔の基準位置領域から運転者の顔を特定し、目特定手段は顔特定手段により特定された運転者の顔内に目を特定し、視線検出手段は目特定手段により特定された運転者の目からの視線を検出する。これにより、所定時間毎に撮像した画像(第2画像ではない)内に登録された基準位置領域に基づいて顔位置を特定し、特定された顔位置から目位置を正確かつ確実に抽出することができる。また、運転者が運転シートに着座していることを、運転シートに設けた体重センサを用いて検出するので、確実に車両運転者が着座したことを検出して第2画像を撮像することができる。
さらに顔基準位置登録手段にて、運転者の目を検出することができなかったと判定した場合には、顔基準位置登録手段にて目を検出することができたと判定されるまで、再度第2画像の撮像と画像差分算出手段の処理と顔基準位置登録手段の処理を繰り返し実行する。これにより、顔基準位置登録手段にて画像差分算出手段により算出された差分画像のなかから運転者の顔位置に相当する領域を、運転者の顔の基準位置領域として確実に登録することができる。
【0014】
【発明の実施の形態】
以下、本発明による車両運転者の視線検出装置の一実施の形態について説明する。図1はこの視線検出装置の構成を示すブロック図である。
【0015】
この車両運転者の視線検出装置は制御装置10を備えていて、この制御装置10にはカメラ11、体重センサ12、ドアセンサ13、警報装置14および記憶装置15が接続されている。カメラ11は、車両の運転シートに着座した運転者の前方(例えばインスツルメントパネル)に設けられており、運転者を正面から撮像し、その画像を制御装置10に送信する。カメラ11は所定の短時間毎(例えば1/30秒)に撮影し、その画像を送信する。このカメラ11の一例としてCCD(charge-coupled device)カメラが挙げられる。なお、上記における正面とは、運転者に対しての真正面に限らず、顔の少なくとも目、鼻、口が撮像できる位置であればよい。
【0016】
体重センサ12は、運転シート内に設けられており、運転者が運転シートに着座しているか着座していないかを検出し、その検出結果を制御装置10に送信する。ドアセンサ13は、車両のドアの開閉状態を検出し、その検出結果を制御装置10に送信する。警報装置14は、後述するように検出した運転者の視線に基づいて運転者が居眠り状態やわき見状態であることを検出した場合には、ブザーを鳴動させたり、警報ランプを点灯、点滅させたりして運転者に警報する。記憶装置15は、カメラ11から送信される画像を記憶するものである。
【0017】
制御装置10は、マイクロコンピュータ(図示省略)を有しており、マイクロコンピュータは、バスを介してそれぞれ接続された入出力インターフェース、CPU、RAMおよびROM(いずれも図示省略)を備えている。CPUは、図2のフローチャートに対応したプログラムを実行して、カメラ11が撮影した画像に基づいて運転者の視線を検出する制御を行っている。RAMは同プログラムの実行に必要な変数を一時的に記憶するものであり、ROMは前記プログラムを記憶するものである。
【0018】
次に、上述した車両運転者の視線検出装置の動作について図2を参照して説明する。制御装置10は、運転者が運転シートに着座する直前の車内をカメラ11によって撮像し、その画像(車内画像)を第1画像として記憶装置15に取り込む。具体的には制御装置10は、ステップ102において、運転者が運転シートに着座する直前であるかを判定する。すなわち運転シートに設けた体重センサ12が未着座の状態を検出し続けるなかで、ドアセンサ13がドア開状態を検出すれば、制御装置10は運転者が乗車するためにドアを開けたと判定し、つまり運転者が着座直前であると判定する。制御装置10は、運転者が着座直前であると判定すれば、プログラムをステップ104に進める。ステップ104においては、制御装置10は、運転者が着座直前であると判定した時点の車内をカメラ11によって撮影し、その画像(車内画像)を第1画像(図3(a)参照)として記憶装置15に記憶する。
【0019】
制御装置10は、運転シートに着座した運転者をカメラ11によって撮像し、その画像(車両運転者画像)を第2画像として記憶装置15に取り込む。具体的にはステップ106において、運転シートに設けた体重センサ12が着座状態を検出すれば、制御装置10は運転者が着座したと判定する。制御装置10は、運転者が着座したと判定すれば、プログラムをステップ108に進める。ステップ108においては、制御装置10は、運転者が着座したと判定した時点の運転者を含めた車内をカメラ11によって撮影し、その画像(車両運転者画像)を第2画像(図3(b)参照)として記憶装置15に記憶する。
【0020】
制御装置10は、第1画像と第2画像の差分画像を算出し、カメラ11の画像領域内であって第1画像と第2画像の差分画像に相当する領域を運転者の顔の基準位置として登録する。具体的には、制御装置10は、ステップ110において、記憶装置15に記憶されている第1および第2画像を読み出して、両画像の差分画像を算出する。この算出結果は、図3(c)に示すように、第2画像に撮影された運転者のみが存在する画像(差分画像)である。差分画像には運転者の上半身が映し出されており、予め記憶された顔情報(例えば眉毛、目、鼻、口の配置パターン、あるいは顔の輪郭)に基づいて上半身のなかから顔または顔の位置を検出する(ステップ112)。そして、予め記憶された目情報(例えば左右の両目の配置パターン、目の輪郭、瞳の輪郭)に基づいて検出した顔のなかから目または目の位置を検出する(ステップ114)。
【0021】
そして、制御装置10は、ステップ116においてステップ114の処理により運転者の目を検出することができたか否かを判定し、運転者の目を検出することができたと判定した場合には、プログラムをステップ118に進める。ステップ118においては、ステップ110にて算出された差分画像の領域のうち運転者の顔位置に相当する領域を運転者の顔の基準位置として記憶装置15に記憶する(登録する)。この顔の基準位置は運転者が運転シートに着座してほぼ正面前方を向いている場合の顔の位置を示しており、運転者が正面前方以外を向いている場合の顔の位置を示すものではない。一方、ステップ116において運転者の目を検出することができなかったと判定した場合には、プログラムをステップ108に戻し、カメラ11により第2画像を撮像し記憶装置15に取り込み(ステップ108)、第1および第2画像の差分画像を算出し(ステップ110)、差分画像に基づいて運転者の顔を検出し(ステップ112)、運転者の目を検出する(ステップ114)処理を、ステップ116にて目を検出することができたと判定されるまで繰り返し実行する。
【0022】
制御装置10は、ステップ118にて基準位置を登録した時点以降においてカメラ11から順次送信される画像から運転者の顔および目(の位置)を特定し、運転者の視線を検出する。カメラ11により撮像された画像が送信される度に、ステップ120において、ステップ118にて登録された顔の基準位置を記憶装置15から読み出し、顔の基準位置に基づいて送信された画像内に運転者の顔(顔位置)を特定する。すなわち、予め記憶された顔情報(例えば眉毛、目、鼻、口の配置パターン、あるいは顔の輪郭)に基づいて送信された画像内の基準位置の領域およびその周辺から顔を探索する。ステップ122において、ステップ114と同様に予め記憶された目情報(例えば左右の両目の配置パターン、目の輪郭、瞳の輪郭)に基づいて特定した顔のなかから目または目の位置を特定する。そして、ステップ124において、特定した運転者の目からの視線(視線の方向)を検出する。なお、この視線検出については、例えば瞳孔中心とプルキニエ像との相対位置関係から算出することが一般に行われているので、詳細な説明は省略する。制御装置10は、視線検出の処理が終了するまで、例えばイグニッションスイッチがオフされるまで、上述したステップ120〜124の処理をカメラ11から画像が送信される度に繰り返し実行する(ステップ126)。
【0023】
上述した説明から理解できるように、この実施の形態においては、運転者が運転シートに着座する直前の車内をカメラ11によって撮像した第1画像を記憶装置15に取り込み(ステップ102,104)、運転シートに着座した運転者をカメラ11によって撮像した第2画像を記憶装置15に取り込み(ステップ106,108)、第1および第2画像の差分画像を算出し(ステップ110)、カメラ11の画像領域内であってステップ110にて算出された差分画像に相当する領域を運転者の顔の基準位置として登録する(ステップ118)。これにより、運転者が運転シートに着座する直前の車内画像(第1画像)を取得した後、時間を空けずに車両運転者画像(第2画像)を取得するため、車両運転者の背景が変化する前に車両運転者画像を取得するので、背景の変化に起因する差分値をできるだけ排除した車両運転者に起因する差分値に基づいて容易かつ確実に運転者の顔の基準位置を特定することができる。そして、車両運転者画像を取得して運転者の顔の基準位置を登録した時点以降にカメラ11により撮像した画像内に、ステップ118にて登録された運転者の顔の基準位置に基づいて運転者の顔を特定し(ステップ122)、この特定された運転者の顔内に目を特定し(ステップ124)、この特定された運転者の目からの視線を検出する(ステップ126)。これにより、所定時間毎に撮像した車両運転者画像(第2画像ではない)内に登録された基準位置に基づいて顔位置を特定し、特定された顔位置から目位置を正確かつ確実に抽出することができる。
【0024】
また、上記実施の形態においては、ステップ102,104の処理により、運転者が乗車するために車両のドアを開けたことを検出して第1画像を撮像するので、確実に乗車直前であることを検出して第1画像を乗車直前に撮像することができる。また、ステップ106,108の処理により、運転者が車両の運転シートに着座していることを検出して第2画像を撮像するので、確実に車両運転者が着座したことを検出して第2画像を撮像することができる。
【0025】
また、上記実施の形態においては、ステップ110にて算出された差分画像から運転者の顔を検出し(ステップ112)、ステップ112にて検出された運転者の顔の中から目を検出し(ステップ114)、ステップ114にて運転者の目が検出されたか否かを判定する(ステップ116)。そして、ステップ116にて目が検出されたと判定された場合には、ステップ110にて算出された差分画像に相当する領域を運転者の顔の基準位置として登録し(ステップ118)、目が検出されなかったと判定された場合には、再度、第2画像を撮像し記憶装置に取り込み(ステップ108)、第1および第2画像の差分画像を算出し(ステップ110)、運転者の顔を検出し(ステップ112)、運転者の目を検出する(ステップ114)処理を、ステップ116にて目が検出されたと判定されるまで繰り返し実行する。これにより、ステップ118においてはステップ110にて算出された差分画像に相当する領域を確実に運転者の顔の基準位置として登録することができる。
【0026】
なお、上述した実施の形態においては、ドアセンサ13からの検出信号の代わりに、リモコンキーからのドアロック解除信号を利用するようにしてもよい。
【0027】
また、上述した実施の形態においては、運転者の着座状態を検出するために体重センサ12からの検出信号を利用するようにしたが、これに代えて、シートベルトの着用状態を検出するシートベルト着用センサからの検出信号を利用するようにしてもよい。
【0028】
また、上述した実施の形態においては、ステップ118において、運転者の上半身を示す差分画像の領域を顔の基準位置として登録するようにしてもよい。この場合、ステップ120において、ステップ118にて登録された顔の基準位置を記憶装置15から読み出し、運転者の上半身を示す差分画像の領域のうち顔の領域に基づいて送信された画像内に運転者の顔を特定すればよい。なお、顔の領域は頭、首、肩の配置パターンなどにより推定できる。
【図面の簡単な説明】
【図1】 本発明による車両運転者の視線検出装置の一実施の形態の構成を示すブロック図である。
【図2】 図1に示した制御装置にて実行される制御プログラムのフローチャートである。
【図3】 (a)は運転者が運転シートに着座する直前の車内の画像であり、(b)は運転者が運転シートに着座した状態の画像であり、(c)は両画像の差分画像である。
【符号の説明】
10…制御装置、11…カメラ、12…体重センサ、13…ドアセンサ、14…警報装置、15…記憶装置。
Claims (1)
- 車両の運転シートに着座した運転者の前方に設けられて同運転者を正面から撮像するカメラと、
前記運転者が前記運転シートに着座する直前の車内を前記カメラによって撮像する第1画像を、前記運転者が乗車するために車両のドアを開けたことを検出したら撮像して記憶装置に取り込む第1画像取り込み手段と、
前記運転者が前記運転シートに着座していることを、前記運転シートに設けた体重センサを用いて検出する着座検出手段と、
前記運転シートに着座した前記運転者を前記カメラによって撮像する第2画像を、前記運転者が前記運転シートに着座していることを検出したら撮像して前記記憶装置に取り込む第2画像取り込み手段と、
前記第1および第2画像取り込み手段によってそれぞれ取り込まれた第1および第2画像の差分画像を算出する画像差分算出手段と、
前記カメラの画像領域内であって前記画像差分算出手段により算出された差分画像のなかから予め記憶された顔の輪郭情報に基づいて運転者の顔または顔の位置を検出し、当該顔のなかから予め記憶された目情報に基づいて運転者の目を検出できたときには前記差分画像のなかから前記運転者の顔位置に相当する領域を運転者の顔の基準位置領域として登録する顔基準位置登録手段と、
さらに前記顔基準位置登録手段にて、運転者の目を検出することができなかったと判定した場合には、前記顔基準位置登録手段にて目を検出することができたと判定されるまで、再度前記第2画像の撮像と前記画像差分算出手段の処理と前記顔基準位置登録手段の処理を繰り返し実行し、
該顔基準位置登録手段が基準位置領域を登録した時点以降に前記カメラにより撮像した画像であって前記第2画像でない画像内に前記顔基準位置登録手段により登録された運転者の顔の基準位置領域から前記運転者の顔を特定する顔特定手段と、
該顔特定手段により特定された運転者の顔内に目を特定する目特定手段と、
該目特定手段により特定された運転者の目からの視線を検出する視線検出手段とを備えたことを特徴とする車両運転者の視線検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003079014A JP4192643B2 (ja) | 2003-03-20 | 2003-03-20 | 車両運転者の視線検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003079014A JP4192643B2 (ja) | 2003-03-20 | 2003-03-20 | 車両運転者の視線検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004287845A JP2004287845A (ja) | 2004-10-14 |
JP4192643B2 true JP4192643B2 (ja) | 2008-12-10 |
Family
ID=33293317
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003079014A Expired - Fee Related JP4192643B2 (ja) | 2003-03-20 | 2003-03-20 | 車両運転者の視線検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4192643B2 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4840638B2 (ja) * | 2005-03-08 | 2011-12-21 | アイシン精機株式会社 | 車両の乗員監視装置 |
JP4893204B2 (ja) * | 2006-09-29 | 2012-03-07 | アイシン精機株式会社 | 車両用ミラー位置調整装置 |
JP5059551B2 (ja) * | 2007-10-31 | 2012-10-24 | 株式会社デンソー | 車両の乗員検出装置 |
US10991121B2 (en) * | 2018-11-27 | 2021-04-27 | GM Global Technology Operations LLC | Movement tracking of operator-facing cameras |
WO2020122084A1 (ja) * | 2018-12-11 | 2020-06-18 | ソニー株式会社 | 画像処理装置、画像処理方法および画像処理システム |
CN113170081A (zh) | 2018-12-11 | 2021-07-23 | 索尼集团公司 | 图像处理装置、图像处理方法和图像处理系统 |
CN111976595A (zh) * | 2019-05-24 | 2020-11-24 | 奥迪股份公司 | 车门开启辅助系统、包括其的车辆及相应的方法和介质 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2546415B2 (ja) * | 1990-07-09 | 1996-10-23 | トヨタ自動車株式会社 | 車両運転者監視装置 |
JP3063504B2 (ja) * | 1993-12-22 | 2000-07-12 | 日産自動車株式会社 | 画像データの特徴量検出装置 |
JPH11161798A (ja) * | 1997-12-01 | 1999-06-18 | Toyota Motor Corp | 車両運転者監視装置 |
JP2001043382A (ja) * | 1999-07-27 | 2001-02-16 | Fujitsu Ltd | 目追跡装置 |
JP3812298B2 (ja) * | 2000-06-26 | 2006-08-23 | 日産自動車株式会社 | 眼の状態検出装置 |
-
2003
- 2003-03-20 JP JP2003079014A patent/JP4192643B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2004287845A (ja) | 2004-10-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9888875B2 (en) | Driver monitoring apparatus | |
US10936890B2 (en) | Vehicle device | |
JP5974915B2 (ja) | 覚醒度検出装置、および覚醒度検出方法 | |
EP1700761A1 (en) | Apparatus for authenticating vehicle driver | |
WO2013157466A1 (ja) | 喫煙検出装置、方法及びプログラム | |
EP2074550A2 (en) | Eye opening detection system and method of detecting eye opening | |
JP4677963B2 (ja) | 居眠り検知装置、居眠り検知方法 | |
US11048951B2 (en) | Occupant state recognition apparatus | |
CN104573622B (zh) | 人脸检测装置、方法 | |
US20090034794A1 (en) | Conduct inference apparatus | |
JP2007161420A (ja) | エレベータの呼び登録装置 | |
JP2006293909A (ja) | 運転者の視線方向検出装置 | |
CN112334954B (zh) | 用于在车辆中采集个人的事故数据的系统 | |
JP7202421B2 (ja) | 画像処理方法 | |
JP4192643B2 (ja) | 車両運転者の視線検出装置 | |
JP2012084068A (ja) | 画像解析装置 | |
JP2005108033A (ja) | 運転者状況判定装置および運転者状況判定方法 | |
KR101461911B1 (ko) | 안전벨트 체결 상태 가이드 장치 및 방법 | |
JP2004310397A (ja) | マスク着用判定装置 | |
JP2019083019A (ja) | ドライバ状態判定装置 | |
JP2019087018A (ja) | ドライバモニタシステム | |
JPH0793700A (ja) | 運転者状態監視装置 | |
CN110235178B (zh) | 驾驶员状态推定装置以及驾驶员状态推定方法 | |
JP2021051680A (ja) | 緊急通報装置及び方法 | |
JP2010108167A (ja) | 顔認識装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060220 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080222 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080226 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080423 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080520 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080717 |
|
A911 | Transfer of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20080729 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080826 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080908 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4192643 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111003 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121003 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131003 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |