JP4342708B2 - ドライバの視線領域の適合性を判定する車載情報処理装置 - Google Patents
ドライバの視線領域の適合性を判定する車載情報処理装置 Download PDFInfo
- Publication number
- JP4342708B2 JP4342708B2 JP2000269825A JP2000269825A JP4342708B2 JP 4342708 B2 JP4342708 B2 JP 4342708B2 JP 2000269825 A JP2000269825 A JP 2000269825A JP 2000269825 A JP2000269825 A JP 2000269825A JP 4342708 B2 JP4342708 B2 JP 4342708B2
- Authority
- JP
- Japan
- Prior art keywords
- line
- sight
- vehicle
- driver
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Navigation (AREA)
- Eye Examination Apparatus (AREA)
- Image Processing (AREA)
- Emergency Alarm Devices (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
この発明は、車載の情報処理装置に関し、より具体的にはドライバの観察力、注意力を補完する車載情報処理装置に関する。
【0002】
【従来の技術】
従来、走行中の車両の周囲における危険要因は、ドライバ自身の観察力および注意力によって把握されている。ドライバの心理状態、身体状態の不調などにより危険要因の見落としがあると、事故寸前の状態になってひやりとしたり、最悪の場合は、事故にいたる。
【0003】
特開平8-207617号公報には、ドライバの顔または視線の方向を検出して、運転状態検出手段で検出された運転状態に応じた基準値と視線方向を比較し、脇見運転の判定を行い、警報を発するようにした車載装置が開示されている。
【0004】
この脇見運転判定装置は、ドライバは車両前方を注視しなければならないとの前提で、ドライバの脇見状態を監視するものであり、安全確認のためにドライバが特定の方向、たとえばサイドミラー、バックミラーまたは車両の左後方、右後方を見るという積極的な注意行動を監視するものではない。
【0005】
特開平7-61257号公報には、障害物を検出し、ウィンドシールド上にHUD(ヘッドアップディスプレイ)表示する装置において、ドライバの視線方向を検出し、その分布状態を演算し、ドライバの視線の頻度に応じてHUD表示像の輝度レベルを変えることが記載されている。
【0006】
一方、カーナビゲーション(以下、カーナビという)の分野では、情報センタにインターネットを経由して接続し、行き先の地域に関する諸々の情報、レジャー情報などをアクセスしこれをカーナビ装置のメモリに格納し、必要に応じてこれを検索して液晶ディスプレイに表示させることが行われている。たとえば、インターナビシステム(本田技研工業株式会社の商標)の場合、事前にパソコン通信を利用して情報センタにアクセスして必要な情報を検索してパーソナルコンピュータにダウンロードし、この情報を着脱式のメモリカードに記憶させ、このメモリカードを自動車に搭載されているカーナビ装置にセットして利用することができ、また、パソコンに代えてカーナビ装置の通信装置に携帯電話を接続し、携帯電話を利用して情報センタにアクセスして同様の操作で所望の情報をカーナビ装置に直接ダウンロードすることもできる。
【0007】
【発明が解決しようとする課題】
これらの従来の車載情報処理装置は、ドライバが行うべき注意行動に対する監視機能を備えていない。たとえば左折時に左サイドミラーで左後方を確認し、さらに左後方を振り向いて直接左側および左後方の安全を確認する行動を監視し、補完することは、車両走行の安全性を向上させる上で重要である。
【0008】
したがって、この発明は、ドライバがとるべき注意行動を監視する車載の情報処理装置を提供することを目的とする。
【0009】
【課題を解決するための手段】
この発明の情報処理装置は、車両の走行環境に基づいてドライバが目を向けるべき視線領域を予測する視線領域予測部と、車両に搭載されたセンサの出力に基づいてドライバの視線領域を検出する視線領域検出部と、前記視線領域予測部によって予測された視線領域と前記視線領域検出部によって検出された視線領域との適合性を判定する判定部と、を備える。
【0010】
この発明によると、車両の走行環境に基づいてドライバが見るべき領域を予測し、ドライバの視線領域を検出してこの領域をドライバが見たかどうかを判定するので、ドライバが走行環境の下で当然はらうべき注意をはらって運転しているかどうかを判定することができる。
【0011】
この発明の一面によると、車載情報処理装置は、判定部の出力が不適合を示すことに応答して、ドライバに警告を発する警告装置を備えている。また、この発明のもう一つの側面によると、車載情報処理装置は、カーナビゲーション機能を備えており、視線領域予測部は、カーナビゲーションのルート管理機能に従い左折または右折のハンドル操作を要する環境に基づいて左サイドミラー領域または右サイドミラー領域、またはバックミラー領域を視線領域として予測する。
【0012】
また、この発明の他の面によると、車載情報処理装置は、車両前方の物体を検出する前方監視装置を備え、視線領域予測部は、前方監視装置が物体への接近を示すとき、物体領域を視線領域として予測する。また、この発明のさらに他の面によると、車載情報処理装置は、車両後方の物体を検出する後方監視装置を備え、視線領域予測部は、後方監視装置が後方の他の車両が自車両に接近していることを示すとき、バックミラー領域を視線領域として予測する。
【0013】
【発明の実施の形態】
次に図面を参照してこの発明の実施の形態を説明する。図1は、車両の通信環境を示す概念図である。車5には、液晶ディスプレイ(LCD)を備えナビゲーション機能を持つ情報処理装置6が搭載されている。車5のトランクには道路地図データが書き込まれたCD−ROMを読み出すためのCD−ROMプレーヤ7が格納されている。複数のGSP衛星2からの電波は、GSPアンテナ8で受信されCD−ROMプレーヤ7に組み込まれているGSPレシーバーで信号処理され、車5の緯度および経度が測定され、車の現在位置が認識される。こうして認識された車の現在位置は、CDーROMから読み出されてLCDに表示される道路地図上に重ねて表示される。
【0014】
情報処理装置6は、放送局から放送されるFM多重放送によるデータ伝送を受信する受信機を備えており、アンテナ9で受信するFM波の信号処理を行う。FM放送局は、VICSが提供する公共の道路交通情報をFM多重放送で放送する。FM多重放送は、FM波の副搬送波を使ったデータ伝送で、例えば「見えるラジオ」として文字データを放送し、受信したラジオのLCDに文字情報を表示することが行われている。
【0015】
情報処理装置6は、さらに携帯電話を使ってたとえば株式会社ホンダアクセスが運営するインターナビ情報センタなどの情報センタ3にアクセスし、所定の手順でデータを検索し所望のデータの送信を受ける機能を備えている。情報センタ3が提供する情報には、警察から提供される過去の交通事故に関する情報が含まれる。この情報には、交通事故を起こした場所の緯度、経度、同じ場所での事故発生の頻度、事故の形態(左折車、右折車、追突、側面衝突)などに関する情報が含まれている。
【0016】
利用者は、自宅のパーソナルコンピュータからインターネット経由で情報センタ3に接続して、利用したい情報を検索してパーソナルコンピュータにダウンロードすることができる。このとき、パーソナルコンピュータのPCMCIAスロットにメモリカード(フラッシュメモリとも呼ばれる)を差込み、このメモリカードに情報を記憶させる。このメモリカードをパーソナルコンピュータから引き抜き、車載の情報処理装置に差し込むと、情報センタ3からダウンロードした情報を車載情報処理装置で利用することができる。
【0017】
次に図2は、この発明の一実施例の車載情報処理装置の全体的な構成を示すブロック図である。視線センサ11は、この実施例では車両内部でドライバの前方上方に取り付けられた赤外線照明装置と赤外線カメラとで構成される。赤外線照影装置がドライバの顔付近に可視域外の赤外線を照射し、赤外線カメラがドライバの顔付近の像を捕捉する。
【0018】
視線検出部12は、視線センサ11が捕捉したドライバの顔の像を画像処理し、顔の向き(まっすぐ前の方向に対する顔が向いている方向の角度)を検出するとともにドライバの眼球から反射した光を検出する。一実施例では、特開平7-61257号公報に記載されている視線方向の検出手法を用いる。すなわち、視線検出部12は、瞳孔と角膜反射像の組み合わせから視線方向を検出する。視線センサ11で得られる画像からドライバの瞳孔中心および角膜球中心を計算し、瞳孔中心と角膜球中心を結んだ線を計算すると、ドライバの視線、すなわち顔の正面に対するドライバの視線の傾きが得られる。これにドライバの顔の向きを加えると車両の正面に対するドライバの視線が得られる。たとえば、ドライバが車両の正面に対して顔を20度左に向け、瞳孔中心を角膜球中心から10度左に向けていると、ドライバの視線は車両正面に対して30度左を向いている。
【0019】
この発明のもう一つの実施例では、視線検出部12は、ドライバの顔の向きだけを検出し、顔の向く方向を視線方向として扱う。視線方向の精度は落ちるが、CPUの演算の負担を小さくすることができる。また、サイドミラーを見る、バックミラーを見るといったドライバの動作は通常、顔の向きを変えて行われるから、この発明の目的のためには実用上支障のない精度が得られる。ドライバの顔の向きを検出する手法としては、上記の視線センサの他に、この出願と同一出願人に係る特開2000-113164号公報に記載される差分画像を用いて乗員の動きを検出する技術を使用することができる。
【0020】
視線領域検出部13は、視線検出部12で検出されたドライバの視線の角度にも基づいて現在の視線が次の視線領域のいずれに属するかを判断する。すなわち、正面前方、左前方、左サイドミラー、左横、左後方(視線検出不能)、右前方、右サイドミラー、右横、右後方(視線検出不能)、およびバックミラーの視線領域のいずれに属するか判断する。ここで視線が左後方にあることは、前回観測した視線領域が左横にあり、今回視線の検出が不能になったとき、視線は左後方に向いていると判断する。右後方も同様のロジックによって判断する。視線領域の判断は、たとえば100ミリ秒の周期で実行される。
【0021】
ドライバの行動予測部27は、カーナビ21、前方監視装置22、後方監視装置23、および交差点レーダ25から車両の外部環境を示す情報を受け取り、それぞれの外部環境においてドライバがとる行動を予測データベース28を参照して予測する。たとえば、カーナビ21がルート管理機能を働かせてドライバを目的地にガイドするモードで動作しているとき、左折すべき交差点に接近すると(すなわち、GSPからの信号に基づいて検出される車両の緯度、経度が左折すべき交差点の緯度、経度に接近すると)、行動予測部27は、予測データベース28を参照して、ドライバの視線が左前方に向き、左サイドミラーに向き、次いで左後方に向くと予測する。
【0022】
前方監視装置22は、レーダにより車両前方の車両その他の障害物の存在および障害物までの距離を検出する装置であり、後方監視装置23は、レーダにより車両後方の車両その他の障害物の存在および障害物が自車に接近する速度を検出する装置である。前方監視装置22および後方監視装置23は、それ自体公知の技術であり、レーダを用いる方式のほかにCCD撮像装置を用いた画像処理によって監視する方式がある。CCD撮像装置を用いた前方または後方の車両その他の物体検出装置は、この出願と同一出願人に係る特願平11-269627号、11-314330号、11-314331号、11-314332号などに記載されている。
【0023】
たとえば、後方監視装置23が後方から自車に相当な速度で接近する車両を検出し、その信号を行動予測部27に送ると、行動予測部27は、予測データベース28を参照して、ドライバの視線がバックミラーに向くと予測する。
【0024】
交差点レーダ25は、事故が多発する交差点に設けられたレーダで、たとえば陸橋が設けられ、歩行者用の横断路が設けられていない交差点において道路を横断する歩行者を検出して、検出信号を送信する。車載情報処理装置には、この信号を受信する受信機が備えられており、この信号を受信すると、行動予測部27は、予測データベース28を参照して、ドライバの視線が左前方または右前方に向くと予測する。
【0025】
行動予測部27がこのような行動予測を行うことに応答して、ドライバの視線領域予測部29は、行動予測から所定の時間内にドライバの視線が向かうべき視線領域を予測データベース28を参照して予測する。たとえば、車両が左折しようとするときは、行動予測から3秒以内にドライバの視線が左サイドミラー領域にゆき、次いで左横視線領域から左後方視線領域にゆくと予測する。
【0026】
適合性判定部15は、視線領域予測部29からの予測出力を受けて、予測のタイミングと同期して視線領域検出部13からドライバの実際の視線がある領域を取り出し、両者を比較する。視線領域検出部13から取り出される視線領域が視線領域予測部29からの予測出力と一致するときは、適合性判定部15は、「適合」を示す出力を出す。この出力は、カーナビゲーションの走行軌跡情報の一部としてメモリカード19に記憶される。
【0027】
視線領域検出部13から取り出される視線領域が視線領域予測部29からの予測出力と一致しないときは、適合性判定部15は、「不適合」を示す出力を出す。この「不適合」出力は、車両の走行軌跡とともにメモリカード19に記憶されるとともに警告装置17に送られ、ドライバに対して警告が発せられる。この実施例では「ピーン」というチャイム音に続いて音声により、この例の状況では「左後方に注意してください」というアナウンスが流されることにより、警告がなされる。
【0028】
利用者は、車両の使用を終了した後、走行軌跡が記憶されたメモリカード19を車載情報処理装置から取り出し、自宅のパーソナルコンピュータのカード・スロットに差し込み、パーソナルコンピュータにインストールされているカーナビゲーション・プログラムを起動させることによって、走行軌跡をレビューすることができる。その際、走行中に実施された適合性判定部15による判定が走行軌跡に沿って表示され、警告が発せられた箇所では警告が再現される。このようにすることにより、ドライバは運転中の注意力の欠点を知ることができるので、安全運転に向けて運転スキルを向上させることができる。
【0029】
【発明の効果】
この発明によると、車両運転中のドライバの注意力を監視し補完することができる。
【図面の簡単な説明】
【図1】この発明の一実施例におけるシステム環境を示す図。
【図2】この発明の一実施例における車載情報処理装置の全体的なブロック図。
【図3】この発明の一実施例における視線領域検出手段の構成を示すブロック図。
【符号の説明】
11 視線センサ
12 視線検出部
13 視線領域検出部
27 ドライバの行動予測部
29 ドライバの視線領域予測部
15 適合性判定部
Claims (3)
- 車両の走行環境に基づいてドライバが目を向けるべき視線領域を予測する視線領域予測部と、
車両に搭載されたセンサの出力に基づいてドライバの視線領域を検出する視線領域検出部と、
前記視線領域予測部によって予測された視線領域と前記視線領域検出部によって検出された視線領域との適合性を判定する判定部と、
カーナビゲーション装置と、を備え、
前記視線領域予測部は、カーナビゲーション装置上で予め設定されたルートを車両が走行するとき、該ルートにおいて左折または右折のハンドル操作を要する環境に車両が到達したことに基づいて、左サイドミラー領域または右サイドミラー領域、またはバックミラー領域を視線領域として予測するよう構成されている車載情報処理装置。 - 車両前方の物体を検出する前方監視装置を備え、前記視線領域予測部は、該前方監視装置が物体への接近を示すとき、該物体領域を視線領域として予測するよう構成された請求項1に記載の車載情報処理装置。
- 車両後方の物体を検出する後方監視装置を備え、前記視線領域予測部は、該後方監視装置が後方の他の車両が自車両に接近していることを示すとき、バックミラー領域を視線領域として予測するよう構成された請求項1記載の車載情報処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000269825A JP4342708B2 (ja) | 2000-09-06 | 2000-09-06 | ドライバの視線領域の適合性を判定する車載情報処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000269825A JP4342708B2 (ja) | 2000-09-06 | 2000-09-06 | ドライバの視線領域の適合性を判定する車載情報処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002083400A JP2002083400A (ja) | 2002-03-22 |
JP4342708B2 true JP4342708B2 (ja) | 2009-10-14 |
Family
ID=18756367
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000269825A Expired - Fee Related JP4342708B2 (ja) | 2000-09-06 | 2000-09-06 | ドライバの視線領域の適合性を判定する車載情報処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4342708B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220203975A1 (en) * | 2016-09-26 | 2022-06-30 | Keith J. Hanna | Systems and methods for collision avoidance |
Families Citing this family (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4277081B2 (ja) * | 2004-03-17 | 2009-06-10 | 株式会社デンソー | 運転支援装置 |
JP4683192B2 (ja) * | 2005-02-15 | 2011-05-11 | 株式会社デンソー | 車両用死角監視装置及び車両用運転支援システム |
JP4754305B2 (ja) * | 2005-09-09 | 2011-08-24 | 富士重工業株式会社 | 運転状態推定装置 |
JP2007249757A (ja) * | 2006-03-17 | 2007-09-27 | Denso It Laboratory Inc | 警報装置 |
JP4420002B2 (ja) | 2006-09-14 | 2010-02-24 | トヨタ自動車株式会社 | 視線先推定装置 |
JP4811259B2 (ja) * | 2006-12-11 | 2011-11-09 | 日産自動車株式会社 | 視線方向推定装置及び視線方向推定方法 |
JP4826506B2 (ja) * | 2007-02-27 | 2011-11-30 | 日産自動車株式会社 | 視線推定装置 |
JP4762939B2 (ja) * | 2007-03-08 | 2011-08-31 | トヨタ自動車株式会社 | 車両用監視装置 |
JP2008262388A (ja) * | 2007-04-12 | 2008-10-30 | Toyota Central R&D Labs Inc | 安全確認アドバイス装置 |
JP4893507B2 (ja) * | 2007-07-04 | 2012-03-07 | オムロン株式会社 | 脇見検出装置および方法、並びに、プログラム |
JP4935589B2 (ja) * | 2007-09-10 | 2012-05-23 | 株式会社デンソー | 状態判定装置およびプログラム |
JP2009067334A (ja) * | 2007-09-17 | 2009-04-02 | Denso Corp | 車両安全装置 |
JP4992764B2 (ja) * | 2007-10-23 | 2012-08-08 | 株式会社デンソー | 安全確認判定装置および運転教示支援システム |
JP5568761B2 (ja) * | 2009-02-03 | 2014-08-13 | 富士重工業株式会社 | 視野推定装置、視野推定方法、コンピュータプログラム及び記録媒体 |
JP2010256554A (ja) * | 2009-04-23 | 2010-11-11 | Pioneer Electronic Corp | 情報処理装置及び画像表示制御方法 |
JP5257514B2 (ja) * | 2009-05-12 | 2013-08-07 | トヨタ自動車株式会社 | 視認領域推定装置および運転支援装置 |
JP5363208B2 (ja) * | 2009-06-18 | 2013-12-11 | 本田技研工業株式会社 | 視認行動情報提示装置 |
JP2012103849A (ja) * | 2010-11-09 | 2012-05-31 | Denso Corp | 情報提供装置 |
JP5742180B2 (ja) * | 2010-11-09 | 2015-07-01 | 株式会社デンソー | 注視点推定装置 |
JP5561219B2 (ja) * | 2011-03-25 | 2014-07-30 | 株式会社デンソー | 視線方向検出装置 |
JP5853206B2 (ja) * | 2011-03-31 | 2016-02-09 | パナソニックIpマネジメント株式会社 | 車載用表示装置 |
KR101343875B1 (ko) * | 2011-12-06 | 2013-12-23 | 경북대학교 산학협력단 | 사용자 인지 분석 장치 및 사용자 인지 분석 방법 |
JP6061798B2 (ja) * | 2013-06-27 | 2017-01-18 | 三菱電機株式会社 | 運転操作管理装置 |
JP6320942B2 (ja) * | 2015-01-14 | 2018-05-09 | 株式会社デンソーアイティーラボラトリ | 重み行列学習装置、視線方向予測システム、警告システムおよび重み行列学習方法 |
WO2016166791A1 (ja) * | 2015-04-13 | 2016-10-20 | 三菱電機株式会社 | 運転支援装置 |
JP6520531B2 (ja) | 2015-07-30 | 2019-05-29 | アイシン精機株式会社 | 運転支援装置 |
JP2018133031A (ja) * | 2017-02-17 | 2018-08-23 | オムロン株式会社 | 運転切替支援装置、及び運転切替支援方法 |
JP6645618B2 (ja) * | 2017-03-28 | 2020-02-14 | 三菱電機株式会社 | 情報提供装置 |
JP7309480B2 (ja) * | 2019-06-27 | 2023-07-18 | フォルシアクラリオン・エレクトロニクス株式会社 | 車載装置、及び車載装置の制御方法 |
CN113506425A (zh) * | 2021-06-24 | 2021-10-15 | 广州通达汽车电气股份有限公司 | 一种电子后视镜以及车辆 |
JP2023035244A (ja) | 2021-08-31 | 2023-03-13 | トヨタ自動車株式会社 | 車両用警告システム |
JP2024040695A (ja) | 2022-09-13 | 2024-03-26 | トヨタ自動車株式会社 | 表示制御装置、表示制御方法及びプログラム |
-
2000
- 2000-09-06 JP JP2000269825A patent/JP4342708B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220203975A1 (en) * | 2016-09-26 | 2022-06-30 | Keith J. Hanna | Systems and methods for collision avoidance |
US11760346B2 (en) * | 2016-09-26 | 2023-09-19 | Knapp Investment Company Limited | Systems and methods for collision avoidance |
Also Published As
Publication number | Publication date |
---|---|
JP2002083400A (ja) | 2002-03-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4342708B2 (ja) | ドライバの視線領域の適合性を判定する車載情報処理装置 | |
JP5120249B2 (ja) | 監視装置および監視方法、制御装置および制御方法、並びにプログラム | |
US10262629B2 (en) | Display device | |
EP3663155B1 (en) | Autonomous driving system | |
US8996276B2 (en) | Vehicle driving support control apparatus | |
JP6317315B2 (ja) | 標識情報表示装置及び方法 | |
CN109716415B (zh) | 车辆控制装置、车辆控制方法以及移动体 | |
JP2001256598A (ja) | 危険箇所報知システム | |
US11628860B2 (en) | Autonomous driving system that can eliminate a system distrust state of the driver | |
US11873007B2 (en) | Information processing apparatus, information processing method, and program | |
JP4203852B2 (ja) | 走行支援システム、車載端末器及び携帯型端末器 | |
WO2017104209A1 (ja) | 運転支援装置 | |
WO2018180756A1 (ja) | 運転支援システム | |
JP2731899B2 (ja) | 車両のウインカ制御装置 | |
KR20160049805A (ko) | 모바일 단말을 이용한 차량의 사각지대 정보 출력 제어 장치 및 방법 | |
JP2004061259A (ja) | 情報提供装置、情報提供方法及び情報提供用プログラム | |
JP2000331289A (ja) | 車両用表示装置 | |
JP4499525B2 (ja) | 危険警報システム | |
JP4118743B2 (ja) | 車載システム | |
JP2008256420A (ja) | 車両用運転支援装置 | |
WO2017141375A1 (ja) | 危険予測装置、移動端末及び危険予測方法 | |
CN113212451A (zh) | 一种智能驾驶汽车用后视辅助系统 | |
JP4178551B2 (ja) | 車両用情報提供装置 | |
JP2008164505A (ja) | 情報提供装置 | |
JP3278330B2 (ja) | ナビゲーション装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061201 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080902 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080904 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081009 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090707 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090708 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120717 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120717 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130717 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140717 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |