JP4438583B2 - 運転支援装置 - Google Patents

運転支援装置 Download PDF

Info

Publication number
JP4438583B2
JP4438583B2 JP2004275197A JP2004275197A JP4438583B2 JP 4438583 B2 JP4438583 B2 JP 4438583B2 JP 2004275197 A JP2004275197 A JP 2004275197A JP 2004275197 A JP2004275197 A JP 2004275197A JP 4438583 B2 JP4438583 B2 JP 4438583B2
Authority
JP
Japan
Prior art keywords
driver
host vehicle
vehicle
output
driving support
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004275197A
Other languages
English (en)
Other versions
JP2006092129A (ja
Inventor
雅明 市原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2004275197A priority Critical patent/JP4438583B2/ja
Publication of JP2006092129A publication Critical patent/JP2006092129A/ja
Application granted granted Critical
Publication of JP4438583B2 publication Critical patent/JP4438583B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、概して、自車両前方信号機の指示変化を運転者に知らせる運転支援装置に係り、特に、運転者に不快感を与えない運転支援装置に関する。
従来、自車両前方信号機の指示変化を運転者に知らせる運転支援システムが知られている(例えば、特許文献1参照)。
特開平6−251287号公報
しかしながら、上記従来の運転支援システムでは、運転者が不注意により信号見ていないのか、或いは、意図的に見ていないのかが判別されていないため、運転者が確信的に信号を見ていないとき、信号が変わったことをシステムから警告されると運転者が不快感を感じるおそれがある。
本発明はこのような課題を解決するためのものであり、運転者に不快感を与えずに、自車両前方信号機の指示変化を運転者に知らせる運転支援装置を提供することを主たる目的とする。
上記目的を達成するため、第1の発明は、自車両前方信号機の指示変化を運転者に知らせる運転支援装置であって、
自車両前方信号機の指示を検出する信号機指示検出手段と、
自車両停車中に前記信号機指示検出手段により前記自車両前方信号機の指示が発進不許可から発進許可に変化したことが検出されたときに、運転者に対する通知を音声で出力する音声出力手段と、
自車両の助手席に乗員がいるか否かを検知する助手席乗員検知手段と、
運転者が操舵ハンドルを握っているか否かを検知するハンドル握持検知手段と、
前記自車両前方信号機の指示が発進不許可から発進許可に変化したときに運転者が該自車両前方信号機を見ているか否かを検知する運転者視線方向検出手段とを有し、
前記音声出力手段は、前記助手席乗員検知手段により自車両の助手席に乗員が検知されたとき、前記ハンドル握持検知手段により運転者が操舵ハンドルを握っていることが検知されたとき、及び前記運転者視線方向検出手段により運転者が前記自車両前方信号機の指示の変化を見ていたことが検出されたとき、前記通知を出力せず、
前記音声出力手段は、前記信号機指示検出手段により自車両前方信号機の指示が発進許可になるまでの時間が取得できた場合であって、前記運転者視線方向検出手段により自車両前方信号機の指示が発信許可になる前N秒間でM秒間以上運転者が前方を見ていないことが検出されたとき、運転者に対する通知を音声で出力する、ことを特徴とする。
記信号機指示検出手段は、車両前方風景を撮像し、その撮像された画像に対して画像解析処理を行うことによって信号機の表示(指示)が何色であるかを識別する画像認識カメラであってもよく、或いは、信号機が無線信号でも指示(色)を伝達しているタイプのものであればその無線信号を受信し解読する無線機であってもよい。
また、上記助手席乗員検知手段は、例えば、助手席に向けられた画像認識カメラやシート内部又は下部に設置された圧力センサである
上記ハンドル握持検知手段は、例えば、操舵ハンドル表面に設置され、物理的接触を感知する接触センサである。
上記運転者視線方向検出手段は、例えば、運転者の目の動きを撮像できるように車室内に設置された画像認識カメラなどである。
の発明は、第1発明に係る運転支援装置であって、
自車両後方の所定の範囲内に他車両を検知する後方車両検知手段を更に有し、
前記音声出力手段は、前記後方車両検知手段により自車両後方の所定の範囲内に他車両が検知されないとき、前記通知を出力しない、ことを特徴とする。
上記後方車両検知手段は、例えば、自車両後部に取り付けられたレーダ、画像認識カメラ、又は超音波センサなどである。
の発明によれば、自車両後方に他車両が存在しない場合には、発進許可(青信号)になっても急いで発進する必要性は比較的低い、又は、荷物の出し入れなど信号一時停止とは別の理由で停車中である可能性がある、と判断して運転者に対して信号機の指示が発進許可(青)に変わったことをアナウンスしないため、運転者が不必要なアナウンスにより発進を急かされて不快感を感じるおそれが低減する。
第3の発明は、第1又は第2の発明に係る運転支援装置であって、
上記音声出力手段は、1度の通知で運転者は十分に信号機の指示(表示)が発進許可(青)に変わったことを認識し、通知を繰り返すと運転者に不快感を与えかねないとの観点から、上記通知を出力後、自車両が停車状態を継続した場合、2回目以降の通知を出力しない
第4の発明は、第1乃至第3のいずれか1つの発明に係る運転支援装置であって、
運転者の発話を音声認識処理し、当該運転支援装置の作動に対して否定的な表現を検出する音声認識手段を更に有し、
前記音声出力手段は、前記通知を出力後、前記音声認識手段により運転者が当該運転支援装置の作動に対して否定的な表現が検出されたとき、次の自車両停車中に前記信号機指示検出手段により自車両前方信号機の指示が発進不許可から発進許可に変化したことが検出されても前記通知を出力しない、ことを特徴とする。
第5の発明は、第1乃至第のいずれか1つの発明に係る運転支援装置であって、
運転者の発話を音声認識処理し、当該運転支援装置の作動に対して否定的な表現を検出する音声認識手段を更に有し、
前記音声出力手段は、前記通知を出力後、前記音声認識手段により運転者が当該運転支援装置の作動に対して否定的な表現が検出されたとき、次の自車両停車中に前記信号機指示検出手段により自車両前方信号機の指示が発進不許可から発進許可に変化したことが検出されてから前記通知を出力するまでに所定の時間間隔を空ける、ことを特徴とする。

本発明によれば、運転者に不快感を与えずに、自車両前方信号機の指示変化を運転者に知らせる運転支援装置を提供することができる。
以下、本発明を実施するための最良の形態について、添付図面を参照しながら実施例を挙げて説明する。なお、自車両前方信号機の指示変化を運転者に知らせる運転支援装置の基本概念、主要なハードウェア構成、作動原理、及び基本的な制御手法等については当業者には既知であるため、詳しい説明を省略する。
本発明の一実施例について図1及び2を用いて説明する。まず、図1を用いて、本実施例に係る運転支援装置100の構成について説明する。図1は、車両に搭載された運転支援装置100の概略構成図である。
運転支援装置100は、車両周辺の風景を撮像する車外カメラ(C)101、102と、これらカメラ101、102により撮像された画像を画像処理して、車両周辺の風景を解析し、解析結果を撮像時間と共にバッファする画像解析部103とを有する。
また、運転支援装置100は、更に、運転者の目の動きを撮像する視線カメラ(C)104、105と、これらカメラ104、105により撮像された画像から運転者の視線方向を検出し、検出結果を検出時間と共にバッファする視線検出部106とを有する。
また、運転支援装置100は、更に、運転者の発話音声を録取するためのマイク(MIC)107と、録取された運転者の発話音声を音声認識処理を用いて解析する音声認識部108とを有する。
また、運転支援装置100は、例えばレーダ、画像認識カメラ、又は超音波センサなどを含み、自車両後方の所定の範囲内に他車両を検出する後方車両検出部109と、撮像された自車両前方風景画像と検出された運転者の視線方向Vとを照合して運転者が信号機を見ているか否かを判断する制御部110とを有する。
さらに、運転支援装置100は、運転者に対する音声アナウンスを音声合成処理により生成する音声合成部111と、この音声合成部111により生成された音声アナウンスを運転者に対して出力するスピーカ112とを有する。
次いで、図2のフローチャートを用いて、本実施例に係る運転支援装置100による青信号アナウンス処理の流れを説明する。
イグニッションON時や運転支援装置100の電源投入時に本処理が開始されると、まず、図示しない車輪速センサなどの出力値から自車両が停車中であるか否かが判定される(S201)。本処理は車両が信号で一時停車中の場合のものであるため、停車中と判定されるまで待機状態となる(S201が繰り返される)。
自車両が停車中であると判定されると(S201の「YES」)、視線検出部106が視線カメラ104、105を作動させて運転者の視線方向Vの検出を開始する(S202)。さらに、画像解析部103が車外カメラ101、102を作動させて自車両前方の風景の撮像を開始し、撮像された画像の画像解析処理から信号機を検出する(S203)。
次いで、画像解析部103による自車両前方風景画像の画像解析処理により自車両前方の信号機が青(又は青緑などの発進許可を表す色)になったか否かが判定される(S204)。信号機が青にならなければアナウンスの必要はないため、青でなければ(S204の「NO」)S201へ戻り、青に変わるまで待機状態となる(S204の判定が繰り返される)。
自車両が停車中であって且つ信号機が青になった場合(S204の「YES」)、S205〜S208において、信号機が青になったことを運転者に知らせる音声アナウンスを出力するべきか否かが判定される。本実施例では、一例として、S205〜S208としてそれぞれ挙げた4つの判定条件を用いて音声アナウンスを出力すべきか否かを判定するものとしているが、これら4つの判定条件はいずれか1つだけが用いられてもよく、或いは、任意の2以上が組み合わせられて用いられてもよい。いずれの場合であっても、いずれかの判定条件が満たされれば、制御部110は画像解析部103から取得した信号機が青に変わった旨の報告を音声合成部111及びスピーカ112を通じてアナウンスしない。以下、本実施例のS205〜S208に沿って各判定条件を説明する。判定順序も任意でよく、本実施例の順序は一例に過ぎない。
まず、信号機が青に変わった瞬間に運転者が信号機を見ていたか及び/又は信号機が青に変わってから運転者が信号機を見たか否かが判定される(S205)。これは、制御部110が、画像解析部103により解析された自車両前方画像と視線検出部106により検出された運転者の視線方向Vとを照合することによって実現される。
信号機が青に変わった瞬間に運転者が信号機を見ていた又は信号機が青に変わってから運転者が信号機を見たと判断された場合(S205の「YES」)、運転者は青になったことを認識していると判断して、運転者に対して信号機が青に変わったことをアナウンスせずにS204へ戻る。これにより、信号機が青になったことを既に十分認識している運転者に対して重ねて音声アナウンスを出力することによって運転者に不快感を与える可能性が低減される。
信号機が青に変わった瞬間に運転者が信号機を見ておらず、信号機が青に変わってからも運転者が信号機を見ていないと判断された場合(S205の「NO」)、次に、助手席に乗員がいるか否かが判定される(S206)。これは、例えば、図示しない助手席に向けられた画像認識カメラや、シート内部又は下部に設置された圧力センサなどにより実現される。
助手席に乗員がいると判定された場合(S206の「YES」)、仮に運転者が青信号になったことに気が付いていなくても、助手席の乗員が気が付いて運転者に知らせる可能性があると判断して、運転者に対して信号機が青に変わったことをアナウンスせずにS204へ戻る。これにより、助手席の乗員から信号機が青になったことについて通知を受けた運転者に対して重ねて音声アナウンスを出力することによって運転者に不快感を与える可能性が低減される。なお、この判定条件は後部座席の乗員へ拡張することも可能である。
助手席に乗員がいないと判定された場合(S206の「NO」)、次に、運転者が操舵ハンドル(ステアリング・ハンドル)を握っているか否かが判定される(S207)。これは、例えば、図示しない操舵ハンドル表面に設置され、物理的接触を感知する接触センサなどにより実現される。
運転者が操舵ハンドルを握っていると判定された場合(S207の「YES」)、運転者はすぐにでも発進する準備ができており、前方へ注意を向けていると判断して、運転者に対して信号が青に変わったことをアナウンスせずにS204へ戻る。これにより、既に発進しようとしている運転者に対して音声アナウンスを出力することによって、運転者が必要以上に発進を急かされたと感じ、不快に思う可能性が低減される。
運転者が操舵ハンドルを握っていないと判定された場合(S207の「NO」)、最後に、自車両後方の所定の範囲内に他車両が存在するか否かが判定される(S208)。これは、後方車両検出部109が自車両後方の所定の範囲内を走査することによって実現される。
自車両後方の所定の範囲内に他車両が存在しない場合(S208の「NO」)、青信号になっても急いで発進する必要性は比較的低い、又は、荷物の出し入れなど信号一時停止とは別の理由で停車中である可能性があると判断して、運転者に対して信号機が青に変わったことをアナウンスせずにS204へ戻る。これにより、運転者が出力された音声アナウンスによって必要以上に発進を急かされたと感じ、不快に思う可能性が低減される。
このように、S205〜S208のいずれかの条件が満たされた場合には(S205の「YES」又はS206の「YES」又はS207の「YES」又はS208の「NO」)、信号機が青に変わったことを運転者に知らせる音声アナウンスは出力されない。
他方、S205〜S208のすべての条件が満たされなかった場合(S205の「NO」且つS206の「NO」且つS207の「NO」且つS208の「YES」)、信号機が青に変わったことを知らせる音声アナウンスを出力しても運転者に不快感を与える可能性は低いと判断され、制御部110は音声合成部111及びスピーカ112を通じて所定の音声アナウンス(例えば、「信号が青に変わりました」など)を出力する(S209)。
S209の後、本処理はS201へ戻って繰り返し実行されるが、本実施例において、音声アナウンスは同じ青信号に対しては一度しか出力されないものとする。すなわち、音声アナウンスが一旦出力された後、自車両がしばらく停車状態を維持したとしても、音声アナウンスは再度出力されない。これにより、音声アナウンスにより信号機が青になったことを既に十分認識した運転者に対して重ねて音声アナウンスを出力することによって運転者に不快感を与える可能性が低減される。
また、本実施例においては、S209において音声アナウンスが出力された後の運転者の反応を見て、上述のような判定条件が考慮されたにもかかわらず不快感を与えてしまったようであれば、以後は同様の不快感を与えないように出力条件又は出力タイミングを修正する自己修正機能を持つものとする。
具体的には、音声認識部108がマイク107を通じて取得した音声アナウンス出力後の運転者の発話を音声認識処理し、運転者の発話中に運転支援装置100に対する否定的な表現(例えば、「うるさい」、「だまれ」、「わかっているよ」など)が含まれていないか判定し、制御部110に報告する。制御部110は、音声認識部108より運転者から否定的な発言があったとの報告を受けると、運転者が以後同じ反応を取らないように、何らかの修正措置をとる。具体的には、例えば、a)所定期間又は所定回数(次の1回など)の間、S205〜S208の判定条件にかかわらず音声アナウンスの出力を停止する、或いは、b)S208とS209の間に所定の待機時間を設け、この所定の待機時間を経過しても依然として停車状態であったときだけ音声アナウンスを出力するようにする、或いは、c)運転者から再開操作が入力されるまで音声アナウンスの出力を中止する、或いは、d)音声アナウンスの表現をより柔らかい表現に変更する、などの対応が考えられる。
このように、本実施例によれば、運転者に不快感を与えるおそれがあると推定されたときには信号機が青に変わったことを運転者に知らせる音声アナウンスが出力されないため、運転者に不快感を与える可能性が低減される。
なお、上記一実施例において、例えば画像解析部103による歩行者用信号機の指示変化の検出などから、自車両前方の信号機が青になるまでの時間が取得できた場合、制御部110は、視線検出部106を利用して、運転者が青信号になる前N秒間でM秒間以上前方を見ていないとき、音声合成部111及びスピーカ112を通じて「信号が青に変わります」などといった音声アナウンスを出力してもよい。また、この場合、音声アナウンス出力後に運転者が上述のような否定的な発言をした場合、例えばMを大きくすることで対応してもよい。
本発明は、自車両前方信号機の指示変化を運転者に知らせる運転支援装置に利用できる。搭載される車両の外観、重量、サイズ、走行性能等は問わない。
本発明の一実施例に係る運転支援装置の概略構成図である。 本発明の一実施例に係る運転支援装置による車外対象物案内処理の流れを示すフローチャートである。
符号の説明
100 運転支援装置
101、102 車外カメラ
103 画像解析部
104、105 視線カメラ
106 視線検出部
107 マイク
108 音声認識部
109 後方車両検出部
110 制御部
111 音声合成部
112 スピーカ

Claims (5)

  1. 自車両前方信号機の指示変化を運転者に知らせる運転支援装置であって、
    自車両前方信号機の指示を検出する信号機指示検出手段と、
    自車両停車中に前記信号機指示検出手段により前記自車両前方信号機の指示が発進不許可から発進許可に変化したことが検出されたときに、運転者に対する通知を音声で出力する音声出力手段と、
    自車両の助手席に乗員がいるか否かを検知する助手席乗員検知手段と、
    運転者が操舵ハンドルを握っているか否かを検知するハンドル握持検知手段と、
    前記自車両前方信号機の指示が発進不許可から発進許可に変化したときに運転者が該自車両前方信号機を見ているか否かを検知する運転者視線方向検出手段とを有し、
    前記音声出力手段は、前記助手席乗員検知手段により自車両の助手席に乗員が検知されたとき、前記ハンドル握持検知手段により運転者が操舵ハンドルを握っていることが検知されたとき、及び前記運転者視線方向検出手段により運転者が前記自車両前方信号機の指示の変化を見ていたことが検出されたとき、前記通知を出力せず、
    前記音声出力手段は、前記信号機指示検出手段により自車両前方信号機の指示が発進許可になるまでの時間が取得できた場合であって、前記運転者視線方向検出手段により自車両前方信号機の指示が発信許可になる前N秒間でM秒間以上運転者が前方を見ていないことが検出されたとき、運転者に対する通知を音声で出力する、ことを特徴とする運転支援装置。
  2. 請求項1記載の運転支援装置であって、
    自車両後方の所定の範囲内に他車両を検知する後方車両検知手段を更に有し、
    前記音声出力手段は、前記後方車両検知手段により自車両後方の所定の範囲内に他車両が検知されないとき、前記通知を出力しない、ことを特徴とする運転支援装置。
  3. 請求項1又は2記載の運転支援装置であって、
    前記音声出力手段は、前記通知を出力後、自車両が停車状態を継続した場合であっても、2回目以降の通知を出力しない、ことを特徴とする運転支援装置。
  4. 請求項1乃至3のいずれか一項記載の運転支援装置であって、
    運転者の発話を音声認識処理し、当該運転支援装置の作動に対して否定的な表現を検出する音声認識手段を更に有し、
    前記音声出力手段は、前記通知を出力後、前記音声認識手段により運転者が当該運転支援装置の作動に対して否定的な表現が検出されたとき、次の自車両停車中に前記信号機指示検出手段により自車両前方信号機の指示が発進不許可から発進許可に変化したことが検出されても前記通知を出力しない、ことを特徴とする運転支援装置。
  5. 請求項1乃至のいずれか一項記載の運転支援装置であって、
    運転者の発話を音声認識処理し、当該運転支援装置の作動に対して否定的な表現を検出する音声認識手段を更に有し、
    前記音声出力手段は、前記通知を出力後、前記音声認識手段により運転者が当該運転支援装置の作動に対して否定的な表現が検出されたとき、次の自車両停車中に前記信号機指示検出手段により自車両前方信号機の指示が発進不許可から発進許可に変化したことが検出されてから前記通知を出力するまでに所定の時間間隔を空ける、ことを特徴とする運転支援装置。
JP2004275197A 2004-09-22 2004-09-22 運転支援装置 Expired - Fee Related JP4438583B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004275197A JP4438583B2 (ja) 2004-09-22 2004-09-22 運転支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004275197A JP4438583B2 (ja) 2004-09-22 2004-09-22 運転支援装置

Publications (2)

Publication Number Publication Date
JP2006092129A JP2006092129A (ja) 2006-04-06
JP4438583B2 true JP4438583B2 (ja) 2010-03-24

Family

ID=36233052

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004275197A Expired - Fee Related JP4438583B2 (ja) 2004-09-22 2004-09-22 運転支援装置

Country Status (1)

Country Link
JP (1) JP4438583B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8344906B2 (en) 2008-09-08 2013-01-01 International Business Machines Corporation Automated traffic synchronization
JP2010123100A (ja) * 2008-10-24 2010-06-03 Kinki Univ 交通信号検出・通知システム
KR101124948B1 (ko) * 2009-09-23 2012-03-27 현대자동차주식회사 전방 차량의 출발알림 경보시스템
JP2012048345A (ja) * 2010-08-25 2012-03-08 Denso Corp 車載装置
JP5803879B2 (ja) * 2012-11-14 2015-11-04 株式会社デンソー 運転支援装置、および運転支援方法
US20140300494A1 (en) * 2013-04-03 2014-10-09 Ford Global Technologies, Llc Location based feature usage prediction for contextual hmi
US9644986B2 (en) 2013-09-09 2017-05-09 Mitsubishi Electric Corporation Drive support system and drive support method
JP6201796B2 (ja) * 2014-02-10 2017-09-27 株式会社デンソー 車両制御装置
JP6261812B1 (ja) * 2016-11-17 2018-01-17 三菱電機株式会社 車載装置、携帯端末装置、認識支援システム、認識支援方法、及び認識支援プログラム
JP6686959B2 (ja) 2017-04-11 2020-04-22 株式会社デンソー 車両用報知装置
JP7538749B2 (ja) 2021-03-10 2024-08-22 本田技研工業株式会社 車両判別装置

Also Published As

Publication number Publication date
JP2006092129A (ja) 2006-04-06

Similar Documents

Publication Publication Date Title
JP5082834B2 (ja) 脇見検出装置および方法、並びに、プログラム
JP5958303B2 (ja) テキスト読み上げ装置
JP4438583B2 (ja) 運転支援装置
JP6462629B2 (ja) 運転支援装置及び運転支援プログラム
JP4645310B2 (ja) エージェントキャラクタ表示を利用した表示システム
JP4936059B2 (ja) 移動体接近認知装置
JP7203121B2 (ja) 鞍乗型車両のライダー支援システムのための処理装置及び処理方法、鞍乗型車両のライダー支援システム、及び、鞍乗型車両
JP5761109B2 (ja) 運転支援装置
JP2009116693A (ja) 車線逸脱防止制御装置
JP2007140978A (ja) 走行支援装置
JP2017182776A (ja) 車両周辺監視装置及びコンピュータプログラム
JP2005205943A (ja) 運転中における電話使用時の車輌制御装置及び電話使用検出方法
JP2018149865A (ja) 運転モード切替制御装置、システム、および方法
JP2021017112A (ja) 運転支援装置
JP2015128915A (ja) 後席乗員モニタシステム及び後席乗員モニタ方法
JP2011145922A (ja) 車速制御装置
JP2010023639A (ja) 車内会話補助装置
JP2009166612A (ja) 駐車支援装置
JP6018840B2 (ja) ドライブレコーダ
JP2018194961A (ja) 運転者監視装置、運転者監視方法及び運転者監視のためのプログラム
JP6332072B2 (ja) 対話装置
JP6428376B2 (ja) 情報表示装置
JP2023002810A (ja) 出力装置
JP6648722B2 (ja) 故障判定装置、方法およびプログラム
JP6816475B2 (ja) 車両用表示装置および表示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061101

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081023

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081028

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090106

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090929

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091215

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091228

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130115

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4438583

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130115

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130115

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees