JP4941752B2 - 運転支援装置および方法、並びに、プログラム - Google Patents

運転支援装置および方法、並びに、プログラム Download PDF

Info

Publication number
JP4941752B2
JP4941752B2 JP2007211910A JP2007211910A JP4941752B2 JP 4941752 B2 JP4941752 B2 JP 4941752B2 JP 2007211910 A JP2007211910 A JP 2007211910A JP 2007211910 A JP2007211910 A JP 2007211910A JP 4941752 B2 JP4941752 B2 JP 4941752B2
Authority
JP
Japan
Prior art keywords
driving
driver
level
driving support
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007211910A
Other languages
English (en)
Other versions
JP2009048307A (ja
Inventor
美文 大和
勇作 井戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2007211910A priority Critical patent/JP4941752B2/ja
Publication of JP2009048307A publication Critical patent/JP2009048307A/ja
Application granted granted Critical
Publication of JP4941752B2 publication Critical patent/JP4941752B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、運転支援装置および方法、並びに、プログラムに関し、特に、乗り物の運転を支援する運転支援装置および方法、並びに、プログラムに関する。
従来、ミリ波レーダやレーザレーダなどを用いて車両の周囲の障害物を検出し、障害物と衝突する恐れがある場合に、運転者に注意を促す警報を鳴らしたり、ブレーキを自動制御したりする運転支援システムが実用化されている。しかし、そのような運転支援システムの機能は、運転技術の高い運転者にとって煩わしい場合がある。
そこで、各々の運転者に適した運転支援を行うために、運転免許証番号、運転歴(運転免許取得年月日)、年齢、性別、居住区域、運転者の運転技量(交通法規違反歴、交通事故歴)及び運転嗜好等の運転者情報を記憶した運転免許証兼用のICカードを車両に設けられている読取/書込装置に装填し、ICカードから読み取ったドライバ情報に基づいて、車間距離、加速度、減速度、上限速度、警報音の発生タイミングなどを制御することが提案されている(例えば、特許文献1参照)。
特開2003−118425号公報
しかしながら、特許文献1に記載の発明では、運転を行う度に、ICカードを装填し、ドライバ情報を読み込ませる必要があり、運転者が煩わしく感じてしまう恐れがある。また、ICカードを紛失したり、忘れたり、あるいは、装填し忘れた場合、運転支援を受けることができなくなる。
本発明は、このような状況に鑑みてなされたものであり、より簡単に各自に適した運転支援を運転者が受けることができるようにするものである。
本発明の一側面の運転支援装置は、乗り物の運転を支援する運転支援装置において、乗り物を運転する運転者の顔を含む画像である顔画像に基づいて、運転者の属性を推定するとともに、運転者の属性の推定結果の確からしさを示す推定信頼度を求める属性推定手段と、推定された属性に応じて、運転者の運転を支援する程度を示す運転支援度を設定するとともに、推定信頼度が低いほど、属性に応じて設定した運転支援度を大きく補正する運転支援度設定手段と、運転者の運転操作の履歴に基づいて運転者の運転技術のレベルを示す運転習熟度を学習し、運転習熟度に基づいて運転支援度を更新する学習手段と、運転支援度に応じた程度で運転の支援を行う運転支援手段とを備える。
本発明の一側面の運転支援装置においては、乗り物を運転する運転者の顔を含む画像である顔画像に基づいて、運転者の属性が推定されるとともに、運転者の属性の推定結果の確からしさを示す推定信頼度が求められ、推定された属性に応じて、運転者の運転を支援する程度を示す運転支援度が設定されるとともに、推定信頼度が低いほど、属性に応じて設定した運転支援度を大きく補正され、運転者の運転操作の履歴に基づいて運転者の運転技術のレベルを示す運転習熟度が学習され、運転習熟度に基づいて運転支援度が更新され、運転支援度に応じた程度で運転の支援が行われる。
従って、より簡単に各自に適した運転支援を運転者が受けることができる。また、運転者の個人情報を用いずに運転支援を受けることができ、個人情報の漏洩の対策を考慮する必要がない。さらに、推定した属性が実際と異なっていても、運転者は、各自に適した運転支援を受けることができる。
この属性推定手段、運転支援度設定手段、学習手段、および、運転支援手段は、例えば、CPU(Central Processing Unit)により構成される。
この運転支援度設定手段には、推定信頼度が低いほど同じ属性に対して低い値となるように運転支援度を補正させることができる。
これにより、推定した属性が実際と異なっていても、運転支援が過剰に行われ、運転者が煩わしく感じることが防止される。
この学習手段には、運転支援度の変更が指令された場合、指令に基づいて運転支援度を設定させるとともに、運転者に対する運転習熟度の学習および運転習熟度に基づく運転支援度の更新を停止させることができる。
これにより、運転者は、自分が所望する運転支援を受けることができる。
この運転支援装置は、顔画像を用いて運転者の認証処理を行う認証手段をさらに備え、この運転支援手段には、認証処理により運転者が特定された場合、特定された運転者の前回の運転支援度に基づいて運転の支援を開始させることができる。
これにより、2回目以降は、運転者の属性を用いずに運転支援を行うことができる。
この運転支援手段は、例えば、CPU(Central Processing Unit)により構成される。
この運転支援装置は、各運転者により設定された乗り物の運転環境を示す運転環境情報を収集する運転環境情報手段と、顔画像を用いて運転者の認証処理を行う認証手段と、認証処理により運転者が特定された場合、特定された運転者に対応する運転環境情報に基づいて、乗り物の運転環境を設定する運転環境設定手段とを備えることができる。
これにより、運転者に負担をかけることなく、各自の嗜好に合った運転環境を提供することができる。
この運転環境情報手段、認証手段、運転環境手段は、例えば、CPU(Central Processing Unit)により構成される。
本発明の一側面の運転支援方法またはプログラムは、乗り物の運転を支援する運転支援装置の運転支援方法、または、乗り物の運転を支援するコンピュータに、処理を実行させるプログラムにおいて、乗り物を運転する運転者の顔を含む画像である顔画像に基づいて、運転者の属性を推定するとともに、運転者の属性の推定結果の確からしさを示す推定信頼度を求める属性推定ステップと、推定された属性に応じて、運転者の運転を支援する程度を示す運転支援度を設定するとともに、推定信頼度が低いほど、属性に応じて設定した運転支援度を大きく補正する運転支援度設定ステップと、運転者の運転操作の履歴に基づいて運転者の運転技術のレベルを示す運転習熟度を学習し、運転習熟度に基づいて運転支援度を更新する学習ステップと、運転支援度に応じた程度で運転の支援を行う運転支援ステップとを含む。
本発明の一側面の運転支援方法またはプログラムにおいては、乗り物を運転する運転者の顔を含む画像である顔画像に基づいて、運転者の属性が推定されるとともに、運転者の属性の推定結果の確からしさを示す推定信頼度が求められ、推定された属性に応じて、運転者の運転を支援する程度を示す運転支援度が設定されるとともに、推定信頼度が低いほど、属性に応じて設定した運転支援度を大きく補正され、運転者の運転操作の履歴に基づいて運転者の運転技術のレベルを示す運転習熟度が学習され、運転習熟度に基づいて運転支援度が更新され、運転支援度に応じた程度で運転の支援が行われる。
従って、より簡単に各自に適した運転支援を運転者が受けることができる。また、運転者の個人情報を用いずに運転支援を受けることができ、個人情報の漏洩の対策を考慮する必要がない。さらに、推定した属性が実際と異なっていても、運転者は、各自に適した運転支援を受けることができる。
この属性推定ステップは、例えば、乗り物を運転する運転者の顔を含む画像である顔画像に基づいて、運転者の属性をCPUにより推定するとともに、運転者の属性の推定結果の確からしさを示す推定信頼度を求める属性推定ステップにより構成され、この運転支援度設定ステップは、例えば、推定された属性に応じて、運転者の運転を支援する程度を示す運転支援度をCPUにより設定するとともに、推定信頼度が低いほど、属性に応じて設定した運転支援度を大きく補正する運転支援度設定ステップにより構成され、この学習ステップは、例えば、CPUにより、運転者の運転操作の履歴に基づいて運転者の運転技術のレベルを示す運転習熟度を学習し、運転習熟度に基づいて運転支援度を更新する学習ステップにより構成され、この運転支援ステップは、例えば、運転支援度に応じた程度で運転の支援をCPUにより行う運転支援ステップにより構成される。
以上のように、本発明の一側面によれば、運転の支援を行うことができる。特に、本発明の一側面によれば、より簡単に各自に適した運転支援を運転者が受けることができる。
以下、図を参照して、本発明の実施の形態について説明する。
図1は、本発明を適用した運転支援システムの一実施の形態を示すブロック図である。図1の運転支援システム1は、運転支援システム1が設けられた車両(以下、自車とも称する)を運転する運転者に対する運転支援を行う。運転支援システム1は、カメラ11、距離センサ12、加速度センサ13、速度センサ14、コンピュータ15、警報装置16、ブレーキ制御ECU(Electronic Control Unit)17、カーオーディオ装置18、エアコンECU(Electronic Control Unit)19、エアコンアクチュエータ20、ボデーECU(Electronic Control Unit)21、シートアクチュエータ22、および、ミラーアクチュエータ23を含むように構成される。
カメラ11は、例えば、CCD撮像素子、CMOS撮像素子、または、対数変換型撮像素子などを用いたカメラにより構成される。カメラ11は、自車を運転している運転者の顔をほぼ正面から撮影できる位置に設置され、撮影した画像(以下、顔画像と称する)をコンピュータ15に供給する。
距離センサ12は、自車の周囲の物体を検出したり、検出した物体との距離や相対速度などを検出したりする。距離センサ12は、検出結果を示す信号をコンピュータ15に供給する。
距離センサ12は、例えば、ミリ波レーダ、レーザレーダ、ステレオカメラなどにより構成される。例えば、距離センサ12がミリ波レーダにより構成される場合、距離センサ12は、周波数帯域が30GHzから300GHz程度で、波長がおおよそ10mm(30GHz)から1mm(300GHz)程度の電波であるミリ波を自車の周囲の所定の範囲に放射する。そして、距離センサ12は、そのミリ波の反射波を受信し、反射波が反射されてくるまでの時間や、出射波と反射波の周波数差などに基づいて、ミリ波を反射した反射物体との距離、反射物体の自車に対する相対速度等を検出する。
加速度センサ13は、自車の加速度を検出し、検出結果を示す信号をコンピュータ15に供給する。
速度センサ14は、自車の速度を検出し、検出結果を示す信号をコンピュータ15に供給する。
コンピュータ15は、カメラ11により撮影された顔画像に基づいて、運転者の属性を推定したり、運転者の認証を行ったりする。また、コンピュータ15は、加速度センサ13および速度センサ14からの信号、並びに、ブレーキ制御ECU17からの情報などに基づいて、各運転者の運転技術のレベルを学習する。コンピュータ15は、距離センサ12からの信号に基づいて、自車の周囲の障害物を検出し、各運転者の属性および運転技術のレベルに応じて、警報装置16およびブレーキ制御ECU17を制御することにより、運転支援を行う。また、コンピュータ15は、各運転者が嗜好する運転環境を学習し、カーオーディオ装置18、エアコンECU19、および、ボデーECU21を制御して、各運転者に応じて、運転者が嗜好する運転環境を設定する。
なお、コンピュータ15の処理の詳細は、図4および図5などを参照して後述する。
警報装置16は、コンピュータ15の制御の基に、例えば、音声メッセージ、ベル、ブザー、光などにより、危険な状態が発生していることを運転者に通知する。
ブレーキ制御ECU17は、自車のブレーキの動作を制御する。また、ブレーキ制御ECU17は、運転者により行われたブレーキ操作の内容を示す情報をコンピュータ15に供給する。
カーオーディオ装置18は、例えば、ラジオ、HDD(ハードディスク)プレーヤ、CD(コンパクトディスク)プレーヤなどを備える。カーオーディオ装置18は、運転者により行われた操作や設定内容を示す情報をコンピュータ15に供給する。
エアコンECU19は、エアコンアクチュエータ20を制御することにより、図示せぬ自車のエアーコンディショナの設定温度等を調整する。エアコンECU19は、運転者により設定された設定内容を示す情報をコンピュータ15に供給する。
ボデーECU21は、シートアクチュエータ22を制御することにより、図示せぬ自車の運転席のシートの傾きおよび位置を調整する。また、ボデーECU21は、ミラーアクチュエータ23を制御することにより、図示せぬ自車のセンタミラーおよびドアミラーの位置を調整する。さらに、ボデーECU21は、運転者により設定された運転席のシートの傾きおよび位置、並びに、センタミラーおよびドアミラーの位置を示す情報をコンピュータ15に供給する。
図2は、コンピュータ15の一実施の形態を示すブロック図である。コンピュータ15において、CPU(Central Processing Unit)51,ROM(Read Only Memory)52,RAM(Random Access Memory)53は、バス54により相互に接続されている。
バス54には、さらに、入出力インタフェース55が接続されている。入出力インタフェース55には、キー、スイッチ、ボタンなどよりなる入力部56、ディスプレイ、スピーカなどよりなる出力部57、ハードディスクや不揮発性のメモリなどよりなる記録部58、ネットワークインタフェースなどよりなる通信部59、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリなどのリムーバブルメディア61を駆動するドライブ60が接続されている。また、入出力インタフェース55には、カメラ11、距離センサ12、加速度センサ13、速度センサ14、警報装置16、ブレーキ制御ECU17、カーオーディオ装置18、エアコンECU19、および、ボデーECU21が接続されている。
なお、入出力インタフェース55と各装置との間の接続方法には様々な方法があり、適宜選択することが可能である。例えば、コネクタ付ケーブルで個々に接続する構成にしたり、CAN(Controller Area Network)、LAN(Local Area Network)などのネットワーク型の構成にしたりすることが可能である。
コンピュータ15では、CPU51が、例えば、記録部58に記録されているプログラムを、入出力インタフェース55及びバス54を介して、RAM53にロードして実行することにより、図4および図5などを参照して後述する一連の処理が行われる。
CPU51が実行するプログラムは、例えば、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア61に記録して、あるいは、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
そして、プログラムは、リムーバブルメディア61をドライブ60に装着することにより、入出力インタフェース55を介して、記録部58にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部59で受信し、記録部58にインストールすることができる。その他、プログラムは、ROM52や記録部58に、あらかじめインストールしておくことができる。
また、記録部58には、自車を運転する各運転者に関する運転者情報が記録される。運転者情報は、運転者を一意に識別するための運転者ID、運転者の顔の特徴量、運転者の属性および属性の推定信頼度、運転を支援する程度を示す運転支援度、運転者の運転技術のレベルを示す運転習熟度、運転支援度の学習を行うか否かを示す学習フラグ、運転操作の履歴を示す運転情報、運転者により設定された運転環境を示す運転環境情報などを含む。なお、運転者情報に含まれる各情報の詳細については後述する。
なお、コンピュータ15内の各部の間の情報の送受信は、バス54および入出力インタフェース55を介して行われるが、以下、説明を分かりやすくするために、バス54および入出力インタフェース55についての記載は省略する。
図3は、CPU15が所定のプログラムを実行することにより実現される機能の構成の例を示す図である。コンピュータ15が所定のプログラムを実行することにより、認証部81、属性推定部82、運転支援度設定部83、運転情報収集部84、運転支援度学習部85、障害物検出部86、運転支援部87、運転環境情報収集部88、運転者情報管理部89、および、運転環境設定部90を含むように構成される。
認証部81は、所定の手法を用いて、カメラ11から供給される顔画像、および、記録部58に記録されている各運転者の運転者情報に含まれる各運転者の顔の特徴量に基づいて、運転者の認証処理を行う。認証部81は、認証処理により運転者を特定できた場合、その運転者に対応する運転者IDを示す情報を、運転支援度学習部85、運転支援部87、運転者情報管理部89、および、運転環境設定部90に供給する。また、認証部81は、運転者を特定できなかった場合、顔画像から抽出した運転者の顔の特徴量を属性推定部82に供給する。
なお、認証部81が運転者の認証処理を行う手法は、特定の手法に限定されるものではなく、より正確、迅速、かつ簡単に運転者の認証を行うことができる手法を適用することが望ましい。
属性推定部82は、所定の手法を用いて、運転者の顔の特徴量に基づいて、年齢、性別などの運転者の属性を推定する。また、属性推定部82は、推定結果の確からしさを示す推定信頼度を求める。属性推定部82は、推定した運転者の属性、および、その推定信頼度を示す情報を運転支援度設定部83に供給する。また、属性推定部82は、推定した運転者の属性、その推定信頼度、および、運転者の顔の特徴量を示す情報を運転者情報管理部89に供給する。
なお、属性推定部82が、運転者の属性を推定し、推定信頼度を求める手法は、特定の手法に限定されるものではなく、より正確、迅速、かつ簡単に運転者の属性を推定し、推定信頼度を求めることができる手法を適用することが望ましい。また、属性推定部82が、直接顔画像に基づいて、運転者の属性を推定するようにしてもよい。
運転支援度設定部83は、図4および図5などを参照して後述するように、運転者の属性、および、その推定信頼度に基づいて、運転支援度を設定する。運転支援度設定部83は、設定した運転支援度を示す情報を運転支援度学習部85、運転支援部87、および、運転者情報管理部89に供給する。
運転情報収集部84は、加速度センサ13から供給される自車の加速度を示す信号、速度センサ14から供給される自車の速度を示す信号、ブレーキ制御ECU17から供給されるブレーキ操作の内容を示す情報、および、運転支援部87から供給される運転支援の内容を示す情報などに基づいて、各運転者の運転操作の履歴を示す運転情報を収集する。運転情報は、例えば、運転時間、運転回数、急ブレーキおよび急発進を行った回数、急ハンドルを行った回数、運転者が受けた運転支援の内容および回数などを含む。運転情報収集部84は、収集した運転情報を運転支援度学習部85および運転者情報管理部89に供給する。
運転支援度学習部85は、認証部81から供給された運転者IDの運転者の運転者情報に含まれる運転支援度、運転習熟度、および、運転情報を記録部58から読み出す。運転支援度学習部85は、読み出した過去の運転情報、および、運転情報収集部84から供給される現在の運転情報に基づいて、各運転者の運転技術のレベルを示す運転習熟度を学習する。そして、運転支援度学習部85は、運転習熟度に基づいて運転支援度を更新する。また、運転支援度学習部85は、入力部56を介して運転支援度の変更の指令が入力された場合、入力された指令に基づいて、運転支援度を更新する。
運転支援度学習部85は、更新した運転支援度を示す情報を運転支援部87および運転者情報管理部89に供給する。また、運転支援度学習部85は、運転支援度の学習を行うか否かを示す学習フラグの値の設定を行い、設定した学習フラグの値を示す情報を運転者情報管理部89に供給する。
障害物検出部86は、距離センサ12からの信号に基づいて、自車の周囲の障害物の有無、障害物の種類、自車に対する障害物の相対速度、障害物の位置、障害物までの距離などを検出する。障害物検出部86は、検出結果を示す情報を運転支援部87に供給する。
運転支援部87は、認証部81から供給された運転者IDの運転者の運転者情報に含まれる運転支援度を記録部58から読み出す。運転支援部87は、図4および図5を参照して後述するように、障害物検出部86による障害物の検出結果、加速度センサ13により検出された自車の加速度、速度センサ14により検出された自車の速度に応じて、運転支援度に応じた程度で、警報装置16およびブレーキ制御ECU17などを制御することにより、運転の支援を行う。運転支援部87は、運転支援を実施した場合、実施した運転支援の内容を示す情報を運転情報収集部84に供給する。
運転環境情報収集部88は、カーオーディオ装置18、エアコンECU19、および、ボデーECU21からの情報に基づいて、運転者が嗜好する運転環境を示す運転環境情報を収集する。例えば、運転環境情報は、カーオーディオ装置の起動の有無、選択したソース、設定音量、自車の室内の設定温度、運転席のシートの位置および傾き、ドアミラーおよびセンタミラーの設定位置などを含む。運転環境情報収集部88は、収集した運転環境情報を運転者情報管理部89に供給する。
運転者情報管理部89は、図4および図5を参照して後述するように、運転者情報の生成または更新を行い、生成または更新した運転者情報を記録部58に記録する。
運転環境設定部90は、認証部81により特定された運転者の運転者情報に含まれる運転環境情報を記録部58から読み出す。運転環境設定部90は、図4および図5を参照して後述するように、読み出した運転環境情報に基づいて、カーオーディオ装置18、エアコンECU19、ボデーECU21など制御して、自車の運転環境を設定する。
次に、図4および図5のフローチャートを参照して、運転支援システム1により実行される運転処理について説明する。なお、この処理は、例えば、自車の原動機(例えば、エンジン)が始動したとき開始される。
ステップS1において、認証部81は、個人認証を行う。具体的には、カメラ11は、運転者の顔を撮影し、その結果得られた顔画像を認証部81に供給する。認証部81は、例えば、取得した顔画像の特徴量を抽出し、記録部58に記録されている各運転者の運転者情報に含まれる各運転者の顔の特徴量との類似度を求める。認証部81は、求めた類似度の最大値が所定の閾値を超える場合、現在の運転者を類似度が最大となる人物に特定する。
ステップS2において、認証部81は、ステップS1の処理の結果に基づいて、運転者を特定できたかを判定する。運転者を特定できなかったと判定された場合、例えば、現在の運転者が初めて運転を行うため、運転者情報が記録部58に記録されていない場合、処理はステップS3に進む。
ステップS3において、属性推定部82は、運転者の属性を推定する。具体的には、認証部81は、抽出した運転者の顔の特徴量を属性推定部82に供給する。属性推定部82は、所定の手法を用いて、取得した特徴量に基づいて、年齢、性別などの運転者の属性を推定する。
ステップS4において、属性推定部82は、推定信頼度を求める。具体的には、属性推定部82は、所定の手法を用いて、運転者の属性の推定結果の確からしさを示す推定信頼度を求める。例えば、パターンマッチングの手法に基づき運転者の属性を推定した場合、所定のパターンと運転者の特徴量との類似度に基づいて、推定信頼度が算出される。属性推定部82は、推定した運転者の属性、および、その推定信頼度を示す情報を運転支援度設定部83に供給する。また、属性推定部82は、推定した運転者の属性、その推定信頼度、および、運転者の顔の特徴量を示す情報を運転者情報管理部89に供給する。
ステップS5において、運転支援度設定部83は、運転者の属性、および、その推定信頼度に基づいて、運転支援度を設定する。例えば、運転支援度設定部83は、まず、図6に示されるグラフを用いて、運転者の属性に基づいて運転支援度を設定する。
図6は、運転者の年齢および運転習熟度と運転支援度との関係を表すグラフである。図6のグラフにおいては、運転者の年齢が高いほど運転支援度が高い値となり、運転者の年齢が低いほど運転支援度が低い値となっている。すなわち、運動神経や反射神経などが低下し、危険に対する反応が鈍くなる高齢者ほど、より手厚く運転支援が行われるように設定される。また、図6のグラフにおいては、運転者の運転習熟度が高いほど運転支援度が高い値となり、運転習熟度が低いほど運転支援度が低い値となっている。すなわち、運転習熟度が低い運転者ほど、より手厚く運転支援が行われるように設定される。なお、運転習熟度は、後述する運転支援度の学習処理において用いられる。
なお、図6に示されるように運転者の年齢に対して運転支援度を直線的に変化させずに、例えば、いくつかの年齢層に分けて、年齢層が上がるにつれて段階的に運転支援度を上げていくようにしてもよい。また、年齢または性別と事故の発生率との関係など各種の統計情報に基づいて、さらにきめ細かく年齢に応じて運転支援度を変化させるようにしてもよい。また、運転者の年齢だけでなく、運転者の性別等も用いて、運転支援度を設定するようにしてもよい。
次に、運転支援度設定部83は、図7に示されるグラフを用いて、属性の推定信頼度に基づいて運転支援度を補正する。
図7は、推定信頼度と運転支援度の補正量の関係を表すグラフである。図7のグラフにおいては、推定信頼度が低いほど運転支援度の補正量が大きくなり、推定信頼度が高いほど運転支援度の補正量が小さくなっている。
運転支援度設定部83は、例えば、図7のグラフに基づいて、現在の運転者の属性の信頼度に対する補正量を求める。そして、運転支援度設定部83は、先に運転者の属性に応じて設定した運転支援度から求めた補正量を減算することにより、運転支援度を補正する。すなわち、推定信頼度が低い場合、実際の属性に応じた運転支援度より高い値に運転支援度が設定され、運転支援が過剰に行われ、運転者が煩わしさを感じてしまう場合が想定されるが、これを防止するために、推定信頼度が低いほど同じ属性に対して低い値となるように運転支援度が補正される。
なお、逆に、推定信頼度が低い場合、実際の属性に応じた運転支援度より低い値に運転支援度が設定され、運転支援が不足する場合も想定されるため、これを防止するために、推定信頼度が低いほど同じ属性に対して高い値となるように運転支援度を補正するようにしてもよい。
また、図7に示されるように推定信頼度に対して運転支援度の補正量を直線的に変化させずに、例えば、推定信頼度が高くなるにつれて、段階的に補正量を下げていくようにしてもよい。
運転支援度設定部83は、設定した運転支援度を示す情報を運転支援度学習部85、運転支援部87、および、運転者情報管理部89に供給する。
ステップS6において、運転支援度学習部85は、学習フラグをオンに設定する。運転支援度学習部85は、設定した学習フラグの値を示す情報を運転者情報管理部89に供給する。
ステップS7において、運転者情報管理部89は、運転者情報を生成する。具体的には、運転者情報管理部89は、現在の運転者に対して運転者IDを割り当てる。運転者情報管理部89は、割り当てた運転者ID、現在の運転者の顔の特徴量、属性、推定信頼度、運転支援度、および、学習フラグを含む運転者情報を生成する。運転者情報管理部89は、生成した運転者情報を記録部58に記録させる。その後、処理はステップS10に進む。
一方、ステップS2において、運転者を特定できたと判定された場合、処理はステップS8に進む。
ステップS8において、運転環境設定部90は、運転環境を設定する。具体的には、認証部81は、特定した運転者に対応する運転者IDを示す情報を運転支援度学習部85、運転支援部87、運転者情報管理部89、および、運転環境設定部90に供給する。運転環境設定部90は、取得した運転者IDの運転者の運転者情報に含まれる運転環境情報を記録部58から読み出す。運転環境設定部90は、読み出した運転環境情報に基づいて、自車の運転環境を設定する。
例えば、運転環境設定部90は、運転環境情報に基づいて、カーオーディオ装置18の起動の有無、ソース(ラジオ、HDD(ハードディスク)プレーヤ、CD(コンパクトディスク)プレーヤなど)の選択、音量などを制御する。また、例えば、運転環境設定部90は、運転環境情報に示される車室内温度を示す情報をエアコンECU19に供給する。エアコンECU19は、エアコンアクチュエータ20を制御して、指示された車室内温度になるように図示せぬ車内のエアコンを制御する。また、運転環境設定部90は、運転環境情報に示されるシートの前後方向の位置および傾き、ドアミラーの位置、センタミラーの位置を示す情報をボデーECU21に供給する。ボデーECU21は、図示せぬ運転席のシートが指示された位置および傾きとなるように、シートアクチュエータ22を制御する。また、ミラーアクチュエータ23は、図示せぬドアミラーおよびセンタミラーの設定位置が指示された位置になるようにミラーアクチュエータ23を制御する。
これにより、各運転者の嗜好にあった運転環境が迅速かつ自動的に設定される。
なお、以上に述べた自動設定の対象となる運転環境の内容は、その一例であり、他にも、ステアリングホイールの位置、インストルメントパネルのデザインなどを運転者に応じて設定することが考えられる。
ステップS9において、運転支援部87は、認証部81から供給された運転者IDの運転者の運転者情報に含まれる運転支援度を記録部58から読み出す。後述するように、2回目以降の運転においては、運転者の属性を用いずに、前回の運転において設定されている運転支援度に基づいて運転の支援が開始される。
ステップS10において、運転支援システム1は、運転支援を開始する。すなわち、以下の処理が開始される。障害物検出部86は、距離センサ12からの信号に基づいて、自車の周囲の障害物の有無、障害物の種類、自車に対する障害物の相対速度、障害物の位置、障害物までの距離などを検出する。障害物検出部86は、検出結果を示す情報を運転支援部87に供給する。運転支援部87は、障害物検出部86による障害物の検出結果、加速度センサ13により検出された自車の加速度、速度センサ14により検出された自車の速度、および、運転支援度に基づいて、現在の状況が運転支援の必要な状況であるかを判定する。
例えば、運転支援部87は、現在のまま自車が進行した場合、前方の車両などの障害物に衝突すると判定した場合、衝突するまでの時間および運転支援度に基づいて、運転者に対して警報やブレーキの制御を行う必要があるか否かを判定する。例えば、運転支援部87は、運転支援度が所定の閾値以上である場合、衝突するまでの時間が4秒になったとき、運転支援が必要であると判定し、運転支援度が所定の閾値未満である場合、衝突するまでの時間が3秒になったとき、運転支援が必要であると判定する。すなわち、運転支援度が高いほど、より早いタイミングで運転支援が必要であると判定される。
運転支援部87は、運転支援が必要であると判定した場合、障害物に衝突する恐れがあることを通知する警報を出力するように警報装置16を制御したり、自車のブレーキを始動させるようにブレーキ制御ECU17を制御したりする。これにより、運転支援度に基づいて、適切なタイミングで、運転者が危険を避けることができるように運転の支援が行われる。
運転支援部87は、運転支援を実施した場合、実施した運転支援の内容を示す情報を運転情報収集部84に供給する。
なお、上述した運転支援の内容は、その一例であり、運転支援度に応じて、上述した以外の支援を行うようにすることも可能である。例えば、コーナセンサのような車両周辺の接触検知の警報音や作動時間などを変更することが考えられる。また、運転支援度に応じて、実施する運転支援の項目を増減させるようにすることも可能である。
また、運転支援部87が、運転情報に基づいて、運転支援の内容を変更するようにしてもよい。例えば、運転中の車速情報から運転者が高燃費な運転を目指しているかどうかの判定を行い、結果に応じて高燃費モードに切り替え、燃費情報を表示したり、加速を抑制するなどの対応を行うようにすることも可能である。また、例えば、コーナリング中の重力加速度Gが大きいと判断された場合、サスペンションやスタビライザーの設定を変更し、Gの発生を抑制するようにすることも可能である。
ステップS11において、運転環境情報収集部88は、運転環境情報の収集を開始する。具体的には、運転環境情報収集部88は、カーオーディオ装置18、エアコンECU19、および、ボデーECU21からの情報に基づいて、現在の運転者が嗜好する運転環境を示す運転環境情報を収集し、運転者情報管理部89に供給する処理を開始する。運転者情報管理部89は、取得した運転者環境情報を、記録部58に記録されている現在の運転者の運転者情報に追加する。
ステップS12において、運転支援度学習部85は、学習フラグがオンであるかを判定する。運転支援度学習部85は、現在の運転者の運転者情報に含まれる学習フラグがオンであると判定した場合、処理はステップS13に進む。
ステップS13において、運転情報収集部84は、運転情報の収集を開始する。運転情報収集部84は、例えば、加速度センサ13からの信号に基づいて求められる自車の加速度および減速度、速度センサ14からの信号に基づいて求められる自車の速度の推移、ブレーキ制御ECU17からの情報に基づいて求められる急ブレーキの使用頻度、運転支援部87からの情報に基づいて求められる運転支援を受けた頻度および内容、運転時間、運転回数など、現在の運転者の運転操作の履歴を示す運転情報を収集し、運転支援度学習部85および運転者情報管理部89に供給する処理を開始する。運転者情報管理部89は、取得した運転者情報を、記録部58に記録されている現在の運転者の運転者情報に追加する。
なお、上述した運転情報の内容は、その一例であり、その他の情報を収集するようにすることも可能である。例えば、運転技術のレベルを判定する指標の一つに駐車技術が挙げられるが、例えば、図示せぬカーナビゲーションシステムに駐車場の位置情報を記録しておき、駐車場での運転時間やシフト位置の情報を運転情報として収集するようにしてもよい。これにより、バックで駐車する場合の車両の前後の切り返し回数などにより、運転者の駐車技術のレベルを把握することができる。
ステップS14において、運転支援度学習部85は、運転支援度の学習を開始する。具体的には、運転支援度学習部85は、現在の運転者の運転者情報に含まれる運転支援度、運転習熟度、および、運転情報を記録部58から読み出す。運転支援度学習部85は、読み出した過去の運転情報、および、運転情報収集部84から供給される現在の運転情報に基づいて、運転習熟度を学習する。
例えば、運転支援度学習部85は、上述した図6のグラフに基づいて、運転習熟度を前より高い値に更新した場合、運転支援度を現在より低い値に更新し、運転習熟度を前より低い値に更新した場合、運転支援度を現在より高い値に更新する。運転支援度学習部85は、運転支援度を更新した場合、更新した運転支援度を示す情報を運転支援部87に供給する。以後、運転支援部87は、更新された運転支援度に基づいて運転支援を行う。
また、運転支援度学習部85は、運転支援度を更新した場合、更新した運転習熟度および運転支援度を示す情報を運転者情報管理部89に供給する。運転者情報管理部89は、記録部58に記録されている現在の運転者の運転者情報の運転支援度および運転習熟度の値を更新する。
なお、図6に示されるように運転習熟度に対して運転支援度を直線的に変化させずに、例えば、運転習熟度が上がるにつれて段階的に運転支援度を上げていくようにしてもよい。
一方、ステップS12において、現在の運転者の運転者情報に含まれる学習フラグがオンであると判定された場合、ステップS13およびS14の処理はスキップされ、運転情報の収集および運転支援度の学習は開始されずに、処理はステップS15に進む。
ステップS15において、運転支援度学習部85は、運転支援度の変更が指令されたかを判定する。具体的には、例えば、運転者が入力部56を介して運転支援度の変更の指令を入力し、入力された指令が入力部56から運転支援度学習部85に供給された場合、運転支援度学習部85は、運転支援度の変更が指令されたと判定し、処理はステップS16に進む。
ステップS16において、運転支援度学習部85は、指令に基づき運転支援度を更新する。例えば、ユーザにより入力された運転支援度の変更の指令は、運転支援度を補正する量を示す情報を含んでいる。運転支援度学習部85は、ユーザにより指定された補正量だけ運転支援度を大きくまたは小さく設定する。運転支援度学習部85は、更新した運転支援度を示す情報を運転支援部87に供給する。以後、運転支援部87は、ユーザにより設定された運転支援度に基づいて運転支援を行う。
また、運転支援度学習部85は、更新した運転支援度を示す情報を運転者情報管理部89に供給する。運転者情報管理部89は、記録部58に記録されている現在の運転者の運転者情報の運転支援度の値を更新する。
ステップS17において、ステップS6と同様の処理により、学習フラグがオンであるかを判定する。学習フラグがオンであると判定された場合、処理はステップS18に進む。
ステップS18において、運転支援度学習部85は、学習フラグをオフに設定する。運転支援度学習部85は、設定した学習フラグの値を示す情報を運転者情報管理部89に供給する。運転者情報管理部89は、記録部58に記録されている現在の運転者の運転者情報の学習フラグの値をオフに設定する。
ステップS19において、運転情報収集部84は、運転情報の収集を停止する。
ステップS20において、運転支援度学習部85は、運転支援度の学習を停止する。すなわち、運転者が運転支援度の変更を指令したのは、学習処理により設定された運転支援度に応じた現在の運転支援の内容に満足していない可能性が高いためだと考えられる。従って、以降は、運転支援度の学習を停止し、運転者の設定に応じて運転支援が実施されるようになる。
一方、ステップS17において、学習フラグがオフであると判定された場合、ステップS18乃至S20の処理はスキップされ、処理はステップS21に進む。
また、ステップS15において、運転支援度の変更が指令されていないと判定された場合、ステップS16乃至S20の処理はスキップされ、処理はステップS21に進む。
ステップS21において、運転支援部87は、運転支援を停止するかを判定する。運転支援を停止しないと判定された場合、処理はステップS15に戻り、ステップS21において、運転支援が停止されたと判定されるまで、ステップS15乃至S21の処理が繰り返し実行される。
一方、ステップS21において、例えば、運転支援部87は、自車の原動機が停止された場合、運転支援を停止すると判定し、運行支援処理は終了する。
このようにして、より簡単に各自に適した運転支援を運転者が受けることができる。すなわち、運転者は、運転者の意思で運転支援を変更する場合を除いて、特別な操作を行うことなく、各自の属性および運転技術のレベルに応じた運転支援を受けることができる。
また、運転者の個人情報を用いずに運転支援を受けることができるため、個人情報が漏洩する危険性がなく、漏洩対策を考慮する必要がない。
なお、以上の説明では、運転者が運転支援度の変更を指令した後、運転支援度の学習を停止する例を示したが、変更された値に基づいて運転支援度の学習を継続するようにしてもよい。
また、以上の説明では、学習処理により運転支援度を随時更新する例を示したが、例えば、所定の期間ごとに更新するようにしたり、運転の終了時に更新するようにしてもよい。
さらに、以上では、自動車を想定した実施の形態を示したが、本発明は、自動車以外の乗り物、例えば、電車、船舶、飛行機などの運転の支援を行う場合にも適用することが可能である。
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、本明細書において、システムの用語は、複数の装置、手段などより構成される全体的な装置を意味するものとする。
さらに、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
本発明を適用した運転支援システムの一実施の形態を示すブロック図である。 図1のコンピュータの一実施の形態を示すブロック図である。 図2のコンピュータのCPUにより実現される機能の構成の例を示すブロック図である。 運転支援システムにより実行される運転支援処理を説明するためのフローチャートである。 運転支援システムにより実行される運転支援処理を説明するためのフローチャートである。 運転支援度の設定に用いるグラフの例を示す図である。 運転支援度の補正に用いるグラフの例を示す図である。
符号の説明
1 運転支援システム
11 カメラ
12 距離センサ
13 加速度センサ
14 速度センサ
15 コンピュータ
16 警報装置
17 ブレーキ制御ECU
18 カーオーディオ装置
19 エアコンECU
21 ボデーECU
51 CPU
56 入力部
58 記録部
81 認証部
82 属性推定部
83 運転支援度設定部
84 運転情報収集部
85 運転支援度学習部
86 障害物検出部
87 運転支援部
88 運転環境情報収集部
89 運転者情報管理部
90 運転環境設定部

Claims (7)

  1. 乗り物の運転を支援する運転支援装置において、
    前記乗り物を運転する運転者の顔を含む画像である顔画像に基づいて、前記運転者の属性を推定するとともに、前記運転者の属性の推定結果の確からしさを示す推定信頼度を求める属性推定手段と、
    推定された前記属性に応じて、前記運転者の運転を支援する程度を示す運転支援度を設定するとともに、前記推定信頼度が低いほど、前記属性に応じて設定した前記運転支援度を大きく補正する運転支援度設定手段と、
    前記運転者の運転操作の履歴に基づいて前記運転者の運転技術のレベルを示す運転習熟度を学習し、前記運転習熟度に基づいて前記運転支援度を更新する学習手段と、
    前記運転支援度に応じた程度で運転の支援を行う運転支援手段と
    を含む運転支援装置。
  2. 前記運転支援度設定手段は、前記推定信頼度が低いほど同じ前記属性に対して低い値となるように前記運転支援度を補正する
    請求項に記載の運転支援装置。
  3. 前記学習手段は、前記運転支援度の変更が指令された場合、前記指令に基づいて前記運転支援度を設定するとともに、前記運転者に対する前記運転習熟度の学習および前記運転習熟度に基づく前記運転支援度の更新を停止する
    請求項1に記載の運転支援装置。
  4. 前記顔画像を用いて前記運転者の認証処理を行う認証手段を
    さらに含み、
    前記運転支援手段は、前記認証処理により前記運転者が特定された場合、特定された前記運転者の前回の前記運転支援度に基づいて運転の支援を開始する
    請求項1に記載の運転支援装置。
  5. 各運転者により設定された前記乗り物の運転環境を示す運転環境情報を収集する運転環境情報手段と、
    前記顔画像を用いて運転者の認証処理を行う認証手段と、
    前記認証処理により前記運転者が特定された場合、特定された前記運転者に対応する前記運転環境情報に基づいて、前記乗り物の運転環境を設定する運転環境設定手段と
    をさらに含む請求項1に記載の運転支援装置。
  6. 乗り物の運転を支援する運転支援装置の運転支援方法において、
    前記乗り物を運転する運転者の顔を含む画像である顔画像に基づいて、前記運転者の属性を推定するとともに、前記運転者の属性の推定結果の確からしさを示す推定信頼度を求める属性推定ステップと、
    推定された前記属性に応じて、前記運転者の運転を支援する程度を示す運転支援度を設定するとともに、前記推定信頼度が低いほど、前記属性に応じて設定した前記運転支援度を大きく補正する運転支援度設定ステップと、
    前記運転者の運転操作の履歴に基づいて前記運転者の運転技術のレベルを示す運転習熟度を学習し、前記運転習熟度に基づいて前記運転支援度を更新する学習ステップと、
    前記運転支援度に応じた程度で運転の支援を行う運転支援ステップと
    を含む運転支援方法。
  7. 乗り物の運転を支援するコンピュータに、処理を実行させるプログラムにおいて、
    前記乗り物を運転する運転者の顔を含む画像である顔画像に基づいて、前記運転者の属性を推定するとともに、前記運転者の属性の推定結果の確からしさを示す推定信頼度を求める属性推定ステップと、
    推定された前記属性に応じて、前記運転者の運転を支援する程度を示す運転支援度を設定するとともに、前記推定信頼度が低いほど、前記属性に応じて設定した前記運転支援度を大きく補正する運転支援度設定ステップと、
    前記運転者の運転操作の履歴に基づいて前記運転者の運転技術のレベルを示す運転習熟度を学習し、前記運転習熟度に基づいて前記運転支援度を更新する学習ステップと、
    前記運転支援度に応じた程度で運転の支援を行う運転支援ステップと
    を含む処理を実行させるプログラム。
JP2007211910A 2007-08-15 2007-08-15 運転支援装置および方法、並びに、プログラム Expired - Fee Related JP4941752B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007211910A JP4941752B2 (ja) 2007-08-15 2007-08-15 運転支援装置および方法、並びに、プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007211910A JP4941752B2 (ja) 2007-08-15 2007-08-15 運転支援装置および方法、並びに、プログラム

Publications (2)

Publication Number Publication Date
JP2009048307A JP2009048307A (ja) 2009-03-05
JP4941752B2 true JP4941752B2 (ja) 2012-05-30

Family

ID=40500481

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007211910A Expired - Fee Related JP4941752B2 (ja) 2007-08-15 2007-08-15 運転支援装置および方法、並びに、プログラム

Country Status (1)

Country Link
JP (1) JP4941752B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5332356B2 (ja) * 2008-07-08 2013-11-06 日産自動車株式会社 車両用運転支援装置
JP6197366B2 (ja) 2013-05-23 2017-09-20 ソニー株式会社 情報処理装置及び記憶媒体
JP2015219830A (ja) * 2014-05-20 2015-12-07 トヨタ自動車株式会社 運転支援装置
JP6610445B2 (ja) * 2016-06-09 2019-11-27 株式会社デンソー 車両用運転支援システム及び運転支援方法
KR101937218B1 (ko) 2017-02-03 2019-01-10 자동차부품연구원 운전자 수용성 평가 장치 및 방법
JP6912324B2 (ja) * 2017-08-30 2021-08-04 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 情報処理方法、情報処理装置及び情報処理プログラム
JP7157627B2 (ja) * 2018-10-25 2022-10-20 株式会社Nttドコモ 情報処理装置
JP2020135698A (ja) * 2019-02-25 2020-08-31 株式会社Jvcケンウッド 運転支援装置、運転支援システム、運転支援方法及びプログラム
CN113519020B (zh) * 2019-03-11 2023-04-04 三菱电机株式会社 驾驶辅助装置及驾驶辅助方法
CN110737688B (zh) * 2019-09-30 2023-04-07 上海商汤临港智能科技有限公司 驾驶数据分析方法、装置、电子设备和计算机存储介质
JP7107329B2 (ja) 2020-02-12 2022-07-27 トヨタ自動車株式会社 運転支援システム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003312391A (ja) * 2002-04-17 2003-11-06 Fujitsu Ten Ltd 車載機器の自動調整装置
JP2004171060A (ja) * 2002-11-15 2004-06-17 Aioi Insurance Co Ltd 運転支援装置、運転支援システム及び運転支援プログラム
JP2005050273A (ja) * 2003-07-31 2005-02-24 Denso Corp 車載機器操作支援システム
JP4725254B2 (ja) * 2005-09-05 2011-07-13 トヨタ自動車株式会社 脇見判定装置

Also Published As

Publication number Publication date
JP2009048307A (ja) 2009-03-05

Similar Documents

Publication Publication Date Title
JP4941752B2 (ja) 運転支援装置および方法、並びに、プログラム
US8452492B2 (en) Driver assistance device and method for controlling it
JP6565859B2 (ja) 車両制御システム
JP6565408B2 (ja) 車両制御装置及び車両制御方法
JP7329755B2 (ja) 支援方法およびそれを利用した支援システム、支援装置
JP6690581B2 (ja) 運転モード切替制御装置、方法およびプログラム
US10338583B2 (en) Driving assistance device
US10906550B2 (en) Vehicle control apparatus
US10752172B2 (en) System and method to control a vehicle interface for human perception optimization
WO2019131116A1 (ja) 情報処理装置、移動装置、および方法、並びにプログラム
US10399592B2 (en) Drive assist device
CN113386777B (zh) 车辆自适应控制方法、系统、车辆及计算机存储介质
JP2010117921A (ja) 運転支援システム、運転支援方法及び運転支援プログラム
JP2009059229A (ja) 操作支援方法及び操作支援システム
JP4707639B2 (ja) 運転支援装置
WO2020079755A1 (ja) 情報提供装置及び情報提供方法
JP2006309432A (ja) 運転者状態推定装置
JP6722409B2 (ja) 運転支援装置
CN110288991B (zh) 语音识别方法及装置
JP6891557B2 (ja) 自動駐車支援装置および自動駐車支援方法
KR101830714B1 (ko) 운전자 성향에 따른 운전보조장치의 제어방법
JP6970273B2 (ja) 運転支援システム及び運転支援方法
JP2019114087A (ja) 運転支援方法及び運転支援装置
JP6131900B2 (ja) 追従走行制御装置及び追従走行制御方法
JP2018149940A (ja) 集中度判定装置、集中度判定方法及び集中度判定のためのプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100607

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111102

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120202

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120215

R150 Certificate of patent or registration of utility model

Ref document number: 4941752

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150309

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees