JP4882153B2 - Vehicle information output device - Google Patents

Vehicle information output device Download PDF

Info

Publication number
JP4882153B2
JP4882153B2 JP2001041490A JP2001041490A JP4882153B2 JP 4882153 B2 JP4882153 B2 JP 4882153B2 JP 2001041490 A JP2001041490 A JP 2001041490A JP 2001041490 A JP2001041490 A JP 2001041490A JP 4882153 B2 JP4882153 B2 JP 4882153B2
Authority
JP
Japan
Prior art keywords
vehicle
driver
road traffic
information
traffic information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001041490A
Other languages
Japanese (ja)
Other versions
JP2002245597A (en
Inventor
真次 松本
弘之 吉澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2001041490A priority Critical patent/JP4882153B2/en
Publication of JP2002245597A publication Critical patent/JP2002245597A/en
Application granted granted Critical
Publication of JP4882153B2 publication Critical patent/JP4882153B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Emergency Alarm Devices (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、車輌の運転者に対し、対向車や先行車輌の速度、道路混雑状況、路上の障害物の存在等の、自車輌周囲の種々の情報を提示する車輌用情報出力装置に関するものである。
【0002】
【従来の技術】
かかる装置は、例えば車輌に搭載したセンサからの検知信号や、ITSなどの道路交通情報システムからの情報、あるいは車輌間通信による他車輌からの情報に基づき、運転者に自車輌周囲の状況に関する情報を提示するものである。
【0003】
かかる装置により運転者に提示される情報として、例えば建物等が運転者の視界の妨げとなっている見通しの悪い交差点において、接近する他車輌の存在があるが、こうした情報が、既に他車輌が接近していることを運転者が認識しているにも関わらず警告音が発せられる等により、運転者に煩わしさを感じさせる場合がある。
【0004】
こうした問題を解決するため、例えば特開2000-113395号に開示された装置は、自車輌の運転情報(車速、ギヤ位置、パーキングブレーキの状態、スロットル開度等)により、進行、停止、徐行、発進等の運転者の意志を判断し、これに応じて情報の提示を行うか否かを判断している。それによって、運転者の運転操作に応じた情報提示が行われ、運転者に煩わしさを感じさせることを防止する。
【0005】
【発明が解決しようとする課題】
しかしながら、上記装置においては、交差点等において運転者の死角から接近して来る他車輌に関する情報のような、運転者の操作状態に関わらず必要な情報が、運転者の操作状態によっては提示されない場合がある。
【0006】
本発明は上記課題に着目し、検知した自車輌周囲の情報の中から、運転者が認識していないと推定される情報を選択し、当該選択された情報のみを運転者に提示することにより、運転者に煩わしさを感じさせること無く、しかも運転者に必要な情報を提示可能とすることを目的とする。
【0007】
【課題を解決するための手段】
上記の目的のため、請求項1記載の第1発明は、自車輌の周囲の道路交通情報及び該道路交通情報の対象物を検知する道路交通情報検知手段と、自車輌の運転席から運転者が見ることができる自車輌の周囲の画像を検知する自車輌周囲画像検知手段と、運転者の状態を検知する運転者状態検知手段と、前記道路交通情報検知手段で検知された道路交通情報を運転者に対して提示する道路交通情報提示手段と、前記道路交通情報検知手段により検知された道路交通情報の対象物が存在するとの判断情報と、前記自車輌周囲画像検知手段により検知された自車輌の周囲の画像データから、前記道路交通情報検知手段により検知された道路交通情報に基づく判断条件に該当し情報提示の対象となる対象車輌が存在する可能性のある範囲を設定し、設定した範囲に前記対象車輌が撮影されているか否かにより運転者による前記対象車輌の認知可能性を判断して、検知された自車輌の周囲の画像に前記対象車輌が存在するとの判断情報と、運転者の視界領域を規定して前記視界領域に前記対象車輌が存在することにより前記対象車輌を運転者が認識済みであるとの判断情報と、前記運転者状態検知手段の検知結果により当該対象物が運転者の視界内にあるとの判断情報とに基づき、運転者への情報提示を行わない道路交通情報提示制限手段と、を具えるものである。
【0009】
請求項2記載の第2発明は、自車輌の周囲の道路交通情報及び該道路交通情報の対象物を検知する道路交通情報検知手段と、自車輌の走行状態を検知する自車輌走行状態検知手段と、自車輌の運転席から運転者が見ることができる自車輌の周囲の画像を検知する自車輌周囲画像検知手段と、前記道路交通情報検知手段で検知された道路交通情報を運転者に対して提示する道路交通情報提示手段と、前記道路交通情報検知手段で検知された道路交通情報および前記自車輌走行状態検知手段で検知された自車輌の走行状態に基づき、運転者に対して提示する必要のある道路交通情報および当該道路交通情報の対象物を選択し、当該対象物が存在するとの判断情報と、前記自車輌周囲画像検知手段により検知された自車輌の周囲の画像データから、前記道路交通情報検知手段により検知された道路交通情報に基づく判断条件に該当し情報提示の対象となる対象車輌が存在する可能性のある範囲を設定し、設定した範囲に前記対象車輌が撮影されているか否かにより運転者による前記対象車輌の認知可能性を判断して、検知された自車輌の周囲の画像に前記対象車輌が存在するとの判断情報と、運転者の視界領域を規定して前記視界領域に前記対象車輌が存在することにより前記対象車輌を運転者が認識済みであるとの判断情報とに基づき、運転者への情報提示を行わない道路交通情報提示制限手段と、を具えるものである。
【0010】
請求項3記載の第3発明は、自車輌の周囲の道路交通情報を検知する道路交通情報検知手段と、自車輌の走行状態を検知する自車輌走行状態検知手段と、自車輌の運転席から運転者が見ることができる自車輌の周囲の画像を検知する自車輌周囲画像検知手段と、運転者の状態を検知する運転者状態検知手段と、前記道路交通情報検知手段で検知された道路交通情報を運転者に対して提示する道路交通情報提示手段と、前記道路交通情報検知手段で検知された道路交通情報および前記自車輌走行状態検知手段で検知された自車輌の走行状態に基づき、運転者に対して提示する必要のある道路交通情報および当該道路交通情報の対象物を選択し、当該対象物が存在するとの判断情報と、前記自車輌周囲画像検知手段により検知された自車輌の周囲の画像データから、前記道路交通情報検知手段により検知された道路交通情報に基づく判断条件に該当し情報提示の対象となる対象車輌が存在する可能性のある範囲を設定し、設定した範囲に前記対象車輌が撮影されているか否かにより運転者による前記対象車輌の認知可能性を判断して、検知された自車輌の周囲の画像に前記対象車輌が存在するとの判断情報と、運転者の視界領域を規定して前記視界領域に前記対象車輌が存在することにより前記対象車輌を運転者が認識済みであるとの判断情報と、前記運転者状態検知手段の検知結果により当該対象物が運転者の視界内にあるとの判断情報とに基づき、運転者への情報提示を行わない道路交通情報提示制限手段と、を具えるものである。
【0011】
請求項記載の第発明は、第1〜第発明のいずれかにおいて、前記道路交通情報検知手段が、道路に設置された道路交通情報提供設備からの信号を受信することにより、自車輌周囲の道路交通情報を検知することを特徴とするものである。
【0012】
請求項記載の第発明は、第1〜第発明のいずれかにおいて、前記道路交通情報検知手段が、複数の車輌間で相互に各車輌の走行状態を提供する車輌間通信により自車輌周囲の道路交通情報を検知することを特徴とするものである。
【0013】
請求項記載の第発明は、第1〜第発明のいずれかにおいて、前記道路交通情報検知手段が、自車輌に設けたレーダにより自車輌周囲の道路交通情報を検知することを特徴とするものである。
【0014】
請求項記載の第発明は、第1〜第発明のいずれかにおいて、前記自車輌周囲画像検知手段が、運転者が自車輌の運転席からみることのできる自車輌周囲の画像を、少なくとも1つのカメラにより検知することを特徴とするものである。
【0015】
請求項記載の第発明は、第1〜第発明のいずれかにおいて、前記道路交通情報提示手段が、音響式出力手段、光学式表示手段の少なくともいずれか一方により道路交通情報を運転者に提示することを特徴とするものである。
【0016】
請求項記載の第発明は、第または第発明において、前記運転者状態検知手段が、運転者の顔の向きを撮影するカメラにより運転者の状態を検知することを特徴とするものである。
【0017】
請求項10記載の第10発明は、第または第発明において、前記運転者状態検知手段が、運転者の視線を検知する視線検出装置により運転者の状態を検知することを特徴とするものである。
【0018】
請求項11記載の第11発明は、第または第発明において、前記自車輌走行状態検知手段が、自車輌の車速、操舵角および方向指示器信号の少なくとも一つを検知することを特徴とするものである。
【0019】
請求項12記載の第12発明は、第1〜第11発明のいずれかにおいて、前記道路交通情報提示制限手段が、前記道路交通情報検知手段で検知された道路交通情報に基づき、前記自車輌周囲画像検知手段により検知された検知画像の内の、前記道路交通情報の対象物が存在する可能性のある領域を選択し、当該選択された領域内に前記対象物が含まれるか否かを判断することを特徴とするものである。
【0020】
請求項13記載の第13発明は、第または第発明において、前記道路交通情報提示制限手段が、前記運転者状態検知手段で検知された運転者状態に基づいて運転者の視界範囲を定め、この視界範囲を自車輌の車速が速い程小さく、遅い程大きくすることを特徴とするものである。
【0021】
【発明の効果】
第1発明によれば、道路交通情報検知手段により検知された道路交通情報の対象物が存在するとの判断情報と、自車輌周囲画像検知手段により検知された自車輌の周囲の画像データから、道路交通情報検知手段により検知された道路交通情報に基づく判断条件に該当し情報提示の対象となる対象車輌が存在する可能性のある範囲を設定し、設定した範囲に対象車輌が撮影されているか否かにより運転者による対象車輌の認知可能性を判断して、検知された自車輌の周囲の画像に対象車輌が存在するとの判断情報と、運転者の視界領域を規定して視界領域に対象車輌が存在することにより対象車輌を運転者が認識済みであるとの判断情報と、運転者状態検知手段の検知結果により当該対象物が運転者の視界内にあるとの判断情報とに基づき、運転者が当該対象物を認識していると判断し、この対象物に関する情報を提示しない。換言すれば、運転者が情報を必要としていると判断される場合にのみ情報提示が行われるため、頻繁な情報提示による煩わしさが無い。また、運転者にとって必要な車輌周辺状況の情報のみが提示されることとなるので、既に運転者が認識している対象が情報提示されることによる混乱も生じない。その上、運転者が対象物を認識しているか否かをより高い精度で判断することができ、運転者が煩わしさを感じる事がさらに低減されることとなる。
【0023】
第2発明によれば、自車輌の走行状態を知るための自車輌走行状態検知手段を設け、道路交通情報検知手段により検知された道路交通情報と、自車輌走行状態検知手段により検知された自車輌の走行状態に基づき、運転者に対して提示する必要のある道路交通情報と、当該道路交通情報の対象物を選択し、当該対象物が存在するとの判断情報と、自車輌周囲画像検知手段により検知された自車輌の周囲の画像データから、道路交通情報検知手段により検知された道路交通情報に基づく判断条件に該当し情報提示の対象となる対象車輌が存在する可能性のある範囲を設定し、設定した範囲に対象車輌が撮影されているか否かにより運転者による対象車輌の認知可能性を判断して、検知された自車輌の周囲の画像に対象車輌が存在するとの判断情報と、運転者の視界領域を規定して視界領域に対象車輌が存在することにより対象車輌を運転者が認識済みであるとの判断情報とに基づき、運転者が当該対象物を認識していると判断し、この対象物に関する情報を提示しないこととしている。そのため、運転者にとって必要な情報がさらに絞り込まれて提示されることとなり、運転者が煩わしさを感じる事がさらに低減されることとなる。
【0024】
第3発明によれば、道路交通情報検知手段で検知された道路交通情報と自車輌走行状態検知手段で検知された自車輌の走行状態とに基づき、運転者に対して提示する必要のある道路交通情報と、当該道路交通情報の対象物を選択し、当該対象物が存在するとの判断情報と、自車輌周囲画像検知手段により検知された自車輌の周囲の画像データから、道路交通情報検知手段により検知された道路交通情報に基づく判断条件に該当し情報提示の対象となる対象車輌が存在する可能性のある範囲を設定し、設定した範囲に対象車輌が撮影されているか否かにより運転者による対象車輌の認知可能性を判断して、検知された自車輌の周囲の画像に対象車輌が存在するとの判断情報と、運転者の視界領域を規定して視界領域に対象車輌が存在することにより対象車輌を運転者が認識済みであるとの判断情報と、運転者状態検知手段の検知結果により当該対象物が運転者の視界内にあるとの判断情報とに基づき、当該対象物が運転者の視界内にあると判断された場合、当該対象物に関する情報は運転者に提示しないこととしている。そのため、運転者にとって必要な情報がさらに絞り込まれることとなり、しかも運転者が当該対象物を認識しているか否かをより高い制度で判断することができ、運転者が煩わしさを感じる事がさらに低減されることとなる。
【0025】
発明によれば、道路交通情報検知手段が、道路に接地されたITSなどの道路交通情報を提供する設備からの信号により自車輌周囲の道路交通情報を検知することとしているため、より精度の高い道路交通情報を検知することができるようになる。
【0026】
発明によれば、道路交通情報検知手段が、複数の車輌間で相互に各車輌の走行状態を提供する車輌間通信により自車輌周囲の道路交通情報を検知することとしているため、ITSのような施設が設置されていない道路においても道路交通情報を得ることが可能となる。
【0027】
発明によれば、道路交通情報検知手段が、自車輌に設けたレーダにより自車輌周囲の道路交通情報を検知することとしているため、ITSのような施設や車輌間通信に頼ること無しに、自立して道路交通情報を検知することが可能となる。
【0028】
発明によれば、自車輌周囲画像検知手段が、運転者が自車輌の運転席からみることのできる自車輌周囲の画像を、少なくとも1つのカメラにより検知することとしているため、運転者の認識する自車輌周囲の状況と同等の画像を検知することが可能となる。
【0029】
発明によれば、道路交通情報提示手段が、運転者に対する情報の提示を音声、警告音などの音響式出力、または警告灯、ディスプレイ表示などの光学的表示を用いて行うこととしているため、運転者が確実に道路交通情報を把握できるようになる。
【0030】
発明によれば、運転者状態検知手段が、運転者の顔の向きを撮影するカメラにより運転者の状態を検知することとしているため、運転者の顔の向きに基づいて運転者の視界を高い精度で認識することが可能となる。
【0031】
10発明によれば、運転者状態検知手段が、運転者の視線を検知する視線検出装置により運転者の状態を検知することとしているため、運転者の視界をより高い精度で認識することが可能となる。
【0032】
11発明によれば、自車輌走行状態検知手段が、自車輌の車速、操舵角および方向指示器信号の少なくとも一つを検知することとしているため、自車輌の走行状態をより確実に把握することができるようになり、これに応じた適切な情報を運転者に提示することが可能となる。
【0033】
12発明によれば、道路交通情報提示制限手段が、道路交通情報検知手段で検知された道路交通情報に基づき、自車輌周囲画像検知手段により検知された検知画像の内の、道路交通情報の対象物が存在する可能性のある領域を選択し、当該選択された領域内に当該対象物が含まれるか否かを判断することとしているため、対象物が存在する可能性のある領域を絞り込むことができ、自車輌周囲画像検知手段による検知画像内に対象物が存在するか否かを、より短時間で判断することが可能となる。
【0034】
13発明によれば、道路交通情報提示制限手段が、運転者状態検知手段で検知された運転者状態に基づいて運転者の視界範囲を定め、この視界範囲を自車輌の車速が速い程小さく、遅い程大きくすることとしているため、車輌の走行状態に応じて、運転者の視界範囲を的確に設定することが可能となる。
【0035】
【発明の実施の形態】
以下、図面を参照して本発明の好適な実施形態について説明する。
【0036】
図1は、本発明による車輌用情報出力装置の一実施形態の構成を概略示す図である。本装置10は、運転席から見える車輌外部の状況をモニタするための車輌外部モニタ用カメラ11、運転者の顔の向きおよび目の位置を検出する運転者モニタ用カメラ12、運転者に情報を提示するためのディスプレイ13、運転者に音声で警告を与えるためのスピーカ14、ITSなどの道路に接地された道路交通情報提供設備などの外部からの情報を受信するための受信機15、ハンドルの操舵角を検出する操舵角センサ16、車輌の速度を検出する車速センサ17、左右の方向指示器スイッチ18L,18R、ブレーキランプスイッチ19および装置全体を制御するコントローラ20を具える。ここで、車輌外部モニタ用カメラ11は、運転者の通常の位置(姿勢)からフロントガラスを通して見える車輌外部の状況を撮影できるような位置および角度に設定されている。
【0037】
運転席から見える車輌外部の状況、すなわち運転者の視界内に存在する車輌外部の状況は車輌外部モニタ用カメラ11で撮影され、画像信号はコントローラ20へ送られる。同様に、運転者の顔の向きや視線の方向は運転者モニタ用カメラ12により検出され、またITSなどの外部からの情報は受信機15により受信され、さらにハンドルの操舵角は操舵角センサ16により、車輌の速度は車速センサ17によりそれぞれ検出され、これらのデータは全てコントローラ20へ送られる。そして、車輌の右左折時の方向指示器スイッチ18L,18Rおよびブレーキランプスイッチ19の信号もまた、コントローラ20へ送られる。
【0038】
コントローラ20は、得られたデータを基に車輌周辺の道路交通情報、例えば見通しの悪い交差点において進入してくる他車輌や工事箇所のような障害の存在などを判断し、運転者にとって必要な情報をディスプレイ13やスピーカ14に出力する。
【0039】
なお、本装置10は、従来の装置に自車輌周囲画像検知手段である車輌外部モニタ用カメラ11を追加することによっても実現可能であることから、装置自体の製造コストおよび価格の上昇を極力抑制することが可能である。
【0040】
図2は、図1の装置における制御プログラムの処理手順の一例、ここでは自車輌の前方にある交差点に接近してくる他車輌についての情報を提示するための処理手順、具体的には見通しの悪い交差点や、交差点右折時における処理手順を示すフローチャートである。以下、その手順を説明する。なお、このプログラムは、図示しないオペレーティングシステムの下で一定時間毎の割り込みにより行われる。
【0041】
まずステップ101では、前記各種検知手段、すなわち車輌外部モニタ用カメラ11や受信機15等からの各種データを読み込む。具体的には、操舵角センサ16からの操舵角δ、車速センサ17からの車速Vc、方向指示器スイッチ18L,18Rの動作による右左折時の各動作信号、ブレーキランプスイッチ19の動作による信号、車輌外部モニタ用カメラ11からの車輌外部状況の画像データ、運転者モニタ用カメラ12からの運転者の顔の向きDfおよび視線方向Ed、受信機15からの、例えば自車輌から前方の交差点までの距離Lcおよび前方の交差点に接近する他車輌の情報である、車速Vt、交差点までの距離Lt、進行方向Dt、走行車線Ktが、それぞれ読み込まれる。
【0042】
続くステップ102では、他車輌が交差点に到達するまでの時間Ttを算出する。ここでは、対象となる他車輌の存在を受信機15により受信したものとする。まず他車輌の車速Vt、交差点までの距離Ltを用いて、次式
【数1】
Tt=Lt/Vt
よりTtを求める。なお、他車輌が複数台存在する場合には、各車輌毎にTtを算出する。
【0043】
ステップ103では、自車輌の交差点到達時間Tcを算出する。ここでは、自車輌から交差点までの距離Lcと自車輌の車速Vcを用いて、次式
【数2】
Tc=Lc/Vc
よりTcを求める。なお、ここでは受信機15より自車輌から交差点までの距離Lcを直接読み込むこととしているが、この他に、外部から受信した信号が、ある地点を通過した際に受信した、当該ポイントから交差点までの距離Lsであった場合には、その後の移動に伴って変化する自車輌から交差点までの距離Lcを次式にしたがって算出しても良い。
【数3】
Lc(n)=Lc(n-1)-Vc*Δt
ここでLc(1)=Ls、Δtは演算周期、添字nは演算タイミングをそれぞれ示す。
【0044】
次のステップ104では、情報提示の対象となる他車輌を運転者が既に認識済みであるか否かの判断を行う。ここで、運転者が既に認識済みであると判断した場合には処理を終了し、認識していないと判断した場合にはステップ105へ進む。なお、ここでの判断の具体的な処理手順については後述する。
【0045】
ステップ105では、車輌周辺状況である他車輌の状況および自車輌の走行状態に応じて、運転者に情報を提示すべきか否かの情報提示判断を行う。ここで、情報を提示すべきと判断した場合にはステップ106へ進み、提示しなくても良いと判断した場合には処理を終了する。なお、ここでの判断の具体的な処理手順についても後述する。
【0046】
ステップ106では、情報提示の対象となる他車輌(情報提示対象車)が運転者の視界内に存在するか否かの判断を行う。ここで、情報提示対象車が運転者の視界内に存在すると判断した場合には処理を終了し、存在していないと判断した場合にはステップ107へ進む。なお、この判断の具体的な処理手順についても後述する。
【0047】
続くステップ107では、提示する情報の内容(情報提示内容)を設定する。ここでは上述した各ステップで求めた、他車輌の走行状態に応じた情報提示内容を設定するものとする。提示する内容としては、他車輌の存在をディスプレイ13(図1参照)に表示する、スピーカ14(図1参照)から警告音を発する等である。
【0048】
そしてステップ108では情報出力を行う。具体的には、例えば、見通しの悪い交差点においては、どの方向から他車輌が接近してくるかをディスプレイ13に表示する。そして、表示後も運転者が自車輌を停止させる動作を行わない場合には、スピーカ14から警告音を発する。以上の手順を経て処理を終了する。
【0049】
図3は、図2のステップ104における処理手順の詳細を示すフローチャートである。次にその手順を説明する。まずステップ201において、運転者の視界内に他車輌が存在するか否かの判断を示すフラグF_sonzai(i)(カッコ内のiは他車輌の数)がON、すなわち運転者の視界内に存在しているとの判断がなされている時間をカウントする。続くステップ202で、カウントした時間が予め設定した値(時間)だけ経過しているか否かを判断する。ここで、カウントした時間が設定時間を越えていればステップ203へ進み、設定時間に満たない場合には処理を終了し、図2のプログラムへ戻る。そしてステップ203では、運転者が当該他車輌を認識しているとの判断を示すフラグF_ninsiki(i)をONにする。このフラグがONになると、その後当該他車輌は運転者が認識済みと判断され、運転者への情報提示は行われないこととなる。以上の処理の後、図2のプログラムへ戻る。
【0050】
図4は、図2のステップ105における詳細な処理手順の一例を示すフローチャートであり、ここでは見通しの悪い交差点での処理手順を示すものである。以下、その手順を説明する。
【0051】
まずステップ301では、自車輌の走行状態による情報提示判断を行う。具体的には、自車輌の交差点到達時間Tcおよび自車輌から交差点までの距離Lcがそれぞれ所定の範囲内、すなわち、
【数4】
0<Tc<Tc1 ここで、例えばTc1=1sec
Lc<Lc1 ここで、例えばLc1=10m
となった場合に、自車輌が交差点の直近に存在していると判断し、かつ、自車輌の車速Vcが所定値よりも小さい、すなわち
【数5】
Vc<Vc1 ここで、例えばVc1=15km/h
であった場合には、運転者が前方の状況を伺いつつ徐行運転しているものと判断する。このような場合には情報提示が必要であると判断し、第一の情報提示判断フラグF_hyouji1をONにする。
【0052】
続くステップ302では、相手車輌(他車輌)の走行状態による情報提示判断を行う。具体的には、相手車輌の交差点到達時間Ttおよび相手車輌の車速Vtがそれぞれ所定の範囲内、すなわち、
【数6】
0<Tt<Tt1 ここで、例えばTt1=4sec
Vt>Vt1 ここで、例えばVt1=5km/h
であった場合には、相手車輌が前方の交差点に接近中であり、かつ、運転者に情報提示すべき走行状態にあると判断する。このような場合には第二の情報提示判断フラグF_hyouji2をONにする。
【0053】
その後ステップ303では、自車輌の進行方向による情報提示判断を行う。具体的には、図5に示すような見通しの悪い交差点の場合、左方向から接近してくる車輌の情報を提示するときは、自車輌の方向指示器スイッチ18(図1参照)の動作状態で判断する。すなわち、運転者が左折をしようとして左方向の方向指示器を動作させていた場合には情報提示が必要無いと判断し、一方、右方向に動作させていたり、方向指示器を動作させていない場合には情報提示が必要であると判断し、第三の情報提示判断フラグF_hyouji3をONにする。
【0054】
なお、ここでは、方向指示器を動作させていない場合や、動作させるのが遅れた場合も考慮して、操舵角センサ16(図1参照)からの信号より、左右いずれの方向に曲がるのかを判断することとしても良い。つまり、0<Tc<Tc1またはLc<Lc1となった時点からの操舵角δ(ここで、左転舵方向を正とする)の変化量Δδを算出し、その絶対値が設定値Δδより大となった場合、すなわち
【数7】
Δδ│>Δδ
となった場合には交差点を曲がろうとしていると判断し、Δδが正の場合は左折、負の場合は右折と判断する。
【0055】
以上の手順で、第一〜第三の情報提示判断フラグが全てONとなっている場合にのみ情報提示が必要であると判断し、処理を終了して図2のプログラムへ戻る。
【0056】
図6は、図2のステップ105における詳細な処理手順の他の例を示すフローチャートであり、ここでは自車輌が右折する際の処理手順を示すものである。以下、その手順を説明する。
【0057】
まずステップ401では自車輌の走行状態による情報提示判断を行う。なお、具体的な処理手順は図4のフローチャートにおけるステップ301と同様であるため、説明は省略する。ここでも、情報提示が必要であると判断した場合には、第一の情報提示判断フラグF_hyouji1をONにする。
【0058】
続くステップ402では、自車輌の進行方向に基づき情報提示判断を行う。例えば図7に示すように2車線以上の交差点を通過する場合、自車輌が右折しない場合には、前方から接近してくる対向車(図の対向車AおよびB)の情報は、この対向車の存在を運転者は認識しているものとして情報提示を行わないと判断する。一方、自車輌が交差点を右折する場合には、対向車、特に図の対向車Bについての情報が必要であるとして情報提示を行うと判断する。
【0059】
具体的には、ここでは方向指示器スイッチ18(図1参照)の動作状態で自車輌の進行方向を判断する。運転者が右折をしようとして右方向の方向指示器を動作させている場合に情報提示が必要と判断し、第二の情報提示判断フラグF_hyouji2をONにする。
【0060】
なお、この場合も、図4のプログラムのステップ303と同様に、運転者が方向指示器を動作させていない場合や、動作させるのが遅れた場合も考慮して、操舵角センサ16(図1参照)からの信号より、左右いずれの方向に曲がるのかを判断することとしても良い。
【0061】
次のステップ403では、対向車線での右折車輌の有無により情報提示を行うか否かの判断を行う。ここでは、対向車線に存在する対向車(相手車輌)の走行状態により判断する。具体的には、相手車輌の交差点到達時間Ttおよび相手車輌の車速Vtがそれぞれ所定の範囲内、すなわち、
【数8】
0<Tt<Tt2 ここで、例えばTt2=2sec
Vt<Vt2 ここで、例えばVt2=10km/h
であり、かつ、当該相手車輌の走行車線Ktが右折用レーンであった場合(図7の対向車A)には、この相手車輌が交差点で右折待ち状態であるとして情報提示が必要であると判断し、第三の情報提示判断フラグF_hyouji3をONにする。
【0062】
次のステップ404では、対向車(相手車輌)の走行状態により情報提示を行うか否かの判断を行う。具体的には、相手車輌の交差点到達時間Tt'および相手車輌の車速Vt'がそれぞれ所定の範囲内、すなわち、
【数9】
0<Tt'<Tt1' ここで、例えばTt1'=4sec
Vt'>Vt1' ここで、例えばVt1'=5km/h
であり、かつ、当該相手車輌の走行車線Kt'が右折用レーンでない場合(図7の対向車B)には、この相手車輌が交差点に向かって進行中であり、かつ、直進または左折するものであるとして情報提示が必要であると判断し、第四の情報提示判断フラグF_hyouji4をONにする。
【0063】
以上の手順で、第一〜第四の情報提示判断フラグが全てONとなっている場合にのみ情報提示が必要であると判断し、処理を終了して図2のプログラムへ戻る。また、第三の情報提示判断フラグF_hyouji3がOFFで、それ以外の情報提示判断フラグが全てONの場合には、対向車線には右折車輌が存在していないが、交差点に進入する車輌は存在する(図7で対向車Bのみが存在する)ものとし、この場合にも情報提示が必要であると判断する。
【0064】
図8は、図2のステップ106における詳細な処理手順の一例を示すフローチャートであり、ここでは見通しの悪い交差点での処理手順を示すものである。以下、その手順を説明する。
【0065】
まずステップ501では、情報提示の対象となる相手車輌が存在する可能性のある範囲を設定する。具体的には、前のステップ105(図2参照)で求めた相手車輌の走行状態に応じて、当該相手車輌が自車輌の運転席から見て、前方のどの位置で見えるか、あるいは見える可能性があるかを判断する。例えば相手車輌が交差点の左側から接近してくることが判っている場合(図5参照)、車輌外部モニタ用カメラ11(図1参照)で撮影した画像の左側から相手車輌が現れるため、前記範囲を「画面左側道路上付近」と判断する。
【0066】
続くステップ502では、情報提示の対象となる相手車輌の認知可能性の判断を行う。具体的には、車輌外部モニタ用カメラ11で撮影した画像を処理し、画像中の相手車輌が撮影されている可能性のある範囲(前のステップ501で設定した範囲)に当該相手車輌が撮影されているか否かにより認知可能性を判断する。このとき、撮影した画像の全範囲を処理する場合、相当の時間を要するため、前のステップ501で設定した範囲内に絞って処理を行う。ここでの判断処理に応じて、運転者が自車輌の運転席から相手車輌を目視できると判断することが可能となる。
【0067】
次のステップ503では、情報提示の対象となる相手車輌が運転者の視界内に存在するか否かの判断を行う。具体的には、運転者モニタ用カメラ12(図1参照)で読み込んだ、運転者の顔の向きDfおよび視線の方向Edより、運転者が相手車輌を認識しているか否かの判断を行う。この場合、運転者モニタ用カメラ12で撮影した画像より、運転者の通常状態(真正面を向いている状態)における顔の形状および位置、目の形状および位置、瞳の形状および位置を判別し、この状態を基本として、顔や目の形状および位置から、顔の向きDfを判別する。また、目および瞳の形状および位置から、視線方向Edを推定する。
【0068】
例えば、図9に示すように右側から接近してくる相手車輌を車輌外部モニタ用カメラ11では捉えられている場合、運転者の顔の向きDfと視線方向Edより、運転者の視界領域を規定し、この領域に相手車輌が存在するか否かを判断する。ここで、運転者の視界領域は、Df±ΔEまたはEd±ΔEで定義され、ΔEは運転者の視野を示す値である。なお、このΔEは、図10に示すように自車輌の車速Vcに応じて変化するように、具体的にはVcが大きくなる程ΔEが小さくなるように設定する。図9の場合には、運転者が左側を向いているため視界領域には相手車輌が存在しないものと判断する。
【0069】
なお、運転者が一度相手車輌を認識し、その後相手車輌の存在する方向以外に視線を移動させた場合には、当該認識済みの相手車輌についての情報提示がなされる場合ないがある。こうしたことを避けるため、一度運転者が相手車輌の存在を認識していると判断した場合には、存在判断フラグF_sonzaiをONにする。この存在認識フラグF_sonzaiがONの場合、図2のプログラムのステップ104で当該相手車輌を運転者が認識していると判断されることとなる。以上の処理を終了した後、図2のプログラムへ処理を戻す。
【0070】
図11は、図2のステップ106における詳細な処理手順の他の例を示すフローチャートであり、ここでは交差点での右折時の処理手順を示すものである。以下、その手順を説明する。
【0071】
まずステップ601では、情報提示の対象となる相手車輌が存在する可能性のある範囲を設定する。具体的には、前のステップ105(図2参照)で求めた相手車輌の走行状態に応じて、当該相手車輌が自車輌の運転席から見て、前方のどの位置で見えるか、あるいは見える可能性があるかを判断する。例えばステップ105において第三の情報提示判断フラグF_hyouji3がONとなっていた場合、図7に示すように自車輌が右折しようとしており、かつ、対向車線の右折車輌(対向車A)の後方から別の車輌(対向車B)が接近していることが既に認識されており、このとき、車輌外部モニタ用カメラ11で撮影した画像では、対向車Aの後方、かつ、画面左側から対向車Bが現れるため、相手車輌が「画面左側道路上付近」に存在すると判断する。なお、F_hyouji3がOFFの場合には右折する対向車が存在しないため、相手車輌が単に「対向車線上」に存在すると判断する。
【0072】
続くステップ602では、情報提示の対象となる相手車輌の認知可能性の判断を行う。具体的には、車輌外部モニタ用カメラ11で撮影した画像を処理し、画像中の相手車輌が撮影されている可能性のある範囲(前のステップ601で設定した範囲)に当該相手車輌が撮影されているか否かにより認知可能性を判断する。なお、ここでの処理は前述した図8のプログラムのステップ502と同様のものであり、詳細な説明は省略する。
【0073】
次のステップ603では、情報提示の対象となる相手車輌が運転者の視界内に存在するか否かの判断を行う。ここでも、前述した図8のプログラムのステップ503と同様の処理を行う。したがって、詳細な説明は省略する。
【0074】
ここで、図12に示すように右折する対向車(対向車A)の陰から別の対向車(対向車B)が現れるような場合、すなわち対向車Aによる死角領域に対向車Bが入り込んでおり、車輌外部モニタ用カメラ11では捉えられない場合には、対向車Bは、運転者の顔の向きDfと視線の方向Edにより規定される運転者の視界に関わらず、視界内には存在しないと判断する。一方、対向車Aが存在しない、すなわち右折車輌が存在しない場合には、運転者モニタ用カメラ12より得られる運転者の顔の向きDfと視線の方向Edから運転者の視界領域を規定し、その領域内に相手車輌が存在するか否かを判断する。
【0075】
なお、このステップ603においても、一度運転者が相手車輌の存在を認識していると判断した場合には、存在判断フラグF_sonzaiをONにする。この存在認識フラグF_sonzaiがONの場合、図2のプログラムのステップ104で当該相手車輌を運転者が認識していると判断されることとなる。以上の処理を終了した後、図2のプログラムへ処理を戻す。
【0076】
図13は、図1の装置における制御プログラムの処理手順の他の例、ここでは自車輌の前方にある道路標識や急カーブ、工事箇所の存在と言った、前方道路状態の変化についての情報を提示するための処理手順を示すフローチャートである。
以下、その手順を説明する。
【0077】
まずステップ701では、図2のプログラムのステップ101と同様に、車輌外部モニタ用カメラ11等からの各種データを読み込む。続くステップ702では、自車輌の情報提示対象物、すなわち道路標識や急カーブ、工事箇所と言った、道路状況に何らかの変化が生じている箇所までの到達時間を算出する。なお、具体的な算出方法は図2のプログラムのステップ103の場合と同様である。
【0078】
次のステップ703では、情報提示の対象となる他車輌を運転者が既に認識済みであるか否かの判断を行う。ここでの処理手順もまた図2のプログラムのステップ104と同様のものであるため、説明は省略する。
【0079】
ステップ704では、車輌周辺状況である他車輌の状況および自車輌の走行状態に応じて、運転者に情報を提示すべきか否かの情報提示判断を行う。ここで、情報を提示すべきと判断した場合にはステップ705へ進み、提示しなくても良いと判断した場合には処理を終了する。なお、ここでの判断の具体的な処理手順については後述する。
【0080】
ステップ705では、情報提示の対象となる他車輌(情報提示対象車)が運転者の視界内に存在するか否かの判断を行う。ここで、情報提示対象車が運転者の視界内に存在すると判断した場合には処理を終了し、存在していないと判断した場合にはステップ706へ進む。なお、この判断の具体的な処理手順についても後述する。
【0081】
そしてステップ706では提示する情報の内容の設定、ステップ707では情報出力をそれぞれ行う。これら各ステップでの処理もまた、図2のプログラムのステップ107〜108と同じであるため、説明は省略する。以上の手順を経て処理を終了する。
【0082】
図14は、図13のステップ704における処理手順の詳細を示すフローチャートである。次にその手順を説明する。また、この処理が必要となる例として、図15に示すように自車輌が一時停止位置に接近する場合を考える。
【0083】
まずステップ801では、自車輌の走行状態より情報提示判断を行う。ここでは、自車輌の車速Vcおよび、情報提示の対象となる前方の道路状態の変化位置、すなわち図15の例では一時停止位置までの距離Lcに応じて判断を行う。具体的には、車速Vcおよび距離Lcがそれぞれ所定の範囲内、すなわち、
【数10】
0<Tc<Tc3,Lc<Lc3
となった場合に、自車輌が前記変化位置に接近していると判断する。ここで、Tc3およびLc3は、それぞれ図16、図17に特性を示す関数である。このとき、情報提示、すなわち前方に一時停止位置が存在することを運転者に提示する必要があると判断し、第一の情報提示判断フラグF_hyouji1をONにする。
【0084】
次にステップ802では、運転者の停止意志により情報提示の有無を判断する。ここでは、停止意志をブレーキランプスイッチ19(図1参照)のON/OFF動作で判断する。ブレーキランプスイッチ19がOFFのときには停止の意志がないと判断し、この場合情報提示が必要であると判断し、第二の情報提示判断フラグF_hyouji2をONにする。
【0085】
なお、運転者の停止意志を判断する手段として、ブレーキランプスイッチ19の他に図示しない加速度センサやブレーキ油圧系のマスタ圧センサなどを用いることとしても良い。さらに、自車輌の車速Vcが所定値、すなわち
【数11】
Vc<Vc3 ここで、例えばVc3=15km/h
の場合には、運転者が一時停止を想定して徐行運転していると判断し、第二の情報提示判断フラグF_hyouji2をONにしないようにすることとしても良い。
【0086】
以上の手順で、第一および第二の情報提示判断フラグが全てONとなっている場合にのみ情報提示が必要であると判断し、処理を終了して図13のプログラムへ戻る。
【0087】
図18は、図13のステップ705における詳細な処理手順を示すフローチャートである。以下、その手順を説明する。なお、ここでも、この処理が必要となる例として、図15に示すように自車輌が一時停止位置に接近する場合を考える。
【0088】
まずステップ801では、情報対象物が存在する可能性のある範囲の設定を行う。ここでの処理は、基本的には図8のプログラムのステップ501と同様である。図15の例では、一時停止の標識が情報対象物であり、これは前方の道路脇または道路上に存在する可能性が高いので、車輌外部モニタ用カメラ11(図1参照)で撮影した画像の中では前方の道路の左側または上方に標識が現れることとなるので、前記範囲を「道路左脇または上方付近」と判断する。
【0089】
続くステップ802では、情報対象物(ここでは一時停止標識)の認知可能性の判断を行う。ここでの処理もまた、図8のプログラムのステップ502と同様のものである。
【0090】
次のステップ803では、情報対象物が運転者の視界内に存在するか否かの判断を行う。ここでの処理もまた、図8のプログラムのステップ503と同様のものである。
【0091】
図15に示す例では、車輌外部モニタ用カメラ11が前方の道路左側にある一時停止標識を捉えている場合、運転者の顔の向きDfと視線方向Edより、運転者の視界領域を規定し、この領域に標識が存在するか否かを判断する。図示の例では運転者が何らかの原因で前方の標識を見ていないことから、対象物(標識)が運転者の視界内には存在しないものと判断する。
【0092】
以上の処理を終了した後、図13のプログラムへ処理を戻す。
【図面の簡単な説明】
【図1】 本発明による車輌用情報出力装置の一実施形態の構成を概略示す図である。
【図2】 図1の装置における制御プログラムの処理手順の一例を示すフローチャートである。
【図3】 図2のステップ104における処理手順の詳細を示すフローチャートである。
【図4】 図2のステップ105における詳細な処理手順の一例を示すフローチャートである。
【図5】 自車輌が見通しの悪い交差点に差し掛かった状態を示す図である。
【図6】 図2のステップ105における詳細な処理手順の他の例を示すフローチャートである
【図7】 自車輌が交差点に差し掛かった状態を示す図である。
【図8】 図2のステップ106における詳細な処理手順の一例を示すフローチャートである。
【図9】 自車輌が見通しの悪い交差点に差し掛かった際の、自車輌と他の車輌との位置関係および運転者の視界を示す図である。
【図10】 自車輌の車速と運転者の視界との関係を示すグラフである。
【図11】 図2のステップ106における詳細な処理手順の他の例を示すフローチャートである。
【図12】 自車輌が交差点に差し掛かった際の、自車輌と他の車輌との位置関係および運転者の視界を示す図である。
【図13】 図1の装置における制御プログラムの処理手順の他の例を示すフローチャートである。
【図14】 図13のステップ704における処理手順の詳細を示すフローチャートである。
【図15】 図15に示すように自車輌が一時停止位置に接近する状態を示す図である。
【図16】 情報対象物までの到達時間に対する車速の特性を示すグラフである。
【図17】 情報対象物までの距離に対する車速の特性を示すグラフである。
【図18】 図13のステップ705における詳細な処理手順を示すフローチャートである。
【符号の説明】
10 車輌用情報出力装置
11 車輌外部モニタ用カメラ
12 運転者モニタ用カメラ
13 ディスプレイ
14 スピーカ
15 受信機
16 操舵角センサ
17 車速センサ
18 方向指示器スイッチ
19 ブレーキランプスイッチ
20 コントローラ
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a vehicle information output device that presents various information around a host vehicle such as the speed of oncoming vehicles and preceding vehicles, road congestion, and the presence of obstacles on the road to a vehicle driver. is there.
[0002]
[Prior art]
For example, such a device is based on a detection signal from a sensor mounted on a vehicle, information from a road traffic information system such as ITS, or information from other vehicles by inter-vehicle communication, and information on the situation around the vehicle to the driver. Is presented.
[0003]
As information presented to the driver by such a device, for example, there is an approaching other vehicle at an unforeseeable intersection where a building or the like is obstructing the driver's view, but such information is already present in the other vehicle. In some cases, the driver feels annoyed because a warning sound is emitted even though the driver recognizes that he is approaching.
[0004]
In order to solve such a problem, for example, the device disclosed in Japanese Patent Application Laid-Open No. 2000-113395 is based on driving information (vehicle speed, gear position, parking brake state, throttle opening, etc.) of the own vehicle. The intention of the driver such as starting is determined, and it is determined whether or not to present information according to this. Thereby, information is presented according to the driving operation of the driver, and the driver is prevented from feeling bothersome.
[0005]
[Problems to be solved by the invention]
However, in the above device, when necessary information is not presented depending on the operation state of the driver, such as information on other vehicles approaching from the driver's blind spot at an intersection or the like, regardless of the operation state of the driver. There is.
[0006]
The present invention pays attention to the above-mentioned problem, and selects information that is estimated to be unrecognized by the driver from the detected information around the vehicle, and presents only the selected information to the driver. An object of the present invention is to make it possible to present necessary information to the driver without making the driver feel bothersome.
[0007]
[Means for Solving the Problems]
  To achieve the above object, the first invention according to claim 1 is directed to road traffic information detection means for detecting road traffic information around the vehicle and an object of the road traffic information, and a driver from the driver's seat of the vehicle. The vehicle surrounding image detecting means for detecting the surrounding image of the own vehicle that can be seen, the driver state detecting means for detecting the driver's condition, and the road traffic information detected by the road traffic information detecting means Road traffic information presenting means to be presented to the driver, judgment information that there is an object of road traffic information detected by the road traffic information detecting means, and self-detected by the vehicle surrounding image detecting means. From the image data around the vehicle, there is a target vehicle that meets the judgment condition based on the road traffic information detected by the road traffic information detection means and is the target of information presentation.A range that may exist is determined, and the possibility of recognition of the target vehicle by the driver is determined based on whether or not the target vehicle is photographed in the set range., The image around the detected vehicleThe target vehicle isThe determination information that the driver exists, the determination information that the driver has already recognized the target vehicle when the target vehicle exists in the visibility region, and the driver state detection Road traffic information presentation restricting means for not presenting information to the driver based on the determination information that the object is in the driver's field of view based on the detection result of the means.
[0009]
  According to a second aspect of the present invention, road traffic information detecting means for detecting road traffic information around the host vehicle and an object of the road traffic information, and host vehicle running state detecting means for detecting the running state of the host vehicle. The vehicle surrounding image detection means for detecting the surrounding image of the vehicle that the driver can see from the driver's seat of the vehicle, and the road traffic information detected by the road traffic information detection means to the driver. Presenting to the driver based on the road traffic information presenting means to be presented and the road traffic information detected by the road traffic information detecting means and the running state of the own vehicle detected by the own vehicle running state detecting means. Select the necessary road traffic information and the object of the road traffic information, from the judgment information that the object exists, and the image data around the vehicle detected by the vehicle surrounding image detection means, Serial road traffic information subject vehicle to be relevant to the subject of the information presented to the judgment condition based on the detected road traffic information by the detection meansA range that may exist is set, and the possibility of recognition of the target vehicle by the driver is determined based on whether or not the target vehicle is captured in the set range.In the image around the known vehicleThe target vehicle isTo the driver based on the determination information that it exists and the determination information that the driver has already recognized the target vehicle by defining the driver's view area and the presence of the target vehicle in the view area. Road traffic information presentation limiting means that does not present information.
[0010]
  According to a third aspect of the present invention, road traffic information detecting means for detecting road traffic information around the own vehicle, own vehicle running state detecting means for detecting the running state of the own vehicle, and a driver seat of the own vehicle. Self-vehicle surrounding image detection means for detecting an image of the surroundings of the own vehicle that can be seen by the driver, driver state detection means for detecting the state of the driver, and road traffic detected by the road traffic information detection means Driving based on the road traffic information presenting means for presenting information to the driver, the road traffic information detected by the road traffic information detecting means and the running state of the own vehicle detected by the own vehicle running state detecting means The road traffic information that needs to be presented to the user and the object of the road traffic information are selected, the judgment information that the object exists, and the surroundings of the vehicle detected by the vehicle surrounding image detection means From the image data, the road traffic information subject vehicle to be applicable to target information presented to determine the conditions based on the sensed road traffic information by the detection meansA range that may exist is determined, and the possibility of recognition of the target vehicle by the driver is determined based on whether or not the target vehicle is photographed in the set range., The image around the detected vehicleThe target vehicle isThe determination information that the driver exists, the determination information that the driver has already recognized the target vehicle when the target vehicle exists in the visibility region, and the driver state detection Road traffic information presentation restricting means for not presenting information to the driver based on the determination information that the object is in the driver's field of view based on the detection result of the means.
[0011]
  Claim4Described4The invention is first to first3In any one of the inventions, the road traffic information detecting means detects road traffic information around the vehicle by receiving a signal from a road traffic information providing facility installed on the road. is there.
[0012]
  Claim5Described5The invention is first to first3In any one of the inventions, the road traffic information detecting means detects road traffic information around the own vehicle by inter-vehicle communication that provides a running state of each vehicle between a plurality of vehicles. is there.
[0013]
  Claim6Described6The invention is first to first3In any one of inventions, the said road traffic information detection means detects the road traffic information around the own vehicle by the radar provided in the own vehicle.
[0014]
  Claim7Described7The invention is first to first6In any one of the inventions, the vehicle surroundings image detection means detects an image of the surroundings of the host vehicle that can be viewed from the driver's seat of the host vehicle by at least one camera. .
[0015]
  Claim8Described8The invention is first to first7In any of the inventions, the road traffic information presenting means presents road traffic information to the driver by at least one of an acoustic output means and an optical display means.
[0016]
  Claim9Described9Invention1Or second3In the present invention, the driver state detection means detects a driver's state by a camera that captures the direction of the driver's face.
[0017]
  Claim10Described10Invention1Or second3In the present invention, the driver state detection means detects a driver's state by a line-of-sight detection device that detects the driver's line of sight.
[0018]
  Claim11Described11Invention2Or second3In the present invention, the vehicle running state detecting means detects at least one of a vehicle speed, a steering angle, and a direction indicator signal of the vehicle.
[0019]
  Claim12Described12The invention is first to first11In any one of the inventions, the road traffic information presentation restricting means is based on the road traffic information detected by the road traffic information detecting means, and the road among the detected images detected by the vehicle surrounding image detecting means. An area in which an object of traffic information may be present is selected, and it is determined whether or not the object is included in the selected area.
[0020]
  Claim13Described13Invention1Or second3In the invention, the road traffic information presentation restricting means determines a driver's view range based on the driver state detected by the driver state detecting means, and the view range is smaller and slower as the vehicle speed of the own vehicle is faster. It is characterized by being made larger.
[0021]
【The invention's effect】
  According to the first invention, from the judgment information that the object of the road traffic information detected by the road traffic information detecting means exists and the image data around the own vehicle detected by the own vehicle surrounding image detecting means, the road The target vehicle that meets the judgment condition based on the road traffic information detected by the traffic information detection means and is the target of information presentation isSet the range that may exist, and determine whether the driver can recognize the target vehicle based on whether or not the target vehicle is shot in the set range., The image around the detected vehicleThe target vehicleInformation indicating that the vehicle is present, information indicating that the driver has already recognized the target vehicle due to the presence of the target vehicle in the visual field and the detection result of the driver state detection means Thus, based on the determination information that the object is in the driver's field of view, it is determined that the driver recognizes the object, and no information regarding the object is presented. In other words, since information presentation is performed only when it is determined that the driver needs information, there is no inconvenience due to frequent information presentation. In addition, since only the information on the situation around the vehicle that is necessary for the driver is presented, there is no confusion caused by the information presented by the object already recognized by the driver. In addition, it can be determined with higher accuracy whether or not the driver recognizes the object, and the driver's feeling of annoyance is further reduced.
[0023]
  According to the second aspect of the present invention, the vehicle traveling state detection means for knowing the traveling state of the vehicle is provided, the road traffic information detected by the road traffic information detection means, and the vehicle detected by the vehicle traveling state detection means. Based on the running state of the vehicle, the road traffic information that needs to be presented to the driver, the object of the road traffic information is selected, the determination information that the object exists, and the vehicle surrounding image detection means From the image data of the surroundings of the vehicle detected by the above, the target vehicle that is subject to the judgment condition based on the road traffic information detected by the road traffic information detection means and that is the target of information presentation isSet the range that may exist, and determine whether the driver can recognize the target vehicle based on whether or not the target vehicle is shot in the set range., The image around the detected vehicleThe target vehicleBased on the determination information that the driver exists, and the determination information that the driver has already recognized the target vehicle because the target vehicle exists in the visibility area by defining the driver's view area. Is determined to be recognized, and information about the object is not presented. Therefore, information necessary for the driver is further narrowed down and presented, and the driver's feeling of annoyance is further reduced.
[0024]
  According to the third invention, the road that needs to be presented to the driver based on the road traffic information detected by the road traffic information detecting means and the running state of the own vehicle detected by the own vehicle running state detecting means. From the traffic information, the object of the road traffic information is selected, the judgment information that the object is present, and the image data around the vehicle detected by the vehicle surrounding image detection means, the road traffic information detection means The target vehicle that meets the criteria based on the road traffic information detected by theSet the range that may exist, and determine whether the driver can recognize the target vehicle based on whether or not the target vehicle is shot in the set range., The image around the detected vehicleThe target vehicleInformation indicating that the vehicle is present, information indicating that the driver has already recognized the target vehicle due to the presence of the target vehicle in the visual field and the detection result of the driver state detection means Based on the determination information that the object is in the driver's field of view, if the object is determined to be in the driver's field of view, information on the object is not presented to the driver. Yes. Therefore, the information necessary for the driver is further narrowed down, and it is possible to determine whether or not the driver recognizes the target object with a higher system, and the driver may feel annoyed further. It will be reduced.
[0025]
  First4According to the invention, the road traffic information detection means detects the road traffic information around the vehicle by a signal from a facility that provides road traffic information such as ITS that is grounded on the road. Road traffic information can be detected.
[0026]
  First5According to the invention, the road traffic information detecting means detects the road traffic information around the own vehicle by inter-vehicle communication that provides the traveling state of each vehicle between a plurality of vehicles. Road traffic information can be obtained even on roads where facilities are not installed.
[0027]
  First6According to the invention, since the road traffic information detecting means detects the road traffic information around the own vehicle by the radar provided in the own vehicle, it is independent without relying on facilities such as ITS and inter-vehicle communication. Thus, road traffic information can be detected.
[0028]
  First7According to the invention, the vehicle surrounding image detection means detects the image of the surroundings of the own vehicle that the driver can see from the driver's seat of the own vehicle by at least one camera. An image equivalent to the situation around the host vehicle can be detected.
[0029]
  First8According to the invention, the road traffic information presenting means presents information to the driver by using an acoustic output such as sound and warning sound, or an optical display such as a warning light and display. Can surely grasp road traffic information.
[0030]
  First9According to the invention, since the driver state detection means detects the driver's state by the camera that captures the direction of the driver's face, the driver's view is increased based on the driver's face direction. It becomes possible to recognize with accuracy.
[0031]
  First10According to the invention, since the driver state detection means detects the driver's state by the line-of-sight detection device that detects the driver's line of sight, the driver's field of view can be recognized with higher accuracy. Become.
[0032]
  First11According to the invention, since the vehicle running state detection means detects at least one of the vehicle speed, the steering angle, and the direction indicator signal of the host vehicle, the running state of the host vehicle can be more reliably grasped. Thus, it becomes possible to present appropriate information to the driver accordingly.
[0033]
  First12According to the invention, the road traffic information presentation limiting means is based on the road traffic information detected by the road traffic information detection means, and the object of road traffic information in the detected image detected by the vehicle surrounding image detection means. Since there is a possibility to select an area where the object may exist and determine whether the object is included in the selected area, it is possible to narrow down an area where the object may exist It is possible to determine in a shorter time whether or not an object exists in the detection image by the vehicle surrounding image detection means.
[0034]
  First13According to the invention, the road traffic information presentation restricting means determines the driver's view range based on the driver state detected by the driver state detecting means, and the view range is smaller and slower as the vehicle speed of the own vehicle is faster. Since it is supposed to be made larger, it becomes possible to accurately set the driver's field of view according to the traveling state of the vehicle.
[0035]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, preferred embodiments of the present invention will be described with reference to the drawings.
[0036]
FIG. 1 is a diagram schematically showing the configuration of an embodiment of a vehicle information output device according to the present invention. This device 10 includes a vehicle external monitoring camera 11 for monitoring the situation outside the vehicle as seen from the driver's seat, a driver monitoring camera 12 for detecting the driver's face orientation and eye position, and information to the driver. Display 13 for presenting, speaker 14 for giving a warning to the driver by voice, receiver 15 for receiving information from outside such as road traffic information providing equipment grounded on the road such as ITS, steering wheel A steering angle sensor 16 for detecting the steering angle, a vehicle speed sensor 17 for detecting the speed of the vehicle, left and right direction indicator switches 18L and 18R, a brake lamp switch 19, and a controller 20 for controlling the entire apparatus are provided. Here, the vehicle external monitoring camera 11 is set to a position and an angle so that a situation outside the vehicle seen through the windshield can be photographed from the normal position (posture) of the driver.
[0037]
The situation outside the vehicle seen from the driver's seat, that is, the situation outside the vehicle existing in the driver's field of view, is photographed by the vehicle external monitor camera 11 and the image signal is sent to the controller 20. Similarly, the direction of the driver's face and the direction of the line of sight are detected by the driver monitor camera 12, information from the outside such as ITS is received by the receiver 15, and the steering angle of the steering wheel is determined by the steering angle sensor 16. Thus, the vehicle speed is detected by the vehicle speed sensor 17, and all of these data are sent to the controller 20. The signals from the direction indicator switches 18L and 18R and the brake lamp switch 19 when the vehicle turns right and left are also sent to the controller 20.
[0038]
Based on the obtained data, the controller 20 determines the road traffic information around the vehicle, for example, the presence of obstacles such as other vehicles entering the intersection with poor visibility and construction points, etc. Is output to the display 13 and the speaker 14.
[0039]
This device 10 can also be realized by adding a vehicle external monitor camera 11 that is a vehicle surrounding image detection means to the conventional device, so that an increase in manufacturing cost and price of the device itself is suppressed as much as possible. Is possible.
[0040]
FIG. 2 shows an example of the processing procedure of the control program in the apparatus of FIG. 1, in this case, the processing procedure for presenting information about other vehicles approaching the intersection ahead of the host vehicle, specifically the prospect. It is a flowchart which shows the process sequence at the time of a bad intersection and the intersection right turn. The procedure will be described below. This program is executed by interruption every predetermined time under an operating system (not shown).
[0041]
First, in step 101, various data from the various detection means, that is, the vehicle external monitoring camera 11, the receiver 15, and the like are read. Specifically, the steering angle δ from the steering angle sensor 16, the vehicle speed Vc from the vehicle speed sensor 17, each operation signal at the time of turning left and right by the operation of the direction indicator switches 18L and 18R, the signal by the operation of the brake lamp switch 19, Image data of the vehicle external situation from the vehicle external monitor camera 11, the driver's face orientation Df and line-of-sight direction Ed from the driver monitor camera 12, from the receiver 15, for example, from the own vehicle to the front intersection The vehicle speed Vt, the distance Lt to the intersection, the traveling direction Dt, and the travel lane Kt, which are information on the distance Lc and other vehicles approaching the intersection ahead, are read.
[0042]
In the following step 102, a time Tt until another vehicle reaches the intersection is calculated. Here, it is assumed that the presence of another target vehicle is received by the receiver 15. First, using the vehicle speed Vt of other vehicles and the distance Lt to the intersection,
[Expression 1]
Tt = Lt / Vt
Tt is calculated from When there are a plurality of other vehicles, Tt is calculated for each vehicle.
[0043]
In step 103, the intersection arrival time Tc of the own vehicle is calculated. Here, using the distance Lc from the host vehicle to the intersection and the vehicle speed Vc of the host vehicle,
[Expression 2]
Tc = Lc / Vc
Tc is calculated from Here, the receiver 15 directly reads the distance Lc from the vehicle to the intersection from the receiver 15, but in addition to this, the signal received from the outside is received when passing a certain point from the point to the intersection. If the distance is Ls, the distance Lc from the own vehicle, which changes with the subsequent movement, to the intersection may be calculated according to the following equation.
[Equation 3]
Lc (n) = Lc (n-1) -Vc * Δt
Here, Lc (1) = Ls, Δt is a calculation cycle, and subscript n is a calculation timing.
[0044]
In the next step 104, it is determined whether or not the driver has already recognized another vehicle for which information is to be presented. Here, if it is determined that the driver has already been recognized, the process ends. If it is determined that the driver has not recognized, the process proceeds to step 105. A specific processing procedure for the determination here will be described later.
[0045]
In step 105, an information presentation determination is made as to whether or not information should be presented to the driver according to the situation of other vehicles, which is the situation around the vehicle, and the traveling state of the host vehicle. If it is determined that information should be presented, the process proceeds to step 106, and if it is determined that the information need not be presented, the process ends. A specific processing procedure for the determination here will also be described later.
[0046]
In step 106, it is determined whether or not another vehicle (information presentation target vehicle) that is an information presentation target exists in the driver's field of view. If it is determined that the information presentation target vehicle exists in the driver's field of view, the process ends. If it is determined that the information presentation target vehicle does not exist, the process proceeds to step 107. A specific processing procedure for this determination will also be described later.
[0047]
In the following step 107, the content of information to be presented (information presentation content) is set. Here, the information presentation content according to the running state of the other vehicle obtained in each step described above is set. As the contents to be presented, the presence of other vehicles is displayed on the display 13 (see FIG. 1), and a warning sound is emitted from the speaker 14 (see FIG. 1).
[0048]
In step 108, information is output. Specifically, for example, at an intersection with poor visibility, the display 13 displays from which direction the other vehicle is approaching. If the driver does not perform an operation to stop the vehicle after the display, a warning sound is emitted from the speaker 14. The process is terminated through the above procedure.
[0049]
FIG. 3 is a flowchart showing details of the processing procedure in step 104 of FIG. Next, the procedure will be described. First, in step 201, a flag F_sonzai (i) (i in parentheses is the number of other vehicles) indicating whether or not there is another vehicle in the driver's field of view is ON, that is, in the driver's field of view. Count the time when it is determined that you are doing. In the following step 202, it is determined whether or not the counted time has elapsed by a preset value (time). If the counted time exceeds the set time, the process proceeds to step 203. If the counted time is less than the set time, the process is terminated and the program returns to the program of FIG. In step 203, a flag F_ninsiki (i) indicating that the driver recognizes the other vehicle is turned ON. When this flag is turned on, it is determined that the driver has already recognized the other vehicle, and no information is presented to the driver. After the above processing, the program returns to the program in FIG.
[0050]
FIG. 4 is a flowchart showing an example of a detailed processing procedure in step 105 of FIG. 2, and here shows a processing procedure at an intersection with poor visibility. The procedure will be described below.
[0051]
First, in step 301, information presentation determination is performed based on the traveling state of the vehicle. Specifically, the intersection arrival time Tc of the own vehicle and the distance Lc from the own vehicle to the intersection are within predetermined ranges, that is,
[Expression 4]
0 <Tc <Tc1 where, for example, Tc1 = 1 sec
Lc <Lc1 where, for example, Lc1 = 10 m
The vehicle speed Vc of the vehicle is smaller than a predetermined value, that is, it is determined that the vehicle is in the immediate vicinity of the intersection.
[Equation 5]
Vc <Vc1 where, for example, Vc1 = 15km / h
If it is, it is determined that the driver is driving slowly while asking the situation ahead. In such a case, it is determined that information presentation is necessary, and the first information presentation determination flag F_hyouji1 is set to ON.
[0052]
In the subsequent step 302, information presentation determination is performed based on the running state of the opponent vehicle (other vehicle). Specifically, the intersection arrival time Tt of the opponent vehicle and the vehicle speed Vt of the opponent vehicle are each within a predetermined range, that is,
[Formula 6]
0 <Tt <Tt1 where, for example, Tt1 = 4 sec
Vt> Vt1 where, for example, Vt1 = 5km / h
If it is, it is determined that the opponent vehicle is approaching the intersection ahead and is in a traveling state in which information should be presented to the driver. In such a case, the second information presentation determination flag F_hyouji2 is turned ON.
[0053]
Thereafter, in step 303, information presentation determination is made based on the traveling direction of the host vehicle. Specifically, in the case of an intersection with poor visibility as shown in FIG. 5, when presenting information on a vehicle approaching from the left, the operating state of the direction indicator switch 18 of the own vehicle (see FIG. 1) Judge with. That is, if the driver is operating the left direction indicator to make a left turn, it is determined that no information is required, and on the other hand, the driver is operating right or the direction indicator is not operating. In this case, it is determined that information presentation is necessary, and the third information presentation determination flag F_hyouji3 is set to ON.
[0054]
In this case, considering whether the direction indicator is not operated or when it is delayed, the direction from the steering angle sensor 16 (see FIG. 1) to the left or right is determined. It may be judged. That is, the change amount Δδ of the steering angle δ (where the left-turning direction is positive) from the time when 0 <Tc <Tc1 or Lc <Lc1 is satisfied, and the absolute value thereof is set to the set value Δδ.LIf it becomes larger, ie
[Expression 7]
Δδ│> ΔδL
If it becomes, it is determined that the intersection is going to be turned, and if Δδ is positive, it is determined to turn left, and if it is negative, it is determined to turn right.
[0055]
With the above procedure, it is determined that information presentation is necessary only when the first to third information presentation judgment flags are all ON, the process is terminated, and the program returns to the program of FIG.
[0056]
FIG. 6 is a flowchart showing another example of the detailed processing procedure in step 105 of FIG. 2. Here, the processing procedure when the host vehicle turns right is shown. The procedure will be described below.
[0057]
First, in step 401, information presentation determination is performed based on the traveling state of the vehicle. The specific processing procedure is the same as that in step 301 in the flowchart of FIG. Again, when it is determined that information presentation is necessary, the first information presentation determination flag F_hyouji1 is set to ON.
[0058]
In subsequent step 402, information presentation determination is performed based on the traveling direction of the host vehicle. For example, as shown in FIG. 7, when passing an intersection of two or more lanes and the vehicle does not turn right, the information on the oncoming vehicles approaching from the front (opposite vehicles A and B in the figure) It is determined that the driver does not present information because the driver recognizes the existence of the vehicle. On the other hand, when the own vehicle turns right at the intersection, it is determined that information is presented because information on the oncoming vehicle, particularly oncoming vehicle B in the figure, is necessary.
[0059]
Specifically, the traveling direction of the host vehicle is determined based on the operating state of the direction indicator switch 18 (see FIG. 1). When the driver is operating the right direction indicator to make a right turn, it is determined that information presentation is necessary, and the second information presentation determination flag F_hyouji2 is turned ON.
[0060]
In this case as well, as in step 303 of the program of FIG. 4, the steering angle sensor 16 (FIG. 1) is also taken into consideration when the driver does not operate the direction indicator or when the driver is delayed. It is also possible to determine whether the vehicle turns in the left or right direction based on the signal from the reference).
[0061]
In the next step 403, it is determined whether or not to present information based on the presence or absence of a right turn vehicle in the oncoming lane. Here, the determination is made based on the traveling state of the oncoming vehicle (the partner vehicle) existing in the oncoming lane. Specifically, the intersection arrival time Tt of the opponent vehicle and the vehicle speed Vt of the opponent vehicle are each within a predetermined range, that is,
[Equation 8]
0 <Tt <Tt2 where, for example, Tt2 = 2sec
Vt <Vt2 where, for example, Vt2 = 10km / h
And the driving lane Kt of the partner vehicle is a right turn lane (oncoming vehicle A in FIG. 7), it is necessary to present information that this partner vehicle is waiting for a right turn at the intersection. The third information presentation determination flag F_hyouji3 is turned ON.
[0062]
In the next step 404, it is determined whether or not to present information according to the traveling state of the oncoming vehicle (the partner vehicle). Specifically, the intersection arrival time Tt ′ of the opponent vehicle and the vehicle speed Vt ′ of the opponent vehicle are each within a predetermined range, that is,
[Equation 9]
0 <Tt '<Tt1' where, for example, Tt1 '= 4 sec
Vt '> Vt1' where, for example, Vt1 '= 5km / h
If the driving lane Kt 'of the opponent vehicle is not a right turn lane (oncoming vehicle B in Fig. 7), the opponent vehicle is moving toward the intersection and goes straight or turns left It is determined that information presentation is necessary, and the fourth information presentation judgment flag F_hyouji4 is turned ON.
[0063]
With the above procedure, it is determined that information presentation is necessary only when the first to fourth information presentation judgment flags are all ON, and the processing is terminated and the program returns to the program of FIG. If the third information presentation determination flag F_hyouji3 is OFF and all other information presentation determination flags are ON, there is no right turn vehicle in the oncoming lane, but there is a vehicle entering the intersection. (Only the oncoming vehicle B exists in FIG. 7), and in this case, it is determined that information presentation is necessary.
[0064]
FIG. 8 is a flowchart showing an example of a detailed processing procedure in step 106 of FIG. 2, and here shows a processing procedure at an intersection with poor visibility. The procedure will be described below.
[0065]
First, in step 501, a range in which there is a possibility that an opponent vehicle for which information is to be presented exists. Specifically, depending on the driving condition of the opponent vehicle obtained in the previous step 105 (see FIG. 2), the opponent vehicle can be seen at a position in front of the driver's seat as viewed from the driver's seat. Determine if there is sex. For example, if it is known that the opponent vehicle is approaching from the left side of the intersection (see Fig. 5), the opponent vehicle appears from the left side of the image taken by the vehicle external monitor camera 11 (see Fig. 1), so the above range Is determined as “near the road on the left side of the screen”.
[0066]
In the subsequent step 502, the possibility of recognizing the opponent vehicle for which information is to be presented is determined. Specifically, the image captured by the vehicle external monitor camera 11 is processed, and the partner vehicle is photographed in a range where the partner vehicle may be photographed in the image (the range set in the previous step 501). Judgment possibility is judged by whether it is done. At this time, when the entire range of the photographed image is processed, a considerable amount of time is required. Therefore, the processing is performed within the range set in the previous step 501. In accordance with the determination process here, it is possible to determine that the driver can see the opponent vehicle from the driver's seat of the own vehicle.
[0067]
In the next step 503, it is determined whether or not the opponent vehicle for which information is to be presented exists in the driver's field of view. Specifically, it is determined whether or not the driver recognizes the partner vehicle based on the driver's face orientation Df and line-of-sight direction Ed read by the driver monitor camera 12 (see FIG. 1). . In this case, from the image taken by the driver monitor camera 12, the shape and position of the face, the shape and position of the eyes, the shape and position of the pupil in the normal state of the driver (the state facing directly in front) are determined, Based on this state, the face direction Df is determined from the shape and position of the face and eyes. Further, the line-of-sight direction Ed is estimated from the shape and position of the eyes and pupils.
[0068]
For example, when the other vehicle approaching from the right side is captured by the vehicle external monitor camera 11 as shown in FIG. 9, the driver's view area is defined by the driver's face direction Df and the line-of-sight direction Ed. Then, it is determined whether or not an opponent vehicle exists in this area. Here, the visual field of the driver is defined by Df ± ΔE or Ed ± ΔE, and ΔE is a value indicating the visual field of the driver. As shown in FIG. 10, ΔE is set so that ΔE decreases as Vc increases, so as to change according to the vehicle speed Vc of the host vehicle. In the case of FIG. 9, since the driver is facing the left side, it is determined that there is no opponent vehicle in the field of view.
[0069]
If the driver once recognizes the partner vehicle and then moves his / her line of sight in a direction other than the direction in which the partner vehicle exists, there is a case where information about the recognized partner vehicle is not presented. In order to avoid such a situation, if it is determined that the driver has recognized the existence of the partner vehicle, the presence determination flag F_sonzai is turned ON. When the presence recognition flag F_sonzai is ON, it is determined that the driver recognizes the partner vehicle in step 104 of the program in FIG. After finishing the above processing, the processing is returned to the program of FIG.
[0070]
FIG. 11 is a flowchart showing another example of the detailed processing procedure in step 106 of FIG. 2, and shows the processing procedure at the time of a right turn at an intersection. The procedure will be described below.
[0071]
First, in step 601, a range in which there is a possibility that an opponent vehicle for which information is to be presented exists is set. Specifically, depending on the driving condition of the opponent vehicle obtained in the previous step 105 (see FIG. 2), the opponent vehicle can be seen at a position in front of the driver's seat as viewed from the driver's seat. Determine if there is sex. For example, if the third information presentation determination flag F_hyouji3 is ON in step 105, the vehicle is about to turn right as shown in FIG. 7, and another vehicle from the back of the right turn vehicle (opposite vehicle A) in the opposite lane The vehicle (oncoming vehicle B) is already recognized as approaching. At this time, in the image taken by the vehicle external monitor camera 11, the oncoming vehicle B is seen from behind the oncoming vehicle A and from the left side of the screen. Since it appears, it is determined that the opponent vehicle exists “near the road on the left side of the screen”. When F_hyouji3 is OFF, there is no oncoming vehicle that turns right, so it is determined that the opponent vehicle is simply “on the oncoming lane”.
[0072]
In the subsequent step 602, it is determined whether or not the partner vehicle that is the target of information presentation can be recognized. Specifically, the image captured by the vehicle external monitor camera 11 is processed, and the partner vehicle is photographed in a range where the partner vehicle may be photographed in the image (the range set in the previous step 601). Judgment possibility is judged by whether it is done. Note that the processing here is the same as step 502 of the program in FIG. 8 described above, and a detailed description thereof will be omitted.
[0073]
In the next step 603, it is determined whether or not the partner vehicle for which information is to be presented exists in the driver's field of view. Also here, the same processing as in step 503 of the program of FIG. 8 described above is performed. Therefore, detailed description is omitted.
[0074]
Here, as shown in FIG. 12, when another oncoming vehicle (oncoming vehicle B) appears behind the oncoming vehicle (oncoming vehicle A) that turns right, that is, the oncoming vehicle B enters the blind spot area of the oncoming vehicle A. If the vehicle external monitoring camera 11 cannot capture the oncoming vehicle B, the oncoming vehicle B exists in the field of view regardless of the driver's field of view defined by the driver's face direction Df and the line of sight direction Ed. Judge not to. On the other hand, when there is no oncoming vehicle A, that is, when there is no right turn vehicle, the driver's face direction Df and the line-of-sight direction Ed obtained from the driver monitor camera 12 are defined, It is determined whether there is an opponent vehicle in the area.
[0075]
In step 603, if it is determined that the driver has recognized the presence of the opponent vehicle, the presence determination flag F_sonzai is turned ON. When the presence recognition flag F_sonzai is ON, it is determined that the driver recognizes the partner vehicle in step 104 of the program in FIG. After finishing the above processing, the processing is returned to the program of FIG.
[0076]
FIG. 13 shows another example of the processing procedure of the control program in the apparatus of FIG. 1, in this case, information on changes in the front road condition, such as the presence of road signs, sharp curves, and construction points in front of the vehicle. It is a flowchart which shows the process sequence for showing.
The procedure will be described below.
[0077]
First, in step 701, as in step 101 of the program in FIG. 2, various data from the vehicle external monitor camera 11 and the like are read. In the next step 702, the arrival time to an information presentation object of the own vehicle, that is, a road sign, a sharp curve, a place where some change in road conditions such as a construction place is calculated. A specific calculation method is the same as that in step 103 of the program in FIG.
[0078]
In the next step 703, it is determined whether or not the driver has already recognized another vehicle for which information is to be presented. The processing procedure here is also the same as that of step 104 of the program in FIG.
[0079]
In step 704, information presentation determination is made as to whether or not information should be presented to the driver according to the situation of other vehicles, which is the situation around the vehicle, and the traveling state of the host vehicle. If it is determined that information should be presented, the process proceeds to step 705. If it is determined that information need not be presented, the process ends. A specific processing procedure for the determination here will be described later.
[0080]
In step 705, it is determined whether or not another vehicle (information presentation target vehicle) that is an information presentation target exists in the driver's field of view. If it is determined that the information presentation target vehicle is present in the driver's field of view, the process ends. If it is determined that the information presentation target vehicle does not exist, the process proceeds to step 706. A specific processing procedure for this determination will also be described later.
[0081]
In step 706, the contents to be presented are set, and in step 707, information is output. The processing in each of these steps is also the same as steps 107 to 108 of the program in FIG. The process is terminated through the above procedure.
[0082]
FIG. 14 is a flowchart showing details of the processing procedure in step 704 of FIG. Next, the procedure will be described. Further, as an example in which this processing is necessary, consider a case where the host vehicle approaches the temporary stop position as shown in FIG.
[0083]
First, in step 801, information presentation is determined based on the running state of the vehicle. Here, the determination is made according to the vehicle speed Vc of the own vehicle and the change position of the road condition ahead of which information is to be presented, that is, the distance Lc to the temporary stop position in the example of FIG. Specifically, the vehicle speed Vc and the distance Lc are within predetermined ranges, that is,
[Expression 10]
0 <Tc <Tc3, Lc <Lc3
When it becomes, it judges that the own vehicle is approaching the said change position. Here, Tc3 and Lc3 are functions whose characteristics are shown in FIGS. 16 and 17, respectively. At this time, it is determined that it is necessary to present information to the driver, that is, that the temporary stop position is ahead, and the first information presentation determination flag F_hyouji1 is turned ON.
[0084]
Next, in step 802, it is determined whether or not information is presented based on the driver's intention to stop. Here, the intention to stop is determined by the ON / OFF operation of the brake lamp switch 19 (see FIG. 1). When the brake lamp switch 19 is OFF, it is determined that there is no intention to stop. In this case, it is determined that information presentation is necessary, and the second information presentation determination flag F_hyouji2 is set to ON.
[0085]
As a means for determining the driver's intention to stop, an acceleration sensor (not shown) or a master pressure sensor of a brake hydraulic system may be used in addition to the brake lamp switch 19. Furthermore, the vehicle speed Vc of the own vehicle is a predetermined value, that is,
[Expression 11]
Vc <Vc3 where, for example, Vc3 = 15km / h
In this case, it may be determined that the driver is driving slowly assuming a temporary stop and the second information presentation determination flag F_hyouji2 is not turned ON.
[0086]
According to the above procedure, it is determined that information presentation is necessary only when the first and second information presentation judgment flags are all ON, the process is terminated, and the program returns to the program of FIG.
[0087]
FIG. 18 is a flowchart showing a detailed processing procedure in step 705 of FIG. The procedure will be described below. Here again, as an example in which this processing is required, consider a case where the host vehicle approaches the temporary stop position as shown in FIG.
[0088]
First, in step 801, a range in which an information object may exist is set. The processing here is basically the same as step 501 of the program of FIG. In the example of FIG. 15, the stop sign is an information object, which is likely to be on the roadside or on the road ahead, so an image taken with the vehicle external monitor camera 11 (see FIG. 1) Since a sign appears on the left side or the upper side of the road ahead, the range is determined to be “on the left side of the road or near the upper side”.
[0089]
In the subsequent step 802, it is determined whether or not the information object (here, a stop sign) can be recognized. The processing here is also the same as step 502 of the program in FIG.
[0090]
In the next step 803, it is determined whether or not the information object exists in the driver's field of view. The processing here is also the same as step 503 of the program in FIG.
[0091]
In the example shown in FIG. 15, when the vehicle external monitor camera 11 is capturing a stop sign on the left side of the road ahead, the driver's view area is defined by the driver's face direction Df and the line-of-sight direction Ed. Then, it is determined whether or not a sign is present in this area. In the illustrated example, since the driver does not see the front sign for some reason, it is determined that the object (sign) is not present in the driver's field of view.
[0092]
After the above processing is completed, the processing is returned to the program of FIG.
[Brief description of the drawings]
FIG. 1 is a diagram schematically showing a configuration of an embodiment of a vehicle information output device according to the present invention.
FIG. 2 is a flowchart showing an example of a processing procedure of a control program in the apparatus of FIG.
FIG. 3 is a flowchart showing details of a processing procedure in step 104 of FIG.
FIG. 4 is a flowchart showing an example of a detailed processing procedure in step 105 of FIG.
FIG. 5 is a diagram showing a state where the vehicle has reached an intersection with poor visibility.
6 is a flowchart showing another example of a detailed processing procedure in step 105 of FIG.
FIG. 7 is a diagram showing a state in which the vehicle has reached an intersection.
FIG. 8 is a flowchart showing an example of a detailed processing procedure in step 106 of FIG.
FIG. 9 is a diagram showing the positional relationship between the vehicle and other vehicles and the driver's field of view when the vehicle approaches an intersection with poor visibility.
FIG. 10 is a graph showing the relationship between the vehicle speed of the host vehicle and the driver's field of view.
FIG. 11 is a flowchart showing another example of a detailed processing procedure in Step 106 of FIG. 2;
FIG. 12 is a diagram showing a positional relationship between the vehicle and another vehicle and a driver's field of view when the vehicle approaches an intersection.
13 is a flowchart showing another example of the processing procedure of the control program in the apparatus of FIG.
14 is a flowchart showing details of a processing procedure in step 704 of FIG.
15 is a view showing a state in which the host vehicle approaches a temporary stop position as shown in FIG.
FIG. 16 is a graph showing characteristics of vehicle speed with respect to arrival time to an information object.
FIG. 17 is a graph showing the characteristics of the vehicle speed with respect to the distance to the information object.
FIG. 18 is a flowchart showing a detailed processing procedure in step 705 of FIG.
[Explanation of symbols]
10 Vehicle information output device
11 Vehicle external monitor camera
12 Driver monitoring camera
13 display
14 Speaker
15 Receiver
16 Steering angle sensor
17 Vehicle speed sensor
18 Direction indicator switch
19 Brake lamp switch
20 Controller

Claims (13)

自車輌の周囲の道路交通情報及び該道路交通情報の対象物を検知する道路交通情報検知手段と、
自車輌の運転席から運転者が見ることができる自車輌の周囲の画像を検知する自車輌周囲画像検知手段と、
運転者の状態を検知する運転者状態検知手段と、
前記道路交通情報検知手段で検知された道路交通情報を運転者に対して提示する道路交通情報提示手段と、
前記道路交通情報検知手段により検知された道路交通情報の対象物が存在するとの判断情報と、
前記自車輌周囲画像検知手段により検知された自車輌の周囲の画像データから、前記道路交通情報検知手段により検知された道路交通情報に基づく判断条件に該当し情報提示の対象となる対象車輌が存在する可能性のある範囲を設定し、設定した範囲に前記対象車輌が撮影されているか否かにより運転者による前記対象車輌の認知可能性を判断して、検知された自車輌の周囲の画像に前記対象車輌が存在するとの判断情報と、運転者の視界領域を規定して前記視界領域に前記対象車輌が存在することにより前記対象車輌を運転者が認識済みであるとの判断情報と、前記運転者状態検知手段の検知結果により当該対象物が運転者の視界内にあるとの判断情報とに基づき、運転者への情報提示を行わない道路交通情報提示制限手段と、
を具える車輌用情報出力装置。
Road traffic information detection means for detecting road traffic information around the vehicle and an object of the road traffic information;
Own vehicle surrounding image detection means for detecting an image of the surroundings of the own vehicle that the driver can see from the driver's seat of the own vehicle;
Driver state detection means for detecting the driver's state;
Road traffic information presenting means for presenting to the driver the road traffic information detected by the road traffic information detecting means;
Judgment information that there is an object of road traffic information detected by the road traffic information detection means,
There is a target vehicle that is subject to a judgment condition based on the judgment condition based on the road traffic information detected by the road traffic information detecting means from the image data around the own vehicle detected by the own vehicle surrounding image detecting means. A range that is likely to be detected, and whether or not the target vehicle is recognized by the driver based on whether or not the target vehicle is photographed in the set range, and the detected surrounding image of the own vehicle is displayed. The determination information that the target vehicle exists, the determination information that the driver has already recognized the target vehicle by defining the driver's field of view and the target vehicle exists in the field of view; Road traffic information presentation restricting means that does not present information to the driver based on the determination information that the object is in the driver's field of view based on the detection result of the driver state detecting means;
An information output device for a vehicle comprising:
自車輌の周囲の道路交通情報及び該道路交通情報の対象物を検知する道路交通情報検知手段と、
自車輌の走行状態を検知する自車輌走行状態検知手段と、
自車輌の運転席から運転者が見ることができる自車輌の周囲の画像を検知する自車輌周囲画像検知手段と、
前記道路交通情報検知手段で検知された道路交通情報を運転者に対して提示する道路交通情報提示手段と、
前記道路交通情報検知手段で検知された道路交通情報および前記自車輌走行状態検知手段で検知された自車輌の走行状態に基づき、運転者に対して提示する必要のある道路交通情報および当該道路交通情報の対象物を選択し、当該対象物が存在するとの判断情報と、前記自車輌周囲画像検知手段により検知された自車輌の周囲の画像データから、前記道路交通情報検知手段により検知された道路交通情報に基づく判断条件に該当し情報提示の対象となる対象車輌が存在する可能性のある範囲を設定し、設定した範囲に前記対象車輌が撮影されているか否かにより運転者による前記対象車輌の認知可能性を判断して、検知された自車輌の周囲の画像に前記対象車輌が存在するとの判断情報と、運転者の視界領域を規定して前記視界領域に前記対象車輌が存在することにより前記対象車輌を運転者が認識済みであるとの判断情報とに基づき、運転者への情報提示を行わない道路交通情報提示制限手段と、
を具える車輌用情報出力装置。
Road traffic information detection means for detecting road traffic information around the vehicle and an object of the road traffic information;
Own vehicle running state detecting means for detecting the running state of the own vehicle;
Own vehicle surrounding image detection means for detecting an image of the surroundings of the own vehicle that the driver can see from the driver's seat of the own vehicle;
Road traffic information presenting means for presenting to the driver the road traffic information detected by the road traffic information detecting means;
Based on the road traffic information detected by the road traffic information detecting means and the running state of the own vehicle detected by the own vehicle running state detecting means, the road traffic information and the road traffic that need to be presented to the driver The road detected by the road traffic information detection means from the information for selecting the information object, the judgment information that the object is present, and the image data around the own vehicle detected by the vehicle surrounding image detection means A range in which there is a possibility that the target vehicle that is subject to the information presentation based on the judgment condition based on the traffic information exists, and the target vehicle by the driver is determined depending on whether or not the target vehicle is photographed in the set range. cognitive possible to determine the, and determination information of the target vehicle in the image around the own vehicle that is tested knowledge exists, the pair defining a viewing area of the driver in the viewing area Based on the determination information of the driver of the subject vehicle is recognized by the vehicle is present, the road traffic information providing limiting means does not perform the information presentation to the driver,
An information output device for a vehicle comprising:
自車輌の周囲の道路交通情報を検知する道路交通情報検知手段と、
自車輌の走行状態を検知する自車輌走行状態検知手段と、
自車輌の運転席から運転者が見ることができる自車輌の周囲の画像を検知する自車輌周囲画像検知手段と、
運転者の状態を検知する運転者状態検知手段と、
前記道路交通情報検知手段で検知された道路交通情報を運転者に対して提示する道路交通情報提示手段と、
前記道路交通情報検知手段で検知された道路交通情報および前記自車輌走行状態検知手段で検知された自車輌の走行状態に基づき、運転者に対して提示する必要のある道路交通情報および当該道路交通情報の対象物を選択し、当該対象物が存在するとの判断情報と、前記自車輌周囲画像検知手段により検知された自車輌の周囲の画像データから、前記道路交通情報検知手段により検知された道路交通情報に基づく判断条件に該当し情報提示の対象となる対象車輌が存在する可能性のある範囲を設定し、設定した範囲に前記対象車輌が撮影されているか否かにより運転者による前記対象車輌の認知可能性を判断して、検知された自車輌の周囲の画像に前記対象車輌が存在するとの判断情報と、運転者の視界領域を規定して前記視界領域に前記対象車輌が存在することにより前記対象車輌を運転者が認識済みであるとの判断情報と、前記運転者状態検知手段の検知結果により当該対象物が運転者の視界内にあるとの判断情報とに基づき、運転者への情報提示を行わない道路交通情報提示制限手段と、
を具える車輌用情報出力装置。
Road traffic information detection means for detecting road traffic information around the vehicle;
Own vehicle running state detecting means for detecting the running state of the own vehicle;
Own vehicle surrounding image detection means for detecting an image of the surroundings of the own vehicle that the driver can see from the driver's seat of the own vehicle;
Driver state detection means for detecting the driver's state;
Road traffic information presenting means for presenting to the driver the road traffic information detected by the road traffic information detecting means;
Based on the road traffic information detected by the road traffic information detecting means and the running state of the own vehicle detected by the own vehicle running state detecting means, the road traffic information and the road traffic that need to be presented to the driver The road detected by the road traffic information detection means from the information for selecting the information object, the judgment information that the object is present, and the image data around the own vehicle detected by the vehicle surrounding image detection means A range in which there is a possibility that the target vehicle that is subject to the information presentation based on the judgment condition based on the traffic information exists, and the target vehicle by the driver is determined depending on whether or not the target vehicle is photographed in the set range. cognitive possible to determine the, and determination information of the target vehicle in the image around the detected own vehicle is present, the pair defining a viewing area of the driver in the viewing area The determination information that the driver has recognized the target vehicle due to the presence of the vehicle, and the determination information that the target object is in the driver's field of view based on the detection result of the driver state detection means. Based on the road traffic information presentation restriction means that does not present information to the driver,
An information output device for a vehicle comprising:
前記道路交通情報検知手段が、道路に設置された道路交通情報提供設備からの信号を受信することにより、自車輌の周囲の道路交通情報を検知することを特徴とする、請求項1〜3のいずれか1項記載の車輌用情報出力装置。  The road traffic information detection means detects road traffic information around the vehicle by receiving a signal from a road traffic information providing facility installed on the road. The vehicle information output device according to claim 1. 前記道路交通情報検知手段が、複数の車輌間で相互に各車輌の走行状態を提供する車輌間通信により自車輌の周囲の道路交通情報を検知することを特徴とする、請求項1〜3のいずれか1項記載の車輌用情報出力装置。  The road traffic information detecting means detects road traffic information around the host vehicle through inter-vehicle communication that provides a running state of each vehicle among a plurality of vehicles. The vehicle information output device according to claim 1. 前記道路交通情報検知手段が、自車輌に設けたレーダにより自車輌の周囲の道路交通情報を検知することを特徴とする、請求項1〜3のいずれか1項記載の車輌用情報出力装置。  The vehicle information output device according to any one of claims 1 to 3, wherein the road traffic information detection means detects road traffic information around the host vehicle by means of a radar provided in the host vehicle. 前記自車輌周囲画像検知手段が、運転者が自車輌の運転席からみることのできる自車輌の周囲の画像を、少なくとも1つのカメラにより検知することを特徴とする、請求項1〜6のいずれか1項記載の車輌用情報出力装置。  The vehicle surrounding image detection means detects at least one camera an image of the surroundings of the vehicle that the driver can see from the driver's seat of the vehicle. The vehicle information output device according to claim 1. 前記道路交通情報提示手段が、音響式出力手段、光学式表示手段の少なくともいずれか一方により道路交通情報を運転者に提示することを特徴とする、請求項1〜7のいずれか1項記載の車輌用情報出力装置。  8. The road traffic information presenting means presents road traffic information to a driver by at least one of an acoustic output means and an optical display means. Vehicle information output device. 前記運転者状態検知手段が、運転者の顔の向きを撮影するカメラにより運転者の状態を検知することを特徴とする、請求項1または3記載の車輌用情報出力装置。  4. The vehicle information output device according to claim 1, wherein the driver state detecting means detects a driver's state with a camera that captures the direction of the driver's face. 前記運転者状態検知手段が、運転者の視線を検知する視線検出装置により運転者の状態を検知することを特徴とする、請求項1または3記載の車輌用情報出力装置。  4. The vehicle information output device according to claim 1, wherein the driver state detection means detects a driver's state by a line-of-sight detection device that detects the driver's line of sight. 前記自車輌走行状態検知手段が、自車輌の車速、操舵角および方向指示器信号の少なくとも一つを検知することを特徴とする、請求項2または3記載の車輌用情報出力装置。  The vehicle information output device according to claim 2 or 3, wherein the vehicle running state detection means detects at least one of a vehicle speed, a steering angle, and a direction indicator signal of the vehicle. 前記道路交通情報提示制限手段が、前記道路交通情報検知手段で検知された道路交通情報に基づき、前記自車輌周囲画像検知手段により検知された検知画像の内の、前記道路交通情報の対象物が存在する可能性のある領域を選択し、当該選択された領域内に前記対象物が含まれるか否かを判断することを特徴とする、請求項1〜11のいずれか1項記載の車輌用情報出力装置。  Based on the road traffic information detected by the road traffic information detecting means, the road traffic information presentation restricting means includes an object of the road traffic information in the detected image detected by the vehicle surrounding image detecting means. The vehicle according to any one of claims 1 to 11, wherein an area that may be present is selected, and it is determined whether or not the object is included in the selected area. Information output device. 前記道路交通情報提示制限手段が、前記運転者状態検知手段で検知された運転者状態に基づいて運転者の視界範囲を定め、この視界範囲を自車輌の車速が速い程小さく、遅い程大きくすることを特徴とする、請求項1または3記載の車輌用情報出力装置。  The road traffic information presentation restricting means determines the driver's view range based on the driver state detected by the driver state detecting means, and increases the view range as the vehicle speed of the host vehicle decreases and increases as the vehicle speed decreases. The vehicle information output device according to claim 1, wherein the vehicle information output device is a vehicle information output device.
JP2001041490A 2001-02-19 2001-02-19 Vehicle information output device Expired - Fee Related JP4882153B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001041490A JP4882153B2 (en) 2001-02-19 2001-02-19 Vehicle information output device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001041490A JP4882153B2 (en) 2001-02-19 2001-02-19 Vehicle information output device

Publications (2)

Publication Number Publication Date
JP2002245597A JP2002245597A (en) 2002-08-30
JP4882153B2 true JP4882153B2 (en) 2012-02-22

Family

ID=18903926

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001041490A Expired - Fee Related JP4882153B2 (en) 2001-02-19 2001-02-19 Vehicle information output device

Country Status (1)

Country Link
JP (1) JP4882153B2 (en)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4595461B2 (en) * 2004-09-16 2010-12-08 日産自動車株式会社 Driving support device
JP4513557B2 (en) * 2004-12-24 2010-07-28 日産自動車株式会社 Information providing apparatus for vehicle and information providing method thereof
JP4622544B2 (en) * 2005-01-27 2011-02-02 アイシン精機株式会社 Vehicle driving support device
JP4517393B2 (en) * 2005-02-16 2010-08-04 株式会社デンソー Driving assistance device
JP2007058326A (en) * 2005-08-22 2007-03-08 Toyota Motor Corp Vehicular moving body detection device
JP4763537B2 (en) * 2006-07-13 2011-08-31 株式会社デンソー Driving support information notification device
JP4434224B2 (en) 2007-03-27 2010-03-17 株式会社デンソー In-vehicle device for driving support
JP4946672B2 (en) * 2007-07-04 2012-06-06 オムロン株式会社 Aside look detection device and method, and program
JP4968133B2 (en) * 2008-03-27 2012-07-04 三菱自動車工業株式会社 Vehicle alarm device
JP6098476B2 (en) * 2013-10-31 2017-03-22 株式会社デンソー Driving assistance device
WO2018158950A1 (en) * 2017-03-03 2018-09-07 三菱電機株式会社 Work aptitude determination device, work aptitude determination method, and work aptitude determination program
CN112200231B (en) * 2020-09-29 2024-04-30 深圳市信义科技有限公司 Dangerous goods vehicle identification method, system, device and medium

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2929927B2 (en) * 1993-12-14 1999-08-03 日産自動車株式会社 Driving information providing device
JP3102250B2 (en) * 1994-02-14 2000-10-23 三菱自動車工業株式会社 Ambient information display device for vehicles
JP3405165B2 (en) * 1997-12-26 2003-05-12 トヨタ自動車株式会社 In-vehicle information providing device
JPH11245683A (en) * 1998-02-27 1999-09-14 Nissan Motor Co Ltd Information presenting device for vehicle
JP2000335275A (en) * 1999-05-27 2000-12-05 Nippon Seiki Co Ltd Driving assistance information system
JP4337130B2 (en) * 1999-06-10 2009-09-30 マツダ株式会社 Control device for driving device
JP3738949B2 (en) * 1999-07-08 2006-01-25 三菱自動車工業株式会社 Vehicle peripheral area monitoring device

Also Published As

Publication number Publication date
JP2002245597A (en) 2002-08-30

Similar Documents

Publication Publication Date Title
US9723243B2 (en) User interface method for terminal for vehicle and apparatus thereof
JP5198835B2 (en) Method and system for presenting video images
JP4783431B2 (en) Traffic information detection apparatus, traffic information detection method, traffic information detection program, and recording medium
KR102124804B1 (en) Apparatus for controling autonomous vehicle and method for controlling the same
WO2020201796A1 (en) Vehicle control method and vehicle control device
KR20180019058A (en) Control system for and control method of autonomous driving vehicle
WO2008056780A1 (en) Driving assistance device, driving assistance method, and program
US20120109521A1 (en) System and method of integrating lane position monitoring with locational information systems
US20190244515A1 (en) Augmented reality dsrc data visualization
JP4882153B2 (en) Vehicle information output device
CN108604413B (en) Display device control method and display device
JP3931343B2 (en) Route guidance device
JP2008037167A (en) Vehicular information display device
JP3931342B2 (en) Route guidance device
JP3890597B2 (en) Vehicle information providing device
WO2018168097A1 (en) Driving state determination device, driving state determination method, and program for determining driving state
JP3890599B2 (en) Vehicle information providing apparatus, vehicle information providing method, and vehicle information providing program
JP2002329296A (en) Device and system for presenting driving support information
WO2017154460A1 (en) Vehicular driving evaluation device
JP2010002275A (en) Vehicle surrounding monitoring device
JP3890598B2 (en) Vehicle information providing apparatus, vehicle information providing method, and vehicle information providing program
JP6760231B2 (en) Collision avoidance support device
JP2004037149A (en) Apparatus and method for guiding path, and program for guiding path
WO2020065892A1 (en) Travel control method and travel control device for vehicle
JP3650998B2 (en) Route guidance device, route guidance method, and route guidance program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080125

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100511

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100629

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20100629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101221

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110823

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111014

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111108

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111121

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141216

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees