JP2015026185A - 運転支援装置 - Google Patents

運転支援装置 Download PDF

Info

Publication number
JP2015026185A
JP2015026185A JP2013154593A JP2013154593A JP2015026185A JP 2015026185 A JP2015026185 A JP 2015026185A JP 2013154593 A JP2013154593 A JP 2013154593A JP 2013154593 A JP2013154593 A JP 2013154593A JP 2015026185 A JP2015026185 A JP 2015026185A
Authority
JP
Japan
Prior art keywords
driver
vehicle
gaze
determined
guidance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013154593A
Other languages
English (en)
Other versions
JP5925163B2 (ja
Inventor
智能 小城戸
Tomoyoshi Kokido
智能 小城戸
太郎 熊谷
Taro Kumagai
太郎 熊谷
貴久 青柳
Takahisa Aoyanagi
貴久 青柳
哲司 羽下
Tetsuji Hashimo
哲司 羽下
清志 松谷
Kiyoshi Matsutani
清志 松谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2013154593A priority Critical patent/JP5925163B2/ja
Publication of JP2015026185A publication Critical patent/JP2015026185A/ja
Application granted granted Critical
Publication of JP5925163B2 publication Critical patent/JP5925163B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)

Abstract

【課題】HUD等のユーザの視界に重畳された状態で各種情報の表示を行う表示装置を用いた場合であっても、運転者が本来注視すべき任意の適正方向にユーザの視線を誘導する運転支援装置を提供する。【解決手段】運転者が注視している注視対象物を判定する注視対象物判定部2と、運転者の視線および注視点を誘導する誘導方向と危険レベルに応じた誘導方法を決定する視線方向誘導処理部6と、決定された誘導方向に運転者の視線および注視点を向かわせる運転支援情報を出力装置8から出力させる出力制御部7とを備えたことにより、運転者の視線がどこに向けられているかを正確に検出し、運転者が本来注視すべき適正方向に運転者の視線を誘導することができるので、運転者が必要以上に視線や焦点をカーナビやHUD等の表示装置に向けてしまい、進行方向や前方への注意が欠けることを防ぐことができる。【選択図】図1

Description

この発明は、車両のドライバーの視線を検出して安全な運転ができるよう支援する運転支援装置に関するものである。
従来より、自動車等の車両を運転するドライバーが、車内のスピードメータやカーナビ等を注視してしまうなど、わき見運転をしてしまうことにより、重大な事故につながるおそれがあるため、様々な運転支援が行われている。例えば、特許文献1には、ドライバーの視線方向を検出し、その視線をドライバーが本来見るべき誘導する装置が開示されている。
一方、近年製品化されているヘッドアップディスプレイ(HUD)は、ユーザの視線方向の透過型ディスプレイに各種情報を重畳させて映し出す機器、すなわち、ユーザの視界に重畳された状態で各種情報の表示を行う表示装置であり、これにより、ユーザの視界である車両の前方に重ねて、スピードメータやカーナビ等を表示させることができる。
特開2010−126135号公報
しかしながら、HUD等のユーザの視界に重畳された状態で各種情報の表示を行う表示装置を用いた場合には、ユーザの視線方向は車両の前方であるため、表示内容であるスピードメータやカーナビ等を見ていてもわき見運転とはなっていないが、スピードメータやカーナビ等を注視すると、焦点距離の違いからHUDに表示されている内容以外の車両前方情報等への注意が著しく低下し、重大な事故につながるおそれがあるという課題があった。
この発明は、上記のような課題を解決するためになされたものであり、HUD等のユーザの視界に重畳された状態で各種情報の表示を行う表示装置を用いた場合であっても、運転者が本来注視すべき任意の適正方向にユーザの視線を誘導する運転支援装置を提供することを目的とする。
上記目的を達成するため、この発明は、車両に搭載され、車内に設けられた出力装置から運転支援情報を出力させる運転支援装置であって、運転者の視線方向および注視点を検知する検知部と、前記検知部により検知された運転者の視線方向および注視点に基づいて、前記運転者が注視している注視対象物を判定する注視対象物判定部と、前記車両の運転操作に応じた車両情報に基づいて、前記車両の動作状態を判定する車両状態判定部と、前記注視対象物判定部により判定された注視対象物と前記車両状態判定部により判定された車両の動作状態とに基づいて、前記運転者の視線が前記車両の動作状態で向くべき適正方向を向いていない度合いを判定し、当該判定した度合いに応じて危険レベルを決定する危険状況判定部と、前記危険状況判定部により決定された危険レベルに応じて前記運転者の視線および注視点の誘導を行うか否かを判定し、誘導を行うと判定した場合には、前記注視対象物判定部により判定された注視対象物に基づいて、前記運転者の視線および注視点を前記適正方向に誘導する誘導方向を決定し、前記危険レベルに応じた誘導方法を決定する視線方向誘導処理部と、前記視線方向誘導処理部により決定された誘導方法で、前記視線方向誘導処理部により決定された誘導方向に前記運転者の視線および注視点を向かわせる運転支援情報を前記出力装置から出力させる出力制御部とを備えることを特徴とする。
この発明によれば、HUD等のユーザの視界に重畳された状態で各種情報の表示を行う表示装置を用いた場合であっても、運転者の視線がどこに向けられているかを正確に検出し、運転者が注視している注視対象物を判定して、運転者が本来注視すべき任意の適正方向に運転者の視線や注視点を誘導することができるので、運転者が必要以上に視線や焦点をカーナビやHUD等の表示装置に向けてしまい、進行方向や前方への注意が欠けることを防ぐことができる。
実施の形態1における運転支援装置の構成を示すブロック図である。 実施の形態1において、運転者が走行方向の車外道路状況を見ていない時間T[秒]と車両状態とに基づいて危険レベルを決定した対応表の一例である。 実施の形態1における運転支援装置の動作を示すフローチャートである。 実施の形態1における任意の文字による誘導表示の画面例を示す図である。 矢印による誘導表示の画面例を示す図である。 実施の形態2における運転支援装置の構成を示すブロック図である。 実施の形態2において、運転者が走行方向の車外道路状況を見ていない時間T[秒]と車両状態とに基づいて危険レベルを決定した対応表の一例である。 実施の形態2における運転支援装置の動作を示すフローチャートである。 実施の形態2における任意の文字による誘導表示の画面例を示す図である。 実施の形態2における任意の文字による誘導表示の画面例の別の例を示す図である。 実施の形態3における運転支援装置の構成を示すブロック図である。 実施の形態3における運転支援装置の動作を示すフローチャートである。
以下、この発明の実施の形態について、図面を参照しながら詳細に説明する。
実施の形態1.
図1は、この発明の実施の形態1における運転支援装置の構成を示すブロック図である。この運転支援装置は、自動車等の車両に搭載され、車内に設けられた出力装置から運転支援情報を出力させるものであり、視線検知部1、注視対象物判定部2、車両状態判定部3、危険状況判定部4、時刻取得部5、視線方向誘導処理部6、表示制御部(出力制御部)7および表示装置(出力装置)8を備えている。
視線検知部1は、1つもしくは複数台の光学カメラ、赤外線カメラ、アイカメラ等により、車両走行中の運転者の顔の向きや眼球(両眼または片眼の眼球)の動きを検出することにより、運転者の視線方向および注視点を検知する。そして、検知された運転者の視線方向および注視点を、注視対象物判定部2に通知する。
注視対象物判定部2は、視線検知部1により検知された運転者の視線方向と注視点から、運転者の位置から運転者が注視している注視点までの距離を算出し、運転者の視線方向と算出した注視点までの距離から、運転者が注視している注視対象物を判定する。
そして、判定した注視対象物の情報は、危険状況判定部4と視線方向誘導処理部6に通知される。なお、運転者の位置から注視している対象物までの距離は、2つの目の輻輳角から注視している対象物の奥行きの距離を推定して求めることができるが、これについては周知の技術であるため、ここでは詳しい説明を省略する。
車両状態判定部3は、ギア信号、車速信号、バック信号等を取得し、走行方向、走行速度、および、停止中か否か等、車両の運転操作に応じた車両情報に基づいて、車両の動作状態を判定する。そして、判定した車両の動作状態を危険状況判定部4に通知する。
危険状況判定部4は、注視対象物判定部2により判定された注視対象物の情報と、車両状態判定部3により判定された車両の動作状態とに基づいて、走行中に運転者の視線方向が走行方向以外を向いていたり、運転者が走行方向に重畳された表示装置からの表示内容を注視していたりして、運転者が車両の運転に集中していない危険な状況にある度合、すなわち、運転者の視線が車両の動作状態で向くべき適正方向を向いていない度合を判定し、当該判定した度合に応じて危険レベルを決定する。
この際、危険レベルは、運転者の視線が適正方向を向いていない時間的な度合に応じて決定するか、または、運転者の視線が適正方向を向いていない時間的な度合と車両の動作状態に応じて決定する。時間的な度合とは、例えば、運転者の視線が適正方向を向いていない時間的な度合に応じて危険レベルを決定する場合には、運転者が走行方向の車外道路状況を所定時間(危険判定時間)以上見ていないかどうか、すなわち、所定時間(危険判定時間)以上、運転者の視線が車両の動作状態で向くべき適正方向を向いていない場合に、誘導を行う危険レベルとする。そして、決定した危険レベルを視線方向誘導処理部6に通知する。
危険レベルについては、例えばレベルを0から5までとし、走行方向の車外道路状況を見ていない時間が一定時間未満であれば危険レベル0とし、一定時間以上であれば、走行方向の車外道路状況を見ていない時間が長くなればなるほど危険レベルを上げるようにする。そして、この走行方向の車外道路状況を見ていない時間により、または、この走行方向の車外道路状況を見ていない時間と車両状態判定部3で判定された車両の動作状態との組み合わせにより、危険レベルを設定しておく。危険レベルの決定は、運転者の視線が適正方向を向いていない時間的な度合だけで決定する場合と、運転者の視線が適正方向を向いていない時間的な度合と車両の動作状態に応じて決定する場合の、どちらを採用してもよい。
図2は、実施の形態1において、運転者が走行方向の車外道路状況を見ていない時間T[秒]と車両状態とに基づいて危険レベルを決定した対応表の一例である。
ここでは、説明を簡単にするために、車両状態としては、車速V[km/h]のみを考慮することとする。
図2に示すように、車速Vがいくつであっても、運転者が走行方向の車外道路状況を見ていない時間Tが0であれば危険レベルも0、車速Vが20km/h以下であれば、時間Tが1秒あっても危険レベルは0、その後、時間Tが長くなればなるほど、危険レベルを高くする。また、時間Tが1秒と短くても、車速Vが速くなるほど危険レベルを高くし、車速Vが80km/hよりも速い場合には危険レベルを4という高い値に設定しておく。そして、時間Tが長くなるほど、また、車速Vが速くなるほど、危険レベルが高くなるように設定しておく、
なお、ここでは危険レベルを0から5までとして説明するが、0から10としたり、それ以上細かくしたりしてもよい。
また、バック走行中のバック走行方向以外であるバックミラー、サイドミラー、バックカメラ映像表示装置からの映像を注視している場合は、危険レベルを0とすればよい。
時刻取得部5は、GPS(Global Positioning System)レシーバ等によりGPS信号を受信し、現在時刻を取得する。そして、取得した現在時刻情報は、視線方向誘導処理部6に通知する。
視線方向誘導処理部6は、危険状況判定部4により決定された危険レベルに応じて、運転者の視線および注視点の誘導を行うか否かを判定する。視線および注視点の誘導を行うと判定した場合には、注視対象物判定部2により判定された注視対象物の情報と、時刻取得部5で取得された現在時刻情報に基づいて、運転者の視線および注視点の誘導処理を行う表示装置と、視線および注視点を適正方向に誘導する誘導方向を決定し、危険レベルに応じた誘導方法を決定する。
視線および注視点の誘導方法については、視線方向にある表示装置や注視している表示装置、すなわち、運転席前方に配置されたカーナビ等の表示装置、または、運転者の視界に重畳された状態で表示を行うHUD等の表示装置に誘導表示を表示させる方法、もしくは、注視している表示装置における表示画面の画面表示を消させる方法のいずれかを選択する。なお、表示装置に誘導表示を表示させる場合は、危険レベルにより誘導表示内容を変化させる。また、時刻によって、表示の明るさも変化させてもよい。さらに、危険レベルに応じた誘導方法を時間帯によって変更してもよい。そして、決定した誘導方法は、表示制御部7に通知される。
表示制御部(出力制御部)7は、視線方向誘導処理部6により決定された誘導方法で、運転者の視線方向や注視対象物の方向にあるカーナビやヘッドアップディスプレイ(HUD)等の表示装置(出力装置)8から、任意の文字、画像、映像を表示させたり、表示されている表示内容(表示画面の画面表示)を消させることにより、視線方向誘導処理部6により決定された誘導方向に運転者の視線および注視点を向かわせる運転支援情報を出力させる。
すなわち、この場合の誘導方法としては、文字、画像、および、映像の少なくとも一つを用いて表現された危険レベルに応じた内容で、運転者の視線および注視点を決定された誘導方向に向かわせる運転支援情報を、表示装置8に表示させるか、表示装置8の画面表示を消すか、のいずれかである。
そして、このように運転者の視線および注視点を誘導方向へ向かわせる出力を行わせることにより、運転者が表示装置8を注視することを抑制したり、運転者の視線および注視点を前方や任意に適正方向に誘導することができる。
次に、この運転支援装置の動作について、図3に示すフローチャートを用いて説明する。図3は、この実施の形態1における運転支援装置の動作を示すフローチャートである。
まず初めに、車両のキーがONにされると(ステップST1のYESの場合)、視線検知部1が運転者の視線を検知(ステップST2)、車両状態判定部3が車両状態を判定(ステップST3)、時刻取得部5が現在時刻を取得する(ステップST4)。
ステップST2において、視線検知部1は、運転者の顔の向きや眼球の動きを、光学カメラ、赤外線カメラ、アイカメラ等により取得し、注視対象物判定部2に通知する。
ステップST3において、車両状態判定部3は、車両からギア信号、車速信号、バック信号を取得し、車両の走行スピード、停止中か否か、バック走行中か否か等、車両の運手操作に応じた車両情報に基づいて、車両の動作状態を判定し、危険状況判定部4に通知する。
また、ステップST4において、時刻取得部5は、GPSレシーバ等によりGPS信号を受信し、現在時刻を取得して、視線方向誘導処理部6に通知する。
次に、注視対象物判定部2が、ステップST2およびST3で取得した、運転者の顔の向きや眼球の動き、2つの眼球の輻輳角等に基づいて、運転者の視線方向や注視点を算出し、運転者が注視している対象物を判定する(ステップST5)。そして、算出した視線方向や判定した注視対象物の情報は、危険状況判定部4に通知される。
危険状況判定部4は、ステップST5で算出された視線方向や判定された注視対象物の情報と、ステップST3で判定された車両の動作状態から、走行中に運転者の視線方向が走行方向以外を向いていたり、運転者が走行方向に重畳された表示装置8の表示内容を注視していたりして、走行方向の車外道路状況を一定時間以上見ていないかどうかを判定し、その判定結果から危険レベルを決定する(ステップST6)。そして、決定した危険レベルは、視線方向誘導処理部6に通知される。
視線方向誘導処理部6は、ステップST6で決定された危険レベルが、運転者の視線・注視点の誘導を行うレベルか否かを判定する(ステップST7)。例えば、危険レベルが3以上であれば視線・注視点の誘導を行う、というように、予め視線・注視点の誘導を行う危険レベルとして所定の閾値を設定しておき、危険レベルが所定の閾値以上か否かに基づいて判定する。なお、危険レベルが0以外であれば(1以上であれば)誘導を行う、と設定してもよいことは言うまでもない。
危険レベルが、運転者の視線・注視点の誘導を行うレベルである場合(ステップST7のYESの場合)には、ステップST6で決定された危険レベルと、ステップST5で算出された視線方向や判定された注視対象物の情報と、ステップST4で取得された現在時刻情報に基づいて、視線・注視点の誘導処理を行う表示装置および運転者の視線や注視点を誘導する任意の方向、視線・注視点の誘導方法を決定する(ステップST8)。そして、決定した表示装置および誘導の方向、誘導方法は、表示制御部7に通知される。
表示制御部7は、視線方向誘導処理部6から通知された誘導の方向および誘導方法に基づいて、任意の文字や画像・映像を表示するよう、または、注視している表示内容(表示画面の画面表示)を消すよう、表示制御を行い、運転者の視線方向や注視対象物の方向にあるカーナビやHUD等の表示装置8(ステップST8で決定した表示装置)に対して指示を行う(ステップST9〜ST11)。
すなわち、ステップST8で決定された誘導方法が誘導表示である場合(ステップST9のYESの場合)には、表示装置8に対して誘導表示のための任意の文字や画像・映像を表示するよう指示を行い(ステップST10)、誘導方法が誘導表示ではなく、表示消去の場合(ステップST9のNOの場合)には、表示装置8に対して、表示していた表示内容(表示画面の画面表示)を消去するよう指示を行う(ステップST11)。
図4,図5は、実施の形態1における誘導表示の画面例を示す図である。誘導表示としては、例えば図4に示すように、「危険!!前方方向を見てください」などの任意の文字や、図5に示すような矢印の画像を、運転者の視線方向や注視対象物の方向にあるカーナビやHUD等の表示装置8に表示させる。
図4に示すような文字を表示させる場合の表示内容については、危険レベルに応じて変化させ、運転者の注意を適切に促すようにするとよい。
また、図5に示す矢印の画像は、運転者の視線・注視点を誘導したい方向を示しており、この場合も危険レベルに応じて、その矢印の色を黄色や赤色など変化させて表示させたり点滅させたりして表示内容を変化させ、運転者の注意を適切に促すようにするとよい。
さらに、危険レベルに応じて表示内容を変化させるだけではなく、例えば誘導表示をしても運転者が前方を見ない場合など、危険レベルが高くなると、誘導表示を消して運転者が表示装置に注視することをやめさせるようにしてもよい。
そして、危険レベルが所定の閾値未満(ステップST7のNOの場合)になるまで、ステップST2以降の処理を繰り返す。このステップST2以降の処理は、車両のキーがOFFにされるまで(ステップST12のNOの場合)、繰り返される。すなわち、危険レベルが所定の閾値未満(ステップST7のNOの場合)になっても、その後の運転者の視線・注視点について引き続き処理を行い、視線・注視点の誘導を行う。
その後、危険レベルが所定の閾値未満(ステップST7のNOの場合)になり、車両のキーがOFFにされると(ステップST12のYESの場合)、処理を終了する。
以上のように、この実施の形態1によれば、カメラ等を用いて運転者の顔の向き、視線方向、焦点距離などから注視点を検出し、運転者の視線方向および注視点に基づいて、運転者が注視している注視対象物を判定して、運転者が安全に運転するために本来注視すべき任意の適正方向へ運転者の視線や注視点を誘導することにより、運転者が必要以上に視線や焦点をカーナビやHUD等の表示装置に向けてしまい、進行方向や前方への注意が欠けることを防ぐことができる。
実施の形態2.
図6は、この発明の実施の形態2における運転支援装置の構成を示すブロック図である。なお、実施の形態1で説明したものと同様の構成には、同一の符号を付して重複した説明を省略する。以下に示す実施の形態2では、実施の形態1と比べると、車両周辺検知部9、センサ部10、周辺状況判定部11をさらに備え、自車両の周辺の人や車両等の状況も考慮して、危険レベルを判定したり視線誘導を行ったりするものである。
車両周辺検知部9は、1つもしくは複数台の前方検知カメラ、バックカメラ、サイドカメラなどの車両周辺検知カメラを用いて、車両周辺の映像を取得し、周辺状況判定部11に通知する。
センサ部10は、ミリ波レーダや超音波レーダなどのセンサを車体の前方や側方や後方に、1つもしくは複数取り付け、自車両周辺の車両や人、軽車両、バイクなどの車両周辺対象物(車両の周辺の車外物体)の有無と、それら周辺対象物(車外物体)と自車両との距離などの検知結果を、周辺状況判定部11に通知する。
周辺状況判定部11は、車両周辺検知部9から取り込んだ車両周辺の画像から画像解析を行い、この画像解析結果と、センサ部10から取得した検知結果とを組み合わせて、車両や人、軽車両、バイク、障害物などの車両の周辺の車外物体の有無を判定する。そして、車外物体を検出すると、自車両に対する車外物体の方向および車外物体から自車両までの距離を算出し、その方向や距離などの車外物体と車両との関係を判定して、それら車外物体と車両との関係に関する情報を危険状況判定部4に通知する。
危険状況判定部4は、注視対象物判定部2により判定された注視対象物の情報と、車両状態判定部3により判定された車両の動作状態と、周辺状況判定部11により判定された車外物体と車両との関係に関する情報とに基づいて、走行中に運転者の視線方向が走行方向以外を向いていたり、運転者が走行方向に重畳された表示装置からの表示内容を注視していたりして、運転者が車両の運転に集中していない危険な状況にある度合、すなわち、運転者の視線が車両の動作状態および車外物体と車両との関係で向くべき適正方向を向いていない度合を判定し、当該判定した度合に応じて危険レベルを決定する。
この際、危険レベルは、運転者の視線が適正方向を向いていない時間的な度合に応じて決定するか、または、運転者の視線が適正方向を向いていない時間的な度合と車両の動作状態に応じて決定する。時間的な度合とは、例えば、運転者の視線が適正方向を向いていない時間的な度合に応じて危険レベルを決定する場合には、運転者が走行方向の車外道路状況を所定時間(危険判定時間)以上見ていないかどうかや、車両の周辺の車外物体の存在や危険状態を所定時間(危険判定時間)以上認識や確認できていないかどうか、すなわち、所定時間(危険判定時間)以上、運転者の視線が車両の動作状態および車外物体と車両との関係で向くべき適正方向を向いていない場合に、誘導を行う危険レベルとする。
また、車両の周辺の車外物体の存在や危険状態によって、すなわち、車外物体と車両との関係に応じて、危険レベル判定の指標としている所定時間(危険判定時間)の長さを変化(変動)させたり、危険レベル自体を変化(変動)させたりして、車両の周辺の車外物体に対して、自車両が危険な状態にある場合に危険レベルが高くなるようにしてもよい。
そして、決定した危険レベルを視線方向誘導処理部6に通知する。
図7は、実施の形態2において、運転者が走行方向の車外道路状況を見ていない時間T[秒]と車両状態とに基づいて危険レベルを決定した対応表の一例である。
ここでは、説明を簡単にするために、車両状態としては、前方に車両がいるか否かおよび前方車両との距離X[m]のみを考慮することとする。
図7に示すように、前方に車両がいない場合または前方車両との距離Xが50m以上である場合には、運転者が走行方向の車外道路状況を見ていない時間Tが0であれば危険レベルも0、時間Tが長くなればなるほど、危険レベルを高くする。また、時間Tが短くても、前方車両との距離Xが10mや20mの場合には、危険レベルを4とか3という高い値に設定しておく。
視線方向誘導処理部6は、危険状況判定部4により決定された危険レベルに応じて、運転者の視線および注視点の誘導を行うか否かを判定する。視線および注視点の誘導を行うと判定した場合には、注視対象物判定部2により判定された注視対象物の情報と、周辺状況判定部11で判定された車両の周辺の車外物体と車両との関係に関する情報と、時刻取得部5で取得された現在時刻情報に基づいて、運転者の視線および注視点の誘導処理を行う表示装置と、視線および注視点を適正方向に誘導する誘導方向を決定し、危険レベルに応じた誘導方法を決定する。
図8は、この実施の形態2における運転支援装置の動作を示すフローチャートである。
まず初めに、車両のキーがONにされると(ステップST21のYESの場合)、視線検知部1が運転者の視線を検知(ステップST22)、車両周辺検知部9が車両周辺の映像を取得(ステップST23)、センサ部10が車両周辺対象物(車両の周辺の車外物体)の有無等を検知(ステップST24)、車両状態判定部3が車両状態を判定(ステップST25)、時刻取得部5が現在時刻を取得する(ステップST26)。
ステップST23において、車両周辺検知部9は、前方検知カメラ、バックカメラ、再度カメラなどの車両周辺検知カメラを用いて、車両周辺の映像を取得し、周辺状況判定部11に通知する。
ステップST24において、センサ部10は、車体の前方や側方や後方に取り付けられたミリ波レーダや超音波レーダ等のセンサにより、自車両周辺の車両や人、軽車両、バイクなどの周辺対象物(車外物体)の有無と、それら周辺対象物(車外物体)と自車両との距離を検知し、それら検知結果を、周辺状況判定部11に通知する。
ステップST25〜ST27について、実施の形態1における図3に示したフローチャートのステップST3〜ST5と同じであるので、説明を省略する。
次に、周辺状況判定部11は、ステップST23で取得された車両周辺の画像から画像解析を行い、その画像解析結果と、ステップST24で検知された検知結果に基づいて、自車両の周辺の車両や人、軽車両、バイク、障害物などの車両周辺対象物の有無、および、車両周辺対象物の存在を確認した場合には、その周辺対象物までの距離や方向を判定し(ステップST28)、それら周辺対象物の情報を危険状況判定部4に通知する。
危険状況判定部4は、ステップST27で算出された視線方向や判定された注視対象物の情報と、ステップST28で判定された車両周辺対象物の有無や当該対象物までの距離や方向などの周辺対象物の情報と、ステップST25で判定された車両の動作状態から、走行中に運転者の視線方向が走行方向以外を向いていたり、運転者が走行方向に重畳された表示装置8の表示内容を注視していたりして、走行方向の車外道路状況を一定時間以上見ていないかどうかや、車両周辺対象物の存在や危険状態を一定時間以上認識や確認できていないかどうかを判定し、その判定結果から危険レベルを決定する(ステップST29)。そして、決定した危険レベルは、視線方向誘導処理部6に通知される。
視線方向誘導処理部6は、ステップST29で決定された危険レベルが、運転者の視線・注視点の誘導を行うレベルか否かを判定する(ステップST30)。危険レベルの判定については、実施の形態1と同様であるためここでは詳しい説明を省略するが、車両周辺対象物(車両の周辺の車外物体)の有無についても条件に加えて危険レベルを判定するようにしてもよい。
危険レベルが、運転者の視線・注視点の誘導を行うレベルである場合(ステップST30のYESの場合)には、ステップST29で決定された危険レベルと、ステップST27で算出された視線方向や判定された注視対象物の情報と、ステップST28で判定された車両周辺対象物の有無や当該対象物までの距離や方向などの周辺対象物の情報と、ステップST26で取得された現在時刻情報に基づいて、視線・注視点の誘導処理を行う表示装置および運転者の視線や注視点を誘導する任意の方向、視線・注視点の誘導方法を決定する(ステップST31)。そして、決定した表示装置および誘導の方向、誘導方法は、表示制御部7に通知される。
その後のステップST32〜ST35の処理については、実施の形態1における図3に示すフローチャートのステップST9〜ST12と同じであるので、説明を省略する。
なお、この実施の形態2では、自車両の周辺対象物の有無や当該対象物の方向や距離なども判定できているので、図4,図5に示すような画面例に加え、例えば図9(a)〜(c)に示すように、「前方方向を見てください」「前方車両との車間距離を取ってください」「危険!!前方車両との距離が近づいています」などの文字を危険レベルに応じて変化させて表示させたり、図10に示すように、「右車線から車が車線変更しています」などの文字を表示装置8に表示させるような誘導表示の画面例も考えられる。
以上のように、この実施の形態2によれば、実施の形態1における効果に加え、カメラ等を用いて運転者の顔の向き、視線方向、焦点距離などから注視点を検出し、運転者の注視対象物を判定するだけではなく、カメラやセンサなどの車両周辺を検知する装置により自車両の周辺情報を取得し、車両の周辺状況も考慮して、運転者が安全に運転するために本来注視すべき任意の適正方向へ運転者の視線や注視点を誘導することにより、運転者が必要以上に視線や焦点をカーナビやHUD等の表示装置に向けてしまい、車両周辺の危険状態を認識や確認できていない場合にも、運転者に車両周辺の危険状態を認識させ、進行方向や前方への注意が欠けることを防ぐことができる。
実施の形態3.
図11は、この発明の実施の形態3における運転支援装置の構成を示すブロック図である。なお、実施の形態1,2で説明したものと同様の構成には、同一の符号を付して重複した説明を省略する。以下に示す実施の形態3では、実施の形態1と比べると、表示制御部(出力制御部)7および表示装置(出力装置)8に代えて、音声出力制御部12およびスピーカ等の音声出力装置13、光出力制御部14および光出力装置15を備え、表示ではなく、音声や光により視線誘導を行うものである。
視線方向誘導処理部6は、危険状況判定部4により決定された危険レベルに応じて、運転者の視線および注視点の誘導を行うか否かを判定する。視線および注視点の誘導を行うと判定した場合には、注視対象物判定部2により判定された注視対象物の情報と、時刻取得部5で取得された現在時刻情報に基づいて、運転者の視線および注視点の誘導処理を行う出力装置と、視線および注視点を適正方向に誘導する誘導方向を決定し、危険レベルに応じた誘導方法を決定する。
視線および注視点の誘導方法については、運転者の視線および注視点を誘導方向に向かわせる運転支援情報を、視線や注視点の方向に設置されているスピーカ等の音声出力装置に危険レベルに応じた出力態様および内容の音声で出力させる方法、または、視線や注視点の方向に設定されているLED等の光出力装置に危険レベルに応じた出力態様の光で出力させる方法のいずれかを選択する。なお、いずれか一方ではなく、両方の誘導方法により出力してもよい。
危険レベルに応じた出力態様や内容で出力するとは、危険レベルが高いと、危険性や緊急性が高いことを認識しやすい音声や光を出力するようにすることであり、例えば、危険レベルが高い場合には、音声の音量を大きくしたり音声の種類を変えたり、また、光の明るさを明るくしたり、光の点滅間隔を短くしたりするなどして、危険レベルに応じて変化させる。また、時刻によって光の明るさを変化させてもよい。
そして、決定した誘導方法は、音声出力制御部12および光出力制御部14に通知される。
音声出力制御部12は、視線方向誘導処理部6により決定された誘導方法で、運転者の視線方向や注視対象物の方向にあるスピーカ等の音声出力装置13から、視線方向誘導処理部6により決定された誘導方向に運転者の視線および注視点を向かわせる運転支援情報を、決定された音量と音声の誘導音で、すなわち、危険レベルに応じた出力態様および内容の音声(誘導音)で出力させる。
光出力制御部14は、視線方向誘導処理部6により決定された誘導方法で、運転者の視線方向や注視対象物の方向にあるLED等の光出力装置15から、視線方向誘導処理部6により決定された誘導方向に運転者の視線および注視点を向かわせる運転支援情報を、決定された明るさと点滅間隔の光で、すなわち、危険レベルに応じた出力態様の光で出力させる。
次に、この運転支援装置の動作について、図12に示すフローチャートを用いて説明する。図12は、この実施の形態3における運転支援装置の動作を示すフローチャートである。
ステップST41〜ST47の処理については、実施の形態1における図3に示すフローチャートのステップST1〜ST7と同じであるため、説明を省略する。
ステップST47において、危険レベルが運転者の視線・注視点の誘導を行うレベルであると判定された場合(ステップST47のYESの場合)には、視線方向誘導処理部6は、ステップST46で決定された危険レベルと、ステップST45で算出された視線方向や判定された注視対象物の情報と、ステップST44で取得された現在時刻情報に基づいて、視線・注視点誘導方法、誘導する任意の方向、音声や光を出力させるスピーカや光出力装置、スピーカから出力する音声の種類や音量、光の明るさや色、点滅間隔を決定する(ステップST48)。そして、決定した誘導方法は、誘導処理を行う音声出力部12、光出力部14に通知される。
誘導方法が音声出力でない場合(ステップST49のNOの場合)には、光出力部14が運転者の視線や注視点を誘導する任意の方向の光出力装置に対して、決定された明るさと点滅間隔の誘導光を出力するよう指示を行う(ステップST50)。
一方、誘導方法が音声出力であり、かつ、光出力ではない場合(ステップST49がYES、ステップST51がNOの場合)には、音声出力部12が運転者の視線や注視点を誘導する任意の方向のスピーカから、決定された音量と音声の誘導音を出力させる(ステップST52)。
また、誘導方法が音声出力と光出力の両方の場合(ステップST49、ステップST51がともにYESの場合)には、音声出力部12が運転者の視線や注視点を誘導する任意の方向のスピーカから、決定された音量と音声の誘導音を出力させ、光出力部14が運転者の視線や注視点を誘導する任意の方向の光出力装置から、決定された明るさと点滅間隔の誘導光を出力させる(ステップST53)。
そして、危険レベルが所定の閾値未満(ステップST47のNOの場合)になるまで、ステップST42以降の処理を繰り返す。このステップST42以降の処理は、車両のキーがOFFにされるまで(ステップST54のNOの場合)、繰り返される。すなわち、危険レベルが所定の閾値未満(ステップST47のNOの場合)になっても、その後の運転者の視線・注視点について引き続き処理を行い、視線・注視点の誘導を行う。
その後、危険レベルが所定の閾値未満(ステップST47のNOの場合)になり、車両のキーがOFFにされると(ステップST54のYESの場合)、処理を終了する。
以上のように、この実施の形態3によれば、カメラ等を用いて運転者の顔の向き、視線方向、焦点距離などから注視点を検出し、運転者の注視対象物を判定して、運転者が安全に運転するために本来注視すべき任意の適正方向からの音声や光により運転者の視線や注視点を誘導することにより、運転者が必要以上に視線や焦点をカーナビやHUD等に向けてしまい、進行方向や前方への注意が欠けることを防ぐことができる。
なお、この実施の形態3は、実施の形態1における表示制御部7に代えて音声出力制御部12および光出力制御部14を備えるものとして説明したが、実施の形態に2における表示制御部7に代えて音声出力制御部12および光出力制御部14を備えるようにしても、同様の効果が得られるものである。
また、表示制御部7、音声出力制御部12、光出力制御部14をすべて備えるようにして、誘導方法をそのいずれかまたは複数の組み合わせとして出力を行い、運転者の視線や注視点を誘導するようにすれば、さらに高い効果が期待できる。
なお、本願発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
1 視線検知部、2 注視対象物判定部、3 車両状態判定部,4 危険状況判定部、5 時刻取得部、6 視線方向誘導処理部、7 表示制御部(出力制御部)、8 表示装置(出力装置)、9 車両周辺検知部、10 センサ部、11 周辺状況判定部、12 音声出力制御部、13 音声出力装置、14 光出力制御部、15 光出力装置。

Claims (10)

  1. 車両に搭載され、車内に設けられた出力装置から運転支援情報を出力させる運転支援装置であって、
    運転者の視線方向および注視点を検知する検知部と、
    前記検知部により検知された運転者の視線方向および注視点に基づいて、前記運転者が注視している注視対象物を判定する注視対象物判定部と、
    前記車両の運転操作に応じた車両情報に基づいて、前記車両の動作状態を判定する車両状態判定部と、
    前記注視対象物判定部により判定された注視対象物と前記車両状態判定部により判定された車両の動作状態とに基づいて、前記運転者の視線が前記車両の動作状態で向くべき適正方向を向いていない度合を判定し、当該判定した度合に応じて危険レベルを決定する危険状況判定部と、
    前記危険状況判定部により決定された危険レベルに応じて前記運転者の視線および注視点の誘導を行うか否かを判定し、誘導を行うと判定した場合には、前記注視対象物判定部により判定された注視対象物に基づいて、前記運転者の視線および注視点を前記適正方向に誘導する誘導方向を決定し、前記危険レベルに応じた誘導方法を決定する視線方向誘導処理部と、
    前記視線方向誘導処理部により決定された誘導方法で、前記視線方向誘導処理部により決定された誘導方向に前記運転者の視線および注視点を向かわせる運転支援情報を前記出力装置から出力させる出力制御部と
    を備えることを特徴とする運転支援装置。
  2. 前記車両の周辺の車外物体を検出し、前記車両に対する前記車外物体の方向および前記車外物体から前記車両までの距離を算出し、前記車外物体と前記車両との関係を判定する周辺状況判定部をさらに備え、
    前記危険状況判定部は、前記注視対象物判定部により判定された注視対象物、前記車両状態判定部により判定された車両の動作状態、および、前記周辺状況判定部により判定された前記車外物体と前記車両との関係に関する情報に基づいて、前記運転者の視線が前記車両の動作状態および前記車外物体と前記車両との関係で向くべき適正方向を向いていない度合を判定し、当該判定した度合に応じて危険レベルを決定し、
    前記視線方向誘導処理部は、前記危険状況判定部により決定された危険レベルに応じて前記運転者の視線および注視点の誘導を行うか否かを判定し、誘導を行うと判定した場合には、前記注視対象物判定部により判定された注視対象物および前記周辺状況判定部により判定された前記車外物体と前記車両との関係に基づいて、前記運転者の視線および注視点を前記適正方向に誘導する誘導方向を決定し、前記危険レベルに応じた誘導方法を決定する
    ことを特徴とする請求項1記載の運転支援装置。
  3. 前記出力装置として、運転席前方に配置された表示装置、または、前記運転者の視界に重畳された状態で表示を行う表示装置を備える
    ことを特徴とする請求項1または請求項2記載の運転支援装置。
  4. 前記危険状況判定部は、前記運転者の視線が前記適正方向を向いていない時間的な度合に応じて、前記危険レベルを決定する
    ことを特徴とする請求項1から請求項3のうちのいずれか1項記載の運転支援装置。
  5. 前記出力制御部は、前記誘導方法として、文字、画像、および、映像の少なくとも一つを用いて表現された前記危険レベルに応じた内容で、前記運転者の視線および注視点を前記誘導方向に向かわせる運転支援情報を、前記表示装置に表示させる
    ことを特徴とする請求項3記載の運転支援装置。
  6. 前記視線方向誘導処理部は、前記注視対象物判定部により判定された注視対象物に基づいて、前記運転者が前記表示装置の画面を注視しており前記視線が前記適正方向を向いていないと判定される場合、前記表示装置の画面表示を消すことを前記誘導方法として決定し、
    前記出力制御部は、前記視線方向誘導処理部により決定された誘導方法にしたがって、前記表示画面の画面表示を消すよう前記表示装置に対して指示を行う
    ことを特徴とする請求項3記載の運転支援装置。
  7. 前記出力装置として、音声出力装置および光出力装置を備え、
    前記出力制御部は、前記誘導方法として、前記運転者の視線および注視点を前記誘導方向に向かわせる運転支援情報を、前記危険レベルに応じた出力態様および内容の音声で前記音声出力装置から出力させる、または、前記危険レベルに応じた出力態様の光で前記光出力装置から出力させる
    ことを特徴とする請求項1、請求項2または請求項5のうちのいずれか1項記載の運転支援装置。
  8. 前記危険状況判定部は、危険判定時間以上、前記運転者の視線が前記適正方向を向いていない場合に、前記誘導を行うべき危険レベルとする
    ことを特徴とする請求項1記載の運転支援装置。
  9. 前記危険状況判定部は、危険判定時間以上、前記運転者の視線が前記適正方向を向いていない場合に、前記誘導を行うべき危険レベルとするとともに、前記周辺状況判定部により判定された前記車外物体と前記車両との関係に応じて、前記危険判定時間を変化させる
    ことを特徴とする請求項2記載の運転支援装置。
  10. 前記視線方向誘導処理部は、前記危険レベルに応じた誘導方法を時間帯によって変更する
    ことを特徴とする請求項1または請求項2記載の運転支援装置。
JP2013154593A 2013-07-25 2013-07-25 運転支援装置 Active JP5925163B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013154593A JP5925163B2 (ja) 2013-07-25 2013-07-25 運転支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013154593A JP5925163B2 (ja) 2013-07-25 2013-07-25 運転支援装置

Publications (2)

Publication Number Publication Date
JP2015026185A true JP2015026185A (ja) 2015-02-05
JP5925163B2 JP5925163B2 (ja) 2016-05-25

Family

ID=52490808

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013154593A Active JP5925163B2 (ja) 2013-07-25 2013-07-25 運転支援装置

Country Status (1)

Country Link
JP (1) JP5925163B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015151457A1 (ja) * 2014-03-31 2015-10-08 株式会社デンソー 情報表示システム
JP6202550B1 (ja) * 2016-11-04 2017-09-27 株式会社テクノワークス 事故防止対策機能を備えた携帯型の電子機器
CN108369780A (zh) * 2015-12-17 2018-08-03 马自达汽车株式会社 视觉认知援助系统以及视认对象物的检测系统
CN108621941A (zh) * 2017-03-15 2018-10-09 株式会社斯巴鲁 车辆的显示系统及车辆的显示系统的控制方法
JP2019010931A (ja) * 2017-06-29 2019-01-24 パナソニックIpマネジメント株式会社 表示制御システム、表示制御システムを備える表示システム、表示制御方法、プログラム、及び表示システムを備える移動体
JP2019124892A (ja) * 2018-01-19 2019-07-25 東海電子株式会社 運転用情報処理装置および運転用情報処理プログラム
JP2020135768A (ja) * 2019-02-25 2020-08-31 トヨタ自動車株式会社 車両用表示デバイス
US11347306B2 (en) 2015-12-22 2022-05-31 Interdigital Ce Patent Holdings, Sas Method and apparatus for controlling a discrepant aiming direction of a camera
US11752939B2 (en) 2019-05-30 2023-09-12 Denso Corporation Information presentation device, information presentation method and program product for presenting information

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07257301A (ja) * 1994-03-24 1995-10-09 Mitsubishi Electric Corp 障害物警報システム
JP2001307298A (ja) * 2000-04-24 2001-11-02 Kenwood Corp 車載用ナビゲーション装置及び表示装置
JP2003291688A (ja) * 2002-04-03 2003-10-15 Denso Corp 表示方法、運転支援装置、プログラム
JP2005231382A (ja) * 2004-02-17 2005-09-02 Nissan Motor Co Ltd 車両用走行制御装置
JP2008186281A (ja) * 2007-01-30 2008-08-14 Toyota Motor Corp 車両用警報表示装置
WO2012045760A1 (de) * 2010-10-05 2012-04-12 Bayerische Motoren Werke Aktiengesellschaft Kraftfahrzeug mit einer vorrichtung zur beeinflussung der blickrichtung des fahrers
JP2013009825A (ja) * 2011-06-29 2013-01-17 Denso Corp 視認負荷量推定装置、運転支援装置、および視認負荷量推定プログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07257301A (ja) * 1994-03-24 1995-10-09 Mitsubishi Electric Corp 障害物警報システム
JP2001307298A (ja) * 2000-04-24 2001-11-02 Kenwood Corp 車載用ナビゲーション装置及び表示装置
JP2003291688A (ja) * 2002-04-03 2003-10-15 Denso Corp 表示方法、運転支援装置、プログラム
JP2005231382A (ja) * 2004-02-17 2005-09-02 Nissan Motor Co Ltd 車両用走行制御装置
JP2008186281A (ja) * 2007-01-30 2008-08-14 Toyota Motor Corp 車両用警報表示装置
WO2012045760A1 (de) * 2010-10-05 2012-04-12 Bayerische Motoren Werke Aktiengesellschaft Kraftfahrzeug mit einer vorrichtung zur beeinflussung der blickrichtung des fahrers
JP2013009825A (ja) * 2011-06-29 2013-01-17 Denso Corp 視認負荷量推定装置、運転支援装置、および視認負荷量推定プログラム

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015151457A1 (ja) * 2014-03-31 2015-10-08 株式会社デンソー 情報表示システム
US10040353B2 (en) 2014-03-31 2018-08-07 Denso Corporation Information display system
CN108369780A (zh) * 2015-12-17 2018-08-03 马自达汽车株式会社 视觉认知援助系统以及视认对象物的检测系统
US11347306B2 (en) 2015-12-22 2022-05-31 Interdigital Ce Patent Holdings, Sas Method and apparatus for controlling a discrepant aiming direction of a camera
JP2018073339A (ja) * 2016-11-04 2018-05-10 株式会社テクノワークス 事故防止対策機能を備えた携帯型の電子機器
JP6202550B1 (ja) * 2016-11-04 2017-09-27 株式会社テクノワークス 事故防止対策機能を備えた携帯型の電子機器
CN108621941A (zh) * 2017-03-15 2018-10-09 株式会社斯巴鲁 车辆的显示系统及车辆的显示系统的控制方法
JP2019010931A (ja) * 2017-06-29 2019-01-24 パナソニックIpマネジメント株式会社 表示制御システム、表示制御システムを備える表示システム、表示制御方法、プログラム、及び表示システムを備える移動体
JP2019124892A (ja) * 2018-01-19 2019-07-25 東海電子株式会社 運転用情報処理装置および運転用情報処理プログラム
JP7185251B2 (ja) 2018-01-19 2022-12-07 東海電子株式会社 運転用情報処理装置および運転用情報処理プログラム
JP2020135768A (ja) * 2019-02-25 2020-08-31 トヨタ自動車株式会社 車両用表示デバイス
JP7272007B2 (ja) 2019-02-25 2023-05-12 トヨタ自動車株式会社 車両用表示制御装置、車両用表示装置、車両用表示制御方法及び車両用表示制御プログラム
US11752939B2 (en) 2019-05-30 2023-09-12 Denso Corporation Information presentation device, information presentation method and program product for presenting information

Also Published As

Publication number Publication date
JP5925163B2 (ja) 2016-05-25

Similar Documents

Publication Publication Date Title
JP5925163B2 (ja) 運転支援装置
JP6563798B2 (ja) 視覚認知支援システムおよび視認対象物の検出システム
JP6346614B2 (ja) 情報表示システム
JP4353162B2 (ja) 車輌周囲情報表示装置
JP4825868B2 (ja) 車両用警報装置
JP6413207B2 (ja) 車両用表示装置
WO2017056401A1 (ja) 制御装置、制御方法及びプログラム
EP3441264A1 (en) Vehicle display device, display control method, and rearview monitoring system
JP4946661B2 (ja) 車両用警報表示装置
JP6453929B2 (ja) 車両の表示システム及び車両の表示システムの制御方法
JP2007087337A (ja) 車輌周囲情報表示装置
JP4970379B2 (ja) 車両用表示装置
JP2018182646A (ja) 画像表示装置
JP2018173716A (ja) 情報出力装置
CN110758286A (zh) 基于ar-hud增强现实抬头显示汽车侧后方盲点检测系统及方法
JP2005067514A (ja) 車両用表示装置
US10836311B2 (en) Information-presenting device
CN111556281B (zh) 车用安全系统及其操作方法
JP2017186008A (ja) 情報表示システム
JP2013003641A (ja) 車両用障害物警告装置
JPH10246640A (ja) 車両用情報表示装置
KR20120059732A (ko) 전경 투과 기능을 갖는 차량용 표시장치 및 이의 표시방법
JP6428376B2 (ja) 情報表示装置
JP2008162550A (ja) 外部環境表示装置
JP2009098501A (ja) 視覚情報呈示装置及び視覚情報呈示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150325

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160105

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160419

R150 Certificate of patent or registration of utility model

Ref document number: 5925163

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250