JPWO2020208804A1 - 表示制御装置、表示制御方法、及び表示制御プログラム - Google Patents

表示制御装置、表示制御方法、及び表示制御プログラム Download PDF

Info

Publication number
JPWO2020208804A1
JPWO2020208804A1 JP2021513131A JP2021513131A JPWO2020208804A1 JP WO2020208804 A1 JPWO2020208804 A1 JP WO2020208804A1 JP 2021513131 A JP2021513131 A JP 2021513131A JP 2021513131 A JP2021513131 A JP 2021513131A JP WO2020208804 A1 JPWO2020208804 A1 JP WO2020208804A1
Authority
JP
Japan
Prior art keywords
information
driver
display
driving
display control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021513131A
Other languages
English (en)
Other versions
JP7058800B2 (ja
Inventor
勇人 菊田
芳知 中村
窪田 悟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2020208804A1 publication Critical patent/JPWO2020208804A1/ja
Application granted granted Critical
Publication of JP7058800B2 publication Critical patent/JP7058800B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Arrangement of adaptations of instruments
    • B60K35/10
    • B60K35/23
    • B60K35/28
    • B60K35/29
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B60W40/04Traffic conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • B60K2360/149
    • B60K2360/161
    • B60K2360/176
    • B60K2360/177
    • B60K2360/178
    • B60K2360/179
    • B60K2360/184
    • B60K2360/186
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146Display means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/221Physiology, e.g. weight, heartbeat, health or special needs
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/225Direction of gaze
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00Input parameters relating to data
    • B60W2556/10Historical data
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00Input parameters relating to data
    • B60W2556/45External transmission of data to or from the vehicle

Abstract

表示制御装置(100)は、運転者が運転する車両の周囲の環境を示す走行環境情報(D3)を取得する環境情報取得部(103)と、運転者の運転技能を推定し、運転技能を示す運転技能情報(D1)を生成する技能推定部(101)と、運転者の視線の方向を検出し、視線の方向を示す視線方向情報(D2)を生成する視線検出部(102)と、視線方向情報(D2)と、走行環境情報(D3)及び運転技能情報(D1)の少なくとも一方とに基づいて、運転者が視覚的に認識できる領域を示す視野範囲及び視野範囲内の複数の区画の各々の運転者の視覚による認識のしやすさを示す視覚的認識度(D4)を算出する視覚的認識度算出部(104)と、運転者に提示する表示情報(D0)を受け取り、表示情報(D0)と視野範囲と視覚的認識度とに基づいて、表示情報に基づく映像の表示位置及び表示方法のうちの少なくとも一つを制御する表示制御部(105)とを有する。

Description

本発明は、表示制御装置、表示制御方法、及び表示制御プログラムに関する。
車両の運転席に位置する運転者の視線の移動を検知したときに、移動後の運転者の視線の方向に基づいて運転者により視認可能な範囲である視野範囲を測定し、フロントウィンドウ(windshield)における視野範囲内に映像を投影する装置が提案されている。例えば、特許文献1を参照。
特開2010−18201号公報
しかしながら、運転者の視野範囲は、運転者の視線の方向以外の要因によって変化する。例えば、運転者の視野範囲は、運転者の運転技能(すなわち、運転熟練度)が低い場合又は走行している車両の周囲の環境(例えば、混雑度)が高い場合に、狭くなる傾向がある。したがって、視野範囲が視線の方向のみに基づいて決められた場合、運転者は、視野範囲内に表示された映像を見落とす可能性がある。
本発明は、上記従来の課題を解決するためになされたものであり、運転者にとって適切な位置に映像が表示されるように表示装置を制御することができる表示制御装置、表示制御方法、及び表示制御プログラムを提供することを目的とする。
本発明の一態様に係る表示制御装置は、運転者が運転する車両の周囲の環境を示す走行環境情報を取得する環境情報取得部と、前記運転者の運転技能を推定し、前記運転技能を示す運転技能情報を生成する技能推定部と、前記運転者の視線の方向を検出し、前記視線の方向を示す視線方向情報を生成する視線検出部と、前記視線方向情報と、前記走行環境情報及び前記運転技能情報の少なくとも一方とに基づいて、前記運転者が視覚的に認識できる領域を示す視野範囲及び前記視野範囲内の複数の区画の各々の前記運転者の視覚による認識のしやすさを示す視覚的認識度を算出する視覚的認識度算出部と、前記運転者に提示する表示情報を受け取り、前記表示情報と前記視野範囲と前記視覚的認識度とに基づいて、前記表示情報に基づく映像の表示位置及び表示方法のうちの少なくとも一つを制御する表示制御部と、を有することを特徴とする。
本発明の他の態様に係る表示制御方法は、運転者が運転する車両の周囲の環境を示す走行環境情報を取得するステップと、前記運転者の運転技能を推定し、前記運転技能を示す運転技能情報を生成するステップと、前記運転者の視線の方向を検出し、前記視線の方向を示す視線方向情報を生成するステップと、前記視線方向情報と、前記走行環境情報及び前記運転技能情報の少なくとも一方とに基づいて、前記運転者が視覚的に認識できる領域を示す視野範囲及び前記視野範囲内の複数の区画の各々の前記運転者の視覚による認識のしやすさを示す視覚的認識度を算出するステップと、前記運転者に提示する表示情報を受け取り、前記表示情報と前記視野範囲と前記視覚的認識度とに基づいて、前記表示情報に基づく映像の表示位置及び表示方法のうちの少なくとも一つを制御するステップと、を有することを特徴とする。
本発明によれば、運転者にとって適切な位置に映像が表示されるように表示制御を行うことができる。
本発明の実施の形態1に係る表示制御装置を備えた運転支援装置のハードウェア構成の例を示す図である。 実施の形態1に係る表示制御装置によって実行される制御に基づいて表示される映像の例を示す図である。 実施の形態1に係る表示制御装置の構成を概略的に示す機能ブロック図である。 実施の形態1に係る表示制御装置の動作を示すフローチャートである。 実施の形態1に係る表示制御装置によって使用される視覚的認識度を表す認識度マップの例を示す図である。 実施の形態1に係る表示制御装置によって実行される制御に基づいて表示される映像の例を示す図である。 実施の形態1に係る表示制御装置によって実行される制御に基づいて表示される映像の例を示す図である。 本発明の実施の形態2に係る表示制御装置によって実行される制御に基づいて表示される映像の例を示す図である。 実施の形態2に係る表示制御装置によって実行される制御に基づいて表示される映像の例を示す図である。 本発明の実施の形態3に係る表示制御装置によって実行される制御に基づいて表示される映像の例を示す図である。
以下に、本発明の実施の形態に係る表示制御装置、表示制御方法、及び表示制御プログラムを、図面を参照しながら説明する。以下の実施の形態は、例にすぎず、本発明の範囲内で種々の変更が可能である。
《1》実施の形態1
《1−1》運転支援装置1
図1は、本発明の実施の形態1に係る表示制御装置100を備えた運転支援装置1のハードウェア構成の例を示す図である。図1に示されるように、運転支援装置1は、運転者によって運転される車両である自動車に搭載される。運転支援装置1は、ヘッドアップディスプレイ(HUD)装置11と、インストルメントパネル表示装置12と、電子サイドミラー表示装置13,14と、電子バックミラー表示装置15と、車内カメラ21と、車外カメラ22と、表示制御装置100とを備えている。運転支援装置1は、車両内における会話音を検出するマイク(図示せず)を備えてもよい。表示制御装置100は、プロセッサ31と、メモリ32とを備えている。HUD装置11は、例えば、フロントウィンドウ10を通して視認される景色に重畳して各種の情報を表示する。HUD装置11は、例えば、半透明の映像を表示する。インストルメントパネル表示装置12は、速度メータなどの計器パネルであり、パネル表示装置12ともいう。電子サイドミラー表示装置13,14は、例えば、車外カメラ22によって撮影された左右後方の映像を表示する表示装置であり、サイドミラー表示装置14,15ともいう。電子バックミラー表示装置15は、例えば、車外カメラ22によって撮影された後方の映像を表示する表示装置であり、バックミラー表示装置15ともいう。運転支援装置1は、車外カメラ22に代えて又は車外カメラ22に加えて、車外の環境を検出又は計測する赤外線センサなどのセンサを備えてもよい。
HUD装置11は、車両のフロントウィンドウを通して視認される車外の景色に重畳して映像を表示する表示装置である。パネル表示装置12は、フロントウィンドウの下部に配置されたインストルメントパネル内の表示装置である。サイドミラー表示装置13は、パネル表示装置12の左側に車外の映像を表示する表示装置である。サイドミラー表示装置14は、パネル表示装置12の右側に車外の映像を表示する表示装置である。バックミラー表示装置15は、車両の後方の環境を表示する表示装置である。図1には、5つの表示装置が示されているが、表示装置の数は5に限定されない。
車内カメラ21は、車両の運転席に座っている運転者を撮像する撮像装置である。車外カメラ22は、車両の外側すなわち車両の周囲を撮像する撮像装置である。図1には、1台の車内カメラ21が示されているが、車内カメラの数は2台以上であってもよい。また、運転者の視線を検出する他の手段を備えた場合には、車内カメラ21を備えなくてもよい。また、図1には、1台の車外カメラ22が示されているが、車外カメラの数は2台以上であってもよい。
表示制御装置100は、HUD装置11、パネル表示装置12、サイドミラー表示装置13,14、バックミラー表示装置15、車内カメラ21、及び車外カメラ22の動作を制御する。また、表示制御装置100は、車両の運行を制御する運行制御装置(図示せず)から車両の運行に関する情報、運転者の運転操作に関する情報、などを取得する。車両の運行に関する情報は、走行速度、走行距離、燃料残量、などを含む。運転操作に関する情報は、運転者によるブレーキ操作の状況、ステアリング操作の状況、などを含む。
表示制御装置100は、情報処理部としてのプロセッサ31と、情報を記憶する記憶部としてのメモリ32とを有している。表示制御装置100は、例えば、コンピュータである。メモリ32には、表示制御方法を実行するための表示制御プログラムがインストールされている。表示制御プログラムは、例えば、ネットワークを経由して又は情報を記憶する記憶媒体からインストールされる。プロセッサ31は、メモリ32に記憶されている表示制御プログラムを実行することにより、運転支援装置1の全体の動作を制御する。表示制御装置100の全体又は一部は、半導体集積回路からなる制御回路で構成されてもよい。メモリ32は、半導体記憶装置、ハードディスク装置、取り出し可能な記録媒体に情報を記録する装置などの各種の記憶装置を含んでもよい。
図2は、実施の形態1に係る表示制御装置100によって実行される制御に基づいて表示される映像の例を示す図である。図2は、車両の運転席に位置する運転者から正面方向に表示される映像の位置を示している。HUD装置11は、車両のフロントウィンドウ10を通して視認される車外の景色に重畳して映像を表示する。パネル表示装置12は、フロントウィンドウ10の下側に配置されている。サイドミラー表示装置13,14は、パネル表示装置12の左右に配置されている。バックミラー表示装置15は、フロントウィンドウ10の上部に配置されている。ただし、これらの表示装置の配置及び形状は、図2の例に限定されない。
《1−2》表示制御装置100
図3は、実施の形態1に係る表示制御装置100の構成を概略的に示す機能ブロック図である。表示制御装置100は、図2に示される各種の表示装置によって運転者に提示される映像の表示内容、表示位置、及び表示方法を制御する。図3に示されるように、表示制御装置100は、技能推定部101と、視線検出部102と、環境情報取得部103と、視覚的認識度算出部104と、表示制御部105とを備えている。
環境情報取得部103は、運転者が運転する車両の周囲の環境を示す走行環境情報D3を取得する。技能推定部101は、車両を運転する運転者の運転技能を推定し、運転技能を示す運転技能情報D1を生成する。視線検出部102は、車両を運転する運転者の視線の方向を検出し、視線の方向を示す視線方向情報D2を生成する。
視覚的認識度算出部104は、視線方向情報D2と、走行環境情報D3及び運転技能情報D1の少なくとも一方とに基づいて、運転者が現時点において視覚的に認識できる領域を示す視野範囲及び視野範囲内の複数の区画(すなわち、複数の小領域)の各々における視覚的認識度D4を算出する。視覚的認識度D4は、視野範囲内の複数の区画の各々を、運転者が視覚的にどの程度認識しやすいか、すなわち、視覚的な認識容易性を示す値である。視野範囲、複数の区画、及び視覚的認識度D4は、図5を用いて後述される。なお、以下の説明では、視覚的認識度算出部104が、視線方向情報D2と、走行環境情報D3と、運転技能情報D1とに基づいて、視野範囲及び視野範囲内の複数の区画の各々における視覚的認識度D4を算出する例を説明する。
表示制御部105は、運転者に提示する表示情報D0を受け取り、表示情報D0と視野範囲における視覚的認識度を示す情報D4とに基づいて、表示情報に基づく映像の表示位置及び表示方法のうちの少なくとも一つを制御する。表示制御部105は、各運転者にとって適した位置に表示情報D0を含む映像を各運転者に提示するための表示制御を行う。表示情報D0は、車両の運行を制御する運行制御装置(図示せず)から提供された情報、車両に搭載されたナビゲーション装置から提供された情報、車両に搭載された通信装置によって受信された情報、などを含む。
図4は、実施の形態1に係る表示制御装置100の動作を示すフローチャートである。まず、ステップS1において、表示制御装置100は、運転者が運転する車両の周囲の環境を示す走行環境情報D3を取得する。ステップS2において、表示制御装置100は、車両を運転する運転者の運転技能を推定し、運転技能を示す運転技能情報D1を生成する。ステップS3において、表示制御装置100は、車両を運転する運転者の視線の方向を検出し、視線の方向を示す視線方向情報D2を生成する。ステップS1からS3の処理の順番は、この順番に限定されない。ステップS1からS3の処理は、並列的に行われてもよい。
ステップS4において、表示制御装置100は、視線方向情報D2と、走行環境情報D3及び運転技能情報D1の少なくとも一方とに基づいて、運転者が現時点において視覚的に認識できる領域を示す視野範囲及び視野範囲内の複数の区画の各々における視覚的認識度D4を算出する。
ステップS5において、表示制御装置100は、運転者に提示する表示情報D0を受け取り、表示情報D0と視野範囲内の複数の区画の各々における視覚的認識度D4とに基づいて、表示情報D0の表示位置及び表示方法のうちの少なくとも一つを制御する。表示制御装置100は、各運転者にとって適した位置に表示情報D0を含む映像を提示するための表示制御を行う。
《1−3》技能推定部101
技能推定部101は、運転者の運転行動に基づいて運転者の運転技能を推定し、運転技能を示す運転技能情報D1を生成する。つまり、技能推定部101は、運転者が行う運転操作に基づいて、運転者の運転技能すなわち運転熟練度を推定し、この運転技能を示す運転技能情報D1を生成する。運転技能は、運転経験の量に依存するので、運転経験値とも呼ばれる。運転技能の推定に用いられる運転操作は、例えば、急ブレーキの操作、又はステアリングの操作、又は変速ギアの切替えの操作、又はこれらの操作の内の2つ以上の組み合わせである。ただし、運転技能の推定に用いられる運転操作は、上記の操作及び上記組み合わせに限定されない。
技能推定部101は、ブレーキの踏み込み量が、運転速度に応じて決められた踏み込み量の閾値以上であるときに、運転者によって急ブレーキの操作が行われたと判定する。技能推定部101は、運転中におけるブレーキ操作の回数に対する急ブレーキ操作の回数の比率が、予め決められた基準の比率よりも大きいときに、運転者の運転技能が低いと推定し、急ブレーキ操作の回数の比率が前記基準の比率以下であるときに、運転者の運転技能が高いと推定することができる。ただし、ブレーキ操作に基づく運転技能の推定方法は、この方法に限定されない。上記例では、ブレーキ操作に基づいて運転技能を2つのグループに分類しているが、ブレーキ操作に基づいて運転技能を3つ以上のグループに分類してもよい。
また、技能推定部101は、ステアリング操作におけるハンドルの回転速度が、予め決められた基準速度よりも速いときに、運転者の運転技能が高いと推定し、ハンドルの回転速度が前記予め決められた基準速度以下であるときに、運転者の運転技能が低いと推定することができる。ただし、ステアリング操作に基づく運転技能の推定方法は、この方法に限定されない。上記例では、ステアリング操作に基づいて運転技能を2つのグループに分類しているが、ステアリング操作に基づいて運転技能を3つ以上のグループに分類してもよい。
また、技能推定部101は、車両の走行速度の予め決められた各速度範囲について変速ギアの切替え操作の履歴を蓄積し、蓄積された操作履歴を参照することによって、運転者の運転技能を推定することができる。例えば、技能推定部101は、変速ギアの切替えの回数の合計に対する、前記各速度範囲に適した変速ギアの切替えが行われた回数の比率が、予め決められた基準の比率より高いときに、運転者の運転技能が高いと推定し、前記基準の比率以下であるときに、運転者の運転技能が低いと推定することができる。
また、技能推定部101は、運転者の運転走行距離の合計値、運転者が運転中の車両に発生した過去の運転事故に関する情報、運転者の過去の交通違反の記録、などの過去の運転者情報を予め記憶部に記憶し、これらの情報を参照することで運転技能を推定することもできる。記憶部は、例えば、図1に示されるメモリ32である。技能推定部101の記憶部に対する運転者情報の事前の入力は、ユーザによる手動操作による入力、ICカードなどに記録されたデータをカード読取装置によって読み込むことによる入力、車両の内部を撮影する車内カメラ21から出力される情報から運転者の個別認識を行い、運転者の個別識別情報に基づいてネットワーク上のデータ又は車内データを取得する方法などが考えられる。記憶部は、表示制御装置100の外部の記憶装置又は表示制御装置100とネットワークを通して通信可能に接続された外部の記憶装置であってもよい。
また、運転技能情報D1は、運転者の状態に応じて変化する。例えば、技能推定部101は、運転者の脈拍、顔色、視線の運動、などの生体情報から運転者の現在の健康状態を推定し、現在の健康状態に基づいて、推定された運転技能を運転者の本来の運転技能に補正することが可能である。また、技能推定部101は、運転者と同乗者との会話、運転者によるわき見、などの運転行動以外の運転者の行動を検知し、運転行動以外の運転者の行動に基づいて運転技能を補正することも可能である。
また、技能推定部101は、運転者が持つ持病又は視力情報など、事前に判明する運転者の健康状態をICカードからの読み込み又は手動入力などにより、運転技能情報D1として保持することにより、特定の条件における補正をすることも可能である。
技能推定部101は、以上の各種の運転技能の推定方法のいずれか2つ以上の組み合わせによって、運転技能を推定してもよい。例えば、技能推定部101は、運転者の運転経験、運転履歴、健康状態、又は視力情報のいずれか1つ以上に基づいて運転技能情報を決定してもよい。
《1−4》視線検出部102
視線検出部102は、運転者の視線の方向を示す視線方向情報D2を取得する。視線検出部102は、運転者が目視している方向を示す視線方向情報D2を取得する。運転者が目視している方向は、運転者が目で見ている方向である。目視している方向は、「視線方向」ともいう。視線検出部102は、車内カメラ21で撮影された運転者の顔又は眼の画像に基づいて、運転者の視線方向を検出する。視線検出部102は、車内カメラ21で撮影された撮像画像における運転者の顔の位置に対する運転者の両眼の瞳孔の位置に基づいて、3次元測量を用いて運転者の視線方向を3次元的に検出することができる。視線検出部102は、運転者が装着する装置の一部であってもよい。視線検出部102は、例えば、運転者が装着する眼鏡の一部として備えられる装置であってもよい。
《1−5》環境情報取得部103
環境情報取得部103は、車外カメラ22によって撮像される画像に基づいて車両の周囲の環境を示す走行環境情報D3を取得する。走行環境情報D3は、運転者が運転する車両の周囲に存在する物及び車両の周囲の状況を示す情報を含む。環境情報取得部103は、車両に備えられた車外カメラ22から、車両の周囲に存在する物に関する情報を取得する。車両の周囲に存在する物は、例えば、他の車両、歩行者、動物、障害物、などである。車両の周囲の状況は、例えば、車両の位置情報及び時間情報に基づいて取得された天候を示す情報、日差しの方向を示す情報、車両の位置情報及び時間情報に基づいて取得された道路の混雑情報、などを含む。環境情報取得部103は、天候、道路環境(例えば、混雑状況)ネットワークを介して情報提供用のサーバなどから取得してもよい。また、環境情報取得部103は、運転する車両の位置情報をGPS(Global Positioning System)などの測位システムから取得してもよい。
《1−6》視覚的認識度算出部104
図5は、実施の形態1に係る表示制御装置100の視覚的認識度算出部104によって生成される視覚的認識度D4を表す視覚的認識度マップ40の例を示す図である。視覚的認識度D4は、運転者の視野範囲内における各区画の視覚的な認識のしやすさを示す性質を定量化した情報である。視野範囲における複数の区画の各々における視覚的認識度D4は、視覚的認識度マップ40で表すことができる。視覚的認識度マップ40は、格子状に配置されている複数の矩形の区画と、複数の矩形の区画の各々における視覚的認識度とから構成される。図5に示される視覚的認識度マップ40は、運転者が現在の視線方向の状態で前方を見たときに、視覚的に認識できる情報量を複数の区画の濃度及び塗りつぶしパターンの違いで表したものである。例えば、視覚的認識度マップ40において色が濃い区画であるほど、運転者は、視覚的な情報を取得しやすい半面、視線の誘導を起こしやすい。すなわち、色の濃い区画は、知覚感度の高い領域であり、この区画に向けて視線を誘導する能力が高い。運転者は、視覚的認識度マップ40における区画の色が薄いほど、運転行動に支障を起こしにくい半面、表示された映像を見落としやすい。すなわち、色の薄い区画は、知覚感度の低い領域であり、この区画に向けて運転者の視線を誘導する能力が低い。
視覚的認識度算出部104は、視線方向情報D2と、運転技能情報D1と、走行環境情報D3とに基づいて、視覚的認識度D4を算出する。視覚的認識度算出部104は、視覚的認識度D4の算出に際し、人間の視覚的な認知工学の分野における中心視と周辺視の領域を推定する方法を用いることができる。中心視の領域は、視野範囲内において視線に近い領域であり、運転者によって知覚されやすい領域である。つまり、中心視の領域は、知覚感度の高い視覚領域である。周辺視の領域は、視野範囲内において視線から離れた領域であり、運転者によって知覚されにくい領域である。つまり、周辺視の領域は、運転者によって見えている領域ではあるが、知覚感度の低い視覚領域である。なお、視野範囲内における中心視の領域と周辺視の領域との境界及び各領域における知覚感度の高さは、身体的な個人差、運転者の周囲の環境、などに応じて変化する。
視覚的認識度算出部104は、運転技能情報D1及び視線方向情報D2に基づいて、視野範囲の推定を行う。運転者の運転経験が豊富である場合すなわち運転者が高い運転熟練度を持つ場合、運転者は広い視野を持つので、視野範囲は広い。視野範囲が広い理由は、高い熟練度を持つ運転者は、運転行動に必要となる視覚的な情報を経験的に熟知しているため、運転操作に意識を集中しすぎることがないからである。逆に、運転者の運転経験が少ない場合すなわち運転者が低い運転熟練度を持つ場合、運転者の視野は狭いので、視野範囲は狭い。視野範囲が狭い理由は、低い熟練度を持つ運転者は、意識の緊張又は運転操作への意識の集中のしすぎにより、視覚に対して向けられる意識の割合が少ないからである。また、視覚的認識度は、視線に近い領域で高く、視線から視野範囲の端部に向かうにつれて低下する。以上の理由から、視覚的認識度算出部104は、運転者の視線方向情報D2が示す視線を中心とする視野範囲とこの視野範囲内の各区画における運転者による視覚的認識度とを、運転者の運転技能に基づいて推定することができる。
また、視線方向に関する運転者の情報処理能力は、時間軸空間で積分された情報量で評価される。このため、視覚的認識度算出部104は、運転者が視野範囲の中心位置以外の同じ方向を連続して見ていることが確認される場合は、視野範囲の中心位置に対する意識の集中が低下しており、視野範囲の中心位置における視覚的認識度が低下していると考えられる。したがって、視覚的認識度算出部104は、運転者が視野範囲の中心位置以外の同じ方向を連続して見ていることが確認される場合は、運転者が連続して長時間見ている方向と視線方向とに基づいて、複数の区画の各々の視覚的認識度を補正することが可能である。
また、運転者の健康状態又は運転行動以外の行動により運転者の視野範囲及び視覚的認識度が変化することが確認されている。そのため、視覚的認識度算出部104は、運転技能によって取得された視野範囲及び視覚的認識度を、運転者の状態に応じて補正してもよい。
また、例えば、走行環境情報D3によって示される走行環境が、渋滞などの車両が密集した環境である場合は、隣接する車両又は人の飛び出しなど、運転行動における考慮すべき事象が多いことから、視覚的認識度が視野範囲の全域において低下すると考えられる。したがって、視覚的認識度算出部104は、走行環境情報D3に基づいて、前記推定した視野範囲及び視覚的認識度を補正してもよい。
また、日差しの方向又は車両がカーブ走行するときなど、特定の方向に対して意識の阻害又は集中が見られる環境においては、視覚的認識度算出部104は、視野範囲の中の日差しの方向、車両の走行方向、などに基づいて、前記推定した視野範囲及び視覚的認識度を補正してもよい。
図5に示されるように、視覚的認識度マップ40が示す視覚的認識度は、運転者から見た前方の視野範囲内において格子状に配置された複数の矩形の区画ごとに、数値(図5においては、濃度)として表される。まず、視覚的認識度算出部104は、運転者の視点位置の中心を視線方向情報D2から取得し、視線中心の方向の3次元直線と前方の視野範囲との交点を算出する。視線中心は、視線方向情報D2の取得方法により変わる。例えば、両眼のそれぞれの瞳孔から視線方向を求める場合には、両眼の視線ベクトルの交点と、両眼の3次元位置の中点とを結ぶ直線の方向が、視線中心の方向である。また、視線中心の方向のベクトルが、視線中心ベクトルである。
次に、視覚的認識度算出部104は、前方の視野範囲と視線中心の方向の直線との交点の位置に当たる矩形の区画の視覚的認識度を算出する。各区画の視覚的認識度を算出する方法は、視覚的認識度の最大値から、走行環境又は運転者の状態を変数とした視覚的認識度の低下成分を減算する処理による。例えば、走行環境としての周囲の道路状況が混雑している場合、運転者が見るべき対象が多くなるため、視覚的認識度の低下成分の値が大きい値になる。また、例えば、運転者が焦りを持つ精神状態である場合、運転者の身体的な健康状態が悪い場合、又は運転者が同乗者と会話している場合など、集中力が低下する環境下では、視覚的認識度の低下成分の値が大きい値になる。また、例えば、運転者の運転技能が低い場合には、運転者は、周辺に気を配ることが少ないため、視覚的認識度の低下成分の値は小さくなり、視線中心の方向の区画における視覚的認識度は高くなる。
次に、視覚的認識度算出部104は、視野範囲の中心位置の区画の視覚的認識度に基づいて、中心位置の区画の周囲の区画の視覚的認識度を順に算出する。人間の視野範囲内における視覚的認識度は、中心位置から離れるにしたがい同心円状に低下する。このため、中心位置の区画の周囲の区画の視覚的認識度は、中心位置を同心円の中心とし、中心位置の区画の視覚的認識度の値から同心円の半径を変数とした関数の計算式で算出される。また、この計算式は、走行環境又は運転者の状態などに応じて変化する。例えば、走行環境が混雑している状態であれば、運転者は周囲に気を配ることが多いため、半径の増加に伴う視覚的認識度の減少の割合は低くなる。また、例えば、運転者の精神状態又は身体的な状態は運転者の集中力に影響を与えるため、運転者の状態によって視覚的認識度の減少の割合が変化する。また、例えば、運転者の運転技能が低い場合には、運転者は周辺に気を配ることができないので、周辺における視覚的認識度の減少の割合は大きくなる。
また、視覚的認識度算出部104は、視線中心から予め決められた半径の同心円の内側と外側とで、異なる視覚的認識度の値を用いてもよい。人間の視覚的な特性において、中心視の領域は、一般に、視線中心を基準に左右約30度とされており、それより大きな角度の視野範囲は周辺視の領域と呼ばれている。一般に、中心視の領域と周辺視の領域とでは、人間による状態の判別などにおける視覚的認識度に大きな違いが生じるといわれている。そこで、視覚的認識度算出部104は、3次元空間における視線方向から中心視の領域に位置する区画と周辺視の領域に位置する区画とを別々に扱い、減算する計算式(すなわち、視覚的認識度の低下成分を示す計算式)を変化させることで、運転者の視覚特性に合わせた視覚的認識度の算出を行ってもよい。
また、視覚的認識度算出部104は、車外の環境に基づいて視覚的認識度の補正処理を行ってもよい。例えば、逆光、夜の街灯、トンネル内の照明など、特定の方向からの強い光が視野内に入る場合、強い光の周辺の領域における視覚的認識度が大きく減少する。視覚的認識度算出部104は、車外の物体の検知又は車両の周囲の環境の検知の結果などの走行環境情報D3に基づいて、視覚的認識度の低下成分を計算式で求められた視覚的認識度から減算する補正を行うことにより、走行環境にロバストな視覚的認識度の算出を行うことができる。
《1−7》表示制御部105
表示制御部105は、表示情報D0と視覚的認識度D4とに基づいて、運転者にとって好適な表示制御を行うための映像情報D5を生成する。表示情報D0は、運転行動に関する視覚的な提示情報である。表示情報D0は、例えば、パネル表示装置12における速度表示、車両状態を示す情報、ナビゲーション情報、運転時におけるアラート情報、などを含む。また、表示情報D0は、表示制御において用いられる提示情報ごとの重要度を示す情報を含んでもよい。
表示制御部105は、各種の表示装置である、HUD装置11、パネル表示装置12、サイドミラー表示装置13,14、及びバックミラー表示装置15に表示信号を提供する。表示制御部105は、表示情報D0と視覚的認識度D4とに基づいて、運転者にとって好適な表示制御を行う。表示制御は、HUD装置11、パネル表示装置12、サイドミラー表示装置13,14、及びバックミラー表示装置15の表示位置における視覚的認識度D4を基に、表示内容及び表示方法の制御処理を行うことで実現する。表示制御部105は、例えば、複数の表示情報D0を重要度に応じて視覚的認識度の高い位置に、映像を配置する。また、表示制御部105は、例えば、複数の表示情報D0を重要度に応じて表示の位置、色、時間、コンテンツを変更してもよい。
表示制御部105は、表示情報D0に含まれる方向に関する情報又は表示情報D0と他の情報との関連性などを直感的に運転者に知らせることができるように、映像を配置してもよい。例えば、表示制御部105は、ある方向に運転者が注意すべき物がある場合に、その方向と同じ方向に表示情報D0に基づく映像を配置してもよい。また、表示制御部105は、表示情報D0と、それに関連した他の情報とが、映像上で繋がるように表示してもよい。この場合、表示制御部105は、視覚的認識度が低い位置に表示された映像を、運転者に適切に知覚させることができる。
また、視覚的認識度の高い位置に表示情報D0に基づく映像を配置すると、運転行動における視覚的な注意を阻害する可能性がある。そのため、表示制御部105は、視覚的認識度D4が予め決められた閾値以上の領域に表示できる表示領域の面積に上限を設定してもよい。この場合には、視覚的認識度の高い位置に表示された映像によって、運転行動における視覚的な注意が阻害されにくくなる。
また、表示制御部105は、表示情報D0の重要度に応じて、表示される映像の色を変化させることによって、運転者に直観的な認識を促すことができる。また、表示制御部105は、HUD装置11によって映像を表示する場合、車外の環境に応じて、車外の風景の色との差が大きい色を用いて映像を知覚しやすくすることができる。また、表示制御部105は、車外の日照環境及び道路環境により運転者が見る外界の色が変化することから、運転者が見る外界の色と大きく異なる色で映像を表示することで、運転者にとって知覚しやすい映像を表示することができる。
また、表示制御部105は、重要度の高い表示情報D0に基づく映像を長時間表示する場合には、重要度の高い表示情報D0であっても、視覚的認識度の低い位置に表示することができる。また、表示制御部105は、緊急度を要する表示情報D0に基づく映像を表示する場合には、視覚的認識度の高い場所に認識できる時間の範囲で表示することでアラート効果を高めることができる。また、表示制御部105は、表示時間と視線方向とによって、視覚的な知覚量がどの程度蓄積されるかを計算することで、アラート効果を十分に高くする最短の表示時間を取得することができる。
また、表示制御部105は、表示コンテンツとして、矢印、イラスト、アイコン、などの図形を用いることによって、文字表示に比べ運転者が認識に要する時間を短縮することができる。また、表示制御部105は、表示情報D0の内容に応じて、運転者にとってどの程度必要な情報であるか否かを示す必要レベルを判別し、必要レベルが低ければイラスト又はアイコンなどの一目で理解できる図形の映像を視覚認識度の低い位置に配置し、必要レベルが高ければ文章などの映像を視覚的認識度の高い位置に配置する。
図6は、実施の形態1に係る表示制御装置100によって実行される制御に基づいて表示される映像の例を示す図である。図6は、運転技能が低い運転者を想定した表示制御内容の例を示す。一般に、運転技能が低い運転者の場合は、視野範囲が狭い。図6は、車両の進行方向である運転方向の中央を視線中心とし、HUD装置11又はパネル表示装置12の一部が周辺視として知覚できる場合を示している。そのため、表示制御部105は、注意を払うことが必要な物に関する情報などのように、表示情報D0の重要度が高い場合には、HUD装置11における視線方向に近い位置に映像を配置することで視覚的認識度を向上させている。
また、表示制御部105は、文字表示よりも、アイコンなどの図形による表示の割合を大きくし、直観的に認識できる表示にしている。また、表示制御部105は、表示情報D0の中で重要度の低い情報については、周辺視の領域に配置する位置制御、又は重要度に比例した表示時間を設定して、表示内容を時間ごとに変化させるなど、運転行動を阻害しない表示制御を行っている。
図7は、実施の形態1に係る表示制御装置100によって実行される制御に基づいて表示される映像の例を示す図である。図7は、運転技能の高い運転者を想定した表示制御内容を示す。一般に、運転技能が高い運転者の場合は、視野範囲が広い。図7は、運転方向の中央を視線中心とし、HUD装置11及びパネル表示装置12の上部半分は、中心視として知覚でき、サイドミラー表示装置13,14の一部が周辺視として知覚できる場合を示している。中心視野が広い視覚的認識度であるため、表示制御部105は、HUD装置11の表示面の端部すなわち視覚的認識度の低い領域に、ナビゲーションアイコン41及び目的地表示情報44を配置することで、視線誘導が生じにくい表示を行っている。また、表示制御部105は、パネル表示装置12の上部には、混雑度表示情報45又はサイドミラー表示装置14の端部にアラート表示アイコン43などを配置することで、広い周辺視野内に重要度の低い視覚的な情報を視線誘導されることなく知覚することができる。
《1−8》効果
以上に説明したように、実施の形態1に係る表示制御装置100、表示制御方法、又は表示制御プログラムを用いれば、運転者に提供する映像の表示位置及び表示方法を、運転者の運転技能、運転者の視線方向、及び車両の周囲の環境に応じて、決定することができるので、各運転者にとって適切な位置に適切な方法で映像が表示されるように表示制御を行うことができる。例えば、運転技能が高い運転者は、表示された映像によって視界を妨げられることなく、かつ映像情報を正確に認識することができる。また、運転技能が低い運転者は、表示された映像を見落とすことがなく、かつ大きな視線移動を強いられることなく、運転に意識を集中させることができる。
《2》実施の形態2.
実施の形態2に係る表示制御装置は、図3に示される実施の形態1に係る表示制御装置100と同様の構成を有している。また、実施の形態2に係る表示制御装置が実施する表示制御方法は、図4に示される実施の形態1に係る表示制御方法と同様の処理である。したがって、実施の形態2の説明では、図1から図4を参照する。実施の形態2では、車両における車外映像を表示するサイドミラー表示装置13,14及びバックミラー表示装置15を用いた運転行動時の表示制御方法を説明する。
図8は、実施の形態2に係る表示制御装置によって実行される制御に基づいて表示される映像の例を示す図である。図8は、サイドミラー表示装置13及びHUD装置11の表示制御の例を示している。図9は、実施の形態2に係る表示制御装置によって実行される制御に基づいて表示される映像の例を示す図である。図9は、バックミラー表示装置15及びHUD装置11の表示制御の例を示している。一般に、右折の運転行動時の視野範囲は、運転状況に応じて右前方から側面の窓の方向まで変化する。後退の運転行動時には、左右のサイドミラー表示装置13,14及びバックミラー表示装置15の周囲が視野範囲となる。また、これらの視野範囲は、運転者の運転技能、又は癖、又はこれらの両方によって変化する。
実施の形態2において、視覚的認識度算出部104は、技能推定部101の推定結果である技能情報D1又は視線検出部102の検出結果である視線方向情報D2とに基づいて、右折の運転行動時の視野範囲の時間的な動きを予測し、右折の運転行動中の視覚的認識度D4を算出する。ここで、視覚的認識度算出部104は、視野範囲の時間的な動きの予測に際し、同様の運転行動中における視線方向の移動及び運転行動を示す情報を蓄積し、蓄積した情報を平均化することで視野範囲及び視覚的認識度D4を算出する。また、車外環境に応じて視線方向及び運転行動は変化するため、視覚的認識度算出部104は、予め決められた一定回数以上の情報を平均化することが望ましい。また、視覚的認識度算出部104は、細かな動作によって生じる情報遷移の影響を排除するために、車外環境に応じて変化する視線方向を示す情報及び運転行動を示す情報にフィルタ処理を行ってもよい。
これにより、表示制御部105は、右折の運転行動中に変化する運転者の視点位置であっても、見える視野に重要度の高い情報を配置し、重要度の低い情報は、右折の運転行動の中である視点位置でのみ見えるように配置することができる。
図8は、右折の運転行動中の表示制御例を示している。ナビゲーションアイコン41は、右折の運転行動の開始時における視点位置でのみ中心視の領域で知覚でき、その後において、右折の運転行動中の視界を遮ることをなくすることができる。また、情報の重要度の高いアラート表示アイコン43,46は、右折の運転行動時のどの時間位置であっても視野範囲に入るように配置制御を行うことで、注意が必要な物の認識時間を早めることができる。
図9は、後退の運転行動時にバックミラー表示装置15を見ている際の表示制御の例である。アラート表示アイコン43及び46は、右後方に注意が必要な物が発生した際に運転者に認知させるための表示情報である。この例では、バックミラー表示装置15を視認しているときに、バックミラー表示装置15上に他の表示情報を阻害しないアイコンを配置している。この場合、視点位置を右方向に変更したときに周辺視野にあるHUD装置11の表示領域にて視認できるように、アイコン表示を行うことで、後退の運転行動時に、アイコンを見ることを目的として身体又は視線を移動させる必要がない。
《3》実施の形態3.
実施の形態3に係る表示制御装置は、図3に示される実施の形態1に係る表示制御装置100と同様の構成を有している。また、実施の形態3に係る表示制御装置が実施する表示制御方法は、図4に示される実施の形態1に係る表示制御装置100の表示制御方法と同様の処理である。したがって、実施の形態3の説明では、図1から図4を参照する。実施の形態3では、運転行動において必要となる視線移動が適切に行われなかった際の表示制御方法を示す。
図10は、実施の形態3に係る表示制御装置によって実行される制御に基づいて表示される映像の例を示す図である。図10は、運転者の視覚的認識度D4を図5における視覚的認識度マップ40の状態としたときに、この視覚的認識度マップ40の範囲外に注意が必要な物47が存在する位置の方向に視線を誘導するための表示例を示している。
実施の形態3においては、視覚的認識度マップ40の範囲外に視点位置を向ける必要がある場合、表示制御部105は、視野範囲における誘導方向に近い位置にアラート表示アイコン46を表示する。このようにすれば、運転者が考える運転行動と中心視野による知覚を阻害することなく、視線の誘導表示を行うことができる。
《4》変形例.
また、上記実施の形態1から3の表示制御装置の構成を適宜組み合わせることが可能である。
1 運転支援装置、 10 フロントウィンドウ、 11 HUD装置、 12 パネル表示装置、 13 サイドミラー表示装置、 14 サイドミラー表示装置、 15 バックミラー表示装置、 21 車内カメラ、 22 車外カメラ、 31 プロセッサ、 32 メモリ、 40 視覚的認識度マップ、 41 ナビゲーションアイコン、 42 アラート表示アイコン、 43 アラート表示アイコン、 44 目的地表示情報、 45 混雑度表示情報、 46 アラート表示アイコン、 100 表示制御装置、 101 技能推定部、 102 視線検出部、 103 環境情報取得部、 104 視覚的認識度算出部、 105 表示制御部、 D0 表示情報、 D1 運転技能情報、 D2 視線方向情報、 D3 走行環境情報、 D4 視覚的認識度、 D5 映像情報。
本発明の一態様に係る表示制御装置は、運転者が運転する車両の周囲の環境を示す走行環境情報を取得する環境情報取得部と、前記運転者の運転技能を推定し、前記運転技能を示す運転技能情報を生成する技能推定部と、前記運転者の視線の方向を検出し、前記視線の方向を示す視線方向情報を生成する視線検出部と、前記視線方向情報による前記運転者の運転行動時に発生する視線方向の移動情報と、前記運転者の運転行動情報とを蓄積する記憶部と、前記記憶部に蓄積された前記視線方向の移動情報及び前記運転行動情報と、前記走行環境情報及び前記運転技能情報の少なくとも一つの情報に基づいて、前記運転者が視覚的に認識できる領域を示す視野範囲及び前記視野範囲内の複数の区画の各々の前記運転者の視覚による認識のしやすさを示す視覚的認識度を算出する視覚的認識度算出部と、前記運転者に提示する表示情報を受け取り、前記表示情報と前記視野範囲と前記視覚的認識度とに基づいて、前記表示情報に基づく映像の表示位置及び表示方法のうちの少なくとも一つを制御する表示制御部と、を有することを特徴とする。
本発明の他の態様に係る表示制御方法は、表示制御装置によって実行される方法であって、運転者が運転する車両の周囲の環境を示す走行環境情報を取得するステップと、前記運転者の運転技能を推定し、前記運転技能を示す運転技能情報を生成するステップと、前記運転者の視線の方向を検出し、前記視線の方向を示す視線方向情報を生成するステップと、前記視線方向情報による前記運転者の運転行動時に発生する視線方向の移動情報と、前記運転者の運転行動情報とを記憶部に蓄積するステップと、前記記憶部に蓄積された前記視線方向の移動情報及び前記運転行動情報と、前記走行環境情報及び前記運転技能情報の少なくとも一つの情報に基づいて、前記運転者が視覚的に認識できる領域を示す視野範囲及び前記視野範囲内の複数の区画の各々の前記運転者の視覚による認識のしやすさを示す視覚的認識度を算出するステップと、前記運転者に提示する表示情報を受け取り、前記表示情報と前記視野範囲と前記視覚的認識度とに基づいて、前記表示情報に基づく映像の表示位置及び表示方法のうちの少なくとも一つを制御するステップと、を有することを特徴とする。

Claims (12)

  1. 運転者が運転する車両の周囲の環境を示す走行環境情報を取得する環境情報取得部と、
    前記運転者の運転技能を推定し、前記運転技能を示す運転技能情報を生成する技能推定部と、
    前記運転者の視線の方向を検出し、前記視線の方向を示す視線方向情報を生成する視線検出部と、
    前記視線方向情報と、前記走行環境情報及び前記運転技能情報の少なくとも一方とに基づいて、前記運転者が視覚的に認識できる領域を示す視野範囲及び前記視野範囲内の複数の区画の各々の前記運転者の視覚による認識のしやすさを示す視覚的認識度を算出する視覚的認識度算出部と、
    前記運転者に提示する表示情報を受け取り、前記表示情報と前記視野範囲と前記視覚的認識度とに基づいて、前記表示情報に基づく映像の表示位置及び表示方法のうちの少なくとも一つを制御する表示制御部と、
    を有することを特徴とする表示制御装置。
  2. 前記視覚的認識度算出部は、前記運転者の視線方向情報、前記運転技能情報、及び前記走行環境情報に基づいて、前記視覚的認識度を算出することを特徴とする請求項1に記載の表示制御装置。
  3. 前記視覚的認識度算出部は、前記運転者の運転行動時に発生する視線方向の移動及び前記運転者の運転行動情報を蓄積し、蓄積された前記視線方向の移動と前記運転行動情報とに基づいて、前記運転者の運転行動時における前記視覚的認識度を算出することを特徴とする請求項1又は2に記載の表示制御装置。
  4. 前記表示制御部は、前記視覚的認識度算出部から得られた前記視覚的認識度及び前記表示情報の重要度に応じて、前記表示情報に基づく映像を表示する位置及び表示方法を編集することを特徴とする請求項1から3のいずれか1項に記載の表示制御装置。
  5. 前記表示制御部は、前記視覚的認識度算出部から得られる前記運転者の視野範囲と前記視覚的認識度、及び前記表示情報に含まれる見るべき視線方向を示す情報に応じて、前記運転者の視野範囲から前記見るべき視線方向に誘導する表示するための制御を行うことを特徴とする請求項1から4のいずれか1項に記載の表示制御装置。
  6. 前記環境情報取得部は、前記車両の位置情報、前記車両の周囲の天候及び道路環境情報を取得することを特徴とする請求項1から5のいずれか1項に記載の表示制御装置。
  7. 前記環境情報取得部は、前記車両の外部を撮像するカメラ又は赤外線センサから得られる情報に基づいて、前記車両の周囲にある物体を検出することを特徴とする請求項1から6のいずれか1項に記載の表示制御装置。
  8. 前記技能推定部は、前記運転者の運転行動を取得及び蓄積し、予め決められた運転行動の頻度から前記運転技能を推定することを特徴とする請求項1から7のいずれか1項に記載の表示制御装置。
  9. 前記技能推定部は、前記運転者の生体情報を取得し、前記生体情報に基づいて前記運転技能情報を補正することを特徴とする請求項8に記載の表示制御装置。
  10. 前記技能推定部は、前記運転者の運転経験、運転履歴、健康状態、又は視力情報を取得し、前記運転経験、前記運転履歴、前記健康状態、及び前記視力情報のいずれか1つ以上に基づいて前記運転技能情報を補正することを特徴とする請求項8又は9に記載の表示制御装置。
  11. 運転者が運転する車両の周囲の環境を示す走行環境情報を取得するステップと、
    前記運転者の運転技能を推定し、前記運転技能を示す運転技能情報を生成するステップと、
    前記運転者の視線の方向を検出し、前記視線の方向を示す視線方向情報を生成するステップと、
    前記視線方向情報と、前記走行環境情報及び前記運転技能情報の少なくとも一方とに基づいて、前記運転者が視覚的に認識できる領域を示す視野範囲及び前記視野範囲内の複数の区画の各々の前記運転者の視覚による認識のしやすさを示す視覚的認識度を算出するステップと、
    前記運転者に提示する表示情報を受け取り、前記表示情報と前記視野範囲と前記視覚的認識度とに基づいて、前記表示情報に基づく映像の表示位置及び表示方法のうちの少なくとも一つを制御するステップと、
    を有することを特徴とする表示制御方法。
  12. コンピュータに、
    運転者が運転する車両の周囲の環境を示す走行環境情報を取得する処理と、
    前記運転者の運転技能を推定し、前記運転技能を示す運転技能情報を生成する処理と、
    前記運転者の視線の方向を検出し、前記視線の方向を示す視線方向情報を生成する処理と、
    前記視線方向情報と、前記走行環境情報及び前記運転技能情報の少なくとも一方とに基づいて、前記運転者が視覚的に認識できる領域を示す視野範囲及び前記視野範囲内の複数の区画の各々の前記運転者の視覚による認識のしやすさを示す視覚的認識度を算出する処理と、
    前記運転者に提示する表示情報を受け取り、前記表示情報と前記視野範囲と前記視覚的認識度とに基づいて、前記表示情報に基づく映像の表示位置及び表示方法のうちの少なくとも一つを制御する処理と、
    を実行させることを特徴とする表示制御プログラム。
JP2021513131A 2019-04-12 2019-04-12 表示制御装置、表示制御方法、及び表示制御プログラム Active JP7058800B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/015944 WO2020208804A1 (ja) 2019-04-12 2019-04-12 表示制御装置、表示制御方法、及び表示制御プログラム

Publications (2)

Publication Number Publication Date
JPWO2020208804A1 true JPWO2020208804A1 (ja) 2021-11-04
JP7058800B2 JP7058800B2 (ja) 2022-04-22

Family

ID=72751035

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021513131A Active JP7058800B2 (ja) 2019-04-12 2019-04-12 表示制御装置、表示制御方法、及び表示制御プログラム

Country Status (5)

Country Link
US (1) US11878698B2 (ja)
JP (1) JP7058800B2 (ja)
CN (1) CN113631411B (ja)
DE (1) DE112019007195T5 (ja)
WO (1) WO2020208804A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7158352B2 (ja) * 2019-08-08 2022-10-21 本田技研工業株式会社 運転支援装置、車両の制御方法、およびプログラム
KR20210100241A (ko) * 2020-02-05 2021-08-17 현대모비스 주식회사 내비게이션 연동을 이용한 차선 표시용 램프 시스템 및 이에 의한 차선 표시 방법
KR20220028709A (ko) * 2020-08-31 2022-03-08 현대모비스 주식회사 차량용 주행 제어방법 및 시스템

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002104018A (ja) * 2000-09-28 2002-04-09 Nissan Motor Co Ltd 警報制御装置
JP2009274542A (ja) * 2008-05-14 2009-11-26 Honda Motor Co Ltd ヘッドアップディスプレイ装置
JP2010257253A (ja) * 2009-04-24 2010-11-11 Denso Corp 車両用表示装置
JP2012194060A (ja) * 2011-03-16 2012-10-11 Denso Corp 情報提供装置

Family Cites Families (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7085637B2 (en) * 1997-10-22 2006-08-01 Intelligent Technologies International, Inc. Method and system for controlling a vehicle
EP1083076A3 (en) * 1999-09-07 2005-01-12 Mazda Motor Corporation Display apparatus for vehicle
AU2001243285A1 (en) * 2000-03-02 2001-09-12 Donnelly Corporation Video mirror systems incorporating an accessory module
GB2396001B (en) * 2002-10-09 2005-10-26 Canon Kk Gaze tracking system
JP5171629B2 (ja) * 2006-09-04 2013-03-27 パナソニック株式会社 走行情報提供装置
JP4231884B2 (ja) * 2006-09-27 2009-03-04 株式会社デンソーアイティーラボラトリ 注視対象物検出装置および注視対象物検出方法
JP2008178075A (ja) * 2006-12-18 2008-07-31 Sony Corp 表示制御装置、表示制御方法、及びプログラム
JP4547721B2 (ja) * 2008-05-21 2010-09-22 株式会社デンソー 自動車用情報提供システム
JP2010018201A (ja) 2008-07-11 2010-01-28 Fujitsu Ten Ltd 運転者支援装置、運転者支援方法および運転者支援処理プログラム
JP4886751B2 (ja) * 2008-09-25 2012-02-29 株式会社東芝 車載用表示システム及び表示方法
JP5311012B2 (ja) 2008-09-29 2013-10-09 マツダ株式会社 車両用運転支援装置
WO2011075392A1 (en) * 2009-12-18 2011-06-23 Honda Motor Co., Ltd. A predictive human-machine interface using eye gaze technology, blind spot indicators and driver experience
JP5723123B2 (ja) * 2010-09-13 2015-05-27 矢崎総業株式会社 ヘッドアップディスプレイ
US8605009B2 (en) * 2010-12-05 2013-12-10 Ford Global Technologies, Llc In-vehicle display management system
US20130024113A1 (en) * 2011-07-22 2013-01-24 Robert Bosch Gmbh Selecting and Controlling the Density of Objects Rendered in Two-Dimensional and Three-Dimensional Navigation Maps
CN102789719A (zh) * 2012-07-09 2012-11-21 柳州桂通科技有限公司 道路驾驶技能考试过程驾驶人视线识别仪及实现方法
DE112014002915B4 (de) * 2013-06-21 2018-02-01 Yazaki Corporation Anzeigevorrichtung
DE112013007344T5 (de) 2013-08-19 2016-05-04 Mitsubishi Electric Corporation Fahrzeugmontierte Anzeigesteuervorrichtung
JP6316559B2 (ja) * 2013-09-11 2018-04-25 クラリオン株式会社 情報処理装置、ジェスチャー検出方法、およびジェスチャー検出プログラム
KR20150087985A (ko) * 2014-01-23 2015-07-31 한국전자통신연구원 안전운행정보 표출 장치 및 그 방법
JP6370181B2 (ja) 2014-09-18 2018-08-08 カルソニックカンセイ株式会社 車両用ヘッドアップディスプレイ装置
KR20170093817A (ko) * 2014-12-12 2017-08-16 소니 주식회사 자동 운전 제어 디바이스 및 자동 운전 제어 방법, 및 프로그램
KR101659034B1 (ko) * 2015-01-20 2016-09-23 엘지전자 주식회사 차량의 주행 모드 전환 장치 및 그 방법
WO2016174659A1 (en) * 2015-04-27 2016-11-03 Snapaid Ltd. Estimating and using relative head pose and camera field-of-view
JP6344311B2 (ja) * 2015-05-26 2018-06-20 ソニー株式会社 表示装置、情報処理システム及び制御方法
US9711050B2 (en) * 2015-06-05 2017-07-18 Bao Tran Smart vehicle
JP6342856B2 (ja) * 2015-07-31 2018-06-13 トヨタ自動車株式会社 車両制御装置
JP6922739B2 (ja) * 2015-09-30 2021-08-18 ソニーグループ株式会社 情報処理装置、および情報処理方法、並びにプログラム
KR101800508B1 (ko) * 2015-10-06 2017-12-20 엘지전자 주식회사 음주운전 방지 방법 및 이를 제공하는 차량 보조 장치
KR102453858B1 (ko) * 2015-12-23 2022-10-14 한화테크윈 주식회사 영상 처리 장치 및 영상 처리 방법
US10496252B2 (en) * 2016-01-06 2019-12-03 Robert Bosch Gmbh Interactive map informational lens
DE112018004885T5 (de) * 2017-08-31 2020-06-10 Panasonic Intellectual Property Management Co., Ltd. Assistenzverfahren und Assistenzsystem und dieses verwendende Assistenzvorrichtung
US10782776B2 (en) * 2017-09-28 2020-09-22 Nissan North America, Inc. Vehicle display configuration system and method
JP2019095213A (ja) * 2017-11-17 2019-06-20 アイシン・エィ・ダブリュ株式会社 重畳画像表示装置及びコンピュータプログラム
US11654936B2 (en) * 2018-02-05 2023-05-23 Sony Corporation Movement device for control of a vehicle based on driver information and environmental information
JP6890306B2 (ja) * 2018-03-20 2021-06-18 パナソニックIpマネジメント株式会社 画像形成システム、画像補正システム、画像表示システム、移動体、画像形成方法、及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002104018A (ja) * 2000-09-28 2002-04-09 Nissan Motor Co Ltd 警報制御装置
JP2009274542A (ja) * 2008-05-14 2009-11-26 Honda Motor Co Ltd ヘッドアップディスプレイ装置
JP2010257253A (ja) * 2009-04-24 2010-11-11 Denso Corp 車両用表示装置
JP2012194060A (ja) * 2011-03-16 2012-10-11 Denso Corp 情報提供装置

Also Published As

Publication number Publication date
JP7058800B2 (ja) 2022-04-22
DE112019007195T5 (de) 2022-03-31
US11878698B2 (en) 2024-01-23
WO2020208804A1 (ja) 2020-10-15
US20220169257A1 (en) 2022-06-02
CN113631411A (zh) 2021-11-09
CN113631411B (zh) 2024-04-19

Similar Documents

Publication Publication Date Title
JP6323549B2 (ja) 車両用情報呈示装置
US11449294B2 (en) Display system in a vehicle
US9771083B2 (en) Cognitive displays
US8605009B2 (en) In-vehicle display management system
US10460186B2 (en) Arrangement for creating an image of a scene
JP7058800B2 (ja) 表示制御装置、表示制御方法、及び表示制御プログラム
US9418548B2 (en) Display control device, display control method, non-transitory computer-readable recording medium, and projecting device
JP2016103249A (ja) 運転支援装置および運転支援方法
JP7075189B2 (ja) 運転席と少なくとも一つの乗員席とを備える車両、及び、交代運転者及び又は少なくとも一人の同乗者に現在経験されている運転状況についての情報を提供する方法
JP7210929B2 (ja) 運転意識推定装置
US20150124097A1 (en) Optical reproduction and detection system in a vehicle
KR102130059B1 (ko) 디지털 백미러 제어 유닛 및 방법
JP2024029051A (ja) 車載表示装置、方法およびプログラム
US20180022357A1 (en) Driving recorder system
KR20180129044A (ko) 차량 운전 보조 장치 및 이의 안전 운전 유도 방법
JP4858094B2 (ja) ディスプレイ表示システム
JP5223289B2 (ja) 視覚情報呈示装置及び視覚情報呈示方法
JP2007280203A (ja) 情報提示装置、自動車、及び情報提示方法
US11828947B2 (en) Vehicle and control method thereof
JP7068647B2 (ja) 運転支援装置
JP6939147B2 (ja) 走行情報案内装置及びコンピュータプログラム
WO2018168050A1 (ja) 集中度判定装置、集中度判定方法及び集中度判定のためのプログラム
JP2020161002A (ja) 映像表示システム、運転シミュレータシステム、映像表示方法、及びプログラム
JP2019064422A (ja) ヘッドアップディスプレイ装置
JP2019096108A (ja) 運転支援装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210329

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220315

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220412

R150 Certificate of patent or registration of utility model

Ref document number: 7058800

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150