JP5880408B2 - 画像表示装置及び画像表示方法 - Google Patents

画像表示装置及び画像表示方法 Download PDF

Info

Publication number
JP5880408B2
JP5880408B2 JP2012259279A JP2012259279A JP5880408B2 JP 5880408 B2 JP5880408 B2 JP 5880408B2 JP 2012259279 A JP2012259279 A JP 2012259279A JP 2012259279 A JP2012259279 A JP 2012259279A JP 5880408 B2 JP5880408 B2 JP 5880408B2
Authority
JP
Japan
Prior art keywords
display
attribute
image
recognition
screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012259279A
Other languages
English (en)
Other versions
JP2014106750A (ja
Inventor
篤史 林
篤史 林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2012259279A priority Critical patent/JP5880408B2/ja
Publication of JP2014106750A publication Critical patent/JP2014106750A/ja
Application granted granted Critical
Publication of JP5880408B2 publication Critical patent/JP5880408B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、複数の情報の画像表示に適する画像表示装置及び、当該画像表示装置に用いられる画像表示方法に関する。
上述の画像表示装置として、自動車に搭載され、各種の運転支援に関する画像情報や、車両状態に関する画像情報を表示させる装置が知られている。こうした画像表示装置は、自動車に搭載される各種の先進安全システム、例えば、車線に沿った走行を補助する装置や、車線の逸脱を検出する装置、歩行者や先行車などとの衝突を予防する装置、前方や側方モニタ、夜間に歩行者や障害物を検知するナイトビュー、等々からの情報出力に利用されることが多い。こうした先進安全システムを通じて画像表示装置に表示される画像は、運転者の運転負荷を軽減させたり、適切な運転操作を促したりするうえで有効である。
ところで先進安全システムは、出力する必要のある情報を車両の走行状態に応じてその都度出力するため、複数のシステムの出力情報が時間的に重なってしまうことも少なくない。そして時間的に重なってしまう複数の情報は、その表示に際して表示画面の大きさの制約を受けることはもとより、より重要度の高い情報が優先的に運転者に伝わるように表示されることが望ましい。この種の技術として、例えば特許文献1には、想定される危険度の比較に応じて警告表示を行う技術が記載されている。
特許文献1に記載の装置(システム)は、車両の走行状況を検出する走行状況検出手段と、検出された車両の走行状況から車両の走行状態が危険であると判断した場合に危険な走行状態であることを示す情報を生成する判断手段とを備える。また、情報表示装置を備え、この情報表示装置は、判断手段によって複数種類の情報が生成された場合、それら複数種類の情報をそれぞれ示す警告表示の表示形態を予め定められた条件に従って所定のパターンに変更する表示制御手段を備える。この所定のパターンは、優先度の高い情報が強調表示されるように設定されている。このため、表示すべき複数種類の情報が生成されたとしても、こうして設定されたパターンに基づいて優先度の高い情報が強調表示される。
特開2010−247656号公報
特許文献1に記載の画像表示装置によれば、高い優先度を有する情報が上記パターンに基づいて強調表示されるようにはなる。しかし、情報によって強調表示する際の表示形式が異なることが普通であり、その都度の優先度に対応してそれら情報に適切な表示形式を設定することは容易ではない。
本発明は、このような実情に鑑みてなされたものであって、その目的は、たとえ複数種類の画像情報を表示する場合であれ、画像情報の内容に応じた適切な表示形式にて視認性に優れた画像表示を行うことのできる画像表示装置及び画像表示方法を提供することにある。
以下、上記課題を解決するための手段及びその作用効果を記載する。
上記目的を達成するため、請求項1に記載の画像表示装置は、画像情報を画面に表示させる画像表示装置であって、ユーザにどのように認識させたいかその指標を示す属性である表示属性が付与された状態で前記画面に表示させる画像情報が記憶される第1の記憶部と、画面上でのユーザの視線の移動の検知に基づいて推定されるユーザによる画像の認識態様を示す属性である認識属性が前記画面に表示されている画像の表示形式に対応付けされて記憶される第2の記憶部と、前記表示属性と前記認識属性との関連性に基づいて前記画面に表示させる画像情報の表示形式を選択し、この選択した表示形式にて前記画像情報を前記画面に表示制御する表示制御部と、画面上でのユーザの視線の移動を検出する視点検出装置と、前記視点検出装置により検出されたユーザの視線の画面上における移動に基づいて前記認識属性を推定する認識属性推定部と、前記検出されたユーザの視線の画面上の移動位置にある画像の表示形式と前記推定された認識属性とを対応付けする表示形式処理部とを備え、前記第2の記憶部には、前記認識属性推定部により推定され、前記表示形式処理部にて対応する表示形式に対応付けされた認識属性が記憶されることを要旨とする。
上記目的を達成するため、請求項に記載の画像表示方法は、画像情報を画面に表示させる画像表示装置で実行される画像表示方法であって、前記画像表示装置が、ユーザにどのように認識させたいかその指標を示す属性である表示属性が付与された状態で前記画面に表示させる画像情報を第1の記憶部に記憶させる第1の記憶工程と、画面上でのユーザの視線の移動の検知に基づいて推定されるユーザによる画像の認識態様を示す属性である認識属性前記画面に表示されている画像の表示形式に対応付けて第2の記憶部に記憶さる第2の記憶工程と、表示制御部で、前記表示属性と前記認識属性との関連性に基づいて前記画面に表示させる画像情報の表示形式を選択し、この選択した表示形式にて前記画像情報を前記画面に表示制御する工程と、視点検出装置で、画面上でのユーザの視線の移動を検出する工程と、認識属性推定部で、前記ユーザの視線の移動を検出する工程により検出されたユーザの視線の画面上における移動に基づいて前記認識属性を推定する推定工程と、表示形式処理部で、前記検出されたユーザの視線の画面上の移動位置にある画像の表示形式と前記推定された認識属性とを対応付ける対応付け工程とを実行し、前記第2の記憶工程では、前記推定工程により推定され、前記対応付け工程にて対応する表示形式に対応付けされた認識属性が記憶されることを要旨とする。
これまでは、どういった表示形式が運転者の注意を引くかという観点から画像の表示形式が選択されていた。ところが、表示画面が広くなったり、画面に複数の情報が表示されたりする場合、その画像のなかでのユーザの視線の動き、例えば、ユーザがどのような表示形式に素早く反応し、どのような画像を注視するのかなどについての検討は十分になされていなかった。ところが、先進安全システムが提供する情報のなかには、短時間でユーザに認識してもらう必要性のある情報が含まれていたり、ユーザに注視してもらうことが好ましい情報が含まれていたりするなど、画像に対して期待される反応をユーザから得るための検討がなされるようになってきている。
このような構成もしくは方法によれば、検知されたユーザの視線の移動と、画像の表示形式とが対応付けされる。通常、ユーザの視線の移動は、画像に対するユーザの反応や興味に関連する。例えば、表示形式には、ユーザの視線が素早く反応する形式もあるし、見る時間が長くなる形式もある。よって、ユーザの視線の移動状態に対応する画像の表示形式には、ユーザの反応や興味(認識属性)が関連付けされる。こうしたことから、画像情報に付す表示属性と画像に対して期待されるユーザの反応に適した画像の表示形式とを関連付けることにより、表示属性に基づいて画像情報が適切に表示されるようになる。これにより、画像情報の画像に対して期待されるユーザの反応が得られる表示形式が適切に付与されるようになる。
こうした関連づけは、多くの画像情報が表示されているような画面における表示画像には、特に有効である
また、このような構成もしくは方法によれば、ユーザの視線の移動を検出するため、認識属性が実際に画面を視認するユーザの画像に対する反応などに基づいて定められる。こうした認識属性が画像情報の表示属性に対応付けされることで、認識属性に対応する表示属性を有する画像情報を、実際に画面を視認するユーザに適した表示形式で表示できる。つまり、画面に表示される画像がユーザに認識させたい態様で表示されるようになる。
請求項に記載の画像表示装置は、請求項に記載の画像表示装置において、前記認識属性推定部が推定した認識属性に対応付けされた表示形式と、前記第2の記憶部に記憶されている同一の認識属性に対応付けされている表示形式とが相違することを条件に、前記第2の記憶部に前記認識属性と対応付けされて記憶されている表示形式を前記推定された認識属性に対応付けされた表示形式に置き換える学習部を更に備えることを要旨とする。
このような構成によれば、既に記憶されている認識属性と表示形式との対応付けが、視点検出装置が検出したユーザの視線の移動に基づいて推定される認識属性と表示形式との対応付けによって適宜置き換えられる、つまり修正されるようになる。これにより、画面上におけるユーザの視線の移動の傾向に変化が生じたとしても、その変化に表示形式も対応するようになり、画面にはユーザに認識させたい態様で画像が表示されるようになる。
請求項に記載の画像表示装置は、請求項1又は2に記載の画像表示装置において、前記第1の記憶部には、複数の画像情報がそれぞれの表示属性とともに記憶され、前記第2の記憶部には、複数の認識属性がそれぞれ対応する画像の表示形式に対応付けされて記憶されており、前記表示制御部は、複数の画像情報の表示属性のそれぞれに対して前記複数の認識属性のうちから最も関連性の高い認識属性に対応する表示形式を選択することを要旨とする。
このような構成によれば、同時期に複数の画像情報を表示するような場合であれ、各画像情報に、その表示属性に基づいて適切な表示形式を選択することができるようになる。これにより、複数の画像情報であれ適切な表示形式で表示することができるようになる。
請求項に記載の画像表示装置は、請求項1〜のいずれか一項に記載の画像表示装置において、前記第2の記憶部には、1つの認識属性に対して複数の異なる画像の表示形式が対応付けられており、前記表示制御部は、同時期に複数の表示属性が同じ認識属性に関連性を有すると判断されるとき、それぞれの表示属性に対して各異なる表示形式を選択することを要旨とする。
このような構成によれば、同時期に表示される複数の画像情報に対し、同じ認識情報が対応するような場合、それぞれの画像情報に、認識属性に対応付けられている複数の表示形式から異なる表示形式を選択することができる。これにより、同時期に同じ表示属性を有する画像情報が表示されるとしても、それら画像情報の表示形式を変え、識別を容易にすることができる。
請求項に記載の画像表示装置は、請求項に記載の画像表示装置において、前記第2の記憶部に記憶されている1つの認識属性には、複数の異なる画像の表示形式が各異なる優先度を有して設定されており、前記表示制御部は、同時期に複数の表示属性が同じ認識属性に関連性を有すると判断されるとき、前記画像の表示属性に基づいて求められる優先度の順に、前記画像の表示形式をその優先度の順に選択することを要旨とする。
このような構成によれば、優先度の高い画像の表示形式が、画像の表示属性から求められる優先度の高さに応じて選択される。これにより、優先度の高い表示属性を有する画像情報が、優先度の高い画像形式にて表示されるようになり、表示内容がユーザに的確に伝達されることが期待される。
請求項に記載の画像表示装置は、請求項1〜のいずれか一項に記載の画像表示装置において、前記表示属性には、除外する表示形式が含まれ、前記表示制御部は、表示属性に対応する表示形式として前記除外する表示形式が含まれない表示形式を優先的に選択することを要旨とする。
このような構成によれば、画像情報の表示として好ましくないことなどから、除外されている表示形式を除いて画像情報が表示されるようになる。これにより、画像情報の表示がより適切になされるようになる。
請求項に記載の画像表示装置は、請求項1〜のいずれか一項に記載の画像表示装置において、前記表示属性には、「緊急性」、「安全性」、及び「重大性」に関する属性のうち少なくとも2つの属性が含まれることを要旨とする。
このような構成によれば、表示属性には、表示形式に直接関係しない属性を設定することができる。しかしながら、表示属性に含まれる「緊急性」、「安全性」及び「重大性」などは、ユーザに認識させたい態様、つまり認識属性に関連することから、認識属性を介して表示形式に関連付けることができる。これにより、表示属性に含めることのできる項目の自由度が高められる。
請求項に記載の画像表示装置は、請求項1〜のいずれか一項に記載の画像表示装置において、前記表示属性には、優先度が設定されており、前記表示制御部は、前記優先度が高い表示属性を有する画像情報から優先的に前記表示形式を選択することを要旨とする。
このような構成によれば、表示属性の優先度の高い表示情報から表示形式が優先的に選択されるようになるため、優先度の高い表示情報により適切な表示形式が適用されるようになる。これにより優先度の高い表示情報のユーザへの伝達可能性が向上する。
画像表示装置を具体化した第1の実施形態について、そのシステムの概略構成を示すブロック図。 同実施形態における画像情報に付されるユーザにどのように認識させたいかその指標を示す属性の例について示すテーブル。 同実施形態における画面上のユーザの視線の移動から推定される認識属性との関係の例を示すテーブル。 同実施形態における画像情報の表示属性に含まれる要求性と、選択される表示形式との関係の例を示すテーブル。 同実施形態において表示形式に対応する表示位置の例を示すテーブル。 同実施形態において図5に示す表示位置と画面における位置との関係を示す平面図。 同実施形態においてユーザの視線が画面上を移動する態様の一例を示す模式図。 同実施形態においてユーザの視線が画面上を移動する態様の他の例を示す模式図。 同実施形態においてユーザの視線の画面上の移動態様に基づく学習結果の例を対比して示すテーブル。 同実施形態において、ユーザ毎に設けられた学習データベースとユーザとの関係を示すテーブル。 画像表示装置を具体化した第2の実施形態について、複数の画像情報に対して選択される表示形式の例を示すテーブル。 画像表示装置を具体化した他の実施形態について、表示形式に含まれるパラメータの例を示すテーブル。 画像表示装置を具体化したその他の実施形態について、情報に付与される属性と、その属性に関連付けられる表示形式と例を示すテーブル。 画像表示装置を具体化したまた他の実施形態について、画像情報に含まれる除外事項の例を示すテーブル。 画像表示装置を具体化したまたその他の実施形態について、画像情報に含まれる要求性に優先度が設定される例を示すテーブル。 画像表示装置を具体化したさらに他の実施形態について、優先度に応じて設定される表示形式の例を示すテーブル。 画像表示装置を具体化したまたさらに他の実施形態について、表示形式に表示先の画面が含まれる例を示すテーブル。
(第1の実施形態)
画像表示装置を搭載した車両を具体化した第1の実施形態について、図1〜10を参照して説明する。まず、画像表示装置の概略構成について図1を参照して説明する。
図1に示すように、本実施形態の画像表示装置は、車両10に搭載されている。車両10は、車両10の運転に関する各種制御を行う第1の車両制御装置11と第2の車両制御装置12とを搭載し、車両10に各種運転支援を提供する第1の運転支援装置13と第2の運転支援装置14とを搭載している。また、車両10は、第1及び第2の車両制御装置11,12、及び、第1及び第2の運転支援装置13,14に通信可能に接続される情報調停部15と、情報調停部15に通信可能に接続される表示制御部16とを備えている。さらに、車両10は、表示制御部16に通信可能に接続される情報出力装置17と、表示制御部16に通信可能に接続される視点検出装置18とを備える。本実施形態では、画像表示装置は、情報調停部15、表示制御部16、情報出力装置17及び視点検出装置18から構成される。
情報出力装置17は、ユーザが認識可能な画像や音声を出力する装置である。情報出力装置17は、表示制御部16から画像情報G1が入力されるとともに、入力された画像情報G1に基づく画像をユーザが認識可能な態様で表示する。情報出力装置17は、表示装置40と音声装置41とを備える。表示装置40は、例えば、ヘッド・アップ・ディスプレイ、ナビゲーションシステムのモニタ、及びメータパネル等の画面を含み構成されている。また、音声装置41は、スピーカ、ブザーから構成されている。なお、画像には、静止画及び動画の少なくとも一方を含むことができる。また、音声には、警報音等の単なる音及び案内音声の少なくとも一方を含むことができる。
なお、本実施形態では、表示制御部16から入力される画像情報G1には、当該画像情報G1の表示形式を指定する表示形式HSが付されている。つまり、情報出力装置17は、画像情報G1をその画像情報G1に付されている表示形式HSで表示装置40の画面に表示させる。
視点検出装置18は、ユーザの視線の画面上の移動を検出する、いわゆるアイトラッキングをする装置である。視点検出装置18は、表示装置40の画面近傍において、ユーザの目50を認識可能な位置に設置されている。視点検出装置18は、表示装置40の画面を見ているユーザの目50の動きを追跡することで、その画面中の視点51が移った部分を検出するとともに、その移った部分に滞留していた時間を検出する(ユーザの視線の移動を検出する工程)。そして視点検出装置18は、ユーザの視点51の画面上の部分(位置)と、その部分に滞留していた時間とを表示制御部16へ出力する。
第1及び第2の車両制御装置11,12は、車両10の制動や、加速や、操舵などうちの1つ以上について制御を実行する装置である。第1及び第2の車両制御装置11,12は、図示しない各種センサから得られる車両に関する情報などに基づいて車両を制御する。第1及び第2の車両制御装置11,12は、外部への出力装置である情報出力部20を備え、情報出力部20を介して制御に関する各種情報(J1やJ2)を情報調停部15へ出力する。
第1及び第2の車両制御装置11,12は、例えば、車両10のブレーキアクチュエータを制御するブレーキ制御装置、エンジンを制御するエンジン制御装置、ステアリングアクチュエータを制御するステアリング制御装置等の各種制御装置等によって構成されている。第1及び第2の車両制御装置11,12は、各種制御の内容に関する情報や、制御に利用する各種データに関する情報や、制御中に生じる警告に関する情報などを画像情報J1,J2として発生させる。例えば、ブレーキ制御装置であれば、使用されているブレーキの種類やその作動状態の情報などを出力し、エンジン制御装置であれば、エンジンの回転数や温度、冷却水温の情報などを出力し、ステアリング制御装置であれば、操舵角などを出力する。
第1及び第2の運転支援装置13,14は、車両10に各種運転支援を提供する装置である。第1及び第2の運転支援装置13,14は、図示しない各種センサから得られる車両に関する情報や車両の周辺環境に関する情報などに基づいて運転支援を実施する。第1及び第2の運転支援装置13,14は外部への出力装置である情報出力部20を備え、情報出力部20を介して運転支援の内容に関する情報(J3やJ4)を情報調停部15へ出力する。
第1及び第2の運転支援装置13,14は、例えば、追従走行支援を行う支援装置、衝突回避支援を行う支援装置等の各種支援装置によって構成されている。なお、こうした支援装置として各種の先進安全システムが挙げられる。支援内容としては、車線に沿った走行を補助する支援(レーンキープアシスト)、先行車に車間距離を維持して追従走行する支援(アクティブクルーズコントロール)、先行車や歩行者等の物体への衝突を回避する支援などが挙げられる。さらに、支援内容としては、車線からの逸脱を検出する支援、目視しづらい前方や側方をモニタ表示する支援、夜間に歩行者や障害物を検知する支援(ナイトビュー)などが挙げられる。
第1及び第2の運転支援装置13,14は、運転支援に関する各種の情報を画像情報J3,J4として発生させる。例えば、レーンキープアシストは、車線における走行位置に関する情報を出力し、アクティブクルーズコントロールは、走行速度や先行車との車間距離に関する情報を出力し、衝突回避支援は、支援対象部との間の衝突時間や距離、位置関係、衝突回避のための運転操作に関する情報を出力する。また例えば、車線逸脱支援は、車線からの逸脱に対する注意喚起や警告に関する情報を出力し、モニタ表示支援は、モニタ画像に関する情報を表示し、ナイトビューは、障害物の位置に関する情報などを出力する。こうした情報は、車両の走行状況に応じてその都度出力されるため、複数の運転支援の出力情報が時間的に重なってしまうことも少なくない。
第1及び第2の車両制御装置11,12、第1及び第2の運転支援装置13,14にはそれぞれ、前記情報出力部20が設けられている。
情報出力部20は、装置が出力した各種画像情報を情報調停部15へ伝達可能な形式の情報に変換して出力する。情報出力部20は、装置が出力した各種画像情報に、その画像情報の表示形式を指示する属性である表示属性を付与する要求性付与部21を備える。
要求性付与部21は、情報出力部20から出力する各種画像情報J1(J2、J3又はJ4)に、その画像情報をユーザにどのように認識させたいかその指標を示す属性としての表示属性を付与する。
図2のテーブル22に示すように、表示属性には、ユーザにどのように認識させたいかを示す指標として、「最初に見る」こと(第1の要求)、「見る時間が長い」こと(第2の要求)、「見逃さない」こと(第3の要求)が含まれる。そして、第1〜第3の要求のそれぞれにその要求の有無が設定される。なお、表示属性に含まれる要求は、第1〜3の要求には限られない。
つまり、要求性付与部21は、各画像情報J1(J2、J3又はJ4)に、表示属性として、「第1の要求」の有無、「第2の要求」の有無、「第3の要求」の有無をそれぞれ付与する。なお、各画像情報J1〜J4は、第1〜第3の要求のうち必要な要求だけが設定されてもよい。そして、要求性付与部21により表示属性の付された画像情報J1(J2、J3又はJ4)が、情報出力部20から情報調停部15へ出力される。
第1及び第2の車両制御装置11,12や、第1及び第2の運転支援装置13,14はそれぞれ、演算装置(CPU)と、ROMやRAMなどの不揮発性や揮発性の記憶装置等とを有するマイクロコンピュータを含み構成されている。マイクロコンピュータの不揮発性の記憶装置には、各種処理を行う制御プログラム及び、各種処理に用いられる各種パラメータが保持されている。演算装置は、記憶装置に保持されている制御プログラムを必要に応じて実行するとともに、制御プログラムの実行処理時には必要に応じて各種パラメータを参照する。
つまり、第1及び第2の車両制御装置11,12には、車両制御を行うための車両制御用のプログラムと画像情報に表示属性を付与するプログラムとが含まれ、この車両制御用のプログラムや画像情報に表示属性を付与するプログラムの実行処理に利用される各種パラメータが含まれる。また、第1及び第2の運転支援装置13,14には、車両の運転支援を行うための運転支援用のプログラムと画像情報に表示属性を付与するプログラムとが含まれ、この運転支援用のプログラムや画像情報に表示属性を付与するプログラムの実行処理に利用される各種パラメータが含まれる。よって、画像情報に表示属性を付与するプログラムが実行されることで、情報出力部20の機能、及び要求性付与部21の機能が発揮される。
[表示形式を選択する構成]
次に、画像情報に適した表示形式を選択する構成と動作について説明する。
情報調停部15や表示制御部16はそれぞれ、演算装置(CPU)と、ROMやRAMなどの不揮発性や揮発性の記憶装置等とを有するマイクロコンピュータを含み構成されている。マイクロコンピュータの不揮発性の記憶装置には、各種処理を行う制御プログラム及び、各種処理に用いられる各種パラメータが保持されている。演算装置は、記憶装置に保持されている制御プログラムを必要に応じて実行するとともに、制御プログラムの実行処理時には必要に応じて各種パラメータを参照する。続いて、情報調停部15や表示制御部16における、制御プログラムの内容及び機能、当該制御プログラムの処理に必要な各種パラメータなどについて詳述する。
情報調停部15は、入力された1又は複数の画像情報J1〜J4の数を、情報出力装置17に表示可能な数に調整する。情報調停部15は、1又は複数の画像情報J1〜J4が第1及び第2の車両制御装置11,12や第1及び第2の運転支援装置13,14から入力される。そして、情報出力装置17は、1又は複数の画像情報J1〜J4の数を表示可能な数に調整した画像情報G1を表示制御部16へ出力する。例えば、情報出力装置17に表示可能な数が「2つ」である場合、情報調停部15は、表示制御部16へ出力する画像情報G1の数を最大「2つ」に調整する。つまり情報調停部15は、同時期に2つ以下の画像情報(J1等)が入力された場合、入力された画像情報(J1等)をそのまま画像情報G1として表示制御部16へ出力する。一方、情報調停部15は、同時期に3つ以上の画像情報(J1等)が入力された場合、重要性などに基づいて選択した2つの画像情報G1,G2を表示制御部16へ出力する。情報調停部15は、画像情報(J1等)を出力した装置の種類や、画像情報(J1等)に含まれている表示属性などに基づいて優先度を求め、求めた優先度が高いもの2を画像情報G1,G2として抽出する。なお、画像情報(J1等)を出力した装置の種類に基づく優先度や、表示属性の優先度は、情報調停部15の記憶装置に設定されている。以下、説明の便宜上、1つの画像情報G1を例に説明するが、画像情報は複数であってもよい。
表示制御部16は、画像情報G1の表示形式HSを決定する。表示制御部16は、画像情報G1が情報調停部15から入力される。入力された画像情報G1は、表示制御部16にて所定の処理を行うため、表示制御部16の記憶装置(第1の記憶部)に記憶される(第1の記憶工程)。表示制御部16は、入力された画像情報G1に適切な表示形式HSを選択する。そして、表示制御部16は、選択した表示形式HSを画像情報G1とともに情報出力装置17へ出力する。
表示制御部16は、画像情報G1に適切な表示形式HSを選択する表示形式処理部としての表示形式択部30と、画像情報G1に対応させる表示形式HSが登録される表示形式リスト31とを備えている。
表示形式リスト31は、表示制御部16の記録装置(第2の記憶部)に設定・保持されている(第2の記憶工程)。
図3に示すように、表示形式リスト31には、画面上でのユーザの視線の移動を検出した結果と、その検出されたユーザの視線の画面上の移動に基づいて推定されるユーザによる画面の認識状態を示す属性としての認識属性とが関連付けたテーブル310が登録されている。テーブル310には、画面上でのユーザの視線の移動の状態から分類された3つの移動状態として、「画面内に移った視点が最初に見る位置・表示」(第1の移動状態)、「画面内で視線が滞在する位置・表示」(第2の移動状態)、「画面内の視線が必ず通る位置・表示」(第3の視線状態)が挙げられている。そして、本実施形態では、「第1の移動状態」から推定される認識属性を「最初に見る」(第1の認識)とし、「第2の移動状態」から推定される認識属性を「見る時間が長い」(第2の認識)とし、「第3の移動状態」から推定される認識属性を「見逃さない」(第3の認識)としている。つまり、テーブル310では、「第1の移動状態」と「第1の認識」とが関連付けられ、「第2の移動状態」と「第2の認識」とが関連付けられ、「第3の移動状態」と「第3の認識」とが関連付けられている。なお、テーブル310に設定されている移動状態と任じ帰属性の関係は、表示装置40に表示されている他の画像の種類や、音や音声、車両10の走行環境などに応じて、適切な関係に変更されてもよい。
表示形式択部30は、入力された画像情報G1に付加されている表示属性を得る。つまり、表示形式択部30は、表示属性から「最初に見る」(第1の要求)の有無、「見る時間が長い」(第2の要求)の有無、「見逃さない」(第3の要求)の有無を取得する。そして、表示形式択部30は、取得された第1〜第3の要求の有無と、テーブル310に登録されている認識属性(第1〜第3の認識)とを対比し、表示属性に関連性の高い認識属性を関連付ける。
例えば、表示形式択部30は、表示属性に「最初に見る」(第1の要求)が有る場合、関連性の高い認識属性としてテーブル310の「第1の認識」を関連付ける。また、表示形式択部30は、表示属性に「見る時間が長い」(第2の要求)が有る場合、関連性の高い認識属性としてテーブル310の「第2の認識」を関連付ける。さらに、表示形式択部30は、表示属性に「見逃さない」(第3の要求)が有る場合、関連性の高い認識属性としてテーブル310の「第3の認識」を関連付ける。なお、本実施形態では、表示属性への認識属性の対応付けは、優先度の高いものが1つ対応付けられる。また、優先度は高い順に、第1の要求、第2の要求、第3の要求となっている。
そして、表示形式択部30は、画像情報G1の表示属性に関連付けられた認識属性に対応する表示形式HSを、画像情報G1の表示形式として選択する。
図4のテーブル301に示すように、表示形式択部30は、「第1の要求」を有する画像情報G1には表示形式HSとして「第1の形式」(HS1)を対応付け、「第2の要求」を有する画像情報G1には表示形式HSとして「第2の形式」(HS2)を対応付ける。また、表示形式択部30は、「第3の要求」を有する画像情報G1には表示形式として「第3の形式」(HS3)を対応付ける。
詳述すると、テーブル301に示される第1〜第3の形式HS1〜HS3は、テーブル310に基づいて定まる。つまり、表示属性に関連する認識属性を介してテーブル310を参照することで、表示属性の第1〜第3の要求に対応する第1〜第3の移動状態が定まる。例えば、「第1の要求」には「第1の移動状態」が対応し、「第2の要求」には「第2の移動状態」が対応し、「第3の要求」には「第3の移動状態」が対応する。そして、「第1の移動状態」に基づき「第1の形式」(HS1)が「画面内に移った視点が最初に見る位置・表示への表示」に定まる。また、「第2の移動状態」に基づき「第2の形式」(HS2)が「画面内で視線が滞在する位置・表示への表示」に定まる。さらに、「第3の移動状態」に基づき「第3の形式」(HS3)が「画面内の視線が必ず通る位置・表示への表示」に定まる。
図5のテーブル311に示すように、第1〜第3の形式HS1〜HS3には、表示装置40における表示位置が含まれる。例えば、第1の形式HS1には、表示位置として「画面中央」が設定され、第2の形式HS2には、表示位置として「画面右」が設定され、第3の形式HS3には、表示位置として「画面右下」が設定されている。つまり、画像情報G1は、情報出力装置17の表示装置40において、選択された第1〜第3の形式HS1〜HS3に設定されている位置に表示されるようになる。なお、表示形式HSには、表示位置以外のパラメータ、例えば、大きさ、色、形などが含まれてもよいが、本実施形態では説明の便宜上、表示位置についてのみ説明し、その他のパラメータについての説明は割愛する。
そして、画像情報G1とその画像情報G1に選択された表示形式HSとが表示形式択部30から情報出力装置17へ出力され、情報出力装置17は入力した画像情報G1をその画像情報G1に選択された表示形式HSで表示する。
図6に示すように、例えば、情報出力装置17は、第1の形式HS1が選択された画像情報G1を表示装置40の画面中央のエリア401に表示し、第2の形式HS2が選択された画像情報G1を表示装置40の画面右のエリア402に表示し、第3の形式HS3が選択された画像情報G1を表示装置40の画面右下のエリア403に表示する。
これにより、本実施形態の画像表示装置は、各装置の出力した画像情報J1〜J4から選択された各画像情報G1を、その画像情報G1の有する表示属性に適した表示形式HSで表示装置40に表示させる。
[視線の移動を学習する構成]
次に、画面上でのユーザの視線の移動を学習する構成と動作について説明する。
図1に示すように、表示制御部16は、ユーザの視線の画面上の動きを学習する。表示制御部16は、表示形式リスト31の登録内容を管理するリスト管理部32と、画面上でのユーザの視線の移動を学習する認識属性推定部としての視点学習部33とを備えている。学習は表示装置40内にユーザの視点51が入った時点から開始する。
なお、表示装置40内の表示が切り替わった時点などからも学習を開始してよい。学習する情報には、音や、地理的情報、交通状況、同乗者数、運転操作、運転操作以外の操作などが含まれていてもよい。地理的情報には、高速道路や、料金所、コンビニエンスストアなどが含まれ、交通状況には、渋滞情報や事故情報などが含まれてもよい。運転操作には、ブレーキの操作遅れ時間が含まれてもよいし、運転操作以外の操作には、エアコン操作や、オーディオ操作、方向指示機操作などが含まれてもよい。これにより、表示形式と認識属性との関係にこうした情報が影響する場合、その影響を学習することができるようにもなる。
視点学習部33は、視点検出装置18から、表示装置40を見るユーザの視点51の画面上の位置と、その位置に視点51が滞留していた時間とを取得するとともに、そのとき表示装置40に表示させている画像情報G1の表示形式HSを取得する。そして、視点学習部33は、表示させている画像情報G1の表示形式HSから視点51の位置に対応する表示形式HSを抽出する。さらに、視点学習部33は、抽出した表示形式HSを、画面上でのユーザの視線の移動に関連付ける。図3のテーブル310に示したように、画面上でのユーザの視線の移動状態を3つに分類したとき、分類された各移動状態から認識属性が推定される(推定工程)。また、上述したように、認識属性と表示属性とは関連性を有することから、図4のテーブル301に示すように、推定された認識属性に表示形式HSを対応付けることができる(対応付け工程)。
視点学習部33は、認識属性と表示形式HSとを対応付けた情報を累積し、この累積された情報に基づいて、ユーザによる画像の認識態様を示す属性である認識属性に適した表示形式HSを学習する。
本実施形態では、視点学習部33は、画面上でのユーザの視線の移動状態を、「画面内に移った視点が最初に見る位置・表示」(第1の移動状態)と、「画面内で視線が滞留する位置・表示」(第2の移動状態)と、「画面内の視線が必ず通る位置・表示」(第3の移動状態)とに分類する。
図7は、例えば、視点検出装置18に検出された、表示装置40の画面を移動した視点51の経路が視線L1で示されている。視線L1は、画面外から画面内に移動した視点51が最初に見た位置が「始点」P10であり、所定時間滞留した位置が「滞留」P11であり、複数の視線L1で必ず見る位置が「必見」P12であり、視点51が画面内から画面外に出る位置が「終点」P13である。視点学習部33は、検出された視線L1に基づいて、「始点」P10を「第1の移動状態」に分類し、「滞留」P11を「第2の移動状態」に分類し、「必見」P12を「第3の移動状態」に分類する。つまり、「始点」P10が「第1の認識」に対応付けられ、「滞留」P11が「第2の認識」に対応付けられ、「必見」P12が「第3の認識」に対応付けられる。視点学習部33は、こうした対応付けの情報を累積する。
図8は、例えば、視点検出装置18に検出された、表示装置40の画面を移動した視点51の経路が視線L2で示されている。視線L2は、画面外から画面内に移動した視点51が最初に見た位置が「始点」P20であり、複数の視線L2で必ず見る位置が「必見」P21であり、所定時間滞留した位置が「滞留」P22であり、視点51が画面内から画面外に出る位置が「終点」P23である。視点学習部33は、検出された視線L2に基づいて、「始点」P20を「第1の移動状態」に分類し、「滞留」P22を「第2の移動状態」に分類し、「必見」P21を「第3の移動状態」に分類する。つまり、「始点」P20が「第1の認識」に対応付けられ、「滞留」P22が「第2の認識」に対応付けられ、「必見」P21が「第3の認識」に対応付けられる。また、視点学習部33は、こうした対応付けの情報を累積する。
すなわち、視点学習部33は、こうして累積された対応付けの情報に基づいて、認識属性に適した表示形式HSを学習する。なお学習は、公知の方法を適用可能であり、例えば、累積された情報に基づいて、割合の高いものや回数の多いものを学習結果とするようにしてもよい。また、学習に用いる対応付けの情報の蓄積期間は、全期間でもよいし、一部期間でもよい。蓄積期間を長くすれば、学習結果を安定させることができ、蓄積期間を近時に制限すれば、ユーザの視線の移動傾向の変化にも、迅速に対応できるようになる。
図9には、視点学習部33による学習前後における第1〜第3の認識に対応する表示位置の例を対比する表331が示されている。学習前は、「第1の認識」に対応する表示位置は「画面中央」であり、「第2の認識」に対応する表示位置は「画面右」であり、「第3の認識」に対応する表示位置は「画面右下」である。一方、学習後は、「第1の認識」に対応する表示位置は「画面中央上」になり、「第2の認識」に対応する表示位置は「画面右下」になり、「第3の認識」に対応する表示位置は「画面左上」になる。なお、このように得られた学習結果は、視点学習部33の管理する学習データベースに保持される。この学習データベースは、表示制御部16の記憶装置に設けることができる。
リスト管理部32は、視点学習部33の有する学習データベースに保持されている学習結果を表示形式リスト31のテーブル310に反映させる。つまり、リスト管理部32は、テーブル310での推定される認識属性に対応する、画面上でのユーザの視線の移動状態を、学習結果により得られた画像を見る位置や表示に変更する。これにより、画像情報G1に対して選択される表示形式HSを、画面上でのユーザの視線の視線に適した表示形式HSにすることができる。
なお、リスト管理部32は、テーブル310への学習結果の反映を、所定の条件が成立することに応じて行う。これは、表示形式の変化がユーザ、特に運転者に与える影響を低減させるためである。例えば、所定の条件としては、車両10が停止している場合や、テーブル310の内容と学習結果との相違が一定以上になった場合や、ユーザが許可した場合などの1つ又は複数が挙げられる。
[ユーザ毎に学習する構成]
次に、画面上でのユーザの視線の移動状態を、ユーザ毎に学習する構成と動作について説明する。
表示制御部16は、複数のユーザのそれぞれに対して画面上でのユーザの視線の動きを学習する。表示制御部16は、車両10のユーザを特定するとともに、その特定したユーザの学習データベースを選択し、その選択した学習データベースの学習結果を表示形式リスト31に反映させるユーザ特定部34を備える。
ユーザ特定部34は、車両10の運転者となるユーザを、車両10に使用される電子鍵や、ユーザ自身による設定器を介しての設定など、公知の方法を通じて特定する。
図10に示すように、ユーザ特定部34は、ユーザ毎の学習データベースを管理する。なお、ユーザ毎の学習データベースは、別々のデータベースでも、1つのデータベースの一部領域から構成されていてもよい。このユーザ毎の学習データベースは、表示制御部16の記憶装置に設けることができる。
そして、ユーザ特定部34は、特定されたユーザの学習データベースの内容を、視点学習部33の学習データベースに反映させ、画面上での選択されたユーザの視線の移動の学習がさらに行われるようにする。なお、所定時間毎や、車両が駐車するときや、運転者が交代するときなどに、視点学習部33の学習データベースの内容を対応するユーザの学習データベースに反映させることで、当該ユーザに関する学習状態が維持される。
さらに、ユーザ特定部34は、特定されたユーザの学習データベースの学習結果を、表示形式リスト31のテーブル310に反映させる。これにより、表示形式択部30は、ユーザに対応するテーブル310を用いて、画像情報G1にユーザに適した表示形式HSを選択することができる。そして、表示装置40には、ユーザの認識属性に適合する表示形式HSで画像情報G1が表示されるようになるため、当該画像情報G1がユーザに適切に認識されることが期待される。
以上説明したように、本実施形態に係る画像表示装置によれば、以下に列記する効果が得られるようになる。
(1)これまでは、どういった表示形式が運転者の注意を引くかという観点から画像の表示形式が選択されていた。ところが、表示画面が広くなったり、画面に複数の情報が表示されたりする場合、その画像のなかでのユーザの視線の動き、例えば、ユーザがどのような表示形式に素早く反応し、どのような画像を注視するのかなどについての検討は十分になされていなかった。ところが、先進安全システムが提供する情報のなかには、短時間でユーザに認識してもらう必要性のある情報が含まれていたり、ユーザに注視してもらうことが好ましい情報が含まれていたりするなど、画像に対して期待される反応をユーザから得るための検討がなされるようになってきている。
このような構成によれば、検知されたユーザの視点51(視線)の移動と、画像の表示形式HSとが対応付けされる。通常、ユーザの視点51(視線)の移動は、画像に対するユーザの反応や興味に関連する。例えば、表示形式HSには、ユーザの視線が素早く反応する形式もあるし、見る時間が長くなる形式もある。よって、ユーザの視点51(視線)の移動状態に対応する画像の表示形式HSには、ユーザの反応や興味(認識属性)が関連付けされる。こうしたことから、画像情報G1に付す表示属性と画像に対して期待されるユーザの反応に適した画像の表示形式HSとを関連付けることにより、表示属性に基づいて画像情報G1が適切に表示されるようになる。これにより、画像情報G1の画像に対して期待されるユーザの反応が得られる表示形式が適切に付与されるようになる。
こうした関連づけは、多くの画像情報G1が表示されているような画面における表示画像には、特に有効である。
(2)このような構成によれば、視点検出装置18がユーザの視線の移動を検出するため、認識属性が実際に画面を視認するユーザの画像に対する反応などに基づいて定められる。こうした認識属性が画像情報G1の表示属性に対応付けされることで、認識属性に対応する表示属性を有する画像情報を、実際に画面を視認するユーザに適した表示形式HSで表示できる。つまり、画面に表示される画像がユーザに認識させたい態様で表示されるようになる。
(3)このような構成によれば、既に記憶されている認識属性と表示形式HSとの対応付けが、視点検出装置18が検出したユーザの視線の移動に基づいて推定される認識属性と表示形式HSとの対応付けによって適宜置き換えられる、つまり修正されるようになる。これにより、画面上におけるユーザの視線の移動の傾向に変化が生じたとしても、その変化に表示形式も対応するようになり、画面にはユーザに認識させたい態様で画像が表示されるようになる。
(第2の実施形態)
次に、本実施形態にかかる画像表示装置について、図11を参照して説明する。
本実施形態は、同時期に入力された2つの画像情報に対して表示形式を選択する構成が、第1の実施形態の構成と相違する以外、第1の実施形態の構成と同様であることから、以下では相違点を中心に説明し、説明の便宜上、同様の構成については詳細な説明を割愛する。
表示形式リスト31には、2つの画像情報G1,G2に対して表示形式HSを選択する場合に用いられるテーブル312が設定されている。本実施形態では、第1の画像情報G1の重要度よりも第2の画像情報G2の重要度の方が低いものとする。
テーブル312には、第1の画像情報G1の表示属性に要求有として設定されている要求と、第2の画像情報G2の表示属性に要求有として設定されている要求との関係に応じて選択される表示形式HSが設定されている。例えば、第1の画像情報G1と第2の画像情報G2とに「第1の要求」が「有る」場合、第1の画像情報G1には「第1の形式」が選択され、第2の画像情報G2には「第2の形式」が選択される。なおここでは、「第1の形式」を選択できない場合、「第2の形式」を選択するものとしている。第1の画像情報G1に「第1の要求」が「有り」、第2の画像情報G2に要求が「無い」場合、第1の画像情報G1には「第1の形式」が選択され、第2の画像情報G2には「標準」が選択される。なお、テーブル312に設定されている表示形式HSは、表示装置40に表示される他の画像の種類や、音や音声、車両10の走行環境などによって変更されてもよい。
また、第1の画像情報G1に「第2の要求」が「有り」、第2の画像情報G2に「第1の要求」が「有る」場合、第1の画像情報G1には「第2の形式」が選択され、第2の画像情報G2には「第1の形式」が選択される。第1の画像情報G1に「第2の要求」が「有り」、第2の画像情報G2に要求が「無い」場合、第1の画像情報G1には「第2の形式」が選択され、第2の画像情報G2には「標準」が選択される。
さらに、第1の画像情報G1に「第3の要求」が「有り」、第2の画像情報G2に「第1の要求」が「有る」場合、第1の画像情報G1には「第3の形式」が選択され、第2の画像情報G2には「第1の形式」が選択される。第1の画像情報G1に「第3の要求」が「有り」、第2の画像情報G2に要求が「無い」場合、第1の画像情報G1には「第3の形式」が選択され、第2の画像情報G2には「標準」が選択される。
そこで、表示制御部16がテーブル312に基づいて、2つの画像情報G1,G2にそれぞれ表示形式HSを選択する動作について説明する。
表示制御部16は、2つの第1及び第2の画像情報G1,G2が入力されると、各画像情報G1,G2の表示属性から第1〜第3の要求の有無を取得するとともに、取得された要求の組み合わせをテーブル312に照合して、対応する組み合わせに指定されている表示形式HSを取得する。例えば、第1の画像情報G1に「第2の要求」が「有り」、第2の画像情報G2に「第1の要求」が「有る」場合、その組み合わせに指定されている、第1の画像情報G1用に「第2の形式」を、第2の画像情報G2用に「第1の形式」を取得する。つまり、表示制御部16は、第1の画像情報G1には表示形式HSとして「第2の形式」を選択し、第2の画像情報G2には表示形式HSとして「第1の形式」を選択する。そして、情報出力装置17には、第1の画像情報G1とその表示形式HSとして「第2の形式」が伝達され、第2の画像情報G2とその表示形式HS「第1の形式」が伝達される。これにより、情報出力装置17の表示装置40には、第1の画像情報G1が「第2の形式」で表示され、第2の画像情報G2が「第1の形式」で表示される。
以上説明したように、本実施形態の画像表示装置によれば、先の第1の実施形態で記載した効果(1)〜(3)に加え、以下に列記するような効果が得られるようになる。
(4)このような構成によれば、同時期に複数の画像情報G1,G2を表示するような場合であれ、各画像情報G1,G2に、その表示属性に基づいて適切な表示形式HSを選択することができるようになる。これにより、複数の画像情報G1,G2であれ適切な表示形式で表示することができるようになる。
(その他の実施形態)
なお上記各実施形態は、以下の態様で実施することもできる。
・上記第2の実施形態では、テーブル312には、第1の画像情報の第1〜第3の要求はいずれも「有り」、第2の画像情報の第1の要求は「有り」、第2及び第3の要求はいずれも「無し」である組み合わせについて、第1の画像情報に対する表示形式と第2の画像情報に対する表示形式とが設定されている場合について例示した。しかしこれに限らず、第1の画像情報の第1〜第3の要求の有無のその他の組み合わせと、第2の画像情報の第1〜第3の要求の有無のその他の組み合わせとに対して第1の画像情報の表示形式と第2の画像情報の表示形式とが設定されていてもよい。これにより、画像表示装置における利便性の向上が図られるようになる。
・上記第2の実施形態では、第1の画像情報と第2の画像情報とのそれぞれの表示形式を設定している場合について例示した。しかしこれにかぎらず、表示形式は、3つ以上の画像情報に対して設定されていてもよい。これにより、画像表示装置における利便性の向上が図られるようになる。
・上記第1の実施形態では、第1〜第3の要求が、第1〜第3の形式に対応付けられる場合について例示した。しかしこれに限らず、第1〜第3の要求には、その他の表示形式が対応付けられてもよい。例えば、第1の要求に対応する表示形式には「点滅部分」が含まれてもよいし、第2の要求に対応する表示形式には「中央表示」や「色のコントラストの差が大きい」が含まれてもよいし、第3の要求に対応する表示形式には「特定のマークが付されている」が含まれてもよい。これにより、画像表示装置における利便性の向上が図られるようになる。
・上記各実施形態では、表示形式に含まれる表示位置のパラメータについて例示した。しかしこれに限らず、表示形式には、表示位置以外のパラメータが含まれていてもよい。
図12のテーブル313に示すように、表示形式に含まれるパラメータには、表示位置の他に、表示の大きさや、表示の色、警告マーク、点滅などが含まれてもよい。例えば、第1の形式のパラメータは、表示位置が「画面中央」、表示の大きさが「大きい」、表示の色が「黄色」、警告マーク「有り」、点滅「有り」であってもよい。また、第2の形式のパラメータは、表示位置が「画面右」、表示の大きさが「中ぐらい」、表示の色が「赤色」、警告マーク「有り」、点滅「無し」であってもよい。さらに、第3の形式のパラメータは、表示位置が「画面右下」、表示の大きさが「小さい」、表示の色が「青色」、警告マーク「有り」、点滅「無し」であってもよい。また、これ以外のパラメータとして、動きなどが含まれてもよい。
このように、パラメータの種類が多くなれば、パラメータの組み合わせに応じてユーザの認識属性を細かく設定することができるようになる。換言すれば、細かく分類されたユーザの認識属性に基づいて、画像情報の表示属性をユーザに認識させたい態様により適合するように設定することができるようになる。これにより、画像情報の表示形式をユーザにとって適切な形式にすることができるようになる。
・上記各実施形態では、図2に示したように、表示属性に設定されている要求性は、ユーザに認識させたい態様である場合について例示した。しかしこれに限らず、表示属性には、ユーザに認識させたい態様以外が設定されていてもよい。例えば、画像情報に要求性として、緊急性や、重大性、安全性などを付与してもよい。このとき、こうして付与された緊急性や、重大性、安全性などは、その緊急性や、重大性、安全性をユーザに伝達することのできる表示形式によって画像が表示されることとなる。つまり、緊急性や、重大性、安全性は、ユーザに認識させたい認識態様を介して表示形式に関連付けられる。
図13のテーブル302に示すように、画像情報の表示属性に含まれる要求が、「緊急性」、「重大性」、又は「安全性」であるとき、それぞれに関連する表示形式を設定することができる。「緊急性」は、「最初に見る」という表示形式に関連付けてよいし、「重大性」は、「見る時間が長い」という表示形式に関連付けてもよいし、「安全性」は、「見逃さない」という表示形式に関連付けてもよい。
これにより、表示属性には、表示形式に直接関係しない属性を設定することができる。しかしながら、表示属性に含まれる「緊急性」、「安全性」及び「重大性」などは、ユーザに認識させたい態様、つまり認識属性に関連することから、認識属性を介して表示形式に関連付けることができる。つまり、表示属性に含めることのできる項目の自由度が高められる。
これにより、画像表示装置の適用可能性や構成自由度の向上が図られるようになる。
・上記各実施形態では、表示属性には、表示させたい態様が設定されている場合について例示した。しかしこれに限らず、表示属性には、画像情報の表示に適用したくない表示形式の態様を除外事項として設定してもよい。
図14のテーブル303に示すように、除外事項として「点滅」の可/不可や、「赤色」の可/不可などか設定されていてもよい。
これにより、画像情報の表示として好ましくないことなどから、除外されている表示形式を除いて画像情報が表示されるようになる。そして、画像表示装置における表示形式がより適切になされるようになることから、画像表示装置の適用可能性の向上が図られるようになる。
・上記各実施形態では、表示属性には各要求性の有無が設定されている場合について例示した。しかしこれに限らず、要求性には、有無だけに限らず、優先度が設定されていてもよい。また、優先度に応じて表示形式の内容が相違するかたちで設定されてもよい。
図15のテーブル304に示すように、例えば、要求性の内容にそれぞれ優先度を設定してもよい。要求性の内容としての「最初に見る」には、優先度「1」〜「5」を設定してもよい。また、「見る時間が長い」には、優先度「1」〜「5」を設定してもよい。さらに、「見逃さない」には、優先度「1」〜「5」を設定してもよい。優先度「1」〜「5」は、優先度が高いものを「1」とし、優先度が低いものを「5」としてよい。
図16のテーブル314に示すように、第1の形式が優先度「1」のとき、表示位置が「画面中央」、「警告マーク」付きであり、優先度「2」のとき、表示位置が「画面中央」、表示色が「赤色」であり、優先度「3」のとき、表示位置が「画面中央」、表示色が「黄色」である表示形式であってもよい。また、第2の形式が優先度「1」のとき、表示位置が「画面左」、表示色が「青色」であり、優先度「2」のとき、表示位置が「画面左」、表示色が「標準色」であり、優先度「3」のとき、表示位置が「画面中央」、表示色が「標準色」であってもよい。さらに、第3の形式が優先度「1」のとき、表示位置が「画面右下」、表示色が「点滅」であり、優先度「2」のとき、表示位置が「画面右下」、表示色が「警告マーク」であり、優先度「3」のとき、表示位置が「画面中央」、表示色が「短文」であってもよい。
これにより、表示属性の優先度の高い表示情報から表示形式が優先的に選択されるようになるため、優先度の高い表示情報により適切な表示形式が適用されるようになる。つまり優先度の高い表示情報のユーザへの伝達可能性が向上する。また、優先度の高い画像の表示形式が、画像の表示属性から求められる優先度の高さに応じて選択される。そして、優先度の高い表示属性を有する画像情報が、優先度の高い画像形式にて表示されるようになり、表示内容がユーザに的確に伝達されることが期待される。
つまり、要求性の内容をより詳細に管理することが可能になり、画像情報をより適切な表示形式で表示させることができるようになるため、画像表示装置として、設計自由度の向上が図られるようになる。
・上記各実施形態では、表示属性は特定の1つの表示形式HSに対応する場合について例示した。しかしこれに限らず、表示属性は、その表示属性の求める認識属性に対応する複数の表示形式に対応していてもよい。そして、それら複数の表示形式から、所定の順番や優先度等に対応付ける表示形式を選択してよい。
これにより、同時期に表示される複数の画像情報に対し、同じ認識情報が対応するような場合、それぞれの画像情報に、認識属性に対応付けられている複数の表示形式から異なる表示形式を選択することができる。そして、同時期に同じ表示属性を有する画像情報が表示されるとしても、それら画像情報の表示形式を変え、識別を容易にすることができる。
・上記各実施形態では、表示装置40は1台、つまり画面が1つである場合について例示した。しかしこれに限らず、表示装置(画面)は、複数あってもよい。また、表示装置が複数の場合、使用する表示装置を表示形式で指定するようにしてもよい。
図17のテーブル315に示すように、例えば、2台の表示装置が、メインモニタとサブモニタとして設けられている場合、第1の形式波、表示位置を「画面中央」とし、表示先を「メインモニタ」と「サブモニタ」としてもよい。また、第2の形式は、表示位置を「画面右」とし、表示先を「メインモニタ」のみとしてもよい。さらに、第3の形式は、表示位置を「画面右下」とし、表示先を「サブモニタ」のみとしてもよい。
・上記各実施形態では、車両10に第1及び第2の車両制御装置11,12の2つの車両制御装置が設けられる場合について例示したが、これに限らず、車両10には、3つ以上の車両制御装置が設けられてもよいし、機能が統合された1つの車両制御装置が設けられていてもよい。これにより、画像表示装置の構成自由度の向上が図られる。
・上記各実施形態では、車両10に第1及び第2の運転支援装置13,14の2つの運転支援装置が設けられる場合について例示したが、これに限らず、車両10には、3つ以上の運転支援装置が設けられてもよいし、機能が統合された1つの運転支援装置が設けられていてもよい。これにより、画像表示装置の構成自由度の向上が図られる。
・上記各実施形態では、第1及び第2の車両制御装置11,12や、第1及び第2の運転支援装置13,14は車両10に搭載されている場合について例示したが、車両制御装置や運転支援装置はその機能の全部もしくは一部が車両に搭載されていなくてもよい。例えば、機能の一部が、車両外のセンタに設けられていたり、携帯可能な情報処理装置に設けられていたりしてもよい。特に、運転支援装置の機能は、その全部をスマートフォンなどの携帯可能な情報処理装置に設けることも可能である。また、学習機能がセンタに設けられている場合、複数のユーザの情報に基づいて、認識属性と表示形式との関連性を学習することができたり、他のユーザの学習結果を採用したりすることができる。これにより、画像表示装置の構成自由度の向上が図られる。
・上記各実施形態では、情報調停部15に表示制御部16が通信可能に接続される場合について例示したが、通信可能な接続は、有線通信でもよいし、無線通信でもよい。また、車両10におけるその他の装置間の通信可能な接続についても、有線通信でもよいし、無線通信でもよい。例えば、有線通信は、専用線による通信でもよいし、車両用ネットワークによる通信でもよい。これにより、画像表示装置の構成自由度の向上が図られる。
・上記各実施形態では、画像表示装置は、情報調停部15、表示制御部16、情報出力装置17及び視点検出装置18から構成される場合について例示したが、画像表示装置は、表示制御部16と情報出力装置17とを含んでいればよい。
また、画像表示装置の表示制御部16には、少なくとも表示形式択部30と表示形式リスト31とが含まれていればよい。表示形式択部30及び表示形式リスト31のみであっても、表示制御部16は、表示形式択部30が表示形式リスト31から画像属性に適した表示形式を選択することができる。
さらに、画像表示装置の情報出力装置17には、少なくとも表示装置40が含まれていればよい。表示装置40のみであっても、情報出力装置17は、指定された表示形式で画像情報を表示することができる。これにより、画像表示装置の構成自由度の向上や適用範囲の拡大が図られる。
・上記各実施形態では、画像表示装置が車両に用いられている場合について例示した。しかしこれに限らず、画像表示装置は車両以外の移動体、例えば鉄道や船舶、航空機などに用いられてもよい。これにより、画像表示装置の適用範囲の拡大が図られるようになる。
10…車両、11…第1の車両制御装置、12…第2の車両制御装置、13…第1の運転支援装置、14…第2の運転支援装置、15…情報調停部、16…表示制御部、17…情報出力装置、18…視点検出装置、20…情報出力部、21…要求性付与部、22…テーブル、30…表示形式択部、31…表示形式リスト、32…リスト管理部、33…視点学習部、34…ユーザ特定部、40…表示装置、41…音声装置、50…目、51…視点、301〜304…テーブル、310〜315…テーブル、401〜403…エリア、G1…第1の画像情報、G2…第2の画像情報、HS…表示形式、HS1…第1の形式、HS2…第2の形式、HS3…第3の形式、J1〜J4…画像情報、L1,L2…視線。

Claims (9)

  1. 画像情報を画面に表示させる画像表示装置であって、
    ユーザにどのように認識させたいかその指標を示す属性である表示属性が付与された状態で前記画面に表示させる画像情報が記憶される第1の記憶部と、
    画面上でのユーザの視線の移動の検知に基づいて推定されるユーザによる画像の認識態様を示す属性である認識属性が前記画面に表示されている画像の表示形式に対応付けされて記憶される第2の記憶部と、
    前記表示属性と前記認識属性との関連性に基づいて前記画面に表示させる画像情報の表示形式を選択し、この選択した表示形式にて前記画像情報を前記画面に表示制御する表示制御部と
    画面上でのユーザの視線の移動を検出する視点検出装置と、
    前記視点検出装置により検出されたユーザの視線の画面上における移動に基づいて前記認識属性を推定する認識属性推定部と、
    前記検出されたユーザの視線の画面上の移動位置にある画像の表示形式と前記推定された認識属性とを対応付けする表示形式処理部とを備え、
    前記第2の記憶部には、前記認識属性推定部により推定され、前記表示形式処理部にて対応する表示形式に対応付けされた認識属性が記憶される
    ことを特徴とする画像表示装置。
  2. 前記認識属性推定部が推定した認識属性に対応付けされた表示形式と、前記第2の記憶部に記憶されている同一の認識属性に対応付けされている表示形式とが相違することを条件に、前記第2の記憶部に前記認識属性と対応付けされて記憶されている表示形式を前記推定された認識属性に対応付けされた表示形式に置き換える学習部を更に備える
    請求項に記載の画像表示装置。
  3. 前記第1の記憶部には、複数の画像情報がそれぞれの表示属性とともに記憶され、
    前記第2の記憶部には、複数の認識属性がそれぞれ対応する画像の表示形式に対応付けされて記憶されており、
    前記表示制御部は、複数の画像情報の表示属性のそれぞれに対して前記複数の認識属性のうちから最も関連性の高い認識属性に対応する表示形式を選択する
    請求項1又は2に記載の画像表示装置。
  4. 前記第2の記憶部には、1つの認識属性に対して複数の異なる画像の表示形式が対応付けられており、
    前記表示制御部は、同時期に複数の表示属性が同じ認識属性に関連性を有すると判断されるとき、それぞれの表示属性に対して各異なる表示形式を選択する
    請求項1〜のいずれか一項に記載の画像表示装置。
  5. 前記第2の記憶部に記憶されている1つの認識属性には、複数の異なる画像の表示形式が各異なる優先度を有して設定されており、
    前記表示制御部は、同時期に複数の表示属性が同じ認識属性に関連性を有すると判断されるとき、前記画像の表示属性に基づいて求められる優先度の順に、前記画像の表示形式をその優先度の順に選択する
    請求項に記載の画像表示装置。
  6. 前記表示属性には、除外する表示形式が含まれ、
    前記表示制御部は、表示属性に対応する表示形式として前記除外する表示形式が含まれない表示形式を優先的に選択する
    請求項1〜のいずれか一項に記載の画像表示装置。
  7. 前記表示属性には、「緊急性」、「安全性」、及び「重大性」に関する属性のうち少なくとも2つの属性が含まれる
    請求項1〜のいずれか一項に記載の画像表示装置。
  8. 前記表示属性には、優先度が設定されており、
    前記表示制御部は、前記優先度が高い表示属性を有する画像情報から優先的に前記表示形式を選択する
    請求項1〜のいずれか一項に記載の画像表示装置。
  9. 画像情報を画面に表示させる画像表示装置で実行される画像表示方法であって、
    前記画像表示装置が、
    ユーザにどのように認識させたいかその指標を示す属性である表示属性が付与された状態で前記画面に表示させる画像情報を第1の記憶部に記憶させる第1の記憶工程と、
    画面上でのユーザの視線の移動の検知に基づいて推定されるユーザによる画像の認識態様を示す属性である認識属性前記画面に表示されている画像の表示形式に対応付けて第2の記憶部に記憶さる第2の記憶工程と、
    表示制御部で、前記表示属性と前記認識属性との関連性に基づいて前記画面に表示させる画像情報の表示形式を選択し、この選択した表示形式にて前記画像情報を前記画面に表示制御する工程と
    視点検出装置で、画面上でのユーザの視線の移動を検出する工程と、
    認識属性推定部で、前記ユーザの視線の移動を検出する工程により検出されたユーザの視線の画面上における移動に基づいて前記認識属性を推定する推定工程と、
    表示形式処理部で、前記検出されたユーザの視線の画面上の移動位置にある画像の表示形式と前記推定された認識属性とを対応付ける対応付け工程とを実行し、
    前記第2の記憶工程では、前記推定工程により推定され、前記対応付け工程にて対応する表示形式に対応付けされた認識属性が記憶される
    ことを特徴とする画像表示方法。
JP2012259279A 2012-11-28 2012-11-28 画像表示装置及び画像表示方法 Active JP5880408B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012259279A JP5880408B2 (ja) 2012-11-28 2012-11-28 画像表示装置及び画像表示方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012259279A JP5880408B2 (ja) 2012-11-28 2012-11-28 画像表示装置及び画像表示方法

Publications (2)

Publication Number Publication Date
JP2014106750A JP2014106750A (ja) 2014-06-09
JP5880408B2 true JP5880408B2 (ja) 2016-03-09

Family

ID=51028181

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012259279A Active JP5880408B2 (ja) 2012-11-28 2012-11-28 画像表示装置及び画像表示方法

Country Status (1)

Country Link
JP (1) JP5880408B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6939147B2 (ja) * 2017-06-29 2021-09-22 株式会社アイシン 走行情報案内装置及びコンピュータプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02112098A (ja) * 1988-10-21 1990-04-24 Hitachi Ltd 情報選択提供装置
JP3688751B2 (ja) * 1995-04-13 2005-08-31 シャープ株式会社 情報表示装置
JP2009288119A (ja) * 2008-05-30 2009-12-10 Xanavi Informatics Corp ナビゲーション装置
JP5316785B2 (ja) * 2009-04-15 2013-10-16 トヨタ自動車株式会社 運転支援システムおよび運転支援方法
JP5478242B2 (ja) * 2009-12-29 2014-04-23 株式会社 ミックウェア 地図表示装置、地図表示方法、およびプログラム

Also Published As

Publication number Publication date
JP2014106750A (ja) 2014-06-09

Similar Documents

Publication Publication Date Title
US10793165B2 (en) Driving assistance method, and driving assistance device, driving control device, vehicle, driving assistance program, and recording medium using said method
KR102276096B1 (ko) 디스플레이 유닛 상에 디스플레이하기 위한 부가 정보의 삽입을 계산하기 위한 방법, 상기 방법을 수행하기 위한 장치 그리고 자동차 및 컴퓨터 프로그램
JP6447929B2 (ja) 情報処理システム、情報処理方法、およびプログラム
US11325471B2 (en) Method for displaying the course of a safety zone in front of a transportation vehicle or an object by a display unit, device for carrying out the method, and transportation vehicle and computer program
JP6611957B2 (ja) 情報出力制御装置および情報出力制御方法
JP6575818B2 (ja) 運転支援方法およびそれを利用した運転支援装置、自動運転制御装置、車両、運転支援システム、プログラム
US20190283770A1 (en) Display system, display method, and storage medium
JP6137194B2 (ja) 運転支援装置及び運転支援方法
JP6051307B2 (ja) 運転支援装置
US20190061775A1 (en) Driving support device, autonomous driving control device, vehicle, driving support method, and program
JP5177105B2 (ja) 運転支援表示装置
JP7099970B2 (ja) 車両制御装置
US11021103B2 (en) Method for enriching a field of view of a driver of a transportation vehicle with additional information, device for use in an observer transportation vehicle, device for use in an object, and transportation vehicle
JP4973331B2 (ja) 情報提供装置
US11904688B2 (en) Method for calculating an AR-overlay of additional information for a display on a display unit, device for carrying out the method, as well as motor vehicle and computer program
JP7095468B2 (ja) 車両用表示制御装置、車両用表示制御方法及び車両用表示制御プログラム
US11568599B2 (en) Navigation system and a display method of a navigation map
JP2010079844A (ja) 車両用運転支援装置
JP6906175B2 (ja) 運転支援方法およびそれを利用した運転支援装置、自動運転制御装置、車両、プログラム、運転支援システム
CN109789879A (zh) 导航界面的安全可视化
JP2016224553A (ja) 車両用交通情報表示システム
JP2022041244A (ja) 車載表示装置、方法およびプログラム
JP5880408B2 (ja) 画像表示装置及び画像表示方法
US20220315001A1 (en) Driving assistance device, driving assistance method, and storage medium
JP6809347B2 (ja) 追従走行支援装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140917

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150602

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150729

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160118

R151 Written notification of patent or utility model registration

Ref document number: 5880408

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151