JP2014106750A - Image display device and image display method - Google Patents

Image display device and image display method Download PDF

Info

Publication number
JP2014106750A
JP2014106750A JP2012259279A JP2012259279A JP2014106750A JP 2014106750 A JP2014106750 A JP 2014106750A JP 2012259279 A JP2012259279 A JP 2012259279A JP 2012259279 A JP2012259279 A JP 2012259279A JP 2014106750 A JP2014106750 A JP 2014106750A
Authority
JP
Japan
Prior art keywords
display
attribute
image
screen
recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012259279A
Other languages
Japanese (ja)
Other versions
JP5880408B2 (en
Inventor
Atsushi Hayashi
篤史 林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2012259279A priority Critical patent/JP5880408B2/en
Publication of JP2014106750A publication Critical patent/JP2014106750A/en
Application granted granted Critical
Publication of JP5880408B2 publication Critical patent/JP5880408B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide an image display device and an image display method, which enable image display with excellent visibility in an appropriate display form corresponding to the content of image information even in the case of displaying plural kinds of pieces of image information.SOLUTION: An image display device stores image information G1 in a state where a display attribute that is an attribute representing an indicator of how to cause a user to recognize is given, the image information G1 to be displayed on a screen of a display device 40, stores a recognition attribute that is an attribute representing a recognition form of an image recognized by the user, which is estimated on the basis of detection of movement of a viewpoint 51 (a line of sight) of the user on the screen of the display device 40 in association with a display form HS of the image displayed on the screen, and includes a display control part 16 for selecting the display form HS of the image information G1 to be displayed on the screen on the basis of correlation between the display attribute and recognition attribute, and controlling display of the image information G1 on the screen of the display device 40 in the selected display form HS.

Description

本発明は、複数の情報の画像表示に適する画像表示装置及び、当該画像表示装置に用いられる画像表示方法に関する。   The present invention relates to an image display device suitable for image display of a plurality of information and an image display method used for the image display device.

上述の画像表示装置として、自動車に搭載され、各種の運転支援に関する画像情報や、車両状態に関する画像情報を表示させる装置が知られている。こうした画像表示装置は、自動車に搭載される各種の先進安全システム、例えば、車線に沿った走行を補助する装置や、車線の逸脱を検出する装置、歩行者や先行車などとの衝突を予防する装置、前方や側方モニタ、夜間に歩行者や障害物を検知するナイトビュー、等々からの情報出力に利用されることが多い。こうした先進安全システムを通じて画像表示装置に表示される画像は、運転者の運転負荷を軽減させたり、適切な運転操作を促したりするうえで有効である。   As the above-described image display device, there is known a device that is mounted on an automobile and displays image information related to various driving assistances and image information related to a vehicle state. Such an image display device prevents collisions with various advanced safety systems mounted on automobiles, for example, devices that assist travel along lanes, devices that detect lane departures, pedestrians, and preceding vehicles. It is often used for information output from devices, front and side monitors, night view for detecting pedestrians and obstacles at night, and so on. The image displayed on the image display device through such an advanced safety system is effective in reducing the driving load on the driver or prompting an appropriate driving operation.

ところで先進安全システムは、出力する必要のある情報を車両の走行状態に応じてその都度出力するため、複数のシステムの出力情報が時間的に重なってしまうことも少なくない。そして時間的に重なってしまう複数の情報は、その表示に際して表示画面の大きさの制約を受けることはもとより、より重要度の高い情報が優先的に運転者に伝わるように表示されることが望ましい。この種の技術として、例えば特許文献1には、想定される危険度の比較に応じて警告表示を行う技術が記載されている。   By the way, since the advanced safety system outputs information that needs to be output each time according to the traveling state of the vehicle, the output information of a plurality of systems often overlaps in time. In addition, it is desirable that a plurality of pieces of information that overlap in time be displayed so that more important information is preferentially transmitted to the driver as well as being limited by the size of the display screen. . As this type of technology, for example, Patent Literature 1 describes a technology for displaying a warning in accordance with a comparison of assumed risk levels.

特許文献1に記載の装置(システム)は、車両の走行状況を検出する走行状況検出手段と、検出された車両の走行状況から車両の走行状態が危険であると判断した場合に危険な走行状態であることを示す情報を生成する判断手段とを備える。また、情報表示装置を備え、この情報表示装置は、判断手段によって複数種類の情報が生成された場合、それら複数種類の情報をそれぞれ示す警告表示の表示形態を予め定められた条件に従って所定のパターンに変更する表示制御手段を備える。この所定のパターンは、優先度の高い情報が強調表示されるように設定されている。このため、表示すべき複数種類の情報が生成されたとしても、こうして設定されたパターンに基づいて優先度の高い情報が強調表示される。   The apparatus (system) described in Patent Document 1 is a driving state detection unit that detects a driving state of a vehicle, and a dangerous driving state when the driving state of the vehicle is determined to be dangerous from the detected driving state of the vehicle. Determination means for generating information indicating that the In addition, the information display device includes an information display device, and when a plurality of types of information is generated by the determination unit, a display pattern of a warning display indicating each of the plurality of types of information is determined according to a predetermined condition. Display control means for changing to This predetermined pattern is set so that high priority information is highlighted. For this reason, even if a plurality of types of information to be displayed are generated, information with high priority is highlighted based on the pattern set in this way.

特開2010−247656号公報JP 2010-247656 A

特許文献1に記載の画像表示装置によれば、高い優先度を有する情報が上記パターンに基づいて強調表示されるようにはなる。しかし、情報によって強調表示する際の表示形式が異なることが普通であり、その都度の優先度に対応してそれら情報に適切な表示形式を設定することは容易ではない。   According to the image display device described in Patent Literature 1, information having a high priority is highlighted based on the pattern. However, the display format for highlighting differs depending on the information, and it is not easy to set an appropriate display format for the information in accordance with the priority of each time.

本発明は、このような実情に鑑みてなされたものであって、その目的は、たとえ複数種類の画像情報を表示する場合であれ、画像情報の内容に応じた適切な表示形式にて視認性に優れた画像表示を行うことのできる画像表示装置及び画像表示方法を提供することにある。   The present invention has been made in view of such circumstances, and the purpose thereof is to display the image in an appropriate display format according to the content of the image information, even when displaying a plurality of types of image information. Another object of the present invention is to provide an image display apparatus and an image display method capable of performing excellent image display.

以下、上記課題を解決するための手段及びその作用効果を記載する。
上記目的を達成するため、請求項1に記載の画像表示装置は、画像情報を画面に表示させる画像表示装置であって、ユーザにどのように認識させたいかその指標を示す属性である表示属性が付与された状態で前記画面に表示させる画像情報が記憶される第1の記憶部と、画面上でのユーザの視線の移動の検知に基づいて推定されるユーザによる画像の認識態様を示す属性である認識属性が前記画面に表示されている画像の表示形式に対応付けされて記憶される第2の記憶部と、前記表示属性と前記認識属性との関連性に基づいて前記画面に表示させる画像情報の表示形式を選択し、この選択した表示形式にて前記画像情報を前記画面に表示制御する表示制御部とを備えることを要旨とする。
Hereinafter, means for solving the above-described problems and the effects thereof will be described.
In order to achieve the above object, the image display apparatus according to claim 1 is an image display apparatus that displays image information on a screen, and is a display attribute that indicates an index of how the user wants to recognize the display attribute. A first storage unit that stores image information to be displayed on the screen in a state in which is given, and an attribute indicating an image recognition mode by the user estimated based on detection of movement of the user's line of sight on the screen And a second storage unit that stores the recognition attribute in association with the display format of the image displayed on the screen, and causes the display attribute to be displayed on the screen based on the relationship between the display attribute and the recognition attribute. The gist is to include a display control unit that selects a display format of image information and controls display of the image information on the screen in the selected display format.

上記目的を達成するため、請求項10に記載の画像表示方法は、画像情報を画面に表示させる画像表示方法であって、ユーザにどのように認識させたいかその指標を示す属性である表示属性が付与された状態で前記画面に表示させる画像情報を記憶させる第1の記憶工程と、画面上でのユーザの視線の移動の検知に基づいて推定されるユーザによる画像の認識態様を示す属性である認識属性が前記画面に表示されている画像の表示形式に対応付けされて記憶される第2の記憶工程と、前記表示属性と前記認識属性との関連性に基づいて前記画面に表示させる画像情報の表示形式を選択し、この選択した表示形式にて前記画像情報を前記画面に表示制御する工程とを備えることを要旨とする。   In order to achieve the above object, an image display method according to claim 10 is an image display method for displaying image information on a screen, which is an attribute indicating an indicator of how the user wants to recognize the image attribute. A first storage step for storing image information to be displayed on the screen in a state in which is given, and an attribute indicating an image recognition mode by the user estimated based on detection of movement of the user's line of sight on the screen A second storage step in which a certain recognition attribute is stored in association with the display format of the image displayed on the screen, and an image to be displayed on the screen based on the relationship between the display attribute and the recognition attribute And a step of selecting a display format of information and controlling the display of the image information on the screen in the selected display format.

これまでは、どういった表示形式が運転者の注意を引くかという観点から画像の表示形式が選択されていた。ところが、表示画面が広くなったり、画面に複数の情報が表示されたりする場合、その画像のなかでのユーザの視線の動き、例えば、ユーザがどのような表示形式に素早く反応し、どのような画像を注視するのかなどについての検討は十分になされていなかった。ところが、先進安全システムが提供する情報のなかには、短時間でユーザに認識してもらう必要性のある情報が含まれていたり、ユーザに注視してもらうことが好ましい情報が含まれていたりするなど、画像に対して期待される反応をユーザから得るための検討がなされるようになってきている。   Until now, the image display format has been selected from the viewpoint of what type of display draws the driver's attention. However, when the display screen becomes wider or multiple information is displayed on the screen, the movement of the user's line of sight in the image, for example, what display format the user reacts quickly, There has not been enough studies on whether to look at images. However, the information provided by the advanced safety system includes information that needs to be recognized by the user in a short period of time, or includes information that is preferably received by the user. Studies are being conducted to obtain the expected response to images from users.

このような構成もしくは方法によれば、検知されたユーザの視線の移動と、画像の表示形式とが対応付けされる。通常、ユーザの視線の移動は、画像に対するユーザの反応や興味に関連する。例えば、表示形式には、ユーザの視線が素早く反応する形式もあるし、見る時間が長くなる形式もある。よって、ユーザの視線の移動状態に対応する画像の表示形式には、ユーザの反応や興味(認識属性)が関連付けされる。こうしたことから、画像情報に付す表示属性と画像に対して期待されるユーザの反応に適した画像の表示形式とを関連付けることにより、表示属性に基づいて画像情報が適切に表示されるようになる。これにより、画像情報の画像に対して期待されるユーザの反応が得られる表示形式が適切に付与されるようになる。   According to such a configuration or method, the detected movement of the user's line of sight is associated with the display format of the image. Usually, the movement of the user's line of sight relates to the user's reaction and interest in the image. For example, there are formats in which the user's line of sight reacts quickly, and there are formats in which the viewing time becomes longer. Therefore, the user's reaction and interest (recognition attribute) are associated with the display format of the image corresponding to the movement state of the user's line of sight. For this reason, image information is appropriately displayed based on the display attribute by associating the display attribute attached to the image information with the display format of the image suitable for the expected user response to the image. . As a result, a display format capable of obtaining an expected user response to the image of the image information is appropriately given.

こうした関連づけは、多くの画像情報が表示されているような画面における表示画像には、特に有効である。
請求項2に記載の画像表示装置は、請求項1に記載の画像表示装置において、画面上でのユーザの視線の移動を検出する視点検出装置と、前記視点検出装置により検出されたユーザの視線の画面上における移動に基づいて前記認識属性を推定する認識属性推定部と、前記検出されたユーザの視線の画面上の移動位置にある画像の表示形式と前記推定された認識属性とを対応付けする表示形式処理部とを備え、前記第2の記憶部には、前記認識属性推定部により推定され、前記表示形式処理部にて対応する表示形式に対応付けされた認識属性が記憶されることを要旨とする。
Such association is particularly effective for a display image on a screen on which a lot of image information is displayed.
The image display device according to claim 2 is the image display device according to claim 1, wherein a viewpoint detection device that detects movement of a user's line of sight on a screen, and a user's line of sight detected by the viewpoint detection device. A recognition attribute estimation unit that estimates the recognition attribute based on movement on the screen, and associates the display format of the image at the movement position on the screen of the detected user's line of sight with the estimated recognition attribute And a display attribute processing unit that stores a recognition attribute estimated by the recognition attribute estimation unit and associated with a corresponding display format in the display format processing unit. Is the gist.

請求項11に記載の画像表示方法は、請求項10に記載の画像表示方法において、画面上でのユーザの視線の移動を検出する工程と、前記ユーザの視線の移動を検出する工程により検出されたユーザの視線の画面上における移動に基づいて前記認識属性を推定する推定工程と、前記検出されたユーザの視線の画面上の移動位置にある画像の表示形式と前記推定された認識属性とを対応付ける対応付け工程とを備え、前記第2の記憶工程では、前記推定工程により推定され、前記対応付け工程にて対応する表示形式に対応付けされた認識属性が記憶されることを要旨とする。   An image display method according to an eleventh aspect of the invention is the image display method according to the tenth aspect of the invention, which is detected by a step of detecting movement of a user's line of sight on a screen and a step of detecting movement of the user's line of sight. An estimation step of estimating the recognition attribute based on movement of the user's line of sight on the screen, a display format of the image at the movement position on the screen of the detected user's line of sight, and the estimated recognition attribute The second storage step stores the recognition attribute estimated by the estimation step and associated with the corresponding display format in the association step.

このような構成もしくは方法によれば、ユーザの視線の移動を検出するため、認識属性が実際に画面を視認するユーザの画像に対する反応などに基づいて定められる。こうした認識属性が画像情報の表示属性に対応付けされることで、認識属性に対応する表示属性を有する画像情報を、実際に画面を視認するユーザに適した表示形式で表示できる。つまり、画面に表示される画像がユーザに認識させたい態様で表示されるようになる。   According to such a configuration or method, in order to detect the movement of the user's line of sight, the recognition attribute is determined based on the response to the image of the user who actually views the screen. By associating these recognition attributes with the display attributes of the image information, it is possible to display the image information having the display attributes corresponding to the recognition attributes in a display format suitable for the user who actually views the screen. That is, the image displayed on the screen is displayed in a manner that the user wants to recognize.

請求項3に記載の画像表示装置は、請求項2に記載の画像表示装置において、前記認識属性推定部が推定した認識属性に対応付けされた表示形式と、前記第2の記憶部に記憶されている同一の認識属性に対応付けされている表示形式とが相違することを条件に、前記第2の記憶部に前記認識属性と対応付けされて記憶されている表示形式を前記推定された認識属性に対応付けされた表示形式に置き換える学習部を更に備えることを要旨とする。   An image display device according to a third aspect is the image display device according to the second aspect, in which the display format associated with the recognition attribute estimated by the recognition attribute estimation unit and the second storage unit are stored. Display format stored in association with the recognition attribute in the second storage unit on the condition that the display format associated with the same recognition attribute is different from the estimated recognition The gist is to further include a learning unit that replaces the display format associated with the attribute.

このような構成によれば、既に記憶されている認識属性と表示形式との対応付けが、視点検出装置が検出したユーザの視線の移動に基づいて推定される認識属性と表示形式との対応付けによって適宜置き換えられる、つまり修正されるようになる。これにより、画面上におけるユーザの視線の移動の傾向に変化が生じたとしても、その変化に表示形式も対応するようになり、画面にはユーザに認識させたい態様で画像が表示されるようになる。   According to such a configuration, the association between the recognition attribute already stored and the display format is associated with the recognition attribute estimated based on the movement of the user's line of sight detected by the viewpoint detection device. Will be replaced as appropriate. As a result, even if a change occurs in the tendency of the user's line of sight movement on the screen, the display format also corresponds to the change, and the image is displayed on the screen in a manner that the user wants to recognize. Become.

請求項4に記載の画像表示装置は、請求項1〜3のいずれか一項に記載の画像表示装置において、前記第1の記憶部には、複数の画像情報がそれぞれの表示属性とともに記憶され、前記第2の記憶部には、複数の認識属性がそれぞれ対応する画像の表示形式に対応付けされて記憶されており、前記表示制御部は、複数の画像情報の表示属性のそれぞれに対して前記複数の認識属性のうちから最も関連性の高い認識属性に対応する表示形式を選択することを要旨とする。   The image display device according to claim 4 is the image display device according to any one of claims 1 to 3, wherein the first storage unit stores a plurality of pieces of image information together with respective display attributes. The second storage unit stores a plurality of recognition attributes in association with display formats of the corresponding images, and the display control unit stores each of the display attributes of the plurality of image information. The gist is to select a display format corresponding to the most relevant recognition attribute from among the plurality of recognition attributes.

このような構成によれば、同時期に複数の画像情報を表示するような場合であれ、各画像情報に、その表示属性に基づいて適切な表示形式を選択することができるようになる。これにより、複数の画像情報であれ適切な表示形式で表示することができるようになる。   According to such a configuration, even when a plurality of pieces of image information are displayed at the same time, an appropriate display format can be selected for each piece of image information based on the display attribute. As a result, a plurality of pieces of image information can be displayed in an appropriate display format.

請求項5に記載の画像表示装置は、請求項1〜4のいずれか一項に記載の画像表示装置において、前記第2の記憶部には、1つの認識属性に対して複数の異なる画像の表示形式が対応付けられており、前記表示制御部は、同時期に複数の表示属性が同じ認識属性に関連性を有すると判断されるとき、それぞれの表示属性に対して各異なる表示形式を選択することを要旨とする。   The image display device according to claim 5 is the image display device according to any one of claims 1 to 4, wherein the second storage unit stores a plurality of different images for one recognition attribute. Display formats are associated, and the display control unit selects different display formats for each display attribute when it is determined that a plurality of display attributes are related to the same recognition attribute at the same time The gist is to do.

このような構成によれば、同時期に表示される複数の画像情報に対し、同じ認識情報が対応するような場合、それぞれの画像情報に、認識属性に対応付けられている複数の表示形式から異なる表示形式を選択することができる。これにより、同時期に同じ表示属性を有する画像情報が表示されるとしても、それら画像情報の表示形式を変え、識別を容易にすることができる。   According to such a configuration, when the same recognition information corresponds to a plurality of pieces of image information displayed at the same time, each of the pieces of image information has a plurality of display formats associated with recognition attributes. Different display formats can be selected. Thereby, even if image information having the same display attribute is displayed at the same time, the display format of the image information can be changed to facilitate identification.

請求項6に記載の画像表示装置は、請求項5に記載の画像表示装置において、前記第2の記憶部に記憶されている1つの認識属性には、複数の異なる画像の表示形式が各異なる優先度を有して設定されており、前記表示制御部は、同時期に複数の表示属性が同じ認識属性に関連性を有すると判断されるとき、前記画像の表示属性に基づいて求められる優先度の順に、前記画像の表示形式をその優先度の順に選択することを要旨とする。   The image display device according to claim 6 is the image display device according to claim 5, wherein one recognition attribute stored in the second storage unit has different display formats of a plurality of different images. Priority is set, and the display control unit determines priority based on the display attribute of the image when it is determined that a plurality of display attributes are related to the same recognition attribute at the same time. The gist is to select the display format of the image in the order of the priority in the order of the degree.

このような構成によれば、優先度の高い画像の表示形式が、画像の表示属性から求められる優先度の高さに応じて選択される。これにより、優先度の高い表示属性を有する画像情報が、優先度の高い画像形式にて表示されるようになり、表示内容がユーザに的確に伝達されることが期待される。   According to such a configuration, a display format of an image with high priority is selected according to the high priority obtained from the display attribute of the image. As a result, image information having a display attribute with a high priority is displayed in an image format with a high priority, and the display content is expected to be accurately transmitted to the user.

請求項7に記載の画像表示装置は、請求項1〜6のいずれか一項に記載の画像表示装置において、前記表示属性には、除外する表示形式が含まれ、前記表示制御部は、表示属性に対応する表示形式として前記除外する表示形式が含まれない表示形式を優先的に選択することを要旨とする。   The image display device according to claim 7 is the image display device according to any one of claims 1 to 6, wherein the display attribute includes a display format to be excluded, and the display control unit The gist is to preferentially select a display format that does not include the excluded display format as the display format corresponding to the attribute.

このような構成によれば、画像情報の表示として好ましくないことなどから、除外されている表示形式を除いて画像情報が表示されるようになる。これにより、画像情報の表示がより適切になされるようになる。   According to such a configuration, the image information is displayed excluding the excluded display format because it is not preferable as the display of the image information. As a result, the display of the image information is more appropriately performed.

請求項8に記載の画像表示装置は、請求項1〜7のいずれか一項に記載の画像表示装置において、前記表示属性には、「緊急性」、「安全性」、及び「重大性」に関する属性のうち少なくとも2つの属性が含まれることを要旨とする。   The image display device according to claim 8 is the image display device according to any one of claims 1 to 7, wherein the display attributes include “emergency”, “safety”, and “significance”. The gist is that at least two of the attributes are included.

このような構成によれば、表示属性には、表示形式に直接関係しない属性を設定することができる。しかしながら、表示属性に含まれる「緊急性」、「安全性」及び「重大性」などは、ユーザに認識させたい態様、つまり認識属性に関連することから、認識属性を介して表示形式に関連付けることができる。これにより、表示属性に含めることのできる項目の自由度が高められる。   According to such a configuration, an attribute that is not directly related to the display format can be set as the display attribute. However, “Urgent”, “Safety”, “Severity”, etc. included in the display attribute are related to the mode that the user wants to recognize, that is, the recognition attribute, so it is related to the display format via the recognition attribute. Can do. Thereby, the freedom degree of the item which can be included in a display attribute is raised.

請求項9に記載の画像表示装置は、請求項1〜8のいずれか一項に記載の画像表示装置において、前記表示属性には、優先度が設定されており、前記表示制御部は、前記優先度が高い表示属性を有する画像情報から優先的に前記表示形式を選択することを要旨とする。   The image display device according to claim 9 is the image display device according to any one of claims 1 to 8, wherein a priority is set in the display attribute, and the display control unit The gist is to preferentially select the display format from image information having a display attribute having a high priority.

このような構成によれば、表示属性の優先度の高い表示情報から表示形式が優先的に選択されるようになるため、優先度の高い表示情報により適切な表示形式が適用されるようになる。これにより優先度の高い表示情報のユーザへの伝達可能性が向上する。   According to such a configuration, since the display format is preferentially selected from the display information with a high priority of the display attribute, an appropriate display format is applied with the display information with a high priority. . Thereby, the possibility of transmission of display information with high priority to the user is improved.

画像表示装置を具体化した第1の実施形態について、そのシステムの概略構成を示すブロック図。1 is a block diagram showing a schematic configuration of a system according to a first embodiment that embodies an image display apparatus. 同実施形態における画像情報に付されるユーザにどのように認識させたいかその指標を示す属性の例について示すテーブル。The table shown about the example of the attribute which shows the parameter | index how the user attached to the image information in the embodiment wants to recognize. 同実施形態における画面上のユーザの視線の移動から推定される認識属性との関係の例を示すテーブル。The table which shows the example of the relationship with the recognition attribute estimated from the movement of the user's eyes | visual_axis on the screen in the embodiment. 同実施形態における画像情報の表示属性に含まれる要求性と、選択される表示形式との関係の例を示すテーブル。The table which shows the example of the relationship between the request | requirement contained in the display attribute of the image information in the embodiment, and the display format selected. 同実施形態において表示形式に対応する表示位置の例を示すテーブル。The table which shows the example of the display position corresponding to a display format in the embodiment. 同実施形態において図5に示す表示位置と画面における位置との関係を示す平面図。The top view which shows the relationship between the display position shown in FIG. 5, and the position in a screen in the embodiment. 同実施形態においてユーザの視線が画面上を移動する態様の一例を示す模式図。The schematic diagram which shows an example of the aspect which a user's eyes | visual_axis moves on a screen in the embodiment. 同実施形態においてユーザの視線が画面上を移動する態様の他の例を示す模式図。The schematic diagram which shows the other example of the aspect which a user's eyes | visual_axis moves on a screen in the embodiment. 同実施形態においてユーザの視線の画面上の移動態様に基づく学習結果の例を対比して示すテーブル。The table which compares and shows the example of the learning result based on the movement mode on the screen of a user's eyes | visual_axis in the same embodiment. 同実施形態において、ユーザ毎に設けられた学習データベースとユーザとの関係を示すテーブル。In the same embodiment, the table which shows the relationship between the learning database provided for every user, and a user. 画像表示装置を具体化した第2の実施形態について、複数の画像情報に対して選択される表示形式の例を示すテーブル。The table which shows the example of the display format selected with respect to several image information about 2nd Embodiment which actualized the image display apparatus. 画像表示装置を具体化した他の実施形態について、表示形式に含まれるパラメータの例を示すテーブル。The table which shows the example of the parameter contained in a display format about other embodiments which materialized the image display device. 画像表示装置を具体化したその他の実施形態について、情報に付与される属性と、その属性に関連付けられる表示形式と例を示すテーブル。The table which shows the attribute given to information, the display format linked | related with the attribute, and an example about other embodiment which actualized the image display apparatus. 画像表示装置を具体化したまた他の実施形態について、画像情報に含まれる除外事項の例を示すテーブル。The table which shows the example of the exclusion matter contained in image information about other embodiments which materialized the image display device. 画像表示装置を具体化したまたその他の実施形態について、画像情報に含まれる要求性に優先度が設定される例を示すテーブル。The table which shows the example by which a priority is set to the request | requirement contained in image information about other embodiment which actualized the image display apparatus. 画像表示装置を具体化したさらに他の実施形態について、優先度に応じて設定される表示形式の例を示すテーブル。The table which shows the example of the display format set according to the priority about other embodiment which actualized the image display apparatus. 画像表示装置を具体化したまたさらに他の実施形態について、表示形式に表示先の画面が含まれる例を示すテーブル。The table which shows the example in which the screen of a display place is included in a display format about further another embodiment which actualized the image display apparatus.

(第1の実施形態)
画像表示装置を搭載した車両を具体化した第1の実施形態について、図1〜10を参照して説明する。まず、画像表示装置の概略構成について図1を参照して説明する。
(First embodiment)
1st Embodiment which actualized the vehicle carrying an image display apparatus is described with reference to FIGS. First, a schematic configuration of the image display apparatus will be described with reference to FIG.

図1に示すように、本実施形態の画像表示装置は、車両10に搭載されている。車両10は、車両10の運転に関する各種制御を行う第1の車両制御装置11と第2の車両制御装置12とを搭載し、車両10に各種運転支援を提供する第1の運転支援装置13と第2の運転支援装置14とを搭載している。また、車両10は、第1及び第2の車両制御装置11,12、及び、第1及び第2の運転支援装置13,14に通信可能に接続される情報調停部15と、情報調停部15に通信可能に接続される表示制御部16とを備えている。さらに、車両10は、表示制御部16に通信可能に接続される情報出力装置17と、表示制御部16に通信可能に接続される視点検出装置18とを備える。本実施形態では、画像表示装置は、情報調停部15、表示制御部16、情報出力装置17及び視点検出装置18から構成される。   As shown in FIG. 1, the image display device of this embodiment is mounted on a vehicle 10. The vehicle 10 is equipped with a first vehicle control device 11 and a second vehicle control device 12 that perform various controls relating to driving of the vehicle 10, and a first driving support device 13 that provides various driving assistance to the vehicle 10. The second driving support device 14 is mounted. In addition, the vehicle 10 includes an information arbitration unit 15 that is communicably connected to the first and second vehicle control devices 11 and 12, and the first and second driving support devices 13 and 14, and an information arbitration unit 15. And a display control unit 16 connected to be communicable with each other. The vehicle 10 further includes an information output device 17 that is communicably connected to the display control unit 16 and a viewpoint detection device 18 that is communicably connected to the display control unit 16. In the present embodiment, the image display device includes an information arbitration unit 15, a display control unit 16, an information output device 17, and a viewpoint detection device 18.

情報出力装置17は、ユーザが認識可能な画像や音声を出力する装置である。情報出力装置17は、表示制御部16から画像情報G1が入力されるとともに、入力された画像情報G1に基づく画像をユーザが認識可能な態様で表示する。情報出力装置17は、表示装置40と音声装置41とを備える。表示装置40は、例えば、ヘッド・アップ・ディスプレイ、ナビゲーションシステムのモニタ、及びメータパネル等の画面を含み構成されている。また、音声装置41は、スピーカ、ブザーから構成されている。なお、画像には、静止画及び動画の少なくとも一方を含むことができる。また、音声には、警報音等の単なる音及び案内音声の少なくとも一方を含むことができる。   The information output device 17 is a device that outputs images and sounds that can be recognized by the user. The information output device 17 receives the image information G1 from the display control unit 16 and displays an image based on the input image information G1 in a manner that the user can recognize. The information output device 17 includes a display device 40 and an audio device 41. The display device 40 includes, for example, a screen such as a head-up display, a navigation system monitor, and a meter panel. Moreover, the audio | voice apparatus 41 is comprised from the speaker and the buzzer. Note that the image can include at least one of a still image and a moving image. In addition, the voice can include at least one of a simple sound such as an alarm sound and a guidance voice.

なお、本実施形態では、表示制御部16から入力される画像情報G1には、当該画像情報G1の表示形式を指定する表示形式HSが付されている。つまり、情報出力装置17は、画像情報G1をその画像情報G1に付されている表示形式HSで表示装置40の画面に表示させる。   In the present embodiment, the image information G1 input from the display control unit 16 has a display format HS that specifies the display format of the image information G1. That is, the information output device 17 displays the image information G1 on the screen of the display device 40 in the display format HS attached to the image information G1.

視点検出装置18は、ユーザの視線の画面上の移動を検出する、いわゆるアイトラッキングをする装置である。視点検出装置18は、表示装置40の画面近傍において、ユーザの目50を認識可能な位置に設置されている。視点検出装置18は、表示装置40の画面を見ているユーザの目50の動きを追跡することで、その画面中の視点51が移った部分を検出するとともに、その移った部分に滞留していた時間を検出する(ユーザの視線の移動を検出する工程)。そして視点検出装置18は、ユーザの視点51の画面上の部分(位置)と、その部分に滞留していた時間とを表示制御部16へ出力する。   The viewpoint detection device 18 is a device that performs so-called eye tracking that detects movement of the user's line of sight on the screen. The viewpoint detection device 18 is installed near the screen of the display device 40 at a position where the user's eyes 50 can be recognized. The viewpoint detection device 18 tracks the movement of the eyes 50 of the user who is viewing the screen of the display device 40, thereby detecting the portion of the screen where the viewpoint 51 has moved and staying in the shifted portion. The time is detected (step of detecting movement of the user's line of sight). Then, the viewpoint detection device 18 outputs the portion (position) on the screen of the user's viewpoint 51 and the time spent in the portion to the display control unit 16.

第1及び第2の車両制御装置11,12は、車両10の制動や、加速や、操舵などうちの1つ以上について制御を実行する装置である。第1及び第2の車両制御装置11,12は、図示しない各種センサから得られる車両に関する情報などに基づいて車両を制御する。第1及び第2の車両制御装置11,12は、外部への出力装置である情報出力部20を備え、情報出力部20を介して制御に関する各種情報(J1やJ2)を情報調停部15へ出力する。   The first and second vehicle control devices 11 and 12 are devices that execute control on one or more of braking, acceleration, steering, and the like of the vehicle 10. The 1st and 2nd vehicle control apparatuses 11 and 12 control a vehicle based on the information regarding the vehicle obtained from the various sensors which are not shown in figure. The first and second vehicle control devices 11 and 12 include an information output unit 20 that is an output device to the outside, and various information (J1 and J2) relating to control is sent to the information arbitration unit 15 via the information output unit 20. Output.

第1及び第2の車両制御装置11,12は、例えば、車両10のブレーキアクチュエータを制御するブレーキ制御装置、エンジンを制御するエンジン制御装置、ステアリングアクチュエータを制御するステアリング制御装置等の各種制御装置等によって構成されている。第1及び第2の車両制御装置11,12は、各種制御の内容に関する情報や、制御に利用する各種データに関する情報や、制御中に生じる警告に関する情報などを画像情報J1,J2として発生させる。例えば、ブレーキ制御装置であれば、使用されているブレーキの種類やその作動状態の情報などを出力し、エンジン制御装置であれば、エンジンの回転数や温度、冷却水温の情報などを出力し、ステアリング制御装置であれば、操舵角などを出力する。   The first and second vehicle control devices 11 and 12 are, for example, various control devices such as a brake control device that controls a brake actuator of the vehicle 10, an engine control device that controls the engine, a steering control device that controls the steering actuator, and the like. It is constituted by. The first and second vehicle control devices 11 and 12 generate, as image information J1 and J2, information related to various control contents, information related to various data used for control, information related to warnings generated during control, and the like. For example, if it is a brake control device, it outputs information such as the type of brake used and its operating state, and if it is an engine control device, it outputs information such as engine speed and temperature, coolant temperature, If it is a steering control device, it outputs a steering angle and the like.

第1及び第2の運転支援装置13,14は、車両10に各種運転支援を提供する装置である。第1及び第2の運転支援装置13,14は、図示しない各種センサから得られる車両に関する情報や車両の周辺環境に関する情報などに基づいて運転支援を実施する。第1及び第2の運転支援装置13,14は外部への出力装置である情報出力部20を備え、情報出力部20を介して運転支援の内容に関する情報(J3やJ4)を情報調停部15へ出力する。   The first and second driving assistance devices 13 and 14 are devices that provide various driving assistances to the vehicle 10. The first and second driving support devices 13 and 14 provide driving support based on information on vehicles obtained from various sensors (not shown), information on the surrounding environment of the vehicles, and the like. The first and second driving support devices 13 and 14 are provided with an information output unit 20 that is an output device to the outside, and information (J3 and J4) related to the content of driving support is sent via the information output unit 20 to the information arbitration unit 15. Output to.

第1及び第2の運転支援装置13,14は、例えば、追従走行支援を行う支援装置、衝突回避支援を行う支援装置等の各種支援装置によって構成されている。なお、こうした支援装置として各種の先進安全システムが挙げられる。支援内容としては、車線に沿った走行を補助する支援(レーンキープアシスト)、先行車に車間距離を維持して追従走行する支援(アクティブクルーズコントロール)、先行車や歩行者等の物体への衝突を回避する支援などが挙げられる。さらに、支援内容としては、車線からの逸脱を検出する支援、目視しづらい前方や側方をモニタ表示する支援、夜間に歩行者や障害物を検知する支援(ナイトビュー)などが挙げられる。   The 1st and 2nd driving assistance devices 13 and 14 are constituted by various support devices, such as a support device which performs follow-up driving support, a support device which performs collision avoidance support, for example. In addition, various advanced safety systems are mentioned as such support devices. The contents of assistance include assistance to assist driving along the lane (lane keeping assistance), assistance to follow the preceding vehicle while maintaining the distance between the vehicles (active cruise control), and collision with objects such as the preceding vehicle and pedestrians. Assistance to avoid this. Furthermore, examples of the support content include support for detecting a deviation from the lane, support for displaying the front and sides that are difficult to see, and support for detecting pedestrians and obstacles at night (night view).

第1及び第2の運転支援装置13,14は、運転支援に関する各種の情報を画像情報J3,J4として発生させる。例えば、レーンキープアシストは、車線における走行位置に関する情報を出力し、アクティブクルーズコントロールは、走行速度や先行車との車間距離に関する情報を出力し、衝突回避支援は、支援対象部との間の衝突時間や距離、位置関係、衝突回避のための運転操作に関する情報を出力する。また例えば、車線逸脱支援は、車線からの逸脱に対する注意喚起や警告に関する情報を出力し、モニタ表示支援は、モニタ画像に関する情報を表示し、ナイトビューは、障害物の位置に関する情報などを出力する。こうした情報は、車両の走行状況に応じてその都度出力されるため、複数の運転支援の出力情報が時間的に重なってしまうことも少なくない。   The first and second driving support devices 13 and 14 generate various information related to driving support as image information J3 and J4. For example, Lane Keep Assist outputs information related to the travel position in the lane, Active Cruise Control outputs information related to travel speed and distance from the preceding vehicle, and Collision Avoidance Support provides collision with the support target part. Outputs information on time, distance, positional relationship, and driving operations for collision avoidance. In addition, for example, the lane departure support outputs information on alerts and warnings for departure from the lane, the monitor display support displays information on the monitor image, and the night view outputs information on the position of the obstacle. . Since such information is output each time according to the traveling state of the vehicle, a plurality of driving support output information often overlaps in time.

第1及び第2の車両制御装置11,12、第1及び第2の運転支援装置13,14にはそれぞれ、前記情報出力部20が設けられている。
情報出力部20は、装置が出力した各種画像情報を情報調停部15へ伝達可能な形式の情報に変換して出力する。情報出力部20は、装置が出力した各種画像情報に、その画像情報の表示形式を指示する属性である表示属性を付与する要求性付与部21を備える。
The information output unit 20 is provided in each of the first and second vehicle control devices 11 and 12 and the first and second driving support devices 13 and 14.
The information output unit 20 converts various image information output by the apparatus into information in a format that can be transmitted to the information mediation unit 15 and outputs the information. The information output unit 20 includes a requestability adding unit 21 that adds display attributes, which are attributes indicating the display format of the image information, to various image information output by the apparatus.

要求性付与部21は、情報出力部20から出力する各種画像情報J1(J2、J3又はJ4)に、その画像情報をユーザにどのように認識させたいかその指標を示す属性としての表示属性を付与する。   The requestability assigning unit 21 displays various display information J1 (J2, J3, or J4) output from the information output unit 20 as a display attribute as an attribute indicating an index of how the image information is to be recognized by the user. Give.

図2のテーブル22に示すように、表示属性には、ユーザにどのように認識させたいかを示す指標として、「最初に見る」こと(第1の要求)、「見る時間が長い」こと(第2の要求)、「見逃さない」こと(第3の要求)が含まれる。そして、第1〜第3の要求のそれぞれにその要求の有無が設定される。なお、表示属性に含まれる要求は、第1〜3の要求には限られない。   As shown in the table 22 of FIG. 2, the display attributes include “first to see” (first request) and “long viewing time” as an index indicating how the user wants to be recognized. (Second request), “don't miss” (third request). The presence or absence of the request is set for each of the first to third requests. The request included in the display attribute is not limited to the first to third requests.

つまり、要求性付与部21は、各画像情報J1(J2、J3又はJ4)に、表示属性として、「第1の要求」の有無、「第2の要求」の有無、「第3の要求」の有無をそれぞれ付与する。なお、各画像情報J1〜J4は、第1〜第3の要求のうち必要な要求だけが設定されてもよい。そして、要求性付与部21により表示属性の付された画像情報J1(J2、J3又はJ4)が、情報出力部20から情報調停部15へ出力される。   That is, the requestability assigning unit 21 displays the presence / absence of “first request”, presence / absence of “second request”, and “third request” as display attributes in each image information J1 (J2, J3, or J4). The presence or absence of each is given. In addition, only the required request | requirement may be set for each image information J1-J4 among the 1st-3rd request | requirements. Then, the image information J1 (J2, J3, or J4) to which the display attribute is attached by the requestability assigning unit 21 is output from the information output unit 20 to the information arbitration unit 15.

第1及び第2の車両制御装置11,12や、第1及び第2の運転支援装置13,14はそれぞれ、演算装置(CPU)と、ROMやRAMなどの不揮発性や揮発性の記憶装置等とを有するマイクロコンピュータを含み構成されている。マイクロコンピュータの不揮発性の記憶装置には、各種処理を行う制御プログラム及び、各種処理に用いられる各種パラメータが保持されている。演算装置は、記憶装置に保持されている制御プログラムを必要に応じて実行するとともに、制御プログラムの実行処理時には必要に応じて各種パラメータを参照する。   The first and second vehicle control devices 11 and 12 and the first and second driving support devices 13 and 14 are an arithmetic device (CPU) and a nonvolatile or volatile storage device such as ROM or RAM, respectively. And a microcomputer having the above. The nonvolatile storage device of the microcomputer holds a control program for performing various processes and various parameters used for the various processes. The arithmetic device executes a control program held in the storage device as necessary, and refers to various parameters as necessary during execution of the control program.

つまり、第1及び第2の車両制御装置11,12には、車両制御を行うための車両制御用のプログラムと画像情報に表示属性を付与するプログラムとが含まれ、この車両制御用のプログラムや画像情報に表示属性を付与するプログラムの実行処理に利用される各種パラメータが含まれる。また、第1及び第2の運転支援装置13,14には、車両の運転支援を行うための運転支援用のプログラムと画像情報に表示属性を付与するプログラムとが含まれ、この運転支援用のプログラムや画像情報に表示属性を付与するプログラムの実行処理に利用される各種パラメータが含まれる。よって、画像情報に表示属性を付与するプログラムが実行されることで、情報出力部20の機能、及び要求性付与部21の機能が発揮される。   That is, the first and second vehicle control devices 11 and 12 include a vehicle control program for performing vehicle control and a program for adding display attributes to the image information. Various parameters used for the execution processing of the program for adding display attributes to the image information are included. The first and second driving support devices 13 and 14 include a driving support program for driving the vehicle and a program for adding display attributes to the image information. Various parameters used for the execution processing of the program or the program for assigning the display attribute to the image information are included. Therefore, the function of the information output unit 20 and the function of the requestability adding unit 21 are exhibited by executing a program for adding display attributes to image information.

[表示形式を選択する構成]
次に、画像情報に適した表示形式を選択する構成と動作について説明する。
情報調停部15や表示制御部16はそれぞれ、演算装置(CPU)と、ROMやRAMなどの不揮発性や揮発性の記憶装置等とを有するマイクロコンピュータを含み構成されている。マイクロコンピュータの不揮発性の記憶装置には、各種処理を行う制御プログラム及び、各種処理に用いられる各種パラメータが保持されている。演算装置は、記憶装置に保持されている制御プログラムを必要に応じて実行するとともに、制御プログラムの実行処理時には必要に応じて各種パラメータを参照する。続いて、情報調停部15や表示制御部16における、制御プログラムの内容及び機能、当該制御プログラムの処理に必要な各種パラメータなどについて詳述する。
[Configuration for selecting the display format]
Next, a configuration and operation for selecting a display format suitable for image information will be described.
Each of the information arbitration unit 15 and the display control unit 16 includes a microcomputer having an arithmetic device (CPU) and a nonvolatile or volatile storage device such as a ROM or a RAM. The nonvolatile storage device of the microcomputer holds a control program for performing various processes and various parameters used for the various processes. The arithmetic device executes a control program held in the storage device as necessary, and refers to various parameters as necessary during execution of the control program. Next, details and functions of the control program and various parameters necessary for processing of the control program in the information arbitration unit 15 and the display control unit 16 will be described in detail.

情報調停部15は、入力された1又は複数の画像情報J1〜J4の数を、情報出力装置17に表示可能な数に調整する。情報調停部15は、1又は複数の画像情報J1〜J4が第1及び第2の車両制御装置11,12や第1及び第2の運転支援装置13,14から入力される。そして、情報出力装置17は、1又は複数の画像情報J1〜J4の数を表示可能な数に調整した画像情報G1を表示制御部16へ出力する。例えば、情報出力装置17に表示可能な数が「2つ」である場合、情報調停部15は、表示制御部16へ出力する画像情報G1の数を最大「2つ」に調整する。つまり情報調停部15は、同時期に2つ以下の画像情報(J1等)が入力された場合、入力された画像情報(J1等)をそのまま画像情報G1として表示制御部16へ出力する。一方、情報調停部15は、同時期に3つ以上の画像情報(J1等)が入力された場合、重要性などに基づいて選択した2つの画像情報G1,G2を表示制御部16へ出力する。情報調停部15は、画像情報(J1等)を出力した装置の種類や、画像情報(J1等)に含まれている表示属性などに基づいて優先度を求め、求めた優先度が高いもの2を画像情報G1,G2として抽出する。なお、画像情報(J1等)を出力した装置の種類に基づく優先度や、表示属性の優先度は、情報調停部15の記憶装置に設定されている。以下、説明の便宜上、1つの画像情報G1を例に説明するが、画像情報は複数であってもよい。   The information arbitration unit 15 adjusts the number of input one or more pieces of image information J1 to J4 to a number that can be displayed on the information output device 17. The information arbitration unit 15 receives one or more pieces of image information J1 to J4 from the first and second vehicle control devices 11 and 12 and the first and second driving support devices 13 and 14. Then, the information output device 17 outputs the image information G1 in which the number of one or more pieces of image information J1 to J4 is adjusted to a displayable number to the display control unit 16. For example, when the number that can be displayed on the information output device 17 is “2”, the information arbitration unit 15 adjusts the maximum number of image information G1 to be output to the display control unit 16 to “2”. That is, when two or less pieces of image information (J1 or the like) are input at the same time, the information arbitration unit 15 outputs the input image information (J1 or the like) as it is to the display control unit 16 as the image information G1. On the other hand, when three or more pieces of image information (J1 or the like) are input at the same time, the information arbitration unit 15 outputs the two pieces of image information G1 and G2 selected based on the importance to the display control unit 16. . The information arbitration unit 15 obtains the priority based on the type of the device that output the image information (J1 etc.), the display attribute included in the image information (J1 etc.), and the obtained higher priority 2 Are extracted as image information G1 and G2. Note that the priority based on the type of the device that output the image information (J1 or the like) and the priority of the display attribute are set in the storage device of the information arbitration unit 15. Hereinafter, for convenience of explanation, one image information G1 will be described as an example, but a plurality of pieces of image information may be used.

表示制御部16は、画像情報G1の表示形式HSを決定する。表示制御部16は、画像情報G1が情報調停部15から入力される。入力された画像情報G1は、表示制御部16にて所定の処理を行うため、表示制御部16の記憶装置(第1の記憶部)に記憶される(第1の記憶工程)。表示制御部16は、入力された画像情報G1に適切な表示形式HSを選択する。そして、表示制御部16は、選択した表示形式HSを画像情報G1とともに情報出力装置17へ出力する。   The display control unit 16 determines the display format HS of the image information G1. The display control unit 16 receives the image information G1 from the information arbitration unit 15. The input image information G1 is stored in the storage device (first storage unit) of the display control unit 16 in order to perform predetermined processing in the display control unit 16 (first storage step). The display control unit 16 selects a display format HS appropriate for the input image information G1. The display control unit 16 outputs the selected display format HS to the information output device 17 together with the image information G1.

表示制御部16は、画像情報G1に適切な表示形式HSを選択する表示形式処理部としての表示形式択部30と、画像情報G1に対応させる表示形式HSが登録される表示形式リスト31とを備えている。   The display control unit 16 includes a display format selection unit 30 as a display format processing unit that selects an appropriate display format HS for the image information G1, and a display format list 31 in which the display format HS corresponding to the image information G1 is registered. I have.

表示形式リスト31は、表示制御部16の記録装置(第2の記憶部)に設定・保持されている(第2の記憶工程)。
図3に示すように、表示形式リスト31には、画面上でのユーザの視線の移動を検出した結果と、その検出されたユーザの視線の画面上の移動に基づいて推定されるユーザによる画面の認識状態を示す属性としての認識属性とが関連付けたテーブル310が登録されている。テーブル310には、画面上でのユーザの視線の移動の状態から分類された3つの移動状態として、「画面内に移った視点が最初に見る位置・表示」(第1の移動状態)、「画面内で視線が滞在する位置・表示」(第2の移動状態)、「画面内の視線が必ず通る位置・表示」(第3の視線状態)が挙げられている。そして、本実施形態では、「第1の移動状態」から推定される認識属性を「最初に見る」(第1の認識)とし、「第2の移動状態」から推定される認識属性を「見る時間が長い」(第2の認識)とし、「第3の移動状態」から推定される認識属性を「見逃さない」(第3の認識)としている。つまり、テーブル310では、「第1の移動状態」と「第1の認識」とが関連付けられ、「第2の移動状態」と「第2の認識」とが関連付けられ、「第3の移動状態」と「第3の認識」とが関連付けられている。なお、テーブル310に設定されている移動状態と任じ帰属性の関係は、表示装置40に表示されている他の画像の種類や、音や音声、車両10の走行環境などに応じて、適切な関係に変更されてもよい。
The display format list 31 is set and held in the recording device (second storage unit) of the display control unit 16 (second storage step).
As shown in FIG. 3, in the display format list 31, the user's screen estimated based on the result of detecting the movement of the user's line of sight on the screen and the detected movement of the user's line of sight on the screen is displayed. Registered is a table 310 associated with a recognition attribute as an attribute indicating the recognition state. In the table 310, as the three movement states classified from the movement state of the user's line of sight on the screen, “position / display where the viewpoint moved first in the screen is first seen” (first movement state), “ The position / display where the line of sight stays on the screen (second movement state) and the “position / display where the line of sight always passes” (third line of sight state) are mentioned. In the present embodiment, the recognition attribute estimated from the “first movement state” is “view first” (first recognition), and the recognition attribute estimated from the “second movement state” is “viewing”. The time attribute is “long” (second recognition), and the recognition attribute estimated from the “third movement state” is “not missed” (third recognition). In other words, in the table 310, “first movement state” and “first recognition” are associated, “second movement state” and “second recognition” are associated, and “third movement state” ”And“ third recognition ”are associated with each other. The relationship between the movement state set in the table 310 and the assigned attribution is appropriate depending on the type of other images displayed on the display device 40, sound and voice, the traveling environment of the vehicle 10, and the like. The relationship may be changed.

表示形式択部30は、入力された画像情報G1に付加されている表示属性を得る。つまり、表示形式択部30は、表示属性から「最初に見る」(第1の要求)の有無、「見る時間が長い」(第2の要求)の有無、「見逃さない」(第3の要求)の有無を取得する。そして、表示形式択部30は、取得された第1〜第3の要求の有無と、テーブル310に登録されている認識属性(第1〜第3の認識)とを対比し、表示属性に関連性の高い認識属性を関連付ける。   The display format selection unit 30 obtains a display attribute added to the input image information G1. That is, the display format selection unit 30 determines from the display attributes whether or not “first look” (first request), “long viewing time” (second request), “do not miss” (third request). ) Is obtained. The display format selection unit 30 compares the acquired first to third requests with the recognition attributes (first to third recognitions) registered in the table 310 and relates to the display attributes. Associate a high recognition attribute.

例えば、表示形式択部30は、表示属性に「最初に見る」(第1の要求)が有る場合、関連性の高い認識属性としてテーブル310の「第1の認識」を関連付ける。また、表示形式択部30は、表示属性に「見る時間が長い」(第2の要求)が有る場合、関連性の高い認識属性としてテーブル310の「第2の認識」を関連付ける。さらに、表示形式択部30は、表示属性に「見逃さない」(第3の要求)が有る場合、関連性の高い認識属性としてテーブル310の「第3の認識」を関連付ける。なお、本実施形態では、表示属性への認識属性の対応付けは、優先度の高いものが1つ対応付けられる。また、優先度は高い順に、第1の要求、第2の要求、第3の要求となっている。   For example, when the display attribute includes “view first” (first request), the display format selection unit 30 associates “first recognition” in the table 310 as a highly relevant recognition attribute. In addition, when the display attribute includes “long viewing time” (second request), the display format selection unit 30 associates “second recognition” in the table 310 as a highly relevant recognition attribute. Further, the display format selection unit 30 associates “third recognition” in the table 310 as a highly relevant recognition attribute when “not miss” (third request) is included in the display attribute. In the present embodiment, one recognition attribute is associated with one display attribute with a high priority. Also, the first request, the second request, and the third request are in descending order of priority.

そして、表示形式択部30は、画像情報G1の表示属性に関連付けられた認識属性に対応する表示形式HSを、画像情報G1の表示形式として選択する。
図4のテーブル301に示すように、表示形式択部30は、「第1の要求」を有する画像情報G1には表示形式HSとして「第1の形式」(HS1)を対応付け、「第2の要求」を有する画像情報G1には表示形式HSとして「第2の形式」(HS2)を対応付ける。また、表示形式択部30は、「第3の要求」を有する画像情報G1には表示形式として「第3の形式」(HS3)を対応付ける。
Then, the display format selection unit 30 selects the display format HS corresponding to the recognition attribute associated with the display attribute of the image information G1 as the display format of the image information G1.
As shown in the table 301 of FIG. 4, the display format selection unit 30 associates “first format” (HS1) as the display format HS with the image information G1 having “first request”. “Second request” (HS2) is associated as the display format HS with the image information G1 having “request”. Further, the display format selection unit 30 associates “third format” (HS3) as the display format with the image information G1 having “third request”.

詳述すると、テーブル301に示される第1〜第3の形式HS1〜HS3は、テーブル310に基づいて定まる。つまり、表示属性に関連する認識属性を介してテーブル310を参照することで、表示属性の第1〜第3の要求に対応する第1〜第3の移動状態が定まる。例えば、「第1の要求」には「第1の移動状態」が対応し、「第2の要求」には「第2の移動状態」が対応し、「第3の要求」には「第3の移動状態」が対応する。そして、「第1の移動状態」に基づき「第1の形式」(HS1)が「画面内に移った視点が最初に見る位置・表示への表示」に定まる。また、「第2の移動状態」に基づき「第2の形式」(HS2)が「画面内で視線が滞在する位置・表示への表示」に定まる。さらに、「第3の移動状態」に基づき「第3の形式」(HS3)が「画面内の視線が必ず通る位置・表示への表示」に定まる。   More specifically, the first to third formats HS1 to HS3 shown in the table 301 are determined based on the table 310. That is, referring to the table 310 via the recognition attribute related to the display attribute, the first to third movement states corresponding to the first to third requests for the display attribute are determined. For example, “first movement state” corresponds to “first request”, “second movement state” corresponds to “second request”, and “first request” corresponds to “first request”. "3 movement state" corresponds. Then, based on the “first movement state”, the “first format” (HS1) is determined as “display on the position / display where the viewpoint moved into the screen is first seen”. Further, based on the “second movement state”, the “second format” (HS2) is determined as “display on the position / display where the line of sight stays in the screen”. Furthermore, based on the “third movement state”, the “third format” (HS3) is determined as “display on the position and display through which the line of sight always passes”.

図5のテーブル311に示すように、第1〜第3の形式HS1〜HS3には、表示装置40における表示位置が含まれる。例えば、第1の形式HS1には、表示位置として「画面中央」が設定され、第2の形式HS2には、表示位置として「画面右」が設定され、第3の形式HS3には、表示位置として「画面右下」が設定されている。つまり、画像情報G1は、情報出力装置17の表示装置40において、選択された第1〜第3の形式HS1〜HS3に設定されている位置に表示されるようになる。なお、表示形式HSには、表示位置以外のパラメータ、例えば、大きさ、色、形などが含まれてもよいが、本実施形態では説明の便宜上、表示位置についてのみ説明し、その他のパラメータについての説明は割愛する。   As shown in the table 311 in FIG. 5, the display positions on the display device 40 are included in the first to third formats HS1 to HS3. For example, “screen center” is set as the display position in the first format HS1, “screen right” is set as the display position in the second format HS2, and the display position is set in the third format HS3. Is set as “bottom right of screen”. That is, the image information G1 is displayed on the display device 40 of the information output device 17 at a position set in the selected first to third formats HS1 to HS3. The display format HS may include parameters other than the display position, for example, size, color, shape, etc. In this embodiment, only the display position is described for convenience of explanation, and other parameters are described. I will omit the explanation.

そして、画像情報G1とその画像情報G1に選択された表示形式HSとが表示形式択部30から情報出力装置17へ出力され、情報出力装置17は入力した画像情報G1をその画像情報G1に選択された表示形式HSで表示する。   Then, the image information G1 and the display format HS selected for the image information G1 are output from the display format selection unit 30 to the information output device 17, and the information output device 17 selects the input image information G1 as the image information G1. Is displayed in the displayed display format HS.

図6に示すように、例えば、情報出力装置17は、第1の形式HS1が選択された画像情報G1を表示装置40の画面中央のエリア401に表示し、第2の形式HS2が選択された画像情報G1を表示装置40の画面右のエリア402に表示し、第3の形式HS3が選択された画像情報G1を表示装置40の画面右下のエリア403に表示する。   As shown in FIG. 6, for example, the information output device 17 displays the image information G1 in which the first format HS1 is selected in the area 401 in the center of the screen of the display device 40, and the second format HS2 is selected. The image information G1 is displayed in the area 402 on the right side of the screen of the display device 40, and the image information G1 in which the third format HS3 is selected is displayed in the area 403 on the lower right side of the screen of the display device 40.

これにより、本実施形態の画像表示装置は、各装置の出力した画像情報J1〜J4から選択された各画像情報G1を、その画像情報G1の有する表示属性に適した表示形式HSで表示装置40に表示させる。   As a result, the image display apparatus according to the present embodiment displays each image information G1 selected from the image information J1 to J4 output by each apparatus in a display format HS suitable for the display attribute of the image information G1. To display.

[視線の移動を学習する構成]
次に、画面上でのユーザの視線の移動を学習する構成と動作について説明する。
図1に示すように、表示制御部16は、ユーザの視線の画面上の動きを学習する。表示制御部16は、表示形式リスト31の登録内容を管理するリスト管理部32と、画面上でのユーザの視線の移動を学習する認識属性推定部としての視点学習部33とを備えている。学習は表示装置40内にユーザの視点51が入った時点から開始する。
[Configuration to learn eye movement]
Next, a configuration and operation for learning the movement of the user's line of sight on the screen will be described.
As shown in FIG. 1, the display control unit 16 learns the movement of the user's line of sight on the screen. The display control unit 16 includes a list management unit 32 that manages registration contents of the display format list 31 and a viewpoint learning unit 33 as a recognition attribute estimation unit that learns the movement of the user's line of sight on the screen. Learning starts when the user's viewpoint 51 enters the display device 40.

なお、表示装置40内の表示が切り替わった時点などからも学習を開始してよい。学習する情報には、音や、地理的情報、交通状況、同乗者数、運転操作、運転操作以外の操作などが含まれていてもよい。地理的情報には、高速道路や、料金所、コンビニエンスストアなどが含まれ、交通状況には、渋滞情報や事故情報などが含まれてもよい。運転操作には、ブレーキの操作遅れ時間が含まれてもよいし、運転操作以外の操作には、エアコン操作や、オーディオ操作、方向指示機操作などが含まれてもよい。これにより、表示形式と認識属性との関係にこうした情報が影響する場合、その影響を学習することができるようにもなる。   Note that the learning may be started from the time when the display in the display device 40 is switched. The information to be learned may include sounds, geographical information, traffic conditions, the number of passengers, driving operations, operations other than driving operations, and the like. The geographical information may include an expressway, a toll booth, a convenience store, and the like, and the traffic situation may include traffic jam information and accident information. The driving operation may include a brake operation delay time, and the operations other than the driving operation may include an air conditioner operation, an audio operation, a direction indicator operation, and the like. Thereby, when such information influences the relationship between the display format and the recognition attribute, the influence can be learned.

視点学習部33は、視点検出装置18から、表示装置40を見るユーザの視点51の画面上の位置と、その位置に視点51が滞留していた時間とを取得するとともに、そのとき表示装置40に表示させている画像情報G1の表示形式HSを取得する。そして、視点学習部33は、表示させている画像情報G1の表示形式HSから視点51の位置に対応する表示形式HSを抽出する。さらに、視点学習部33は、抽出した表示形式HSを、画面上でのユーザの視線の移動に関連付ける。図3のテーブル310に示したように、画面上でのユーザの視線の移動状態を3つに分類したとき、分類された各移動状態から認識属性が推定される(推定工程)。また、上述したように、認識属性と表示属性とは関連性を有することから、図4のテーブル301に示すように、推定された認識属性に表示形式HSを対応付けることができる(対応付け工程)。   The viewpoint learning unit 33 acquires the position on the screen of the viewpoint 51 of the user viewing the display device 40 and the time during which the viewpoint 51 has stayed at the position from the viewpoint detection device 18, and at that time, the display device 40. The display format HS of the image information G1 displayed on the screen is acquired. Then, the viewpoint learning unit 33 extracts the display format HS corresponding to the position of the viewpoint 51 from the display format HS of the displayed image information G1. Further, the viewpoint learning unit 33 associates the extracted display format HS with the movement of the user's line of sight on the screen. As shown in the table 310 of FIG. 3, when the movement state of the user's line of sight on the screen is classified into three, recognition attributes are estimated from the classified movement states (estimation process). Further, as described above, since the recognition attribute and the display attribute are related, as shown in the table 301 of FIG. 4, the display format HS can be associated with the estimated recognition attribute (association step). .

視点学習部33は、認識属性と表示形式HSとを対応付けた情報を累積し、この累積された情報に基づいて、ユーザによる画像の認識態様を示す属性である認識属性に適した表示形式HSを学習する。   The viewpoint learning unit 33 accumulates information in which the recognition attribute is associated with the display format HS, and based on the accumulated information, the display format HS suitable for the recognition attribute that is an attribute indicating an image recognition mode by the user. To learn.

本実施形態では、視点学習部33は、画面上でのユーザの視線の移動状態を、「画面内に移った視点が最初に見る位置・表示」(第1の移動状態)と、「画面内で視線が滞留する位置・表示」(第2の移動状態)と、「画面内の視線が必ず通る位置・表示」(第3の移動状態)とに分類する。   In the present embodiment, the viewpoint learning unit 33 sets the movement state of the user's line of sight on the screen as “the position / display where the viewpoint that has moved into the screen is first viewed” (first movement state) and “ Are classified into “position / display where the line of sight stays” (second movement state) and “position / display where the line of sight always passes in the screen” (third movement state).

図7は、例えば、視点検出装置18に検出された、表示装置40の画面を移動した視点51の経路が視線L1で示されている。視線L1は、画面外から画面内に移動した視点51が最初に見た位置が「始点」P10であり、所定時間滞留した位置が「滞留」P11であり、複数の視線L1で必ず見る位置が「必見」P12であり、視点51が画面内から画面外に出る位置が「終点」P13である。視点学習部33は、検出された視線L1に基づいて、「始点」P10を「第1の移動状態」に分類し、「滞留」P11を「第2の移動状態」に分類し、「必見」P12を「第3の移動状態」に分類する。つまり、「始点」P10が「第1の認識」に対応付けられ、「滞留」P11が「第2の認識」に対応付けられ、「必見」P12が「第3の認識」に対応付けられる。視点学習部33は、こうした対応付けの情報を累積する。   In FIG. 7, for example, the path of the viewpoint 51 that has been detected by the viewpoint detection apparatus 18 and moved on the screen of the display apparatus 40 is indicated by the line of sight L1. The line of sight L1 is the “starting point” P10 when the viewpoint 51 moved from the outside of the screen to the inside of the screen is first viewed, and the position where it stays for a predetermined time is “staying” P11. “Must see” P12, and the position where the viewpoint 51 goes out of the screen from the screen is “end point” P13. Based on the detected line of sight L1, the viewpoint learning unit 33 classifies the “starting point” P10 into the “first moving state”, classifies the “staying” P11 into the “second moving state”, and “must see” P12 is classified into the “third movement state”. That is, “start point” P10 is associated with “first recognition”, “stay” P11 is associated with “second recognition”, and “must see” P12 is associated with “third recognition”. The viewpoint learning unit 33 accumulates such association information.

図8は、例えば、視点検出装置18に検出された、表示装置40の画面を移動した視点51の経路が視線L2で示されている。視線L2は、画面外から画面内に移動した視点51が最初に見た位置が「始点」P20であり、複数の視線L2で必ず見る位置が「必見」P21であり、所定時間滞留した位置が「滞留」P22であり、視点51が画面内から画面外に出る位置が「終点」P23である。視点学習部33は、検出された視線L2に基づいて、「始点」P20を「第1の移動状態」に分類し、「滞留」P22を「第2の移動状態」に分類し、「必見」P21を「第3の移動状態」に分類する。つまり、「始点」P20が「第1の認識」に対応付けられ、「滞留」P22が「第2の認識」に対応付けられ、「必見」P21が「第3の認識」に対応付けられる。また、視点学習部33は、こうした対応付けの情報を累積する。   In FIG. 8, for example, the path of the viewpoint 51 that is detected by the viewpoint detection apparatus 18 and moves on the screen of the display apparatus 40 is indicated by the line of sight L2. The line of sight L2 is the “starting point” P20 when the viewpoint 51 moved from the outside of the screen into the screen is first viewed, the position that is always viewed with the plurality of lines of sight L2 is “must see” P21, “Staying” P22, and the position where the viewpoint 51 goes out of the screen from the screen is “end point” P23. Based on the detected line of sight L2, the viewpoint learning unit 33 classifies the “starting point” P20 into the “first movement state”, classifies the “staying” P22 into the “second movement state”, and “must see” P21 is classified as “third movement state”. That is, “start point” P20 is associated with “first recognition”, “stay” P22 is associated with “second recognition”, and “must see” P21 is associated with “third recognition”. Further, the viewpoint learning unit 33 accumulates such association information.

すなわち、視点学習部33は、こうして累積された対応付けの情報に基づいて、認識属性に適した表示形式HSを学習する。なお学習は、公知の方法を適用可能であり、例えば、累積された情報に基づいて、割合の高いものや回数の多いものを学習結果とするようにしてもよい。また、学習に用いる対応付けの情報の蓄積期間は、全期間でもよいし、一部期間でもよい。蓄積期間を長くすれば、学習結果を安定させることができ、蓄積期間を近時に制限すれば、ユーザの視線の移動傾向の変化にも、迅速に対応できるようになる。   That is, the viewpoint learning unit 33 learns the display format HS suitable for the recognition attribute based on the association information accumulated in this way. For learning, a known method can be applied. For example, a learning method having a high ratio or a high frequency may be used as a learning result based on accumulated information. Further, the accumulation period of the association information used for learning may be the entire period or a partial period. If the accumulation period is lengthened, the learning result can be stabilized, and if the accumulation period is limited recently, it is possible to quickly cope with a change in the movement tendency of the user's line of sight.

図9には、視点学習部33による学習前後における第1〜第3の認識に対応する表示位置の例を対比する表331が示されている。学習前は、「第1の認識」に対応する表示位置は「画面中央」であり、「第2の認識」に対応する表示位置は「画面右」であり、「第3の認識」に対応する表示位置は「画面右下」である。一方、学習後は、「第1の認識」に対応する表示位置は「画面中央上」になり、「第2の認識」に対応する表示位置は「画面右下」になり、「第3の認識」に対応する表示位置は「画面左上」になる。なお、このように得られた学習結果は、視点学習部33の管理する学習データベースに保持される。この学習データベースは、表示制御部16の記憶装置に設けることができる。   FIG. 9 shows a table 331 that compares examples of display positions corresponding to the first to third recognitions before and after learning by the viewpoint learning unit 33. Before learning, the display position corresponding to “first recognition” is “center of screen”, the display position corresponding to “second recognition” is “right of screen”, and corresponds to “third recognition”. The display position is “bottom right of screen”. On the other hand, after learning, the display position corresponding to “first recognition” is “upper center of the screen”, the display position corresponding to “second recognition” is “lower right of the screen”, and “third The display position corresponding to “recognition” is “upper left of the screen”. The learning result obtained in this way is held in a learning database managed by the viewpoint learning unit 33. This learning database can be provided in the storage device of the display control unit 16.

リスト管理部32は、視点学習部33の有する学習データベースに保持されている学習結果を表示形式リスト31のテーブル310に反映させる。つまり、リスト管理部32は、テーブル310での推定される認識属性に対応する、画面上でのユーザの視線の移動状態を、学習結果により得られた画像を見る位置や表示に変更する。これにより、画像情報G1に対して選択される表示形式HSを、画面上でのユーザの視線の視線に適した表示形式HSにすることができる。   The list management unit 32 reflects the learning result held in the learning database of the viewpoint learning unit 33 in the table 310 of the display format list 31. That is, the list management unit 32 changes the movement state of the user's line of sight on the screen corresponding to the estimated recognition attribute in the table 310 to a position or display for viewing the image obtained from the learning result. Thereby, the display format HS selected for the image information G1 can be changed to the display format HS suitable for the line of sight of the user's line of sight on the screen.

なお、リスト管理部32は、テーブル310への学習結果の反映を、所定の条件が成立することに応じて行う。これは、表示形式の変化がユーザ、特に運転者に与える影響を低減させるためである。例えば、所定の条件としては、車両10が停止している場合や、テーブル310の内容と学習結果との相違が一定以上になった場合や、ユーザが許可した場合などの1つ又は複数が挙げられる。   Note that the list management unit 32 reflects the learning result on the table 310 in accordance with the establishment of a predetermined condition. This is to reduce the influence of the change in the display format on the user, particularly the driver. For example, the predetermined condition may be one or more when the vehicle 10 is stopped, when the difference between the contents of the table 310 and the learning result becomes a certain level or when the user permits. It is done.

[ユーザ毎に学習する構成]
次に、画面上でのユーザの視線の移動状態を、ユーザ毎に学習する構成と動作について説明する。
[Configuration to learn for each user]
Next, a configuration and operation for learning the movement state of the user's line of sight on the screen for each user will be described.

表示制御部16は、複数のユーザのそれぞれに対して画面上でのユーザの視線の動きを学習する。表示制御部16は、車両10のユーザを特定するとともに、その特定したユーザの学習データベースを選択し、その選択した学習データベースの学習結果を表示形式リスト31に反映させるユーザ特定部34を備える。   The display control unit 16 learns the movement of the user's line of sight on the screen for each of the plurality of users. The display control unit 16 includes a user specifying unit 34 that specifies the user of the vehicle 10, selects the learning database of the specified user, and reflects the learning result of the selected learning database in the display format list 31.

ユーザ特定部34は、車両10の運転者となるユーザを、車両10に使用される電子鍵や、ユーザ自身による設定器を介しての設定など、公知の方法を通じて特定する。
図10に示すように、ユーザ特定部34は、ユーザ毎の学習データベースを管理する。なお、ユーザ毎の学習データベースは、別々のデータベースでも、1つのデータベースの一部領域から構成されていてもよい。このユーザ毎の学習データベースは、表示制御部16の記憶装置に設けることができる。
The user specifying unit 34 specifies a user who is a driver of the vehicle 10 through a known method such as an electronic key used for the vehicle 10 or a setting by a user using a setting device.
As illustrated in FIG. 10, the user specifying unit 34 manages a learning database for each user. Note that the learning database for each user may be a separate database or a partial area of one database. The learning database for each user can be provided in the storage device of the display control unit 16.

そして、ユーザ特定部34は、特定されたユーザの学習データベースの内容を、視点学習部33の学習データベースに反映させ、画面上での選択されたユーザの視線の移動の学習がさらに行われるようにする。なお、所定時間毎や、車両が駐車するときや、運転者が交代するときなどに、視点学習部33の学習データベースの内容を対応するユーザの学習データベースに反映させることで、当該ユーザに関する学習状態が維持される。   Then, the user specifying unit 34 reflects the contents of the specified user learning database in the learning database of the viewpoint learning unit 33 so that the learning of the movement of the selected user's line of sight on the screen is further performed. To do. In addition, when the vehicle is parked or the driver is changed every predetermined time, the learning state of the user is reflected by reflecting the contents of the learning database of the viewpoint learning unit 33 in the corresponding user learning database. Is maintained.

さらに、ユーザ特定部34は、特定されたユーザの学習データベースの学習結果を、表示形式リスト31のテーブル310に反映させる。これにより、表示形式択部30は、ユーザに対応するテーブル310を用いて、画像情報G1にユーザに適した表示形式HSを選択することができる。そして、表示装置40には、ユーザの認識属性に適合する表示形式HSで画像情報G1が表示されるようになるため、当該画像情報G1がユーザに適切に認識されることが期待される。   Further, the user specifying unit 34 reflects the learning result of the specified user's learning database in the table 310 of the display format list 31. Thereby, the display format selection part 30 can select the display format HS suitable for a user for the image information G1 using the table 310 corresponding to a user. Then, the image information G1 is displayed on the display device 40 in the display format HS that conforms to the user's recognition attribute, so that it is expected that the image information G1 is appropriately recognized by the user.

以上説明したように、本実施形態に係る画像表示装置によれば、以下に列記する効果が得られるようになる。
(1)これまでは、どういった表示形式が運転者の注意を引くかという観点から画像の表示形式が選択されていた。ところが、表示画面が広くなったり、画面に複数の情報が表示されたりする場合、その画像のなかでのユーザの視線の動き、例えば、ユーザがどのような表示形式に素早く反応し、どのような画像を注視するのかなどについての検討は十分になされていなかった。ところが、先進安全システムが提供する情報のなかには、短時間でユーザに認識してもらう必要性のある情報が含まれていたり、ユーザに注視してもらうことが好ましい情報が含まれていたりするなど、画像に対して期待される反応をユーザから得るための検討がなされるようになってきている。
As described above, according to the image display apparatus according to the present embodiment, the effects listed below can be obtained.
(1) Until now, the display format of the image has been selected from the viewpoint of what display format draws the driver's attention. However, when the display screen becomes wider or multiple information is displayed on the screen, the movement of the user's line of sight in the image, for example, what display format the user reacts quickly, There has not been enough studies on whether to look at images. However, the information provided by the advanced safety system includes information that needs to be recognized by the user in a short period of time, or includes information that is preferably received by the user. Studies are being conducted to obtain the expected response to images from users.

このような構成によれば、検知されたユーザの視点51(視線)の移動と、画像の表示形式HSとが対応付けされる。通常、ユーザの視点51(視線)の移動は、画像に対するユーザの反応や興味に関連する。例えば、表示形式HSには、ユーザの視線が素早く反応する形式もあるし、見る時間が長くなる形式もある。よって、ユーザの視点51(視線)の移動状態に対応する画像の表示形式HSには、ユーザの反応や興味(認識属性)が関連付けされる。こうしたことから、画像情報G1に付す表示属性と画像に対して期待されるユーザの反応に適した画像の表示形式HSとを関連付けることにより、表示属性に基づいて画像情報G1が適切に表示されるようになる。これにより、画像情報G1の画像に対して期待されるユーザの反応が得られる表示形式が適切に付与されるようになる。   According to such a configuration, the detected movement of the viewpoint 51 (line of sight) of the user is associated with the image display format HS. Normally, the movement of the user's viewpoint 51 (line of sight) is related to the user's reaction and interest in the image. For example, the display format HS includes a format in which the user's line of sight reacts quickly and a format in which the viewing time is increased. Therefore, the user's reaction and interest (recognition attribute) are associated with the image display format HS corresponding to the movement state of the user's viewpoint 51 (line of sight). For this reason, the image information G1 is appropriately displayed based on the display attribute by associating the display attribute attached to the image information G1 with the display format HS of the image suitable for the expected user response to the image. It becomes like this. Thereby, the display format from which the expected user reaction is obtained for the image of the image information G1 is appropriately given.

こうした関連づけは、多くの画像情報G1が表示されているような画面における表示画像には、特に有効である。
(2)このような構成によれば、視点検出装置18がユーザの視線の移動を検出するため、認識属性が実際に画面を視認するユーザの画像に対する反応などに基づいて定められる。こうした認識属性が画像情報G1の表示属性に対応付けされることで、認識属性に対応する表示属性を有する画像情報を、実際に画面を視認するユーザに適した表示形式HSで表示できる。つまり、画面に表示される画像がユーザに認識させたい態様で表示されるようになる。
Such association is particularly effective for a display image on a screen on which a lot of image information G1 is displayed.
(2) According to such a configuration, since the viewpoint detection device 18 detects the movement of the user's line of sight, the recognition attribute is determined based on the reaction to the image of the user who actually views the screen. By associating such a recognition attribute with the display attribute of the image information G1, image information having a display attribute corresponding to the recognition attribute can be displayed in a display format HS suitable for a user who actually views the screen. That is, the image displayed on the screen is displayed in a manner that the user wants to recognize.

(3)このような構成によれば、既に記憶されている認識属性と表示形式HSとの対応付けが、視点検出装置18が検出したユーザの視線の移動に基づいて推定される認識属性と表示形式HSとの対応付けによって適宜置き換えられる、つまり修正されるようになる。これにより、画面上におけるユーザの視線の移動の傾向に変化が生じたとしても、その変化に表示形式も対応するようになり、画面にはユーザに認識させたい態様で画像が表示されるようになる。   (3) According to such a configuration, the recognition attribute and display in which the association between the recognition attribute already stored and the display format HS is estimated based on the movement of the line of sight of the user detected by the viewpoint detection device 18 is displayed. It is appropriately replaced, that is, corrected by the association with the format HS. As a result, even if a change occurs in the tendency of the user's line of sight movement on the screen, the display format also corresponds to the change, and the image is displayed on the screen in a manner that the user wants to recognize. Become.

(第2の実施形態)
次に、本実施形態にかかる画像表示装置について、図11を参照して説明する。
本実施形態は、同時期に入力された2つの画像情報に対して表示形式を選択する構成が、第1の実施形態の構成と相違する以外、第1の実施形態の構成と同様であることから、以下では相違点を中心に説明し、説明の便宜上、同様の構成については詳細な説明を割愛する。
(Second Embodiment)
Next, the image display apparatus according to the present embodiment will be described with reference to FIG.
The present embodiment is the same as the configuration of the first embodiment except that the configuration for selecting the display format for two pieces of image information input at the same time is different from the configuration of the first embodiment. Therefore, the following description will focus on the differences, and for convenience of description, detailed description of the same configuration will be omitted.

表示形式リスト31には、2つの画像情報G1,G2に対して表示形式HSを選択する場合に用いられるテーブル312が設定されている。本実施形態では、第1の画像情報G1の重要度よりも第2の画像情報G2の重要度の方が低いものとする。   In the display format list 31, a table 312 used when the display format HS is selected for the two pieces of image information G1 and G2 is set. In the present embodiment, it is assumed that the importance of the second image information G2 is lower than the importance of the first image information G1.

テーブル312には、第1の画像情報G1の表示属性に要求有として設定されている要求と、第2の画像情報G2の表示属性に要求有として設定されている要求との関係に応じて選択される表示形式HSが設定されている。例えば、第1の画像情報G1と第2の画像情報G2とに「第1の要求」が「有る」場合、第1の画像情報G1には「第1の形式」が選択され、第2の画像情報G2には「第2の形式」が選択される。なおここでは、「第1の形式」を選択できない場合、「第2の形式」を選択するものとしている。第1の画像情報G1に「第1の要求」が「有り」、第2の画像情報G2に要求が「無い」場合、第1の画像情報G1には「第1の形式」が選択され、第2の画像情報G2には「標準」が選択される。なお、テーブル312に設定されている表示形式HSは、表示装置40に表示される他の画像の種類や、音や音声、車両10の走行環境などによって変更されてもよい。   The table 312 is selected according to the relationship between the request that is set as required in the display attribute of the first image information G1 and the request that is set as required in the display attribute of the second image information G2. The display format HS to be set is set. For example, when the “first request” is “present” in the first image information G1 and the second image information G2, “first format” is selected as the first image information G1, and the second “Second format” is selected as the image information G2. Here, when the “first format” cannot be selected, the “second format” is selected. When the “first request” is “present” in the first image information G1 and the request is “not present” in the second image information G2, “first format” is selected for the first image information G1, “Standard” is selected as the second image information G2. Note that the display format HS set in the table 312 may be changed according to the type of other images displayed on the display device 40, sound or sound, the traveling environment of the vehicle 10, or the like.

また、第1の画像情報G1に「第2の要求」が「有り」、第2の画像情報G2に「第1の要求」が「有る」場合、第1の画像情報G1には「第2の形式」が選択され、第2の画像情報G2には「第1の形式」が選択される。第1の画像情報G1に「第2の要求」が「有り」、第2の画像情報G2に要求が「無い」場合、第1の画像情報G1には「第2の形式」が選択され、第2の画像情報G2には「標準」が選択される。   In addition, when the “second request” is “present” in the first image information G1 and the “first request” is “present” in the second image information G2, the second image information G1 includes “second”. Is selected, and “first format” is selected for the second image information G2. When the “second request” is “present” in the first image information G1 and the request is “not present” in the second image information G2, “second format” is selected as the first image information G1, “Standard” is selected as the second image information G2.

さらに、第1の画像情報G1に「第3の要求」が「有り」、第2の画像情報G2に「第1の要求」が「有る」場合、第1の画像情報G1には「第3の形式」が選択され、第2の画像情報G2には「第1の形式」が選択される。第1の画像情報G1に「第3の要求」が「有り」、第2の画像情報G2に要求が「無い」場合、第1の画像情報G1には「第3の形式」が選択され、第2の画像情報G2には「標準」が選択される。   Further, when the “third request” is “present” in the first image information G1 and the “first request” is “present” in the second image information G2, the “third request” is included in the first image information G1. Is selected, and “first format” is selected for the second image information G2. When the “third request” is “present” in the first image information G1 and the request is “not present” in the second image information G2, “third format” is selected as the first image information G1, “Standard” is selected as the second image information G2.

そこで、表示制御部16がテーブル312に基づいて、2つの画像情報G1,G2にそれぞれ表示形式HSを選択する動作について説明する。
表示制御部16は、2つの第1及び第2の画像情報G1,G2が入力されると、各画像情報G1,G2の表示属性から第1〜第3の要求の有無を取得するとともに、取得された要求の組み合わせをテーブル312に照合して、対応する組み合わせに指定されている表示形式HSを取得する。例えば、第1の画像情報G1に「第2の要求」が「有り」、第2の画像情報G2に「第1の要求」が「有る」場合、その組み合わせに指定されている、第1の画像情報G1用に「第2の形式」を、第2の画像情報G2用に「第1の形式」を取得する。つまり、表示制御部16は、第1の画像情報G1には表示形式HSとして「第2の形式」を選択し、第2の画像情報G2には表示形式HSとして「第1の形式」を選択する。そして、情報出力装置17には、第1の画像情報G1とその表示形式HSとして「第2の形式」が伝達され、第2の画像情報G2とその表示形式HS「第1の形式」が伝達される。これにより、情報出力装置17の表示装置40には、第1の画像情報G1が「第2の形式」で表示され、第2の画像情報G2が「第1の形式」で表示される。
Therefore, an operation in which the display control unit 16 selects the display format HS for each of the two pieces of image information G1 and G2 based on the table 312 will be described.
When the two pieces of first and second image information G1 and G2 are input, the display control unit 16 acquires the presence or absence of the first to third requests from the display attributes of the image information G1 and G2, and acquires The requested combinations are collated with the table 312 to obtain the display format HS specified for the corresponding combination. For example, when the “second request” is “present” in the first image information G1 and the “first request” is “present” in the second image information G2, the first specified in the combination is used. The “second format” is acquired for the image information G1, and the “first format” is acquired for the second image information G2. In other words, the display control unit 16 selects “second format” as the display format HS for the first image information G1, and selects “first format” as the display format HS for the second image information G2. To do. Then, the first image information G1 and its display format HS are transmitted to the information output device 17, and the second image information G2 and its display format HS “first format” are transmitted. Is done. As a result, the first image information G1 is displayed in the “second format” and the second image information G2 is displayed in the “first format” on the display device 40 of the information output device 17.

以上説明したように、本実施形態の画像表示装置によれば、先の第1の実施形態で記載した効果(1)〜(3)に加え、以下に列記するような効果が得られるようになる。
(4)このような構成によれば、同時期に複数の画像情報G1,G2を表示するような場合であれ、各画像情報G1,G2に、その表示属性に基づいて適切な表示形式HSを選択することができるようになる。これにより、複数の画像情報G1,G2であれ適切な表示形式で表示することができるようになる。
As described above, according to the image display device of the present embodiment, in addition to the effects (1) to (3) described in the first embodiment, the effects listed below can be obtained. Become.
(4) According to such a configuration, even when a plurality of pieces of image information G1 and G2 are displayed at the same time, an appropriate display format HS is displayed on each of the image information G1 and G2 based on the display attributes. You will be able to choose. As a result, a plurality of pieces of image information G1, G2 can be displayed in an appropriate display format.

(その他の実施形態)
なお上記各実施形態は、以下の態様で実施することもできる。
・上記第2の実施形態では、テーブル312には、第1の画像情報の第1〜第3の要求はいずれも「有り」、第2の画像情報の第1の要求は「有り」、第2及び第3の要求はいずれも「無し」である組み合わせについて、第1の画像情報に対する表示形式と第2の画像情報に対する表示形式とが設定されている場合について例示した。しかしこれに限らず、第1の画像情報の第1〜第3の要求の有無のその他の組み合わせと、第2の画像情報の第1〜第3の要求の有無のその他の組み合わせとに対して第1の画像情報の表示形式と第2の画像情報の表示形式とが設定されていてもよい。これにより、画像表示装置における利便性の向上が図られるようになる。
(Other embodiments)
In addition, each said embodiment can also be implemented with the following aspects.
In the second embodiment, the table 312 includes “Yes” for the first to third requests for the first image information, “Yes” for the first request for the second image information, The case where the display format for the first image information and the display format for the second image information are set for the combination in which both the second and third requests are “none” is illustrated. However, the present invention is not limited to this, and other combinations of presence / absence of the first to third requests for the first image information and other combinations of presence / absence of the first to third requests for the second image information. A display format of the first image information and a display format of the second image information may be set. As a result, the convenience of the image display apparatus can be improved.

・上記第2の実施形態では、第1の画像情報と第2の画像情報とのそれぞれの表示形式を設定している場合について例示した。しかしこれにかぎらず、表示形式は、3つ以上の画像情報に対して設定されていてもよい。これにより、画像表示装置における利便性の向上が図られるようになる。   In the second embodiment, the case where the display formats of the first image information and the second image information are set is illustrated. However, this is not restrictive, and the display format may be set for three or more pieces of image information. As a result, the convenience of the image display apparatus can be improved.

・上記第1の実施形態では、第1〜第3の要求が、第1〜第3の形式に対応付けられる場合について例示した。しかしこれに限らず、第1〜第3の要求には、その他の表示形式が対応付けられてもよい。例えば、第1の要求に対応する表示形式には「点滅部分」が含まれてもよいし、第2の要求に対応する表示形式には「中央表示」や「色のコントラストの差が大きい」が含まれてもよいし、第3の要求に対応する表示形式には「特定のマークが付されている」が含まれてもよい。これにより、画像表示装置における利便性の向上が図られるようになる。   In the first embodiment, the case where the first to third requests are associated with the first to third formats is illustrated. However, the present invention is not limited to this, and other display formats may be associated with the first to third requests. For example, the display format corresponding to the first request may include “flashing portion”, and the display format corresponding to the second request is “center display” or “difference in color contrast is large”. May be included, and the display format corresponding to the third request may include “specific mark”. As a result, the convenience of the image display apparatus can be improved.

・上記各実施形態では、表示形式に含まれる表示位置のパラメータについて例示した。しかしこれに限らず、表示形式には、表示位置以外のパラメータが含まれていてもよい。
図12のテーブル313に示すように、表示形式に含まれるパラメータには、表示位置の他に、表示の大きさや、表示の色、警告マーク、点滅などが含まれてもよい。例えば、第1の形式のパラメータは、表示位置が「画面中央」、表示の大きさが「大きい」、表示の色が「黄色」、警告マーク「有り」、点滅「有り」であってもよい。また、第2の形式のパラメータは、表示位置が「画面右」、表示の大きさが「中ぐらい」、表示の色が「赤色」、警告マーク「有り」、点滅「無し」であってもよい。さらに、第3の形式のパラメータは、表示位置が「画面右下」、表示の大きさが「小さい」、表示の色が「青色」、警告マーク「有り」、点滅「無し」であってもよい。また、これ以外のパラメータとして、動きなどが含まれてもよい。
In each of the above embodiments, the display position parameter included in the display format is exemplified. However, the present invention is not limited to this, and the display format may include parameters other than the display position.
As shown in the table 313 in FIG. 12, the parameters included in the display format may include display size, display color, warning mark, blinking, and the like in addition to the display position. For example, the parameters of the first format may be the display position “center of screen”, the display size “large”, the display color “yellow”, the warning mark “present”, and the blinking “present”. . In addition, the parameters of the second format are as follows: the display position is “right screen”, the display size is “medium”, the display color is “red”, the warning mark is “present”, and the flashing is “not present” Good. Furthermore, even if the display position is “lower right of screen”, the display size is “small”, the display color is “blue”, the warning mark is “present”, and the blinking is “not present” Good. Further, movement and the like may be included as other parameters.

このように、パラメータの種類が多くなれば、パラメータの組み合わせに応じてユーザの認識属性を細かく設定することができるようになる。換言すれば、細かく分類されたユーザの認識属性に基づいて、画像情報の表示属性をユーザに認識させたい態様により適合するように設定することができるようになる。これにより、画像情報の表示形式をユーザにとって適切な形式にすることができるようになる。   As described above, when the types of parameters increase, the user's recognition attribute can be set in detail according to the combination of parameters. In other words, the display attribute of the image information can be set so as to be more suitable for the user to recognize based on the finely classified user recognition attribute. As a result, the display format of the image information can be made appropriate for the user.

・上記各実施形態では、図2に示したように、表示属性に設定されている要求性は、ユーザに認識させたい態様である場合について例示した。しかしこれに限らず、表示属性には、ユーザに認識させたい態様以外が設定されていてもよい。例えば、画像情報に要求性として、緊急性や、重大性、安全性などを付与してもよい。このとき、こうして付与された緊急性や、重大性、安全性などは、その緊急性や、重大性、安全性をユーザに伝達することのできる表示形式によって画像が表示されることとなる。つまり、緊急性や、重大性、安全性は、ユーザに認識させたい認識態様を介して表示形式に関連付けられる。   In each of the above embodiments, as illustrated in FIG. 2, the case where the requestability set in the display attribute is an aspect that the user wants to recognize is exemplified. However, the present invention is not limited to this, and the display attribute may be set to a mode other than the mode that the user wants to recognize. For example, the image information may be given urgency, seriousness, safety, etc. as requirements. At this time, the urgency, seriousness, safety, etc. given in this way are displayed in a display format in which the urgency, seriousness, safety can be transmitted to the user. That is, urgency, seriousness, and safety are associated with the display format through a recognition mode that the user wants to recognize.

図13のテーブル302に示すように、画像情報の表示属性に含まれる要求が、「緊急性」、「重大性」、又は「安全性」であるとき、それぞれに関連する表示形式を設定することができる。「緊急性」は、「最初に見る」という表示形式に関連付けてよいし、「重大性」は、「見る時間が長い」という表示形式に関連付けてもよいし、「安全性」は、「見逃さない」という表示形式に関連付けてもよい。   As shown in the table 302 of FIG. 13, when the request included in the display attribute of the image information is “urgent”, “severity”, or “safety”, a display format related to each is set. Can do. “Urgent” may be associated with the “First Look” display format, “Severity” may be associated with the “Long Viewing Time” display format, and “Safety” may be “Overlooked” It may be associated with the display format “not available”.

これにより、表示属性には、表示形式に直接関係しない属性を設定することができる。しかしながら、表示属性に含まれる「緊急性」、「安全性」及び「重大性」などは、ユーザに認識させたい態様、つまり認識属性に関連することから、認識属性を介して表示形式に関連付けることができる。つまり、表示属性に含めることのできる項目の自由度が高められる。   As a result, an attribute that is not directly related to the display format can be set as the display attribute. However, “Urgent”, “Safety”, “Severity”, etc. included in the display attribute are related to the mode that the user wants to recognize, that is, the recognition attribute, so it is related to the display format via the recognition attribute. Can do. That is, the degree of freedom of items that can be included in the display attribute is increased.

これにより、画像表示装置の適用可能性や構成自由度の向上が図られるようになる。
・上記各実施形態では、表示属性には、表示させたい態様が設定されている場合について例示した。しかしこれに限らず、表示属性には、画像情報の表示に適用したくない表示形式の態様を除外事項として設定してもよい。
As a result, the applicability of the image display device and the degree of configuration freedom can be improved.
In each of the above embodiments, the case where the display attribute is set as the display attribute is exemplified. However, the present invention is not limited to this, and the display attributes that are not desired to be applied to the display of image information may be set as exclusion items in the display attributes.

図14のテーブル303に示すように、除外事項として「点滅」の可/不可や、「赤色」の可/不可などか設定されていてもよい。
これにより、画像情報の表示として好ましくないことなどから、除外されている表示形式を除いて画像情報が表示されるようになる。そして、画像表示装置における表示形式がより適切になされるようになることから、画像表示装置の適用可能性の向上が図られるようになる。
As shown in the table 303 in FIG. 14, “exclusion / not possible” of “flashing” and “possibility / impossibility of“ red ”may be set as exclusion items.
Thereby, the image information is displayed except for the excluded display format because it is not preferable as the display of the image information. And since the display format in an image display apparatus comes to be made more appropriate, the applicability of an image display apparatus can be improved.

・上記各実施形態では、表示属性には各要求性の有無が設定されている場合について例示した。しかしこれに限らず、要求性には、有無だけに限らず、優先度が設定されていてもよい。また、優先度に応じて表示形式の内容が相違するかたちで設定されてもよい。   In each of the above embodiments, the case where the presence / absence of each requirement is set as the display attribute is illustrated. However, the present invention is not limited to this, and not only the presence / absence, but also priority may be set. Further, the display format may be set differently depending on the priority.

図15のテーブル304に示すように、例えば、要求性の内容にそれぞれ優先度を設定してもよい。要求性の内容としての「最初に見る」には、優先度「1」〜「5」を設定してもよい。また、「見る時間が長い」には、優先度「1」〜「5」を設定してもよい。さらに、「見逃さない」には、優先度「1」〜「5」を設定してもよい。優先度「1」〜「5」は、優先度が高いものを「1」とし、優先度が低いものを「5」としてよい。   As shown in the table 304 of FIG. 15, for example, priority may be set for the contents of requestability. Priorities “1” to “5” may be set for “first to see” as the content of requirement. In addition, priority levels “1” to “5” may be set for “long viewing time”. Furthermore, priorities “1” to “5” may be set for “do not miss”. As for the priorities “1” to “5”, those having a high priority may be “1”, and those having a low priority may be “5”.

図16のテーブル314に示すように、第1の形式が優先度「1」のとき、表示位置が「画面中央」、「警告マーク」付きであり、優先度「2」のとき、表示位置が「画面中央」、表示色が「赤色」であり、優先度「3」のとき、表示位置が「画面中央」、表示色が「黄色」である表示形式であってもよい。また、第2の形式が優先度「1」のとき、表示位置が「画面左」、表示色が「青色」であり、優先度「2」のとき、表示位置が「画面左」、表示色が「標準色」であり、優先度「3」のとき、表示位置が「画面中央」、表示色が「標準色」であってもよい。さらに、第3の形式が優先度「1」のとき、表示位置が「画面右下」、表示色が「点滅」であり、優先度「2」のとき、表示位置が「画面右下」、表示色が「警告マーク」であり、優先度「3」のとき、表示位置が「画面中央」、表示色が「短文」であってもよい。   As shown in the table 314 of FIG. 16, when the first format is priority “1”, the display position is “center of screen” and “warning mark”, and when the priority is “2”, the display position is When “screen center”, the display color is “red”, and the priority is “3”, the display format may be “screen center” and the display color is “yellow”. When the second format is priority “1”, the display position is “screen left” and the display color is “blue”. When the priority is “2”, the display position is “screen left” and the display color. Is “standard color” and the priority is “3”, the display position may be “center of screen” and the display color may be “standard color”. Furthermore, when the third format is priority “1”, the display position is “lower right of screen”, the display color is “flashing”, and when priority is “2”, the display position is “lower right of screen”, When the display color is “warning mark” and the priority is “3”, the display position may be “center of screen” and the display color may be “short text”.

これにより、表示属性の優先度の高い表示情報から表示形式が優先的に選択されるようになるため、優先度の高い表示情報により適切な表示形式が適用されるようになる。つまり優先度の高い表示情報のユーザへの伝達可能性が向上する。また、優先度の高い画像の表示形式が、画像の表示属性から求められる優先度の高さに応じて選択される。そして、優先度の高い表示属性を有する画像情報が、優先度の高い画像形式にて表示されるようになり、表示内容がユーザに的確に伝達されることが期待される。   As a result, the display format is preferentially selected from the display information with the higher priority of the display attribute, so that an appropriate display format is applied to the display information with the higher priority. That is, the possibility of transmitting display information with high priority to the user is improved. In addition, the display format of the image with high priority is selected according to the priority level obtained from the display attribute of the image. Then, image information having a display attribute with a high priority is displayed in an image format with a high priority, and it is expected that display contents are accurately transmitted to the user.

つまり、要求性の内容をより詳細に管理することが可能になり、画像情報をより適切な表示形式で表示させることができるようになるため、画像表示装置として、設計自由度の向上が図られるようになる。   In other words, it becomes possible to manage the details of the requirement in more detail and display the image information in a more appropriate display format, so that the degree of design freedom can be improved as an image display device. It becomes like this.

・上記各実施形態では、表示属性は特定の1つの表示形式HSに対応する場合について例示した。しかしこれに限らず、表示属性は、その表示属性の求める認識属性に対応する複数の表示形式に対応していてもよい。そして、それら複数の表示形式から、所定の順番や優先度等に対応付ける表示形式を選択してよい。   In each of the above embodiments, the case where the display attribute corresponds to one specific display format HS is exemplified. However, the present invention is not limited to this, and the display attributes may correspond to a plurality of display formats corresponding to the recognition attributes required by the display attributes. And you may select the display format matched with a predetermined order, a priority, etc. from these several display formats.

これにより、同時期に表示される複数の画像情報に対し、同じ認識情報が対応するような場合、それぞれの画像情報に、認識属性に対応付けられている複数の表示形式から異なる表示形式を選択することができる。そして、同時期に同じ表示属性を有する画像情報が表示されるとしても、それら画像情報の表示形式を変え、識別を容易にすることができる。   As a result, when the same recognition information corresponds to multiple image information displayed at the same time, a different display format is selected from the multiple display formats associated with the recognition attributes for each image information. can do. Even when image information having the same display attribute is displayed at the same time, the display format of the image information can be changed to facilitate identification.

・上記各実施形態では、表示装置40は1台、つまり画面が1つである場合について例示した。しかしこれに限らず、表示装置(画面)は、複数あってもよい。また、表示装置が複数の場合、使用する表示装置を表示形式で指定するようにしてもよい。   In each of the above embodiments, the case where there is one display device 40, that is, one screen is illustrated. However, the present invention is not limited to this, and there may be a plurality of display devices (screens). When there are a plurality of display devices, the display device to be used may be specified in the display format.

図17のテーブル315に示すように、例えば、2台の表示装置が、メインモニタとサブモニタとして設けられている場合、第1の形式波、表示位置を「画面中央」とし、表示先を「メインモニタ」と「サブモニタ」としてもよい。また、第2の形式は、表示位置を「画面右」とし、表示先を「メインモニタ」のみとしてもよい。さらに、第3の形式は、表示位置を「画面右下」とし、表示先を「サブモニタ」のみとしてもよい。   As shown in the table 315 of FIG. 17, for example, when two display devices are provided as a main monitor and a sub monitor, the first formal wave, the display position is “center of screen”, and the display destination is “main”. “Monitor” and “Sub-monitor” may be used. In the second format, the display position may be “right screen” and the display destination may be “main monitor” only. Further, in the third format, the display position may be “bottom right of screen” and the display destination may be “sub monitor” only.

・上記各実施形態では、車両10に第1及び第2の車両制御装置11,12の2つの車両制御装置が設けられる場合について例示したが、これに限らず、車両10には、3つ以上の車両制御装置が設けられてもよいし、機能が統合された1つの車両制御装置が設けられていてもよい。これにより、画像表示装置の構成自由度の向上が図られる。   In each of the above embodiments, the case where the vehicle 10 is provided with two vehicle control devices, the first and second vehicle control devices 11 and 12, is not limited to this, and the vehicle 10 includes three or more. The vehicle control device may be provided, or one vehicle control device with integrated functions may be provided. As a result, the degree of freedom of configuration of the image display device can be improved.

・上記各実施形態では、車両10に第1及び第2の運転支援装置13,14の2つの運転支援装置が設けられる場合について例示したが、これに限らず、車両10には、3つ以上の運転支援装置が設けられてもよいし、機能が統合された1つの運転支援装置が設けられていてもよい。これにより、画像表示装置の構成自由度の向上が図られる。   In each of the above embodiments, the case where the vehicle 10 is provided with two driving support devices, the first and second driving support devices 13 and 14, is not limited to this, but the vehicle 10 includes three or more driving support devices. The driving support device may be provided, or one driving support device with integrated functions may be provided. As a result, the degree of freedom of configuration of the image display device can be improved.

・上記各実施形態では、第1及び第2の車両制御装置11,12や、第1及び第2の運転支援装置13,14は車両10に搭載されている場合について例示したが、車両制御装置や運転支援装置はその機能の全部もしくは一部が車両に搭載されていなくてもよい。例えば、機能の一部が、車両外のセンタに設けられていたり、携帯可能な情報処理装置に設けられていたりしてもよい。特に、運転支援装置の機能は、その全部をスマートフォンなどの携帯可能な情報処理装置に設けることも可能である。また、学習機能がセンタに設けられている場合、複数のユーザの情報に基づいて、認識属性と表示形式との関連性を学習することができたり、他のユーザの学習結果を採用したりすることができる。これにより、画像表示装置の構成自由度の向上が図られる。   In each of the above embodiments, the first and second vehicle control devices 11 and 12 and the first and second driving support devices 13 and 14 are illustrated as being mounted on the vehicle 10, but the vehicle control device In addition, the driving support device may not have all or part of its functions mounted on the vehicle. For example, some of the functions may be provided in a center outside the vehicle, or may be provided in a portable information processing apparatus. In particular, all of the functions of the driving support device can be provided in a portable information processing device such as a smartphone. When the learning function is provided in the center, the relevance between the recognition attribute and the display format can be learned based on the information of a plurality of users, or the learning results of other users can be adopted. be able to. As a result, the degree of freedom of configuration of the image display device can be improved.

・上記各実施形態では、情報調停部15に表示制御部16が通信可能に接続される場合について例示したが、通信可能な接続は、有線通信でもよいし、無線通信でもよい。また、車両10におけるその他の装置間の通信可能な接続についても、有線通信でもよいし、無線通信でもよい。例えば、有線通信は、専用線による通信でもよいし、車両用ネットワークによる通信でもよい。これにより、画像表示装置の構成自由度の向上が図られる。   In each of the above embodiments, the case where the display control unit 16 is communicably connected to the information arbitration unit 15 is illustrated, but the communicable connection may be wired communication or wireless communication. Further, the communicable connection between other devices in the vehicle 10 may be wired communication or wireless communication. For example, the wired communication may be a dedicated line communication or a vehicle network communication. As a result, the degree of freedom of configuration of the image display device can be improved.

・上記各実施形態では、画像表示装置は、情報調停部15、表示制御部16、情報出力装置17及び視点検出装置18から構成される場合について例示したが、画像表示装置は、表示制御部16と情報出力装置17とを含んでいればよい。   In each of the above embodiments, the case where the image display device is configured by the information arbitration unit 15, the display control unit 16, the information output device 17, and the viewpoint detection device 18 is illustrated, but the image display device is configured by the display control unit 16. And the information output device 17 may be included.

また、画像表示装置の表示制御部16には、少なくとも表示形式択部30と表示形式リスト31とが含まれていればよい。表示形式択部30及び表示形式リスト31のみであっても、表示制御部16は、表示形式択部30が表示形式リスト31から画像属性に適した表示形式を選択することができる。   The display control unit 16 of the image display device only needs to include at least the display format selection unit 30 and the display format list 31. Even with only the display format selection unit 30 and the display format list 31, the display control unit 16 can select a display format suitable for the image attribute from the display format list 31 by the display format selection unit 30.

さらに、画像表示装置の情報出力装置17には、少なくとも表示装置40が含まれていればよい。表示装置40のみであっても、情報出力装置17は、指定された表示形式で画像情報を表示することができる。これにより、画像表示装置の構成自由度の向上や適用範囲の拡大が図られる。   Furthermore, the information output device 17 of the image display device only needs to include at least the display device 40. Even with only the display device 40, the information output device 17 can display the image information in the designated display format. As a result, the degree of freedom of configuration of the image display apparatus can be improved and the application range can be expanded.

・上記各実施形態では、画像表示装置が車両に用いられている場合について例示した。しかしこれに限らず、画像表示装置は車両以外の移動体、例えば鉄道や船舶、航空機などに用いられてもよい。これにより、画像表示装置の適用範囲の拡大が図られるようになる。   In each of the above embodiments, the case where the image display device is used in a vehicle is illustrated. However, the present invention is not limited to this, and the image display device may be used for a moving body other than a vehicle, such as a railroad, a ship, or an aircraft. As a result, the application range of the image display apparatus can be expanded.

10…車両、11…第1の車両制御装置、12…第2の車両制御装置、13…第1の運転支援装置、14…第2の運転支援装置、15…情報調停部、16…表示制御部、17…情報出力装置、18…視点検出装置、20…情報出力部、21…要求性付与部、22…テーブル、30…表示形式択部、31…表示形式リスト、32…リスト管理部、33…視点学習部、34…ユーザ特定部、40…表示装置、41…音声装置、50…目、51…視点、301〜304…テーブル、310〜315…テーブル、401〜403…エリア、G1…第1の画像情報、G2…第2の画像情報、HS…表示形式、HS1…第1の形式、HS2…第2の形式、HS3…第3の形式、J1〜J4…画像情報、L1,L2…視線。   DESCRIPTION OF SYMBOLS 10 ... Vehicle, 11 ... 1st vehicle control apparatus, 12 ... 2nd vehicle control apparatus, 13 ... 1st driving assistance apparatus, 14 ... 2nd driving assistance apparatus, 15 ... Information mediation part, 16 ... Display control , 17 ... Information output device, 18 ... Viewpoint detection device, 20 ... Information output unit, 21 ... Requirement assigning unit, 22 ... Table, 30 ... Display format selection unit, 31 ... Display format list, 32 ... List management unit, 33 ... Viewpoint learning unit, 34 ... User specifying unit, 40 ... Display device, 41 ... Audio device, 50 ... Eye, 51 ... Viewpoint, 301-304 ... Table, 310-315 ... Table, 401-403 ... Area, G1 ... First image information, G2 ... second image information, HS ... display format, HS1 ... first format, HS2 ... second format, HS3 ... third format, J1-J4 ... image information, L1, L2 ... Gaze.

Claims (11)

画像情報を画面に表示させる画像表示装置であって、
ユーザにどのように認識させたいかその指標を示す属性である表示属性が付与された状態で前記画面に表示させる画像情報が記憶される第1の記憶部と、
画面上でのユーザの視線の移動の検知に基づいて推定されるユーザによる画像の認識態様を示す属性である認識属性が前記画面に表示されている画像の表示形式に対応付けされて記憶される第2の記憶部と、
前記表示属性と前記認識属性との関連性に基づいて前記画面に表示させる画像情報の表示形式を選択し、この選択した表示形式にて前記画像情報を前記画面に表示制御する表示制御部とを備える
ことを特徴とする画像表示装置。
An image display device for displaying image information on a screen,
A first storage unit that stores image information to be displayed on the screen in a state in which a display attribute that is an attribute indicating an index indicating how the user wants to be recognized;
A recognition attribute, which is an attribute indicating an image recognition mode by a user estimated based on detection of movement of the user's line of sight on the screen, is stored in association with the display format of the image displayed on the screen. A second storage unit;
A display control unit that selects a display format of image information to be displayed on the screen based on a relationship between the display attribute and the recognition attribute, and that controls display of the image information on the screen in the selected display format; An image display device comprising:
画面上でのユーザの視線の移動を検出する視点検出装置と、
前記視点検出装置により検出されたユーザの視線の画面上における移動に基づいて前記認識属性を推定する認識属性推定部と、
前記検出されたユーザの視線の画面上の移動位置にある画像の表示形式と前記推定された認識属性とを対応付けする表示形式処理部とを備え、
前記第2の記憶部には、前記認識属性推定部により推定され、前記表示形式処理部にて対応する表示形式に対応付けされた認識属性が記憶される
請求項1に記載の画像表示装置。
A viewpoint detection device for detecting movement of the user's line of sight on the screen;
A recognition attribute estimation unit that estimates the recognition attribute based on movement of the user's line of sight detected by the viewpoint detection device;
A display format processing unit that associates the display format of the image at the movement position on the screen of the detected user's line of sight with the estimated recognition attribute;
The image display device according to claim 1, wherein the second storage unit stores a recognition attribute estimated by the recognition attribute estimation unit and associated with a corresponding display format by the display format processing unit.
前記認識属性推定部が推定した認識属性に対応付けされた表示形式と、前記第2の記憶部に記憶されている同一の認識属性に対応付けされている表示形式とが相違することを条件に、前記第2の記憶部に前記認識属性と対応付けされて記憶されている表示形式を前記推定された認識属性に対応付けされた表示形式に置き換える学習部を更に備える
請求項2に記載の画像表示装置。
The display format associated with the recognition attribute estimated by the recognition attribute estimation unit is different from the display format associated with the same recognition attribute stored in the second storage unit. The image according to claim 2, further comprising: a learning unit that replaces a display format stored in the second storage unit in association with the recognition attribute with a display format associated with the estimated recognition attribute. Display device.
前記第1の記憶部には、複数の画像情報がそれぞれの表示属性とともに記憶され、
前記第2の記憶部には、複数の認識属性がそれぞれ対応する画像の表示形式に対応付けされて記憶されており、
前記表示制御部は、複数の画像情報の表示属性のそれぞれに対して前記複数の認識属性のうちから最も関連性の高い認識属性に対応する表示形式を選択する
請求項1〜3のいずれか一項に記載の画像表示装置。
The first storage unit stores a plurality of pieces of image information together with respective display attributes,
In the second storage unit, a plurality of recognition attributes are stored in association with display formats of corresponding images, respectively.
The display control unit selects a display format corresponding to a recognition attribute having the highest relevance from among the plurality of recognition attributes for each of the display attributes of the plurality of image information. The image display device according to item.
前記第2の記憶部には、1つの認識属性に対して複数の異なる画像の表示形式が対応付けられており、
前記表示制御部は、同時期に複数の表示属性が同じ認識属性に関連性を有すると判断されるとき、それぞれの表示属性に対して各異なる表示形式を選択する
請求項1〜4のいずれか一項に記載の画像表示装置。
In the second storage unit, a plurality of different image display formats are associated with one recognition attribute,
The display control unit selects a different display format for each display attribute when it is determined that a plurality of display attributes are related to the same recognition attribute at the same time. The image display device according to one item.
前記第2の記憶部に記憶されている1つの認識属性には、複数の異なる画像の表示形式が各異なる優先度を有して設定されており、
前記表示制御部は、同時期に複数の表示属性が同じ認識属性に関連性を有すると判断されるとき、前記画像の表示属性に基づいて求められる優先度の順に、前記画像の表示形式をその優先度の順に選択する
請求項5に記載の画像表示装置。
In one recognition attribute stored in the second storage unit, display formats of a plurality of different images are set with different priorities,
When the display control unit determines that a plurality of display attributes are related to the same recognition attribute at the same time, the display control unit changes the display format of the images in the order of priorities obtained based on the display attributes of the images. The image display device according to claim 5, wherein the image selection devices are selected in order of priority.
前記表示属性には、除外する表示形式が含まれ、
前記表示制御部は、表示属性に対応する表示形式として前記除外する表示形式が含まれない表示形式を優先的に選択する
請求項1〜6のいずれか一項に記載の画像表示装置。
The display attributes include display formats to exclude,
The image display device according to claim 1, wherein the display control unit preferentially selects a display format that does not include the excluded display format as a display format corresponding to a display attribute.
前記表示属性には、「緊急性」、「安全性」、及び「重大性」に関する属性のうち少なくとも2つの属性が含まれる
請求項1〜7のいずれか一項に記載の画像表示装置。
The image display device according to claim 1, wherein the display attributes include at least two attributes among attributes relating to “urgency”, “safety”, and “severity”.
前記表示属性には、優先度が設定されており、
前記表示制御部は、前記優先度が高い表示属性を有する画像情報から優先的に前記表示形式を選択する
請求項1〜8のいずれか一項に記載の画像表示装置。
The display attribute has a priority,
The image display device according to claim 1, wherein the display control unit preferentially selects the display format from image information having a display attribute having a high priority.
画像情報を画面に表示させる画像表示方法であって、
ユーザにどのように認識させたいかその指標を示す属性である表示属性が付与された状態で前記画面に表示させる画像情報を記憶させる第1の記憶工程と、
画面上でのユーザの視線の移動の検知に基づいて推定されるユーザによる画像の認識態様を示す属性である認識属性が前記画面に表示されている画像の表示形式に対応付けされて記憶される第2の記憶工程と、
前記表示属性と前記認識属性との関連性に基づいて前記画面に表示させる画像情報の表示形式を選択し、この選択した表示形式にて前記画像情報を前記画面に表示制御する工程とを備える
ことを特徴とする画像表示方法。
An image display method for displaying image information on a screen,
A first storage step of storing image information to be displayed on the screen in a state in which a display attribute that is an attribute indicating an index indicating how the user wants to be recognized;
A recognition attribute, which is an attribute indicating an image recognition mode by a user estimated based on detection of movement of the user's line of sight on the screen, is stored in association with the display format of the image displayed on the screen. A second storage step;
Selecting a display format of image information to be displayed on the screen based on the relationship between the display attribute and the recognition attribute, and controlling display of the image information on the screen in the selected display format. An image display method characterized by the above.
画面上でのユーザの視線の移動を検出する工程と、
前記ユーザの視線の移動を検出する工程により検出されたユーザの視線の画面上における移動に基づいて前記認識属性を推定する推定工程と、
前記検出されたユーザの視線の画面上の移動位置にある画像の表示形式と前記推定された認識属性とを対応付ける対応付け工程とを備え、
前記第2の記憶工程では、前記推定工程により推定され、前記対応付け工程にて対応する表示形式に対応付けされた認識属性が記憶される
請求項10に記載の画像表示方法。
Detecting the movement of the user's line of sight on the screen;
An estimation step of estimating the recognition attribute based on the movement of the user's line of sight detected by the step of detecting the movement of the user's line of sight;
An association step of associating a display format of the image at the movement position on the screen of the detected user's line of sight with the estimated recognition attribute;
The image display method according to claim 10, wherein in the second storage step, recognition attributes estimated by the estimation step and associated with a display format corresponding in the association step are stored.
JP2012259279A 2012-11-28 2012-11-28 Image display device and image display method Active JP5880408B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012259279A JP5880408B2 (en) 2012-11-28 2012-11-28 Image display device and image display method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012259279A JP5880408B2 (en) 2012-11-28 2012-11-28 Image display device and image display method

Publications (2)

Publication Number Publication Date
JP2014106750A true JP2014106750A (en) 2014-06-09
JP5880408B2 JP5880408B2 (en) 2016-03-09

Family

ID=51028181

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012259279A Active JP5880408B2 (en) 2012-11-28 2012-11-28 Image display device and image display method

Country Status (1)

Country Link
JP (1) JP5880408B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019011983A (en) * 2017-06-29 2019-01-24 アイシン・エィ・ダブリュ株式会社 Travel information guide device and computer program

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02112098A (en) * 1988-10-21 1990-04-24 Hitachi Ltd Information selection presenting device
JPH08286603A (en) * 1995-04-13 1996-11-01 Sharp Corp Information display device
JP2009288119A (en) * 2008-05-30 2009-12-10 Xanavi Informatics Corp Navigation system
JP2010247656A (en) * 2009-04-15 2010-11-04 Toyota Motor Corp Driving support system and method
JP2011138421A (en) * 2009-12-29 2011-07-14 Mic Ware:Kk Apparatus and method for displaying map, and program

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02112098A (en) * 1988-10-21 1990-04-24 Hitachi Ltd Information selection presenting device
JPH08286603A (en) * 1995-04-13 1996-11-01 Sharp Corp Information display device
JP2009288119A (en) * 2008-05-30 2009-12-10 Xanavi Informatics Corp Navigation system
JP2010247656A (en) * 2009-04-15 2010-11-04 Toyota Motor Corp Driving support system and method
JP2011138421A (en) * 2009-12-29 2011-07-14 Mic Ware:Kk Apparatus and method for displaying map, and program

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019011983A (en) * 2017-06-29 2019-01-24 アイシン・エィ・ダブリュ株式会社 Travel information guide device and computer program

Also Published As

Publication number Publication date
JP5880408B2 (en) 2016-03-09

Similar Documents

Publication Publication Date Title
US10919540B2 (en) Driving assistance method, and driving assistance device, driving control device, vehicle, and recording medium using said method
KR102276096B1 (en) Method for calculating insertion of additional information for displaying on a display unit, apparatus for performing the method and motor vehicle and computer program
JP6447929B2 (en) Information processing system, information processing method, and program
US11325471B2 (en) Method for displaying the course of a safety zone in front of a transportation vehicle or an object by a display unit, device for carrying out the method, and transportation vehicle and computer program
JP6611957B2 (en) Information output control device and information output control method
JP6051307B2 (en) Driving assistance device
US20190061775A1 (en) Driving support device, autonomous driving control device, vehicle, driving support method, and program
JP6137194B2 (en) Driving support device and driving support method
JP5311012B2 (en) Vehicle driving support device
US20130033368A1 (en) Driving support device
US11021103B2 (en) Method for enriching a field of view of a driver of a transportation vehicle with additional information, device for use in an observer transportation vehicle, device for use in an object, and transportation vehicle
JP7099970B2 (en) Vehicle control device
US20150057834A1 (en) Driving assistance device
JP4973331B2 (en) Information provision device
JP2011198247A (en) Driving support device
US11904688B2 (en) Method for calculating an AR-overlay of additional information for a display on a display unit, device for carrying out the method, as well as motor vehicle and computer program
JP2017117039A (en) Marker information display device and method
JP5327025B2 (en) Vehicle travel guidance device, vehicle travel guidance method, and computer program
CN109789879A (en) The secure visual of navigation interface
JP2010237827A (en) Vehicle operation diagnosis device, vehicle operation diagnosis method, and computer program
JP2020021350A (en) Vehicular display device
US11568599B2 (en) Navigation system and a display method of a navigation map
JP2021107217A (en) Vehicular display controlling device, method and program
JP2019197275A (en) Driving support device, program, and control method
JP2018173816A (en) Driving support method, and driving support device, automatic driving control device, vehicle, program, driving support system using the same

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140917

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150602

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150729

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160118

R151 Written notification of patent or utility model registration

Ref document number: 5880408

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151