JP6253417B2 - Vehicle information display control device - Google Patents

Vehicle information display control device Download PDF

Info

Publication number
JP6253417B2
JP6253417B2 JP2014005761A JP2014005761A JP6253417B2 JP 6253417 B2 JP6253417 B2 JP 6253417B2 JP 2014005761 A JP2014005761 A JP 2014005761A JP 2014005761 A JP2014005761 A JP 2014005761A JP 6253417 B2 JP6253417 B2 JP 6253417B2
Authority
JP
Japan
Prior art keywords
vehicle
information
display
driver
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014005761A
Other languages
Japanese (ja)
Other versions
JP2015134521A (en
Inventor
直志 宮原
直志 宮原
政宏 小阪田
政宏 小阪田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2014005761A priority Critical patent/JP6253417B2/en
Publication of JP2015134521A publication Critical patent/JP2015134521A/en
Application granted granted Critical
Publication of JP6253417B2 publication Critical patent/JP6253417B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • G01C21/365Guidance using head up displays or projectors, e.g. virtual vehicles or arrows projected on the windscreen or on the road itself

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Instrument Panels (AREA)

Description

本発明は、運転者の視野に情報を表示する車両情報表示制御装置に関するものである。   The present invention relates to a vehicle information display control device that displays information in a driver's field of view.

例えばフロントガラスや運転者が車両前方を見通せる透明なスクリーンに情報を表示することによって、運転者の視野に情報を直接表示する車両情報表示装置は、「ヘッドアップディスプレイ(HUD)」と呼ばれ、その実用化が進んでいる。   For example, a vehicle information display device that directly displays information in a driver's field of view by displaying information on a windshield or a transparent screen through which the driver can see ahead of the vehicle is called a “head-up display (HUD)”. Its practical application is progressing.

例えば、下記の特許文献1には、運転者の視線方向を検知する手段と、車両前方を撮影する手段とを備え、運転者が脇見したときに、その運転者の視線方向へ車両前方の画像を表示することにより、運転者の視線を適正な方向へと誘導する技術が開示されている。また、下記の特許文献2には、運転者の視線の近傍に任意の色のポイントを表示し、運転者の顔画像データに基づいて運転者の視線がポイントに移動するまでの時間を測定することで、運転者がそのポイントの色を視認可能か否かを判断し、視認可能と判断された色をHUDの表示色に設定する技術が開示されている。   For example, the following Patent Document 1 includes means for detecting the driver's line-of-sight direction and means for photographing the front of the vehicle, and when the driver looks aside, an image of the front of the vehicle in the driver's line-of-sight direction. A technique for guiding the driver's line of sight in an appropriate direction by displaying the symbol is disclosed. In Patent Document 2 below, a point of an arbitrary color is displayed in the vicinity of the driver's line of sight, and the time until the driver's line of sight moves to the point is measured based on the driver's face image data. Thus, a technique is disclosed in which it is determined whether or not the driver can visually recognize the color of the point, and the color determined to be visually recognized is set as the display color of the HUD.

特開2008−162550号公報JP 2008-162550 A 特開2010−23621号公報JP 2010-23621 A

HUDの技術においては、車両前方の視認性と情報表示の視認性の両立が課題となっている。例えば、情報表示の視認性を高めるために、運転者の視線のごく近くに情報を表示すると、その表示が邪魔になって車両前方の視認性が損なわれる。逆に、運転者の視線から離れた位置に情報を表示すると、車両前方は見やすくなるが、HUDの情報表示は見えにくくなる。さらに、運転者が表示を見るために視線を大きく動かす必要が生じ、HUDの利便性も損なわれる。   In the HUD technology, compatibility between visibility in front of the vehicle and visibility of information display is an issue. For example, if information is displayed very close to the driver's line of sight in order to increase the visibility of the information display, the display becomes an obstacle and the visibility ahead of the vehicle is impaired. Conversely, when information is displayed at a position away from the driver's line of sight, the front of the vehicle is easy to see, but the information display of the HUD is difficult to see. Furthermore, it is necessary for the driver to move his / her line of sight in order to see the display, and the convenience of the HUD is impaired.

本発明は以上のような課題を解決するためになされたものであり、運転者の視野に情報を表示するヘッドアップディスプレイを制御する車両情報表示制御装置において、車両前方の視認性と情報表示の視認性の両立を可能とすることを目的とする。   The present invention has been made to solve the above-described problems. In a vehicle information display control apparatus that controls a head-up display that displays information in a driver's field of view, the visibility and information display in front of the vehicle are improved. The object is to enable both visibility.

本発明に係る車両情報表示制御装置は、車両の運転者の視野に情報を表示するヘッドアップディスプレイを制御する車両情報表示制御装置であって、車両の状況に関する情報を取得し、車両の状況に関する情報に基づいて、ヘッドアップディスプレイで表示すべき情報を判断する情報表示判断部と、車両の前方を撮影した画像を取得する画像処理部と、運転者の視線の方向を検出する視線方向検出部と、車両の前方の画像に対し運転者の視線の方向に基づく補正処理を行うことで、運転者の視野に対応する画像である仮想視野画像を作成する仮想視野構築部と、仮想視野画像および車両の状況に基づいて、ヘッドアップディスプレイで表示する情報のレイアウトを決定する表示処理部とを備える。 A vehicle information display control device according to the present invention is a vehicle information display control device that controls a head-up display that displays information in the field of view of a driver of a vehicle, acquires information related to the vehicle status, and relates to the vehicle status. An information display determination unit that determines information to be displayed on the head-up display based on the information, an image processing unit that acquires an image obtained by photographing the front of the vehicle, and a gaze direction detection unit that detects the direction of the driver's gaze When, by performing based rather correction process in the direction of the driver's line of sight to the front of the image of the vehicle, and the virtual field construction unit for creating a virtual view image is an image corresponding to the visual field of the driver, the virtual field of view And a display processing unit that determines a layout of information to be displayed on the head-up display based on the image and the state of the vehicle.

本発明に係る車両情報表示制御装置によれば、運転者の視野に対応する仮想視野画像と、車両の状況に基づいて、ヘッドアップディスプレイが表示する情報のレイアウトが決定されるため、運転者から見た車両前方の視認性を考慮した、ヘッドアップディスプレイの情報表示を行うことができる。よって、車両前方の視認性と情報表示の視認性の両立が可能となる。   According to the vehicle information display control device according to the present invention, since the layout of information displayed on the head-up display is determined based on the virtual visual field image corresponding to the visual field of the driver and the situation of the vehicle, from the driver. It is possible to display information on the head-up display in consideration of the visibility in front of the viewed vehicle. Therefore, both the visibility in front of the vehicle and the visibility of information display can be achieved.

本発明の実施の形態に係る車両情報表示制御装置の構成を示す図である。It is a figure which shows the structure of the vehicle information display control apparatus which concerns on embodiment of this invention. 画像処理部の構成を示す図である。It is a figure which shows the structure of an image process part. 情報表示判断部の構成を示す図である。It is a figure which shows the structure of an information display judgment part. 仮想視野構築部の構成を示す図である。It is a figure which shows the structure of a virtual visual field construction part. 表示処理部の構成を示す図である。It is a figure which shows the structure of a display process part. 本発明の実施の形態に係る車両情報表示制御装置の動作を示すフローチャートである。It is a flowchart which shows operation | movement of the vehicle information display control apparatus which concerns on embodiment of this invention. ダッシュボードの画像の一例を示す図である。It is a figure which shows an example of the image of a dashboard. HUDに割り当てられる表示情報の例を示す図である。It is a figure which shows the example of the display information allocated to HUD. HUDによる情報表示の例を示す図である。It is a figure which shows the example of the information display by HUD. HUDによる情報表示の例を示す図である。It is a figure which shows the example of the information display by HUD. HUDによる情報表示の例を示す図である。It is a figure which shows the example of the information display by HUD. HUDによる情報表示の例を示す図である。It is a figure which shows the example of the information display by HUD. HUDによる情報表示の例を示す図である。It is a figure which shows the example of the information display by HUD. HUDによる情報表示の例を示す図である。It is a figure which shows the example of the information display by HUD. HUDによる情報表示の例を示す図である。It is a figure which shows the example of the information display by HUD. HUDによる情報表示の例を示す図である。It is a figure which shows the example of the information display by HUD. HUDによる情報表示の例を示す図である。It is a figure which shows the example of the information display by HUD. HUDによる情報表示の例を示す図である。It is a figure which shows the example of the information display by HUD.

図1は、本発明の実施の形態に係る車両情報表示制御装置100の構成を示す図である。車両情報表示制御装置100は、ヘッドアップディスプレイ(HUD)61および非HUDディスプレイ62の動作を制御するものであり、図1のように、車両情報表示制御装置100は、画像処理部10、情報表示判断部20、視線方向検出部30、仮想視野構築部40、表示処理部50を備えている。   FIG. 1 is a diagram showing a configuration of a vehicle information display control device 100 according to an embodiment of the present invention. The vehicle information display control device 100 controls the operation of the head-up display (HUD) 61 and the non-HUD display 62. As shown in FIG. 1, the vehicle information display control device 100 includes the image processing unit 10, the information display, and the like. A determination unit 20, a gaze direction detection unit 30, a virtual visual field construction unit 40, and a display processing unit 50 are provided.

HUD61は、車両の運転者の視野に情報を表示する表示デバイスであり、非HUDディスプレイ62は、車両のセンターパネルなどに配設される一般的な表示デバイスである。図1には、HUD61および非HUDディスプレイ62が車両情報表示制御装置100に外付けされる構成を示しているが、それらは車両情報表示制御装置100の一部として構成されていてもよい。   The HUD 61 is a display device that displays information in the field of view of the driver of the vehicle, and the non-HUD display 62 is a general display device disposed on the center panel of the vehicle. Although FIG. 1 shows a configuration in which the HUD 61 and the non-HUD display 62 are externally attached to the vehicle information display control device 100, they may be configured as a part of the vehicle information display control device 100.

車両情報表示制御装置100はコンピュータを用いて構成されており、その各要素は、コンピュータが、プログラムに従って動作することにより実現される。また、各要素が記憶する情報は、当該コンピュータがアクセス可能なハードディスク、リムーバブルディスク、メモリなどの記憶媒体に記憶されている。   The vehicle information display control device 100 is configured using a computer, and each element thereof is realized by the computer operating according to a program. Information stored by each element is stored in a storage medium such as a hard disk, a removable disk, or a memory accessible by the computer.

なお、本発明に係る車両情報表示制御装置100は、車両に常時固定されるものに限られず、車両から取り外し可能な携帯型の機器でもよいが、以下では、車両情報表示制御装置100が車両に固定された状態を仮定して説明する。また、車両情報表示制御装置100を搭載した車両を「自車」と呼ぶこととする。   The vehicle information display control device 100 according to the present invention is not limited to a device that is always fixed to the vehicle, and may be a portable device that can be detached from the vehicle. A description will be given assuming a fixed state. A vehicle equipped with the vehicle information display control device 100 is referred to as “own vehicle”.

図1のように、車両情報表示制御装置100には、前方車載カメラ101、運転者モニタリングカメラ102、車載センサ103、車載機器104、通信機器105が接続されている。前方車載カメラ101は、自車前方を撮影するカメラである。運転者モニタリングカメラ102は、運転者の視線の方向を検出するために、運転者を撮影するカメラである。車載センサ103は、車速センサ、方位センサ、温度センサなど、自車に搭載されたセンサである。車載機器104は、ナビゲーション装置、マルチメディア機器など、自車に搭載された機器である。通信機器105は、外部と通信するための機器であり、スマートフォンなど汎用の通信装置でもよい。   As shown in FIG. 1, a front vehicle-mounted camera 101, a driver monitoring camera 102, a vehicle-mounted sensor 103, a vehicle-mounted device 104, and a communication device 105 are connected to the vehicle information display control device 100. The front vehicle-mounted camera 101 is a camera that captures the front of the vehicle. The driver monitoring camera 102 is a camera that photographs the driver in order to detect the direction of the driver's line of sight. The in-vehicle sensor 103 is a sensor mounted on the host vehicle, such as a vehicle speed sensor, a direction sensor, or a temperature sensor. The in-vehicle device 104 is a device mounted on the own vehicle such as a navigation device or a multimedia device. The communication device 105 is a device for communicating with the outside, and may be a general-purpose communication device such as a smartphone.

本実施の形態では、車両情報表示制御装置100が通信機器105を用いて外部と通信する構成をとしているが、車両情報表示制御装置100が通信機能を有していてもよい。また、車両情報表示制御装置100は、車載機器104の一部分として構成されていてもよい。例えば、車両情報表示制御装置100がナビゲーション装置の表示部として構成されていてもよい。   In the present embodiment, the vehicle information display control device 100 is configured to communicate with the outside using the communication device 105, but the vehicle information display control device 100 may have a communication function. Further, the vehicle information display control device 100 may be configured as a part of the in-vehicle device 104. For example, the vehicle information display control device 100 may be configured as a display unit of a navigation device.

以下、図1に示した車両情報表示制御装置100の構成を、図2〜図6を参照しつつ、説明する。   Hereinafter, the configuration of the vehicle information display control apparatus 100 shown in FIG. 1 will be described with reference to FIGS.

画像処理部10は、前方車載カメラ101が撮影した自車前方の画像(前方画像)を取得すると共に、取得した前方画像から、自車前方の路面、車両、地物および歩行者の状況に関する情報を抽出する。また、画像処理部10は、前方車載カメラ101が撮影した前方画像を仮想視野構築部40へと送る。   The image processing unit 10 acquires an image in front of the host vehicle (front image) taken by the front in-vehicle camera 101, and information on the road surface, vehicle, feature, and pedestrian situation in front of the host vehicle from the acquired front image. To extract. In addition, the image processing unit 10 sends the front image captured by the front in-vehicle camera 101 to the virtual visual field construction unit 40.

前方車載カメラ101は、自車の運転者の目線に近い位置から自車前方を撮影することが好ましく、自車のフロントガラスの上部付近、例えばルームミラーの裏側などに設置される。   The front in-vehicle camera 101 preferably captures the front of the host vehicle from a position close to the driver's line of sight of the host vehicle, and is installed near the top of the windshield of the host vehicle, for example, behind the rearview mirror.

図2は、画像処理部10の構成図である。図2のように、画像処理部10は、前方画像抽出部11、前方路面状況抽出部12、前方車両状況抽出部13、前方地物状況抽出部14、前方歩行者状況抽出部15から構成される。前方画像抽出部11は、前方車載カメラ101から受信した画像信号から前方画像を抽出し、それを仮想視野構築部40へと送る。   FIG. 2 is a configuration diagram of the image processing unit 10. As shown in FIG. 2, the image processing unit 10 includes a front image extraction unit 11, a front road surface condition extraction unit 12, a front vehicle situation extraction unit 13, a front feature situation extraction unit 14, and a front pedestrian situation extraction unit 15. The The front image extraction unit 11 extracts a front image from the image signal received from the front vehicle-mounted camera 101 and sends it to the virtual visual field construction unit 40.

前方路面状況抽出部12は、前方画像抽出部11が抽出した前方画像から、自車前方の路面の状況を示す情報(前方路面情報)を抽出する。前方車両状況抽出部13は、前方画像から、自車前方の車両の状況を示す情報(前方車両情報)を抽出する。前方地物状況抽出部14は、前方画像から、自車前方の地物の状況を示す情報(前方地物情報)を抽出する。前方歩行者状況抽出部15は、前方画像から、自車前方の歩行者の状況に関する情報(前方歩行者情報)を抽出する。   The front road surface condition extraction unit 12 extracts information (front road surface information) indicating the road surface condition ahead of the host vehicle from the front image extracted by the front image extraction unit 11. The forward vehicle situation extraction unit 13 extracts information (forward vehicle information) indicating the situation of the vehicle ahead of the host vehicle from the forward image. The forward feature status extraction unit 14 extracts information (forward feature information) indicating the status of the feature ahead of the host vehicle from the front image. The forward pedestrian situation extraction unit 15 extracts information on the situation of the pedestrian ahead of the host vehicle (forward pedestrian information) from the forward image.

前方路面情報、前方車両情報、前方地物情報および前方歩行者情報には、少なくとも、路面、車両、地物、歩行者それぞれの位置、優先度、色および明度の情報が含まれている。これら前方画像、前方路面情報、前方車両情報、前方地物情報および前方歩行者情報は、情報表示判断部20へと送られる。   The forward road surface information, the forward vehicle information, the forward feature information, and the forward pedestrian information include at least information on the position, priority, color, and brightness of each of the road surface, the vehicle, the feature, and the pedestrian. These forward image, forward road surface information, forward vehicle information, forward feature information, and forward pedestrian information are sent to the information display determination unit 20.

上記の優先度は、前方画像から抽出された物体(路面、車両、地物、歩行者)の重要度または緊急度に応じて定められる。重要度の高いものとしては、例えば、歩行者、車両、信号機、交通標識、障害物、目的地の建物などが考えられ、重要度が高いものほど優先度は高くなる。また、同種の物体であっても、自車に近いものほど早期に運転者が認識する必要があるため緊急度は高くなり、緊急度が高いものほど優先度は高くなる。   The priority is determined according to the importance or urgency of an object (road surface, vehicle, feature, pedestrian) extracted from the front image. Examples of high importance include pedestrians, vehicles, traffic lights, traffic signs, obstacles, destination buildings, and the higher the importance, the higher the priority. Moreover, even if it is an object of the same kind, the closer the vehicle is to the own vehicle, the higher the degree of urgency because the driver needs to recognize it earlier. The higher the degree of urgency, the higher the priority.

情報表示判断部20は、画像処理部10から取得した情報と、外部の車載センサ103、車載機器104および通信機器105から取得した情報とに基づき、HUD61および非HUDディスプレイ62に表示する情報(表示情報)とその優先度を判断し、決定する。表示情報の優先度も、その情報の重要度または緊急度に応じて定められる。例えば走行速度や燃料残量の情報は比較的低い優先度に設定され、周辺車両や歩行者に関する情報は比較的高い優先度に設定される。   The information display determination unit 20 is information (display) that is displayed on the HUD 61 and the non-HUD display 62 based on the information acquired from the image processing unit 10 and the information acquired from the external in-vehicle sensor 103, the in-vehicle device 104, and the communication device 105. Information) and its priority. The priority of the display information is also determined according to the importance or urgency of the information. For example, information on travel speed and fuel remaining amount is set to a relatively low priority, and information on surrounding vehicles and pedestrians is set to a relatively high priority.

上記のように、情報表示判断部20が画像処理部10から取得する情報は、前方画像とそれから抽出した前方路面情報、前方車両情報、前方地物情報および前方歩行者情報である。   As described above, the information acquired by the information display determination unit 20 from the image processing unit 10 is a front image, front road surface information, front vehicle information, front feature information, and front pedestrian information extracted therefrom.

情報表示判断部20が車載センサ103から取得する情報としては、例えば、自車の走行速度、アクセルの開度、ブレーキの強さ、ハンドルの切り角(操舵角)、ギアの設定などの自車センサ情報、自車と周辺車両との距離や周辺車両の挙動を示す周辺車両情報、気温、照度、雨量等を示す天候情報などがある。   Information acquired by the information display determination unit 20 from the in-vehicle sensor 103 includes, for example, the host vehicle's traveling speed, accelerator opening, brake strength, steering angle (steering angle), gear setting, and the like. There are sensor information, distance between the vehicle and the surrounding vehicle, surrounding vehicle information indicating the behavior of the surrounding vehicle, weather information indicating temperature, illuminance, rainfall, and the like.

情報表示判断部20が車載機器104から取得する情報(車載機器情報)としては、例えば車載機器104にカーナビゲーション装置が含まれていれば、自車の位置情報、走行中の道路種別の情報、経路案内情報などがある。また、車載機器104にマルチメディア機器が含まれていれば、再生中のコンテンツに関する情報、例えば音楽や番組のタイトルなどがある。   As information (in-vehicle device information) that the information display determination unit 20 acquires from the in-vehicle device 104, for example, if the in-vehicle device 104 includes a car navigation device, the position information of the own vehicle, the information on the type of road that is running, There is route guidance information. Further, if the in-vehicle device 104 includes a multimedia device, there is information related to the content being reproduced, for example, the title of music or a program.

情報表示判断部20が通信機器105から取得する情報(通信機器情報)としては、外部の情報配信サービスから受信した交通情報や天候情報などがある。また、通信機器105がスマートフォンの場合には、例えば電話やEメールの着信などのイベント通知や、スマートフォン上で動作しているアプリケーションに関する情報なども通信機器情報に含まれる。   Information (communication device information) acquired by the information display determination unit 20 from the communication device 105 includes traffic information and weather information received from an external information distribution service. When the communication device 105 is a smartphone, the communication device information includes event notifications such as incoming calls and e-mails, information on applications running on the smartphone, and the like.

図3は、情報表示判断部20の構成図である。情報表示判断部20は、HUD61および非HUDディスプレイ62に表示させる情報(表示情報)の内容とその優先度を、自車の外部環境に応じて判断する外部環境判断部21と、自車の状況に応じて判断する自車状況判断部22と、車載機器104および通信機器105の状況に応じて判断する車内機器状況判断部23とから構成されている。   FIG. 3 is a configuration diagram of the information display determination unit 20. The information display determination unit 20 includes an external environment determination unit 21 that determines the contents of information (display information) to be displayed on the HUD 61 and the non-HUD display 62 and the priority thereof according to the external environment of the host vehicle, and the situation of the host vehicle. The vehicle state determination unit 22 that makes a determination according to the situation, and the in-vehicle device state determination unit 23 that makes a decision according to the state of the in-vehicle device 104 and the communication device 105.

外部環境判断部21には、情報表示判断部20が取得した各種の情報に基づいて、自車周辺の車両の状況を判断する周辺車両状況判断部211、自車前方の路面の状況を判断する路面状況判断部212、自車前方の地物の状況を判断する地物状況判断部213、自車前方の歩行者の状況を判断する歩行者状況判断部214、および、自車周辺の天候状況を判断する天候状況判断部215が含まれている。なお、天候状況判断部215が天候状況を判断するために用いる情報は、車載センサ103が取得した天候情報でもよいし、通信機器105が受信した天候情報でもよい。   The external environment determination unit 21 determines the surrounding vehicle status determination unit 211 that determines the status of the vehicle around the host vehicle based on various information acquired by the information display determination unit 20, and determines the status of the road surface in front of the host vehicle. A road surface condition determining unit 212, a feature condition determining unit 213 that determines the condition of a feature in front of the host vehicle, a pedestrian condition determining unit 214 that determines the condition of a pedestrian in front of the host vehicle, and a weather condition around the host vehicle A weather condition determination unit 215 for determining The information used by the weather condition determination unit 215 to determine the weather condition may be the weather information acquired by the in-vehicle sensor 103 or the weather information received by the communication device 105.

自車状況判断部22には、運転者による運転操作の状況(アクセルの開度、ブレーキの強さ、ハンドルの切り角(操舵角)、ギアの設定、方向指示器の状態など)を判断する運転操作状況判断部221と、自車の走行状況(走行速度、現在位置、進行方向など)を判断する走行状況判断部222が含まれている。車内機器状況判断部23には、車載機器104の動作状況を判断する車載機器状況判断部231、通信機器105の動作状況を判断する通信機器状況判断部232が含まれている。   The own vehicle status determination unit 22 determines the status of the driving operation by the driver (accelerator opening, brake strength, steering angle (steering angle), gear setting, direction indicator status, etc.). A driving operation state determination unit 221 and a traveling state determination unit 222 that determines a traveling state of the host vehicle (traveling speed, current position, traveling direction, etc.) are included. The in-vehicle device status determining unit 23 includes an in-vehicle device status determining unit 231 that determines the operating status of the in-vehicle device 104 and a communication device status determining unit 232 that determines the operating status of the communication device 105.

外部環境判断部21、自車状況判断部22、車内機器状況判断部23は、情報表示判断部20が取得した各情報について優先度を判断し、それらの情報のうちから、運転者に対して伝達すべき情報を判断し、それをHUD61または非HUDディスプレイ62で表示させる情報(表示情報)として、優先度と共に表示処理部50へと送る。また、情報表示判断部20が取得した、運転操作の状況および自車の走行状況の情報(自車状況情報)も、表示処理部50へと送られる。   The external environment determination unit 21, the own vehicle state determination unit 22, and the in-vehicle device state determination unit 23 determine the priority for each piece of information acquired by the information display determination unit 20, and from among these pieces of information, Information to be transmitted is determined and sent to the display processing unit 50 together with the priority as information (display information) to be displayed on the HUD 61 or the non-HUD display 62. In addition, the information on the driving operation and the traveling state of the vehicle (own vehicle state information) acquired by the information display determination unit 20 are also sent to the display processing unit 50.

図1に戻り、視線方向検出部30は、運転者モニタリングカメラ102が撮影した運転者の画像から、運転者の視線の方向を検出する。視線方向検出部30が検出した運転者の視線方向の情報(視線方向情報)は、仮想視野構築部40および表示処理部50へと送られる。また、視線方向検出部30が、運転者の目や瞼の動きから、運転者の覚醒度(眠気の有無)も判断できるようにしてもよい。   Returning to FIG. 1, the line-of-sight direction detection unit 30 detects the direction of the driver's line of sight from the image of the driver taken by the driver monitoring camera 102. Information on the gaze direction of the driver (gaze direction information) detected by the gaze direction detection unit 30 is sent to the virtual visual field construction unit 40 and the display processing unit 50. Further, the line-of-sight direction detection unit 30 may be configured to determine the driver's arousal level (presence or absence of drowsiness) from the movement of the driver's eyes and eyelids.

仮想視野構築部40は、画像処理部10から取得した前方画像、および視線方向検出部30から取得した視線方向情報に基づいて、運転者の仮想的な視野を構築する。具体的には、運転者の視野に対応する画像である仮想視野画像を生成する。   The virtual visual field construction unit 40 constructs a virtual visual field of the driver based on the front image acquired from the image processing unit 10 and the visual line direction information acquired from the visual line direction detection unit 30. Specifically, a virtual visual field image that is an image corresponding to the driver's visual field is generated.

図4は、仮想視野構築部40の構成図である。仮想視野構築部40は、自車のダッシュボードの画像および当該ダッシュボードの寸法の情報を含む車内画像情報41を記憶しており、画像合成部42および補正処理部43を備えている。図7にダッシュボードの画像の一例を示す。   FIG. 4 is a configuration diagram of the virtual visual field construction unit 40. The virtual visual field construction unit 40 stores in-vehicle image information 41 including an image of the dashboard of the host vehicle and information on the dimensions of the dashboard, and includes an image composition unit 42 and a correction processing unit 43. FIG. 7 shows an example of a dashboard image.

車内画像情報41は、車両情報表示制御装置100が搭載される車種に応じて変わるため、車両情報表示制御装置100が携帯型の装置である場合には、搭載される車種ごとに変更する必要がある。例えば、車両情報表示制御装置100が予め複数の車種の車内画像情報41を記憶していてもよいし、通信機器105を用いて外部のサーバから任意の車種の車内画像情報41をダウンロードできるようにしてもよい。   The in-vehicle image information 41 changes depending on the vehicle type on which the vehicle information display control device 100 is mounted. Therefore, when the vehicle information display control device 100 is a portable device, it is necessary to change it for each mounted vehicle type. is there. For example, the vehicle information display control device 100 may store in-vehicle image information 41 of a plurality of vehicle types in advance, or the in-vehicle image information 41 of any vehicle type can be downloaded from an external server using the communication device 105. May be.

画像合成部42は、画像処理部10から取得した前方画像とダッシュボードの画像とを、ダッシュボードの寸法を考慮して合成する。補正処理部43は、画像合成部42が作成した合成画像に対し、視線方向検出部30から取得した視線方向情報に基づく補正処理を行って、運転者の視野に対応する仮想視野画像を生成する。   The image composition unit 42 composes the front image acquired from the image processing unit 10 and the dashboard image in consideration of the dimensions of the dashboard. The correction processing unit 43 performs a correction process based on the gaze direction information acquired from the gaze direction detection unit 30 on the synthesized image created by the image synthesis unit 42 to generate a virtual visual field image corresponding to the driver's visual field. .

図1に戻り、表示処理部50は、情報表示判断部20から取得した表示情報とその優先度、並びに自車状況情報に基づいて、各表示情報をHUD61と非HUDディスプレイ62のどちらで表示させるかの割り当てを行う。HUD61と非HUDディスプレイ62の両方に表示される情報が存在してもよい。表示処理部50はさらに、HUD61で表示させる情報については、仮想視野構築部40が生成した仮想視野画像と、視線方向検出部30から取得した視線方向情報と、各表示情報の優先度および自車状況情報を考慮して、表示のレイアウトを最適化する。ここでいう「レイアウト」には、各情報を表示する位置だけでなく、表示のサイズや配色、表示領域の広さも含まれるものとする。   Returning to FIG. 1, the display processing unit 50 displays each display information on either the HUD 61 or the non-HUD display 62 based on the display information acquired from the information display determination unit 20, its priority, and the own vehicle status information. Make an assignment. There may be information displayed on both the HUD 61 and the non-HUD display 62. The display processing unit 50 further displays the virtual visual field image generated by the virtual visual field construction unit 40, the visual line direction information acquired from the visual line direction detection unit 30, the priority of each display information, and the own vehicle. The display layout is optimized in consideration of the situation information. The “layout” here includes not only the position where each information is displayed, but also the display size and color scheme, and the size of the display area.

HUD61および非HUDディスプレイ62は、表示処理部50によって制御され、それぞれ割り振られた各表示情報を、表示処理部50が決定したレイアウトで表示する。なお、表示処理部50は、非HUDディスプレイ62表示情報報を表示する際のレイアウトも設定するが、本発明とは関連が薄いためその説明は省略する。   The HUD 61 and the non-HUD display 62 are controlled by the display processing unit 50 and display each allocated display information in a layout determined by the display processing unit 50. The display processing unit 50 also sets a layout for displaying the non-HUD display 62 display information report, but a description thereof is omitted because it is not relevant to the present invention.

図5は、表示処理部50の構成図である。表示処理部50は、表示割当部51、運転者特性情報データベース52、運転操作履歴データベース53、レイアウト演算部54、コントラスト演算部55から構成される。   FIG. 5 is a configuration diagram of the display processing unit 50. The display processing unit 50 includes a display allocation unit 51, a driver characteristic information database 52, a driving operation history database 53, a layout calculation unit 54, and a contrast calculation unit 55.

表示割当部51は、各表示情報について、その優先度と自車状況情報に基づいて、HUD61で表示するか非HUDディスプレイ62で表示するかの割り当てを行う。   The display allocation unit 51 allocates each display information to be displayed on the HUD 61 or the non-HUD display 62 based on the priority and the vehicle status information.

運転者特性情報データベース52は、運転者の特性情報(例えば年齢、嗜好など)を記憶している。運転者特性情報データベース52に記憶される運転者の特性情報は、運転者が車両情報表示制御装置100を操作して入力してもよいし、例えば車両情報表示制御装置100が運転者の携帯端末(スマートフォン等)にアクセスして、その携帯端末に記録されている運転者の特性情報を自動的に取得するようにしてもよい。   The driver characteristic information database 52 stores driver characteristic information (for example, age, preference, etc.). The driver characteristic information stored in the driver characteristic information database 52 may be input by the driver operating the vehicle information display control device 100. For example, the vehicle information display control device 100 may be a portable terminal of the driver. (Such as a smartphone) may be accessed to automatically acquire the driver's characteristic information recorded in the portable terminal.

運転操作履歴データベース53は、自車に対する運転者の操作履歴を記憶する。運転操作履歴データベース53には、運転者が自車を操作するごとにその操作内容が自動的に追加される。また、視線方向検出部30が検出した運転者の視線の動きの履歴も、操作履歴として運転操作履歴データベース53に記憶させてもよい。   The driving operation history database 53 stores a driver's operation history for the host vehicle. The operation details are automatically added to the driving operation history database 53 every time the driver operates the own vehicle. The driver's line-of-sight movement history detected by the line-of-sight direction detection unit 30 may also be stored in the driving operation history database 53 as an operation history.

レイアウト演算部54は、HUD61で表示する各情報について、その情報の優先度、自車状況情報、仮想視野画像および視線方向情報を考慮して、HUD61で表示する際のレイアウトの最適化処理を行う。コントラスト演算部55は、レイアウト演算部54が決定したレイアウトにおける各情報の表示とその背景とのコントラスト比を求める。レイアウト演算部54は、コントラスト演算部55が算出するコントラスト比を考慮して、各情報の視認性を確保できるようにその色やサイズを決める。これにより、前方の景色、道路の色、天候、時間帯などに関わらず、視認性の高い表示を得ることができる。   For each information displayed on the HUD 61, the layout calculation unit 54 performs a process for optimizing the layout when the information is displayed on the HUD 61 in consideration of the priority of the information, the vehicle status information, the virtual visual field image, and the line-of-sight direction information. . The contrast calculation unit 55 obtains the contrast ratio between the display of each information in the layout determined by the layout calculation unit 54 and its background. The layout calculation unit 54 determines the color and size so that the visibility of each information can be secured in consideration of the contrast ratio calculated by the contrast calculation unit 55. Thereby, a highly visible display can be obtained regardless of the scenery in front, the color of the road, the weather, the time zone, and the like.

また、レイアウト演算部54は、各情報の表示をレイアウトする際、各表示が運転者の視野内における優先度の高い物体と重ならないようにする。さらに、車両の走行速度が速くなると運転者の視野は狭くなるため、走行速度に応じてHUD61の表示領域の広さを変更することも有効である。   Further, when laying out the display of each information, the layout calculation unit 54 prevents each display from overlapping with a high priority object in the driver's field of view. Furthermore, since the field of view of the driver becomes narrower as the vehicle travel speed increases, it is also effective to change the size of the display area of the HUD 61 according to the travel speed.

また、レイアウト演算部54は、運転者特性情報データベース52に記憶されている各運転者の特性情報や、運転操作履歴データベース53に記憶されている各運転者の操作履歴(視線の動きを含む)を加味して、運転者ごとに、各情報の表示のレイアウトを変えてもよい。例えば、速度超過が多くなると速度表示のサイズを大きくすることなどが考えられる。また、高齢者と若年者とでは視野の広さや、視線の動きの速さ、視認しやすい色に違いがあるため、運転者の年齢に応じて、HUD61の表示領域の広さや表示色(一般に高齢者はオレンジ色を視認しにくい)を変えることが考えられる。また例えば、スピードメータを見る回数が多い運転者の場合は、スピードメータの表示を視線に近い位置にするなど、運転者の癖が考慮されるようにしてもよい。   In addition, the layout calculation unit 54 includes the characteristic information of each driver stored in the driver characteristic information database 52 and the operation history of each driver stored in the driving operation history database 53 (including the movement of the line of sight). In consideration of the above, the display layout of each information may be changed for each driver. For example, it is conceivable to increase the size of the speed display when the speed excess increases. In addition, there is a difference in the field of view, the speed of movement of the line of sight, and the color that is easy to visually recognize between the elderly and the young, so the display area of the HUD 61 and the display color (generally, depending on the age of the driver) It is conceivable that the elderly will not be able to see the orange color). In addition, for example, in the case of a driver who frequently views the speedometer, the driver's habit may be taken into consideration, for example, the speedometer display is positioned near the line of sight.

次に、車両情報表示制御装置100の動作を説明する。図6は、その動作を示すフローチャートである。   Next, the operation of the vehicle information display control device 100 will be described. FIG. 6 is a flowchart showing the operation.

例えば自車のイグニッションキーが回されるなどして、車両情報表示制御装置100が起動すると、車両情報表示制御装置100において、情報表示判断部20が、車載センサ103、車載機器104および通信機器105から、各種の情報(自車センサ情報、周辺車両情報、天候情報、車載機器情報、通信機器情報)を取得する(ステップS1)。   For example, when the vehicle information display control device 100 is activated by turning the ignition key of the host vehicle or the like, in the vehicle information display control device 100, the information display determination unit 20 includes the in-vehicle sensor 103, the in-vehicle device 104, and the communication device 105. Various information (vehicle sensor information, surrounding vehicle information, weather information, in-vehicle device information, communication device information) is acquired (step S1).

次に、画像処理部10が、前方車載カメラ101から前方画像を取得する(ステップS2)。このとき、画像処理部10が取得した前方画像は、仮想視野構築部40へと送られる。また、画像処理部10から情報表示判断部20へ、前方画像およびそれから抽出した各種の情報(前方画像、前方路面情報、前方車両情報、前方地物情報、前方歩行者情報)が送られる。   Next, the image processing unit 10 acquires a front image from the front in-vehicle camera 101 (step S2). At this time, the front image acquired by the image processing unit 10 is sent to the virtual visual field construction unit 40. Further, the front image and various types of information extracted therefrom (forward image, front road surface information, front vehicle information, front feature information, front pedestrian information) are sent from the image processing unit 10 to the information display determination unit 20.

続いて、視線方向検出部30が、運転者モニタリングカメラ102が撮影した運転者の画像から、運転者の視線方向情報を取得する(ステップS3)。視線方向情報は、仮想視野構築部40および表示処理部50へ送られる。   Subsequently, the line-of-sight direction detection unit 30 acquires the driver's line-of-sight direction information from the driver's image captured by the driver monitoring camera 102 (step S3). The line-of-sight direction information is sent to the virtual visual field construction unit 40 and the display processing unit 50.

次に、情報表示判断部20は、取得した情報に基づいて、HUD61および非HUDディスプレイ62に表示する情報(表示情報)とその優先度を判断して決定する(ステップS4)。決定した表情報および優先度は、自車状況情報と共に表示処理部50へと送られる。   Next, the information display determination unit 20 determines and determines information (display information) to be displayed on the HUD 61 and the non-HUD display 62 and its priority based on the acquired information (step S4). The determined table information and priority are sent to the display processing unit 50 together with the vehicle status information.

表示処理部50は、表示情報ごとに、表示情報をHUD61と非HUDディスプレイ62のどちらで表示させるか割り当て、非HUDディスプレイ62に割り当てられた表示情報を、非HUDディスプレイ62で表示する(ステップS5)。   For each display information, the display processing unit 50 assigns whether to display the display information on the HUD 61 or the non-HUD display 62, and displays the display information assigned to the non-HUD display 62 on the non-HUD display 62 (step S5). ).

そして、HUD61に割り当てられた表示情報の有無を確認し(ステップS6)、無ければ(ステップS6でNO)、ステップS1に戻る。   Then, the presence / absence of display information assigned to the HUD 61 is confirmed (step S6). If there is no display information (NO in step S6), the process returns to step S1.

一方、HUD61に割り当てられた表示情報があれば(ステップS6でYES)、仮想視野構築部40が、画像処理部10から取得した前方画像および視線方向検出部30から取得した視線方向情報に基づいて、運転者の視野に対応する仮想視野画像を生成する(ステップS7)。   On the other hand, if there is display information assigned to the HUD 61 (YES in step S6), the virtual visual field constructing unit 40 is based on the forward image acquired from the image processing unit 10 and the visual line direction information acquired from the visual line direction detecting unit 30. Then, a virtual visual field image corresponding to the driver's visual field is generated (step S7).

さらに、表示処理部50が、仮想視野構築部40が生成した仮想視野画像と、視線方向検出部30から取得した視線方向情報と、各表示情報の優先度および自車状況情報を考慮して、HUD61に表示させる情報のレイアウトを決定し(ステップS8)、決定したレイアウトによりHUD61で情報を表示する(ステップS9)。その後、ステップS1へ戻る。   Further, the display processing unit 50 considers the virtual visual field image generated by the virtual visual field construction unit 40, the visual line direction information acquired from the visual line direction detection unit 30, the priority of each display information and the vehicle state information, A layout of information to be displayed on the HUD 61 is determined (step S8), and information is displayed on the HUD 61 according to the determined layout (step S9). Then, it returns to step S1.

このように、運転者の視野に対応する仮想視野画像と、自車状況情報に基づいて、HUD61が表示する情報のレイアウトが決定されるため、運転者から見た車両前方の視認性を考慮した、ヘッドアップディスプレイの情報表示を行うことができる。よって、車両前方の視認性と情報表示の視認性の両立が可能となる。   Thus, since the layout of the information displayed by the HUD 61 is determined based on the virtual visual field image corresponding to the visual field of the driver and the own vehicle status information, the visibility in front of the vehicle viewed from the driver is taken into consideration. Information display on the head-up display can be performed. Therefore, both the visibility in front of the vehicle and the visibility of information display can be achieved.

以下、本発明に係る車両情報表示制御装置100によるHUD61の具体的な表示例を示す。図8は、HUD61に割り当てられる表示情報の例を示す図である。ここでは、HUD61の表示情報を、常時表示させておく情報と、イベント発生時に表示させる情報と、警告発生時に表示させる情報とに分けている。常時表示させておく情報としては、走行速度、制限速度、燃料残量などがある。イベント発生時に表示させる情報としては、例えば、電話着信、経路案内の矢印、レーン案内、分岐までの距離、渋滞情報、マルチメディア機器の操作情報などがある。警告表示が知らせる情報としては、例えば、追突注意(車間距離の縮小)、車線逸脱、障害物の検知、運転者覚醒度低下、速度超過、追い越し車両注意、シートベルトの着用忘れ、パーキングブレーキの解除忘れなどがある。   Hereinafter, specific display examples of the HUD 61 by the vehicle information display control device 100 according to the present invention will be shown. FIG. 8 is a diagram illustrating an example of display information assigned to the HUD 61. Here, the display information of the HUD 61 is divided into information that is always displayed, information that is displayed when an event occurs, and information that is displayed when a warning occurs. Information that is always displayed includes travel speed, speed limit, remaining fuel amount, and the like. Examples of information to be displayed when an event occurs include incoming calls, route guidance arrows, lane guidance, distance to a branch, traffic jam information, and multimedia device operation information. Information displayed by the warning display includes, for example, rear-end collision warning (distance reduction), lane departure, obstacle detection, reduced driver alertness, overspeed, overtaking vehicle warning, forgetting to wear a seat belt, parking brake release There is forgetting.

ここで、警告表示が知らせる情報は優先度が最も高く、イベント発生時に表示させる情報は次に優先度が高く、常時表示させておく情報は優先度が低い、と仮定する。また、各情報の優先度は、自車が走行中の道路の種別(高速道路/一般道路)および走行状態(高速走行/低速走行)によって変化してもよい。   Here, it is assumed that the information notified by the warning display has the highest priority, the information to be displayed when an event occurs has the next highest priority, and the information to be constantly displayed has a low priority. The priority of each information may change depending on the type of road on which the vehicle is traveling (highway / general road) and the traveling state (high speed traveling / low speed traveling).

図9〜図18は、HUD61による情報表示の例を示す図である。例えば、自車が高速道路を高速で走行しているときは、運転者の視野が狭まるため、図9のように、HUD61の表示領域(破線の矩形)を視野に合わせて狭くする。図9には、HUD61が、自車の走行速度、走行中の区間の制限速度を示すアイコン、燃料の残量を示すメータ(燃料メータ)および経路案内の矢印を表示している状態が示されている。なお、表示領域(破線の矩形)は、実際に表示されるものではない。   9 to 18 are diagrams showing examples of information display by the HUD 61. FIG. For example, when the host vehicle is traveling on a highway at a high speed, the driver's field of view is narrowed. Therefore, as shown in FIG. 9, the display area (broken rectangle) of the HUD 61 is narrowed to match the field of view. FIG. 9 shows a state in which the HUD 61 is displaying the traveling speed of the host vehicle, an icon indicating the speed limit of the traveling section, a meter (fuel meter) indicating the remaining amount of fuel, and a route guidance arrow. ing. Note that the display area (broken rectangle) is not actually displayed.

高速走行時には、各情報の表示位置を固定し、運転者の視線移動に対して移動しないようにするとよい。高速走行時の視線移動は一瞬の動作であり、表示が都度動くと認知が困難になるためである。ただし、自車前方で道路がカーブしている場合は、図10のように、カーブする方向と運転者の視線方向に合わせて、HUD61の表示領域を移動させるとよい。また、自車前方に上り坂や下り坂がある場合も同様に、HUD61の表示領域を上下に移動させるとよい。   When traveling at high speed, it is preferable to fix the display position of each information so as not to move with respect to the movement of the driver's line of sight. This is because the movement of the line of sight during high-speed traveling is an instantaneous operation, and recognition becomes difficult when the display moves each time. However, when the road is curved in front of the host vehicle, the display area of the HUD 61 may be moved in accordance with the curve direction and the driver's line-of-sight direction as shown in FIG. Similarly, when there is an uphill or downhill ahead of the vehicle, the display area of the HUD 61 may be moved up and down.

情報表示のレイアウトに関して、高速走行時は低速走行時よりも車間距離が長くとられるため、前方路面(自車と前方車両の間の道路)と重なる部分に情報を表示してもよい。また、文字のサイズを自車の走行速度に合わせてシームレスに可変表示させてもよい。例えば自車の走行速度が速くなるほど、速度表示のサイズを大きくすると、運転者が走行速度の上昇を直感的に認識できるようになり、速度超過の防止が期待できる。   Regarding the layout of the information display, since the inter-vehicle distance is longer when traveling at a high speed than when traveling at a low speed, the information may be displayed on a portion overlapping the front road surface (the road between the host vehicle and the preceding vehicle). Further, the character size may be displayed in a variable manner according to the traveling speed of the vehicle. For example, if the size of the speed display is increased as the traveling speed of the host vehicle increases, the driver can intuitively recognize an increase in the traveling speed, and the prevention of overspeed can be expected.

高速道路を走行しているときでも、渋滞などで自車が低速で走行しているときは、運転者の視野は狭くならないため、図11のようにHUD61の表示領域を拡大するとよい。また、低速走行時は、各情報の表示位置を状況に応じて移動させるとよい。例えば、渋滞時には車間距離が短くなり、前方路面に情報を表示するとその表示が前方車両と重複してしまうため、図11のように前方車両に重ならない位置へ移動させるとよい。また、表示領域を拡大すると、運転者の視線移動が大きくなるため、各表示の表示サイズは高速走行時よりも大きくするとよい。   Even when traveling on an expressway, when the vehicle is traveling at a low speed due to traffic jams or the like, the driver's field of view is not narrowed, so the display area of the HUD 61 may be enlarged as shown in FIG. Further, when traveling at low speed, the display position of each information may be moved according to the situation. For example, the distance between the vehicles is shortened in a traffic jam, and when information is displayed on the front road surface, the display overlaps with the preceding vehicle. Therefore, it is preferable to move to a position that does not overlap the preceding vehicle as shown in FIG. Further, since the driver's line of sight movement increases when the display area is enlarged, the display size of each display may be larger than that during high-speed driving.

また、前方車両との車間距離が急速に縮まったことが検出された場合には、図12のように、前方車両を強調する警告(追突注意)を表示させる。警告表示は、他の情報よりも優先度が高いため、より目立つ態様で表示させる。例えば、図12のように警告表示以外の情報表示を消してもよい。   Further, when it is detected that the inter-vehicle distance with the preceding vehicle has rapidly decreased, a warning (attention for rear-end collision) that emphasizes the preceding vehicle is displayed as shown in FIG. Since the warning display has a higher priority than other information, it is displayed in a more conspicuous manner. For example, information display other than warning display may be erased as shown in FIG.

市街地などの一般道路においても、HUD61の表示領域は自車の走行速度に応じて拡大・縮小させるとよいが、一般道路では、歩行者や自転車、信号機など、運転者が注意を払うべきものが高速道路よりも多く運転者の視野に入るため、図13のように、HUD61の表示領域は高速道路走行時よりもやや広めとする。また、表示領域の拡大とともに運転者の視線移動が大きくなるため、各情報の表示サイズを高速走行時よりも大きくする。図14には、HUD61が、自車の走行速度、制限速度、燃料メータおよび経路案内の矢印に加えて、歩行者への注意を促す警告を表示した状態が示されている。   Even on ordinary roads such as urban areas, the display area of the HUD 61 should be enlarged or reduced according to the traveling speed of the vehicle. On ordinary roads, there are things that drivers should pay attention to, such as pedestrians, bicycles, and traffic lights. In order to enter the driver's field of view more than the highway, as shown in FIG. 13, the display area of the HUD 61 is slightly wider than when driving on the highway. Further, since the driver's line-of-sight movement increases as the display area increases, the display size of each information is made larger than that during high-speed driving. FIG. 14 shows a state in which the HUD 61 has displayed a warning that calls attention to the pedestrian in addition to the traveling speed of the own vehicle, the speed limit, the fuel meter, and the route guidance arrow.

自車の走行速度、制限速度、燃料メータおよび経路案内の矢印など、優先度の低い情報は、前方車両や歩行者など優先度の高い物体に重ならない位置へ移動させる。情報の表示位置を移動させるときは、その移動先となる部分と重複する風景の色に応じて、情報の表示色を変化させてコントラスト比を確保し、情報表示の視認性を高く維持する。   Low-priority information such as the traveling speed of the host vehicle, the speed limit, the fuel meter, and the route guidance arrow is moved to a position that does not overlap with a high-priority object such as a preceding vehicle or a pedestrian. When the information display position is moved, the display color of the information is changed according to the color of the scenery overlapping the part to be moved to secure the contrast ratio, and the information display visibility is maintained high.

なお、図12や図14では、前方車両や歩行者への注意を促す警告表示は、注意対象を囲む矩形としたが、図15のように、注意対象とは少しずらした位置に「吹き出し」として表示して、注意対象の視認性を確保してもよい。   In FIG. 12 and FIG. 14, the warning display that calls attention to the vehicle ahead and the pedestrian is a rectangle that surrounds the attention object. However, as shown in FIG. 15, the “balloon” is slightly shifted from the attention object. May be displayed to ensure the visibility of the attention object.

また、低速走行時には、各情報の表示位置を、自車または外部の状況に応じて移動させるとよい。例えば、図14の状態から道路の左手に歩行者が現れた場合、図16のように、その歩行者への注意を促す警告を表示すると共に、優先度の低い情報を歩行者と重複しない位置へと移動させる。   Further, when traveling at a low speed, the display position of each information may be moved according to the own vehicle or an external situation. For example, when a pedestrian appears on the left hand side of the road from the state of FIG. 14, a warning that calls attention to the pedestrian is displayed as shown in FIG. Move to.

赤信号などによる停車時には、図17のようにHUD61の表示領域を最大化するとよい。また、信号機の状態など自車の発進を支援する情報を表示したり、前方に見える地物の名称など、優先度は低いが前方の風景との関連性が高い情報を表示したりしてもよい。   When the vehicle stops due to a red light or the like, the display area of the HUD 61 may be maximized as shown in FIG. You can also display information that supports the start of your vehicle, such as the status of traffic lights, or information that is low in priority but highly relevant to the scenery ahead, such as the names of features that you can see ahead Good.

停車時では、運転者は非HUDディスプレイ62を見ることもできるため、図8に示されているように、常時表示させる情報とイベント発生時に表示させる情報など、前方の風景との関連性が低い情報や優先度の低い情報は、HUD61では表示せずに非HUDディスプレイ62のみに表示させてもよい。ただし、警告表示のように優先度の高い情報は、停車時であってもHUD61で表示させることが好ましい。   Since the driver can view the non-HUD display 62 when the vehicle is stopped, as shown in FIG. 8, the information that is always displayed and the information that is displayed when an event occurs, etc., have a low relevance to the scenery in front. Information and information with low priority may be displayed only on the non-HUD display 62 without being displayed on the HUD 61. However, it is preferable to display high priority information such as a warning display on the HUD 61 even when the vehicle is stopped.

また、赤信号での停車時から信号が青になり前方車両が発進したにも関わらず、自車の発進操作が行われない場合に、車両情報表示制御装置100が運転者の脇見を検知すると、発進を促す警告をHUD61が表示したり、車両情報表示制御装置100が音声で警告したりするようにしてもよい。   In addition, when the vehicle information display control device 100 detects the driver's look aside when the start operation of the own vehicle is not performed even though the signal has turned blue from the time of the stop at the red light and the preceding vehicle has started. The HUD 61 may display a warning prompting the start, or the vehicle information display control device 100 may warn with a voice.

また、交差点で曲がるときに対向車が近づいている場合、運転者が視認できる歩行者や対向車の他に、対向車の後方から接近するバイクなどを検知した場合には、図18のように、それへの注意を促す警告表示を、高い優先度で表示させることが好ましい。   In addition, when an oncoming vehicle is approaching when turning at an intersection, in addition to a pedestrian or oncoming vehicle that the driver can visually recognize, a bike approaching from behind the oncoming vehicle is detected, as shown in FIG. It is preferable to display a warning display that calls attention to it with a high priority.

本実施の形態の車両情報表示制御装置100によれば、HUD61による情報表示のレイアウトを、運転者の視野に対応する仮想視野画像と、車両の状況に基づいて決定するため、車両前方の視認性と情報表示の視認性の両方を考慮した情報表示が可能である。よって、車両前方の視認性と情報表示の視認性の両立を図ることができる。   According to the vehicle information display control device 100 of the present embodiment, the layout of the information display by the HUD 61 is determined based on the virtual visual field image corresponding to the driver's visual field and the state of the vehicle. And information display considering both the visibility of the information display. Therefore, both the visibility in front of the vehicle and the visibility of information display can be achieved.

なお、本発明は、その発明の範囲内において、実施の形態を適宜、変形、省略することが可能である。   In the present invention, the embodiments can be appropriately modified and omitted within the scope of the invention.

100 車両情報表示制御装置、101 前方車載カメラ、102 運転者モニタリングカメラ、103 車載センサ、104 車載機器、105 通信機器、10 画像処理部、11 前方画像抽出部、12 前方路面状況抽出部、13 前方車両状況抽出部、14 前方地物状況抽出部、15 前方歩行者状況抽出部、20 情報表示判断部、21 外部環境判断部、22 自車状況判断部、23 車内機器状況判断部、30 視線方向検出部、40 仮想視野構築部、41 車内画像情報、42 画像合成部、43 補正処理部、50 表示処理部、51 表示割当部、52 運転者特性情報データベース、53 運転操作履歴データベース、54 レイアウト演算部、55 コントラスト演算部、61 HUD、62 非HUDディスプレイ、211 周辺車両状況判断部、212 路面状況判断部、213 地物状況判断部、214 歩行者状況判断部、215 天候状況判断部、221 運転操作状況判断部、222 走行状況判断部、231 車載機器状況判断部、232 通信機器状況判断部。   DESCRIPTION OF SYMBOLS 100 Vehicle information display control apparatus, 101 Front vehicle-mounted camera, 102 Driver monitoring camera, 103 Vehicle-mounted sensor, 104 Vehicle-mounted apparatus, 105 Communication apparatus, 10 Image processing part, 11 Front image extraction part, 12 Front road surface condition extraction part, 13 Front Vehicle status extraction unit, 14 forward feature status extraction unit, 15 forward pedestrian status extraction unit, 20 information display determination unit, 21 external environment determination unit, 22 own vehicle status determination unit, 23 in-vehicle device status determination unit, 30 gaze direction Detection unit, 40 Virtual visual field construction unit, 41 In-vehicle image information, 42 Image composition unit, 43 Correction processing unit, 50 Display processing unit, 51 Display allocation unit, 52 Driver characteristic information database, 53 Driving operation history database, 54 Layout calculation Part, 55 contrast calculation part, 61 HUD, 62 non-HUD display, 211 laps Vehicle status determination unit, 212 Road surface status determination unit, 213 Feature status determination unit, 214 Pedestrian status determination unit, 215 Weather status determination unit, 221 Driving operation status determination unit, 222 Driving status determination unit, 231 In-vehicle device status determination unit 232 Communication device status determination unit.

Claims (12)

車両の運転者の視野に情報を表示するヘッドアップディスプレイを制御する車両情報表示制御装置であって、
前記車両の状況に関する情報を取得し、前記車両の状況に関する情報に基づいて、前記ヘッドアップディスプレイで表示すべき情報を判断する情報表示判断部と、
前記車両の前方を撮影した画像を取得する画像処理部と、
前記運転者の視線の方向を検出する視線方向検出部と、
前記車両の前方の画像に対し前記運転者の視線の方向に基づく補正処理を行うことで、運転者の視野に対応する画像である仮想視野画像を作成する仮想視野構築部と、
前記仮想視野画像および前記車両の状況に基づいて、前記ヘッドアップディスプレイで表示する情報のレイアウトを決定する表示処理部と
を備える車両情報表示制御装置。
A vehicle information display control device for controlling a head-up display that displays information in the field of view of a driver of a vehicle,
An information display determination unit that acquires information related to the vehicle status and determines information to be displayed on the head-up display based on the information related to the vehicle status;
An image processing unit for acquiring an image of the front of the vehicle;
A line-of-sight detection unit that detects the direction of the driver's line of sight;
By performing based rather correction process in the direction of the sight line of the driver with respect to the front image of the vehicle, a virtual visual field construction unit for creating a virtual view image is an image corresponding to the visual field of the driver,
A vehicle information display control apparatus comprising: a display processing unit that determines a layout of information to be displayed on the head-up display based on the virtual visual field image and the state of the vehicle.
前記表示処理部は、前記ヘッドアップディスプレイで表示する情報とその背景とのコントラスト比を考慮して、前記ヘッドアップディスプレイで表示する情報の色を決定する
請求項1記載の車両情報表示制御装置。
The vehicle information display control device according to claim 1, wherein the display processing unit determines a color of information displayed on the head-up display in consideration of a contrast ratio between information displayed on the head-up display and a background thereof.
前記表示処理部は、前記ヘッドアップディスプレイで表示する情報が前記運転者の視野内の特定の物体と重ならないように、前記ヘッドアップディスプレイで表示する情報の位置を変化させる
請求項1または請求項2記載の車両情報表示制御装置。
The said display process part changes the position of the information displayed on the said head up display so that the information displayed on the said head up display may not overlap with the specific object in the said driver | operator's visual field. 2. The vehicle information display control device according to 2.
前記表示処理部は、前記運転者の視線の動きに合わせて、前記ヘッドアップディスプレイが表示を行う領域を動かす
請求項1から請求項3のいずれか一項記載の車両情報表示制御装置。
4. The vehicle information display control device according to claim 1, wherein the display processing unit moves a region in which the head-up display performs display in accordance with the movement of the driver's line of sight.
前記表示処理部は、前記車両の走行速度に応じて、前記ヘッドアップディスプレイで表示する情報のレイアウトを変化させる
請求項1から請求項4のいずれか一項記載の車両情報表示制御装置。
5. The vehicle information display control device according to claim 1, wherein the display processing unit changes a layout of information displayed on the head-up display according to a traveling speed of the vehicle.
前記表示処理部は、前記車両の走行速度が速いときほど、前記ヘッドアップディスプレイが表示を行う領域を狭くする
請求項5記載の車両情報表示制御装置。
The vehicle information display control device according to claim 5, wherein the display processing unit narrows a region where the head-up display displays as the traveling speed of the vehicle increases.
前記表示処理部は、前記車両が走行中の道路種別に応じて、前記ヘッドアップディスプレイで表示する情報のレイアウトを変化させる
請求項1から請求項6のいずれか一項記載の車両情報表示制御装置。
The vehicle information display control device according to any one of claims 1 to 6, wherein the display processing unit changes a layout of information displayed on the head-up display according to a road type on which the vehicle is traveling. .
前記表示処理部は、前記車両が高速道路を走行中のときは、一般道を走行中のときよりも、前記ヘッドアップディスプレイが表示を行う領域を狭くする
請求項7記載の車両情報表示制御装置。
The vehicle information display control device according to claim 7, wherein the display processing unit narrows a region in which the head-up display displays when the vehicle is traveling on a highway than when traveling on a general road. .
前記表示処理部は、前記車両が高速道路を走行中のときは、前記ヘッドアップディスプレイで表示する情報の前記運転者の視線の方向に対する相対的な位置を変化させない
請求項7または請求項8記載の車両情報表示制御装置。
The said display process part does not change the relative position with respect to the direction of the said driver | operator's eyes | visual_axis of the information displayed on the said head-up display, when the said vehicle is drive | working a highway. Vehicle information display control device.
前記表示処理部は、さらに前記運転者の特性情報に基づいて、前記ヘッドアップディスプレイで表示する情報のレイアウトを変化させる
請求項1から請求項9のいずれか一項記載の車両情報表示制御装置。
The vehicle information display control device according to any one of claims 1 to 9, wherein the display processing unit further changes a layout of information displayed on the head-up display based on the characteristic information of the driver.
前記表示処理部は、さらに前記運転者の運転操作履歴に基づいて、前記ヘッドアップディスプレイで表示する情報のレイアウトを変化させる
請求項1から請求項10のいずれか一項記載の車両情報表示制御装置。
The vehicle information display control device according to any one of claims 1 to 10, wherein the display processing unit further changes a layout of information displayed on the head-up display based on a driving operation history of the driver. .
前記仮想視野構築部は、前記車両の前方の画像と前記車両のダッシュボードの画像とを前記ダッシュボードの寸法を考慮して合成し、前記車両のダッシュボードの画像が合成された前記車両の前方の画像に対して前記補正処理を行うことにより、仮想視野画像を作成するThe virtual visual field building unit combines the image in front of the vehicle and the image of the dashboard of the vehicle in consideration of the dimensions of the dashboard, and the front of the vehicle in which the image of the dashboard of the vehicle is combined A virtual visual field image is created by performing the correction process on the image of
請求項1から請求項11のいずれか一項記載の車両情報表示制御装置。The vehicle information display control apparatus according to any one of claims 1 to 11.
JP2014005761A 2014-01-16 2014-01-16 Vehicle information display control device Active JP6253417B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014005761A JP6253417B2 (en) 2014-01-16 2014-01-16 Vehicle information display control device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014005761A JP6253417B2 (en) 2014-01-16 2014-01-16 Vehicle information display control device

Publications (2)

Publication Number Publication Date
JP2015134521A JP2015134521A (en) 2015-07-27
JP6253417B2 true JP6253417B2 (en) 2017-12-27

Family

ID=53766739

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014005761A Active JP6253417B2 (en) 2014-01-16 2014-01-16 Vehicle information display control device

Country Status (1)

Country Link
JP (1) JP6253417B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109421623A (en) * 2017-08-22 2019-03-05 马自达汽车株式会社 Vehicle
JP2020148005A (en) * 2019-03-13 2020-09-17 日立建機株式会社 Work machine
WO2021132259A1 (en) * 2019-12-26 2021-07-01 Ricoh Company, Ltd. Display apparatus, display method, and program

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017043107A1 (en) * 2015-09-10 2017-03-16 富士フイルム株式会社 Projection-type display device and projection control method
WO2017051655A1 (en) * 2015-09-25 2017-03-30 富士フイルム株式会社 Projection type display device and projection control method
JP6840422B2 (en) * 2015-11-10 2021-03-10 日本信号株式会社 Train driving support system
JP2017102664A (en) * 2015-12-01 2017-06-08 株式会社デンソー Information transmission device and program
JP6317315B2 (en) * 2015-12-22 2018-04-25 本田技研工業株式会社 Sign information display device and method
WO2017134861A1 (en) * 2016-02-05 2017-08-10 日立マクセル株式会社 Head-up display device
WO2017138297A1 (en) * 2016-02-08 2017-08-17 株式会社リコー Image display device and method for displaying image
JP6674793B2 (en) * 2016-02-25 2020-04-01 京セラ株式会社 Driving support information display device
CN108698513B (en) * 2016-03-02 2019-06-18 富士胶片株式会社 Projection display device, method for controlling projection and recording medium
JP2017161423A (en) * 2016-03-10 2017-09-14 株式会社デンソー Car onboard information presentation device, and information presentation method
JP2017167623A (en) * 2016-03-14 2017-09-21 パイオニア株式会社 Information display device, information display method, and program
JPWO2017175382A1 (en) * 2016-04-08 2018-04-12 三菱電機株式会社 Display control apparatus, display control method, and display control program
JP6784058B2 (en) 2016-05-23 2020-11-11 株式会社リコー Information display device
JP6775188B2 (en) * 2016-08-05 2020-10-28 パナソニックIpマネジメント株式会社 Head-up display device and display control method
JP2019217790A (en) * 2016-10-13 2019-12-26 マクセル株式会社 Head-up display device
JP6716172B2 (en) * 2016-10-19 2020-07-01 アルパイン株式会社 Head-up display display control device and display control method
JP6872441B2 (en) * 2017-06-30 2021-05-19 マクセル株式会社 Head-up display device
JP6552559B2 (en) * 2017-08-01 2019-07-31 三菱電機株式会社 Camera monitoring system
JP2019051734A (en) * 2017-09-12 2019-04-04 株式会社Jvcケンウッド Projection control device for vehicle, head-up display device, projection control method for vehicle, and program
JP7164941B2 (en) * 2017-09-28 2022-11-02 株式会社Subaru Object information providing device for vehicle
JP7193911B2 (en) * 2017-09-28 2022-12-21 株式会社Subaru Object information providing device for vehicle
JP6987341B2 (en) 2017-10-24 2021-12-22 マクセル株式会社 Information display device and its spatial sensing device
WO2019092771A1 (en) * 2017-11-07 2019-05-16 三菱電機株式会社 Display control apparatus and display control method
JP7048358B2 (en) * 2018-03-07 2022-04-05 矢崎総業株式会社 Vehicle display projection device
CN108657070A (en) * 2018-03-30 2018-10-16 斑马网络技术有限公司 Automobile image interactive system and its method
JP7047586B2 (en) * 2018-05-15 2022-04-05 トヨタ自動車株式会社 Vehicle display control device
JP6744374B2 (en) 2018-09-27 2020-08-19 本田技研工業株式会社 Display device, display control method, and program
JP6936907B2 (en) * 2018-09-27 2021-09-22 本田技研工業株式会社 Display devices, display control methods, and programs
KR102068361B1 (en) * 2018-10-31 2020-01-21 지강진 Display system for vehicle instrument panel
DE112019005849T5 (en) * 2018-11-23 2021-09-02 Nippon Seiki Co., Ltd. Display control device, display control method and computer program for display control
JP6748947B2 (en) * 2018-12-03 2020-09-02 株式会社リコー Image display device, moving body, image display method and program
WO2020184599A1 (en) * 2019-03-11 2020-09-17 パナソニックIpマネジメント株式会社 Display control device, display system, display control method, program
JP7153594B2 (en) * 2019-03-26 2022-10-14 日立建機株式会社 Calibration work support system
CN110435539B (en) * 2019-07-22 2021-01-05 合肥京东方车载显示技术有限公司 Image display method of head-up display and head-up display system
JP7316344B2 (en) * 2021-11-30 2023-07-27 株式会社ドワンゴ ALERT DISPLAY SYSTEM, ALERT DISPLAY METHOD AND ALERT DISPLAY PROGRAM
CN114035884A (en) * 2021-12-07 2022-02-11 深圳市锐思华创技术有限公司 UI interaction design method of AR HUD train control system

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3394585B2 (en) * 1994-03-31 2003-04-07 マツダ株式会社 Vehicle display device
JP2000019953A (en) * 1998-07-03 2000-01-21 Hitachi Ltd Simple whole-sky image display device
JP2004217188A (en) * 2003-01-17 2004-08-05 Matsushita Electric Ind Co Ltd On-vehicle display device and display method
JP4650349B2 (en) * 2005-10-31 2011-03-16 株式会社デンソー Vehicle display system
JP2008140136A (en) * 2006-12-01 2008-06-19 Mazda Motor Corp Vehicle planning support system, vehicle planning support program and vehicle planning support method
JP2008162550A (en) * 2007-01-04 2008-07-17 Toyota Motor Corp External environment display device
JP2010023621A (en) * 2008-07-17 2010-02-04 Toyota Motor Corp Indication setting device in vehicle
JP5346650B2 (en) * 2009-03-31 2013-11-20 株式会社エクォス・リサーチ Information display device
JP5600256B2 (en) * 2010-01-21 2014-10-01 富士重工業株式会社 Information display device
JP5723106B2 (en) * 2010-05-18 2015-05-27 東芝アルパイン・オートモティブテクノロジー株式会社 Vehicle display device and vehicle display method
JP5654284B2 (en) * 2010-08-09 2015-01-14 東芝アルパイン・オートモティブテクノロジー株式会社 Vehicle display device
JP2012148710A (en) * 2011-01-20 2012-08-09 Toyota Motor Corp Image display apparatus

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109421623A (en) * 2017-08-22 2019-03-05 马自达汽车株式会社 Vehicle
JP2020148005A (en) * 2019-03-13 2020-09-17 日立建機株式会社 Work machine
US11447934B2 (en) 2019-03-13 2022-09-20 Hitachi Construction Machinery Co., Ltd. Work machine
JP7201486B2 (en) 2019-03-13 2023-01-10 日立建機株式会社 working machine
WO2021132259A1 (en) * 2019-12-26 2021-07-01 Ricoh Company, Ltd. Display apparatus, display method, and program

Also Published As

Publication number Publication date
JP2015134521A (en) 2015-07-27

Similar Documents

Publication Publication Date Title
JP6253417B2 (en) Vehicle information display control device
EP3095635B1 (en) Display apparatus and method for controlling the same
EP3100913B1 (en) Vehicle display apparatus and vehicle including the same
JP6123761B2 (en) Vehicle display device
US20170076606A1 (en) System and method to provide driving assistance
CN109835257B (en) Display device and vehicle with same
JP6460019B2 (en) Vehicle control device
CN110053608B (en) Vehicle control device mounted on vehicle and method of controlling the vehicle
JP6026011B2 (en) Display control apparatus, information display method, and information display system
CN109703363B (en) Display device and vehicle comprising same
JP2017056844A (en) Electronic device, image display method, and image display program
JP7409265B2 (en) In-vehicle display device, method and program
JP2008030729A (en) Vehicular display device
CN116323320A (en) Virtual image display device and display system
JP7423837B2 (en) Information presentation device for self-driving cars
US20230001985A1 (en) Display device for a vehicle
KR20220125148A (en) Video output device and its control method
US10442295B2 (en) Display device and vehicle having the same
WO2020105685A1 (en) Display control device, method, and computer program
JP7508763B2 (en) IMAGE CONTROL DEVICE, DISPLAY DEVICE, MOBILE OBJECT, IMAGE CONTROL METHOD, AND PROGRAM
JP6625480B2 (en) Display system
JP7088899B2 (en) Information presentation device for autonomous vehicles
JP2021107975A (en) Vehicle control device, vehicle control method, and program
JP2021092978A (en) Information presentation device for automatic driving vehicle
KR101919889B1 (en) Display device and vehicle comprising the same

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160614

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170313

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170328

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170512

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171031

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171128

R150 Certificate of patent or registration of utility model

Ref document number: 6253417

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350