JP7114993B2 - DISPLAY DEVICE, DISPLAY SYSTEM, MOBILE, DISPLAY BRIGHTNESS CONTROL METHOD AND PROGRAM - Google Patents

DISPLAY DEVICE, DISPLAY SYSTEM, MOBILE, DISPLAY BRIGHTNESS CONTROL METHOD AND PROGRAM Download PDF

Info

Publication number
JP7114993B2
JP7114993B2 JP2018069035A JP2018069035A JP7114993B2 JP 7114993 B2 JP7114993 B2 JP 7114993B2 JP 2018069035 A JP2018069035 A JP 2018069035A JP 2018069035 A JP2018069035 A JP 2018069035A JP 7114993 B2 JP7114993 B2 JP 7114993B2
Authority
JP
Japan
Prior art keywords
display
luminance
brightness
information
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018069035A
Other languages
Japanese (ja)
Other versions
JP2019179172A (en
Inventor
涼平 鈴木
真人 草▲なぎ▼
友規 鈴木
和弘 藤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2018069035A priority Critical patent/JP7114993B2/en
Priority to US16/364,561 priority patent/US10923076B2/en
Priority to EP19165264.3A priority patent/EP3547299A3/en
Publication of JP2019179172A publication Critical patent/JP2019179172A/en
Application granted granted Critical
Publication of JP7114993B2 publication Critical patent/JP7114993B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Mechanical Optical Scanning Systems (AREA)
  • Instrument Panels (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、表示装置、表示システム、移動体、表示輝度制御方法およびプログラムに関する。 The present invention relates to a display device, a display system, a mobile object, a display brightness control method, and a program.

車両等の移動体において、少ない視線移動で運転者(観察者)に各種情報(車両情報、警告情報、ナビゲーション情報等)を視認させるアプリケーションとして、HUD(ヘッドアップディスプレイ)等の表示装置が利用されている。車両に搭載される表示装置において、車両周囲の輝度に応じて、運転者が視認しやすいように、表示の輝度を制御する技術が知られている。 BACKGROUND ART Display devices such as HUDs (head-up displays) are used as applications that allow drivers (observers) to visually recognize various types of information (vehicle information, warning information, navigation information, etc.) in moving bodies such as vehicles with a small amount of line-of-sight movement. ing. 2. Description of the Related Art In a display device mounted on a vehicle, there is known a technique of controlling the brightness of the display according to the brightness around the vehicle so that the driver can easily see the display.

一方で、表示の輝度を車両周囲の輝度の変化に追従させた場合、周囲の輝度の急激な変化による表示のちらつき等が発生して、運転者にとって表示の視認性が損なわれることが考えられる。そこで、車両周囲の輝度の急激な変化による表示のちらつきを低減させることにより、運転者の表示の視認性を高める技術が知られている。 On the other hand, if the brightness of the display is made to follow the change in brightness around the vehicle, it is conceivable that the visibility of the display for the driver will be impaired due to the flickering of the display due to the sudden change in the brightness of the surroundings. . Therefore, there is known a technique for improving the visibility of the display for the driver by reducing the flickering of the display caused by the sudden change in luminance around the vehicle.

例えば、特許文献1は、表示輝度の調整の応答性を低下させることなく表示輝度の変更による表示のちらつきを低減するため、今回の照度値と前回判定時の照度値との差の絶対値が所定の閾値未満である場合は照度変化がないと判定し、今回の照度値と前回判定時の照度値との差の絶対値が前記閾値以上である場合は照度変化があると判定し、所定の第一の回数連続して照度変化があると判定される場合に、今回の照度値に応じて発光表示器の表示輝度を調整する内容を開示している。 For example, Patent Document 1 discloses that the absolute value of the difference between the current illuminance value and the illuminance value at the time of the previous determination is reduced in order to reduce display flickering due to a change in display luminance without degrading the responsiveness of display luminance adjustment. If it is less than a predetermined threshold, it is determined that there is no change in illuminance. When it is determined that the illuminance has changed continuously for the first number of times, the display brightness of the light-emitting display is adjusted according to the current illuminance value.

しかしながら、従来の方法では、表示輝度の応答性を落とさないことを目的としているため、背景輝度の急激な変化(例えば、太陽光が入り込んだ場合等)が発生した場合には、表示輝度も急激に変化するため、観察者にとって望ましくない輝度変化となり、表示情報の視認性が低下してしまうという課題があった。 However, in the conventional method, since the purpose is not to reduce the responsiveness of the display luminance, when a rapid change in the background luminance occurs (for example, when sunlight enters), the display luminance is also abrupt. , there is a problem that the luminance changes unfavorably for the observer, and the visibility of the displayed information is lowered.

本発明に係る表示装置は、移動体の前方に観察者が視認する表示情報を表示させる表示装置であって、前記表示情報の背景となる表示領域の少なくとも一部を含む周辺領域の輝度を示す輝度情報を、特定の周期で取得する取得手段と、前記取得された輝度情報に基づいて、前記周辺領域の輝度変化が所定値以上であることを検出する検出手段と、前記取得された輝度情報に基づいて、表示輝度を示す表示輝度情報を決定する決定手段と、を備え、前記決定手段は、前記所定値以上の輝度変化が検出された場合、前記所定値以上の輝度変化が検出されない場合に比べて前記表示輝度の変化が遅延するように、かつ前記表示情報の表示輝度を前記周辺領域の輝度に対応させるまでの遅延時間が、観察者に違和感を与えない許容範囲として設定された遅延許容時間以内または当該遅延許容時間より短くなるように、前記表示輝度情報を決定し、前記決定された表示輝度情報を用いて、前記表示情報を表示させる。
A display device according to the present invention is a display device that displays display information visually recognized by an observer in front of a moving object, and indicates the luminance of a peripheral region including at least part of a display region serving as a background of the display information. Acquisition means for acquiring luminance information at a specific cycle; detection means for detecting that a change in luminance of the peripheral area is equal to or greater than a predetermined value based on the acquired luminance information; and the acquired luminance information. determining means for determining display luminance information indicating the display luminance based on the determining means, when a luminance change equal to or greater than the predetermined value is detected, and when a luminance change equal to or greater than the predetermined value is not detected and the delay time until the display luminance of the display information corresponds to the luminance of the peripheral area is set as a permissible range that does not give a sense of discomfort to the observer. The display luminance information is determined so as to be within the permissible time or shorter than the permissible delay time, and the display information is displayed using the determined display luminance information.

本発明によれば、背景の急激な輝度変化に対して、観察者にとって望ましくない表示輝度の変化を抑制することで、表示情報の視認性を向上させることができる。 According to the present invention, it is possible to improve the visibility of display information by suppressing changes in display luminance that are undesirable for the observer in response to sudden changes in luminance of the background.

実施形態に係る表示システムのシステム構成の一例を示す図である。It is a figure which shows an example of the system configuration|structure of the display system which concerns on embodiment. 実施形態に係る光源装置の具体的構成の一例を示す図である。It is a figure showing an example of concrete composition of a light source device concerning an embodiment. 実施形態に係る光偏向装置の具体的構成の一例を示す図である。It is a figure which shows an example of a specific structure of the optical deflection apparatus which concerns on embodiment. 実施形態に係るスクリーンの具体的構成の一例を示す図である。It is a figure showing an example of concrete composition of a screen concerning an embodiment. マイクロレンズアレイにおいて、入射光束径とレンズ径の大小関係の違いによる作用の違いについて説明するための図である。FIG. 10 is a diagram for explaining the difference in action due to the difference in magnitude relationship between the diameter of an incident light beam and the diameter of a lens in a microlens array; 光偏向装置のミラーと走査範囲の対応関係について説明するための図である。FIG. 4 is a diagram for explaining a correspondence relationship between a mirror of an optical deflection device and a scanning range; 2次元走査時の走査線軌跡の一例を示す図である。FIG. 5 is a diagram showing an example of scanning line trajectories during two-dimensional scanning; 第1の実施形態に係る表示システムの概略を説明するための図である。1 is a diagram for explaining an outline of a display system according to a first embodiment; FIG. 第1の実施形態に係る表示システムにおける輝度検出領域の概略を説明するための図である。4 is a diagram for explaining an outline of a luminance detection area in the display system according to the first embodiment; FIG. 第1の実施形態に係る表示システムにおける輝度検出領域と表示背景領域との関係の一例を説明するための図である。FIG. 4 is a diagram for explaining an example of the relationship between a luminance detection area and a display background area in the display system according to the first embodiment; 第1の実施形態に係る表示装置における表示輝度情報の決定処理の一例を概略的に説明するための図である。FIG. 4 is a diagram for schematically explaining an example of display brightness information determination processing in the display device according to the first embodiment; 第1の実施形態に係る表示装置のハードウエア構成の一例を示す図である。It is a figure showing an example of hardware constitutions of a display concerning a 1st embodiment. 第1の実施形態に係る表示装置の機能構成の一例を示す図である。It is a figure showing an example of functional composition of a display concerning a 1st embodiment. 第1の実施形態に係る表示輝度制御部の詳細な機能構成の一例を示す図である。It is a figure which shows an example of a detailed functional structure of the display brightness control part which concerns on 1st Embodiment. 第1の実施形態に係る輝度情報管理テーブルの一例を示す図である。4 is a diagram showing an example of a brightness information management table according to the first embodiment; FIG. 第1の実施形態に係る遅延許容時間情報の一例を示す図である。FIG. 4 is a diagram showing an example of allowable delay time information according to the first embodiment; FIG. 第1の実施形態に係る表示装置のおける表示輝度の制御処理の一例を示すフローチャートである。4 is a flowchart showing an example of display luminance control processing in the display device according to the first embodiment. 観察者の視界における急激な輝度変化の影響の具体例(その1)を説明するための図である。FIG. 10 is a diagram for explaining a specific example (Part 1) of the influence of a sudden change in brightness in the field of view of the observer; 観察者の視界における急激な輝度変化の影響の具体例(その2)を説明するための図である。FIG. 10 is a diagram for explaining a specific example (Part 2) of the influence of sudden changes in brightness in the field of view of the observer; 第1の実施形態に係る表示システムにおける遅延許容時間について説明するための図である。FIG. 4 is a diagram for explaining an allowable delay time in the display system according to the first embodiment; FIG. 第1の実施形態に係る表示システムにおける遅延許容時間を説明するための図である。FIG. 4 is a diagram for explaining an allowable delay time in the display system according to the first embodiment; FIG. 第1の実施形態の変形例に係る輝度検出領域と表示背景領域との関係の一例を説明するための図である。FIG. 11 is a diagram for explaining an example of the relationship between a luminance detection area and a display background area according to a modification of the first embodiment; FIG. 第2の実施形態に係る表示装置における表示輝度の制御処理の一例を示すフローチャートである。9 is a flowchart showing an example of display brightness control processing in the display device according to the second embodiment.

以下、図面を参照しながら、発明を実施するための形態を説明する。なお、図面の説明において同一要素には同一符号を付し、重複する説明は省略する。 BEST MODE FOR CARRYING OUT THE INVENTION Hereinafter, embodiments for carrying out the invention will be described with reference to the drawings. In the description of the drawings, the same elements are denoted by the same reference numerals, and overlapping descriptions are omitted.

●実施形態●
●システム構成
図1は、実施形態に係る表示システムのシステム構成の一例を示す図である。図1に示す表示システム1は、表示装置10から投射される投射光を、透過反射部材に投射させることによって観察者3に表示情報を視認させるシステムである。表示情報は、観察者3の視界に虚像45として重畳して表示させる画像情報である。
●Embodiment●
●System Configuration FIG. 1 is a diagram illustrating an example of a system configuration of a display system according to an embodiment. A display system 1 shown in FIG. 1 is a system that allows an observer 3 to visually recognize display information by projecting light projected from a display device 10 onto a transmissive/reflective member. The display information is image information that is superimposed and displayed as a virtual image 45 in the field of view of the observer 3 .

表示システム1は、例えば、車両、航空機もしくは船舶等の移動体、または操縦シミュレーションシステムもしくはホームシアターシステム等の非移動体に備えられる。本実施形態は、表示システム1が、移動体の一例である自動車に備えられた場合について説明する。なお、表示システム1の使用形態は、これに限られるものではない。 The display system 1 is provided in, for example, a mobile object such as a vehicle, an aircraft or a ship, or a non-mobile object such as a maneuvering simulation system or a home theater system. This embodiment describes a case where the display system 1 is installed in an automobile, which is an example of a moving body. Note that the usage pattern of the display system 1 is not limited to this.

表示システム1は、例えば、フロントガラス50を介して車両の操縦に必要なナビゲーション情報(例えば車両の速度、進路情報、目的地までの距離、現在地名称、車両前方における物体(対象物)の有無や位置、制限速度等の標識、渋滞情報等の情報等)を、観察者3(操縦者)に視認させる。この場合、フロントガラス50は、入射された光の一部を透過させ、残部の少なくとも一部を反射させる透過反射部材として機能する。観察者3の視点位置からフロントガラス50までの距離は、数十cm~1m程度である。 The display system 1 displays, for example, navigation information (such as vehicle speed, course information, distance to the destination, current location name, presence or absence of an object (object) in front of the vehicle, etc.) necessary for steering the vehicle through the windshield 50. position, signs such as speed limit, information such as traffic jam information, etc.) are visually recognized by an observer 3 (driver). In this case, the windshield 50 functions as a transmissive/reflective member that transmits part of the incident light and reflects at least part of the remaining light. The distance from the viewpoint position of the observer 3 to the windshield 50 is about several tens cm to 1 m.

表示システム1は、表示装置10、自由曲面ミラー30およびフロントガラス50を備える。表示装置10は、例えば、移動体の一例である自動車に搭載されたヘッドアップディスプレイ装置(HUD装置)である。表示装置10は、自動車のインテリアデザインに準拠して任意の位置に配置される。表示装置10は、例えば、自動車のダッシュボードの下方に配置されてもよく、ダッシュボード内に埋め込まれていてもよい。 A display system 1 includes a display device 10 , a free-form surface mirror 30 and a windshield 50 . The display device 10 is, for example, a head-up display device (HUD device) mounted on an automobile, which is an example of a mobile object. The display device 10 is arranged at an arbitrary position in accordance with the interior design of the automobile. The display device 10 may be arranged, for example, under the dashboard of an automobile, or may be embedded in the dashboard.

表示装置10は、光源装置11、光偏向装置13、スクリーン15を備える。光源装置11は、光源から出射されたレーザ光を、装置外部へ照射するデバイスである。光源装置11は、例えば、R、G、Bの3色のレーザ光を合成したレーザ光を照射してもよい。光源装置11から射出されたレーザ光は、光偏向装置13の反射面に導かれる。光源装置11は、光源として、LD(Laser Diode)等の半導体発光素子を有する。なお、光源は、これに限られず、LED(light emitting diode)等の半導体発光素子を有してもよい。 The display device 10 includes a light source device 11 , an optical deflection device 13 and a screen 15 . The light source device 11 is a device that irradiates laser light emitted from a light source to the outside of the device. The light source device 11 may irradiate a laser beam obtained by synthesizing three colors of R, G, and B laser beams, for example. A laser beam emitted from the light source device 11 is guided to the reflecting surface of the light deflection device 13 . The light source device 11 has a semiconductor light emitting element such as an LD (Laser Diode) as a light source. The light source is not limited to this, and may have a semiconductor light emitting element such as an LED (light emitting diode).

光偏向装置13は、MEMS(Micro Electro Mechanical Systems)等を利用してレーザ光の進行方向を変化させるデバイスである。光偏向装置13は、例えば、直交する2軸に対して揺動する単一の微小なMEMSミラー、または1軸に対して揺動もしくは回転する2つのMEMSミラーからなるミラー系等の走査手段を利用して構成される。光偏向装置13から射出したレーザ光は、スクリーン15に走査される。なお、光偏向装置13は、MEMSミラーに限られず、ポリゴンミラー等を用いて構成されてもよい。 The optical deflection device 13 is a device that changes the traveling direction of laser light using MEMS (Micro Electro Mechanical Systems) or the like. The optical deflection device 13 includes scanning means such as a single minute MEMS mirror that oscillates about two orthogonal axes, or a mirror system composed of two MEMS mirrors that oscillates or rotates about one axis. configured using A laser beam emitted from the optical deflection device 13 is scanned on the screen 15 . Note that the optical deflection device 13 is not limited to the MEMS mirror, and may be configured using a polygon mirror or the like.

スクリーン15は、レーザ光を所定の発散角で発散させる機能を有する発散部材である。スクリーン15は、例えば、EPE(Exit Pupil Expander)の形態として、マイクロレンズアレイ(MLA)または拡散板等の光拡散効果を持つ透過型の光学素子によって構成される。なお、スクリーン15は、マイクロミラーアレイ等の光拡散効果を持つ反射型の光学素子によって構成されてもよい。スクリーン15は、光偏向装置13から射出されたレーザ光がスクリーン15上に走査されることによって、スクリーン15上に二次元像である中間像40を形成する。 The screen 15 is a diverging member that has a function of diverging the laser light at a predetermined divergence angle. The screen 15 is in the form of an EPE (Exit Pupil Expander), for example. Note that the screen 15 may be composed of a reflective optical element having a light diffusion effect, such as a micromirror array. The screen 15 forms an intermediate image 40, which is a two-dimensional image, on the screen 15 by scanning the screen 15 with the laser light emitted from the optical deflection device 13. FIG.

ここで、表示装置10の投射方式は、液晶パネル、DMDパネル(デジタルミラーデバイスパネル)または蛍光表示管(VFD)等イメージングデバイスで中間像40を形成する「パネル方式」と、光源装置11から射出されたレーザ光を走査手段で走査して中間像40を形成する「レーザ走査方式」がある。 Here, the projection method of the display device 10 is a “panel method” in which an intermediate image 40 is formed by an imaging device such as a liquid crystal panel, a DMD panel (digital mirror device panel), or a vacuum fluorescent display (VFD). There is a "laser scanning method" in which an intermediate image 40 is formed by scanning the laser beam that has been emitted by a scanning means.

実施形態に係る表示装置10は、後者の「レーザ走査方式」を採用する。「レーザ走査方式」は、各画素に対して発光または非発光を割り当てることができるため、一般に高コントラストの画像を形成することができる。なお、表示装置10は、投射方式として「パネル方式」を用いてもよい。 The display device 10 according to the embodiment employs the latter “laser scanning method”. Since the "laser scanning method" can assign light emission or non-light emission to each pixel, it is generally possible to form a high-contrast image. Note that the display device 10 may use a “panel system” as a projection system.

スクリーン15から射出されたレーザ光(光束)によって、自由曲面ミラー30およびフロントガラス50に投射された虚像45は、中間像40から拡大されて表示される。自由曲面ミラー30は、フロントガラス50の湾曲形状による画像の傾き、歪、位置ずれ等を相殺するように設計および配置されている。自由曲面ミラー30は、所定の回転軸を中心として回転可能に設置されてもよい。これにより、自由曲面ミラー30は、スクリーン15から射出したレーザ光(光束)の反射方向を調整し、虚像45の表示位置を変化させることができる。 A virtual image 45 projected onto the free-form surface mirror 30 and the windshield 50 by the laser light (luminous flux) emitted from the screen 15 is enlarged from the intermediate image 40 and displayed. The free-form surface mirror 30 is designed and arranged so as to cancel the inclination, distortion, positional deviation, etc. of the image due to the curved shape of the windshield 50 . The free-form surface mirror 30 may be installed rotatably around a predetermined rotation axis. Thereby, the free-form surface mirror 30 can adjust the reflection direction of the laser beam (luminous flux) emitted from the screen 15 and change the display position of the virtual image 45 .

ここでは、自由曲面ミラー30は、虚像45の結像位置が所望の位置になるように、一定の集光パワーを有するように既存の光学設計シミュレーションソフトを用いて設計されている。表示装置10は、虚像45が観察者3の視点位置から例えば1m以上かつ30m以下(好ましくは10m以下)の位置(奥行位置)に表示されるように、自由曲面ミラー30の集光パワーが設定される。なお、自由曲面ミラー30は、凹面ミラーやその他集光パワーを有する素子であってもよい。自由曲面ミラー30は、結像光学系の一例である。 Here, the free-form surface mirror 30 is designed using existing optical design simulation software so as to have a certain condensing power so that the imaging position of the virtual image 45 is at a desired position. The display device 10 sets the condensing power of the free-form surface mirror 30 so that the virtual image 45 is displayed at a position (depth position) that is, for example, 1 m or more and 30 m or less (preferably 10 m or less) from the viewpoint position of the observer 3. be done. In addition, the free-form surface mirror 30 may be a concave mirror or other element having light-collecting power. The free-form surface mirror 30 is an example of an imaging optical system.

フロントガラス50は、レーザ光(光束)の一部を透過させ、残部の少なくとも一部を反射させる機能(部分反射機能)を有する透過反射部材である。フロントガラス50は、観察者3に前方の景色および虚像45を視認させる半透過鏡として機能する。虚像45は、例えば、車両情報(速度、走行距離等)、ナビゲーション情報(経路案内、交通情報等)、警告情報(衝突警報等)等を観察者3に視認させるための画像情報である。なお、透過反射部材は、フロントガラス50とは別途設けられたフロントウインドシールド等であってもよい。フロントガラス50は、反射部材の一例である。 The windshield 50 is a transmissive/reflective member having a function (partial reflection function) of transmitting part of the laser beam (luminous flux) and reflecting at least part of the rest. The windshield 50 functions as a semi-transmissive mirror that allows the observer 3 to visually recognize the scenery and the virtual image 45 ahead. The virtual image 45 is image information for allowing the observer 3 to visually recognize vehicle information (speed, travel distance, etc.), navigation information (route guidance, traffic information, etc.), warning information (collision warning, etc.), and the like. Note that the transmissive/reflective member may be a front windshield or the like provided separately from the windshield 50 . The windshield 50 is an example of a reflective member.

虚像45は、フロントガラス50の前方の景色と重畳するように表示されてもよい。また、フロントガラス50は、平面でなく、湾曲している。そのため、虚像45の結像位置は、自由曲面ミラー30とフロントガラス50の曲面によって決定される。なお、フロントガラス50は、部分反射機能を有する個別の透過反射部材としての半透過鏡(コンバイナ)を利用してもよい。 The virtual image 45 may be displayed so as to overlap the scenery in front of the windshield 50 . Also, the windshield 50 is not flat but curved. Therefore, the imaging position of the virtual image 45 is determined by the curved surfaces of the free-form surface mirror 30 and the windshield 50 . Note that the windshield 50 may utilize a semi-transmissive mirror (combiner) as an individual transmissive/reflective member having a partial reflection function.

このような構成により、スクリーン15から射出されたレーザ光(光束)は、自由曲面ミラー30に向けて投射され、フロントガラス50によって反射される。観察者3は、フロントガラス50で反射された光によって、スクリーン15に形成された中間像40が拡大された虚像45を視認することができるようになる。 With such a configuration, the laser light (luminous flux) emitted from the screen 15 is projected toward the free-form surface mirror 30 and reflected by the windshield 50 . The observer 3 can visually recognize a virtual image 45 obtained by enlarging the intermediate image 40 formed on the screen 15 by the light reflected by the windshield 50 .

●光源装置
図2は、実施形態に係る光源装置の具体的構成に一例を示す図である。光源装置11は、光源素子111R,111G,111B(以下、区別する必要のないときは、光源素子111とする。)、カップリングレンズ112R,112G,112B、アパーチャ113R,113G,113B、合成素子114,115,116、およびレンズ117を含む。
●Light Source Device FIG. 2 is a diagram showing an example of a specific configuration of the light source device according to the embodiment. The light source device 11 includes light source elements 111R, 111G, and 111B (hereinafter referred to as light source element 111 when there is no need to distinguish between them), coupling lenses 112R, 112G, and 112B, apertures 113R, 113G, and 113B, and a composite element 114. , 115 , 116 and lens 117 .

3色(R,G,B)の光源素子111R,111G,111Bは、例えば、それぞれ単数または複数の発光点を有するLD(Laser Diode)である。光源素子111R,111G,111Bは、互いに異なる波長λR,λG,λB(例えばλR=640nm,λG=530nm,λB=445nm)のレーザ光(光束)を放射する。 The three-color (R, G, B) light source elements 111R, 111G, and 111B are, for example, LDs (Laser Diodes) each having a single or a plurality of light emitting points. The light source elements 111R, 111G, and 111B emit laser light (luminous flux) with different wavelengths λR, λG, and λB (eg, λR=640 nm, λG=530 nm, and λB=445 nm).

放射された各レーザ光(光束)は、それぞれカップリングレンズ112R,112G,112Bによりカップリングされる。カップリングされた各レーザ(光束)は、それぞれアパーチャ113R,113G,113Bにより整形される。アパーチャ113R,113G,113Bは、レーザ光(光束)の発散角等の所定の条件に応じた形状(例えば円形、楕円形、長方形、正方形等)を有する。 The emitted laser beams (light beams) are coupled by coupling lenses 112R, 112G, and 112B, respectively. Each coupled laser (light beam) is shaped by apertures 113R, 113G, and 113B, respectively. Apertures 113R, 113G, and 113B have shapes (for example, circular, elliptical, rectangular, square, etc.) according to predetermined conditions such as the angle of divergence of laser light (luminous flux).

アパーチャ113R,113G,113Bにより整形された各レーザ光(光束)は、3つの合成素子114,115,116により合成される。合成素子114,115,116は、プレート状またはプリズム状のダイクロイックミラーであり、波長に応じてレーザ光(光束)を反射または透過し、1つの光束に合成する。合成された光束は、レンズ117を通り、光偏向装置13に導かれる。 The respective laser beams (luminous fluxes) shaped by the apertures 113R, 113G and 113B are synthesized by three synthesizing elements 114, 115 and 116, respectively. The synthesizing elements 114, 115, and 116 are plate-shaped or prism-shaped dichroic mirrors that reflect or transmit the laser beams (luminous fluxes) according to their wavelengths and synthesize them into one luminous flux. The combined luminous flux passes through lens 117 and is guided to optical deflection device 13 .

●光偏向装置
図3は、実施形態に係る光偏向装置の具体的構成の一例を示す図である。光偏向装置13は、半導体プロセスにより製造されるMEMSミラーであり、ミラー130、蛇行状梁部132、枠部材134、および圧電部材136を含む。光偏向装置13は、走査部の一例である。
●Optical Deflecting Device FIG. 3 is a diagram showing an example of a specific configuration of the optical deflecting device according to the embodiment. The optical deflection device 13 is a MEMS mirror manufactured by a semiconductor process, and includes a mirror 130 , a meandering beam portion 132 , a frame member 134 and a piezoelectric member 136 . The optical deflection device 13 is an example of a scanning section.

ミラー130は、光源装置11から射出されたレーザ光をスクリーン15側に反射する反射面を有する。光偏向装置13は、ミラー130を挟んで一対の蛇行状梁部132を形成する。蛇行状梁部132は、複数の折り返し部を有する。折り返し部は、交互に配置される第1の梁部132aと第2の梁部132bとから構成されている。蛇行状梁部132は、枠部材134に支持されている。圧電部材136は、隣接する第1の梁部132aと第2の梁部132bとを接続するように配置されている。圧電部材136は、第1の梁部132aと第2の梁部132bとに異なる電圧を印加し、梁部132a,132bのそれぞれに反りを発生させる。 The mirror 130 has a reflecting surface that reflects the laser light emitted from the light source device 11 toward the screen 15 . The optical deflector 13 forms a pair of meandering beams 132 with the mirror 130 interposed therebetween. The meandering beam portion 132 has a plurality of folded portions. The folded portion is composed of first beam portions 132a and second beam portions 132b that are alternately arranged. The meandering beam portion 132 is supported by a frame member 134 . The piezoelectric member 136 is arranged to connect the first beam portion 132a and the second beam portion 132b adjacent to each other. The piezoelectric member 136 applies different voltages to the first beam portion 132a and the second beam portion 132b to cause the beam portions 132a and 132b to warp.

これにより、隣接する梁部132a,132bは、異なる方向に撓む。ミラー130は、撓みが累積されることによって、左右方向の軸を中心として垂直方向に回転する。このような構成により、光偏向装置13は、垂直方向への光走査が低電圧で可能となる。上下方向の軸を中心とした水平方向の光走査は、ミラー130に接続されたトーションバー等を利用した共振により行われる。 As a result, the adjacent beams 132a and 132b bend in different directions. Mirror 130 rotates vertically about its left-right axis due to the accumulated deflection. With such a configuration, the optical deflection device 13 can perform optical scanning in the vertical direction at a low voltage. Horizontal optical scanning around the vertical axis is performed by resonance using a torsion bar or the like connected to the mirror 130 .

●スクリーン
図4は、実施形態に係るスクリーンの具体的構成の一例を示す図である。スクリーン15は、光源装置11の一部を構成するLD1007から射出されたレーザ光を結像させる。また、スクリーン15は、所定の発散角で発散させる発散部材である。スクリーン15は、光学素子の一例である。
●Screen FIG. 4 is a diagram showing an example of a specific configuration of the screen according to the embodiment. The screen 15 forms an image of laser light emitted from the LD 1007 forming part of the light source device 11 . Also, the screen 15 is a diverging member that diverges at a predetermined divergence angle. Screen 15 is an example of an optical element.

図4に示すスクリーン15は、六角形形状を有する複数のマイクロレンズ150が隙間なく配列されたマイクロレンズアレイ構造を有している。マイクロレンズ150の幅(対向する2辺間の距離)は、200μm程度である。スクリーン15は、マイクロレンズ150の形状を六角形とすることにより、複数のマイクロレンズ150を高密度で配列することができる。 The screen 15 shown in FIG. 4 has a microlens array structure in which a plurality of hexagonal microlenses 150 are arranged without gaps. The width of the microlens 150 (distance between two opposing sides) is about 200 μm. By making the shape of the microlenses 150 hexagonal, the screen 15 can arrange a plurality of microlenses 150 at a high density.

なお、マイクロレンズ150の形状は、六角形に限られるものではなく、例えば四角形、三角形等であってもよい。また、複数のマイクロレンズ150が規則正しく配列された構造を例示しているが、マイクロレンズ150の配列は、これに限られるものではなく、例えば、各マイクロレンズ150の中心を互いに偏心させ、不規則な配列としてもよい。このように偏心させた配列を採用する場合、各マイクロレンズ150は、互いに異なる形状となる。 Note that the shape of the microlens 150 is not limited to a hexagon, and may be, for example, a quadrangle, a triangle, or the like. Also, although a structure in which a plurality of microlenses 150 are regularly arranged is illustrated, the arrangement of the microlenses 150 is not limited to this. array. When employing such a decentered arrangement, each microlens 150 has a different shape.

図5は、マイクロレンズアレイにおいて、入射光束径とレンズ径の大小関係の違いによる作用の違いについて説明するための図である。図5(a)において、スクリーン15は、マイクロレンズ150が整列して配置された光学板151によって構成される。光学板151上に入射光152を走査される場合、入射光152は、マイクロレンズ150により発散され、発散光153となる。スクリーン15は、マイクロレンズ150の構造により、入射光152を所望の発散角154で発散させることができる。マイクロレンズ150の周期155は、入射光152の径156aよりも大きくなるように設計される。これにより、スクリーン15は、レンズ間での干渉が起こさずに、干渉ノイズの発生を抑制する。 FIG. 5 is a diagram for explaining the difference in action due to the difference in magnitude relationship between the diameter of the incident light beam and the diameter of the lens in the microlens array. In FIG. 5A, the screen 15 is composed of an optical plate 151 on which microlenses 150 are aligned. When the optical plate 151 is scanned with the incident light 152 , the incident light 152 is diverged by the microlens 150 and becomes divergent light 153 . The screen 15 can diverge incident light 152 at a desired divergence angle 154 due to the structure of the microlenses 150 . The period 155 of the microlenses 150 is designed to be larger than the diameter 156 a of the incident light 152 . Thereby, the screen 15 suppresses the occurrence of interference noise without causing interference between the lenses.

図5(b)は、入射光152の径156bが、マイクロレンズ150の周期155の2倍大きい場合の発散光の光路を示す。入射光152は、二つのマイクロレンズ150a、150bに入射し、それぞれ発散光157、158を生じさせる。このとき、領域159において、二つの発散光が存在するため、光の干渉を生じうる。この干渉光が観察者の目に入った場合、干渉ノイズとして視認される。 FIG. 5B shows the optical path of divergent light when the diameter 156b of the incident light 152 is twice as large as the period 155 of the microlens 150. FIG. Incident light 152 impinges on two microlenses 150a, 150b, producing divergent light 157, 158, respectively. At this time, since there are two diverging lights in the region 159, light interference may occur. When this interference light enters the observer's eyes, it is visually recognized as interference noise.

以上を考慮して、スペックルを低減するため、マイクロレンズ150の周期155は、入射光の径156よりも大きく設計される。なお、図5は、凸面レンズの形態で説明したが、凹面レンズの形態においても同様の効果があるものとする。 Considering the above, the period 155 of the microlenses 150 is designed to be larger than the diameter 156 of the incident light in order to reduce speckles. Although FIG. 5 has been described in the form of a convex lens, it is assumed that the same effect can be obtained in the form of a concave lens.

図6は、光偏向装置のミラーと走査範囲の対応関係について説明するための図である。光源装置11の各光源素子は、FPGA1001によって発光強度や点灯タイミング、光波形が制御される。光源装置11の各光源素子は、LDドライバ1008によって駆動され、レーザ光を射出する。各光源素子から射出され光路合成されたレーザ光は、図6に示すように、光偏向装置13のミラー130によってα軸周り、β軸周りに二次元的に偏向され、ミラー130を介して走査光としてスクリーン15に照射される。すなわち、スクリーン15は、光偏向装置13による主走査および副走査によって二次元走査される。 FIG. 6 is a diagram for explaining the correspondence relationship between the mirrors of the optical deflection device and the scanning range. Each light source element of the light source device 11 is controlled by the FPGA 1001 in light emission intensity, lighting timing, and light waveform. Each light source element of the light source device 11 is driven by an LD driver 1008 to emit laser light. As shown in FIG. 6, the laser beams emitted from each light source element and combined in their optical paths are two-dimensionally deflected around the α axis and around the β axis by the mirror 130 of the optical deflection device 13, and are scanned via the mirror 130. The screen 15 is irradiated with the light. That is, the screen 15 is two-dimensionally scanned by main scanning and sub-scanning by the optical deflection device 13 .

走査範囲は、光偏向装置13によって走査しうる全範囲である。走査光は、スクリーン15の走査範囲を、2~4万Hz程度の速い周波数で主走査方向(X軸方向)に振動走査(往復走査)しつつ、数十Hz程度の遅い周波数で副走査方向(Y軸方向)に片道走査する。すなわち、光偏向装置13は、スクリーン15に対してラスタースキャンを行う。この場合、表示装置10は、走査位置(走査光の位置)に応じて各光源素子の発光制御を行うことで、画素ごとの描画または虚像の表示を行うことができる。 The scanning range is the entire range that can be scanned by the optical deflection device 13 . The scanning light oscillates (reciprocates) the scanning range of the screen 15 in the main scanning direction (X-axis direction) at a high frequency of about 20,000 to 40,000 Hz, while scanning in the sub-scanning direction at a low frequency of about several tens of Hz. One-way scanning is performed in the (Y-axis direction). That is, the optical deflection device 13 raster scans the screen 15 . In this case, the display device 10 can draw or display a virtual image for each pixel by controlling the light emission of each light source element according to the scanning position (the position of the scanning light).

一画面を描画する時間、すなわち1フレーム分の走査時間(二次元走査の1周期)は、
上記のように副走査周期が数十Hzであることから、数十msecとなる。例えば、主走査周期を20000Hz、副走査周期を50Hzとした場合、1フレーム分の走査時間は、20msecとなる。
The time to draw one screen, that is, the scanning time for one frame (one cycle of two-dimensional scanning) is
Since the sub-scanning cycle is several tens of Hz as described above, it becomes several tens of milliseconds. For example, if the main scanning cycle is 20000 Hz and the sub-scanning cycle is 50 Hz, the scanning time for one frame is 20 msec.

図7は、二次元走査時の走査線軌跡の一例を示す図である。スクリーン15は、図7に示すように、中間像40が描画される(画像データに応じて変調された光が照射される)画像領域61(有効走査領域)と、画像領域61を取り囲むフレーム領域62を含む。 FIG. 7 is a diagram showing an example of scanning line trajectories during two-dimensional scanning. As shown in FIG. 7, the screen 15 has an image area 61 (effective scanning area) in which the intermediate image 40 is drawn (irradiated with light modulated according to image data) and a frame area surrounding the image area 61. 62 included.

走査範囲は、スクリーン15における画像領域61とフレーム領域62の一部(画像領域61の外縁近傍の部分)を併せた範囲とする。図7において、走査範囲における走査線の軌跡は、ジグザグ線によって示される。図7において、走査線の本数は、便宜上、実際よりも少なくしている。 The scanning range is a range including the image area 61 on the screen 15 and part of the frame area 62 (the area near the outer edge of the image area 61). In FIG. 7, the loci of scanning lines in the scanning range are indicated by zigzag lines. In FIG. 7, the number of scanning lines is less than the actual number for the sake of convenience.

スクリーン15は、上述のように、マイクロレンズアレイ等の光拡散効果を持つ透過型の光学素子で構成されている。画像領域61は、矩形または平面である必要はなく、多角形または曲面であってもよい。また、スクリーン15は、光拡散効果を持たない平板または曲板であってもよい。さらに、画像領域61は、装置レイアウトに応じて、例えば、マイクロミラーアレイ等の光拡散効果を持つ反射型の素子とすることもできる。 As described above, the screen 15 is composed of a transmissive optical element such as a microlens array that has a light diffusing effect. The image area 61 need not be rectangular or planar, but may be polygonal or curved. Also, the screen 15 may be a flat plate or curved plate that does not have a light diffusing effect. Furthermore, the image area 61 can be a reflective element having a light diffusing effect, such as a micromirror array, depending on the device layout.

スクリーン15は、走査範囲における画像領域61の周辺領域(フレーム領域62の一部)に、受光素子を含む同期検知系60が備える。図7において、同期検知系60は、画像領域61の-X側かつ+Y側の隅部に配置される。同期検知系60は、光偏向装置13の動作を検出して、走査開始タイミングや走査終了タイミングを決定するための同期信号をFPGA1001に出力する。 The screen 15 has a synchronous detection system 60 including light receiving elements in a peripheral area (part of the frame area 62) of the image area 61 in the scanning range. In FIG. 7, the synchronous detection system 60 is arranged at the corner of the image area 61 on the -X side and the +Y side. A synchronous detection system 60 detects the operation of the optical deflection device 13 and outputs a synchronous signal to the FPGA 1001 for determining the scanning start timing and the scanning end timing.

●第1の実施形態●
●概要
続いて、図8乃至図21を用いて、第1の実施形態に係る表示システム1Aの構成について説明する。まず、図8乃至図11を用いて、第1の実施形態に係る表示システム1Aの概要を説明する。
●First Embodiment●
●Overview Next, the configuration of the display system 1A according to the first embodiment will be described with reference to FIGS. 8 to 21. FIG. First, the overview of the display system 1A according to the first embodiment will be described with reference to FIGS. 8 to 11. FIG.

図8は、第1の実施形態に係る表示システムの概略を説明するための図である。図8に示す表示システム1Aは、急激な背景輝度の変化に対して、観察者3にとって望ましくない表示輝度の変化を抑制することで、表示情報(虚像45)の視認性を向上させることができるシステムである。 FIG. 8 is a diagram for explaining the outline of the display system according to the first embodiment. The display system 1A shown in FIG. 8 can improve the visibility of display information (virtual image 45) by suppressing changes in display brightness that are undesirable for the observer 3 in response to sudden changes in background brightness. System.

表示システム1Aは、図1に示した表示システム1の構成に加え、輝度センサ70を備える。輝度センサ70は、表示システム1を構成する車両の前方の路面の輝度(照度)を検出するために設けられたセンシングデバイスである。図8に示すように、輝度センサ70は、例えば、自動車のフロントガラス50の上部に設置されている。 The display system 1A includes a brightness sensor 70 in addition to the configuration of the display system 1 shown in FIG. The brightness sensor 70 is a sensing device provided to detect the brightness (illuminance) of the road surface in front of the vehicle that constitutes the display system 1 . As shown in FIG. 8, the luminance sensor 70 is installed, for example, above the windshield 50 of an automobile.

輝度センサ70は、単一の光電変換素子等であってもよいし、2次元アレイセンサであってもよいし、車載カメラのような撮像素子であってもよい。輝度センサ70は、図9に示すように、車両前方の路面を含む領域(輝度検出領域300)の輝度(照度)を検出可能な位置に設置される。 The luminance sensor 70 may be a single photoelectric conversion element or the like, a two-dimensional array sensor, or an imaging element such as an in-vehicle camera. As shown in FIG. 9, the brightness sensor 70 is installed at a position where it can detect the brightness (illuminance) of an area (brightness detection area 300) including the road surface in front of the vehicle.

なお、輝度センサ70の設置位置は、図8に示した例に限られず、例えば、自動車のダッシュボード上に設置されてもよい。また、輝度センサ70は、自動車のオートライト機能を実現するために設けられた照度センサや、雨滴に反応して自動車のワイパーを作動させるために設けられたレインセンサによって代用されてもよい。さらに、本実施形態は、輝度センサ70が表示装置10Aと別体に設けられている例を説明するが、輝度センサ70は、表示装置10Aに内蔵されていてもよい。 The installation position of the luminance sensor 70 is not limited to the example shown in FIG. 8, and may be installed on the dashboard of the automobile, for example. Alternatively, the luminance sensor 70 may be replaced by an illuminance sensor provided to realize an automatic light function of the automobile, or a rain sensor provided to operate the wipers of the automobile in response to raindrops. Furthermore, although this embodiment describes an example in which the brightness sensor 70 is provided separately from the display device 10A, the brightness sensor 70 may be built in the display device 10A.

図10は、第1の実施形態に係る表示システムにおける輝度検出領域と表示背景領域との関係の一例を説明するための図である。図10に示す画像は、自動車の運転者(観察者3)が、フロントガラス50を介して視認する自動車前方の風景画像である。図10は、観察者3によって視認される風景画像上における輝度検出領域300と表示背景領域350との関係を示す。 FIG. 10 is a diagram for explaining an example of the relationship between the luminance detection area and the display background area in the display system according to the first embodiment. The image shown in FIG. 10 is a landscape image in front of the vehicle viewed through the windshield 50 by the driver (observer 3) of the vehicle. FIG. 10 shows the relationship between the brightness detection area 300 and the display background area 350 on the scenery image visually recognized by the observer 3. As shown in FIG.

表示背景領域350は、表示装置10Aから出力される表示情報(虚像45)を、風景画像(背景画像)に重畳して表示させる領域である。すなわち、自動車の運転者(観察者3)は、表示背景領域350の領域内において、虚像45を視認することができる。表示背景領域350は、表示装置10Aによって表示される表示情報および表示情報の背景画像となる車両前方の路面を含む。なお、表示情報の背景画像は、路面に限られず、車両前方に位置する建造物の外壁、標識、空等の車両周辺の風景であってもよい。 The display background area 350 is an area where the display information (virtual image 45) output from the display device 10A is superimposed on the landscape image (background image) and displayed. That is, the driver of the car (observer 3 ) can visually recognize the virtual image 45 within the display background area 350 . The display background area 350 includes display information displayed by the display device 10A and a road surface in front of the vehicle serving as a background image for the display information. The background image of the display information is not limited to the road surface, and may be scenery around the vehicle such as an outer wall of a building located in front of the vehicle, a sign, or the sky.

輝度検出領域300は、表示背景領域350並びにその周囲の路面、建造物の外壁、標識もしくは空等の風景を含む。ここで、輝度検出領域300は、少なくとも表示装置10Aによって表示される表示情報を観察者3が視認する空間の空間断面を含む領域である。 The luminance detection area 300 includes a display background area 350 and surrounding scenery such as a road surface, an outer wall of a building, a sign, or the sky. Here, the luminance detection area 300 is an area including at least a spatial section of a space where the viewer 3 visually recognizes display information displayed by the display device 10A.

表示装置10Aは、表示装置10Aが搭載された自動車の周囲の輝度をサンプリングすることで、表示情報を重畳させる領域である表示背景領域350の輝度変化を監視する。輝度検出領域300は、周辺領域の一例である。また、表示背景領域350は、表示領域の一例である。 The display device 10A samples the luminance around the automobile in which the display device 10A is mounted, thereby monitoring the luminance change of the display background region 350, which is the region on which the display information is superimposed. The luminance detection area 300 is an example of a peripheral area. Also, the display background area 350 is an example of a display area.

図10に示す輝度検出領域300は、表示背景領域350を内包している。また、輝度検出領域300の領域内には、表示背景領域350の領域外の領域が存在する。この表示背景領域350の領域外の領域は、表示情報を重畳させる領域ではないため、本来は輝度変化のサンプリング対象としたくない領域である。 A luminance detection area 300 shown in FIG. 10 includes a display background area 350 . Further, an area outside the display background area 350 exists within the area of the luminance detection area 300 . Since the area outside the display background area 350 is not an area on which display information is superimposed, it is originally an area that should not be subjected to luminance change sampling.

ここで、例えば、輝度検出領域300の領域内であるが表示背景領域350の領域外である領域において、前方車両の方向指示器の点滅等による比較的短い周期での輝度の変化(以下、周期的ノイズと称する)が発生する場合が考えられる。この場合、輝度検出領域300で検出された輝度データに基づいて表示情報の表示輝度を決定した場合、表示背景領域350の領域内における背景輝度は一定であるにも関わらず、表示情報(虚像45)の表示輝度は変化してしまう。このような表示背景領域350の背景輝度の変化にそぐわない表示輝度の変化は、観察者3に違和感を与え、結果として表示情報の視認性を損なう要因となる。 Here, for example, in an area within the luminance detection area 300 but outside the area of the display background area 350, luminance changes in a relatively short period (hereinafter referred to as period noise) may occur. In this case, when the display brightness of the display information is determined based on the brightness data detected in the brightness detection area 300, the display information (virtual image 45 ) will change. Such a change in the display brightness that does not match the change in the background brightness of the display background area 350 gives the observer 3 a feeling of strangeness, and as a result, becomes a factor in impairing the visibility of the display information.

そこで、第1の実施形態に係る表示システム1Aは、輝度検出領域300で検出された輝度の周期的ノイズに対して、表示情報の表示輝度をあえて追随させないことで、観察者3にとって不快な輝度変化を低減させ、表示情報の視認性を向上させることができる。 Therefore, the display system 1</b>A according to the first embodiment intentionally does not cause the display luminance of the display information to follow the periodic noise in the luminance detected in the luminance detection area 300 , so that the luminance that is uncomfortable for the observer 3 is displayed. It is possible to reduce the change and improve the visibility of the display information.

図11は、第1の実施形態に係る表示装置における表示輝度情報の決定処理の一例を概略的に説明するための図である。図11は、表示装置10Aが搭載された車両前方の背景輝度の変化(図11に示す実線)、輝度センサ70によってサンプリングされた輝度データ(図11に示す●)、および表示装置10Aによって決定された表示情報の表示輝度を示す表示輝度情報500(図11に示す△)の情報を示す。 FIG. 11 is a diagram for schematically explaining an example of display brightness information determination processing in the display device according to the first embodiment. FIG. 11 shows changes in the background luminance in front of the vehicle in which the display device 10A is mounted (solid line shown in FIG. 11), luminance data sampled by the luminance sensor 70 (solid circles shown in FIG. 11), and determined by the display device 10A. 11 shows information of display brightness information 500 (Δ in FIG. 11) indicating the display brightness of the displayed information.

図11に示すように、車両前方の背景輝度は、最初は低い輝度値(IL)であるが、途中で高い輝度値(IH)に急激に変化する。表示装置10Aは、例えば、車両前方に対向車両のヘッドライトや太陽光等の比較的大きい輝度の光が入り込んだ場合、図11に示すような背景輝度の急激な変化を検出する。 As shown in FIG. 11, the background luminance in front of the vehicle initially has a low luminance value (IL), but suddenly changes to a high luminance value (IH) on the way. The display device 10A detects a rapid change in background luminance as shown in FIG. 11, for example, when relatively high luminance light such as headlights of an oncoming vehicle or sunlight enters in front of the vehicle.

また、輝度センサ70は、輝度検出領域300の領域内の輝度を示す輝度データを、所定のサンプリング周期でサンプリングする。図11に示す例において、輝度センサ70は、所定のサンプリング周期(サンプリング時間t)で、輝度データのサンプリング(S1~S10)を行う。 Further, the luminance sensor 70 samples the luminance data indicating the luminance within the luminance detection area 300 at a predetermined sampling period. In the example shown in FIG. 11, the luminance sensor 70 samples luminance data (S1 to S10) at a predetermined sampling period (sampling time t).

輝度センサ70によってサンプリングされた輝度データに対して、タイムラグなく表示輝度を追随させて変化させた場合、図11に示すS4~S6のような急激な輝度変化に対しても表示輝度が追随されることになる。そのため、観察者3に表示に対する違和感を与え、表示情報の視認性が悪化してしまう。一方で、背景輝度の変化に対して表示輝度を追随させる時間が長くなった場合においても、観察者3は、表示に対する遅れを感じるようになり、表示情報の視認性が悪くなる。 When the display luminance is changed to follow the luminance data sampled by the luminance sensor 70 without a time lag, the display luminance follows the rapid luminance changes such as S4 to S6 shown in FIG. It will be. Therefore, the observer 3 feels uncomfortable with the display, and the visibility of the displayed information is deteriorated. On the other hand, even if the display brightness follows the change in the background brightness for a long time, the observer 3 will feel a delay in the display, and the visibility of the display information will be deteriorated.

そこで、表示装置10Aは、背景輝度の急激な変化に表示輝度を追随させつつ、背景輝度の変化に対して程よい遅延を持たせることで、観察者3に与える違和感を低減させつつ、表示輝度を変化させる。 Therefore, the display device 10A allows the display luminance to follow a rapid change in the background luminance while providing an appropriate delay with respect to the change in the background luminance. change.

図11に示すように、表示装置10Aは、サンプリングされた輝度データを用いて、表示輝度情報500を決定する。表示装置10Aは、例えば、サンプリングされた輝度データの平均値を用いて、表示輝度情報500を決定する。この場合、表示装置10Aは、平均値を算出するために用いる輝度データを、少なくとも1つ以上、段階的に変化させる。例えば、図11に示すサンプリング番号S4のサンプリング時に決定される表示輝度情報500は、サンプリング番号S1~S4の輝度データの平均値となる。一方で、図11に示すサンプリング番号S5のサンプリング時に決定される表示輝度情報500は、サンプリング番号S2~S5の輝度データの平均値となる。そして、図11に示すサンプリング番号S9のサンプリング時に決定される表示輝度情報500は、サンプリング番号S6~S9の輝度データの平均値となる。このサンプリング番号S9のサンプリング時に決定される表示輝度情報500は、背景輝度IHの輝度値と同様の値になる。 As shown in FIG. 11, the display device 10A determines display luminance information 500 using sampled luminance data. The display device 10A determines the display luminance information 500 using, for example, the average value of the sampled luminance data. In this case, the display device 10A changes stepwise at least one luminance data used for calculating the average value. For example, the display brightness information 500 determined at the time of sampling of sampling number S4 shown in FIG. 11 is the average value of the brightness data of sampling numbers S1 to S4. On the other hand, the display brightness information 500 determined at the time of sampling of sampling number S5 shown in FIG. 11 is the average value of the brightness data of sampling numbers S2 to S5. The display brightness information 500 determined at the time of sampling of sampling number S9 shown in FIG. 11 is the average value of the brightness data of sampling numbers S6 to S9. The display brightness information 500 determined at the time of sampling with the sampling number S9 has the same value as the brightness value of the background brightness IH.

このように、表示装置10Aは、輝度センサ70によってサンプリングされた輝度データの平均値を用いて、表示輝度情報500を決定する。そのため、表示装置10Aは、背景輝度の変化に対して、表示輝度の変化を平滑化させることで、表示輝度の変化に対して観察者3に与える違和感を低減させることができる。 Thus, the display device 10A determines the display luminance information 500 using the average value of the luminance data sampled by the luminance sensor 70. FIG. Therefore, the display device 10A smoothes the change in display luminance with respect to the change in background luminance, thereby reducing the discomfort given to the observer 3 by the change in display luminance.

また、表示装置10Aは、急激に変化した背景輝度の輝度値(IH)に、表示輝度を追随させるまでの時間を、遅延許容時間T以内に設定する。遅延許容時間Tは、表示輝度を背景輝度に追随させるまでの遅延時間の、観察者3に違和感を与えない許容範囲として設定された時間である。表示装置10Aは、遅延許容時間Tを示す遅延許容時間情報90を、予め設定値として記憶している。ここで、輝度データのサンプリング時間(サンプリング周期)t、遅延考慮処理回数nとした場合、表示装置10Aは、以下式1の条件を満たすように遅延考慮処理回数nを特定する。なお、サンプリング時間tは、一定値として、予め設定されているものとする。 In addition, the display device 10A sets the time required for the display luminance to follow the luminance value (IH) of the background luminance that has changed abruptly within the allowable delay time T. FIG. The allowable delay time T is a time set as an allowable range of the delay time until the display luminance follows the background luminance so that the observer 3 does not feel uncomfortable. The display device 10A stores in advance the permissible delay time information 90 indicating the permissible delay time T as a set value. Here, when the luminance data sampling time (sampling cycle) is t and the number of times of delay consideration processing is n, the display device 10A specifies the number of delay consideration processing times n so as to satisfy the condition of Expression 1 below. It is assumed that the sampling time t is set in advance as a constant value.

Figure 0007114993000001
Figure 0007114993000001

ここで、遅延考慮処理回数nは、遅延許容時間T以内の遅延時間を設けて、表示輝度を背景輝度に追随させる遅延考慮処理を行う回数を示す。遅延考慮処理回数nは、例えば、輝度センサ70によって輝度データがサンプリングされる回数(サンプリング回数)と同じであってもよい。この場合、表示装置10Aは、上記式1の条件を満たすように、輝度データのサンプリング時間(サンプリング周期)tに対応するサンプリング回数を特定する。なお、遅延考慮処理回数nは、輝度データのサンプリング回数より少ない回数であってもよい。 Here, the number of delay consideration processing times n indicates the number of times delay consideration processing is performed by providing a delay time within the allowable delay time T and causing the display luminance to follow the background luminance. The delay-consideration processing count n may be, for example, the same as the number of times the luminance data is sampled by the luminance sensor 70 (sampling count). In this case, the display device 10A specifies the number of times of sampling corresponding to the sampling time (sampling cycle) t of the luminance data so as to satisfy the condition of Expression 1 above. Note that the delay-consideration processing count n may be a count less than the luminance data sampling count.

上記式1に示すように、表示装置10Aは、T/t以下となる遅延考慮処理回数nを特定する。具体的には、例えば、遅延許容時間T=1400msec、サンプリング時間t=250msecである場合、T/t=5.6となるため、表示装置10Aは、遅延考慮処理回数nを5回以下に設定(特定)し、5回以下(例えば、5回分)の遅延考慮処理を行う。この場合、表示装置10Aは、例えば、5回目の遅延考慮処理において、表示輝度を背景輝度に対応する輝度値[cd/m]になるように、表示輝度情報500を決定する。 As shown in Equation 1 above, the display device 10A specifies the delay-consideration processing count n that is equal to or less than T/t. Specifically, for example, when the allowable delay time T=1400 msec and the sampling time t=250 msec, T/t=5.6. (specification), and the delay consideration processing is performed five times or less (for example, five times). In this case, the display device 10A determines the display brightness information 500 so that the display brightness is a brightness value [cd/m 2 ] corresponding to the background brightness in the fifth delay consideration process, for example.

このように、表示装置10Aは、背景輝度の急激な変化に表示輝度を追随させつつ、背景輝度の変化に対して遅延許容時間T以内の時間、表示輝度の変化を遅延させる。そのため、表示装置10Aは、急激な背景輝度の変化に対して、観察者3にとって望ましくない表示輝度の変化を抑制することで、表示情報の視認性を向上させることができる。 In this way, the display device 10A delays the change in the display luminance for the time within the delay allowable time T with respect to the change in the background luminance while causing the display luminance to follow the rapid change in the background luminance. Therefore, the display device 10A can improve the visibility of display information by suppressing changes in display luminance that are undesirable for the observer 3 in response to sudden changes in background luminance.

●ハードウエア構成
図12は、第1の実施形態に係る表示装置のハードウエア構成の一例を示す図である。なお、図11に示すハードウエア構成は、各実施形態において同様の構成を備えていてもよく、必要に応じて構成要素が追加または削除されてもよい。
●Hardware Configuration FIG. 12 is a diagram showing an example of the hardware configuration of the display device according to the first embodiment. Note that the hardware configuration shown in FIG. 11 may have the same configuration in each embodiment, and components may be added or deleted as necessary.

表示装置10Aは、表示装置10Aの動作を制御するための制御装置17を有する。制御装置17は、表示装置10Aの内部に実装された基板またICチップ等のコントローラである。制御装置17は、FPGA(Field-Programmable Gate Array)1001、CPU(Central Processing Unit)1002、ROM(Read Only Memory)1003、RAM(Random Access Memory)1004、I/F(Interface)1005、バスライン1006、LDドライバ1008、MEMSコントローラ1010およびモータドライバ1012を含む。 The display device 10A has a control device 17 for controlling the operation of the display device 10A. The control device 17 is a controller such as a substrate or an IC chip mounted inside the display device 10A. The control device 17 includes an FPGA (Field-Programmable Gate Array) 1001, a CPU (Central Processing Unit) 1002, a ROM (Read Only Memory) 1003, a RAM (Random Access Memory) 1004, an I/F (Interface) 1005, and a bus line 1006. , LD driver 1008 , MEMS controller 1010 and motor driver 1012 .

FPGA1001は、表示装置10Aの設計者による設定変更が可能な集積回路である。LDドライバ1008、MEMSコントローラ1010、およびモータドライバ1012は、FPGA1001からの制御信号に応じて駆動信号を生成する。CPU1002は、表示装置10A全体を制御するための処理を行う集積回路である。ROM1003は、CPU1002を制御するプログラムを記憶する記憶装置である。表示装置10Aは、例えば、本発明に係るプログラムをCPU1002が実行することによって、本発明に係る表示輝度制御方法を実現する。RAM1004は、CPU1002のワークエリアとして機能する記憶装置である。 The FPGA 1001 is an integrated circuit whose settings can be changed by the designer of the display device 10A. LD driver 1008 , MEMS controller 1010 , and motor driver 1012 generate drive signals according to control signals from FPGA 1001 . The CPU 1002 is an integrated circuit that performs processing for controlling the entire display device 10A. A ROM 1003 is a storage device that stores programs for controlling the CPU 1002 . The display device 10A realizes the display brightness control method according to the present invention, for example, by having the CPU 1002 execute the program according to the present invention. A RAM 1004 is a storage device that functions as a work area for the CPU 1002 .

I/F1005は、外部装置と通信するためのインターフェースである。I/F1005は、例えば、自動車のCAN(Controller Area Network)等に接続される。また、I/F1005は、輝度センサ70に接続される。輝度センサ70は、I/F1005を経由して制御装置17へセンシングデータ(輝度データ)を送信する。 An I/F 1005 is an interface for communicating with an external device. The I/F 1005 is connected to, for example, a CAN (Controller Area Network) of an automobile. Also, the I/F 1005 is connected to the brightness sensor 70 . The luminance sensor 70 transmits sensing data (luminance data) to the control device 17 via the I/F 1005 .

LD1007は、例えば、光源装置11の一部を構成する半導体発光素子である。LDドライバ1008は、LD1007を駆動する駆動信号を生成する回路である。MEMS1009は、光偏向装置13の一部を構成し、走査ミラーを変位させるデバイスである。MEMSコントローラ1010は、MEMS1009を駆動する駆動信号を生成する回路である。モータ1011は、自由曲面ミラー30の回転軸を回転させる電動機である。モータドライバ1012は、モータ1011を駆動する駆動信号を生成する回路である。 The LD 1007 is, for example, a semiconductor light emitting element forming part of the light source device 11 . The LD driver 1008 is a circuit that generates drive signals for driving the LD 1007 . The MEMS 1009 is a device that forms part of the optical deflector 13 and displaces the scanning mirror. The MEMS controller 1010 is a circuit that generates drive signals for driving the MEMS 1009 . A motor 1011 is an electric motor that rotates the rotating shaft of the free-form surface mirror 30 . A motor driver 1012 is a circuit that generates a drive signal for driving the motor 1011 .

●機能構成
図13は、第1の実施形態に係る表示装置の機能構成の一例を示す図である。表示装置10Aにより実現される機能は、車両情報受信部171、外部情報受信部172、表示輝度制御部178、画像生成部173および画像表示部174を含む。
●Functional Configuration FIG. 13 is a diagram showing an example of the functional configuration of the display device according to the first embodiment. Functions realized by the display device 10A include a vehicle information receiving portion 171, an external information receiving portion 172, a display brightness control portion 178, an image generating portion 173 and an image display portion 174. FIG.

車両情報受信部171は、CAN等から自動車の情報(速度、走行距離等の情報)を受信する機能である。車両情報受信部171は、図12に示したI/F1005およびCPU1002の処理、並びにROM1003に記憶されたプログラム等により実現される。 The vehicle information receiving unit 171 has a function of receiving vehicle information (information such as speed and travel distance) from a CAN or the like. The vehicle information receiving unit 171 is realized by the processing of the I/F 1005 and the CPU 1002 shown in FIG. 12, the programs stored in the ROM 1003, and the like.

外部情報受信部172は、外部ネットワークから自動車外部の情報(GPSからの位置情報、ナビゲーションシステムからの経路情報または交通情報等)を受信する機能である。外部情報受信部172は、図12に示したI/F1005およびCPU1002の処理、並びにROM1003に記憶されたプログラム等により実現される。 The external information receiving unit 172 is a function of receiving information (position information from GPS, route information or traffic information from a navigation system, etc.) outside the vehicle from an external network. The external information receiving unit 172 is implemented by the processing of the I/F 1005 and the CPU 1002 shown in FIG. 12, the programs stored in the ROM 1003, and the like.

表示輝度制御部178は、表示装置10Aから出力される表示情報の表示輝度を制御する機能である。表示輝度制御部178は、図12に示したI/F1005およびCPU1002の処理、並びにROM1003に記憶されたプログラム等により実現される。表示輝度制御部178の詳細な構成は、後述する。 The display brightness control section 178 has a function of controlling the display brightness of the display information output from the display device 10A. The display brightness control unit 178 is realized by the processing of the I/F 1005 and the CPU 1002 shown in FIG. 12, the programs stored in the ROM 1003, and the like. A detailed configuration of the display brightness control unit 178 will be described later.

画像生成部173は、車両情報受信部171、外部情報受信部172および表示輝度制御部178により入力された情報に基づいて、中間像40および虚像45を表示させるための表示情報(画像情報)を生成する機能である。画像生成部173は、図12に示したCPU1002の処理、およびROM1003に記憶されたプログラム等により実現される。 Image generating portion 173 generates display information (image information) for displaying intermediate image 40 and virtual image 45 based on the information input by vehicle information receiving portion 171, external information receiving portion 172, and display brightness control portion 178. It is a function to generate. The image generator 173 is implemented by the processing of the CPU 1002 shown in FIG. 12, the programs stored in the ROM 1003, and the like.

画像表示部174は、画像生成部173により生成された表示情報に基づいて、スクリーン15に中間像40を形成し、中間像40を構成したレーザ光(光束)をフロントガラス50に向けて投射して虚像45を表示させる機能である。画像表示部174は、図12に示したCPU1002、FPGA1001、LDドライバ1008、MEMSコントローラ1010およびモータドライバ1012の処理、並びにROM1003に記憶されたプログラム等により実現される。 The image display unit 174 forms the intermediate image 40 on the screen 15 based on the display information generated by the image generation unit 173 , and projects the laser beam (luminous flux) forming the intermediate image 40 toward the windshield 50 . It is a function of displaying a virtual image 45 by pressing the button. The image display unit 174 is implemented by the processes of the CPU 1002, FPGA 1001, LD driver 1008, MEMS controller 1010 and motor driver 1012 shown in FIG. 12, programs stored in the ROM 1003, and the like.

画像表示部174は、制御部175、中間像形成部176および投影部177を含む。制御部175は、中間像40を形成するために、光源装置11および光偏向装置13の動作を制御する制御信号を生成する。また、制御部175は、虚像45を所定の位置に表示させるために、自由曲面ミラー30の動作を制御する制御信号を生成する。 Image display portion 174 includes control portion 175 , intermediate image forming portion 176 and projection portion 177 . The control unit 175 generates control signals for controlling operations of the light source device 11 and the light deflection device 13 in order to form the intermediate image 40 . The control unit 175 also generates a control signal for controlling the operation of the free-form surface mirror 30 in order to display the virtual image 45 at a predetermined position.

中間像形成部176は、制御部175によって生成された制御信号に基づいて、スクリーン15に中間像40を形成する。投影部177は、観察者3に視認させる虚像45を形成するために、中間像40を構成したレーザ光を、透過反射部材(フロントガラス50等)に投射させる。 The intermediate image forming section 176 forms an intermediate image 40 on the screen 15 based on the control signal generated by the control section 175 . The projection unit 177 projects the laser light forming the intermediate image 40 onto a transmissive/reflective member (windshield 50 or the like) in order to form a virtual image 45 that is visually recognized by the observer 3 .

続いて、表示輝度制御部178の詳細な機能構成について説明する。図14は、第1の実施形態に係る表示輝度制御部の詳細な機能構成の一例を示す図である。表示輝度制御部178は、輝度情報取得部81、サンプリング周期管理部82、記憶・読出部83、輝度変化検出部84、表示輝度決定部85および記憶部800を含む。 Next, a detailed functional configuration of the display brightness control section 178 will be described. 14 is a diagram illustrating an example of a detailed functional configuration of a display brightness control unit according to the first embodiment; FIG. Display brightness control unit 178 includes brightness information acquisition unit 81 , sampling cycle management unit 82 , storage/readout unit 83 , brightness change detection unit 84 , display brightness determination unit 85 and storage unit 800 .

輝度情報取得部81は、輝度センサ70によって検出された輝度データを含む輝度情報450を、輝度センサ70から取得する機能である。輝度センサ70によって検出される輝度データは、輝度検出領域300の領域内における輝度値(照度値)を示すデータである。輝度情報取得部81は、輝度情報450を、特定のサンプリング周期(サンプリング時間t)で取得する。輝度情報取得部81は、取得手段の一例である。 The brightness information acquisition unit 81 has a function of acquiring brightness information 450 including brightness data detected by the brightness sensor 70 from the brightness sensor 70 . The luminance data detected by the luminance sensor 70 is data indicating the luminance value (illuminance value) within the luminance detection area 300 . The luminance information acquisition unit 81 acquires the luminance information 450 at a specific sampling period (sampling time t). The brightness information acquisition unit 81 is an example of acquisition means.

サンプリング周期管理部82は、輝度センサ70によって輝度データを検出するサンプリング周期を管理する機能である。サンプリング周期(サンプリング時間t)は、設計値として予め設定されている。輝度情報取得部81は、設定されたサンプリング周期に基づく検出された輝度データを含む輝度情報450を、輝度センサ70から取得する。 The sampling period management unit 82 has a function of managing a sampling period for detecting luminance data by the luminance sensor 70 . A sampling period (sampling time t) is preset as a design value. The brightness information acquisition unit 81 acquires brightness information 450 including brightness data detected based on the set sampling period from the brightness sensor 70 .

サンプリング周期は、背景輝度に発生する周期的ノイズの周期よりも短いことが好ましい。背景輝度に発生する周期的ノイズの周期は、例えば、自動車の方向指示器(ウインカ)の点滅周期である。また、背景輝度に発生する周期的ノイズの周期は、路肩帯で点滅しているライトの点滅周期、自動車のワイパーの駆動周期等であってもよい。なお、周期的ノイズは、これに限られず、輝度センサ70によって検出される比較的短い周期で発生する急激な輝度の変化であればよい。輝度センサ70は、このような周期的ノイズの周期よりも短い間隔で、輝度データをサンプリングすることによって、観察者3にとって好ましくない輝度変化を検出することができる。輝度情報取得部81は、設定されたサンプリング周期に基づいて検出された輝度データを含む輝度情報450を、輝度センサ70から取得する。 The sampling period is preferably shorter than the period of periodic noise that occurs in the background luminance. The period of periodic noise generated in the background luminance is, for example, the blinking period of a direction indicator (blinker) of an automobile. Also, the period of the periodic noise generated in the background luminance may be the blinking period of the lights blinking on the road shoulder, the driving period of the wipers of the automobile, or the like. Note that the periodic noise is not limited to this, and may be a sudden change in luminance that occurs in a relatively short period detected by the luminance sensor 70 . The luminance sensor 70 can detect luminance changes that are undesirable for the observer 3 by sampling luminance data at intervals shorter than the period of such periodic noise. The brightness information acquisition unit 81 acquires brightness information 450 including brightness data detected based on the set sampling period from the brightness sensor 70 .

記憶・読出部83は、記憶部800に各種データを記憶させ、または記憶部800から各種データを読み出す機能である。記憶・読出部83は、輝度情報取得部81によって取得された輝度情報450を、記憶部800の輝度情報管理テーブル400に記憶させる機能である。記憶・読出部83は、記憶制御手段の一例である。また、記憶部800は、輝度情報管理テーブル400および遅延許容時間情報90を記憶している。輝度情報管理テーブル400および遅延許容時間情報90の詳細は、後述する。 The storage/readout unit 83 has a function of storing various data in the storage unit 800 or reading out various data from the storage unit 800 . The storage/readout unit 83 has a function of storing the brightness information 450 acquired by the brightness information acquisition unit 81 in the brightness information management table 400 of the storage unit 800 . The storage/readout unit 83 is an example of storage control means. The storage unit 800 also stores a brightness information management table 400 and allowable delay time information 90 . Details of the luminance information management table 400 and the allowable delay time information 90 will be described later.

輝度変化検出部84は、背景輝度の輝度変化を検出する機能である。輝度変化検出部84は、例えば、輝度情報取得部81によって取得された輝度情報450が示す輝度値と、輝度情報管理テーブル400に記憶された輝度情報450が示す輝度値とを比較して、所定値以上の差異がある場合、背景輝度の輝度変化を検出する。また、輝度変化検出部84は、背景輝度の輝度変化を検出した場合、背景輝度が高くなったか、または背景輝度が低くなったかを判定する。なお、輝度変化を検出するための所定値は、予め設定値として表示装置10Aに記憶されている。輝度変化を検出するための所定値は、例えば、太陽光や対向車両のヘッドライト等に起因して発生する、背景輝度の急激な変化を検出可能な値に設定される。輝度変化検出部84は、検出手段の一例である。 The brightness change detection unit 84 has a function of detecting a brightness change in the background brightness. For example, the brightness change detection unit 84 compares the brightness value indicated by the brightness information 450 acquired by the brightness information acquisition unit 81 with the brightness value indicated by the brightness information 450 stored in the brightness information management table 400, and determines a predetermined value. If there is a difference greater than or equal to the value, detect a luminance change in the background luminance. Further, when the luminance change detection unit 84 detects a luminance change in the background luminance, the luminance change detection unit 84 determines whether the background luminance has increased or decreased. A predetermined value for detecting luminance change is stored in the display device 10A in advance as a set value. The predetermined value for detecting changes in brightness is set to a value that allows detection of sudden changes in background brightness caused by sunlight, headlights of oncoming vehicles, or the like, for example. The brightness change detection section 84 is an example of detection means.

表示輝度決定部85は、表示装置10Aから出力される表示情報の表示輝度を決定する機能である。表示輝度決定部85は、例えば、輝度変化検出部84によって背景輝度の輝度変化が検出された場合、表示輝度を背景輝度に対応させるまでの遅延時間が、遅延許容時間T以内または遅延許容時間Tより短くなるように、表示輝度を示す表示輝度情報500を決定する。 The display brightness determination unit 85 has a function of determining the display brightness of the display information output from the display device 10A. For example, when the brightness change detection unit 84 detects a brightness change in the background brightness, the display brightness determination unit 85 determines that the delay time until the display brightness corresponds to the background brightness is within the allowable delay time T or within the allowable delay time T The display brightness information 500 indicating the display brightness is determined so as to be shorter.

具体的には、表示輝度決定部85は、遅延許容時間T以内に、表示輝度が背景輝度の輝度値になるように、サンプリング周期(サンプリング時間t)に基づく輝度情報450の遅延考慮処理回数を特定する。また、表示輝度決定部85は、例えば、輝度情報管理テーブル400に記憶された輝度情報450の代表値に基づいて、表示情報(虚像45)の表示輝度を示す表示輝度情報500を決定する。輝度情報450の代表値は、輝度情報管理テーブル400に記憶された輝度情報450の値の特徴や傾向を示す尺度となる数値である。輝度情報450の代表値は、例えば、輝度情報管理テーブル400に記憶された輝度情報450の平均値または中央値等である。表示輝度決定部85は、決定手段の一例である。 Specifically, the display brightness determination unit 85 determines the number of delay consideration processing of the brightness information 450 based on the sampling period (sampling time t) so that the display brightness becomes the brightness value of the background brightness within the allowable delay time T. Identify. Further, the display brightness determination unit 85 determines display brightness information 500 indicating the display brightness of the display information (virtual image 45) based on the representative value of the brightness information 450 stored in the brightness information management table 400, for example. The representative value of the luminance information 450 is a numerical value that serves as a scale indicating the characteristics and trends of the values of the luminance information 450 stored in the luminance information management table 400 . A representative value of the luminance information 450 is, for example, an average value or median value of the luminance information 450 stored in the luminance information management table 400 . The display brightness determination unit 85 is an example of determination means.

○輝度情報管理テーブル
ここで、図15を用いて、記憶部800に記憶された輝度情報管理テーブルの詳細について説明する。図15は、第1の実施形態に係る輝度情報管理テーブルの一例を示す図である。輝度情報管理テーブル400は、輝度情報取得部81によって取得された輝度情報450を記憶するための固定サイズを有するバッファ領域である。輝度情報管理テーブル400は、記憶領域の一例である。
○Brightness Information Management Table Here, details of the brightness information management table stored in the storage unit 800 will be described with reference to FIG. 15 . FIG. 15 is a diagram illustrating an example of a luminance information management table according to the first embodiment; The brightness information management table 400 is a buffer area having a fixed size for storing the brightness information 450 acquired by the brightness information acquisition section 81 . The luminance information management table 400 is an example of a storage area.

輝度情報管理テーブル400は、輝度情報取得部81によって取得された輝度情報450を、取得された時系列に沿って記憶していく。図15に示す輝度情報管理テーブル400において、記憶・読出部83は、サンプリング番号(m)「1」の領域から順番に、取得した輝度情報450を記憶させる。 The brightness information management table 400 stores the brightness information 450 acquired by the brightness information acquiring section 81 along the acquired time series. In the brightness information management table 400 shown in FIG. 15, the storage/reading unit 83 stores the acquired brightness information 450 in order from the area of the sampling number (m) "1".

輝度情報管理テーブル400は、有限のサイズを有するため、サンプリング番号(m)が上限まで達した場合、空き領域がなくなる。そのため、記憶・読出部83は、輝度情報管理テーブル400に空き領域がないと判断した場合、最も古い輝度情報450を削除すする。すなわち、記憶・読出部83は、輝度情報管理テーブル400のサンプリング番号(m)「1」の領域に記憶された輝度情報450を削除して、サンプリング番号(m)「2」以降の領域に記憶された輝度情報450のサンプリング番号(m)を、一つずつ繰り上げる。 Since the brightness information management table 400 has a finite size, there is no free space when the sampling number (m) reaches the upper limit. Therefore, when the storage/reading unit 83 determines that the brightness information management table 400 has no free space, it deletes the oldest brightness information 450 . That is, the storage/readout unit 83 deletes the luminance information 450 stored in the area of the sampling number (m) “1” of the luminance information management table 400 and stores it in the areas after the sampling number (m) “2”. The sampling number (m) of the obtained brightness information 450 is incremented by one.

そして、記憶・読出部83は、新たに取得された輝度情報450を、サンプリング番号(m)の末尾の領域に記憶させる。例えば、輝度情報管理テーブル400のサンプリング番号(m)の上限が「4」である場合。記憶・読出部83は、サンプリング番号(m)「4」の領域に、新たに取得された輝度情報450を記憶させる。 Then, the storage/readout unit 83 stores the newly acquired brightness information 450 in the area at the end of the sampling number (m). For example, when the upper limit of the sampling number (m) of the luminance information management table 400 is "4". The storage/readout unit 83 stores the newly acquired luminance information 450 in the region of the sampling number (m) “4”.

なお、図15は、輝度情報管理テーブル400において、輝度情報450が輝度値[cd/m]を含む例を説明したが、輝度情報450は、照度値[lx(ルクス)]を含んでもよい。この場合、表示装置10Aは、輝度センサ70によって検出された輝度検出領域300の照度値[lx](照度データ)を含む輝度情報450を取得し、取得した輝度情報450を輝度情報管理テーブル400に記憶させる。 Although FIG. 15 illustrates an example in which the luminance information 450 includes the luminance value [cd/m 2 ] in the luminance information management table 400, the luminance information 450 may include the illuminance value [lx (lux)]. . In this case, the display device 10A acquires the brightness information 450 including the illuminance value [lx] (illuminance data) of the brightness detection area 300 detected by the brightness sensor 70, and stores the acquired brightness information 450 in the brightness information management table 400. Memorize.

○遅延許容時間情報
続いて、図16を用いて、記憶部800に記憶された遅延許容時間情報90の詳細について説明する。図16は、第1の実施形態に係る遅延許容時間情報の一例を示す図である遅延許容時間情報90は、表示輝度を背景輝度に追随させるまでの遅延時間の、観察者3に違和感を与えない許容範囲として設定された遅延許容時間Tを含む情報である。
○ Allowable Delay Time Information Subsequently, details of the allowable delay time information 90 stored in the storage unit 800 will be described with reference to FIG. 16 . FIG. 16 is a diagram showing an example of permissible delay time information according to the first embodiment. Permissible delay time information 90 gives the observer 3 a sense of discomfort due to the delay time until the display luminance follows the background luminance. This information includes the allowable delay time T set as an allowable range.

遅延許容時間情報90は、背景輝度の輝度変化の状態に応じて、異なる遅延許容時間Tを含む。具体的には、遅延許容時間情報90は、背景輝度の輝度値が高くなった場合(暗→明)と背景輝度の輝度値が低くなった場合(明→暗)の場合に対応させた、2つの異なる遅延許容時間Tを含む。 The permissible delay time information 90 includes different permissible delay times T according to the luminance change state of the background luminance. Specifically, the allowable delay time information 90 corresponds to a case where the luminance value of the background luminance is increased (dark→bright) and a case where the luminance value of the background luminance is decreased (bright→dark). It contains two different delay tolerances T.

例えば、背景輝度の輝度値が高くなった場合(暗→明)に対応する遅延許容時間Tは、1.7sである。一方で、背景輝度の輝度値が低くなった場合(明→暗)に対応する遅延許容時間Tは、2.0sである。 For example, the allowable delay time T corresponding to the case where the luminance value of the background luminance increases (from dark to bright) is 1.7 s. On the other hand, the allowable delay time T corresponding to the case where the luminance value of the background luminance is low (bright→dark) is 2.0 s.

遅延許容時間Tは、例えば、表示情報を視認する観察者3の官能評価の統計として、観察者3の80%が、表示輝度の変化に違和感がない遅延時間の範囲に設定される。表示装置10Aは、遅延許容時間情報90に含まれる遅延許容時間Tが示す時間内に、表示輝度が背景輝度に対応するように、表示輝度を変化させることで、観察者3に与える違和感を低減させつつ、表示情報の視認性を向上させることができる。 For example, the permissible delay time T is set to a delay time range in which 80% of the observers 3 feel comfortable with the change in display brightness, as statistics of the sensory evaluation of the observers 3 who visually recognize the display information. The display device 10A changes the display brightness so that the display brightness corresponds to the background brightness within the time indicated by the allowable delay time T included in the allowable delay time information 90, thereby reducing discomfort given to the observer 3. It is possible to improve the visibility of the display information while increasing the visibility of the display information.

また、表示装置10Aは、背景輝度の輝度変化の状態(暗→明、明→暗)に応じて、異なる遅延許容時間Tを用いることで、背景輝度の輝度変化の状態に応じて、表示輝度を変化させるために要する遅延時間を異ならせることができる。なお、遅延許容時間情報90に含まれる遅延許容時間Tの値は、これに限られず、表示装置10Aの設計者等によって適宜設定・変更可能である。また、遅延許容時間情報90は、背景輝度の輝度変化の状態に関わらず、一つの遅延許容時間Tのみを含んでいてもよい。 In addition, the display device 10A uses different allowable delay times T according to the luminance change state of the background luminance (dark→bright, light→dark), so that the display luminance can be adjusted according to the luminance change state of the background luminance. can be made different. Note that the value of the allowable delay time T included in the allowable delay time information 90 is not limited to this, and can be appropriately set and changed by the designer or the like of the display device 10A. Also, the permissible delay time information 90 may include only one permissible delay time T regardless of the luminance change state of the background luminance.

●表示輝度の制御処理
次に、図17を用いて、表示装置10Aにおける表示情報(虚像45)の表示輝度の制御処理について説明する。図17は、第1の実施形態に係る表示装置のおける表示輝度の制御処理の一例を示すフローチャートである。図17は、表示装置10Aが、表示情報の表示輝度を背景輝度に追随させるまでの遅延時間を設けた遅延考慮処理、または背景輝度の周期的ノイズの影響を低減させる平滑化処理を実行する例を説明する。
●Control Processing of Display Brightness Next, the control processing of the display brightness of the display information (virtual image 45) in the display device 10A will be described with reference to FIG. FIG. 17 is a flowchart illustrating an example of display brightness control processing in the display device according to the first embodiment. FIG. 17 shows an example in which the display device 10A executes delay consideration processing in which a delay time is provided until the display luminance of the display information follows the background luminance, or smoothing processing that reduces the influence of periodic noise on the background luminance. explain.

ステップS101において、表示装置10Aの輝度情報取得部81は、輝度センサ70から輝度情報450を取得する(取得ステップの一例)。具体的には、輝度センサ70は、サンプリング周期管理部82によって予め定められたサンプリング周期によって、輝度検出領域300の輝度データを検出する。輝度データは、輝度検出領域300の領域内の輝度値[cd/m]である。なお、輝度データは、輝度検出領域300の領域内の照度値[lx]であってもよい。そして、輝度情報取得部81は、輝度センサ70によって検出された輝度データを含む輝度情報450を、輝度センサ70から取得する。 In step S101, the brightness information acquisition unit 81 of the display device 10A acquires the brightness information 450 from the brightness sensor 70 (an example of an acquisition step). Specifically, the luminance sensor 70 detects the luminance data of the luminance detection area 300 at a sampling period predetermined by the sampling period management section 82 . The luminance data is the luminance value [cd/m 2 ] within the luminance detection area 300 . The brightness data may be the illuminance value [lx] within the brightness detection area 300 . Then, the luminance information obtaining unit 81 obtains luminance information 450 including luminance data detected by the luminance sensor 70 from the luminance sensor 70 .

なお、輝度センサ70による輝度データのサンプリング周期と、輝度情報取得部81による輝度情報450の取得周期は、必ずしも同じである必要はない。この場合、例えば、輝度センサ70によって検出された輝度データを一時的に記憶するバッファを設け、輝度センサ70は、サンプリング周期ごとに検出した輝度データを、当該バッファに記憶(更新)する。そして、輝度情報取得部81は、サンプリング周期とは異なる取得周期で、バッファに記憶された輝度データを含む輝度情報450を取得する構成にしてもよい。一例として、輝度センサ70は、200msの周期で輝度データを検出し、輝度情報取得部81は、150msの周期で、バッファに記憶された輝度データを含む輝度情報450を取得する。 It should be noted that the sampling period of the luminance data by the luminance sensor 70 and the acquisition period of the luminance information 450 by the luminance information acquisition section 81 do not necessarily have to be the same. In this case, for example, a buffer is provided to temporarily store the luminance data detected by the luminance sensor 70, and the luminance sensor 70 stores (updates) the detected luminance data in the buffer at each sampling cycle. The luminance information acquisition unit 81 may acquire the luminance information 450 including the luminance data stored in the buffer at an acquisition cycle different from the sampling cycle. As an example, the luminance sensor 70 detects luminance data with a period of 200 ms, and the luminance information acquisition section 81 acquires luminance information 450 including the luminance data stored in the buffer with a period of 150 ms.

ステップS102において、表示装置10Aの記憶・読出部83は、輝度情報管理テーブル400に空き領域がある場合、処理をステップS104へ移行させる。一方で、記憶・読出部83は、輝度情報管理テーブル400に空き領域がない場合、処理をステップS103へ移行させる。 In step S102, if the brightness information management table 400 has an empty area, the storage/reading unit 83 of the display device 10A shifts the process to step S104. On the other hand, if the brightness information management table 400 has no free space, the storage/readout unit 83 shifts the process to step S103.

輝度情報管理テーブル400は、固定サイズを有するバッファ領域であるため、記憶された輝度情報450がサンプリング数の上限に達した場合、空き領域がない状態になる。そのため、表示装置10Aは、新たに輝度情報450を記憶するための領域を作成する必要があるため、輝度情報管理テーブル400の空き領域の有無を判定する。例えば、サンプリング数の上限が4つであった場合、図15に示す輝度情報管理テーブル400は、サンプリング番号(m)「4」の領域まで輝度情報450が記憶されているため、空き領域がない状態である。 Since the brightness information management table 400 is a buffer area having a fixed size, when the number of samples of the stored brightness information 450 reaches the upper limit, there is no free area. Therefore, the display device 10A needs to newly create an area for storing the brightness information 450, and thus determines whether or not there is an empty area in the brightness information management table 400. FIG. For example, if the upper limit of the number of samplings is 4, the brightness information management table 400 shown in FIG. state.

ステップS103において、表示装置10Aの記憶・読出部83は、輝度情報管理テーブル400に記憶された、最も古い輝度情報450を削除する。具体的には、記憶・読出部83は、輝度情報管理テーブル400に空き領域を作成するため、図15に示す輝度情報管理テーブル400に含まれるサンプリング番号(m)「1」の領域に記憶された輝度情報450を削除する。記憶・読出部83は、輝度情報管理テーブル400から輝度情報450を削除した場合、処理をステップS104へ移行させる。 In step S<b>103 , the storage/reading unit 83 of the display device 10</b>A deletes the oldest luminance information 450 stored in the luminance information management table 400 . Specifically, in order to create an empty area in the brightness information management table 400, the storage/reading unit 83 stores in the area of the sampling number (m) “1” included in the brightness information management table 400 shown in FIG. Delete the luminance information 450. When the luminance information 450 is deleted from the luminance information management table 400, the storage/readout unit 83 shifts the process to step S104.

ステップS104において、表示装置10Aの記憶・読出部83は、輝度情報管理テーブル400に、輝度情報取得部81によって取得された輝度情報450を記憶させる。このとき、取得された輝度情報450の時系列を明確化するため、新たな輝度情報450は、輝度情報管理テーブル400の末尾に記憶される。例えば、図15に示した輝度情報管理テーブル400において、サンプリング番号(m)「3」の領域まで輝度情報450が記憶されている場合、記憶・読出部83は、新たに取得した輝度情報450を、サンプリング番号(m)「4」の領域に記憶させる。 In step S<b>104 , the storage/reading unit 83 of the display device 10</b>A stores the brightness information 450 acquired by the brightness information acquisition unit 81 in the brightness information management table 400 . At this time, new brightness information 450 is stored at the end of the brightness information management table 400 in order to clarify the time series of the acquired brightness information 450 . For example, in the brightness information management table 400 shown in FIG. 15, if the brightness information 450 is stored up to the region of the sampling number (m) “3”, the storage/reading unit 83 stores the newly acquired brightness information 450. , sampling number (m) "4".

ステップS105において、表示装置10Aは、遅延考慮処理が行われている場合、処理をステップS109へ移行させる。一方で、表示装置10Aは、遅延考慮処理が行われていない場合、処理をステップS106へ移行させる。 In step S105, the display device 10A shifts the process to step S109 when the delay consideration process is being performed. On the other hand, the display device 10A shifts the process to step S106 when the delay consideration process is not performed.

ステップS106において、表示装置10Aの輝度変化検出部84は、輝度情報取得部81によって取得された輝度情報450が示す輝度値[cd/m]に基づいて、背景輝度に所定値以上の輝度変化が検出した場合、処理をステップS107へ移行させる(検出ステップの一例)。具体的には、輝度変化検出部84は、輝度情報取得部81によって新たに取得された輝度情報450が示す輝度値[cd/m]と、輝度情報管理テーブル400に記憶されている輝度情報450が示す輝度値[cd/m]とを比較して、所定値以上の差異がある場合、所定値以上の輝度変化を検出する。なお、輝度変化を検出するための所定値は、予め設定値として表示装置10Aに記憶されている。輝度変化を検出するための所定値は、例えば、太陽光や対向車両のヘッドライト等に起因して発生する、背景輝度の急激な変化を検出可能な値に設定される。 In step S106, the brightness change detection unit 84 of the display device 10A detects a brightness change of a predetermined value or more in the background brightness based on the brightness value [cd/m 2 ] indicated by the brightness information 450 acquired by the brightness information acquisition unit 81. is detected, the process proceeds to step S107 (an example of the detection step). Specifically, the luminance change detection unit 84 detects the luminance value [cd/m 2 ] indicated by the luminance information 450 newly acquired by the luminance information acquisition unit 81 and the luminance information stored in the luminance information management table 400. The luminance value [cd/m 2 ] indicated by 450 is compared, and if there is a difference of a predetermined value or more, a luminance change of a predetermined value or more is detected. A predetermined value for detecting luminance change is stored in the display device 10A in advance as a set value. The predetermined value for detecting changes in brightness is set to a value that allows detection of sudden changes in background brightness caused by sunlight, headlights of oncoming vehicles, or the like, for example.

また、輝度変化検出部84は、背景輝度に所定値以上の輝度変化を検出した場合、検出した輝度変化の状態を判定する。例えば、輝度変化検出部84は、背景輝度の輝度値[cd/m]の上昇(例えば、図11に示すILからIHへの輝度変化)、または背景輝度の輝度値[cd/m]の低下(例えば、図11に示すIHからILへの輝度変化)を判定する。そして、輝度変化検出部84は、表示輝度決定部85へ、判定結果を出力する。 Further, when detecting a luminance change equal to or greater than a predetermined value in the background luminance, the luminance change detection unit 84 determines the state of the detected luminance change. For example, the luminance change detection unit 84 detects an increase in the luminance value [cd/m 2 ] of the background luminance (for example, the luminance change from IL to IH shown in FIG. 11), or the luminance value [cd/m 2 ] of the background luminance. (eg, luminance change from IH to IL shown in FIG. 11). Then, the brightness change detection section 84 outputs the determination result to the display brightness determination section 85 .

ステップS107において、表示装置10Aの表示輝度決定部85は、記憶部800に記憶された遅延許容時間情報90を読み出す。具体的には、表示輝度決定部85は、輝度変化検出部84の判定結果である輝度変化の状態に対応する遅延許容時間Tを読み出す。輝度変化検出部84によって背景輝度の輝度値が上昇したと判定された場合、表示輝度決定部85は、例えば、図16に示す輝度変化「暗→明」に対応する遅延許容時間Tを読み出す。 In step S<b>107 , the display brightness determination unit 85 of the display device 10</b>A reads out the allowable delay time information 90 stored in the storage unit 800 . Specifically, the display luminance determination unit 85 reads the allowable delay time T corresponding to the state of luminance change, which is the determination result of the luminance change detection unit 84 . When the brightness change detection unit 84 determines that the brightness value of the background brightness has increased, the display brightness determination unit 85 reads, for example, the allowable delay time T corresponding to the brightness change “dark→bright” shown in FIG.

ステップS108において、表示装置10Aの表示輝度決定部85は、読み出した遅延許容時間Tに基づいて、遅延考慮処理を行う回数を特定する。遅延考慮処理回数は、遅延許容時間T以内の遅延時間を設けて、表示輝度を背景輝度に追随させる遅延考慮処理を行う回数を示す。遅延考慮処理回数は、例えば、輝度センサ70によって輝度データがサンプリングされる回数(サンプリング回数)と同じであってもよい。この場合、表示装置10Aは、読み出した遅延許容時間Tに基づいて、輝度データのサンプリング回数を特定する。表示輝度決定部85は、サンプリング時間(サンプリング周期)t、遅延考慮処理回数nとした場合、以下式1の条件を満たすように、遅延考慮処理回数nを特定する。 In step S108, the display luminance determination unit 85 of the display device 10A specifies the number of times the delay consideration process is performed based on the read delay allowable time T. FIG. The number of delay-consideration processing times indicates the number of times delay-consideration processing is performed in which a delay time within the allowable delay time T is provided and the display luminance follows the background luminance. The delay-consideration processing count may be the same as the number of times the luminance data is sampled by the luminance sensor 70 (sampling count), for example. In this case, the display device 10A specifies the number of times the luminance data is sampled based on the read allowable delay time T. FIG. The display luminance determining unit 85 specifies the delay-considering processing count n so as to satisfy the condition of Expression 1 below, where t is the sampling time (sampling cycle) and n is the delay-considering processing count.

Figure 0007114993000002
Figure 0007114993000002

例えば、T=1400ms、サンプリング時間t=250msである場合、T/t=5.6となる。この場合、表示装置10Aは、遅延考慮処理回数nを5回以下に特定する。これによって、表示輝度を背景輝度の輝度値[cd/m]に追随させるまでの時間(遅延時間)は、遅延許容時間Tの時間内に収められる。なお、上記で説明したように、輝度センサ70による輝度データのサンプリング周期と、輝度情報取得部81による輝度情報450の取得周期が異なる場合、サンプリング時間tは、輝度情報取得部81による輝度情報450の取得周期の間隔(時間)であってもよい。 For example, when T=1400 ms and sampling time t=250 ms, T/t=5.6. In this case, the display device 10A specifies the delay-consideration processing count n as 5 or less. As a result, the time (delay time) required for the display brightness to follow the brightness value [cd/m 2 ] of the background brightness is within the allowable delay time T. FIG. As described above, when the luminance data sampling period by the luminance sensor 70 and the luminance information acquisition unit 81 acquisition period of the luminance information 450 are different, the sampling time t is may be the interval (time) of the acquisition cycle of .

ここで、表示装置10Aは、輝度センサ70によって検出された輝度データを、表示情報の表示輝度に反映させるまで、所定の処理時間dを要する場合がある。処置時間dは、輝度センサ70によって検出された輝度データを、輝度情報取得部81によって輝度情報450として取得されるまでの時間(輝度センサ70と表示装置10Aの通信時間)、表示輝度決定部85による表示輝度情報500の算出時間、表示輝度情報500を用いて表示情報(虚像45)を投射して表示されるまでの時間等が含まれる。 Here, the display device 10A may require a predetermined processing time d until the brightness data detected by the brightness sensor 70 is reflected in the display brightness of the display information. The treatment time d is the time until the brightness data detected by the brightness sensor 70 is acquired as the brightness information 450 by the brightness information acquisition unit 81 (communication time between the brightness sensor 70 and the display device 10A). Calculation time of the display brightness information 500 by using the display brightness information 500, time until the display information (virtual image 45) is projected and displayed, and the like are included.

この場合、表示装置10Aは、以下の式2の条件を満たすように、遅延考慮処理回数nを設定してもよい。これによって、表示装置10Aは、内部の処理時間を考慮して遅延時間を算出するため、表示輝度の制御処理の精度を高めることができる。 In this case, the display device 10A may set the delay-consideration processing count n so as to satisfy the condition of Expression 2 below. As a result, the display device 10A calculates the delay time in consideration of the internal processing time, so it is possible to improve the accuracy of the display brightness control process.

Figure 0007114993000003
Figure 0007114993000003

このように、表示輝度決定部85は、表示輝度を背景輝度に追随させるまでの遅延時間が、遅延許容時間T以内になるように、遅延考慮処理回数nを特定する。そのため、表示装置10Aは、急激な背景輝度の変化が発生した場合においても、観察者3に違和感を与えない自然な表示を行うことができる。なお、輝度データのサンプリング周期(サンプリング時間t)が一定である場合について説明したが、サンプリング周期(サンプリング時間t)を変化させてもよい。この場合、表示装置10Aは、式1または式2の条件を満たすように、輝度データのサンプリング時のサンプリング時間tに基づいて、遅延考慮処理回数nを特定する。 In this manner, the display brightness determining unit 85 specifies the number of delay consideration processing times n so that the delay time until the display brightness follows the background brightness is within the delay allowable time T. Therefore, the display device 10A can perform natural display that does not give the observer 3 a sense of discomfort even when a sudden change in background luminance occurs. Although the case where the sampling period (sampling time t) of luminance data is constant has been described, the sampling period (sampling time t) may be changed. In this case, the display device 10A specifies the delay-consideration processing count n based on the sampling time t at the time of sampling the luminance data so as to satisfy the condition of Expression 1 or Expression 2.

ステップS109において、表示装置10Aの表示輝度決定部85は、輝度情報管理テーブル400に記憶された輝度情報450の代表値を用いて、表示輝度情報500を決定する(決定ステップの一例)。具体的には、表示輝度決定部85は、輝度情報管理テーブル400に記憶された輝度情報450の代表値を算出する。輝度情報450の代表値は、例えば、輝度情報管理テーブル400に記憶された輝度情報450に含まれる輝度値[cd/m]の平均値または中央値等である。 In step S109, the display brightness determination unit 85 of the display device 10A determines the display brightness information 500 using the representative value of the brightness information 450 stored in the brightness information management table 400 (an example of the determination step). Specifically, the display brightness determination unit 85 calculates a representative value of the brightness information 450 stored in the brightness information management table 400 . The representative value of the brightness information 450 is, for example, the average value or median value of the brightness values [cd/m 2 ] included in the brightness information 450 stored in the brightness information management table 400 .

ここで、表示輝度決定部85は、輝度情報管理テーブル400に記憶された輝度情報450のうち、特定された遅延考慮処理回数n分の輝度情報450の代表値を用いて、表示輝度情報500を決定してもよい。また、表示輝度決定部85は、輝度情報管理テーブル400に記憶された全ての輝度情報450の代表値を用いて、表示輝度情報500を決定してもよい。表示装置10Aは、表示輝度情報500の決定に用いる輝度情報450の数が多いほど、表示輝度の変化を平滑化させることができる。 Here, the display brightness determining unit 85 determines the display brightness information 500 by using the representative value of the brightness information 450 corresponding to the specified delay-consideration process number n among the brightness information 450 stored in the brightness information management table 400. may decide. Further, the display brightness determination unit 85 may determine the display brightness information 500 using a representative value of all brightness information 450 stored in the brightness information management table 400 . The display device 10A can smooth the change in display luminance as the number of pieces of luminance information 450 used for determining the display luminance information 500 increases.

なお、輝度センサ70によって検出された輝度データが照度値[lx]である場合、表示輝度決定部85は、輝度情報450に含まれる照度値[lx]の代表値を算出し、算出した値を、輝度値[cd/m]に変換する。照度値[lx]から輝度値[cd/m]への変換処理は、例えば、代表値として算出した照度値[lx]に、所定の定数を積算する等の方法によって行われる。また、輝度センサ70によって検出された輝度データが照度値[lx]である場合、表示輝度決定部85は、輝度情報450に含まれる照度値[lx]を輝度値へ変換した後、変換した輝度値の代表値を算出してもよい。 Note that when the luminance data detected by the luminance sensor 70 is the illuminance value [lx], the display luminance determining unit 85 calculates a representative value of the illuminance value [lx] included in the luminance information 450, and converts the calculated value to , into luminance values [cd/m 2 ]. The conversion process from the illuminance value [lx] to the luminance value [cd/m 2 ] is performed, for example, by multiplying the illuminance value [lx] calculated as the representative value by a predetermined constant. Further, when the luminance data detected by the luminance sensor 70 is an illuminance value [lx], the display luminance determination unit 85 converts the illuminance value [lx] included in the luminance information 450 into a luminance value, and then converts the luminance A representative value of the values may be calculated.

ステップS110において、表示装置10Aの表示輝度決定部85は、決定した表示輝度情報500を、画像生成部173へ出力する。画像生成部173は、表示輝度情報500が示す表示輝度の値を、表示情報(虚像45)の表示輝度に反映する。そして、画像表示部174は、表示輝度情報500が示す表示輝度を用いて、表示情報を表示させる(表示ステップの一例)。 In step S<b>110 , the display brightness determination unit 85 of the display device 10</b>A outputs the determined display brightness information 500 to the image generation unit 173 . The image generator 173 reflects the value of the display luminance indicated by the display luminance information 500 in the display luminance of the display information (virtual image 45). Then, the image display unit 174 displays the display information using the display luminance indicated by the display luminance information 500 (an example of the display step).

ステップS111において、表示装置10Aは、表示輝度決定部85によって特定されたn回の遅延考慮処理が終了した場合、処理をステップS114へ移行させる。ステップS114において、表示装置10Aの表示輝度制御部178は、表示輝度の制御を継続する場合、ステップS101から処理を繰り返し行う。一方で、表示輝度制御部178は、表示輝度の制御を継続しない場合、処理を終了する。 In step S111, the display device 10A causes the process to proceed to step S114 when n times of delay consideration processing specified by the display brightness determining unit 85 have been completed. In step S114, the display brightness control unit 178 of the display device 10A repeats the process from step S101 when continuing to control the display brightness. On the other hand, if the display luminance control unit 178 does not continue controlling the display luminance, the process ends.

ステップS111において、表示装置10Aは、表示輝度決定部85によって特定されたn回の遅延考慮処理の途中である場合、ステップS101からの処理を繰り返す。そして、表示装置10Aは、特定されたn回分の遅延考慮処理を繰り返すことによって、例えば、図11に示すように、表示輝度を段階的に変化させて、遅延許容時間Tに示す時間内に、表示輝度を背景輝度の輝度値[cd/m]に対応させる。そのため、表示装置10Aは、急激な背景輝度の変化を検出した場合においても、程よい遅延を設けて表示輝度を変化させることで、観察者3に与える違和感を低減させつつ、表示輝度を背景輝度に追随させることができる。 In step S111, the display device 10A repeats the process from step S101 when the delay consideration process specified by the display luminance determination unit 85 is being performed n times. Then, the display device 10A repeats the specified delay consideration process n times, for example, as shown in FIG. The display brightness is made to correspond to the brightness value [cd/m 2 ] of the background brightness. Therefore, even when a sudden change in background luminance is detected, the display device 10A changes the display luminance with an appropriate delay, thereby reducing the discomfort given to the observer 3 and changing the display luminance to the background luminance. can be followed.

なお、ステップS109の処理は、表示輝度決定部85が、表示輝度情報500として、輝度情報管理テーブル400に含まれる輝度情報450の代表値を算出する例を説明したが、表示輝度情報500として決定される値は、これに限られない。表示輝度情報500は、n回目の遅延考慮処理において、背景輝度の輝度値[cd/m]に対応させさえすればよい。この場合、その間の1~n-1回目の遅延考慮処理における表示輝度情報500は、輝度値[cd/m]が段階的に変化するように適宜設定されればよい。 In the processing of step S<b>109 , the display brightness determining unit 85 calculates the representative value of the brightness information 450 included in the brightness information management table 400 as the display brightness information 500 . The value to be set is not limited to this. The display brightness information 500 only needs to correspond to the brightness value [cd/m 2 ] of the background brightness in the n-th delay consideration process. In this case, the display brightness information 500 in the 1st to n-1th delay consideration processes may be appropriately set so that the brightness value [cd/m 2 ] changes stepwise.

なお、表示装置10Aは、輝度センサ70による輝度データのサンプリング周期で、上記ステップS101~ステップS104までの輝度情報管理テーブル400の更新処理を行い、サンプリング周期とは異なる処理周期で、上記ステップS105以降の処理を行う構成であってもよい。この場合、上記式1に示すサンプリング時間tは、ステップS105以降の処理における処理周期の間隔(時間)であってもよい。 Note that the display device 10A updates the brightness information management table 400 in steps S101 to S104 at the sampling cycle of the brightness data from the brightness sensor 70, and performs the processing from step S105 onward at a processing cycle different from the sampling cycle. may be configured to perform the processing of In this case, the sampling time t shown in Equation 1 above may be the interval (time) of the processing cycle in the processing after step S105.

続いて、表示装置10Aにおいて急激な輝度変化が検出しない場合の処理について説明する。表示装置10Aは、背景輝度の急激な変化を検出しない場合、輝度情報450の平滑化処理を行うことによって、表示情報の視認性を向上させる。ステップS106において、表示装置10Aの輝度変化検出部84は、輝度情報取得部81によって取得された輝度情報450が示す輝度値[cd/m]に基づいて、所定値以上の輝度変化が検出されない場合、処理をステップS112へ移行させる。 Next, a description will be given of processing when a rapid luminance change is not detected in the display device 10A. The display device 10A improves the visibility of display information by smoothing the luminance information 450 when a rapid change in background luminance is not detected. In step S106, the luminance change detection unit 84 of the display device 10A does not detect a luminance change equal to or greater than a predetermined value based on the luminance value [cd/m 2 ] indicated by the luminance information 450 acquired by the luminance information acquisition unit 81. If so, the process proceeds to step S112.

ステップS112において、表示装置10Aの表示輝度決定部85は、輝度情報管理テーブル400に記憶された輝度情報450を用いて、表示情報(虚像45)の表示輝度を示す表示輝度情報500を決定する。具体的には、表示輝度決定部85は、例えば、輝度情報管理テーブル400に記憶された輝度情報450の平均値を算出し、算出した平均値を表示輝度情報500として決定する。また、表示輝度決定部85は、例えば、輝度情報管理テーブル400に記憶された輝度情報450の中央値を算出し、算出した中央値を表示輝度情報500として決定する。 In step S112, the display brightness determining unit 85 of the display device 10A uses the brightness information 450 stored in the brightness information management table 400 to determine the display brightness information 500 indicating the display brightness of the display information (virtual image 45). Specifically, for example, the display brightness determination unit 85 calculates an average value of the brightness information 450 stored in the brightness information management table 400 and determines the calculated average value as the display brightness information 500 . In addition, the display luminance determining unit 85 calculates, for example, the median value of the luminance information 450 stored in the luminance information management table 400 and determines the calculated median value as the display luminance information 500 .

ここで、表示装置10Aは、ステップS104までの処理が行われた場合、輝度情報管理テーブル400には、今回の輝度情報450を取得した時刻から、輝度センサ70のサンプリング周期にサンプリング数(バッファサイズ)を掛けた分の時間さかのぼった時刻までの輝度情報450を保持している状態になる。表示輝度決定部85は、上記時間の間におけるすべての輝度情報450の代表値に基づいて、表示情報の表示輝度を示す表示輝度情報500を決定する。 Here, when the display device 10A performs the processing up to step S104, the brightness information management table 400 stores the number of samples (buffer size ) is held. The display brightness determination unit 85 determines display brightness information 500 indicating the display brightness of the display information based on the representative value of all the brightness information 450 during the above time.

ステップS113において、表示装置10Aの表示輝度決定部85は、決定した表示輝度情報500を、画像生成部173へ出力する。画像生成部173は、表示輝度情報500が示す表示輝度の値を、表示情報(虚像45)の表示輝度に反映する。そして、画像表示部174は、表示輝度情報500が示す表示輝度を用いて、表示情報を表示させる(表示ステップの一例)。 In step S<b>113 , the display brightness determination unit 85 of the display device 10</b>A outputs the determined display brightness information 500 to the image generation unit 173 . The image generator 173 reflects the value of the display brightness indicated by the display brightness information 500 in the display brightness of the display information (virtual image 45). Then, the image display unit 174 displays the display information using the display brightness indicated by the display brightness information 500 (an example of the display step).

ステップS114において、表示装置10Aの表示輝度制御部178は、表示輝度の制御を継続する場合、ステップS101から処理を繰り返し行う。一方で、表示輝度制御部178は、表示輝度の制御を継続しない場合、処理を終了する。 In step S114, the display brightness control unit 178 of the display device 10A repeats the process from step S101 when continuing to control the display brightness. On the other hand, if the display luminance control unit 178 does not continue controlling the display luminance, the process ends.

このように、表示装置10Aは、時系列に沿って取得した輝度情報450の代表値に基づいて、表示情報の表示輝度を制御することで、観察者3にとって望ましくない背景輝度のノイズの影響を低減させることができる。また、表示装置10Aは、取得した輝度情報450を、時系列に追加または削除を繰り返すことによって、取得された輝度情報450が表示輝度に反映されるまでの遅延を抑制することができ、背景輝度のノイズの影響を低減させることができる。 In this way, the display device 10A controls the display luminance of the display information based on the representative value of the luminance information 450 acquired along the time series, thereby reducing the influence of background luminance noise that is undesirable for the observer 3. can be reduced. In addition, the display device 10A can suppress the delay until the acquired brightness information 450 is reflected in the display brightness by repeating addition or deletion of the acquired brightness information 450 in time series, thereby reducing the background brightness. noise can be reduced.

なお、図17のステップS112は、表示輝度決定部85が輝度情報450の平均値を算出する例を説明したが、輝度情報450の平均値に限らず、表示輝度決定部85は、輝度情報450の中央値を用いて、表示輝度情報500を決定してもよい。さらに、表示輝度決定部85は、算出した平均値や中央値に対して、予め定められた定数を積算した値を、表示輝度情報500として決定してもよい。 In step S112 of FIG. 17, the display luminance determination unit 85 calculates the average value of the luminance information 450, but the display luminance determination unit 85 calculates the average value of the luminance information 450. may be used to determine the display luminance information 500 . Furthermore, the display brightness determination unit 85 may determine, as the display brightness information 500, a value obtained by multiplying the calculated average value or median value by a predetermined constant.

●具体例
ここで、図18および図19を用いて、運転者(観察者3)の視界における急激な輝度変化の具体例について説明する。図18は、観察者の視界における急激な輝度変化の影響の具体例(その1)を説明するための図である。図18(a)に示す画像は、車両に取り付けたドライブレコーダーを用いて撮影された前方の風景画像(背景画像)である。図18(a)は、吹き抜けの構造になっている立体駐車場内部において、太陽光が内部に入り込んだ状況を示す。図18(b)は、図18(a)に示す画像の状況における、輝度検出領域300で検出された輝度データ600と、輝度データ600に基づいて表示輝度の制御処理を行った処理データ650を示す。図18(b)のグラフにおいて、縦軸は、検出された輝度データの輝度値[cd/m]を示し、横軸は、輝度データを取得した時刻を示す。
Concrete Example Here, a concrete example of sudden luminance change in the field of view of the driver (observer 3) will be described with reference to FIGS. 18 and 19. FIG. FIG. 18 is a diagram for explaining a specific example (part 1) of the influence of sudden luminance changes in the field of view of the observer. The image shown in FIG. 18(a) is a landscape image (background image) in front captured using a drive recorder attached to a vehicle. FIG. 18(a) shows a state in which sunlight penetrates into the inside of a multi-storey parking lot that has an atrium structure. FIG. 18(b) shows luminance data 600 detected in the luminance detection area 300 and processed data 650 obtained by performing display luminance control processing based on the luminance data 600 in the situation of the image shown in FIG. 18(a). show. In the graph of FIG. 18(b), the vertical axis indicates the luminance value [cd/m 2 ] of the detected luminance data, and the horizontal axis indicates the time when the luminance data was acquired.

車両に搭載された輝度センサ70は、車両前方の輝度検出領域300に太陽光が入り込んだことによって、図18(b)に示すような急激な背景輝度の変化を検出する。図18(a)に示す状況において、立体駐車場内部自体が暗いため、輝度のコントラストが大きくなり、突発的なノイズの影響が大きくなる。 The luminance sensor 70 mounted on the vehicle detects a sudden change in background luminance as shown in FIG. In the situation shown in FIG. 18(a), the inside of the multi-storey parking lot itself is dark, so the luminance contrast increases and the effect of sudden noise increases.

このとき、サンプリングされた輝度データに対して平滑化処理(例えば、図17のステップS112の処理)のみが施された表示輝度の値は、サンプリングされた輝度データ(実際の背景輝度)よりも滑らかな輝度変化を示す。しかしながら、平滑化処理のみを施した表示輝度は、背景輝度の急激な変化に起因するノイズが残っており、このノイズの影響によって観察者3に表示の違和感を与えることとなる。 At this time, the display luminance value obtained by performing only the smoothing process (for example, the process of step S112 in FIG. 17) on the sampled luminance data is smoother than the sampled luminance data (actual background luminance). shows a large luminance change. However, the display brightness that has undergone only the smoothing process still has noise due to abrupt changes in the background brightness, and the effect of this noise gives the observer 3 a sense of discomfort in the display.

一方で、サンプリングされた輝度データに対して遅延考慮処理(例えば、図17のステップS107~S109の処理)が施された表示輝度の値は、背景輝度の急激な変化による突発的なノイズの影響が、ほとんど見られないことがわかる。これは、表示装置10Aにおいて、遅延考慮処理によって背景輝度の変化に対して表示輝度の変化を遅延させたことで、突発的なノイズの影響による輝度値[cd/m]のピークを減衰させたためである。 On the other hand, the display luminance values obtained by subjecting the sampled luminance data to delay-consideration processing (for example, the processing of steps S107 to S109 in FIG. 17) are affected by sudden noise caused by sudden changes in background luminance. However, it can be seen that it is rarely seen. This is because, in the display device 10A, the change in display luminance is delayed with respect to the change in background luminance by the delay consideration process, thereby attenuating the peak of the luminance value [cd/m 2 ] due to the influence of sudden noise. Because

図19は、観察者の視界における急激な輝度変化の影響の具体例(その2)を説明するための図である。図19(a)に示す画像は、図18(a)と同様に、車両に取り付けたドライブレコーダーを用いて撮影された前方の風景画像(背景画像)である。図19(a)は、走行中の車両が日陰から日向へ移動した状況を示す。図19(b)は、図19(a)に示す画像の状況における、輝度検出領域300で検出された輝度データ600と、輝度データ600に基づいて表示輝度の制御処理を行った処理データ650を示す。図19(b)のグラフにおいて、縦軸は、検出された輝度データの輝度値[cd/m]を示し、横軸は、輝度データを取得した時刻を示す。 FIG. 19 is a diagram for explaining a specific example (Part 2) of the influence of sudden luminance changes in the field of view of the observer. The image shown in FIG. 19( a ) is, like FIG. 18( a ), a landscape image (background image) in front captured using a drive recorder attached to a vehicle. FIG. 19(a) shows a situation in which a running vehicle moves from the shade to the sun. FIG. 19(b) shows luminance data 600 detected in the luminance detection area 300 and processed data 650 obtained by performing display luminance control processing based on the luminance data 600 in the situation of the image shown in FIG. 19(a). show. In the graph of FIG. 19B, the vertical axis indicates the luminance value [cd/m 2 ] of the detected luminance data, and the horizontal axis indicates the time when the luminance data was obtained.

車両に搭載された輝度センサ70は、車両前方の輝度検出領域300に逆光が入り込んだことによって、図19(b)に示すような急激な背景輝度の変化を検出する。このとき、サンプリングされた輝度データに対して平滑化処理(例えば、図17のステップS112の処理)のみが施された表示輝度の値は、サンプリングされた輝度データが示す実際の背景輝度よりも緩やかな輝度変化を示す。 The luminance sensor 70 mounted on the vehicle detects a sudden change in background luminance as shown in FIG. At this time, the value of the display luminance obtained by performing only the smoothing process (for example, the process of step S112 in FIG. 17) on the sampled luminance data is gentler than the actual background luminance indicated by the sampled luminance data. shows a large luminance change.

また、サンプリングされた輝度データに対して遅延考慮処理(例えば、図17のステップS107~S109の処理)が施された表示輝度の値は、平滑化処理のみを施した表示輝度の値よりも、さらに緩やかな輝度変化を示す。これは、表示装置10Aにおいて、遅延考慮処理によって、表示輝度を背景輝度に追随させるまでの遅延時間を設けたためである。 In addition, the display luminance value subjected to the delay consideration processing (for example, the processing of steps S107 to S109 in FIG. 17) on the sampled luminance data is higher than the display luminance value subjected to only smoothing processing. It shows a more gentle luminance change. This is because in the display device 10A, a delay time is provided until the display luminance follows the background luminance by the delay consideration process.

図19に示す状況において、表示装置10Aは、遅延考慮処理を行うことによって、平滑化処理のみを行った場合と比較して、表示輝度の輝度変化を緩やかにすることで、観察者3に与える表示の違和感を低減させることができる。一方で、図19に示す状況において、背景輝度の輝度値の変化が大きいため、平滑化処理のみを行った場合と比較して、遅延時間が長くなっている。遅延時間が長すぎる場合、観察者3に与える違和感の原因となるため、遅延時間を遅延許容時間Tの範囲内になるようにする必要がある。図19(b)に示す例において、表示装置10Aは、遅延許容時間T=1.4sに対して、約0.8sの遅延時間で、表示輝度を背景輝度の輝度値に対応させている。 In the situation shown in FIG. 19, the display device 10A performs the delay-consideration process to moderate the luminance change of the display luminance as compared with the case where only the smoothing process is performed. Discomfort in display can be reduced. On the other hand, in the situation shown in FIG. 19, the change in luminance value of the background luminance is large, so the delay time is longer than when only the smoothing process is performed. If the delay time is too long, the observer 3 will feel uncomfortable. In the example shown in FIG. 19(b), the display device 10A makes the display brightness correspond to the brightness value of the background brightness with a delay time of about 0.8 s with respect to the allowable delay time T=1.4 s.

なお、図18および図19において、立体駐車場における入射光および日陰から日向への移動による逆光の影響について説明したが、本実施形態に係る表示輝度の制御処理は、これらの状況に限られない。本実施形態に係る表示輝度の制御処理は、急激な輝度変化が発生する様々な状況において適用可能である。 18 and 19, the influence of incident light in a multi-storey parking lot and backlight due to movement from shade to sunshine has been described, but the display brightness control processing according to the present embodiment is not limited to these situations. . The display luminance control processing according to the present embodiment can be applied in various situations in which sudden luminance changes occur.

●遅延許容時間
続いて、図20および図21を用いて、表示システム1Aにおける遅延許容時間について説明する。図20および図21は、発明者らが行った、表示情報を視認する被験者(観察者3)に対する官能評価の統計結果を示す。
Allowable Delay Time Subsequently, the allowable delay time in the display system 1A will be described with reference to FIGS. 20 and 21. FIG. 20 and 21 show statistical results of sensory evaluations conducted by the inventors on a subject (observer 3) who visually recognizes displayed information.

図20は、第1の実施形態に係る表示システムにおける遅延許容時間について説明するための図である。図20(a)に示すグラフは、背景輝度が暗い状況から明るい状況へ背景輝度が大きく変化させた場合における、表示輝度の変化時間と被験者(観察者3)に与える違和感との関係を示す。図20(a)のグラフにおいて、縦軸は、被験者(観察者3)の官能評価の統計として、被験者(観察者3)が表示輝度の輝度変化に対する違和感のない確率(%)を示し、横軸は、表示輝度の輝度変化の遅延時間(s)を示す。 FIG. 20 is a diagram for explaining the allowable delay time in the display system according to the first embodiment; The graph shown in FIG. 20(a) shows the relationship between the change time of the display brightness and the sense of discomfort given to the subject (observer 3) when the background brightness is greatly changed from dark to bright. In the graph of FIG. 20( a ), the vertical axis indicates the probability (%) that the subject (observer 3) does not feel discomfort with respect to the luminance change of the display luminance as statistics of the sensory evaluation of the subject (observer 3), and the horizontal axis The axis indicates the delay time (s) of luminance change in display luminance.

図20(a)は、背景輝度の輝度値を、100[cd/m]~500[cd/m]に変化させた場合、100[cd/m]~1000[cd/m]に変化させた場合、100[cd/m]~1800[cd/m]に変化させた場合の3通りの輝度変化に対する統計結果を示す。いずれの場合も、表示輝度の輝度変化の遅延時間が長くなるにつれて、被験者(観察者3)に表示輝度の輝度変化に対する違和感を与えない確率は、低くなることがわかる。 FIG. 20(a) shows that when the luminance value of the background luminance is changed from 100 [cd/m 2 ] to 500 [cd/m 2 ], 100 [cd/m 2 ] to 1000 [cd/m 2 ] Statistical results are shown for three luminance changes when changing from 100 [cd/m 2 ] to 1800 [cd/m 2 ]. In either case, it can be seen that the longer the delay time of the luminance change of the display luminance, the lower the probability that the subject (observer 3) will not feel uncomfortable with the luminance change of the display luminance.

図20(b)は、図20(a)のグラフにおいて、被験者(観察者3)の80%が表示輝度の変化に違和感がないと感じた遅延時間を示す。図20(b)に示すように、背景輝度の輝度変化が大きいほど、被験者(観察者3)に与える違和感のない遅延時間は、短くなることがわかる。表示装置10Aは、被験者(観察者3)に与える違和感のない遅延時間が最も短い、100[cd/m]~1800[cd/m]に背景輝度を変化させた場合の遅延時間を、遅延許容時間Tに設定するのが好ましい。この場合、遅延許容時間T=1.45sとなる。 FIG. 20(b) shows the delay time at which 80% of the subjects (observer 3) feel comfortable with the change in display brightness in the graph of FIG. 20(a). As shown in FIG. 20(b), it can be seen that the greater the luminance change in the background luminance, the shorter the delay time that does not give the subject (observer 3) a sense of discomfort. In the display device 10A, the delay time when the background luminance is changed from 100 [cd/m 2 ] to 1800 [cd/m 2 ], which is the shortest delay time that does not cause discomfort to the subject (observer 3), is It is preferable to set the allowable delay time T. In this case, the allowable delay time T=1.45 s.

次に、図21を用いて、背景輝度を明るい状況から暗い状況へ大きく変化させた場合について説明する。図21(a)に示すグラフは、背景輝度が明るい状況から暗い状況へ大きく変化させた場合における、表示輝度の変化時間と被験者(観察者3)に与える違和感との関係を示す。図21(a)のグラフにおいて、縦軸は、被験者(観察者3)の官能評価の統計として、被験者(観察者3)が表示輝度の輝度変化に対する違和感のない確率(%)を示し、横軸は、表示輝度の輝度変化の遅延時間(s)を示す。 Next, with reference to FIG. 21, a case where the background luminance is greatly changed from a bright situation to a dark situation will be described. The graph shown in FIG. 21(a) shows the relationship between the change time of the display brightness and the sense of discomfort given to the subject (observer 3) when the background brightness is greatly changed from bright to dark. In the graph of FIG. 21( a ), the vertical axis represents the probability (%) that the subject (observer 3) does not feel discomfort with respect to the luminance change of the display brightness as statistics of the subject's (observer 3) sensory evaluation, and the horizontal axis. The axis indicates the delay time (s) of luminance change in display luminance.

図21(a)は、背景輝度の輝度値を、500[cd/m]~100[cd/m]に変化させた場合、1000[cd/m]~100[cd/m]に変化させた場合、1800[cd/m]~100[cd/m]に変化させた場合の3通りの輝度変化に対する統計結果を示す。いずれの場合も、表示輝度の輝度変化の遅延時間が長くなるにつれて、被験者(観察者3)に表示輝度の輝度変化に対する違和感を与えない確率は、低くなることがわかる。 FIG. 21(a) shows 1000 [cd/m 2 ] to 100 [cd/m 2 ] when the luminance value of the background luminance is changed from 500 [cd/m 2 ] to 100 [cd/m 2 ]. Statistical results are shown for three luminance changes when changing from 1800 [cd/m 2 ] to 100 [cd/m 2 ]. In either case, it can be seen that the longer the delay time of the luminance change of the display luminance, the lower the probability that the subject (observer 3) will not feel uncomfortable with the luminance change of the display luminance.

図21(b)は、図21(a)のグラフにおいて、被験者(観察者3)の80%が表示輝度の変化に違和感がないと感じた遅延時間を示す。図21(b)に示すように、背景輝度の輝度変化が小さいほど、被験者(観察者3)に与える違和感のない遅延時間は、短くなることがわかる。表示装置10Aは、被験者(観察者3)に与える違和感のない遅延時間が最も短い、500[cd/m]~100[cd/m]に背景輝度を変化させた場合の遅延時間を、遅延許容時間Tに設定するのが好ましい。この場合、遅延許容時間T=1.9sとなる。 FIG. 21(b) shows the delay time at which 80% of the subjects (observer 3) felt that the change in display luminance was comfortable in the graph of FIG. 21(a). As shown in FIG. 21B, it can be seen that the smaller the luminance change in the background luminance, the shorter the delay time that does not give the subject (observer 3) a sense of discomfort. In the display device 10A, the delay time when the background luminance is changed from 500 [cd/m 2 ] to 100 [cd/m 2 ], which is the shortest delay time that does not cause discomfort to the subject (observer 3), is It is preferable to set the allowable delay time T. In this case, the allowable delay time T=1.9 s.

このように、表示装置10Aは、表示情報(虚像45)の表示輝度を背景輝度に追随させるまでの遅延時間が、観察者3が表示輝度の変化に違和感のない遅延許容時間T以内になるようにする。なお、遅延許容時間Tを設定するための統計値として用いる、観察者3が表示輝度の変化に違和感のない確率は、80%に限られず、適宜調整可能である。 In this manner, the display device 10A sets the delay time until the display luminance of the display information (virtual image 45) follows the background luminance to be within the delay allowable time T at which the observer 3 feels comfortable with the change in the display luminance. to Note that the probability that the observer 3 does not feel uncomfortable with the change in display brightness, which is used as a statistical value for setting the allowable delay time T, is not limited to 80% and can be adjusted as appropriate.

また、図20および図21に示したように、観察者3が表示輝度の変化に違和感のない遅延時間は、輝度変化の状態(明るい状況から暗い状況、または暗い状況から明るい状況)に応じて異なる。そのため、表示装置10Aは、図16に示した遅延許容時間情報90のように、輝度変化の状態に応じて異なる遅延許容時間Tを設定しておくことで、より観察者3に違和感を与えないように、表示輝度を変化させることができる。なお、遅延許容時間Tは、輝度変化の状態のみならず、図20および図21に示したような輝度変化の大きさに応じて、異なる値が設定されてもよい。 Further, as shown in FIGS. 20 and 21, the delay time at which the observer 3 does not feel uncomfortable with the change in display luminance is different. Therefore, the display device 10A sets different permissible delay times T according to the state of luminance change, like the permissible delay time information 90 shown in FIG. , the display brightness can be changed. Note that the allowable delay time T may be set to a different value depending not only on the state of luminance change, but also on the magnitude of luminance change as shown in FIGS.

●第1の実施形態の効果
以上説明したように、第1の実施形態に係る表示システム1Aは、背景輝度の輝度変化を検出した場合、遅延許容時間T以内の遅延時間を設けて、表示輝度を段階的に変化させる。そのため、表示システム1Aは、急激な背景輝度の変化が発生した場合においても、観察者3に与える違和感を低減させつつ、表示情報の視認性を向上させることができる。また、表示システム1Aは、背景輝度の輝度変化が検知されない場合、表示装置10Aに記憶された輝度情報450の代表値を用いて表示輝度情報500を決定することで、急激な輝度変化の有無に依らずに、表示輝度の制御処理を継続して実施することができる。
Effects of the First Embodiment As described above, when the display system 1A according to the first embodiment detects a luminance change in the background luminance, a delay time within the allowable delay time T is provided to reduce the display luminance. change step by step. Therefore, the display system 1A can improve visibility of display information while reducing discomfort given to the observer 3 even when a sudden change in background luminance occurs. Further, when the luminance change of the background luminance is not detected, the display system 1A determines the display luminance information 500 using the representative value of the luminance information 450 stored in the display device 10A, thereby detecting the presence or absence of a sudden luminance change. The display brightness control process can be continuously performed without depending on the display brightness.

●第1の実施形態の変形例●
続いて、第1の実施形態の変形例の構成について説明する。なお、第1の実施形態と同一構成および同一機能は、同一の符号を付して、その説明を省略する。第1の実施形態に係る変形例に係る表示システムは、輝度センサ70による輝度検出領域300と表示背景領域350の位置関係が第1の実施形態とは異なるシステムである。
●Modified example of the first embodiment●
Next, a configuration of a modified example of the first embodiment will be described. The same reference numerals are given to the same configurations and the same functions as those of the first embodiment, and the description thereof is omitted. The display system according to the modification of the first embodiment is a system in which the positional relationship between the luminance detection area 300 by the luminance sensor 70 and the display background area 350 is different from that of the first embodiment.

図22は、第1の実施形態の変形例に係る輝度検出領域と表示背景領域との関係の一例を説明するための図である。第1の実施形態は、図10に示したように、輝度検出領域300が表示背景領域350を内包している例を示したが、輝度検出領域300と表示背景領域350の位置関係は、必ずしもこの例に限られない。 FIG. 22 is a diagram for explaining an example of the relationship between the luminance detection area and the display background area according to the modification of the first embodiment; 10, the luminance detection area 300 includes the display background area 350 in the first embodiment, but the positional relationship between the luminance detection area 300 and the display background area 350 is not necessarily It is not limited to this example.

図22(a)に示す例は、輝度検出領域301の一部と表示背景領域351の一部とが重畳されている。同様に、図22(b)に示す例は、輝度検出領域302の一部と表示背景領域352の一部とが重畳されている。図22(b)に示す例は、図22(a)と比較して、表示背景領域352の領域外の輝度検出領域302の範囲が、図22(a)と比較して小さくなっている。表示装置10Aは、図22(b)に示す位置関係を適用した場合、図22(a)の例と比較して、表示背景領域352に輝度変化に寄与しないノイズを検出する可能性を低減させることができる。 In the example shown in FIG. 22A, part of the luminance detection area 301 and part of the display background area 351 are superimposed. Similarly, in the example shown in FIG. 22(b), part of the luminance detection area 302 and part of the display background area 352 are superimposed. In the example shown in FIG. 22(b), the range of the luminance detection area 302 outside the display background area 352 is smaller than that in FIG. 22(a) compared to that in FIG. 22(a). When the positional relationship shown in FIG. 22(b) is applied, the display device 10A reduces the possibility of detecting noise that does not contribute to luminance change in the display background region 352 compared to the example of FIG. 22(a). be able to.

図22(c)に示す例は、輝度検出領域303が表示背景領域353に内包されている。表示装置10Aは、図22(c)に示す位置関係を適用した場合、輝度検出領域303で検出された輝度データは、表示背景領域353の領域内の背景輝度の輝度を示すことになるため、表示背景領域353の背景輝度の変化を精度よく反映することができる。 In the example shown in FIG. 22(c), the luminance detection area 303 is included in the display background area 353. In the example shown in FIG. When the display device 10A applies the positional relationship shown in FIG. Changes in the background brightness of the display background area 353 can be accurately reflected.

表示システム1Aは、図22(a)~(c)に示すいずれの場合においても、図17に示した表示輝度の制御処理を適用することができる。なお、図10および図22において、輝度検出領域と表示背景領域の少なくとも一部が重畳している例を示したが、輝度検出領域と表示背景領域は、必ずしも重なっていなくてもよい。 The display system 1A can apply the display luminance control process shown in FIG. 17 in any of the cases shown in FIGS. Although FIGS. 10 and 22 show examples in which at least a portion of the luminance detection area and the display background area overlap, the luminance detection area and the display background area do not necessarily have to overlap.

●第2の実施形態●
続いて、第2の実施形態の構成について説明する。なお、第1の実施形態と同一構成および同一機能は、同一の符号を付して、その説明を省略する。第2の実施形態に係る表示システム1Bは、背景輝度の輝度値[cd/m]に基づいて、特定した遅延考慮処理回数分の表示輝度情報500を固定値として決定し、決定した表示輝度情報500を用いて、表示輝度を段階的に変化させる。
●Second Embodiment●
Next, the configuration of the second embodiment will be described. The same reference numerals are given to the same configurations and the same functions as those of the first embodiment, and the description thereof is omitted. The display system 1B according to the second embodiment determines, as a fixed value, the display brightness information 500 for the number of specified delay consideration processes based on the brightness value [cd/m 2 ] of the background brightness, and the determined display brightness Information 500 is used to change the display brightness in steps.

図23は、第2の実施形態に係る表示装置における表示輝度の制御処理の一例を示すフローチャートである。なお、図23に示すステップ201~ステップS204までの処理は、図17に示したステップS101~ステップS104までの処理と同様であるため、説明を省略する。なお、第1の実施形態と同様に、輝度情報450に含まれる値は、輝度値[cd/m]に限られず、照度値[lx]であってもよい。 FIG. 23 is a flowchart illustrating an example of display brightness control processing in the display device according to the second embodiment. Note that the processing from step S201 to step S204 shown in FIG. 23 is the same as the processing from step S101 to step S104 shown in FIG. 17, so description thereof will be omitted. As in the first embodiment, the value included in the luminance information 450 is not limited to the luminance value [cd/m 2 ], and may be the illuminance value [lx].

ステップS205において、表示装置10Bは、遅延考慮処理が行われている場合、処理をステップS210へ移行させる。一方で、表示装置10Bは、遅延考慮処理が行われていない場合、処理をステップS206へ移行させる。 In step S205, the display device 10B shifts the process to step S210 when the delay consideration process is being performed. On the other hand, if the delay consideration process is not performed, the display device 10B shifts the process to step S206.

ステップS206において、表示装置10Bの輝度変化検出部84は、輝度情報取得部81によって取得された輝度情報450が示す輝度値[cd/m]に基づいて、背景輝度の輝度変化を検出した場合、処理をステップS207へ移行させる。具体的には、輝度変化検出部84は、輝度情報取得部81によって新たに取得された輝度情報450が示す輝度値[cd/m]と、輝度情報管理テーブル400に記憶されている輝度情報450が示す輝度値[cd/m]とを比較して、所定値以上の差異がある場合、所定値以上の輝度変化を検出する。なお、輝度変化を検出するための所定値は、予め設定値として表示装置10Bに記憶されている。輝度変化を検出するための所定値は、例えば、太陽光や対向車両のヘッドライト等に起因して発生する、背景輝度の急激な変化を検出可能な値に設定される。 In step S206, the brightness change detection unit 84 of the display device 10B detects a brightness change in the background brightness based on the brightness value [cd/m 2 ] indicated by the brightness information 450 acquired by the brightness information acquisition unit 81. , the process proceeds to step S207. Specifically, the luminance change detection unit 84 detects the luminance value [cd/m 2 ] indicated by the luminance information 450 newly acquired by the luminance information acquisition unit 81 and the luminance information stored in the luminance information management table 400. The luminance value [cd/m 2 ] indicated by 450 is compared, and if there is a difference of a predetermined value or more, a luminance change of a predetermined value or more is detected. A predetermined value for detecting luminance change is stored in advance as a set value in the display device 10B. The predetermined value for detecting changes in brightness is set to a value that allows detection of sudden changes in background brightness caused by sunlight, headlights of oncoming vehicles, or the like, for example.

また、輝度変化検出部84は、背景輝度に所定値以上の輝度変化を検出した場合、検出した輝度変化の状態を判定する。例えば、輝度変化検出部84は、背景輝度の輝度値[cd/m]の上昇(例えば、図11に示すILからIHへの輝度変化)、または背景輝度の輝度値[cd/m]の低下(例えば、図11に示すIHからILへの輝度変化)を判定する。そして、輝度変化検出部84は、表示輝度決定部85へ、判定結果を出力する。 Further, when detecting a luminance change equal to or greater than a predetermined value in the background luminance, the luminance change detection unit 84 determines the state of the detected luminance change. For example, the luminance change detection unit 84 detects an increase in the luminance value [cd/m 2 ] of the background luminance (for example, the luminance change from IL to IH shown in FIG. 11), or the luminance value [cd/m 2 ] of the background luminance. (eg, luminance change from IH to IL shown in FIG. 11). Then, the brightness change detection section 84 outputs the determination result to the display brightness determination section 85 .

一方で、ステップS206において、表示装置10Bの輝度変化検出部84は、輝度情報取得部81によって取得された輝度情報450が示す輝度値[cd/m]に基づいて、所定値以上の輝度変化を検出しない場合、処理をステップS212へ移行させる。ステップS212~ステップS214までの輝度データの平滑化処理の内容は、図17に示したステップS112~ステップS114の内容と同様であるため、説明を省略する。 On the other hand, in step S206, the luminance change detection unit 84 of the display device 10B detects a luminance change equal to or greater than a predetermined value based on the luminance value [cd/m 2 ] indicated by the luminance information 450 acquired by the luminance information acquisition unit 81. is not detected, the process proceeds to step S212. The contents of the luminance data smoothing process in steps S212 to S214 are the same as those in steps S112 to S114 shown in FIG.

ステップS207において、表示装置10Bの表示輝度決定部85は、記憶部800に記憶された遅延許容時間情報90を読み出す。具体的には、表示輝度決定部85は、輝度変化検出部84の判定結果である輝度変化の状態に対応する遅延許容時間Tを読み出す。輝度変化検出部84によって背景輝度の輝度値が上昇したと判定された場合、表示輝度決定部85は、例えば、図16に示す輝度変化「暗→明」に対応する遅延許容時間Tを読み出す。 In step S<b>207 , the display luminance determination unit 85 of the display device 10</b>B reads out the allowable delay time information 90 stored in the storage unit 800 . Specifically, the display luminance determination unit 85 reads the allowable delay time T corresponding to the state of luminance change, which is the determination result of the luminance change detection unit 84 . When the brightness change detection unit 84 determines that the brightness value of the background brightness has increased, the display brightness determination unit 85 reads, for example, the allowable delay time T corresponding to the brightness change “dark→bright” shown in FIG.

ステップS208において、表示装置10Bの表示輝度決定部85は、読み出した遅延許容時間Tに基づいて、表示輝度情報500を決定するための輝度情報450の遅延考慮処理回数nを特定する。遅延考慮処理回数nの特定方法は、図17のステップS108に示した内容と同様であるため、説明を省略する。 In step S<b>208 , the display brightness determination unit 85 of the display device 10</b>B specifies the delay consideration processing count n of the brightness information 450 for determining the display brightness information 500 based on the read allowable delay time T. The method of specifying the delay-consideration processing count n is the same as the content shown in step S108 of FIG. 17, and thus the description thereof is omitted.

ステップS209において、表示装置10Bの表示輝度決定部85は、特定された遅延考慮処理回数のn回目で背景輝度に対応する輝度値[cd/m]になるように表示輝度を段階的に変化させるため、n回分の表示輝度情報500を固定値として決定する。具体的には、表示輝度決定部85は、例えば、新たに取得した輝度情報450が示す輝度値が1000[cd/m]、特定した遅延考慮処理回数が4回であった場合、4回目の表示輝度情報500が示す輝度値が1000[cd/m]になるように、4回分の表示輝度情報500を特定する。この場合、表示輝度決定部85は、それぞれの遅延考慮処理回数に対応する予め定められた定数を、現在の表示輝度と背景輝度の差分値に積算する。そして、表示輝度決定部85は、積算された値を現在の表示輝度の値に加算することで、1~4回目の遅延考慮処理回数に対応する表示輝度情報500を決定する。 In step S209, the display brightness determination unit 85 of the display device 10B changes the display brightness stepwise so that the brightness value [cd/m 2 ] corresponding to the background brightness is reached at the n-th specified number of delay-consideration processes. Therefore, the display brightness information 500 for n times is determined as a fixed value. Specifically, for example, when the luminance value indicated by the newly acquired luminance information 450 is 1000 [cd/m 2 ] and the specified number of delay consideration processing times is 4, the display luminance determining unit 85 The display brightness information 500 for four times is specified so that the brightness value indicated by the display brightness information 500 of is 1000 [cd/m 2 ]. In this case, the display brightness determination unit 85 adds a predetermined constant corresponding to each delay consideration processing count to the difference value between the current display brightness and the background brightness. Then, the display luminance determining unit 85 determines the display luminance information 500 corresponding to the first to fourth delay consideration processing times by adding the integrated value to the current display luminance value.

例えば、1回目の定数が0.16、2回目の定数が0.256、3回目の定数が0.655、4回目の定数が1.0であり、現在の表示輝度が500[cd/m]、現在の背景輝度が1000[cd/m]である場合について説明する。この場合、1回目の遅延考慮処理回数に対応する表示輝度情報500は、現在の背景輝度と表示輝度の差分値である500に対して1回目の定数0.16を積算し、積算した値(80)を現在の表示輝度の値に加算した「580[cd/m]」となる。同様に、2回目の遅延考慮処理回数に対応すする表示輝度情報500は、「628[cd/m]」、3回目の遅延考慮処理回数に対応すする表示輝度情報500は、「827.5[cd/m]」、4回目の遅延考慮処理回数に対応する表示輝度情報500は、「1000[cd/m]」となる。 For example, the first constant is 0.16, the second constant is 0.256, the third constant is 0.655, the fourth constant is 1.0, and the current display luminance is 500 [cd/m 2 ] and the current background luminance is 1000 [cd/m 2 ]. In this case, the display luminance information 500 corresponding to the number of times of the first delay consideration process is obtained by multiplying the difference value 500 between the current background luminance and the display luminance by the first constant 0.16 ( 80) is added to the current display luminance value, resulting in "580 [cd/m 2 ]". Similarly, the display brightness information 500 corresponding to the second delay-consideration processing count is “628 [cd/m 2 ]”, and the display brightness information 500 corresponding to the third delay-consideration processing count is “827. 5 [cd/m 2 ]", and the display brightness information 500 corresponding to the fourth delay consideration processing count is "1000 [cd/m 2 ]".

このように、表示装置10Bの表示輝度決定部85は、特定した遅延考慮処理回数のn回目の表示輝度情報500が現在の背景輝度の輝度値[cd/m]になるように、途中の遅延考慮処理回数に対応する表示輝度情報500を段階的に変化させる。 In this way, the display brightness determination unit 85 of the display device 10B adjusts the specified display brightness information 500 for the n-th delay consideration process to the brightness value [cd/m 2 ] of the current background brightness. The display brightness information 500 corresponding to the number of delay-consideration processes is changed stepwise.

ステップS210において、表示装置10Bの表示輝度決定部85は、決定した表示輝度情報500を、画像生成部173へ出力する。画像生成部173は、表示輝度情報500が示す表示輝度の値を、表示情報(虚像45)の表示輝度に反映する。そして、画像表示部174は、表示輝度情報500が示す表示輝度を用いて、表示情報を表示させる。 In step S<b>210 , the display brightness determination unit 85 of the display device 10</b>B outputs the determined display brightness information 500 to the image generation unit 173 . The image generator 173 reflects the value of the display luminance indicated by the display luminance information 500 in the display luminance of the display information (virtual image 45). Then, the image display unit 174 uses the display brightness indicated by the display brightness information 500 to display the display information.

ステップS211において、表示装置10Bは、表示輝度決定部85によって特定されたn回の遅延考慮処理が終了した場合、処理をステップS214へ移行させる。ステップS214において、表示装置10Bの表示輝度制御部178は、表示輝度の制御を継続する場合、ステップS201から処理を繰り返し行う。一方で、表示輝度制御部178は、表示輝度の制御を継続しない場合、処理を終了する。 In step S211, the display device 10B shifts the process to step S214 when n times of the delay consideration process specified by the display brightness determination unit 85 have been completed. In step S214, the display brightness control unit 178 of the display device 10B repeats the process from step S201 when continuing to control the display brightness. On the other hand, if the display luminance control unit 178 does not continue controlling the display luminance, the process ends.

ステップS211において、表示装置10Bは、表示輝度決定部85によって特定されたn回の遅延考慮処理の途中である場合、ステップS201からの処理を繰り返す。そして、表示装置10Bは、特定されたn回分の遅延考慮処理を繰り返すことによって、例えば、図11に示すように、表示輝度を段階的に変化させて、遅延許容時間Tに示す時間内に、表示輝度を背景輝度の輝度値に対応させる。そのため、表示装置10Bは、急激な背景輝度の変化を検出した場合においても、程よい遅延を設けて表示輝度を変化させることで、観察者3に違和感を与えることなく、表示輝度を背景輝度に追随させることができる。 In step S211, the display device 10B repeats the process from step S201 when the delay consideration process specified by the display luminance determination unit 85 is being performed n times. Then, the display device 10B repeats the specified delay consideration process n times, for example, as shown in FIG. The display brightness is made to correspond to the brightness value of the background brightness. Therefore, even when a sudden change in background luminance is detected, the display device 10B changes the display luminance with an appropriate delay so that the display luminance follows the background luminance without giving the observer 3 a sense of discomfort. can be made

●第2の実施形態の効果
このように、第2の実施形態に係る表示システムは、遅延許容時間T内に表示輝度を背景輝度に追随させるため、遅延考慮処理回数n回分の表示輝度情報500を背景輝度の輝度値[cd/m]に基づいて決定し、決定した表示輝度情報500を用いて、表示輝度を段階的に変化させる。そのため、表示システム1Bは、遅延許容時間Tの範囲内の遅延時間を用いて、より自然な表示輝度の変化を実現させることができる。
Effects of the Second Embodiment As described above, the display system according to the second embodiment causes the display luminance to follow the background luminance within the allowable delay time T. is determined based on the luminance value [cd/m 2 ] of the background luminance, and the determined display luminance information 500 is used to change the display luminance stepwise. Therefore, the display system 1B can use the delay time within the allowable delay time T to achieve a more natural change in display brightness.

●まとめ●
以上説明したように、本発明の一実施形態に係る表示装置は、移動体の前方に観察者3が視認する虚像45(表示情報の一例)を表示させる表示装置10Aであって、虚像45の背景となる表示背景領域350(表示領域の一例)の少なくとも一部を含む輝度検出領域300(周辺領域の一例)の輝度を示す輝度情報450を、特定のサンプリング時間t(周期の一例)で取得し、取得した輝度情報450に基づいて、輝度検出領域300の輝度変化を検出する。そして、表示装置10Aは、輝度変化を検出した場合、虚像45の表示輝度を輝度検出領域300の輝度に対応させるまでの遅延時間が、遅延許容時間T以内または遅延許容時間Tより短くなるように、虚像45の表示輝度を示す表示輝度情報500を決定し、決定した表示輝度情報500を用いて、虚像45を表示させる。そのため、表示装置10Aは、急激な背景輝度の変化に対して、観察者3にとって望ましくない表示輝度の変化を抑制することで、表示情報の視認性を向上させることができる。
●Summary●
As described above, the display device according to one embodiment of the present invention is the display device 10A that displays the virtual image 45 (an example of display information) visually recognized by the observer 3 in front of the moving body. Luminance information 450 indicating the luminance of a luminance detection area 300 (an example of a peripheral area) including at least part of a display background area 350 (an example of a display area) that serves as a background is acquired at a specific sampling time t (an example of a cycle). Then, based on the obtained luminance information 450, the luminance change of the luminance detection area 300 is detected. Then, when the display device 10A detects a luminance change, the delay time until the display luminance of the virtual image 45 corresponds to the luminance of the luminance detection area 300 is within the allowable delay time T or shorter than the allowable delay time T. , the display brightness information 500 indicating the display brightness of the virtual image 45 is determined, and the virtual image 45 is displayed using the determined display brightness information 500 . Therefore, the display device 10A can improve the visibility of display information by suppressing changes in display luminance that are undesirable for the observer 3 in response to sudden changes in background luminance.

また、本発明の一実施形態に係る表示装置は、虚像45の表示輝度を輝度検出領域300(周辺領域の一例)の輝度に対応させるまでの遅延時間が、遅延許容時間T以下または遅延許容時間Tより短くなるように、サンプリング時間tに基づく輝度情報450の遅延考慮処理回数n(取得回数の一例)を特定する。そのため、表示装置10Aは、表示情報の表示輝度を背景輝度に対応させるまでの遅延時間を、観察者3が表示輝度の変化に違和感のない遅延許容時間Tの時間内に収めることで、表示情報の視認性を向上させることができる。 Further, in the display device according to the embodiment of the present invention, the delay time until the display brightness of the virtual image 45 corresponds to the brightness of the brightness detection region 300 (an example of the peripheral region) is less than or equal to the allowable delay time T or equal to or greater than the allowable delay time T. The delay-consideration processing count n (an example of the acquisition count) of the luminance information 450 based on the sampling time t is specified so as to be shorter than T. Therefore, the display device 10A sets the delay time until the display luminance of the display information corresponds to the background luminance within the allowable delay time T at which the observer 3 does not feel uncomfortable with the change in the display luminance. visibility can be improved.

さらに、本発明の一実施形態に係る表示装置は、下記(式1)の条件を満たすように、遅延考慮処理回数n(取得回数の一例)を特定する。下記(式1)中、nは遅延考慮処理回数を表し、tはサンプリング時間(周期の一例)を表し、Tは遅延許容時間を表す。 Furthermore, the display device according to one embodiment of the present invention specifies the delay-consideration processing count n (an example of the acquisition count) so as to satisfy the condition of (Equation 1) below. In the following (Equation 1), n represents the number of delay consideration processes, t represents a sampling time (an example of a period), and T represents an allowable delay time.

Figure 0007114993000004
Figure 0007114993000004

そのため、表示装置10Aは、表示輝度を背景輝度に追随させるための遅延時間を、遅延許容時間Tの範囲内に時間内に収めることで、観察者3に違和感を与えない範囲で、表示輝度を背景輝度に追随させることができる。 Therefore, the display device 10A keeps the delay time for the display luminance to follow the background luminance within the range of the allowable delay time T, thereby reducing the display luminance to the extent that the observer 3 does not feel uncomfortable. Background luminance can be tracked.

また、本発明の一実施形態に係る表示装置は、輝度検出領域300(周辺領域の一例)の輝度変化を検出した場合、検出した輝度変化の状態を判定し、判定した輝度変化の状態に対応する遅延許容時間Tに基づいて、表示輝度情報500を決定する。そのため、表示装置10Aは、背景輝度の輝度変化の状態(暗→明、明→暗)に応じて異なる遅延許容時間Tを用いることで、表示輝度を変化させるために要する遅延時間を異ならせることができる。 Further, when detecting a luminance change in the luminance detection region 300 (an example of the peripheral region), the display device according to an embodiment of the present invention determines the state of the detected luminance change, and responds to the determined state of the luminance change. The display brightness information 500 is determined based on the allowable delay time T. Therefore, the display device 10A uses different allowable delay times T according to the luminance change state of the background luminance (dark→bright, bright→dark), thereby varying the delay time required to change the display brightness. can be done.

さらに、本発明の一実施形態に係る表示システムは、光を発散するスクリーン15(光学素子の一例)と、光源装置11(光源の一例)から射出された光によって、スクリーン15を二次元走査する光偏向装置13(走査部の一例)と、を有し、スクリーン15から発散された発散光によって結像される虚像45を表示させる表示装置10Aを備える。また、表示システム1Aは、輝度検出領域300(周辺領域の一例)の輝度を検出する輝度センサ70(検出装置の一例)と、スクリーン15から発散された発散光を反射させるフロントガラス50(反射部材の一例)と、スクリーン15から発散された発散光をフロントガラス50に向けて投射して虚像45を結像させる自由曲面ミラー30(結像光学系の一例)を備える。そのため、表示システム1Aは、急激な背景輝度の変化に対して、観察者3にとって望ましくない表示輝度の変化を抑制することで、表示情報の視認性を向上させることができる。 Furthermore, the display system according to one embodiment of the present invention scans the screen 15 two-dimensionally with light emitted from the screen 15 (an example of an optical element) that emits light and the light source device 11 (an example of a light source). and a display device 10</b>A that displays a virtual image 45 formed by divergent light diverged from the screen 15 . The display system 1A also includes a brightness sensor 70 (an example of a detection device) that detects the brightness of a brightness detection area 300 (an example of a peripheral area), and a windshield 50 (a reflective member) that reflects divergent light emitted from the screen 15. an example), and a free-form surface mirror 30 (an example of an imaging optical system) that projects divergent light diverged from the screen 15 toward the windshield 50 to form a virtual image 45 . Therefore, the display system 1A can improve the visibility of display information by suppressing changes in display brightness that are undesirable for the observer 3 in response to sudden changes in background brightness.

また、本発明の一実施形態に係る表示輝度制御方法は、移動体の前方に観察者3が視認する虚像45(表示情報の一例)を表示させる表示装置10Aが実行する表示輝度制御方法であって、虚像45の背景となる表示背景領域350(表示領域の一例)の少なくとも一部を含む輝度検出領域300(周辺領域の一例)の輝度を示す輝度情報450を、特定の周期で取得する取得ステップと、取得された輝度情報450に基づいて、輝度検出領域300の輝度変化を検出する検出ステップと、輝度変化が検出された場合、虚像45の表示輝度を輝度検出領域300(周辺領域の一例)の輝度に対応させるまでの遅延時間が、遅延許容時間T以下または遅延許容時間Tより短くなるように、虚像45の表示輝度を示す表示輝度情報500を決定する決定ステップと、決定された表示輝度情報500を用いて、虚像45を表示させる表示ステップと、を実行する。そのため、本発明の一実施形態に係る表示輝度制御方法は、急激な背景輝度の変化に対して、観察者3にとって望ましくない表示輝度の変化を抑制することで、表示情報の視認性を向上させることができる。 A display brightness control method according to an embodiment of the present invention is a display brightness control method executed by the display device 10A that displays a virtual image 45 (an example of display information) visually recognized by the observer 3 in front of a moving object. acquires luminance information 450 indicating the luminance of a luminance detection area 300 (an example of a peripheral area) including at least a portion of a display background area 350 (an example of a display area) serving as a background of the virtual image 45 at a specific cycle. a detection step of detecting a luminance change in the luminance detection area 300 based on the acquired luminance information 450; ) is equal to or less than the allowable delay time T or shorter than the allowable delay time T; and a display step of displaying the virtual image 45 using the luminance information 500 . Therefore, the display brightness control method according to one embodiment of the present invention suppresses changes in display brightness that are undesirable for the observer 3 in response to sudden changes in background brightness, thereby improving the visibility of display information. be able to.

●補足●
なお、本発明の一実施形態に係る表示装置、表示システム、移動体、表示輝度制御方法およびプログラムについて説明してきたが、本発明は、上述した実施形態に限定されるものではなく、当業者が想到することができる範囲内で変更することができる。
● Supplement ●
Although a display device, a display system, a moving object, a display brightness control method, and a program according to an embodiment of the present invention have been described, the present invention is not limited to the above-described embodiments, and a person skilled in the art can It can be changed within the conceivable range.

また、本発明の一実施形態に係る表示装置は、移動体の一例である自動車に搭載されたHUD装置である例を説明したが、本発明の一実施形態に係る表示装置は、例えば、ヘッドマウントディスプレイ装置等であってもよい。この場合、ヘッドマウントディスプレイ装置に適用した本発明の一実施形態に係る表示装置は、外界と虚像を重畳させて表示させる。さらに、本発明の一実施形態に係る表示装置は、シースルーディスプレイのように、外界の風景(背景)見えるように表示面を透過させる表示方式を有する装置にも適用することができる。 Further, the display device according to one embodiment of the present invention has been described as a HUD device mounted on an automobile, which is an example of a moving body, but the display device according to one embodiment of the present invention may be, for example, a head It may be a mount display device or the like. In this case, the display device according to one embodiment of the present invention applied to the head-mounted display device superimposes and displays the external world and the virtual image. Furthermore, the display device according to one embodiment of the present invention can also be applied to a device having a display system that transmits the display surface so that the scenery (background) of the outside world can be seen, such as a see-through display.

さらに、各実施形態の機能は、アセンブラ、C、C++、C#、Java(登録商標)等のレガシープログラミング言語やオブジェクト指向プログラミング言語等で記述されたコンピュータ実行可能なプログラムにより実現でき、各実施形態の機能を実行するためのプログラムは、電気通信回線を通じて頒布することができる。 Furthermore, the functions of each embodiment can be realized by a computer-executable program written in a legacy programming language such as assembler, C, C++, C#, Java (registered trademark), an object-oriented programming language, or the like. Programs to perform the functions of may be distributed over telecommunications lines.

また、各実施形態の機能を実行するためのプログラムは、ROM、EEPROM(Electrically Erasable Programmable Read-Only Memory)、EPROM(Erasable Programmable Read-Only Memory)、フラッシュメモリ、フレキシブルディスク、CD(Compact Disc)-ROM、CD-RW(Re-Writable)、DVD-ROM、DVD-RAM、DVD-RW、ブルーレイディスク、SDカード、MO(Magneto-Optical disc)等の装置可読な記録媒体に格納して頒布することもできる。 Programs for executing the functions of each embodiment include ROM, EEPROM (Electrically Erasable Programmable Read-Only Memory), EPROM (Erasable Programmable Read-Only Memory), flash memory, flexible disk, CD (Compact Disc)- Storing and distributing in device-readable recording media such as ROM, CD-RW (Re-Writable), DVD-ROM, DVD-RAM, DVD-RW, Blu-ray disc, SD card, MO (Magneto-Optical disc), etc. can also

さらに、各実施形態の機能の一部または全部は、例えばFPGA(Field Programmable Gate Array)等のプログラマブル・デバイス(PD)上に実装することができ、またはASICとして実装することができ、各実施形態の機能をPD上に実現するためにPDにダウンロードする回路構成データ(ビットストリームデータ)、回路構成データを生成するためのHDL(Hardware Description Language)、VHDL(Very High Speed Integrated Circuits Hardware Description Language)、Verilog-HDL等により記述されたデータとして記録媒体により配布することができる。 Furthermore, part or all of the functionality of each embodiment can be implemented on a programmable device (PD), such as an FPGA (Field Programmable Gate Array), or can be implemented as an ASIC, and each embodiment Circuit configuration data (bit stream data) downloaded to the PD to realize the function of PD, HDL (Hardware Description Language) for generating circuit configuration data, VHDL (Very High Speed Integrated Circuits Hardware Description Language), It can be distributed on a recording medium as data described in Verilog-HDL or the like.

1、1A、1B 表示システム
10、10A、10B 表示装置
11 光源装置
13 光偏向装置(走査部の一例)
15 スクリーン(光学素子の一例)
30 自由曲面ミラー(結像光学系の一例)
50 フロントガラス(反射部材の一例)
70 輝度センサ(検出装置の一例)
81 輝度情報取得部(取得手段の一例)
83 記憶・読出部(記憶制御手段の一例)
84 輝度変化検出部(検出手段の一例)
85 表示輝度決定部(決定手段の一例)
400 輝度情報管理テーブル(記憶領域の一例)
1, 1A, 1B display system 10, 10A, 10B display device 11 light source device 13 optical deflection device (an example of a scanning unit)
15 screen (an example of an optical element)
30 free-form surface mirror (an example of an imaging optical system)
50 windshield (an example of a reflective member)
70 luminance sensor (an example of a detection device)
81 luminance information acquisition unit (an example of acquisition means)
83 storage/readout unit (an example of storage control means)
84 Luminance change detection unit (an example of detection means)
85 Display brightness determination unit (an example of determination means)
400 luminance information management table (an example of a storage area)

特開2013-239243号公報JP 2013-239243 A

Claims (9)

移動体の前方に観察者が視認する表示情報を表示させる表示装置であって、
前記表示情報の背景となる表示領域の少なくとも一部を含む周辺領域の輝度を示す輝度情報を、特定の周期で取得する取得手段と、
前記取得された輝度情報に基づいて、前記周辺領域の輝度変化が所定値以上であることを検出する検出手段と、
前記取得された輝度情報に基づいて、表示輝度を示す表示輝度情報を決定する決定手段と、を備え、
前記決定手段は、
前記所定値以上の輝度変化が検出された場合、前記所定値以上の輝度変化が検出されない場合に比べて前記表示輝度の変化が遅延するように、かつ前記表示情報の表示輝度を前記周辺領域の輝度に対応させるまでの遅延時間が、観察者に違和感を与えない許容範囲として設定された遅延許容時間以内または当該遅延許容時間より短くなるように、前記表示輝度情報を決定し、
前記決定された表示輝度情報を用いて、前記表示情報を表示させる表示装置。
A display device for displaying display information visually recognized by an observer in front of a moving body,
acquisition means for acquiring luminance information indicating luminance of a peripheral area including at least part of a display area serving as a background of the display information in a specific cycle;
detection means for detecting that the change in luminance of the peripheral area is equal to or greater than a predetermined value based on the acquired luminance information;
determining means for determining display luminance information indicating display luminance based on the acquired luminance information;
The determining means
When a luminance change of the predetermined value or more is detected, the display luminance of the display information is adjusted to the surrounding area so that the change in the display luminance is delayed compared to when the luminance change of the predetermined value or more is not detected. determining the display brightness information so that the delay time until it corresponds to the brightness is within or shorter than the allowable delay time set as an allowable range that does not cause discomfort to the observer;
A display device for displaying the display information using the determined display luminance information.
前記決定手段は、
表示輝度を前記周辺領域の輝度に対応させるまでの遅延時間が、遅延許容時間以内または当該遅延許容時間より短くなるように、前記周期に基づく前記輝度情報の取得回数を特定し、
前記所定値以上の輝度変化が検出された場合、前記表示輝度が前記取得回数分だけ段階的に変化するように、前記表示輝度情報を決定する、請求項1に記載の表示装置。
The determining means
specifying the number of acquisition times of the brightness information based on the cycle so that the delay time until the display brightness corresponds to the brightness of the peripheral area is within the allowable delay time or shorter than the allowable delay time;
2. The display device according to claim 1 , wherein said display brightness information is determined such that said display brightness changes stepwise by said number of acquisitions when a brightness change equal to or greater than said predetermined value is detected .
前記決定手段は、下記(式1)の条件を満たすように前記取得回数を特定する、請求項2に記載の表示装置。
Figure 0007114993000005
(上記(式1)中、nは前記取得回数を表し、tは前記周期を表し、Tは前記遅延許容時間を表す。)
3. The display device according to claim 2, wherein said determining means specifies said number of acquisitions so as to satisfy the following condition (Equation 1).
Figure 0007114993000005
(In the above (Formula 1), n represents the number of acquisitions, t represents the period, and T represents the allowable delay time.)
前記検出手段は、前記輝度変化を検出した場合、前記検出した輝度変化の状態を判定し、
前記決定手段は、前記判定された状態に対応する前記遅延許容時間に基づいて、前記表示輝度情報を決定する、請求項1乃至3のいずれか一項に記載の表示装置。
When the detection means detects the luminance change, the detection means determines the state of the detected luminance change,
4. The display device according to any one of claims 1 to 3, wherein said determining means determines said display brightness information based on said allowable delay time corresponding to said determined state.
請求項1乃至4のいずれか一項に記載の表示装置であって、更に、
光を発散する光学素子と、
光源から射出された光によって、前記光学素子を二次元走査する走査部と、を備え、
前記光学素子から発散された発散光によって結像される虚像を表示させる、表示装置。
The display device according to any one of claims 1 to 4, further comprising:
an optical element that diverges light;
a scanning unit that two-dimensionally scans the optical element with light emitted from a light source;
A display device for displaying a virtual image formed by divergent light diverged from the optical element.
請求項5に記載の表示装置と、
前記周辺領域の輝度を検出する検出装置と、
前記光学素子から発散された発散光を反射させる反射部材と、
前記光学素子から発散された発散光を前記反射部材に向けて投射して虚像を結像させる結像光学系と、
を備える表示システム。
a display device according to claim 5;
a detection device for detecting the brightness of the peripheral area;
a reflecting member that reflects divergent light diverged from the optical element;
an imaging optical system that projects divergent light diverged from the optical element toward the reflecting member to form a virtual image;
display system.
請求項6に記載の表示システムを備え、
前記反射部材は、フロントガラスである移動体。
A display system according to claim 6,
The moving body, wherein the reflecting member is a windshield.
移動体の前方に観察者が視認する表示情報を表示させる表示装置が実行する表示輝度制御方法であって、
前記表示情報の背景となる表示領域の少なくとも一部を含む周辺領域の輝度を示す輝度情報を、特定の周期で取得する取得ステップと、
前記取得された輝度情報に基づいて、前記周辺領域の輝度変化が所定値以上であることを検出する検出ステップと、
前記取得された輝度情報に基づいて、表示輝度を示す表示輝度情報を決定する決定ステップと、
前記決定された表示輝度情報を用いて、前記表示情報を表示させる表示ステップと、を実行し、
前記決定ステップは、
前記所定値以上の輝度変化が検出された場合、前記所定値以上の輝度変化が検出されない場合に比べて前記表示輝度の変化が遅延するように、かつ前記表示情報の表示輝度を前記周辺領域の輝度に対応させるまでの遅延時間が、観察者に違和感を与えない許容範囲として設定された遅延許容時間以内または当該遅延許容時間より短くなるように、前記表示輝度情報を決定する表示輝度制御方法。
A display brightness control method executed by a display device for displaying display information visually recognized by an observer in front of a moving object,
an acquiring step of acquiring luminance information indicating luminance of a peripheral area including at least part of a display area serving as a background of the display information at a specific cycle;
a detection step of detecting that a luminance change in the peripheral area is equal to or greater than a predetermined value based on the obtained luminance information;
a determination step of determining display luminance information indicating display luminance based on the acquired luminance information;
a display step of displaying the display information using the determined display luminance information;
The determining step includes:
When a luminance change of the predetermined value or more is detected, the display luminance of the display information is adjusted so that the change in the display luminance is delayed compared to when the luminance change of the predetermined value or more is not detected, and the display luminance of the display information is adjusted to the peripheral area. A display brightness control method for determining the display brightness information so that the delay time until it corresponds to the brightness is within or shorter than the allowable delay time set as an allowable range that does not give discomfort to an observer.
コンピュータに、請求項8に記載の表示輝度制御方法を実行させるプログラム。 A program that causes a computer to execute the display brightness control method according to claim 8 .
JP2018069035A 2018-03-27 2018-03-30 DISPLAY DEVICE, DISPLAY SYSTEM, MOBILE, DISPLAY BRIGHTNESS CONTROL METHOD AND PROGRAM Active JP7114993B2 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018069035A JP7114993B2 (en) 2018-03-30 2018-03-30 DISPLAY DEVICE, DISPLAY SYSTEM, MOBILE, DISPLAY BRIGHTNESS CONTROL METHOD AND PROGRAM
US16/364,561 US10923076B2 (en) 2018-03-27 2019-03-26 Display device, display system, mobile object, display-brightness control method, and recording medium storing program code
EP19165264.3A EP3547299A3 (en) 2018-03-27 2019-03-26 Display device, display system, mobile object, display-brightness control method, and carrier means storing program code

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018069035A JP7114993B2 (en) 2018-03-30 2018-03-30 DISPLAY DEVICE, DISPLAY SYSTEM, MOBILE, DISPLAY BRIGHTNESS CONTROL METHOD AND PROGRAM

Publications (2)

Publication Number Publication Date
JP2019179172A JP2019179172A (en) 2019-10-17
JP7114993B2 true JP7114993B2 (en) 2022-08-09

Family

ID=68278419

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018069035A Active JP7114993B2 (en) 2018-03-27 2018-03-30 DISPLAY DEVICE, DISPLAY SYSTEM, MOBILE, DISPLAY BRIGHTNESS CONTROL METHOD AND PROGRAM

Country Status (1)

Country Link
JP (1) JP7114993B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2022024232A1 (en) * 2020-07-28 2022-02-03
JP7472007B2 (en) * 2020-12-14 2024-04-22 株式会社小糸製作所 Image projection system and image projection method

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004226870A (en) 2003-01-27 2004-08-12 Mitsubishi Electric Corp Display device
JP2009086133A (en) 2007-09-28 2009-04-23 Sharp Corp Video display apparatus
JP2011076061A (en) 2009-09-07 2011-04-14 Canon Inc Image processing apparatus and method for controlling the same
JP2017142491A (en) 2016-02-10 2017-08-17 株式会社リコー Image display device and image display method

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2884658B2 (en) * 1990-01-31 1999-04-19 株式会社島津製作所 Head-up display

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004226870A (en) 2003-01-27 2004-08-12 Mitsubishi Electric Corp Display device
JP2009086133A (en) 2007-09-28 2009-04-23 Sharp Corp Video display apparatus
JP2011076061A (en) 2009-09-07 2011-04-14 Canon Inc Image processing apparatus and method for controlling the same
JP2017142491A (en) 2016-02-10 2017-08-17 株式会社リコー Image display device and image display method

Also Published As

Publication number Publication date
JP2019179172A (en) 2019-10-17

Similar Documents

Publication Publication Date Title
JP7276383B2 (en) HUD device, vehicle device, information display method.
US10546561B2 (en) Display device, mobile device, display method, and recording medium
JP6703747B2 (en) Information display device, information providing system, mobile device, information display method and program
US10488655B2 (en) Display device
JP6834537B2 (en) Display device, mobile device, manufacturing method and display method of display device.
US10923076B2 (en) Display device, display system, mobile object, display-brightness control method, and recording medium storing program code
KR20180103947A (en) Information display device
JP6972549B2 (en) HUD device, vehicle device and display method
WO2017056953A1 (en) Display device
US20210131818A1 (en) Head-up display, vehicle device, and information display method
JP6922217B2 (en) Display device, object device and display method
JP7114993B2 (en) DISPLAY DEVICE, DISPLAY SYSTEM, MOBILE, DISPLAY BRIGHTNESS CONTROL METHOD AND PROGRAM
JPWO2017159443A1 (en) Screen member and image display device
JP2019174519A (en) Display unit, display system, moving body, display intensity control method, and program
WO2020189636A1 (en) Information providing system, moving body, information providing method, and information providing program
JP2020122858A (en) Optical scanner, display system and moving body
JP2020060619A (en) Display system, movable body, and transmitting member
JP7205418B2 (en) virtual image display
JP6991905B2 (en) Head-up display device
JP7115046B2 (en) Light source device, display device, display system, moving body, and light amount control method
EP3745184A1 (en) Optical scanner, display system, and mobile object
JP2021086106A (en) Display unit, display system, movable body, and light quantity control method
JP2021012350A (en) Display unit, display method, head-up display, and vehicle

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210118

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220323

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220628

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220711

R151 Written notification of patent or utility model registration

Ref document number: 7114993

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151