WO2021131529A1 - ヘッドアップディスプレイ装置 - Google Patents

ヘッドアップディスプレイ装置 Download PDF

Info

Publication number
WO2021131529A1
WO2021131529A1 PCT/JP2020/044653 JP2020044653W WO2021131529A1 WO 2021131529 A1 WO2021131529 A1 WO 2021131529A1 JP 2020044653 W JP2020044653 W JP 2020044653W WO 2021131529 A1 WO2021131529 A1 WO 2021131529A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
frequency component
vehicle
unit
display device
Prior art date
Application number
PCT/JP2020/044653
Other languages
English (en)
French (fr)
Inventor
宏明 ▲高▼橋
平田 浩二
谷津 雅彦
Original Assignee
マクセル株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by マクセル株式会社 filed Critical マクセル株式会社
Publication of WO2021131529A1 publication Critical patent/WO2021131529A1/ja

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/38Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory with means for controlling the display position

Definitions

  • the present invention relates to a display technique for a head-up display.
  • the present invention relates to a display technology for a head-up display using AR (Augmented Reality).
  • HUD head-up display
  • Patent Document 1 states that "a display unit, a vehicle rotation component acquisition unit that acquires a rotation component generated in a vehicle body as the inclination of the vehicle body, and a three-dimensional rotation correction of an image based on the acquired inclination of the vehicle body.
  • a virtual display position determination unit that determines the position and tilt for displaying the rotation-corrected image and an image whose position and tilt have been determined are displayed on the display unit so that the surface is spatially fixed in the display unit.
  • a display device including a projection display unit for projecting and displaying (summary excerpt) is disclosed.
  • Patent Document 1 it is possible to eliminate a large shaking of the vehicle, that is, a deviation of the display position due to the inclination of the vehicle body.
  • a large shaking of the vehicle that is, a deviation of the display position due to the inclination of the vehicle body.
  • AR that superimposes a virtual image on the actual landscape and displays it
  • the amount of change in the display position is small, the frequency of change is high, and this misalignment causes blurring like camera shake in camera shooting. This increases the driver's discomfort and significantly reduces visibility.
  • the technique disclosed in Patent Document 1 cannot eliminate this discomfort and cannot improve the visibility.
  • the present invention has been made in view of the above circumstances, and provides a technique for reducing the discomfort of virtual image display in the HUD regardless of the cause.
  • the present invention is a head-up display device that projects an image onto a windshield of a vehicle, and includes a vehicle information acquisition unit that acquires vehicle information of the vehicle and an image generation unit that generates an image based on the vehicle information.
  • An image memory that holds the generated image
  • an image display device that forms an image to be displayed on the windshield from the image held in the image memory
  • a video display device that reflects the image formed by the image display device.
  • the display position adjusting unit includes a mirror driving unit that changes the angle of the mirror based on the instruction of the display position adjusting unit, and a memory control unit that performs image processing based on the instruction of the display position adjusting unit.
  • a low-frequency component adjusting unit that outputs a drive instruction for driving the mirror to the mirror driving unit so as to cancel a low-frequency component having a frequency lower than a predetermined vibration threshold value of the vibration amount signal, and the vibration threshold value. It is characterized by including a high-frequency component adjusting unit that outputs an image processing instruction, which is an instruction for performing the image processing, to the memory control unit so as to cancel the high-frequency component having the above frequency.
  • the discomfort of the virtual image display is reduced regardless of the cause. Issues, configurations and effects other than those described above will be clarified by the description of the following embodiments.
  • FIG. 1 It is explanatory drawing for demonstrating the outline of the HUD of the Embodiment of this invention.
  • (A)-(c) are hardware block diagram of HUD of embodiment of this invention. It is explanatory drawing for demonstrating the connection example of the HUD and various sensors of the Embodiment of this invention. It is a functional block diagram of the HUD of the embodiment of this invention.
  • (A) and (b) are explanatory views for demonstrating the outline of the display position adjusting part of embodiment of this invention. It is a figure which shows the output signal from the acceleration sensor of embodiment of this invention, the low-frequency component thereof, and the high-frequency component, respectively.
  • (A) to (c) are explanatory views for demonstrating the low-frequency component adjustment process by the low-frequency component adjustment unit of the embodiment of the present invention.
  • (A) and (b) are explanatory views for explaining the cause of the occurrence of the high frequency component of the shaking of a vehicle.
  • (A) to (c) are explanatory views for explaining the high frequency component adjustment process by the high frequency component adjustment part of the embodiment of this invention.
  • (A) is an explanatory diagram for explaining the position on the display element of the embodiment of the present invention, and (b) is an explanatory diagram for explaining the address of the image memory of the embodiment of the present invention.
  • It is a flowchart of the virtual image display processing of embodiment of this invention.
  • FIG. 1 is a diagram for explaining an outline of the HUD 100 of the present embodiment.
  • the shape of the vehicle 300 is represented as a passenger car, but the vehicle is not limited to this.
  • This embodiment can be applied to vehicles in general.
  • the HUD 100 forms an image useful to the driver 910 with the image display device 130, reflects it with the fixed mirror 143 and the angle adjustable mirror 141 (hereinafter, simply referred to as the mirror 141), and reflects the image.
  • the driver 910 recognizes the image as a virtual image 630 outside the vehicle.
  • the image displayed as the virtual image 630 includes, for example, the current vehicle speed, an arrow indicating the traveling direction of the own vehicle at an intersection in front of the vehicle, and the like.
  • the display position of the virtual image 630 is adjusted by rotating the angle of the mirror 141 by the mirror drive unit 142 provided on the mirror 141.
  • the HUD 100 that realizes the so-called AR function displays a virtual image (image) 630 in the actual scenery (actual view) outside the vehicle that can be seen through the windshield 330. It is displayed so as to be superimposed, and information on an object such as another vehicle or a pedestrian in the vicinity of the vehicle 300 is shown to the driver.
  • AR-HUD the HUD 100 that realizes the so-called AR function displays a virtual image (image) 630 in the actual scenery (actual view) outside the vehicle that can be seen through the windshield 330. It is displayed so as to be superimposed, and information on an object such as another vehicle or a pedestrian in the vicinity of the vehicle 300 is shown to the driver.
  • a virtual image 630 an arrow is displayed superimposed on the actual view of a road or an intersection outside the vehicle, or a mark for emphasizing an object such as another vehicle or a pedestrian around the own vehicle 300. Or display. Due to the characteristic that the virtual image 630 is superimposed and displayed on this actual scene, in the AR-HUD100, when the vehicle 300 is tilted and its posture changes or the vehicle body vibrates, the display position of the virtual image 630 changes. , The decrease in visibility is remarkable. For example, when the oval virtual image 630, which should be displayed so as to surround a pedestrian in the vicinity of the own vehicle, is displayed with a large deviation from the pedestrian, the driver 910 displays the pedestrian in order to reliably recognize the pedestrian. The effect of the virtual image 630 to be created is lost.
  • the deviation (displacement) of the display position is more conspicuous than the conventional in-vehicle display device and the HUD, and the driver 910 is likely to feel uncomfortable by that amount.
  • the deviation of the display position due to the vibration of the vehicle 300 has a high frequency of the position change although the amount of change in the position of the image (virtual image 630) is small, and the display position is as if the camera shakes in the camera shooting. Blurring occurs, and the visibility of the virtual image 630 is significantly reduced.
  • the deviation of the display position due to the inclination of the vehicle has a large amount of change in the position change, but the frequency is low.
  • the displacement of the display position caused by such different events is adjusted by separate adjusting means, and the deviation of the display position of the AR-HUD 100 due to the tilt or vibration of the vehicle is reduced.
  • the displacement of the display position is divided into a large shake with a low cycle and a small shake with a high cycle, and the display position is adjusted respectively.
  • Large low-period shaking is caused, for example, by a vehicle traveling on a sloped road such as a slope, or by a driver operating a brake or an accelerator.
  • small blurring with a high cycle is caused by the surface of a running road (for example, an unpaved state such as a gravel road).
  • the displacement of the display position due to the inclination of the vehicle (hereinafter referred to as the position shift or the low frequency component) and the displacement of the display position due to the vibration (hereinafter referred to as the position blur or the high frequency component).
  • the displacement is corrected by mechanical adjustment
  • the displacement is corrected by electronic adjustment (image processing).
  • tilt and vibration directions are in the vertical direction.
  • the tilt and vibration directions are not limited to the vertical direction.
  • the content displayed as the virtual image 630 is not particularly limited.
  • vehicle information and navigation information such as vehicle speed, images of front and side scenery taken by cameras installed inside or outside the vehicle (surveillance cameras, around viewers, etc.), and these cameras.
  • Obstacles around the vehicle for example, a vehicle traveling in front of the vehicle, a figure or a mark indicating a pedestrian existing in the vicinity of the own vehicle, or the like, which is extracted by a method such as image processing, can be appropriately displayed.
  • the AR-HUD 100 of the present embodiment includes a control unit 120, a speaker 125, a sensor interface (I / F) 126, an image display device 130, a mirror 141, and a mirror drive unit. It includes 142, an image memory 151, and a memory control unit 152.
  • the mirror 141, the mirror driving unit 142, and the fixed mirror 143 constitute a virtual image optical system 140.
  • the control unit 120 controls the operation of the AR-HUD100. As shown in FIG. 2B, an ECU (Electronic Control Unit) 121, a RAM 122, a ROM 123, a storage device 124, and a system bus 127 are provided.
  • ECU Electronic Control Unit
  • the ECU 121 controls the entire AR-HUD 100 according to a predetermined operation program.
  • vehicle information is acquired, and the acquired information is stored or read in RAM 122, ROM 123, a storage device 124, or the like as needed.
  • Components such as CPU, MPU, and dedicated logic circuit are not limited.
  • the system bus 127 is a data communication path that interconnects the ECU 121 and each component in AR-HUD100.
  • the ECU 121 and each component in the AR-HUD100 transmit and receive various commands and data via the system bus 127.
  • the RAM 122 constitutes a rewritable program work area such as a work area used by the ECU 121 when executing various programs.
  • the ROM 123 and the storage device 124 store various programs for realizing the functions of the AR-HUD 100, and various display data such as operation setting values, sensor information including detection values from sensors described later, extended objects, and display contents. To do. Setting information such as setting values and parameters for various controls may be stored.
  • the ROM 123 and the storage device 124 are so-called non-volatile storages that hold the stored information even when the AR-HUD 100 is not supplied with power from the outside.
  • the ROM 123 and the storage device 124 are examples of storage, and other devices such as a semiconductor element memory such as an SSD (Solid State Drive) and a device such as a magnetic disk drive such as an HDD (Hard Disk Drive) are used. May be good.
  • the control unit 120 may be implemented by hardware such as a microcomputer or an FPGA (Field Programmable Gate Array).
  • the image display device 130 includes, for example, each part such as a light source 131, an illumination optical system 132, and a display element 133.
  • the image display device 130 is arranged in the housing or at a position that can be attached to and detached from the housing.
  • the image displayed on the image display device 130 is projected onto the windshield 330 of the vehicle 300 via the virtual image optical system 140 in accordance with the instruction from the control unit 120.
  • the image display device 130 may be composed of, for example, an LCD (Liquid Crystal Display) or the like having a backlight, or may be a self-luminous VFD (Vacuum Fluorescent Display) or the like, and an image may be displayed on the screen by a projection device. It may be a display (projector). Such a screen may be configured by, for example, a microlens array in which microlenses are arranged two-dimensionally.
  • the light source 131 is a member that generates illumination light for projection and constitutes a backlight.
  • a high-pressure mercury lamp, a xenon lamp, an LED light source, a laser light source, or the like can be used. It is desirable to use a solid light source with a long product life. For example, for an LED light source whose light output does not change much with respect to changes in ambient temperature, it is possible to perform polarization conversion using a PBS (Polarizing Beam Splitter) provided with an optical means for reducing the light divergence angle. desirable.
  • the light source 131 is arranged or controlled so that the direction of light incident on the display element 133, which will be described later, is efficiently incident on the entrance pupil of the mirror 141.
  • the illumination optical system 132 is an optical system that collects the illumination light generated by the light source 131, makes it more uniform, and irradiates the display element 133.
  • the illumination optical system 132 includes, for example, a light guide and a diffuser.
  • the display element 133 is an element that generates a projected image, and for example, a transmissive liquid crystal panel, a reflective liquid crystal panel, a DMD (Digital Micromirror Device) (registered trademark) panel, or the like can be used. It is desirable to arrange polarizing plates on the light incident surface (that is, the light source 131 and the illumination optical system 132 side) and the light emitting surface (mirror 141 side) of the display element 133 to increase the contrast ratio of the image light. A high contrast ratio can be obtained by using an iodine-based polarizing plate having a high degree of polarization as the polarizing plate provided on the light incident surface. On the other hand, by using a dye-based polarizing plate provided on the light emitting surface, high reliability can be obtained even when external light is incident or the environmental temperature is high.
  • a ⁇ / 4 plate is placed further in front of the polarizing plate placed on the light emitting surface of the LCD panel (that is, on the mirror 141 side) to convert the image light aligned in a specific polarization direction into circularly polarized light. It is desirable to do.
  • the virtual image optical system 140 includes a fixed mirror 143, a mirror 141, and a mirror driving unit 142.
  • the image formed by the image display device 130 is reflected by the mirror 141 via the fixed mirror 143 and projected onto the windshield 330.
  • the driver 910 visually recognizes the above image as a virtual image in front of the transparent windshield 330.
  • the image projection position on the windshield 330 is adjusted, and the display position of the virtual image seen by the driver 910 is adjusted in the vertical direction.
  • the mirror 141 is provided with a horizontal rotation axis as the mirror drive unit 142.
  • the image projection position is adjusted by rotating the mirror 141 around this rotation axis and adjusting the angle of the mirror 141.
  • the display position of the virtual image 630 is controlled so as to be superimposed on the actual scenery (roads, buildings, people, etc.) outside the moving vehicle. Furthermore, the AR function with excellent visibility is realized by suppressing the blurring of the virtual image due to the vibration of the moving vehicle.
  • the mirror 141 is composed of, for example, a free-form curved mirror, a mirror having an optical axis asymmetric shape, or the like. More specifically, the shape of the mirror 141 is, for example, the top of the mirror 141 in order to reduce the distortion of the virtual image 630 projected onto the windshield 330 purely optically, i.e. without the use of image processing. In the region of, the radius of curvature is relatively small so that the magnification is large. On the other hand, in the region below the mirror 141, the radius of curvature is relatively increased so that the magnification is small.
  • the distance from the viewpoint of the driver 910 (corresponding to the "observer" of the virtual image) is relatively short, and in the lower region. This is because the reflected light rays are reflected above the windshield 330, so that the distance from the viewpoint of the driver 910 is relatively long.
  • the mirror drive unit 142 adjusts the angle of the mirror 141 according to the instruction from the control unit 120.
  • the angle of the mirror 141 is controlled by a motor (not shown), and the deviation of the display position of the virtual image 631 due to the shaking of the vehicle 300 is adjusted in the vertical direction.
  • This is realized by, for example, a mechanism using a stepping motor or the like. That is, each time the mirror drive unit 142 receives a signal (mirror drive signal) instructing drive, the mirror drive unit 142 rotates and drives the mirror 141 by a predetermined angle to rotate the mirror 141.
  • the image light emitted from the AR-HUD 100 is reflected by the windshield 330 and is incident on the eyes of the driver 910.
  • the driver 910 visually recognizes the above image as a virtual image 630 in front of the transparent windshield 330 by the image light incident on the eyes.
  • the position at which the image light is projected onto the windshield 330 can be adjusted by adjusting the angle of the mirror 141 by the mirror driving unit 142.
  • the display position of the virtual image seen by the driver 910 can be adjusted in the vertical direction.
  • the video light includes contents (display contents) to be displayed as a virtual image 630.
  • the image memory 151 is a buffer memory that temporarily stores an image to be displayed as a virtual image.
  • the memory control unit 152 performs image processing such as controlling writing and reading to the image memory 151 (hereinafter, both may be collectively referred to as access). In the present embodiment, as will be described later, the change in the display position due to the vibration of the vehicle 300 is canceled by changing the writing position in the image memory 151 in synchronization with the vibration. The memory control unit 152 changes the writing position according to the instruction from the control unit 120, and realizes this.
  • the memory control unit 152 may be provided outside the control unit 120, and the memory control unit 152 may be provided inside the control unit 120.
  • the speaker 125 outputs sound according to the instruction of the control unit 120. For example, it is possible to perform voice guidance of the navigation system, voice output when notifying the driver 910 of a warning or the like by the AR function, or the like.
  • the sensor interface 126 is an interface that acquires signals of various vehicle information acquisition devices (sensors) attached to the vehicle 300 as vehicle information 410.
  • vehicle information acquisition devices sensors
  • Examples of connection between various sensors and the sensor interface 126 of the AR-HUD100 of the present embodiment will be described with reference to FIG.
  • the vehicle 300 includes, for example, a vehicle speed sensor 101, a shift position sensor 102, a handle steering angle sensor 103, a headlight sensor 104, an illuminance sensor 105, a chromaticity sensor 106, a distance measuring sensor 107, and an infrared sensor 108.
  • Engine start sensor 109 acceleration sensor 110, gyro (attitude) sensor 111, temperature sensor 112, road-to-vehicle communication wireless receiver 113, vehicle-to-vehicle communication wireless receiver 114, camera (in-vehicle camera) 115, camera (outside camera) It includes 116, a GPS (Global Positioning System) receiver 117, and a VICS (Vehicle Information and Communication System: road traffic information communication system, registered trademark (same below)) receiver 118 and the like.
  • GPS Global Positioning System
  • VICS Vehicle Information and Communication System: road traffic information communication system, registered trademark (same below) receiver 118 and the like.
  • the vehicle information 410 that can be acquired by the provided sensor can be appropriately used.
  • the AR-HUD 100 uses wireless communication or wired communication such as an in-vehicle network CAN (Control Area Network) or Ethernet (registered trademark) to send signals from each of these vehicle information acquisition devices to the sensor interface 126. Get through.
  • wireless communication or wired communication such as an in-vehicle network CAN (Control Area Network) or Ethernet (registered trademark) to send signals from each of these vehicle information acquisition devices to the sensor interface 126. Get through.
  • the acceleration sensor 110 and the gyro (posture) sensor 111 acquire acceleration posture information including acceleration and angular velocity as information on the posture and behavior of the vehicle 300.
  • the acceleration sensor 110 and the gyro (posture) sensor 111 detect information on the shaking and vibration of the moving vehicle 300.
  • the vehicle speed sensor 101 acquires speed information of the vehicle 300.
  • the shift position sensor 102 acquires the current gear information of the vehicle 300.
  • the steering wheel steering angle sensor 103 acquires steering wheel steering angle information.
  • the headlight sensor 104 acquires lamp lighting information related to ON / OFF of the headlight.
  • the illuminance sensor 105 and the chromaticity sensor 106 acquire external light information.
  • the distance measuring sensor 107 acquires distance information between the vehicle 300 and an external object.
  • the infrared sensor 108 acquires infrared information related to the presence / absence of an object, the distance, and the like at a short distance of the vehicle 300.
  • the engine start sensor 109 detects engine ON / OFF information.
  • the temperature sensor 112 acquires temperature information inside and outside the vehicle.
  • the radio receiver 113 for road-to-vehicle communication and the radio receiver 114 for vehicle-to-vehicle communication are the road-to-vehicle communication information received by the road-to-vehicle communication between the vehicle 300 and the road, signs, signals, etc., and the vehicle 300 and its surroundings, respectively. Acquires vehicle-to-vehicle communication information received by vehicle-to-vehicle communication with other vehicles.
  • the camera (inside the vehicle) 115 and the camera (outside the vehicle) 116 take moving images of the situation inside and outside the vehicle, respectively, and acquire camera image information (inside / outside the vehicle).
  • the camera (inside the vehicle) 115 captures, for example, the posture of the driver 910, the position of the eyes, the movement, and the like. By analyzing the obtained moving image, for example, the fatigue status of the driver 910 and the position of the line of sight can be grasped.
  • the camera is installed at a position where the driver 910 can detect the viewpoint, such as on the steering wheel, dashboard, or windshield 330.
  • the camera (outside the vehicle) 116 captures the surrounding conditions such as the front and the rear of the vehicle 300.
  • the presence or absence of moving objects such as other vehicles and people in the vicinity, buildings and terrain, road surface conditions (rain, snow, freezing, unevenness, etc.) can be grasped.
  • the GPS receiver 117 and the VICS receiver 118 acquire the GPS information obtained by receiving the GPS signal and the VICS information obtained by receiving the VICS signal, respectively. It may be implemented as a part of a car navigation system that acquires and uses this information.
  • the vehicle information 410 acquired via the vehicle information acquisition device is used to adjust the display position shift of the virtual image 630 due to the tilt and vibration of the vehicle 300.
  • the AR-HUD 100 of the present embodiment includes a main control unit 210, a vehicle information acquisition unit 211, an audio output unit 212, a light source adjustment unit 213, and an image generation unit. It includes 214, a display position adjusting unit 220, and a display control unit 230. Further, the display position adjusting unit 220 includes a vibration detecting unit 221, a separating unit 222, a low frequency component adjusting unit 223, and a high frequency component adjusting unit 224. Further, the display control unit 230 includes a distortion correction unit 231, a display element drive unit 232, and a display distance adjustment unit 233.
  • Each of these functions is realized by the ECU 121 loading the program stored in the ROM 123 or the storage device 124 in advance in the control unit 120 into the RAM 122 and executing the program.
  • the main control unit 210 controls the operation of the entire AR-HUD100.
  • the vehicle information acquisition unit 211 acquires a sensor signal as vehicle information 410 from each vehicle information acquisition device via the sensor interface 126 in accordance with the instruction of the main control unit 210.
  • vehicle information 410 is acquired and output by detecting various events and detecting / acquiring the values of various parameters related to the traveling situation at predetermined intervals.
  • the vehicle information 410 includes, for example, speed information and gear information of the vehicle 300, steering angle information, lamp lighting information, outside light information, distance information, infrared information, engine ON / OFF information, camera image information (inside / outside the vehicle). , Acceleration attitude information, GPS information, navigation information, vehicle-to-vehicle communication information, road-to-vehicle communication information, and the like.
  • the audio output unit 212 outputs audio information via the speaker 125 as needed.
  • the light source adjusting unit 213 adjusts the amount of light emitted from the light source 131 of the image display device 130.
  • the light source adjusting unit 213 adjusts the amount of light emitted from the light source 131 of the image display device 130.
  • they may be individually controlled. Details will be described in the processing flow described later.
  • the image generation unit 214 generates video data (image) to be displayed as a virtual image 630 on the AR-HUD 100 by executing a dedicated program or the like.
  • the image generation unit 214 generates an image to be displayed as a virtual image 630 based on the latest vehicle information 410.
  • the generated image is, for example, a numerical value indicating speed, a guide arrow figure based on navigation information, or the like.
  • the image generation unit 214 generates an image including the display size, position, and the like.
  • the display position adjusting unit 220 adjusts the display position of the image generated by the image generating unit 214 according to the vibration amount signal which is a signal indicating the vibration amount of the vehicle in the vehicle information 410.
  • the vibration amount signal which is a signal indicating the vibration amount of the vehicle in the vehicle information 410.
  • the sensor signal output from the acceleration sensor 110 or the gyro sensor 111 is used as the vibration amount signal.
  • the display position adjusting unit 220 of the present embodiment includes a vibration detecting unit 221, a separating unit 222, a low frequency component adjusting unit 223, and a high frequency component adjusting unit 224.
  • the vibration detection unit 221 detects the sensor signal output from the acceleration sensor 110 or the gyro sensor 111 and acquired by the vehicle information acquisition unit 211 as vibration information (vibration amount signal) of the vehicle 300.
  • the vibration information includes the amplitude and the direction of vibration (amplitude in the vertical direction and the horizontal direction) related to the vibration of the vehicle 300, which changes from moment to moment according to the traveling state of the vehicle 300.
  • a case where vibration in the vertical direction is detected will be described as an example.
  • the output (sensor signal) of the acceleration sensor 110 is used will be described below as an example.
  • the separation unit 222 separates the vibration amount signal into a low frequency component having a frequency lower than a predetermined vibration threshold value and a high frequency component having a frequency equal to or higher than the vibration threshold value. In addition, the separation unit 222 removes the second high-frequency component equal to or higher than the predetermined second vibration threshold value from the high-frequency components.
  • Separation is performed using, for example, a low-pass filter (LPF) 225 and a band-pass filter (BPF) 226, as shown in FIG. 5 (a). That is, the separation unit 222 uses the LPF225 to extract the low frequency component of the vibration amount signal.
  • the cutoff frequency of LPF225 is, for example, 0.5 Hz.
  • BPF226 is used for the separation unit 222. Extract the high frequency component of the frequency signal.
  • the cutoff frequencies of BPF226 are 0.5 Hz and 10 Hz.
  • LPF225 and BPF226 of the separation unit 222 are realized by software has been described as an example, but the present invention is not limited to this.
  • a hardware LPF circuit 225a and a BPF circuit 226a may be prepared and separated by these.
  • the function of the separation unit 222 may be realized as a part of the configuration of the sensor interface 126.
  • the vibration detection unit 221 may be omitted.
  • FIG. 6 shows an example of the sensor output which is the output signal from the acceleration sensor 110, the LPF output which is the output signal of the LPF225, and the BPF output which is the output signal of the BPF226.
  • the vertical axis represents the signal value and the horizontal axis represents the time (seconds).
  • the output signal of LPF225 is a signal having a low frequency (0.5 Hz or less).
  • the output signal of BPF226 is a signal having a relatively high frequency (0.5 Hz or more and less than 10 Hz).
  • the low frequency signal component is output to the low frequency component adjusting unit 223, while the high frequency signal component is output to the high frequency component adjusting unit 224.
  • the low frequency component adjusting unit 223 performs a low frequency component adjusting process for adjusting the display position based on the low frequency component separated by the separating unit 222.
  • the low frequency component adjustment process is a mirror adjustment process that outputs a drive signal (mirror drive signal) to the mirror drive unit 142 so as to drive the mirror 141 so as to cancel the low frequency component of the vibration.
  • the low-frequency component of vibration is displacement caused by changes in the slope of the road, steps, and the like.
  • the low frequency component adjusting unit 223 does not output the mirror drive signal when the detected acceleration value is equal to or higher than the predetermined threshold value (low frequency threshold value).
  • the low frequency component adjusting unit 223 detects the output value (acceleration) of the LPF225 at a predetermined sampling interval, and if the absolute value is equal to or higher than the low frequency threshold value, the adjustment process is not performed.
  • the low frequency threshold is, for example, 1G (9.8 m / s 2 ) or the like. Details will be described later.
  • the high frequency component adjusting unit 224 performs high frequency component adjusting processing such as adjusting the writing position to the image memory 151 based on the high frequency component separated by the separating unit 222.
  • the high frequency component adjustment process is a process of outputting an image processing instruction for causing the memory control unit 152 to perform image processing so as to cancel the high frequency component of the vibration. More specifically, it is an image memory access control process that outputs an access position adjustment signal to the memory control unit 152 so as to change the writing position to the image memory 151 so as to cancel the high frequency component of the vibration.
  • the high-circumferential component of vibration is vibration caused by the road surface condition of the traveling road. For example, it occurs while driving on an unpaved road such as a gravel road.
  • the high frequency component adjusting unit 224 also does not output an image processing instruction, that is, an access position adjusting signal when the detected acceleration value is equal to or higher than a predetermined threshold value (high frequency threshold value).
  • a predetermined threshold value high frequency threshold value
  • the high frequency component adjusting unit 224 detects the output value (acceleration) of the BPF 226 at a predetermined sampling interval, and if the absolute value is equal to or higher than the high frequency threshold value, the adjustment process is not performed.
  • the high frequency threshold is, for example, 0.5 G or the like. Details will be described later.
  • the display position adjustment process is not performed when the vibration is large even if the vibration is small periodically, so that the stability of the virtual image display can be ensured.
  • the display control unit 230 performs display control processing for generating an image generated by the image generation unit 214 as an image to be displayed by the image display device 130.
  • the display control unit 230 includes a distortion correction unit 231, a display element drive unit 232, and a display distance adjustment unit 233.
  • the distortion correction unit 231 corrects the distortion of the image caused by the curvature of the windshield 330 by image processing.
  • the display element drive unit 232 sends a drive signal corresponding to the image (video data) corrected by the distortion correction unit 231 to the display element 133 to generate a projected image.
  • the display distance adjustment unit 233 drives the display distance adjustment mechanism (not shown) to adjust the display distance of the image projected from the image display device 130.
  • a mirror adjusting unit (not shown) may be provided as a processing unit for adjusting the position of the display area of the mirror 141. This means that when it is necessary to adjust the position of the virtual image display area separately from the tilt and vibration of the vehicle 300, the angle of the mirror 141 is changed via the mirror drive unit 142 to move the virtual image display area up and down. It is a processing unit to be moved.
  • the low frequency component adjustment process is a process of controlling the display position of the virtual image on the windshield 330 up and down by adjusting the angle of the mirror 141.
  • FIGS. 7A to 7C the upper part schematically shows the state of the slope of the road on which the vehicle 300 is traveling and the state of the field of view of the driver 910 as viewed from the side.
  • the actual view of the front outside the vehicle seen by the driver 910 in each driving state and the display area of the virtual image 630 displayed superimposed on the actual view (rectangle of the broken line frame; the virtual image display area 610 are referred to. ) Is schematically shown.
  • a virtual image 630 (for example, an exclamation mark mark or an image) is superimposed and displayed on the actual view 620 of the vehicle in front traveling on the road by the AR function.
  • FIG. 7A is an example in which the vehicle 300 is traveling on a flat road, as shown in the upper part. That is, the slope of the road at the present location and the slope of the road ahead are substantially the same. In this case, as shown in the lower row, in order to superimpose the virtual image 630 on the actual view 620 of the vehicle in front and display it, the vertical position of the virtual image display area 610 does not need to be changed.
  • the position of the virtual image display area 610 shown in FIG. 7A is the basic display position 611 in the vertical direction.
  • FIG. 7B is an example in the case where the road in front of the vehicle 300 has a downward slope, as shown in the upper part. That is, when the gradient of the current value is larger than the gradient of the front value.
  • the height of the field of view of the driver 910 based on the gradient at the position of the vehicle 300 (solid line frame in the figure) is higher than the height of the road ahead. It is necessary to move the field of view downward (dotted line frame in the figure) in order to see the road surface of the road ahead.
  • the virtual image display area 610 if the display position of the virtual image display area 610 remains the basic display position (rectangle of the dotted line frame) 611, the virtual image 630 cannot be superimposed on the actual view 620 in front of the vehicle by the AR function. In order to superimpose and display, it is necessary to move the display position of the virtual image display area 610 downward from the basic display position 611.
  • FIG. 7C is an example in which the road in front of the vehicle 300 has an uphill slope. That is, the gradient of the current value is smaller than the gradient of the front value. Also in this case, as shown in the upper figure, the height of the field of view of the driver 910 based on the gradient at the position of the vehicle 300 (solid line frame in the figure) is lower than the height of the road ahead. It is necessary to move the field of view upward (dotted line frame in the figure) in order to see the road surface of the road ahead.
  • the virtual image 630 can be superimposed on the actual view 620 in front of the vehicle by the AR function. Can not. In order to superimpose and display, it is necessary to move the display position of the virtual image display area 610 upward from the basic display position 611.
  • the acceleration sensor 110 detects the change in the inclination of the vehicle body due to the change in the slope of the road, braking, or acceleration, and adjusts according to the amount of change.
  • the adjustment controls the tilt of the mirror 141 and adjusts the vertical display position of the virtual image 630 as shown in FIGS. 7 (b) and 7 (c).
  • FIGS. 8A and 8B are diagrams for explaining the cause of the high frequency component adjustment process, which is the display position adjustment process by the high frequency component adjusting unit 224 of the present embodiment. That is, FIGS. 8A and 8B are schematic views illustrating the blurring of the virtual image 631 due to the vibration of the vehicle 300.
  • 621 is an actual view of a pedestrian seen through the windshield 330 (hereinafter referred to as pedestrian 621), and 631 is a window for alerting the driver that there is a pedestrian. It is a virtual image displayed on the shield 330.
  • the virtual image 631 is detected by image processing from, for example, a captured image captured by the camera 116.
  • FIG. 8A shows the state of the vehicle 300 when traveling on a flat road such as a paved road.
  • the vehicle 300 hardly vibrates. Therefore, there is no blurring between the virtual image 631 displayed on the windshield 330 by the AR-HUD 100 and the pedestrian 621.
  • FIG. 8B shows the state of the vehicle 300 when traveling on a relatively fine uneven road such as an unpaved rough road or a gravel road.
  • the vehicle 300 itself vibrates finely as shown in the upper part of FIG. 8B.
  • the vehicle 300 produces high frequency vibrations.
  • fine blurring occurs up and down or left and right as shown in the lower part of FIG. 8B.
  • the pedestrian 621 appears to be displaced in the vertical direction by the amount of the blur generated in the vehicle 300 with respect to the virtual image 631. This is hard to see for driver 910.
  • the display position control (low frequency component) by changing the angle of the mirror 141 is performed.
  • Adjustment processing; mirror adjustment processing) is difficult to handle. This is because in the mirror adjustment process, the display position is controlled via a mechanism using a stepping motor or the like, so that it takes time to change the display position of the virtual image 631.
  • a correction technique having a shorter processing time is required. In the present embodiment, this is realized by controlling the position (address) to be written in the image memory 151.
  • 9 (a) to 9 (c) are diagrams for explaining the high frequency component adjusting process by the high frequency component adjusting unit 224.
  • FIG. 9A shows a virtual image 631 and a pedestrian 621 displayed in a state without blurring.
  • the pedestrian 621 displayed in FIG. 9 (b) shifted upward from the originally visible position, and the pedestrian displayed in FIG. 9 (c) shifted downward from the originally visible position. 621 is shown respectively.
  • 9 (b) and 9 (c) are generated while, for example, the vehicle 300 is traveling on a rough road such as an unpaved road. While traveling on such a rough road, the vehicle 300 constantly vibrates, and the display position of the pedestrian 621 seen through the windshield 330 repeatedly shifts in the vertical direction.
  • the display position of the virtual image 631 may be shifted to follow the blur direction and displayed. That is, as shown in FIGS. 9 (b) and 9 (c), the display may be shifted in the direction of the arrow.
  • the high frequency component adjusting unit 224 of the present embodiment outputs an image processing instruction to the memory control unit 152 so as to perform image processing.
  • the high frequency component adjusting unit 224 of the present embodiment outputs an image processing instruction to the memory control unit 152 so as to perform image processing.
  • FIG. 9B when the pedestrian 621 is displaced upward, the writing position of the image memory 151 that temporarily stores the virtual image 631 is displaced upward by the displaced amount. Outputs the access position adjustment signal to be written.
  • FIG. 9C when the pedestrian 621 is displaced downward, the writing position of the image memory 151 is displaced downward by that amount to output an access position adjustment signal for writing.
  • the position to be displaced and written is determined according to the amplitude of the vibration of the moving vehicle 300.
  • the information regarding the vibration of the vehicle 300 is calculated based on the output from the acceleration sensor 110.
  • the information from the acceleration sensor 110 is acquired by the vehicle information acquisition unit 211, and is calculated as vibration information by the vibration detection unit 221 of the display position adjustment unit 220.
  • the obtained vibration information is sent to the separation unit 222, and a high frequency component is extracted.
  • the high-frequency component adjusting unit 224 calculates the displacement amount that suppresses the blurring of the virtual image 631 caused by the vibration based on the vibration information (vibration direction and amplitude) of the high-frequency component. Then, the write address in which the write position (write address) of the image memory 151 is changed by the calculated displacement amount is sent to the memory control unit 152. The memory control unit 152 writes the virtual image 631 to the received address.
  • the position (reading address) for reading the image from the image memory 151 may be changed. ..
  • the information from the acceleration sensor 110 may be acquired for each image generated as a virtual image 631. That is, it may be acquired according to the display rate (frame rate) of the virtual image 631.
  • the virtual image 631 has a frame rate of 30 frames / second
  • a sensor signal acceleration signal
  • the high-frequency component adjusting unit 224 calculates the amount of blur (displacement) based on the acquired sensor signal, and sends the access position adjusting signal obtained from the calculation result to the memory control unit 152.
  • the sampling frequency of the sensor signal is 33 msec (milliseconds).
  • the frame rate of the virtual image 631 is set to a higher frame rate such as 120 frames / second, the sampling frequency is 1/120 seconds, that is, 8.3 msec (milliseconds), and the sampling is faster. As a result, it is possible to correct the blurring of the virtual image due to the vibration of the vehicle 300 with higher accuracy.
  • FIG. 10A shows the position on the display element 133
  • FIG. 10B shows the address of the image memory 151.
  • 641 is a virtual image pattern to be displayed.
  • the memory address has 26 addresses from A to Z in the vertical direction and 52 addresses from 1 to 52 in the horizontal direction. Further, it is assumed that the vertical and horizontal addresses and the pixels on the display element 133 have a one-to-one correspondence.
  • the address F30 may be changed to E30.
  • the address may be changed to F31. Therefore, the high frequency component adjusting unit 224 of the present embodiment outputs such an access position adjusting signal to the memory control unit 152.
  • the display position of the virtual image 641 can be moved by an arbitrary number of pixels in both the vertical and horizontal directions.
  • the display range 652 of the image on the display element 133 (finally recognized by the driver 910 as a virtual image 631) is the vibration of the vehicle 300. It is determined in consideration of the amount of blurring that accompanies.
  • the pixels of 5% around the display element 133 may not be used for the display during normal running, but may be used as the buffer area 651 for blur correction. That is, the buffer region 651 on the display element 133 is used as a display region under the control of the high frequency component adjusting unit 224 only when blur correction is required.
  • the buffer area 651 is reserved in advance.
  • FIG. 11 is a processing flow of the virtual image display processing of the present embodiment. This process is started as a normal operation after the AR-HUD100 is started, the initial operation is completed, and the HUD-ON signal is received. It is assumed that the mirror 141 is adjusted to the initial position.
  • the vehicle information acquisition unit 211 acquires sensor signals as vehicle information 410 from various sensors provided in the vehicle 300 (step S1101). As described above, the sensor signals are acquired at predetermined intervals determined according to the frame rate of the virtual image 631 display.
  • the light source adjusting unit 213 performs the brightness level adjusting process based on the external light information acquired by the illuminance sensor 105, the chromaticity sensor 106, and the like (step S1102).
  • the light source adjusting unit 213 first calculates a suitable brightness level (target level) based on the acquired external light information. Then, the necessity of changing the brightness level is determined by comparing with the currently set brightness level (current level). Then, when it is determined that the change is unnecessary, the brightness level adjustment process is terminated as it is. On the other hand, when it is determined that the change is necessary, the light emission amount of the light source 131 is controlled to set the brightness level after the change, and the brightness level adjustment process is completed.
  • a suitable brightness level target level
  • the light source adjusting unit 213 may be configured not to change the brightness level if the difference is less than a predetermined threshold value.
  • the image generation unit 214 generates an image to be displayed as a virtual image 631 according to the acquired vehicle information 410 (step S1103).
  • the shape (pattern) of the image is generated, and then the brightness of the image and the like are adjusted based on the calculated brightness level.
  • the image currently displayed as a virtual image 631 is changed as necessary, and the changed image is determined as a display image.
  • vehicle information 410 that is, a numerical value indicating the speed at that time is changed according to the changing speed.
  • arrow figure of the guidance based on the navigation information is displayed or deleted, and the shape and display position of the arrow are changed as the navigation progresses.
  • the display position adjusting unit 220 adjusts the display position of the virtual image 631 in order to maintain the visibility and the appropriateness of the displayed contents according to the traveling condition of the vehicle 300 (step S1104).
  • the display position adjustment process is a process of adjusting the angle of the mirror 141 and the memory writing position according to the vibration detected based on the acceleration signal of the vehicle information 410.
  • the separation unit 222 separates the acceleration signal into a low frequency component and a high frequency component (step S1104a). Then, the low frequency component adjusting unit 223 performs a mirror angle adjusting process as a low frequency component adjusting process (step S1104b), and the high frequency component adjusting unit 224 performs a memory writing position adjusting process (step S1104c) as a high frequency component adjusting process. I do. The detailed flow of each process will be described later. In this way, by appropriately adjusting and controlling the display position of the virtual image 631 displayed by the AR-HUD 100, the visibility of the virtual image is improved.
  • the display control unit 230 performs display control processing on the image for which the display position adjustment processing has been completed (step S1105).
  • the distortion correction unit 231 performs a process of correcting the distortion
  • the display element drive unit 232 drives and controls the display element 133 to form a projected image, and subsequently, if necessary.
  • the display distance adjusting unit 233 determines the display distance of the virtual image 631 and controls the display distance so as to be the above display distance.
  • FIG. 12 is a processing flow of this processing.
  • a mirror adjustment process for adjusting the mirror angle is performed.
  • the low frequency component adjusting unit 223 acquires the low frequency component of the sensor signal (acceleration) after the LPF225 processing from the separation unit 222 (step S1201). In this embodiment, a component of 0.5 Hz or less is acquired.
  • the low frequency component adjusting unit 223 determines whether or not the acquired acceleration (acceleration applied to the vehicle body of the vehicle 300) is 1 G or more (step S1202).
  • the low frequency component adjusting unit 223 performs a mirror adjustment process (step S1203) and ends the process.
  • the displacement amount derived from the acceleration is calculated and used as the drive amount of the mirror 141.
  • a drive signal (drive instruction) is output to the mirror drive unit 142 so as to drive the mirror 141 by that amount. Details will be described later.
  • the stability of display position control can be ensured. That is, the display correction can be suppressed with respect to the temporarily large shaking of the vehicle 300, for example, when passing through a large step.
  • FIG. 13 is a processing flow of the mirror adjustment processing. If the acceleration is less than 1G, this process is started.
  • the low frequency component adjusting unit 223 first acquires the angle of the current mirror 141 (step S1301). Further, based on the acquired acceleration, the current values of the parameters related to the adjustment of the angle of the mirror 141 are acquired (step S1302).
  • the type of required parameter may differ depending on the conditions under which the display position of the display area is adjusted.
  • a value indicating the difference (relative slope) between the slope of the current position of the vehicle 300 and the slope of the road ahead is required.
  • the gradient of the current position can be calculated from, for example, acceleration attitude information, that is, information on the inclination of the vehicle 300 obtained by the acceleration sensor 110 or the gyro sensor 111.
  • the slope of the road ahead can be obtained by analyzing the video information of the external camera 116. It is also possible to obtain the current position and the slope of the road ahead based on the three-dimensional road / terrain information obtained from the navigation information.
  • the target angle of the mirror 141 is calculated based on predetermined criteria, conditions, and the like (step S1303). What kind of logic is used to calculate the target angle based on which parameter depends on the adjustment condition of the display position of the virtual image display area 610.
  • the target angle of the mirror 141 may be determined only when the absolute value of the relative gradient is equal to or greater than a predetermined value.
  • the threshold value used for discrimination can be, for example, 1 / x (x is a predetermined value) of the FOV (Field Of View: viewing angle) in the vertical direction of the virtual image display area 610.
  • the target angle of the mirror 141 is calculated based on the current parameter value acquired in step S1302.
  • the situation in the near future may be predicted based on the information of the history of the current parameter value and the past value, and the target angle may be calculated based on the prediction result.
  • the tendency of the transition of the value may be analyzed based on the past history of the parameter value, and the parameter value in the near future may be predicted based on the tendency.
  • step S1301 it is determined whether or not there is a difference between the current angle (current angle) of the mirror 141 acquired in step S1301 and the target angle (target angle) of the mirror 141 acquired in step S1303 (step S1304).
  • the determination is performed using, for example, a predetermined angle threshold value. If the difference is greater than or equal to the angle threshold value, it is determined that there is a difference, and if it is less than the angle threshold value, it is determined that there is no difference.
  • the mirror adjustment process is terminated as it is. That is, the angle of the mirror 141 is not adjusted, the current angle is left as it is, and the process ends.
  • the low frequency component adjusting unit 223 rotates the mirror 141 in the designated direction so as to reach the target angle (step S1305). Specifically, a drive signal for rotating the mirror 141 is output to the mirror drive unit 142.
  • the low frequency adjusting unit 145 determines whether or not the mirror 141 has reached the target angle (step S1306), and if not (step S1306; No), returns to step S1305 and continues the rotation of the mirror 141. To do. That is, the output of the drive signal to the mirror drive unit 142 is continued.
  • the low frequency adjusting unit 145 stops the rotation of the mirror 141 (step S1307). That is, the output of the drive signal to the mirror drive unit 142 is stopped, and the process is terminated.
  • Such a series of mirror adjustment processing is effective for the overall shaking of the vehicle 300 having a relatively low frequency.
  • step S1304 it may be determined that there is a difference only when the state of being equal to or higher than the angle threshold value continues for a certain period of time or longer. Thereby, for example, an event in which the inclination of the vehicle 300 changes temporarily or momentarily, such as when the vehicle 300 rides on a step such as a curb, can be excluded from the adjustment target of the mirror 141.
  • FIG. 14 is a processing flow of the high frequency component adjustment process (memory writing position adjustment process) by the high frequency component adjustment unit 224 in step S1104b.
  • the high frequency component adjusting unit 224 acquires the high frequency component of the sensor signal (acceleration) after the BPF226 processing from the separation unit 222 (step S1401). In this embodiment, components of 0.5 Hz to 10 Hz are acquired.
  • the high frequency component adjusting unit 224 determines whether or not the acquired acceleration is 0.5 G (4.9 m / s 2 ) or more (step S1402).
  • the high frequency component adjusting unit 224 stops the access control (here, the writing position control) to the image memory 151 for displaying the virtual image 631, or the virtual image 631 The display is stopped (step S1404).
  • the high frequency component adjusting unit 224 performs the image memory access control process (step S1404) and ends the process.
  • the image memory access control process the image memory writing position is shifted so as to correct the blurring of the image derived from the acceleration. That is, the access position adjustment signal instructing the write address is output to the memory control unit 152.
  • the writing position to be shifted with respect to the image memory 151 is determined according to the amplitude of the vibration of the moving vehicle 300.
  • Information on vehicle vibration can be obtained by calculation from an acceleration sensor, or can be obtained from information from a gyro sensor (also referred to as a position sensor).
  • the AR-HUD 100 of the present embodiment has generated the vehicle information acquisition unit 211 that acquires the vehicle information 410 of the vehicle 300 and the image generation unit 214 that generates an image based on the vehicle information 410.
  • An image memory 151 that holds an image
  • an image display device 130 that forms an image to be displayed on the windshield 330 from the image held in the image memory 151
  • an image display device 130 that reflects the image formed by the image display device 130 and projects it onto the windshield.
  • the unit 223 includes a high-frequency component adjusting unit 224 that outputs an image processing instruction, which is an instruction to perform image processing so as to cancel a high-frequency component having a frequency equal to or higher than the vibration threshold, to the memory control unit 152.
  • the displacement of the display position of the virtual image 631 of the AR-HUD 100 due to the shaking of the vehicle 300 is separated into a low frequency component and a high frequency component, and adjustment and correction processing are performed separately for each.
  • the mirror 141 is driven and mechanically adjusted, and for the high frequency component, control such as adjusting the access position to the image memory is performed.
  • the position shift of the display image (virtual image) caused by the vibration having a relatively low frequency, and further, the display image generated due to the vibration having a relatively high frequency ( The blurring of the virtual image) is offset or corrected by the optimum method.
  • the adjustment can be performed by the optimum method for each component, and as a result, the display position can be adjusted with higher accuracy. As a result, even when the vehicle 300 is shaken, the discomfort of the virtual image display can be suppressed. That is, according to the present embodiment, it is possible to suppress the misalignment and blurring of the virtual image 630 displayed on the windshield 330 according to the traveling condition of the vehicle 300, and to appropriately superimpose the virtual image 630 on the actual scene. ..
  • the maximum value is set for each of low frequency and high frequency. That is, the display position is adjusted only when the amplitude is within a predetermined range. As a result, it is possible to eliminate excessive correction due to temporary shaking of the large vehicle 300, such as when passing through a large step.
  • the display position can be adjusted more accurately, and the discomfort of the virtual image display can be further suppressed accordingly.
  • the displacement direction is the vertical direction
  • the displacement direction is not limited to this. It may be in any direction of up / down, left / right, front / back, or a combination of these.
  • the display position is adjusted in each direction by the above method.
  • the magnitude of acceleration and the temporal change of acceleration are calculated by the ECU 121, but these detections may be executed by hardware.
  • the mirror 141 is performed for the low frequency component of the shaking of the vehicle 300, and the access control of the image memory is performed for the high frequency component of the shaking. As a result, it is possible to perform blur correction of the virtual image 631 that cannot be followed only by driving the mirror 141.
  • the adjustment amount of the display position of the virtual image 631 is large for the low frequency component of shaking, and the adjustment amount is small for the high frequency component.
  • the access control of the image memory is limited to the high frequency component having a small adjustment amount. Therefore, the buffer region 651 shown in FIG. 10A can be reduced and the capacity of the image memory 151 can be reduced as compared with the case where the adjustment of both components is performed by the image memory access control.
  • the configuration for realizing the present invention is not limited to each of these embodiments and modifications, and various modifications can be considered.
  • numerical values and messages appearing in sentences and figures are merely examples, and the effects of the present invention may not be impaired even if different ones are used.
  • each of the above-described embodiments may be realized by hardware, for example, by designing a part or all of them with an integrated circuit. Further, it may be realized by software by interpreting and executing a program in which a microprocessor unit or the like realizes each function or the like. Hardware and software may be used together.
  • the software may be stored in the ROM 123 or the like in advance at the time of product shipment. After the product is shipped, it may be acquired from various server devices on the Internet. Further, it may be stored and provided in a storage medium such as a memory card or an optical disk.
  • control lines and information lines shown in the figure indicate what is considered necessary for explanation, and do not necessarily indicate all the control lines and information lines on the product. In practice, it can be considered that almost all configurations are interconnected.
  • 101 Vehicle speed sensor, 102: Shift position sensor, 103: Handle steering angle sensor, 104: Headlight sensor, 105: Illumination sensor, 106: Color sensor, 107: Distance measurement sensor, 108: Infrared sensor, 109: Engine start Sensor, 110: Acceleration sensor, 111: Gyro sensor, 112: Temperature sensor, 113: Radio receiver for road-to-vehicle communication, 114: Radio receiver for inter-vehicle communication, 116: Outside camera, 117: GPS receiver, 118: VICS receiver, 120: Control unit, 121: ECU, 122: RAM, 123: ROM, 124: Storage device, 125: Speaker, 126: Sensor interface, 127: System bus, 130: Video display device, 131: Light source, 132: Illumination optical system, 133: Display element, 140: Virtual image optical system, 141: Angle adjustable mirror, 142: Mirror drive unit, 143: Fixed mirror, 145: Low frequency adjustment unit, 151: Image memory, 152:

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Computer Hardware Design (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Instrument Panels (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Studio Devices (AREA)

Abstract

HUDにおいて、その原因によらず、虚像表示の違和感を低減する。AR-HUD100は、画像メモリ151と、映像表示装置130と、ミラー141と、映像の表示位置を調整する表示位置調整部220と、表示位置調整部220の指示に基づいてミラー141の角度を変化させるミラー駆動部142と、表示位置調整部220の指示に基づいて、画像処理を行うメモリ制御部152と、を備える。そして、表示位置調整部220は、振動量信号の、予め定めた振動閾値未満の周波数である低周波成分を打ち消すよう、ミラー141を駆動させる駆動指示をミラー駆動部142に出力する低周波成分調整部223と、振動閾値以上の周波数である高周波成分を打ち消すよう、画像処理を行う指示である画像処理指示を、メモリ制御部152に出力する高周波成分調整部224と、を備える。

Description

ヘッドアップディスプレイ装置
 本発明は、ヘッドアップディスプレイへの表示技術に関する。特に、AR(Augmented Reality:拡張現実)を利用したヘッドアップディスプレイへの表示技術に関する。
 運転者が運転中に、少ない視線の移動で、各種の情報を得る技術として、情報を映像化し、フロントガラス(ウインドシールド)またはコンバイナに投射して表示するヘッドアップディスプレイ(Head Up Display、以下「HUD」と記載する場合がある)がある。車両は走行状況に応じて前後左右に傾いたり、振動したりする。このため、HUDも含む車載用のディスプレイでは、映像が適切な位置に表示できず、違和感が発生したり、視認性が低下したりすることがある。
 このようなHUDにおける表示映像の視認性の改善に関連する技術として、例えば、特許文献1に開示の技術がある。特許文献1には、「表示部と、車体に生じる回転成分を当該車体の傾きとして取得する自車回転成分取得部と、取得した車体の傾きに基づいて映像を3次元的に回転補正し、表示部において空間的に固定される面になるように、当該回転補正した映像を表示するための位置と傾きを決定する仮想表示位置決定部と、位置と傾きが決定された映像を表示部に投影表示する投影表示部と、を備える(要約抜粋)」表示装置が開示されている。
特開2013-237320号公報
 特許文献1に開示の技術によれば、車両の大きな揺れ、すなわち、車体の傾きによる表示位置のずれは、解消できる。しかしながら、実際の風景に対して虚像を重畳して表示するARの場合、車両の走行状態によっては、車両の揺れなどによる表示位置のずれのみならず、車両の振動などの影響による表示位置ずれも発生する。この位置ずれは、表示位置の変化量は少ないものの変化の周波数が高く、あたかもカメラ撮影における手振れのようなブレとなる。これは、運転者に、違和感を増大させ、視認性を著しく低下させる。しかしながら、特許文献1に開示の技術では、この違和感は解消できず、視認性を向上させることもできない。
 本発明は、上記事情に鑑みてなされたもので、HUDにおいて、その原因によらず、虚像表示の違和感を低減する技術を提供する。
 本発明は、車両のウインドシールドに映像を投射するヘッドアップディスプレイ装置であって、前記車両の車両情報を取得する車両情報取得部と、前記車両情報に基づいて、画像を生成する画像生成部と、生成した画像を保持する画像メモリと、前記画像メモリに保持された前記画像から前記ウインドシールドに表示する映像を形成する映像表示装置と、前記映像表示装置が形成した前記映像を反射して前記ウインドシールドに投射するミラーと、前記車両情報のうち、車両の振動量を示す信号である振動量信号に応じて、前記映像表示装置が形成した映像の表示位置を調整する表示位置調整部と、前記表示位置調整部の指示に基づいて前記ミラーの角度を変化させるミラー駆動部と、前記表示位置調整部の指示に基づいて、画像処理を行うメモリ制御部と、を備え、前記表示位置調整部は、前記振動量信号の、予め定めた振動閾値未満の周波数である低周波成分を打ち消すよう、前記ミラーを駆動させる駆動指示を前記ミラー駆動部に出力する低周波成分調整部と、前記振動閾値以上の周波数である高周波成分を打ち消すよう、前記画像処理を行う指示である画像処理指示を、前記メモリ制御部に出力する高周波成分調整部と、を備えることを特徴とする。
 本発明によれば、HUDにおいて、その原因によらず、虚像表示の違和感が低減する。上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。
本発明の実施形態のHUDの概要を説明するための説明図である。 (a)~(c)は、本発明の実施形態のHUDのハードウェア構成図である。 本発明の実施形態の、HUDと各種センサとの接続例を説明するための説明図である。 本発明の実施形態のHUDの機能ブロック図である。 (a)および(b)は、本発明の実施形態の表示位置調整部の概要を説明するための説明図である。 本発明の実施形態の加速度センサからの出力信号、その低周波成分およびその高周波成分をそれぞれ示す図である。 (a)~(c)は、本発明の実施形態の低周波成分調整部による低周波成分調整処理を説明するための説明図である。 (a)および(b)は、車両の揺れの高周波成分の発生原因を説明するための説明図である。 (a)~(c)は、本発明の実施形態の高周波成分調整部による高周波成分調整処理を説明するための説明図である。 (a)は、本発明の実施形態の表示素子上の位置を、(b)は、本発明の実施形態の画像メモリのアドレスを、それぞれ説明するための説明図である。 本発明の実施形態の虚像表示処理のフローチャートである。 本発明の実施形態の低周波成分調整処理のフローチャートである。 本発明の実施形態のミラー調整処理のフローチャートである。 本発明の実施形態の高周波成分調整処理のフローチャートである。
 以下、本発明の実施形態を、図面に基づいて説明する。なお、実施形態を説明するための全図において、同一部位には原則として同一の符号を付し、その繰り返しの説明は省略する。一方で、ある図において符号を付して説明した部位について、他の図の説明の際に再度の図示はしないが同一の符号を付して言及する場合がある。
 まず、本実施形態のHUDの概要を説明する。図1は、本実施形態のHUD100の概要を説明するための図である。なお、本図においては、車両300の形状を乗用車のように表しているが、車両は、これに限定されない。本実施形態は、車両一般に適用できる。
 HUD100は、車両300の走行時に、運転者910に有益な映像を、映像表示装置130で形成し、固定ミラー143および角度調整可能ミラー141(以下、単にミラー141と呼ぶ。)で反射させて、ウインドシールド330またはコンバイナに投射することで、その映像を車外における虚像630として運転者910に認識させる。虚像630として表示する映像には、例えば、現在の車速や、車両前方の交差点における自車両の進行方向を示す矢印などがある。この虚像630の表示位置は、ミラー141に備えられたミラー駆動部142によりミラー141の角度を回転させることにより調整する。
 HUD100の中でも、いわゆるAR機能を実現するHUD(以下「AR-HUD」と記載する場合がある。)100では、ウインドシールド330越しに見える車外の実際の風景(実景)に虚像(映像)630を重畳させるように表示し、車両300近傍の他車両や歩行者などの対象物に係る情報を運転者に示す。
 例えば、AR-HUD100では、虚像630として、車外の道路や交差点の実景に重畳して矢印を表示したり、自車両300周辺の他車両や歩行者などの対象物を強調して示すためのマークを表示したりする。この実景に虚像630を重畳して表示するという特性から、AR-HUD100では、車両300が傾いて、その姿勢が変化したり、車体が振動したりすることにより、虚像630の表示位置が変化すると、視認性の低下は著しい。例えば、本来、自車両近傍の歩行者を取り囲むように表示されるべき楕円形の虚像630が、歩行者から大きくずれて表示された場合、運転者910が歩行者を確実に認識するために表示される虚像630の効果が失われる。
 すなわち、AR-HUD100では、従来の車載表示装置やHUDに比較して、表示位置のずれ(変位)は、目立ちやすく、その分、運転者910に違和感を生じさせやすい。また、表示位置のずれのうち、車両300の振動による表示位置のずれは、映像(虚像630)の位置の変化量は少ないものの位置変化の周波数が高く、あたかもカメラ撮影における手振れのような表示位置のブレが生じ、虚像630の視認性を著しく低下させる。一方、車両の傾きによる表示位置のずれは、位置変化の変化量が大きいものの、周波数は低い。
 本実施形態では、このような異なる事象に起因する表示位置の変位を、それぞれ、別個の調整手段で調整し、AR-HUD100の、車両の傾きや振動による表示位置のずれを軽減させる。
 すなわち、本実施形態では、表示位置の変位を、低周期の大きな揺れと、高周期の小さなブレとに分けて、それぞれ、表示位置の調整を行う。低周期の大きな揺れは、例えば、車両が坂道等の勾配のある道路を走行したり、運転者がブレーキまたはアクセルを操作したりすることに起因する。一方、高周期の小さなブレは、走行中の道路の表面(例えば、砂利道等の未舗装状態)などに起因する。
 具体的には、本実施形態では、車両の傾きによる表示位置の変位(以後、位置ズレまたは低周波成分と呼ぶ。)と、振動による表示位置の変位(以後、位置ブレまたは高周波成分と呼ぶ。)と、を分離し、位置ズレは、機構的な調整で、位置ブレは電子的な調整(画像処理)で、補正する。
 以下、傾きおよび振動方向が上下方向である場合を例にあげて説明する。なお、傾き、振動方向は、上下方向に限定されない。
 また、虚像630として表示されるコンテンツは特に限定されない。例えば、車速等の車両情報やナビゲーション情報、図示しない車両内または車両外に設置されたカメラによる映像(監視カメラやアラウンドビュアー等)で撮影した前方や側方の風景の映像、さらに、これらのカメラによる映像から画像処理等の手法により抽出した、車両周辺の障害物、例えば、前方を走行する車両や、自車両周辺に存在する歩行者を示す図形やマークなどを適宜表示することができる。
 <装置(ハードウェア)構成>
 次に、本実施形態のAR-HUD100の、ハードウェア構成を説明する。
 本実施形態のAR-HUD100は、図2(a)に示すように、制御部120と、スピーカ125と、センサインタフェース(I/F)126と、映像表示装置130と、ミラー141とミラー駆動部142と、画像メモリ151と、メモリ制御部152と、を備える。ミラー141とミラー駆動部142と固定ミラー143(図1参照)は、虚像光学系140を構成する。
 制御部120は、AR-HUD100の動作を制御する。図2(b)に示すように、ECU(Electronic Control Unit)121と、RAM122と、ROM123と、記憶装置124と、システムバス127と、を備える。
 ECU121は、所定の動作プログラムに従って、AR-HUD100全体を制御する。本実施形態では、例えば、車両情報を取得するとともに、取得した情報を必要に応じて、RAM122、ROM123、記憶装置124等に記憶したり、読み出したりする。CPU,MPU、専用の論理回路等、構成部品は限定されない。
 システムバス127は、ECU121と、AR-HUD100内の各構成要素とを相互に接続するデータ通信路である。ECU121とAR-HUD100内の各構成要素とは、システムバス127を介して各種コマンドやデータなどの送受信を行う。
 RAM122は、ECU121が各種プログラムを実行する際に使用するワークエリアなどの書き替え可能なプログラム作業領域を構成する。
 ROM123および記憶装置124は、AR-HUD100の機能を実現するための各種プログラムと、動作設定値、後述するセンサからの検出値を含むセンサ情報、拡張オブジェクトおよび表示コンテンツなどの各種表示用データを記憶する。各種制御のための設定値やパラメータ等の設定情報が格納されていてもよい。
 なお、ROM123および記憶装置124は、AR-HUD100に外部から電源が供給されていない状態であっても記憶している情報を保持する、所謂不揮発性ストレージである。ROM123と、記憶装置124と、はストレージの一例であり、他のデバイス、例えばSSD(Solid State Drive)などの半導体素子メモリ、HDD(Hard Disc Drive)などの磁気ディスクドライブ等のデバイスが用いられてもよい。
 なお、制御部120は、マイコンやFPGA(Field Programmable Gate Array)等のハードウェアにより実装されていてもよい。
 映像表示装置130は、例えば、光源131、照明光学系132、および表示素子133等の各部を有する。映像表示装置130は、筐体内、もしくは、筐体に着脱可能な箇所に配置される。本実施形態のAR-HUD100では、制御部120からの指示に従って、映像表示装置130に表示された映像を、虚像光学系140を介して車両300のウインドシールド330に投射する。
 映像表示装置130は、例えば、バックライトを有するLCD(Liquid Crystal Display)等により構成される他、自発光型のVFD(Vacuum Fluorescent Display)等であってもよいし、投射装置によりスクリーンに映像を表示するもの(プロジェクタ)であってもよい。このようなスクリーンとしては、例えば、マイクロレンズを2次元状に配置したマイクロレンズアレイにより構成してもよい。
 光源131は、投射用の照明光を発生してバックライトを構成する部材であり、例えば、高圧水銀ランプやキセノンランプ、LED光源、レーザー光源等を用いることができる。製品寿命が長い固体光源を採用するのが望ましい。例えば、周囲の温度変化に対する光出力の変化が少ないLED光源に対して、光の発散角を低減する光学手段を設けたPBS(偏光ビームスプリッタ;Polarizing Beam Splitter)を用いて偏光変換を行うのが望ましい。光源131は、後述する表示素子133に対する光の入射方向が、ミラー141の入射瞳に効率よく入射するように配置もしくは制御される。
 照明光学系132は、光源131で発生した照明光を集光し、より均一化して表示素子133に照射する光学系である。本実施形態では、照明光学系132は、例えば、導光体、および拡散板を備える。
 表示素子133は、投射する映像を生成する素子であり、例えば、透過型液晶パネル、反射型液晶パネル、DMD(Digital Micromirror Device)(登録商標)パネル等を用いることができる。表示素子133の光入射面(すなわち、光源131および照明光学系132側)と光出射面(ミラー141側)には、それぞれ偏光板を配置して映像光のコントラスト比を高めるのが望ましい。光入射面に設ける偏光板には、偏光度が高いヨウ素系のものを用いることで高いコントラスト比を得ることができる。一方、光出射面に設ける偏光板には、染料系のものを用いることで外光が入射した場合や環境温度が高い場合でも高い信頼性を得ることができる。
 表示素子133としてLCDパネルを用いる場合、特に、運転者910が偏光サングラスを着用している場合には、特定の偏波が遮蔽されて映像が見えなくなるという不具合が発生し得る。これを防ぐために、LCDパネルの光出射面に配置した偏光板のさらに前方(すなわち、ミラー141側)にλ/4板を配置して、特定の偏光方向に揃った映像光を円偏光に変換するのが望ましい。
 虚像光学系140は、固定ミラー143と、ミラー141と、ミラー駆動部142とを備える。虚像光学系140では、映像表示装置130が形成した映像を、固定ミラー143介して、ミラー141により反射させてウインドシールド330に投射する。運転者910は、ウインドシールド330に投射された映像を見ることで、透明のウインドシールド330を通してその前方に虚像として上記映像を視認する。
 本実施形態では、ミラー141の角度を調整することで、ウインドシールド330上の映像投射位置を調整し、運転者910が見る虚像の表示位置を上下方向に調整する。これを実現するため、ミラー141は、ミラー駆動部142として、水平方向の回転軸を備える。この回転軸を中心にミラー141を回転させてミラー141の角度を調整することにより、映像投射位置を調整する。
 このとき、虚像630が、走行中の車外の実景(道路や建物、人等)に重畳されるようその表示位置を制御する。さらに、走行中の車両の振動による、虚像のブレを抑制することにより、視認性に優れたAR機能を実現する。
 ミラー141は、例えば、自由曲面ミラーや光軸非対称の形状を有するミラー等により構成される。より具体的には、ミラー141の形状は、ウインドシールド330上に投射された虚像630の歪みを、純光学的に、すなわち、画像処理を用いることなく低減するために、例えば、ミラー141の上部の領域では、拡大率が大きくなるように相対的に曲率半径を小さくする。一方、ミラー141の下部の領域では、拡大率が小さくなるように相対的に曲率半径を大きくする。
 上部の領域で反射した光線はウインドシールド330の下方で反射するため、相対的に運転者910(虚像の「観察者」に相当する)の視点との距離が短くなり、また、下部の領域で反射した光線はウインドシールド330の上方で反射するため、相対的に運転者910の視点との距離が長くなるためである。映像表示装置130をミラー141の光軸に対して傾斜させて配置することで、上記のような像倍率の違いを補正して、発生する歪みを低減するようにしてもよい。
 ミラー駆動部142は、制御部120からの指示に従って、ミラー141の角度を調整する。本実施形態では、図示しないモータによりミラー141の角度を制御し、車両300の揺れによる虚像631の表示位置のずれを上下方向に調整する。これを、例えば、ステッピングモータ等を用いたメカニズムで実現する。すなわち、ミラー駆動部142は、駆動を指示する信号(ミラー駆動信号)を受け取る毎に、予め定めた角度だけ回転駆動し、ミラー141を回転させる。
 AR-HUD100から出射した映像光はウインドシールド330で反射され、運転者910の目に入射する。運転者910は、目に入射した映像光により、透明のウインドシールド330を通してその前方に虚像630として上記映像を視認する。この構成によれば、ミラー駆動部142によりミラー141の角度を調整することで、映像光をウインドシールド330に投射する位置を調整できる。これにより、運転者910が見る虚像の表示位置を上下方向に調整可能である。なお、映像光には、虚像630として表示する内容(表示コンテンツ)が含まれる。
 画像メモリ151は、虚像として表示させる画像を、一時的に蓄積するバッファメモリである。
 メモリ制御部152は、画像メモリ151への書き込み、読み出し(以後、両者を合わせて、アクセスと呼ぶこともある)を制御する等の画像処理を行う。本実施形態では、後述するように、車両300の振動による表示位置の変動を、画像メモリ151への書き込み位置を振動に同期させて変化させることにより、打ち消す。メモリ制御部152は、制御部120からの指示に従って、書き込み位置を変化させ、これを実現する。
 なお、図2ではメモリ制御部152は、制御部120の外部に備えられる構成である、メモリ制御部152は、制御部120の内部に備えられる構成としてもよい。
 スピーカ125は、制御部120の指示に従って、音声を出力する。例えば、ナビゲーションシステムの音声案内や、AR機能によって運転者910に警告等を通知する際の音声出力等を行うことができる。
 センサインタフェース126は、車両300に取り付けられた各種の車両情報取得デバイス(センサ)の信号を車両情報410として取得するインタフェースである。以下、各種センサと、本実施形態のAR-HUD100のセンサインタフェース126との接続例を、図3を用いて説明する。
 車両情報取得デバイスとして、車両300は、例えば、車速センサ101、シフトポジションセンサ102、ハンドル操舵角センサ103、ヘッドライトセンサ104、照度センサ105、色度センサ106、測距センサ107、赤外線センサ108、エンジン始動センサ109、加速度センサ110、ジャイロ(姿勢)センサ111、温度センサ112、路車間通信用無線受信機113、車車間通信用無線受信機114、カメラ(車内カメラ)115、カメラ(車外カメラ)116、GPS(Global Positioning System)受信機117、およびVICS(Vehicle Information and Communication System:道路交通情報通信システム、登録商標(以下同様))受信機118などを備える。
 必ずしもこれら全てのセンサを備えている必要はなく、また、他の種類のセンサを備えていてもよい。備えているセンサによって取得できる車両情報410を適宜用いることができる。
 本実施形態では、AR-HUD100は、これらの各車両情報取得デバイスからの信号を、車載ネットワークCAN(Controller Area Network)もしくはEthernet(登録商標)などの無線通信又は有線通信を用いて、センサインタフェース126を介して取得する。
 加速度センサ110およびジャイロ(姿勢)センサ111は、車両300の姿勢や挙動の情報として、加速度や角速度からなる加速度姿勢情報を取得する。これら加速度センサ110およびジャイロ(姿勢)センサ111によって、走行中の車両300の揺れや振動に関する情報を検知する。
 車速センサ101は、車両300の速度情報を取得する。シフトポジションセンサ102は、車両300の現在のギア情報を取得する。ハンドル操舵角センサ103は、ハンドル操舵角情報を取得する。ヘッドライトセンサ104は、ヘッドライトのON/OFFに係るランプ点灯情報を取得する。照度センサ105および色度センサ106は、外光情報を取得する。測距センサ107は、車両300と外部の物体との間の距離情報を取得する。赤外線センサ108は、車両300の近距離における物体の有無や距離等に係る赤外線情報を取得する。エンジン始動センサ109は、エンジンON/OFF情報を検知する。
 温度センサ112は車内外の温度情報を取得する。路車間通信用無線受信機113および車車間通信用無線受信機114は、それぞれ、車両300と道路や標識、信号等との間の路車間通信により受信した路車間通信情報、および車両300と周辺の他の車両との間の車車間通信により受信した車車間通信情報を取得する。
 カメラ(車内)115およびカメラ(車外)116は、それぞれ、車内および車外の状況の動画像を撮影してカメラ映像情報(車内/車外)を取得する。
 カメラ(車内)115では、例えば、運転者910の姿勢や、眼の位置、動き等を撮影する。得られた動画像を解析することにより、例えば、運転者910の疲労状況や視線の位置などを把握する。このカメラは、例えば、ハンドル上、ダッシュボード上、ウインドシールド330上など、運転者910の視点検出が可能な位置に備え付けられる。
 また、カメラ(車外)116では、車両300の前方や後方等の周囲の状況を撮影する。得られた動画像を解析することにより、例えば、周辺の他の車両や人等の移動物の有無、建物や地形、路面状況(雨や積雪、凍結、凹凸等)などを把握する。
 GPS受信機117およびVICS受信機118は、それぞれ、GPS信号を受信して得られるGPS情報およびVICS信号を受信して得られるVICS情報を取得する。これらの情報を取得して利用するカーナビゲーションシステムの一部として実装されていてもよい。
 <AR-HUDの機能ブロック>
 次に、本実施形態のAR-HUD100の機能構成について説明する。上述のように本実施形態では、車両情報取得デバイスを介して取得した車両情報410を用いて、車両300の傾き、振動による、虚像630の表示位置ずれを調整する。
 これを実現するため、本実施形態のAR-HUD100は、図4に示すように、主制御部210と、車両情報取得部211と、音声出力部212と、光源調整部213と、画像生成部214と、表示位置調整部220と、表示制御部230と、を備える。また、表示位置調整部220は、振動検出部221と、分離部222と、低周波成分調整部223と、高周波成分調整部224と、を備える。また、表示制御部230は、歪み補正部231と、表示素子駆動部232と、表示距離調整部233と、を備える。
 これらの各機能は、制御部120において、予めROM123または記憶装置124に記憶されたプログラムを、ECU121が、RAM122にロードして実行することにより実現される。
 主制御部210は、AR-HUD100全体の動作を制御する。
 車両情報取得部211は、主制御部210の指示に従って、センサインタフェース126を介して、各車両情報取得デバイスから、センサ信号を、車両情報410として取得する。本実施形態では、各種イベントを検知したり、所定の間隔で走行状況に係る各種パラメータの値を検知・取得したりすることで車両情報410を取得して出力する。車両情報410には、例えば、車両300の速度情報やギア情報、ハンドル操舵角情報、ランプ点灯情報、外光情報、距離情報、赤外線情報、エンジンON/OFF情報、カメラ映像情報(車内/車外)、加速度姿勢情報、GPS情報、ナビゲーション情報、車車間通信情報、および路車間通信情報などが含まれる。
 音声出力部212は、必要に応じてスピーカ125を介して音声情報を出力する。
 光源調整部213は、映像表示装置130の光源131の発光量を調整する。光源131が複数ある場合にはそれぞれ個別に制御するようにしてもよい。詳細は、後述する処理フロー内で説明する。
 画像生成部214は、専用のプログラムを実行させる等により、AR-HUD100に虚像630として表示させる映像データ(画像)を生成する。画像生成部214は、最新の車両情報410に基づいて、虚像630として表示する画像を生成する。生成される画像は、例えば、速度を示す数値、ナビゲーション情報に基づく案内の矢印図形等である。画像生成部214は、画像を、表示サイズ、位置等も含めて生成する。
 表示位置調整部220は、車両情報410のうち、車両の振動量を示す信号である振動量信号に応じて、画像生成部214が生成した映像の表示位置を調整する。本実施形態では、振動量信号として、加速度センサ110またはジャイロセンサ111から出力されたセンサ信号を用いる。
 これを実現するため、本実施形態の表示位置調整部220は、振動検出部221と、分離部222と、低周波成分調整部223と、高周波成分調整部224と、を備える。
 振動検出部221は、加速度センサ110またはジャイロセンサ111から出力され、車両情報取得部211で取得されたセンサ信号を、車両300の振動情報(振動量信号)として検出する。振動情報は、車両300の走行状態に従って時々刻々と変化する車両300の振動に関する振幅や振動の方向(縦方向や横方向の振幅)を含む。なお、本実施形態では、上下方向の振動を検出する場合を例にあげて説明する。また、以下、加速度センサ110の出力(センサ信号)を用いる場合を例にあげて説明する。
 分離部222は、振動量信号を、予め定めた振動閾値未満の周波数である低周波成分と、前記振動閾値以上の周波数である高周波成分とに分離する。また、分離部222は、予め定めた第二振動閾値以上の第二高周波成分を、高周波成分から除く。
 分離は、例えば、図5(a)に示すように、ローパスフィルタ(LPF)225とバンドパスフィルタ(BPF)226と、を用いて行う。すなわち、分離部222は、LPF225を用いて、振動量信号の低周波成分を抽出する。LPF225のカットオフ周波数は、例えば、0.5Hzとする。また、分離部222は、BPF226を用いて。振動量信号の高周波成分を抽出する。BPF226のカットオフ周波数は、0.5Hzおよび10Hzとする。
 なお、ここでは、分離部222のLPF225およびBPF226を、ソフトウェアで実現する場合を例示して説明したが、これに限定されない。例えば、ハードウェアのLPF回路225aおよびBPF回路226aを用意し、これらによって分離してもよい。
 この場合、図5(b)に示すように、分離部222の機能は、センサインタフェース126の一部の構成として実現されてもよい。この場合、加速度センサ110から加速度信号が入力されると、センサインタフェース126内で分離する。この場合、振動検出部221は、なくてもよい。
 図6に、加速度センサ110からの出力信号であるセンサ出力、LPF225の出力信号であるLPF出力、BPF226の出力信号であるBPF出力の一例を示す。ここでは、縦軸に信号値を、横軸に時間(秒)を、それぞれ示す。
 LPF225の出力信号は、本図に示すように、周波数が低い(0.5Hz以下)信号である。また、BPF226の出力信号は、比較的周波数の高い(0.5Hz以上、10Hz未満)信号である。このように分離された信号のうち、周波数の低い信号成分は低周波成分調整部223に、一方、周波数の高い信号成分は、高周波成分調整部224に、それぞれ出力される。
 低周波成分調整部223は、分離部222で分離された低周波成分に基づいて、表示位置を調整する低周波成分調整処理を行う。本実施形態では、低周波成分調整処理は、この振動の低周波成分を打ち消すようにミラー141を駆動させるよう、ミラー駆動部142に駆動信号(ミラー駆動信号)を出力するミラー調整処理である。振動の低周波成分は、道路の勾配の変化、段差などに起因する変位である。
 なお、本実施形態では、低周波成分調整部223は、検出された加速度の値が予めさだめた閾値(低周波閾値)以上の場合は、ミラー駆動信号を出力しない。ここでは、低周波成分調整部223は、所定のサンプリング間隔で、LPF225の出力値(加速度)を検出し、その絶対値が低周波閾値以上の場合は、調整処理を行わない。低周波閾値としては、例えば、1G(9.8m/s)等とする。詳細は、後述する。
 これにより、例えば、道路における大きめの段差を通過時などの一時的に大きな車両の揺れに関しては、表示位置調整処理を行わないようにして安定性を確保することができる。
 高周波成分調整部224は、分離部222で分離された高周波成分に基づいて、画像メモリ151への書き込み位置を調整する等の高周波成分調整処理を行う。本実施形態では、高周波成分調整処理は、この振動の高周波成分を打ち消すようにメモリ制御部152に画像処理を行わせる画像処理指示を出力する処理である。より具体的には、この振動の高周波成分を打ち消すように画像メモリ151への書き込み位置を変化させるよう、メモリ制御部152にアクセス位置調整信号を出力する画像メモリアクセス制御処理である。振動の高周成分は、走行中の道路の路面状態に起因する振動である。例えば、砂利道など未舗装の道路を走行中等に発生する。
 なお、本実施形態では、高周波成分調整部224も、検出された加速度の値が予めさだめた閾値(高周波閾値)以上の場合は、画像処理指示、すなわち、アクセス位置調整信号を出力しない。ここでは、高周波成分調整部224は、所定のサンプリング間隔で、BPF226の出力値(加速度)を検出し、その絶対値が高周波閾値以上の場合は、調整処理を行わない。高周波閾値としては、例えば、0.5G等とする。詳細は、後述する。
 これにより、周期的に細かい振動のブレでも大きい場合は表示位置調整処理を行わないので、虚像表示の安定性を確保することができる。
 表示制御部230は、画像生成部214が生成した画像を、映像表示装置130が表示する映像として生成する表示制御処理を行う。これを実現するため、表示制御部230は、歪み補正部231と、表示素子駆動部232と、表示距離調整部233と、を備える。
 歪み補正部231は、画像生成部214が生成した画像を、映像表示装置130によってウインドシールド330に投射した場合に、ウインドシールド330の曲率によって生じる映像の歪みを画像処理により補正する。
 表示素子駆動部232は、歪み補正部231による補正後の画像(映像データ)に応じた駆動信号を表示素子133に対して送り、投射する映像を生成させる。
 表示距離調整部233は、虚像の表示距離を調整する必要がある場合に、表示距離調整機構(不図示)を駆動して、映像表示装置130から投射される映像の表示距離を調整する。
 なお、上記表示位置調整部220とは別に、ミラー141の表示領域の位置を調整する処理部として、ミラー調整部(不図示)を備えていてもよい。これは、車両300の傾きや振動とは別に、虚像の表示領域の位置を調整する必要がある場合に、ミラー駆動部142を介してミラー141の角度を変更し、虚像の表示領域を上下に移動させる処理部である。
 <低周波成分調整処理>
 次に、低周波成分調整部223による、低周波成分調整処理の詳細について説明する。
 図7(a)~図7(c)は、本実施形態の低周波成分調整部223による表示位置調整処理である低周波成分調整処理の概要を説明するための図である。低周波成分調整処理は、ウインドシールド330上の虚像の表示位置を、ミラー141の角度を調整することで、上下に制御する処理である。
 図7(a)~図7(c)において、上段には車両300が走行中の道路の勾配の状況と、運転者910の視野の状況を側面から見た状態を模式的に示している。また、下段には、それぞれの走行状態において、運転者910が見る車外の前方の実景と、これに重畳して表示される虚像630の表示領域(破線枠の矩形;虚像表示領域610と呼ぶ。)の位置を模式的に示す。本実施形態では、道路上を走行する前方の車両の実景620に、AR機能により虚像630(例えば、感嘆符のマーク、もしくは、画像)を重畳させて表示する。
 図7(a)は、上段に示すように、車両300が、平坦な道路を走行している場合の例である。すなわち、現在地の道路の勾配と前方の道路の勾配とが略同一である。この場合は、下段に示すように、前方の車両の実景620に、虚像630を重畳させて表示するには、虚像表示領域610の上下方向の位置は変更しなくてよい。
 図7(a)に示す虚像表示領域610の位置が、上下方向の基本表示位置611とする。
 図7(b)は、上段に示すように、車両300の前方の道路が下り勾配である場合の例である。すなわち、現在値の勾配が前方の勾配より大きい場合である。この場合は、上段に示すように、車両300の位置における勾配に基づく運転者910の視野の高さ(図中の実線枠)が、前方の道路の高さより高い。前方の道路の路面を視野に入れるには視野を下方向に移動させる(図中の点線枠)必要がある。
 この場合、下段に示すように、虚像表示領域610の表示位置が基本表示位置(点線枠の矩形)611のままでは、車外の前方の実景620にAR機能により虚像630を重畳させることができない。重畳させて表示するには虚像表示領域610の表示位置を基本表示位置611より下方向に移動させる必要がある。
 同様に、図7(c)は、車両300の前方の道路が上り勾配である場合の例である。すなわち、現在値の勾配が前方の勾配より小さい場合である。この場合も、上段の図に示すように、車両300の位置における勾配に基づく運転者910の視野の高さ(図中の実線枠)が、前方の道路の高さより低い。前方の道路の路面を視野に入れるには視野を上方向に移動させる(図中の点線枠)必要がある。
 この場合も、下段に示すように、虚像表示領域610の表示位置が基本の表示位置(点線枠の矩形)611のままでは、車外の前方の実景620にAR機能により虚像630を重畳させることができない。重畳させて表示するには虚像表示領域610の表示位置を基本表示位置611より上方向に移動させる必要がある。
 なお、このような表示位置の揺れは、道路の勾配に起因するものに限られない。例えば、車両300の走行中のブレーキやアクセルの操作により、車体が前のめりの姿勢になる(ブレーキ操作時)、逆に車体が後方に反り返る姿勢になる(アクセル操作時)場合など、運転者の操作によっても発生する。これらの場合にも、図7(b)、図7(c)の例と同様に、ミラー141の角度を調整することで虚像630の表示位置を適宜移動させる必要がある。
 本実施形態では、この道路の勾配の変化または制動、加速による、車体の傾きの変化を、加速度センサ110で検出し、変化量に応じて調整する。調整は、ミラー141の傾きを制御し、虚像630の上下方向の表示位置を、図7(b)、図7(c)に示すように、調整する。
 <高周波成分調整処理>
 次に、高周波成分調整部224による、高周波成分調整処理の詳細について説明する。
 図8(a)および図8(b)は、本実施形態の高周波成分調整部224による表示位置調整処理である高周波成分調整処理の発生原因を説明するための図である。すなわち、図8(a)および図8(b)は、車両300の振動に伴う、虚像631のブレについて説明する模式図である。
 これらの図において、621は、ウインドシールド330越しに見える歩行者の実景(以下、歩行者621と呼ぶ。)であり、631は、歩行者がいることを、運転者に注意喚起するためにウインドシールド330上に表示される虚像である。虚像631は、例えばカメラ116で撮像された撮影画像から、画像処理によって検出される。
 図8(a)は、舗装された道路などの平坦な道路での車両300の走行時の状態を示す。この場合、車両300はほとんど振動することがない。したがってAR-HUD100によりウインドシールド330上に表示された虚像631と歩行者621とにはブレが生ずることはない。
 一方、図8(b)は、未舗装の悪路や砂利道など、比較的細かい凹凸のある道路での車両300の走行時の状態を示す。この場合、図8(b)の上部に示すように車両300自体が細かく振動する。別の言い方をすると、車両300は、周波数の高い振動を生じる。このような走行状態では、ウインドシールド330上に表示された虚像631に対しても、図8(b)の下部に示すように、上下あるいは左右に細かなブレが生じる。結果として、虚像631に対して歩行者621は、車両300に生じたブレの分、上下方向にずれた位置に見える。これは、運転者910にとっては見づらい。
 上記したような、走行中の車両300において、周波数の比較的高い車体の振動に伴って発生する虚像631のブレを補正するには、ミラー141の角度を変えることによる表示位置制御(低周波成分調整処理;ミラー調整処理)では、対応が難しい。これは、ミラー調整処理では、ステッピングモータ等を用いたメカニズムを介して表示位置制御が行われるため、虚像631の表示位置変更に時間がかかるためである。
 したがって、図8(b)の下部に示す虚像のブレを効果的に補正するためには、処理時間のより短い補正技術が必要となる。本実施形態では、これを、画像メモリ151に書き込む位置(アドレス)を制御することにより、実現する。
 図9(a)~図9(c)は、高周波成分調整部224による、高周波成分調整処理について説明するための図である。
 図9(a)に、ブレのない状態で表示された虚像631と歩行者621を示す。図9(b)に、本来見えるべき位置から上側にずれた状態で表示された歩行者621を、図9(c)に、本来見えるべき位置から下側にずれた状態で表示された歩行者621を、それぞれ示す。
 図9(b)および図9(c)は、例えば、車両300が未舗装道路などの悪路を走行中に発生する。このような悪路上を走行中、車両300は絶えず振動し、ウインドシールド330越しに見える歩行者621の表示位置は、上下方向へのずれを繰り返す。
 このような場合、これらのブレを解消するためには、虚像631の表示位置をブレ方向に追随してずらして表示させればよい。すなわち、図9(b)および図9(c)に、示すように矢印方向にずらして表示させればよい。
 これを実現するために、本実施形態の高周波成分調整部224は、画像処理を行うようメモリ制御部152に画像処理指示を出力する。具体的には、図9(b)に示すように、歩行者621が上側にずれた場合、虚像631を一時的に蓄積する画像メモリ151の書き込み位置を、ずれた量だけ、上側に変位させて書き込むアクセス位置調整信号を出力する。一方、図9(c)に示すように、歩行者621が下側にずれた場合、画像メモリ151の書き込み位置を、その分、下側に変位させて書き込むアクセス位置調整信号を出力する。
 画像メモリ151において、変位させて書き込む位置は、走行中の車両300の振動の振幅に応じて決定される。車両300の振動に関する情報は、加速度センサ110からの出力に基づいて算出される。加速度センサ110からの情報は、車両情報取得部211で取得され、表示位置調整部220の振動検出部221において振動情報として計算される。得られた振動情報は、分離部222に送られ、高周波成分が抽出される。
 高周波成分調整部224では、高周波成分の振動情報(振動方向および振幅)に基づき、振動によって生じる虚像631のブレを抑圧する変位量を算出する。そして、算出した変位量分、画像メモリ151の書き込み位置(書き込みアドレス)を変化させた書き込みアドレスをメモリ制御部152に送る。メモリ制御部152は、受け取ったアドレスに、虚像631を書き込む。
 なお、ここでは、画像メモリ151の書き込みアドレスを変化させることで虚像631のブレを抑圧(補正)する場合について記載したが、画像メモリ151から画像を読み出す位置(読み出しアドレス)を変化させてもよい。
 また、加速度センサ110からの情報は、虚像631として生成される1枚の画像ごとに取得すればよい。すなわち、虚像631の表示レート(フレームレート)に応じて取得すればよい。
 例えば、虚像631が30フレーム/秒のフレームレートであれば、30分の1秒ごとにセンサ信号(加速度信号)を取得する。取得したセンサ信号に基づき、ブレ量(変位量)を高周波成分調整部224が計算し、その計算結果から得たアクセス位置調整信号をメモリ制御部152に送る。この場合、センサ信号のサンプリング周波数は33msec(ミリ秒)となる。また、虚像631のフレームレートを120フレーム/秒等、より高速のフレームレートとすれば、上記サンプリング周波数は1/120秒、すなわち、8.3msec(ミリ秒)となり、より高速のサンプリングとなる。これにより、車両300の振動に伴う、虚像のブレをより高い精度で補正できる。
 次に、表示素子133上の位置と、画像メモリ151のアドレスとの関係を説明する。図10(a)に、表示素子133上の位置を、図10(b)に、画像メモリ151のアドレスを、それぞれ示す。
 641は、表示する虚像パターンである。ここでは、便宜上、メモリアドレスとして、縦方向はAからZまでの26アドレス、横方向は1から52までの52アドレスを有するものとする。またこの縦横アドレスと、表示素子133上の画素(ピクセル)とは1対1に対応しているものとする。
 このようなアドレスの場合、アドレスF30に記憶されているピクセル情報を下方に1ピクセルだけ移動して表示させたい場合は、アドレスF30をE30に変更すればよい。同様に、アドレスF30のピクセル情報を右方向に1ピクセル移動して表示させたい場合は、アドレスをF31に変更すればよい。したがって、本実施形態の高周波成分調整部224は、このようなアクセス位置調整信号を、メモリ制御部152に出力する。
 このように、メモリの書き込みおよび/または読み出しアドレスを変更(制御)することで、縦横いずれも方向にも任意のピクセル数だけ、虚像641の表示位置を移動することができる。この方法によって、画素単位で表示素子133上の画素位置を変更することが可能である。したがって、本実施形態の高周波成分調整部224によれば、車両300のウインドシールド330上に虚像631として表示される映像を、フレーム単位時間ごとに移動して表示することができる。
 なお、図10(a)および図10(b)に示す例では、表示素子133上の映像(最終的には虚像631として運転者910に認識される)の表示範囲652は、車両300の振動に伴うブレ量を考慮して決定される。
 例えば、表示素子133の周囲5%の画素は通常走行時の表示には使わず、ブレ補正のための緩衝領域651としてしてもよい。すなわち、表示素子133上の緩衝領域651は、ブレ補正が必要となった場合にのみ、高周波成分調整部224の制御に基づき、表示領域として使用する。緩衝領域651は、あらかじめ確保しておく。
 <虚像表示処理>
 本実施形態のAR-HUD100による虚像表示処理の流れを説明する。図11は、本実施形態の虚像表示処理の処理フローである。本処理は、AR-HUD100が起動され、初期動作を終え、HUD-ON信号を受信後、通常動作として開始される。なお、ミラー141は、初期位置に調整されているものとする。
 まず、車両情報取得部211は、車両300に備えられた各種センサから、センサ信号を、車両情報410として取得する(ステップS1101)。なお、センサ信号は、上述のように、虚像631表示のフレームレートに応じて定まる所定間隔で取得される。
 次に、光源調整部213は、照度センサ105、色度センサ106等により取得した外光情報に基づいて、明るさレベル調整処理を行う(ステップS1102)。
 ここでは、光源調整部213は、まず、取得した外光情報に基づいて好適な明るさレベル(目標レベル)を算出する。そして、現状設定されている明るさレベル(現状レベル)と比較することにより、明るさレベルの変更の要否を判定する。そして、変更が不要と判定した場合は、そのまま明るさレベル調整処理を終了する。一方、変更が必要と判定した場合は、光源131の発光量を制御して、変更後の明るさレベルとなるように設定し、明るさレベル調整処理を終了する。
 なお、光源調整部213は、目標レベルと、現状レベルとの間に差分がある場合でも、差分が所定の閾値未満の場合は、明るさレベルの変更を行わないよう構成してもよい。
 次に、画像生成部214は、取得した車両情報410に応じて、虚像631として表示する画像を生成する(ステップS1103)。ここでは、まず、画像の形状(パターン)を生成し、その後、算出した明るさレベルに基づいて、その画像の明るさ等を調整する。あるいは、現状、虚像631として表示されているものから、必要に応じて変更し、変更後の画像を、表示映像として決定する。
 なお、表示映像のパターンは、取得した車両情報410の内容やそれらの組み合わせ等に応じて多数のものがあり得る。例えば、速度表示(数値)、ナビゲーション情報に基づく案内の矢印図形などである。速度表示であれば、車両情報410、すなわち、変化する速度に応じて、その時点での速度を示す数値を変化させる。また、ナビゲーション情報に基づく案内の矢印図形は、ナビゲーションの進行に伴い、表示したり、消去したり、矢印の形状や表示位置等を変更したりする。
 次に、表示位置調整部220は、車両300の走行状況に応じて、視認性や表示内容の適切性を維持するため、虚像631の表示位置の調整処理を行う(ステップS1104)。表示位置調整処理は、車両情報410の加速度信号に基づいて検出した振動に応じて、ミラー141の角度や、メモリ書き込み位置を調整する処理である。
 本実施形態では、まず、分離部222が、加速度信号を、低周波成分と高周波成分とに分離する(ステップS1104a)。そして、低周波成分調整部223が、低周波成分調整処理として、ミラー角度調整処理を行い(ステップS1104b)、高周波成分調整部224が、高周波成分調整処理として、メモリ書き込み位置調整処理(ステップS1104c)を行う。各処理の詳細な流れは、後述する。このように、AR-HUD100により表示される虚像631の表示位置を適宜調整・制御することで、虚像の視認性が改善される。
 なお、ここでは、ミラー角度調整処理(S1104b)を行ったあとに、メモリ書き込み位置調整処理(S1104b)を行う場合を例示するが、処理順は、これに限定されない。適宜、順序を入れ替えてもよいし、一方だけの処理を行う場合や、両方の処理を行わない場合もありうる。
 表示位置調整処理を終えた画像に対し、表示制御部230は、表示制御処理を行う(ステップS1105)。本実施形態では、例えば、歪み補正部231が歪みを補正する処理を実施し、表示素子駆動部232が表示素子133を駆動・制御して、投射する映像を形成させ、引き続き、必要に応じて、表示距離調整部233により、虚像631の表示距離を決定し、上記表示距離となるように表示距離を制御する。
 以上の各処理を、AR-HUD100をOFFする信号を受信するまで、繰り返す(ステップS1106)。OFFする信号を受信したら、処理を終了する。
 <低周波成分調整処理>
 次に、ステップS1104bの低周波成分調整処理の詳細について説明する。図12は、本処理の処理フローである。本実施形態では、取得した加速度センサ110からの出力値が、1G未満である場合、ミラー角度を調整するミラー調整処理を行う。
 低周波成分調整部223は、分離部222から、LPF225処理後の、センサ信号(加速度)の低周波成分を取得する(ステップS1201)。本実施形態では、0.5Hz以下の成分を取得する。
 次に、低周波成分調整部223は、取得した加速度(車両300の車体にかかる加速度)が1G以上であるか否かを判別する(ステップS1202)。
 1G以上である場合(S1202;Yes)、そのまま処理を終了する。
 一方、1G未満である場合(S1202;No)、低周波成分調整部223は、ミラー調整処理を行い(ステップS1203)、処理を終了する。ミラー調整処理では、加速度から導き出される変位量を算出し、ミラー141の駆動量とする。そして、ミラー駆動部142に対し、その分、ミラー141を駆動するよう、駆動信号(駆動指示)を出力する。詳細は、後述する。
 このように、低周波成分調整処理において、処理を行う最大加速度(本例では、1G)を設定しておくことで、表示位置制御の安定性を確保できる。すなわち、例えば、大きめの段差を通過する時など、一時的に大きな車両300の揺れに関しては、表示補正を抑制できる。
 <ミラー調整処理>
 次に、ステップS1203の低周波成分調整部223によるミラー調整処理の詳細について説明する。図13は、ミラー調整処理の処理フローである。加速度が1G未満の場合、本処理が開始される。
 低周波成分調整部223は、まず、現在のミラー141の角度を取得する(ステップS1301)。また、取得した加速度に基づいて、ミラー141の角度の調整に関連するパラメータの現在値を取得する(ステップS1302)。
 ここで、必要となるパラメータの種類は、どのような条件で表示領域の表示位置を調整するかにより異なり得る。例えば、図7(a)~図7(c)に示す例では、車両300の現在位置の勾配と、前方の道路の勾配との差分(相対的な勾配)を示す値が必要である。現在位置の勾配は、例えば、加速度姿勢情報、すなわち、加速度センサ110やジャイロセンサ111で得られる、車両300の傾きの情報から算出できる。また、前方の道路の勾配は、車外カメラ116の映像情報を解析することで得られる。なお、ナビゲーション情報から得られる3次元の道路・地形情報等に基づいて現在位置および前方の道路の勾配を得ることも可能である。
 次に、ステップS1302で取得したパラメータ値に基づいて、予め定められた基準・条件等に基づいてミラー141の目標角度を算出する(ステップS1303)。どのパラメータに基づいてどのようなロジックで目標角度を算出するかは、虚像表示領域610の表示位置の調整条件により異なる。
 例えば、相対的な勾配の絶対値が所定以上の場合のみ、ミラー141の目標角度を決定してもよい。この場合、判別に用いる閾値は、例えば、虚像表示領域610の上下方向のFOV(Field Of View:視野角)の1/x(xは所定の値)などとすることができる。
 なお、本実施形態では、ステップS1302で取得した現在のパラメータ値に基づいてミラー141の目標角度を算出する。しかし、現在のパラメータ値や過去の値の履歴の情報に基づいて近い将来の状況を予測し、予測結果に基づいて目標角度を算出するようにしてもよい。例えば、パラメータ値の過去の履歴に基づいて値の遷移の傾向を分析し、当該傾向に基づいて近い将来のパラメータ値を予測するようにしてもよい。
 また、車外の前方のカメラ映像情報を解析することで近い将来における車両300の周辺状況を予測したり、ナビゲーション情報に基づいて車両300の前方の道路状況を把握したりすることも可能である。
 次に、ステップS1301で取得したミラー141の現在の角度(現在角度)と、ステップS1303で取得したミラー141の目標とする角度(目標角度)との差分の有無を判定する(ステップS1304)。判定に際しては、例えば、予め定めた角度閾値を用いて行う。差分が角度閾値以上である場合に差分ありと判定し、角度閾値未満の場合には差分なしと判定する。
 角度の差分がないと判定された場合(S1304;No)は、そのままミラー調整処理を終了する。すなわち、ミラー141の角度の調整は行わず、現状の角度のままとし、処理を終了する。
 一方、角度の差分があると判定された場合(S1304;Yes)は、低周波成分調整部223は、目標角度となるように指定方向にミラー141を回転させる(ステップS1305)。具体的には、ミラー駆動部142に対してミラー141を回転させる駆動信号を出力する。
 そして、低周波調整部145は、ミラー141が目標角度に達したか否かを判定し(ステップS1306)、達していない場合(S1306;No)は、ステップS1305に戻ってミラー141の回転を継続する。すなわち、ミラー駆動部142に対する駆動信号の出力を継続する。
 一方、ミラー141が目標角度に達したと判定した場合は、低周波調整部145は、ミラー141の回転を停止する(ステップS1307)。すなわち、ミラー駆動部142に対する駆動信号の出力を停止し、処理を終了する。
 このような一連のミラー調整処理は、比較的周波数の低い車両300の揺れ全般に対して効果的である。
 また、上記ステップS1304において、角度閾値以上である状態が一定時間以上継続した場合に限り、差分ありと判定するようにしてもよい。これにより、例えば、車両300が縁石等の段差に乗り上げた場合など一時的・瞬間的に車両300の傾きが変化したような事象について、ミラー141の調整対象から除外することができる。
 <高周波成分調整処理>
 なお、より周波数の高い揺れ、すなわち車両300の振動に起因する、虚像表示領域610の表示位置のブレに対しては、上記のようなミラー調整処理では処理が追いつかず、効果が得られない場合がある。以下、このような車両300の振動による、虚像631のブレを補正する、高周波成分調整部224による高周波成分調整処理について記載する。
 図14は、ステップS1104bの高周波成分調整部224による高周波成分調整処理(メモリ書き込み位置調整処理)の処理フローである。
 高周波成分調整部224は、分離部222から、BPF226処理後の、センサ信号(加速度)の高周波成分を取得する(ステップS1401)。本実施形態では、0.5Hzから10Hzの成分を取得する。
 次に、高周波成分調整部224は、取得した加速度が、0.5G(4.9m/s)以上であるか否かを判別する(ステップS1402)。
 0.5G以上であれば(S1402;Yes)、高周波成分調整部224は、虚像631を表示するための画像メモリ151へのアクセス制御(ここでは、書き込み位置制御)を停止、もしくは、虚像631の表示を停止する(ステップS1404)。
 一方、加速度が0.5G未満と判別された場合(S1402;No)、高周波成分調整部224は、画像メモリアクセス制御処理を行い(ステップS1404)、処理を終了する。画像メモリアクセス制御処理では、加速度から導き出される画像のブレを補正するよう、画像メモリ書き込み位置をずらす。すなわち、メモリ制御部152に、書き込みアドレスを指示するアクセス位置調整信号を出力する。
 この場合、画像メモリ151に対してずらすべき書き込み位置は、走行中の車両300の振動の振幅に応じて決定される。車両の振動に関する情報は、加速度センサから計算で求めることもできるし、また、ジャイロセンサ(位置センサともいう)からの情報によって求めることができる。
 このように、高周波成分調整処理においても、処理を行う最大加速度を設定しておくことで、周期的に細かい振動のブレであっても、その振幅が大きい場合はブレ補正処理を行わないので、虚像表示の安定性を確保することができる。
 以上説明したように、本実施形態のAR-HUD100は、車両300の車両情報410を取得する車両情報取得部211と、車両情報410に基づいて、画像を生成する画像生成部214と、生成した画像を保持する画像メモリ151と、画像メモリ151に保持された画像からウインドシールド330に表示する映像を形成する映像表示装置130と、映像表示装置130が形成した映像を反射してウインドシールドに投射するミラー141と、車両情報410のうち、車両の振動量を示す信号である振動量信号に応じて、映像表示装置130が形成した映像の表示位置を調整する表示位置調整部220と、表示位置調整部220の指示に基づいてミラー141の角度を変化させるミラー駆動部142と、表示位置調整部220の指示に基づいて、画像処理を行うメモリ制御部152と、を備える。そして、表示位置調整部220は、振動量信号の、予め定めた振動閾値未満の周波数である低周波成分を打ち消すよう、ミラー141を駆動させる駆動指示をミラー駆動部142に出力する低周波成分調整部223と、振動閾値以上の周波数である高周波成分を打ち消すように画像処理を行う指示である画像処理指示を、メモリ制御部152に出力する高周波成分調整部224と、を備える。
 本実施形態によれば、AR-HUD100の、車両300の揺れによる虚像631の表示位置の変位を、低周波成分と高周波成分との分離し、それぞれ、別個に調整、補正処理を行う。低周波成分については、ミラー141を駆動させ、メカニカルに調整し、高周波成分については、画像メモリへのアクセス位置調整といった制御を行う。
 すなわち、本実施形態によれば、走行中の車両300における、比較的周波数の低い揺れに起因する表示映像(虚像)の位置ずれ、さらには、比較的周波数の高い振動に伴い発生する表示映像(虚像)のブレを、それぞれ最適な方法によって相殺あるいは補正する。
 したがって、それぞれの成分に最適な手法により調整を行うことができ、その結果、より高精度に表示位置の調整ができる。これにより、車両300に揺れが発生している場合であっても、虚像表示の違和感が抑えられる。すなわち、本実施形態によれば、車両300の走行状況に応じてウインドシールド330上に表示される虚像630の位置ずれやブレを抑圧し、虚像630を実景に対して適切に重畳させて表示できる。
 さらに、本実施形態によれば、低周波、高周波、それぞれ、最大値の制限を設けている。すなわち、振幅が、予め定めた範囲内である場合のみ、表示位置の調整を行う。これにより、大きめの段差を通過するときなど、一時的な大きな車両300の揺れによる過剰補正を排除できる。
 また、高周波の場合、周波数に上限を設けている。これにより、ノイズを適切に排除できる。
 これらの処理が相まって、より精度よく表示位置を調整でき、それに伴い、虚像表示の違和感をさらに抑えることができる。
 なお、上記実施形態では、変位方向が上下方向である場合を例にあげて説明したが、変位方向はこれに限定されない。上下、左右、前後、いずれの方向であってもよいし、これらが組み合わさっていてもよい。この場合、各方向について、それぞれ、上記手法で、表示位置の調整を行う。
 また、上記フローチャートにおいて、各ステップの処理は、ECU121により加速度の大小の判定や加速度の時間的変化を計算するものとしているが、これらの検出をハードウェアにより実行する構成としてもよい。
 また、本実施形態では、車両300の揺れの低周波成分に対しては、ミラー141を、揺れの高周波成分に対しては、画像メモリのアクセス制御を、それぞれ行う。これにより、ミラー141の駆動のみでは追随できない虚像631のブレ補正を行うことができる。
 一般に、揺れの低周波成分については、虚像631の表示位置の調整量が大きく、高周波成分については、調整量が小さい。本実施形態では、画像メモリのアクセス制御は、調整量の小さい高周波成分のみにとどめている。このため、両成分の調整を画像メモリアクセス制御で行う場合に比べて、図10(a)に示す緩衝領域651を少なくすることができ、画像メモリ151の容量を小さくできる。
 また、本発明を実現する構成はこれらの各実施形態および変形例に限られるものではなく、様々な変形例が考えられる。例えば、ある実施形態の構成の一部を他の実施形態の構成と置き換えることが可能であり、また、ある実施形態の構成に他の実施形態の構成を加えることも可能である。これらは全て本発明の範疇に属するものである。また、文中や図中に現れる数値やメッセージ等もあくまでも一例であり、異なるものを用いても本発明の効果を損なうことはない。
 なお、前述した各実施形態の機能等は、それらの一部または全部を、例えば集積回路で設計する等によりハードウェアで実現しても良い。また、マイクロプロセッサユニット等がそれぞれの機能等を実現するプログラムを解釈して実行することによりソフトウェアで実現しても良い。ハードウェアとソフトウェアを併用しても良い。ソフトウェアは、製品出荷の時点で、予めROM123等に格納された状態であっても良い。製品出荷後に、インターネット上の各種サーバ装置等から取得するものであっても良い。また、メモリカードや光ディスク等の記憶媒体に記憶されて提供されてもよい。
 また、図中に示した制御線や情報線は説明上必要と考えられるものを示しており、必ずしも製品上の全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えても良い。
 101:車速センサ、102:シフトポジションセンサ、103:ハンドル操舵角センサ、104:ヘッドライトセンサ、105:照度センサ、106:色度センサ、107:測距センサ、108:赤外線センサ、109:エンジン始動センサ、110:加速度センサ、111:ジャイロセンサ、112:温度センサ、113:路車間通信用無線受信機、114:車車間通信用無線受信機、116:車外カメラ、117:GPS受信機、118:VICS受信機、
 120:制御部、121:ECU、122:RAM、123:ROM、124:記憶装置、125:スピーカ、126:センサインタフェース、127:システムバス、
 130:映像表示装置、131:光源、132:照明光学系、133:表示素子、
 140:虚像光学系、141:角度調整可能ミラー、142:ミラー駆動部、143:固定ミラー、145:低周波調整部、151:画像メモリ、152:メモリ制御部、
 210:主制御部、211:車両情報取得部、212:音声出力部、213:光源調整部、214:画像生成部、
 220:表示位置調整部、221:振動検出部、222:分離部、223:低周波成分調整部、224:高周波成分調整部、225:LPF、225a:LPF回路、226:BPF、226a:BPF回路、
 230:表示制御部、231:歪み補正部、232:表示素子駆動部、233:表示距離調整部、
 300:車両、330:ウインドシールド、
 410:車両情報、
 610:虚像表示領域、611:基本表示位置、620:実景、621:歩行者、630:虚像、631:虚像、641:虚像、651:緩衝領域、652:表示範囲、910:運転者
 

Claims (9)

  1.  車両のウインドシールドに映像を投射するヘッドアップディスプレイ装置であって、
     前記車両の車両情報を取得する車両情報取得部と、
     前記車両情報に基づいて、画像を生成する画像生成部と、
     生成した画像を保持する画像メモリと、
     前記画像メモリに保持された前記画像から前記ウインドシールドに表示する映像を形成する映像表示装置と、
     前記映像表示装置が形成した前記映像を反射して前記ウインドシールドに投射するミラーと、
     前記車両情報のうち、車両の振動量を示す信号である振動量信号に応じて、前記映像表示装置が形成した映像の表示位置を調整する表示位置調整部と、
     前記表示位置調整部の指示に基づいて前記ミラーの角度を変化させるミラー駆動部と、
     前記表示位置調整部の指示に基づいて、画像処理を行うメモリ制御部と、を備え、
     前記表示位置調整部は、
     前記振動量信号の、予め定めた振動閾値未満の周波数である低周波成分を打ち消すよう、前記ミラーを駆動させる駆動指示を前記ミラー駆動部に出力する低周波成分調整部と、
     前記振動閾値以上の周波数である高周波成分を打ち消すよう、前記画像処理を行う指示である画像処理指示を、前記メモリ制御部に出力する高周波成分調整部と、を備えること
     を特徴とするヘッドアップディスプレイ装置。
  2.  請求項1記載のヘッドアップディスプレイ装置であって、
     前記画像処理は、前記画像メモリへのアクセス位置を調整するものであること
     を特徴とするヘッドアップディスプレイ装置。
  3.  請求項1記載のヘッドアップディスプレイ装置であって、
     前記表示位置調整部は、前記振動量信号を、前記低周波成分と、前記高周波成分とに分離する分離部をさらに備えること
     を特徴とするヘッドアップディスプレイ装置。
  4.  請求項1記載のヘッドアップディスプレイ装置であって、
     前記低周波成分調整部は、前記低周波成分の絶対値が、予め定めた低周波閾値以上の場合、前記駆動指示を出力しないこと
     を特徴とするヘッドアップディスプレイ装置。
  5.  請求項1記載のヘッドアップディスプレイ装置であって、
     前記高周波成分調整部は、前記高周波成分の絶対値が、予め定めた高周波閾値以上の場合、前記画像処理指示を出力しないこと
     を特徴とするヘッドアップディスプレイ装置。
  6.  請求項5記載のヘッドアップディスプレイ装置であって、
     前記高周波成分調整部は、前記高周波成分の絶対値が、予め定めた高周波閾値以上の場合、前記画像メモリに前記画像を保持させることを止める指示を、前記メモリ制御部に出力すること
     を特徴とするヘッドアップディスプレイ装置。
  7.  請求項1記載のヘッドアップディスプレイ装置であって、
     前記高周波成分調整部は、前記高周波成分のうち、予め定めた第二振動閾値以上の周波数である第二高周波成分を除いた高周波成分を用いて、前記画像処理指示を算出すること
     を特徴とするヘッドアップディスプレイ装置。
  8.  請求項1記載のヘッドアップディスプレイ装置であって、
     前記振動量信号は、前記車両の加速度を示す加速度信号であること
     を特徴とするヘッドアップディスプレイ装置。
  9.  請求項3記載のヘッドアップディスプレイ装置であって、
     前記分離部は、ローパスフィルタを用いて、前記低周波成分と前記高周波成分とに分離すること
     を特徴とするヘッドアップディスプレイ装置。
     
PCT/JP2020/044653 2019-12-24 2020-12-01 ヘッドアップディスプレイ装置 WO2021131529A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019233429A JP2023011960A (ja) 2019-12-24 2019-12-24 ヘッドアップディスプレイ装置
JP2019-233429 2019-12-24

Publications (1)

Publication Number Publication Date
WO2021131529A1 true WO2021131529A1 (ja) 2021-07-01

Family

ID=76573907

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2020/044653 WO2021131529A1 (ja) 2019-12-24 2020-12-01 ヘッドアップディスプレイ装置

Country Status (2)

Country Link
JP (1) JP2023011960A (ja)
WO (1) WO2021131529A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023240918A1 (zh) * 2022-06-17 2023-12-21 江苏泽景汽车电子股份有限公司 显示画面补偿方法、装置、电子设备及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS59224892A (ja) * 1983-05-31 1984-12-17 富士通株式会社 イメ−ジデ−タの回転・移動制御方式
JPS60209785A (ja) * 1984-04-04 1985-10-22 フアナツク株式会社 デイスプレイ装置の画面シフト器
JP2018172088A (ja) * 2017-03-31 2018-11-08 パナソニックIpマネジメント株式会社 表示装置、及び表示装置を備える移動体
US20190187481A1 (en) * 2017-12-19 2019-06-20 Ford Global Technologies, Llc Display projector operation

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS59224892A (ja) * 1983-05-31 1984-12-17 富士通株式会社 イメ−ジデ−タの回転・移動制御方式
JPS60209785A (ja) * 1984-04-04 1985-10-22 フアナツク株式会社 デイスプレイ装置の画面シフト器
JP2018172088A (ja) * 2017-03-31 2018-11-08 パナソニックIpマネジメント株式会社 表示装置、及び表示装置を備える移動体
US20190187481A1 (en) * 2017-12-19 2019-06-20 Ford Global Technologies, Llc Display projector operation

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023240918A1 (zh) * 2022-06-17 2023-12-21 江苏泽景汽车电子股份有限公司 显示画面补偿方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
JP2023011960A (ja) 2023-01-25

Similar Documents

Publication Publication Date Title
JP6629889B2 (ja) ヘッドアップディスプレイ装置
US10866415B2 (en) Head-up display apparatus
US10769831B2 (en) Head up display
US10754154B2 (en) Display device and moving body having display device
JP6409337B2 (ja) 表示装置
CN111433067A (zh) 平视显示装置及其显示控制方法
US11247565B2 (en) Virtual image display device
JP6890306B2 (ja) 画像形成システム、画像補正システム、画像表示システム、移動体、画像形成方法、及びプログラム
JP2019217790A (ja) ヘッドアップディスプレイ装置
JP6232691B2 (ja) 車両用表示制御装置、車両用表示装置及び車両用表示制御方法
JP6806914B2 (ja) 表示システム及び表示方法
WO2018167844A1 (ja) ヘッドアップディスプレイ装置とその画像表示方法
US10971116B2 (en) Display device, control method for placement of a virtual image on a projection surface of a vehicle, and storage medium
US10928632B2 (en) Display device, display control method, and storage medium
WO2021131529A1 (ja) ヘッドアップディスプレイ装置
JP7182368B2 (ja) 車載表示装置、車載表示装置を制御する方法及びコンピュータプログラム
JP6872441B2 (ja) ヘッドアップディスプレイ装置
CN110816409A (zh) 显示装置、显示控制方法及存储介质
CN110816268A (zh) 显示装置、显示控制方法及存储介质
JP2019132968A (ja) 表示装置
WO2024105899A1 (ja) ヘッドアップディスプレイ装置および乗り物
WO2023243213A1 (ja) ヘッドアップディスプレイ装置
JP2024029820A (ja) ヘッドアップディスプレイ装置および映像データの処理方法
JP2019207672A (ja) 表示装置
JP2019055676A (ja) 車両用表示装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20906199

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 20906199

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP