WO2021019989A1 - 画像処理装置、および画像処理方法、並びに表示部固定方法 - Google Patents

画像処理装置、および画像処理方法、並びに表示部固定方法 Download PDF

Info

Publication number
WO2021019989A1
WO2021019989A1 PCT/JP2020/025271 JP2020025271W WO2021019989A1 WO 2021019989 A1 WO2021019989 A1 WO 2021019989A1 JP 2020025271 W JP2020025271 W JP 2020025271W WO 2021019989 A1 WO2021019989 A1 WO 2021019989A1
Authority
WO
WIPO (PCT)
Prior art keywords
information
display unit
unit
reflective film
display
Prior art date
Application number
PCT/JP2020/025271
Other languages
English (en)
French (fr)
Inventor
英史 大場
Original Assignee
ソニーセミコンダクタソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーセミコンダクタソリューションズ株式会社 filed Critical ソニーセミコンダクタソリューションズ株式会社
Publication of WO2021019989A1 publication Critical patent/WO2021019989A1/ja

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays

Definitions

  • the present disclosure relates to an image processing device, an image processing method, and a display unit fixing method. More specifically, the present invention relates to, for example, an image processing device for displaying an image on a driver of an automobile, an image processing device for analyzing the line of sight and eye behavior of the driver, an image processing method, and a method for fixing a display unit.
  • a method for confirming whether a driver of a car is driving in a normal state that is, in a state of awakening with clear consciousness
  • a method of analyzing the driver's line of sight and eyeball behavior is known.
  • Patent Document 1 Japanese Unexamined Patent Publication No. 2011-152883
  • HUD head-up display
  • the output information of the display device placed in the dashboard of the vehicle is reflected by the mirror so that the driver can observe it, and the image of the driver who is viewing the display information is taken by a camera and analyzed.
  • the configuration to be used is disclosed.
  • the present disclosure has been made in view of the above-mentioned problems, for example, so that the driver can observe the displayed information without moving the line of sight looking ahead, which is the vehicle traveling direction, and at that time.
  • an image processing device capable of acquiring a photographed image from the front of the driver and analyzing the line of sight and eyeball behavior with high accuracy based on the photographed image, an image processing method, and a display fixing method. The purpose.
  • the first aspect of the disclosure is A display information output unit that outputs display information and It has an information display unit that displays information based on the output light of the display information output unit.
  • the information display unit The image processing apparatus is a display unit composed of a reflective film that selectively reflects wavelength light corresponding to the output light of the display information output unit.
  • the second aspect of the present disclosure is This is an image processing method executed in an image processing device.
  • the display information output is a display information output step that outputs display information by outputting light having one or more wavelengths.
  • the information display unit has an information display step for displaying information based on the output light of the display information output unit.
  • the information display step is
  • the image processing method is a step of selectively reflecting the wavelength light output by the display information output unit by the high-performance reflective film constituting the information display unit to display the information.
  • the third aspect of the present disclosure is This is a display unit fixing method for fixing the display unit to a curved surface having a predetermined curvature.
  • the display unit is a display unit composed of a reflective film that selectively reflects wavelength light corresponding to the output light of the display information output unit.
  • a step of deforming the reflective film formed on the substrate so as to have a radius of curvature smaller than the radius of curvature of the curved surface.
  • There is a display unit fixing method having a step of pressing a deformed reflective film against the curved surface and bringing the air between the reflective film and the curved surface into close contact with the surroundings.
  • system is a logical set configuration of a plurality of devices, and the devices having each configuration are not limited to those in the same housing.
  • a configuration is realized in which the face of the driver who is looking forward or looking at the display unit during driving can be photographed from the front.
  • it has a display information output unit and an information display unit that displays information based on the output light of the display information output unit.
  • the information display unit is composed of a reflective film that selectively reflects wavelength light corresponding to the output light of the display information output unit, and transmits wavelength light other than the wavelength light corresponding to the output light of the display information output unit.
  • the display information output unit outputs RGB wavelength light, and the information display unit selectively reflects RGB wavelength light.
  • the infrared light camera reflects infrared light, and the face of the driver looking at the display unit can be photographed from the front. With this configuration, it is possible to capture the face of the driver who is looking forward or looking at the display unit from the front while driving. It should be noted that the effects described in the present specification are merely exemplary and not limited, and may have additional effects.
  • FIG. 1 It is a figure which shows the example of the information display part set in the front window of a vehicle. It is a figure explaining the structure and processing of the image processing apparatus of this disclosure. It is a figure explaining the detail of the characteristic of the high-performance reflective film (narrow wavelength selective reflective film) which constitutes an information display part. It is a figure explaining the characteristic of the light transmittance of the high-performance reflective film (narrow wavelength selective reflective film) which constitutes an information display part. It is a figure explaining the arrangement example of the Eyelipse space corresponding to the distribution space of a driver's eye, and an information display part. It is a figure explaining an example of the reflection characteristic of the high-performance reflection film (narrow wavelength selective reflection film) which constitutes an information display part.
  • the image processing device of the present disclosure has a configuration in which the driver's eyeball can be photographed by a camera from the front of the driver. By photographing the driver's eyeball from the front of the driver's line of sight, the eyeball information included in the captured image can be maximized, and highly accurate line-of-sight tracking and line-of-sight behavior analysis become possible.
  • the image processing device of the present disclosure enables the driver's eyeballs to be photographed from the front of the driver, and the driver can photograph the road in front of the vehicle without blocking the visible light entering the driver's eyes from the front of the vehicle when the camera is photographed. Has a configuration that enables continuous observation of.
  • FIG. 1 is a diagram showing an example of an information display unit 20 set in the front window 10 of the vehicle.
  • the information display unit 20 is composed of a high-performance reflective film (narrow wavelength selective reflective film) that selectively reflects only light having a specific wavelength. Details of the characteristics of the high-performance reflective film (narrow wavelength selective reflective film) constituting the information display unit 20 will be described later.
  • the information display unit 20 has a characteristic of transmitting most of the visible light, and the driver can see through the information display unit 20 and the front window 10 without being disturbed in the front. ..
  • the information display unit 20 is a so-called head-up display (HUD: Head Up Display) type display unit.
  • the head-up display (HUD) can display information by superimposing it on the scenery in front of the driver while driving.
  • the head-up display has a configuration in which, for example, a lens or a concave mirror is used to generate and display a virtual image composed of display information in the front direction of the vehicle, which is the driver's field of view.
  • the driver can check the information displayed as a virtual image superimposed on the front view without significantly changing the line of sight.
  • a part of the image processing device is installed inside the console box of the vehicle, for example.
  • a data processing unit 101, a display information output unit 102, mirrors 103a and b, a camera 104, and a light emitting unit 105 are provided inside the console box of the vehicle.
  • Information generated by the data processing unit 101, information acquired from a storage unit (not shown), information acquired via a communication unit (not shown), or the like is displayed via the display information output unit 102.
  • Information display unit (high-performance reflective film) 20 Is output to.
  • the display information output by the display information output unit 102 is displayed on the information display unit (high-performance reflective film) 20 via the mirrors 103a and 103a and b.
  • the display information output by the display information output unit 102 is, for example, an RGB color image.
  • the driver 30 confirms by looking at the information displayed on the information display unit (high-performance reflective film) 20 while driving.
  • the information display unit (high-performance reflective film) 20 has a characteristic of transmitting most of visible light, and the driver 30 can see the information displayed on the information display unit (high-performance reflective film) 20 at the front. You can also see the scenery in front of the window 10.
  • the camera 104 of the image processing device is, for example, an infrared camera that captures infrared light.
  • the light emitting unit 105 irradiates the face region of the driver 30 with infrared light.
  • the camera 104 captures an image of the face region including the driver's eyeball.
  • the captured image is a captured image of infrared light reflected by the information display unit (high-performance reflective film) 20, a so-called infrared light image.
  • the solid line optical path shown in the figure is the display image height composed of the display information output from the display information output unit 102, and the dotted line shown in the figure is the camera input light input to the camera 104.
  • the line-of-sight direction of the driver 30 looking at the information displayed on the information display unit (high-performance reflective film) 20 while driving is the direction of the information display unit (high-performance reflective film) 20, and at this time, the camera 104
  • the image to be taken is an image of the driver 30's face and the driver's eyeball 30 taken from almost the front.
  • the image of the eyeball of the driver 30 taken from substantially the front is input to the data processing unit 101, and the data processing unit 101 performs image analysis. Specifically, the driver's line-of-sight tracking and eyeball behavior analysis are performed, and for example, the arousal degree determination process of the driver 30 is executed.
  • the image processing device of the present disclosure can take an image including the eyeball of the driver 30 from almost the front of the driver 30, it is possible to perform highly accurate eye-gaze tracking and eyeball behavior analysis.
  • the information display unit 20 is composed of a high-performance reflective film (narrow wavelength selective reflective film) that selectively reflects only specific wavelength light.
  • FIG. 3 is a graph showing wavelength (nm) on the horizontal axis and reflectance (%) on the vertical axis, and is a wavelength of incident light with respect to a high-performance reflective film (narrow wavelength selective reflective film) constituting the information display unit 20. It is a graph which shows the corresponding reflectance.
  • the high-performance reflective film (narrow wavelength selective reflective film) constituting the information display unit 20 is an RGB wavelength light, that is, each color of R (red), G (green), and B (blue). It has a reflectance characteristic in which the corresponding specific narrow wavelength region and the infrared light region having a wavelength of 750 nm or more have high reflectance and the other regions have low reflectance.
  • the display information output by the display information output unit 102 is an RGB color image
  • the display information output unit 102 outputs three types of wavelength light of R (red), G (green), and B (blue).
  • the narrow wavelength region with high reflectance corresponding to each of the R (red), G (green), and B (blue) colors in the graph shown in FIG. 3 corresponds to the output wavelength of each RGB color output by the display information output unit 102.
  • the driver can clearly see the RGB color image reflected by the information display unit 20, that is, the color image output by the information output unit 102.
  • the high-performance reflective film (narrow wavelength selective reflective film) constituting the information display unit 20 also strongly reflects infrared light components. Therefore, the infrared light emitted by the light emitting unit 105 shown in FIG. 2 is reflected by the face and eyeball surface of the driver 30, and further, a high-performance reflective film (narrow wavelength selective reflective film) constituting the information display unit 20. The reflected light is input to the camera 104. As a result, the camera 104 can capture a clear infrared image of the driver 30.
  • the high-performance reflective film (narrow wavelength selective reflective film) constituting the information display unit 20 is arranged diagonally by having a characteristic of reflecting infrared light on the long wavelength side of 750 nm or more. It also has the effect of suppressing red cut (blue shift) due to short wavelength shift, which tends to appear as a reflection characteristic of the front window.
  • the characteristics of the light transmittance of the high-performance reflective film (narrow wavelength selective reflective film) constituting the information display unit 20 will be described with reference to FIG. As shown in FIG. 4, the high-performance reflective film (narrow wavelength selective reflective film) constituting the information display unit 20 transmits about 95% of the light input from the outside.
  • the transmitted light that passes through the front window 10 and the information display unit 20 and enters the driver 30's eyes is about 100% of the amount of front view light from the front of the vehicle toward the inside of the vehicle. It is 95% and the reflected light is only about 5%. As a result, the driver 30 can clearly confirm the scenery in front of the vehicle through the information display unit 20 and the front window 10.
  • the reflection characteristics of the high-performance reflective film (narrow wavelength selective reflective film) constituting the information display unit 20 are an optical signal in an extremely narrow wavelength region corresponding to each RGB color. Although it has been described as being reflected, if the same wavelength light as these highly reflective wavelength lights is incident from the outside of the front window, it may be confused with the display information. For example, if the color of the signal and the color of the display are almost the same, it may cause confusion for the driver.
  • the wavelength of the RGB signal output by the display information output unit 102 is a wavelength light having a color different from the color used for the signal, the label, or the like.
  • the reflection characteristics of the high-performance reflective film (narrow wavelength selective reflective film) constituting the information display unit 20 are different from the colors used for signals, labels, etc. in the wavelength region with high reflectance. It is preferably in the wavelength region.
  • the high-performance antireflection film having the "reflection characteristics" described with reference to FIG. 3 and the "light transmission characteristics” described with reference to FIG. 4 can be formed of, for example, a silicon oxide film.
  • a high-performance film-like reflective film (information display unit) in which a plurality of films having reflection characteristics of R, G, B, infrared light, and each wavelength are laminated by a process of alternately forming a dielectric with high precision. ) Can be generated.
  • the position of the information display unit 20 on the front window 10 is the front by translating the space area of the Eyelipse 31 corresponding to the distribution space of the driver's eyes in the front direction of the vehicle. It is preferable that the window 10 is projected so that the center of the projection unit is approximately the center of the information display unit 20.
  • Eye lipse is a spatial area obtained as a result of analysis of the distribution of eye positions of drivers of various physiques.
  • Eyelipse is a spatial region having an elliptical rugby ball shape having a long axis in the front-rear direction of the vehicle, and is also called an eye range.
  • the display information output by the display information output unit 102 is an RGB color image. It is a characteristic corresponding to the case of.
  • the reflection characteristics of the high-performance reflective film (narrow wavelength selective reflection film) constituting the information display unit 20 have a narrow wavelength selective reflection characteristic that selectively reflects the wavelength of the light output by the display information output unit 102. do it. That is, for example, when the output light of the display information output unit 102 is configured to output wavelength light of a single color, specifically, one color of B (blue), a high-performance reflective film (narrow wavelength selectivity) constituting the information display unit 20
  • the reflection characteristics of the reflective film may be as shown in FIG.
  • FIG. 6 has a reflectance characteristic in which the specific narrow wavelength region corresponding to B (blue) and the infrared light region having a wavelength of 750 nm or more have high reflectance and the other regions have low reflectance.
  • the display information output by the display information output unit 102 is a B (blue) monochromatic image
  • the display information output unit 102 outputs wavelength light of only B (blue).
  • the high reflectance narrow wavelength region of the B (blue) region in the graph shown in FIG. 6 corresponds to the B (blue) color output wavelength output by the display information output unit 102.
  • the B (blue) color light output by the display information output unit 102 is selectively reflected by the high-performance reflection film (narrow wavelength selective reflection film) constituting the information display unit 20.
  • the driver can clearly see the B (blue) monochromatic image reflected by the information display unit 20, that is, the B (blue) monochromatic image output by the information output unit 102.
  • the monochromatic image output by the information output unit 102 is a monochromatic image of B (blue) monochromatic color
  • the monochromatic image output by the information output unit 102 is a monochromatic image of R (red) color.
  • the reflectance of the high-performance reflective film (narrow wavelength selective reflective film) constituting the information display unit 20 is enhanced by increasing the reflectance of a specific narrow wavelength region corresponding to R (red), and the wavelength regions of B and G are increased. The low reflectance may be used.
  • the reflection characteristics of the high-performance reflective film (narrow wavelength selective reflective film) constituting the information display unit 20 are determined.
  • the reflectance in a specific narrow wavelength region corresponding to G (green) may be increased, and the reflectance may be low in the wavelength regions of R and B.
  • the reflection characteristic of the high-performance reflective film (narrow wavelength selective reflection film) constituting the information display unit 20 is the narrow wavelength selective reflection characteristic that selectively reflects the wavelength of the light output by the display information output unit 102. It may be configured to have. By configuring the information display unit 20 having such characteristics, the driver can clearly see the image output by the information output unit 102.
  • the information display unit 20 has a characteristic of reflecting the wavelengths of light output by the display information output unit 102, for example, each wavelength of RGB and an infrared light wavelength.
  • the reflected light of the infrared light in the information display unit 20 is used for taking an infrared light image by the camera 104.
  • the infrared light reflector for inputting infrared light as the camera-photographed light into the camera may have an independent configuration separate from the information display unit 20.
  • FIG. 7 shows a specific example of a configuration in which an infrared light reflecting unit independent of the information display unit is provided.
  • the difference between the configuration shown in FIG. 7 and the configuration described above with reference to FIG. 2 is that an independent infrared light reflecting unit 50 is provided.
  • the infrared light reflecting unit 50 reflects the infrared light emitted by the light emitting unit 105 on the face region of the driver 30 and causes the camera 104 to input the infrared light.
  • the camera 104 captures an image of the face region including the driver's eyeball.
  • the captured image is a captured image of infrared light reflected by the infrared light reflecting unit 50, that is, a so-called infrared light image.
  • An example of the reflection characteristics of the infrared light reflecting unit 50 is shown in FIG.
  • the infrared light reflecting unit 50 has a reflecting characteristic that only infrared light is reflected and other light, for example, light in the RGB wavelength region is transmitted.
  • the infrared light reflecting unit 50 reflects only infrared light, and transmits other light, for example, light in the RGB wavelength region. Therefore, the driver 30 can see the information displayed on the information display unit 20 and the front view through the information display unit 20 and the front window 10 without being disturbed.
  • the degree of freedom in arranging the camera 104 can be increased.
  • the high-performance reflective film (narrow wavelength selective reflective film) constituting the information display unit 20 to the front window 10. Is. That is, a manufacturing process is required in which the high-performance reflective film is brought into close contact with the inner glass surface of the front window 10 and laminated and fixed.
  • the high-performance reflective film is closely fixed to the inner glass surface of the front window 10 by the following process.
  • Process 1 First, a film-like high-performance reflective film (information display unit) in which a plurality of films having reflection characteristics of R, G, B, infrared light, and each wavelength are laminated is generated. This process (process 1) can be executed by a process of alternately forming a conventional dielectric with high accuracy.
  • Process 2 the high-performance reflective film produced in the above-mentioned (process 1) is fixed on the substrate (hard film).
  • the substrate for fixing, for example, it is temporarily fixed with an adhesive or the like.
  • an adhesive that can release the adhesive force by a release agent or heat is used.
  • process 2 The following steps (process 2) will be described with reference to FIG. By the above (process 2), the information display unit (high-performance reflective film) 20 temporarily fixed to the substrate 21 shown in FIG. 9 (process 2) is generated.
  • the inner glass surface of the front window 10 to which the information display unit (high-performance reflective film) 20 is closely fixed is not a flat surface but a curved surface having a predetermined radius of curvature.
  • Rws be the radius of curvature of the inner glass surface of the front window 10.
  • a gas such as air is injected into the central portion of the information display unit (high-performance reflective film) 20, and the information display unit (high-performance reflective film) 20 is subjected to the radius of curvature of the inner glass surface of the front window 10.
  • the convex processing is performed so as to have a radius of curvature smaller than Rws.
  • Rref the radius of curvature of the information display unit (high-performance reflective film) 20 generated by the deformation processing of the information display unit (high-performance reflective film) 20.
  • the information display unit (high-performance reflective film) 20 has a shape that is larger than the inner glass surface of the front window 10 and is curved inward.
  • a gas such as air is injected into the central portion of the information display unit (high-performance reflective film) 20 temporarily fixed on the substrate, and the information display unit (high-performance reflective film) 20 is formed. It is deformed into a shape that is bent inward larger than the inner glass surface of the front window 10.
  • Process 4 is a process of fixing the information display unit (high-performance reflective film) 20 on the substrate 21 at a fixed position on the inner glass surface of the front window 10.
  • This bonded adhesive does not necessarily have to be a film method having adhesiveness at the time of bonding, and may be, for example, a material that is cured by a polymerization reaction due to photoactivity such as visible light, ultraviolet rays, or infrared rays.
  • FIG. 11 shows a state in which the central portion of the information display unit (high-performance reflective film) 20 on the substrate 21 is in contact with the inner glass surface of the front window 10. From this position, the substrate 21 is further pressed toward the front window 10. By this pressing process, the information display unit (high-performance reflective film) 20 on the substrate 21 is deformed so that its curvature approaches the curvature of the front window 10.
  • the curvature of the information display unit (high-performance reflective film) 20 on the substrate 21 matches the curvature of the front window 10, and the information display unit (high-performance reflective film) 20 adheres to the front window 10 and adheres as it is. It is fixed by the agent.
  • Process 5 The process of (process 5) will be described back to FIG. In (process 5), the substrate 21 temporarily fixed to the information display unit (high-performance reflective film) 20 is removed from the information display unit (high-performance reflective film) 20.
  • the adhesive that temporarily fixes the substrate 21 and the information display unit (high-performance reflective film) 20 is an adhesive that can release the adhesive force by a release agent, heat, or the like, and releases the adhesive force. Can be peeled off.
  • the information display unit (high-performance reflective film) 20 can be closely fixed to the inner glass surface of the front window 10 having a predetermined curvature.
  • the arrangement position of the information display unit 20 on the front window 10 is such that the space area of the Eyelipse corresponding to the distribution space of the driver's eyes is the front of the vehicle. It is preferable that the vehicle moves in parallel in the direction and is projected onto the front window 10 so that the center of the projection unit is approximately the center of the information display unit 20.
  • the process of closely fixing the information display unit (high-performance reflective film) 20 to the inner glass surface of the front window 10 having a predetermined curvature is not limited to the above-mentioned process, and other methods can also be applied.
  • Process 2B to Process 5B shown in FIG. 12 will be described.
  • the information display unit (high-performance reflective film) 20 is aligned with the front window 10 in a state of being stretched on a magnetic flexible auxiliary base material, and temporarily attached.
  • the glass surface and the adhesive material cured by the photocuring treatment are applied to the front window 10 side of the information display unit (high-performance reflective film) 20.
  • a flexible auxiliary base material wider than the information display unit (high-performance reflective film) 20 and a peripheral portion thereof are coated with an adhesive for temporary fixing.
  • the information display unit (high-performance reflective film) 20 can be attached to the front window 10.
  • the information display unit (high-performance reflective film) 20 can be pressed against the front window 10 surface by placing an electromagnetic chuck in the chamber opposite to the attachment surface and energizing it. It can be executed even in a vacuum.
  • the pressure in the cover (chamber) may be returned to atmospheric pressure once at least the outer periphery of the magnetically magnetic flexible auxiliary base material can be temporarily fixed to the extent that it can be sealed with the surface of the front window 10.
  • the atmosphere does not leak between the information display unit (high-performance reflective film) 20 and the front window 10 surface.
  • the information display unit (high-performance reflective film) 20 is fixed to the front window 10 surface using a photocurable adhesive.
  • the information display unit (high-performance reflective film) 20 can be closely fixed to the inner glass surface of the front window 10 having a predetermined curvature.
  • FIG. 13 is a diagram showing a configuration example of the image processing device 100 of the present disclosure.
  • the data processing unit 101, the display information output unit 102, the information display unit 20, the camera 104, and the light emitting unit 105 correspond to the components shown in FIGS. 2 and 7.
  • the display information generation / acquisition unit 151 of the data processing unit 101 acquires or uses the display information stored in the storage unit 171 or the display information to be presented to the driver from the outside via the communication unit 172. Generate display information based on.
  • the display information generated or acquired by the display information generation / acquisition unit 151 is output to the information display unit 20 via the display information output unit 102.
  • the information display unit 20 is composed of a high-performance reflection film (narrow wavelength selective reflection film) that selectively reflects only specific wavelength light, and is a display unit laminated on the front window of the vehicle. is there.
  • a high-performance reflection film narrow wavelength selective reflection film
  • the reflection characteristics of the high-performance reflective film (narrow wavelength selective reflective film) constituting the information display unit 20 are the light output by the display information output unit 102. It has a narrow wavelength selective reflection characteristic that selectively reflects wavelengths.
  • the high-performance reflective film (narrow wavelength selective reflection film) constituting the information display unit 20 is each of the RGB outputs by the display information output unit 102. It selectively and strongly reflects the wavelength of the signal. As a result, the driver can clearly see the RGB color image reflected by the information display unit 20, that is, the color image output by the information output unit 102.
  • the light emission control unit 152 executes light emission control of the infrared light emitted by the light emission unit 105.
  • the infrared light emitted by the light emitting unit 105 is reflected by the driver's face and the surface of the eyeball, and further, a high-performance reflective film (narrow) constituting the information display unit 20. It is reflected by the wavelength-selective reflecting film) or the infrared light reflecting unit 50 shown in FIG. 7, and the reflected light is input to the camera 104.
  • the camera 104 captures an image including the driver's eyeball from substantially the front of the driver according to the configurations of FIGS. 2 and 7 described above. This captured image is input to the driver eye behavior analysis unit 153 of the data processing unit 101.
  • the light emitting unit 105 does not necessarily have to be separated from the viewing angle of the camera 104.
  • the visual shielding cross-sectional dimension is set to a micro LED of about 1 mm 2 or the like so as to be within the driver's direct field of view range. It may be configured to be distributed. With this configuration, it is possible to suppress the driver's visual obstruction and effectively illuminate the face and eyes.
  • the driver's line of sight can be transferred to the information display unit (high-performance reflective film) 20.
  • Observation may be performed by the camera 104 via reflection.
  • the light source used for the line-of-sight observation for example, an infrared light micro LED array as shown in FIG. 14 is used.
  • a surface-mounted directional LED that does not exceed about 1 mm 2 of shielding from the field of view is intermittently arranged in the direction of the driver's front line of sight. By shining this light directly on the driver's face without passing through the reflective film, it is possible to prevent interference due to stray light such as scattering and reflection on the surface of the reflective film.
  • the shielding area with respect to the field of view does not exceed about 1 mm 2 .
  • the arrangement of LEDs having a visibility occupancy rate of more than 1% causes visibility obstruction and is not preferable.
  • the LED light source By arranging the LED light source at a position closer to the eyes than the reflecting portion of the infrared light reflecting portion 50 of the optical path of the camera 104 for observing the face and the line of sight, the light source light from the reflecting portion is prevented from hitting. This is possible, and has the effect of preventing the generation of disturbing stray light due to the reflective surface that occurs when the light source is placed closer to the camera.
  • the driver eye behavior analysis unit 153 performs eye tracking and eye behavior analysis of the driver. This analysis result is input to the driver arousal level determination unit 154.
  • the driver arousal level determination unit 154 executes the driver arousal level determination process based on the analysis result of the driver eyeball behavior analysis unit 153. For example, when it is determined that the driver's alertness is insufficient, a warning output or the like is executed via the warning output unit 181.
  • Eye behavior analysis is an effective means of confirming the driver's return to consciousness. It has been conventionally known that, for example, it is possible to analyze the line of sight by analyzing the direction in which the line of sight is directed. By further developing this technology and analyzing the line-of-sight behavior at high speed, it is possible to detect the behavior of the eyeball in more detail.
  • FIG. 15 shows an example of the trajectory of the driver's eyeball behavior.
  • the example shown in FIG. 15 shows the locus of eyeball behavior when a person first gazes at the vicinity of the region a and then gazes at the vicinity of the region b.
  • a person When trying to understand the contents by visually observing certain information, a person makes a large rotation of the eyeball called a saccade as shown in the behavioral trajectory shown in FIG. 15, turns the eyeball to a predetermined visual spot, and fixes the eyeball in the vicinity thereof ( Fixation) and eye movements accompanied by microsaccade, which is a minute eye rotation movement in a local region.
  • the driver eye behavior analysis unit 153 executes an eye behavior analysis process as shown in FIG. 15, for example, and the driver arousal level determination unit 154 determines the driver's arousal level based on this analysis result.
  • the image processing device 100 may further include a direct field-of-view transmittance control unit 155, a driver state learner, and an estimator 156 in the data processing unit 101.
  • the direct field-of-sight transmittance control unit 155 controls the transmittance of the information display unit 20 to perform processing so as not to excessively block the driver's field of view through the information display unit 20.
  • the driver state learner and the estimator 156 generate learning data to be used for the driver arousal degree determination process executed by each driver system determination unit 154, and provide the learning data.
  • the display area and the transmittance it is preferable to electronically adjust the display area and the transmittance according to the viewing height required by the driver.
  • the driver does not need to drive, and the information may be displayed in the forward view direction of the driver.
  • FIG. 17 and 18 show an example of information display that does not obstruct the driver's forward view.
  • FIG. 17 is a view observed from the lateral direction of the vehicle.
  • FIG. 18 is a diagram showing a setting example of an information display area (transmittance reduction area) and an information non-display area (transmittance non-decrease area) of the information display unit (high-performance reflective film) 20 on the front window 10. ..
  • the area above the driver's visual boundary line on the hood of the vehicle is set as an information non-display area (transparency non-decrease area) that does not reduce the transmittance, and the information display area (information display area) is limited to the area below the boundary line.
  • Transmittance reduction area is set to reduce the transmittance in this area. For example, the transmittance is reduced from 80% to 90% to display the information.
  • the direct visibility range required for steering by the driver is determined according to the driving conditions, the inter-vehicle distance information, the allowable remaining distance for continuous driving in automatic driving, and the like. For example, if the vehicle is stuck and stopped due to traffic jams, the field of vision is obstructed by the HUD display image within the range including the horizon that becomes a distant direction in front of the vehicle, and even if the distant field of view transmittance drops, it is direct. There is no adverse effect on safety.
  • the transmittance when the transmittance is controlled by controlling the electronic ND dimming film constituting the HUD, the reduction range of the external visual transmittance can be adjusted automatically or manually depending on the situation. desirable.
  • FIG. 19 is a diagram showing an example of the hardware configuration of the image processing device 100 of the present disclosure.
  • the CPU (Central Processing Unit) 301 functions as a data processing unit that executes various processes according to a program stored in the ROM (Read Only Memory) 302 or the storage unit 308. For example, the process described in the above-described embodiment is executed.
  • the RAM (Random Access Memory) 303 stores programs and data executed by the CPU 301. These CPU 301, ROM 302, and RAM 303 are connected to each other by a bus 304.
  • the CPU 301 is connected to the input / output interface 305 via the bus 304, and the input / output interface 305 is input by various switches, a keyboard, a touch panel, a mouse, a microphone, and a status data acquisition unit such as a sensor, a camera, and GPS.
  • An output unit 307 including a unit 306, a display, a speaker, and the like is connected.
  • the CPU 301 inputs commands, status data, and the like input from the input unit 306, executes various processes, and outputs the process results to, for example, the output unit 307.
  • the storage unit 308 connected to the input / output interface 305 is composed of, for example, a hard disk or the like, and stores a program executed by the CPU 301 and various data.
  • the communication unit 309 functions as a transmission / reception unit for data communication via a network such as the Internet or a local area network, and communicates with an external device.
  • the drive 310 connected to the input / output interface 305 drives a removable medium 311 such as a magnetic disk, an optical disk, a magneto-optical disk, or a semiconductor memory such as a memory card, and records or reads data.
  • a removable medium 311 such as a magnetic disk, an optical disk, a magneto-optical disk, or a semiconductor memory such as a memory card
  • a display information output unit that outputs display information and It has an information display unit that displays information based on the output light of the display information output unit.
  • the information display unit An image processing device that is a display unit composed of a reflective film that selectively reflects wavelength light corresponding to the output light of the display information output unit.
  • the information display unit is The image processing apparatus according to (1), which has a characteristic of transmitting wavelength light other than wavelength light corresponding to the output light of the display information output unit.
  • the display information output unit is It is a configuration that outputs three types of wavelength light corresponding to the three colors of RGB that compose a color image.
  • the information display unit The image processing apparatus according to (1) or (2), which is a display unit composed of a reflective film that selectively reflects RGB wavelength light output by the display information output unit.
  • the display information output unit is It is a configuration that outputs wavelength light corresponding to one type of color that constitutes a monochromatic image.
  • the information display unit The image processing apparatus according to any one of (1) to (3), which is a display unit composed of a reflective film that selectively reflects wavelength light corresponding to one type of color output by the display information output unit.
  • the information display unit is It has a structure that is laminated and fixed to the front window of the vehicle.
  • the image processing apparatus according to any one of (1) to (4), which has a light transmission characteristic of transmitting visible light incident from a front window.
  • the display information output unit is It is configured to output wavelength light of a color different from the color used for the signal.
  • the information display unit The image processing apparatus according to (5), which is a display unit composed of a reflective film that selectively reflects wavelength light of a color different from the color used for the signal which is the wavelength light output by the display information output unit.
  • the information display unit is The image processing apparatus according to any one of (1) to (6), which is a display unit composed of a reflective film that reflects infrared light.
  • the image processing device is The image processing apparatus according to (7), which has a camera that incidents and photographs infrared light reflected by the information display unit.
  • the information display unit is It has a structure that is laminated and fixed to the front window of the vehicle.
  • the camera The image processing apparatus according to (8), which has a configuration capable of capturing an image from the front of the driver who sees the display information of the information display unit.
  • the image processing apparatus further includes The image processing apparatus according to (8) or (9), which has a driver's eye behavior analysis unit that analyzes an image captured by the camera and analyzes the driver's eye behavior.
  • the display information output is a display information output step that outputs display information by outputting light having one or more wavelengths.
  • the information display unit has an information display step for displaying information based on the output light of the display information output unit.
  • the information display step is An image processing method that is a step of selectively reflecting wavelength light output by the display information output unit by a high-performance reflective film constituting the information display unit to display information.
  • the display unit is a display unit composed of a reflective film that selectively reflects wavelength light corresponding to the output light of the display information output unit.
  • a step of deforming the reflective film formed on the substrate so as to have a radius of curvature smaller than the radius of curvature of the curved surface.
  • a display unit fixing method comprising a step of pressing a deformed reflective film against the curved surface and bringing the air between the reflective film and the curved surface into close contact with the surroundings.
  • the series of processes described in the specification can be executed by hardware, software, or a composite configuration of both.
  • executing processing by software install the program that records the processing sequence in the memory in the computer built in the dedicated hardware and execute it, or execute the program on a general-purpose computer that can execute various processing. It can be installed and run.
  • the program can be pre-recorded on a recording medium.
  • LAN Local Area Network
  • the various processes described in the specification are not only executed in chronological order according to the description, but may also be executed in parallel or individually as required by the processing capacity of the device that executes the processes.
  • the system is a logical set configuration of a plurality of devices, and the devices having each configuration are not limited to those in the same housing.
  • a configuration is realized in which the face of the driver who is looking at the front or the display unit during driving can be photographed from the front.
  • it has a display information output unit and an information display unit that displays information based on the output light of the display information output unit.
  • the information display unit is composed of a reflective film that selectively reflects wavelength light corresponding to the output light of the display information output unit, and transmits wavelength light other than the wavelength light corresponding to the output light of the display information output unit.
  • the display information output unit outputs RGB wavelength light, and the information display unit selectively reflects RGB wavelength light.
  • the infrared light camera reflects infrared light, and the face of the driver looking at the display unit can be photographed from the front. With this configuration, it is possible to capture the face of the driver who is looking forward or looking at the display unit from the front while driving.

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Instrument Panels (AREA)

Abstract

本発明は、運転中に前方や表示部を見ている運転者の顔を正面から撮影可能とした構成を実現する。 本発明の画像処理装置は、表示情報出力部(102)と、表示情報出力部(102)の出力光に基づく情報表示を行う情報表示部(20)を有する。情報表示部(20)は表示情報出力部(102)の出力光に対応する波長光を選択的に反射する反射膜によって構成され、表示情報出力部(102)の出力光に対応する波長光以外の波長光を透過する。例えば、表示情報出力部(102)はRGB波長光を出力し、情報表示部(20)は、RGB波長光を選択的に反射する。さらに、赤外光を反射し赤外光カメラ(104)により、情報表示部(20)を見ている運転者(30)の顔を正面から撮影することができる。

Description

画像処理装置、および画像処理方法、並びに表示部固定方法
 本開示は、画像処理装置、および画像処理方法、並びに表示部固定方法に関する。さらに詳細には、例えば自動車の運転者に対する画像表示処理や運転者の視線や眼球挙動の解析を行う画像処理装置、および画像処理方法、並びに表示部固定方法に関する。
 例えば、自動車の運転者が正常な状態、すなわち意識のはっきりした覚醒状態で運転を行っているかを確認するための手法として、運転者の視線や眼球挙動を解析する手法が知られている。
 例えば特許文献1(特開2011-152883号公報)には、運転者の前方に表示データを表示するヘッドアップディスプレイ(HUD)を見ている運転者の顔画像を撮影して眼球挙動を解析する構成を開示している。
 この文献では、車両のダッシュボード内に置かれた表示装置の出力情報をミラーに反射させて運転者が観察できるようにして、表示情報を見ている運転者の画像をカメラで撮影して解析する構成を開示している。
 しかし、この文献の構成では、運転者は、運転中に表示情報を見る際に車両進行方向である前方から一時的に目をそらすことになり、危険である。
特開2011-152883号公報
 本開示は、例えば、上述の問題点に鑑みてなされたものであり、車両進行方向である前方を見ている視線を移動させることなく、運転者が表示情報を観察でき、かつ、その時点の運転者の正面からの撮影画像を取得し、この撮影画像に基づいて精度の高い視線や眼球挙動の解析を可能とした画像処理装置、および画像処理方法、並びに表示部固定方法を提供することを目的とする。
 本開示の第1の側面は、
 表示情報を出力する表示情報出力部と、
 前記表示情報出力部の出力光に基づく情報表示を行う情報表示部を有し、
 前記情報表示部は、
 前記表示情報出力部の出力光に対応する波長光を選択的に反射する反射膜によって構成された表示部である画像処理装置にある。
 さらに、本開示の第2の側面は、
 画像処理装置において実行する画像処理方法であり、
 表示情報出力が、1つ以上の波長光の出力により表示情報を出力する表示情報出力ステップと、
 情報表示部が、前記表示情報出力部の出力光に基づく情報表示を行う情報表示ステップを有し、
 前記情報表示ステップは、
 前記情報表示部を構成する高機能反射膜により、前記表示情報出力部の出力する波長光を選択的に反射して情報表示を行うステップである画像処理方法にある。
 さらに、本開示の第3の側面は、
 所定の曲率を有するカーブ面に表示部を固定する表示部固定方法であり、
 前記表示部は、表示情報出力部の出力光に対応する波長光を選択的に反射する反射膜によって構成された表示部であり、
 基板上に形成した反射膜を、前記カーブ面の曲率半径より小さい曲率半径を持つように変形させるステップと、
 変形させた反射膜を前記カーブ面に押し付けて、反射膜と前記カーブ面間の空気を周囲に押し出しながら密着させるステップを有する表示部固定方法にある。
 本開示のさらに他の目的、特徴や利点は、後述する本開示の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
 本開示の一実施例の構成によれば、運転中に前方や表示部を見ている運転者の顔を正面から撮影可能とした構成が実現される。
 具体的には、例えば、表示情報出力部と、表示情報出力部の出力光に基づく情報表示を行う情報表示部を有する。情報表示部は表示情報出力部の出力光に対応する波長光を選択的に反射する反射膜によって構成され、表示情報出力部の出力光に対応する波長光以外の波長光を透過する。例えば、表示情報出力部はRGB波長光を出力し、情報表示部は、RGB波長光を選択的に反射する。さらに、赤外光を反射し赤外光カメラにより、表示部を見ている運転者の顔を正面から撮影することができる。
 本構成により、運転中に前方や表示部を見ている運転者の顔を正面から撮影可能とした構成が実現される。
 なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
車両のフロントウィンドウに設定される情報表示部の例を示す図である。 本開示の画像処理装置の構成と処理について説明する図である。 情報表示部を構成する高機能反射膜(狭波長選択性反射膜)の特性の詳細について説明する図である。 情報表示部を構成する高機能反射膜(狭波長選択性反射膜)の光透過率の特性について説明する図である。 運転者の眼の分布空間に相当するアイリプス(Eyellipse)空間と情報表示部の配置例について説明する図である。 情報表示部を構成する高機能反射膜(狭波長選択性反射膜)の反射特性の一例について説明する図である。 本開示の画像処理装置の構成と処理について説明する図である。 赤外光反射部の反射特性例について説明する図である。 高機能反射膜をフロントウィンドウに積層して固定する情報表示部の製造工程の具体例について説明する図である。 高機能反射膜をフロントウィンドウに積層して固定する情報表示部の製造工程の具体例について説明する図である。 高機能反射膜をフロントウィンドウに積層して固定する情報表示部の製造工程の具体例について説明する図である。 高機能反射膜をフロントウィンドウに積層して固定する情報表示部の製造工程の具体例について説明する図である。 本開示の画像処理装置の構成例について説明する図である。 発光部の構成例について説明する図である。 眼球挙動の解析例について説明する図である。 本開示の画像処理装置の構成例について説明する図である。 情報表示部の透過率制御例について説明する図である。 情報表示部の透過率制御例について説明する図である。 画像処理装置のハードウェア構成例について説明する図である。
 以下、図面を参照しながら本開示の画像処理装置、および画像処理方法、並びに表示部固定方法の詳細について説明する。なお、説明は以下の項目に従って行なう。
 1.本開示の画像処理装置の構成と処理について
 2.情報表示部(高機能反射膜)の特性について
 3.情報表示部と独立した赤外光反射部を設けた構成例について
 4.高機能反射膜をフロントウィンドウに積層して固定する情報表示部の製造工程の具体例について
 5.画像処理装置の構成例と運転者視線の解析処理の一例について
 6.情報表示部の透過率制御構成例について
 7.画像処理装置のハードウェア構成例について
 8.本開示の構成のまとめ
  [1.本開示の画像処理装置の構成と処理について]
 まず、図1以下を参照して、本開示の画像処理装置の構成と処理について説明する。
 本開示の画像処理装置は、運転者の正面から運転者の眼球をカメラで撮影可能とした構成を持つ。
 運転者の視線正面から運転者の眼球をカメラ撮影することで、撮影画像に含まれる眼球情報の最大化が実現され、高精度な視線トラッキングや視線挙動解析が可能となる。
 本開示の画像処理装置は、運転者正面から運転者の眼球撮影を可能とするとともに、カメラ撮影時に車両前方から運転者の眼に入る可視光を遮ることなく、運転者が車両前方の道路等を継続的に観察することを可能とした構成を有する。
 運転者正面から運転者の眼球撮影を可能とするため、車両のフロントウィンドウに情報表示を行い、表示された情報を見ている運転者の眼球を含む画像を車両のフロントウィンドウに設定した表示部方向から撮影する。つまり、運転者が走行中に進行方向前方へ視線を向けているが、ヘッドアップディスプレイ反射板を用いることで概ね同一方角から運転者の視線、顔の撮像を選択的に行うことができる。
 図1は、車両のフロントウィンドウ10に設定される情報表示部20の例を示す図である。
 情報表示部20は、特定波長光のみを選択的に反射する高機能反射膜(狭波長選択性反射膜)によって構成される。情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)の特性の詳細については後述する。
 なお、情報表示部20はほとんどの可視光を透過する特性を有し、運転者は情報表示部20、およびフロントウィンドウ10を介して前方を妨害されることなく見ることができる。
 情報表示部20は、いわゆるヘッドアップディスプレイ(HUD:Head Up Display)型の表示部である。
 ヘッドアップディスプレイ(HUD)は、運転者が運転中に視線を向けている前方の景色に重畳して情報表示を行うことが可能である。
 ヘッドアップディスプレイ(HUD)は、例えばレンズや凹面ミラーを利用して、運転者の視界となる車両前方向に表示情報から構成される虚像を生成して表示する構成を持つ。運転者は前方景色に重畳して虚像として表示される情報を視線を大きく変更させることなく確認できる。
 次に、図2を参照して、本開示の画像処理装置の構成例について説明する。
 画像処理装置の一部は、例えば車両のコンソールボックス内部に設置される。
 図2に示すように車両のコンソールボックス内部には、データ処理部101、表示情報出力部102、ミラー103a,b、カメラ104、発光部105を有する。
 データ処理部101が生成した情報、あるいは図示しない記憶部等から取得した情報、あるいは図示しない通信部を介して取得した情報等が表示情報出力部102介して情報表示部(高機能反射膜)20に出力される。
 表示情報出力部102が出力した表示情報は、ミラー103a,bを介して情報表示部(高機能反射膜)20に表示される。
 なお、表示情報出力部102が出力する表示情報は例えばRGBカラー画像である。
 運転者30は、運転しながら情報表示部(高機能反射膜)20に表示された情報を見て確認する。なお、情報表示部(高機能反射膜)20は可視光のほとんどを透過する特性を有し、運転者30は、情報表示部(高機能反射膜)20に表示された情報を見ながら、フロントウィンドウ10の前方の景色も併せて見ることができる。
 画像処理装置のカメラ104は、例えば赤外光を撮影する赤外カメラである。
 発光部105は運転者30の顔領域に赤外光を照射する。
 カメラ104は、運転者の眼球を含む顔領域の画像を撮影する。撮影画像は、情報表示部(高機能反射膜)20において反射された赤外光の撮影画像、いわゆる赤外光画像である。
 図に示す実線の光路は表示情報出力部102から出力される表示情報によって構成される表示画像高であり、図に示す点線は、カメラ104に入力するカメラ入力光である。
 運転しながら情報表示部(高機能反射膜)20に表示された情報を見ている運転者30の視線方向は、情報表示部(高機能反射膜)20の方向であり、この時にカメラ104によって撮影される画像は、運転者30顔や運転者30の眼球をほぼ正面から撮影した画像となる。
 このように運転者30の眼球をほぼ正面から撮影した画像は、データ処理部101に入力され、データ処理部101において、画像解析が行われる。具体的には運転者の視線トラッキングや眼球挙動解析が行われ、例えば運転者30の覚醒度判定処理が実行される。
 このように、本開示の画像処理装置は、運転者30の眼球を含む画像を運転者30のほぼ正面から撮影可能としているので、高精度な視線トラッキングや眼球挙動解析行うことが可能となる。
  [2.情報表示部(高機能反射膜)の特性について]
 次に、情報表示部(高機能反射膜)の特性の詳細について説明する。
 前述したように、情報表示部20は、特定波長光のみを選択的に反射する高機能反射膜(狭波長選択性反射膜)によって構成される。
 図3を参照して情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)の特性の詳細について説明する。
 図3は、横軸に波長(nm)縦軸に反射率(%)を示したグラフであり、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)に対する入射光の波長対応の反射率を示すグラフである。
 図3に示すように、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)は、RGBの波長光、すなわちR(赤)、G(緑)、B(青)の各色対応の特定の狭波長領域と、波長=750nm以上の赤外光領域の反射率が高くなっており、その他の領域の反射率が低い反射率特性を持つ。
 表示情報出力部102が出力する表示情報がRGBカラー画像である場合、表示情報出力部102はR(赤)、G(緑)、B(青)の3種類の波長光を出力する。
 図3に示すグラフ中のR(赤)、G(緑)、B(青)各色対応の高反射率の狭波長領域は、表示情報出力部102の出力するRGB各色の出力波長に対応する。
 すなわち、表示情報出力部102の出力するRGB光は、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)において、その多くが反射される。この結果、運転者は情報表示部20で反射するRGBカラー画像、すなわち情報出力部102が出力したカラー画像を鮮明に見ることが可能となる。
 また、図3に示す反射率特性グラフから理解されるように、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)は、赤外光成分も強く反射する。
 従って、図2に示す発光部105が照射した赤外光は、運転者30の顔や眼球表面で反射して、さらに情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)において反射し、その反射光がカメラ104に入力する。
 この結果、カメラ104は、鮮明な運転者30の赤外光画像を撮影することができる。
 なお、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)を、750nm以上の長波長側の赤外光を反射する特性を持たせた構成とすることで、斜めに配置されたフロントウィンドウの反射特性として現れやすい短波長シフトによるレッドカット(ブルーシフト)を抑える効果もある。
 次に、図4を参照して情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)の光透過率の特性について説明する。
 図4に示すように、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)は、外部から入力する光の約95%を透過する。
 図に示すように、車両の前方から車両内部に向かう前方視界光の光量100%中、フロントウィンドウ10と情報表示部20を透過して運転者30の眼に入る透過光は前方視界光量の約95%であり、反射光はわずか約5%である。
 この結果、運転者30は、情報表示部20とフロントウィンドウ10を介して車両前方の景色を鮮明に確認することができる。
 なお、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)の反射特性は、図3を参照して説明したように、RGB各色に対応する極めて狭い波長領域の光信号を反射するものとして説明したが、これらの反射率の高い波長光と同じ波長光がフロントウィンドウ外部から入射した場合、表示情報と紛らわしくなることが考えられる。例えば信号の色と表示色とがほぼ同じ色となってしまうと、運転者に混乱を与える可能性がある。
 このような事態を防止するため、表示情報出力部102の出力するRGB信号の波長は、信号や標識等に利用される色と異なる色の波長光とすることが好ましい。これに併せて、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)の反射特性も、反射率の高い波長領域は、信号や標識等に利用される色と異なる色の波長領域とすることが好ましい。
 なお、図3を参照して説明した「反射特性」を有し、図4を参照して説明した「光透過特性」を有する高機能反射膜は、例えば酸化シリコン膜によって構成することができる。例えば、誘電体を高精度で交互に製膜する処理により、R,G,B、赤外光、各波長の反射特性を有する複数の膜を積層したフィルム状の高機能反射膜(情報表示部)を生成することが可能である。
 次に、フロントウィンドウ10における情報表示部20の配置位置について説明する。フロントウィンドウ10上の情報表示部20の配置位置は、図5に示すように、運転者の眼の分布空間に相当するアイリプス(Eyellipse)31の空間領域を車両の正面方向に平行移動してフロントウィンドウ10に射影して、射影部の中心が情報表示部20のほぼ中心になる位置とすることが好ましい。
 なお、アイリプス(Eyellipse)とは、様々な体格の運転者の眼の位置の分布の解析結果として得られた空間領域である。アイリプス(Eyellipse)は、車両の前後方向に長軸を持つ楕円形のラグビーボル形状を持つ空間領域であり、アイレンジとも呼ばれる。
 なお、先に図3を参照して説明した情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)の反射特性は、表示情報出力部102が出力する表示情報がRGBカラー画像である場合に対応する特性である。
 情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)の反射特性は、表示情報出力部102が出力する光の波長を選択的に反射する狭波長選択反射特性を有する構成とすればよい。
 すなわち、例えば表示情報出力部102の出力光が単色、具体的にはB(青)1色の波長光を出力する構成の場合、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)の反射特性は、図6に示すような特性とすればよい。
 図6は、B(青)対応の特定の狭波長領域と、波長=750nm以上の赤外光領域の反射率が高くなっており、その他の領域の反射率が低い反射率特性を持つ。
 表示情報出力部102が出力する表示情報がB(青)単色の画像である場合、表示情報出力部102はB(青)のみの波長光を出力する。
 図6に示すグラフ中のB(青)領域の高反射率の狭波長領域は、表示情報出力部102の出力するB(青)色の出力波長に対応する。
 すなわち、表示情報出力部102の出力するB(青)色光は、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)において選択的に反射される。この結果、運転者は情報表示部20で反射するB(青)色の単色画像、すなわち情報出力部102が出力したB(青)色の単色画像を鮮明に見ることが可能となる。
 ここでは、情報出力部102が出力する単色画像が、B(青)一色の単色画像である場合について説明したが、例えば情報出力部102が出力する単色画像がR(赤)色の単色画像である場合は、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)の反射特性をR(赤)対応の特定の狭波長領域の反射率を高め、B,Gの波長領域については低反射率とすればよい。
 同様に、情報出力部102が出力する単色画像がG(緑)色の単色画像である場合は、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)の反射特性を、G(緑)対応の特定の狭波長領域の反射率を高め、R,Bの波長領域については低反射率とすればよい。
 このように、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)の反射特性は、表示情報出力部102が出力する光の波長を選択的に反射する狭波長選択反射特性を有する構成とすればよい。
 このような特性を有する情報表示部20を構成することで、運転者は情報出力部102が出力する画像を鮮明に見ることが可能となる。
  [3.情報表示部と独立した赤外光反射部を設けた構成例について]
 次に、情報表示部と独立した赤外光反射部を設けた構成例について説明する。
 図2を参照して説明した構成では、情報表示部20は、表示情報出力部102が出力する光の波長、例えばRGBの各波長と赤外光波長を反射する特性を有する構成とした。
 図2の構成において、情報表示部20における赤外光の反射光は、カメラ104による赤外光画像の撮影のために用いられる。
 このカメラ撮影光としての赤外光をカメラに入力するための赤外光反射板は、情報表示部20と別の独立した構成としてもよい。
 図7に情報表示部と独立した赤外光反射部を設けた構成の具体例を示す。
 図7に示す構成と、先に図2を参照して説明した構成との差異は、独立した赤外光反射部50を設けた点である。
 赤外光反射部50は、発光部105が運転者30の顔領域に照射した赤外光を反射してカメラ104に入力させる。
 カメラ104は、運転者の眼球を含む顔領域の画像を撮影する。撮影画像は、赤外光反射部50において反射された赤外光の撮影画像、いわゆる赤外光画像である。
 赤外光反射部50の反射特性例を図8に示す。図8に示すように、赤外光反射部50は、赤外光のみを反射し、その他の光、例えばRGB波長領域の光は透過するという反射特性を有する。
 なお、赤外光反射部50は、赤外光のみを反射し、その他の光、例えばRGB波長領域の光は透過する。
 従って、運転者30は、情報表示部20に表示された情報や、情報表示部20やフロントウィンドウ10を介した前方の景色を邪魔されることなく見ることができる。
 このようなに赤外光反射部50を情報表示部20と独立して設けることで、カメラ104の配置自由度を高めることができる。
  [4.高機能反射膜をフロントウィンドウに積層して固定する情報表示部の製造工程の具体例について]
 次に、高機能反射膜をフロントウィンドウに積層して固定する情報表示部の製造工程の具体例について説明する。
 図2や図7を参照して説明した構成とするためには、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)をフロントウィンドウ10に密着させて固定させることが必要である。
 すなわち、高機能反射膜をフロントウィンドウ10の内側ガラス面に密着させて積層させて固定する製造工程が必要となる。
 一般的に波長選択性の高い多層膜の形成処理には誘電体を高精度で交互に製膜する処理が必要とされている。
 しかし、車両のフロントガラスのような大型の面に、直接、誘電体を高精度で交互に製膜することは極めて困難である。
 この製造困難性を打開するため、本開示では以下のようなプロセスで高機能反射膜をフロントウィンドウ10の内側ガラス面に密着固定させる。
 (プロセス1)
 まず、R,G,B、赤外光、各波長の反射特性を有する複数の膜を積層したフィルム状の高機能反射膜(情報表示部)を生成する。
 この(プロセス1)の処理は、従来の誘電体を高精度で交互に製膜する処理により実行可能である。
 (プロセス2)
 次に、上述した(プロセス1)において生成した高機能反射膜を基板(ハードフィルム)上に固定する。なお、固定は例えば接着材等によって仮固定する。ただし、後段プロセスのため、剥離剤や熱等によって接着力を解除可能な接着剤を使用する。
 この(プロセス2)以下の工程について、図9を参照して説明する。
 上記(プロセス2)によって、図9(プロセス2)に示す基板21に仮固定された情報表示部(高機能反射膜)20が生成される。
 (プロセス3)
 次に、上記(プロセス2)で生成した基板上に仮固定した情報表示部(高機能反射膜)20の中央部に空気等のガスを注入し、情報表示部(高機能反射膜)20を、所定の曲率半径を持つように凸面化処理を行う。
 この(プロセス3)の処理の詳細について図10を参照して説明する。
 図3に示すように、情報表示部(高機能反射膜)20を密着固定させるフロントウィンドウ10の内側ガラス面は平面ではなく所定の曲率半径を有する曲面によって構成されている。
 フロントウィンドウ10の内側ガラス面の曲率半径をRwsとする。
 (プロセス3)では、情報表示部(高機能反射膜)20の中央部に空気等のガスを注入し、情報表示部(高機能反射膜)20を、フロントウィンドウ10の内側ガラス面曲率半径:Rwsより小さい曲率半径を持つように凸面化処理を行う。
 情報表示部(高機能反射膜)20の変形処理によって生成する情報表示部(高機能反射膜)20の曲率半径をRrefとすると、RrefとRsの関係は以下の関係となる。
 Rref<Rws
 なお、曲率半径が小さいほど曲率は大きくなるすなわち、図10に示すように、情報表示部(高機能反射膜)20は、フロントウィンドウ10の内側ガラス面より大きく内側に曲がった形状となる。
 このように、(プロセス3)では、基板上に仮固定した情報表示部(高機能反射膜)20の中央部に空気等のガスを注入し、情報表示部(高機能反射膜)20を、フロントウィンドウ10の内側ガラス面より大きく内側に曲がった形状に変形させる。
  (プロセス4)
 (プロセス4)は、基板21上の情報表示部(高機能反射膜)20をフロントウィンドウ10の内側ガラス面の固定位置に固定する処理を行うプロセスである。
 (プロセス4)の処理について図9に戻り、説明する。
 図9に示すように(プロセス4)では、フロントウィンドウ10の内側ガラス面より大きく内側に曲がった形状を持つ基板21上の情報表示部(高機能反射膜)20を、フロントウィンドウ10の内側ガラス面の固定位置に近づける。
 この処理によって、まず、基板21上の情報表示部(高機能反射膜)20の中央部がフロントウィンドウ10の内側ガラス面に接触する。
 なお、基板21上の情報表示部(高機能反射膜)20のフロントウィンドウ10側面には予め接着剤を塗布しておく。この張り合わせ接着材は必ずしも張り合わせ時点で接着性を有したフィルム工法である必要はなく、例えば可視光や紫外線、赤外等などの光活性による重合反応で硬化させる材料などでもよい。
 この(プロセス4)の処理の詳細について、図11を参照して説明する。
 図11(プロセス4-1)の状態は、基板21上の情報表示部(高機能反射膜)20の中央部がフロントウィンドウ10の内側ガラス面に接触した状態を示している。
 この位置から、さらに、基板21をフロントウィンドウ10側に押圧する。この押圧処理により、基板21上の情報表示部(高機能反射膜)20は、その曲率がフロントウィンドウ10の曲率に近づくように変形される。
 図11(プロセス4-2)に示すように、この変形に伴い、情報表示部(高機能反射膜)20とフロントウィンドウ10間の隙間が徐々に小さくなり、その間の空気は、情報表示部(高機能反射膜)20の中央部から周囲部にスムーズに排出される。
 最終的に、基板21上の情報表示部(高機能反射膜)20の曲率がフロントウィンドウ10の曲率に一致し、情報表示部(高機能反射膜)20がフロントウィンドウ10に密着し、そのまま接着剤により固定される。
  (プロセス5)
 (プロセス5)の処理について、図9に戻って説明する。
 (プロセス5)では、情報表示部(高機能反射膜)20に仮固定されていた基板21を、情報表示部(高機能反射膜)20から取り外す。
 先に説明したように、基板21と情報表示部(高機能反射膜)20を仮固定する接着材は、剥離剤や熱等によって接着力を解除可能な接着剤であり、接着力を解除して剥離することができる。
 これらのプロセスによって、情報表示部(高機能反射膜)20は、所定の曲率を持つフロントウィンドウ10の内側ガラス面に密着固定させることができる。
 なお、先に図5を参照して説明したように、情報表示部20のフロントウィンドウ10上の配置位置は、運転者の眼の分布空間に相当するアイリプス(Eyellipse)の空間領域を車両の正面方向に平行移動してフロントウィンドウ10に射影して、射影部の中心が情報表示部20のほぼ中心になる位置とすることが好ましい。
 なお、情報表示部(高機能反射膜)20を、所定の曲率を持つフロントウィンドウ10の内側ガラス面に密着固定させるプロセスは、上述したプロセスに限らず、その他の方法も適用可能である。
 例えば、図9~図11を参照して説明したプロセス2~プロセス5の代わりに、図12に示すプロセス2B~プロセス5Bを適用することも可能である。
 図12に示すプロセス2B~プロセス5Bについて説明する。
  (プロセス2B)
 フロントウィンドウ10に情報表示部(高機能反射膜)20を着磁性のあるフレキシブル補助基材に張った状態でアライメントして仮貼り付けを行う。ここで、、情報表示部(高機能反射膜)20のフロントウィンドウ10側には、ガラス面と光硬化処理で硬化する接着材を塗布しておく。情報表示部(高機能反射膜)20より広めのフレキシブル補助基材とその周囲部には仮止め固定の接着材を塗布しておく。
  (プロセス3B)
 フロントウィンドウ10に情報表示部(高機能反射膜)20を仮止めした状態で、フロントウィンドウ10の両面からフレキシブル補助基材を囲むより広範囲をカバーする柔軟な気密パッキング性を有するカバー(チャンバー)で覆う。
 カバー(チャンバー)の外周パッキングから空気が中に漏れ込まないようにしてカバー(チャンバー)内側を減圧する。両カバー(チャンバー)の挟む位置を同じ位置に合わせた上で各カバー(チャンバー)の減圧を同じに圧に保つ形で進めると、真空にしてもフロントウィンドウ10片側に偏った圧力が加わることを避けることができる。カバー(チャンバー)の張り合わせ位置がフロントウィンドウ10面に直角方向で重なっていれば、大気圧はフロントウィンドウ10のガラス面の面方向の成分が主となり、ガラスにストレスを加えることなく、高真空中で情報表示部(高機能反射膜)20をフロントウィンドウ10に張り合わせすることが可能となる。
 図に示すように、情報表示部(高機能反射膜)20張り付け面の反対側のチャンバーに電磁チャックを置いて通電することで着磁性のあるフレキシブル補助基材をフロントウィンドウ10面に押しつけることが真空中でも実行可能となる。
 着磁性のフレキシブル補助基材の少なくとも外周をフロントウィンドウ10表面と密閉できる程度の仮固定ができたら、カバー(チャンバー)内の圧力を大気圧に戻してもよい。
  (プロセス4B)
 一旦、真空中でフロントウィンドウ10に情報表示部(高機能反射膜)20を装着したフレキシブル補助基材を仮固定した後、カバー(チャンバー)内の圧力を大気圧に戻すと機材を通して満遍なく情報表示部(高機能反射膜)20に一定の大気圧が加わることで、気泡を含まないフロントウィンドウ10面との安定した仮止めができる。
 この状態で、フレキシブル補助基材の外周はフロントウィンドウ10面と仮止めされているため、大気が情報表示部(高機能反射膜)20とフロントウィンドウ10面の間に漏れ込むことはない。
 この状態で、情報表示部(高機能反射膜)20をフロントウィンドウ10面に光硬化型接着材を用いて固定する。
  (プロセス5B)
 情報表示部(高機能反射膜)20の固定ができた段階で、貼り付け補助剤として用いた電着機能のあるフレキシブル補助基材は不要となるため剥離する。
 このような処理プロセスを用いても、情報表示部(高機能反射膜)20を、所定の曲率を持つフロントウィンドウ10の内側ガラス面に密着固定させることができる。
  [5.画像処理装置の構成例と運転者視線の解析処理の一例について]
 次に、本開示の画像処理装置の構成例と運転者視線の解析処理の一例について説明する。
 図13は、本開示の画像処理装置100の構成例を示す図である。
 図13に示す画像処理装置100の構成中、データ処理部101、表示情報出力部102、情報表示部20、カメラ104、発光部105は、図2や図7に示す各構成要素に対応する。
 データ処理部101の表示情報生成/取得部151は、記憶部171に格納された表示情報、または通信部172を介して外部から、運転者に提示するための表示情報を取得、あるいは取得情報に基づいて表示情報を生成する。
 表示情報生成/取得部151の生成または取得した表示情報は、表示情報出力部102を介して情報表示部20に出力される。
 情報表示部20は、先に説明したように、特定波長光のみを選択的に反射する高機能反射膜(狭波長選択性反射膜)によって構成され、車両のフロントウィンドウに積層された表示部である。
 先に図3、図4を参照して説明したように、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)の反射特性は、表示情報出力部102が出力する光の波長を選択的に反射する狭波長選択反射特性を有する。
 例えば、表示情報出力部102の出力する画像がRGBカラー画像である場合、情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)は、表示情報出力部102の出力するRGB各信号の波長を選択的に強く反射する。この結果、運転者は情報表示部20で反射するRGBカラー画像、すなわち情報出力部102が出力したカラー画像を鮮明に見ることが可能となる。
 発光制御部152は、発光部105の発光する赤外光の発光制御を実行する。
 先に図2を参照して説明したように、発光部105が照射した赤外光は、運転者の顔や眼球表面で反射して、さらに情報表示部20を構成する高機能反射膜(狭波長選択性反射膜)、または図7に示す赤外光反射部50で反射し、その反射光がカメラ104に入力される。
 なお、カメラ104は、先に説明した図2や図7の構成によって、運転者のほぼ正面から運転者の眼球を含む画像を撮影する。この撮影画像はデータ処理部101の運転者眼球挙動解析部153に入力される。
 なお、発光部105は、カメラ104の視野角から必ずしも離れている必要はなく、例えば図14に示すように、視覚遮蔽断面寸法を略1mm程度のマイクロLED等にして運転者直接視界範囲に分散配列する構成としてもよい。この構成により、運転者の視覚遮蔽妨害を抑え、かつ顔や目の照明を効果的に行うことができる。
 すなわち、図14に示す情報表示部(高機能反射膜)20に運転者視線観測用光波長域の反射特性を持たせることで、運転者の視線を情報表示部(高機能反射膜)20の反射を介してカメラ104で観測をしてもよい。視線観測に用いる光源は、例えば、図14に示すような、赤外光マイクロLEDアレイを用いる。視界に対する遮蔽略1mm程度を超えない表面実装型の有指向性のLEDを運転者の前方視線方向に間欠配置する。この光を、反射膜を介さないで運転者の顔に直接あてることで、反射膜表面での散乱や反射といったカメラ撮像に対する迷光による妨害を防ぐことが可能である。
 この場合、光は運転者の走行中の有効視界に入ることになるので、視界に対する遮蔽領域が略1mm程度を超えないようにすることが好ましい。視界占有率が1%を超えるLEDの配置は、視界妨害を招き、好ましくない。
 なお、顔や視線を観測するカメラ104の光路の赤外光反射部50の反射部よりも目に寄った光路位置にLED光源を配置することで、反射部による光源光が当たらないようにすることが可能で、光源をカメラ寄りに配置した場合に発生する反射面による妨害迷光の発生を防ぐ効果がある。
 運転者眼球挙動解析部153は、運転者の視線トラッキングや眼球挙動解析を行わう。この解析結果が運転者覚醒度判定部154に入力される。運転者覚醒度判定部154は、運転者眼球挙動解析部153の解析結果に基づいて運転者の覚醒度判定処理を実行する。例えば運転者の覚醒度が不十分であると判定した場合は、警告出力部181を介して警告出力などを実行する。
 運転者眼球挙動解析部153の実行する眼球挙動解析処理と、運転者覚醒度判定部154の実行する覚醒度判定処理の具体例について図15を参照して説明する。
 眼球の挙動解析は、運転者の意識復帰を確認する有効な手段である。なお、例えば視線を振り向けた方向を解析して視線を解析することが可能であることは、従来から知られている。この技術をさらに発展させ、高速で視線挙動の解析を行うことで、眼球のより詳細な挙動検出ができる。
 眼球の詳細挙動解析は、生体反射的に現れる挙動が一部あるものの、その挙動には脳内の神経伝達と処理を反映して現れる多くの現象も同時に見られるため、脳の認知等の活動結果が反映され、表に見える形になる。
 眼球挙動に脳内の活動が反映されることを利用して、運転者の覚醒レベルを高精度で推測することが可能となる。
 人が行動に必要な状況判断を行う場合に取得する外界情報は、視覚的情報から得られるものが多い。人が視覚的情報を知覚し、認識し、行動に移す際に、人は情報に視線を向けて、その情報と自身の記憶(記録知識)との比較参照を行う。視線の先の情報を理解するまでの間、人は、その情報が見える部分やその近傍に視線を向けたまま細かな固視、マイクロサッカード、トレモア、ドリフトと言った視覚情報認知に必要となる特定の眼球挙動を示すことが知られている。
 この眼球挙動は、人が正常な覚醒状態にある場合と、意識・覚醒低下状態にある場合とでは、異なる振る舞いを示す。
 運転者の眼球挙動の軌跡の一例を図15に示す。
 図15示す例は、人がまず、領域a付近を注視し、その後、領域b付近を注視した際の眼球挙動の軌跡を示したものである。
 ある情報を目視して内容を理解しようとする場合、人は図15に示す挙動軌跡のように大きなサッカードと呼ばれる眼球回転を行い、所定の目視箇所に眼球を振り向け、その近傍で固視(Fixation(フィクセーション))と、局所領域の微小な眼球回転動作であるマイクロサッカードを伴う眼球挙動を行う。
 以上説明をしたように、人が意識をして視覚情報から必要な情報を取得し、必要な判断を行う際に、情報を得るために特徴的な眼球挙動が発現する。他方で、意識低下したりしてこの視覚的情報探索が不十分であると、情報を確定取得する固視に必要な眼球挙動に乱れが生じる。
 運転者眼球挙動解析部153は、例えばこの図15に示すような眼球挙動解析処理を実行し、運転者覚醒度判定部154は、この解析結果に基づいて運転者の覚醒度を判定する。
 なお、画像処理装置100は、さらに、図16に示すように、データ処理部101内に直接視界透過率制御部155、運転者状態学習器、推定器156を有する構成としてもよい。
 直接視界透過率制御部155は、情報表示部20の透過率を制御して情報表示部20を介した運転者の視界を過度に遮らないような処理を行う。
 運転者状態学習器、推定器156は、運転者各制度判定部154において実行する運転者覚醒度判定処理に利用する学習データの生成、および学習データの提供を行う。
  [6.情報表示部の透過率制御構成例について]
 次に、情報表示部の透過率制御構成例について説明する。
 今後、自動運転技術やAR技術の進化に伴い、運転者には、より多くの複合的な情報が提示されることが想定される。
 これらの情報をフロントウィンドウ10面のHUDに表示すると、状況によっては運転者の直接視界を妨害する可能性がある。外界の実空間が明るい場合、表示情報の輝度やコントラストが不十分であると運転者が表示情報を知覚することが困難になる。それを避けるためは、表示情報の輝度を上げて、適度なコントラストを確保することが必要となる。
 しかし、単純に発光輝度やコントラストを強くすると、外光に対する目の輝度調整がその分ずれてしまい、好ましいといえない。
 表示情報を提示する際には実空間の背景の明るさを、例えばエレクトロミックND調光膜を用いて部分的に落とした方が、見やすくなる。ただし、運転者の外界に対する視界が妨げられるのは好ましくない。
 従って、運転者に必要な視界高さに応じて表示領域や透過率を電子的に調整することが好ましい。
 これを実現するための構成として、高機能反射膜、いわゆるコンバイナーを構成する光学素子の車両前方側の面にエレクトロクロミックフィルタをマトリックス状、または領域として配置し、制御する構成が有効である。
 例えば車両が高速走行中の場合は、一定の車間距離を取って走行をするため、HUDで提示する視界下方の領域は運転判断に直接的な視覚情報が重要でなく、時空間の視覚情報に対して透過率を低下させ、その領域に提示するHUDの表示情報に重点を置いても支障は少ない。
 また、自動運転システムが運転制御を行う自動運転走行可能区間では、運転者よる運転が不要であり、運転者の前方視界方向に情報を表示してもよい。
 図17、図18に運転者の前方視界を妨げない情報表示例を示す。
 図17は、車両の横方向から観察した図である。
 図18は、フロントウィンドウ10上の情報表示部(高機能反射膜)20の情報表示領域(透過率低下領域)と、情報非表示領域(透過率非低下領域)の設定例を示す図である。
 車両のボンネット上の運転者視覚の境界線より上の領域は透過率を低下させない情報非表示領域(透過率非低下領域)として設定し、境界線より下方の領域に限定して情報表示領域(透過率低下領域)を設定してこの領域の透過率低下を行う。例えば透過率を80%から90%程度に落として情報を表示する。
 なお、走行条件、車間距離情報、自動運転での継続走行許容残存距離などに応じて、運転者が操舵に必要な直接視界範囲は決定される。
 例えば、渋滞で車両が進まず止まった状態であれば、その間に前方の遠方方角になる水平線を含む範囲で、視界がHUDの表示画像で妨害され、遠方の視界透過率が落ちても直接的に安全へ悪影響がない。
 しかし、定速で車間距離が詰まった状態で走行中に、直前に車高の低いスポーツカーやマイクロカーなどが走行している場合は、ボンネットライン近くまでの視覚情報は追突を防ぐために重要な視野領域となる。
 この場合、この重要な視野領域の透過率は低下させるべきではない。
 つまり、HUDを構成するエレクトロミックND調光膜の制御により透過率制御を行う構成とした場合、外界視界透過率の低減範囲は、状況に応じて自動または手動で調整ができる構成とすることが望ましい。
  [7.画像処理装置のハードウェア構成例について]
 次に、本開示の画像処理装置100のハードウェア構成例について説明する。
 図19は、本開示の画像処理装置100のハードウェア構成の一例を示す図である。
 CPU(Central Processing Unit)301は、ROM(Read Only Memory)302、または記憶部308に記憶されているプログラムに従って各種の処理を実行するデータ処理部として機能する。例えば、上述した実施例において説明した処理を実行する。
 RAM(Random Access Memory)303には、CPU301が実行するプログラムやデータなどが記憶される。これらのCPU301、ROM302、およびRAM303は、バス304により相互に接続されている。
 CPU301はバス304を介して入出力インタフェース305に接続され、入出力インタフェース305には、各種スイッチ、キーボード、タッチパネル、マウス、マイクロフォン、さらに、センサ、カメラ、GPS等の状況データ取得部などよりなる入力部306、ディスプレイ、スピーカなどよりなる出力部307が接続されている。
 CPU301は、入力部306から入力される指令や状況データ等を入力し、各種の処理を実行し、処理結果を例えば出力部307に出力する。
 入出力インタフェース305に接続されている記憶部308は、例えばハードディスク等からなり、CPU301が実行するプログラムや各種のデータを記憶する。通信部309は、インターネットやローカルエリアネットワークなどのネットワークを介したデータ通信の送受信部として機能し、外部の装置と通信する。
 入出力インタフェース305に接続されているドライブ310は、磁気ディスク、光ディスク、光磁気ディスク、あるいはメモリカード等の半導体メモリなどのリムーバブルメディア311を駆動し、データの記録あるいは読み取りを実行する。
  [8.本開示の構成のまとめ]
 以上、特定の実施例を参照しながら、本開示の実施例について詳解してきた。しかしながら、本開示の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本開示の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
 なお、本明細書において開示した技術は、以下のような構成をとることができる。
 (1) 表示情報を出力する表示情報出力部と、
 前記表示情報出力部の出力光に基づく情報表示を行う情報表示部を有し、
 前記情報表示部は、
 前記表示情報出力部の出力光に対応する波長光を選択的に反射する反射膜によって構成された表示部である画像処理装置。
 (2) 前記情報表示部は、
 前記表示情報出力部の出力光に対応する波長光以外の波長光を透過する特性を有する(1)に記載の画像処理装置。
 (3) 前記表示情報出力部は、
 カラー画像を構成するRGBの3色に対応する3種類の波長光を出力する構成であり、
 前記情報表示部は、
 前記表示情報出力部の出力するRGB波長光を選択的に反射する反射膜によって構成された表示部である(1)または(2)に記載の画像処理装置。
 (4) 前記表示情報出力部は、
 単色画像を構成する1種類の色に対応する波長光を出力する構成であり、
 前記情報表示部は、
 前記表示情報出力部の出力する1種類の色に対応する波長光を選択的に反射する反射膜によって構成された表示部である(1)~(3)いずれかに記載の画像処理装置。
 (5) 前記情報表示部は、
 車両のフロントウィンドウに積層して固定された構成であり、
 フロントウィンドウから入射する可視光を透過する光透過特性を有する(1)~(4)いずれかに記載の画像処理装置。
 (6) 前記表示情報出力部は、
 信号に利用される色と異なる色の波長光を出力する構成であり、
 前記情報表示部は、
 前記表示情報出力部の出力する波長光である信号に利用される色と異なる色の波長光を選択的に反射する反射膜によって構成された表示部である(5)に記載の画像処理装置。
 (7) 前記情報表示部は、
 さらに赤外光を反射する反射膜によって構成された表示部である(1)~(6)いずれかに記載の画像処理装置。
 (8) 前記画像処理装置は、
 前記情報表示部において反射された赤外光を入射して撮影するカメラを有する(7)に記載の画像処理装置。
 (9) 前記情報表示部は、
 車両のフロントウィンドウに積層して固定された構成であり、
 前記カメラは、
 前記情報表示部の表示情報を見る運転者の正面からの画像を撮影することを可能とした構成である(8)に記載の画像処理装置。
 (10) 前記画像処理装置は、さらに、
 前記カメラの撮影画像を解析して運転者の眼球挙動を解析する運転者眼球挙動解析部を有する(8)または(9)に記載の画像処理装置。
 (11) 画像処理装置において実行する画像処理方法であり、
 表示情報出力が、1つ以上の波長光の出力により表示情報を出力する表示情報出力ステップと、
 情報表示部が、前記表示情報出力部の出力光に基づく情報表示を行う情報表示ステップを有し、
 前記情報表示ステップは、
 前記情報表示部を構成する高機能反射膜により、前記表示情報出力部の出力する波長光を選択的に反射して情報表示を行うステップである画像処理方法。
 (12) 所定の曲率を有するカーブ面に表示部を固定する表示部固定方法であり、
 前記表示部は、表示情報出力部の出力光に対応する波長光を選択的に反射する反射膜によって構成された表示部であり、
 基板上に形成した反射膜を、前記カーブ面の曲率半径より小さい曲率半径を持つように変形させるステップと、
 変形させた反射膜を前記カーブ面に押し付けて、反射膜と前記カーブ面間の空気を周囲に押し出しながら密着させるステップを有する表示部固定方法。
 (13) 前記所定の曲率を有するカーブ面は車両のフロントウィンドウである(12)に記載の表示部固定方法。
 また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体に予め記録しておくことができる。記録媒体からコンピュータにインストールする他、LAN(Local Area Network)、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
 なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
 以上、説明したように、本開示の一実施例の構成によれば、運転中に前方や表示部を見ている運転者の顔を正面から撮影可能とした構成が実現される。
 具体的には、例えば、表示情報出力部と、表示情報出力部の出力光に基づく情報表示を行う情報表示部を有する。情報表示部は表示情報出力部の出力光に対応する波長光を選択的に反射する反射膜によって構成され、表示情報出力部の出力光に対応する波長光以外の波長光を透過する。例えば、表示情報出力部はRGB波長光を出力し、情報表示部は、RGB波長光を選択的に反射する。さらに、赤外光を反射し赤外光カメラにより、表示部を見ている運転者の顔を正面から撮影することができる。
 本構成により、運転中に前方や表示部を見ている運転者の顔を正面から撮影可能とした構成が実現される。
  10 フロントウィンドウ
  20 情報表示部(高機能反射膜)
  21 基板
  50 赤外光反射部
 100 画像処理装置
 101 データ処理部
 102 表示情報出力部
 103 ミラー
 104 カメラ
 105 発光部
 151 表示情報生成/取得部
 152 発光制御部
 153 運転者眼球挙動解析部
 154 運転者覚醒度判定部
 171 記憶部
 172 通信部
 181 警告出力部
 301 CPU
 302 ROM
 303 RAM
 304 バス
 305 入出力インタフェース
 306 入力部
 307 出力部
 308 記憶部
 309 通信部
 310 ドライブ
 311 リムーバブルメディア

Claims (13)

  1.  表示情報を出力する表示情報出力部と、
     前記表示情報出力部の出力光に基づく情報表示を行う情報表示部を有し、
     前記情報表示部は、
     前記表示情報出力部の出力光に対応する波長光を選択的に反射する反射膜によって構成された表示部である画像処理装置。
  2.  前記情報表示部は、
     前記表示情報出力部の出力光に対応する波長光以外の波長光を透過する特性を有する請求項1に記載の画像処理装置。
  3.  前記表示情報出力部は、
     カラー画像を構成するRGBの3色に対応する3種類の波長光を出力する構成であり、
     前記情報表示部は、
     前記表示情報出力部の出力するRGB波長光を選択的に反射する反射膜によって構成された表示部である請求項1に記載の画像処理装置。
  4.  前記表示情報出力部は、
     単色画像を構成する1種類の色に対応する波長光を出力する構成であり、
     前記情報表示部は、
     前記表示情報出力部の出力する1種類の色に対応する波長光を選択的に反射する反射膜によって構成された表示部である請求項1に記載の画像処理装置。
  5.  前記情報表示部は、
     車両のフロントウィンドウに積層して固定された構成であり、
     フロントウィンドウから入射する可視光を透過する光透過特性を有する請求項1に記載の画像処理装置。
  6.  前記表示情報出力部は、
     信号に利用される色と異なる色の波長光を出力する構成であり、
     前記情報表示部は、
     前記表示情報出力部の出力する波長光である信号に利用される色と異なる色の波長光を選択的に反射する反射膜によって構成された表示部である請求項5に記載の画像処理装置。
  7.  前記情報表示部は、
     さらに赤外光を反射する反射膜によって構成された表示部である請求項1に記載の画像処理装置。
  8.  前記画像処理装置は、
     前記情報表示部において反射された赤外光を入射して撮影するカメラを有する請求項7に記載の画像処理装置。
  9.  前記情報表示部は、
     車両のフロントウィンドウに積層して固定された構成であり、
     前記カメラは、
     前記情報表示部の表示情報を見る運転者の正面からの画像を撮影することを可能とした構成である請求項8に記載の画像処理装置。
  10.  前記画像処理装置は、さらに、
     前記カメラの撮影画像を解析して運転者の眼球挙動を解析する運転者眼球挙動解析部を有する請求項8に記載の画像処理装置。
  11.  画像処理装置において実行する画像処理方法であり、
     表示情報出力が、1つ以上の波長光の出力により表示情報を出力する表示情報出力ステップと、
     情報表示部が、前記表示情報出力部の出力光に基づく情報表示を行う情報表示ステップを有し、
     前記情報表示ステップは、
     前記情報表示部を構成する高機能反射膜により、前記表示情報出力部の出力する波長光を選択的に反射して情報表示を行うステップである画像処理方法。
  12.  所定の曲率を有するカーブ面に表示部を固定する表示部固定方法であり、
     前記表示部は、表示情報出力部の出力光に対応する波長光を選択的に反射する反射膜によって構成された表示部であり、
     基板上に形成した反射膜を、前記カーブ面の曲率半径より小さい曲率半径を持つように変形させるステップと、
     変形させた反射膜を前記カーブ面に押し付けて、反射膜と前記カーブ面間の空気を周囲に押し出しながら密着させるステップを有する表示部固定方法。
  13.  前記所定の曲率を有するカーブ面は車両のフロントウィンドウである請求項12に記載の表示部固定方法。
PCT/JP2020/025271 2019-07-26 2020-06-26 画像処理装置、および画像処理方法、並びに表示部固定方法 WO2021019989A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019-137651 2019-07-26
JP2019137651 2019-07-26

Publications (1)

Publication Number Publication Date
WO2021019989A1 true WO2021019989A1 (ja) 2021-02-04

Family

ID=74228485

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2020/025271 WO2021019989A1 (ja) 2019-07-26 2020-06-26 画像処理装置、および画像処理方法、並びに表示部固定方法

Country Status (1)

Country Link
WO (1) WO2021019989A1 (ja)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01253446A (ja) * 1987-08-25 1989-10-09 Asahi Glass Co Ltd 積層体の圧着方法
JPH0245829U (ja) * 1988-09-27 1990-03-29
JP2009540079A (ja) * 2006-06-13 2009-11-19 エシロール アンテルナシオナル (コンパニー ジェネラレ ドプテイク) 湾曲した基材へのフィルムの接着方法
JP2011133508A (ja) * 2009-12-22 2011-07-07 Topcon Corp 走査型表示装置光学系、立体表示装置及びヘッドアップディスプレイ装置
WO2012042744A1 (ja) * 2010-10-01 2012-04-05 パナソニック株式会社 表示装置、移動体及び制御装置
JP2012163613A (ja) * 2011-02-03 2012-08-30 Denso Corp 虚像表示装置
US20170329139A1 (en) * 2016-02-26 2017-11-16 Fusar Technologies, Inc. Method and notch reflector projection system

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01253446A (ja) * 1987-08-25 1989-10-09 Asahi Glass Co Ltd 積層体の圧着方法
JPH0245829U (ja) * 1988-09-27 1990-03-29
JP2009540079A (ja) * 2006-06-13 2009-11-19 エシロール アンテルナシオナル (コンパニー ジェネラレ ドプテイク) 湾曲した基材へのフィルムの接着方法
JP2011133508A (ja) * 2009-12-22 2011-07-07 Topcon Corp 走査型表示装置光学系、立体表示装置及びヘッドアップディスプレイ装置
WO2012042744A1 (ja) * 2010-10-01 2012-04-05 パナソニック株式会社 表示装置、移動体及び制御装置
JP2012163613A (ja) * 2011-02-03 2012-08-30 Denso Corp 虚像表示装置
US20170329139A1 (en) * 2016-02-26 2017-11-16 Fusar Technologies, Inc. Method and notch reflector projection system

Similar Documents

Publication Publication Date Title
US10732408B2 (en) Projection type display device and projection display method
JP6470335B2 (ja) 車両の表示システム及び車両の表示システムの制御方法
US10908417B2 (en) Vehicle vision system with virtual retinal display
US10895743B2 (en) Display apparatus for superimposing a virtual image into the field of vision of a user
US10996481B1 (en) Head-up display calibration
WO2015182026A1 (ja) ヘッドアップディスプレイ装置
US10261314B2 (en) Head-up display
CN111034167B (zh) 成像装置及成像装置的制造方法
CN110431453A (zh) 摄像装置和电子设备
JP2009150947A (ja) 車両用ヘッドアップディスプレイ装置
US10630946B2 (en) Projection type display device, display control method of projection type display device, and program
US20150124097A1 (en) Optical reproduction and detection system in a vehicle
US11176749B2 (en) In-vehicle display device three-dimensional image generation
US20180219052A1 (en) Display system for a vehicle
JP2019089480A (ja) カバー部材、画像投影装置および移動体用内装部材
JP4452613B2 (ja) ホログラフィック表示システム
EP3807696A1 (en) Head-up-display
JP2009278234A (ja) 表示システム
WO2019240972A1 (en) Color modification system and methods for vehicle displays
WO2021019989A1 (ja) 画像処理装置、および画像処理方法、並びに表示部固定方法
US20180334262A1 (en) Display system of an aircraft
US10401621B2 (en) Display unit for vehicle head-up display system
JP2018514168A (ja) 自動車用の表示装置
JP2021045990A (ja) 表示装置
US20190012552A1 (en) Hidden driver monitoring

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20848467

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 20848467

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP