WO2020194855A1 - 虚像表示装置および撮像装置 - Google Patents

虚像表示装置および撮像装置 Download PDF

Info

Publication number
WO2020194855A1
WO2020194855A1 PCT/JP2019/045577 JP2019045577W WO2020194855A1 WO 2020194855 A1 WO2020194855 A1 WO 2020194855A1 JP 2019045577 W JP2019045577 W JP 2019045577W WO 2020194855 A1 WO2020194855 A1 WO 2020194855A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
light
projected
polarized
period
Prior art date
Application number
PCT/JP2019/045577
Other languages
English (en)
French (fr)
Inventor
大山 実
Original Assignee
株式会社Jvcケンウッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社Jvcケンウッド filed Critical 株式会社Jvcケンウッド
Publication of WO2020194855A1 publication Critical patent/WO2020194855A1/ja

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B26/00Optical devices or arrangements for the control of light using movable or deformable optical elements
    • G02B26/08Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the direction of light
    • G02B26/10Scanning systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/30Polarising elements

Definitions

  • the present invention relates to a virtual image display device and an imaging device.
  • a head-up display has been used in which an image display light is projected onto a windshield of a vehicle or the like, and a virtual image based on the image display light is superimposed on the scenery outside the vehicle.
  • a user such as a driver visually recognizes the image display light reflected by the windshield.
  • the reflectance of a general windshield made of glass or the like has polarization dependence, and the P polarization component is less likely to be reflected than the S polarization component.
  • the S polarized light component that is easily reflected by the windshield is shielded by the polarized sunglasses, which makes it difficult to see the image display light.
  • a display device has been proposed in which the image display light is easily visible even when polarized sunglasses are used (see, for example, Patent Document 1).
  • the image display light will be dark for users who do not use polarized sunglasses. It is preferable to be able to provide an appropriate image display light depending on whether or not polarized sunglasses are used.
  • the present invention has been made in view of the above circumstances, and an object of the present invention is to provide a technique for switching an image display light depending on whether or not polarized sunglasses are used.
  • the imaginary image display device of an aspect of the present invention selectively windshields the first projected light linearly polarized in the first direction and the second projected light linearly polarized in the second direction orthogonal to the first direction.
  • An image projection unit that projects toward the user and presents a virtual image based on the first projection light or the second projection light reflected by the windshield to the user, and a first image including the user's face when the first projection light is projected.
  • the image pickup control unit causes the image pickup device to image a second image including the user's face when the second projected light is projected, and linearly polarized light in the first direction based on the first image and the second image.
  • An image processing unit that determines whether or not the user is wearing polarized sunglasses that shield the components, and an image projection unit that projects the first projected light when the image processing unit determines that the polarized sunglasses are not worn.
  • the image processing unit includes a display control unit that projects a second projected light onto the image projection unit when it is determined that the image processing unit is wearing polarized sunglasses.
  • Another aspect of the present invention is an imaging device.
  • This device selects a camera that captures the user's face, a first projected light that is linearly polarized in the first direction, and a second projected light that is linearly polarized in the second direction orthogonal to the first direction.
  • Either the first projection light or the second projection light is applied to the imaginary image display device that projects the light toward the windshield and presents the imaginary image based on the first projection light or the second projection light reflected by the windshield to the user.
  • a straight line in the first direction based on a command unit that instructs whether to project, a first image captured by the camera when projecting the first projected light, and a second image captured by the camera when projecting the second projected light.
  • It includes an image processing unit that determines whether or not a polarized sunglasses that shields a polarized component is worn.
  • the command unit determines that the image processing unit is not wearing polarized sunglasses
  • the command unit commands the virtual image display device to project the first projected light
  • the image processing unit determines that the polarized sunglasses are worn. Is instructed to project the second projection light to the virtual image display device.
  • the image display light can be switched depending on whether or not polarized sunglasses are used.
  • FIG. 1 is a diagram schematically showing an installation example of the virtual image display device 10 according to the embodiment.
  • the virtual image display device 10 is installed in the vehicle 60, which is an example of a moving body.
  • the virtual image display device 10 is a so-called head-up display, which projects projected light 52 onto the windshield 62 and presents the virtual image 50 in front of the vehicle 60 in the traveling direction (right direction in FIG. 1).
  • the driver 70 who is a user, visually recognizes the virtual image 50 superimposed on the real landscape through the windshield 62.
  • the traveling direction (front-rear direction) of the vehicle 60 is the z direction
  • the top-bottom direction (vertical direction) of the vehicle 60 is the y direction
  • the left-right direction of the vehicle 60 is the x direction.
  • the virtual image display device 10 includes an image projection unit 12, an intermediate image screen 14, a projection mirror 16, an angle adjusting mechanism 18, and a control device 20.
  • the virtual image display device 10 is connected to the image pickup device 11 and the external device 64 mounted on the vehicle 60.
  • the external device 64 is a device that generates the original data of the display image displayed as the virtual image 50.
  • the external device 64 is, for example, an electronic control unit (ECU) of the vehicle 60, a navigation device, a mobile device such as a mobile phone, a smartphone, or a tablet.
  • the external device 64 transmits to the control device 20 image data necessary for displaying the virtual image 50, information indicating the content and type of the image data, and information about the vehicle 60 such as the speed and the current position of the vehicle 60.
  • the image pickup device 11 is a so-called driver monitor, and images the face of the driver 70 to monitor the state of the driver 70.
  • the image pickup device 11 includes a camera 26 and a lighting device 28.
  • the camera 26 has an image sensor such as a CCD sensor or a CMOS sensor, and generates image data in which the face of the driver 70 is imaged.
  • the camera 26 targets the driver 70 in front of the imaging shaft 56 as an imaging target.
  • the lighting device 28 irradiates the illuminating light (also referred to as the third illuminating light 58) toward the face of the driver 70 to be imaged by the camera 26.
  • the lighting device 28 has an unpolarized or non-polarized light source such as an LED (Light Emitting Diode), and is configured to generate, for example, a third illumination light 58 of infrared light.
  • the illuminating device 28 may generate a third illumination light 58 of visible light, or may generate a third illumination light 58 of red, green, blue, or white.
  • the image projection unit 12 generates the projected light 52 for presenting the virtual image 50, and emits the projected light 52 toward the intermediate image screen 14.
  • the intermediate image screen 14 is composed of a light diffusing plate or the like, and forms an intermediate image (real image) based on the projected light 52.
  • the projection mirror 16 projects the projected light 52 transmitted through the intermediate image screen 14 toward the windshield 62.
  • the angle adjusting mechanism 18 adjusts the angle of the projection mirror 16 according to the height position of the eyes of the driver 70, and the projected light 52 projects toward the eyebox region 76 where the driver 70 can see the virtual image 50. To be done.
  • the eye box region 76 is a substantially rectangular region that includes both eyes of the driver 70, and is set, for example, to be long in the left-right direction (x direction) and short in the up-down direction.
  • the image projection unit 12, the intermediate image screen 14, the projection mirror 16, and the angle adjusting mechanism 18 are incorporated into, for example, a housing 19 provided in the dashboard of the vehicle 60.
  • the image pickup apparatus 11 is configured as a separate body outside the housing 19 in which the image projection unit 12 and the like are housed.
  • the image pickup device 11 may be provided on the front surface of the dashboard of the vehicle 60 or on the center console of the vehicle 60, or may be provided on the rear view mirror or sun visor of the vehicle 60.
  • the image pickup device 11 may be provided in the housing 19 in which the image projection unit 12 and the like are housed.
  • the virtual image display device 10 is configured to be able to determine whether or not the sunglasses 72 worn by the driver 70 are polarized sunglasses.
  • the polarized sunglasses are sunglasses capable of shielding or reducing the reflected light on the water surface, and include a linear polarizer that shields or reduces the S-polarizing component and transmits the P-polarizing component.
  • ordinary sunglasses do not contain a linear polarizer and include an ND (Neutral Density) filter that attenuates the intensity of incident light.
  • the background that requires the detection of polarized sunglasses is the polarization dependence of the reflectance of the projected light 52 on the windshield 62.
  • FIG. 2 is a graph showing the reflectance of the windshield 62. It is known that the reflectance of a general windshield 62 made of glass or the like has polarization dependence, and the reflectance Rp of the P polarization component is lower than the reflectance Rs of the S polarization component. Therefore, among the projected lights 52 shown in FIG. 1, the reflectance of the first projected light 52s of the S-polarized light component is relatively high, and the reflectance of the second projected light 52p of the P-polarized light component is relatively low. In particular, at an incident angle (for example, 53 degrees) called Brewster's angle ⁇ B , the reflectance Rp of the P-polarized light component becomes 0. As shown in FIG.
  • the projected light 52 projected from the virtual image display device 10 is obliquely input and reflected with respect to the windshield 62, and the input / reflection angle ⁇ at the windshield 62 is close to the Brewster angle ⁇ B. Can take a value.
  • the first projected light 52s of the S polarization component easily reaches the eyes of the driver 70, and the second projected light 52p of the P polarization component hardly reaches the eyes of the driver 70.
  • the driver 70 is wearing polarized sunglasses, the first projected light 52s of the S polarization component is shielded or reduced by the polarized sunglasses.
  • the second projected light 52p of the P polarization component must be used.
  • the driver 70 does not wear polarized sunglasses, it is possible to provide a brighter and more visible virtual image 50 by using the first projected light 52s of the S polarization component. Therefore, in the present embodiment, it is possible to automatically determine whether or not the polarized sunglasses are worn, and to provide the projected light 52 having a more appropriate polarized component depending on whether or not the polarized sunglasses are worn.
  • the S-polarized light component in the configuration of FIG. 1 is a light component linearly polarized in the first direction orthogonal to both the incident direction and the reflected direction of the projected light 52 in the windshield 62, and is the left-right direction (x) of the vehicle 60.
  • the P polarization component is a light component linearly polarized in the second direction orthogonal to the first direction, and is along the yz plane defined in the vertical direction (y direction) and the front-rear direction (z direction) of the vehicle 60. It corresponds to a light component linearly polarized in the direction.
  • the virtual image display device 10 is configured to image the face of the driver 70 to be imaged by dividing it into an S-polarized light component and a P-polarized light component.
  • the image projection unit 12 is configured to selectively project the first projected light 52s and the second projected light 52p.
  • the image pickup device 11 captures the first image of the driver 70 on which the first projected light 52s (that is, S-polarized illumination) is projected, and the driver on which the second projected light 52p (that is, P-polarized illumination) is projected.
  • a second image obtained by imaging 70 is imaged.
  • the virtual image display device 10 determines whether or not the driver 70 is using polarized sunglasses by comparing the first image and the second image.
  • FIG. 3 is a diagram schematically showing a method for determining polarized sunglasses.
  • it is acquired by the image pickup apparatus 11 in three cases: (a) when the naked eye is not using sunglasses, (b) when using normal sunglasses which are not polarized sunglasses, and (c) when using polarized sunglasses.
  • (I) The first image and (ii) the second image are shown.
  • FIG. 3 also shows histograms of the (iii) difference image and the (iv) difference image corresponding to the difference between the first image and the second image.
  • the histogram is a graph of the distribution of the brightness values of each pixel constituting the image, and the horizontal axis is the brightness value and the vertical axis is the number of pixels.
  • the brightness value of the difference image (that is, the difference value between the first brightness value and the second brightness value). ) Becomes almost zero, and almost nothing appears in the difference image.
  • the peak 74 is detected only in the vicinity where the luminance value becomes zero.
  • the appearance of the polarized sunglasses differs between the first image of the S-polarized illumination and the second image of the P-polarized illumination. Since the polarized sunglasses shield the S-polarized component, the polarized sunglasses appear black in the first image of the S-polarized illumination. On the other hand, since polarized sunglasses transmit the P-polarized component, the polarized sunglasses can be seen through in the second image of P-polarized illumination. As a result, in the difference image, the absolute value of the brightness value in the region of the polarized sunglasses (that is, the difference value between the first brightness value and the second brightness value) becomes large, and the polarized sunglasses appear to be emphasized.
  • the first luminance value of the polarized sunglasses region in the first image is relatively small (that is, dark) and the second luminance value of the polarized sunglasses region in the second image is relatively large (that is, bright), in the difference image.
  • the brightness value in the polarized sunglasses region is a negative value (for example, ⁇ n).
  • the first peak 74a is detected in the vicinity where the luminance value becomes zero
  • the second peak 74b is detected in the vicinity where the luminance value becomes ⁇ n. In this way, by comparing the first image of the S-polarized illumination and the second image of the P-polarized illumination, the presence or absence of the polarized sunglasses can be detected.
  • FIG. 4 is a diagram schematically showing the configuration of the image projection unit 12 according to the embodiment.
  • the image projection unit 12 includes a light source unit 22 and a scanning unit 24.
  • the light source unit 22 generates a laser beam that is the source of the projected light 52.
  • the scanning unit 24 generates projected light 52 for presenting a desired display image by raster-scanning the laser light.
  • the light source unit 22 includes a first green light source 30 Gs, a second green light source 30 Gp, a red light source 30R, a blue light source 30B, a light source drive unit 31, a polarizing beam splitter 32, a first dichroic mirror 33, and a second. It has a dichroic mirror 34 and a light source light measuring unit 35.
  • the first green light source 30Gs is a green laser light source having a linearly polarized light oscillation mode, and is arranged so as to emit S-polarized first green laser light.
  • the second green light source 30 Gp is a green laser light source having a linearly polarized light oscillation mode, and is arranged so as to emit a P-polarized second green laser light.
  • the red light source 30R is a red laser light source having a linearly polarized oscillation mode.
  • the red light source 30R is arranged so as to have a polarization direction rotated by 45 degrees with respect to the S polarization direction, and emits a red laser beam containing both an S polarization component and a P polarization component.
  • the blue light source 30B is a blue laser light source having a linearly polarized oscillation mode.
  • the blue light source 30B is arranged so as to have a polarization direction rotated by 45 degrees with respect to the S polarization direction, for example, and is configured to emit a blue laser beam containing both an S polarization component and a P polarization component.
  • the red, green, and blue semiconductor laser light sources currently in practical use are more difficult to increase the output of green than red and blue, and the light intensity of green is insufficient to generate a high-brightness color image. It tends to be. Therefore, in the present embodiment, the first green light source 30 Gs for S-polarized light and the second green light source 30 Gp for P-polarized light are separately prepared, and the green laser light emitted from each is combined to increase the height. A bright green laser beam can be obtained.
  • laser light sources for S-polarized light and P-polarized light are separately prepared for at least one of red and blue, and both are combined to obtain red laser light and blue laser light. Good.
  • the light source driving unit 31 drives four laser light sources 30Gs, 30Gp, 30R, and 30B.
  • the light source driving unit 31 changes the light emission intensity of each of the laser light sources 30Gs, 30Gp, 30R, and 30B according to the raster scan cycle of the scanning unit 24, and obtains the light intensity corresponding to the brightness value of each pixel of the display image.
  • the projected light 52 to have is generated.
  • the light source driving unit 31 emits light of 30Gs, 30Gp, 30R, 30B of each laser light source so that the color tone of the virtual image 50 based on the first projected light 52s matches the color tone of the virtual image 50 based on the second projected light 52p. Adjust the intensity ratio (white balance).
  • the light source driving unit 31 has, for example, a first white balance used when the first projected light 52s is generated and a second white balance used when the second projected light 52p is generated.
  • the first white balance is the ratio of the emission intensity of the first green light source 30Gs to the emission intensity of the red light source 30R and the blue light source 30B at the time of generation of the first projection light 52s.
  • the second white balance corresponds to the ratio of the emission intensity of the second green light source 30Gp to the emission intensity of the red light source 30R and the blue light source 30B when the second projected light 52p is generated.
  • the values of the first white balance and the second white balance are determined, for example, according to the reflectance Rs of the S-polarizing component of the windshield 62 and the reflectance Rp of the P-polarizing component. For example, when the emission intensity of the red light source 30R for generating the first projected light 52s and the emission intensity of the red light source 30R for generating the second projected light 52p are the same, it reaches the eyes of the driver 70. The brightness of the red light is the same. The same applies to the blue light source 30B.
  • the windshield 62 The brightness of the green light reaching the eyes of the driver 70 is not the same due to the difference in the reflectance of the S-polarized light component and the P-polarized light component in. Therefore, the color tone of the first projected light 52s and the color tone of the second projected light 52p do not match.
  • the emission intensity of the first green light source 30 Gs is 1, the emission intensity of the second green light source 30 Gp is set.
  • the polarized beam splitter 32 combines the S-polarized first green laser light emitted from the first green light source 30 Gs and the P-polarized second green laser light emitted from the second green light source 30 Gp to form an S-polarized component. And produces a green laser beam containing both the P-polarized light component.
  • the first dichroic mirror 33 combines the red laser light emitted from the red light source 30R and the green laser light emitted from the polarizing beam splitter 32.
  • the second dichroic mirror 34 combines the blue laser beam emitted from the blue light source 30B with the green and red laser beams emitted from the first dichroic mirror 33.
  • the red, green, and blue laser beams emitted from the second dichroic mirror 34 are directed toward the scanning unit 24.
  • the light source light measuring unit 35 measures the light intensity of the laser light transmitted or reflected through the second dichroic mirror 34, and monitors the emission intensity of each laser light source 30Gs, 30Gp, 30R, 30B.
  • the light source light measuring unit 35 is composed of, for example, a photodiode.
  • the scan unit 24 has a first scan mirror 37, a second scan mirror 38, and a scan drive unit 39.
  • the first scan mirror 37 rotates so as to scan the laser beam in the horizontal direction on the intermediate image screen 14, and the second scan mirror 38 rotates so as to scan the laser beam in the vertical direction on the intermediate image screen 14.
  • the scan drive unit 39 controls the rotation of the first scan mirror 37 and the second scan mirror 38 so that the laser beam is raster-scanned on the intermediate image screen 14.
  • a display image is drawn on the intermediate image screen 14 by the raster scan of the laser beam by the scanning unit 24.
  • the display image drawn on the intermediate image screen 14 is visually recognized by the driver 70 as a virtual image 50.
  • the intermediate image screen 14 is configured to diffuse and homogenize the projected light 52 emitted from the scanning unit 24.
  • the intermediate image screen 14 is preferably a polarization preservation type in which the polarization direction is preserved before and after the incident of the intermediate image screen 14.
  • the image projection unit 12 generates two types of image display light (also simply referred to as display light) for presenting a display image.
  • the image projection unit 12 selectively generates a first display light to be projected when the polarized sunglasses are not worn and a second display light to be projected when the polarized sunglasses are worn.
  • the first display light is an image display light composed of an S-polarized light component linearly polarized in the first direction, and is generated by using laser light emitted from a first green light source 30 Gs, a red light source 30R, and a blue light source 30B. Will be done. Therefore, when the first display light is generated, the second green light source 30 Gp is turned off.
  • the second display light is an image display light composed of a P-polarized light component linearly polarized in the second direction, and is generated by using laser light emitted from a second green light source 30 Gp, a red light source 30R, and a blue light source 30B. Will be done. Therefore, the first green light source 30 Gs is turned off for the generation of the second display light.
  • the image projection unit 12 generates two types of illumination light (projection light for illumination) used for determining whether or not polarized sunglasses are worn.
  • the projected illumination light is used to project the illuminated illumination light having a uniform light intensity distribution onto the eyebox region 76, and has different properties from the image display light for presenting the display image to the driver 70.
  • the projection light for illumination is projected, the measurement image having the same brightness as the entire image is presented as a virtual image 50, so that the projection light (or image display light) for presenting the measurement image is present. It can also be said that it is projected light for lighting.
  • the image projection unit 12 selectively generates the first illumination light used for capturing the first image and the second illumination light used for capturing the second image.
  • the first illumination light is composed of only the S-polarized light component linearly polarized in the first direction, and is generated by using only the first green laser light emitted from the first green light source 30 Gs.
  • the second illumination light is composed of only the P-polarized light component linearly polarized in the second direction, and is generated by using only the second green laser light emitted from the second green light source 30 Gp. Therefore, when the projected light for illumination is generated, the red light source 30R and the blue light source 30B that emit the laser light containing both the S polarization component and the P polarization component are turned off.
  • the image projection unit 12 adjusts the emission intensities of the first green light source 30 Gs and the second green light source 30 Gp so that the brightness of the first illumination light and the second illumination light projected on the face of the driver 70 are the same. You may. Since the first illumination light and the second illumination light are reflected by the windshield 62 and then projected onto the face of the driver 70, the difference between the reflectances Rs and Rp of the S polarization component and the P polarization component of the windshield 62. Affected by. For example, when the emission intensity of the first green light source 30 Gs at the time of generating the first illumination light is 1, the emission intensity of the second green light source 30 Gp at the time of generating the second illumination light is Rs / Rp. The brightness of the first illumination light and the second illumination light projected on the driver 70 after being reflected by the shield 62 can be made the same.
  • FIG. 5 is a block diagram schematically showing the functional configuration of the control device 20 according to the embodiment.
  • the control device 20 includes a projection control unit 40, a display control unit 42, an image pickup control unit 44, and an image processing unit 46.
  • Each functional block shown in the figure can be realized by elements and mechanical devices such as the CPU and memory of a computer in terms of hardware, and by a computer program or the like in terms of software, but here, by linking them. It is drawn as a functional block to be realized. Therefore, it is understood by those skilled in the art that these functional blocks can be realized in various forms by combining hardware and software.
  • the projection control unit 40 controls the operation of the angle adjusting mechanism 18 to change the angle of the projection mirror 16 and adjusts the direction of the optical path 54 of the projected light 52.
  • the projection control unit 40 adjusts the direction of the optical path 54 so that the projected light 52 is projected onto the eyebox region 76 according to the eye height position of the driver 70.
  • the projection control unit 40 operates the angle adjusting mechanism 18 based on, for example, an input operation from the driver 70.
  • the display control unit 42 controls the operation of the image projection unit 12 so that the image display light and the projection light for illumination are generated.
  • the display control unit 42 acquires display image data from the external device 64 and controls the operation of the light source driving unit 31 based on the display image data to generate image display light.
  • the display control unit 42 emits a laser beam having a light intensity corresponding to the red, green, and blue brightness values of each pixel of the display image in accordance with the raster scan cycle of the scan unit 24. Controls the operation of 31.
  • the display control unit 42 raster-scans the laser beam while keeping the emission intensity of the first green light source 30 Gs or the second green light source 30 Gp constant so that the projected light for illumination having the same brightness as the entire image is generated. To.
  • the image pickup control unit 44 controls the operation of the image pickup device 11 in synchronization with the operation of the image projection unit 12.
  • the image pickup control unit 44 causes the camera 26 to take a first image at the timing when the first illumination light composed of only the S polarization component is projected onto the image pickup target.
  • the image pickup control unit 44 causes the camera 26 to take a second image at the timing when the second illumination light composed of only the P polarization component is projected onto the image pickup target.
  • the image pickup control unit 44 prohibits the illumination device 28 from irradiating the third illumination light 58 at the timing when the first illumination light or the second illumination light is projected. This prevents the first image from containing the P-polarized light component caused by the third illumination light 58 and the second image from containing the S-polarized light component caused by the third illumination light 58.
  • the image pickup control unit 44 causes the camera 26 to take a third image at the timing when the image display light is projected.
  • the third image is an image when the image pickup device 11 is operated as a driver monitor to image the driver 70, and is, for example, an image constituting a moving image.
  • the image pickup control unit 44 permits the illumination device 28 to irradiate the third illumination light 58 at the timing of capturing the third image. By capturing the third image while the third illumination light 58 is being irradiated, the state of the driver 70 can be captured more clearly.
  • the camera 26 may have a wavelength filter provided in front of the image sensor.
  • the camera 26 selectively transmits the wavelength of the third illumination light 58 (for example, the infrared region) emitted by the illumination device 28 and the wavelength of the illumination projection light (for example, green) projected by the image projection unit 12. May have.
  • the wavelength of the third illumination light 58 for example, the infrared region
  • the wavelength of the illumination projection light for example, green
  • the image processing unit 46 determines whether or not the driver 70 is wearing polarized sunglasses based on the first image and the second image captured by the image pickup device 11. As shown in FIG. 3, the image processing unit 46 generates a difference image between the first image and the second image, and the difference image has a “specific area” in which the absolute value of the brightness value of each pixel is equal to or greater than the reference value. Determined to include polarized sunglasses if present. As shown in FIG. 3, the image processing unit 46 may determine the presence or absence of polarized sunglasses based on the histogram of the difference image. For example, in the histogram of FIG.
  • the image processing unit 46 considers the difference in reflectance Rs and Rp between the S-polarized light component and the P-polarized light component of the windshield 62, and considers the difference between the reflectances Rs and Rp of the windshield 62 and at least one of the first image and the second image captured by the image pickup apparatus 11.
  • the difference image may be generated after the brightness value is corrected. For example, even if the brightness of the first illumination light and the second illumination light emitted from the image projection unit 12 are the same, the brightness of the first illumination light projected on the driver 70 is the S polarization of the windshield 62.
  • the image processing unit 46 corrects the brightness value of each pixel of the first image imaged by the image pickup device 11 to 1 / Rs times, and reduces the brightness value of each pixel of the second image imaged by the image pickup device 11 to 1 /.
  • the difference image between the two may be generated after being corrected to Rp times.
  • the image processing unit 46 may determine whether or not polarized sunglasses are included in consideration of the sign (positive or negative) of the brightness value of the pixel in the specific region in the difference image. For example, the brightness value of the pixel in the specific region of the first image using S-polarized illumination is relatively small (that is, dark), and the brightness value of the pixel in the specific region of the second image using P-polarized illumination is relatively large. It may be determined that polarized sunglasses are included only if they are (ie, bright).
  • the image processing unit 46 identifies the contour of the driver 70's face and the position of the eyes by using an image analysis technique such as pattern matching, and when a specific area exists in a range overlapping the face or a specific area is located at the eye position.
  • the image processing unit 46 may determine whether or not polarized sunglasses are used only when the driver 70 does not tilt his head and the left-right direction of the vehicle 60 matches the left-right direction of both eyes of the driver 70 or the left-right direction of the sunglasses. ..
  • the image processing unit 46 may detect the state of the driver 70 based on the third image (moving image) captured by the image pickup device 11.
  • the image processing unit 46 detects dozing when the driver 70's eyes are closed continuously for a predetermined time, and the line-of-sight direction of the driver 70 is continuously directed to a direction different from the front of the vehicle for a predetermined time. In some cases, inattentive driving may be detected.
  • the display control unit 42 causes the image projection unit 12 to project the first display light composed of the S polarized light component. Since the S-polarized light component has a higher reflectance in the windshield 62 than the P-polarized light component, a higher-brightness display image can be presented to the driver 70 by using the first display light.
  • the display control unit 42 causes the image projection unit 12 to project the second display light composed of the P polarized light component. By projecting the second display light of the P-polarized component, the display image can be presented to the driver 70 through the polarized sunglasses.
  • FIG. 6 is a timing chart schematically showing the operation of the virtual image display device 10.
  • the image projection unit 12 operates by periodically switching between the first period T1, the second period T2, and the third period T3.
  • the first period T1 is a period in which only the first green light source 30 Gs is turned on and the first illumination light is projected
  • the second period T2 is a period in which only the second green light source 30 Gp is turned on and the second illumination light is projected. Is the period during which is projected.
  • the lighting device 28 is turned off. Therefore, in the first period T1, the camera 26 takes a first image of the face of the driver 70 in a state where the first illumination light is projected and the third illumination light 58 is not irradiated.
  • the camera 26 captures a second image of the face of the driver 70 in a state where the second illumination light is projected and the third illumination light 58 is not irradiated.
  • the third period T3 is a period in which the image display light is projected and the display image is presented to the driver 70.
  • each light source used to generate the image display light is turned on.
  • FIG. 6 shows a case where it is determined that the polarized sunglasses are not worn and the first display light of the S polarized light component is projected using the first green light source 30 Gs in the third period T3.
  • the second display light of the P polarized component is projected using the second green light source 30 Gp in the third period T3.
  • the display control unit 42 periodically switches between the first period T1, the second period T2, and the third period T3 to intermittently perform measurements for detecting polarized sunglasses and present them to the driver 70. Present the image to be displayed.
  • the display control unit 42 switches T1 to T3 for each period in synchronization with the raster scan cycle of the scanning unit 24.
  • the lengths of the first period T1 and the second period T2 correspond to the cycle time of one raster scan for drawing the entire image, for example, 1/60 second or 1/30 second. Is.
  • the third period T3 is set to a longer time than the other periods, such as 1 second, 5 seconds, 10 seconds, 30 seconds, 1 minute, and 5 minutes.
  • the display control unit 42 makes the first period T1 and the second period T2 temporally continuous with each other. As a result, the change in the imaging conditions between the first period T1 and the second period T2 is minimized, and there is a difference between the first image and the second image due to factors other than the projected illumination light such as the change in the posture of the driver 70. It can be prevented from occurring.
  • the image pickup control unit 44 may switch from the third period T3 to the first period T1 or the second period T2 based on the detection result of the state of the driver 70 by the image processing unit 46.
  • the image processing unit 46 may detect the action of the driver 70 putting on and taking off sunglasses based on the third image.
  • the image processing unit 46 may detect a change in the line-of-sight direction of the driver 70 based on the third image, and may detect that the driver 70 is not gazing ahead.
  • the image pickup control unit 44 switches from the third period to the first period T1, then switches to the second period T2, and the camera 26 captures the first image and the second image.
  • the image processing unit 46 may determine whether or not polarized sunglasses are worn. By determining whether or not polarized sunglasses are worn at the timing when the sunglasses are put on and taken off, it is possible to switch to the projection of the image display light of an appropriate polarized component (S-polarized light or P-polarized light) according to the wearing and putting on of the sunglasses. Further, by projecting the projection light for illumination at the timing when the driver is not looking forward, it is determined whether or not the polarized sunglasses are worn while preventing the virtual image 50 having the same brightness based on the projection light for illumination from being visually recognized by the driver 70. it can.
  • S-polarized light or P-polarized light an appropriate polarized component
  • the virtual image display device 10 can generate appropriate image display light depending on whether or not polarized sunglasses are worn. For example, when the polarized sunglasses are not worn, the windshield 62 generates the S-polarized first projected light 52s which is easily reflected, and when the polarized sunglasses are worn, the light can be visually recognized through the polarized sunglasses. It is possible to generate a second projected light 52p of P-polarized light. As a result, the power consumption of the virtual image display device 10 can be reduced as compared with the case where both the first projected light 52s and the second projected light 52p are generated regardless of whether or not the polarized sunglasses are worn.
  • the driver 70 is using polarized sunglasses while using the image pickup device 11 as a driver monitor and the virtual image display device 10 as a head-up display.
  • the third period T3 operating as a driver monitor and a head-up display is substantially inserted. Whether or not polarized sunglasses are worn can be determined without affecting them.
  • the P polarization component is not included in the first image, and the S polarization component is not included in the second image. It is possible to improve the accuracy of determining whether or not polarized sunglasses are worn.
  • a normal image (third image) as a driver monitor can be captured more clearly in a state where the third illumination light 58 is irradiated, and the driver can be captured.
  • the detection accuracy as a monitor can be improved.
  • the image pickup device 11 for a driver monitor that irradiates general illumination light that is not linearly polarized light may be combined with the virtual image display device 10 that can generate the first projected light 52s and the second projected light 52p.
  • the virtual image display device 10 and the image pickup device 11 are configured as separate bodies has been described, but both may be integrally configured. That is, the virtual image display device 10 may include an image pickup device 11.
  • FIG. 7 is a diagram schematically showing the configuration of the driving support system 100 according to the embodiment.
  • the driving support system 100 includes a virtual image display device 110 and an image pickup device 111.
  • the first control device 120 provided in the virtual image display device 110 and the second control device 121 provided in the image pickup device 111 are configured to cooperate to determine whether or not polarized sunglasses are worn. It differs from the above-described embodiment.
  • the virtual image display device 110 includes an image projection unit 12, an intermediate image screen 14, a projection mirror 16, an angle adjusting mechanism 18, and a first control device 120.
  • the first control device 120 includes a projection control unit 40, a display control unit 42, a first image pickup control unit 144, and a first image processing unit 146.
  • the image projection unit 12, the intermediate image screen 14, the projection mirror 16, the angle adjustment mechanism 18, the projection control unit 40, and the display control unit 42 are configured in the same manner as in the above-described embodiment.
  • the virtual image display device 110 is a so-called head-up display.
  • the image pickup device 111 includes a camera 26, a lighting device 28, and a second control device 121.
  • the second control device 121 includes a second image pickup control unit 145 and a second image processing unit 147.
  • the camera 26 and the lighting device 28 are configured in the same manner as in the above-described embodiment.
  • the image pickup apparatus 111 is a so-called driver monitor.
  • the first imaging control unit 144 transmits a command for controlling the operation of the imaging device 111 to the second control device 121.
  • the first image pickup control unit 144 commands the image pickup device 111 to operate in synchronization with the operation of the image projection unit 12.
  • the first image pickup control unit 144 commands the camera 26 to take a first image at the timing when the first illumination light composed of only the S polarization component is projected onto the image pickup target.
  • the first image pickup control unit 144 commands the camera 26 to take a second image at the timing when the second illumination light composed of only the P polarization component is projected onto the image pickup target.
  • the first imaging control unit 144 issues a command to prohibit the irradiation of the third illumination light 58 by the illumination device 28 at the timing when the first illumination light or the second illumination light is projected.
  • the second image pickup control unit 145 operates the camera 26 and the lighting device 28 based on a command from the first image pickup control unit 144.
  • the second imaging control unit 145 turns off the lighting device 28 and causes the camera 26 to capture the first image.
  • the second image pickup control unit 145 turns off the lighting device 28 and causes the camera 26 to take a second image.
  • the second image pickup control unit 145 turns on the lighting device 28 and causes the camera 26 to take a third image.
  • the third image is an image obtained by capturing the driver 70 in order to operate as a driver monitor, and is, for example, an image constituting a moving image.
  • the first image processing unit 146 acquires the first image and the second image from the image pickup apparatus 111, and determines whether or not the driver 70 is wearing polarized sunglasses based on the first image and the second image.
  • the second image processing unit 147 detects the state of the driver 70 based on the third image captured by the camera 26.
  • the virtual image display device 110 by operating the virtual image display device 110 and the image pickup device 111 in cooperation with each other, it is possible to determine whether or not the driver 70 is wearing polarized sunglasses, and whether or not the driver 70 is wearing polarized sunglasses.
  • Appropriate image display light can be provided according to the above.
  • the virtual image display device 110 is equipped with a dedicated function for determining whether or not polarized sunglasses are worn, and the imaging device 111 is not required to have a dedicated function required for determining whether or not polarized sunglasses are worn. Therefore, according to the present embodiment, a general driver monitor can be used as the image pickup apparatus 111.
  • the driver assistance system 100 can be realized simply by adding only the virtual image display device 110 and modifying the driver monitor program. As a result, the same function can be realized at a lower cost than when the virtual image display device 10 and the image pickup device 11 according to the above-described embodiment are mounted.
  • FIG. 8 is a diagram schematically showing the configuration of the driving support system 200 according to another embodiment.
  • the driving support system 200 includes a virtual image display device 210 and an image pickup device 211.
  • This embodiment differs from the driving support system 100 according to the above-described embodiment in that the image pickup apparatus 211 is provided with a function of determining whether or not polarized sunglasses are worn.
  • the virtual image display device 210 includes an image projection unit 12, an intermediate image screen 14, a projection mirror 16, an angle adjusting mechanism 18, and a first control device 220.
  • the first control device 220 includes a projection control unit 40 and a display control unit 42.
  • the image projection unit 12, the intermediate image screen 14, the projection mirror 16, the angle adjustment mechanism 18, the projection control unit 40, and the display control unit 42 are configured in the same manner as in the above-described embodiment.
  • the virtual image display device 210 is a so-called head-up display.
  • the image pickup device 211 includes a camera 26, a lighting device 28, and a second control device 221.
  • the second control device 221 includes an image pickup control unit 44, an image processing unit 46, and a command unit 48.
  • the camera 26, the lighting device 28, the image pickup control unit 44, and the image processing unit 46 are configured in the same manner as in the above-described embodiment.
  • the image pickup apparatus 211 is a so-called driver monitor.
  • the command unit 48 transmits a command for controlling the operation of the virtual image display device 210 to the first control device 220.
  • the command unit 48 commands the image projection unit 12 to project any of the first illumination light, the second illumination light, the first display light, and the second display light.
  • the command unit 48 determines the timings of the first period T1, the second period T2, and the third period T3, the image projection unit 12 projects the first illumination light in the first period T1, and the image projection in the second period T2.
  • the unit 12 commands the projection of the second illumination light.
  • the display control unit 42 controls the operation of the image projection unit 12 based on a command from the command unit 48.
  • the display control unit 42 causes the image projection unit 12 to project the first illumination light.
  • the display control unit 42 causes the image projection unit 12 to project the second illumination light.
  • the display control unit 42 causes the image projection unit 12 to project the first display light or the second display light.
  • the image pickup control unit 44 causes the camera 26 to take an image of the face of the driver 70 in synchronization with the timings of the first period T1, the second period T2, and the third period T3 determined by the command unit 48.
  • the image pickup control unit 44 causes the camera 26 to take the first image in the first period T1 and causes the camera 26 to take the second image in the second period T2.
  • the image pickup control unit 44 causes the camera 26 to take a third image during the third period T3.
  • the image pickup control unit 44 prohibits the illumination device 28 from irradiating the third illumination light 58 in the first period T1 and the second period T2, and permits the illumination device 28 to irradiate the third illumination light 58 in the third period T3. ..
  • the image processing unit 46 determines whether or not the driver 70 is wearing polarized sunglasses based on the first image and the second image. When the image processing unit 46 determines that the polarized sunglasses are not worn, the command unit 48 commands the image projection unit 12 to project the first display light. When the image processing unit 46 determines that the image processing unit 46 is wearing polarized sunglasses, the command unit 48 commands the image projection unit 12 to project the second display light. The image processing unit 46 detects the state of the driver 70 based on the third image.
  • the virtual image display device 210 and the image pickup device 211 by operating the virtual image display device 210 and the image pickup device 211 in cooperation with each other, it is possible to determine whether or not the driver 70 is wearing polarized sunglasses, and whether or not the driver 70 is wearing polarized sunglasses.
  • Appropriate image display light can be provided according to the above.
  • the image pickup device 211 is equipped with a dedicated function for determining whether or not polarized sunglasses are worn, and the virtual image display device 210 is not required to have a dedicated function required for determining whether or not polarized sunglasses are worn. Therefore, according to the present embodiment, a head-up display capable of generating the first projected light 52s and the second projected light 52p can be used as the virtual image display device 210.
  • the driving support system 200 can be realized simply by adding only the image pickup device 211 and modifying the program of the head-up display. As a result, the same function can be realized at a lower cost than when the virtual image display device 10 according to the above-described embodiment is mounted.
  • the image display light can be switched depending on whether or not polarized sunglasses are used.

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Mechanical Engineering (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Instrument Panels (AREA)
  • Polarising Elements (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Mechanical Optical Scanning Systems (AREA)

Abstract

虚像表示装置10は、第1方向に直線偏光された第1投射光52sと、第1方向と直交する第2方向に直線偏光された第2投射光52pとを選択的にウィンドシールドに向けて投射する画像投射部12と、第1投射光52sの投射時にユーザの顔面を含む第1画像を撮像装置11に撮像させ、第2投射光52pの投射時にユーザの顔面を含む第2画像を撮像装置11に撮像させる撮像制御部と、第1画像および第2画像に基づいて、第1方向の直線偏光成分を遮蔽する偏光サングラスをユーザが着用しているか否かを判定する画像処理部と、を備える。

Description

虚像表示装置および撮像装置
 本発明は、虚像表示装置および撮像装置に関する。
 近年、画像表示光を車両のウィンドシールドなどに投射し、画像表示光に基づく虚像を車外の風景に重畳して表示するヘッドアップディスプレイが使用されている。運転者等のユーザは、ウィンドシールドに反射された画像表示光を視認する。ガラスなどで構成される一般的なウィンドシールドの反射率には偏光依存性があり、S偏光成分に比べてP偏光成分が反射されにくいことが知られている。ユーザが偏光サングラスを使用している場合、ウィンドシールドで反射されやすいS偏光成分が偏光サングラスにより遮蔽されるため、画像表示光が視認しにくくなる。偏光サングラスの使用時にも画像表示光が視認しやすくなるようにした表示装置が提案されている(例えば、特許文献1参照)。
特開2013-57897号公報
 ウィンドシールドにて反射されにくいP偏光成分を主に用いると、偏光サングラスを使用していないユーザにとっては画像表示光が暗くなってしまう。偏光サングラスの使用有無に応じて適切な画像表示光を提供できることが好ましい。
 本発明は、上述の事情に鑑みてなされたものであり、偏光サングラスの使用有無に応じて画像表示光を切り替える技術を提供することを目的とする。
 本発明のある態様の虚像表示装置は、第1方向に直線偏光された第1投射光と、第1方向と直交する第2方向に直線偏光された第2投射光とを選択的にウィンドシールドに向けて投射し、ウィンドシールドにて反射される第1投射光または第2投射光に基づく虚像をユーザに提示する画像投射部と、第1投射光の投射時にユーザの顔面を含む第1画像を撮像装置に撮像させ、第2投射光の投射時にユーザの顔面を含む第2画像を撮像装置に撮像させる撮像制御部と、第1画像および第2画像に基づいて、第1方向の直線偏光成分を遮蔽する偏光サングラスをユーザが着用しているか否かを判定する画像処理部と、画像処理部が偏光サングラスを着用していないと判定した場合に画像投射部に第1投射光を投射させ、画像処理部が偏光サングラスを着用していると判定した場合に画像投射部に第2投射光を投射させる表示制御部と、を備える。
 本発明の別の態様は、撮像装置である。この装置は、ユーザの顔面を撮像対象とするカメラと、第1方向に直線偏光された第1投射光と、第1方向と直交する第2方向に直線偏光された第2投射光とを選択的にウィンドシールドに向けて投射し、ウィンドシールドにて反射される第1投射光または第2投射光に基づく虚像をユーザに提示する虚像表示装置に第1投射光と第2投射光のいずれを投射するかを指示する指令部と、第1投射光の投射時にカメラが撮像する第1画像と、第2投射光の投射時にカメラが撮像する第2画像とに基づいて、第1方向の直線偏光成分を遮蔽する偏光サングラスを着用しているか否かを判定する画像処理部と、を備える。指令部は、画像処理部が偏光サングラスを着用していないと判定した場合に虚像表示装置に第1投射光を投射するよう指令し、画像処理部が偏光サングラスを着用していると判定した場合に虚像表示装置に第2投射光を投射するよう指令する。
 なお、以上の構成要素の任意の組合せや本発明の構成要素や表現を、方法、装置、システムなどの間で相互に置換したものもまた、本発明の態様として有効である。
 本発明によれば、偏光サングラスの使用有無に応じて画像表示光を切替できる。
実施の形態に係る虚像表示装置の設置例を模式的に示す図である。 ウィンドシールドの反射率を示すグラフである。 偏光サングラスの判定方法を模式的に示す図である。 実施の形態に係る画像投射部の構成を模式的に示す図である。 実施の形態に係る制御装置の機能構成を模式的に示すブロック図である。 虚像表示装置の動作を模式的に示すタイミングチャートである。 実施の形態に係る運転支援システムの構成を模式的に示す図である。 別の実施の形態に係る運転支援システムの構成を模式的に示す図である。
 以下、本発明の実施の形態について、図面を参照しつつ説明する。かかる実施の形態に示す具体的な数値等は、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書および図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
 図1は、実施の形態に係る虚像表示装置10の設置例を模式的に示す図である。本実施の形態では、移動体の一例である車両60に虚像表示装置10が設置される。虚像表示装置10は、いわゆるヘッドアップディスプレイであり、ウィンドシールド62に投射光52を投射し、車両60の進行方向(図1の右方向)の前方に虚像50を提示する。ユーザである運転者70は、ウィンドシールド62を介して現実の風景に重畳される虚像50を視認する。図1において、車両60の進行方向(前後方向)をz方向、車両60の天地方向(上下方向)をy方向、車両60の左右方向をx方向としている。
 虚像表示装置10は、画像投射部12と、中間像スクリーン14と、投射鏡16と、角度調整機構18と、制御装置20とを備える。虚像表示装置10は、撮像装置11と、車両60に搭載される外部装置64とに接続されている。
 外部装置64は、虚像50として表示される表示用画像の元データを生成する装置である。外部装置64は、例えば、車両60の電子制御ユニット(ECU;Electronic Control Unit)や、ナビゲーション装置、携帯電話やスマートフォン、タブレットといったモバイル装置などである。外部装置64は、虚像50の表示に必要な画像データ、画像データの内容や種別を示す情報、車両60の速度や現在位置といった車両60に関する情報を制御装置20に送信する。
 撮像装置11は、いわゆるドライバモニタであり、運転者70の顔面を撮像して運転者70の状態をモニタリングする。撮像装置11は、カメラ26と、照明装置28とを含む。カメラ26は、CCDセンサやCMOSセンサなどの撮像素子を有し、運転者70の顔面を撮像した画像データを生成する。カメラ26は、撮像軸56の前方にある運転者70を撮像対象とする。照明装置28は、カメラ26の撮像対象となる運転者70の顔面に向けて照明光(第3照明光58ともいう)を照射する。照明装置28は、LED(Light Emitting Diode)などの無偏光または非偏光の光源を有し、例えば、赤外光の第3照明光58を生成するよう構成される。照明装置28は、可視光の第3照明光58を生成してもよく、赤色、緑色、青色または白色の第3照明光58を生成してもよい。
 画像投射部12は、虚像50を提示するための投射光52を生成し、中間像スクリーン14に向けて投射光52を出射する。中間像スクリーン14は、光拡散板などで構成され、投射光52に基づく中間像(実像)を形成する。投射鏡16は、中間像スクリーン14を透過した投射光52をウィンドシールド62に向けて投射する。角度調整機構18は、運転者70の目の高さ位置に応じて投射鏡16の角度を調整し、運転者70が虚像50を視認可能となるアイボックス領域76に向けて投射光52が投射されるようにする。アイボックス領域76は、運転者70の両目を包含する略長方形の領域であり、例えば、左右方向(x方向)が長く、上下方向が短く設定される。
 画像投射部12、中間像スクリーン14、投射鏡16および角度調整機構18は、例えば、車両60のダッシュボード内に設けられる筐体19に組み込まれる。撮像装置11は、画像投射部12などが収容される筐体19の外に別体として構成される。撮像装置11は、車両60のダッシュボードの前面や車両60のセンターコンソールに設けられてもよいし、車両60のリアビューミラーやサンバイザーなどに設けられてもよい。なお、撮像装置11は、画像投射部12などが収容される筐体19に設けられてもよい。
 本実施の形態に係る虚像表示装置10は、運転者70が着用するサングラス72が偏光サングラスであるか否かを判定可能となるよう構成される。ここで、偏光サングラスとは、水面での反射光を遮蔽または低減可能なサングラスであり、S偏光成分を遮蔽または低減し、P偏光成分を透過させる直線偏光子を含む。一方、通常のサングラスには直線偏光子が含まれず、入射する光の強度を減衰させるND(Neutral Density)フィルタを含む。偏光サングラスの検出が必要となる背景として、ウィンドシールド62における投射光52の反射率の偏光依存性が挙げられる。
 図2は、ウィンドシールド62の反射率を示すグラフである。ガラスなどで構成される一般的なウィンドシールド62の反射率には偏光依存性があり、S偏光成分の反射率Rsに比べてP偏光成分の反射率Rpが低いことが知られている。したがって、図1に示す投射光52のうち、S偏光成分の第1投射光52sの反射率が相対的に高く、P偏光成分の第2投射光52pの反射率が相対的に低い。特にブリュースター角θといわれる入射角(例えば53度)ではP偏光成分の反射率Rpが0になる。図1に示されるように、虚像表示装置10から投射される投射光52は、ウィンドシールド62に対して斜めに入反射し、ウィンドシールド62での入反射角φがブリュースター角θの近い値を取りうる。その結果、S偏光成分の第1投射光52sは運転者70の目に到達しやすく、P偏光成分の第2投射光52pは運転者70の目に到達しにくい。
 このとき、運転者70が偏光サングラスを着用していたとすると、S偏光成分の第1投射光52sが偏光サングラスによって遮蔽または低減されてしまう。その結果、運転者70に投射光52を視認させるためにはP偏光成分の第2投射光52pを利用しなければならない。一方、運転者70が偏光サングラスを着用していない場合、S偏光成分の第1投射光52sを利用した方がより明るくて視認性の高い虚像50を提供できる。そこで、本実施の形態では、偏光サングラスの着用有無を自動判定し、偏光サングラスの着用有無に応じてより適切な偏光成分を有する投射光52を提供できるようにする。
 なお、図1の構成におけるS偏光成分は、ウィンドシールド62における投射光52の入射方向と反射方向の双方に直交する第1方向に直線偏光された光成分であり、車両60の左右方向(x方向)に直線偏光された光成分に相当する。一方、P偏光成分は、第1方向と直交する第2方向に直線偏光された光成分であり、車両60の上下方向(y方向)および前後方向(z方向)で規定されるyz平面に沿う方向に直線偏光された光成分に相当する。
 図1において、虚像表示装置10は、撮像対象となる運転者70の顔面をS偏光成分とP偏光成分とに分けて撮像するよう構成される。画像投射部12は、第1投射光52sと、第2投射光52pとを選択的に投射するよう構成される。撮像装置11は、第1投射光52s(つまり、S偏光照明)が投射された運転者70を撮像した第1画像と、第2投射光52p(つまり、P偏光照明)が投射された運転者70を撮像した第2画像とを撮像する。虚像表示装置10は、第1画像と第2画像を比較することで、運転者70が偏光サングラスを使用しているか否かを判定する。
 図3は、偏光サングラスの判定方法を模式的に示す図である。図3では、(a)サングラスを使用していない裸眼時、(b)偏光サングラスではない通常サングラスの使用時、および(c)偏光サングラスの使用時、の三つの場合において撮像装置11により取得される(i)第1画像および(ii)第2画像を示している。図3では、第1画像と第2画像の差分に対応する(iii)差分画像および(iv)差分画像のヒストグラムも示している。ここで、「差分画像」とは、第1画像を構成する各画素の輝度値(第1輝度値ともいう)から第2画像を構成する各画素の輝度値(第2輝度値ともいう)を減算した差分値(=第1輝度値-第2輝度値)により各画素の輝度値が構成される画像のことである。また、ヒストグラムは、画像を構成する各画素の輝度値の分布をグラフ化したものであり、横軸を輝度値とし、縦軸を画素数としたグラフである。
 (a)の裸眼時では、S偏光照明の第1画像とP偏光照明の第2画像がほぼ同じとなるため、差分画像の輝度値(つまり、第1輝度値と第2輝度値の差分値)がほぼゼロとなり、差分画像にほぼ何も写らない状態となる。その結果、差分画像のヒストグラムでは、輝度値がゼロとなる近傍にのみピーク74が検出される。(b)の通常サングラスの使用時も同様であり、S偏光照明の第1画像とP偏光照明の第2画像がほぼ同じとなるため、差分画像にほぼ何も写らない状態となり、差分画像のヒストグラムにおいても輝度値がゼロとなる近傍にのみピーク74が検出される。(c)の偏光サングラスの使用時では、S偏光照明の第1画像とP偏光照明の第2画像とで偏光サングラスの見え方が異なる。偏光サングラスはS偏光成分を遮蔽するため、S偏光照明の第1画像では偏光サングラスが黒く写る。一方、偏光サングラスはP偏光成分を透過するため、P偏光照明の第2画像では偏光サングラスが透けて写る。その結果、差分画像では偏光サングラスの領域の輝度値(つまり、第1輝度値と第2輝度値の差分値)の絶対値が大きくなり、偏光サングラスが強調されて見える。第1画像における偏光サングラスの領域の第1輝度値は相対的に小さく(つまり暗く)、第2画像における偏光サングラスの領域の第2輝度値は相対的に大きい(つまり明るい)ため、差分画像における偏光サングラスの領域の輝度値は負の値(例えば-n)となる。その結果、差分画像のヒストグラムでは、輝度値がゼロとなる近傍に第1ピーク74aが検出されるとともに、輝度値が-nとなる近傍に第2ピーク74bが検出される。このようにして、S偏光照明の第1画像とP偏光照明の第2画像を比較することで、偏光サングラスの使用有無を検出できる。
 図4は、実施の形態に係る画像投射部12の構成を模式的に示す図である。画像投射部12は、光源部22と、スキャン部24とを含む。光源部22は、投射光52の元となるレーザ光を生成する。スキャン部24は、レーザ光をラスタースキャンすることで所望の表示用画像を提示するための投射光52を生成する。
 光源部22は、第1緑光源30Gsと、第2緑光源30Gpと、赤光源30Rと、青光源30Bと、光源駆動部31と、偏光ビームスプリッタ32と、第1ダイクロイックミラー33と、第2ダイクロイックミラー34と、光源光測定部35とを有する。
 第1緑光源30Gsは、直線偏光の発振モードを有する緑色のレーザ光源であり、S偏光の第1緑色レーザ光を出射するように配置される。第2緑光源30Gpは、直線偏光の発振モードを有する緑色のレーザ光源であり、P偏光の第2緑色レーザ光を出射するよう配置される。赤光源30Rは、直線偏光の発振モードを有する赤色のレーザ光源である。赤光源30Rは、例えば、S偏光方向に対して45度回転させた偏光方向となるように配置され、S偏光成分およびP偏光成分の双方を含む赤色レーザ光を出射する。青光源30Bは、直線偏光の発振モードを有する青色のレーザ光源である。青光源30Bは、例えば、S偏光方向に対して45度回転させた偏光方向となるように配置され、S偏光成分およびP偏光成分の双方を含む青色レーザ光を出射するよう構成される。
 現在実用化されている赤色、緑色、青色の半導体レーザ光源は、赤色や青色に比べて緑色の高出力化が難しく、高輝度のカラー画像を生成するためには、緑色の光強度が不足しがちである。そこで、本実施の形態では、S偏光用の第1緑光源30GsとP偏光用の第2緑光源30Gpとを別々に用意し、それぞれから出射される緑色レーザ光を合波することで、高輝度の緑色レーザ光が得られるようにしている。なお、変形例においては、赤色および青色の少なくとも一方についてもS偏光用とP偏光用のレーザ光源を別々に用意し、両者を合波して赤色レーザ光や青色レーザ光を得るようにしてもよい。
 光源駆動部31は、4つのレーザ光源30Gs,30Gp,30R,30Bを駆動する。光源駆動部31は、スキャン部24のラスタースキャンの周期に合わせて、各レーザ光源30Gs,30Gp,30R,30Bの発光強度を変化させ、表示用画像の各画素の輝度値に対応した光強度を有する投射光52が生成されるようにする。
 光源駆動部31は、第1投射光52sに基づく虚像50の色調と、第2投射光52pに基づく虚像50の色調とが整合するように、各レーザ光源の30Gs,30Gp,30R,30Bの発光強度の比率(ホワイトバランス)を調整する。光源駆動部31は、例えば、第1投射光52sの生成時に用いる第1ホワイトバランスと、第2投射光52pの生成時に用いる第2ホワイトバランスとを有する。第1ホワイトバランスは、第1投射光52sの生成時における赤光源30Rおよび青光源30Bの発光強度に対する第1緑光源30Gsの発光強度の比率である。また、第2ホワイトバランスは、第2投射光52pの生成時における赤光源30Rおよび青光源30Bの発光強度に対する第2緑光源30Gpの発光強度の比率に相当する。
 第1ホワイトバランスおよび第2ホワイトバランスの値は、例えば、ウィンドシールド62のS偏光成分の反射率RsとP偏光成分の反射率Rpに応じて定められる。例えば、第1投射光52sを生成するための赤光源30Rの発光強度と、第2投射光52pを生成するための赤光源30Rの発光強度とを同じにした場合、運転者70の目に到達する赤色光の明るさは同じである。青光源30Bについても同様である。一方、第1投射光52sを生成するための第1緑光源30Gsの発光強度と、第2投射光52pを生成するための第2緑光源30Gpの発光強度とを同じにした場合、ウィンドシールド62におけるS偏光成分とP偏光成分の反射率の違いにより、運転者70の目に到達する緑色光の明るさは同じにはならない。そのため、第1投射光52sの色調と第2投射光52pの色調とが一致しなくなる。このとき、運転者70の目に到達する緑色光の明るさを同じにするためには、例えば、第1緑光源30Gsの発光強度を1とした場合に、第2緑光源30Gpの発光強度を(Rs/Rp)とすればよい。その結果、第1ホワイトバランスの値を1とした場合、第2ホワイトバランスの値は(Rs/Rp)となる。このようにして、第1ホワイトバランスと第2ホワイトバランスの値を異ならせることにより、第1投射光52sに基づく虚像50の色調と第2投射光52pに基づく虚像50の色調を整合させることができる。
 偏光ビームスプリッタ32は、第1緑光源30Gsから出射されるS偏光の第1緑色レーザ光と、第2緑光源30Gpから出射されるP偏光の第2緑色レーザ光を合波し、S偏光成分およびP偏光成分の双方を含む緑色レーザ光を生成する。第1ダイクロイックミラー33は、赤光源30Rから出射される赤色レーザ光と、偏光ビームスプリッタ32から出射される緑色レーザ光を合波する。第2ダイクロイックミラー34は、青光源30Bから出射される青色レーザ光と、第1ダイクロイックミラー33から出射される緑色および赤色のレーザ光とを合波する。第2ダイクロイックミラー34から出射される赤色、緑色および青色のレーザ光は、スキャン部24に向かう。
 光源光測定部35は、第2ダイクロイックミラー34を透過または反射するレーザ光の光強度を測定し、各レーザ光源30Gs,30Gp,30R,30Bの発光強度をモニタする。光源光測定部35は、例えばフォトダイオードなどで構成される。
 スキャン部24は、第1スキャンミラー37と、第2スキャンミラー38と、スキャン駆動部39とを有する。第1スキャンミラー37は、中間像スクリーン14においてレーザ光を横方向にスキャンするよう回動し、第2スキャンミラー38は、中間像スクリーン14においてレーザ光を縦方向にスキャンするよう回動する。スキャン駆動部39は、第1スキャンミラー37および第2スキャンミラー38の回動を制御し、中間像スクリーン14においてレーザ光がラスタースキャンされるようにする。スキャン部24によるレーザ光のラスタースキャンにより、中間像スクリーン14に表示用画像が描画される。
 中間像スクリーン14に描画される表示用画像は、虚像50として運転者70に視認される。中間像スクリーン14は、スキャン部24から出射される投射光52を拡散して均質化するよう構成される。中間像スクリーン14は、中間像スクリーン14の入射前後で偏光方向が保存される偏光保存型であることが好ましい。
 画像投射部12は、表示用画像を提示するための2種類の画像表示光(単に表示光ともいう)を生成する。画像投射部12は、偏光サングラスを着用していない場合に投射する第1表示光と、偏光サングラスを着用している場合に投射する第2表示光とを選択的に生成する。第1表示光は、第1方向に直線偏光されたS偏光成分で構成される画像表示光であり、第1緑光源30Gs、赤光源30Rおよび青光源30Bから出射されるレーザ光を用いて生成される。したがって、第1表示光の生成時には、第2緑光源30Gpがオフとなる。第2表示光は、第2方向に直線偏光されたP偏光成分で構成される画像表示光であり、第2緑光源30Gp、赤光源30Rおよび青光源30Bから出射されるレーザ光を用いて生成される。したがって、第2表示光の生成には、第1緑光源30Gsがオフとなる。
 画像投射部12は、偏光サングラスの着用有無の判定に用いる2種類の照明光(照明用投射光)を生成する。照明用投射光は、アイボックス領域76に均一な光強度分布の照明光を投射するために用いられ、運転者70に表示用画像を提示するための画像表示光とは性質が異なる。その一方で、照明用投射光が投射される場合には、画像全体が同一輝度である測定用画像が虚像50として提示されるため、測定用画像を提示する投射光(または画像表示光)が照明用投射光であるということもできる。画像投射部12は、第1画像の撮像に用いる第1照明光と、第2画像の撮像に用いる第2照明光とを選択的に生成する。第1照明光は、第1方向に直線偏光されたS偏光成分のみで構成され、第1緑光源30Gsから出射される第1緑色レーザ光のみを用いて生成される。第2照明光は、第2方向に直線偏光されたP偏光成分のみで構成され、第2緑光源30Gpから出射される第2緑色レーザ光のみを用いて生成される。したがって、照明用投射光の生成時には、S偏光成分とP偏光成分の双方を含むレーザ光を出射する赤光源30Rおよび青光源30Bはオフとなる。
 画像投射部12は、運転者70の顔面に投射される第1照明光と第2照明光の明るさが同じとなるように第1緑光源30Gsと第2緑光源30Gpの発光強度を調整してもよい。第1照明光および第2照明光は、ウィンドシールド62にて反射されてから運転者70の顔面に投射されるため、ウィンドシールド62のS偏光成分とP偏光成分の反射率Rs,Rpの差の影響を受ける。例えば、第1照明光の生成時の第1緑光源30Gsの発光強度を1とした場合、第2照明光の生成時の第2緑光源30Gpの発光強度をRs/Rpとすることで、ウィンドシールド62にて反射された後に運転者70に投射される第1照明光と第2照明光の明るさを同じにすることができる。
 図5は、実施の形態に係る制御装置20の機能構成を模式的に示すブロック図である。制御装置20は、投射制御部40と、表示制御部42と、撮像制御部44と、画像処理部46とを備える。図示する各機能ブロックは、ハードウェア的には、コンピュータのCPUやメモリをはじめとする素子や機械装置で実現でき、ソフトウェア的にはコンピュータプログラム等によって実現されるが、ここでは、それらの連携によって実現される機能ブロックとして描いている。したがって、これらの機能ブロックはハードウェア、ソフトウェアの組み合わせによっていろいろなかたちで実現できることは、当業者には理解されるところである。
 投射制御部40は、角度調整機構18の動作を制御して投射鏡16の角度を変化させ、投射光52の光路54の向きを調整する。投射制御部40は、運転者70の目の高さ位置に応じたアイボックス領域76に投射光52が投射されるように光路54の向きを調整する。投射制御部40は、例えば、運転者70からの入力操作に基づいて角度調整機構18を動作させる。
 表示制御部42は、画像投射部12の動作を制御して画像表示光および照明用投射光が生成されるようにする。表示制御部42は、外部装置64から表示用画像データを取得し、表示用画像データに基づいて光源駆動部31の動作を制御することで画像表示光を生成させる。表示制御部42は、スキャン部24のラスタースキャンの周期に合わせて、表示用画像の各画素の赤色、緑色、青色の輝度値に対応した光強度のレーザ光が出射されるように光源駆動部31の動作を制御する。表示制御部42は、第1緑光源30Gsまたは第2緑光源30Gpの発光強度を一定にしたままレーザ光をラスタースキャンさせることにより、画像全体が同一輝度となる照明用投射光が生成されるようにする。
 撮像制御部44は、画像投射部12の動作と同期して撮像装置11の動作を制御する。撮像制御部44は、撮像対象にS偏光成分のみで構成される第1照明光が投射されるタイミングでカメラ26に第1画像を撮像させる。撮像制御部44は、撮像対象にP偏光成分のみで構成される第2照明光が投射されるタイミングでカメラ26に第2画像を撮像させる。撮像制御部44は、第1照明光または第2照明光が投射されるタイミングにおいて照明装置28による第3照明光58の照射を禁止する。これにより、第1画像に第3照明光58に起因するP偏光成分が含まれたり、第2画像に第3照明光58に起因するS偏光成分が含まれたりすることを防ぐようにする。
 撮像制御部44は、画像表示光が投射されるタイミングにカメラ26に第3画像を撮像させる。ここで、第3画像とは、撮像装置11をドライバモニタとして動作させて運転者70を撮像する場合の画像であり、例えば動画像を構成する画像である。撮像制御部44は、第3画像を撮像させるタイミングにおいて照明装置28による第3照明光58の照射を許可する。第3照明光58が照射された状態で第3画像を撮像することにより、運転者70の状態をより鮮明に撮像することができる。
 カメラ26は、撮像素子の手前に設けられる波長フィルタを有してもよい。カメラ26は、照明装置28が照射する第3照明光58の波長(例えば赤外域)と、画像投射部12が投射する照明用投射光の波長(例えば緑色)とを選択的に透過させる波長フィルタを有してもよい。これにより、第1画像、第2画像および第3画像の撮像に必要な波長域の光のみがカメラ26により撮像され、ノイズ成分となりうる他の波長域の光が波長フィルタにより遮蔽されるようにしてもよい。
 画像処理部46は、撮像装置11が撮像する第1画像および第2画像に基づいて、運転者70が偏光サングラスを着用しているか否かを判定する。画像処理部46は、図3に示されるように、第1画像および第2画像の差分画像を生成し、差分画像に各画素の輝度値の絶対値が基準値以上となる「特定領域」が存在する場合に偏光サングラスが含まれると判定する。画像処理部46は、図3に示されるように、差分画像のヒストグラムに基づいて偏光サングラスの有無を判定してもよい。例えば、図3のヒストグラムにおいて、横軸の輝度値の絶対値が基準値以上となる位置(例えば輝度値-n)において縦軸の画素数が所定値以上となるピーク(例えば第2ピーク74b)が含まれる場合に偏光サングラスがあると判定する。
 画像処理部46は、ウィンドシールド62のS偏光成分とP偏光成分の反射率Rs,Rpの違いを考慮して、撮像装置11が撮像する第1画像および第2画像の少なくとも一方の各画素の輝度値に補正処理を加えてから差分画像を生成してもよい。例えば、画像投射部12から出射される第1照明光と第2照明光の明るさが同じであっても、運転者70に投射される第1照明光の明るさはウィンドシールド62のS偏光成分の反射率Rsに比例し、運転者70に投射される第2照明光の明るさはウィンドシールド62のP偏光成分の反射率Rpに比例する。そこで、画像処理部46は、撮像装置11が撮像する第1画像の各画素の輝度値を1/Rs倍に補正し、撮像装置11が撮像する第2画像の各画素の輝度値を1/Rp倍に補正してから両者の差分画像を生成してもよい。
 画像処理部46は、差分画像における特定領域の画素の輝度値の符号(正負)を考慮して偏光サングラスが含まれるか否かを判定してもよい。例えば、S偏光照明を用いる第1画像の特定領域の画素の輝度値が相対的に小さく(つまり、暗く)、P偏光照明を用いる第2画像の特定領域の画素の輝度値が相対的に大きい(つまり、明るい)場合にのみ偏光サングラスが含まれていると判定してもよい。画像処理部46は、パターンマッチング等の画像解析技術を用いて運転者70の顔面の輪郭や目の位置を特定し、顔面と重なる範囲に特定領域が存在する場合や目の位置に特定領域が存在する場合に偏光サングラスを使用していると判定してもよい。画像処理部46は、運転者70が首を傾げておらず、車両60の左右方向と運転者70の両目またはサングラスの左右方向が一致する場合にのみ偏光サングラスの使用有無を判定してもよい。
 画像処理部46は、撮像装置11が撮像する第3画像(動画像)に基づいて、運転者70の状態を検知してもよい。画像処理部46は、運転者70の目が閉じた状態が所定時間連続する場合に居眠りを検知したり、運転者70の視線方向が所定時間連続して車両前方とは異なる方向に向いている場合に脇見運転を検知したりしてもよい。
 表示制御部42は、画像処理部46が偏光サングラスを着用していないと判定する場合、画像投射部12にS偏光成分で構成される第1表示光を投射させる。S偏光成分はP偏光成分に比べてウィンドシールド62での反射率が大きいため、第1表示光を用いることでより高輝度の表示用画像を運転者70に提示できる。一方、画像処理部46が偏光サングラスを着用していると判定する場合、表示制御部42は、画像投射部12にP偏光成分で構成される第2表示光を投射させる。P偏光成分の第2表示光を投射することで、偏光サングラス越しに表示用画像を運転者70に提示できる。
 図6は、虚像表示装置10の動作を模式的に示すタイミングチャートである。画像投射部12は、第1期間T1、第2期間T2および第3期間T3を周期的に切り替えて動作する。第1期間T1は、第1緑光源30Gsのみがオンとなって第1照明光が投射される期間であり、第2期間T2は、第2緑光源30Gpのみがオンとなって第2照明光が投射される期間である。第1期間T1および第2期間T2では、照明装置28がオフとなる。したがって、第1期間T1では、第1照明光が投射され、第3照明光58が照射されていない状態で運転者70の顔面を撮像した第1画像をカメラ26が撮像する。第2期間T2では、第2照明光が投射され、第3照明光58が照射されていない状態で運転者70の顔面を撮像した第2画像をカメラ26が撮像する。
 第3期間T3は、画像表示光が投射されて運転者70に表示用画像が提示される期間である。第3期間T3では、画像表示光の生成に用いる各光源がオンとなる。なお、図6では、偏光サングラスを着用していないと判定され、第3期間T3において第1緑光源30Gsを用いてS偏光成分の第1表示光が投射される場合を示している。偏光サングラスを着用していると判定される場合には、第3期間T3において第2緑光源30Gpを用いてP偏光成分の第2表示光が投射される。
 表示制御部42は、第1期間T1、第2期間T2および第3期間T3を周期的に切り替えることにより、偏光サングラスを検出するための測定を間欠的に実行しつつ、運転者70に提示すべき表示用画像を提示する。表示制御部42は、スキャン部24のラスタースキャンの周期に同期して各期間T1~T3を切り替える。第1期間T1および第2期間T2のそれぞれの長さは、1枚の画像全体を描画するための1回のラスタースキャンの周期時間に対応し、例えば、1/60秒や1/30秒などである。一方、第3期間T3は、他の期間よりも長い時間が設定され、例えば、1秒、5秒、10秒、30秒、1分、5分などである。
 表示制御部42は、第1期間T1および第2期間T2が互いに時間的に連続するようにしている。これにより、第1期間T1と第2期間T2の撮像条件の変化を最小化し、運転者70の姿勢変化といった投射する照明用投射光以外の要素で第1画像と第2画像の間に差が生じるのを防ぐことができる。
 撮像制御部44は、画像処理部46による運転者70の状態の検知結果に基づいて、第3期間T3から第1期間T1または第2期間T2に切り替えしてもよい。画像処理部46は、第3画像に基づいて運転者70がサングラスを着けたり外したりする動作を検知してもよい。画像処理部46は、第3画像に基づいて運転者70の視線方向の変化を検知し、運転者70が前方を注視していない状態となることを検知してもよい。撮像制御部44は、サングラスの着脱動作や前方不注視が検知された場合、第3期間から第1期間T1に切り替え、その後に第2期間T2に切り替え、カメラ26に第1画像および第2画像を撮像させ、画像処理部46に偏光サングラスの着用有無を判定させてもよい。サングラスが着脱されるタイミングで偏光サングラスの着用有無を判定することで、サングラスの着脱に応じて適切な偏光成分(S偏光またはP偏光)の画像表示光の投射に切り替えできる。また、前方不注視となるタイミングで照明用投射光を投射することで、照明用投射光に基づく同一輝度の虚像50が運転者70に視認されるのを防ぎつつ、偏光サングラスの着用有無を判定できる。
 本実施の形態によれば、虚像表示装置10を用いて運転者70が偏光サングラスを着用しているか否かを自動判定できる。これにより、虚像表示装置10は、偏光サングラスの着用有無に応じて適切な画像表示光を生成できる。例えば、偏光サングラスを着用していない場合にはウィンドシールド62での反射されやすいS偏光の第1投射光52sを生成するようにし、偏光サングラスを着用している場合には偏光サングラス越しに視認可能なP偏光の第2投射光52pを生成するようにできる。その結果、偏光サングラスの着用有無に拘わらずに第1投射光52sおよび第2投射光52pの双方を生成する場合に比べて虚像表示装置10の消費電力を低減することができる。また、第1投射光52sおよび第2投射光52pの双方を生成するために第1緑光源30Gsおよび第2緑光源30Gpを同時点灯させる必要がなくなるため、複数光源の同時点灯による動作温度の上昇を防ぐことができ、光源の長寿命化を実現できる。
 本実施の形態によれば、撮像装置11をドライバモニタとして使用し、虚像表示装置10をヘッドアップディスプレイとして使用しつつ、運転者70が偏光サングラスを使用しているか否かを自動判定できる。特に、第1画像および第2画像を取得するための第1期間T1および第2期間T2を間欠的に挿入することで、ドライバモニタおよびヘッドアップディスプレイとして動作する第3期間T3への実質的な影響を及ぼすことなく、偏光サングラスの着用有無を判定できる。また、第1期間T1および第2期間T2において照明装置28をオフにすることで、第1画像にP偏光成分が含まれないようにし、かつ、第2画像にS偏光成分が含まれないようにすることができ、偏光サングラスの着用有無の判定精度を高めることができる。さらに、第3期間T3において照明装置28をオンにすることで、ドライバモニタとしての通常画像(第3画像)を第3照明光58が照射された状態でより鮮明に撮像することができ、ドライバモニタとしての検出精度を高めることができる。
 本実施の形態によれば、虚像表示装置10から投射される第1照明光および第2照明光を用いてS偏光成分の第1画像とP偏光成分の第2画像を撮像できるため、直線偏光された照明光を照射するための専用の照明装置を別途設けずに済む。つまり、直線偏光されていない一般的な照明光を照射するドライバモニタ用の撮像装置11と、第1投射光52sおよび第2投射光52pを生成可能な虚像表示装置10とを組み合わせればよい。その結果、第1画像および第2画像を撮像するための専用照明を設ける場合と比べて低コストで偏光サングラスの着用有無を判定可能なヘッドアップディスプレイおよびドライバモニタを提供できる。
 本実施の形態では、虚像表示装置10と撮像装置11が別体として構成される場合について説明したが、両者が一体的に構成されてもよい。つまり、虚像表示装置10は、撮像装置11を備えてもよい。
 図7は、実施の形態に係る運転支援システム100の構成を模式的に示す図である。運転支援システム100は、虚像表示装置110と、撮像装置111とを備える。本実施の形態では、虚像表示装置110に設けられる第1制御装置120と、撮像装置111に設けられる第2制御装置121とが協調して偏光サングラスの着用有無を判定するよう構成される点で上述の実施の形態と相違する。
 虚像表示装置110は、画像投射部12と、中間像スクリーン14と、投射鏡16と、角度調整機構18と、第1制御装置120とを備える。第1制御装置120は、投射制御部40と、表示制御部42と、第1撮像制御部144と、第1画像処理部146とを含む。画像投射部12、中間像スクリーン14、投射鏡16、角度調整機構18、投射制御部40および表示制御部42は、上述の実施の形態と同様に構成される。虚像表示装置110は、いわゆるヘッドアップディスプレイである。
 撮像装置111は、カメラ26と、照明装置28と、第2制御装置121とを備える。第2制御装置121は、第2撮像制御部145と、第2画像処理部147とを含む。カメラ26および照明装置28は、上述の実施の形態と同様に構成される。撮像装置111は、いわゆるドライバモニタである。
 第1撮像制御部144は、撮像装置111の動作を制御するための指令を第2制御装置121に送信する。第1撮像制御部144は、画像投射部12の動作と同期して撮像装置111が動作するように指令する。第1撮像制御部144は、撮像対象にS偏光成分のみで構成される第1照明光が投射されるタイミングでカメラ26が第1画像を撮像するように指令する。第1撮像制御部144は、撮像対象にP偏光成分のみで構成される第2照明光が投射されるタイミングでカメラ26が第2画像を撮像するように指令する。第1撮像制御部144は、第1照明光または第2照明光が投射されるタイミングにおいて照明装置28による第3照明光58の照射を禁止する指令をする。
 第2撮像制御部145は、第1撮像制御部144からの指令に基づいてカメラ26および照明装置28を動作させる。第2撮像制御部145は、第1撮像制御部144から第1画像を撮像するように指令された場合、照明装置28をオフにしてカメラ26に第1画像を撮像させる。第2撮像制御部145は、第1撮像制御部144から第2画像を撮像するように指令された場合、照明装置28をオフにしてカメラ26に第2画像を撮像させる。第2撮像制御部145は、第1撮像制御部144からの指令がない場合、照明装置28をオンにしてカメラ26に第3画像を撮像させる。第3画像は、ドライバモニタとして動作するために運転者70を撮像した画像であり、例えば動画像を構成する画像である。
 第1画像処理部146は、撮像装置111から第1画像および第2画像を取得し、第1画像および第2画像に基づいて運転者70が偏光サングラスを着用しているか否かを判定する。第2画像処理部147は、カメラ26が撮像する第3画像に基づいて、運転者70の状態を検知する。
 本実施の形態によれば、虚像表示装置110と撮像装置111を協調して動作させることにより、運転者70が偏光サングラスを着用しているか否かを判定することができ、偏光サングラスの着用有無に応じて適切な画像表示光を提供できる。本実施の形態では、虚像表示装置110に偏光サングラスの着用有無を判定する専用機能が実装され、撮像装置111には偏光サングラスの着用有無の判定に必要な専用機能が必要とされない。したがって、本実施の形態によれば、一般的なドライバモニタを撮像装置111として使用することができる。例えば、車両60にすでにドライバモニタが搭載されていれば、虚像表示装置110のみを追加し、ドライバモニタのプログラムを修正するだけで、運転支援システム100を実現できる。これにより、上述の実施の形態に係る虚像表示装置10および撮像装置11を搭載する場合よりも低コストで同様の機能が実現できる。
 図8は、別の実施の形態に係る運転支援システム200の構成を模式的に示す図である。運転支援システム200は、虚像表示装置210と、撮像装置211とを備える。本実施の形態では、撮像装置211に偏光サングラスの着用有無を判定する機能が実装される点で上述の実施の形態に係る運転支援システム100と相違する。
 虚像表示装置210は、画像投射部12と、中間像スクリーン14と、投射鏡16と、角度調整機構18と、第1制御装置220とを備える。第1制御装置220は、投射制御部40と、表示制御部42とを含む。画像投射部12、中間像スクリーン14、投射鏡16、角度調整機構18、投射制御部40および表示制御部42は、上述の実施の形態と同様に構成される。虚像表示装置210は、いわゆるヘッドアップディスプレイである。
 撮像装置211は、カメラ26と、照明装置28と、第2制御装置221とを備える。第2制御装置221は、撮像制御部44と、画像処理部46と、指令部48とを含む。カメラ26、照明装置28、撮像制御部44および画像処理部46は、上述の実施の形態と同様に構成される。撮像装置211は、いわゆるドライバモニタである。
 指令部48は、虚像表示装置210の動作を制御するための指令を第1制御装置220に送信する。指令部48は、画像投射部12に第1照明光、第2照明光、第1表示光および第2表示光のうちのいずれを投射させるかを指令する。指令部48は、第1期間T1、第2期間T2および第3期間T3のタイミングを決定し、第1期間T1に画像投射部12が第1照明光を投射し、第2期間T2に画像投射部12が第2照明光を投射するように指令する。
 表示制御部42は、指令部48からの指令に基づいて画像投射部12の動作を制御する。表示制御部42は、指令部48から第1照明光を投射するよう指令があった場合、画像投射部12に第1照明光を投射させる。表示制御部42は、指令部48から第2照明光を投射するよう指令があった場合、画像投射部12に第2照明光を投射させる。表示制御部42は、指令部48から第1照明光または第2照明光を投射する指令がない場合、画像投射部12に第1表示光または第2表示光を投射させる。
 撮像制御部44は、指令部48が決定した第1期間T1、第2期間T2および第3期間T3のタイミングと同期してカメラ26に運転者70の顔面の画像を撮像させる。撮像制御部44は、第1期間T1にカメラ26に第1画像を撮像させ、第2期間T2にカメラ26に第2画像を撮像させる。撮像制御部44は、第3期間T3にカメラ26に第3画像を撮像させる。撮像制御部44は、第1期間T1および第2期間T2において照明装置28による第3照明光58の照射を禁止し、第3期間T3において照明装置28による第3照明光58の照射を許可する。
 画像処理部46は、第1画像および第2画像に基づいて運転者70が偏光サングラスを着用しているか否かを判定する。指令部48は、画像処理部46により偏光サングラスを着用していないと判定された場合、画像投射部12が第1表示光を投射するように指令する。指令部48は、画像処理部46により偏光サングラスを着用していると判定された場合、画像投射部12が第2表示光を投射するように指令する。画像処理部46は、第3画像に基づいて、運転者70の状態を検知する。
 本実施の形態によれば、虚像表示装置210と撮像装置211を協調して動作させることにより、運転者70が偏光サングラスを着用しているか否かを判定することができ、偏光サングラスの着用有無に応じて適切な画像表示光を提供できる。本実施の形態では、撮像装置211に偏光サングラスの着用有無を判定する専用機能が実装され、虚像表示装置210には偏光サングラスの着用有無の判定に必要な専用機能が必要とされない。したがって、本実施の形態によれば、第1投射光52sと第2投射光52pを生成可能なヘッドアップディスプレイを虚像表示装置210として使用することができる。例えば、車両60にすでにヘッドアップディスプレイが搭載されていれば、撮像装置211のみを追加し、ヘッドアップディスプレイのプログラムを修正するだけで、運転支援システム200を実現できる。これにより、上述の実施の形態に係る虚像表示装置10を搭載する場合よりも低コストで同様の機能が実現できる。
 以上、本発明を上述の実施の形態を参照して説明したが、本発明は上述の実施の形態に限定されるものではなく、各表示例に示す構成を適宜組み合わせたものや置換したものについても本発明に含まれるものである。
 本発明によれば、偏光サングラスの使用有無に応じて画像表示光を切替できる。
 10…虚像表示装置、11…撮像装置、12…画像投射部、20…制御装置、26…カメラ、28…照明装置、42…表示制御部、44…撮像制御部、46…画像処理部、48…指令部、50…虚像、52…投射光、52s…第1投射光、52p…第2投射光、58…第3照明光、60…車両、62…ウィンドシールド、70…運転者。

Claims (7)

  1.  第1方向に直線偏光された第1投射光と、前記第1方向と直交する第2方向に直線偏光された第2投射光とを選択的にウィンドシールドに向けて投射し、前記ウィンドシールドにて反射される前記第1投射光または前記第2投射光に基づく虚像をユーザに提示する画像投射部と、
     前記第1投射光の投射時に前記ユーザの顔面を含む第1画像を撮像装置に撮像させ、前記第2投射光の投射時に前記ユーザの顔面を含む第2画像を前記撮像装置に撮像させる撮像制御部と、
     前記第1画像および前記第2画像に基づいて、前記第1方向の直線偏光成分を遮蔽する偏光サングラスを前記ユーザが着用しているか否かを判定する画像処理部と、
     前記画像処理部が前記偏光サングラスを着用していないと判定した場合に前記画像投射部に前記第1投射光を投射させ、前記画像処理部が前記偏光サングラスを着用していると判定した場合に前記画像投射部に前記第2投射光を投射させる表示制御部と、を備えることを特徴とする虚像表示装置。
  2.  前記画像投射部は、前記第1投射光として、前記第1方向に直線偏光された第1照明光と、表示用画像を提示するための前記第1方向に直線偏光された第1表示光とを投射可能であり、
     前記画像投射部は、前記第2投射光として、前記第2方向に直線偏光された第2照明光と、前記表示用画像を提示するための前記第2方向に直線偏光された第2表示光とを投射可能であり、
     前記表示制御部は、前記第1照明光が投射される第1期間と、前記第2照明光が投射される第2期間と、前記第1表示光または前記第2表示光が投射される第3期間とを切り替え、前記画像処理部が前記偏光サングラスを着用していないと判定した場合に前記第3期間において前記画像投射部に前記第1表示光を投射させ、前記画像処理部が前記偏光サングラスを着用していると判定した場合に前記第3期間において前記画像投射部に前記第2表示光を投射させ、
     前記撮像装置は、前記ユーザの顔面に向けて可視光または赤外光の第3照明光を投射する照明装置を含み、
     前記撮像制御部は、前記第1期間において前記第1画像を前記撮像装置に撮像させ、前記第2期間において前記第2画像を前記撮像装置に撮像させ、前記第3期間において前記ユーザの顔面を含む第3画像を前記撮像装置に撮像させ、前記第1期間および前記第2期間において前記第3照明光の投射を禁止し、前記第3期間において前記第3照明光の投射を許可することを特徴とする請求項1に記載の虚像表示装置。
  3.  前記画像処理部は、前記第3画像に基づいて前記ユーザの状態を検知することを特徴とする請求項2に記載の虚像表示装置。
  4.  前記表示制御部は、前記画像処理部による前記ユーザの状態の検知結果に応じて、前記第3期間から前記第1期間または前記第2期間に切り替えすることを特徴とする請求項3に記載の虚像表示装置。
  5.  前記撮像装置をさらに備えることを特徴とする請求項1から4のいずれか一項に記載の虚像表示装置。
  6.  前記虚像表示装置は、車両に搭載され、
     前記第1方向は、前記第1投射光の投射方向と前記車両の上下方向の双方に直交する方向であり、
     前記第2方向は、前記第2投射光の投射方向と前記第1方向の双方に直交する方向であり、
     前記ユーザは、前記車両の運転者であることを特徴とする請求項1から5のいずれか一項に記載の虚像表示装置。
  7.  ユーザの顔面を撮像対象とするカメラと、
     第1方向に直線偏光された第1投射光と、前記第1方向と直交する第2方向に直線偏光された第2投射光とを選択的にウィンドシールドに向けて投射し、前記ウィンドシールドにて反射される前記第1投射光または前記第2投射光に基づく虚像をユーザに提示する虚像表示装置に前記第1投射光と前記第2投射光のいずれを投射するかを指示する指令部と、
     前記第1投射光の投射時に前記カメラが撮像する第1画像と、前記第2投射光の投射時に前記カメラが撮像する第2画像とに基づいて、前記第1方向の直線偏光成分を遮蔽する偏光サングラスを着用しているか否かを判定する画像処理部と、を備え、
     前記指令部は、前記画像処理部が前記偏光サングラスを着用していないと判定した場合に前記虚像表示装置に前記第1投射光を投射するよう指令し、前記画像処理部が前記偏光サングラスを着用していると判定した場合に前記虚像表示装置に前記第2投射光を投射するよう指令することを特徴とする撮像装置。
PCT/JP2019/045577 2019-03-26 2019-11-21 虚像表示装置および撮像装置 WO2020194855A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019057825A JP2020160206A (ja) 2019-03-26 2019-03-26 虚像表示装置および撮像装置
JP2019-057825 2019-03-26

Publications (1)

Publication Number Publication Date
WO2020194855A1 true WO2020194855A1 (ja) 2020-10-01

Family

ID=72609318

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/045577 WO2020194855A1 (ja) 2019-03-26 2019-11-21 虚像表示装置および撮像装置

Country Status (2)

Country Link
JP (1) JP2020160206A (ja)
WO (1) WO2020194855A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013516882A (ja) * 2010-01-07 2013-05-13 3ディー スイッチ エス.アール.エル. 立体視眼鏡を認識する装置および方法、ならびに、立体視ビデオストリームの表示を制御する方法
JP2016130066A (ja) * 2015-01-13 2016-07-21 パイオニア株式会社 ヘッドアップディスプレイ、制御方法、プログラム、及び記憶媒体
JP2018205319A (ja) * 2017-06-08 2018-12-27 ビステオン グローバル テクノロジーズ インコーポレイテッド 視認者のアイウェアの偏光を検出するシステム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013516882A (ja) * 2010-01-07 2013-05-13 3ディー スイッチ エス.アール.エル. 立体視眼鏡を認識する装置および方法、ならびに、立体視ビデオストリームの表示を制御する方法
JP2016130066A (ja) * 2015-01-13 2016-07-21 パイオニア株式会社 ヘッドアップディスプレイ、制御方法、プログラム、及び記憶媒体
JP2018205319A (ja) * 2017-06-08 2018-12-27 ビステオン グローバル テクノロジーズ インコーポレイテッド 視認者のアイウェアの偏光を検出するシステム

Also Published As

Publication number Publication date
JP2020160206A (ja) 2020-10-01

Similar Documents

Publication Publication Date Title
JP5045212B2 (ja) 顔画像撮像装置
US8358337B2 (en) Pupil detection device and pupil detection method
WO2014030158A4 (en) Visual aid projector
JP2006252138A (ja) 運転者撮影装置および運転者監視装置
US20190329699A1 (en) Illumination Device for a Motor Vehicle for Increasing the Perceptibility of an Obstacle
JP2008305203A (ja) 顔画像撮像装置
KR20110002045A (ko) 스펙클 감소 시스템 및 그 방법
JP2017026675A (ja) ヘッドアップディスプレイ
WO2019187446A1 (ja) 画像処理装置、画像処理方法、画像処理プログラムおよび移動体
WO2018164104A1 (ja) 眼部画像処理装置
WO2020194855A1 (ja) 虚像表示装置および撮像装置
JP4764664B2 (ja) 眼科検査装置
JP2020159792A (ja) 撮像装置および判定方法
JP5590412B2 (ja) 投光システム及び顔撮影システム
JP2020159791A (ja) 撮像装置および判定方法
JP3297504B2 (ja) 光学装置
WO2020194854A1 (ja) 虚像表示装置
JP2002268002A (ja) 網膜走査表示装置
JP2009096323A (ja) カメラ照明制御装置
WO2020194853A1 (ja) 撮像装置および判定方法
US20200209725A1 (en) Projection system and projection method
JP2017162233A (ja) 視線検出装置および視線検出方法
KR20210136623A (ko) 시선 추적 장치 및 방법
JP2014082585A (ja) 状態監視装置及び状態監視プログラム
JP2003241079A (ja) 画像観察装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19921904

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19921904

Country of ref document: EP

Kind code of ref document: A1