WO2022091398A1 - 透過率制御部を備えた表示装置 - Google Patents

透過率制御部を備えた表示装置 Download PDF

Info

Publication number
WO2022091398A1
WO2022091398A1 PCT/JP2020/040996 JP2020040996W WO2022091398A1 WO 2022091398 A1 WO2022091398 A1 WO 2022091398A1 JP 2020040996 W JP2020040996 W JP 2020040996W WO 2022091398 A1 WO2022091398 A1 WO 2022091398A1
Authority
WO
WIPO (PCT)
Prior art keywords
light
transmittance
display
external light
display unit
Prior art date
Application number
PCT/JP2020/040996
Other languages
English (en)
French (fr)
Inventor
正典 伊原
Original Assignee
正典 伊原
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 正典 伊原 filed Critical 正典 伊原
Priority to PCT/JP2020/040996 priority Critical patent/WO2022091398A1/ja
Publication of WO2022091398A1 publication Critical patent/WO2022091398A1/ja

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/02Viewing or reading apparatus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/64Constructional details of receivers, e.g. cabinets or dust covers

Definitions

  • the present invention relates to a display device provided with a transmittance control unit.
  • the present invention is a display device associated with an information display terminal called a head-mounted display (HMD), a head-up display (HUD), or a contact lens for AR / MR, and a normal transmissive (semi-transmissive) image is transparent to a background image.
  • HMD head-mounted display
  • HUD head-up display
  • contact lens for AR / MR
  • normal transmissive (semi-transmissive) image is transparent to a background image. It is widely known that a semi-synthetic display device that ends up already exists.
  • Non-Patent Document 1 is a finding of a glass window or the like that can control the brightness of a room by controlling the transmittance of light.
  • a transparent / semi-transparent configuration may be realized.
  • the transmissive type is an HMD that allows the user to see the image on the opposite side from the display unit through the display unit with a high transmittance of 90% or more without using a camera, like ordinary glasses.
  • Semi-transmissive type refers to HMDs whose transmittance is limited to some extent, such as sunglasses. Further, it includes a thin monitor such as a flat display, and also includes a larger device such as the above-mentioned HUD.
  • a main subject of the present invention is a transmission type and / or semi-transmission type HMD (head-mounted display), HUD (head-up display), contact lens type AR / used for general transmission type and / or semi-transmission type AR and MR.
  • HMD head-mounted display
  • HUD head-up display
  • MR devices portable display devices, and stationary transmissive display devices
  • black cannot be displayed only in a specific range due to the influence of the background color (external light) because it is transmissive or semi-transmissive.
  • transmissive type transmissive type
  • the display is not clear if the outside light is too bright.
  • Non-Patent Document 7 there is also a display method as if the black display is performed in units of pixels (main pixels) at first glance, but in this method, backlight control is performed in units of pixels (main pixels). Since the white light is colored with liquid crystal and RGB color filter, the transmission rate is extremely low at 33% or less, or when the backlight is turned on and the color is displayed, it is in pixel (main pixel) units.
  • the background image (external light) is completely blocked by the emission of a strong white light source that is output in pixel (main pixel) units by the backlight of, or the filter and liquid crystal of each subpixel of RGB are used as the backlight light source or background light ( Since (external light) passes through, there is a problem that the actual transmittance of the background light (external light) is attenuated to about 33% or less, and the transmittance of the background light is appropriately controlled in pixels (main pixels). Is not possible.
  • the present invention reflects and / or transmits a signal from an optical output unit of an image in a display device such as a transmissive type or semi-transmissive type HMD, HUD, or contact lens and projects it on the retina.
  • a display device such as a transmissive type or semi-transmissive type HMD, HUD, or contact lens
  • the rate control unit By using the rate control unit, it is provided with a means for providing an optical transmission rate control unit that can be controlled for each pixel (main pixel) without using a backlight for each pixel (main pixel) or an RGB color filter for subpixels. By doing so, in order to reduce the influence of the black part on the background light and external light, the optical transmission of the background light and external light is increased to realize arbitrary transmission control, and a more reliable black display is realized.
  • optical waveguides, light guide plates, half mirrors, optical systems such as optical microprojectors, and transmissive EL (including organic EL) video generation such as compute modules as video output units required for display is generated.
  • the video output unit of the compute module may be an electrical video signal or optical video information, and the word video includes visual information such as images, still images, moving images, and 3D stereoscopic images. It can be considered to include everything related to.
  • HMD or HUD which is an external light (background color) input unit in front of the optical composite unit in the optical path instead of the above-mentioned optical composition unit, the external light (background color) input surface of the contact lens, or external light.
  • Optical transmission that can be divided into pixels (main pixels) composed of liquid crystal or MEMS as described above on the final visual output surface after combining (background color) and internally generated images / videos.
  • a means for providing a control unit is provided.
  • the transmittance division control for each pixel (main pixel) is controlled by polarization of liquid crystal, etc., transmittance control using electric, magnetic, electromagnetic, etc. of the physical transmission area such as MEMS, control by magnetic field, electrical change.
  • the device may be controlled by inducing a physical change according to the above, further controlled by temperature, or may be a device by EC (electrochromic, electrochromic material, electrochromism) characteristics.
  • the transmittance of external light is described as 0, but in reality, there is an attenuation of 80 to 90% or more of external light (background color) that would appear black to humans.
  • a black display may be expressed, or the RGB value is not necessarily 0 but a value close to 0, for example, the brightness based on RGB may be configured to be less than 20 to 10% of the total, and optical focus control may be performed. It may be designed so that the outline of the black part can be clearly configured by improving the function, or it can be placed at an arbitrary position on the panel so that the transmittance can be controlled with the same pixel (main pixel) configuration as the screen of the flat panel display. It may be possible to display them in combination.
  • the light transmission rate of the external light (background color) that is affected by the surrounding conditions with respect to the black signal part in the internally generated CG image can be controlled as appropriate.
  • the CG image / video as internal output light to the visual field (retina, etc.) is 0 and the transmission rate of external light (background light) is 0.
  • the input brightness of external light (background color) and the brightness of display (CG image / video) are eliminated, and as a result, it is possible to display as black to the human eye, or external light (background) can be displayed in any color expression. It is possible to eliminate the influence of color) and realize color reproduction that is faithful to the display color.
  • black display is realized by the transmittance control of each pixel (main pixel) of the transmissive and / or semi-transparent part in the transmissive type and / or semi-transparent type display device, so that the device user can have more optimal vision. It is also possible to provide video.
  • the color expression in the display color of the compute module as the video output unit and the transmitted background are not the same as the RGB unit of the subpixel after the transmission rate control, and there is no RGB filter.
  • the subpixel transmission control by color separation peculiar to the color display liquid crystal which is practically 66 to 33% or less, there is also an effect that a sufficient amount of transmitted light of the background light can be secured.
  • FIG. 15 presents the basic configuration of the apparatus of the present invention as an HMD (head-mounted display).
  • FIG. 15 (a) is a diagram in which a generally-called personal computer and a transmissive / semi-transparent HMD are connected
  • FIG. 15 (b) is an information processing device provided with a video output unit such as a personal computer or a smartphone. (Compute module, Compute unit)
  • the 1501 has a configuration built in the HMD. Therefore, even if the information processing and the device configuration performed in FIGS. 15 (a) and 15 (b) are substantially the same, they are constrained by the stationary information processing device 1501 as shown in FIG. 15 (a).
  • the communication unit 1514 of FIG. 15B is configured as a wireless communication circuit so that the information processing unit 1514 can be freely moved as long as it is shown in FIG. 15B.
  • HMD various sensors (GPS, GNSS, acceleration, gyro, compass) may be built in the HMD, and these sensors may be built in by an electronic circuit or MEMS. It may be configured.
  • HMD includes any number of image sensors (including IR), structure lights, structure sensors, depth cameras, depth sensors, ToF camera (Time-of-Flit Camera) modules, microphones, microphone arrays, and ultrasonic sensors.
  • image sensors including IR
  • structure lights including structure lights, structure sensors, depth cameras, depth sensors, ToF camera (Time-of-Flit Camera) modules
  • microphones microphone arrays
  • ultrasonic sensors ultrasonic sensors.
  • these sensors may be mounted on a vehicle when operating an in-vehicle HUD (head-up display), or mounted on an aircraft when operating an aircraft-mounted HUD, or a HUD on a ship or the like.
  • the present invention may be appropriately associated with or mounted on the equipment necessary for the equipment for operating the present invention by being mounted on a ship when the present invention is operated as such. It may be configured so that it can be used more efficiently, and further, as an application of the HUD device, a display unit having a relatively similar shape is configured as a prism array accompanied by light entering from the side surface or a thin display using a laser MEMS or the like. Therefore, a notebook PC type device, a tablet type device, a smartphone type device, or the like may be configured as a black display capable flat display type device with transmission control.
  • the transmittance control unit has a transmittance of 100% when the power supply is not secured.
  • the image from the user's feet may be made semi-transparent to avoid the danger that the entity that is alienated from walking or moving cannot be seen.
  • the transmittance of a liquid crystal display or the like can be controlled in pixel (main pixel) units by electrical control, and the transmittance may be controlled by controlling the polarization rate by forming the charge transmittance control unit in two layers. .. Further, the reflectance may be controlled by the transmittance control in combination with the reflective component.
  • analog transmittance control such as 0 to 100% (may be 10 to 90%) transmittance may be performed, and the control methods in charge control are current control, voltage control, and pulse control (pulse width). It may be realized by any method such as (including).
  • the RGB subpixel self-luminous type or RGB external light source reflection (or RGB external light source reflection), which is the original feature of the present invention, is provided. It is not the subject of the present invention because it cannot realize the display quality as a transmittance control type display by the waveguide) type.
  • the information processing apparatus described as 1501 in FIG. 15A is an information processing apparatus such as a CPU, DSP, GPGPU as 1511, an image information processing apparatus such as GPU as 1512, and a storage unit as 1513.
  • a storage unit including a temporary storage unit, a storage storage unit, a volatile storage unit, a non-volatile storage unit, etc. for storing arbitrary information such as ROM, RAM, FLASH (registered trademark), SSD, HDD), 1511 to 1513 as 1514. It is equipped with a communication unit for distributing and collecting necessary information using other information processing devices and communication lines, and is appropriately connected to 1500.
  • 1501 in FIG. 15 (b) naturally includes 1511 to 1514 as in 1501 in FIG. 15 (a), 1500 in FIG. 15 (a) and 1500 in FIG. 15 (b) are 1501 to 1504.
  • the sensors are not shown in either 1500, they should be considered to be included as needed, as described in the above section.
  • 1501 in FIG. 15B is an information processing device built in 1500 with the same or similar configuration as that in FIG. 15A, and is in a single state in which the HMD is not connected to the external information processing device 1501. It is expected to work even if it exists.
  • the VR HMD and AR / MRHMD those that can be used without being connected to an external host computer (consisting of an information processing device or the like) have been commercialized in various forms.
  • optical processing devices 1502 are devices that provide appropriate optical visual information for human vision. More specifically, optical visual information provision using polygon mirrors and laser light controlled by MEMS, optical visual information provision using time-division color change by MEMS mirrors, optical visual information provision by microprojectors, liquid crystal panels and OLED panels.
  • the 1503 transmission type image display unit provides the 1502 optical processing device with CG image information (1006) appropriately generated according to the conventional visual information purification technique in the 1501 information processing device.
  • CG image information 1006
  • -A video signal is projected, and an optical image / video is provided to the user's vision according to the flow of optical visual information.
  • the 1504 transmittance control unit (same as 1004, 8001) is an information processing device that controls the transmittance of the ambient light (external light, background light, etc .: 1007, 8000) in pixel (main pixel) units.
  • External light that is visually transmitted by controlling and evaluating the transmittance of the transmitted pixel (main pixel) that is opaque as a black display in CG image information 1006 and that can see external light and background light.
  • the HMD is possible to configure the HMD as a transmissive / semi-transmissive display device that controls the transmittance of the background light and enables the provision of a more convenient image for the user.
  • FIG. 1 is an example of a transmissive HMD in the present invention, and can be interpreted as an AR device for one eye as a configuration.
  • FIG. 17 is an AR device for one eye as a conventional general transmissive HMD in the present invention. It should be noted that the present invention can be applied not only to the HMD for one eye but also to the binocular, and in that case, the present invention can be further implemented by combining an appropriate technique such as parallax correction. It can be of high quality.
  • FIG. 1A is a view of an HMD (head-mounted display) as a transmissive AR device to which the present invention is applied when viewed from above.
  • FIG. 1B is an HMD similar to that shown in FIG. 1A, and is a view when FIG. 1A is viewed from the side.
  • FIG. 17 is a top view of the HMD as a conventional transmissive AR device to which the present invention is not applied.
  • the transmissive type and the semi-transmissive type it is preferable to consider the difference between the transmissive type and the semi-transmissive type, whether it is full transmissive without attenuation like ordinary eyeglasses or semi-transmissive with attenuated transmissive like sunglasses.
  • a portion called a 1004 HMD unit transmittance control unit
  • the other 1001, 1002, and 1003 are also provided in the conventional HMD, and are generated from appropriate information collection and collected information by the compute module 1001 provided with a video output unit having a wireless communication function.
  • Appropriate display information is configured, and the optical module 1002 that converts the configured display information into optical information using a microprojector, optical waveguide, light guide plate, half mirror, etc., and the generated optical information are appropriately reflected.
  • It is configured as an HMD for AR / MR that can provide appropriate display information to the user's vision by the prism module 1003 that visually provides the optical object by refraction, enlargement, or the like.
  • the characteristic portion 1004 of the present invention which is shown in FIG. 1 and not shown in FIG. 17, will be described in more detail.
  • a spectacle-type AR / MR device as shown in FIGS. 1 and 17, it is easy to control the light transmittance of the entire lens portion of the spectacles, and it is not possible to realize general transmittance control with a simple configuration. It is possible.
  • the present invention does not control the transmission rate of the entire lens portion of such glasses, but when the CG image information 1006 for AR / MR is projected onto an HMD or HUD such as glasses, the projected CG image information Display the influence of external light (background light) by appropriately installing a transmission control unit for each fine pixel (main pixel) according to the number of vertical and horizontal pixels (main pixels) within the range of 1006 pixels (main pixel) A black display is realized by not giving it to.
  • CG display pixel (main pixel) units by several methods, such as the outside of the input surface 1007, the outside light (background light), and the inside of the combined light projection surface 1005 after the composition of the CG image 1006.
  • the transparency of the target pixel (main pixel) is controlled from the surrounding pixels (main pixel) in the AR / MR display in a general transmissive / semi-transmissive HMD by controlling the transmissivity in units of the combined pixels (main pixels). It is intended to realize the expression of black color by lowering it.
  • the resolution of the transparency control unit that controls the transparency in pixel (main pixel) units does not necessarily match the pixel (main pixel) resolution of images and videos generated in the compute module including the video output unit. It is not necessary to have it, and it is possible to control using a coarser resolution or a finer resolution, and if it is a finer resolution, by moving the coordinate system reference of the control target pixel (main pixel) position of the transmission rate control unit. Fine alignment adjustment processing with the CG image generated in the compute module provided with the video output unit can be realized by adjusting the coordinate system of the display coordinate system and the transmission rate control pixel (main pixel) that blackens, or transmission.
  • RGB sub-pixels for display may be configured before and after (back and front) the transparency control unit of the main pixel so that the image can be visually recognized from the back surface or the front surface.
  • the configuration of FIG. 8 is, in order from the top, 8000 external light (background light), 8001 transmission rate control unit, 8010 external light (transmission controlled external light / background light), 8020 (optical light projection unit light for display: CG). Image light projection), 8011 controlled display light, 8009 visual, external light (background light) 8000 and CG image light (1006) obtained from 8020 as a CG image light projection unit are displayed. It is shown that the composition is synthesized (8011) by the synthesis unit 8002 and transmitted to the visual (8009).
  • external light (background light) 8000 is input and the 8001 transmittance control unit of FIG. 8 corresponding to 1004 of FIG. 1 can control the transmittance in pixel (main pixel) units.
  • the transmittance controlled external light becomes the pixel.
  • External light (background light) 8010 having a surface structure with different brightness is configured for each (main pixel).
  • the transmission-controlled external light (background light) 8010 which has a surface structure with different brightness for each configured pixel (main pixel), displays optical information output from an optical module (1002, 4002, etc.) for display.
  • Controlled synthetic light 8011 is generated by optical compositing processing in the display content compositing unit 8002 in combination with the CG image light (1006) acquired via the light projecting unit light 8020, and the generated controlled synthetic light 8011 is generated.
  • the synthetic light 8011 is provided to the visual 8009.
  • FIG. 8 schematically shows the display content synthesis unit as if it is configured by a microprism array structure, and an optical waveguide (light guide plate) is expressed at this portion.
  • a half mirror, a microprojector, and a MEMS mirror array can be used to control background light transmission and reflection control of CG image light for display to realize optical composition processing. It is easily conceivable to use self-luminous sub-pixels such as RGB for display finer than the display pixel (main pixel) to control the transmittance and the transmitted brightness.
  • the transmittance control method for each pixel (main pixel), which is the core of the present invention, will be described here.
  • the first method using a liquid crystal is to control the transmittance by a TN type polarizing plate and a liquid crystal layer.
  • a liquid crystal can control the transmission rate of light whose light properties are adjusted by a polarizing plate depending on whether or not a charge is applied to the liquid crystal portion when passing through the liquid crystal layer.
  • a display device such as a (flat panel display) is also created so that the transmission rate for each pixel (main pixel) can be controlled by this principle.
  • a liquid crystal television it is common to control the display content depending on how much white light of the backlight is transmitted in pixel (main pixel) units and color units.
  • the core of the invention is to provide a unit transmittance control layer to enable black display, which was not possible with conventional transmissive HMDs.
  • any liquid crystal transmittance control method such as VA type or IPS (registered trademark) type may be used in addition to the TN type.
  • a method such as circular polarization or multi-domain VA type can be used as a device for widening the viewing angle, in addition to the one in which the transmittance is controlled by the difference between the TN type vertical polarization and the horizontal polarization.
  • This method has the advantage of widening the viewing angle, but the fact that the transmittance can be controlled by charge control can be regarded as transmission in principle as the TN type.
  • IPS registered trademark
  • MEMS refers to a device in which machine element parts, sensors, actuators, and electronic circuits are integrated on the same silicon substrate, glass substrate, organic material, etc. using a very small manufacturing process as called Micro Electrical Techniques. Is a technology that has become generally known since the latter half of the 1980s. Using this technique, it is possible to construct a movable mirror or shutter in a very small area, and it is also applied to a reflective optical system such as a laser projector.
  • the light transmission in the transmission rate control unit is applied to the binarization process of the analog value as a discrete 1-bit flag, and the light transmission is transmitted in the transmission target area ratio.
  • the method of controlling the rate and selecting whether the CG image light as the display content is displayed by the MEMS mirror or transmitted through the external light (background light) the CG image light is outside when the CG image light is black.
  • the transmittance is configured as a component whose transmittance can be controlled by thermal control by realizing high-speed temperature control, and a component whose transmittance can be controlled using EC (Electrochromatic) characteristics according to the amount of charge.
  • EC Electrode-Coupled Device
  • a control unit can also be used.
  • the transmission rate control pixels (main pixels) used in these transmission rate control units 1004 (8001) and the CG image light display pixels used in the CG display image 1006 are (a), (b), and (c) of FIG. ), (D) may be configured by any tying method, and more preferably, it is not only desired that the pixel layout of the transmission control pixel and the CG image light display pixel are the same, but also each pixel. It is even better if it is adjusted by calibration to correct the gap between them.
  • this control program has the function of an information processing device as a compute module (compute unit) including a video output unit associated with the display device of the present invention such as the HMD itself or an information processing device connected to the HMD 1001. , 2001, 3001, 4001, 5001 and the like, which are stored in a storage unit (1513, etc.) incorporated in the information processing device 1501 having a configuration representing the device unit.
  • the information processing apparatus such as the computing module provided with the above-mentioned video output unit, the mask designation process of the black portion is performed by the GPU process in S1401, which is the first step.
  • This process generates information such as the transmittance of each pixel (main pixel) in the external light (background light) transmitting portion.
  • This information such as transparency (transparency information) is configured in an arbitrary memory space as arbitrary transparency depth information such as 4-bit depth or 8-bit depth, in addition to RGB information on the video memory managed by the compute module, for example. It may be used, or it may be simply configured as 1-bit mask information. Further, these processes may be appropriately processed in parallel with other programs.
  • each 8-bit depth information of RGB the transmittance is 100% only when all RGB are 0, and in other cases, the color information corresponding to RGB is displayed with the transmittance of 0%.
  • These implementations may be configured with any design concept depending on the application and driver used, and RGB if 8-bit depth RGB is assumed.
  • the transmittance is displayed at 50% based on the transmittance, when both RGB are 1, the transmittance is displayed at 100%, and when both RGB are 0, the transmittance is displayed in black with 0%. It is possible to design an arbitrary transmittance setting algorithm such as.
  • a display method of transparent display when any of RGB is even and opaque display when any of RGB is odd is used, or the lowest 1 bit of RGB is used as a transmission coefficient, and the RGB value is the upper 7 bits.
  • the lowest 1 bit of RGB is 3 bit information
  • a signal based on the transmittance information based on any method described across the sections is provided to the transmittance control unit 1004 (8001) designated in FIG. 1 of the present invention.
  • the circuit of 1004 (8001) is appropriately controlled by any method such as high and low voltage and current, and time axis control such as pulse width. In the case of a TFT liquid crystal display or the like, these controls are performed by controlling the voltage, current, or their pulse width according to the use of the drive power supply.
  • the transmittance control unit realizes the transmittance control of the external light (background light: 1007, 8000) for each pixel (main pixel). Then, in this step S1402, the transmittance control information necessary for these processes is generated.
  • CG images and videos such as CG images for composite display on the background (outside light: 1007, 8000) such as real scenery to the user's HMD or HUD by the information processing device have been output.
  • a CG image is generated by a drawing image calculation in the information processing apparatus 1501, which is a more specific detail of the compute module as an output unit.
  • These CG images are obtained as a result of CG calculation processing in the CPU unit 1511 and the GPU unit 1512, are configured as CG image information, and then are provided to the optical processing device.
  • the video output unit of the compute module may be an electrical video signal or optical video information, and the word video is related to visual information such as images, still images, moving images, and 3D stereoscopic images. It can be considered to include everything.
  • the transmittance control information in S1402 and the CG image information in S1403 described in the above-mentioned section are provided to the transmittance control unit (1504, 1004, 8001) and the optical processing device (1502), respectively, and optical.
  • the optical output from the processing device is provided to the transmissive image display unit (1503), and at the same time, it is combined with the external light (background light: 1007, 8000) that has passed through the transmittance control unit (1504, 1004, 8001).
  • S1404 is carried out as a step.
  • the information in the pixel (main pixel) unit is the information in the state where the transmission rate in the pixel (main pixel) unit in the transparency control unit is 0 and the RGB signal is 0. It will be provided in pixel (main pixel) units, and not only will it be possible to provide any pixel (main pixel) in the user's AR and / or MR image as black, but also the background color associated with the opaque display. Since it is possible to display any color that is not affected by the above, it is possible to greatly improve the visibility for the user.
  • FIG. 2 shows an HMD (head-mounted display), which is a configuration in the case of an internal reflection / refraction type.
  • the CG image 2006 (1006) for synthesis is basically provided as the synthetic light 2005 to the user's vision by refraction / reflection by the microprojector.
  • this FIG. 2 is a side view, it is equipped with a lens, a prism mechanism, etc. inside to appropriately visually visualize the CG image signal from the optical module, and the incident light from the outside (2007, 1007, 8000: background).
  • By realizing (light, external light) by controlling the transmittance for each pixel (main pixel) described above, it is possible to realize image expression that could not be expressed by conventional transmissive / semi-transmissive display devices such as black. ing.
  • FIG. 3 shows a configuration in the case of an HMD (head-mounted display) and a light guide (optical waveguide) type.
  • the CG image 3006 (1006) for synthesis is basically provided as the synthetic light 3005 to the user's vision by refraction / reflection by the scan line light source.
  • FIG. 2 is a side view, it is equipped with an optical waveguide and an optical scan component mechanism (which may be an image pickup camera) inside, and the CG image signal can be appropriately visually visualized from the optical module.
  • Conventional transmissive / semi-transmissive display devices such as black by realizing incident light (3007, 1007, 8000: background light, external light) from the outside by controlling the transmittance for each pixel (main pixel) described above. It is configured to realize image expression that could not be expressed by.
  • FIG. 4 a HUD (head-up display) type or console type transmissive / semi-transparent display device, including a transmissive FPD (flat panel display) and the like.
  • the structure itself and the principle itself may be configured in any of FIGS. 1, 2, and 3, but they are installed in a relatively large area, and can be displayed in a relatively large area such as vehicle driving, airplane maneuvering, and ship steering. I am assuming that. (A) is an image when viewed from the driver's seat side of the private car, and (b) is an image when the driver's seat is viewed from the side.
  • the HUD may be configured in the driver's seat with such a layout, or the configuration may be realized in a layout suitable for various driver's seats as appropriate.
  • FIG. 5 contact lens type AR / MR devices have been announced several times. Even in these devices, by appropriately associating the transmittance control unit with the display unit, it is possible to realize the black expression in the present invention, and it is uncomfortable to see through the other side of the displayed image object. It is also possible to reduce such things.
  • the related devices associated with the device of the present invention such as the HMD, HUD, and contact lens shown in FIGS. 1 to 5 may include sensors having an arbitrary number of axes. It is preferable that these sensors include position detection sensors (GNSS, Loran, etc.) such as gyro, acceleration, geomagnetism, and even better, GPS. Further, the device of the present invention may include any number of image sensors, structure lights, structure sensors, depth cameras, depth sensors, and other sensors included in the smartphone as of 2020, and sensors included in the HMD. ..
  • GNSS position detection sensors
  • Loran Loran
  • the device of the present invention may include any number of image sensors, structure lights, structure sensors, depth cameras, depth sensors, and other sensors included in the smartphone as of 2020, and sensors included in the HMD. ..
  • these sensors are mounted on a vehicle when operating an in-vehicle HUD or the like, mounted on an aircraft when operating an aircraft-mounted HUD or the like, or when being operated as a HUD on a ship or the like.
  • the present invention may be configured to be efficiently used by being appropriately associated with or mounted on the equipment necessary for operation by being mounted on the device.
  • sensors are mounted on the device of the present invention, and processing is performed in the associated information processing device to form a display image / video in the device of the present invention, whereby the device of the present invention is obtained.
  • the device of the present invention transmits necessary images and videos, evaluates black color based on this information, controls the transmission rate of the portion to be displayed in black in the device of the present invention, and RGB is close to 0 or 0.
  • a black display in a transmission and / or semi-transmission type HMD is realized.
  • information including the transmittance may be sent in addition to RGB, and the device of the present invention uses K data in four color composition information such as RGBK and RGBY as the transmittance information.
  • a black display may be realized by controlling the transmittance of the above with a K value or a Y value.
  • the transmission rate control unit is used in an AR / MR device for both eyes.
  • the transmission system By setting the transmission system to 0%, all the input of extra-background light is eliminated, and as a result, it is configured and used as a shared device related to AR / MR / VR such as HMD for VR. Is also good.
  • the transmittance of external light background color
  • the transmittance of external light is described as 0, but in reality, there is an attenuation of 80 to 90% or more of external light (background color) that would appear black to humans.
  • a black display may be expressed, or the RGB value is not necessarily 0 but a value close to 0, for example, the brightness based on RGB may be configured to be less than 20 to 10% of the total, and optical focus control may be performed. By improving the function, the outline of the black portion may be clearly configured.
  • a MEMS device is installed outside and / or inside the liquid crystal to control the structure by combining the liquid crystal shutter and the MEMS shutter.
  • a hybrid configuration that controls the external light input and can display black color more accurately, or a hybrid configuration such as MEMS ⁇ liquid crystal ⁇ MEMS placed in front and behind may be used.
  • the liquid crystal display ⁇ display unit (optical waveguide, laser light source, organic EL, microprojector, etc.) or MEMS ⁇ display unit (optical waveguide, laser light source, organic EL, microprojector, etc.), and the MEMS unit is inside or A method of painting the outside with a black color or making it black with the polarization of the liquid crystal display.
  • a method of painting the inside and outside of the MEMS part in black with the MEMS ⁇ liquid crystal ⁇ display part optical waveguide, laser light source, organic EL, etc., microprojector).
  • MEMS1 ⁇ MEMS2 ⁇ Liquid crystal ⁇ Display (optical waveguide, laser light source, organic EL, micro projector, etc.), MEMS1 is painted black, MEMS2 is mirrored to control the reflection state of the display, and the transmittance is controlled by the liquid crystal. How to control the brightness by. MEMS1 ⁇ LCD ⁇ MEMS2 ⁇ Display (optical waveguide, laser light source, organic EL, microprojector, etc.), MEMS1 is painted black, MEMS2 is a mirror configuration, the reflection state of the display is controlled, and the transmittance is controlled by the liquid crystal. A method of controlling brightness by any combination such as. It may be combined with various mounting methods such as.
  • a self-luminous display device such as an organic EL related to the above-mentioned display unit
  • it is configured as a transmissive pixel (main pixel) unit self-luminous display device that is not a reflection type or an optical waveguide type.
  • the display of the large flat panel display to be displayed may have a transmission rate control unit or the like configured on the opposite side or the back side thereof, or a blackening visual display providing unit may be configured.
  • the RGB color mixture itself may be configured.
  • a self-luminous part such as an organic EL (including an inorganic EL) that constitutes a light emitting and transmitting RGB subpixel is configured as an RGB subpixel for display before and after (the back and front) of the main pixel in the transmission rate control part. It may be provided so that the image can be visually recognized from the back surface or the front surface.
  • FIG. 8 illustrates a case where the transmittance control surface is on the outside of the visual axis (from the outside light side) with respect to the display surface.
  • FIG. 9 illustrates a case where the transmittance control surface is inside (from the visual sense) on the visual axis with respect to the display surface.
  • FIG. 10 illustrates an example in which the transmittance control surface is divided into the outside and the inside on the visual axis with respect to the display surface (in the form of being on the external light side and the visual side and sandwiching the combined portion of the external light and the CG image light). ing.
  • FIG. 8 illustrates a case where the transmittance control surface is on the outside of the visual axis (from the outside light side) with respect to the display surface.
  • FIG. 9 illustrates a case where the transmittance control surface is inside (from the visual sense) on the visual axis with respect to the display surface.
  • FIG. 10 illustrates an example in which the transmittance control surface is divided into the outside and the inside on
  • FIG. 11 has a transmittance control surface in front of the prism portion for synthesizing the image / video generated for synthesizing the actual landscape (external light, background) and the actual landscape.
  • the transmittance control surface of FIG. 11 may be configured at an arbitrary position as shown in FIGS. 8 to 10.
  • FIG. 12 has a transmittance control surface in front of an optical waveguide (light guide plate, light guide path / half mirror) for synthesizing an image / video generated for synthesizing a real landscape (outside light) and a real landscape. are doing.
  • the transmittance control surface may be changed to an arbitrary position as shown in FIGS. 9 and 10.
  • the transmission rate control unit may be formed on the reflective surface of the prism portion including optical angle correction, or may be formed on the optical transmission portion of the optical waveguides including optical correction.
  • the correction itself can be implemented as long as it is formed so as to be appropriately combined according to the angle between the external light (background: 1007), the CG image light (1006), and the synthetic light (1005) and the refractive index scaling factor. Is.
  • FIG. 8 relating to the physical structure of the basic configuration of the present invention will be described. Although the explanation of FIG. 8 is simplified in the first embodiment, more specifically, the configuration is such that the visual axis is captured from the side.
  • 8001 is the light transmittance control unit.
  • the light transmittance control unit is configured as an arbitrary component capable of controlling the transmittance such as liquid crystal display, MEMS, thermal control, and control by EC (Electrochromic) characteristics.
  • this transmission control unit has an arbitrary matrix structure and has an arbitrary two-dimensional array structure such as a rectangular tile array, a hexagonal tile array, and a triangular tile array as shown in FIG.
  • this arrangement is configured on an arbitrary curved surface of a target device (HMD, HUD, contact lens, etc.), it does not necessarily have to be composed of a regular polygon, and any tie such as a part of a triangle and a part of a quadrangle. It may be realized by a ring structure.
  • FIG. 13 illustrates rectangular tiling with a liquid crystal display. Even in rectangular tiling, there is no problem in the operation of the present invention even if the array configuration is like a ladder in which each line is shifted by half a cell size. These are represented by (a), (b), (c) and (d) of FIG. 13 as a formal example.
  • the liquid crystal display portion is composed of a polarizing film portion and a variable polarizing portion formed by the liquid crystal portion.
  • a polarizing film and a TN type liquid crystal display it is possible to control the transmittance in cell units.
  • polarization methods such as TN, VA, and IPS (registered trademark)
  • an appropriate polarizing plate polarizing film
  • the transmission rate control part required by the present invention can be configured, and as a result, it is visually visible from the user's point of view. Black display is possible in pixel (main pixel) units.
  • the transmittance can be controlled by opening and closing the shutter in cell units and tilting the mirror device by controlling the amount of voltage and current in the matrix unit which is finely divided like the liquid crystal display. It is possible. Transmittance control can be realized by bending the cell of the MEMS device in units of the target pixel (main pixel) at an appropriate angle in the visual direction. If it is the central part of vision, it can be assumed that the light transmittance exceeds 98% for convenience because the movable part of the MEMS cell changes in the direction perpendicular to the line of sight.
  • the cell of the pixel (main pixel) unit configured by MEMS can be controlled only on / off in the cell unit, a plurality of subpixels are configured in the cell unit of the above-mentioned liquid crystal display and one cell is used.
  • the transmittance is controlled by MEMS, and the transmittance is controlled by enabling a grayscale display with less discomfort to the user. May be done.
  • the transmittance control methods described so far may be used for a thermal control type transmittance control device, an EC (Electrochromic) characteristic transmittance control device, and the like.
  • an ultra-small heat generating device is installed in each cell unit configured as described above, and the transmittance is controlled by a thermal change using electricity in the cell unit. It is also preferable.
  • the visible light transmittance of the substance changes in each cell unit configured as described above by an electrochemical redox reaction. It is also preferable to install an ultra-small EC (Electrochromatic) characteristic device in each cell unit by utilizing the phenomenon and perform transmittance control using a chemical change by electricity.
  • the transmittance control by a method such as liquid crystal control, MEMS control, temperature control, and EC (Electrochromic) characteristic control for each cell of the matrix is displayed as external light.
  • black expression is performed.
  • the pixels (main pixels) having high transmittance include the external light (background: 1007, 8000) and the CG image (1006, 8020). In some cases, it is inevitable that the displayed image will be semi-transparently combined.
  • a polarizing film is installed in front of a combining unit 8002 of external light and display optical light (8020: CG generated image), and a variable polarizing unit is provided after the composition, or vice versa.
  • a polarizing film is installed in front of the synthesizing unit 8002 after the synthesizing unit, or by installing variable polarization by electronic control in the front and rear parts of the synthesizing unit 8002, respectively, the transmission rate for each cell in the matrix is functional.
  • Variable polarization device for each cell (pixel (main pixel)) that realizes control
  • the polarization method may be any polarization method such as circular polarization or simple vertical / horizontal polarization, TN, VA, IPS (registered trademark)). It is possible to arrange parts that affect the variable transmission rate before and after the composite unit 8002 by any combination such as installing a device or installing a MEMS device in the front and rear. In this case as well, when there is external light (background: 1007, 8000) and a CG image (1006, 8020) in the pixel (main pixel) with high transmittance, it is inevitable that the displayed image will be semi-transparently combined. Become.
  • the configuration of the micro prism array of FIG. 8 is replaced with a method using a standard prism, and AR / using external light (real landscape) and a CG image (computer graphic) as a composite image for a user.
  • An example of displaying an MR device is shown. More specifically, when the CG image information used for AR / MR is 0 for both RGB with respect to the external light (actual landscape), the transmittance of the external light is 0 and the display information is also 0 for both RGB. , The user is shown black.
  • the transmittance of the transmittance control unit is controlled by the transmittance information having a bit depth such as 8 bits separately from RGB, and whether it is displayed as black or gray is behind.
  • the size and weight of the prism may be a problem in actual use, but the same mechanism as in FIG. 8 can be realized by configuring an appropriate optical system with a combination of a high-density high-refraction plastic lens and a prism. And by combining any of the above-mentioned methods, a better black display can be made possible.
  • the configuration of the microprism array of FIG. 8 is replaced with a method using a standard light guide plate (optical waveguide / half mirror), and a CG image (real landscape) and a CG image as a composite image for a user (real landscape) are used.
  • An example of displaying an AR / MR device using computer graphics) is shown. More specifically, when the CG image information used for AR / MR is 0 for both RGB with respect to the external light (actual landscape), the transmittance of the external light is 0 and the display information is also 0 for both RGB. , The user is shown black.
  • the transmittance of the transmittance control unit is controlled by the transmittance information having a bit depth such as 8 bits separately from RGB, and whether it is displayed as black or gray is behind.
  • the transmittance information having a bit depth such as 8 bits separately from RGB, and whether it is displayed as black or gray is behind.
  • the present embodiment has a feature that it can be made thinner than the optical system of a prism or a lens by diffraction, reflection, refraction, etc. in the optical waveguide. By installing the present invention at an appropriate position of the waveguide, the same as in FIG. It is shown that the effect can be obtained, and a better black display can be made possible by combining any of the above-mentioned methods.
  • a method of reducing an error in the display position of a pixel (main pixel) in an image in the compositing of the transmittance control unit and the generated image / video compositing unit will be described with reference to FIG. More specifically, when a fixed pixel (main pixel) position projection device such as a microprojector is used to align the generated image / video with the transmittance control cell in HMD or the like, the vertical axis of the projector is used.
  • the pixel (main pixel) resolution of the transmittance control surface is sufficiently higher than the pixel (main pixel) resolution of the microprojector, the pixel (main pixel) coordinates of the transmittance control surface are corrected vertically and horizontally in the display for alignment. ..
  • the coordinate system for transparency control is controlled by GPU, etc., and the coordinate system is converted (arbitrary dimensional affine transformation, etc.) so that it can be projected on the curved surface, and appropriate display information is provided. It is conceivable to configure the display at appropriate coordinates by changing the coordinate system of.
  • the start position of the scan line can be finely adjusted mathematically by controlling the time axis plane, etc., or the light source. It is also possible to adjust the position of the control cell of the transmittance control unit and the display position of the display pixel (main pixel) to an appropriate coordinate position (1601) by finely adjusting the start timing of.
  • the same transmittance control as the coordinate correction with a fixed coordinate system device such as a microprojector becomes possible.
  • corrections such as curved surface projection can be performed in the same manner as described above.
  • both information can be mathematically corrected by a GPU or the like, or the projector or light source can be controlled.
  • MEMS including the structure such as gears and screws composed of MEMS
  • adjusting the position of the displayed image itself (1601)
  • adjusting the shape With respect to the display for the person, it is possible to generate an appropriate image / video and to align the display surface and the transmittance control surface (1601).
  • the position correction method in this embodiment is not limited to the HMD, and it is also preferable to configure an AR / MR device such as a HUD or a contact lens so that it can be appropriately adapted to a transmissive type / semi-transmissive type device. It is possible to realize the present invention with higher quality by applying a method of correcting / correcting a pixel (main pixel) error in a plurality of conventional projection devices and image pickup devices as in the present embodiment. It may be possible to display in combination so that the transmittance can be controlled with the same pixel (main pixel) configuration as the screen of the flat panel display.
  • the correction technique for fine-tuning the screen position is to combine any existing method such as an optical position correction method, a physical position correction method, and a software-based position correction method using a program. It may be realized.
  • FIG. 7 has a configuration in which an image pickup camera 6001 is attached to the HMD (head-mounted display) of FIG.
  • the field of view of this camera changes according to the movement of the user's head, and the movement of the camera is detected by the gyro, acceleration, compass, and the like.
  • the configuration may be such that the change in the direction of the head is detected from the change in the captured image, and the calculation of such information is performed by the accompanying information processing unit or the information processing device at the network link destination. You may do it.
  • the information obtained from the camera 6001 of FIG. 7 is appropriately tracked by appropriate shape recognition by the information processing apparatus.
  • the shape of the arm is recognized, and the user's visual sense is presented with a composite image as if the icons of smartphones are lined up.
  • the smartphone-like image illustrated in FIG. 7 is not printed on the arm, but is combined with the image of the arm by using AR / MR technology and displayed to the user. ..
  • there is a sticker tattoo for tracking on the arm there is a bracelet with a specific pattern wrapped around the wrist, the tendon inside the wrist is detected, the vein of the arm is detected with an infrared camera.
  • a UI such as a smartphone tailored to each individual is displayed while being tracked on the arm by detecting and vein authentication, or the tracking technology is configured by an arbitrary method.
  • the HMD Head Mounted Display
  • the HMD may be configured to realize a useful UI by being configured to be feasible as a user interface (UI) of the above. At that time, even if you try to avoid displaying the UI on the finger by increasing the transmittance of the part where the fingers overlap and not outputting the image in the HMD of the part hidden under the finger.
  • the UI behavior may be configured to be normal, including information from additional devices such as using a structure light or a depth camera.
  • step S7001 the UI (user interface) projection surface, the fingertips for UI operation, and the like are photographed using the camera attached to the HMD.
  • step S7002 a UI projection surface, a fingertip as a UI operation object, and the like are detected from the captured image, and image features necessary for providing the UI are extracted.
  • step S7003 the position information of the finger or the arm is detected, the movement of the finger or the arm is detected based on the detected information, and the coordinate system of the display destination of the UI image is tracked while tracking those movements.
  • the black information position in is identified in step S7004 and provided to the HMD.
  • the transmittance control according to the present invention is performed in pixel (main pixel) units by step S7005, and the black portion of the UI. Since the transmittance is lowered, the image is projected to the user according to step S7006, and the black UI is displayed even though nothing is displayed on the arm in the user's eyes. As described above, information processing is performed so as to be visually expressed as appropriate.
  • HMD and HUD 1000, 2000, 3000, 1500
  • compute module and compute section information processing device and video output section (1001, 2001, 3001, 4001, 5001, 1501)
  • optical processing device optical module
  • optical projector (1002, 2002, 3002, 4002, 1502)
  • Optical path, prism module, optical waveguide, optical reflector (1003, 2003, 3003, 4004, 1503)
  • transmission control unit (1004, 2004, 3004, 4003, 5003) , 1504)
  • camera unit (6001), display position control unit (1601), external light (background light) (1007, 2007, 3007, 4007, 5007, 8000), CG (image / video) light (1006, 2006, 3006).
  • 4006, 8020 Synthetic light (1005, 2005, 3005, 4005, 5005)
  • Display content synthetic light 8010, 8011, 8032
  • Display content synthesis unit 8002
  • FIG. 19 shows the order of parts corresponding to FIG. 9 when the transmittance control unit shown in FIG. 1 has a structure configured on the lens surface of the glasses in the glasses-shaped HMD.
  • the HMD for AR having a component configuration that synthesizes CG light with respect to an external light (background) input in the configuration and reaches the synthesized light after passing through the transmittance control unit is shown in the figure.
  • the HMD of each embodiment of the present embodiment may be configured to include a transmittance control unit and a CG optical light guide unit curved into a curved surface in a more spectacle-like configuration, and the HMD of each embodiment has a parallax specification. By providing CG information with a certain amount, the information may be provided as a binocular specification.
  • the transmissive flat display (2200) which has been around for about 20 years, is provided with the transmittance control device of the present invention on one side (rear or front side) and / or both sides (both front and rear sides) of the transmissive flat display (2200).
  • the panel display (2200) With a transmittance control unit for each pixel (main pixel), it is possible to realize a black display in a transmissive flat panel display (2200), which was not possible in the past.
  • a conventional transmissive type or semi-transmissive type display device it is impossible to display black in units of pixels (main pixels) including the full screen and control the transmission rate, such as HMD (head-mounted display) or HUD (head-mounted display) or HUD (head-mounted display). Head-up display), HMD and HUD as more expressive display devices, contact lens type information providing devices, transmissive notebook PC type devices, transmissive tablets by enabling black display on contact lens type devices It is possible to realize a black display in a type device, a transmissive smartphone type device, a transmissive / semi-transmissive flat panel display, and the like.
  • HMD 1000 2000, 3000, 1500 Compute Module 1001, 2001, 3001, 4001, 5001, 1501 Optical modules 1002, 2002, 3002, 4002, 1502 Optical path 1003, 2003, 3003, 4004, 1503 Transmittance control unit 1004, 2004, 3004, 4003, 5003, 1504 Camera unit 6001 Display position control unit 1601 External light (background light) 1007, 2007, 3007, 4007, 5007, 8000 CG (image / video) light, optical light for display Projector light 1006, 2006, 3006, 4006, 8020 Synthetic light 1005, 2005, 3005, 4005, 5005 Display contents Synthetic light 8010, 8011, 8032 Display contents synthesis unit 8002 1000 HMD unit 1001 HMD unit (compute module) 1002 HMD unit (optical module) 1003 HMD prism module 1004 HMD unit (transmittance control unit) 1005 Synthetic light 1006 CG light 1007 Input external light 2000 HMD unit 2001 Compute module 2002 Optical module 2003 Optical reflection unit 2004 Transmittance control unit 2005 Synthetic light 2006 CG
  • HMD Displayed on the HMD based on the S1405 transmittance control image and the normal image that perform appropriate composition S1406 Since the external light transmittance of a part of the external light input for vision becomes "0", it looks black as visual information.
  • Information processing unit 1502 Central processing unit (CPU) 1503 Video processing unit (GPU) 1513 Storage unit (ROM, RAM, etc.) 1514 Communication section (including wired and wireless) 1501 Information processing device 1502 Optical processing device 1503 Transmittance type image display unit 1504 Transmittance control unit 1601 Display position control 2200 Transparent smartphone type FPD (flat panel display)

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)

Abstract

【課題】本発明の課題は、一般的な透過型及び若しくは半透過型のHMDやFPDなどを含む表示装置は背景光の影響から黒色が表示できないという課題があった。 【解決手段】 本発明は、前述の課題を解決するために、透過型・半透過型のHMDやHUD、コンタクトレンズにおける映像の光学的出力部から網膜に投影するまでの光学的経路において、具備された内部生成CG映像と周囲映像の光学的合成部となるハーフミラーや導光板等に合わせて、液晶やMEMS、熱制御、ECデバイスなどで構成される画素(メインピクセル)単位に制御可能な透過率制御部を具備することで、透過率の低い状態で黒色部を表現し、背景色の影響を減らすことを実現し、表示色が背景色と混ざらないようにし、より明瞭な色表現を実現し、課題の解決を図る。

Description

透過率制御部を備えた表示装置
本発明は、透過率制御部を備えた表示装置に関する。
本発明はヘッドマウントディスプレイ(HMD)やヘッドアップディスプレイ(HUD)あるいはAR/MR用コンタクトレンズと呼ばれる情報表示端末に関連付けられた表示装置および通常透過(半透過)画像は背景の画像が透過してしまう半合成型表示装置が既に存在していることは広く知られている。
後述される出願文献は、より具体的に前述の内容に関した表示装置の発明などが記載されている。また、後述される文献は光の透過率制御技術に関し説明が行われている。これらのヘッドマウントディスプレイやヘッドアップディスプレイは人体装着用のARやMRのHMD(ヘッドマウントディスプレイ)や車載用や航空機用、船舶用のARやMRのHUD(ヘッドアップディスプレイ)、ARやMR用コンタクトレンズ、携帯情報表示端末、デスクトップ表示装置としての利用状況が解説されている。また、非特許文献1は光の透過率を制御して室内の明るさなどを制御できるガラス窓などの知見になる。さらには、ノートPCのような形の端末やタブレット端末、スマートフォン型端末において、透過型・半透過型の構成を実現してもよい。透過型とは通常のメガネのように表示部から表示部を通した反対側の映像がカメラなどを用いずに90%以上などの高透過率で透過し、利用者が視認できるHMDなどであり、半透過型はサングラスのように透過率がある程度制限されているHMDなどを指す。さらには、フラットディスプレイのような薄型モニターなども含み、前述のHUDのようなデバイスのより大型の物も含む。
特表2019-516261号公報 特表2018-525662号公報 特表2015-536514号公報
各URLは2020/02/01に確認
光を制御するニューガラス 河原秀夫、斉藤靖弘 著 1993年 HoloLens の スクリーンの仕組みと HoloLens 2 での視野角の拡大URL https://shinoblogavi.wordpress.com/2019/10/17/hololensscreen/ 目に入れるだけのAR?サムスンが"スマートコンタクトレンズ"の特許を取得URL https://www.moguravr.com/samsung-smart-contact-lens/ ARコンタクトレンズの可能性に驚愕!!!かがくのちからってすげー!URL http://iam1031nobosemon.hatenablog.com/entry/2018/06/20/190115 ARコンタクトレンズをMojo Visionが発表 現実世界をキャプションで説明URL https://www.itmedia.co.jp/news/articles/2001/17/news076.html 透過型ヘッドマウントディスプレイ利用時の前景と背景の相互関係に関する研究URL https://www.jstage.jst.go.jp/article/jergo/41spl/0/41spl_0_194/_pdf 透明LCDディスプレイ(参考展示)パソニック社(登録商標)URL https://www.youtube.com/watch?v=gsbxCeJ78As
本発明の主たる課題は、一般的な透過型及び若しくは半透過型のARやMRに用いる透過型及び若しくは半透過型のHMD(ヘッドマウントディスプレイ)やHUD(ヘッドアップディスプレイ)、コンタクトレンズ型AR/MRデバイス、携帯型表示装置、据え置き透過型表示装置に於いて、透過若しくは半透過であるため背景色(外光)の影響から特定の範囲のみの黒色表示できないという課題があった。また、このように透過型(半透過型)であるため外光が明るすぎると表示が明瞭にならないという課題があった。
また、非特許文献7のように、一見、画素(メインピクセル)単位に黒色表示をしているかのような表示方法もあるが、この方式は、画素(メインピクセル)単位にバックライト制御を行い、白色光に液晶とRGBカラーフィルターで色を付けているため、透過率が実質33%以下と非常に低くなったり、バックライトが点灯して色が表示されると、画素(メインピクセル)単位のバックライトにより画素(メインピクセル)単位に出力される強い白色光源の発光によって背景画像(外光)が完全に遮断されたり、RGBそれぞれのサブピクセルのフィルタと液晶をバックライト光源や背景光(外光)が通過するので、背景光(外光)の実質透過率が33%程度以下に減衰してしまうという課題があり、背景光の透過率を画素(メインピクセル)単位に適切なアナログ制御が可能になっているわけではない。
 
本発明は、前述の課題を解決するために、透過型及び若しくは半透過型のHMDやHUD、コンタクトレンズなどの表示装置における映像の光学的出力部からの信号を反射及び若しくは伝達し網膜に投影するまでの光学的経路において、具備された映像出力部としてのコンピュートモジュールなどによる内部生成画像・映像出力部からの出力される画像・映像としてのCG光源光と外光(背景色)の光学的合成部となるハーフミラーや導光板、光導波路、コンタクトレンズ屈折制御部などに合わせて、液晶やMEMS、熱制御、エレクトロクロミック・デバイスなどで構成される画素(メインピクセル)単位に分割された透過率制御部を用いることにより画素(メインピクセル)単位のバックライトやサブピクセルのRGBカラーフィルターは用いずに、画素(メインピクセル)単位に制御可能な光学的透過率制御部を備える手段を具備することによって、黒色部における背景光や外光への影響を減少させるため、背景光や外光の光学的透過率を上げて任意の透過率制御を実現することでより確実な黒色の表示を実現しするとともに、光導波路や導光板、ハーフミラー、光学マイクロプロジェクタなどの光学系、透過型EL(有機EL含む)などを用いることで、表示に必要な映像出力部としてのコンピュートモジュールなどの映像生成装置からの画像や映像情報に基づいた他の色を背景光や外光に影響されることなく明瞭に表示することを可能とし、課題の解決を図っている。なお、コンピュートモジュールの映像出力部は、電気的な映像信号であっても、光学的な映像情報であってもよく、映像という単語には、画像、静止画、動画、3D立体といった視覚的情報に関わる一切を含むと考えてよい。
さらには、前述の光学的合成部ではなく光学経路において光学的合成部より手前の外光(背景色)入力部であるHMDやHUD、コンタクトレンズの外光(背景色)入力面、もしくは外光(背景色)と内部生成画像・映像の合成後の最終的な視覚への出力面に、前述のような液晶やMEMSなどで構成される画素(メインピクセル)単位に分割可能な光学的透過率制御部を備える手段を具備する。これらの画素(メインピクセル)単位の透過率分割制御は液晶などの偏光による制御、MEMSなどの物理的透過面積の電気・磁気・電磁気などを用いた透過率制御、磁界による制御、電気的な変化による物理変化誘発による制御、さらには温度制御によるものやEC(Electrochromic、エレクトロクロミック材料、エレクトロクロミズム)特性によるデバイスであっても良い。
なお、便宜的に外光(背景色)透過率を0と記載しているが、実際は人から見て黒く見えるであろう80から90%以上の外光(背景色)の減衰があることで黒色表示を表現しても良いし、必ずしもRGB値が0ではなく0に近い値、例えばRGBに基づく輝度が全体の20から10%未満になるように構成しても良いし、光学的焦点制御機能の改善で黒色部の輪郭を明瞭に構成できるように設計しても良いし、フラットパネルディスプレイの画面と同様の画素(メインピクセル)構成で透過率制御を行えるようにパネルの任意の位置に組み合わせて表示できるようにしてもよい。
 
このように課題の解決方法を構成することで、内部生成されたCG映像における黒色信号部に対して周囲の状況から影響をうける外光(背景色)の光透過率を制御することにより、適宜、外光(背景色)の透過率を低減させることで、視覚(網膜など)への内部出力光としてのCG画像・映像が0且つ外光(背景光)の透過率0の状態を実現することで、外光(背景色)の入力輝度と表示(CG画像・映像)の輝度がなくなり、結果として人の目には黒色としての表示を可能にしたり、任意の色表現において外光(背景色)の影響をなくし表示色に忠実な色再現を実現できるようにしたり、することが可能となる。
さらには、透過型及び若しくは半透過型表示装置における透過及び若しくは半透過部の画素(メインピクセル)単位の透過率制御により、黒色表示が実現されることで、装置利用者にとって、より最適な視覚映像を提供することも可能である。
そして、本発明によれば、前述のように画素(メインピクセル)単位に強い白色のバックライト光があるわけではないので、映像出力部としてのコンピュートモジュールの表示色における色表現や透過される背景光(外光)に悪影響を及ぼさないという効果や、透過率制御後がサブピクセルのRGB単位ではなく、且つRGBフィルタがあるわけではないので、背景光(外光)の透過時の透過率が事実上66~33%以下になってしまうカラー表示液晶特有の色分解によるサブピクセル透過制御とは異なり、背景光の透過光量を十分に確保できるという効果もある。
HMDであり外部反射・屈折型の場合の構成 HMDであり内部反射・屈折型の場合の構成 HMDであり導光(光導波路)型の場合の構成 HUDで車載型の場合の構成 コンタクトレンズ型の場合の構成 画像認識を伴う制御ソフトウェア・フロー実施図 画像認識を伴う場合の構成 物理構成の基本概念図1(外側制御部設置) 物理構成の基本概念図2(内側制御部設置) 物理構成の基本概念図3(外側及び内側制御部設置) 物理構成の基本概念図4(プリズム型外部制御部設置) 物理構成の基本概念図5(導光板(光導波路)型外部制御部設置) タイリング及び若しくはマトリクス構成の基本概念図 外光透過率制御ソフトウェア・フロー実施図 本発明の全体構成例の概略図 表示セル誤差の補正に関する概略図 従来型のHMDであり黒色表示ができない外部反射・屈折型の場合の構成 メガネ型HMDのその他の構成例1 メガネ型HMDのその他の構成例2 透過スマフォ型FPD
まず、図1、図8、図13、図14、図15、図17を用いて全般的な仕組みについて構成要件と実施要件の説明をする。
まず、図15によって、本発明における装置のHMD(ヘッドマウントディスプレイ)としての基本構成が提示されている。このなかで図15(a)は一般的にいうパソコンと透過型・半透過型HMDを接続した図であり、図15(b)はパソコンやスマートフォンのような映像出力部を具備する情報処理装置(コンピュートモジュール、コンピュート部)1501がHMDに内蔵された構成になっていることを図示している。このため、図15(a)と図15(b)とで実施される情報処理や装置構成は実質的に同等であっても、図15(a)のような据え置きの情報処理装置1501に拘束されることなく図15(b)であれば自由に移動することができ、図15(b)の通信部1514は無線通信回路として構成されていることが、より好ましい。
そして、これらの図15(a)、(b)ともにHMDには各種センサ類(GPS、GNSS、加速度、ジャイロ、コンパス)といったものが内蔵されていても良く、それらのセンサは電子回路やMEMSによって構成されたものであっても良い。さらにはHMDに任意の数の画像センサ(IR含む)やストラクチャライト、ストラクチャセンサ、デプスカメラ、デプスセンサ、ToFカメラ(Time-of-Flight Camera)モジュール、マイク、マイクアレイ、超音波センサといった2020年時点でのスマートフォンやタブレットなどに含まれるセンサ類やHMDに含まれるセンサ類が内包されていても良い。
また、これらのセンサ類が車載型HUD(ヘッド・アップ・ディスプレイ)などを運用する際に車両に搭載されたり、航空機搭載型HUDなどを運用する際に航空機に搭載されていたり、船舶等のHUDとして運用される際に船舶に搭載されていたりすることで本発明を運用する機器類に必要な装置類に適宜関連付けられたり搭載されていてもよく、そのような構成にすることで本発明をより効率的に使用できる構成となっていても良く、更には、HUDデバイスの応用として比較的近い形状のディスプレイ部を側面からの入光に伴うプリズムアレイや、レーザーMEMSなどによる薄型ディスプレイとして構成して、ノートPC型デバイスやタブレット型デバイス、スマートフォン型デバイスなどを透過率制御を伴う黒色表示可能型フラットディスプレイ型デバイスを構成してもよい。
また、安全面から考えるなら、電源が確保されない状態において透過率制御部が透過率100%となるノーマリーホワイト設計が好ましい。さらに、別の安全面からは利用者の足元よりの画像は半透過にすることで、歩行や移動の疎外となる実体物が見えなくなる危険を回避しても良い。液晶などが電気制御により画素(メインピクセル)単位に透過率を制御できることは知られているとともに、荷電透過率制御部を二層にすることで偏光率制御などによる透過率制御を行っても良い。さらには、反射部品と組み合わせて透過率制御による反射率制御などを行っても良い。これらの荷電制御により、透過率を0~100%(10~90%でもよい)といったアナログな透過率制御を行ってもよく、荷電制御における制御方式は電流制御、電圧制御、パルス制御(パルス幅を含む)といった任意の方法で実現してもよい。なお、この設計において、全体の透過率が低下するサブピクセル単位のRGBカラーフィルター具備されている構成である場合、本来の本発明の特徴であるRGBサブピクセル自発光型もしくはRGB外部光源反射(もしくは導波路)型による透過率制御型ディスプレイとしての表示品質を実現できないため本発明の対象とはならない。
図15の中で、図15(a)において1501として記載される情報処理装置は、1511としてCPUやDSP、GPGPUなどの情報処理装置、1512としてGPUなどの画像情報処理装置、1513として記憶部(ROM、RAM、FLASH(登録商標)、SSD、HDD)といった任意の情報を記憶する一時記憶部やストレージ記憶部、揮発性記憶部、不揮発性記憶部などを含んだ記憶部、1514として1511から1513で扱われる情報を、ほかの情報処理装置や通信回線を用いて必要な情報を配信・収取するための通信部を備えており、適宜1500に接続されている。
図15(b)における1501においては図15(a)の1501と同様に1511から1514を当然のことながら含むものとし、図15(a)における1500には図15(b)における1500は1501から1504を当然のことながら含むものとする。なお、どちらの1500においてもセンサ類の図示はないが前記セクションにあるように、必要に応じて含まれると考えるべきである。なお、図15(b)における1501は図15(a)と同等・同類の構成で1500に内蔵された情報処理装置であり、HMDを外部の情報処理装置1501に接続していない単体の状態であっても動作することが想定されている。なお、VR用HMDやAR/MRHMDに関しては外部のホストコンピュータ(情報処理装置などで構成される)に繋いでもつながなくても利用可能なものがいろいろな形で製品化されている。
つづけて、図15(b)の光学処理装置1502について説明する。これらの光学処理装置1502は人間の視覚に対して適切な光学的視覚情報を提供する装置である。より具体的にはポリゴンミラーやMEMS制御によるレーザー光などを用いた光学視覚情報提供やMEMSミラーによる時分割色変更を用いた光学視覚情報提供、マイクロプロジェクタによる光学視覚情報提供、液晶パネルやOLEDパネルのような光学視覚情報の面表示デバイスの適切な光学的屈折といった、人間の視覚に対し適切な光学的情報を提供する装置及び若しくは装置群によって構成され、視覚用情報提供光源となる光学デバイス類は必ずしも片眼辺り一つの装置でなくても良いし、両眼用に別々に装置が構成されていても良い。
そして、1503透過型映像表示部は1502光学処理装置に対して1501情報処理装置内で従来からある視覚情報精製技術に従い適切に生成されたCG画像情報(1006)を提供することにより生成される画像・映像信号が投影され、光学的な視覚情報の流れに従い利用者の視覚に光学的画像・映像を提供する。この際、1504透過率制御部(1004、8001に同じ)は周囲からの光(外光、背景光など:1007、8000)の透過率を画素(メインピクセル)単位に制御する情報を情報処理装置から受取ることでCG画像情報1006における黒色の表示としての不透過や外光・背景光が見える透過画素(メインピクセル)の透過率の制御・評価などを行うことで視覚に伝達される外光・背景光の透過率を制御し、より利便性の高い利用者向け画像の提供を可能とする透過型・半透過型表示装置としてのHMDを構成できる。
つづいて、図1と図17を比較しながら本発明の従来技術との具体的違いを説明する。図1は本発明における透過型HMDの一例であり、構成としては片眼用ARデバイスと解釈することができる。また、図17は本発明における従来型の一般的な透過型HMDとしての片眼用ARデバイスとされるものである。なお、本発明は片眼用HMDのみに適応されるばかりではなく両眼用に適応させることも可能であり、その場合は視差補正などの適切な技術を組み合わせることで、本発明の実施をより品質の高いものとすることが可能である。
図1(a)は本発明を適応させた透過型ARデバイスとしてのHMD(ヘッドマウントディスプレイ)を上から眺めた場合の図となっている。そして、図1(b)は(a)と同様のHMDであり図1(a)を横から眺めた場合の図となっている。そして、図17は本発明を適応させていない従来型の透過型ARデバイスとしてのHMDを上から眺めた図となっている。透過型・半透過型の違いは便宜的に通常の眼鏡のように減衰の無い全透過であるか、サングラスのように減衰的透過である半透過なのかの違いを考慮することが好ましい。
さて、図1(a)と図17を比較した場合、図1に存在し図17に存在しない部位として1004HMDユニット(透過率制御部)という部位があげられる。この部位は前述の課題の解決方法などで記載されている画素(メインピクセル)単位の透過率制御部に相当する。それ以外の1001、1002、1003は従来型HMDでも提供されているものであり、無線通信機能を備えた映像出力部を具備するコンピュートモジュール1001にて適切な情報収集と収集した情報から生成される適切な表示情報とが構成され、構成された前記表示情報をマイクロプロジェクタや光導波路、導光板、ハーフミラーなどで光学的情報に変換する光学モジュール1002と生成された光学的情報を適切な反射や屈折、拡大などにより視覚に提供するプリズムモジュール1003によって利用者の視覚に適切な表示情報を提供できるAR/MR用HMDとして構成されている。
図1にあり図17に無い本発明の特徴となる部位1004についてより詳しく説明する。一般的な透過率制御は図1、図17のような眼鏡型AR/MRデバイスの場合、眼鏡のレンズ部分全体の光透過率を制御することは容易であり、簡単な構成で実現することは可能である。本発明はそのようなメガネのレンズ部分全体の透過率を制御するのではなく、AR/MR用のCG画像情報1006がメガネなどのHMDやHUDに投影される場合において、投影されるCG画像情報1006の範囲内の縦横の画素(メインピクセル)数に応じた細かな画素(メインピクセル)単位の透過率制御部を適切に設置して外光(背景光)の影響を表示画素(メインピクセル)に与えないようにすることで黒色表示を実現する。
さらに細かくは、外光(背景光)1007の入力面の最初もしくはCG画像情報1006と外光(背景光)1007との合成後の合成光投影面1005より視覚側の最後、外光(背景光)入力面1007の外側と外光(背景光)とCG画像1006の合成後の合成光投影面1005の内側との二つの面といった、いくつかの法方でCG表示画素(メインピクセル)単位に合わせた画素(メインピクセル)単位の透過率制御を行い、一般的な透過型・半透過型HMDにおけるAR/MR表示において周囲の画素(メインピクセル)より対象の画素(メインピクセル)の透過率を下げることによる黒色の表現を実現しようとするものである。
もちろん、黒以外の表示色であっても透過率を画素(メインピクセル)単位に下げることで背景光の影響を受けない明瞭な画素(メインピクセル)単位の表示が可能になるばかりではなく、周囲が明るいときや白色の壁の上に白い文字を表示する場合などにおいて文字に黒や灰色の輪郭を与えてより見やすく表示することなども可能である。
なお、透過率制御を画素(メインピクセル)単位で行う透過率制御部の解像度は必ずしも映像出力部を具備するコンピュートモジュール内で生成される画像・映像類の画素(メインピクセル)解像度と一致している必要はなく、より荒い解像度やより細かい解像度を用いて制御することも可能であり、より細かい解像度であれば透過率制御部の制御対象画素(メインピクセル)位置の座標系基準を動かすことで映像出力部を具備するコンピュートモジュール内で生成されたCG画像との細かな位置合わせの調整処理を表示座標系と黒色化する透過率制御画素(メインピクセル)の座標系調整で実現したり、透過率制御画素(メインピクセル)が荒い場合はCG画像の生成位置としての座標系基準を細かく動かすことで制御画素(メインピクセル)とCG画像の画素(メインピクセル)位置合わせを実現したりするようにしても良いし、メインピクセルの透過率制御部の前後(裏と表)に表示用のRGBサブピクセルを構成して、裏面からでも表面からでも映像が視認できるようにしてもよい。
つづけて、図1の1004について、図8を用いて詳しく掘り下げる。図8の構成は上から順に、8000外光(背景光)、8001透過率制御部、8010外光(透過率制御済み外光・背景光)、8020(表示用光学光投光部光:CG画像光投光)、8011制御済み表示用光、8009視覚となっており、外光(背景光)8000とCG画像光投光部としての8020から得られるCG画像光(1006)とが表示内容合成部8002で合成(8011)され視覚(8009)に伝達される構成となっていることが示されている。
より詳しく説明すると、外光(背景光)8000が入力され、図1の1004に相当する図8の8001透過率制御部が画素(メインピクセル)単位に透過率を制御できることを図示しており、制御された各画素(メインピクセル)の透過率に基づいて各画素(メインピクセル)の外光(背景光)8000の明るさに対して変化を生じさせることで透過率制御済み外光となり、画素(メインピクセル)ごとに明るさの違う面構造の外光(背景光)8010が構成される。
構成された画素(メインピクセル)ごとに輝度の異なる面構造を持った透過率制御済み外光(背景光)8010は、光学モジュール(1002、4002等)から出力された光学的情報が表示用光学光投光部光8020経由で取得されるCG画像光(1006)と組み合わされ表示内容合成部8002にて光学的な合成処理をすることにより制御済み合成光8011を生成し、生成された制御済み合成光8011を視覚8009に提供する。この際の光学的な合成処理の構成として、図8は模式図的に表示内容合成部がマイクロプリズムアレイ構造によって構成されているかのように表現しているが、この部位に光導波路(導光板)やハーフミラー、マイクロプロジェクタ、MEMSミラーアレイを用いて、背景光透過の制御と表示用CG画像光の反射制御を行うことで光学的合成処理を実現することも可能であり、MEMSなどにおいては表示画素(メインピクセル)より細かい表示用としてRGBなどの自発光サブピクセルを用いて、透過率の制御や透過輝度の制御を行うなどの工夫をすることも容易に考えられる。
さて、ここで、本発明の核となる画素(メインピクセル)単位の透過率制御方法について説明する。この方法はいくつかの方法が考えられるが、一番簡単な方法として液晶を用いる場合を例に説明していく。最初の液晶を用いる方法はTN型の偏光板と液晶層によって透過率を制御するものである。液晶は偏光板によって光の性質が整えられた光に対し、液晶層を通過するときに液晶部に荷電が加えられるか否かによって透過率を制御することが可能であり、液晶テレビなどのFPD(フラットパネルディスプレイ)のような表示装置もこの原理によって画素(メインピクセル)毎の透過率を制御できるように作成されている。そして、液晶テレビにおいては画素(メインピクセル)単位、色単位にバックライトの白色光をどの程度透過するかによって、表示内容の制御を行うのが一般的である。
本発明では表示用CG画像光(1006)と外光(背景光:1007、8000)との合成をマイクロプリズムアレイで行う前に外光(背景光)の入力側に液晶による光の画素(メインピクセル)単位透過率制御層を設けることで、従来の透過型HMDでは不可能だった黒色表示を行えるようにしたことが発明の核となっている。また、液晶の制御方式はTN型以外にもVA型やIPS(登録商標)型といった任意の液晶透過率制御方式を用いても良い。
次に、同じ液晶であってもTN型の縦偏光と横偏光の違いで透過率制御を行うもの以外に視野角を広げる工夫としての円偏光やマルチドメインVA型といった方法を用いることもできる。この方法は視野角が広くなるメリットがあるが荷電制御によって透過率制御を行うことが可能である点はTN型と原理的には透過とみなすことができる。さらにIPS(登録商標)型といった、より解像度が高くより視野角の広い方法もあるが原理的には荷電によって透過率制御を行うという面ではTN型やVA型と等価である。
次にMEMSによる透過率制御について説明する。MEMSはMicro Electro Mechanical Systemsと呼ばれるように極小の製造プロセスを使って、機械要素部品、センサ、アクチュエータ、電子回路を同一のシリコン基板、ガラス基板、有機材料などの上に集積化したデバイスを指すことが1980年代後半から一般的に知られるようになった技術である。この技術を用いると極小の面積中に可動性のある鏡やシャッターを構成することができ、レーザープロジェクタなどの反射光学系にも応用されている。
本発明においてはこの手の微細加工技術を用いて、透過率制御部での光透過を離散的な1ビットフラグとしてのアナログ値の二値化処理を応用し、透過対象面積比率的に透過の率制御を行う方法、表示内容としてのCG画像光をMEMSミラーによってCG画像光を表示するか外光(背景光)を透過するかの選択に用いることで、CG画像光が黒色の場合に外光(背景光)を透過しないように制御構成をする方法、MEMSへの荷電量に従ってシャッター構造の開口率を制御して外光(背景光)透過率を制御する方法、といったいくつもの方法が考えられ適宜、実装されることが好ましい。
ほかにも原理的には、高速な温度制御を実現することにより熱制御による透過率制御可能な部品、荷電量に従ってEC(Electrochromic)特性を用いた透過率制御可能な部品として構成される透過率制御部なども原理的には利用可能である。
そして、これらの透過率制御部1004(8001)に用いる透過率制御用画素(メインピクセル)やCG表示画像1006に用いるCG画像光表示用画素は図13の(a)、(b)、(c)、(d)といった任意のタイリング方式によって構成されても良く、より好ましくは透過率制御用画素とCG画像光表示用画素の画素レイアウトが同一であることが望まれるばかりではなく、各画素間のずれを補正するキャリブレーションによって整えられるとなおよい。
基本的な実施例の最後に具体的な制御プログラムとしてのプログラム・フローとして実施要件が記載された図14を説明する。まず、この制御プログラムはHMD自体やHMDに接続された情報処理装置といった本発明の表示装置に関連付けられた映像出力部を具備するコンピュートモジュール(コンピュート部)などとしての情報処理装置の機能を持つ1001、2001、3001、4001、5001といった装置部を代表する構成の情報処理装置1501内に組み込まれた記憶部(1513など)に記憶されている。そして、前述された映像出力部を具備するコンピュートモジュールなどの情報処理装置内において、最初のステップであるS1401でGPU処理により黒色部のマスク指定処理が行われる。この処理は外光(背景光)透過部での画素(メインピクセル)単位の透過率といった情報を生成する。この透過率などの情報(透過率情報)は例えばコンピュートモジュールが管理するビデオメモリ上のRGB情報とは別に4ビット深度や8ビット深度といった任意の透過率深度情報として任意のメモリ空間に構成されていても良いし、単に1ビットのマスク情報として構成されていても良い。また、これらの処理は他のプログラムと並列して適切に処理されていても良い。
さらに、別の表現としてはRGBの各8ビット深度情報において、RGBすべてが0の場合のみ透過率が100%となり、それ以外の場合は透過率0%でRGBに応じた色情報が表示されるように構成されていても良く、これらの実装は利用されるアプリケーションやドライバに依存する形で任意の設計思想で構成されていても良いし、8ビット深度のRGBを仮定した場合であればRGBそれぞれが128未満の時は透過率を踏まえて例えば透過率50%で表示し、RGBがともに1の時は透過率100%表示し、RGBともに0の場合は透過率0%の黒で表示するといった任意の透過率設定アルゴリズムの設計をすることが可能である。
さらには、RGBのいずれかが偶数の場合は透過表示、奇数の場合は不透過表示という表示方法を用いたり、RGBの最下位1ビットを透過率係数として利用し、RGB値は上位7ビット、RGBの最下位1ビットを3ビット情報とすることで8段階の透過度を設定できるようにしたり、10ビット深度のRGBにおいて、上位8ビットを色指定、RGBの下位2ビットを透過率指定に用いて6ビット構成による64段階の透過率指定を行うような構成も考えられ、同様にRGBそれぞれが12ビットの任意の構成において適切なビット割当を行うことで従来のRGB情報の一部に付加的な透過率情報を加える(埋め込む)ようにしても良い。
つづけてS1402について説明する。前記セクションにまたがって説明された任意の方法に基づく透過率情報に基づいた信号を本発明での図1で指定される透過率制御部1004(8001)に提供する。電圧や電流の高低、及び若しくはパルス幅のような時間軸制御などの任意の方法で1004(8001)の回路を適切に制御する。これらの制御はTFT液晶などであれば駆動電源の使用に従い電圧や電流及び若しくはそれらのパルス幅を制御する形で行う。この制御によって、透過率制御部は画素(メインピクセル)単位の外光(背景光:1007、8000)透過率制御を実現する。そして、本ステップS1402ではこれらの処理に必要な透過率制御情報を生成する。
つづけてS1403について説明する。これまでの流れに加え従来から情報処理装置で利用者のHMDやHUDに対して実風景などの背景(外光:1007、8000)に合成表示するためのCG画像といった画像や映像を出力する映像出力部としてのコンピュートモジュールのより具体的な詳細である情報処理装置1501においての描画画像演算によってCG画像を生成する。これらのCG画像はCPU部1511やGPU部1512におけるCG演算処理の結果として得られ、CG画像情報として構成されたのち光学処理装置に提供される。コンピュートモジュールの映像出力部は、電気的な映像信号であっても、光学的な映像情報であってもよく、映像という単語には、画像、静止画、動画、3D立体といった視覚的情報に関わる一切を含むと考えてよい。
そして、S1404は前述されたセクションに記載のS1402における透過率制御情報とS1403におけるCG画像情報とがそれぞれに透過率制御部(1504、1004、8001)と光学処理装置(1502)に提供され、光学処理装置からの光学的出力が透過型映像表示部(1503)に提供されると同時に、透過率制御部(1504、1004、8001)を通過した外光(背景光:1007、8000)と合成されるステップとしてのS1404が実施される。このステップの実施のために前述のRGB情報の一部に透過率情報を適切に埋め込むことで従来のRGB信号のまま画素(メインピクセル)単位の透過率制御を行うことも可能である。
さらに、S1405においては前述のS1402、S1403そしてそれらに従ったS1404の結果として利用者の視覚に不透過部のある黒色表示を含んだAR及び若しくはMR画像が提示される。そして、最終的なS1406において利用者の視覚の認識として画素(メインピクセル)単位の情報として透過率制御部における画素(メインピクセル)単位の透過率が0、RGB信号が0という状態での情報が画素(メインピクセル)単位に提供されることになり、利用者のAR及び若しくはMR画像における任意の画素(メインピクセル)を黒色として提供できるようになるばかりではなく、不透過表示に伴った背景色の影響を受けない任意の色の表示も可能となるため、利用者に取っての視認性を大幅に改善することが可能となる。
図2はHMD(ヘッドマウントディスプレイ)であり内部反射・屈折型の場合の構成である。光学系は基本的にマイクロプロジェクタによる屈折・反射によって合成用CG画像2006(1006)が利用者の視覚に合成光2005として提供される。この図2は横から見た図ではあるが、内部にレンズやプリズム機構などを備え光学モジュールから適切に視覚にCG画像信号を可視化するとともに、外部からの入射光(2007、1007、8000:背景光、外光)を前述された画素(メインピクセル)単位の透過率制御により実現することで黒色などの従来の透過型・半透過型表示デバイスでは表現できなかった画像表現を実現する構成となっている。
図3、HMD(ヘッドマウントディスプレイ)であり導光(光導波路)型の場合の構成である。光学系は基本的にスキャンライン光源による屈折・反射によって合成用CG画像3006(1006)が利用者の視覚に合成光3005として提供される。この図2は横から見た図ではあるが、内部に光導波路や光学スキャン部品機構(撮像カメラなどであってもよい)などを備え光学モジュールから適切に視覚にCG画像信号を可視化するとともに、外部からの入射光(3007、1007、8000:背景光、外光)を前述された画素(メインピクセル)単位の透過率制御により実現することで黒色などの従来の透過型・半透過型表示デバイスでは表現できなかった画像表現を実現する構成となっている。
図4、HUD(ヘッドアップディスプレイ)タイプもしくはコンソールタイプの透過型・半透過型表示デバイスであり、透過型のFPD(フラットパネルディスプレイ)などが含まれる。構造そのものや原理そのものは図1、図2、図3のいずれの構成でも構わないが比較的広い面積に設置し、車両運転や飛行機操縦、船舶操舵といった比較的広い面積での表示も可能とすることを想定している。そして、(a)が自家用車の運転席側から見た場合の画像であり、(b)が運転席を横から見た場合の画像である。このようなレイアウトで運転席にHUDを構成してもよく、色々な運転席に適宜あわせたレイアウトでの構成を実現しても良い。
図5、コンタクトレンズ型AR/MRデバイスはいくつかの発表がなされている。これらのデバイスであっても透過率制御部を適宜、表示部に関連付けて備えることにより、本発明における黒色表現を実現することが可能となり、表示される画像オブジェクトの向こうが透けて見えることによる違和感などを低減させることも可能である。
なお、図1から図5にかけて図示されるHMDやHUD、コンタクトレンズといった本発明のデバイスに付随する関連機器には任意の軸数のセンサ類が含まれていても良いものとする。そして、それらのセンサ類はジャイロ、加速度、地磁気さらに良ければGPSのような位置検出センサ類(GNSSやロランなど)が含まれていることが好ましい。さらには本発明のデバイスに任意の数の画像センサやストラクチャライト、ストラクチャセンサ、デプスカメラ、デプスセンサといった2020年時点でのスマートフォンに含まれるセンサ類やHMDに含まれるセンサ類が内包されていても良い。また、これらのセンサ類が車載型HUDなどを運用する際に車両に搭載されたり、航空機搭載型HUDなどを運用する際に航空機に搭載されていたり、船舶等のHUDとして運用される際に船舶に搭載されていたりすることで運用に必要な機器類に適宜関連付けられたり搭載されたりすることで、本発明を効率的に使用できる構成となっていても良い。
図1から図5においては、本発明のデバイスにセンサ類が搭載され、関連付けられた情報処理装置内で処理を行い本発明のデバイスにおける表示画像・映像を構成することで、本発明のデバイスに必要な画像・映像を送信し、本発明のデバイスはこれらの情報に基づいて、黒色の評価を行い、本発明のデバイスにおいて黒色表示したい箇所の透過率を制御し、RGBが0若しくは0に近い信号を本発明のデバイスの透過率制御部に送ることで、透過及び若しくは半透過型HMDでの黒色表示を実現する。この際、前述されるようにRGBに加えて透過率を含んだ情報を送るようにしても良く、例えばRGBKやRGBYといった四つの色構成情報におけるKデータを透過率情報として用い、本発明のデバイスの透過率をKの値やY値で制御することにより黒色表示を実現しても良い。
さらに後続する実施例にあるように、本実施例に加えて両眼を対象とするAR/MRデバイスなどにおいて、日常空間ではAR/MR用のHMDとして利用し、アトラクションなどでは透過率制御部の透過制を0%とすることで、背景外光の入力が全てなくなった状態にすることで、結果的、実質的にVR用HMDといったAR/MR/VRにかかる共用デバイスとして構成・利用しても良い。なお、便宜的に外光(背景色)透過率を0と記載しているが、実際は人から見て黒く見えるであろう80から90%以上の外光(背景色)の減衰があることで黒色表示を表現しても良いし、必ずしもRGB値が0ではなく0に近い値、例えばRGBに基づく輝度が全体の20から10%未満になるように構成しても良いし、光学的焦点制御機能の改善で黒色部の輪郭を明瞭に構成できるようにしても良い。
更には、液晶単体で乳白色のような不可視状態になる場合を考慮して、液晶より外側及びもしくは内側にMEMSデバイスを設置して液晶シャッターとMEMSシャッターを組み合わせた構造状にして制御することで、外光入力を制御し、黒色をより的確に表示できるようなハイブリッド構成や前後に置いたMEMS→液晶→MEMSといったハイブリッド構成にしてもよい。
より具体的には、液晶→表示部(光導波路・レーザー光源・有機EL・マイクロプロジェクタなど)やMEMS→表示部(光導波路・レーザー光源・有機EL・マイクロプロジェクタなど)とし、MEMS部を内側や外側を黒色系に塗装したり、液晶の偏光で黒色系にしたりする方法。MEMS→液晶→表示部(光導波路・レーザー光源・有機ELなど・マイクロプロジェクタ)とし、MEMS部を内側や外側を黒色系に塗装する方法。MEMS1→MEMS2→液晶→表示部(光導波路・レーザー光源・有機EL・マイクロプロジェクタなど)で、MEMS1を黒色系塗装、MEMS2を鏡構成にして、表示部の反射状態を制御、液晶で透過率制御による輝度制御を行う方法。MEMS1→液晶→MEMS2→表示部(光導波路・レーザー光源・有機EL・マイクロプロジェクタなど)で、MEMS1を黒色系塗装、MEMS2を鏡構成にして、表示部の反射状態を制御、液晶で透過率制御などの任意の組み合わせによる輝度制御を行う方法。といった、いろいろな実装法と組合せてもよい。なお、前述の表示部に関する有機ELのような自発光型表示装置の場合、図示はされてはいないが反射型や光導波路型ではない、透過型画素(メインピクセル)単位自発光表示デバイスとして構成される大型のフラットパネルディスプレイの表示がその反対側や奥側に透過率制御部などが構成されていたり、黒色化視覚表示提供部が構成されていてもよいし、加えて、加法混色の自発光透過型RGBサブピクセルを構成する有機EL(無機ELなどを含む)などの自発光部を透過率制御部におけるメインピクセルの前後(裏と表)に表示用のRGBサブピクセルを構成して、裏面からでも表面からでも映像が視認できるように具備していてもよい。
続けて細かな実施例を示す。これらの基本的な実施例1における物理構成の基本概念を図8から図12を用いて説明する。図8は透過率制御面が表示面に対し視覚軸上外側(外光側より)にあるものを例示している。図9は透過率制御面が表示面に対し視覚軸上内側(視覚より)にあるものを例示している。図10は透過率制御面が表示面に対し視覚軸上外側と内側に分割(外光側と視覚側にあり外光とCG画像光の合成部を挟み込む形に)してあるものを例示している。図11は実風景(外光、背景)に合成するために生成された画像・映像と実風景の合成のためのプリズム部の手前に透過率制御面を具備している。図11の透過率制御面は図8から図10のように任意の位置に構成されても良い。図12は実風景(外光)に合成するために生成された画像・映像と実風景の合成のための光導波路(導光板、導光路・ハーフミラー)部の手前に透過率制御面を具備している。図11や図12の図示されている以外にも透過率制御面を図9や図10のような任意の位置に変更した構成にしても良い。
なお、図10の亜種として、制御部が表示面の前後に置かれる場合、光透過率の制御部の一部が表示面の視覚軸上の前後に一部だけ分割され配置されても良く、この詳細は図10の説明において、適宜、記載する。また、透過率制御部がプリズム部の反射面に光学的角度補正を含めて形成されたり、光導波路類の光学的伝達部に光学的補正を含めて形成されていたりしてもよく、これらの補正は外光(背景:1007)とCG画像光(1006)と合成光(1005)との角度や屈折率拡縮率に応じて適切に合成されるように形成されていれば実装そのものは適宜可能である。
本発明の基本構成の物理構造にかかる図8の説明を行う。図8の説明は前記実施例1にて簡単にはしたが、より具体的には視覚軸上を真横からとらえた構成となっている。この図8のように真横から見た場合において8001が光透過率制御部になる。光透過率制御部は、液晶、MEMS、熱制御、EC(Electrochromic)特性による制御といった透過率制御可能な任意の部品として構成される。
さらに、この透過率制御部は任意のマトリクス構造をもち、図13にあるように矩形タイル配列、六角タイル配列、三角タイル配列といった任意の二次元配列構造を持ち構成されると考えると分かりやすいが、実装が曲面に形成される場合においては適宜、歪ませることが好ましい。そして、この配列が対象デバイス(HMD、HUD、コンタクトレンズなど)任意曲面上に構成される場合必ずしも正多角形で構成される必要はなく、一部が三角形で一部が四角形などの任意のタイリング構造で実現されていても良い。これらのタイリング(マトリクス)構造はタイリングによって適宜分割されたセルごとに、任意の方法(電気的、磁気的、電磁気的など)で制御可能な構成となっている必要がある。図13ではこれらの例示のうち液晶による矩形タイリングが例示されている。なお矩形タイリングにおいても一ラインごとに半セルサイズだけずらした梯子のような配列構成であっても本発明の運用に問題があるわけではない。これらは形式的な例として図13の(a)、(b)、(c)、(d)にて表現される。
そして図8に関し、例えば液晶である場合、偏光膜部と液晶部による可変偏光部とによって構成されることが想定される。例えば偏光膜とTN形液晶を用いることでセル単位の透過率制御が可能である。また円偏光の回転方向を切替えることで透過率を制御する方法もある。より具体的にはTN、VA、IPS(登録商標)といった偏光方式があり、適切な偏光板(偏光膜)とそれぞれの可変偏光方式の液晶パネルや可変偏光液晶パネルを組み合わせたり、液晶による可変偏光部を二つ重ね合わせることで適切な可変偏光部の制御を行ったりすることで、本発明で必要とする透過率制御部を構成することができ、結果として利用者からみた場合において視覚上の画素(メインピクセル)単位における黒色表示が可能となる。
さらに図8に関し、例えばMEMSである場合、液晶と同様に微細に分割されたマトリクス部に関し、電圧や電流の量を制御することでセル単位のシャッターの開閉やミラーデバイスの傾斜による透過率制御が可能である。透過率制御は対象となる画素(メインピクセル)単位のMEMSデバイスのセルが視覚方向に適切な角度で曲がることにより実現可能である。視覚の中心部であれば視線に対し垂直方向にMEMSセルの可動部が変化することで光透過率は便宜的に98%を超えることが想定できる。この際MEMSデバイスの表面を艶消しの黒にすることで外光乱反射を防ぎ、利用者にとって違和感のない外光(実風景)を提供し、MEMSデバイスが外光(実風景)を遮蔽する視線に対して直交方向になった場合に利用者には視覚上では黒色表示となるようにする表示が可能となる。
また加えるならば、MEMSで構成された画素(メインピクセル)単位のセルが1セル単位にオン・オフでしか制御できない場合、前述の液晶における1セル単位に複数のサブピクセルを構成し、1セル内のサブピクセルを用いてディザリングといったアナログ情報の二値化離散処理を1セル単位に行うことでMEMSによる透過率制御を行いユーザーに違和感の少ないグレースケール表示を可能とすることで透過率制御を行っても良い。このディザリングのような離散的二値化処理はアナログ表現が不得手な透過率制御デバイスに組み合わせることで、より好適に本発明を用いるデバイスを構成することが可能となる。このためこれまでに記述された透過率制御方法は、熱制御型透過率制御デバイスやEC(Electrochromic)特性型透過率制御デバイスなどに用いても良い。
さらに図8に関し、例えば温度制御型可変透過デバイスであれば、前述のように構成された各セル単位に超小型発熱デバイスを設置し、セル単位の電気を用いた熱変化によって透過率制御を行うことも好ましい。
さらに図8に関し、例えばEC(Electrochromic)特性制御型可変透過デバイスであれば、前述のように構成された各セル単位には電気化学的な酸化還元反応によって物質の可視光透過率が変化するEC現象を利用して、各セル単位に超小型EC(Electrochromic)特性デバイスを設置し、電気による化学変化を用いた透過率制御を行うことも好ましい。
図9に関しては、前述の図8の説明を踏まえたうえで、マトリクスのセル単位に液晶制御、MEMS制御、温度制御、EC(Electrochromic)特性制御といった方法での透過率制御を外光と表示内容の合成後(8021:外光未制御表示光)に行うことで、黒色表現を実施する。この際、外光とCG画像光が合成された後に透過率制御が行われるため透過率の高い画素(メインピクセル)に外光(背景:1007、8000)とCG画像(1006、8020)がある場合において表示画像がどうしても半透明合成されることが避けられない構成となる。
図10に関しては、例えば液晶において、偏光膜を外光と表示用光学光(8020:CG生成画像)との合成部8002の前に設置し、合成後に可変偏光部を備える、もしくは逆に可変偏光部を合成部8002の前に偏光膜を合成部の後に配置する、もしくは合成部8002の前部と後部にそれぞれ電子制御による可変偏光を設置することで、機能としてマトリクス内のセル単位に対する透過率制御を実現し、セル(画素(メインピクセル))単位の可変偏光デバイス(偏光方法は円偏光や単純な縦横偏光といった任意の偏光方法、TN、VA、IPS(登録商標)であってもよい)を設置したり、前後にMEMSデバイスを設置したり、といった任意の組み合わせで合成部8002の前後に可変透過率に影響するような部品配置を行うことが可能である。この場合も透過率の高い画素(メインピクセル)に外光(背景:1007、8000)とCG画像(1006、8020)がある場合において表示画像がどうしても半透明合成されることが避けられない構成となる。
図11に関しては、図8のマイクロプリズムアレイの構成を標準的なプリズムを用いた方法に置換えて外光(実風景)とユーザー用合成画像としてのCG画像(コンピュータ・グラフィック)を用いてAR/MRデバイス表示を行う事例を示している。より具体的には、外光(実風景)に対し、AR/MRに用いるCG画像情報がRGBともに0である場合、外光の透過率を0とし、表示用情報もRGB共に0であるため、ユーザーには黒色が表示される。また、別の方法としてはRGBとは別に例えば8ビットなどのビット深度を持つ透過率情報によって、透過率制御部の透過率を制御し、黒として表示するのか、灰色として表示するのか、背後の光を透過しないことにより、CGで生成された色がより正確に表示されるように制御するのか、を適宜指定できるようにしても良い。本実施例においてはプリズムの大きさや重さが実利用において課題となる場合があるものの高密度高屈折プラスチックレンズやプリズムの組み合わせで適切な光学系を構成すれば図8と同様の仕組みが実現できることを示しているとともに前述の任意の方法を組み合わせることでより良い黒色表示を可能とすることができる。
図12に関しては、図8のマイクロプリズムアレイの構成を標準的な導光板(光導波路・ハーフミラー)を用いた方法に置換えて、外光(実風景)とユーザー用合成画像としてのCG画像(コンピュータ・グラフィック)を用いてAR/MRデバイス表示を行う事例を示している。より具体的には、外光(実風景)に対し、AR/MRに用いるCG画像情報がRGBともに0である場合、外光の透過率を0とし、表示用情報もRGB共に0であるため、ユーザーには黒色が表示される。また、別の方法としてはRGBとは別に例えば8ビットなどのビット深度を持つ透過率情報によって、透過率制御部の透過率を制御し、黒として表示するのか、灰色として表示するのか、背後の光を透過しないことにより、CGで生成された色がより正確に表示されるように制御するのか、を適宜指定できるようにしても良い。本実施例においては光導波路内の回析や反射・屈折などによりプリズムやレンズの光学系よりも薄くできる特徴があり、本発明を導波路の適切な位置に設置することで図8と同様の効果を得ることができることを示しているとともに前述の任意の方法を組み合わせることでより良い黒色表示を可能とすることができる。
図16を用いて、透過率制御部と生成画像・映像合成部との合成実施における画像内の画素(メインピクセル)の表示位置における誤差を低減する方法について説明する。より具体的には、マイクロプロジェクタのような画素(メインピクセル)位置固定型投影装置を用いて、HMDなどでの生成画像・映像と透過率制御セルの位置合わせを行う場合、投影機の縦軸横軸などを極小のねじで上下左右に移動する(1601)ことにより課題の解決を図る方法。マイクロプロジェクタの画素(メインピクセル)解像度より充分に透過率制御面の画素(メインピクセル)解像度が高い場合、透過率制御面の画素(メインピクセル)座標を表示において縦横に補正し位置合わせをする方法。マイクロプロジェクタの投影面が曲面に投影される場合、透過率制御の座標系をGPUなどで制御し、曲面に投影できるように座標系の変換(任意次元のアフィン変換など)を行い適切な表示情報の座標系の変更により適切な座標での表示を構成する方法などが考えられる。
また、マイクロプロジェクタのように画素(メインピクセル)位置が固定ではなくポリゴンミラーなどによるスキャンライン構成で行う場合、スキャンラインの開始位置を時間軸面などの制御によって算術的に微調整したり、光源の開始タイミングを算術的に微調整したりすることで、透過率制御部の制御セルの位置と表示画素(メインピクセル)の表示位置を適切な座標位置に調整する(1601)ことも可能であり、同時に、前述の透過率制御座標系をGPUなどで算術的に補正することでマイクロプロジェクタのような固定座標系デバイスでの座標補正と同様の透過率制御が可能になる。勿論、曲面投影などの補正も前述されるように同様に実施可能である。
更には、表示用の生成画像・映像と透過率制御デバイスそれぞれのセル位置に関し、互いの解像度が充分に高ければ、算術的に両方の情報をGPUなどで補正したり、プロジェクタや光源などの制御を算術的に補正してMEMS(MEMSで構成されるギアやネジなどの構造も含む)による位置調整(1601)や表示画像自体の位置調整(1601)、形状調整をしたりすることで、利用者に向けた表示に関し、適切な画像・映像の生成・表示面と透過率制御面の位置合わせ(1601)を可能とする。
なお、本実施例における位置補正方法はHMDに限らず、HUD、コンタクトレンズといったAR/MRデバイスで透過型・半透過型デバイスに適宜適応できるように構成することも好ましく、それらの細かい調整方法は本実施例のような旧来からの複数の投影装置や撮像装置において画素(メインピクセル)誤差を補正・修正する方法を応用することで本発明をより高品質に実現することが可能であるし、フラットパネルディスプレイの画面と同様の画素(メインピクセル)構成で透過率制御を行えるように組み合わせて表示できるようにしてもよい。
これらの画面位置微調整するための補正技術は光学的に位置補正する方法、物理的に位置補正をする方法、プログラムを用いてソフトウェア的に位置補正する方法といった既存の任意の方法を組み合わせることで実現しても良い。
最後に、図6、図7、に基づいた画像認識ユーザーインターフェース(UI)について説明する。図7は図1のHMD(ヘッドマウントディスプレイ)に撮像カメラ6001が付随した構成となっている。このカメラは利用者の頭の動きに合わせて視界が変化し、ジャイロや加速度、コンパスなどによって、カメラの動きを検出する。もちろん、撮像画像の変化の仕方から頭の向きの変化の仕方を検出するような構成にしても良く、それらの情報の計算は付随の情報処理部やネットワークリンク先の情報処理装置で行われるようにしてもよい。
図7のカメラ6001から得た情報は情報処理装置による適当な形状認識によって、適宜トラッキングされる。この図7の場合であれば腕の形状が認識され、見かけ上スマートフォンのアイコンのようなものが並んでいるかのように合成された映像が利用者の視覚には提示されている。この図7に例示されているスマートフォンのような画像は腕にプリントされているわけではなくAR/MR技術の利用により腕の画像に合成されて利用者に表示されているものと解釈してほしい。この腕画像の認識においては腕にトラッキング用のシールタトゥーが入れてあるとか、手首に巻いた特定のパターンを持つ腕輪があるとか、手首の内側の腱を検出するとか、赤外線カメラで腕の静脈を検出し静脈認証によって個々人に合わせたスマートフォンのようなUIが腕の上にトラッキングさせつつ表示されるとか、任意の手法によるトラッキング技術構成になっていると好ましい。
また、腕の内側の認識ばかりではなくスマートフォンのようなUIに対する操作を行うために、指の形状を検出しトラッキングすることで、指がUI上で何らかの操作をしていることを検出し、任意のユーザーインターフェース(UI)として実施可能な構成となることにより本発明を用いたHMD(ヘッドマウントディスプレイ)において、有益なUIを実現するように構成しても良い。その際、指の重なっている部分の透過率を上げるとともに指の下に隠れる部分のHMD内の映像出力は行わないようにすることで指の上にUIが表示することを避けるようにしても良く、このような奥行き判定を必要とするUIに関してはストラクチャライトやデプスカメラを用いるなどの追加デバイスによる情報を含めてUIの挙動が正常になるように構成しても良い。
つづけて図6を用いてUI処理系の実施要件を説明する。ステップS7001において、HMDに付随するカメラを用いUI(ユーザーインターフェース)投影面とUI操作用の指先などが撮影される。ステップS7002によって、撮像された画像からUI投影面やUI操作オブジェクトとしての指先などが検出され、UI提供に必要な画像特徴が抽出される。ステップS7003によって、指や腕などの位置情報が検出され、検出された情報に基づいて、指や腕の動きの検出が行われそれらの動作に対してトラッキングしながらUI画像の表示先の座標系における黒色情報位置がステップS7004で特定されHMDに提供される。
この際、背景画像としての腕や操作オブジェクトとしての指に適切な映像が投影されるときの情報として、ステップS7005によって本発明による透過率制御が画素(メインピクセル)単位に行われUIの黒色部分には透過率が下げられることでステップS7006に従い利用者に画像が投影されることで利用者の視覚には腕に何も表示されていないにも関わらず、黒色のUIが表示されているかのように、視覚的には適宜表現されるように情報処理が実施される。
なお本発明の明細書における用語に関し、作図の都合上同じような機能・効果に対し便宜的に異なる番号が振られているため、後述のように補足する。
HMD及びHUD(1000、2000、3000、1500)、コンピュートモジュール及びコンピュート部及び情報処理装置及び映像出力部(1001、2001、3001、4001、5001、1501)、光学処理装置、光学モジュール、光学プロジェクタ、(1002、2002、3002、4002、1502)光学系光路、プリズムモジュール、光導波路、光学反射部(1003、2003、3003、4004、1503)、透過率制御部(1004、2004、3004、4003、5003、1504)、カメラユニット(6001)、表示位置制御部(1601)、外光(背景光)(1007、2007、3007、4007、5007、8000)、CG(画像映像)光(1006、2006、3006、4006、8020)、合成光(1005、2005、3005、4005、5005)、表示内容合成光(8010、8011、8032)、表示内容合成部(8002)、
図18に基づいて本実施例を説明する。この図に示されるのは、図1で示された透過率制御部が、メガネ状のHMDにおいて、メガネのレンズ面に構成されている構造となっている場合において、図9に相当する部品順序構成で外光(背景)入力に対して、CG光を合成し、透過率制御部を経過したのちに合成光に至る部品構成を持つAR用HMDを図示している。また、図19においてはよりメガネ的な構成にして曲面化された透過率制御部やCG光導光部を備えるように構成しても良く、本件各実施例のHMDは片眼仕様であるが視差のあるCG情報を提供することで、両眼用仕様として情報提供できるように構成しても良い。
また、特段図示はしないが20年程度前からある透過型フラットディスプレイ(2200)の片側(後ろか前側)及び若しくは両側(前後両側)に本発明の透過率制御装置を備えることで、透過型フラットパネルディスプレイ(2200)に画素(メインピクセル)単位の透過率制御部を具備することで、従来不可能だった透過型フラットパネルディスプレイ(2200)における黒色表示を実現してもよい。
 
本発明によれば、従来の透過型及び若しくは半透過型表示装置において、全画面を含め画素(メインピクセル)単位の黒色表示や透過率制御が不可能だったHMD(ヘッドマウントディスプレイ)やHUD(ヘッドアップディスプレイ)、コンタクトレンズ型デバイスでの黒色表示ができるようになることにより、より表現豊かな表示装置としてのHMDやHUD、コンタクトレンズ型情報提供デバイス、透過型ノートPC型デバイス、透過型タブレット型デバイス、透過型スマートフォン型デバイス、透過・半透過型フラットパネルディスプレイなどをにおける黒色表示を実現することが可能となる。
 
HMD     1000、2000、3000、1500
コンピュートモジュール 1001、2001、3001、4001、5001、1501
光学モジュール 1002、2002、3002、4002、1502
光学系光路   1003、2003、3003、4004、1503
透過率制御部  1004、2004、3004、4003、5003、1504
カメラユニット 6001
表示位置制御部 1601
外光(背景光) 1007、2007、3007、4007、5007、8000
CG(画像映像)光、表示用光学光投光部光 1006、2006、3006、4006、8020
合成光     1005、2005、3005、4005、5005
表示内容合成光 8010、8011、8032
表示内容合成部 8002
 
 
1000 HMDユニット
1001 HMDユニット(コンピュートモジュール)
1002 HMDユニット(光学モジュール)
1003 HMDプリズムモジュール
1004 HMDユニット(透過率制御部)
1005 合成光
1006 CG光
1007 入力外光
 
2000 HMDユニット
2001 コンピュートモジュール
2002 光学モジュール
2003 光学反射部
2004 透過率制御部
2005 合成光
2006 CG画像・映像光
2007 入力外光
 
3000 HMDユニット
3001 コンピュートモジュール
3002 光学モジュール
3003 光学導波路部
3004 透過率制御部
3005 合成光
3006 CG画像・映像光
3007 入力外光
 
4001 コンピュートモジュール
4002 光学プロジェクタモジュール
4003 透過率制御部
4004 光学反射部
4005 合成光
4006 CG画像映像光
4007 外光
 
5001 透過型コンピュート部
5002 CG画像表示部
5003 透過率制御部
5005 合成光
5007 外光
 
S7001 カメラ部で撮像
S7002 画像特徴抽出(例えば指先など)
S7003 対象物上にトラッキング
S7004 トラッキング部に基づいて黒色部を特定
S7005 特定個所の外光透過率をピクセル単位で制御
S7006 視覚に対する外光入力の一部の外光透過率が“0”になるための視覚情報としては黒色に見える
 
6001 カメラユニット
6002 撮像範囲
6003 ユーザーインターフェース AR/MRイメージ
 
8000 外光(実風景光)
8001 透過率制御部
8001a 透過率制御部a
8001b 透過率制御部b
8002 表示内容合成部
8002a 表示内容合成部プリズム方式
8002b 表示内容合成部光導波路(導光板)方式
8009 視覚
8010 透過率制御済み外光
8011 制御済み表示用光
8020 表示用光学投稿部光
8021 外光未制御表示用光
8030 半制御外光
8031 半制御表示用光
8032 制御済表示用光
 
S1401 GPUで通常画像と黒色化する箇所を適宜作成
S1402 黒色個所を透過率制御部に出力
S1403 通常画像を表示部に出力
S1404 光学的に画素単位で透過率制御画素と画像表示画素とを制御し適切な合成を行う
S1405 透過率制御画像と通常画像とに基づいてHMDに表示
S1406 視覚に対する外光入力の一部の外光透過率が“0”になるため視覚情報としては黒色に見える
 
1500 HMD
1501 情報処理装置
1502 中央演算処理装置(CPU)
1503 映像演算処理装置(GPU)
1513 記憶部(ROM,RAM等)
1514 通信部(有線、無線含む)
1501 情報処理装置
1502 光学処理装置
1503 透過型映像表示部
1504 透過率制御部
 
1601 表示位置制御
 
2200 透過スマフォ型FPD(フラットパネルディスプレイ)
 

Claims (8)

  1. 背景光及び若しくは外光を透過する透過型表示部におけるメインピクセルごとの白色光源及びRGBカラーフィルターを具備しない表示装置であって、
    背景光及び若しくは外光を全透過及び若しくは半透過する透過型表示部を具備する表示装置における前期透過型表示部に、
     
    メインピクセルごとに分割された背景光及び若しくは外光の透過率を制御する透過率制御部と、
    映像出力部から出力される画像及びもしくは映像に基づいた光学的情報と、
    背景光及び若しくは外光とを、
    メインピクセルごとに合成表示する表示部を具備することで、
     
    前記表示部において前記光学的情報と前記背景光及び若しくは前記外光をメインピクセル単位の透過率制御により合成することを特徴とする表示装置
     
  2. 背景光及び若しくは外光を透過する透過型表示部におけるメインピクセルごとの白色光源及びRGBカラーフィルターを具備しない表示装置であって、
    背景光及び若しくは外光を全透過及び若しくは半透過する透過型表示部を具備する表示装置における前期透過型表示部に、
     
    メインピクセルごとに分割された背景光及び若しくは外光の透過率を制御する透過率制御部と、
    映像出力部から出力される画像及びもしくは映像に基づいた光学的情報と、
    背景光及び若しくは外光とを、
    メインピクセルごとに合成表示する表示部において、
    メインピクセルごとに自発光する透過型RGBサブピクセルを具備することで、
     
    前記表示部において前記光学的情報と前記背景光及び若しくは前記外光をメインピクセル単位の透過率制御により合成することを特徴とする表示装置
     
  3. 背景光及び若しくは外光を透過する透過型表示部におけるメインピクセルごとの白色光源及びRGBカラーフィルターを具備しない表示装置であって、
    背景光及び若しくは外光を全透過及び若しくは半透過する透過型表示部を具備する表示装置における前期透過型表示部に、
     
    メインピクセルごとに分割された背景光及び若しくは外光の透過率を制御する透過率制御部と、
    映像出力部から出力される画像及びもしくは映像に基づいた光学的情報と、
    背景光及び若しくは外光とを、
    メインピクセルごとに合成表示する表示部において、
     
    ハーフミラー及び若しくは光導波路及び若しくは導光板及び若しくはマイクロプロジェクタ等を具備することで、
     
    前記表示部において前記光学的情報と背景光及び若しくは外光をメインピクセル単位の透過率制御により合成することを特徴とする表示装置
     
  4. 背景光及び若しくは外光を全透過及び若しくは半透過する透過型表示部を具備する表示装置における前期透過型表示部に、
     
    メインピクセルごとに分割された背景光及び若しくは外光の透過率を制御する透過率制御部と、
    映像出力部から出力される画像及びもしくは映像に基づいた光学的情報と
    背景光及び若しくは外光とを、
    メインピクセルごとに合成表示する表示部において、
     
    ハーフミラー及び若しくは光導波路及び若しくは導光板及び若しくはマイクロプロジェクタを具備することで、
     
    前記表示部において前記光学的情報と背景光及び若しくは外光をメインピクセル単位の透過率制御により合成することを特徴とする表示装置
     
  5. 背景光及び若しくは外光を全透過及び若しくは半透過する透過型表示部を具備する表示装置における前期透過型表示部に、
     
    メインピクセルごとに分割された背景光及び若しくは外光の透過率を制御する透過率制御部と、
    映像出力部から出力される画像及びもしくは映像に基づいた光学的情報と
    背景光及び若しくは外光とを、
    メインピクセルごとに合成表示する表示部において、
     
    直接及び若しくは反射及びもしくは屈折することで、
     
    前記表示部において前記光学的情報と背景光及び若しくは外光をメインピクセル単位の透過率制御により合成することを特徴とする表示装置
     
  6. 背景光及び若しくは外光を全透過及び若しくは半透過する透過型表示部を具備する表示装置における前期透過型表示部に、
     
    メインピクセルごとに分割された背景光及び若しくは外光の透過率を制御する透過率制御部と、
    映像出力部から出力される画像及びもしくは映像に基づいた光学的情報と
    背景光及び若しくは外光とを、
    メインピクセルごとに合成表示する表示部を備えることを特徴とする表示装置において、
     
    前記表示装置の表示部に前記光学的情報と背景光及び若しくは外光とをメインピクセル単位の透過率制御により合成することを特徴とする表示装置に用いる為に、
     
    メインピクセル単位に透過率の制御を行うプログラム
     
  7. 背景光及び若しくは外光を透過する透過型表示部におけるメインピクセルごとの白色光源及びRGBカラーフィルターを具備しない表示装置であって、
     
    背景光及び若しくは外光を全透過及び若しくは半透過する透過型表示部を具備する表示装置における前期透過型表示部に、
     
    メインピクセルごとに分割された背景光及び若しくは外光の透過率を制御する透過率制御部と、
    映像出力部から出力される画像及びもしくは映像に基づいた光学的情報と
    背景光及び若しくは外光とを、
    メインピクセルごとに合成表示する表示部を備えることを特徴とする表示装置において、
     
    ハーフミラー及び若しくは光導波路及び若しくは導光板及び若しくはマイクロプロジェクタを具備することで、
     
    前記表示装置の表示部に前記光学的情報と背景光及び若しくは外光とをメインピクセル単位の透過率制御により合成することを特徴とする表示装置に用いる為に、
     
    メインピクセル単位に透過率の制御を行うプログラム
     
  8. 背景光及び若しくは外光を透過する透過型表示部におけるメインピクセルごとの白色光源及びRGBカラーフィルターを具備しない表示装置であって、
     
    背景光及び若しくは外光を全透過及び若しくは半透過する透過型表示部を具備する表示装置における前期透過型表示部に、
     
    メインピクセルごとに分割された背景光及び若しくは外光の透過率を制御する透過率制御部と、
    映像出力部から出力される画像及びもしくは映像に基づいた光学的情報と
    背景光及び若しくは外光とを、
    メインピクセルごとに合成表示する表示部を備えることを特徴とする表示装置において、
     
    直接及び若しくは反射及びもしくは屈折する光学部を具備することで、
     
    前記表示装置の表示部に前記光学的情報と背景光及び若しくは外光とをメインピクセル単位の透過率制御により合成することを特徴とする表示装置に用いる為に、
     
    メインピクセル単位に透過率の制御を行うプログラム
     
     
PCT/JP2020/040996 2020-11-01 2020-11-01 透過率制御部を備えた表示装置 WO2022091398A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/040996 WO2022091398A1 (ja) 2020-11-01 2020-11-01 透過率制御部を備えた表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/040996 WO2022091398A1 (ja) 2020-11-01 2020-11-01 透過率制御部を備えた表示装置

Publications (1)

Publication Number Publication Date
WO2022091398A1 true WO2022091398A1 (ja) 2022-05-05

Family

ID=81382154

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2020/040996 WO2022091398A1 (ja) 2020-11-01 2020-11-01 透過率制御部を備えた表示装置

Country Status (1)

Country Link
WO (1) WO2022091398A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005124431A1 (ja) * 2004-06-18 2005-12-29 Pioneer Corporation 情報表示装置、ナビゲーション装置
US20140085183A1 (en) * 2012-08-23 2014-03-27 Samsung Electronics Co., Ltd. Head-mounted display apparatus and control method thereof
JP2016212147A (ja) * 2015-04-30 2016-12-15 ソニー株式会社 表示装置及び表示装置の初期設定方法
JP2019152794A (ja) * 2018-03-05 2019-09-12 ソニー株式会社 情報処理装置、情報処理方法およびプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005124431A1 (ja) * 2004-06-18 2005-12-29 Pioneer Corporation 情報表示装置、ナビゲーション装置
US20140085183A1 (en) * 2012-08-23 2014-03-27 Samsung Electronics Co., Ltd. Head-mounted display apparatus and control method thereof
JP2016212147A (ja) * 2015-04-30 2016-12-15 ソニー株式会社 表示装置及び表示装置の初期設定方法
JP2019152794A (ja) * 2018-03-05 2019-09-12 ソニー株式会社 情報処理装置、情報処理方法およびプログラム

Similar Documents

Publication Publication Date Title
US8619005B2 (en) Switchable head-mounted display transition
JP6433914B2 (ja) 裸眼立体拡張現実ディスプレイ
US8780014B2 (en) Switchable head-mounted display
US8912979B1 (en) Virtual window in head-mounted display
JP2021532393A (ja) ヘッドマウントディスプレイのための反射型円偏光子
CN103383491B (zh) 一种视透率可调的头戴显示装置
US20210255465A1 (en) Smart glass display device for both augmented reality and virtual reality comprising plastic lcd shade
CN103439793A (zh) 一种头戴显示装置hmd
CN111103691A (zh) 一种利用液晶调节透明度的近眼显示系统及设备
US10935794B1 (en) Low-obliquity beam scanner with polarization-selective grating
JP2022170640A (ja) 透過率制御部を備えた表示装置
TWI607243B (zh) Display adjustment method for near-eye display
WO2022091398A1 (ja) 透過率制御部を備えた表示装置
US11726252B2 (en) Self-lit display panel
EP3330773B1 (en) Display apparatus and method of displaying using context display and projectors
CN203433191U (zh) 一种视透率可调的头戴显示装置
CN110967828A (zh) 显示系统以及头戴显示装置
JP2017102221A (ja) 画像表示装置
CN111123519B (zh) 一种透明度可手动调节的近眼显示系统及设备
CN212111980U (zh) 一种透明度可手动调节的近眼显示系统及近眼显示设备
CN212111981U (zh) 一种自动调节透明度的近眼显示系统及设备
CN109963145B (zh) 视觉显示系统及方法,以及头戴显示装置
WO2020137088A1 (ja) ヘッドマウントディスプレイ、表示方法、及び表示システム
JP2021103276A (ja) 画像表示装置
US20240241379A1 (en) Vision-control system for near-eye display

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20959913

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 20959913

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP

NENP Non-entry into the national phase

Ref country code: JP