JP7325521B2 - 3次元表示装置、3次元表示システム、ヘッドアップディスプレイ、および移動体 - Google Patents

3次元表示装置、3次元表示システム、ヘッドアップディスプレイ、および移動体 Download PDF

Info

Publication number
JP7325521B2
JP7325521B2 JP2021551264A JP2021551264A JP7325521B2 JP 7325521 B2 JP7325521 B2 JP 7325521B2 JP 2021551264 A JP2021551264 A JP 2021551264A JP 2021551264 A JP2021551264 A JP 2021551264A JP 7325521 B2 JP7325521 B2 JP 7325521B2
Authority
JP
Japan
Prior art keywords
eye
image
display device
dimensional display
predicted position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021551264A
Other languages
English (en)
Other versions
JPWO2021065826A1 (ja
Inventor
昭典 佐藤
薫 草深
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Publication of JPWO2021065826A1 publication Critical patent/JPWO2021065826A1/ja
Application granted granted Critical
Publication of JP7325521B2 publication Critical patent/JP7325521B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/26Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
    • G02B30/30Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving parallax barriers
    • G02B30/32Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving parallax barriers characterised by the geometry of the parallax barriers, e.g. staggered barriers, slanted parallax arrays or parallax arrays of varying shape or size
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/383Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Arrangement of adaptations of instruments
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/26Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
    • G02B30/30Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving parallax barriers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • G06T5/80
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • G09G3/003Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to produce spatial visual effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/31Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using parallax barriers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/363Image reproducers using image projection screens
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/398Synchronisation thereof; Control thereof
    • B60K2360/149
    • B60K35/10
    • B60K35/211
    • B60K35/23
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60YINDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2200/00Type of vehicle
    • B60Y2200/10Road Vehicles
    • B60Y2200/11Passenger cars; Automobiles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60YINDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2400/00Special features of vehicle units
    • B60Y2400/30Sensors
    • B60Y2400/301Sensors for position or displacement
    • B60Y2400/3015Optical cameras
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0132Head-up displays characterised by optical features comprising binocular systems
    • G02B2027/0134Head-up displays characterised by optical features comprising binocular systems of stereoscopic type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2310/00Command of the display device
    • G09G2310/08Details of timing specific for flat panels, other than clock recovery
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/10Mixing of images, i.e. displayed pixel being the result of an operation, e.g. adding, on the corresponding input pixels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/10Automotive applications

Description

本発明は、3次元表示装置、3次元表示システム、ヘッドアップディスプレイ、および移動体に関する。
従来、3次元表示装置は、カメラが利用者の眼を撮像した撮像画像を用いて検出された眼の位置を示す位置データを取得する。3次元表示装置は、位置データが示す眼の位置に基づいて、利用者の左眼および右眼にそれぞれ対応する画像を視認させるように、画像をディスプレイに表示させている(例えば、特許文献1)。
しかしながら、カメラが利用者の眼を撮像した時点と、3次元表示装置が眼の位置に基づいて画像を表示させる時点とには時間差がある。そのため、カメラが利用者の眼を撮像した時点以降に、利用者の眼の位置が変化した場合、利用者は、3次元表示装置によって表示された画像によって3次元画像を適切に視認し難いことがある。
特開2001-166259号公報
本開示の3次元表示装置は、表示パネルと、パララックスバリアと、取得部と、メモリと、コントローラとを備える。前記表示パネルは、視差画像を表示して前記視差画像に対応する画像光を出射するように構成される。前記パララックスバリアは、前記画像光の光線方向を規定するように構成される面を有する。前記取得部は、撮像時間間隔で利用者の眼を撮像するように構成されるカメラから順次、取得した撮像画像に基づいて前記眼の位置を検出するように構成される検出装置から、前記眼の位置をそれぞれ示す複数の位置データを順次、取得するように構成される。前記メモリは、前記取得部によって順次、取得された前記複数の位置データを記憶するように構成される。前記コントローラは、前記メモリに記憶された前記複数の位置データに基づいて、現在時刻より後の時刻における眼の予測位置を出力し、前記予測位置に基づいて、前記表示パネルの各サブピクセルに前記視差画像を表示させるように構成される。前記コントローラは、第1予測位置に基づいて、表示する左眼画像および右眼画像を生成する生成処理を実行し、前記第1予測位置と異なる第2予測位置に基づいて、前記左眼画像および前記右眼画像を視差画像として合成する合成処理を実行するように構成される。
本開示の3次元表示システムは、検出装置と、3次元表示装置とを備える。前記検出装置は、撮像時間間隔で利用者の眼を撮像するカメラから順次、取得した撮像画像に基づいて前記眼の位置を検出する。前記3次元表示装置は、表示パネルと、パララックスバリアと、取得部と、メモリと、コントローラとを備える。前記表示パネルは、視差画像を表示して前記視差画像に対応する画像光を出射するように構成される。前記パララックスバリアは、前記画像光の光線方向を規定するように構成される面を有する。前記取得部は、撮像時間間隔で利用者の眼を撮像するように構成されるカメラから順次、取得した撮像画像に基づいて前記眼の位置を検出するように構成される検出装置から、前記眼の位置をそれぞれ示す複数の位置データを順次、取得するように構成される。前記メモリは、前記取得部によって順次、取得された前記複数の位置データを記憶するように構成される。前記コントローラは、前記メモリに記憶された前記複数の位置データに基づいて、現在時刻より後の時刻における眼の予測位置を出力し、前記予測位置に基づいて、前記表示パネルの各サブピクセルに前記視差画像を表示させるように構成される。前記コントローラは、第1予測位置に基づいて、表示する左眼画像および右眼画像を生成する生成処理を実行し、前記第1予測位置と異なる第2予測位置に基づいて、前記左眼画像および前記右眼画像を視差画像として合成する合成処理を実行するように構成される。
本開示のヘッドアップディスプレイは、3次元表示システムと、被投影部材とを備える。前記3次元表示システムは、検出装置と、3次元表示装置とを備える。前記検出装置は、撮像時間間隔で利用者の眼を撮像するカメラから順次、取得した撮像画像に基づいて前記眼の位置を検出する。前記3次元表示装置は、表示パネルと、パララックスバリアと、取得部と、メモリと、コントローラとを備える。前記表示パネルは、視差画像を表示して前記視差画像に対応する画像光を出射するように構成される。前記パララックスバリアは、前記画像光の光線方向を規定するように構成される面を有する。前記取得部は、撮像時間間隔で利用者の眼を撮像するように構成されるカメラから順次、取得した撮像画像に基づいて前記眼の位置を検出するように構成される検出装置から、前記眼の位置をそれぞれ示す複数の位置データを順次、取得するように構成される。前記メモリは、前記取得部によって順次、取得された前記複数の位置データを記憶するように構成される。前記コントローラは、前記メモリに記憶された前記複数の位置データに基づいて、現在時刻より後の時刻における眼の予測位置を出力し、前記予測位置に基づいて、前記表示パネルの各サブピクセルに前記視差画像を表示させるように構成される。前記コントローラは、第1予測位置に基づいて、表示する左眼画像および右眼画像を生成する生成処理を実行し、前記第1予測位置と異なる第2予測位置に基づいて、前記左眼画像および前記右眼画像を視差画像として合成する合成処理を実行するように構成される。前記被投影部材は、前記3次元表示装置から射出された前記画像光を、利用者の眼の方向に反射させる。
本開示の移動体は、ヘッドアップディスプレイを備える。前記ヘッドアップディスプレイは、3次元表示システムと、被投影部材とを備える。前記3次元表示システムは、検出装置と、3次元表示装置とを備える。前記検出装置は、撮像時間間隔で利用者の眼を撮像するカメラから順次、取得した撮像画像に基づいて前記眼の位置を検出する。前記3次元表示装置は、表示パネルと、パララックスバリアと、取得部と、メモリと、コントローラとを備える。前記表示パネルは、視差画像を表示して前記視差画像に対応する画像光を出射するように構成される。前記パララックスバリアは、前記画像光の光線方向を規定するように構成される面を有する。前記取得部は、撮像時間間隔で利用者の眼を撮像するように構成されるカメラから順次、取得した撮像画像に基づいて前記眼の位置を検出するように構成される検出装置から、前記眼の位置をそれぞれ示す複数の位置データを順次、取得するように構成される。前記メモリは、前記取得部によって順次、取得された前記複数の位置データを記憶するように構成される。前記コントローラは、前記メモリに記憶された前記複数の位置データに基づいて、現在時刻より後の時刻における眼の予測位置を出力し、前記予測位置に基づいて、前記表示パネルの各サブピクセルに前記視差画像を表示させるように構成される。前記コントローラは、第1予測位置に基づいて、表示する左眼画像および右眼画像を生成する生成処理を実行し、前記第1予測位置と異なる第2予測位置に基づいて、前記左眼画像および前記右眼画像を視差画像として合成する合成処理を実行するように構成される。前記被投影部材は、前記3次元表示装置から射出された前記画像光を、利用者の眼の方向に反射させる。
本発明の目的、特色、および利点は、下記の詳細な説明と図面とからより明確になるであろう。
本開示の一実施形態に係る3次元表示システムの概略構成を示す図である。 図1に示す表示パネルを奥行方向から見た例を示す図である。 図1に示すパララックスバリアを奥行方向から見た例を示す図である。 図1に示す表示パネルおよびパララックスバリアをパララックスバリア側から左眼で見た例を示す図である。 図1に示す表示パネルおよびパララックスバリアをパララックスバリア側から右眼で見た例を示す図である。 眼の位置と可視領域との関係を説明するための図である。 眼の撮像、位置データの取得、予測位置に基づく表示制御の開始、および表示パネルにおける画像の表示についての時刻の関係を説明するための図である。 検出装置の処理を説明するための処理フロー図である。 3次元画像装置の予測関数生成処理の一例を説明するための処理フロー図である。 3次元画像装置の画像表示処理の一例を説明するための処理フロー図である。 3次元画像装置の予測関数生成処理および画像表示処理の他の例を説明するための処理フロー図である。 左眼の位置および右眼の位置を識別するための情報を説明するための図である。 眼間距離が標準距離である場合における、左眼および右眼の位置と、各サブピクセルに表示させる画像との対応を示す画像テーブルの例を示す図である。 図1に示す3次元表示システムを搭載したHUDの例を示す図である。 図14に示すHUDを搭載した移動体の例を示す図である。
本開示の一実施形態について、図面を参照して詳細に説明する。以下の説明で用いられる図は模式的なものである。したがって、図面上の寸法比率等は現実のものと必ずしも一致していない。
本開示の一実施形態にかかる3次元表示システム10は、図1に示すように、検出装置1と、3次元表示装置2とを含む。
検出装置1は、利用者の眼があることが期待される空間を一定の撮像時間間隔(例えば、20fps(frames per second))で撮像するように構成されるカメラから撮像画像を取得するように構成されてよい。検出装置1は、カメラから取得した撮像画像から順次、左眼(第1眼)および右眼(第2眼)の像を検出するように構成される。検出装置1は、画像空間における左眼および右眼の像に基づいて、実空間における左眼および右眼それぞれの位置を検出するように構成される。検出装置1は、1つのカメラの撮像画像から、左眼および右眼の位置を3次元空間の座標として検出するように構成されてよい。検出装置1は、2個以上のカメラの撮像画像から、左眼および右眼それぞれの位置を3次元空間の座標として検出するように構成されてよい。検出装置1はカメラを備えてよい。検出装置1は、実空間における左眼および右眼の位置を示す位置データを順次、3次元表示装置2に送信するように構成される。
3次元表示装置2は、取得部3と、照射器4と、表示パネル5と、光学素子としてのパララックスバリア6と、メモリ7と、コントローラ8とを含む。
取得部3は、検出装置1によって順次、送信された、眼の位置を示す位置データを取得するように構成される。
照射器4は、表示パネル5を面的に照射するように構成されうる。照射器4は、光源、導光板、拡散板、拡散シート等を含んでよい。照射器4は、光源により照射光を射出し、導光板、拡散板、拡散シート等により照射光を表示パネル5の面方向に均一化するように構成される。照射器4は均一化された光を表示パネル5の方に出射するように構成されうる。
表示パネル5としては、例えば透過型の液晶表示パネルなどの表示パネルを採用しうる。図2に示すように、表示パネル5は、面状に形成されたアクティブエリアA上に複数の区画領域を有する。アクティブエリアAは、視差画像を表示するように構成される。視差画像は、左眼画像(第1画像)と左眼画像に対して視差を有する右眼画像(第2画像)とを含む。複数の区画領域は、第1方向と、アクティブエリアAの面内で第1方向に直交する方向とに区画された領域である。第1方向は、例えば、水平方向であってよい。第1方向に直交する方向は、例えば、鉛直方向であってよい。水平方向および鉛直方向に直交する方向は奥行方向と称されてよい。図面において、水平方向はx軸方向として表され、鉛直方向はy軸方向として表され、奥行方向はz軸方向として表される。
複数の区画領域の各々には、1つのサブピクセルPが対応する。したがって、アクティブエリアAは、水平方向および鉛直方向に沿って格子状に配列された複数のサブピクセルPを備える。
複数のサブピクセルPの各々は、R(Red),G(Green),B(Blue)のいずれかの色に対応しうる。R,G,Bの3つのサブピクセルPは、一組として1ピクセルを構成することができる。1ピクセルは、1画素と称されうる。1ピクセルを構成する複数のサブピクセルPは、水平方向に並んでよい。同じ色の複数のサブピクセルPは、鉛直方向に並んでよい。複数のサブピクセルPそれぞれの水平方向の長さHpxは、互いに同一としてよい。複数のサブピクセルPそれぞれの鉛直方向の長さHpyは、互いに同一としてよい。
表示パネル5としては、透過型の液晶パネルに限られず、有機EL等他の表示パネルを使用しうる。透過型の表示パネルは、液晶パネルの他に、MEMS(Micro Electro Mechanical Systems)シャッター式の表示パネルを含む。自発光型の表示パネルは、有機EL(electro-luminescence)、および無機ELの表示パネルを含む。表示パネル5が自発光型の表示パネルである場合、3次元表示装置2は照射器4を備えなくてよい。
上述したようにアクティブエリアAに連続して配列された複数のサブピクセルPは、1つのサブピクセル群Pgを構成する。例えば、1のサブピクセル群Pgは、水平方向および鉛直方向にそれぞれ所定数の複数のサブピクセルを含む。1のサブピクセル群Pgは、鉛直方向にb個、水平方向にn個、連続して配列された(2×n×b)個のサブピクセルP1~P(2×n×b)を含む。複数のサブピクセルPは、複数のサブピクセル群Pgを構成する。複数のサブピクセル群Pgは、水平方向に繰り返して配列されている。複数のサブピクセル群Pgは、鉛直方向においては、水平方向にjサブピクセル分(j<n)ずれた位置に隣接して繰り返して配列されている。本実施形態では、一例として、j=1、n=4、b=1の場合について説明する。本例では、図2に示すように、アクティブエリアAには、鉛直方向に1行、水平方向に8列、連続して配列された8個のサブピクセルP1~P8を含む複数のサブピクセル群Pgが配置される。P1~P8を複数のサブピクセルの識別情報と呼ぶ。図2には、一部のサブピクセル群Pgに符号を付している。
全てのサブピクセル群Pgにおける、対応する位置にある複数のサブピクセルPは、同じ種別の画像を表示し、同じタイミングで表示する画像の種別を切り替える。画像の種別は、左眼画像および右眼画像のいずれであるかを表す種別である。1のサブピクセル群Pgを構成する複数のサブピクセルPは、左眼画像と右眼画像とを切り替えて表示可能である。例えば、全てのサブピクセル群Pgにおける複数のサブピクセルP1に表示される画像は同じタイミングで切り替えられる。全てのサブピクセル群Pgにおける他の識別情報を有する複数のサブピクセルPに表示された画像は同じタイミングで切り替えられる。
1のサブピクセル群Pgを構成する複数のサブピクセルPに表示される画像の種別は互いに独立している。サブピクセル群Pgを構成する複数のサブピクセルPは、左眼画像と右眼画像とを切り替えて表示可能である。例えば、複数のサブピクセルP1が左眼画像と右眼画像とを切り替えるタイミングは、複数のサブピクセルP2が左眼画像と右眼画像とを切り替えるタイミングと同じであってもよいし、異なっていてよい。互いに異なる識別情報を有する、他の2つの複数のサブピクセルPが左眼画像と右眼画像とを切り替えるタイミングは同じであってもよいし、異なっていてよい。
パララックスバリア6は、表示パネル5から出射された視差画像の画像光の光線方向を規定するように構成される。パララックスバリア6は、図1に示したように、アクティブエリアAに沿う平面を有する。パララックスバリア6は、アクティブエリアAから所定距離(ギャップ)g、離れている。パララックスバリア6は、表示パネル5に対して照射器4の反対側に位置してよい。パララックスバリア6は、表示パネル5の照射器4側に位置してよい。
図3に示すように、パララックスバリア6は、複数の減光部61と、複数の透光部62とを備える。
複数の減光部61は、投じられた画像光を減じるように構成される。減光は遮光を含む。複数の減光部61は、第1値未満の透過率を有しうる。複数の減光部61は、フィルムまたは板状部材で構成されてよい。フィルムは、樹脂で構成されてよいし、他の材料で構成されてよい。板状部材は、樹脂または金属等で構成されてよいし、他の材料で構成されてよい。複数の減光部61は、フィルムまたは板状部材に限られず、他の種類の部材で構成されてよい。複数の減光部61の基材は減光性を有してよいし、複数の減光部61の基材に減光性を有する添加物が含有されてよい。
複数の透光部62は、第1値より大きい第2値以上の透過率で画像光を透過させる。複数の透光部62は、複数の減光部61を構成する材料の開口で構成されうる。複数の透光部62は、第2値以上の透過率を有するフィルムまたは板状部材で構成されてよい。フィルムは、樹脂で構成されてよいし、他の材料で構成されてよいし、他の材料で構成されてよい。複数の透光部62は、何らの部材を用いられずに構成されてよい。この場合、複数の透光部62の透過率は、略100%となる。
このように、パララックスバリア6は、複数の減光部61および複数の透光部62を備える。これによって、表示パネル5のアクティブエリアAから射出された画像光の一部がパララックスバリア6を透過して利用者の眼に到達し、画像光の残りの一部がパララックスバリア6によって減光されて利用者の眼に到達し難くなる。したがって、利用者の眼は、アクティブエリアAの一部の領域を視認し易く、残りの一部の領域を視認し難くなる。
1の透光部62の水平方向の長さLb、バリアピッチBp、適視距離D、ギャップg、所望される可視領域5aの水平方向の長さLp、1のサブピクセルPの水平方向の長さHp、サブピクセル群Pgに含まれるサブピクセルPの数2×n、および眼間距離Eが次の式(1)及び式(2)の関係を満たすように決定されていてよい。適視距離Dは、利用者の眼とパララックスバリア6との間の距離である。ギャップgは、パララックスバリア6と表示パネル5との間の距離である。可視領域5aは、利用者の各眼が視認する、アクティブエリア上の領域である。
E:D=(2×n×Hp):g (1)
D:Lb=(D+g):Lp (2)
適視距離Dは、利用者の右眼および左眼それぞれとパララックスバリア6との間の距離である。右眼と左眼とを通る直線の方向(眼間方向)は水平方向である。眼間距離Eは利用者の眼間距離Eの標準である。眼間距離Eは、例えば、産業技術総合研究所の研究によって算出された値である61.1mm(millimeter)~64.4mmであってよい。Hpは、1のサブピクセルの水平方向の長さである。
利用者の各眼が視認する、アクティブエリアAの領域は、各眼の位置、複数の透光部62の位置、および適視距離Dに依存する。以降において、利用者の眼の位置に伝播する画像光を射出するアクティブエリアA内の領域は可視領域5aと称される。利用者の左眼の位置に伝播する画像光を射出するアクティブエリアAの領域は左可視領域5aL(第1可視領域)と称される。利用者の右眼の位置に伝播する画像光を射出するアクティブエリアAの領域は右可視領域5aR(第2可視領域)と称される。利用者の左眼の方に伝播し、複数の減光部61によって減光される画像光を射出するアクティブエリアA内の領域は左減光領域5bLと称される。利用者の右眼の方に伝播し、複数の減光部61によって減光される画像光を射出するアクティブエリアA内の領域は右減光領域5bRと称される。
メモリ7は、コントローラ8によって処理された各種情報を記憶するように構成される。メモリ7は、は、例えばRAM(Random Access Memory)およびROM(Read Only Memory)など、任意の記憶デバイスにより構成される。
コントローラ8は、3次元表示システム10の各構成要素に接続される。コントローラ8は、各構成要素を制御するよう構成されうる。コントローラ8によって制御される構成要素は、表示パネル5を含む。コントローラ8は、例えばプロセッサとして構成される。コントローラ8は、1以上のプロセッサを含んでよい。プロセッサは、特定のプログラムを読み込ませて特定の機能を実行する汎用のプロセッサ、および特定の処理に特化した専用のプロセッサを含んでよい。専用のプロセッサは、特定用途向けIC(ASIC:Application Specific Integrated Circuit)を含んでよい。プロセッサは、プログラマブルロジックデバイス(PLD:Programmable Logic Device)を含んでよい。PLDは、FPGA(Field-Programmable Gate Array)を含んでよい。コントローラ8は、1つまたは複数のプロセッサが協働するSoC(System-on-a-Chip)、およびSiP(System In a Package)のいずれかであってよい。コントローラ8は、記憶部を備え、記憶部に各種情報、または3次元表示システム10の各構成要素を動作させるためのプログラム等を格納してよい。記憶部は、例えば半導体メモリ等で構成されてよい。記憶部は、コントローラ8のワークメモリとして機能してよい。
コントローラ8は、図4に示すように、それぞれの左可視領域5aLに含まれる複数のサブピクセルPに左眼画像を表示させ、左減光領域5bLに含まれる複数のサブピクセルPに右眼画像を表示させるように構成される。これによって、左眼は、左眼画像を視認し易く、左眼画像を視認し難くなる。コントローラ8は、図5に示すように、それぞれの右可視領域5aRに含まれる複数のサブピクセルPに右眼画像を表示させ、右減光領域5bRに含まれる複数のサブピクセルPに右眼画像を表示させるように構成される。これによって、右眼は、右眼画像を視認し易く、左眼画像を視認し難くなる。これにより、利用者の眼は、3次元画像を視認することができる。図4および図5において、コントローラ8が左眼画像を表示させる複数のサブピクセルPには符号「L」が付され、右眼画像を表示させる複数のサブピクセルPには符号「R」が付されている。
左可視領域5aLは左眼の位置に基づいて定まる。例えば、図6に示すように、左眼が左変位位置EL1にあるときの左可視領域5aLは、左眼が左基準位置EL0にあるときの左可視領域5aL0とは異なっている。左基準位置EL0は、適宜設定されうる基準となる、左眼の位置である。左変位位置EL1は、左基準位置EL0から水平方向にずれた位置である。
右可視領域5aRは右眼の位置に基づいて定まる。例えば、図6に示すように、右眼が右変位位置ER1にあるときの右可視領域5aR1は、右眼が右基準位置ER0にあるときの右可視領域5aR0とは異なっている。右基準位置ER0は、適宜設定されうる基準となる、右眼の位置である。右変位位置ER1は、右基準位置ER0から水平方向にずれた位置である。
したがって、コントローラ8は、利用者に適切に3次元画像を視認させるために、左可視領域5aLに含まれる複数のサブピクセルPに左眼画像を表示させ、右可視領域5aRに含まれる複数のサブピクセルPに右眼画像が表示させる必要がある。コントローラ8は、画像を表示する時点における、正確な眼の位置に基づいて処理を行うことが望まれる。
検出装置1は、撮像した撮像画像から眼の像を検出し、画像空間における眼の像に基づいて、実空間における眼の位置を検出するように構成される。検出装置1は、実空間における眼の位置を含む位置データを3次元表示装置2に送信するように構成される。検出装置1による眼の位置の検出、検出装置1から3次元表示装置2への位置データの送信、および受信した位置データに基づいて表示画像を変更してから反映するまでには、時間を要する。当該顔に含まれる眼の位置に基づいた画像を表示する表示時刻は、検出装置1が顔を撮像した撮像時刻と時差がある。時差は、検出時間、送信時間、反映時間を含む。時差は、検出装置1の性能、ならびに検出装置1および3次元表示装置間の通信速度等に依存する。利用者の眼の移動に伴って表示画像を変更する制御単位長さを時差で割った速度より、利用者の眼の移動速度が速くなると、利用者は、眼の位置に対応していない画像を視認する。例えば制御単位長さが62.4mmであり、且つ時差が65msである場合、利用者の眼が、0.24mm/ms(millimeter per millisecond)(24cm/s(centimeter per second))以上の速さで移動すると、利用者は3次元画像に違和感をもつ虞がある。
このような3次元画像の視認しにくさを低減するために、コントローラ8は、以降で説明する処理を行う。以降の説明において説明される「眼」は「左眼および右眼」を表してよい。
(位置データ記憶処理)
コントローラ8は、取得部3によって取得された、眼の位置(実測位置)を示す位置データと、当該位置データを取得した順をメモリ7に記憶するように構成される。メモリ7には、所定の撮像時間間隔で撮像された複数の撮像画像それぞれに基づく眼の実測位置が順次記憶される。メモリ7には、当該実測位置に眼が位置した順を合わせて記憶してよい。所定の撮像時間間隔は、カメラの性能及び設計により適宜設定されうる、一の撮像画像と、当該一の撮像画像とが撮像される時間の間隔である。
(フィルタリング処理)
コントローラ8は、メモリ7に記憶されている位置データを、例えば、ローパスフィルタを用いてフィルタリングするように構成されうる。コントローラ8は、眼の位置の単位時間当たりの変化量が大きい位置データをフィルタリングしうる。コントローラ8は、眼の位置の検出精度が低い位置データから実効的な位置データをフィルタリングにより抽出しうる。コントローラ8は、予測関数を算出する際に、当該予測関数の精度をフィルタリングによって高めうる。コントローラ8は、時刻に対する変化が小さい、具体的には、位置の変化の周波数が所定値より低い位置データのみを抽出するようにフィルタリングしてよい。所定値は、実験等により定められた、所望の精度を実現するために要求される位置の変化の周波数の最大値である。
(予測処理(予測関数の算出))
コントローラ8は、メモリ7に記憶されている複数の位置データを用いて、未来の位置を予想位置として出力するように構成される。ここでいう未来とは、当該メモリ7に記憶された複数の位置データに対する未来をいう。コントローラ8は、ローパスフィルタを用いてフィルタリング処理された複数の位置データを用いうる。コントローラ8は、新しい複数の位置情報を用いて予測位置を出力するように構成されうる。コントローラ8は、メモリ7に記憶されている位置データのうち、例えば、記憶時期の新しい複数の位置データと、表示への反映時間とに基づいて予測関数を算出するように構成されうる。コントローラ8は、記憶時期の新しさを撮像時刻に基づいて判断するように構成されうる。コントローラ8は、眼の実測位置と、取得部3によって位置データが取得された取得時刻と、予め実験等により見込まれている所定の反映時間とに基づいて、予測関数を算出するように構成されうる。
予測関数は、実測位置と当該実測の撮像タイミングとの複数のペアをフィッティングさせた関数としうる。予測関数は、この撮像タイミングとして撮像時刻を採用しうる。予測関数は、現時点に反映時間を加算した時刻における予測位置を出力するために用いられる。さらに具体的には、コントローラ8は、取得時刻から反映時間を減じた時刻が実測位置に眼が位置していた時刻であるとして、眼の実測位置と、当該実測位置に眼が位置していた時刻とに基づいて、現時点より後の時刻と、当該時刻での眼の位置との関係を示す予測関数を算出するように構成される。
予測関数は、撮像レートで並ぶ複数の実測位置をフィッティングさせた関数としうる。予測関数は、反映時間に基づいて、現在時刻との対応をつけてよい。
図7に示す例では、コントローラ8は、最新の実測位置Pm0及び当該実測位置における眼の撮像時刻tm0と、ひとつ前の実測位置Pm1及び当該実測位置における眼の撮像時刻tm1と、ふたつ前の実測位置Pm2及び当該実測位置における眼の撮像時刻tm2と、に基づいて予測関数を算出するように構成される。最新の実測位置Pm0は、撮像時刻が最も新しい位置データが示す位置である。ひとつ前の実測位置Pm1は、最新の実測位置Pm0の撮像時刻の次に撮像時刻が新しい位置データが示す位置である。ふたつ前の実測位置Pm2は、ひとつ前の実測位置Pm1の撮像時刻の次に撮像時刻が新しい位置データが示す位置である。
コントローラ8は、上述したフィルタリングを行わなくてよい。この場合、位置データ記憶処理によってメモリ7に記憶されて、フィルタリング処理されていない複数の位置データを用いて、同じく予測位置を出力するように構成されうる。
(予測処理(予測位置の出力))
コントローラ8は、所定の出力時間間隔で、予測関数において、現時点に所定時間を加算した時刻に対応する、眼の予測位置を出力するように構成される。所定時間は、コントローラ8が表示制御を開始してから、表示パネル5に画像が表示されるまでに要すると見込まれる時間である表示処理時間に基づく時間である。所定の出力時間間隔は、所定の撮像時間間隔より短い時間間隔であってよい。
(画像表示処理)
コントローラ8は、表示パネル5が所定の周波数で画像を更新するように定められた表示時間間隔で、直近に出力された予測位置に基づく可視領域5aに対応して各サブピクセルPに画像を表示させる制御を開始するように構成される。コントローラ8による表示の制御がそれぞれ開始されてから表示処理時間後に、表示パネル5に予測位置に基づく画像
が表示され、更新される。
検出装置1は、例えば、20fpsで撮像するカメラを採用しうる。このカメラは、撮像時間間隔が50msとなる。コントローラ8は、撮像時間間隔と同じ出力時間間隔で撮像画像を出力するように構成されうる。コントローラ8は、撮像時間間隔と異なる出力時間間隔で出力するように構成されうる。出力時間間隔は、撮像時間間隔より短くしうる。出力時間間隔は、20msであってよい。この場合、コントローラ8は、20msに1回(すなわち50sps(samples per second)で)、予測位置を出力する。コントローラ8は、撮像時間間隔より短い時間間隔で出力される眼の予測位置に基づいて画像を表示することができる。したがって、3次元表示装置2は、眼の位置のより細かな変化に対応した3次元画像を利用者に提供しうる。
出力時間間隔は、表示パネル5に表示させる画像を更新する表示時間間隔より短くてよい。例えば、コントローラ8が60Hz(Hertz)で表示パネル5の画像を更新させる、すなわち、表示時間間隔が約16.7msである場合、出力時間間隔は、2msであってよい。この場合、コントローラ8は、2msに1回(すなわち500sps)、予測位置を出力する。コントローラ8は、前回に画像を表示させた時点よりも、表示時刻に近い時点での左眼および右眼の位置に基づいて画像を表示させることができる。したがって、3次元表示装置2は、眼の位置の変化によって、利用者が適切に3次元画像を視認し難くなることをさらに低減させることができる。
(評価処理)
コントローラ8は、予測関数を評価し、当該評価に基づいて修正してよい。具体的には、コントローラ8は、予測関数に基づいて出力された眼の予測位置と、当該予測位置に対応する、実際に撮像された撮像画像から検出された眼の実測位置とを比較してよい。コントローラ8は、記録された撮像時刻に基づいて、予測位置と実測位置とを対応させうる。コントローラ8は、撮像時間間隔に基づいて、予測位置と実測位置とを対応させうる。コントローラ8は、比較の結果に基づいて予測関数を修正してよい。コントローラ8は、以降の予測処理において、修正された予測関数を用いて眼の位置を出力し、当該修正後の予測関数を用いた眼の予測位置に基づいて表示パネル5に画像を表示させてよい。
続いて、図8から図10のフローチャートを参照して、本実施形態の3次元表示システム10の動作について説明する。まず、図8のフローチャートを参照して、本実施形態の検出装置1の動作について説明する。
まず、検出装置1は、カメラによって撮像された1の撮像画像を取得する(ステップS11)。
ステップS11で、1の撮像画像が取得されると、検出装置1は、取得された1の撮像画像に基づいて、眼の1の位置を検出する(ステップS12)。
ステップS12で、眼の1の位置が検出されると、検出装置1は、当該1の位置を示す位置データを3次元表示装置2に送信する(ステップS13)。
ステップ13で位置データが送信されると、検出装置1は、終了指示が入力されたか否かを判定する(ステップS14)。
ステップS14で、終了指示が入力されたと判定されると、検出装置1は、処理を終了する。ステップS14で、終了指示が入力されていないと判定されると、検出装置1は、ステップS11に戻って、以降ステップS11~S13を繰り返す。
次に、図9および図10のフローチャートを参照して、本実施形態の3次元表示装置2の動作について説明する。まず、図9のフローチャートを参照して、3次元表示装置2の予測関数生成処理における動作について説明する。
3次元表示装置2のコントローラ8は、取得部3によって位置データが受信されたか否かを判定する(ステップS21)。
ステップS21で、位置データが受信されていないと判定されると、コントローラ8は、ステップS21に戻る。ステップS21で、位置データが受信されたと判定されると、コントローラ8は、位置データをメモリ7に記憶させる(ステップS22)。
コントローラ8は、メモリ7に記憶された位置データをフィルタリングする(ステップS23)。
コントローラ8は、フィルタリングされた後の位置データに基づいて、予測関数を生成する(ステップS24)。
コントローラ8は、再び、取得部3によって位置データが受信されたか否かを判定する(ステップS25)。
ステップS25で、位置データが受信されていないと判定されると、コントローラ8は、ステップS25に戻る。ステップS25で、位置データが受信されたと判定されると、コントローラ8は、位置データをメモリ7に記憶させる(ステップS26)。
コントローラ8は、メモリ7に記憶された位置データをフィルタリングする(ステップS27)。
コントローラ8は、フィルタリングされた位置データが示す実測位置のうち、追って詳細に説明する表示処理において、画像を表示した表示時刻に撮像された眼の位置を示す位置データが示す眼の実測位置を用いて予測関数を修正する(ステップS28)。
コントローラ8は、予測関数生成処理の終了指示が入力されたか否かを判定する(ステップS29)。
ステップS29で、予測関数生成処理の終了指示が入力されたと判定されると、コントローラ8は、予測関数生成処理を終了する。ステップS29で、予測関数生成処理の終了指示が入力されていないと判定されると、コントローラ8は、ステップS21に戻る。
コントローラ8は、ステップS23及びステップS27の1つ以上を行わなくてよい。コントローラ8は、処理の開始から終了までの繰り返しにおいて、ステップS27を行ったり、行わなかったりしてよい。
次に、図10のフローチャートを参照して、3次元表示装置2の画像表示処理の動作について説明する。
コントローラ8は、出力時間間隔で、前述した予測関数生成処理において、直近に予測または修正された予測関数に基づいて予測位置を出力する(ステップS31)。
コントローラ8は、表示時間間隔で、直近に出力された予測位置に基づいて表示画像を変更し、当該変更後の画像を表示パネル5に表示させる(ステップS32)。
コントローラ8は、画像表示処理の終了指示が入力されたか否かを判定する(ステップS33)。
ステップS33で、画像表示処理の終了指示が入力されたと判定されると、コントローラ8は、画像表示処理を終了する。ステップS33で、画像表示処理の終了指示が入力されていないと判定されると、コントローラ8は、ステップS31に戻る。
以上説明したように、本実施形態の3次元表示装置2は、メモリ7に記憶された位置データに基づいて、現在時刻より未来の表示時刻における眼の予測位置を出力し、予測された眼の位置に基づいて、表示パネルの各サブピクセルPに視差画像を表示させる。このため、従来のように、撮像された撮像画像に基づいて検出された眼の位置が取得された時点で、当該位置に基づいて画像を表示する制御を開始するより、表示時刻に近い時点での眼の位置に基づいて画像を表示することができる。したがって、3次元表示装置2は、利用者の眼の位置が変化した場合も、利用者が3次元画像を視認し難くなることを低減することができる。
本実施形態の3次元表示装置2は、メモリ7に記憶された位置データに基づいて、未来の表示時刻と、眼の位置との関係を示す予測関数を算出し、予測関数に基づいて、眼の予測位置を出力する。3次元表示装置2は、カメラの撮像時刻によらないで眼の予測位置を出力することができる。
本実施形態の3次元表示装置2は、撮像時間間隔と異なる出力時間間隔で、予測関数に基づいて眼の予測位置を出力しうる。3次元表示装置2は、カメラの撮像時間間隔によらない出力時間間隔で眼の予測位置を出力することができる。
本実施形態の3次元表示装置2は、撮像時間間隔より短い出力時間間隔で、予測関数に基づいて眼の予測位置を出力しうる。3次元表示装置2は、撮像時間間隔より短い時間間隔で生じる眼の位置の変化に応じた3次元画像を提供しうる。
本実施形態の3次元表示装置2は、予測位置と実測位置との比較によって、予測関数を修正する。3次元表示装置2は、都度修正された予測関数に基づいて適切に眼の予測位置を出力することができる。3次元表示装置2は、適切な予測位置に基づいて画像を表示させることができる。3次元表示装置2は、眼の位置の変化によって、利用者が適切に3次元画像を視認し難くなることを低減させることができる。
検出装置1は、例えば、環境光の状態、または利用者の眼とカメラとの間の光路上に位置する障害物の影響等により、眼の位置を検出できないことがある。取得部3は、検出装置1が眼の位置を検出できなかった場合に、位置データの取得に失敗することがある。本実施形態の3次元表示装置2では、コントローラ8が以降で説明する処理を行うことによって、取得部3が位置データの取得に失敗した場合であっても、予測関数の精度の低下を低減し、利用者が適切に3次元画像を視認し難くなることを低減させることができる。
(予測処理(現在時刻の予測位置の出力))
コントローラ8は、取得部3が位置データの取得に失敗すると、メモリ7に記憶された複数の位置データを用いて、現在時刻の予測位置を出力するように構成されうる。コントローラ8は、メモリ7に記憶された複数の位置データを用いて、現在時刻における眼の位置を予測するための予測関数を算出するように構成されうる。現在時刻における眼の位置を予測するための予測関数は、第1予測関数と称されうる。コントローラ8は、第1予測関数に基づいて、現在時刻の予測位置を出力するように構成されうる。
コントローラ8は、第1予測関数を算出するにあたって、ローパスフィルタを用いてフィルタリング処理された複数の位置データを用いうる。コントローラ8は、新しい複数の位置情報を用いて予測位置を出力するように構成されうる。コントローラ8は、メモリ7に記憶されている位置データのうち、例えば、記憶時期の新しい複数の位置データと、表示への反映時間とに基づいて第1予測関数を算出するように構成されうる。コントローラ8は、記憶時期の新しさを撮像時刻に基づいて判断するように構成されうる。コントローラ8は、眼の実測位置と、取得部3によって位置データが取得された取得時刻と、予め実験等により見込まれている所定の反映時間とに基づいて、第1予測関数を算出するように構成されうる。
コントローラ8は、取得部3が位置データを取得した場合に、当該位置データと、メモリ7に記憶された複数の位置データのうち、記憶時期が最も新しい位置データとを比較するように構成されうる。コントローラ8は、2つの位置データが同じ値を示す位置データである場合に、取得部3が位置データの取得に失敗したと判定しうる。言い換えれば、コントローラ8は、取得部3が同じ値を示す位置データを連続して取得した場合に、取得部3が位置データの取得に失敗したと判断するように構成されうる。ここでいう同じ値を示す位置データとは、3次元空間における3つの座標値が完全に一致する2つの位置データであってよい。同じ値を示す位置データとは、3次元空間における3つの座標値の差分の和が閾値未満である2つの位置データであってよいし、3次元空間における3つの座標値の差分の最大値が閾値未満である2つの位置データであってよい。閾値は、予めの実験等によって定められてよい。
コントローラ8は、取得部3が同じ値を示す位置データを連続して取得した場合、2つ目の位置データ、すなわち、連続して取得した2つの位置データのうち取得時刻が新しい位置データを破棄するように構成されうる。コントローラ8は、連続して取得した2つの位置データのうち取得時刻が古い位置データを含む、複数の位置データに基づいて、現在時刻の予測位置を出力するように構成されうる。
(予測処理(未来時刻の予測位置の出力))
コントローラ8は、現在時刻の予測位置を含む複数の位置データを用いて、未来時刻における眼の予測位置を出力するように構成される。ここでいう未来時刻とは、現在時刻より後の時刻をいう。コントローラ8は、メモリ7に記憶された複数の位置データを用いて、現在時刻における眼の位置を予測するための予測関数を算出するように構成されうる。未来時刻における眼の位置を予測するための予測関数は、第2予測関数と称されうる。コントローラ8は、第2予測関数に基づいて、未来時刻の予測位置を出力するように構成されうる。
コントローラ8は、第2予測関数を算出するにあたって、ローパスフィルタを用いてフィルタリング処理された複数の位置データを用いうる。コントローラ8は、新しい複数の位置情報を用いて予測位置を出力するように構成されうる。コントローラ8は、メモリ7に記憶されている位置データのうち、例えば、記憶時期の新しい複数の位置データと、表示への反映時間とに基づいて第2予測関数を算出するように構成されうる。コントローラ8は、記憶時期の新しさを撮像時刻に基づいて判断するように構成されうる。コントローラ8は、眼の実測位置と、取得部3によって位置データが取得された取得時刻と、予め実験等により見込まれている所定の反映時間とに基づいて、第2予測関数を算出するように構成されうる。第2予測関数は、第1予測関数と同じ関数であってよいし、第1予測関数と異なる関数であってよい。
(画像表示処理)
コントローラ8は、表示パネル5が所定の周波数で画像を更新するように定められた表示時間間隔で、直近に出力された予測位置に基づく可視領域5aに対応して各サブピクセルPに画像を表示させる制御を開始するように構成される。コントローラ8による表示の制御がそれぞれ開始されてから表示処理時間後に、表示パネル5に予測位置に基づく画像が表示され、更新される。
(評価処理)
コントローラ8は、第2予測関数を評価し、当該評価に基づいて、第2予測関数を修正してよい。コントローラ8は、第2予測関数に基づいて出力された眼の予測位置と、当該予測位置に対応する、実際に撮像された撮像画像から検出された眼の実測位置とを比較してよい。コントローラ8は、記録された撮像時刻に基づいて、予測位置と実測位置とを対応させうる。コントローラ8は、撮像時間間隔に基づいて、予測位置と実測位置とを対応させうる。コントローラ8は、比較の結果に基づいて第2予測関数を修正してよい。コントローラ8は、以降の予測処理において、修正された第2予測関数を用いて眼の位置を出力し、当該修正後の第2予測関数を用いた眼の予測位置に基づいて表示パネル5に画像を表示させてよい。
続いて、図11のフローチャートを参照して、3次元表示装置2が行う予測関数生成処理および画像表示処理の他の例について説明する。コントローラ8は、図11のフローチャートに示す処理を、検出装置1のカメラの撮像時間間隔より短い時間間隔ごとに実行しうる。
3次元表示装置2のコントローラ8は、取得部3によって位置データが受信されたか否かを判定する(ステップS41)。
ステップS41で、位置データが受信されていないと判定されると、コントローラ8は、メモリ7に記憶されている複数の位置データを用いて、第1予測関数を算出し、第1予測関数に基づいて、現在時刻の予測位置を出力する(ステップS42)。
コントローラ8は、現在時刻の予測位置を含む、複数の位置データに基づいて、第2予測関数を算出し、第2予測関数に基づいて、未来時刻の予測位置を出力する(ステップS43)。
コントローラ8は、表示時間間隔で、未来時刻の予測位置に基づいて、表示画像を変更し、当該変更後の画像を表示パネル5に表示させる(ステップS44)。
コントローラ8は、画像表示処理の終了指示が入力されたか否かを判定する(ステップS45)。
ステップS45で、画像表示処理の終了指示が入力されたと判定されると、コントローラ8は、画像表示処理を終了する。ステップS45で、画像表示処理の終了指示が入力されていないと判定されると、コントローラ8は、ステップS43に戻る。
ステップS41で、位置データが受信されていると判定されると、コントローラ8は、同じ値を示す位置データを連続して取得したか否かを判定する(ステップS46)。ステップS46の判定を行うにあたって、コントローラ8は、受信した位置データと、メモリ7に記憶された複数の位置データのうち、撮像時刻が最も新しい位置データとを比較する。
ステップS46で、同じ値を示す位置データを連続して取得したと判定されると、コントローラ8は、連続して取得した2つ目の位置データを破棄し(ステップS47)、ステップS42に進む。
ステップS46で、同じ値を示す位置データを連続して取得していないと判定されると、コントローラ8は、図9に示したフローチャートのステップS22に進む。
以上説明したように、本実施形態の3次元表示装置2は、取得部3が位置データの取得に失敗した場合、メモリ7に記憶されている複数の位置データに基づいて、現在時刻の眼の予測位置を算出し、当該予測位置を現在時刻の位置データとして出力する。このため、3次元表示装置2は、検出装置1が眼の位置を検出できなかった場合に、現在時刻の眼の位置を精度よく予測することができる。
3次元表示装置2は、現在時刻の予測位置を含む、複数の位置データに基づいて、未来時刻の眼の予測位置を出力し、当該予測位置に基づいて、表示パネル5の各サブピクセルに視差画像を表示させる。このため、3次元表示装置2は、検出装置1が眼の位置を検出できなかった場合であっても、未来時刻における眼の位置を精度よく予測することができる。3次元表示装置2は、未来時刻における眼の予測位置に基づいて画像を表示させることができるため、利用者が3次元画像を視認し難くなることを低減することができる。
本実施形態では、コントローラ8は、検出装置1がカメラから取得した撮像画像および当該撮像画像の撮像時刻に基づいて、当該撮像時刻より後の時刻における眼の位置を予測する。したがって、3次元表示装置2は、コントローラ8と検出装置1とが互いに非同期で動作するように構成されてよい。言い換えれば、3次元表示装置2は、コントローラ8および検出装置1が互いに分離したシステムであるように構成されてよい。これにより、3次元表示装置2は、検出装置1およびコントローラ8に、それぞれが行う処理に適した周波数のクロック信号を供給することができるため、検出装置1およびコントローラ8を高速かつ正常に動作させることが可能となる。コントローラ8と検出装置1とは、同じクロック信号に基づいて非同期に動作してよいし、別個のクロック信号に基づいて非同期に動作してよい。コントローラ8および検出装置1は、一方が第1クロック信号に同期して動作し、他方が第1クロック信号を分周した第2クロック信号に同期して動作してよい。
本実施形態では、コントローラ8が、生成処理および合成処理を実行するように構成される。生成処理は、表示パネル5に表示する左眼画像および右眼画像を生成する処理である。合成処理は、生成された左眼画像および右眼画像を、利用者によって視認される視差画像として合成する処理である。
生成処理は、アクティブエリアAに含まれる複数の表示領域に、左眼画像および右眼画像を配置する配置処理を含みうる。生成処理は、利用者が視認する視差画像における歪を補正する補正処理を含みうる。コントローラ8は、眼の第1予測位置に基づいて、生成処理を実行する。第1予測位置は、予測処理を開始する時刻より未来の時刻における眼の予測位置であってよい。コントローラ8は、メモリ7に記憶された位置データに基づいて、第1予測位置を算出し、算出した第1予測位置に基づいて、生成処理を実行するように構成されてよい。
合成処理は、眼の第2予測位置に基づいて、左可視領域5aLに含まれる複数のサブピクセルPに左眼画像を表示させ、左減光領域5bLに含まれる複数のサブピクセルPに右眼画像を表示させる処理である。コントローラ8は、眼の第2予測位置に基づいて、合成処理を実行する。第2予測位置は、第1予測位置とは異なっている。第2予測位置は、合成処理を開始する時刻より未来の時刻における眼の予測位置であってよい。コントローラ8は、メモリ7に記憶された位置データに基づいて、第2予測位置を算出し、算出した第2予測位置に基づいて、合成処理を実行するように構成されてよい。
コントローラ8は、第1予測位置および第2予測位置を算出する際、図9に示す予測関数生成処理によって生成される予測関数を用いてよい。これにより、3次元表示装置2は、眼の位置の細かな変化に対応して、生成処理および合成処理を実行することができ、その結果、利用者に視差画像を適切に視認させることが可能となる。コントローラ8は、第1予測位置および第2予測位置を算出する際、図11のステップS41~ステップS43に示す予測関数生成処理によって生成される予測関数を用いてよい。これにより、3次元表示装置2は、取得部3が位置データの取得に失敗した場合であっても、眼の位置の細かな変化に対応して、生成処理および合成処理を実行することができ、その結果、利用者に視差画像を適切に視認させることが可能となる。
コントローラ8は、第1予測位置を第1タイミングで取得し、第2予測位置を第2タイミングで取得するように構成されてよい。この場合、第1予測位置を生成処理の実行に適した予測位置とし、第2予測位置を合成処理の実行に適した予測位置とすることが可能となる。このため、3次元表示装置2は、眼の位置の細かな変化に対応して、生成処理および合成処理を実行することができる。その結果、3次元表示装置2は、利用者に視差画像を適切に視認させることが可能となる。第1タイミングは、コントローラ8が生成処理を開始する時刻であってよい。第2タイミングは、コントローラ8が合成処理を開始する時刻であってよい。
第1予測位置は、第1タイミングから表示パネル5に視差画像を表示するまでの第1期間に相当してよい。言い換えれば、第1予測位置は、第1期間に実行される生成処理で用いられる予測位置であってよい。第1予測位置は、第1タイミングから第1期間が経過した時刻に眼が位置すると予測される位置であるともいえる。3次元表示装置2は、第1予測位置が第1期間に相当する予測位置であることから、眼の位置の細かな変化に対応して、左眼画像および右眼画像を生成することができる。その結果、3次元表示装置2は、利用者に視差画像を適切に視認させることが可能となる。
第1期間は、生成処理の実行に要する第1時間、および、合成処理の実行に要する第2時間を含みうる。第1期間は、コントローラ8が眼の予測位置を出力する出力時間間隔より長くてよい。第1時間は、第2時間より長くてよい。
第2予測位置は、第2タイミングから表示パネルに視差画像を表示するまでの第2期間に相当してよい。言い換えれば、第2予測位置は、第2期間に実行される合成処理で用いられる予測位置であってよい。第2予測位置は、第2タイミングから第2期間が経過した時刻に眼が位置すると予測される位置であるともいえる。3次元表示装置2は、第2予測位置が第2期間に相当する予測位置であることから、眼の位置の細かな変化に対応して、視差画像を合成することができる。その結果、3次元表示装置2は、利用者に視差画像を適切に視認させることが可能となる。
第2期間は、合成処理の実行に要する第2時間を含みうる。第1期間と第2期間とは、異なっていてよい。第2期間は、第1期間より短くてよい。第2期間は、コントローラ8が眼の予測位置を出力する出力時間間隔より長くてよい。
コントローラ8が第1予測位置を取得する第1タイミングと、コントローラ8が第2予測位置を取得する第2タイミングとは、異なってよいし、同じであってよい。第1タイミングと第2タイミングとが異なる場合、第1予測位置の出力に用いられる予測関数と第2予測関数の出力に用いられる予測関数とが異なることから、第1予測位置と第2予測位置とは互いに異なる。第1タイミングと第2タイミングとが同じである場合、第1期間と第2期間とが異なることから、第1予測位置と第2予測位置とは互いに異なる。
コントローラ8は、生成処理と合成処理とを異なる処理単位で実行するように構成されうる。コントローラ8は、生成処理および合成処理を、それぞれの処理に適した処理単位で実行するように構成されてよい。これにより、3次元表示装置2は、利用者に視差画像を適切に視認させることが可能となる。コントローラ8は、生成処理をフレーム単位で実行するように構成されうる。コントローラ8は、生成処理をフレームの複数の領域ごとに実行するように構成されうる。コントローラ8は、合成処理をライン単位で実行するように構成されうる。コントローラ8は、合成処理を1つまたは複数のラインごとに実行するように構成されうる。
(歪の補正処理)
次に、生成処理に含まれうる補正処理について説明する。以降の説明において、眼の予測位置を、単に、眼の位置と称する場合がある。
図12に示すように、右眼および左眼の水平方向における位置はそれぞれ情報0~11で識別される。眼間距離Eが標準である場合の右眼の位置を識別する情報は、左眼の位置を識別する情報と同一に付されている。
メモリは、図13に示すように、眼間距離Eが標準である場合の左眼および右眼の位置と、左可視領域51aLおよび右可視領域51aRそれぞれに所定割合以上が含まれる左サブピクセルおよび右サブピクセルとの対応を示すテーブルを記憶している。図13に示す例では、列方向に眼の位置を識別する情報0~11が示され、行方向にはサブピクセルを識別する情報P1~P12が示されている。眼の位置を識別する情報は、インデックスまたは基準インデックスと称される。テーブルには、眼が各位置にあるときに、各サブピクセルが左サブピクセルであるか、右サブピクセルであるかが示されている。図13では、左サブピクセルに「左」が示され、右サブピクセルに「右」が示されている。図12を参照して説明したように、眼間距離Eが標準であるとき、左眼が「0」で示す位置にある場合、右眼は「0」で示す位置にある。この場合、図13に示す例では、サブピクセルP1~P6が左サブピクセルであり、サブピクセルP7~P12が右サブピクセルであることが示されている。左眼が「1」で示す位置にある場合、右眼は「1」で示す位置にある。この場合、サブピクセルP2~P7が左サブピクセルであり、P1、およびP8~P12が右サブピクセルであることが示されている。コントローラ8は、インデックス0~11のいずれかを選択する。コントローラ8は、選択したインデックスに対応する、サブピクセルを識別する情報P1~P12に基づいて、表示パネル5の表示面に表示する左眼画像および右眼画像の並びを規定する。
コントローラ8は、視差画像を表示パネル5に表示させる。表示パネル5は、複数の表示領域をアクティブエリアA内に有する。複数の表示領域の個々は複数の基準インデックスのいずれかが対応する。コントローラ8は、当該表示領域の基準インデックスを基準として、当該表示領域に表示する左眼画像および右眼画像を生成するように構成される。
視差画像の左眼画像および右眼画像の切り換えを、一つの座標を基準に固定して行う技術がある。しかしながら、3次元表示装置2がヘッドアップディスプレイに含まれる場合、利用者が視認する視差画像は、表示パネルから射出された画像光を利用者の眼に向かって伝播させるための反射装置に含まれるウインドシールドに起因する歪を含みうる。ヘッドアップディスプレイは、HUD(Head Up Display)とも称される。ウインドシールドは、空気抵抗を低減するために、鉛直方向に上方から俯瞰すると弧を描いており、ウインドシールドの反射面は、自由曲面となっている。HUDは、運転席側に位置しているため、左右の曲率が異なり、上下にも曲率が異なる。そのため、均一な面となっていない。光学的な水準からすると、曲率は左右、上下ともに製造上のばらつきが大きく、個体差も大きい。3次元表示装置2と利用者の眼との間の光路上に位置する光学素子(凹面鏡)を用いて、歪をある程度低減することができるが、利用者が視認する視差画像には歪が残っている。視差画像に残った歪は、視差画像の分離にも影響を与える。
生成処理は、利用者が視認する視差画像における歪を低減する補正処理を含みうる。補正処理では、視差画像の切り換えをおこなう単位を画面全体から画面の複数の表示領域で独立させる。各表示領域で原点が異なることは、原点を統一した際に、各表示領域の基準となるインデックスが異なることを意味する。これは、個々に異なる原点から、統一した原点まで移動させることによってインデックスが変化するため、統一した原点でのインデックスを基準とすることで原点を統一できるからである。要するに、画面を複数の表示領域に分けて、個々の表示領域で別々の基準インデックスを有し、当該基準インデックスを基準として視差画像の変更処理を行う、または画面を複数の表示領域に分けて、個々の表示領域で別々の切り換え原点を有し、当該原点からずれによって切り換えを行うことによって実現することができる。
アクティブエリアAは、例えば、第1表示領域および第2表示領域を含む。第1表示領域は、第1基準インデックスに対応しうる。第2表示領域は、第2基準インデックスに対応しうる。アクティブエリアAは、1つの基準インデックスが複数の表示領域に対応してよい。例えば、第1基準インデックスが、第1表示領域および第2表示領域に対応してよい。言い替えると、複数の基準インデックスの各々は、1または複数の表示領域に対応する。
基準インデックスは、例えば、図13に示される眼の位置になり、基準となる基準インデックスは0となる。図13の例では、第1表示領域および第2表示領域の各々は、12個のインデックス0~11;6~11,0~5が有るので、例えば、左眼をL、右眼をRとしたとき、LLLRRRRRRLLのような組み合わせの合成画像が生成される。本実施形態では、表示領域ごとに基準インデックスが変更され、第1表示領域F1では“0”、第2表示領域F2では“6”のように、表示領域ごとに独立した基準インデックスが設定される。眼の位置が移動した際、その移動を基準インデックスの変化として検出する。例えば、左眼の位置の移動量がサブピクセル3個分であれば、“+3”、右眼の位置の移動量がサブピクセル6個分であれば、“+6”となる。“+3”の場合には、第1表示領域の基準インデックスF1は“0”から“3”に変更され、第2表示領域の基準インデックスF2は“6”から“9”に変更される。また、左眼の位置の移動量が“+6”の場合には、第1表示領域の基準インデックスF1は“0”から“6”に変更され、第2表示領域の基準インデックスF2は“6”から“0”(12進数であるため、0に循環)に変更される。このとき、合成画像は、基準インデックス“0”はLLLRRRRRRLL、基準インデックス“3”はRRRRRRLLLLLL、基準インデックス“6”はRRRLLLLLLRRRとなる。
補正処理は、表示パネル5のアクティブエリアA内で分かれている複数の表示領域ごとに、複数の基準インデックスのいずれか、ならびに左眼および右眼の少なくとも一方の予測位置に基づいて、左眼画像および右眼画像の並びを変更する処理であってよい。複数の基準インデックスの各々は、複数の表示領域のいずれかに対応してよい。
補正処理は、表示パネル5のアクティブエリアA内で分かれている複数の表示領域の各々で、複数の切換え原点のいずれかを基準として左眼画像および右眼画像の並びを変更する処理であってよい。複数の切換え原点の各々は、複数の表示領域のいずれかに対応してよい。
補正処理は、左眼の予測位置に基づいて第1可視領域を決定し、右眼の予測位置に基づいて第2可視領域を決定する処理であってよい。
補正処理は、表示パネル5の画面に平行であって上下方向における左眼の予測位置に基づいて第1可視領域を決定し、上下方向における右眼の予測位置に基づいて第2可視領域を決定する処理であってよい。
取得部3は、利用者の左眼の位置を表示パネル5の画面に平行で、光学素子から適視距離にある面に投影した投影第1位置を左眼の位置とし、利用者の右眼の位置を面に投影した投影第2位置を右眼の位置として取得する構成としてよい。
本実施形態の3次元表示装置2によれば、画像光の投影面が反射部材の1つであるウインドシールドなどのフリーカーブの曲面であっても、眼の予測位置(第1予測位置)に基づいて、複数の表示領域ごとに基準インデックスを原点として曲面に応じて修正した左眼画像および右眼画像を生成することができる。その結果、3次元表示装置2は、利用者に歪のない適切な3次元画像を視認させることが可能となる。
本実施形態では、コントローラ8は、左眼の予測位置、および左眼から標準距離にある場合の右眼の予測位置と、サブピクセルに表示させるべき画像との対応を示すテーブルを用いて、左眼の予測位置に基づいて左サブピクセルを判定することができる。コントローラ8は、テーブルを用いて、右眼の予測位置に基づいて右サブピクセルを判定することができる。このため、コントローラ8は、眼の予測位置を示す情報を取得するたびに、眼の位置と、視差バリア6および表示パネル5の構成とに基づいて、左可視領域51aLおよび右可視領域51aRを演算する処理を行わなくてもよい。したがって、コントローラ8の処理負荷が軽減されうる。
上述の実施形態は代表的な例として説明したが、本発明の趣旨および範囲内で、多くの変更および置換ができることは当業者に明らかである。したがって、本発明は、上述の実施形態によって制限するものと解するべきではなく、特許請求の範囲から逸脱することなく、種々の変形および変更が可能である。例えば、実施形態および実施例に記載の複数の構成ブロックを1つに組合せたり、あるいは1つの構成ブロックを分割したりすることが可能である。
図14に示すように、3次元表示システム10は、HUD100に搭載されうる。HUD100は、3次元表示システム10と、光学部材110と、被投影面130を有する被投影部材120とを備える。HUD100は、3次元表示装置2から射出される画像光を、光学部材110を介して被投影部材120に到達させる。HUD100は、被投影部材120で反射させた画像光を、利用者の左眼および右眼に到達させる。つまり、HUD100は、破線で示される光路140に沿って、3次元表示装置2から利用者の左眼および右眼まで画像光を進行させる。利用者は、光路140に沿って到達した画像光を、虚像150として視認しうる。HUD100は、利用者の左眼および右眼の位置に応じて表示を制御することによって、利用者の動きに応じて立体視を提供しうる。
図15に示すように、HUD100は、移動体20に搭載されてよい。HUD100の構成の一部は、移動体20が備える他の装置または部品と兼用されてよい。例えば、移動体20は、ウインドシールドを被投影部材120として兼用してよい。HUD100の構成の一部として兼用される、該移動体20が備える他の装置または部品は、HUDモジュールと称されることがある。
表示パネル5としては、透過型の表示パネルに限られず、自発光型の表示パネル等他の表示パネルを使用することもできる。透過型の表示パネルは、液晶パネルの他に、MEMS(Micro Electro Mechanical Systems)シャッター式の表示パネルを含む。自発光型の表示パネルは、有機EL(electro-luminescence)、および無機ELの表示パネルを含む。表示パネル5として、自発光型の表示パネルを使用した場合、照射器4は不要となる。表示パネル5として、自発光型の表示パネルを使用した場合、パララックスバリア6は、表示パネル5の画像光が射出される側に位置する。
本開示における「移動体」には、車両、船舶、航空機を含む。本開示における「車両」には、自動車および産業車両を含むが、これに限られず、鉄道車両および生活車両、滑走路を走行する固定翼機を含めてよい。自動車は、乗用車、トラック、バス、二輪車、およびトロリーバス等を含むがこれに限られず、道路上を走行する他の車両を含んでよい。産業車両は、農業および建設向けの産業車両を含む。産業車両には、フォークリフト、およびゴルフカートを含むがこれに限られない。農業向けの産業車両には、トラクター、耕耘機、移植機、バインダー、コンバイン、および芝刈り機を含むが、これに限られない。建設向けの産業車両には、ブルドーザー、スクレーバー、ショベルカー、クレーン車、ダンプカー、およびロードローラを含むが、これに限られない。車両は、人力で走行するものを含む。なお、車両の分類は、上述に限られない。例えば、自動車には、道路を走行可能な産業車両を含んでよく、複数の分類に同じ車両が含まれてよい。本開示における船舶には、マリンジェット、ボート、タンカーを含む。本開示における航空機には、固定翼機、回転翼機を含む。
本開示における「時刻」は、協定世界時(Coordinated Universal Time;UTC)等の時刻としうるがこれに限られず、内部クロック等に基づくデバイス内での独自の時間を採用しうる。独自の時間は、複数の構成が同期した時刻に限られず、各構成の独自時刻を含みうる。独自の時間は、一部の構成で共通する時刻を含みうる。
1 検出装置
2 3次元表示装置
3 取得部
4 照射器
5 表示パネル
6 パララックスバリア
7 メモリ
8 コントローラ
10 3次元表示システム
20 移動体
51a 可視領域
51aL 左可視領域
51aR 右可視領域
51bL 左減光領域
51bL 右減光領域
61 減光部
62 透光部
100 ヘッドアップディスプレイ
110 光学部材
120 被投影部材
130 被投影面
140 光路
150 虚像
A アクティブエリア

Claims (18)

  1. 視差画像を表示して前記視差画像に対応する画像光を出射するように構成される表示パネルと、
    前記画像光の光線方向を規定するように構成される面を有するパララックスバリアと、
    撮像時間間隔で利用者の眼を撮像するように構成されるカメラから順次、取得した撮像画像に基づいて前記眼の位置を検出するように構成される検出装置から、前記眼の位置をそれぞれ示す複数の位置データを順次、取得するように構成される取得部と、
    前記取得部によって順次、取得された前記複数の位置データを記憶するように構成されるメモリと、
    前記メモリに記憶された前記複数の位置データに基づいて、現在時刻より後の時刻における眼の予測位置を出力し、前記予測位置に基づいて、前記表示パネルの各サブピクセルに前記視差画像を表示させるように構成されるコントローラと、
    を備え、
    前記コントローラは、
    現在時刻より後の未来時刻における眼の予測位置である第1予測位置に基づいて、表示する左眼画像および右眼画像を生成する生成処理を実行し、
    前記未来時刻における眼の予測位置である第2予測位置であって、前記第1予測位置の後に取得する第2予測位置に基づいて、前記左眼画像および前記右眼画像を視差画像として合成する合成処理を実行するように構成される、3次元表示装置。
  2. 請求項1に記載の3次元表示装置であって、
    前記コントローラは、
    前記第1予測位置を第1タイミングで取得し、
    前記第2予測位置を第2タイミングで取得するように構成される、3次元表示装置。
  3. 請求項2に記載の3次元表示装置であって、
    前記第1予測位置は、前記第1タイミングから第1期間が経過した時刻に眼が位置すると予測される位置である、3次元表示装置。
  4. 請求項3に記載の3次元表示装置であって、
    前記第1期間は、前記生成処理の実行に要する第1時間、および、前記合成処理の実行に要する第2時間を含む、3次元表示装置。
  5. 請求項2または3に記載の3次元表示装置であって、
    前記第2予測位置は、前記第2タイミングから第2期間が経過した時刻に眼が位置すると予測される位置である、3次元表示装置。
  6. 請求項5に記載の3次元表示装置であって、
    前記第2期間は、前記合成処理の実行に要する第2時間を含む、3次元表示装置。
  7. 請求項2から6のいずれか1項に記載の3次元表示装置であって、
    前記第1タイミングは、前記第2タイミングと異なる、3次元表示装置。
  8. 請求項2から6のいずれか1項に記載の3次元表装置であって、
    前記第1タイミングは、前記第2タイミングと同じである、3次元表示装置。
  9. 請求項1から8のいずれか1項に記載の3次元表示装置であって、
    前記コントローラは、前記生成処理および前記合成処理を異なる処理単位で実行するように構成される、3次元表示装置。
  10. 請求項9に記載の3次元表示装置であって、
    前記コントローラは、前記生成処理をフレーム単位で実行し、前記合成処理を1または複数のライン単位で実行する、3次元表示装置。
  11. 請求項1から10のいずれか1項に記載の3次元表示装置であって、
    前記コントローラは、前記生成処理として、補正処理を含む処理を実行するように構成され、
    前記補正処理は、前記視差画像を表示する際の歪を補正する処理である、3次元表示装置。
  12. 請求項1から11のいずれか1項に記載の3次元表示装置であって、
    前記コントローラは、前記メモリに記憶された前記位置データに基づいて、現時点より後の時刻と、当該時刻での眼の位置との関係を示す予測関数を算出し、前記予測関数に基づいて、前記眼の予測位置を出力するように構成される、3次元表示装置。
  13. 請求項12に記載の3次元表示装置であって、
    前記コントローラは、前記撮像時間間隔より短い出力時間間隔で、前記予測関数に基づいて前記眼の予測位置を出力し、当該予測位置に基づいて、前記表示パネルの各サブピクセルに視差画像を表示させるように構成される、3次元表示装置。
  14. 請求項12または13に記載の3次元表示装置であって、
    前記コントローラは、前記表示パネルに表示させる画像を更新する表示時間間隔より短い出力時間間隔で、前記予測関数に基づいて、前記予測位置を出力するように構成される、3次元表示装置。
  15. 請求項12から14のいずれか1項に記載の3次元表示装置であって、
    前記コントローラは、前記予測位置に基づく画像を表示した表示時刻に前記カメラが前記眼を撮像した撮像画像に基づいて検出された眼の位置に基づいて、前記予測関数を修正するように構成される、3次元表示装置。
  16. 検出装置と、3次元表示装置とを備える3次元表示システムであって、
    前記検出装置は、撮像時間間隔で利用者の眼を撮像するカメラから順次、取得した撮像画像に基づいて前記眼の位置を検出し、
    前記3次元表示装置は、視差画像を表示して前記視差画像に対応する画像光を出射するように構成される表示パネルと、前記画像光の光線方向を規定するように構成される面を有するパララックスバリアと、撮像時間間隔で利用者の眼を撮像するように構成されるカメラから順次、取得した撮像画像に基づいて前記眼の位置を検出するように構成される検出装置から、前記眼の位置をそれぞれ示す複数の位置データを順次、取得するように構成される取得部と、前記取得部によって順次、取得された前記複数の位置データを記憶するように構成されるメモリと、前記メモリに記憶された前記複数の位置データに基づいて、現在時刻より後の時刻における眼の予測位置を出力し、前記予測位置に基づいて、前記表示パネルの各サブピクセルに前記視差画像を表示させるように構成されるコントローラと、を備え、
    前記コントローラは、
    現在時刻より後の未来時刻における眼の予測位置である第1予測位置に基づいて、表示する左眼画像および右眼画像を生成する生成処理を実行し、
    前記未来時刻における眼の予測位置である第2予測位置であって、前記第1予測位置の後に取得する第2予測位置に基づいて、前記左眼画像および前記右眼画像を視差画像として合成する合成処理を実行するように構成される、3次元表示システム。
  17. 3次元表示システムと、被投影部材とを備えるヘッドアップティスプレイであって、
    前記3次元表示システムは、検出装置と、3次元表示装置とを含み、
    前記検出装置は、撮像時間間隔で利用者の眼を撮像するカメラから順次、取得した撮像画像に基づいて前記眼の位置を検出し、
    前記3次元表示装置は、視差画像を表示して前記視差画像に対応する画像光を出射するように構成される表示パネルと、前記画像光の光線方向を規定するように構成される面を有するパララックスバリアと、撮像時間間隔で利用者の眼を撮像するように構成されるカメラから順次、取得した撮像画像に基づいて前記眼の位置を検出するように構成される検出装置から、前記眼の位置をそれぞれ示す複数の位置データを順次、取得するように構成される取得部と、前記取得部によって順次、取得された前記複数の位置データを記憶するように構成されるメモリと、前記メモリに記憶された前記複数の位置データに基づいて、現在時刻より後の時刻における眼の予測位置を出力し、前記予測位置に基づいて、前記表示パネルの各サブピクセルに前記視差画像を表示させるように構成されるコントローラと、を有し、
    前記コントローラは、
    現在時刻より後の未来時刻における眼の予測位置である第1予測位置に基づいて、表示する左眼画像および右眼画像を生成する生成処理を実行し、
    前記未来時刻における眼の予測位置である第2予測位置であって、前記第1予測位置の後に取得する第2予測位置に基づいて、前記左眼画像および前記右眼画像を視差画像として合成する合成処理を実行するように構成され、
    前記被投影部材は、前記3次元表示装置から射出された前記画像光を、利用者の眼の方向に反射させる、ヘッドアップディスプレイ。
  18. 3次元表示システムと、被投影部材とを含むヘッドアップティスプレイを備える移動体であって、
    前記3次元表示システムは、検出装置と、3次元表示装置とを含み、
    前記検出装置は、撮像時間間隔で利用者の眼を撮像するカメラから順次、取得した撮像画像に基づいて前記眼の位置を検出し、
    前記3次元表示装置は、視差画像を表示して前記視差画像に対応する画像光を出射するように構成される表示パネルと、前記画像光の光線方向を規定するように構成される面を有するパララックスバリアと、撮像時間間隔で利用者の眼を撮像するように構成されるカメラから順次、取得した撮像画像に基づいて前記眼の位置を検出するように構成される検出装置から、前記眼の位置をそれぞれ示す複数の位置データを順次、取得するように構成される取得部と、前記取得部によって順次、取得された前記複数の位置データを記憶するように構成されるメモリと、前記メモリに記憶された前記複数の位置データに基づいて、現在時刻より後の時刻における眼の予測位置を出力し、前記予測位置に基づいて、前記表示パネルの各サブピクセルに前記視差画像を表示させるように構成されるコントローラと、を有し、
    前記コントローラは、
    現在時刻より後の未来時刻における眼の予測位置である第1予測位置に基づいて、表示する左眼画像および右眼画像を生成する生成処理を実行し、
    前記未来時刻における眼の予測位置である第2予測位置であって、前記第1予測位置の後に取得する第2予測位置に基づいて、前記左眼画像および前記右眼画像を視差画像として合成する合成処理を実行するように構成され、
    前記被投影部材は、前記3次元表示装置から射出された前記画像光を、利用者の眼の方向に反射させる、移動体。
JP2021551264A 2019-09-30 2020-09-28 3次元表示装置、3次元表示システム、ヘッドアップディスプレイ、および移動体 Active JP7325521B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019178949 2019-09-30
JP2019178949 2019-09-30
PCT/JP2020/036690 WO2021065826A1 (ja) 2019-09-30 2020-09-28 3次元表示装置、3次元表示システム、ヘッドアップディスプレイ、および移動体

Publications (2)

Publication Number Publication Date
JPWO2021065826A1 JPWO2021065826A1 (ja) 2021-04-08
JP7325521B2 true JP7325521B2 (ja) 2023-08-14

Family

ID=75336558

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021551264A Active JP7325521B2 (ja) 2019-09-30 2020-09-28 3次元表示装置、3次元表示システム、ヘッドアップディスプレイ、および移動体
JP2021551263A Active JP7325520B2 (ja) 2019-09-30 2020-09-28 3次元表示装置、3次元表示システム、ヘッドアップディスプレイ、および移動体

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021551263A Active JP7325520B2 (ja) 2019-09-30 2020-09-28 3次元表示装置、3次元表示システム、ヘッドアップディスプレイ、および移動体

Country Status (5)

Country Link
US (2) US20220295043A1 (ja)
EP (2) EP3840374B1 (ja)
JP (2) JP7325521B2 (ja)
CN (2) CN112956188B (ja)
WO (2) WO2021065826A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112929640A (zh) * 2019-12-05 2021-06-08 北京芯海视界三维科技有限公司 多视点裸眼3d显示装置、显示方法、显示屏校正方法
KR20230046566A (ko) 2021-09-30 2023-04-06 삼성전자주식회사 룩 다운 앵글의 변화에 대한 시차 광학 소자의 캘리브레이션 장치 및 방법

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010039556A (ja) 2008-07-31 2010-02-18 Canon Inc システム
JP2012080439A (ja) 2010-10-05 2012-04-19 Casio Comput Co Ltd 撮像装置及び方法、並びにプログラム
JP2014195141A (ja) 2013-03-28 2014-10-09 Japan Display Inc 表示装置
JP2015008394A (ja) 2013-06-25 2015-01-15 Kddi株式会社 情報端末装置
JP2016116221A (ja) 2014-12-10 2016-06-23 三星電子株式会社Samsung Electronics Co.,Ltd. 3d表示のための装置及び方法
JP2019082671A (ja) 2017-10-31 2019-05-30 公立大学法人大阪市立大学 3次元表示装置、3次元表示システム、ヘッドアップディスプレイおよび3次元表示装置設計方法
WO2019171557A1 (ja) 2018-03-08 2019-09-12 塁 佐藤 画像表示システム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2758023B2 (ja) * 1989-05-17 1998-05-25 日本放送協会 画像表示装置
JP3668116B2 (ja) 1999-09-24 2005-07-06 三洋電機株式会社 眼鏡無し立体映像表示装置
WO2011132422A1 (ja) * 2010-04-21 2011-10-27 パナソニック株式会社 立体映像表示装置、立体映像表示方法
KR101729556B1 (ko) * 2010-08-09 2017-04-24 엘지전자 주식회사 입체영상 디스플레이 시스템, 입체영상 디스플레이 장치 및 입체영상 디스플레이 방법, 그리고 위치 추적 장치
US20120200676A1 (en) * 2011-02-08 2012-08-09 Microsoft Corporation Three-Dimensional Display with Motion Parallax
EP2990085B1 (en) * 2014-08-29 2022-08-10 Nintendo Co., Ltd. Method and apparatus for estimating the value of an input in presence of a perturbing factor
US10607417B2 (en) * 2016-06-08 2020-03-31 Sony Interactive Entertainment Inc. Image generating apparatus and image generating method
CN110073659B (zh) * 2016-12-07 2021-10-12 京瓷株式会社 图像投影装置
EP3554069B1 (en) * 2016-12-07 2021-09-15 Kyocera Corporation Image projection device, image display device, and moving body
KR102435614B1 (ko) * 2017-11-17 2022-08-24 삼성전자주식회사 카메라 모듈 내에서 이미지 센서를 위한 클럭 신호를 생성하기 위한 전자 장치 및 방법
US11222476B2 (en) * 2019-05-14 2022-01-11 Panasonic Automotive Systems Company Of America, Division Of Panasonic Corporation Of North America System to add parallax to video for augmented reality head up display

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010039556A (ja) 2008-07-31 2010-02-18 Canon Inc システム
JP2012080439A (ja) 2010-10-05 2012-04-19 Casio Comput Co Ltd 撮像装置及び方法、並びにプログラム
JP2014195141A (ja) 2013-03-28 2014-10-09 Japan Display Inc 表示装置
JP2015008394A (ja) 2013-06-25 2015-01-15 Kddi株式会社 情報端末装置
JP2016116221A (ja) 2014-12-10 2016-06-23 三星電子株式会社Samsung Electronics Co.,Ltd. 3d表示のための装置及び方法
JP2019082671A (ja) 2017-10-31 2019-05-30 公立大学法人大阪市立大学 3次元表示装置、3次元表示システム、ヘッドアップディスプレイおよび3次元表示装置設計方法
WO2019171557A1 (ja) 2018-03-08 2019-09-12 塁 佐藤 画像表示システム

Also Published As

Publication number Publication date
JPWO2021065826A1 (ja) 2021-04-08
EP3840374A4 (en) 2021-10-20
JP7325520B2 (ja) 2023-08-14
US20220295043A1 (en) 2022-09-15
US20230067565A1 (en) 2023-03-02
JPWO2021065825A1 (ja) 2021-04-08
WO2021065825A1 (ja) 2021-04-08
EP3840373A1 (en) 2021-06-23
EP3840373B1 (en) 2023-03-15
CN112889273B (zh) 2023-06-20
EP3840373A4 (en) 2021-09-29
CN112956188B (zh) 2023-08-22
EP3840374B1 (en) 2023-07-19
CN112889273A (zh) 2021-06-01
WO2021065826A1 (ja) 2021-04-08
EP3840374A1 (en) 2021-06-23
CN112956188A (zh) 2021-06-11

Similar Documents

Publication Publication Date Title
CN110308556B (zh) 图像形成、校正、显示系统或方法、移动体、非暂时性计算机可读介质
JP7325521B2 (ja) 3次元表示装置、3次元表示システム、ヘッドアップディスプレイ、および移動体
JP2020017935A (ja) 表示装置、表示システムおよび移動体
CN106054383A (zh) 抬头显示器以及用于产生自动立体观测的图像的方法
CN114609782A (zh) 裸眼3d抬头显示装置及裸眼3d抬头显示方法
JP2017081428A (ja) 車両用表示装置
JP2019164318A (ja) 映像表示システム、映像表示方法、プログラム、及び映像表示システムを備える移動体
JP7274392B2 (ja) カメラ、ヘッドアップディスプレイシステム、及び移動体
JP6668564B1 (ja) ヘッドアップディスプレイ、ヘッドアップディスプレイシステム、および移動体
JP2019026198A (ja) ヘッドアップディスプレイ装置とそのためのドライバ視点検出方法
CN112889274B (zh) 三维显示装置、平视显示器、移动体以及程序
JP7061943B2 (ja) 3次元表示装置、3次元表示システム、ヘッドアップディスプレイシステム、および移動体
WO2020090629A1 (ja) 画像表示装置、画像表示システム、及び移動体
JP2021056358A (ja) ヘッドアップディスプレイ装置
WO2020256154A1 (ja) 3次元表示装置、3次元表示システム、および移動体
WO2022131009A1 (ja) 立体表示用コントローラ
JP2021085991A (ja) ヘッドアップディスプレイシステム及び移動体
WO2022019154A1 (ja) 3次元表示装置
US11977226B2 (en) Head-up display system and movable body
WO2023120603A1 (ja) 撮像装置および画像処理方法
JP7337153B2 (ja) ヘッドアップディスプレイシステムおよび移動体
JP7483604B2 (ja) 3次元表示システム、光学素子、設置方法、制御方法、および移動体
WO2024070204A1 (ja) 虚像表示装置、移動体、虚像表示装置の駆動方法、及びプログラム
CN112997110B (zh) 图像显示装置、图像显示系统以及移动体
WO2021090956A1 (ja) ヘッドアップディスプレイ、ヘッドアップディスプレイシステム及び移動体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220330

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230317

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230704

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230801

R150 Certificate of patent or registration of utility model

Ref document number: 7325521

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150