JP7471449B2 - マルチモードディスプレイを使用して複数の画像の品質を向上させるシステムおよび方法 - Google Patents

マルチモードディスプレイを使用して複数の画像の品質を向上させるシステムおよび方法 Download PDF

Info

Publication number
JP7471449B2
JP7471449B2 JP2022563345A JP2022563345A JP7471449B2 JP 7471449 B2 JP7471449 B2 JP 7471449B2 JP 2022563345 A JP2022563345 A JP 2022563345A JP 2022563345 A JP2022563345 A JP 2022563345A JP 7471449 B2 JP7471449 B2 JP 7471449B2
Authority
JP
Japan
Prior art keywords
image
view
display
mode
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022563345A
Other languages
English (en)
Other versions
JP2023529778A (ja
Inventor
ダールキスト,ニック
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Leia Inc
Original Assignee
Leia Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Leia Inc filed Critical Leia Inc
Publication of JP2023529778A publication Critical patent/JP2023529778A/ja
Application granted granted Critical
Publication of JP7471449B2 publication Critical patent/JP7471449B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B6/00Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings
    • G02B6/0001Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems
    • G02B6/0011Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems the light guides being planar or of plate-like form
    • G02B6/0033Means for improving the coupling-out of light from the light guide
    • G02B6/0035Means for improving the coupling-out of light from the light guide provided on the surface of the light guide or in the bulk of it
    • G02B6/00362-D arrangement of prisms, protrusions, indentations or roughened surfaces
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/3406Control of illumination source
    • G09G3/342Control of illumination source using several illumination sources separately controlled corresponding to different display panel areas, e.g. along one dimension such as lines
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/356Image reproducers having separate monoscopic and stereoscopic modes
    • H04N13/359Switching between monoscopic and stereoscopic modes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B6/00Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings
    • G02B6/0001Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems
    • G02B6/0011Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems the light guides being planar or of plate-like form
    • G02B6/0013Means for improving the coupling-in of light from the light source into the light guide
    • G02B6/0023Means for improving the coupling-in of light from the light source into the light guide provided by one optical element, or plurality thereof, placed between the light guide and the light source, or around the light source
    • G02B6/0025Diffusing sheet or layer; Prismatic sheet or layer
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B6/00Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings
    • G02B6/0001Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems
    • G02B6/0011Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems the light guides being planar or of plate-like form
    • G02B6/0033Means for improving the coupling-out of light from the light guide
    • G02B6/0035Means for improving the coupling-out of light from the light guide provided on the surface of the light guide or in the bulk of it
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B6/00Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings
    • G02B6/0001Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems
    • G02B6/0011Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems the light guides being planar or of plate-like form
    • G02B6/0033Means for improving the coupling-out of light from the light guide
    • G02B6/0058Means for improving the coupling-out of light from the light guide varying in density, size, shape or depth along the light guide
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B6/00Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings
    • G02B6/0001Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems
    • G02B6/0011Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings specially adapted for lighting devices or systems the light guides being planar or of plate-like form
    • G02B6/0075Arrangements of multiple light guides
    • G02B6/0076Stacked arrangements of multiple light guides of the same or different cross-sectional area
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/3406Control of illumination source
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/3433Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source using light modulating elements actuated by an electric field and being other than liquid crystal devices and electrochromic devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/32Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using arrays of controllable light sources; using moving apertures or moving light sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/361Reproducing mixed stereoscopic images; Reproducing mixed monoscopic and stereoscopic images, e.g. a stereoscopic image overlay window on a monoscopic image background
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/398Synchronisation thereof; Control thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20228Disparity calculation for image-based rendering
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2310/00Command of the display device
    • G09G2310/02Addressing, scanning or driving the display screen or processing steps related thereto
    • G09G2310/0264Details of driving circuits
    • G09G2310/0297Special arrangements with multiplexing or demultiplexing of display data in the drivers for data electrodes, in a pre-processing circuitry delivering display data to said drivers or in the matrix panel, e.g. multiplexing plural data signals to one D/A converter or demultiplexing the D/A converter output to multiple columns
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02BCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO BUILDINGS, e.g. HOUSING, HOUSE APPLIANCES OR RELATED END-USER APPLICATIONS
    • Y02B20/00Energy efficient lighting technologies, e.g. halogen lamps or gas discharge lamps
    • Y02B20/40Control techniques providing energy savings, e.g. smart controller or presence detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Optics & Photonics (AREA)
  • Computer Hardware Design (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Planar Illumination Modules (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Liquid Crystal (AREA)
  • Devices For Indicating Variable Information By Combining Individual Elements (AREA)
  • Circuit Arrangement For Electric Light Sources In General (AREA)
  • Electrochromic Elements, Electrophoresis, Or Variable Reflection Or Absorption Elements (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

関連出願の相互参照
本出願は、2020年4月20日に出願された国際特許出願第PCT/US2020/029017号の優先権を主張し、その全体が参照により本明細書に組み込まれる。
連邦政府による資金提供を受けた研究または開発に関する声明
なし
電子ディスプレイは、様々なデバイスおよび製品のユーザに情報を伝達する、ほぼどこにでもある媒体である。最も一般的に見られる電子ディスプレイには、陰極線管(CRT)、プラズマディスプレイパネル(PDP)、液晶ディスプレイ(LCD)、エレクトロルミネセントディスプレイ(EL)、有機発光ダイオード(OLED)、アクティブマトリックスOLED(AMOLED)ディスプレイ、電気泳動ディスプレイ(EP)、および電気機械もしくは電気流体光変調を使用する様々なディスプレイ(例えば、デジタルマイクロミラーデバイス、エレクトロウェッティングディスプレイなど)がある。一般に、電子ディスプレイは、アクティブディスプレイ(すなわち、光を放射するディスプレイ)またはパッシブディスプレイ(すなわち、別の光源によって提供される光を変調するディスプレイ)のいずれかに分類され得る。アクティブディスプレイの最も明白な例には、CRT、PDP、およびOLED/AMOLEDがある。放射光を考慮すると通常パッシブとして分類されるディスプレイは、LCDおよびEPディスプレイである。パッシブディスプレイは、多くの場合本質的に低消費電力であるが、それに限定されない魅力的な性能上の特性を示すが、光を放射する能力がないため、多くの実際の用途での使用は多少制限される場合がある。
本開示は、以下の[1]から[20]を含む。
[1]時間多重化マルチモードディスプレイを動作させる方法であって、
上記時間多重化マルチモードディスプレイのゼロ視差平面に対応するマルチビュー画像内の画素を識別するステップと、
上記識別された画素を含むゼロ視差平面画像を生成するステップと、
上記時間多重化マルチモードディスプレイの2次元(2D)モード中に、上記時間多重化マルチモードディスプレイを使用して上記ゼロ視差平面画像を表示するステップと、
上記時間多重化マルチモードディスプレイのマルチビューモード中に、上記時間多重化マルチモードディスプレイ上に上記マルチビュー画像の一組のレンダリングされたビュー画像を表示するステップと、
を含み、
上記時間多重化マルチモードディスプレイは、上記2Dモードと上記マルチビューモードとを切り替えて、上記ゼロ視差平面画像および上記一組のレンダリングされたビュー画像を合成画像として上記時間多重化マルチモードディスプレイに順次表示するように構成される、
時間多重化マルチモードディスプレイを動作させる方法。
[2]上記マルチビュー画像内の上記画素は、上記マルチビュー画像の視差マップによって指定された画素位置に従って選択される、上記[1]に記載の時間多重化マルチモードディスプレイを動作させる方法。
[3]ゼロ視差の所定の視差しきい値に基づいて上記視差マップから画像マスクを生成するステップをさらに含む、上記[2]に記載の時間多重化マルチモードディスプレイを動作させる方法。
[4]上記一組のレンダリングされたビュー画像は、上記時間多重化マルチモードディスプレイのマルチビュー解像度にダウンサンプリングされ、上記ゼロ視差平面画像は、ダウンサンプリングの前の上記一組のレンダリングされたビュー画像の解像度を有する、上記[1]に記載の時間多重化マルチモードディスプレイを動作させる方法。
[5]上記レンダリングされたビュー画像は、上記ゼロ視差平面画像の画像コンテンツと上記合成画像内の上記一組のレンダリングされたビュー画像との間の輝度曲線一致を提供するように、上記マルチビュー画像から上記識別された画素を除去することによって生成される、上記[1]に記載の時間多重化マルチモードディスプレイを動作させる方法。
[6]広角バックライトを使用して上記2Dモード中に広角放射光を提供するステップと、
マルチビーム素子のアレイを有するマルチビューバックライトを使用してマルチビューモード中に指向性放射光を提供するステップであって、上記指向性放射光は、上記マルチビーム素子アレイの各マルチビーム素子によって提供される複数の指向性光ビームを含む、ステップと、
上記2Dモードに対応する第1の順次的期間に上記広角バックライトを、および上記マルチビューモードに対応する第2の順次的期間に上記マルチビューバックライトを順次作動させるように、モードコントローラを使用して上記2Dモードおよび上記マルチビューモードを時間多重化するステップと、
をさらに含み、
上記複数の指向性光ビームの指向性光ビームの方向は、上記一組のレンダリングされたビュー画像の異なるビュー方向に対応する、
上記[1]に記載の時間多重化マルチモードディスプレイを動作させる方法。
[7]指向性放射光を提供するステップは、
導波光として光ガイド内で光をガイドするステップと、
上記マルチビーム素子アレイのマルチビーム素子を使用して、上記導波光の一部を上記指向性放射光として散乱させるステップであって、上記マルチビーム素子アレイの各マルチビーム素子が、回折格子、マイクロ屈折素子、およびマイクロ反射素子のうちの1つまたはそれ以上を含む、ステップと、
を含む、上記[6]に記載の時間多重化マルチモードディスプレイを動作させる方法。
[8]上記光ガイドに光を提供するステップをさらに含み、上記光ガイド内の上記導波光は、所定のコリメーション係数に従ってコリメートされる、上記[7]に記載の時間多重化マルチモードディスプレイを動作させる方法。
[9]上記2Dモード中に上記ゼロ視差平面画像を表示するためにライトバルブのアレイを使用して広角放射光を変調するステップと、
上記マルチビューモード中にマルチビュー画像を表示するために上記ライトバルブアレイを使用して上記指向性放射光の上記複数の指向性光ビームを変調するステップと、
をさらに含む、上記[6]に記載の時間多重化マルチモードディスプレイを動作させる方法。
[10]上記マルチビーム素子アレイのマルチビーム素子のサイズは、上記ライトバルブアレイのライトバルブのサイズの1/4~2倍である、上記[9]に記載の時間多重化マルチモードディスプレイを動作させる方法。
[11]上記ゼロ視差平面画像および上記マルチビュー画像の上記レンダリングされたビュー画像の一方または両方にフェザーマスクを適用するステップをさらに含む、上記[1]に記載の時間多重化マルチモードディスプレイを動作させる方法。
[12]マルチビュー画像セグメント化の方法であって、
マルチビュー画像の視差マップから画像マスクを生成するステップであって、上記画像マスクは、上記マルチビュー画像のレンダリングのゼロ視差平面に対応する画素位置を指定する、ステップと、
上記画像マスクおよび上記マルチビュー画像を使用してゼロ視差平面画像を生成するステップと、
上記時間多重化マルチモードディスプレイの2次元(2D)モード中に、上記時間多重化マルチモードディスプレイを使用して上記ゼロ視差平面画像を表示するステップと、
上記時間多重化マルチモードディスプレイのマルチビューモード中に、上記時間多重化マルチモードディスプレイ上に上記マルチビュー画像の一組のレンダリングされたビュー画像を表示するステップと、
を含み、
上記時間多重化マルチモードディスプレイは、上記2Dモードと上記マルチビューモードとを切り替えて、上記ゼロ視差平面画像および上記一組のレンダリングされたビュー画像を合成画像として上記時間多重化マルチモードディスプレイに順次表示するように構成される、
マルチビュー画像セグメント化の方法。
[13]ゼロ視差の所定の視差しきい値に基づいて上記視差マップから上記画像マスクを生成するステップをさらに含む、上記[12]に記載のマルチビュー画像セグメント化の方法。
[14]上記一組のレンダリングされたビュー画像は、上記時間多重化マルチモードディスプレイのマルチビュー解像度にダウンサンプリングされ、上記ゼロ視差平面画像は、ダウンサンプリングの前の上記一組のレンダリングされたビュー画像の解像度を有する、上記[12]に記載のマルチビュー画像セグメント化の方法。
[15]上記一組のレンダリングされたビュー画像は、上記画像マスクに従って上記マルチビュー画像から画素を除去することによって生成される、上記[12]に記載のマルチビュー画像セグメント化の方法。
[16]上記ゼロ視差平面画像および上記一組のレンダリングされたビュー画像の一方または両方にフェザーマスクを適用するステップをさらに含む、上記[12]に記載のマルチビュー画像セグメント化の方法。
[17]マルチビュー画像表示システムであって、
プロセッサと、
複数の命令を格納するメモリと、を含み、上記複数の命令は、上記プロセッサによって実行されると、上記プロセッサに、
マルチビュー画像と、上記マルチビュー画像の異なるビュー間の視差を関連付ける視差マップと、を受信させ、
上記視差マップにより指定される視差値に従って、上記マルチビュー画像から画素を選択してゼロ視差平面画像を生成させ、
上記ゼロ視差平面画像および上記マルチビュー画像の一組のビュー画像を時間多重化ディスプレイに送信させ、上記時間多重化ディスプレイは、上記一組のビュー画像をマルチモードディスプレイでレンダリングして、上記ゼロ視差平面画像を2次元(2D)表示モードでレンダリングすることによって、合成画像を表示するように構成される、
マルチビュー画像表示システム。
[18]上記複数の命令は、上記プロセッサによって実行されると、上記プロセッサに、視差ゼロの所定の視差しきい値に基づいて上記視差マップから画像マスクをさらに生成させる、上記[17]に記載のマルチビュー画像表示システム。
[19]上記一組のビュー画像は、上記画像マスクに従って上記マルチビュー画像から画素を除去することによって生成される、上記[18]に記載のマルチビュー画像表示システム。
[20]上記複数の命令は、上記プロセッサによって実行されると、上記プロセッサに、上記ゼロ視差平面画像および上記一組のビュー画像の一方または両方にフェザーマスクをさらに適用させる、上記[17]に記載のマルチビュー画像表示システム。
本明細書で説明する原理による例および実施形態の様々な特徴は、添付の図面と併せて以下の詳細な説明を参照するとより容易に理解することができ、同様の符号は同様の構造要素を示す。
本明細書に記載の原理に一致する実施形態による、一例におけるマルチビューディスプレイの斜視図を示す。
本明細書に記載の原理に一致する実施形態による、一例における特定の主角度方向を有する光ビームの角度成分のグラフ表現を示す。
本明細書に記載の原理と一致する実施形態による、一例における時間多重化マルチモードディスプレイの断面図を示す。
本明細書に記載の原理と一致する実施形態による、別の例における時間多重化マルチモードディスプレイの断面図を示す。
本明細書に記載の原理と一致する実施形態による、一例における時間多重化マルチモードディスプレイの斜視図を示す。
本明細書に記載の原理と一致する実施形態による、一例における広角バックライトの断面図を示す。
本明細書に記載の原理と一致する実施形態による、一例における時間多重化マルチモードディスプレイ動作の方法のフローチャートを示す。
本明細書に記載の原理と一致する実施形態による、一例におけるマルチビュー画像としてフォーマットされる画像の取り込みを示す。
本明細書に記載の原理と一致する実施形態による、一例におけるマルチビュー画像の任意のビューの視差マップの一部を示す。
本明細書に記載の原理と一致する実施形態による、一例における画像セグメント化プロセスを示す。
本明細書に記載の原理と一致する実施形態による、一例における画像セグメント化プロセスの出力を示す。
本明細書に記載の原理と一致する実施形態による、一例におけるユーザによって知覚される合成画像を示す。
様々な実施形態によるマルチビューディスプレイを提供するマルチビュー画像表示システムの例示的な図を示す概略ブロック図である。
特定の例および実施形態は、上記で参照された図面に示されている特徴に加えて、およびその代わりの特徴の1つである他の特徴を有してもよい。これらの特徴および他の特徴は、上記で参照された図面を参照して以下に詳述される。
本明細書に記載の原理による例および実施形態は、少なくとも2次元(2D)モードとマルチビューモードの両方を含むマルチモードディスプレイを動作させることによって、表示されたマルチビュー画像の品質を向上させることに関する。特定のビューについて、マルチビュー画像は、マルチビューモード中の表示に最適化された一組のビュー画像と、2Dモード中の表示に最適化された2D画像と、にセグメント化される。例えば、セグメント化および視差データの使用中に、マルチビューディスプレイのゼロ視差平面に関連付けられたマルチビュー画像の画素は、2Dモード中にレンダリングされる2D画像に含まれるように選択される。したがって、マルチモードディスプレイの2Dモードの高解像度表示能力は、2D画像に含まれるこれらの画素を表示するのに適し得る。マルチビュー画像の他の画素は、マルチビューモード中にマルチビューディスプレイ上にレンダリングされる。いくつかの視差を有する画素は、マルチビューモードのマルチモードディスプレイ上にレンダリングされて、マルチビュー画像に深度感を伝える。2Dモードおよびマルチビューモードは、ゼロ視差および非ゼロ視差の両方を有する完全な合成画像を提示するように迅速に切り替えることができる。この合成画像は、様々な実施形態によれば、改善された解像度およびマルチビュー特性の両方の望ましい視覚的特性を有することができる。
本明細書では、マルチモードディスプレイの「2次元(2D)ディスプレイ」または同等の2Dモードは、画像が見られる方向(すなわち、2Dディスプレイまたは2Dモードの所定の視野角または範囲内)にかかわらず実質的に同じ画像のビューを提供するように構成されたディスプレイまたはモードとして定義される。多くのスマートフォンおよびコンピュータモニタに見られる液晶ディスプレイ(LCD)は、2Dディスプレイの例である。対照的に、本明細書では、「マルチビューディスプレイ」または同等にマルチモードディスプレイのマルチビューモードは、異なるビュー方向で、または異なるビュー方向からマルチビュー画像の異なるビューを提供するように構成されたマルチモードディスプレイの電子ディスプレイ、表示システム、またはディスプレイモードとして定義される。特に、異なるビューは、マルチビュー画像のシーンまたは物体の異なる透視ビューを表すことができる。場合によっては、マルチビューディスプレイまたはマルチビューモードは、例えば、マルチビュー画像の2つの異なるビューを同時に見ると、3次元画像を見るという知覚を提供する場合、3次元(3D)ディスプレイまたは3Dモードと呼ばれることもある。
図1Aは、本明細書に記載の原理と一致する実施形態による、一例におけるマルチビューディスプレイ10(またはマルチモードディスプレイのマルチビューモード)の斜視図を示す。図1Aに示すように、マルチビューディスプレイ10は、見られるマルチビュー画像を表示するための画面12を含む。マルチビューディスプレイ10は、画面12に対して異なるビュー方向16でマルチビュー画像の異なるビュー14を提供する。ビュー方向16は、画面12から様々な異なる主角度方向に延在する矢印として示されており、異なるビュー14は、矢印の終点にある陰影付きの多角形ボックスとして示され(すなわち、ビュー方向16を示す)、4つのビュー14および4つのビュー方向16のみが示されているが、これらはすべて例であって限定ではない。図1Aでは、異なるビュー14が画面の上にあるように示されているが、マルチビュー画像がマルチビューディスプレイ10に表示されるとき、ビュー14は実際には画面12上またはその近くに現れることに留意されたい。画面12の上にビュー14を描くことは、説明を簡単にするためだけであり、特定のビュー14に対応するビュー方向16のそれぞれの1つからマルチビューディスプレイ10を見ることを表すことを意味する。
マルチビューディスプレイのビュー方向に対応する方向を有するビュー方向、つまり光ビームは、一般に、本明細書における定義により、角度成分{θ,φ}によって与えられる主角度方向を有する。角度成分θは、本明細書では、光ビームの「仰角成分」または「仰角」と呼ばれる。角度成分φは、光ビームの「方位角成分」または「方位角」と呼ばれる。定義により、仰角θは、垂直面(例えば、マルチビューディスプレイ画面の平面に垂直)における角度であり、方位角φは、水平面(例えば、マルチビューディスプレイ画面平面に平行)における角度である。
図1Bは、本明細書に記載の原理に一致する実施形態による、一例におけるマルチビューディスプレイのビュー方向(例えば、図1Aのビュー方向16)に対応する特定の主角度方向または単に「方向」を有する光ビーム20の角度成分{θ,φ}のグラフ表現を示す。さらに、光ビーム20は、本明細書の定義により、特定の点から放射または発出する。すなわち、定義により、光ビーム20は、マルチビューディスプレイ内の特定の原点に関連する中心光線を有する。図1Bは、光ビーム(またはビュー方向)の原点Oも示している。
さらに本明細書では、「マルチビュー画像」、「マルチビューディスプレイ」、および「マルチビューモード」という用語で使用される「マルチビュー」という用語は、異なる視点を表すか、または複数のビューのビュー間の角度視差を含む複数のビューとして定義される。さらに、本明細書では、「マルチビュー」という用語は、本明細書での定義により、一般に3つ以上の異なるビュー(すなわち、最低3つのビュー、通常は3つを超えるビュー)を明示的に含む。したがって、本明細書で使用される「マルチビューディスプレイ」および「マルチビューモード」は、シーンまたは画像を表すために2つの異なるビューのみを含む立体ディスプレイまたは立体モードとは明確に区別される。しかしながら、モードのマルチビュー画像およびマルチビューディスプレイは3つ以上のビューを含むことができるが、本明細書の定義により、マルチビュー画像は、マルチビューのうちの2つのみを選択して一度に(例えば、1つの眼につき1つの視野)見ることにより、画像の立体ペアとして(例えば、マルチビューディスプレイ上で)見ることができることに留意されたい。
「マルチビュー画素」は、本明細書では、マルチビューモード中のマルチビューディスプレイまたはマルチモードディスプレイの同様の複数の異なるビューの各々における一組のサブ画素または一組の「ビュー」画素として定義される。特に、マルチビュー画素は、マルチビュー画像の異なるビューのそれぞれにおけるビュー画素に対応するか、またはそれを表す個々のビュー画素を有することができる。さらに、マルチビュー画素のビュー画素は、いわゆる「指向性画素」であり、ビュー画素のそれぞれは、本明細書の定義により、異なるビューのうちの対応するビューの所定のビュー方向に関連付けられる。さらに、様々な例および実施形態によれば、マルチビュー画素の異なるビュー画素は、異なるビューのそれぞれにおいて、同等または少なくとも実質的に同様の位置または座標を有することができる。例えば、第1のマルチビュー画素は、マルチビュー画像の異なるビューのそれぞれで{x}に位置する個別のビュー画素を有することができる一方、第2のマルチビュー画素は、異なるビューのそれぞれで{x}に位置する個別のビュー画素を有することができる。いくつかの実施形態では、多くのマルチビュー画素のビュー画素は、多くのマルチビューディスプレイのビューと等しくてもよい。
本明細書では、「光ガイド」は、内部全反射すなわち「TIR」を使用して構造内で光を導く構造として定義される。特に、光ガイドは、光ガイドの動作波長において実質的に透明であるコアを含むことができる。様々な例において、「光ガイド」という用語は一般に、内部全反射を使用して、光ガイドの誘電体材料とその光ガイドを囲む材料または媒体との間の界面で光を導く誘電体の光導波路を指す。定義により、内部全反射の条件は、光ガイドの屈折率が、光ガイド材料の表面に隣接する周囲の媒体の屈折率よりも大きいことである。いくつかの実施形態では、光ガイドは、全反射をさらに促進するために、前述の屈折率差に加えて、またはその代わりにコーティングを含んでもよい。コーティングは、例えば、反射コーティングであってもよい。光ガイドは、プレートもしくはスラブガイドおよびストリップガイドの一方または両方を含むがこれらに限定されないいくつかの光ガイドのいずれであってもよい。
さらに、本明細書では、「プレート光ガイド」のように光ガイドに適用されるときの「プレート」という用語は、「スラブ」ガイドと呼ばれることもある区分的または差分的に平坦な層またはシートとして定義される。特に、プレート光ガイドは、光ガイドの上面および底面(すなわち、反対面)によって境界付けられた2つの実質的に直交する方向に光を導くように構成された光ガイドとして定義される。さらに、本明細書の定義により、上面および底面は両方とも互いに分離されており、少なくとも異なる意味で互いに実質的に平行であってもよい。すなわち、プレート光ガイドの異なる小さなセクション内では、上面および底面は実質的に平行または同一平面にある。
いくつかの実施形態では、プレート光ガイドは、実質的に平坦(すなわち、平面に限定される)であってよく、したがって、プレート光ガイドは平面光ガイドである。他の実施形態では、プレート光ガイドは、1つまたは2つの直交する次元で湾曲していてもよい。例えば、プレート光ガイドは、円筒状のプレート光ガイドを形成するために、単一次元で湾曲させることができる。しかし、いかなる曲率も光を導くためにプレートの光ガイド内での全反射を確実に維持するのに十分な大きさの曲率半径を有する。
本明細書で定義されるように、導波光の「非ゼロ伝播角」は、光ガイドのガイド面に対する角度である。さらに、非ゼロ伝播角は、本明細書の定義により、ゼロより大きく、光ガイド内の全内部反射の臨界角より小さい。さらに、特定の非ゼロ伝搬角度は、光ガイド内の内部全反射の臨界角未満であれば、特定の実施態様について(例えば、任意に)選択され得る。様々な実施形態では、光は、導波光の非ゼロ伝播角で光ガイド122に導入または結合されてもよい。
様々な実施形態によれば、光を光ガイドに結合することによって生成される導波光または同等にガイドされた「光ビーム」は、コリメート光ビームであってもよい。本明細書では、「コリメート光」または「コリメート光ビーム」は、一般に、光ビームの光線が光ビーム内で互いに実質的に平行である光ビームとして定義される。さらに、コリメートされた光ビームから発散または散乱する光線は、本明細書での定義により、コリメートされた光ビームの一部とはみなされない。
本明細書での定義により、「マルチビーム素子」は、複数の光ビームを含む光を生成するバックライトまたはディスプレイの構造体または素子である。いくつかの実施形態では、マルチビーム素子は、バックライトの光ガイドに光学的に結合されて、光ガイド内で導かれる光の一部を結合または散乱することによって複数の光ビームを提供することができる。さらに、マルチビーム素子によって生成される複数の光ビームの光ビームは、本明細書での定義により、互いに異なる主角度方向を有する。特に、定義により、複数の光ビームは、複数の光ビームの他の光ビームとは異なる所定の主角度方向を有する。したがって、光ビームは「指向性光ビーム」と呼ばれ、複数の光ビームは、本明細書での定義により、「複数の指向性光ビーム」と呼ばれる場合がある。
さらに、複数の指向性光ビームは、光照射野を表すことができる。例えば、複数の指向性光ビームは、実質的に円錐形の空間領域に閉じ込められてもよく、または複数の光ビームにおける光ビームの異なる主角度方向を含む所定の角度広がりを有してもよい。このように、組み合わせた光ビーム(すなわち、複数の光ビーム)の所定の角度広がりは、光照射野を表すことができる。
様々な実施形態によれば、複数の様々な指向性光ビームの異なる主角度方向は、マルチビーム素子のサイズ(例えば、長さ、幅、面積など)を含むがこれに限定されない特性によって決定される。いくつかの実施形態では、マルチビーム素子は、本明細書での定義により、「拡張点光源」、すなわち、マルチビーム素子の範囲にわたって分散された複数の点光源とみなすことができる。さらに、マルチビーム素子によって生成された指向性光ビームは、本明細書での定義により、角度成分{θ,φ}によって与えられる主角度方向を有し、図1Bに関して上述した。
本明細書では、「コリメータ」は、光をコリメートするように構成された実質的に任意の光学デバイスまたは装置として定義される。例えば、コリメータは、限定はしないが、コリメートミラーもしくはリフレクタ、コリメートレンズ、回折格子、テーパ付き光ガイド、およびそれらの様々な組み合わせを含むことができる。様々な実施形態によれば、コリメータによって提供されるコリメーションの量は、ある実施形態と別の実施形態とでは、所定の程度または量変化してもよい。さらに、コリメータは、2つの直交する方向(例えば、垂直方向および水平方向)の一方または両方にコリメーションを提供するように構成されてもよい。すなわち、いくつかの実施形態によれば、コリメータは、光コリメーションを提供する2つの直交方向の一方または両方に形状または同様のコリメート特性を含むことができる。
ここで、「コリメーション係数」は、光がコリメートされる程度として定義される。特に、コリメーション係数は、本明細書の定義により、コリメートされた光ビーム内の光線の角度広がりを定義する。例えば、コリメーション係数σは、コリメートされた光のビーム内の光線の大部分が特定の角度広がり(例えば、コリメートされた光ビームの中心または主角度方向の周りに+/-σ度)内にあることを指定することができる。いくつかの例によれば、コリメートされた光ビームの光線は、角度に関してガウス分布を有してもよく、角度広がりは、コリメートされた光ビームのピーク強度の半分で決定される角度であってもよい。
本明細書では、「光源」は、光の供給源(例えば、光を生成および放射するように構成された光エミッタ)として定義される。例えば、光源は、アクティブ化またはオンにされると光を放射する発光ダイオード(LED)などの光エミッタを含むことができる。特に、本明細書では、光源は、実質的に任意の光の供給源であるか、または発光ダイオード(LED)、レーザー、有機発光ダイオード(OLED)、ポリマー発光ダイオード、プラズマベースの発光体、蛍光ランプ、白熱ランプ、および事実上他の任意の光源のうちの1つまたはそれ以上を含むがこれらに限定されない、実質的に任意の発光体を含むことができる。光源によって生成される光は、有色でもよく(すなわち、特定の波長の光を含んでもよい)、またはある範囲の波長(例えば、白色光)であってもよい。いくつかの実施形態では、光源は、複数の発光体を含むことができる。例えば、光源は、発光体の少なくとも1つが、一組のまたは一群の発光体のうちの少なくとも1つの他の発光体によって生成される光の色または波長とは異なる色、つまり波長の光を生成する、一組のまたは一群の発光体を含んでもよい。異なる色は、例えば、原色(例えば、赤、緑、青)を含んでもよい。「偏光」光源は、本明細書では、所定の偏光を有する光を生成または提供する実質的に任意の光源として定義される。例えば、偏光光源は、光源の発光体の出力に偏光子を含むことができる。
本明細書では、「マルチビュー画像」は、複数の画像(すなわち、3つより多い画像)として定義され、複数の画像の各画像は、マルチビュー画像の異なるビュー方向に対応する異なるビューを表す。したがって、マルチビュー画像は、マルチビューディスプレイ上に表示されるとき、またはマルチモードディスプレイのマルチビューモード中に、深度の知覚を容易にし、したがって、例えば、観察者には3Dシーンの画像であるように見える画像の集合(例えば、2次元画像)である。
定義により、「広角」放射光は、マルチビュー画像またはマルチビューディスプレイのビューの円錐角よりも大きい円錐角を有する光として定義される。特に、いくつかの実施形態では、広角放射光は、約20度(例えば、>±20°)より大きい円錐角を有することができる。他の実施形態では、広角放射光の円錐角は、約30度よりも大きくてもよく(例えば、>±30°)、または約40度よりも大きくてもよく(例えば、>±40°)、または50度よりも大きくてもよい(例えば、>±50°)。例えば、広角放射光の円錐角は、約60度(例えば、>±60°)より大きくてもよい。
いくつかの実施形態では、広角放射光の円錐角は、LCDコンピュータモニタ、LCDタブレット、LCDテレビ、または広角視野(例えば、約±40~65°)を意図した同様のデジタルディスプレイ装置の視野角とほぼ同じであると定義され得る。他の実施形態では、広角放射光はまた、拡散光、実質的に拡散光、無指向性光(すなわち、特定のまたは定義された方向性を欠いている)として、または単一もしくは実質的に均一な方向を有する光として特徴付けまたは説明され得る。
ここで、「ゼロ視差」は、画像の異なるビュー(例えば、右眼および左眼)にわたって画像位置の目立たない差があるときの条件として定義される。ゼロ視差は、個々の画素に適用され得る。画素が画像の異なるビューにわたって同じ位置を有すると知覚される場合、画素に対する視差はゼロである。逆に、「非ゼロ視差」は、画像の異なるビュー間で画像位置の顕著な差があるときの条件として定義される。本明細書では、3D電子ディスプレイに関して使用される場合の「ゼロ視差平面」という用語は、3D電子ディスプレイのすべてのビューにおいて同一に見える(すなわち、視覚的差異がない)表示またはレンダリングされている3Dシーンまたは領域の平面または平面断面として定義される。さらに、本明細書の定義により、ゼロ視差平面は、3D電子ディスプレイの物理的表面に現れるか、それに対応するか、またはそれと一致する。すなわち、3D領域内のゼロ視差平面に位置する表示されたシーンまたは領域内の物体は、3D電子ディスプレイによってレンダリングされ、その上で見ると、3D電子ディスプレイの物理的表面と同じ場所にあるように見える。ゼロ視差平面よりも遠くにある物体は、物理的表面の後ろにあるように見えるが、ゼロ視差平面よりも近い物体は、物理的表面の前にあるように見える。
さらに、本明細書で使用される場合、冠詞「a」は、特許技術におけるその通常の意味、すなわち「1つまたはそれ以上」を有することが意図されている。例えば、「マルチビーム素子」は1つまたはそれ以上のマルチビーム素子を意味し、そのため、「マルチビーム素子」は、本明細書では「マルチビーム素子(複数のマルチビーム素子)」を意味する。また、本明細書における「上部」、「底部」、「上側」、「下側」、「上へ」、「下へ」、「前」、「後」、「第1」、「第2」、「左」または「右」への言及は、本明細書における限定を意図したものではない。本明細書では、値に適用されるときの「約」という用語は、特に明記しない限り、一般に値を生成するために使用される機器の許容範囲内を意味するか、またはプラスもしくはマイナス10%、またはプラスもしくはマイナス5%、またはプラスもしくはマイナス1%を意味することがある。さらに、本明細書で使用される「実質的に」という用語は、大部分、またはほぼすべて、またはすべて、または約51%から約100%の範囲内の量を意味する。さらに、本明細書の例は、例示のみを目的とするものであり、説明の目的で提示されており、限定するためではない。
本明細書に記載の原理のいくつかの実施形態によれば、時間多重化マルチモードディスプレイが提供される。図2Aは、本明細書に記載の原理と一致する実施形態による、一例における時間多重化マルチモードディスプレイ100の断面図を示す。図2Bは、本明細書に記載の原理と一致する実施形態による、別の例における時間多重化マルチモードディスプレイ100の断面図を示す。特に、図2Aは、第1または2次元(2D)モード中またはそれに従った時間多重化マルチモードディスプレイ100を示す。図2Bは、第2のモードまたはマルチビューモードの間またはそれに従った時間多重化マルチモードディスプレイ100を示す。図2Cは、本明細書に記載の原理と一致する実施形態による、一例における時間多重化マルチモードディスプレイ100の斜視図を示す。時間多重化マルチモードディスプレイ100は、限定ではなく例として、マルチビューモード中に図2Cに示されている。さらに、様々な実施形態によれば、2Dモードおよびマルチビューモードは、交互の第1および第2の期間(例えば、図2Aと図2Bとの間で交互になる)で2Dモードおよびマルチビューモードを提供するために、時系列または時間インターレース方式で時間多重化されてもよい。したがって、時間多重化マルチモードディスプレイ100は、「時間多重化モード切り替え」ディスプレイとも呼ばれ得る。
図示するように、時間多重化マルチモードディスプレイ100は、放射光102として光を提供または放射するように構成される。様々な例および実施形態によれば、放射光102は、時間多重化マルチモードディスプレイ100を使用して画像を照射および提供するために使用され得る。例えば、放射光102は、時間多重化マルチモードディスプレイ100のライトバルブ(例えば、以下に記載されるライトバルブ106)のアレイを照明するために使用されてもよい。さらに、いくつかの実施形態では、時間多重化マルチモードディスプレイ100は、順次的期間内または順次的期間中に放射光102を使用して、2次元(2D)画像の表示とマルチビュー画像の表示とを交互にするように構成されてもよい。さらに、以下でさらに説明するように、順次的期間における時間多重化または時間インターレースにより、2D画像およびマルチビュー画像は、2Dおよびマルチビューコンテンツまたは情報の両方を含む合成画像を提供することができる。
特に、時間多重化マルチモードディスプレイ100の2つの動作モードによれば、放射光102は、時間多重化に従って、異なる特性を有するか、または示すことができる。すなわち、放射光102として時間多重化マルチモードディスプレイ100によって放射された光は、2つの異なるモードに従って、指向性または実質的に無指向性の光を含むことができる。例えば、以下でより詳細に説明するように、2Dモードでは、時間多重化マルチモードディスプレイ100は、図2Aに示すように、放射光102を広角放射光102’として提供するように構成される。あるいは、図2Bに示すマルチビューモードでは、時間多重化マルチモードディスプレイ100は、放射光102を指向性放射光102’’として提供するように構成される。
様々な実施形態によれば、マルチビューモード中に提供される指向性放射光102’’は、互いに異なる主角度方向を有する複数の指向性光ビームを含む。さらに、指向性放射光102’’の指向性光ビームは、マルチビュー画像の異なるビュー方向に対応する方向を有する。逆に、様々な実施形態によれば、広角放射光102’は、大部分が無指向性であり、さらに一般に、時間多重化マルチモードディスプレイ100に関連するマルチビュー画像またはマルチビューディスプレイのビューの円錐角よりも大きい円錐角を有する。時間多重化マルチモードディスプレイ100の動作中、第1の期間に2Dモードが起動されてもよく、第2の期間にマルチビューモードが起動されてもよい。さらに、様々な実施形態において、第1の期間および第2の期間は、時間多重化に従って順次に互いにインターレースされる。
広角放射光102’は、説明を容易にするために、第1の期間中に破線の矢印として図2Aに示されている。しかしながら、広角放射光102’を表す破線の矢印は、放射光102の特定の指向性を意味するものではなく、代わりに、例えば時間多重化マルチモードディスプレイ100からの光の放射および透過を表すだけである。同様に、図2Bおよび図2Cは、第2の期間中の指向性放射光102’’の指向性光ビームを複数の分岐矢印として示す。上述したように、マルチビューモード中に放射される指向性放射光102’’の指向性光ビームの異なる主角度方向は、マルチビュー画像または同等に時間多重化マルチモードディスプレイ100のマルチビューモードのそれぞれのビュー方向に対応する。さらに、指向性光ビームは、様々な実施形態において、光照射野であってもよく、または光照射野を表してもよい。いくつかの実施形態では、放射光102の広角放射光102’および指向性放射光102’’の指向性光ビームは、(例えば、以下で説明するように、ライトバルブ106を使用して)変調されて、2Dコンテンツおよびマルチビューもしくは3D画像コンテンツの一方または両方を有する情報の表示を容易にすることができる。
図2A~図2Cに示すように、時間多重化マルチモードディスプレイ100は、広角バックライト110を含む。図示した広角バックライト110は、2Dモード(例えば、図2Aを参照)中に広角放射光102’を提供するように構成された平面または実質的に平面の発光面110’を有する。様々な実施形態によれば、広角バックライト110は、ディスプレイのライトバルブのアレイを照明するための光を提供するように構成された発光面110’を有する実質的に任意のバックライトであってもよい。例えば、広角バックライト110は、直接発光または直接照明された平面バックライトであってもよい。直接発光または直接照明される平面バックライトには、平面発光面110’を直接照明して広角放射光102’を提供するように構成された、冷陰極蛍光ランプ(CCFL)、ネオンランプ、または発光ダイオード(LED)の平面アレイを用いたバックライトパネルが含まれるが、これらに限定されない。エレクトロルミネセントパネル(ELP)は、直接放射する平面バックライトの別の非限定的な例である。他の例では、広角バックライト110は、間接光源を使用するバックライトを含んでもよい。そのような間接的に照明されるバックライトは、限定されないが、様々な形態のエッジ結合型またはいわゆる「エッジライト付き」バックライトを含んでもよい。
図3は、本明細書に記載の原理と一致する実施形態による、一例における広角バックライト110の断面図を示す。図3に示すように、広角バックライト110は、エッジライト付きバックライトであり、広角バックライト110のエッジに結合された光源112を含む。エッジ結合光源112は、広角バックライト110内で光を生成するように構成される。さらに、限定ではなく例として示されるように、広角バックライト110は、複数の抽出特徴部114aと共に、平行な対向面(すなわち、矩形形状のガイド構造)を有する実質的に長方形の断面を有するガイド構造体114(または光ガイド)を含む。図3に示す広角バックライト110は、限定ではなく例として、広角バックライト110のガイド構造体114の表面(すなわち、上面)に抽出特徴部114aを含む。エッジ結合光源112からの光および長方形のガイド構造体114内でガイドされた光は、様々な実施形態により、広角放射光102’を提供するために、抽出特徴部114aによってガイド構造体114から方向転換、散乱または抽出され得る。広角バックライト110は、エッジ結合光源112を作動またはオンにすることによって作動する。
いくつかの実施形態では、広角バックライト110は、直接発光またはエッジライト付き(例えば、図3に示すように)にかかわらず、ディフューザまたは拡散層、輝度向上フィルム(BEF)、および偏光再利用フィルムまたは層を含むがこれらに限定されない1つまたはそれ以上の追加の層またはフィルムをさらに含むことができる。例えば、ディフューザは、抽出特徴部114aのみによって提供されるものと比較して、広角放射光102’の放射角度を増加させるように構成されてもよい。いくつかの例では、輝度向上フィルムを使用して、広角放射光102’の全体的な輝度を増加させることができる。輝度向上フィルム(BEF)は、例えばミネソタ州セントポールの3M Optical Systems DivisionからVikuiti(商標)BEFIIとして入手可能で、これはプリズム構造を利用して最大60%の輝度向上を実現するマイクロ複製された強化フィルムである。偏光リサイクル層は、第1の偏光を選択的に通過させる一方で、第2の偏光を反射して長方形のガイド構造体114に向けて戻すように構成され得る。偏光リサイクル層は、例えば、反射偏光子フィルムまたはデュアル輝度向上フィルム(DBEF)を含んでもよい。DBEFフィルムの例には、ミネソタ州セントポールの3M Optical Systems Divisionから入手可能な3M Vikuiti(商標)デュアル輝度向上フィルムが含まれるが、これに限定されない。別の例では、高度な偏光変換フィルム(APCF)または輝度向上フィルムとAPCFフィルムの組み合わせを偏光リサイクル層として使用することができる。
図3は、ガイド構造体114および広角バックライト110の平面発光面110’に隣接するディフューザ116をさらに含む広角バックライト110を示す。さらに、図3に示すのは、輝度向上フィルム117および偏光リサイクル層118であり、これらは両方とも、平面発光面110’にも隣接している。いくつかの実施形態では、広角バックライト110は、例えば図3に示すように、平面発光面110’とは反対側のガイド構造体114の表面(すなわち、背面)に隣接する反射層119をさらに含む。反射層119は、限定はしないが、反射金属の層または強化鏡面反射(ESR)フィルムを含む様々な反射フィルムのいずれかを含むことができる。ESRフィルムの例には、ミネソタ州セントポールの3M Optical Systems Divisionから入手可能なVikuiti(商標)強化鏡面反射フィルムが含まれるが、これに限定されない。
再び図2A~図2Cを参照すると、時間多重化マルチモードディスプレイ100は、マルチビューバックライト120をさらに含む。図示するように、マルチビューバックライト120は、マルチビーム素子124のアレイを含む。様々な実施形態によれば、マルチビーム素子アレイのマルチビーム素子124は、マルチビューバックライト120を横切って互いに離間している。例えば、いくつかの実施形態では、マルチビーム素子124は、1次元(1D)アレイに配置されてもよい。他の実施形態では、マルチビーム素子124は、2次元(2D)アレイに配置されてもよい。さらに、アクティブエミッタおよび様々な散乱素子を含むがこれらに限定されない、異なるタイプのマルチビーム素子124をマルチビューバックライト120で利用することができる。様々な実施形態によれば、マルチビーム素子アレイの各マルチビーム素子124は、マルチビューモード中にマルチビュー画像の異なるビュー方向に対応する方向を有する複数の指向性光ビームを提供するように構成される。特に、様々な実施形態によれば、複数の指向性光ビームの指向性光ビームは、マルチビューモード中に提供される指向性放射光102’’を含む。
いくつかの実施形態では(例えば、図示するように)、マルチビューバックライト120は、光を導波光104としてガイドするように構成された光ガイド122をさらに含む。光ガイド122は、いくつかの実施形態では、プレート光ガイドであってもよい。様々な実施形態によれば、光ガイド122は、全内部反射により光ガイド122の長さに沿って導波光104を導くように構成される。光ガイド122内の導波光104の一般的な伝播方向103は、図2Bに太い矢印で示されている。いくつかの実施形態では、導波光104は、非ゼロ伝播角度で伝播方向103にガイドされてもよく、図2Bに示すように、所定のコリメーション係数σに従ってコリメートされるコリメート光を含んでもよい。
様々な実施形態では、光ガイド122は、光導波路として構成された誘電材料を含んでもよい。誘電体材料は、誘電体光導波路を取り囲む媒体の第2の屈折率より大きい第1の屈折率を有することができる。屈折率の差は、例えば、光ガイド122の1つまたはそれ以上の導波モードに従って、導波光104の全内部反射を容易にするように構成される。いくつかの実施形態では、光ガイド122は、光学的に透明な誘電体材料の拡張された実質的に平面のシートを含むスラブまたはプレート光ガイドであってもよい。様々な例によれば、光ガイド122の光学的に透明な材料は、1つまたはそれ以上の様々なタイプのガラス(例えば、シリカガラス、アルカリアルミノケイ酸塩ガラス、ホウケイ酸ガラスなど)および実質的に光学的に透明なプラスチックまたはポリマー(例えば、ポリ(メチルメタクリレート)または「アクリルガラス」、ポリカーボネートなど)を含むがこれらに限定されない、様々な誘電材料のいずれかを含むか、またはそれらから構成され得る。いくつかの例では、光ガイド122は、光ガイド122の表面(例えば、上面および底面の一方または両方)の少なくとも一部にクラッド層(図示せず)をさらに含んでもよい。いくつかの例によれば、クラッド層を使用して、全反射をさらに促進することができる。
光ガイド122を含む実施形態では、マルチビーム素子アレイのマルチビーム素子124は、図2Bに示すように、光ガイド122内から導波光104の一部を散乱させ、散乱した一部を光ガイド122の第1の表面122’から離れるように、またはマルチビューバックライト120の第1の表面から同等のものを誘導して、指向性放射光102’’を提供するように構成され得る。例えば、導波光部分は、第1の表面122’を介してマルチビーム素子124によって散乱され得る。さらに、図2A~図2Cに示すように、様々な実施形態によれば、第1の表面の反対側のマルチビューバックライト120の第2の表面は、広角バックライト110の平面発光面110’に隣接してもよい。
図2Bに示すように、指向性放射光102’’の複数の指向性光ビームは、上述の異なる主角度方向を有する複数の指向性光ビームであるか、またはそれらを表すことに留意されたい。すなわち、様々な実施形態によれば、指向性光ビームは、指向性放射光102’’の他の指向性光ビームとは異なる主角度方向を有する。さらに、マルチビューバックライト120は、広角バックライト110からの広角放射光102’が、広角バックライト110で発生し、続いてマルチビューバックライト120を通過する破線矢印によって図2Aに示すように、マルチビューバックライト120の厚さを通過または透過することを可能にするために、(例えば、少なくとも2Dモードでは)実質的に透明であってもよい。言い換えれば、広角バックライト110によって提供される広角放射光102’は、例えばマルチビューバックライトの透明性のおかげで、2Dモード中にマルチビューバックライト120を透過するように構成される。
例えば、光ガイド122および離間した複数のマルチビーム素子124は、光が第1の表面122’および第2の表面122’’の両方を通って光ガイド122を通過することを可能にすることができる。マルチビーム素子124が比較的小さなサイズであると共にマルチビーム素子124の素子間の間隔が比較的大きいことにより、少なくとも部分的に透過性が促進され得る。さらに、いくつかの実施形態では、特にマルチビーム素子124が以下に説明するような回折格子を含む場合、マルチビーム素子124は、光ガイド122の第1の表面122’および第2の表面122’’に直交して伝搬する光に対して実質的に透明であってもよい。したがって、例えば、様々な実施形態によれば、広角バックライト110からの光は、マルチビューバックライト120のマルチビーム素子アレイを有する光ガイド122を通って直交方向に通過することができる。
いくつかの実施形態では(例えば、図2A~図2Cに示すように)、マルチビューバックライト120は、光源126をさらに含んでもよい。したがって、マルチビューバックライト120は、例えば、エッジライト付きバックライトであってもよい。様々な実施形態によれば、光源126は、光ガイド122内にガイドされる光を提供するように構成される。特に、光源126は、光ガイド122の入口表面または端部(入力端)に隣接して配置されてもよい。様々な実施形態では、光源126は、1つまたはそれ以上の発光ダイオード(LED)またはレーザー(例えば、レーザーダイオード)を含むがこれらに限定されない実質的に任意の光の供給源(例えば、発光体)を含んでもよい。いくつかの実施形態では、光源126は、特定の色によって示される狭帯域スペクトルを有する実質的に単色の光を生成するように構成された発光体を含んでもよい。特に、単色光の色は、特定の色空間またはカラーモデル(例えば、赤緑青(RGB)カラーモデル)の原色であってもよい。他の例では、光源126は、実質的に広帯域の光または多色光を提供するように構成された実質的に広帯域の光源であってもよい。例えば、光源126は、白色光を提供してもよい。いくつかの実施形態では、光源126は、異なる色の光を提供するように構成された複数の異なる発光体を含んでもよい。異なる発光体は、異なる色の光のそれぞれに対応する導波光の異なる色固有の非ゼロ伝搬角度を有する光を提供するように構成されてもよい。図2Bに示すように、マルチビューバックライト120の作動は、光源126を作動させることを含むことができる。
いくつかの実施形態では、光源126は、コリメータ(図示せず)をさらに含んでもよい。コリメータは、光源126の1つまたはそれ以上の発光体から実質的にコリメートされていない光を受け取るように構成することができる。コリメータは、実質的にコリメートされていない光をコリメートされた光に変換するようにさらに構成される。特に、いくつかの実施形態によれば、コリメータは、非ゼロ伝搬角度を有し、所定のコリメーション係数によりコリメートされるコリメート光を提供することができる。さらに、異なる色の光エミッタが使用される場合、コリメータは、異なる色固有の非ゼロ伝搬角度の一方または両方を有し、異なる色固有のコリメーション係数を有するコリメートされた光を提供するように構成され得る。コリメータは、コリメートされた光を光ガイド122に伝達して、上述の導波光104として伝搬するようにさらに構成される。
図2A~図2Bに示すように、時間多重化マルチモードディスプレイ100は、モードコントローラ130をさらに含む。モードコントローラ130は、第1の期間に広角バックライト110を順次に作動させ、第2の期間にマルチビューバックライト120を作動させることによって、2Dモードとマルチビューモードとを時間多重化するように構成される。特に、いくつかの実施形態によれば、モードコントローラ130は、2Dモード中に広角バックライト110の光源112を順次作動させて広角放射光102’を提供し、マルチビューモード中にマルチビューバックライト120の光源126を作動させて指向性放射光102’’を提供することによって、2Dモードとマルチビューモードとを切り替えるように構成され得る。第1の期間中に光源112を作動させることは、図2Aの光源112のクロスハッチングによって示されている。第2の期間中に光源126を作動させることは、図2Bにおける光源126のクロスハッチングによって示されている。
いくつかの実施形態では、モードコントローラ130は、観察者に表示するためにライトバルブ106のアレイを介して両方のモードの画像を同時に効果的に表示するように選択された周波数などの、1つまたはそれ以上の所定の周波数で、2Dモードとマルチビューモードとを切り替えるかまたは時間多重化するように構成されてもよい。一例として、ライトバルブ106のアレイは、120Hzで動作するLCDパネルであってもよく、モードコントローラ130は、時間多重化を提供するために、60Hzで2Dモードとマルチビューモードとを切り替えてもよい(すなわち、広角バックライト110の光源112およびマルチビューバックライト120の光源126の各々を約60Hzで順次作動させることによって)。別の例では、LCDパネルまたはライトバルブアレイは、240Hzで動作してもよく、2Dモードおよびマルチビューモードは、モードコントローラ130によって120Hzで時間多重化されてもよい。いくつかの実施形態によれば、2Dモードおよびマルチビューモードは、モードコントローラ130によって、依然として観察者に画像を提供することができる、すなわちディスプレイのタイプおよび技術に応じて、ライトバルブのアレイが動作することができる最高スイッチング速度または周波数に対応する最大レートで時間多重化され得る。特定の実施形態では、2Dモードおよびマルチビューモードの時間多重化は、合成画像を提供するために、時間多重化マルチモードディスプレイ上に互いに重畳された2D画像およびマルチビュー画像を提供する。2Dモードおよびマルチビューモードの切り替え速度または作動速度が、各モードについて、ディスプレイを使用する観察者の視覚的持続性を少なくとも超える場合には、2D画像およびマルチビュー画像のそれぞれは、合成画像に常に存在し、知覚可能なフリッカなしでユーザに見える。2Dモードおよびマルチビューモードのそれぞれについて少なくとも約60Hzのスイッチングレートは、この視覚的持続目標(すなわち、各モードで約1ミリ秒以下)を提供する。モードコントローラ130は、様々な実施形態によれば、回路(例えば、ASIC)を含むハードウェア、およびモードコントローラ130の様々な動作特性に対してプロセッサまたは同様の回路によって実行されるソフトウェアまたはファームウェアを含むモジュールの一方または両方として実装されてもよい。
さらに、上述したように、様々な実施形態によれば、マルチビューバックライト120は、マルチビーム素子124のアレイを含む。いくつかの実施形態によれば(例えば、図2A~図2Cに示すように)、マルチビーム素子アレイのマルチビーム素子124は、光ガイド122の第1の表面122’に(例えば、マルチビューバックライト120の第1の表面に隣接して)配置されてもよい。他の実施形態(図示せず)では、マルチビーム素子124は、光ガイド122内に配置されてもよい。さらに他の実施形態(図示せず)では、マルチビーム素子124は、光ガイド122の第2の表面122’’またはその上に(例えば、マルチビューバックライト120の第2の表面に隣接して)配置されてもよい。さらに、マルチビーム素子124のサイズは、マルチビュー画像を表示するように構成されたマルチビューディスプレイのライトバルブのサイズと同等である。すなわち、マルチビーム素子のサイズは、例えば、時間多重化マルチモードディスプレイ100におけるライトバルブアレイのライトバルブサイズに匹敵する。
図2A~図2Cに示すように、時間多重化マルチモードディスプレイ100は、限定ではなく例として、ライトバルブ106のアレイ(例えば、マルチビューディスプレイ)をさらに含む。様々な実施形態では、液晶ライトバルブ、電気泳動ライトバルブ、およびエレクトロウェッティングに基づいた、もしくはエレクトロウェッティングを用いたライトバルブのうちの1つまたはそれ以上を含むがこれらに限定されないライトバルブアレイのライトバルブ106として、様々な異なるタイプのライトバルブのいずれかを使用することができる。さらに、図示するように、マルチビーム素子のアレイの各マルチビーム素子124ごとにライトバルブ106の1つの固有のセットがあってもよい。ライトバルブ106の固有のセットは、例えば、時間多重化マルチモードディスプレイ100のマルチビュー画素106’に対応してもよい。
本明細書では、「サイズ」は、長さ、幅、または面積を含むがこれらに限定されない様々な方法のいずれかで定義することができる。例えば、ライトバルブのサイズはバルブの長さであってもよく、マルチビーム素子124の同等のサイズは、マルチビーム素子124の長さであってもよい。別の例では、サイズは、マルチビーム素子124の面積がライトバルブの面積と同等であり得るような面積を指してもよい。いくつかの実施形態では、マルチビーム素子124のサイズは、マルチビーム素子のサイズがライトバルブサイズの約25%~約200%になるように、ライトバルブサイズと同等である。例えば、マルチビーム素子のサイズが「s」で示され、ライトバルブのサイズが「S」で示される場合(例えば、図2Bに示す)には、マルチビーム素子のサイズsは以下の式(1)で与えられる。
Figure 0007471449000001
他の例では、マルチビーム素子のサイズは、ライトバルブサイズの約50%より大きいか、またはライトバルブサイズの約60%か、またはライトバルブサイズの約70%か、またはライトバルブサイズの約80%より大きいか、またはライトバルブサイズの約90%より大きく、マルチビーム素子は、ライトバルブサイズの約180%より小さいか、またはライトバルブサイズの約160%より小さいか、またはライトバルブサイズの約140%より小さいか、またはライトバルブサイズの約120%より小さい。例えば、「同等のサイズ」により、マルチビーム素子のサイズは、ライトバルブのサイズの約75%~約150%であってもよい。別の例では、マルチビーム素子124は、マルチビーム素子のサイズがライトバルブサイズの約125%~約85%であるライトバルブとサイズが同等であってもよい。いくつかの実施形態によれば、マルチビーム素子124およびライトバルブの同等のサイズは、マルチビューディスプレイのビュー間の暗いゾーンを低減するか、またはいくつかの例では最小化し、同時に、マルチビューディスプレイのビューまたはマルチビュー画像と同等のビュー間のオーバーラップを減らす、またはいくつかの例では最小化するように選択されてもよい。
図2Bに示すように、マルチビーム素子124のサイズ(例えば、幅)は、ライトバルブアレイにおけるライトバルブ106のサイズ(例えば、幅)に対応することができることに留意されたい。他の例では、マルチビーム素子のサイズは、ライトバルブアレイの隣接するライトバルブ106間の距離(例えば、中心間距離)として定義されてもよい。例えば、ライトバルブ106は、ライトバルブアレイ内のライトバルブ106間の中心間距離よりも小さくてもよい。さらに、マルチビーム素子アレイの隣接するマルチビーム素子間の間隔は、マルチビューディスプレイの隣接するマルチビュー画素間の間隔と同等であってもよい。例えば、一対の隣接するマルチビーム素子124間のエミッタ間距離(例えば、中心間距離)は、例えば、ライトバルブ106のアレイのライトバルブのセットによって表される、対応する隣接する一対のマルチビュー画素間の画素間距離(例えば、中心間距離)に等しくてもよい。したがって、マルチビーム素子のサイズは、例えば、ライトバルブ106自体のサイズ、またはライトバルブ106間の中心間距離に対応するサイズのいずれかとして定義され得る。
いくつかの実施形態では、複数の対応するマルチビュー画素のマルチビーム素子124(例えば、ライトバルブ106のセット)間の関係は、1対1の関係であってもよい。すなわち、同数のマルチビュー画素およびマルチビーム素子124があってもよい。図2Bおよび図2Cは、各マルチビュー画素106’がライトバルブ106の異なるセットを含む1対1の関係を例として明示的に示している。他の実施形態(図示せず)では、マルチビュー画素106’およびマルチビーム素子124の数は、互いに異なってもよい。
いくつかの実施形態では、一対の複数の隣接するマルチビーム素子124間の素子間距離(例えば、中心間距離)は、例えば、ライトバルブセットによって表される、対応する隣接する一対のマルチビュー画素106’間の画素間距離(例えば、中心間距離)に等しくてもよい。他の実施形態(図示せず)では、マルチビーム素子124の対と対応するライトバルブセットとの相対的な中心間距離は異なっていてもよく、例えば、マルチビーム素子124は、マルチビュー画素106’を表すライトバルブセット間の間隔(すなわち、中心間距離)よりも大きいまたは小さい素子間間隔(すなわち、中心間距離)を有してもよい。さらに(例えば、図2Bに示すように)、いくつかの実施形態によれば、各マルチビーム素子124は、指向性放射光102’’をただ1つのマルチビュー画素106’に提供するように構成され得る。特に、マルチビーム素子124の所与の1つについて、マルチビューディスプレイの異なるビューに対応する異なる主角度方向を有する指向性放射光102’’は、単一の対応するマルチビュー画素106’およびそのライトバルブ106、すなわち、図2Bに示すように、マルチビーム素子124に対応するライトバルブ106の単一のセットに実質的に制限されている。したがって、広角バックライト110の各マルチビーム素子124は、マルチビュー画像の異なるビューに対応する一組の異なる主角度方向を有する指向性放射光102’’の対応する複数の指向性光ビームを提供する(すなわち、一組の指向性光ビームは、異なるビュー方向の各々に対応する方向を有する光ビームを含む)。
様々な実施形態によれば、マルチビューバックライト120のマルチビーム素子124は、導波光104の一部を散乱させるように構成されたいくつかの異なる構造のいずれかを含むことができる。例えば、異なる構造は、回折格子、マイクロ反射素子、マイクロ屈折素子、またはそれらの様々な組み合わせを含むことができるが、これらに限定されない。いくつかの実施形態では、回折格子を含むマルチビーム素子124は、異なる主角度方向を有する複数の指向性光ビームを含む指向性放射光102’’として導波光部分を回折的に結合または散乱するように構成される。いくつかの実施形態では、マルチビーム素子の回折格子は、複数の個々のサブ格子を含むことができる。他の実施形態では、マイクロ反射素子を含むマルチビーム素子124は、複数の指向性光ビームとして導波光部分を反射結合または散乱させるように構成されるか、あるいは、マイクロ屈折素子を含むマルチビーム素子124は、屈折によって、または屈折を利用して複数の指向性光ビームとして導波光部分を結合または散乱させる(すなわち、導波光部分を屈折散乱させる)ように構成される。
本明細書に記載の原理の他の実施形態によれば、時間多重化マルチモードディスプレイ動作の方法が提供される。特に、時間多重化マルチモードディスプレイ動作の方法は、少なくとも2つのモード、すなわち、時間多重化または時間インターレースされた2Dモードおよびマルチビューモードを有することができる。様々な実施形態によれば、2Dモードは2次元(2D)画像を表示することができ、マルチビューモードは3次元(3D)またはマルチビュー画像を表示することができる。時間多重化は、2Dおよびマルチビューコンテンツまたは情報の両方を有する合成画像として、2D画像および3Dまたはマルチビュー画像を組み合わせる。
図4は、本明細書に記載の原理と一致する実施形態による、一例における時間多重化マルチモードディスプレイ動作の方法300のフローチャートを示す。図4に示すように、時間多重化マルチモードディスプレイ動作の方法は、広角バックライトを使用して2Dモード中に広角放射光を提供するステップ310を含む。いくつかの実施形態では、広角バックライトは、上述した時間多重化マルチモードディスプレイ100の広角バックライト110と実質的に同様であってもよい。さらに、いくつかの実施形態によれば、2Dモードおよび放射広角光は、時間多重化バックライトおよびディスプレイに関して上述した2Dモード(例えば、図2A~図2C)および広角放射光102’のそれぞれと実質的に同様であってもよい。
時間多重化マルチモードディスプレイ動作の方法300は、互いに離間したマルチビーム素子のアレイを有するマルチビューバックライトを使用して、マルチビューモード中に複数の指向性放射光を提供するステップ320をさらに含む。様々な実施形態によれば、指向性放射光は、マルチビーム素子アレイの各マルチビーム素子によって提供される複数の指向性光ビームを含む。様々な実施形態によれば、複数の指向性光ビームの指向性光ビームの方向は、マルチビュー画像の異なるビュー方向に対応する。いくつかの実施形態では、マルチビューバックライトは、上述のマルチビューバックライト120と実質的に同様であってもよい。同様に、マルチビューモードは、いくつかの実施形態によれば、図2A~図2Cに関して上述した時間多重化マルチモードディスプレイ100のマルチビューモードと実質的に同様であってもよい。いくつかの実施形態では、マルチビューバックライトは、広角バックライトの放射面に隣接して配置され、2Dモード中に広角放射光に対して透明であってもよい。
図4に示す時間多重化マルチモードディスプレイ動作の方法300は、2Dモードに対応する第1の順次的期間に広角バックライトを、およびマルチビューモードに対応する第2の順次的期間にマルチビューバックライトを順次作動させるように、モードコントローラを使用して2Dモードおよびマルチビューモードを時間多重化するステップ330をさらに含む。いくつかの実施形態では、モードコントローラは、上述のモードコントローラ130と実質的に同様であってもよい。特に、モードコントローラは、回路を含むハードウェア(例えば、ASIC)、およびモードコントローラの動作を実行するためにプロセッサまたは同様の回路によって実行されるソフトウェアまたはファームウェアを含むモジュールの一方または両方として実装されてもよい。
いくつかの実施形態によれば、時間多重化マルチモードディスプレイ動作の方法300は、ライトバルブのアレイを使用して広角放射光を変調して2Dモード中に2D画像を提供するステップと、ライトバルブアレイを使用して複数の指向性光ビームを変調してマルチビューモード中にマルチビュー画像を提供するステップと、をさらに含む。これらの実施形態のいくつかでは、2Dモードおよびマルチビューモードを時間多重化するステップは、2Dコンテンツとマルチビューコンテンツの両方を含む合成画像を提供するために、2D画像およびマルチビュー画像を重畳することができる。いくつかの実施形態では、ライトバルブのアレイは、時間多重化マルチモードディスプレイ100に関して上述したライトバルブ106のアレイと実質的に同様であってもよい。
実施形態は、例えば、図2A~図2Cの時間多重化マルチモードディスプレイ100などの時間多重化マルチモードディスプレイを動作させるシステムおよび方法に関する。時間多重化マルチモードディスプレイは、表示のためにレンダリングされるマルチビュー画像の品質を向上させるように動作することができる。マルチビュー画像は、観察者によって知覚される合成マルチビュー画像を出力するために、本明細書に提示される実施形態に従って処理することができる。合成マルチビュー画像は、マルチビュー画像のレンダリングと比較して優れた視覚的品質を有することができる。時間多重化マルチモードディスプレイは、時間多重化マルチモードディスプレイのゼロ視差平面に対応するマルチビュー画像内の画素を識別することによって動作することができる。例えば、視差マップは、マルチビュー画像がレンダリングされるときのマルチビュー画像のゼロ視差平面(ZDP)の位置を示す視差情報を含むことができる。
いくつかの実施形態では、時間多重化マルチモードディスプレイは、ゼロ視差の所定の視差しきい値に基づいて視差マップから画像マスクを生成することによって動作する。例えば、画像マスク(例えば、ビットマップマスク)は、入力画像の対応する画素をマスクまたはマスク解除するために、画像マスク内の各画素がバイナリ値であるようにフォーマットされてもよい。画像マスクは、視差マップから生成されてもよく、視差マップは、視差マップの各画素位置における視差値を含む。視差値は、ゼロ視差の所定の視差しきい値を適用して2値に変換されてもよい。ゼロ視差の所定の視差しきい値は、視差値の特定の範囲であってもよい。
時間多重化マルチモードディスプレイは、時間多重化マルチモードディスプレイの2次元(2D)モード中に時間多重化マルチモードディスプレイを使用してゼロ視差平面画像を表示することによって動作することができる。例えば、時間多重化マルチモードディスプレイの2Dモードが選択されてもよい。これは、2Dモード中にZDP画像が表示されることを可能にするために、2Dモード用のバックライトを作動させることを含むことができる。
さらに、時間多重化マルチモードディスプレイは、時間多重化マルチモードディスプレイのマルチビューモード中に、マルチビュー画像の一組のレンダリングされたビュー画像を時間多重化マルチモードディスプレイに表示することによって動作することができる。マルチビュー画像の一組のレンダリングされたビュー画像は、マルチビュー画像から導出されたビュー画像であってもよい。時間多重化マルチモードディスプレイのマルチビューモードが選択されてもよい。これは、マルチビューモード中にビュー画像が表示されることを可能にするために、マルチビューモード用のバックライトを起動することを含み得る。時間多重化マルチモードディスプレイは、2Dモードとマルチビューモードとを切り替えて、ゼロ視差平面画像および一組のレンダリングされたビュー画像を合成画像として時間多重化マルチモードディスプレイに順次表示するように構成される。
いくつかの実施形態では、一組のレンダリングされたビュー画像は、表示のためにレンダリングされる前に処理される。これは、一組のレンダリングされたビュー画像が時間多重化マルチモードディスプレイのマルチビュー解像度にダウンサンプリングされるようにダウンサンプリングを含むことができる。さらに、ゼロ視差平面画像は、ダウンサンプリング前の一組のビュー画像の解像度を有することができる。例えば、マルチビュー画像は、強化される前に、比較的高い解像度を有することができる。時間多重化マルチモードディスプレイのマルチビューモードは、マルチビュー画像のビューを表示するように構成されてもよく、各ビューは元のマルチビュー画像と比較して低い解像度である。したがって、表示に対応するために、この実施形態では、各ビュー画像をダウンサンプリングすることができる。画像をダウンサンプリングすることは、画素のサブセットを選択することによって画像の解像度を低減すること、またはそうでなければ隣接する画素を一緒にブレンドして画像の解像度を低減することを含むことができる。ZDP画像は、ZDP画像がダウンサンプリングされず、それによって元の高解像度を維持するように、マルチビュー画像から生成され得る。
いくつかの実施形態では、ゼロ視差平面画像の画像コンテンツと合成画像内の一組のレンダリングされたビュー画像との間の輝度曲線一致を提供するように、マルチビュー画像から識別された画素を除去することによってレンダリングされたビュー画像が生成される。例えば、ZDP画像を生成するために使用される画像マスクの逆をマルチビュー画像に適用して、レンダリングされたビュー画像を生成することができる。マルチビュー画像からこれらの画素を除去することにより、時間多重化マルチモードディスプレイは、マルチビューモード中にこれらの画素を表示しない。さらに、ZDP画像は、2Dモード中にこれらの画素を表示する。結果として得られる合成マルチビュー画像は、2Dモードとマルチビューモードの両方の間に画像コンテンツが表示されず、むしろ2Dモードの間にのみ画像コンテンツが表示されるように、視覚的に魅力的な輝度を有するように見える。
時間多重化マルチモードディスプレイは、ゼロ視差平面画像およびマルチビュー画像のビュー画像の一方または両方にフェザーマスクを適用することによって動作することができる。フェザーマスクは、エッジを平滑化し、鮮明度を除去し、その結果、ゼロ視差平面画像およびマルチビュー画像のビュー画像の一方または両方に画像マスクを適用することができる。
いくつかの実施形態では、時間多重化マルチモードディスプレイは、広角バックライトを使用して2Dモード中に広角放射光を提供することによって動作する。さらに、マルチビュー表示システムは、マルチビーム素子のアレイを有するマルチビューバックライトを使用して、マルチビューモード中に指向性放射光を提供するように構成されてもよく、指向性放射光は、マルチビーム素子アレイの各マルチビーム要素によって提供される複数の指向性光ビームを含む。マルチビュー表示システムは、モードコントローラを使用して2Dモードとマルチビューモードとを時間多重化し、2Dモードに対応する第1の順次的期間の間に広角バックライトを順次起動し、マルチビューモードに対応する第2の順次的期間の間にマルチビューバックライトを順次起動するように構成されてもよい。複数の指向性光ビームの指向性光ビームの方向は、一組のレンダリングされたビュー画像の異なるビュー方向に対応することができる。
マルチビューモードは、広角バックライトの代わりにマルチビューバックライトを使用してもよい。マルチビューバックライトは、互いに異なる主角度方向を有する複数の指向性光ビームとして光を散乱させるマルチビーム素子のアレイを有することができる。例えば、時間多重化マルチモードディスプレイがマルチビューモードで動作して4つのビューを有するマルチビュー画像を表示する場合、マルチビューバックライトは光を4つの指向性光ビームに散乱させることができ、各指向性光ビームは異なるビューに対応する。モードコントローラは、マルチビューバックライトを使用してマルチビュー画像が第1の順次的期間で表示され、広角バックライトを使用して2D画像が第2の順次的期間で表示されるように、2Dモードとマルチビューモードとを順次切り替えてもよい。
いくつかの実施形態では、マルチビュー表示システムは、導波光としてライトガイド内の光を誘導するように構成される。いくつかの実施形態では、光ガイド内の導波光は、所定のコリメーション係数に従ってコリメートされる。
いくつかの実施形態では、マルチビュー表示システムは、マルチビーム素子アレイのマルチビーム素子を使用して指向性放射光として導波光の一部を散乱させるように構成され、マルチビーム素子アレイの各マルチビーム素子は、回折格子、マイクロ屈折素子、およびマイクロ反射素子のうちの1つまたはそれ以上を含む。いくつかの実施形態では、マルチビーム素子の回折格子は、複数の個々のサブ格子を含むことができる。いくつかの実施形態では、マイクロ反射素子は、複数の指向性光ビームとして導波光部分を反射的に結合または散乱させるように構成される。微小反射素子は、導波光が散乱される方法を制御するための反射コーティングを有してもよい。いくつかの実施形態では、マルチビーム素子は、屈折(すなわち、ガイドされた光部分を屈折的に散乱させる)によって、または屈折を使用して、複数の指向性光ビームとして導波光部分を結合または散乱させるように構成されたマイクロ屈折素子を含む。
いくつかの実施形態では、時間多重化マルチモードディスプレイを動作させて、広角バックライトを使用して2Dモード中に広角放射光を提供し、マルチビーム素子のアレイを有するマルチビューバックライトを使用してマルチビューモード中に指向性放射光を提供し、指向性放射光は、マルチビーム素子アレイの各マルチビーム素子によって提供される複数の指向性光ビームを含む。時間多重化マルチモードディスプレイを動作させることは、モードコントローラを使用して2Dモードおよびマルチビューモードを時間多重化して、2Dモードに対応する第1の順次的期間の間に広角バックライトを順次起動し、マルチビューモードに対応する第2の順次的期間の間にマルチビューバックライトを順次起動することを含み、複数の指向性光ビームの指向性光ビームの方向は、マルチビュー画像の異なるビュー方向に対応する。
図5は、本明細書に記載の原理と一致する実施形態による、一例におけるマルチビュー画像としてフォーマットされる画像の取り込みを示す図である。マルチビュー画像は、カメラ403から、コンピュータ生成情報によって、またはそれらの組み合わせによって、1つまたはそれ以上の画像を取り込むことによって作成することができる。カメラ403は、シーンの複数のビューを取り込むために特定の距離だけ離間された複数のカメラのシステムであってもよい。あるいは、カメラ403は、一度に単一の視点からシーンを取り込む単一点カメラ、例えば複数の仮想カメラであってもよい。図5の例に示すシーンは、第1の物体406(この例では人物とも呼ばれる)、第2の物体409(この例では猫とも呼ばれる)、および第3の物体412(この例では木とも呼ばれる)を含む。この例では、人物は、関心のある物体または主要な物体であってもよい。猫は人の前に副次的な物体として位置し、木は人と猫の後ろに位置する背景の一部である。
各物体406,409,412は、カメラ403に対する特定の深度d1、d2、およびd3にそれぞれ対応することができる。例えば、猫の深度d1が最も短く、木の深度d3が最も大きく、猫と木の間に人の深度d2がある。各物体406,409,412の深度d1~d3は、カメラの視点からの異なるビュー間に視差を作り出す。さらに説明すると、カメラ403が特定の距離だけ離間した2つのカメラで構成されていると仮定する。これにより、カメラ403は立体画像を提供することができる。各画像は、視差を生成するために物体406,409,412のシーンのわずかに異なるビューを有する。この視差により、一方の画像を一方の眼に向け、他方の画像を他方の眼に向けるようにカメラで取り込まれた画像を見たときに、観察者は深度を知覚することができる。他の物体間の視差は、カメラ403に対する深度の関数として変化する。このため、カメラ403に対する深度に応じて視差量が変化する。視差は深度に反比例する。
実施形態は、表示されたときのマルチビュー画像421の画質を改善することを対象とする。マルチビューディスプレイは、複数のビューを同時に提示する能力を有するが、2Dディスプレイよりも解像度が低い場合がある。実施形態は、画像を表示するために2Dモードとマルチビューモードの両方を利用するように構成されたマルチモードディスプレイを利用することに関する。実施形態によれば、マルチビュー画像は、一組の画像(例えば、ビュー画像)と、一組の画像がマルチビューモードを介して提示されるように構成され、第2の画像が2Dモードを介して提示される第2の画像と、にセグメント化することができる。画像セグメント化プロセスは、各ビューに関連付けられた視差情報を使用することができる。2Dモードでは、視差がゼロ(ゼロまたはゼロに近い)のビュー画像の画素がディスプレイに表示される。視差がゼロの画像のこれらの画素は、マルチビュー画像のすべてのビューにわたって、または本質的に同じであると知覚され得る。例えば、マルチモードディスプレイのゼロ視差平面(ZDP)に対応する距離にいる人は、2Dモード中にディスプレイ上にレンダリングされた人に対応する画素を有することができる。非ゼロ視差を有するビューの部分は、マルチビューモード中にディスプレイ上に提示される。残りの図は、視差データを使用したこの画像セグメント化プロセスを示している。
図6は、本明細書で説明される原理と一致する実施形態による、一例におけるマルチビュー画像の任意のビュー画像424の視差マップ427の一部を示す。視差マップ427は、マルチビュー画像のビューのうちの少なくとも一方に対して生成され得る。視差マップ427は、各画素(または潜在的に画素のクラスタ)を対応する視差値に関連付ける。視差値は、マルチビュー画像のビュー間の共通点に対する距離に関する視差を定量化する。例えば、第1のビューに対して大きな視差値を有する画素は、第2のビュー内の対応する画素に対して、特定の視野角から画素および対応する画素が観察者に見える場所に大きな差があることを意味する。
本明細書では、「視差マップ」は、マルチビュー画像の少なくとも2つのビュー間の見かけの画素差を示す情報として定義される。この点において、視差マップは、画素がマルチビューディスプレイ上のどこにレンダリングされるべきかを指定することによって、レンダリングされた画素の見かけの視差を制御する。視差がゼロ(例えば、ゼロまたは約ゼロに等しい)である場合、物体を表す画素は、同じ位置で観察者に見える。マルチビューディスプレイ上にレンダリングされると、視差が0の画素は、画面ディスプレイ上に位置するように観察者に見えるが、非ゼロの視差を有する画素は、ディスプレイの画面の前または後ろに表示される。図6の視差マップ427は、マルチビュー画像のビュー画像424の一部の視差値を含む。具体的には、この例では、図6に示す部分は、限定ではなく例として、様々な深度に現れる人、猫、および木の一部を含む。
マルチビュー画像の視差マップ427は、マルチビュー画像が表示のためにレンダリングされるときにマルチビュー画像のどの画素がZDPに入るかを制御する。ZDPに対するこれらの画素の位置は、視差マップにおいて、ゼロ視差を表す視差値として符号化される。視差マップ427は、ZDPに対してマルチビュー画像をシフトすることを考慮するように修正することができる。例えば、ユーザが表示されたマルチビュー画像の位置をZDPに対して変更したい場合、視差マップ427は、新しい位置を反映するように更新されてもよい。これは、ZDP位置の変化に対応する方法で視差値をスケーリングすることを含み得る。
視差マップ427の部分は、第1の物体406(例えば、人)を表す画素と、第2の物体409(例えば、猫)を表す画素と、第3の物体412(例えば、木)を表す画素とを示す。視差マップ427の各画素値は、マルチビュー画像のビュー画像424の対応する画素の視差を表す。例えば、ビュー画像424内の一組の画素は、人の一部を表すことができる。このビュー画像424のための視差マップ427は、-2から3の付近の視差値に等しい人の部分の対応する一組の画素を有する。ビュー画像424内の一組の画素は、猫の一部を表すことができる。このビュー画像424の視差マップ427は、90から93付近の視差値に等しい猫の部分の対応する一組の画素を有する。ビュー画像424内の一組の画素は、木の一部を表すことができる。このビュー画像424のための視差マップ427は、-46から-49付近の視差値に等しい木の部分の対応する一組の画素を有する。したがって、図6は、線で陰影が付けられた第1の物体406(人物)の視差値、斜線で陰影が付けられた第2の物体409(猫)の視差値、および線で陰影が付けられた第3の物体412()の視差値を示す。このように、視差マップ427には、画素毎に視差値が記録されてもよい。
ゼロまたは約ゼロに等しい視差値は、マルチビュー画像がディスプレイ、例えばマルチビューディスプレイ上にレンダリングされるとき、または上述の時間多重化マルチモードディスプレイ100のマルチビューモード中に、ZDPに入るビュー画像424内の画素を表す。したがって、視差マップ427は、ディスプレイのZDPにおいて第1の物体406がどのように落下するかを示す。例えば、ZDPに対応する画素は、約マイナス10(-10)~約10(10)の視差値を有する画素として定義されてもよい。あるいは、ZDPに対応する画素は、約マイナス1(-1)から約1(1)の範囲内、約マイナス5(-5)から約5(5)の範囲内、または実質的にゼロ(0)の所定のしきい値内にある他の任意の範囲内のゼロ(0)の視差値を有する画素として定義されてもよい。このように、ゼロの視差を有するか、またはZDPに対応する画素(例えば、第1の物体406を含む画素)は、マルチビュー画像の異なるビュー間の視差をほとんどまたは全く有しない。深度に関してZDPの前にある物体を含む画素は正の視差値を有することができ、深度に関してZDPの後にある物体を含む画素は負の視差値を有することができる。したがって、視差マップ427は、マルチビュー画像がマルチビューディスプレイ上にレンダリングされるときにZDPに対して画素がどのようにレンダリングされるべきかを指定するZDPデータを含む。
視差マップと同様に、深度マップがある。深度マップは、深度を対応する画素に関連付け、深度は複数のビュー(例えば、マルチビュー画像を取り込んだ仮想カメラの位置)にわたる共通の視点に関連する。いくつかの実施形態は、深度が視差から推測され得、視差が深度から推測され得るので、視差マップの代わりに深度マップを使用することを対象とし得る。深度値は、式(2)に従って以下のように視差値に変換することができる。
Figure 0007471449000002

ここで、fは焦点距離、レンズ(例えば、観察者または仮想カメラ)と像点との間の長さ、bはベースライン、視点(例えば、立体画像を取り込む2つのレンズ間の距離)間の距離である。さらに、式(3)において、Dは視差であり、dは深度である。上記の例では、焦点距離は、カメラ403と、画像点を表す第1の物体406上の点との間の距離である。ベースラインは、2つのカメラビュー(例えば、右眼と左眼との間の距離)間の距離である。焦点距離およびベースラインは、マルチビュー画像がカメラによって取り込まれた時点で決定された距離であってもよい。焦点距離およびベースラインは、コンピュータビジョンプロセスを使用して異なるビューを予測的または人工的に生成することに応答してコンピュータ生成することができる。
図7は、本明細書に記載の原理と一致する実施形態による、一例における画像セグメント化プロセス431を示す。図7は、時間多重化マルチモードディスプレイを動作させる方法を示す図である。さらに、図7は、マルチビュー画像セグメント化の方法を示す。画像セグメント化プロセス431は、マルチビュー画像421の各ビュー画像424に適用することができる。この点において、画像セグメント化プロセス431は、マルチビュー画像421を、ゼロ視差平面(ZDP)画像434(例えば、第1の画像)と複数のレンダリングされたビュー画像437(例えば、第2の画像)とに分離する。ZDP画像434は、ビュー画像424の画素のサブセットを含むことができ、各レンダリングされたビュー画像437は、マルチビュー画像421の残りの画素を含むことができる。ZDP画像434は、マルチビュー画像421と同様に高い解像度を有することができる。レンダリングされたビュー画像437は、マルチビューモードで動作するとき、時間多重化マルチモードディスプレイの解像度にダウンサンプリングされ得る。マルチビュー画像421がZDP画像434およびレンダリングされたビュー画像437にどのようにセグメント化されるかの決定は、様々な実施形態によれば、ビュー画像424に対応する視差マップ427または代替的に深度マップに基づくことができる。いくつかの実施形態では、深度マップは、例えば、視差マップ427から導出することができる。
いくつかの実施形態では、画像セグメント化プロセス431は、複数のビュー画像424と、マルチビュー画像421の異なるビュー画像424によって表される異なるビュー間の視差を関連付ける1つまたはそれ以上の視差マップ427とを含むマルチビュー画像421を受信することによって開始することができる。
前述したように、物体は、シーン内のもの(例えば、人物、猫、木など)に対応する画素の集合によって表され得る。物体を構成する画素は、共通の視点(例えば、物体と物体の画像を取り込んだ仮想カメラとの間の距離または相対位置)に対して同様の深度を有することができる。視差は、画素集合の各画素についての視差値として定量化することができ、視差値は、少なくとも1つの他のビューの対応する画素に対する視差の程度を表す。
視差マップ427は、マルチビュー画像のビューの対応する画素に視差値を割り当てることができる。ビュー画像424のうちの少なくとも1つは、対応する視差マップ427を有し得る。しかしながら、他の例では、複数のビュー画像424が、対応する視差マップ427を有してもよい。視差マップ427内の各画素は、マルチビュー画像421のビュー画像424内の対応する画素の視差値を表すことができる。例えば、視差マップ画像における最も左上の画素は、第1のビュー画像の最も左上の画素に対する視差を表す画素値を有してもよい。さらに、いくつかのビュー画像424は、画像取り込みプロセスによって生成されてもよく、他のビュー画像424は、少なくとも部分的に、コンピュータビジョン技術を使用してビューを人工的に予測、推定、および/または補間することによって生成されてもよい。いくつかの実施形態では、視差マップ427は、コンピュータビジョン技術によって作成されたビュー画像424によって生成されなくてもよい。いくつかの実施形態では、視差マップ427は、マルチビュー画像421のメタデータとして格納される。
次に、画像セグメント化プロセス431は、視差マップ427にゼロ視差(例えば、ゼロ視差を表す視差値の範囲)の所定の視差しきい値を適用することによって、マルチビュー画像421の特定のビュー画像424をZDP画像434(例えば、第1の画像)とレンダリングされたビュー画像437(例えば、第2の画像)とに分離することができる。さらに、残りのレンダリングされたビュー画像437は、同様の方法で生成することができる。したがって、画像セグメント化プロセス431は、マルチビュー画像421を二組の別々の画像、すなわちZDP画像434およびレンダリングされたビュー画像437にセグメント化する。ZDP画像434は、ゼロ視差の所定の視差しきい値内の視差値に対応するマルチビュー画像421のビュー画像424の部分を識別することによって生成され得る。例えば、ゼロ視差の所定の視差しきい値は、上記の範囲で説明したように、0に近いまたは0に近い視差値の範囲であってもよい。いくつかの実施形態では、画像セグメント化プロセス431は、ゼロ視差の所定の視差しきい値によって定義されるように、ゼロまたは実質的にゼロ視差を有する画素に対応する画素位置を識別するためのマスクを生成することができる。視差がゼロまたはほぼゼロのビュー画像424の画素が識別され、抽出されて、ゼロ視差平面(ZDP)画像434が形成される。ZDP画像434は、マルチビュー画像421の単一のビューから生成され得るが、ZDP画像434は、マルチビュー画像421のすべてのビューに対してZDPに対応する画素を含む。レンダリングされたビュー画像437は、視差しきい値の外側またはそれを超える視差値に対応するマルチビュー画像421のビュー画像424の部分を識別することによって生成され得る。これは、画像マスクの逆を適用して、レンダリングされたビュー画像437の残りの非ZDP画素を識別することを含むことができる。
いくつかの実施形態では、画像セグメント化プロセス431は、マルチビュー画像の視差マップから画像マスクを生成することを含むことができ、画像マスクは、マルチビュー画像のレンダリングのゼロ視差平面に対応する画素位置を指定する。例えば、画像セグメント化プロセス431は、マルチビュー画像421の1つまたはそれ以上のビュー画像424に関連付けられたZDPデータ(例えば、視差マップ)を決定することができる。ZDPデータは、マルチビュー画像421のディスプレイに対するZDPの位置を制御する。ZDPデータは、ゼロの視差値を中心とする視差マップ427における視差値の範囲として定義されてもよい。ZDPデータはまた、特定の深度範囲内の画素の画素位置を決定することによって、深度マップに基づいて決定され得る。例えば、ZDPデータは、ZDP画像マスク(例えば、ビットマップマスク)として記録されてもよく、第1のバイナリ値(例えば、最大画素値)に設定された画素は、視差しきい値内にある画素の位置(すなわち、ZDP画像434の一部である画素)を表し、第2のバイナリ値(例えば、最小画素値)に設定された画像マスクの画素は、視差しきい値内にない画素の位置(すなわち、ZDP画像434の一部ではない画素)を表す。画像セグメント化プロセス431は、画像マスクおよびマルチビュー画像を使用してゼロ視差平面画像を生成することを含むことができる。ZDP画像434は、ZDP画像マスクを使用して画素がZDP内に入るかどうかに応じてマルチビュー画像421内の画素を識別することによって生成され得る。さらに、画像セグメント化プロセス431は、例えば、画像マスクの逆数を使用してマルチビュー画像の一組のレンダリングされたビュー画像を生成することを含むことができる。例えば、画像マスクに従ってマルチビュー画像421から画素を除去することによって、一組のレンダリングされたビュー画像を生成することができる。さらに、一組のレンダリングされたビュー画像は、時間多重化マルチモードディスプレイのマルチビュー解像度にダウンサンプリングされてもよい。
いくつかの実施形態では、画像セグメント化プロセス431は、ZDP画像434またはレンダリングされたビュー画像437のいずれかまたは両方にフェザーマスク操作を適用することを含むことができる。フェザーマスク動作は、画像のエッジを滑らかにしたりぼかしたりする画像処理動作である。フェザーマスク動作は、画像のエッジを検出し、画素レベルの動作を適用して色値をブレンドまたは平均化することを含むことができる。
画像セグメント化プロセス431は、時間多重化マルチモードディスプレイの2次元(2D)モード中に時間多重化マルチモードディスプレイを使用してゼロ視差平面画像434を表示することと、時間多重化マルチモードディスプレイのマルチビューモード中にマルチビュー画像421の一組のレンダリングされたビュー画像437を時間多重化マルチモードディスプレイに表示することと、を含むことができる。例えば、特定のビュー画像424をセグメント化した後に、画像セグメント化プロセス431は、ZDP画像434およびレンダリングされたビュー画像437をマルチモードディスプレイに送信することができる。マルチモードディスプレイは、例えば、2次元(2D)モードおよびマルチビューモードを含むことができる。この点において、マルチモードディスプレイは、例えば、時間多重化マルチモードディスプレイ100に関して上述したように、2Dフォーマットまたはマルチビューフォーマットのいずれかまたは両方で画像を表示することができる時間多重化マルチモードディスプレイであってもよい。ディスプレイは、2Dモードとマルチビューモードとの間を所定の周波数で切り替えることによって、2Dモードとマルチビューモードとの間で時間多重化することができる。所定の周波数は、ディスプレイからの断続的な光が観察者に対して完全に安定しているように見える周波数である臨界融合周波数と少なくとも同じ速さであってもよい。これは、約60ヘルツを超える周波数を含み得る。
画像セグメント化プロセス431は、アプリケーションまたはオペレーティングシステムレベルで実施することができる。画像セグメント化プロセス431は、合成画像として表示するためにZDP画像434およびレンダリングされたビュー画像437を送信するために、グラフィックスまたはビデオドライバによって提供される機能呼び出しまたはコマンドを呼び出すことができる。例えば、時間多重化マルチモードディスプレイは、ZDP画像434を表示し、レンダリングされた画像437を合成画像として見るように構成されてもよい。
図8は、本明細書に記載の原理と一致する実施形態による、一例における画像セグメント化プロセスの出力を示す。ZDP画像434は、特定のビューから生成され、時間多重化マルチモードディスプレイのZDPによって定義されるように、ゼロ視差の所定の視差しきい値内に入るビューの一組の画素440を含む。したがって、ZDP画像434は、ZDPに対応する画素を指定するためにZDP画像マスクによってマスクされたビュー画像424であり得る。これにより、ZDP画像434には、ZDPに対応する画素により表される物体のみが含まれることになる。レンダリングされたビュー画像437はまた、各レンダリングされたビュー画像437が、視差ゼロの所定の視差しきい値の外側にある一組の画素441を含むように、マルチビュー画像から生成されてもよい。したがって、各ビュー画像424は、対応するレンダリングされたビュー画像437を生成するために、ZDP画像マスクによって逆にマスクされ得る。結果として、ZDP上にレンダリングされるべきではない画素441を有する物体のみが、レンダリングされたビュー画像437内に画素441を有する。したがって、ビューが人、猫、および木を含み、人のみがZDPに対応する距離にある場合には、ZDP画像434は、人のみを表す一組の画素440を有することができ、レンダリングされたビュー画像437は、猫および木を表す一組の画素441を有することができる。人を識別する画素は、合成画像を生成するときにZDP画像434の画像コンテンツと一組のレンダリングされたビュー画像437との間の輝度曲線の一致を提供するために、レンダリングされたビュー画像437から除去される。
図9は、本明細書に記載の原理と一致する実施形態による、一例におけるユーザによって知覚される合成画像を示す。図9は、マルチモードディスプレイ450のモードを選択するためのモード選択信号446を生成するモードコントローラ445を示す。特に、マルチモードディスプレイ450は、異なるモード、例えば2Dモード453およびマルチビューモード456で画像を表示するように構成され得る。マルチモードディスプレイ450は、共通の開口部またはスクリーンを共有する2次元(2D)バックライトおよびマルチビューバックライトを含むことができる。例えば、マルチモードディスプレイ450は、説明したように、時間多重化マルチモードディスプレイ100と実質的に同様であってもよい。モード選択信号446は、計算命令、制御信号、電気信号、または2Dディスプレイおよびマルチビューディスプレイのいずれか、なし、または両方を起動する任意の他の信号であってもよい。例えば、モードコントローラ445によって提供されるモード選択信号446は、マルチモードディスプレイの2Dモードに対応するバックライトまたはマルチビューモードに対応するバックライトのいずれかを選択的に作動させることができる。マルチモードディスプレイ450は、様々なモード(例えば、2Dモード453、マルチビューモード456)が経時的に交互にまたは切り替わるように、時間多重化マルチモードディスプレイであってもよい。例えば、モードコントローラ445は、上述の時間多重化マルチモードディスプレイ100のモードコントローラ130と実質的に同様であってもよい。モード選択信号446は、2Dモードとマルチビューモードとの間の切り替えの周波数を特定することができる。
マルチモードディスプレイ450は、ZDP画像434およびレンダリングされたビュー画像437を表示するように構成され得る。臨界融合周波数を超える周波数でZDP画像434とレンダリングされたビュー画像437とを切り替えると、観察者461は、レンダリングされたビュー画像437と同様にZDP画像434の組み合わせとして現れる合成画像464を知覚することができる。臨界フュージョン周波数は、明滅光が連続的に知覚される最小の明滅周波数を指す。いくつかの実施形態では、臨界融合周波数は、少なくとも60Hzであってもよい。したがって、合成画像464は、視野方向の範囲(D1-D4)から知覚可能な2Dモード453で表示されるZDP画像434を有するマルチビュー画像である。合成画像はまた、マルチビューモード456で表示される一組のレンダリングされたビュー画像437を含み、レンダリングされた各ビュー画像437は、ビュー方向(D1-D4)のそれぞれ異なるビュー方向に対応する。
図10は、様々な実施形態によるマルチモードディスプレイを提供するマルチビュー画像表示システム1000(例えば、マルチビュー画像を表示するコンピューティングデバイス)の例示的な図を示す概略ブロック図である。マルチビュー画像表示システム1000は、時間多重化マルチモードディスプレイ100を含むことができる。マルチビュー画像表示システム1000は、例えば、時間多重化マルチモードディスプレイを動作させる方法などの様々な方法を実施するために使用することができる。さらに、マルチビュー画像表示システム1000は、マルチビュー画像の品質を高めるためにセグメント化プロセス(例えば、画像セグメント化プロセス431)を実施するように構成されてもよい。マルチビュー画像表示システム1000は、プロセッサおよびメモリベースのシステムであってもよく、メモリは、プロセッサによって実行されると、プロセッサに様々な動作を実行させる複数の命令を格納する。動作は、プロセッサに、マルチビュー画像と、マルチビュー画像の異なるビュー間の視差を関連付ける視差マップとを受信させることができる。プロセッサは、視差マップによって指定された視差値に従ってマルチビュー画像から画素を選択することによってゼロ視差平面画像を生成することができる。プロセッサは、ゼロ視差平面画像およびマルチビュー画像の一組のビュー画像を時間多重化ディスプレイに送信することができ、時間多重化ディスプレイは、一組のビュー画像をマルチモードディスプレイでレンダリングして、ゼロ視差平面画像を2次元(2D)表示モードでレンダリングすることによって、合成画像を表示するように構成される。
マルチビュー画像表示システム1000は、マルチビュー画像表示システム1000のユーザのための様々な計算動作を実行する構成要素のシステムを含むことができる。マルチビュー画像表示システム1000は、ラップトップ、タブレット、スマートフォン、タッチスクリーンシステム、インテリジェントディスプレイシステム、または他のクライアントデバイスであってもよい。マルチビュー画像表示システム1000は、例えば、プロセッサ1003、メモリ1006、入出力(I/O)構成要素1009、ディスプレイ1012、および潜在的に他の構成要素などの様々な構成要素を含むことができる。これらの構成要素は、マルチビュー画像表示システム1000の構成要素が互いに通信することを可能にするローカルインターフェースとして機能するバス1015に結合することができる。マルチビュー画像表示システム1000の構成要素は、マルチビュー画像表示システム1000内に含まれるように示されているが、構成要素の少なくともいくつかは、外部接続を介してマルチビュー画像表示システム1000に結合することができることを理解されたい。例えば、構成要素は、外部ポート、ソケット、プラグ、またはコネクタを介してマルチビュー画像表示システム1000に外部から差し込まれるか、そうでなければ接続することができる。
プロセッサ1003は、中央処理装置(CPU)、グラフィックス処理装置(GPU)、または計算処理動作を実行する任意の他の集積回路とすることができる。プロセッサ1003は、1つまたはそれ以上の処理コアを含んでもよい。プロセッサ1003は、命令を実行する回路を含む。命令は、例えば、コンピュータコード、プログラム、論理、または命令に組み込まれた計算機能を実行するためにプロセッサ1003によって受信および実行される他の機械可読命令を含む。プロセッサ1003は、データに対して動作する命令を実行することができる。例えば、プロセッサ1003は、入力データ(例えば、画像)を受信し、命令セットに従って入力データを処理し、出力データ(例えば、処理された画像)を生成することができる。別の例として、プロセッサ1003は、命令を受信し、後続の実行のための新しい命令を生成することができる。
メモリ1006は、1つまたはそれ以上のメモリ構成要素を含むことができる。メモリ1006は、本明細書では、揮発性メモリおよび不揮発性メモリのいずれかまたは両方を含むものとして定義される。揮発性メモリ構成要素は、電力喪失時に情報を保持しないものである。揮発性メモリは、例えば、ランダムアクセスメモリ(RAM)、スタティックランダムアクセスメモリ(SRAM)、ダイナミックランダムアクセスメモリ(DRAM)、磁気ランダムアクセスメモリ(MRAM)、または他の揮発性メモリ構造を含むことができる。システムメモリ(例えば、メインメモリ、キャッシュなど)は、揮発性メモリを使用して実装されてもよい。システムメモリは、プロセッサ1003を支援するために迅速な読み出しおよび書き込みアクセスのためのデータまたは命令を一時的に記憶することができる高速メモリを指す。
不揮発性メモリ構成要素は、電力喪失時に情報を保持するものである。不揮発性メモリは、読み出し専用メモリ(ROM)、ハードディスクドライブ、ソリッドステートドライブ、USBフラッシュドライブ、メモリカードリーダを介してアクセスされるメモリカード、関連するフロッピーディスクドライブを介してアクセスされるフロッピーディスク、光ディスクドライブを介してアクセスされる光ディスク、適切なテープドライブを介してアクセスされる磁気テープを含む。ROMは、例えば、プログラマブル読み出し専用メモリ(PROM)、消去可能プログラマブル読み出し専用メモリ(EPROM)、電気的消去可能プログラマブル読み出し専用メモリ(EEPROM)、または他の同様のメモリデバイスを含むことができる。記憶メモリは、データおよび命令の長期保持を提供するために不揮発性メモリを使用して実装されてもよい。
メモリ1006は、命令ならびにデータを記憶するために使用される揮発性メモリと不揮発性メモリとの組み合わせを指すことができる。例えば、データおよび命令は、不揮発性メモリに格納され、プロセッサ1003による処理のために揮発性メモリにロードされてもよい。命令の実行は、例えば、不揮発性メモリから揮発性メモリにロードされ、次いでプロセッサ1003によって実行され得る形式のマシンコードに変換されるコンパイル済みプログラム、プロセッサ1003による実行のために揮発性メモリにロードされることが可能なオブジェクトコードなどの適切な形式に変換されるソースコード、または揮発性メモリ内に命令を生成するために別の実行可能プログラムによって解釈され、プロセッサ1003によって実行されるソースコードなどを含み得る。命令は、例えば、RAM、ROM、システムメモリ、ストレージ、またはそれらの任意の組み合わせを含むメモリ1006の任意の部分または構成要素に格納またはロードすることができる。
メモリ1006は、マルチビュー画像表示システム1000の他の構成要素とは別個のものとして示されているが、メモリ1006は、少なくとも部分的に、1つまたはそれ以上の構成要素に埋め込まれるか、または統合されてもよいことを理解されたい。例えば、プロセッサ1003は、処理動作を実行するためにオンボードメモリレジスタまたはキャッシュを含むことができる。
I/O構成要素1009は、例えば、タッチスクリーン、スピーカ、マイクロフォン、ボタン、スイッチ、ダイヤル、カメラ、センサ、加速度計、またはユーザ入力を受信するか、またはユーザに向けられた出力を生成する他の構成要素を含む。I/O構成要素1009は、ユーザ入力を受信し、メモリ1006に記憶するために、またはプロセッサ1003による処理のために、ユーザ入力をデータに変換することができる。I/O構成要素1009は、メモリ1006またはプロセッサ1003によって出力されたデータを受信し、それらをユーザによって知覚されるフォーマット(例えば、音、触覚応答、視覚情報など)に変換することができる。
特定のタイプのI/O構成要素1009は、ディスプレイ1012である。ディスプレイ1012は、例えば図9に示すマルチモードディスプレイ450などのマルチモードディスプレイであってもよい。I/O構成要素1009として機能する静電容量式タッチスクリーン層をディスプレイ内に積層して、ユーザが視覚出力を同時に知覚しながら入力を提供することを可能にすることができる。プロセッサ1003は、ディスプレイ1012上に提示するための画像としてフォーマットされたデータを生成することができる。プロセッサ1003は、ユーザによる知覚のためにディスプレイ上に画像をレンダリングするための命令を実行することができる。
バス1015は、プロセッサ1003、メモリ1006、I/O構成要素1009、ディスプレイ1012、およびマルチビュー画像表示システム1000の任意の他の構成要素の間の命令およびデータの通信を容易にする。バス1015は、データおよび命令の通信を可能にするために、アドレス変換器、アドレスデコーダ、ファブリック、導電性トレース、導線、ポート、プラグ、ソケット、および他のコネクタを含むことができる。
メモリ1006内の命令は、ソフトウェアスタックの少なくとも一部を実装する方法で様々な形態で具現化することができる。例えば、命令は、オペレーティングシステム1031、アプリケーション1034、デバイスドライバ(例えば、ディスプレイドライバ1037)、ファームウェア(例えば、ディスプレイファームウェア1040)、または他のソフトウェア構成要素として具現化されてもよい。オペレーティングシステム1031は、マルチビュー画像表示システム1000の基本機能、例えばスケジューリングタスク、I/O構成要素1009の制御、ハードウェアリソースへのアクセスの提供、電力管理、およびサポートアプリケーション1034をサポートするソフトウェアプラットフォームである。
アプリケーション1034は、オペレーティングシステム1031上で実行され、オペレーティングシステム1031を介してマルチビュー画像表示システム1000のハードウェアリソースにアクセスすることができる。この点において、アプリケーション1034の実行は、少なくとも部分的に、オペレーティングシステム1031によって制御される。アプリケーション1034は、高レベルの機能、サービス、および他の機能をユーザに提供するユーザレベルソフトウェアプログラムであってもよい。いくつかの実施形態では、アプリケーション1034は、マルチビュー画像表示システム1000上のユーザにダウンロード可能またはアクセス可能な専用の「アプリ」であってもよい。ユーザは、オペレーティングシステム1031によって提供されるユーザインターフェースを介してアプリケーション1034を起動することができる。アプリケーション1034は、開発者によって開発され、様々なソース・コード・フォーマットで定義され得る。アプリケーション1034は、例えば、C、C++、C#、Objective C、Java(登録商標)、Swift、JavaScript(登録商標)、Perl、PHP、Visual Basic(登録商標)、Python(登録商標)、Ruby、Go、または他のプログラミング言語などの多数のプログラミング言語またはスクリプト言語を使用して開発することができる。アプリケーション1034は、コンパイラによって物体コードにコンパイルされてもよく、またはプロセッサ1003による実行のためにインタプリタによって解釈されてもよい。
例えばディスプレイドライバ1037などのデバイスドライバは、オペレーティングシステム1031が様々なI/O構成要素1009と通信することを可能にする命令を含む。各I/O構成要素1009は、それ自体のデバイスドライバを有してもよい。デバイスドライバは、記憶装置に記憶され、システムメモリにロードされるようにインストールされてもよい。例えば、インストール時に、ディスプレイドライバ1037は、オペレーティングシステム1031から受信した高レベルの表示命令を、画像を表示するためにディスプレイ1012によって実施される低レベルの命令に変換する。ディスプレイドライバ1037は、命令を処理して、2Dモード、マルチビューモード、もしくは両方のモードを選択することができ、またはどちらのモードも選択しないことができる。表示用の画像を生成、作成、または管理するアプリケーション1034は、画像をレンダリングしてユーザに表示させるために、関数呼び出しを実行するか、またはデバイスドライバ1037に命令を送信することができる。
例えばディスプレイファームウェア1040などのファームウェアは、I/O構成要素1009またはディスプレイ1012が低レベル動作を実行することを可能にするマシンコードまたはアセンブリコードを含むことができる。ディスプレイファームウェア1040は、特定の構成要素の電気信号をより高いレベルの命令またはデータに変換することができる。例えば、ディスプレイファームウェア1040は、ディスプレイ1012が電圧または電流信号を調整することによって個々の画素を低レベルでどのようにアクティブ化するかを制御することができる。ファームウェアは、不揮発性メモリに格納され、不揮発性メモリから直接実行されてもよい。例えば、ディスプレイファームウェア1040は、ROMチップがマルチビュー画像表示システム1000の他の記憶装置およびシステムメモリとは別個であるように、ディスプレイ1012に結合されたROMチップに組み込まれてもよい。ディスプレイ1012は、ディスプレイファームウェア1040を実行するための処理回路を含むことができる。
オペレーティングシステム1031、アプリケーション1034、ドライバ(例えば、ディスプレイドライバ1037)、ファームウェア(例えば、ディスプレイファームウェア1040)、および潜在的に他の命令セットは各々、上述した機能および動作を実行するためにマルチビュー画像表示システム1000のプロセッサ1003または他の処理回路によって実行可能な命令を含むことができる。本明細書に記載の命令は、上述のようにプロセッサ1003によって実行されるソフトウェアまたはコードで具現化されてもよいが、代替として、命令はまた、専用ハードウェアまたはソフトウェアと専用ハードウェアとの組み合わせで具現化されてもよい。例えば、上述した命令によって実行される機能および動作は、いくつかの技術のうちの任意の1つまたは組み合わせを使用する回路またはステートマシンとして実装されてもよい。これらの技術は、1つまたはそれ以上のデータ信号の印加時に様々な論理機能を実装するための論理ゲートを有するディスクリート論理回路、適切な論理ゲートを有する特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、専用集積回路、または他の構成要素などを含むことができるが、これらに限定されない。
いくつかの実施形態では、上述した機能および動作を実行する命令は、非一時的コンピュータ可読記憶媒体で具現化されてもよい。コンピュータ可読記憶媒体は、マルチビュー画像表示システム1000の一部であってもなくてもよい。命令は、例えば、コンピュータ可読媒体からフェッチされ、処理回路(例えば、プロセッサ1003)によって実行され得るステートメント、コード、または宣言を含んでもよい。文脈において、「コンピュータ可読媒体」は、例えばマルチビュー画像表示システム1000などの命令実行システムによって、またはそれに関連して使用するための本明細書に記載の命令を含む、格納する、または維持することができる任意の媒体であってもよい。
非一時的コンピュータ可読媒体は、例えば、磁気、光学、または半導体媒体などの多くの物理的媒体のうちのいずれか1つを含むことができる。適切なコンピュータ可読媒体のより具体的な例は、磁気テープ、磁気フロッピーディスケット、磁気ハードドライブ、メモリカード、ソリッドステートドライブ、USBフラッシュドライブ、または光ディスクを含むことができるが、これらに限定されない。また、コンピュータ可読媒体は、例えば、スタティックランダムアクセスメモリ(SRAM)およびダイナミックランダムアクセスメモリ(DRAM)を含むランダムアクセスメモリ(RAM)、または磁気ランダムアクセスメモリ(MRAM)であってもよい。さらに、コンピュータ可読媒体は、読み出し専用メモリ(ROM)、プログラマブル読み出し専用メモリ(PROM)、消去可能プログラマブル読み出し専用メモリ(EPROM)、電気的消去可能プログラマブル読み出し専用メモリ(EEPROM)、または他のタイプのメモリデバイスであってもよい。
マルチビュー画像表示システム1000は、上記の動作のいずれかを実行するか、または上記の機能(例えば、画像セグメント化プロセス431)を実装することができる。例えば、上述したフローチャートおよびプロセスフローは、命令を実行し、データを処理するマルチビュー画像表示システム1000によって実行されてもよい。マルチビュー画像表示システム1000は単一のデバイスとして示されているが、実施形態はそのように限定されない。いくつかの実施形態では、マルチビュー画像表示システム1000は、複数のコンピューティングデバイスが共に動作して、分散配置で格納、ロード、または実行することができる命令を実行するように、分散方式で命令の処理をオフロードすることができる。例えば、少なくともいくつかの命令またはデータは、マルチビュー画像表示システム1000と連携して動作するクラウドベースのシステムに格納、ロード、または実行することができる。いくつかの実施形態では、上述の機能を実装する命令は、オペレーティングシステム1031上で実行するアプリケーション1034に含まれてもよく、またはオペレーティングシステムの機能の一部として含まれてもよい。
したがって、時間多重化または時間インターレース方式で動作するように構成された一対のモードを提供する、時間多重化マルチモードディスプレイおよび時間多重化マルチモードディスプレイ動作の方法の例および実施形態を説明した。さらに、マルチモードディスプレイによって表示されるマルチビュー画像の画像ビューを視差に応じてセグメント化することに関する動作および機能について説明した。例えば、実施形態は、合成マルチビュー画像をもたらす時間多重化マルチモードディスプレイの2つのモード(例えば、2Dモードおよびマルチビューモード)で表示されるようにマルチビュー画像を処理することに関する。ZDPに対応する画像コンテンツは2Dモードで表示され、ZDP外の画像コンテンツはマルチビューモードで表示される。上記の例は、本明細書に記載の原理を表す多くの特定の例および実施形態のいくつかを単に例示するものであることを理解されたい。当業者は、以下の特許請求の範囲によって定義される範囲から逸脱することなく、多数の他の構成を容易に考案することができることは、明らかである。
10 マルチビューディスプレイ
12 画面
14 ビュー
16 ビュー方向
20 光ビーム
100 時間多重化マルチモードディスプレイ
102 放射光
102’ 広角放射光
102’’ 指向性放射光
103 伝播方向
104 導波光
106 ライトバルブ
106’ マルチビュー画素
110 広角バックライト
110’ 平面発光面
112 エッジ結合光源
114 ガイド構造体
114a 抽出特徴部
116 ディフューザ
117 輝度向上フィルム
118 偏光リサイクル層
119 反射層
120 マルチビューバックライト
122 光ガイド
122’ 光ガイドの第1の表面、光ガイド面
122’’ 光ガイドの第2の表面、光ガイド面
124 マルチビーム素子
126 光源
130 モードコントローラ
243 2Dモード
300 時間多重化マルチモードディスプレイ動作の方法
310 ステップ
320 ステップ
330 ステップ
403 カメラ
406 第1の物体
409 第2の物体
412 第3の物体
415b 深度
415c 深度
421 マルチビュー画像
424 ビュー画像
427 視差マップ
431 画像セグメント化プロセス
434 ゼロ視差平面画像、ZDP画像
437 レンダリングされたビュー画像
440 画素
441 画素
445 モードコントローラ
446 モード選択信号
450 マルチモードディスプレイ
453 2Dモード
456 マルチビューモード
461 観察者
464 合成画像
1000 マルチビュー画像表示システム
1003 プロセッサ
1006 メモリ
1009 入出力(I/O)構成要素
1012 ディスプレイ
1015 バス
1031 オペレーティングシステム
1034 アプリケーション
1037 ディスプレイドライバ
1040 ディスプレイファームウェア

Claims (16)

  1. 時間多重化マルチモードディスプレイを動作させる方法であって、
    前記時間多重化マルチモードディスプレイのゼロ視差平面に対応するマルチビュー画像内の画素を識別するステップと、
    前記識別された画素を含むゼロ視差平面画像を生成するステップと、
    前記時間多重化マルチモードディスプレイの2次元(2D)モード中に、前記時間多重化マルチモードディスプレイを使用して前記ゼロ視差平面画像を表示するステップと、
    前記時間多重化マルチモードディスプレイのマルチビューモード中に、前記時間多重化マルチモードディスプレイ上に前記マルチビュー画像の一組のレンダリングされたビュー画像を表示するステップと、
    を含み、
    前記時間多重化マルチモードディスプレイは、前記2Dモードと前記マルチビューモードとを切り替えて、前記ゼロ視差平面画像および前記一組のレンダリングされたビュー画像を合成画像として前記時間多重化マルチモードディスプレイに順次表示するように構成され
    前記レンダリングされたビュー画像は、前記ゼロ視差平面画像の画像コンテンツと前記合成画像内の前記一組のレンダリングされたビュー画像との間の輝度曲線一致を提供するように、前記マルチビュー画像から前記識別された画素を除去することによって生成される、
    時間多重化マルチモードディスプレイを動作させる方法。
  2. 前記マルチビュー画像内の前記画素は、前記マルチビュー画像の視差マップによって指定された画素位置に従って選択される、請求項1に記載の時間多重化マルチモードディスプレイを動作させる方法。
  3. ゼロ視差の所定の視差しきい値に基づいて前記視差マップから画像マスクを生成するステップをさらに含む、請求項2に記載の時間多重化マルチモードディスプレイを動作させる方法。
  4. 前記一組のレンダリングされたビュー画像は、前記時間多重化マルチモードディスプレイのマルチビュー解像度にダウンサンプリングされ、前記ゼロ視差平面画像は、ダウンサンプリングの前の前記一組のレンダリングされたビュー画像の解像度を有する、請求項1に記載の時間多重化マルチモードディスプレイを動作させる方法。
  5. 広角バックライトを使用して前記2Dモード中に広角放射光を提供するステップと、
    マルチビーム素子アレイを有するマルチビューバックライトを使用してマルチビューモード中に指向性放射光を提供するステップであって、前記指向性放射光は、前記マルチビーム素子アレイの各マルチビーム素子によって提供される複数の指向性光ビームを含む、ステップと、
    前記2Dモードに対応する第1の順次的期間に前記広角バックライトを、および前記マルチビューモードに対応する第2の順次的期間に前記マルチビューバックライトを順次作動させるように、モードコントローラを使用して前記2Dモードおよび前記マルチビューモードを時間多重化するステップと、
    をさらに含み、
    前記複数の指向性光ビームの指向性光ビームの方向は、前記一組のレンダリングされたビュー画像の異なるビュー方向に対応する、
    請求項1に記載の時間多重化マルチモードディスプレイを動作させる方法。
  6. 指向性放射光を提供するステップは、
    導波光として光ガイド内で光をガイドするステップと、
    前記マルチビーム素子アレイのマルチビーム素子を使用して、前記導波光の一部を前記指向性放射光として散乱させるステップであって、前記マルチビーム素子アレイの各マルチビーム素子が、回折格子、マイクロ屈折素子、およびマイクロ反射素子のうちの1つまたはそれ以上を含む、ステップと、
    を含む、請求項5に記載の時間多重化マルチモードディスプレイを動作させる方法。
  7. 前記光ガイドに光を提供するステップをさらに含み、前記光ガイド内の前記導波光は、所定のコリメーション係数に従ってコリメートされる、請求項6に記載の時間多重化マルチモードディスプレイを動作させる方法。
  8. 前記2Dモード中に前記ゼロ視差平面画像を表示するためにライトバルブアレイを使用して広角放射光を変調するステップと、
    前記マルチビューモード中にマルチビュー画像を表示するために前記ライトバルブアレイを使用して前記指向性放射光の前記複数の指向性光ビームを変調するステップと、
    をさらに含む、請求項5に記載の時間多重化マルチモードディスプレイを動作させる方法。
  9. 前記マルチビーム素子アレイのマルチビーム素子のサイズは、前記ライトバルブアレイのライトバルブのサイズの1/4~2倍である、請求項8に記載の時間多重化マルチモードディスプレイを動作させる方法。
  10. 前記ゼロ視差平面画像および前記マルチビュー画像の前記レンダリングされたビュー画像の一方または両方にフェザーマスクを適用するステップをさらに含む、請求項1に記載の時間多重化マルチモードディスプレイを動作させる方法。
  11. 時間多重化マルチモードディスプレイにおけるマルチビュー画像セグメント化の方法であって、
    マルチビュー画像の視差マップから画像マスクを生成するステップであって、前記画像マスクは、前記マルチビュー画像のレンダリングのゼロ視差平面に対応する画素位置を指定する、ステップと、
    前記画像マスクおよび前記マルチビュー画像を使用してゼロ視差平面画像を生成するステップと、
    前記時間多重化マルチモードディスプレイの2次元(2D)モード中に、前記時間多重化マルチモードディスプレイを使用して前記ゼロ視差平面画像を表示するステップと、
    前記時間多重化マルチモードディスプレイのマルチビューモード中に、前記時間多重化マルチモードディスプレイ上に前記マルチビュー画像の一組のレンダリングされたビュー画像を表示するステップと、
    を含み、
    前記時間多重化マルチモードディスプレイは、前記2Dモードと前記マルチビューモードとを切り替えて、前記ゼロ視差平面画像および前記一組のレンダリングされたビュー画像を合成画像として前記時間多重化マルチモードディスプレイに順次表示するように構成される、
    前記一組のレンダリングされたビュー画像は、前記画像マスクに従って前記マルチビュー画像から画素を除去することによって生成される、
    マルチビュー画像セグメント化の方法。
  12. ゼロ視差の所定の視差しきい値に基づいて前記視差マップから前記画像マスクを生成するステップをさらに含む、請求項11に記載のマルチビュー画像セグメント化の方法。
  13. 前記一組のレンダリングされたビュー画像は、前記時間多重化マルチモードディスプレイのマルチビュー解像度にダウンサンプリングされ、前記ゼロ視差平面画像は、ダウンサンプリングの前の前記一組のレンダリングされたビュー画像の解像度を有する、請求項11に記載のマルチビュー画像セグメント化の方法。
  14. 前記ゼロ視差平面画像および前記一組のレンダリングされたビュー画像の一方または両方にフェザーマスクを適用するステップをさらに含む、請求項11に記載のマルチビュー画像セグメント化の方法。
  15. マルチビュー画像表示システムであって、
    プロセッサと、
    複数の命令を格納するメモリと、を含み、前記複数の命令は、前記プロセッサによって実行されると、前記プロセッサに、
    マルチビュー画像と、前記マルチビュー画像の異なるビュー間の視差を関連付ける視差マップと、を受信させ、
    前記視差マップにより指定される視差値に従って、前記マルチビュー画像から画素を選択してゼロ視差平面画像を生成させ、
    前記ゼロ視差平面画像および前記マルチビュー画像の一組のビュー画像を時間多重化ディスプレイに送信させ、前記時間多重化ディスプレイは、前記一組のビュー画像をマルチモードディスプレイでレンダリングして、前記ゼロ視差平面画像を2次元(2D)表示モードでレンダリングすることによって、合成画像を表示するように構成され
    前記複数の命令は、前記プロセッサによって実行されると、前記プロセッサに、視差ゼロの所定の視差しきい値に基づいて前記視差マップから画像マスクをさらに生成させ、
    前記一組のビュー画像は、前記画像マスクに従って前記マルチビュー画像から画素を除去することによって生成される、
    マルチビュー画像表示システム。
  16. 前記複数の命令は、前記プロセッサによって実行されると、前記プロセッサに、前記ゼロ視差平面画像および前記一組のビュー画像の一方または両方にフェザーマスクをさらに適用させる、請求項15に記載のマルチビュー画像表示システム。
JP2022563345A 2019-04-22 2020-12-24 マルチモードディスプレイを使用して複数の画像の品質を向上させるシステムおよび方法 Active JP7471449B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201962837174P 2019-04-22 2019-04-22
USPCT/US2020/029017 2020-04-20
PCT/US2020/029017 WO2020219400A1 (en) 2019-04-22 2020-04-20 Time-multiplexed backlight, multiview display, and method
PCT/US2020/067046 WO2021216136A1 (en) 2019-04-22 2020-12-24 Systems and methods of enhancing quality of multiview images using a multimode display

Publications (2)

Publication Number Publication Date
JP2023529778A JP2023529778A (ja) 2023-07-12
JP7471449B2 true JP7471449B2 (ja) 2024-04-19

Family

ID=72941362

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021562778A Active JP7362775B2 (ja) 2019-04-22 2020-04-20 時間多重化バックライト、マルチビューディスプレイ、および方法
JP2022563345A Active JP7471449B2 (ja) 2019-04-22 2020-12-24 マルチモードディスプレイを使用して複数の画像の品質を向上させるシステムおよび方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2021562778A Active JP7362775B2 (ja) 2019-04-22 2020-04-20 時間多重化バックライト、マルチビューディスプレイ、および方法

Country Status (8)

Country Link
US (2) US20220044644A1 (ja)
EP (2) EP3959469A4 (ja)
JP (2) JP7362775B2 (ja)
KR (2) KR102632185B1 (ja)
CN (2) CN113748295B (ja)
CA (2) CA3134527C (ja)
TW (2) TWI762910B (ja)
WO (2) WO2020219400A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021076114A1 (en) 2019-10-15 2021-04-22 Leia Inc. Privacy-mode backlight, privacy display, and method
KR20230084252A (ko) * 2020-11-09 2023-06-12 레이아 인코포레이티드 수평 시차 멀티뷰 백라이트, 디스플레이 및 방법
WO2023060382A1 (zh) * 2021-10-11 2023-04-20 镭亚股份有限公司 混合背光体、混合显示器和混合背光体的操作方法
WO2023107103A1 (en) * 2021-12-07 2023-06-15 Leia Inc. Time-multiplexed multiview backlight, multiview display and method
WO2023172285A1 (en) * 2022-03-07 2023-09-14 Leia Inc. 2d/multiview switchable lenticular display, system, and method
TWI787134B (zh) * 2022-05-26 2022-12-11 國立臺灣大學 一種用於快速雜訊抑制對比度增強的資料處理方法及包含其的影像採集和處理系統
TWI832573B (zh) * 2022-11-22 2024-02-11 宏碁股份有限公司 多視域顯示裝置

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070296721A1 (en) 2004-11-08 2007-12-27 Electronics And Telecommunications Research Institute Apparatus and Method for Producting Multi-View Contents
JP2012114563A (ja) 2010-11-22 2012-06-14 Sony Corp 立体表示装置および方法
KR20130027214A (ko) 2011-09-07 2013-03-15 엘지디스플레이 주식회사 입체영상 표시장치와 그 구동방법
KR20130061290A (ko) 2011-12-01 2013-06-11 엘지디스플레이 주식회사 멀티뷰 영상 생성방법과 이를 이용한 입체영상 표시장치
JP2013538474A (ja) 2010-06-14 2013-10-10 クゥアルコム・インコーポレイテッド 3次元画像に対する視差の算出
US20150350632A1 (en) 2014-06-03 2015-12-03 Acer Incorporated Stereoscopic view synthesis method and apparatus using the same
WO2018067381A1 (en) 2016-10-05 2018-04-12 Leia Inc. Mode-selectable backlight, method, and display employing directional scattering features
US20180184066A1 (en) 2016-12-28 2018-06-28 Intel Corporation Light field retargeting for multi-panel display
JP2018523328A (ja) 2015-04-27 2018-08-16 トムソン ライセンシングThomson Licensing ライトフィールドコンテンツを処理する方法及び装置
KR20190036459A (ko) 2017-09-27 2019-04-04 한국과학기술원 인공 지능을 이용한 초분광 영상 재구성 방법 및 장치
WO2019125793A1 (en) 2017-12-20 2019-06-27 Leia Inc. Cross-render multiview camera, system, and method
JP2019502295S (ja) 2019-07-24 2023-02-14 ゲームコントローラー

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005071474A2 (en) * 2004-01-20 2005-08-04 Sharp Kabushiki Kaisha Directional backlight and multiple view display device
TWI261099B (en) * 2005-02-17 2006-09-01 Au Optronics Corp Backlight modules
JP2006350338A (ja) * 2005-06-13 2006-12-28 Samsung Electronics Co Ltd バックライトアセンブリとこれを有する表示装置及びその輝度調節方法
KR20110029948A (ko) * 2009-09-17 2011-03-23 삼성전자주식회사 입체 영상 표시 방법 및 이를 수행하기 위한 입체 영상 표시 장치
DE112010004660T5 (de) * 2009-12-02 2012-10-11 Mitsubishi Electric Corporation Flüssigkristalldisplayeinrichtung
KR101707586B1 (ko) * 2010-09-28 2017-02-17 삼성디스플레이 주식회사 입체 영상 표시 장치
US9049423B2 (en) * 2010-12-01 2015-06-02 Qualcomm Incorporated Zero disparity plane for feedback-based three-dimensional video
JP2013231933A (ja) * 2012-05-02 2013-11-14 Sony Corp 表示装置および電子機器
US9521389B2 (en) * 2013-03-06 2016-12-13 Qualcomm Incorporated Derived disparity vector in 3D video coding
WO2014181220A1 (en) * 2013-05-10 2014-11-13 Koninklijke Philips N.V. Method of encoding a video data signal for use with a multi-view rendering device
CA2925289A1 (en) * 2013-09-30 2015-04-02 Koninklijke Philips N.V. Autostereoscopic display device
KR102175813B1 (ko) * 2014-04-18 2020-11-09 삼성디스플레이 주식회사 입체 영상 표시 장치 및 영상 처리 방법
CN104460115B (zh) * 2014-12-31 2017-09-01 苏州大学 一种多视角像素指向型背光模组及裸眼3d显示装置
EP3283923B1 (en) * 2015-03-30 2020-05-13 LEIA Inc. 2d/3d mode-switchable electronic display with dual layer backlight
CA2996992C (en) 2015-09-05 2024-04-09 Leia Inc. Time-multiplexed backlight and multiview display using same
KR102130133B1 (ko) * 2015-10-16 2020-07-03 삼성전자주식회사 백 라이트 장치 및 이를 포함하는 3차원 영상 표시 장치
KR20170056784A (ko) * 2015-11-13 2017-05-24 희성전자 주식회사 백라이트 유닛 및 이를 포함하는 디스플레이 장치
JP6971242B2 (ja) * 2016-01-30 2021-11-24 レイア、インコーポレイテッドLeia Inc. マルチビーム要素型バックライトおよびこれを用いたディスプレイ
JP6776359B2 (ja) * 2016-01-30 2020-10-28 レイア、インコーポレイテッドLeia Inc. 収束ビューを有するマルチビーム要素型バックライティング
US10687049B2 (en) 2016-12-06 2020-06-16 Samsung Electronics Co., Ltd. Back light apparatus, display apparatus having the back light apparatus, and control method for the display apparatus
KR102239157B1 (ko) * 2017-03-25 2021-04-12 레이아 인코포레이티드 모드-전환가능 백라이트, 개인 정보 표시 및 방법
WO2018186955A1 (en) * 2017-04-04 2018-10-11 Leia Inc. Unilateral backlight, multiview display, and method employing slanted diffraction gratings

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070296721A1 (en) 2004-11-08 2007-12-27 Electronics And Telecommunications Research Institute Apparatus and Method for Producting Multi-View Contents
JP2013538474A (ja) 2010-06-14 2013-10-10 クゥアルコム・インコーポレイテッド 3次元画像に対する視差の算出
JP2012114563A (ja) 2010-11-22 2012-06-14 Sony Corp 立体表示装置および方法
KR20130027214A (ko) 2011-09-07 2013-03-15 엘지디스플레이 주식회사 입체영상 표시장치와 그 구동방법
KR20130061290A (ko) 2011-12-01 2013-06-11 엘지디스플레이 주식회사 멀티뷰 영상 생성방법과 이를 이용한 입체영상 표시장치
US20150350632A1 (en) 2014-06-03 2015-12-03 Acer Incorporated Stereoscopic view synthesis method and apparatus using the same
JP2018523328A (ja) 2015-04-27 2018-08-16 トムソン ライセンシングThomson Licensing ライトフィールドコンテンツを処理する方法及び装置
WO2018067381A1 (en) 2016-10-05 2018-04-12 Leia Inc. Mode-selectable backlight, method, and display employing directional scattering features
US20180184066A1 (en) 2016-12-28 2018-06-28 Intel Corporation Light field retargeting for multi-panel display
KR20190036459A (ko) 2017-09-27 2019-04-04 한국과학기술원 인공 지능을 이용한 초분광 영상 재구성 방법 및 장치
WO2019125793A1 (en) 2017-12-20 2019-06-27 Leia Inc. Cross-render multiview camera, system, and method
JP2019502295S (ja) 2019-07-24 2023-02-14 ゲームコントローラー

Also Published As

Publication number Publication date
TWI786595B (zh) 2022-12-11
EP4111683A1 (en) 2023-01-04
TW202211682A (zh) 2022-03-16
JP2023529778A (ja) 2023-07-12
WO2021216136A1 (en) 2021-10-28
JP7362775B2 (ja) 2023-10-17
EP3959469A4 (en) 2022-12-28
EP4111683A4 (en) 2024-06-05
CA3176092A1 (en) 2021-10-28
KR20210135348A (ko) 2021-11-12
CN115462068A (zh) 2022-12-09
KR102632185B1 (ko) 2024-02-01
EP3959469A1 (en) 2022-03-02
TWI762910B (zh) 2022-05-01
CN113748295A (zh) 2021-12-03
TW202101089A (zh) 2021-01-01
CA3134527A1 (en) 2020-10-29
US20220044644A1 (en) 2022-02-10
CN113748295B (zh) 2024-02-09
WO2020219400A1 (en) 2020-10-29
US20230030728A1 (en) 2023-02-02
KR20220149730A (ko) 2022-11-08
JP2022530212A (ja) 2022-06-28
CA3134527C (en) 2023-12-12

Similar Documents

Publication Publication Date Title
JP7471449B2 (ja) マルチモードディスプレイを使用して複数の画像の品質を向上させるシステムおよび方法
JP7339259B2 (ja) クロスレンダリングマルチビューカメラ、システム、及び方法
KR20210016638A (ko) 혼합형 백라이트, 디스플레이, 및 방법
US20230290046A1 (en) Multiview display system and method employing multiview image convergence plane tilt
US20220334387A1 (en) Multi-user multiview display, system and method
KR20210133322A (ko) 다중 영역 백라이트, 멀티뷰 디스플레이 및 방법
US20230410419A1 (en) Light field camera system and method of setting baseline and convergence distance
JP2024509782A (ja) マルチビューファイルフォーマットを検出するシステムおよび方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230324

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230324

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240318

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240326

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240409

R150 Certificate of patent or registration of utility model

Ref document number: 7471449

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150