JP2020511687A - ビデオシースルー型ディスプレイシステム - Google Patents

ビデオシースルー型ディスプレイシステム Download PDF

Info

Publication number
JP2020511687A
JP2020511687A JP2019547278A JP2019547278A JP2020511687A JP 2020511687 A JP2020511687 A JP 2020511687A JP 2019547278 A JP2019547278 A JP 2019547278A JP 2019547278 A JP2019547278 A JP 2019547278A JP 2020511687 A JP2020511687 A JP 2020511687A
Authority
JP
Japan
Prior art keywords
eye
user
light
camera unit
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019547278A
Other languages
English (en)
Other versions
JP2020511687A5 (ja
Inventor
グリーンバーグ,ボリス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Eyeway Vision Ltd
Original Assignee
Eyeway Vision Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Eyeway Vision Ltd filed Critical Eyeway Vision Ltd
Publication of JP2020511687A publication Critical patent/JP2020511687A/ja
Publication of JP2020511687A5 publication Critical patent/JP2020511687A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0145Head-up displays characterised by optical features creating an intermediate image
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • G02B2027/0174Head mounted characterised by optical features holographic
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Diffracting Gratings Or Hologram Optical Elements (AREA)

Abstract

ビデオシースルー型アイディスプレイユニットを備えたディスプレイシステムが開示されている。アイディスプレイユニットは、少なくとも1つのカメラユニットと、少なくとも1つの画像形成モジュールと、両側から到達する光を少なくとも部分的に反射する、少なくとも1つの両面の光反射光学部品を含む光偏向モジュールとを含む。カメラユニットは、風景の対象領域から到達する光を、光偏向モジュールに交差する第一光路に沿って集光し、対象領域を表示する画像データを生成するために構成される。画像形成モジュールは、ユーザの眼に投影される画像を表示する画像データを受信し、受信した画像を生成および投影して光偏向モジュールと交差する第二光路に沿って伝搬するように構成される。光偏向モジュールの両面の光反射光学部品は、第一および第二光路を交差させながら、眼の前に位置するようにディスプレイシステム内で配置され、かつ、カメラユニットが眼の視線と実質的に類似する視点を有するように、第一光路(カメラユニットと風景の間)および第二光路(画像形成ユニットと眼の間)を画定するように方向付けられる。【選択図】図2B

Description

本発明は、ヘッドマウントディスプレイシステムの構成に関し、特にシースルーおよびビデオシースルー構成を備えたヘッドマウントディスプレイシステムに関する。
ビデオシースルー型拡張現実システムは、仮想現実システムと異なり、ユーザの前方にある実際の風景の外観を基礎として表示データを表示する。一般的に、風景の入力画像ストリームが捉えられ、拡張データ層がその捉えられた画像データに重ねられてユーザに表示される。これにより、情報の層を現実世界の画像上に設け、ゲームおよび他の体験を、周囲および他の現実世界に基づく可視化に統合することができる。
このような拡張現実システムは、一般的に2つの主な統合スキームのうちの1つに基づいており、ユーザは部分的に透過性を示すディスプレイ/ウィンドウを通して見える実際の風景を観察できる場合があり、拡張データはその上に表示される。代替スキームでは、実際の風景は撮影装置(カメラ)によって捉えられ、ディスプレイ装置上で拡張データと共にユーザに表示される。通常、後者の種の拡張現実システムは、カメラユニットを使用するタブレットコンピュータまたはスマートフォンのような装置などの手持ち型システムとして構成されており、カメラユニットは、実際の風景に関するデータを提供するためのものであって、ユーザに動かされてその視点が変化する。いくつかの拡張現実システムは、装着可能なように構成され、1つまたは2つの搭載されたカメラを含む。通常は、従来の装着可能なシステムでは、一般的に1つまたは2つのカメラがユーザの眼と異なる視線で取り付けられ、水平、横方向、および/または縦方向(ユーザと風景との間に延びるZ軸に沿う)の移動を利用する。他の構成は、「サイクロピアン」アイに対する解決策をもたらす映像取得のために、単独のカメラを利用し、これは一方で処理する画素数を減少させ、他方ではユーザに限定的なもしくは立体的でないキュー(que)をもたらす。
通常、拡張現実を提供するように構成される従来のヘッドマウントシステムは、ユーザが実際の風景を観察できるようにしながら、比較的単純な拡張データを提供して、少なくとも部分的に透過性を示す要素をディスプレイに利用する。たとえば、米国特許第9195067号明細書には、ユーザの頭部に着用されるように構成される、ディスプレイとバンドとを含む電子装置が記載されている。バンドはディスプレイが取り付けられるディスプレイ端部を画定し、ディスプレイ端部から自由端部に延びる。バンドは、こめかみ付近の第一位置、こめかみに隣接するユーザの耳の一部に沿った第二位置、およびユーザの頭部の後方部分に沿った第三位置で、ユーザの頭部に接触するようにユーザが設定できるように調整可能である。ディスプレイ端部は、ディスプレイ要素がこめかみに隣接する眼を覆って吊り下げられるように、頭部から離れて位置することができる。バンドはさらにその設定を維持できるように構成される。装置はまた、ディスプレイ上でユーザに提示可能な画像を生成するための、画像生成手段をバンド内に含む。
実際の風景のビューと組み合わされた視覚拡張データをユーザに表示できる、新規システム構成に関する技術における需要が存在する。本発明の技術は、通常はヘッドマウント型として構成され、ユーザに表示データを与えるための1つまたは2つのアイディスプレイユニットを有する、ディスプレイシステムを提供する。本システムは一般的に、比較的大きな視界を有する画像データを表示することによって、仮想または拡張現実体験をユーザに提供するように構成され、ユーザの前方にある領域の実際の視覚データ(実際の風景)を、実質的にリアルタイムな方法で表示データに組み込むように構成される。
アイディスプレイユニットの各々は、少なくとも1つのカメラユニットと関連し、少なくとも1つの画像形成モジュール(たとえばディスプレイおよび/または投影ユニット)および光偏向モジュールを含む。光偏向モジュールは一般的に、ユーザの対応する眼の前に置かれ(たとえば、システムの所定のアイボックス位置の前)、ユーザの前方に位置する風景から到達する光が、少なくとも1つの関連するカメラユニットに集光される向きになるように、かつ、少なくとも1つの画像形成モジュールから到達する光をユーザの眼に向けるように構成される。この構成は、1つもしくは複数のカメラユニットが、カメラの視野がユーザの眼の視野と実質的に類似するように位置するようにし、従ってユーザの眼に対してカメラの視点が変化することに関連する様々な方向感覚の喪失という問題を防ぐ。
より具体的には、本発明の技術に従って、カメラユニットに収集される画像データは、システムを使用していないときのユーザの眼の視点に実質的に類似する視点から収集される。通常、収集された画像データは、画像形成モジュールを介してユーザに与えられる表示データを処理および生成するために、制御ユニットに送信される。従って、制御ユニットは、ユーザに期待される視線に対応する入力画像データを利用する。入力画像データに従って、表示されるデータに対する物体の位置およびユーザの視点は、現実世界でユーザに期待される位置および視点と実質的に類似する。これは、頭部の動作が、ユーザが期待するものに類似する方法で、収集される(従って表示される)画像の変化をもたらすので、ユーザが空間において自分自身をより上手く向きを合わせできるようにする。
ユーザの空間における方向付けを改良することに加えて、システム構成はユーザが拡張現実内で実物体と相互作用する能力を向上させ得る。より具体的には、制御ユニットは、実際の風景に置かれたある物体に従って、画像データ層を重ねるように操作可能で、入力画像データにおける物体は、ユーザが期待するものおよびユーザがどのように物体を見るかに実質的に類似するので、付加的なデータ層はより物理的に確実に機能できる。これは、特に、ヘッドマウントディスプレイシステムを使用しながら、ユーザがさらに自分の実際の位置にある実物体を観察して相互作用し得る、ビデオシースルーシステムにおいて有益である。これは、拡張のために画像データを収集するカメラの視点と、(期待されるユーザの視点と一致する)ユーザの眼の位置との間に差異がある、従来のシステムと逆である。
現実の、および拡張された環境における、改良されたユーザの方向付けをもたらす、本発明のシステム構成および技術は、実際の風景の拡張を体験しながら、ユーザが実物体と相互作用することを必要とする用途において特に重要であることに留意されたい。このような用途では、ユーザはユーザの近傍(たとえば、数センチから1または2メートルの間)にある物体と相互作用し、ユーザの空間における方向付けの程度は、手の動きの正確さを決定する。
この目的のために、本発明の技術は、システムが使用されているときに、ユーザの眼の前にある、光偏向モジュールを利用する。光偏向モジュールは、(ユーザがシステムを使用しない場合に)ユーザの眼に届き得る経路で風景から到達する光が、カメラ軸に沿って偏向され、少なくとも1つの関連するカメラユニットに向けられるように位置する。さらに、光偏向モジュールはユーザの眼に向けられ、少なくとも1つの画像形成ユニットから到達する光は対応する場所に位置する。
従って、1つの広範な態様に従って、本発明は、
風景の対象領域から第一光路に沿って到達する光を集光して、風景を表示する画像データを生成するために構成される少なくとも1つのカメラユニットと、
画像データを受信して、第二光路に沿って該画像データの画像をユーザの眼に投影するために構成される少なくとも1つの画像形成と、
その両側から到達する光を少なくとも部分的に反射するように構成され、該第一および第二光路と交差しながら該眼の前に置かれ、画像形成ユニットとユーザの眼との間に該第二光路を画定し、該少なくとも1つのカメラユニットと風景との間に該第一光路を画定するように方向付けられ、それによって該少なくとも1つのカメラユニットがユーザの眼の視線と実質的に類似する視点を有するようにする少なくとも1つの両面の光反射光学部品を含む、光偏向モジュールと
を含むアイディスプレイユニットを含む、システムを提供する。
いくつかの実施形態に従って、少なくとも1つのカメラユニットは、該光偏向モジュールがない場合の、風景に関する該ユーザの眼の光軸平面に一致する光軸平面に、該第一光路に沿って位置し得る。付加的にまたは代替的に、少なくとも1つのカメラは、該第一光路に沿って位置し、対応するユーザの眼の視線と実質的に類似する視線をもたらすように構成され得る。
いくつかの実施形態に従って、少なくとも1つの画像形成ユニットは、1つ以上の画像を表示する構造化光をユーザの対応する眼に投影するために構成される、アイプロジェクションユニットを含み得る。
少なくとも1つの画像形成ユニットは、表示される画像データを提供するために構成される画像ディスプレイユニットを含み得る。
いくつかの実施形態に従って、光偏向モジュールの、少なくとも1つの両面の光反射光学部品は、両面鏡として構成され得る。
いくつかの実施形態に従って、システムは、ユーザの右眼および左眼と対応する、第一および第二アイディスプレイユニットを含み得る。
一般的に、アイディスプレイユニットはさらに制御ユニットを含むことがある。該制御ユニットは、少なくとも1つのカメラユニットに収集される画像データを受信し、対応する表示画像データを生成し、対応する画像をユーザに提供するために該表示画像データを少なくとも1つの画像形成ユニットに送信するように構成され作動可能である。
いくつかの実施形態に従って、少なくとも1つのカメラユニットの光学的位置および視線が、ユーザの対応する眼の光学的位置および視線と一致するように、光偏向モジュールが入力光を向けるように構成され得る。
光偏向ユニットは、該少なくとも1つのカメラユニットの位置が眼と同じ位置になるように構成され得る。
いくつかの実施形態に従って、少なくとも1つのディスプレイユニットは、滑らかな画像表示を提供するように構成され得る。
いくつかの実施形態に従って、光偏向モジュールは、そこから反射される光に選定された光学的操作を施すように構成される少なくとも1つの反射面を含み得る。
いくつかの実施形態に従って、少なくとも1つの反射面は、選定された表面曲率、回折格子、およびホログラフィック要素のうちの少なくとも1つを備えて構成され得る。
いくつかの実施形態に従って、光偏向モジュールは、風景から到達する光がカメラユニットに向かって偏向される第一光路の一部が、画像形成ユニットによって投影される光が光偏向モジュールによって偏向されて眼に伝搬する第二光路の一部と一直線になるように、構成されてシステム内で配置される。それによって、カメラユニットに捉えられて画像形成ユニットによって眼に投影される、風景の画像部分は、外部の風景に関する空間的な位置決めをされて投影される。
本明細書に開示される主題をよりよく理解し、実際にどのように実行されるかを例示するために、実施形態は、単に非限定的な実例として、以下の添付の図を参照しながらここで説明される。
本発明のディスプレイシステム構成および、動作原理を概略的に示す図である。 システムが、ずれた視線(図2A)と、本発明に従う共通の視線(図2B)とを備えたカメラユニットを利用する、拡張現実における仮想物体とのユーザインタラクションを示す図である。 システムが、ずれた視線(図2A)と、本発明に従う共通の視線(図2B)とを備えたカメラユニットを利用する、拡張現実における仮想物体とのユーザインタラクションを示す図である。 拡張現実システムによって提供される補助データ層と組み合わせて対象物とのユーザインタラクションを示し、本発明のいくつかの実施形態に従うビデオシースルーシステムの可能な用途を表す図である。 本発明のいくつかの実施形態に従うアイディスプレイユニットを示す図である。 本発明のいくつかの実施形態に従うアイプロジェクションユニットを利用するアイディスプレイユニットを例示する図である。 本発明のいくつかの実施形態に従うアイディスプレイユニットの他の構成を例示する図である。
上述のように、ヘッドマウント型の仮想および/または拡張現実システムは、ユーザに能動的な体験を提供し、ユーザが仮想または拡張世界に参加できるようにする。完全な仮想体験では、現実世界の物体との相互作用は限定され、しばしば仮想世界における他の物に対するメタファーとしての役割を果たすことがあるが、拡張現実体験は、ユーザの位置および周辺に関する現実の風景および物体との相互作用を利用する。
ユーザがヘッドマウント型拡張現実システムを使用しながら実物と能動的に相互作用できるようにするために、ユーザの空間方向がシステムに表示されるデータに合うように調整される必要がある。しかし、一般的にシステムは1つ以上のカメラユニットによって収集される周囲の入力画像データを利用し、時には1つ以上のカメラユニットによって得られる表示データをユーザに提示するので、カメラユニットの位置および視点はユーザの空間方向に大きく影響し得る。これは、物体の位置および距離が実際の位置および距離と異なって見え得るので、大抵は気付かれる。
この目的のために、本発明は、一般的にヘッドマウント型ディスプレイシステムとして構成され、本システムを使用していないときのユーザの眼の視点と実質的に類似する視点で風景の入力画像データを収集するように構成される、ディスプレイシステムを提供する。ディスプレイシステム1000を概略的に示す図1を参照すると、ディスプレイシステム1000は、2つのアイディスプレイユニット100aおよび100bを一般的に含み、ユーザが期待する視線および視点に対応する表示画像データを提供するように構成される。アイディスプレイユニット100aおよび100bの各々は、ユーザの眼10aおよび10bによって収集され得る画像データを画像ストリームの形態で形成するために構成される画像形成モジュール130を含み、入力画像データを収集するために構成される少なくとも1つのカメラユニット120と関連している。さらに、本発明に従って、各アイディスプレイユニット100aまたは100bは光偏向モジュール140を含み、光偏向モジュール140は、ユーザの前方の風景から到達する光の少なくとも一部を対応するカメラユニット120に向け、画像形成ユニット130からの光をユーザの対応する眼10aまたは10bに向けるために構成される。光偏向モジュール140は一般的に、その両側で少なくとも部分的に反射するように構成される平板を含み得る。付加的にまたは代替的に、光偏向モジュール140の1つ以上の表面は、1つ以上の湾曲面を有してもよく、および/または、回折を生じるおよび/またはホログラフィックの表面領域を利用してもよい。従って、光偏向モジュール140は、画像形成ユニット130による画像化または、カメラユニット120による画像収集を改良するための、光学的操作を施すように構成され得る。図に例示されるように、光偏向モジュール140は、対応するカメラユニット120の光軸(OA1cおよびOA2c)を、ユーザの眼10aおよび10bの主光路OA1sおよびOA2sと一直線な第一光路に向かって偏向するように構成される。一般的に、光偏向モジュール140は、それぞれ少なくとも1つの両面の光反射光学部品を含み得る。さらに、光偏向モジュールは、画像形成モジュール130によって発生される光(OA1dおよびOA2d)を、ユーザの眼の光軸(OA1vおよびOA2v)と一直線な第二光路に沿って偏向するように構成される。光偏向モジュールの操作により、画像形成モジュール130が対応するカメラユニット120に直接連結される場合では、ユーザに表示される画像はシステムを使用していないかのように実質的に滑らかで、従って風景の滑らかな表示を可能にする。
より具体的には、光偏向モジュール140の角度方向と、カメラユニット120によって集光される光の光路に位置する光学部品を含む、カメラユニット120の位置とにより、カメラユニットが眼と同等の光学平面で位置するようになる。従って、カメラユニットは、眼の位置に置かれて前を向けられている場合と実質的に類似する視線を有する。
一般的に、システム1000はまた、カメラユニット120から入力画像データを受信し、入力データを処理して、画像形成モジュール130によって表示するための出力データを生成するように構成される、制御ユニット500を含む、もしくはそれに連結可能である。制御ユニット500は、対応するヘッドフォンまたはスピーカを介してユーザに与えられる音声データ(たとえば効果音)を生成するように構成されることもあり、場合によっては通信ネットワークもしくは様々な他の装置に接続されていることがある。一般的に制御ユニット500は、周囲の三次元モデルを決定するために入力画像データを利用し、決定された三次元モデルに従って仮想物体を設置し得る。なお、入力画像データはユーザの視点と実質的に類似する視点から収集されるので、一般的に拡張現実における仮想物体の位置合わせによって、物体が正確かつ真実味のある位置および距離に設置された、信憑性のある体験をもたらされる場合があり、浮かんでいるもしくは他の実物体内に位置するように見える仮想物体の様々な誤作動を解決することに留意されたい。
いくつかの実施形態に従って、各アイディスプレイユニット100は対応するカメラユニットを含む場合があることに留意されたい。あるいは、2つのアイディスプレイユニットは、右眼に対応する画像データを捉えるためにその視野の一部を使用し、ユーザの左眼に対応する画像データを捉えるためにその視野の他の部分を使用する、共通のカメラユニットと関連する場合がある。簡易化のために、本発明の技術は、アイディスプレイユニットのためのカメラユニットを使用するものとして本明細書で説明される。さらに、右および左眼の間の左右対称性により、本発明は片方の眼に関して本明細書で説明される。一般的に、いくつかの構成においては、システムは単眼ディスプレイユニットのみを含み、ユーザの他方の眼は妨害なしに自由に周囲を見ている場合がある。
図2Aおよび2Bを参照すると、周囲(実際の風景/現実)の入力画像データは、ユーザの視線に対してずれているカメラユニットによって(図2A)、そしてユーザと共通の視線を有するカメラユニットによって(図2B)もたらされる、拡張現実環境における仮想物体とのユーザインタラクションが例示されている。図2Aは、ディスプレイ900を備えた眼鏡型の拡張現実ユニットを装着したユーザを図示する。拡張現実ユニット900はまた、ユーザ周辺の実際の風景に対して表示される仮想物体(たとえば物体OBJ)の位置を決定するように使用される、周囲の画像データを収集するために構成されるカメラユニット120を含む。通常、システム900の処理/制御ユーティリティ(ここでは具体的には図示されていない)は、入力画像データを利用して表示される物体の位置を決定する。カメラユニット120の視線がユーザの眼10の視線に対してずれているので、物体が表示される位置は実際の風景に対してずれている場合がある。このようなずれによって、現実物体および仮想物体の両方との相互作用を形成しようとするとき、そして仮想物体が選定された現実物体と同じような位置に提示されるときに、ユーザが方向感覚を失い得る。
図2Bの図は、本発明の技術に従って構成される拡張現実システム1000を例示する。より具体的には、本システムは、ユーザの眼10と実質的に類似する視界の光を有するように構成されるカメラユニット120を含む。この構成は、ユーザの視点から見られる入力画像データを処理/制御ユーティリティ(具体的に図示されていない)に与える。したがって、制御ユーティリティは、ユーザの空間における方向決めおよびこのような物体との相互作用を簡易化するように、現実の風景に対して表示される仮想物体(たとえば物体OBJ)の位置を決定し得る。
一般的に、ユーザから比較的離れた物体に関しては、視線のわずかな変化は無視してよい。しかし、多くの拡張現実の用途が、表示される物体とのユーザインタラクションを促進するために使用され得るので、物体はユーザから数センチから約1.5メートルの距離、つまり手の届く位置に現れるように表示され得る。このような比較的短い距離に関しては、数センチでさえも視線が変化すると重要なずれにつながり、表示される仮想物体と相互作用しようとするときにユーザが方向感覚を失う。
図3には、ビデオシースルー構成の例示的な使用法が示されている。図3に示されるように、ユーザは、本発明のいくつかの実施形態に従う拡張現実システム1000を利用しながら、実際の物理的課題を操作および実施している間に、視覚的な案内および/または取扱説明書を受け取る。この例では、ユーザは2つの物体OBJ1およびOBJ2を組み立てようとしており、システム1000は、その物体の周りに見えて、作業をどのように実施するかという指示を与える、付加的な指示データ層VSを提供する。ユーザに表示される実物OBJ1およびOBJ2の位置は、空間における物体の実際の位置に従い(ユーザの手にもまた関連して)、指示(拡張)データVSは、ユーザにとって有意義にするために、対応する位置に見えることに留意されたい。より具体的には、もしこの例において拡張データVSがOBJ1の隣に現れる場合、課題はOBJ2からOBJ1を回して外すと理解され、もし拡張データVSがOBJ2の隣に現れる場合、結果として生じる課題は反対のもの(OBJ1とOBJ2とを共に螺合する)として理解され得る。
図4を参照すると、本発明のいくつかの実施形態に従ってアイディスプレイユニット100が概略的に示されている。アイディスプレイユニット100は、画像形成ユニット130、カメラユニット120、および光偏向モジュール140を含む。光偏向モジュール140は、たとえば両面鏡などの、ユーザの前方の風景から到達する光をカメラユニット120によって捉えられるように偏向し、画像形成ユニット130から到達する光をユーザの眼10に向けて偏向するように構成される、少なくとも部分的に反射する両面プレートの場合がある。通常、光偏向モジュール140は、周囲およびカメラユニット120側にある面141と、眼および画像形成ユニット130側にある面142との、2つの少なくとも部分的に反射する面を有し、周囲から到達する光をカメラ120に向かって反射し、画像形成ユニット130から到達する光をユーザの眼10に向かって反射するように、斜め方向で位置する。
より具体的には、光偏向モジュール140およびカメラユニット120は、カメラユニットの光軸OAcが、前方を直接凝視するときに期待されるユーザの視線OAsと一直線上にある第一軸に沿って、面141に偏向されるように、位置され方向付けられる。所望される視野を提供するために、1つ以上の光学部品が、カメラユニット120によって集光される光の光路に設けられ、2つのこのような光学部品122および124が図に例示されている。これらの光学部品は、1つ以上のレンズ、アパーチャまたは画像収集を改良するために構成される他の構成要素を含んで、所望される視野を提供し得る。光学部品は、光路OAcに沿って、カメラユニット120と光偏向モジュール140との間に、同様に光路OAsに沿って、光偏向モジュール140とユーザの前方にある風景との間に位置し得る。さらに後述で説明されるように、いくつかの構成では、アイディスプレイユニット100はカメラユニット120と光偏向モジュール140との間にのみ位置する光学部品を利用し得る。光学部品122および/または124は、集光される入力光に所望の光学的操作を施すように、別々にもしくは一緒に構成され得る。たとえば、光学部品は、ズームレンズ、望遠レンズシステム、接眼レンズユニット等として構成され得る。さらに、上述のように、光偏向モジュール140の面141は、光学部品122および124に加えてもしくはその代替として、適切な曲率、回折、もしくはホログラフィック要素等を利用しながら、所望の光学的操作を適用するように構成されることがある。
光偏向モジュール140の面142は一般的に、画像形成ユニット130から到達する光をユーザの眼に偏向した。図示されるように、画像形成ユニット130は、その光軸OAdが第二光路に沿って偏向されてユーザの眼の光軸OAvと一直線になるように設置される。画像形成ユニット130は、ユーザが認識できる画像を形成する出力光を生成可能な、任意の種の画像形成ユニットでよい。たとえば、画像形成ユニット130は、複数のピクセルを選択的にONとOFFに切り替えることによって画像データを形成するために構成されるディスプレイパネルを有する、ディスプレイユニットを含む場合があり、または、選定される画像データを、直接ユーザの眼にもしくは中間にある画面に投影するために構成されるアイプロジェクションユニットを含む場合がある。
さらに、第二光路はまた、表示されるデータをユーザに映し出すために構成される、1つ以上の光学部品を含み得る。2つのこのような光学部品は、画像形成ユニット130と光偏向モジュール140との間、および光偏向モジュール140とユーザの眼10との間にそれぞれ位置する、132および134として例示される。光学部品は、画像形成ユニット130からユーザの眼10に向かう光伝搬に影響を与えて、所望される集束距離をもたらすように使用され得る。また、上述のように、光偏向モジュール140の面142はまた、光学部品132および134に加えてまたはその代替として、適切な曲率、回折、またはホログラフィック要素等を使用しながら、所望される光学的操作を与えるように構成され得る。
従って、本発明の様々な実施形態に従って、光偏向モジュール140(およびその偏向面141および142)は、基準光路OAs(第一光路の一部であって、風景から到達する光は第一光路から/第一光路に沿って光偏向モジュール140によって(たとえば面141によって)偏向されて、カメラユニット120に捉えられる)が基準光路OAv(第二光路の一部であって、画像形成ユニット130によって投影される光は第二光路に沿って光偏向モジュール140(たとえば、反対の面142)によって偏向されて眼10に伝搬する)と一直線(同軸)になるように構成され、システム100内で配置される。従って、カメラユニット120に捉えられて、画像形成ユニット130によって眼に投影される、風景の画像もしくはその複数の部分は、外部風景に関する空間的な位置決めをされて認識される。
光偏向モジュール140は、部分的に反射して、風景から到達する光が光路OAsおよびOAvに沿ってユーザの眼10に向かって伝搬できるように構成され得ることに留意されたい。このような構成では、光学部品124および134は、接眼レンズの2つの部分として構成されて、ユーザが周囲を見られるようにする場合があり、または使用されない場合がある。このような構成では、風景は、制御ユニットによって処理されることなくユーザに直接見えて、付加的な画像層が画像形成ユニット130によって実際の可視風景の上に設けられ得る。
図5を参照すると、本発明のいくつかの実施形態に従うアイディスプレイユニット100が図示されている。この例では、光偏向モジュール140は、両側からそこに衝突する光のほとんど100%(たとえば、ほぼ100%、通常は約95%〜99%)を反射する両面鏡として構成される。画像形成ユニット130は、第一中継モジュール136を含むアイプロジェクションユニットとして構成され、光学部品134は第二中継モジュールとして構成される。アイプロジェクションユニットはアイトラッカーを含む場合があり、ユーザの眼の動きに従って画像投影の角度方向を変えられる場合がある。
さらに、図5に例示される構成では、カメラユニットは光学部品122および124を含み、所望される視野を提供し得る。一般的に、カメラユニットは、ユーザの眼10に対応する視線を提供しながら、所望される、場合によっては可変な視野を可能にする、光学部品の選定される任意の構成を利用し得る。カメラユニット120は、もし使用されている場合は、プロジェクションのアイトラッカーによってもたらされる眼の方向に関するデータに従ってその視線を変更するために、偏向光学部品を利用する場合があることに留意されたい。
図6は、本発明のいくつかの実施形態に従うアイディスプレイユニット100のさらなる構成を例示する。この構成では、カメラユニット120は、光偏向モジュール140とカメラユニット120との間で、集光される光の光路に位置する、光学部品122を備えられる。さらなる光学部品126が使用され、光学部品122とカメラユニットとの間に位置する場合がある。画像形成モジュールは上述の構成に従って構成され得るので、画像形成ユニット130に関する図の詳細は省略されている。
一般的に、上述の本発明の様々な実施形態に従って、各アイディスプレイユニット100の少なくとも1つのカメラユニット120によって提供される入力画像データが、立体的な入力画像データを提供する。制御ユニット(一般的に図1の500)は、そこに接続可能なディスプレイシステムの一部であって、上述のように、周囲の決定された三次元マッピングへの入力データを利用する場合がある。このことは、システムが、風景の入力画像データに基づいて信憑性のある拡張データを提供し、拡張現実環境におけるユーザの方向付けを改良することを可能にする。さらに、このような風景の三次元マップは、ユーザの眼の各々に提供される画像の視点の変化に加えて、物体の実際の距離に一致する焦点距離を画像ディスプレイに与え、完全な三次元体験をユーザに提供するように使用され得る。
従って、本発明は、1つ以上のカメラユニットによって集光されるように入力光を向けて、ユーザの眼の視点と実質的に類似する視点を備えた画像を収集するように設けられる、光偏向モジュールを利用しながら、ヘッドマウントディスプレイシステムとして一般的に構成される、ディスプレイシステムを提供する。この構成は、信憑性のある拡張現実体験を提供し、本システムによって提供される仮想もしくは拡張現実におけるユーザの方向付けを向上させる。

Claims (13)

  1. 風景の対象領域から第一光路に沿って到達する光を集光して、前記風景を表示する画像データを生成するために構成される少なくとも1つのカメラユニットと、
    画像データを受信して、第二光路に沿って前記画像データの画像をユーザの眼に投影するために構成される少なくとも1つの画像形成モジュールと、
    その両側から到達する光を少なくとも部分的に反射するように構成され、前記第一および第二光路と交差しながら前記眼の前に置かれ、前記画像形成モジュールと前記ユーザの眼との間に前記第二光路を画定し、前記少なくとも1つのカメラユニットと前記風景との間に前記第一光路を画定するように方向付けられ、それによって前記少なくとも1つのカメラユニットが前記ユーザの眼の視線と実質的に類似する視点を有するようにする少なくとも1つの両面の光反射光学部品を含む、光偏向モジュールと
    を含むアイディスプレイユニットを含む、システム。
  2. 前記少なくとも1つのカメラユニットは、前記光偏向モジュールがない場合の、風景に関する前記ユーザの眼の光軸平面に一致する光軸平面に、前記第一光路に沿って位置する、請求項1のシステム。
  3. 前記少なくとも1つのカメラは、対応するユーザの眼の視線と実質的に類似する視線をもたらすように、前記第一光路に沿って位置する、請求項1または2のシステム。
  4. 前記少なくとも1つの画像形成モジュールは、1つ以上の画像を表示する構造化光をユーザの対応する眼に投影するために構成される、アイプロジェクションユニットを含む、請求項1から3のいずれかのシステム。
  5. 前記少なくとも1つの画像形成モジュールは、表示される画像データを提供するために構成される画像ディスプレイユニットを含む、請求項1から4のいずれかのシステム。
  6. 光偏向モジュールの、前記少なくとも1つの両面の光反射光学部品は、両面鏡として構成される、請求項1から5のいずれかのシステム。
  7. ユーザの右眼および左眼と対応する、第一および第二アイディスプレイユニットを含む、請求項1から6のいずれかのシステム。
  8. 前記アイディスプレイユニットはさらに制御ユニットを含み、前記制御ユニットは、少なくとも1つのカメラユニットに収集される画像データを受信し、対応する表示画像データを生成し、対応する画像をユーザに提供するために前記表示画像データを前記少なくとも1つの画像形成モジュールに送信するように構成され作動可能である、請求項1から7のいずれかのシステム。
  9. 前記少なくとも1つのカメラユニットの光学的位置および視線が、前記ユーザの対応する眼の光学的位置および視線と一致するように、前記光偏向モジュールが入力光を向けるように構成される、請求項1から8のいずれかのシステム。
  10. 前記光偏向ユニットは、前記少なくとも1つのカメラユニットの位置が眼と同じ位置にあるようにする、請求項1から9のいずれかのシステム。
  11. 前記少なくとも1つのディスプレイユニットは、滑らかな画像表示を提供するように構成される、請求項1から10のいずれかのシステム。
  12. 光偏向モジュールは、そこから反射される光に選定された光学的操作を施すように構成される少なくとも1つの反射面を含む、請求項1から11のいずれかのシステム。
  13. 前記少なくとも1つの反射面は、選定された表面曲率、回折格子、およびホログラフィック要素のうちの少なくとも1つを備えて構成される、請求項12のシステム。
JP2019547278A 2017-03-01 2018-02-28 ビデオシースルー型ディスプレイシステム Pending JP2020511687A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
IL250869A IL250869B (en) 2017-03-01 2017-03-01 Display system with video through the display
IL250869 2017-03-01
PCT/IL2018/050222 WO2018158765A1 (en) 2017-03-01 2018-02-28 Display system with video see-through

Publications (2)

Publication Number Publication Date
JP2020511687A true JP2020511687A (ja) 2020-04-16
JP2020511687A5 JP2020511687A5 (ja) 2021-04-01

Family

ID=58669502

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019547278A Pending JP2020511687A (ja) 2017-03-01 2018-02-28 ビデオシースルー型ディスプレイシステム

Country Status (12)

Country Link
US (1) US10890771B2 (ja)
EP (1) EP3590098A4 (ja)
JP (1) JP2020511687A (ja)
KR (1) KR20190141656A (ja)
CN (1) CN110709898A (ja)
AU (1) AU2018226651A1 (ja)
CA (1) CA3055143A1 (ja)
IL (1) IL250869B (ja)
RU (1) RU2019129442A (ja)
SG (1) SG11201907794YA (ja)
TW (1) TW201843494A (ja)
WO (1) WO2018158765A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12003585B2 (en) 2018-06-08 2024-06-04 Vale Group Llc Session-based information exchange
US11195336B2 (en) 2018-06-08 2021-12-07 Vulcan Inc. Framework for augmented reality applications
US10996831B2 (en) 2018-06-29 2021-05-04 Vulcan Inc. Augmented reality cursors
US11899214B1 (en) 2018-09-18 2024-02-13 Apple Inc. Head-mounted device with virtually shifted component locations using a double-folded light path
US11029805B2 (en) 2019-07-10 2021-06-08 Magic Leap, Inc. Real-time preview of connectable objects in a physically-modeled virtual space
TWI749894B (zh) * 2020-01-14 2021-12-11 宏達國際電子股份有限公司 頭戴式顯示器
CN111818265B (zh) * 2020-07-16 2022-03-04 北京字节跳动网络技术有限公司 基于增强现实模型的交互方法、装置、电子设备及介质
CN112731645A (zh) * 2021-01-12 2021-04-30 塔普翊海(上海)智能科技有限公司 一种增强现实望远系统
CN114637118A (zh) * 2022-04-01 2022-06-17 业成科技(成都)有限公司 抬头显示器及其操作方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001249302A (ja) * 2000-03-03 2001-09-14 Mixed Reality Systems Laboratory Inc 画像観察システム
US20020030637A1 (en) * 1998-10-29 2002-03-14 Mann W. Stephen G. Aremac-based means and apparatus for interaction with computer, or one or more other people, through a camera
JP2002508636A (ja) * 1998-03-25 2002-03-19 ダブリュ スティーヴン ジー マン ビューファインダ手段を備えた着用可能なカメラ・システム
JP2007058194A (ja) * 2005-07-26 2007-03-08 Tohoku Univ 高反射率可視光反射部材及びそれを用いた液晶ディスプレイバックライトユニット並びに高反射率可視光反射部材の製造方法
JP2012155122A (ja) * 2011-01-26 2012-08-16 Kyocera Optec Co Ltd 光学ユニットおよび赤外線撮像センサ
US20140300632A1 (en) * 2013-04-07 2014-10-09 Laor Consulting Llc Augmented reality apparatus
US20170052369A1 (en) * 2014-04-30 2017-02-23 Sharp Kabushiki Kaisha Reflective projection display device
DE102015118520A1 (de) * 2015-10-29 2017-05-04 Krauss-Maffei Wegmann Gmbh & Co. Kg Kopfbefestigbare Anzeigevorrichtung

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2233047C (en) 1998-02-02 2000-09-26 Steve Mann Wearable camera system with viewfinder means
US7639208B1 (en) * 2004-05-21 2009-12-29 University Of Central Florida Research Foundation, Inc. Compact optical see-through head-mounted display with occlusion support
KR100542370B1 (ko) 2004-07-30 2006-01-11 한양대학교 산학협력단 보이지 않는 마커를 이용하는 비전기반 증강현실 시스템
US7522344B1 (en) * 2005-12-14 2009-04-21 University Of Central Florida Research Foundation, Inc. Projection-based head-mounted display with eye-tracking capabilities
US9195067B1 (en) 2012-09-28 2015-11-24 Google Inc. Wearable device with input and output structures
US20170010467A1 (en) * 2015-07-08 2017-01-12 Castar, Inc. Hmpd with near eye projection

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002508636A (ja) * 1998-03-25 2002-03-19 ダブリュ スティーヴン ジー マン ビューファインダ手段を備えた着用可能なカメラ・システム
US20020030637A1 (en) * 1998-10-29 2002-03-14 Mann W. Stephen G. Aremac-based means and apparatus for interaction with computer, or one or more other people, through a camera
JP2001249302A (ja) * 2000-03-03 2001-09-14 Mixed Reality Systems Laboratory Inc 画像観察システム
JP2007058194A (ja) * 2005-07-26 2007-03-08 Tohoku Univ 高反射率可視光反射部材及びそれを用いた液晶ディスプレイバックライトユニット並びに高反射率可視光反射部材の製造方法
JP2012155122A (ja) * 2011-01-26 2012-08-16 Kyocera Optec Co Ltd 光学ユニットおよび赤外線撮像センサ
US20140300632A1 (en) * 2013-04-07 2014-10-09 Laor Consulting Llc Augmented reality apparatus
US20170052369A1 (en) * 2014-04-30 2017-02-23 Sharp Kabushiki Kaisha Reflective projection display device
DE102015118520A1 (de) * 2015-10-29 2017-05-04 Krauss-Maffei Wegmann Gmbh & Co. Kg Kopfbefestigbare Anzeigevorrichtung

Also Published As

Publication number Publication date
US10890771B2 (en) 2021-01-12
CA3055143A1 (en) 2018-09-07
SG11201907794YA (en) 2019-09-27
IL250869A0 (en) 2017-04-30
RU2019129442A (ru) 2021-04-01
IL250869B (en) 2021-06-30
AU2018226651A1 (en) 2019-10-17
EP3590098A1 (en) 2020-01-08
TW201843494A (zh) 2018-12-16
KR20190141656A (ko) 2019-12-24
EP3590098A4 (en) 2021-01-20
US20200012107A1 (en) 2020-01-09
WO2018158765A1 (en) 2018-09-07
CN110709898A (zh) 2020-01-17

Similar Documents

Publication Publication Date Title
JP2020511687A (ja) ビデオシースルー型ディスプレイシステム
US6078427A (en) Smooth transition device for area of interest head-mounted display
US6222675B1 (en) Area of interest head-mounted display using low resolution, wide angle; high resolution, narrow angle; and see-through views
TWI666467B (zh) 眼睛投影系統
JP3802630B2 (ja) 立体画像生成装置および立体画像生成方法
US11320655B2 (en) Graphic interface for real-time vision enhancement
US9230500B2 (en) Expanded 3D stereoscopic display system
US11662582B2 (en) Display with holographic relay and holographic image combiner
JP2017204674A (ja) 撮像装置、ヘッドマウントディスプレイ、情報処理システム、および情報処理方法
JP2008033219A (ja) 混合現実環境用のフェイスマウントディスプレイ装置
JP2014219621A (ja) 表示装置、表示制御プログラム
US20220270217A1 (en) Reprojection and wobulation at head-mounted display device
JP4270347B2 (ja) 距離演算装置
JP2022552586A (ja) ニアアイディスプレイ用マルチパススキャナ
CN108020919B (zh) 显示装置、可穿戴设备及显示装置的显示切换方法
KR101941880B1 (ko) 자유 초점 디스플레이 장치
KR101965785B1 (ko) 증강현실 헤드마운트 디스플레이 시스템
JP6121097B2 (ja) 情報提示装置
JP2016090853A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2001066696A (ja) 回帰反射スクリーンを用いる3次元画像投写システム
WO2020137088A1 (ja) ヘッドマウントディスプレイ、表示方法、及び表示システム
Pastoor et al. Mixed reality displays
JP2949116B1 (ja) 反射光学系を用いたディスプレイ装置
WO2022064564A1 (ja) ヘッドマウントディスプレイ
CN117242390A (zh) 头戴式显示器(hmd)中用于改善视场(fov)的波导构造

Legal Events

Date Code Title Description
A529 Written submission of copy of amendment under article 34 pct

Free format text: JAPANESE INTERMEDIATE CODE: A529

Effective date: 20190924

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210219

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211221

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220712