本出願は、国際出願第PCT/US2017/042275号、同第PCT/US2017/042276号、同第PCT/US2017/042418号、同第PCT/US2017/042452号、同第PCT/US2017/042462号、同第PCT/US2017/042466号、同第PCT/US2017/042467号、同第PCT/US2017/042468号、同第PCT/US2017/042469号、同第PCT/US2017/042470号、および同第PCT/US2017/042679号に関連し、これらはすべて、参照によりその全体が本明細書に組み込まれる。
ライトフィールド(LF)ディスプレイシステムは、少なくとも1つのホログラフィックオブジェクトを含むホログラフィックコンテンツを電化製品のユーザーに提示するために、消費者向けデバイスに実装される。「ユーザー」、「電化製品のユーザー」、および「視聴者」という用語は、本明細書では同じ意味で使用される。「電化製品」、「消費者向け電化製品」、「消費者向け電化製品デバイス」、「消費者向けデバイス」、および「デバイス」という用語も、本明細書では同じ意味で使用され、これらの用語は、清掃、調理、食品保存などの家事を行う電気/工作機械、およびホームアシスタント(例:Amazon Alexa(商標)またはGoogle Home(商標))を指す。例としては、冷蔵庫、ストーブ、洗濯機、乾燥機、食器洗い機、ロティメーカー、圧力鍋などの消費者向けデバイスがある。
電化製品のLFディスプレイシステムは、電化製品のユーザーに電化製品の使用中に没入型の操作体験を提供するために、電化製品の機能と統合されている。電化製品の機能は、機械的および電子的な制御システムを使用して有効になり、電子制御システムは、電化製品のユーザーが電化製品を操作できる様々なソフトウェアクライアントアプリケーションを含むコンピュータプログラムモジュールを実行することで有効になり得る。LFディスプレイシステムは、電化製品のビューイングボリューム内で視聴者に見えるであろう1つ以上のホログラフィックオブジェクトを含むホログラフィックコンテンツを提示するように構成されたLFディスプレイモジュールを備える。LFディスプレイシステムによって提示されるホログラフィックコンテンツは、電化製品の機能と統合されている。これにより、電化製品の操作中に電化製品のユーザーの没入型体験が向上する。ホログラフィックオブジェクトはまた、他の感覚刺激(例えば、触覚、音声、温度、または嗅覚)で拡張され得る。例えば、LFディスプレイシステムの超音波エミッタは、体積触覚投影を作成する超音波圧力波を投影し得る。体積触覚投影は、投影されたホログラフィックオブジェクトの一部またはすべてに対応する触覚表面を提供する。ホログラフィックコンテンツは、追加のビジュアルコンテンツ(すなわち、2Dまたは3Dビジュアルコンテンツ)を含み得る。一体感のある体験を可能にするエネルギー源の調整は、複数のエネルギー源(すなわち、任意の時点で正しい触覚および感覚刺激を提供するホログラフィックオブジェクト)を使用した実装のLFシステムの一部である。例えば、LFシステムは、ホログラフィックコンテンツおよび1つ以上の触覚表面の提示を調整するためのコントローラを含み得る。
いくつかの実施形態では、LFディスプレイシステムは、システムが、少なくとも1つのタイプのエネルギーを投影し、同時に、ユーザーに応答してインタラクティブな体験を作成するために少なくとも1つのタイプのエネルギーを感知することを可能にする要素を含み得る。感知されたエネルギーは、ユーザーがホログラフィックコンテンツにどのように応答するかを記録するために使用され得る。例えば、LFディスプレイシステムは、見るためのホログラフィックオブジェクトおよび触覚知覚のための超音波の両方を投影し、それと同時に、ユーザーの追跡および他のシーン分析のための画像情報を記録する一方、ユーザーによる接触応答を検出するために超音波を感知する。一例として、そのようなシステムは、ユーザーによって仮想的に「タッチ」されると、接触刺激に従ってその「行動」を修正するホログラフィックオブジェクトを投影し得る。環境のエネルギー感知を実行するディスプレイシステムの構成要素は、表示面に統合され得るか、または超音波スピーカおよびカメラなどの撮像キャプチャデバイスなど、表示面とは別の専用のセンサであり得る。
LFディスプレイシステムは、生成されたホログラフィックオブジェクトに基づいて消費者向けデバイスで様々な体験を提供するように構築され得る。例えば、一実施形態では、冷蔵庫のLFディスプレイシステムを実装して、視聴アプリケーションを介して内部冷蔵庫棚の中身のホログラフィックビューをユーザーに提示し得る。LFディスプレイアセンブリは、単一面または多面シームレス表面環境を形成することができる。ホログラフィックコンテンツは、電化製品のディスプレイスクリーン自体などの物理的なオブジェクトを拡張または強化し得る。例えば、一実施形態では、デバイス上のLFディスプレイシステムは、オーブンの外面にホログラフィクサイン、例えば、「ケーキベーキング:終了までの時間:12分」を提示するように実装され得る。さらに、ユーザーは3Dメガネやその他のヘッドギアなどのアイウェアデバイスを必要とせずに、ホログラフィックコンテンツを自由に視聴できる。
いくつかの実施形態では、LFディスプレイシステムは、追跡システムおよび/または感覚フィードバックアセンブリを介して入力を受信し得る。入力に基づいて、LFディスプレイシステムは、ホログラフィックコンテンツを調整し、ならびに関連する構成要素にフィードバックを提供することができる。
LFディスプレイシステムはまた、少なくともLFディスプレイシステムのビューイングボリューム内のユーザーの動きを追跡するためのシステムを組み込み得る。ユーザーの追跡された動きは、電化製品を使用する際のユーザーの経験を強化させるために使用できる。例えば、LFディスプレイシステムは、追跡情報を使用して、ホログラフィックコンテンツとのユーザーのインタラクション(例えば、ホログラフィックボタンを押すこと)を容易にすることができる。LFディスプレイシステムは、追跡情報を使用して、ホログラフィックオブジェクトに対する指の位置を監視することができる。例えば、ホログラフィックオブジェクトは、ユーザーによって「押され」得るボタンであり得る。LFディスプレイシステムは、超音波エネルギーを投影して、ボタンに対応し、ボタンと実質的に同じ空間を占有する触覚表面を生成することができる。LFディスプレイシステムは、追跡情報を使用して、ボタンがユーザーによって「押される」ときに、ボタンを動的に移動するとともに、触覚表面の位置を動的に移動することができる。LFディスプレイシステムは、追跡情報を使用して、ユーザーを見る、および/またはユーザーとアイコンタクトする、もしくはユーザーと他の方法でインタラクションするホログラフィックオブジェクトをレンダリングし得る。LFディスプレイシステムは、追跡情報を使用して、ユーザーに「タッチする」ホログラフィックオブジェクトをレンダリングし得、超音波スピーカは、ホログラフィックオブジェクトが、接触を介して、ユーザーとインタラクションできる触覚表面を作成する。
追加的に、LFディスプレイシステムは、各電化製品のユーザーにパーソナライズされたコンテンツを提供するために、各ユーザーを識別するためのユーザープロファイリングシステムを組み込み得る。ユーザープロファイリングシステムは、ホログラフィックコンテンツをパーソナライズするためのその後の使用に使用できる電化製品のユーザーの特定の使用に関する他の情報をさらに記録し得る。
ライトフィールドディスプレイシステムの概要
図1は、1つ以上の実施形態による、ホログラフィックオブジェクト120を提示するライトフィールド(LF)ディスプレイモジュール110の図100である。LFディスプレイモジュール110は、ライトフィールド(LF)ディスプレイシステムの一部である。LFディスプレイシステムは、1つ以上のLFディスプレイモジュールを使用して、少なくとも1つのホログラフィックオブジェクトを含むホログラフィックコンテンツを提示する。LFディスプレイシステムは、1人以上のユーザーにホログラフィックコンテンツを提示することができる。いくつかの実施形態では、LFディスプレイシステムはまた、他の感覚コンテンツ(例えば、接触、音声、匂い、温度など)でホログラフィックコンテンツを拡張し得る。例えば、以下で考察されるように、超音波の投影は、ホログラフィックオブジェクトの一部またはすべての表面をシミュレートできる中空触覚を生成し得る。LFディスプレイシステムは、1つ以上のLFディスプレイモジュール110を含んでおり、図2~図8に関して以下で詳細に考察される。
LFディスプレイモジュール110は、ホログラフィックオブジェクト(例えば、ホログラフィックオブジェクト120)を1人以上のユーザー(例えば、視聴者140)に提示するホログラフィックディスプレイである。LFディスプレイモジュール110は、エネルギーデバイス層(例えば、発光電子ディスプレイまたは音響投影デバイス)と、エネルギー導波路層(例えば、光学レンズアレイ)と、を含む。追加的に、LFディスプレイモジュール110は、複数のエネルギー源または検出器を一緒に組み合わせて単一の表面を形成するために、エネルギーリレー層を含み得る。高レベルでは、エネルギーデバイス層は、エネルギー(例えば、ホログラフィックコンテンツ)を生成し、このエネルギーは次に、エネルギー導波路を使用して、1つ以上の四次元(4D)ライトフィールド関数に従って空間内の領域に指向される。LFディスプレイモジュール110はまた、1つ以上のタイプのエネルギーの投影および/または感知を同時に行い得る。例えば、LFディスプレイモジュール110は、ホログラフィック画像ならびに超音波触覚表面をビューイングボリューム内に投影することができ得る一方、同時に、ビューイングボリュームからの画像データを検出する。LFディスプレイモジュール110の操作は、図2~図3に関して以下でより詳細に考察される。
LFディスプレイモジュール110は、(例えば、プレノプティック関数から導出される)1つ以上の4Dライトフィールド関数を使用して、ホログラフィックオブジェクトボリューム160内にホログラフィックオブジェクトを生成する。ホログラフィックオブジェクトは、三次元(3D)、二次元(2D)、またはそれらの何らかの組み合わせであり得る。さらに、ホログラフィックオブジェクトは、多色(例えば、フルカラー)であり得る。ホログラフィックオブジェクト120は、ホログラフィックオブジェクトボリューム160内のどこにでも配置することができる。ホログラフィックオブジェクトは、スクリーン平面の前、スクリーン平面の後ろに投影されるか、またはスクリーン平面によって分割されてもよい。ホログラフィックオブジェクト120は、ホログラフィックオブジェクトボリューム160内のどこでも知覚されるように提示され得る。ホログラフィックオブジェクトボリューム160内のホログラフィックオブジェクトは、視聴者140には、空間に浮かんでいるように見えることがある。
ホログラフィックオブジェクトボリューム160は、ホログラフィックオブジェクトが視聴者140によって知覚され得るボリュームを表す。ホログラフィックオブジェクトボリューム160は、ホログラフィックオブジェクトがディスプレイエリア150の平面の前に提示できるように、表示面150の前に(すなわち、視聴者140に向かって)延在できる。追加的に、ホログラフィックオブジェクトボリューム160は、ディスプレイエリア150の平面の後ろに(すなわち、視聴者140から離れる方向に)延在し得、ホログラフィックオブジェクトが、ディスプレイエリア150の平面の後ろにあるかのように提示されることを可能にする。言い換えれば、ホログラフィックオブジェクトボリューム160は、ディスプレイエリア150から発生し(例えば、投影され)、収束してホログラフィックオブジェクトを作成し得るすべての光線を含むことができる。ここで、光線は、表示面の前、表示面、または表示面の後ろにある点に収束し得る。より簡単に言えば、ホログラフィックオブジェクトボリューム160は、ホログラフィックオブジェクトが視聴者によって知覚され得るすべてのボリュームを包含する。
ビューイングボリューム130は、LFディスプレイシステムによってホログラフィックオブジェクトボリューム160内に提示されたホログラフィックオブジェクト(例えば、ホログラフィックオブジェクト120)が完全に見える空間のボリュームである。ホログラフィックオブジェクトは、ホログラフィックオブジェクトボリューム160内に提示され、実際のオブジェクトと区別できないように、ビューイングボリューム130内で見られ得る。ホログラフィックオブジェクトは、オブジェクトが物理的に存在した場合に、オブジェクトの表面から生成されるであろう光線と同じ光線を投影することによって形成される。立体視ディスプレイとは異なり、ホログラフィックオブジェクトボリューム160内の収束エネルギー伝播経路の観察位置は、視聴者140がビューイングボリューム130の周りを移動するときに変化しない(例えば、図2に関して以下で考察されるように)。代わりに、ホログラフィックビューイングボリューム130に位置する2人は、実際にそこにいるかのように、オブジェクトの適切なビューを見るであろう。従って、視聴者140は、ビューイングボリューム内で制約を受けなくてもよい。対照的に、従来のシステムでは、視聴者を特定の視野(例えば、ディスプレイに対して固定された位置にある椅子など)に拘束される必要がある。
場合によっては、ホログラフィックオブジェクトボリューム160および対応するビューイングボリューム130は、単一の視聴者用に設計されるように、比較的小さくあり得る。他の実施形態では、例えば、図4Aおよび図4Bに関して以下で詳細に説明するように、LFディスプレイモジュールは、より大きなホログラフィックオブジェクトボリューム、および広範囲の視聴者(例えば、1人~数千人)を収容できる対応するビューイングボリュームを作成するために拡大および/またはタイル張りされ得る。本開示で提示されるLFディスプレイモジュールは、モジュールの全表面が、非アクティブまたはデッドスペースがなく、ベゼルを必要としないホログラフィック撮像光学系を含むように構築される。これらの実施形態では、LFディスプレイモジュールは、撮像エリアがLFディスプレイモジュール間のタイルの継ぎ目をまたいで連続するようにタイル張りされ得、タイル張りされたモジュール間の接合ラインは、目の視力を使用して実質的に検出されない。
ビューイングボリューム130の柔軟なサイズおよび/または形状は、視聴者がビューイングボリューム130内で制約を受けないことを可能にする。例えば、視聴者140は、ビューイングボリューム130内の異なる位置に移動し、対応する視点からホログラフィックオブジェクト120の異なるビューを見ることができる。例示のために、図1を参照すると、視聴者140は、ホログラフィックオブジェクト120がユーザーとインタラクトするシミュレートされたアバターであり得るホログラフィックキャラクターの真正面からのビューで見えるように、ホログラフィックオブジェクト120に対して第1の位置にある。視聴者140は、キャラクターの異なるビューを見るために、ホログラフィックオブジェクト120に対して他の場所に動き得る。例えば、視聴者140は、視聴者140があたかも実際のキャラクターを見ていて、その人の異なる側面を見るために、実際の人に対する視聴者の相対位置を変更するかのように、移動し得、キャラクターの左側、キャラクターの右側などを見ることができる。いくつかの実施形態では、ホログラフィックオブジェクト120は、ホログラフィックオブジェクト120への遮るもののない(すなわち、オブジェクト/ヒトによって遮られていない)視線を有する、ビューイングボリューム130内のすべての視聴者に見える。これらの視聴者は、異なる視点のホログラフィックオブジェクト120を見るために、ビューイングボリューム内を動き回ることができるように、制約されないでよい。従って、LFディスプレイシステムは、複数の制約されない視聴者が、あたかもホログラフィックオブジェクトが物理的に存在するかのごとく、実世界空間のホログラフィックオブジェクトを異なる視点で同時に見ることができるように、ホログラフィックオブジェクトを提示することができる。
対照的に、従来のディスプレイ(例えば、立体視、仮想現実、拡張現実、または複合現実)では、一般に、各視聴者は、コンテンツを見るために、何らかの外部デバイス(例えば、3Dメガネ、ニアアイディスプレイ、またはヘッドマウントディスプレイ)を着用する必要がある。追加的および/または代替的に、従来のディスプレイでは、視聴者が特定の視聴位置に(例えば、ディスプレイに対して固定された場所を有する椅子に)拘束される必要があり得る。例えば、立体視ディスプレイによって表示されるオブジェクトを見る場合、視聴者は常に、オブジェクトではなく表示面に焦点を合わせ、ディスプレイは常に、知覚されたオブジェクトの周りを動き回ろうとする視聴者に追随するオブジェクトの2つのビューのみを提示し、そのオブジェクトの知覚に歪みを引き起こす。しかしながら、ライトフィールドディスプレイでは、LFディスプレイシステムによって提示されるホログラフィックオブジェクトの視聴者は、ホログラフィックオブジェクトを見るために、外部デバイスを着用する必要がない。LFディスプレイシステムは、特別なアイウェア、メガネ、またはヘッドマウントアクセサリーを要することなく、物理的なオブジェクトが視聴者に見えるのとほぼ同じように視聴者に見える方法で、ホログラフィックオブジェクトを提示する。さらに、視聴者は、ビューイングボリューム内の任意の場所からホログラフィックコンテンツを見ることができる。
特に、ホログラフィックオブジェクトボリューム160内のホログラフィックオブジェクトの潜在的な場所は、ボリュームのサイズによって制限される。ホログラフィックオブジェクトボリューム160のサイズを大きくするために、LFディスプレイモジュール110のディスプレイエリア150のサイズを大きくしてもよく、および/または複数のLFディスプレイモジュールを、個々のLFディスプレイモジュールのディスプレイエリアよりも大きい有効なディスプレイエリアを有するシームレスな表示面を形成するように一緒にタイル張りしてもよい。LFディスプレイモジュールのタイル張りに関連するいくつかの実施形態が、図4Aおよび図4Bに関して以下で説明される。図1に例示されるように、ディスプレイエリア150は矩形であり、ピラミッド形であるホログラフィックオブジェクトボリューム160をもたらす。他の実施形態では、ディスプレイエリアは、対応するビューイングボリュームの形状にも影響を与える何らかの他の形状(例えば、六角形)を有し得る。
追加的に、上記の考察は、LFディスプレイモジュール110と視聴者140との間にあるホログラフィックオブジェクトボリューム160の一部内にホログラフィックオブジェクト120を提示することに焦点を当てているが、LFディスプレイモジュール110は追加的に、ディスプレイエリア150の平面の後ろに見えるコンテンツを提示することができる。例えば、LFディスプレイモジュール110は、ディスプレイエリア150を、ホログラフィックオブジェクト120が中にある部屋のように見せ得る。また、表示されるコンテンツは、視聴者140が、表示された表面を通して、部屋の他のオブジェクトを見ることができるようなものであってもよい。さらに、LFディスプレイシステムは、表示面150の平面の後ろおよび前を含む、ホログラフィックオブジェクトボリューム160の周りをシームレスに移動するコンテンツを生成することができる。
図2Aは、1つ以上の実施形態による、LFディスプレイモジュール210の一部の断面200である。LFディスプレイモジュール210は、LFディスプレイモジュール110であってもよい。他の実施形態では、LFディスプレイモジュール210は、ディスプレイエリア150とは異なるディスプレイエリア形状を有する別のLFディスプレイモジュールであってもよい。例示的な実施形態では、LFディスプレイモジュール210は、エネルギーデバイス層220、エネルギーリレー層230、およびエネルギー導波路層240を含む。LFディスプレイモジュール210のいくつかの実施形態は、本明細書に記載のものとは異なる構成要素を有する。例えば、いくつかの実施形態では、LFディスプレイモジュール210は、エネルギーリレー層230を含まない。同様に、機能は、本明細書の記載とは異なる方法で構成要素間に分散され得る。
本明細書に記載のディスプレイシステムは、実世界のオブジェクトを通常取り巻くエネルギーを複製するエネルギーの放出を提示する。ここで、放出されたエネルギーは、表示面上のすべての座標から特定の方向に指向される。表示面からの指向されたエネルギーは、多くのエネルギー線の収束を可能にし、それによって、仮想オブジェクトを作成することができる。例えば、可視光では、LFディスプレイは、極めて大きい数の光線を投影し、ホログラフィックオブジェクトボリューム内の任意の点で収束するため、それらの光線は、投影されているオブジェクトよりも遠くに位置する視聴者の視点からは、空間のこの領域に位置する実世界のオブジェクトの表面から来ているように見えるであろう。このように、LFディスプレイは、視聴者の視点からは、そのようなオブジェクトの表面から出たような反射光線を生成している。視聴者の視点は、任意の特定の仮想オブジェクト上で変わり得、視聴者は、その仮想オブジェクトの異なるビューを見るであろう。
エネルギーデバイス層220は、1つ以上の電子ディスプレイ(例えば、OLEDなどの発光ディスプレイ)と、本明細書に記載の1つ以上の他のエネルギー投影および/またはエネルギー受信デバイスと、を含む。1つ以上の電子ディスプレイは、(例えば、LFディスプレイシステムのコントローラからの)表示命令に従ってコンテンツを表示するように構成される。1つ以上の電子ディスプレイは、各々が個別に制御される強度を有する複数のピクセルを含む。発光LEDおよびOLEDディスプレイなど、多くのタイプの商用ディスプレイがLFディスプレイ内で使用され得る。
エネルギーデバイス層220はまた、1つ以上の音響投影デバイスおよび/または1つ以上の音響受信デバイスを含み得る。音響放出デバイスは、ホログラフィックオブジェクト250を補完する1つ以上の圧力波を生成する。生成される圧力波は、例えば、可聴、超音波、またはそれらの何らかの組み合わせであってもよい。超音波圧力波は、体積触覚のために(例えば、ホログラフィックオブジェクト250の表面において)使用される。可聴圧力波は、ホログラフィックオブジェクト250を補完し得る音声コンテンツ(例えば、没入型オーディオ)を提供するために使用される。例えば、ホログラフィックオブジェクト250がキャラクターであると仮定すると、1つ以上の音響投影デバイスを使用して、(1)視聴者がホログラフィックオブジェクト250に接触し得るように、提示されたキャラクターの表面と併置される触覚表面を生成し、および/または(2)おそらくキャラクターからの音声挨拶に対応するオーディオコンテンツを提供する。音響受信デバイス(例えば、マイクロフォンもしくはマイクロフォンアレイ)は、LFディスプレイモジュール210の局所エリア内の超音波および/または可聴圧力波を監視するように構成され得る。
エネルギーデバイス層220はまた、1つ以上の画像センサを含み得る。画像センサは、少なくとも可視光帯の光に敏感であり、場合によっては、他の帯域(例えば、赤外線)の光に敏感であってもよい。画像センサは、例えば、相補型金属酸化膜半導体(CMOS)アレイ、電荷結合デバイス(CCD)、光検出器のアレイ、光をキャプチャする何らかの他のセンサ、またはそれらの何らかの組み合わせであってもよい。LFディスプレイシステムは、視聴者の場所標定追跡のために、1つ以上の画像センサによってキャプチャされたデータを使用することができる。
エネルギーリレー層230は、エネルギーデバイス層220とエネルギー導波路層240との間でエネルギー(例えば、電磁、機械的圧力波)を中継する。エネルギーリレー層230は、1つ以上のエネルギーリレー要素260を含む。各エネルギーリレー要素は、第1の表面265および第2の表面270を含み、2つの表面間でエネルギーを中継する。各エネルギーリレー要素の第1の表面265は、1つ以上のエネルギーデバイス(例えば、電子ディスプレイまたは音響投影デバイス)に結合され得る。エネルギーリレー要素は、例えば、ガラス、炭素、光ファイバー、光学フィルム、プラスチック、ポリマー、またはそれらの何らかの組み合わせで構成され得る。追加的に、いくつかの実施形態では、エネルギーリレー要素は、第1の表面265と第2の表面270との間を通過するエネルギーの倍率(増加または減少)を調整することができる。リレーが倍率を提供する場合、リレーは、テーパーと呼ばれる、接着されたテーパーリレーのアレイの形態を採り得、テーパーの一端の面積は、反対側の端よりも実質的に大きくなり得る。テーパーの大きい方の端は、一緒に張り合わされて、シームレスなエネルギー面275を形成することができる。1つの利点は、複数のディスプレイのベゼルなど、複数のエネルギー源の機械的エンベロープを収容するために、各テーパーの複数の小さな端にスペースが作成されることである。この余分のスペースにより、各エネルギー源が、小さいテーパー表面内にエネルギーを指向するアクティブエリアを有し、大きいシームレスなエネルギー面にリレーされる状態で、エネルギー源を小さなテーパー側に並べて配置することが可能になる。テーパーリレーを使用する別の利点は、テーパーの大きい端によって形成される、組み合わされたシームレスなエネルギー面には、非結像デッドスペースがないことである。境界またはベゼルが存在しないため、シームレスなエネルギー面を一緒にタイル張りして、目の視力によると実質的に継ぎ目のない、より大きな表面を形成することができる。
隣接するエネルギーリレー要素の第2の表面は、一緒になってエネルギー面275を形成する。いくつかの実施形態では、隣接するエネルギーリレー要素の縁間の分離は、20/40よりも優れた視力を有する人間の目の視力によって定義される最小の知覚可能な輪郭よりも小さく、その結果、エネルギー面275は、ビューイングボリューム285内の視聴者280の視点からは事実上シームレスである。
いくつかの実施形態では、1つ以上のエネルギーリレー要素は、エネルギー局在化を示し、表面265および270に実質的に垂直な長手方向のエネルギー輸送効率は、垂直横断平面内の輸送効率よりもはるかに高く、エネルギー波が表面265と表面270との間を伝播するとき、エネルギー密度はこの横断平面内で高度に局在化される。このエネルギーの局在化により、画像などのエネルギー分布が、解像度の大きな損失なしに、これらの表面間で効率的に中継されることが可能になる。
エネルギー導波路層240は、エネルギー導波路層240内の導波路要素を使用して、エネルギーを、エネルギー面275上の場所(例えば、座標)から、表示面から外側のホログラフィックビューイングボリューム285内への特定の伝搬経路内に指向する。一例として、電磁エネルギーの場合、エネルギー導波路層240内の導波路要素は、光をシームレスなエネルギー面275上の位置から、ビューイングボリューム285を通る異なる伝搬方向に沿って指向する。様々な例において、光は、4Dライトフィールド関数に従って指向されて、ホログラフィックオブジェクトボリューム255内にホログラフィックオブジェクト250を形成する。
エネルギー導波路層240は、エネルギー導波路層240内の導波路要素を使用して、エネルギーを、エネルギー面275上の場所(例えば、座標)から、表示面から外側のホログラフィックビューイングボリューム285内への特定の伝搬経路内に指向する。一例として、電磁エネルギーの場合、エネルギー導波路層240内の導波路要素は、光をシームレスなエネルギー面275上の位置から、ビューイングボリューム285を通る異なる伝搬方向に沿って指向する。様々な例において、光は、4Dライトフィールド関数に従って指向されて、ホログラフィックオブジェクトボリューム255内にホログラフィックオブジェクト250を形成する。
エネルギー導波路層240内の各導波路要素は、例えば、1つ以上の要素で構成されるレンズレットであり得る。いくつかの構成では、レンズレットは、正レンズであり得る。正レンズは、球面、非球面、または自由形状の表面プロファイルを有し得る。追加的に、いくつかの実施形態では、導波路要素の一部またはすべては、1つ以上の追加の光学構成要素を含み得る。追加の光学構成要素は、例えば、バッフル、正レンズ、負レンズ、球面レンズ、非球面レンズ、自由形状レンズ、液晶レンズ、液体レンズ、屈折要素、回折要素、またはそれらの何らかの組み合わせなどのエネルギー抑制構造であり得る。いくつかの実施形態では、レンズレットおよび/または追加の光学構成要素のうちの少なくとも1つはまた、屈折力を動的に調整することができる。例えば、レンズレットは、液晶レンズまたは液体レンズであってもよい。表面プロファイルの動的調整、レンズレットおよび/または少なくとも1つの追加の光学構成要素は、導波路要素から投影される光の追加の方向制御を提供し得る。
例示的な例では、LFディスプレイのホログラフィックオブジェクトボリューム255は、光線256および光線257によって形成される境界を有するが、他の光線によって形成され得る。ホログラフィックオブジェクトボリューム255は、エネルギー導波路層240の前(すなわち、視聴者280に向かって)およびその後ろ(すなわち、視聴者280から離れて)の両方に延在する連続したボリュームである。例示的な例では、光線256および光線257は、LFディスプレイモジュール210の反対の縁から、ユーザーによって知覚され得る表示面277の法線に対して最大の角度で投影されるが、これらは他の投影光線であり得る。これらの光線は、ディスプレイの視野を画定し、従って、ホログラフィックビューイングボリューム285の境界を画定する。場合によっては、これらの光線は、ディスプレイ全体がケラレなしで観察され得るホログラフィックビューイングボリューム(例えば、理想的なビューイングボリューム)を画定する。ディスプレイの視野が広がると、光線256および光線257の収束点がディスプレイにより近くなる。従って、より広い視野を有するディスプレイは、視聴者280がより近い視距離でディスプレイ全体を見ることを可能にする。追加的に、光線256および257は、理想的なホログラフィックオブジェクトボリュームを形成し得る。理想的なホログラフィックオブジェクトボリューム内に提示されるホログラフィックオブジェクトは、ビューイングボリューム285内のどこでも見られ得る。
いくつかの例では、ホログラフィックオブジェクトは、ビューイングボリューム285の一部にのみ提示され得る。言い換えれば、ホログラフィックオブジェクトボリュームは、任意の数のビューイングサブボリューム(例えば、ビューイングサブボリューム290)に分割され得る。追加的に、ホログラフィックオブジェクトは、ホログラフィックオブジェクトボリューム255の外側に投影され得る。例えば、ホログラフィックオブジェクト251は、ホログラフィックオブジェクトボリューム255の外側に提示される。ホログラフィックオブジェクト251は、ホログラフィックオブジェクトボリューム255の外側に提示されるので、ビューイングボリューム285内のすべての場所から見ることができるわけではない。例えば、ホログラフィックオブジェクト251は、ビューイングサブボリューム290内の場所からは見えるが、視聴者280の場所からは見えない可能性がある。
例えば、異なるビューイングサブボリュームからホログラフィックコンテンツを見ることを例示するために、図2Bに目を向ける。図2Bは、1つ以上の実施形態による、LFディスプレイモジュールの一部の断面200を例示する。図2Bの断面は、図2Aの断面と同じである。しかしながら、図2Bは、LFディスプレイモジュール210から投影された異なる光線のセットを示している。光線256および光線257は、依然としてホログラフィックオブジェクトボリューム255およびビューイングボリューム285を形成する。しかしながら、示されるように、LFディスプレイモジュール210の頂部およびLFディスプレイモジュール210の底部から投影された光線は重なり合って、ビューイングボリューム285内に様々なビューイングサブボリューム(例えば、ビューサブボリューム290A、290B、290C、および290D)を形成する。第1のビューイングサブボリューム(例えば、290A)内の視聴者は、他のビューイングサブボリューム(例えば、290B、290C、および290D)内の視聴者が知覚できない、ホログラフィックオブジェクトボリューム255内に提示されたホログラフィックコンテンツを知覚することができ得る。
より簡単に言えば、図2Aに例示されるように、ホログラフィックオブジェクトボリューム255は、ホログラフィックオブジェクトがビューイングボリューム285内の視聴者(例えば、視聴者280)によって知覚され得るように、ホログラフィックオブジェクトが、LFディスプレイシステムによって提示され得るボリュームである。このように、ビューイングボリューム285は、理想的なビューイングボリュームの一例であり、ホログラフィックオブジェクトボリューム255は、理想的なオブジェクトボリュームの一例である。しかしながら、様々な構成において、他の例示的なビューイングボリュームにおける視聴者は、ホログラフィックコンテンツを知覚し得るように、視聴者は、他の例示的なホログラフィックオブジェクトボリューム内にLFディスプレイシステム200によって提示されたホログラフィックオブジェクトを知覚し得る。より一般的には、LFディスプレイモジュールから投影されたホログラフィックコンテンツを見るときには「アイラインガイドライン」が適用される。アイラインガイドラインは、視聴者の目の位置と見られているホログラフィックオブジェクトとによって形成されるラインはLF表示面と交差しなければならないと主張する。
LFディスプレイモジュール210によって提示されたホログラフィックコンテンツを見るとき、ホログラフィックコンテンツは4Dライトフィールド関数に従って提示されるので、視聴者280の各目は、異なる視点のホログラフィックオブジェクト250を見る。さらに、視聴者280がビューイングボリューム285内を移動するとき、視聴者は、ビューイングボリューム285内の他の視聴者が見るであろうような、異なる視点のホログラフィックオブジェクト250を見るであろう。当業者には理解されるように、4Dライトフィールド関数は当技術分野で周知であり、本明細書ではこれ以上詳しく説明しない。
本明細書でより詳細に説明するように、いくつかの実施形態では、LFディスプレイは、2つ以上のタイプのエネルギーを投影することができる。例えば、LFディスプレイは、例えば、機械的エネルギーおよび電磁エネルギーなどの2つのタイプのエネルギーを投影することができる。この構成では、エネルギーリレー層230は、エネルギー面275で一緒にインターリーブされるが、エネルギーが2つの異なるエネルギーデバイス層220に中継されるように分離される2つの別個のエネルギーリレーを含む。ここで、一方のリレーは、電磁エネルギーを輸送するように構成され得、別方のリレーは、機械的エネルギーを輸送するように構成され得る。いくつかの実施形態では、機械的エネルギーは、エネルギー導波路層240上の電磁導波路要素間の場所から投影され得、光が一方の電磁導波路要素から別方の電磁導波路要素に輸送されるのを抑制する構造を形成するのに役立つ。いくつかの実施形態では、エネルギー導波路層240はまた、コントローラからの表示命令に従って、集束超音波を特定の伝搬経路に沿って輸送する導波路要素を含み得る。
代替の実施形態(図示せず)では、LFディスプレイモジュール210はエネルギーリレー層230を含まないことに留意されたい。この場合、エネルギー面275は、エネルギーデバイス層220内の1つ以上の隣接する電子ディスプレイを使用して形成された出射面である。また、いくつかの実施形態では、隣接する電子ディスプレイの縁間の分離は、20/40の視力を有する人間の目の視力によって定義される最小の知覚可能な輪郭よりも小さく、その結果、エネルギー面は、ビューイングボリューム285内の視聴者280の視点からは事実上シームレスである。
LFディスプレイモジュール
図3Aは、1つ以上の実施形態による、LFディスプレイモジュール300Aの斜視図である。LFディスプレイモジュール300Aは、LFディスプレイモジュール110および/またはLFディスプレイモジュール210であり得る。他の実施形態では、LFディスプレイモジュール300Aは、何らかの他のLFディスプレイモジュールであってもよい。例示的な実施形態では、LFディスプレイモジュール300Aは、エネルギーデバイス層310、エネルギーリレー層320、およびエネルギー導波路層330を含む。LFディスプレイモジュール300Aは、本明細書で説明されるように、表示面365からホログラフィックコンテンツを提示するように構成される。便宜上、表示面365は、LFディスプレイモジュール300Aのフレーム390上に破線の輪郭として例示されているが、より正確には、フレーム390の内側リムによって境界される導波路素子の真正面の表面である。LFディスプレイモジュール300Aのいくつかの実施形態は、本明細書で説明されるものとは異なる構成要素を有する。例えば、いくつかの実施形態では、LFディスプレイモジュール300Aは、エネルギーリレー層320を含まない。同様に、機能は、本明細書の記載とは異なる方法で構成要素間に分散され得る。
エネルギーデバイス層310は、エネルギーデバイス層220の一実施形態である。エネルギーデバイス層310は、4つのエネルギーデバイス340を含む(図では3つが見える)。エネルギーデバイス340は、すべてが同じタイプ(例えば、すべてが電子ディスプレイ)であってもよいか、または1つ以上の異なるタイプを含んでもよい(例えば、電子ディスプレイおよび少なくとも1つの音響エネルギーデバイスを含む)。
エネルギーリレー層320は、エネルギーリレー層230の一実施形態である。エネルギーリレー層320は、4つのエネルギーリレー要素350を含む(図では3つが見える)。エネルギーリレーデバイス350は、すべてが同じタイプのエネルギー(例えば、光)を中継し得るか、または1つ以上の異なるタイプ(例えば、光および音)を中継し得る。リレー要素350の各々は、第1の表面および第2の表面を含み、エネルギーリレー要素350の第2の表面は、単一のシームレスなエネルギー面360を形成するように配置される。例示的な実施形態では、エネルギーリレー要素350の各々は、第1の表面が第2の表面よりも小さい表面積を有するようにテーパー状になっており、これにより、テーパーの小さい方の端にエネルギーデバイス340の機械的エンベロープを収容することが可能になる。これにより、エリア全体がエネルギーを投影し得るため、シームレスなエネルギー面が無境界であることが可能になる。これは、300の複数の実例を、デッドスペースまたはベゼルなしに一緒に配置することによって、組み合わされた表面全体がシームレスであるように、このシームレスなエネルギー面がタイル張りされ得ることを意味する。他の実施形態では、第1の表面および第2の表面は同じ表面積を有する。
エネルギー導波路層330は、エネルギー導波路層240の一実施形態である。エネルギー導波路層330は、複数の導波路要素370を含む。図2に関して上で考察されるように、エネルギー導波路層330は、ホログラフィックオブジェクトを形成するために、4Dプレノプティック関数に従って、エネルギーをシームレスなエネルギー面360から特定の伝搬経路に沿って指向するように構成される。例示的な実施形態では、エネルギー導波路層330はフレーム390によって境界されることに留意されたい。他の実施形態では、フレーム390は存在しない、および/またはフレーム390の厚さが低減されている。フレーム390の厚さの除去または低減は、LFディスプレイモジュール300Aと追加のLFディスプレイモジュール300とのタイル張りを容易にし得る。
例示的な実施形態では、シームレスなエネルギー面360およびエネルギー導波路層330は平面であることに留意されたい。図示されてない代替の実施形態では、シームレスなエネルギー面360およびエネルギー導波路層330は、1つ以上の次元で湾曲していてよい。
LFディスプレイモジュール300Aは、シームレスなエネルギー面の表面上に存在する追加のエネルギー源を有して構成され得、ライトフィールドに加えてエネルギーフィールドの投影を可能にする。一実施形態では、音響エネルギーフィールドが、シームレスなエネルギー面360上の任意の数の位置に取り付けられた静電スピーカ(例示せず)から投影され得る。さらに、LFディスプレイモジュール300Aの静電スピーカは、デュアルエネルギー面がサウンドフィールドおよびホログラフィックコンテンツを同時に投影するように、ライトフィールドディスプレイモジュール300A内に位置付けられる。例えば、静電スピーカは、電磁エネルギーのいくつかの波長に対して透過性であり、導電性要素を用いて駆動される1つ以上のダイアフラム要素で形成され得る。静電スピーカは、ダイアフラム要素が導波路要素のうちのいくつかを覆うように、シームレスなエネルギー面360に装着されてもよい。スピーカの導電性電極は、電磁導波路間の光透過を抑制するように設計された構造体と併置されてよく、および/または電磁導波路要素間の位置(例えば、フレーム390)に位置してよい。様々な構成において、スピーカは、可聴音、および/または触覚表面を生み出す集束超音波エネルギーの多くのソースを投影することができる。
いくつかの構成では、エネルギーデバイス340は、エネルギーを感知し得る。例えば、エネルギーデバイスは、マイクロフォン、光センサ、音響トランスデューサなどであり得る。従って、エネルギーリレーデバイスは、シームレスなエネルギー面360からエネルギーデバイス層310にエネルギーを中継することもできる。すなわち、LFディスプレイモジュールのシームレスなエネルギー面360は、エネルギーデバイスおよびエネルギーリレーデバイス340が、エネルギーを放出すると同時に感知する(例えば、ライトフィールドを放出し、音を感知する)ように構成されるとき、双方向エネルギー面を形成する。
より広義には、LFディスプレイモジュール340のエネルギーデバイス340は、エネルギー源またはエネルギーセンサのいずれかであり得る。LFディスプレイモジュール300Aは、高品質のホログラフィックコンテンツのユーザーへの投影を容易にするために、エネルギー源および/またはエネルギーセンサとして機能する様々なタイプのエネルギーデバイスを含み得る。他のソースおよび/またはセンサとしては、サーマルセンサまたはソース、赤外線センサまたはソース、画像センサまたはソース、音響エネルギーを生成する機械的エネルギートランスデューサ、フィードバックソースなどが挙げられる。多くの他のセンサまたはソースが可能である。さらに、LFディスプレイモジュールが、大きな集合体のシームレスなエネルギー面から複数のタイプのエネルギーを投影および感知するアセンブリを形成し得るように、LFディスプレイモジュールはタイル張りされ得る。
LFディスプレイモジュール300Aの様々な実施形態では、シームレスなエネルギー面360は、各表面部分が特定のタイプのエネルギーを投影および/または放出するように構成される様々な表面部分を有し得る。例えば、シームレスなエネルギー面がデュアルエネルギー面である場合、シームレスなエネルギー面360は、電磁エネルギーを投影する1つ以上の表面部分と、超音波エネルギーを投影する1つ以上の他の表面部分と、を含む。超音波エネルギーを投影する表面部分は、電磁導波路要素間のシームレスなエネルギー面360上に位置し得、および/または電磁導波路要素間の光透過を抑制するように設計された構造体と併置され得る。シームレスなエネルギー面が双方向エネルギー面である例では、エネルギーリレー層320は、シームレスなエネルギー面360でインターリーブされた2つのタイプのエネルギーリレーデバイスを含み得る。様々な実施形態では、シームレスなエネルギー面360は、特定の導波路要素370の下の表面の部分が、すべてエネルギー源、すべてエネルギーセンサ、またはエネルギー源およびエネルギーセンサの混在であるように構成され得る。
図3Bは、1つ以上の実施形態による、インターリーブされたエネルギーリレーデバイスを含むLFディスプレイモジュール300Bの断面図である。LFディスプレイモジュール300Bは、1つ以上のタイプのエネルギーを投影するためのデュアルエネルギー投影デバイスとして、またはあるタイプのエネルギーを投影することと、別のタイプのエネルギーを感知することとを同時に行うための双方向エネルギーデバイスとしてのいずれかに構成され得る。LFディスプレイモジュール300Bは、LFディスプレイモジュール110および/またはLFディスプレイモジュール210であり得る。他の実施形態では、LFディスプレイモジュール302は、何らかの他のLFディスプレイモジュールであり得る。
LFディスプレイモジュール300Bは、図3AのLFディスプレイモジュール300Aのものと同様に構成される多くの構成要素を含む。例えば、例示的な実施形態では、LFディスプレイモジュール300Bは、図3Aに関して説明したものと少なくとも同じ機能を含むエネルギーデバイス層310、エネルギーリレー層320、シームレスなエネルギー面360、およびエネルギー導波路層330を含む。追加的に、LFディスプレイモジュール300Bは、表示面365からエネルギーを提示および/または受信する。特に、LFディスプレイモジュール300Bの構成要素は、代替的に、図3AのLFディスプレイモジュール300Aの構成要素とは異なって接続および/または配向されている。LFディスプレイモジュール300Bのいくつかの実施形態は、本明細書で説明されるものとは異なる構成要素を有する。同様に、機能は、本明細書の記載とは異なる方法で構成要素間に分散され得る。図3Bは、より大きな面積を有するデュアルエネルギー投影表面または双方向エネルギー面を生み出すためにタイル張りされ得る単一のLFディスプレイモジュール302の設計を例示する。
一実施形態では、LFディスプレイモジュール300Bは、双方向LFディスプレイシステムのLFディスプレイモジュールである。双方向LFディスプレイシステムは、エネルギーを投影し、それと同時に表示面365からエネルギーを感知することができる。シームレスなエネルギー面360は、シームレスなエネルギー面360上で密接にインターリーブされたエネルギー投影場所およびエネルギー感知場所の両方を含む。従って、図3Bの例では、エネルギーリレー層320は、図3Aのエネルギーリレー層とは異なる様式で構成される。便宜上、LFディスプレイモジュール300Bのエネルギーリレー層は、本明細書では「インターリーブエネルギーリレー層」と呼ばれる。
インターリーブエネルギーリレー層320は、第1のエネルギーリレーデバイス350Aと第2のエネルギーリレーデバイス350Bとの2つの脚部を含む。脚部の各々は、薄い陰影のエリアとして例示されている。脚部の各々は、可撓性のリレー材料で作製され、様々なサイズおよび形状のエネルギーデバイスで使用するのに十分な長さで形成され得る。インターリーブエネルギーリレー層のいくつかの領域では、2つの脚部は、シームレスなエネルギー面360に近づくにつれて、一緒に緊密にインターリーブされる。例示的な例では、インターリーブされたエネルギーリレーデバイス352は、暗い陰影のエリアとして例示されている。
シームレスなエネルギー面360でインターリーブされる一方、エネルギーリレーデバイスは、異なるエネルギーデバイスとの間でエネルギーを中継するように構成される。エネルギーデバイスは、エネルギーデバイス層310にある。例示のように、エネルギーデバイス340Aは、エネルギーリレーデバイス350Aに接続され、エネルギーデバイス340Bは、エネルギーリレーデバイス350Bに接続されている。様々な実施形態では、各エネルギーデバイスは、エネルギー源またはエネルギーセンサであり得る。
エネルギー導波路層330は、エネルギー波をシームレスなエネルギー面360から、投影された経路に沿って、一連の収束点に向かって導くための導波路要素370を含む。この例では、ホログラフィックオブジェクト380が、一連の収束点に形成される。特に、例示のように、ホログラフィックオブジェクト380でのエネルギーの収束は、表示面365の視聴者側で発生する。しかしながら、他の例では、エネルギーの収束は、表示面365の前および表示面365の後ろの両方に延在するホログラフィックオブジェクトボリューム内のどこであってもよい。導波路要素370は、以下に説明するように、入ってくるエネルギーをエネルギーデバイス(例えば、エネルギーセンサ)に同時に導くことができる。
LFディスプレイモジュール300Bの例示的な一実施形態では、発光ディスプレイがエネルギー源として使用され、画像センサがエネルギーセンサとして使用される。このように、LFディスプレイモジュール300Bは、同時に、ホログラフィックコンテンツを投影し、表示面365の前のボリュームからの光を検出することができる。
一実施形態では、LFディスプレイモジュール300Bは、ライトフィールドを表示面の投影位置から表示面365の前に投影すると同時に、表示面365の前からのライトフィールドをキャプチャするように構成される。この実施形態では、エネルギーリレーデバイス350Aは、導波路要素370の下に位置付けられたシームレスなエネルギー面360における位置の第1のセットをエネルギーデバイス340Aに接続する。一例では、エネルギーデバイス340Aは、ソースピクセルのアレイを有する発光ディスプレイである。エネルギーリレーデバイス340Bは、導波路要素370の下に位置付けられたシームレスなエネルギー面360における場所の第2のセットをエネルギーデバイス340Bに接続する。一例では、エネルギーデバイス340Bは、センサピクセルのアレイを有する画像センサである。LFディスプレイモジュール302は、特定の導波路要素370の下にあるシームレスなエネルギー面365における場所が、すべて発光ディスプレイ場所、すべて画像センサ場所、または場所の何らかの組み合わせであるように構成され得る。他の実施形態では、双方向エネルギー面は、様々な他の形態のエネルギーを投影および受信することができる。
LFディスプレイモジュール300Bの別の例示的な実施形態では、LFディスプレイモジュールは、2つの異なるタイプのエネルギーを投影するように構成される。例えば、エネルギーデバイス340Aは、電磁エネルギーを放出するように構成された発光ディスプレイであり、エネルギーデバイス340Bは、機械的エネルギーを放出するように構成された超音波振動子である。そのため、光および音の両方が、シームレスなエネルギー面360における様々な場所から投影され得る。この構成では、エネルギーリレーデバイス350Aは、エネルギーデバイス340Aをシームレスなエネルギー面360に接続し、電磁エネルギーを中継する。エネルギーリレーデバイスは、電磁エネルギーの輸送を効率的にする(例えば、屈折率を変化させる)特性を有するように構成される。エネルギーリレーデバイス350Bは、エネルギーデバイス340Bをシームレスなエネルギー面360に接続し、機械的エネルギーを中継する。エネルギーリレーデバイス350Bは、超音波エネルギーの効率的な輸送のための特性を有するように構成される(例えば、異なる音響インピーダンスを有する材料の配分)。いくつかの実施形態では、機械的エネルギーは、エネルギー導波路層330上の導波路要素370間の場所から投影され得る。機械的エネルギーを投影する場所は、光が一方の電磁導波路要素から他方に輸送されるのを抑制する役割を果たす構造体を形成し得る。一例では、超音波の機械的エネルギーを投影する場所の空間的に分離されたアレイは、三次元触覚形状および表面を空中に作成するように構成することができる。表面は、投影されたホログラフィックオブジェクト(例えば、ホログラフィックオブジェクト380)と一致し得る。いくつかの例では、アレイにわたる位相の遅延および振幅の変化は、触覚形状の作成を支援し得る。
様々な実施形態では、双方向LFディスプレイモジュール302は、各エネルギーデバイス層が特定のタイプのエネルギーデバイスを含んだ、複数のエネルギーデバイス層を含み得る。これらの例では、エネルギーリレー層は、シームレスなエネルギー面360とエネルギーデバイス層330との間で適切なタイプのエネルギーを中継するように構成される。
タイル張りされたLFディスプレイモジュール
図4Aは、1つ以上の実施形態による、単一面シームレス表面環境を形成するために、二次元にタイル張りされたLFディスプレイシステム400の一部の斜視図である。LFディスプレイシステム400は、アレイ410を形成するようにタイル張りされた複数のLFディスプレイモジュールを含む。より明確には、アレイ410内の小さな正方形の各々が、タイル張りされたLFディスプレイモジュール412を表す。アレイ410は、例えば、表面の一部またはすべてを覆い得る。
アレイ410は、1つ以上のホログラフィックオブジェクトを投影することができる。例えば、例示的な実施形態では、アレイ410は、ホログラフィックオブジェクト420およびホログラフィックオブジェクト430を投影する。LFディスプレイモジュールのタイル張りは、はるかに大きなビューイングボリュームを可能にするだけでなく、オブジェクトがアレイ410からより遠くに投影されることを可能にする。例えば、例示的な実施形態では、ビューイングボリュームは、LFディスプレイモジュール412の前(および後ろ)の局所的なボリュームではなく、アレイ410の前および後ろのほぼ全エリアである。
いくつかの実施形態では、LFディスプレイシステム400は、ホログラフィックオブジェクト420を視聴者430および視聴者434に提示する。視聴者430および視聴者434は、異なる視点のホログラフィックオブジェクト420を受信する。例えば、視聴者430は、ホログラフィックオブジェクト420の真っ直ぐなビューを提示される一方、視聴者434は、ホログラフィックオブジェクト430のより斜めのビューを提示される。視聴者430および/または視聴者434が移動すると、これらの視聴者は、異なる視点のホログラフィックオブジェクト420を提示される。これにより、視聴者は、ホログラフィックオブジェクトに対して移動することにより、ホログラフィックオブジェクトと視覚的にインタラクションすることが可能になる。例えば、視聴者430がホログラフィックオブジェクト420の周りを歩くとき、ホログラフィックオブジェクト420がアレイ410のホログラフィックオブジェクトボリューム内に留まっている限り、視聴者430は、ホログラフィックオブジェクト420の異なる側面を見る。従って、視聴者430および視聴者434は、あたかもホログラフィックオブジェクト420が実際にそこにあるかのように、実世界空間にホログラフィックオブジェクト420を同時に見ることができる。追加的に、ホログラフィックオブジェクト420は、物理的オブジェクトが見えるのとほぼ同じように視聴者に見えるので、ホログラフィックオブジェクト420の視聴者440および視聴者450は、ホログラフィックオブジェクト420を見るために外部デバイスを着用する必要はない。追加的に、ここでは、アレイのビューイングボリュームがアレイの表面の後ろに延在するため、ホログラフィックオブジェクト422が、アレイの後ろに例示されている。このように、ホログラフィックオブジェクト422は、アレイ410の表面よりも視聴者から遠く離れているかのように、視聴者430および/または視聴者434に提示され得る。
いくつかの実施形態では、LFディスプレイシステム400は、視聴者430および視聴者435の位置を追跡する追跡システムを含み得る。いくつかの実施形態では、追跡される位置は、一般に、視聴者の位置である。他の実施形態では、追跡される位置は、視聴者の目の位置である。目の位置追跡は、目がどこを見ているかを追跡する(例えば、配向を使用して視線場所を決定する)視線追跡とは異なる。視聴者440の目および視聴者450の目は、異なる場所にある。
様々な構成では、LFディスプレイシステム400は、1つ以上の追跡システムを含み得る。例えば、図4Aの例示的な実施形態では、LFディスプレイシステムは、アレイ410の外部にある追跡システム440を含む。ここで、追跡システムは、アレイ410に結合されたカメラシステムであり得る。外部追跡システムは、図5Aとの関連付けより詳細に説明される。他の例示的な実施形態では、追跡システムは、本明細書に記載されるように、アレイ410に組み込まれ得る。例えば、アレイ410に含まれるLFディスプレイモジュール412のエネルギーデバイス(例えば、エネルギーデバイス340)は、アレイ440の前の視聴者の画像をキャプチャするように構成され得る。いずれの場合でも、LFディスプレイシステム400の追跡システムは、アレイ410によって提示されたホログラフィックコンテンツを見ている視聴者(例えば、視聴者430および/または視聴者434)に関する追跡情報を決定する。
追跡情報は、視聴者の位置、または視聴者の一部の位置(例えば、視聴者の片方または両方の目、もしくは視聴者の四肢)の空間内の(例えば、追跡システムに対する)位置を表す。追跡システムは、追跡情報を決定するために、任意の数の深度決定技術を使用することができる。深度決定技術は、例えば、構造化光、飛行時間、ステレオ撮像、何らかの他の深度決定技術、またはそれらの何らかの組み合わせを含み得る。追跡システムは、1つ以上の赤外線源(例えば、構造化光源)、赤外線で画像をキャプチャすることができる1つ以上の画像センサ(例えば、赤-青-緑-赤外線カメラ)、および追跡モジュールを含み得る。追跡システムは、深度推定技術を使用して、視聴者の位置を決定することができる。いくつかの実施形態では、LFディスプレイシステム400は、本明細書で説明するように、視聴者440および/または視聴者450の追跡された位置に基づいて、ホログラフィックオブジェクトを生成する。例えば、LFディスプレイシステム400は、アレイ410の閾値距離および/または特定の位置内に来る視聴者に応答して、ホログラフィックオブジェクトを生成することができる。
LFディスプレイシステム400は、追跡情報に部分的に基づいて、各視聴者に合わせてカスタマイズされた1つ以上のホログラフィックオブジェクトを提示することができる。例えば、視聴者430は、ホログラフィックオブジェクト420を提示され得るが、ホログラフィックオブジェクト422は提示され得ない。視聴者434は、ホログラフィックオブジェクト422を提示され得るが、ホログラフィックオブジェクト420は提示され得ない。LFディスプレイシステム400は、視聴者440および視聴者450の各々の位置を追跡する。LFディスプレイシステム400は、ホログラフィックオブジェクトが提示される場所に対する相対的な位置に基づいて、視聴者に見えるべきホログラフィックオブジェクトの視点を決定する。LFディスプレイシステム400は、決定された視点に対応する特定のピクセルから光を選択的に投影する。従って、視聴者434および視聴者430は、潜在的に完全に異なる体験を同時に有することができる。言い換えれば、LFディスプレイシステム400は、ホログラフィックコンテンツを、ビューイングボリュームのビューイングサブボリュームに提示し得る。例えば、図に示すように、ビューイングボリュームは、アレイの前後のすべてのスペースで表される。この例では、LFディスプレイシステム400は、視聴者430および視聴者434の位置を追跡することができるので、LFディスプレイシステム400は、電化製品を操作するために、2つの異なるホログラフィックインターフェースを2人の視聴者に提示し得る。従って、LFディスプレイシステム400は、「回転可能なダイヤル」(例えば、ホログラフィックオブジェクト420)を、視聴者430を囲むビューイングサブボリュームに投影し、「一組の押下可能ボタン」コンテンツ(例えば、ホログラフィックオブジェクト422)を、視聴者434を囲むビューイングサブボリュームに投影し得る。対照的に、従来のシステムは、このようなカスタマイズされた体験を提供するために、個々のヘッドセットを使用しなければならないであろう。
いくつかの実施形態では、LFディスプレイシステム400は、1つ以上の感覚フィードバックシステムを含み得る。感覚フィードバックシステムは、ホログラフィックオブジェクト420および422を拡張する他の感覚刺激(例えば、触覚、音声、温度、および/または嗅覚)を提供する。例えば、図4Aの例示的な実施形態では、LFディスプレイシステム400は、アレイ410の外部の感覚フィードバックシステム442を含む。一例では、感覚フィードバックシステム442は、アレイ410に結合された静電スピーカであり得る。外部感覚フィードバックシステムは、図5Aとの関連付けより詳細に説明される。他の例示的な実施形態では、感覚フィードバックシステムは、本明細書に記載されるように、アレイ410に組み込まれ得る。例えば、アレイ410に含まれるLFディスプレイモジュール412のエネルギーデバイス(例えば、図3Bのエネルギーデバイス340A)は、超音波エネルギーをアレイの前の視聴者に投影し、および/またはアレイの前の視聴者から画像情報を受信するように構成され得る。いずれの場合でも、感覚フィードバックシステムは、感覚コンテンツを、アレイ410によって提示されるホログラフィックコンテンツ(例えば、ホログラフィックオブジェクト420および/またはホログラフィックオブジェクト422)を見ている視聴者(例えば、視聴者430および/または視聴者434)に提示し、および/または視聴者から受信する。
LFディスプレイシステム400は、アレイの外部の1つ以上の音響投影デバイスを含む感覚フィードバックシステムを含み得る。代替的または追加的に、LFディスプレイシステム400は、本明細書で説明されるように、アレイ410に統合された1つ以上の音響投影デバイスを含み得る。音響投影デバイスは、視聴者の一部が1つ以上の表面の閾値距離内に入る場合、ホログラフィックオブジェクトの1つ以上の表面(例えば、ホログラフィックオブジェクト420の表面における)に対して体積触覚を生成する超音波圧力波を投影し得る。体積触覚は、ユーザーがホログラフィックオブジェクトの表面をタッチして感じることを可能にする。複数の音響投影デバイスは、視聴者に音声コンテンツ(例えば、没入型オーディオ)を提供する可聴圧力波を投影することができる。従って、超音波圧力波および/または可聴圧力波は、体積触覚表面をホログラフィックオブジェクトの表面の閾値距離内にする、または提示されたホログラフィックオブジェクトの表面と一致させることによって、提示されたホログラフィックオブジェクトを補完する役割を果たすことができるいくつかの実施形態では、生成された体積触覚表面のユーザーによる接触に対する抵抗は、LFディスプレイシステム400で決定されたパラメータの値に基づき得る。いくつかの実施形態では、体積触覚表面は、少なくとも部分的に、LFディスプレイシステム400の追跡システム440から得られた情報に基づいて、生成、修正、更新、または削除され得る。いくつかの実施形態では、LFディスプレイシステムは、追跡システム440から得られた情報を人工知能モデルと組み合わせて使用して、体積触覚表面を生成した。
様々な実施形態では、LFディスプレイシステム400は、視聴者の追跡された位置に部分的に基づいて、他の感覚刺激を提供することができる。例えば、図4Aに例示されるホログラフィックオブジェクト422は回転可能なダイヤルであり、LFディスプレイシステム400は、ホログラフィックオブジェクト422を視覚的(すなわち、ホログラフィックオブジェクト422が回転するように見える)および聴覚的(すなわち、1つ以上の音響投影デバイスが、ホログラフィックオブジェクト430から生じる視聴者440がクリック回転音として知覚する音を発する)の両方で回転させ得る。
例示的な構成では、ホログラフィックビューイングボリュームは、構成200のビューイングボリューム285と同様の方法で制限され得ることに留意されたい。これは、視聴者が単一のディスプレイユニットで体験するであろう知覚される没入感の量を制限する可能性がある。これに対処する1つの方法が、図4Bに関して以下に説明するように、電化製品の複数の側面に沿ってタイル張りされた複数のLFディスプレイモジュールを使用することである。
図4Bは、1つ以上の実施形態による、多面シームレス表面環境におけるLFディスプレイシステム402の一部分の斜視図である。LFディスプレイシステム402は、複数のLFディスプレイモジュールがタイル張りされて多面シームレス表面環境を作成することを除いて、LFディスプレイシステム400と実質的に同様である。より具体的には、LFディスプレイモジュールは、6面集合シームレス表面環境であるアレイを形成するようにタイル張りされている。他の実施形態では、複数のLFディスプレイモジュールは、表面またはそれらの何らかの組み合わせのすべてではないが、一部を覆い得る。他の実施形態では、複数のLFディスプレイモジュールがタイル張りされて、何らかの他の集合シームレス表面を形成する。例えば、表面は、円筒形の集合エネルギー環境が形成されるように湾曲され得る。
LFディスプレイシステム402は、1つ以上のホログラフィックオブジェクトを投影することができる。例えば、例示的な実施形態では、LFディスプレイシステム402は、ホログラフィックオブジェクト420を、6面集合シームレス表面環境によって囲まれたエリアに投影する。従って、LFディスプレイシステムのビューイングボリュームも、6面集合シームレス表面環境内に含まれる。例示的な構成では、視聴者432は、ホログラフィックオブジェクト420と、ホログラフィックオブジェクト420を形成するために使用されるエネルギー(例えば、光および/または圧力波)を投影しているLFディスプレイモジュール414との間に位置付けられ得ることに留意されたい。従って、視聴者434の位置付けは、視聴者430が、LFディスプレイモジュール414からのエネルギーから形成されるホログラフィックオブジェクト420を知覚することを妨げる可能性がある。しかしながら、例示的な構成では、(例えば、視聴者434によって)遮られず、エネルギーを投影してホログラフィックオブジェクト420を形成できる、例えば、LFディスプレイモジュール416などの少なくとも1つの他のLFディスプレイモジュールが存在する。このように、空間内の視聴者による閉塞により、ホログラフィック投影の一部が見えなくなる可能性があるが、この影響は、ボリュームの一面にのみホログラフィックディスプレイパネルが存在する場合よりもはるかに小さい。ホログラフィックオブジェクト422は、ホログラフィックオブジェクトボリュームが集合表面の後ろに延在するため、6面集合シームレス表面環境の囲いの「外側」に例示されている。従って、視聴者430および/または視聴者434は、ホログラフィックオブジェクト422を、視聴者が全体にわたって移動することができる6面環境の「外側」として知覚することができる。
図4Aを参照して前述したように、いくつかの実施形態では、LFディスプレイシステム402は、視聴者の位置を能動的に追跡し、追跡された位置に基づいてホログラフィックコンテンツを提示するように、異なるLFディスプレイモジュールに動的に命令し得る。従って、多面構成は、制約のない視聴者が、多面シームレス表面環境によって囲まれたエリア全体を自由に移動することができる、ホログラフィックオブジェクトを提供するための(例えば、図4Aと比べて)より堅牢な環境を提供することができる。
特に、様々なLFディスプレイシステムが、異なる構成を有し得る。さらに、各構成は、全体でシームレスな表示面(「集合表面」)を形成する表面の特定の配向を有し得る。すなわち、LFディスプレイシステムのLFディスプレイモジュールは、タイル張りされて様々な集合表面を形成することができる。例えば、図4Bでは、LFディスプレイシステム402は、6面集合表面を形成するようにタイル張りされたLFディスプレイモジュールを含む。いくつかの他の例では、集合表面は、全表面ではなく、表面の一部でのみ発生し得る。いくつかの例が本明細書に記載されている。
いくつかの構成では、LFディスプレイシステムの集合表面は、局部的なビューイングボリュームに向けてエネルギーを投影するように構成された集合表面を含み得る。局部的なビューイングボリュームにエネルギーを投影することは、例えば、特定のビューイングボリューム内の投影エネルギーの密度を上げ、そのボリューム内の視聴者のFOVを広げ、ビューイングボリュームを表示面に近づけることにより、より高品質の視聴体験を可能にする。
例えば、図4Cは、「ウィング型」構成の集合表面を有するLFディスプレイシステム450Aの上面図を示す。LFディスプレイシステム450Aは集合表面460を形成するようにタイル張りされたLFディスプレイモジュールを含む。LFディスプレイシステム450Aは、3つの部分、すなわち、(i)第1の中央部分462、(ii)第1の部分462に接続され、エネルギーを中央部分の前面(すなわち、第1の側面)向けて投影するために中央部分からある角度で配置された第2の部分464、および(iii)第1の部分462に接続され、エネルギーを中央部分の前面(すなわち、第2の側面)向けて投影するために中央部分からある角度で配置された第3の部分466、を含む集合表面460を有する。第1の中央部分が水平面および垂直軸を有する垂直面内にあるようにモバイルデバイスが保持される場合、第2および第3の部分は、水平軸に沿って中央部分の前方に向かって角度が付けられる。
この例では、LFディスプレイシステム450Aのビューイングボリューム468Aは、デバイスの前方にあり、集合表面460の3つの部分によって部分的に囲まれている。視聴者を少なくとも部分的に囲む集合表面(「周囲表面」)は、視聴者の没入型体験を増大する。
例示のために、例えば、中央表面のみを有する集合表面を考慮する。図2Aを参照すると、表示面のいずれかの端から投影される光線は、上記のように理想的なホログラフィックボリュームおよび理想的なビューイングボリュームを作成する。ここで、例えば、中央表面が、視聴者に向かって角度の付いた2つの側表面を含んだ場合を考慮する。この場合、光線256および光線257は、中央表面の法線からより大きな角度で投影されるであろう。従って、ビューイングボリュームの視野が拡大するであろう。同様に、ホログラフィックビューイングボリュームは、表示面により近くなるであろう。追加的に、第2および第3の2つの部分がビューイングボリュームのより近くで傾斜しているため、表示面から一定の距離で投影されるホログラフィックオブジェクトは、そのビューイングボリュームにより近い。
簡単に言えば、中央表面のみを有する表示面は、平面視野、(中央の)表示面とビューイングボリュームとの間の平面閾値分離、およびホログラフィックオブジェクトとビューイングボリュームとの間の平面近接度を有する。視聴者に向かって角度の付いた1つ以上の側表面を追加すると、平面視野に対して視野が拡大し、表示面とビューイングボリュームとの間の分離が平面分離に対して減少し、表示面とホログラフィックオブジェクトとの間の近接度が、平面近接度に対して増大する。側表面を視聴者に向けてさらに角度を付けると、さらに視野が拡大し、分離が減少し、近接度が増大する。言い換えれば、側表面の角度の付いた配置は、視聴者の没入型体験を増大する。
追加的に、図6に関して以下に説明するように、偏向光学系を使用して、LF表示パラメータ(例えば、寸法およびFOV)のビューイングボリュームのサイズおよび位置を最適化することができる。
図4Dに戻ると、同様の例では、図4Dは、「スロープ」構成の集合表面を有するLFディスプレイシステム450Bの上面図を示す。LFディスプレイシステム450Bは集合表面460を形成するようにタイル張りされたLFディスプレイモジュールを含む。集合表面460は、3つの部分、すなわち、(i)第1の部分462(すなわち、中央表面)、(ii)第1の部分462に接続され、エネルギーを中央部分の前面(すなわち、第1の側面)向けて投影するために中央部分からある角度で配置された第2の部分464、および(iii)第1の部分462に接続され、エネルギーを中央部分の前面(すなわち、第2の側面)向けて投影するために中央部分からある角度で配置された第3の部分464、を含む。第1の部分が水平面および垂直軸を有する垂直面となるようにモバイルデバイスが保持される場合、第2および第3の部分は、垂直軸に沿って中央部分の前方に向かって角度が付けられる。
この例では、LFディスプレイシステム450Bのビューイングボリューム468Bは、中央部分の前方にあり、集合表面460の3つの部分によって部分的に囲まれている。図4Cに示される構成と同様に、2つの側面部分(例えば、第2の部分464および第3の部分466)は、視聴者を囲んで、周囲表面を形成するように角度が付いている。周囲表面は、ホログラフィックビューイングボリューム468B内の任意の視聴者の視点からのビューイングFOVを拡大する。追加的に、周囲表面は、投影されたオブジェクトがより近くに見えるように、ビューイングボリューム468Bがディスプレイの表面により近くなることを可能にする。言い換えれば、側表面の角度の付いた配置は、視野を拡大し、分離を減少させ、集合表面の近接度を増大させ、それによって、視聴者の没入型体験を増大する。さらに、以下で考察するように、偏向光学系を使用して、ビューイングボリューム468Bのサイズおよび位置を最適化することができる。
集合表面460の側面部分の傾斜構成は、第3の部分466が傾斜していない場合よりも、ホログラフィックコンテンツがビューイングボリューム468Bにより近く提示されることを可能にする。例えば、傾斜した構成のLFディスプレイシステムから提示されるキャラクターの下肢(脚など)は、平坦なフロントディスプレを有するLFディスプレイシステムが使用された場合よりも近く、かつより現実的に思われ得る。追加的に、LFディスプレイシステムの構成およびそれが位置している環境により、ビューイングボリュームおよびビューイングサブボリュームの形状および位置を知ることができる。
図4Eは、例えば、集合表面460を有するLFディスプレイシステム450Cの上面図を例示する。LFディスプレイシステム450Cは、集合表面460から様々な光線を投影する。集合表面460の左側から投影される光線は水平角度範囲481を有し、集合表面の右側から投影される光線は水平角度範囲482を有し、集合表面460の中心から投影される光線は水平角度範囲483を有する。これらの点の間で、投影光線は、角度範囲の中間値を取ることができる。このように、表示面の全体で投影光線に傾斜した偏向角(gradient deflection angle)を有することにより、ビューイングボリューム468Cが作成される。
LFディスプレイシステムの制御
図5は、1つ以上の実施形態による、LFディスプレイシステム500のブロック図である。LFディスプレイシステム500は、LFディスプレイアセンブリ510およびコントローラ520を備える。LFディスプレイアセンブリ510は、ライトフィールドを投影する1つ以上のLFディスプレイモジュール512を含む。LFディスプレイモジュール512は、他のタイプのエネルギーを投影および/または感知する統合されたエネルギー源および/またはエネルギーセンサを含むソース/センサシステム514を含み得る。コントローラ520は、データストア522、ネットワークインターフェース524、LF処理エンジン530、コマンドライブラリ532、およびセキュリティモジュール534を含む。コントローラ520はまた、追跡モジュール526、およびユーザープロファイリングモジュール528を含み得る。いくつかの実施形態では、LFディスプレイシステム500はまた、感覚フィードバックシステム570および追跡システム580を含む。図1、2、3、および4の文脈の中で説明されるLFディスプレイシステムは、LFディスプレイシステム500の実施形態である。他の実施形態では、LFディスプレイシステム500は、本明細書に記載されているものよりも追加のまたは少ないモジュールを含む。同様に、機能は、本明細書で説明されるのとは異なる方法で、モジュール間および/または異なるエンティティ間で分散され得る。LFディスプレイシステム500の用途についても、図6~図8に関して以下で詳細に考察する。
LFディスプレイアセンブリ510は、ビューイングボリューム内に位置する視聴者に見え得るホログラフィックオブジェクトボリューム内にホログラフィックコンテンツを提供する。LFディスプレイアセンブリ510は、コントローラ520から受信された表示命令を実行することによって、ホログラフィックコンテンツを提供することができる。ホログラフィックコンテンツは、集合表面の前、LFディスプレイアセンブリ510、LFディスプレイアセンブリ510の集合表面の後ろ、またはそれらの何らかの組み合わせに投影される1つ以上のホログラフィックオブジェクトを含み得る。コントローラ520を用いた表示命令の生成について、以下でより詳細に説明する。
LFディスプレイアセンブリ510は、LFディスプレイアセンブリ510に含まれる1つ以上のLFディスプレイモジュール(例えば、LFディスプレイモジュール110、LFディスプレイシステム200、およびLFディスプレイモジュール300のいずれか)を使用してホログラフィックコンテンツを提供する。便宜上、1つ以上のLFディスプレイモジュールは、本明細書ではLFディスプレイモジュール512として説明されることがある。LFディスプレイモジュール512は、タイル張りされて、LFディスプレイアセンブリ510を形成することができる。LFディスプレイモジュール512は、様々なシームレス表面環境(例えば、単一面、多面、曲面など)として構造化され得る。つまり、タイル張りされたLFディスプレイモジュールが集合表面を形成する。前述のように、LFディスプレイモジュール512は、ホログラフィックコンテンツを提示する、エネルギーデバイス層(例えば、エネルギーデバイス層220)およびエネルギー導波路層(例えば、エネルギー導波路層240)を含み得る。LFディスプレイモジュール512はまた、ホログラフィックコンテンツを提示するときに、エネルギーデバイス層とエネルギー導波路層との間でエネルギーを転送するエネルギーリレー層(例えば、エネルギーリレー層230)を含み得る。
LFディスプレイモジュール512はまた、前述のように、エネルギー投影および/またはエネルギー感知のために構成される他の統合システムを含み得る。例えば、ライトフィールドディスプレイモジュール512は、エネルギーを投影および/または感知するように構成される任意の数のエネルギーデバイス(例えば、エネルギーデバイス340)を含み得る。便宜上、LFディスプレイモジュール512の統合エネルギー投影システムおよび統合エネルギー感知システムは、本明細書では、総称してソース/センサシステム514として説明されることがある。ソース/センサシステム514は、ソース/センサシステム514が、LFディスプレイモジュール512と同じシームレスなエネルギー面を共有するように、LFディスプレイモジュール512内に統合されている。言い換えれば、LFディスプレイアセンブリ510の集合表面は、LFディスプレイモジュール512およびソース/センサモジュール514の両方の機能を含む。すなわち、ソース/センサシステム514を有するLFディスプレイモジュール512を含むLFアセンブリ510は、ライトフィールドを投影しながら、同時にエネルギーを投影し、および/またはエネルギーを感知することができる。例えば、LFディスプレイアセンブリ510は、LFディスプレイモジュール512と、前述のようにデュアルエネルギー面または双方向エネルギー面として構成されたソース/センサシステム514とを含み得る。
いくつかの実施形態では、LFディスプレイシステム500は、感覚フィードバックアセンブリ570を使用して、生成されたホログラフィックコンテンツを他の感覚コンテンツ(例えば、協調的な触覚、音声または嗅覚など)で拡張する。感覚フィードバックシステム570は、コントローラ520から受信された表示命令を実行することによって、ホログラフィックコンテンツの投影を拡張することができる。一般に、感覚フィードバックシステム570は、LFディスプレイアセンブリ510の外部の任意の数の感覚フィードバックデバイス(例えば、感覚フィードバックシステム442)を含む。いくつかの例示的な感覚フィードバックデバイスは、調整された音響投影デバイスおよび受信デバイス、芳香投影デバイス、温度調整デバイス、力作動デバイス、圧力センサ、トランスデューサなどを含み得る。場合によっては、感覚フィードバックシステム570は、ライトフィールドディスプレイアセンブリ510と同様の機能を有し得、逆もまた然りである。例えば、感覚フィードバックシステム570およびライトフィールドディスプレイアセンブリ510の両方は、サウンドフィールドを生成するように構成され得る。別の例として、感覚フィードバックシステム570は、触覚表面を生成するように構成され得る一方、ライトフィールドディスプレイ510アセンブリはそうではない。
例示のために、ライトフィールドディスプレイシステム500の例示的な一実施形態では、感覚フィードバックシステム570は、音響投影デバイスを含み得る。音響投影デバイスは、コントローラ520から受信された表示命令を実行するときに、ホログラフィックコンテンツを補完する1つ以上の圧力波を生成するように構成される。生成される圧力波は、例えば、可聴(音の場合)、超音波(接触の場合)、またはそれらの何らかの組み合わせであってもよい。同様に、感覚フィードバックシステム570は、芳香投影デバイスを含み得る。投影デバイスは、コントローラから受信した表示命令を実行する際に、標的エリアの一部またはすべてに香りを与えるように構成することができる。さらに、感覚フィードバックシステム570は、温度調整デバイスを含み得る。温度調整デバイスは、コントローラ520から受信された表示命令を実行するときに、標的エリアの一部もしくはすべての温度を上げるか、または下げるように構成される。いくつかの実施形態では、感覚フィードバックシステム570は、作動力デバイスを含み得る。作動力デバイスを使用して、標的エリアのいくつかの物理的オブジェクトを動かし得る。
いくつかの実施形態では、感覚フィードバックアセンブリ570は、LFディスプレイシステム500のユーザーからの入力を受信するように構成される。この場合、感覚フィードバックシステム570は、ユーザーからの入力を受信するための様々な感覚フィードバックデバイスを含む。センサフィードバックデバイスは、音響受信デバイス(例えば、マイクロフォン)、圧力センサ、動き検出器などのデバイスを含み得る。感覚フィードバックアセンブリ570は、ホログラフィックコンテンツが提示されるときに感覚フィードバックを提供するように構成された感覚フィードバックデバイスを含み得る。感覚フィードバックシステムは、ホログラフィックコンテンツおよび/または感覚フィードバックの生成を調整するために、検出された入力をコントローラ520に送信し得る。
例示のために、ライトフィールドディスプレイアセンブリの例示的な一実施形態では、感覚フィードバックシステム570は、マイクロフォンを含む。マイクロフォンは、1人以上の電化製品のユーザーによって生み出された音声を記録するように構成される。感覚フィードバックシステム570は、記録された音声を、ユーザー入力としてコントローラ520に提供する。コントローラ520は、ユーザー入力を使用して、ホログラフィックコンテンツを生成することができる。同様に、感覚フィードバックシステム570は、圧力センサを含み得る。圧力センサは、ユーザーによって圧力センサに加えられた力を測定するように構成される。感覚フィードバックシステム570は、測定された力を、ユーザー入力としてコントローラ520に提供し得る。
いくつかの実施形態では、感覚フィードバックアセンブリ570はまた、ユーザーの動きをリダイレクトするように構成される。一実施形態では、感覚フィードバックアセンブリ570は、例えば、タイマーが切れる前にオーブンのドアを開くなど、触覚圧力波を生成して、動きを阻止することができる音響投影デバイスを含む。別の実施形態では、感覚フィードバックアセンブリ570は、音響放出デバイスを使用して、さらなる動作(例えば、「オーブンドアを開けない」)からユーザーに聴覚的に信号を送り得る。
いくつかの実施形態では、LFディスプレイシステム500は、追跡システム580を含む。追跡システム580は、デバイスのユーザーに関する情報、位置、動き、ジェスチャ、表情、視線、および/または年齢および性別などの標的エリアの人々の他の特徴を含む情報を取得するように構成された任意の数の追跡デバイスを含む。一般に、追跡デバイスは、LFディスプレイアセンブリ510の外部にある。いくつかの例示的な追跡デバイスとしては、カメラアセンブリ(「カメラ」)、深度センサ、構造化光、LIDARシステム、カードスキャンシステム、または標的エリアの視聴者を追跡することができる他の追跡デバイスが挙げられる。
追跡システム580は、標的エリアの一部またはすべてを光で照らす1つ以上のエネルギー源を含み得る。しかしながら、場合によっては、ホログラフィックコンテンツを提示するときに、標的エリアは、自然光および/またはLFディスプレイアセンブリ510からの周囲光で照らされる。エネルギー源は、コントローラ520から受信された命令を実行するときに、光を投影する。光は、例えば、構造化光パターン、光のパルス(例えば、IRフラッシュ)、またはそれらの何らかの組み合わせであり得る。追跡システムは、可視帯域(約380nm~750nm)内、赤外線(IR)帯域(約750nm~1700nm)内、紫外線帯域(10nm~380nm)内、電磁スペクトルの何らかの他の部分、またはそれらの何らかの組み合わせの光を投影することができる。ソースとしては、例えば、発光ダイオード(LED)、マイクロLED、レーザーダイオード、TOF深度センサ、波長可変レーザーなどを挙げることができる。
追跡システム580は、コントローラ520から受信された命令を実行するときに、1つ以上の放出パラメータを調整し得る。放出パラメータは、追跡システム580のソースから光が投影される方法に影響を与えるパラメータである。放出パラメータとしては、例えば、明るさ、パルスレート(連続照明を含む)、波長、パルス長、ソースアセンブリから光が投影される方法に影響を与える何らかの他のパラメータ、またはそれらの何らかの組み合わせを挙げることができる。一実施形態では、ソースは、飛行時間動作で光のパルスを投影する。
追跡システム580のカメラは、標的エリアから反射された光(例えば、構造化光パターン)の画像をキャプチャする。カメラは、コントローラ520から受信された追跡命令を実行するときに、画像をキャプチャする。前述のように、光は、追跡システム580のソースによって投影され得る。カメラは、1つ以上のカメラを含み得る。すなわち、カメラは、例えば、フォトダイオードのアレイ(1Dまたは2D)、CCDセンサ、CMOSセンサ、追跡システム580によって投影される光の一部またはすべてを検出する何らかの他のデバイス、またはそれらの何らかの組み合わせであってもよい。一実施形態では、追跡システム580は、LFディスプレイアセンブリ510の外部のライトフィールドカメラを含み得る。他の実施形態では、カメラは、LFディスプレイアセンブリ510に含まれるLFディスプレイモジュールの一部として含まれる。例えば、前述のように、ライトフィールドモジュール512のエネルギーリレー素子が、エネルギーデバイス層220で発光ディスプレイと画像センサとの両方をインターリーブする双方向エネルギー層である場合、LFディスプレイアセンブリ510は、ライトフィールドを投影すると同時に、ディスプレイの前の視聴エリアからの画像情報を記録するように構成され得る。一実施形態では、双方向エネルギー面からキャプチャされた画像は、ライトフィールドカメラを形成する。カメラは、キャプチャされた画像をコントローラ520に提供する。いくつかの実施形態では、カメラアセンブリは、電化製品の特定の部分を照らして、視聴者に表示するための視覚情報を生成し得る。例えば、カメラなどの内部センサは、冷蔵庫の中身を画像化するために冷蔵庫内に存在し、冷蔵庫の中身のホログラフィックディスプレイを生成することに関する情報のためにコントローラ520に情報を提供し得る。
追跡システム580のカメラは、コントローラ520から受信された追跡命令を実行するときに、1つ以上の撮像パラメータを調整することができる。撮像パラメータは、カメラアセンブリが画像をキャプチャする方法に影響を与えるパラメータである。撮像パラメータとしては、例えば、フレームレート、絞り値、ゲイン、露光長さ、フレームタイミング、カメラアセンブリが画像をキャプチャする方法に影響を与える何らかの他のパラメータ、またはそれらの何らかの組み合わせを挙げることができる。
いくつかの実施形態では、追跡システム580はまた、LFディスプレイシステム500の視聴者からの入力を受信するように構成される。追跡システム580は、視聴者の身体の動きを追跡し、特定の追跡された動きに関する情報をコントローラ520に送信することができる。いくつかの実施形態では、追跡システム580は、ユーザーに提示されるホログラフィックユーザーインターフェースと協調して使用される。
コントローラ520は、LFディスプレイアセンブリ510と、LFディスプレイシステム500の任意の他の構成要素と、を制御する。コントローラ520は、データストア522、ネットワークインターフェース524、追跡モジュール526、ユーザープロファイリングモジュール528、ライトフィールド処理エンジン530、およびコマンドライブラリ532を備える。他の実施形態では、コントローラ520は、本明細書に記載されているものよりも追加のまたは少ないモジュールを含む。同様に、機能は、本明細書で説明されるのとは異なる方法で、モジュール間および/または異なるエンティティ間で分散され得る。例えば、追跡モジュール526は、LFディスプレイアセンブリ510または追跡システム580の一部であり得る。
データストア522は、LFディスプレイシステム500の情報を記憶するメモリである。記憶される情報としては、表示命令、追跡命令、放出パラメータ、撮像パラメータ、標的エリアの仮想モデル、追跡情報、カメラによってキャプチャされた画像、1つ以上のユーザープロファイル、ライトフィールドディスプレイアセンブリ510の較正データ、LFモジュール512の解像度および配向を含むLFディスプレイシステム510の構成データ、所望のビューイングボリューム形状、3Dモデル、シーンおよび環境、材料およびテクスチャを含むグラフィックス作成のためのコンテンツ、セキュリティモジュール534で使用され得るパスワード、スマートカード、生体認証データなどの認証要素を含むセキュリティ関連情報、LFディスプレイシステム500によって使用され得る他の情報、またはそれらの何らかの組み合わせを挙げることができる。データストア522は、読み取り専用メモリ(ROM)、ダイナミックランダムアクセスメモリ(DRAM)、スタティックランダムアクセスメモリ(SRAM)、またはそれらの何らかの組み合わせなどのメモリである。
ネットワークインターフェース524は、ライトフィールドディスプレイシステムがネットワークを介して他のシステムまたは環境と通信することを可能にする。一例では、LFディスプレイシステム500は、ネットワークインターフェース524を介して、サードパーティプロバイダなどのリモートサーバーからホログラフィックコンテンツを受信する。別の例では、LFディスプレイシステム500は、ネットワークインターフェース524を使用して、ホログラフィックコンテンツをリモートのデータストアに送信する。
追跡モジュール526は、LFディスプレイシステム500によって提示されたコンテンツを視聴している視聴者を追跡する。そうするために、追跡モジュール526は、追跡システム580のソースおよび/またはカメラの動作を制御する追跡命令を生成し、追跡命令を追跡システム580に提供する。追跡システム580は、追跡命令を実行し、コントローラ520を介して追跡モジュール526に追跡入力を提供する。
追跡モジュール526は、モバイルデバイスの標的エリアの1人以上の視聴者の位置を決定し得る。決定された位置は、何らかの基準点(例えば、表示面)に対するものであり得る。他の実施形態では、決定された位置は、標的エリアの仮想モデル内にあり得る。追跡された位置は、例えば、視聴者の追跡された位置および/または視聴者の一部の追跡された位置(例えば、目の場所、手の場所など)であり得る。追跡モジュール526は、追跡システム580のカメラからキャプチャされた1つ以上の画像を使用して、位置を決定する。追跡システム580のカメラは、LFディスプレイシステム500の周りに分配され得、画像を立体でキャプチャすることができ、追跡モジュール526が視聴者を受動的に追跡することを可能にする。他の実施形態では、追跡モジュール526は、視聴者を能動的に追跡する。すなわち、追跡システム580は、標的エリアのある部分を照らし、標的エリアを撮像し、追跡モジュール526は、飛行時間および/または構造化光深度決定技術を使用して、位置を決定する。追跡モジュール526は、決定された位置を使用して、追跡情報を生成する。
追跡モジュール526はまた、例えば、ホログラフィックユーザーインターフェース(以下でさらに説明される)を使用して電化製品を操作している間など、LFディスプレイシステム500の視聴者からの入力として追跡情報を受信し得る。追跡情報は、視聴者がLFディスプレイシステム500によって提供される様々な入力オプションに対応する身体の動きを含み得る。例えば、追跡モジュール526は、視聴者の身体の動きを追跡し、任意の様々な動きを、入力として、LF処理エンジン530に割り当てることができる。追跡モジュール526は、追跡情報を、データストア522、LF処理エンジン530、ユーザープロファイリングモジュール528、コマンドストア532、LFディスプレイシステム500の任意の他の構成要素、またはそれらの何らかの組み合わせに提供し得る。
追跡モジュール526のための状況を提供するために、電子レンジで使用されるLFディスプレイシステム500の例示的な一実施形態を考慮する。ユーザーが電子レンジ内で爆発するゆで卵に反応して、電化製品のところへ駆け寄って叫ぶとき、追跡システム580は、ユーザーの動きを記録し、記録を追跡モジュール526に送信し得る。追跡モジュール526は、記録におけるユーザーの手の動作を追跡し、以下に説明するLF処理エンジン530に入力を送信する。以下に説明するように、ユーザープロファイリングモジュール528は、画像内の情報が、ユーザーの動きがネガティブな応答に関連していることを示すと決定する。従って、LF処理エンジン530は、ユーザーと交信するための適切なホログラフィックコンテンツを生成する。例えば、LF処理エンジン530は、ホログラフィックオブジェクトボリューム内で、「次はきっとうまくいくよ!」と述べる悲しそうなホログラフィックアバターを投影し得る。
LFディスプレイシステム500は、ユーザーを識別し、かつプロファイリングするように構成されたユーザープロファイリングモジュール528を含む。ユーザープロファイリングモジュール528は、LFディスプレイシステム500によって表示されたホログラフィックコンテンツを見る1人以上のユーザーのプロファイルを生成する。ユーザープロファイリングモジュール528は、ユーザー入力および監視されたユーザーの行動、動作、および反応に部分的に基づいて、ユーザープロファイルを生成する。ユーザープロファイリングモジュール528は、追跡システム580から取得された情報(例えば、記録された画像、ビデオ、音声など)にアクセスし、その情報を処理して、様々な情報を決定することができる。様々な例において、ユーザープロファイリングモジュール528は、マシンビジョンおよび/または機械学習アルゴリズムを使用して、ユーザーの行動、動作、および反応を決定することができる。監視されるユーザーの行動には、例えば、笑顔、歓声、拍手、笑い、恐怖、悲鳴、興奮レベル、反動、他のジェスチャの変化、またはユーザーによる動きなどが含まれ得る。
より一般的には、ユーザープロファイルは、LFディスプレイシステムからのホログラフィックコンテンツを見ているユーザーに関して受信および/または決定された任意の情報を含み得る。例えば、各ユーザープロファイルは、LFディスプレイシステム500によって表示されたコンテンツに対するそのユーザーの動作または応答を記録し得る。ユーザープロファイルに含まれ得るいくつかの例示的な情報が、以下に提供される。
ユーザープロファイルは、LFディスプレイシステム500によって表示されるコンテンツに関するユーザーの行動に基づき得る。いくつかの実施形態では、デバイス内に存在するソフトウェアアプリケーションは、LFディスプレイシステム500と機能的に統合し得、ユーザープロファイルは、デバイスでこれらのソフトウェアアプリケーションを実行している間に監視されるユーザーの行動に基づく。
従って、例えば、監視される動作には、ユーザーが1日または1週間などの期間に電化製品を使用する回数、ユーザーが電化製品の特定の設定を使用する頻度(例えば、重い寝具類向けの洗濯設定で洗濯機が使用される頻度)、ユーザーが特定の種類のホログラフィックコンテンツにどのように反応するか(例えば、オーブン内で、ユーザーから最も迅速な応答を引き出すものである、焼き時間設定が20分超過したことを示す標識が付いたローストターキーのホログラフィック画像、または焦げたターキーの点滅するホログラフィック画像)、特定の電化製品の使用に関連するその他の行動、またはそれらの組み合わせが含まれ得る。いくつかの実施形態では、電化製品はまた、ユーザーの層(例えば、コインランドリーの洗濯機の、デイリーユーザー、ウィークリーユーザー、不定期ユーザーなど)を有し得る。これらの実施形態では、追跡システムは、ユーザーを確実に識別することができ得る。追跡システムがユーザープロファイリングモジュールにアクセスすると、LFディスプレイシステム500は、そのユーザーのステータス(例えば、デイリーユーザー、ウィークリーユーザー、不定期ユーザーとして)を決定し得、そのユーザーのステータスに固有のホログラフィックコンテンツを提供することができる。ユーザープロファイリングモジュールは、コントローラ520の他のモジュールまたは構成要素からユーザーのさらなる情報を追加的に受信し得、この情報は、ユーザープロファイルとともに記憶されることができる。次に、コントローラ520の他の構成要素も、そのユーザーに提供される後のコンテンツを決定するために、記憶されたユーザープロファイルにアクセスし得る。
別の例では、ユーザーは、ホログラフィックコンテンツと併せて提示される触覚インターフェースの好みを示し得、例えば、LFディスプレイシステム100によって生成され、電化製品ユーザーにオプションとして提供され得るホログラフィックキーボードタッチインターフェースにおける好ましいキークリック感度がある。
ユーザープロファイル情報の一部として保存される他のユーザー特徴には、例えば、ユーザーの名前、ユーザーの年齢、民族性、視聴場所、デバイスとアプリケーションの設定の好み、居住地、その他の人口統計情報、またはそれらの組み合わせが含まれ得る。
ユーザープロファイリングモジュール528は、特定の1人以上のユーザーに関連付けられたプロファイルに、1つ以上のサードパーティシステムからアクセスして、ユーザープロファイルを構築および/または更新し得る。視聴者プロファイリングモジュール528は、1人以上のユーザーのソーシャルメディアアカウントからの情報を使用して、ユーザープロファイルを更新するように構成され得る。例えば、そのユーザーのソーシャルメディアまたは他のオンラインアカウントにリンクされているサードパーティベンダーとのユーザーのインタラクションは、ユーザープロファイリングモジュール528によってアクセスされ得るさらなるユーザープロファイル情報を提供し得る。従って、ユーザープロファイル情報は、洗濯機に関連付けられたLFディスプレイシステムに、お気に入りの洗濯洗剤製品や、ホームオーディオシステムで再生するためにお気に入りの音楽ジャンルなどの情報を記憶できる。
いくつかの実施形態では、データストア522は、ユーザープロファイリングモジュール528によって生成、更新、および/または維持されたユーザープロファイルを記憶するユーザープロファイルストアを含む。ユーザープロファイルは、ユーザープロファイリングモジュール528によって、いつでもデータストア内で更新できる。例えば、一実施形態では、ユーザープロファイルストアは、特定のユーザーが、LFディスプレイシステム500によって提供されたホログラフィックコンテンツを見るときに、その特定のユーザーに関する情報を受信し、そのユーザーのユーザープロファイルに記憶する。この例では、ユーザープロファイリングモジュール528は、ユーザーを認識し、ユーザーが提示されたホログラフィックコンテンツを見るときにユーザーを確実に識別することができる顔認識アルゴリズムを含む。例示のために、ユーザーがLFディスプレイシステム500の標的エリアに入ると、追跡システム580が、ユーザーの画像を取得する。ユーザープロファイリングモジュール528は、キャプチャされた画像を入力し、顔認識アルゴリズムを使用してユーザーの顔を識別する。識別された顔は、プロファイルストア内のユーザープロファイルに関連付けられ、そのため、そのユーザーに関して取得されたすべての入力情報が、そのユーザーのプロファイルに記憶され得る。ユーザープロファイリングモジュールはまた、カード識別スキャナ、音声識別子、無線周波数識別(RFID)チップスキャナ、バーコードスキャナなどを利用して、ユーザーを確実に識別し得る。
ユーザープロファイリングモジュール528がユーザーを確実に識別できるため、ユーザープロファイリングモジュール528は、LFディスプレイシステム500への各ユーザーの各訪問を決定することができる。次に、ユーザープロファイリングモジュール528は、各訪問の日時を各ユーザーのユーザープロファイルに記憶し得る。同様に、ユーザープロファイリングモジュール528は、感覚フィードバックシステム570、追跡システム580、および/またはLFディスプレイアセンブリ510の任意の組み合わせから受信された、ユーザーからの入力を、入力が発生するたびに記憶し得る。ユーザープロファイルシステム528は、コントローラ520の他のモジュールまたは構成要素からユーザーに関するさらなる情報を追加的に受信することができ、この情報は、ユーザープロファイルとともに記憶され得る。次に、コントローラ520の他の構成要素も、そのユーザーに提供される後のコンテンツを決定するために、記憶されたユーザープロファイルにアクセスし得る。コントローラ520は、記憶されたユーザープロファイルから少なくとも部分的にアクセスされたデータに基づいてホログラフィックコンテンツを生成するように構成され得る。
LF処理エンジン530は、LFディスプレイアセンブリ510によって実行されると、LFディスプレイアセンブリ510にホログラフィックコンテンツを提示させる、ラスタライズ化されたフォーマットの4D座標(「ラスタライズ化されたデータ」)を生成する。LF処理エンジン530は、データストア522からラスタライズ化されたデータにアクセスすることができる。追加的に、LF処理エンジン530は、ベクトル化されたデータセットからラスタライズされたデータを構築することができる。ベクトル化されたデータを以下に説明する。LF処理エンジン530はまた、ホログラフィックオブジェクトを拡張する感覚コンテンツを提供するために必要な感覚命令を生成することができる。上記のように、感覚命令は、LFディスプレイシステム500によって実行されると、触覚表面、サウンドフィールド、およびLFディスプレイシステム500によってサポートされる他の形態の感覚エネルギーを生成することができる。LF処理エンジン530は、データストア522から感覚命令にアクセスする、または、感覚命令を構築して、ベクトル化されたデータセットを形成することができる。全体として、4D座標および感覚データは、ホログラフィックおよび感覚コンテンツを生成するためにLFディスプレイシステムによって実行可能な表示命令を表す。
LFディスプレイシステム500内の様々なエネルギー源を通るエネルギーの流れを説明するラスタライズされたデータの量は、信じられないほど大量である。データストア522からアクセスされる場合、ラスタライズされたデータをLFディスプレイシステム500に表示することは可能であるが、(例えば、ネットワークインターフェース524を介して)効率的に送信し、受信し、その後、ラスタライズされたデータをLFディスプレイシステム500に表示することは不可能である。例えば、LFディスプレイシステム500によるホログラフィック投影のための短いビデオを表すラスタライズされたデータ(例えば、新しいユーザーに電化製品の使用を示すチュートリアル)を取り上げる。この例では、LFディスプレイシステム500は、数ギガピクセルを含むディスプレイを含み、ラスタライズされたデータは、ディスプレイ上の各ピクセル場所の情報を含む。ラスタライズされたデータの対応するサイズは膨大であり(例えば、ビデオ表示時間の毎秒多ギガバイト)、ネットワークインターフェース524を介した商用ネットワーク上での効率的な転送には管理できない。感覚フィードバックシステム570または追跡モジュール526からの入力を使用してインタラクティブな体験が望まれる場合、単にラスタライズされたデータをデータストア522に記憶することに関する追加の問題が生じる。インタラクティブな体験を可能にするために、LF処理エンジン530によって生成されたライトフィールドコンテンツは、感覚または追跡入力に応答してリアルタイムで修正され得る。言い換えれば、場合によっては、LFコンテンツは、データストア522から単純に読み取ることができない。
従って、いくつかの構成では、LFディスプレイシステム500によって表示するためのホログラフィックコンテンツを表すデータは、ベクトル化されたデータフォーマット(「ベクトル化されたデータ」)でLF処理エンジン530に転送され得る。ベクトル化されたデータは、ラスタライズされたデータよりも桁違いに小さい場合がある。さらに、ベクトル化されたデータは、データの効率的な共有を可能にするデータセットサイズを有しながら、高い画質を提供する。例えば、ベクトル化されたデータは、より密度の高いデータセットから派生した疎なデータセットである可能性がある。従って、ベクトル化されたデータは、密度の高いラスタライズされたデータから疎なベクトル化されたデータがどのようにサンプリングされるかに基づいて、画質とデータ送信サイズとの間の調整可能なバランスを有する可能性がある。ベクトル化されたデータを生成するための調整可能なサンプリングにより、特定のネットワーク速度での画質の最適化が可能になる。結果として、ベクトル化されたデータは、ネットワークインターフェース524を介したホログラフィックコンテンツの効率的な送信を可能にする。ベクトル化されたデータにより、ホログラフィックコンテンツを商用ネットワーク経由でライブストリーミングすることもできる。
要約すると、LF処理エンジン530は、データストア522からアクセスされるラスタライズされたデータ、データストア522からアクセスされるベクトル化されたデータ、またはネットワークインターフェース524を介して受信されるベクトル化されたデータから導出されたホログラフィックコンテンツを生成し得る。いくつかの構成では、LF処理エンジン530は、データストアからアクセスされるラスター化データ、データストア522からアクセスされるベクトル化データ、およびネットワークインターフェースを介して受信されるベクトル化データの組み合わせを使用してホログラフィックコンテンツを生成することができる。様々な構成において、ベクトル化されたデータは、データ送信の前に符号化され、LFコントローラ520による受信の後に復号化され得る。いくつかの例では、ベクトル化されたデータは、データ圧縮に関連する追加のデータセキュリティおよびパフォーマンスの向上のために符号化される。例えば、ネットワークインターフェースによって受信されたベクトル化されたデータは、ホログラフィックストリーミングアプリケーションから受信された符号化され、ベクトル化されたデータであり得る。いくつかの例では、ベクトル化されたデータは、デコーダ、LF処理エンジン530、またはこれらの両方が、ベクトル化されたデータ内の符号化された情報コンテンツにアクセスすることを必要とし得る。エンコーダおよび/またはデコーダシステムは、顧客に対して利用可能である場合があるか、またはサードパーティベンダーにライセンス供与されている場合がある。
ベクトル化されたデータは、インタラクティブな体験をサポートする方法で、LFディスプレイシステム500によってサポートされる各感覚領域の各々の情報を含む。例えば、インタラクティブなホログラフィック体験のためのベクトル化されたデータは、LFディスプレイシステム500によってサポートされる感覚領域の各々に正確な物理学を提供することができる任意のベクトル化された特性を含む。ベクトル化された特性は、合成的にプログラムされ、キャプチャされ、計算により評価され得るなどの任意の特性を含み得る。LF処理エンジン530は、ベクトル化されたデータのベクトル化された特性をラスタライズされたデータに変換するように構成され得る。次に、LF処理エンジン530は、LFディスプレイアセンブリ510からのベクトル化されたデータから変換されたホログラフィックコンテンツを投影することができる。様々な構成で、ベクトル化された特性には、1つ以上の赤/緑/青/アルファチャネル(RGBA)+深度画像、1つの高解像度中央画像および低解像度の他のビューを含み得る様々な解像度での深度情報の有無にかかわらないマルチビュー画像、アルベドおよび反射率、表面法線、その他の光学効果、表面識別、幾何学的オブジェクト座標、仮想カメラ座標、表示面の場所、照明座標、表面の接触剛性、接触延性、接触強度、サウンドフィールドの振幅および座標、環境条件、テクスチャまたは温度の機械受容器に関連する体性感覚エネルギーベクトル、音声、ならびにその他の感覚領域特性の座標が含まれ得る。他の多くのベクトル化された特性も可能である。
LFディスプレイシステム500はまた、インタラクティブな視聴体験を生成することもできる。すなわち、ホログラフィックコンテンツは、ユーザーの場所、ジェスチャ、インタラクション、ホログラフィックコンテンツとのインタラクションに関する情報、またはユーザープロファイリングモジュール528および/または追跡モジュール526から導出された他の情報を含む入力刺激に応答し得る。例えば、表示されたホログラフィックオブジェクトが、ユーザーのインタラクションに応じて直ちに特定の方向に移動する必要がある場合、LF処理エンジン530は、ホログラフィックオブジェクトがその要求された方向に移動するように、シーンのレンダリングを更新し得る。これには、LF処理エンジン530が、ベクトル化されたデータセットを使用して、適切なオブジェクトの配置および動き、衝突検出、オクルージョン、色、陰影、照明などを有する3Dグラフィカルシーンに基づいて、リアルタイムでライトフィールドをレンダリングし、ユーザーのインタラクションに正しく応答することが必要であり得る。LF処理エンジン530は、ベクトル化されたデータを、LFディスプレイアセンブリ510による提示のためにラスタライズされたデータに変換する。
ラスタライズされたデータには、リアルタイムのパフォーマンスを表すホログラフィックコンテンツ命令および感覚命令(表示命令)が含まれる。LFディスプレイアセンブリ510は、表示命令を実行することによって、リアルタイムのパフォーマンスのホログラフィックおよび感覚コンテンツを同時に投影する。LFディスプレイシステム500は、追跡モジュール526およびユーザープロファイリングモジュール528を用いて、提示されたリアルタイムのパフォーマンスのコンテンツとのユーザーのインタラクション(例えば、音声応答、接触など)を監視する。ユーザーのインタラクションに応答して、LF処理エンジンは、ユーザーに表示するための追加のホログラフィックおよび/または感覚コンテンツを生成することによって、インタラクティブな体験を作成する。
例示のために、デバイス内のアプリケーションの実行中に、ユーザーのビューイングボリューム内の一斤のパンを表すホログラフィックオブジェクトを生成するLF処理エンジン530を含むLFディスプレイシステム500の例示的な一実施形態を考慮する。ユーザーは、その一斤のパンを表すホログラフィックオブジェクトに接触するように移動し得る。それに応じて、追跡システム580は、ホログラフィックオブジェクトに対するユーザーの手の動きを追跡する。ユーザーの動きは追跡システム580によって記録され、コントローラ520に送信される。追跡モジュール526は、ユーザーの手の動きを連続的に決定し、決定された動きをLF処理エンジン530に送信する。LF処理エンジン530は、シーン内のユーザーの手の配置を決定し、ホログラフィックオブジェクトに必要な任意の変更(位置、色、またはオクルージョンなど)を含むために、グラフィックスのリアルタイムレンダリングを調整する。LF処理エンジン530は、LFディスプレイアセンブリ510(および/または感覚フィードバックシステム570)に、体積触覚投影システムを使用して(例えば、超音波スピーカを使用して)触覚表面を生成するように指示する。生成された触覚表面は、ホログラフィックオブジェクトの少なくとも一部に対応し、ホログラフィックオブジェクトの外面の一部またはすべてと実質的に同じ空間を占有する。LF処理エンジン530は、追跡情報を使用して、LFディスプレイアセンブリ510に、一斤のパンに接触する視覚的および触覚的知覚の両方をユーザーが与えられるように、触覚表面の場所を、レンダリングされたホログラフィックオブジェクトの場所とともに移動するよう動的に指示する。より簡単に言えば、ユーザーがホログラフィックな一斤のパンにタッチしている自分の手を見ると、視聴者は同時に、手がホログラフィックな一斤のパンにタッチし、その接触に応答して、その塊が位置または動きを変更することを示す触覚フィードバックを感じる。
LF処理エンジン530は、電化製品を使用するメディアコンテンツのユーザーに同時表示するためのホログラフィックコンテンツを提供し得る。例えば、LFディスプレイシステム500で拡張されたオーブンで見られている調理ビデオは、ビデオ中にユーザーに提示されるホログラフィックコンテンツ(「ホログラフィックコンテンツトラック」)を含み得る。ホログラフィックコンテンツトラックは、電化製品によって受信され、データストア522に記憶され得る。ホログラフィックコンテンツトラックは、電化製品でビデオを視聴するユーザーの視聴体験を向上させるホログラフィックコンテンツを含む。
ホログラフィックコンテンツトラック内のホログラフィックコンテンツは、ホログラフィックコンテンツを表示するために、任意の数の時間的、聴覚的、視覚的などのキューに関連付けられ得る。例えば、ホログラフィックコンテンツトラックは、ビデオ中の特定の時間に表示されるホログラフィックコンテンツを含むことができる。一例として、ホログラフィックコンテンツトラックには、「アップルパイを最初から焼く方法」というビデオの開始から12分42秒後に、ビデオ中に表示する調理済みアップルパイが含まれ得る。別の例では、ホログラフィックコンテンツトラックは、感覚フィードバックシステム570が特定の音声キューを記録するときに提示されるホログラフィックコンテンツを含む。一例として、ホログラフィックコンテンツトラックは、感覚フィードバックアセンブリ570によって録音された音声がユーザー/プレーヤーがさらなるヘルプを求めたことを示したときに、パン焼きビデオ中に提示する生地の練り込み命令を示すホログラフィックアバターを含む。別の例では、ホログラフィックコンテンツトラックは、追跡システム580が特定の視覚的キューを記録するときに表示するホログラフィックコンテンツを含む。一例として、ホログラフィックコンテンツトラックには、追跡システム580が、ビデオチュートリアルが表示されている間にユーザーが電化製品から離れようとしていることを示す情報を記録するときに、「停止しますか?」という言葉が付いたホログラフィック点滅サインが含まれる。聴覚的および視覚的キューの決定については、以下で詳しく説明する。
ホログラフィックコンテンツトラックには、空間レンダリング情報も含まれる場合がある。すなわち、ホログラフィックコンテンツトラックは、表示されたビデオトラックでホログラフィックコンテンツを提示するための空間的場所を示し得る。例えば、ホログラフィックコンテンツトラクトは、特定のホログラフィックコンテンツがいくつかのホログラフィックビューイングボリュームで提示され、他のボリュームでは提示されないことを示し得る。例示のために、LF処理エンジン530は、ユーザーの顔の真正面にホログラフィックビューイングボリュームで冷蔵庫の棚の中身を表示するホログラフィックスクリーンを提示し得る。同様に、ホログラフィックコンテンツトラックは、ホログラフィックコンテンツを示して、いくつかのビューイングボリュームに提示し、他のボリュームには提示しないことを示し得る。例えば、LF処理エンジンは、ホログラフィックスクリーンをユーザーの顔の真正面のビューイングボリュームに提示するが、他のビューイングボリュームには提示しないので、表示されるコンテンツはユーザー専用である。
LF処理エンジン530は、電化製品上で実行されている特定のアプリケーションと併せてユーザーに表示するためのホログラフィックコンテンツを提供し得る。ホログラフィックコンテンツは、ネットワークを介して電化製品で受信されても、デバイス上で実行される特定のアプリケーションに関連する広告コンテンツの一部として提供されても(例えば、洗濯機でデリケートな洗濯サイクルが開始された場合のシルクとウール専用の洗濯洗剤)、LF処理エンジン530などによって生成されてもよい。ホログラフィックコンテンツは、データストア522に記憶されるか、またはネットワークインターフェース524を介してベクトル化されたフォーマットでLFディスプレイシステム500にストリーミングされ得る。例えば、洗濯機のユーザーが特に「デリケート」なサイクルで洗濯機の洗濯サイクルを開始すると、LFディスプレイシステム500は、シルクおよびウール用に特別に設計された洗濯洗剤の広告のホログラフィックコンテンツにアクセスし、これを洗濯サイクルの過程中に表示し得る。
LF処理エンジン500はまた、ある場所の環境特徴に適合するようにホログラフィックコンテンツを変更し得る。例えば、消費者向けデバイスが暗い部屋の空間、明るい部屋、日当たりの良い場所などに位置するかどうかに基づいて、LF処理エンジンはホログラフィックコンテンツを変更して、場所の照明に適した明るさで表示され得る。LF処理エンジンは、データストア522に記憶されたデータを、追跡モジュール580内のカメラシステムからの情報とともに使用して、ホログラフィックコンテンツの表示をカスタマイズし得る。さらに、ホログラフィックコンテンツの変更はまた、ユーザープロファイリングモジュール528によって決定されるように、ユーザー表示の好みをとり得る。
LF処理エンジン530はまた、LFディスプレイシステム500によって表示するためのホログラフィックコンテンツを作成し得る。重要なことには、ここで、表示のためのホログラフィックコンテンツを作成することは、表示のためのホログラフィックコンテンツをアクセスすること、または受信することとは異なる。すなわち、コンテンツを作成するとき、LF処理エンジン530は、以前に生成および/または受信されたコンテンツをアクセスするのではなく、表示のための全く新しいコンテンツを生成する。LF処理エンジン530は、データストア522、追跡モジュール526、ユーザープロファイリングモジュール528、感覚フィードバックシステム570、追跡システム580、またはそれらの何らかの組み合わせから情報を取得または受信して、表示のためのホログラフィックコンテンツを作成し得る。いくつかの例では、LF処理エンジン530は、LFディスプレイシステム500の要素からの情報(例えば、追跡情報および/またはユーザープロファイル)にアクセスし、それに応じて、その情報に基づいてコンテンツを作成し、作成されたコンテンツを、LFディスプレイシステム500を使用して表示し得る。作成されたコンテンツはホログラフィックコンテンツであり得る。作成されたホログラフィックコンテンツは、LFディスプレイシステム500によって表示されるときに、他の感覚コンテンツ(例えば、接触、音声、または匂い)で拡張され得る。さらに、LFディスプレイシステム500は、将来の使用のために、作成されたホログラフィックコンテンツをデータストア522に記憶し得る。
いくつかの実施形態では、LF処理エンジン530は、消費者向けデバイスの動作状態の変化に応答して、生成されたホログラフィックディスプレイを更新、修正、削除、一時停止、またはそれらの組み合わせにさせ得る。いくつかの実施形態では、LF処理エンジン530は、追跡システム580によって受信され、追跡モジュール526によって解釈される情報に応答して、生成されたホログラフィックディスプレイを更新、修正、削除、一時停止、またはそれらの何らかの組み合わせにさせ得る。例えば、追跡モジュール580は、ホログラフィックコンテンツを再レンダリングしてデバイスと交信しているユーザーとアイコンタクトをとるために、追跡システム580からLFディスプレイモジュールにキャプチャされた視線報を提供し得る。
いくつかの実施形態では、LFディスプレイシステム500は、コマンドライブラリ532を含む。コマンドライブラリ532は、ユーザーコマンドを認識して解釈するコマンドインターフェースとして機能し得る。ユーザーコマンドは、感覚フィードバックシステム570(例えば、音声)、追跡モジュール526(例えば、追跡されたジェスチャまたは表情)、ユーザープロファイリングモジュール528(例えば、記憶された個人の好み)、またはそれらのいくつかの組み合わせから受信した追跡情報に基づいて解釈され得る。コマンドライブラリ532は、ヒューリスティックを適用してユーザーコマンドを解釈し、LF処理エンジン530に、適切な表示、触覚、および他の任意の多感覚情報を生成するように指示し得る。コマンドライブラリ532は、受信したユーザーコマンドの、LFディスプレイシステム500によって実行することができる計算コマンドへのマッピングを記憶する。コマンドライブラリ532はまた、記憶されたマッピングに関連するヒューリスティックを記憶する。コマンドライブラリ532は、LFディスプレイシステム500によって表示されるホログラフィックユーザーインターフェースを介してユーザーコマンドを受信し得る。表示されたホログラフィックユーザーインターフェースを介して受信される可能なユーザーコマンドの例には、ユーザーによるホログラフィックオブジェクトの様々な特定のタッチ接触(例えば、特定の表示されたホログラフィック「ボタン」の指タッチ)およびホログラフィックオブジェクトの表面に対する様々な接触運動が含まれ得る(例えば、表示されたホログラフィック「ノブ」を回す)。いくつかの実施形態では、タッチ接触または接触運動は、ユーザーが、表示されたホログラフィックユーザーインターフェースにおいて表示されたホログラフィックオブジェクトの閾値距離内にあると追跡モジュール526によって決定されたときに発生したと決定され得る。いくつかの実施形態では、ユーザーコマンドは、標的エリアにいる間にユーザーによって話される口頭コマンド(例えば、音響受信機を使用してキャプチャされた「おばあちゃんのアップルパイビデオを見せて」という形式の音声コマンド)、追跡システム580によってキャプチャされたジェスチャおよび身体の動き(例えば、タイマーを一時停止する必要があることを示すために、標的エリアでユーザーによって保持された手)、感覚フィードバックシステム570などの一部としてディスプレイに接続された物理的なスイッチ、ノブ、ボタン、またはダイヤル、あるいはそれらの組み合わせの感知、などのユーザーによって提供される感覚フィードバックを含み得る。
受信したユーザーコマンドに対応するLF処理エンジンによって実行される計算コマンドは、特定のホログラフィックオブジェクトの表示、ホログラフィックコンテンツの表示の更新、特定のホログラフィックオブジェクトの表示の変更、ホログラフィックオブジェクトのシーケンスの表示、LFディスプレイシステム500によって提示されているコンテンツの一時停止か再生、表示されたオブジェクトの削除、またはそれらの組み合わせのコマンドを含み得る。他の計算コマンドは、例えば、ベーキング温度設定ボタンなどの消費者向けデバイス制御などの他のセンサおよび制御を作動させ、消費者向けデバイスの動作状態を変更することを含み得る。従って、いくつかの実施形態では、検出されたユーザーアクション、例えば、表示されたホログラフィック「ダイヤル」を回すと、追跡システム580によってコマンドライブラリ532に報告される。応答として、コマンドライブラリ532は、記憶されたヒューリスティックからヒューリスティックを適用し得、例えば、電化製品のタイマーアプリケーションを適切に設定するために、システムに命令を送信することを含む計算コマンドを実行する必要があると決定し得る。
いくつかの実施形態では、コマンドライブラリ532は、データストア522および追跡モジュール580から情報を受信して、より低い信頼度で検出され得るユーザーコマンドに基づいて曖昧なマッピングを解決する。しかしながら、追跡システム580からの情報およびデータストア522からのユーザープロファイル情報は、マッピングの曖昧さをなくし、実行される特定の計算コマンドを決定するのに十分なヒューリスティック情報を提供し得る。次に、この決定された計算コマンドは、実行のためにLF処理エンジン530に提供される。
いくつかの実施形態では、LFディスプレイシステム500は、セキュリティモジュール534を含む。セキュリティモジュール534は、LFディスプレイシステムによって提供される機能の少なくともいくつかへの安全なアクセスを実行する。そのために、セキュリティモジュール534は、消費者向けデバイスのユーザーからパスワードまたは生体データなどの認証資格情報を受信するために、LFディスプレイシステム500によってユーザーインターフェース要素を生成し得る。セキュリティモジュールは、データストア522に記憶されたデータに基づいて資格情報を認証する。ユーザーを認証した後、セキュリティモジュール534は、LFディスプレイシステム500の機能のいくつかまたはすべてへのユーザーによる安全なアクセスを可能にし得る。いくつかの実施形態では、セキュリティモジュール534は、内部機械要素および内部回路などの要素の画像を記録するように配置された内部カメラなどの消費者向けデバイス内の内部センサをアクティブにし得る。いくつかの実施形態では、セキュリティモジュール534は、内部カメラからの画像を、閲覧のために認証されたユーザーに直接提供し得る。いくつかの実施形態では、セキュリティモジュール534は、内部センサから情報を受信し、受信した情報に基づいてホログラフィックコンテンツを生成するためにLF処理エンジン530に情報を提供し得る。いくつかの実施形態では、LF処理エンジン530は、内部センサからの情報を処理し、処理されたデータを使用して、データストア522に記憶されたデータにマッピングし、ホログラフィックコンテンツを生成/検索し、それらをユーザーに表示し得る。いくつかの実施形態では、LF処理エンジン530は、AIモデルを使用して、内部センサからの情報をデータストア522に記憶された情報にマッピングし、その後、ホログラフィックコンテンツを生成/検索し得る。例えば、資格のあるオーブンの修理技術者は、オーブンのブロイラー要素に関連付けられた内部回路への安全なアクセスを取得するための認証資格情報を提供し得る。認証時に、セキュリティモジュール534は、内部カメラをアクティブにして、内部回路に関連する画像を受信し、画像をLF処理エンジン530に提供し得る。LF処理エンジン530は、受信した画像データを処理し、処理された画像データを、壊れた発熱体の描写に関連するデータストア522に記憶されたデータにマッピングし得る。LF処理エンジンは、その後、マッピングされたデータに基づいて、壊れた発熱体を描写するホログラフィックコンテンツを生成または検索し、それを資格のあるオーブンの修理技術者に表示し得る。セキュリティモジュール534は、データストア522、ユーザープロファイリングモジュール528、LF処理エンジン530、コマンドライブラリ532、LFディスプレイシステム500の他の任意のコンポーネント、またはそれらのいくつかの組み合わせ、に対する消費者向けデバイスのユーザーの認証することに関連する情報を提供し得る。
LFディスプレイシステムのための動的コンテンツ生成
いくつかの実施形態では、LF処理エンジン530は、人工知能(AI)モデルを組み込んで、LFディスプレイシステム500によって表示するためのホログラフィックコンテンツを作成する。AIモデルは、回帰モデル、ニューラルネットワーク、分類器、または他のAIアルゴリズムを含むがこれらに限定されない、教師付きもしくは教師なし学習アルゴリズムを含み得る。AIモデルは、ユーザーの行動に関する情報を含み得る、LFディスプレイシステム500によって(例えば、追跡システム580によって)記録されたユーザー情報に基づいて、ユーザーの好みを決定するために使用し得る。AIモデルはまた、学習された各ユーザーの好みを、データストア522のユーザープロファイルストアに記憶することができる。いくつかの例では、複数のユーザーが電化製品を操作する場合、AIモデルは、特定のユーザーの学習した好みに基づいて、特定の個々のユーザーのホログラフィックコンテンツを作成し得る。AIモデルは、ホログラフィックコンテンツを作成するために、データストア522からの情報にアクセスし得る。いくつかの実施形態では、AIモデルは、学習アルゴリズムの結果を使用して、コマンドライブラリ532に記憶されたコマンドマッピングのためのユーザー固有のヒューリスティックを確立し得る。
ユーザーの特徴を識別し、反応を識別し、および/または識別された情報に基づいてホログラフィックコンテンツを生成するために使用され得るAIモデルの一例が、現在の層のノードの値が前の層のノードでの値の変換である、ノードの層を有する畳み込みニューラルネットワークモデルである。モデルにおける変換は、現在の層および前の層を接続する、重みおよびパラメータのセットを介して決定される。いくつかの例では、変換はまた、モデル内の前の層間を変換するために使用される重みおよびパラメータのセットを介して決定され得る。
モデルへの入力は、第1の畳み込み層に符号された追跡システム580によって撮影された画像であり得、モデルの出力は、ニューラルネットワークの出力層から復号されたホログラフィックコンテンツである。代替的または追加的に、出力は、画像内のユーザーの決定された特徴であり得る。この例では、AIモデルは、ニューラルネットワークの中間層の1つでユーザーの特徴を表す画像内の潜在情報を識別し得る。層で識別された要素間の関連性情報は、対応する中間層の間に一連の変換を適用することで検索できる。変換の重みとパラメータは、開始層に含まれる情報と最終出力層から取得される情報との関係を示し得る。例えば、重みおよびパラメータは、画像内の笑顔のユーザーを表す情報に含まれる形状、色、サイズなどの量子化であり得る。重みおよびパラメータは、履歴データ(例えば、以前に追跡されたユーザー)に基づき得る。
一実施形態では、AIモデルは、強化学習でトレーニングされた決定論的方法を含む(それにより、強化学習モデルを作成する)。モデルは、追跡システム580からの測定値を入力として、および作成されたホログラフィックコンテンツへの変更を出力として使用して、公演の品質を高めるようにトレーニングされる。
強化学習は、数値的な報酬信号を最大化するために、機械が「何をすべきか」(状況を動作にマッピングする方法)を学習する機械学習システムである。学習器(例えば、LF処理エンジン530)は、取るべき動作(例えば、所定のホログラフィックコンテンツの生成)を告げられていないが、代わりに、動作を試行することによって、どの動作が最大の報酬をもたらすか(例えば、ユーザーをより笑顔にすることでホログラフィックコンテンツの品質を高めること)を発見する。場合によっては、動作は、即時報酬だけでなく、次の状況、かつそれを通じて、その後のすべての報酬にも影響を及ぼし得る。これらの2つの特徴(試行錯誤による探索および遅延報酬)が、強化学習の2つの際立った特徴である。
AIモデルは、任意の数の機械学習アルゴリズムを含み得る。使用され得るいくつかの他のAIモデルは、線形および/またはロジスティック回帰、分類および回帰ツリー、k平均法クラスタリング、ベクトル量子化などである。一般に、LF処理エンジン530が、追跡モジュール526および/またはユーザープロファイリングモジュール528から入力を取得し、機械学習モデルが、それに応じてホログラフィックコンテンツを作成する。同様に、AIモデルは、ホログラフィックコンテンツのレンダリングを指向し得る。
ネットワーク環境
図6は、1つ以上の実施形態による、システム環境600のブロック図を示している。システム環境600は、1つ以上のネットワーク化された消費者向けデバイス610、ネットワーク620、および1つ以上のサードパーティコンテンツプロバイダ630を備える。
一実施形態では、消費者向けデバイス610は、電子制御システムまたは機械的制御システムまたはそれらの組み合わせによって可能になる1つ以上の消費者指向の機能を提供する携帯型デバイスである。ネットワーク化された消費者向けデバイスは、コンピュータプログラムモジュール、例えば、ウェブブラウザまたはクライアントアプリケーションも実行し得、これにより、ユーザーは、電化製品を使用する過程で、インターネットを閲覧し、メディアコンテンツを消費し、様々なソフトウェアアプリケーションを実行することができる。消費者向けデバイス610は、例えば、洗濯機、オーブン、冷蔵庫、または任意の他のネットワーク対応の消費者向けデバイスであり得る。消費者向けデバイス610は、電化製品に固有の消費者関連機能に加えて、ライトフィールドディスプレイシステム612、およびユーザーインターフェース614を備える。他の実施形態では、消費者向けデバイス610は、本明細書に記載されているものよりも追加のまたは少ないモジュールを備える。同様に、機能は、本明細書で説明されるのとは異なる方法で、モジュール間および/または異なるエンティティ間で分散され得る。
図6に示すLFディスプレイシステム616は、図5に示すLFディスプレイシステム500の実施形態である。ユーザー640は、ユーザーインターフェース614を介して消費者向けデバイス610と交信できる。
ネットワーク620は、有線および/または無線通信システムの両方を使用して、ローカルエリアおよび/またはワイドエリアネットワークの任意の組み合わせを含み得る。例えば、ローカルエリアネットワークには、WiFiおよびBluetoothネットワークが含まれ得る。一実施形態では、ネットワーク620は、標準的な通信技術および/またはプロトコルを使用する。例えば、ネットワーク620は、イーサネット、802.11、マイクロ波アクセスの世界的な相互運用性(WiMAX)、3G、4G、符号分割多元接続(CDMA)、デジタル加入者ライン(DSL)などの技術を使用した通信リンクを含む。ネットワーク620を介した通信に使用されるネットワーキングプロトコルの例には、マルチプロトコルラベルスイッチング(MPLS)、伝送制御プロトコル/インターネットプロトコル(TCP/IP)、ハイパーテキストトランスポートプロトコル(HTTP)、シンプルメール転送プロトコル(SMTP)、およびファイル転送プロトコル(FTP)が含まれる。ネットワーク620を介して交換されるデータは、ハイパーテキストマークアップ言語(HTML)または拡張可能マークアップ言語(XML)などの任意の好適なフォーマットを使用して表し得る。いくつかの実施形態では、ネットワーク620の通信リンクのすべてまたはいくつかは、任意の好適な技術または複数の技術を使用して暗号化され得る。
1つ以上のサードパーティコンテンツプロバイダ630は、ネットワーク620を介して消費者向けデバイス610と通信し得る。一実施形態では、サードパーティコンテンツプロバイダ630は、実行用のアプリケーションならびに消費者向けデバイス610に表示するためのコンテンツを提供するアプリケーションプロバイダであり得る。新しいアプリケーション、新しいコンテンツ、ならびに既存のアプリケーションおよびコンテンツへの更新は、ネットワーク620を介したプッシュ対応またはプル対応の更新のいずれかを介して、サードパーティコンテンツプロバイダ630から消費者向けデバイス610で実行および/または表示するために利用可能であり得る。これらのアプリケーションおよびコンテンツは、ライトフィールドディスプレイシステム612による投影および表示のためにデータストア522に記憶されたホログラフィックコンテンツトラックを含み得る。消費者向けデバイス610に利用可能にされるコンテンツは、消費者向けデバイス610の機能の使用に関連してライトフィールドディスプレイシステム612によって表示される広告、製品オファー、および製品クーポンを含み得る。例えば、人気のあるアニメーションキャラクターを描写するホログラフィックコンテンツは、サードパーティのコンテンツプロバイダからダウンロードされ、ライトフィールドディスプレイシステム612に記憶されて、ユーザー640が1つ以上のアプリケーションでユーザーを表す「ホログラフィックアバター」として使用し得る。
1つ以上の実施形態では、消費者向けデバイス610への不正なネットワークアクセスが防止されることを保証するために、システムは、セキュリティ設定を使用して、エンティティによる消費者向けデバイス610へのネットワークアクセスを認証し、消費者向けデバイス610への安全な接続を確立し、および/またはコンテンツを消費者、向けデバイス610にダウンロードし得る。いくつかの実施形態では、消費者向けデバイス610は、パスワードおよびスマートカードなどの認証要素を組み込むか、またはネットワーク620またはユーザーインターフェース614のいずれかを介して消費者向けデバイス610にアクセスするときにアクセス制御を実行するために生体認証方法を使用し得る。ユーザーインターフェース614への安全なアクセスは、ユーザーインターフェース614の可能な構成のいずれかに対して実現され得、ユーザーインターフェース614は、ホログラフィックユーザーインターフェース、感覚フィードバックシステム570の一部であり得る従来の物理的ユーザーインターフェースまたはオーディオインターフェース、追跡システム580によってキャプチャされ、追跡モジュール526によって処理されるジェスチャに依存するインターフェース、またはネットワークインターフェース524を介して受信されるコマンド、のいずれかを含む。
LFディスプレイシステムにおけるホログラフィックユーザーインターフェースと「接触」解釈
以下は、ユーザーが消費者向けデバイスと交信するためのホログラフィックユーザーインターフェース(UI)を生成するためのLFディスプレイシステムのいくつかの実施形態の説明である。この説明は、図5のLFディスプレイシステム500に示されている要素を参照する。
いくつかの実施形態では、生成されたホログラフィックUIは、ユーザーに提示される1つ以上のホログラフィックUIオブジェクトを含むユーザーインターフェースである。いくつかの実施形態では、提示されたホログラフィックUIオブジェクトはまた、例えば、ホログラフィックオブジェクトが存在するように見える仮想ディスプレイスクリーン画像を描写する仮想画像ディスプレイの一部であり得る。いくつかの実施形態では、提示されたホログラフィックオブジェクトおよび/または仮想画像は、デバイス上の物理的UIを拡張し得る。生成されたホログラフィックUIオブジェクトには、「ボタン」、「ノブ」、「ダイヤル」、「キーパッド」などの3Dホログラフィックオブジェクトが含まれるが、これらに限定されない。生成されたホログラフィックオブジェクトには、多数のオプションのリストを含むホログラフィックメニューを表示するホログラフィック「スクリーン」などの2Dホログラフィックオブジェクトも含まれ得る。ユーザーは、ホログラフィックメニューの特定のオプションを指し示すまたはタッチすることによって(例えば、指で)、1つ以上のオプションを選択するように(例えば、口頭で、または視覚的に表示されるプロンプトを介して)促され得る。
いくつかの実施形態では、提示されたホログラフィックUIオブジェクトは、触覚刺激で拡張され、提示されたホログラフィックオブジェクトの表面と同じ場所に配置された触覚表面を生成し得る。従って、例えば、感覚フィードバックシステム570は、超音波エネルギー、例えば、圧力波を投影して、ホログラフィック「ボタン」上に正面に表示された表面と同じ場所に配置された触覚表面を生成し得る。追跡システム580は、ホログラフィックボタンに向かうユーザーの動き(例えば、ユーザーの指の動き)を追跡し得る。移動情報は、追跡システム580によって追跡モジュール520に送信され得る。コントローラ520の追跡モジュール526は、追跡された指が提示された触覚表面のある閾値距離内にあるとき、指がホログラフィック「ボタン」に「触れている」または「押している」と決定し得る。さらに、この決定に応答して、LFディスプレイアセンブリ510は、ホログラフィック「ボタン」ならびに提示された触覚表面を異なる位置にさらにレンダリングし得、例えば、触覚表面の位置を、ユーザーが「押す」ときにホログラフィック「ボタン」を動かすことによって新しい位置に移動させる。
別の実施形態では、ホログラフィックUIは、ユーザーに挨拶するホログラフィックキャラクターを提示することを含み得る。いくつかの実施形態では、視覚、音声、および人格特性などの提示されたホログラフィックキャラクターの様々な特徴は、少なくとも部分的にユーザーによって構成され得る。いくつかの実施形態では、提示されたホログラフィックキャラクターの様々な特徴は、おそらく取引手数料と引き換えに、ネットワークを介してオンラインシステムから受信した情報に基づき得る。いくつかの実施形態では、ホログラフィックキャラクターは、ホログラフィックUIオブジェクトの提示とともに提示され得る。他の実施形態では、ホログラフィックキャラクターが最初にユーザーに提示され得、その後、ホログラフィックUIオブジェクトを備えたホログラフィック「メニュー」表示が提示され得る。さらに他の実施形態では、すべてのインタラクションは、LFディスプレイシステムの音響受信機によって受信される、ユーザーからの口頭の音声コマンドを含み得る。いくつかの実施形態では、提示されたホログラフィックキャラクターは、音響刺激で拡張され、ユーザーに口頭で応答し得る。いくつかの実施形態では、ホログラフィックキャラクターは、人工知能モデルを使用して生成または変更され得る。いくつかの実施形態では、ホログラフィックキャラクターは、アクセスされたユーザープロファイルデータに基づいて生成され得る。さらに、ユーザープロファイル情報が更新されると、生成されたホログラフィックキャラクターもまた、ユーザープロファイル情報への変更に基づいて変更され得る。いくつかの実施形態では、生成されたホログラフィックキャラクターは、ユーザーからの認識されたコマンドに基づいて修正され得る。
いくつかの実施形態では、追跡モジュール526は、追跡システム580から受信した情報に基づいて、ホログラフィックオブジェクトボリュームおよび/またはLFディスプレイシステムの前のビューイングボリューム内の情報を追跡し、追跡された情報をコマンドライブラリ532に送信し得る。コマンドライブラリ532は、受信した情報を分析し、分析に基づいて記憶されたヒューリスティックを使用し、ユーザーインターフェースをユーザーに表示する必要があると決定し得る。さらに、ユーザープロファイリングモジュール528によって記憶されたユーザープロファイル情報を使用して、コマンドライブラリ532は、他の記憶されたヒューリスティックを適用し、記憶されたマッピングから、電化製品のユーザーに挨拶する特定のホログラフィックキャラクターの表示を含むカスタマイズされたユーザーインターフェースを生成する必要がある決定し得る。コマンドライブラリ532は、LF処理エンジン530に計算コマンドを発令して、ホログラフィックオブジェクトボリュームに表示するようにユーザーに挨拶する決定されたホログラフィックキャラクターを表示し得る。この計算コマンドを実行することは、ホログラフィックキャラクターのレンダリングおよび表示に関連するデータストア522から画像データを取得するLF処理エンジン530を含み得る。コマンドライブラリ532はまた、感覚フィードバックアセンブリ570内の音響変換器をトリガーして、表示されたホログラフィックキャラクターと同期している可聴の挨拶を送信し得る。LF処理エンジン530は、追跡システム580から得られた追跡情報を使用してユーザーを見る、および/またはユーザーとアイコンタクトする、もしくはユーザーと他の方法でインタラクションするホログラフィックキャラクターをレンダリングし得る。ユーザーからの口頭の応答は、感覚フィードバックアセンブリ570内に配置された音響受信デバイス(例えば、マイクロフォンまたはマイクロフォンアレイ)によって受信され得、この受信された応答データは、さらなる処理のためにコントローラ520に提示される。コマンドライブラリ532は、感覚フィードバックアセンブリ570から受信したデータを使用し、ヒューリスティックおよび音声認識ソフトウェアなどの認識ソフトウェアを適用し、例えば、ユーザーによる口頭での発話に応じて、タイマー設定インターフェースをユーザーに表示する必要があると決定し得る。
別の実施形態では、ユーザーは、電子レンジを備えた給湯設定オプションなど、特定の所望の電化製品の機能の表示で拡張される、特定のカスタマイズされた3Dホログラフィックユーザーインターフェースの提示を常に開始するようにLFディスプレイシステムを構成し得る。いくつかの実施形態では、デバイスユーザーは、LFディスプレイシステムに関連して様々な電化製品の機能の設定を構成して、様々な機能を有するユーザーが使用するために提示される所望の特定のホログラフィックユーザーインターフェースを有し得る。例えば、乾燥機のLFディスプレイシステムは、「重い」負荷で乾燥機を使用することを選択したときに、特定のホログラフィックUIが提示されるようにユーザーが構成し得、「通常」の設定で乾燥機を使用することを選択したときよりも選択可能なオプションを提供できる。
他の実施形態では、ホログラフィックユーザーインターフェースは、本明細書に記載されているものよりも追加のまたはより少ない機能を備える。同様に、機能は、本明細書で説明されるのとは異なる方法で、LFディスプレイシステム500内のモジュール間および/または異なるエンティティ間で分散され得る。
追跡システム580は、追跡システム580内でカメラを使用してユーザーの動きを追跡し得る。ユーザーの動きは、接触解釈のために追跡システム580によってコントローラ520に送信することができる。いくつかの実施形態では、接触解釈は以下のように実行される:追跡システム580は、最初に、ユーザーが提示されたホログラフィックオブジェクトに近づく(例えば、1本または複数の指で)ときにユーザーの動きを追跡する。追跡システム580は、追跡された動き情報をコントローラ520に送信する。追跡モジュール526は、追跡された指が提示されたホログラフィックオブジェクトから閾値距離内にあると決定し、それに応答して、ユーザーがホログラフィックオブジェクトに「触れている」と決定する。他の実施形態では、接触解釈は、追跡システム580によって提示されたホログラフィックオブジェクトに関して他の種類の動きを追跡することを含み得る。ユーザーによる追跡された動きには、1つ以上の提示されたホログラフィックオブジェクトに対して、位置を変更する、移動する、押す、押下する、ダイヤルする、回転する、入力する、突く、スイッチを移動する、などの1つ以上をユーザーが実行していると決定することが含まれるが、これらに限定されない。
いくつかの実施形態では、感覚フィードバックシステム570は、表示されたホログラフィックオブジェクトを拡張する体積触覚表面の「タッチ」を感知し得る。この決定は、体積触覚表面を生成するために必要とされる超音波エネルギーにおける指または他の身体部分の存在によって引き起こされる閾値変更を検出する感覚フィードバックシステム570の圧力センサからの入力を受信することに基づき得る。この情報は、さらなる分析のためにコントローラ520に送信され得る。近接感は、体積触覚表面の投影に必要な超音波振動子に適用される駆動力を監視し、この駆動力の閾値の変化を検出することによって物理的なオブジェクトの存在を推測することによっても達成し得る。
消費者向けデバイスのカスタマイズされたホログラフィックディスプレイ
いくつかの実施形態では、LFディスプレイシステムは、そのような追跡システムを、図5のユーザープロファイリングシステム528によって得られるようなユーザープロファイル情報と組み合わせて使用して、カスタマイズされたインタラクティブ体験を生成し得る。従って、ホログラフィックUI生成アプリケーションでは、ユーザーに基づいて、生成されたホログラフィック「ボタン」のサイズが異なる場合がある。例えば、ボタンを、子供向けには小さくし、明るい色でサイズを大きくすることで、年配のユーザーには見易くなり得る。さらに、いくつかの実施形態では、LFディスプレイシステムは、特定のユーザーのために特定のコンテンツを表示するようにカスタマイズされ得る。従って、例えば、LFディスプレイシステムは、あるユーザーにはホログラフィック「ボタン」を表示し、別のユーザーにはホログラフィック「ダイヤル」を表示するようにカスタマイズし得る。他の実施形態では、LFディスプレイモジュールは、デバイスユーザーと交信(例えば、見る、話す、聞く、触れる、またはそれらの何らかの組み合わせ)するためにカスタマイズされたホログラフィックキャラクターを表示し得る。追加的に、追跡システムは、ユーザーの視線を追跡し得る。追跡システムは、ホログラフィックコンテンツを再レンダリングしてデバイスと交信しているユーザーとアイコンタクトをとるために、視線情報をLFディスプレイモジュールに提供し得る。
いくつかの追加の実施形態では、ユーザープロファイリングシステムは、ユーザーの好みまたは他のユーザーの特徴を記憶するために、電化製品のユーザー各々のユーザープロファイルを構築し得る。ユーザープロファイルは、追跡システム、またはコントローラ(すなわち、コントローラ520)などのLFディスプレイシステムの別の構成要素を用いて構築され、データストア(すなわち、データストア530)に記憶され得る。ユーザープロファイルは、ユーザープロファイリングシステムによって収集されたすべてのデータを使用して、ユーザーごとに作成できる。追加的に、追跡システムまたは感覚フィードバックアセンブリなどの他の構成要素は、データストアに記憶されるように、データをユーザープロファイルに提供し得る。
LFディスプレイシステムは、ユーザープロファイリングシステムを利用して、電化製品のその後の各使用中に、ホログラフィックコンテンツをユーザーに合わせてパーソナライズし得る。例えば、LFディスプレイシステムは、名前で(例えば、視覚的または音声的に)ユーザーに話しかけ得る。他の例では、LFディスプレイシステムは、以前に生成されたホログラフィックコンテンツに対応するユーザーの応答に対応するホログラフィックコンテンツを生成する。例えば、火曜日の夜が定期的なローストチキンの夜であり、データストアにこの情報が記憶されている場合、オーブン内のLFディスプレイシステムは、火曜日の夕方に「オーブンを350度にする必要がありますか?」という質問を提示するホログラフィックキャラクターを生成し得る。
図7は、1つ以上の実施形態による、消費者向けデバイス710の一部として実装されたLFディスプレイシステム700の実施形態の図である。LFディスプレイシステム700は、図5に記載されたLFディスプレイシステム500の一実施形態である。LFディスプレイシステム700は、LFディスプレイモジュール720を備えた消費者向けデバイス710(例えば、電化製品)から構成される。1つ以上の実施形態では、デバイス710は、ユーザーが電化製品にアクセスするための物理的特徴(ボタンなど)および/または2Dデジタルディスプレイ(2Dタッチスクリーンを含む)を含み得る1つ以上の制御パネル730を伴う。さらに、デバイス710はまた、デバイスのユーザーにホログラフィックコンテンツを生成するためのLFディスプレイアセンブリ(例えば、図5のLFディスプレイアセンブリ510)を含む。LFディスプレイシステム700はまた、コントローラ520、ユーザープロファイリングモジュール528、感覚フィードバックアセンブリ570、および追跡システム580などの、図5に示すLFディスプレイシステム500の他の構成要素の任意の組み合わせを含み得る。
LFディスプレイシステムは、1つ以上のLFディスプレイモジュールを使用して、少なくとも1つのホログラフィックオブジェクトを含むホログラフィックコンテンツをユーザーに提示し得る。ホログラフィックオブジェクトは、三次元(3D)、二次元(2D)、またはそれらの何らかの組み合わせであり得る。さらに、ホログラフィックオブジェクトは、多色(例えば、フルカラー)であり得る。図7において、ホログラフィックオブジェクトボリューム740は、ディスプレイモジュール720の前および後ろの両方に延在する(例えば、図1に示されるものと同様)。しかしながら、例示を容易にするために、消費者向けデバイス710の後ろにあるホログラフィックオブジェクトボリューム740の部分は、図7から省略されている。ビューイングボリューム750は、ユーザーがLFディスプレイモジュール720によって提示されたホログラフィックオブジェクトを見ることができ得る表示空間を表す。ホログラフィックオブジェクト762および764は、ホログラフィックオブジェクトボリューム740内の任意の場所に配置することができ、これは、LFディスプレイモジュール720から発生し、収束してホログラフィックオブジェクトを作成するすべての光線を包含し、収束点のセットは、デバイスのディスプレイエリアの前に配置されている。視聴者A772および視聴者B774は、表示されたホログラフィックオブジェクト762および764を表示し得る。表示されたホログラフィックオブジェクト762および764は、ユーザーの動きに応答し得る。例えば、ホログラフィックダイヤルまたはボタンは、追跡システムで感知され得るユーザーの手の動きに応じて移動し、追跡システムで感知したユーザージェスチャで回転し、感覚フィードバックシステム(例えば、570)で受信した音声コマンドに従って回転し、その他のユーザー入力で移動し得る。
ホログラフィックオブジェクト762および764はまた、それらの表面の近くまたはそれらの表面と一致するように投影された触覚表面を有し得る。これらの触覚表面は、ユーザーの動きに応答し得る。例えば、表面への接触が追跡システムによって感知され、感覚フィードバックシステムに適切な触覚応答を引き起こし得る(例えば、ユーザーの指または手の位置に対応する適切な対応する触覚応答)。従って、例えば、ホログラフィックオブジェクト762に向かう指770の動き、ならびにホログラフィックオブジェクト762の触覚表面上の指770の「タッチ」は、LFディスプレイシステムの追跡システムによって確立され得る。
消費者向けデバイスにおけるカスタマイズされたホログラフィックディスプレイに関して上で説明したように、追跡システム580が視聴者A772の存在を追跡するとき、構成された設定は、視聴者772に対して、ホログラフィックオブジェクト762(すなわち、ホログラフィック「ボタン」)(のみ)のカスタマイズされた表示をし得る。従って、視聴者B774が存在しない場合、ホログラフィックオブジェクト764の表示は提示されなくてもよい。同様に、視聴者774の存在を感知すると、構成された設定は、視聴者774に対して、ホログラフィックオブジェクト764(すなわち、ホログラフィック「ダイヤル」)(のみ)のカスタマイズされた表示をし得る。
LFディスプレイシステムの他の例示的な実施形態を以下に説明する。実施形態の説明は、例示の目的で追加されている。この説明は、考えられるすべての電化製品内のLFディスプレイシステムを網羅的に説明することを意図したものではない。
例示的な実施形態:ホームアシスタントにおけるLFディスプレイシステム
以下は、ホームアシスタントデバイス(AMAZONのALEXAやGOOGLEのHOMEなど)の一部としてのLFディスプレイシステムのいくつかの実施形態の説明である。この説明は、図5のLFディスプレイシステム500に示されている要素を参照する。このようなホームアシスタントシステムは、家庭用照明、室内気候、家庭用エンターテインメントシステム、電化製品、カメラ、ドアロック、またはその他のデバイスを制御できるホームオートメーションシステムの機能も兼ね得る。
いくつかの実施形態では、感覚フィードバックシステム570は、デバイスの近くで検出された感覚データ(例えば、感覚フィードバックシステム570内の音響マイクロフォンによってキャプチャされたユーザーからの音声コマンドなどの音声データ)を受信し得、または追跡システム580は、カメラによってキャプチャされたユーザーの動きに関する視覚情報を受信し得る。この受信した情報は、ホームアシスタントのライトフィールドディスプレイシステム500内のコントローラ520に送信される。コントローラ520は、さらなる処理および解釈のために、この情報をコマンドライブラリ532に転送し得る。コマンドライブラリ532は、追跡モジュールと併せて、ユーザープロファイリングシステム528によって記憶されたユーザープロファイル情報とともに、受信した情報を解釈し得、必要に応じて、ユーザーのジェスチャを解釈するために、保存されたヒューリスティックを適用し、計算コマンドをLF処理エンジンに送信して、上記のホログラフィックユーザーインターフェースをユーザーに提示し得る。
表示されるホログラフィックユーザーインターフェースは、ホームアシスタントとのインタラクションを容易にするために、ユーザーが望むように構成し得る。ユーザーに提示されるホログラフィックユーザーインターフェースは、ホームアシスタントと統合されており、ホームアシスタントが提供するすべての機能の表示と実行を可能にする。ホームアシスタントと統合されたLFディスプレイシステム500によって提供される機能の例には、ユーザーからのタッチコマンドに応答するユーザーに表示されるメニュー選択のホログラフィックおよび触覚画面を含むホログラフィックユーザーインターフェース、および表示されたホログラフィックインターフェースを介してユーザーがこれらの設定を再構成するのを容易にする、家のセキュリティ、照明、または電化製品の設定のホログラフィックディスプレイ、が含まれるが、これらに限定されない。
消費者向けデバイス(例えば、ホームアシスタント)へのホログラフィックユーザーインターフェースは、前述のように、ホログラフィックキャラクターを特徴とし得る。ホログラフィックキャラクターは、外見(例えば、有名人の外見)、衣服(またはなし)、性格、声(例えば、アクセントや有名人の声)、気性、言語(例えば、使用された不快な言葉の量)、またはその他の特性など、好みに合わせて変更し得る様々な特徴を備え得る。ホログラフィックキャラクターは、CGキャラクター(例えば、スーパーヒーロー)、俳優やスポーツ選手などの有名人、利用可能な多くのアバターの1つを任意選択した外見、または別の外見を有し得る。ホログラフィックキャラクターの外見は、認識可能なホームアシスタントの声(例えば、外見に一致する有名人の声)を伴う得、ユーザーが容易に変更し得る。ホログラフィックキャラクターは、AIモデルによって生成およびパーソナライズし得る。ホログラフィックキャラクターは、ユーザーにとってより魅力的なものにするために、ユーザープロファイルまたはソーシャルメディアアカウントにアクセスし得る。例えば、ホログラフィックキャラクターは、ユーザーのソーシャルメディアアカウントに表示される写真やディスカッションで観察された特徴に基づいて遊び心のあるフィードバックを提供したり、スケジュールされたイベントの日のカレンダーのリマインダーに基づいて雑談を提供したりし得る。ユーザーの楽しみのために、ホログラフィックキャラクターは、ユーザーの選択に応じて、機嫌が悪くまたは機嫌が良くなり得る。ホームアシスタントやホームオートメーションデバイスなどの消費者向けデバイスで表示および体験するホログラフィックキャラクターの特性に関する多くの選択肢は、場合によっては取引手数料と引き換えに、オンラインストアなどのサードパーティコンテンツプロバイダ630を介しネットワーク620を介してダウンロード可能であり得る。
他の実施形態では、ホームアシスタントのホログラフィックキャラクターは、認識されたユーザーに優しい仮想ペットとして提供されたり、認識されていない人が家の一部で観察されたときに保護的に動作する監視動物(番犬または騒々しいオウム)として動作したりし得る。
例示的な実施形態:オーブン内のLFディスプレイシステム
以下は、家庭用オーブンなどの消費者向け電化製品の一部としてのLFディスプレイシステムのいくつかの実施形態の説明である。この説明は、図5のLFディスプレイシステム500に示されている要素を参照する。
いくつかの実施形態では、電化製品内のライトフィールドディスプレイシステム500内で、追跡モジュール526は、追跡システム580から、LFディスプレイシステムの前で(例えば、ホログラフィックオブジェクトボリューム内および/またはビューイングボリューム内などで)キャプチャされた画像を受信し得る。追跡モジュール526は、ユーザーの存在を決定し得る。コントローラ520内のコマンドライブラリ532は、ユーザープロファイリングシステム528によって記憶されたユーザープロファイル情報とともに、追跡モジュール526から受信した追跡情報を使用し得、ヒューリスティックを適用して、計算コマンドをLFディスプレイアセンブリ510に送信して、上記のホログラフィックユーザーインターフェースをユーザーに提示し得る。
前述のように、いくつかの実施形態では、LFディスプレイシステム500はまた、他の感覚コンテンツ(例えば、接触、温度)で提示されたホログラフィックコンテンツを拡張し得る。従って、例えば、オーブンに関連するLFディスプレイシステム500は、オーブンで焼く一斤のパンのホログラフィック画像を提示し得る。ホログラフィックな「一斤のパン」は、触覚刺激で拡張されて、提示されたホログラフィックな「一斤のパン」の上面と同じ位置にある触覚表面を生成し得る。従って、感覚フィードバックシステム570は、音響エネルギー、例えば、圧力波を投影して、同じ場所に配置された触覚で感知できる「一斤のパン」の表面を生成し得る。さらに、同じ場所に配置された触覚で感知できる「一斤のパン」の表面の品質は、ユーザーに提示される触覚がオーブン内の実際の焼きたての一斤のパンの「仕上がり具合」の状態を反映するように定期的に変更され得る。
従って、いくつかの実施形態では、LFディスプレイシステムは、電化製品制御システムから時間、温度などのパラメータ値を取得し、一斤のパンの焼き時間に関するデータストア522内のデータとともにパラメータ値を使用して提示された触覚表面の強度を調整し得、これにより、提示された表面の強度は、電化製品内のパンの「仕上がり具合」を表し得る。例えば、LFディスプレイシステムは、得られた情報を使用して、感覚フィードバックアセンブリ570内の超音波エミッタを制御して、適切に変化する圧力波を生成するし、これにより、所与の時点でのレンダリングされた触覚表面の強度が、ユーザーからの「タッチ」に応答して、所与の時点でのオーブン内の実際の一斤のパンの「仕上がり具合」を反映する。
いくつかの実施形態では、追跡システム580は、提示されたホログラフィックな一斤のパンに向かうユーザーの動き(例えば、ユーザーの指の動き)を追跡し得る。移動情報は、追跡システム580によってコントローラ520に送信され得る。コントローラ520は、追跡された指が提示された触覚で感知できる一斤のパンの表面のある閾値距離内にあるとき、指がホログラフィックな「一斤のパン」に「触れている」または「押している」と決定し得る。さらに、この決定に応答して、LFディスプレイアセンブリ510は、ホログラフィックな「一斤のパン」ならびに提示された触覚表面を異なる位置にさらにレンダリングし得、例えば、触覚表面の位置を、ユーザーが「押す」ときに、ホログラフィックな「一斤のパン」を動かすことによって新しい位置に移動させ得る。この場合も、新しい位置への「表面」の移動量は、一斤のパンの「仕上がり具合」を反映し得る。
いくつかの実施形態は、ホログラフィックオブジェクトを表示する方法を決定するために、感覚フィードバックアセンブリ570からの入力を使用し得る。ホログラフィックオブジェクトの表示は、LFディスプレイシステム500でパラメータの値を受信することに応答して修正し得る。パラメータの例には、時間、温度、圧力、力、オーディオデシベルレベルなど、またはそれらの組み合わせが含まれ得る。例えば、ローストターキーは、タイマーまたは温度センサの入力に基づいて、オーブン内で焼き時間が進むにつれてゆっくりと色が変化するホログラフィックオブジェクトとして描写され得る。別の実施形態では、LFディスプレイシステム500が感覚フィードバックアセンブリ570の一部として加熱ユニットを備えている場合、ローストターキーのホログラフィック表現の周囲の温度は、時間または温度が上昇するにつれて上昇し得る。データは、ホログラフィックオブジェクトを生成するために、オーブン内に配置された追加のセンサ(温度センサなど)から取得され得、データストア内に記憶されたデータ(レシピ情報など)からも取得され得る。
いくつかの実施形態では、ユーザーによって行われた操作上の選択は、ホログラフィックコンテンツの表示に影響を及ぼし得る。例えば、LFディスプレイシステムが、ユーザーが低温10時間サイクルでオーブンを使用することの操作上の選択をしたと決定した場合、10時間サイクルの最後にのみLFディスプレイシステムは、オーブンの中身のホログラフィック描写を提示し得る。
例示的な実施形態:冷蔵庫内のLFディスプレイシステム
LFディスプレイシステムのいくつかの実施形態は、家庭用冷蔵庫などの電化製品に見られる。いくつかの実施形態では、追跡モジュール526は、(図5に示されるように)追跡システム580から受信した情報に基づいて、ホログラフィックオブジェクトボリュームおよび/またはLFディスプレイシステムの前のビューイングボリューム内の情報を追跡し、この追跡された情報をコマンドライブラリへの情報532に送信し得る。コマンドライブラリ532は、ユーザープロファイリングシステム528によって記憶されたユーザープロファイル情報とともに、追跡モジュール526から受信した追跡情報を、使用し、コマンドライブラリ532にヒューリスティックを適用し、計算コマンドをLF処理エンジン530に送信する。LF処理エンジン530は、計算コマンドを実行し、LFディスプレイアセンブリに、冷蔵庫の中身のホログラフィックディスプレイを投影させる。いくつかの実施形態では、冷蔵庫の中身を表示することは、冷蔵庫の中身の画像データをLFディスプレイシステム500に提供するために、冷蔵庫内に配置された内部カメラセンサを含む。他の実施形態では、LFディスプレイシステム500は、ホログラフィックディスプレイを生成するために、ユーザーによって物理的制御パネルに手動で入力されるか、または追跡システム580によるユーザージェスチャの認識に基づいて、ユーザーコマンドを受信する。例えば、追跡モジュール526は、コマンドライブラリ532によってヒューリスティックに基づいてマッピングされたユーザージェスチャを検出して、計算コマンドをLFディスプレイシステムに送信して、冷蔵庫の中身の一部だけを描写するホログラフィックディスプレイを生成する(例えば、冷凍庫に組み込まれている製氷機で現在利用できる氷の量、または別の例として、冷蔵庫のドアの棚の中身など)。例に続いて、所望の特定のホログラフィックディスプレイを生成することは、感覚フィードバックシステム570内のカメラセンサを使用して所望の画像データを取得し、取得された画像に基づいて表示面から投影されたホログラフィックオブジェクトをレンダリングすることを含み得る。
いくつかの実施形態で前述したように、LFディスプレイシステムは、システムが少なくとも1つのタイプのエネルギーを同時に放出し、同時に、ユーザーに応答してユーザーにインタラクティブな体験を作成するために、画像追跡情報ならびに電化製品内からの画像情報を使用することを可能にする要素を含み得る。従って、例えば、一実施形態では、LFディスプレイシステム500は、冷蔵庫の中身を表示し得る。ユーザーが、例えば、1ガロンのミルクなど、特定の描写されたホログラフィックオブジェクトを「移動」したことを感知すると、システムは、別のホログラフィックオブジェクト、例えば、冷蔵庫内の1ガロンのミルクの後ろにあるサラダ野菜の袋描写するように提示を変更し得る。
電化製品のサービスとメンテナンスのサポート
LFディスプレイシステムを使用する追加の実施形態は、消費者向けデバイス(例えば、電化製品)内のサービスおよびメンテナンス機能を容易にすることを含む。LFディスプレイシステムは、消費者向けデバイスの通常操作の下で、特定のタイプのホログラフィックオブジェクトのみを消費者向けデバイスのユーザーに表示することを許可するためのアクセス制御方針を有し得る。しかしながら、資格のある消費者向けデバイスサービス技術者は、消費者向けデバイスシステム内の安全なアクセスを取得して、消費者向けデバイス(例えば、食器洗い機などの電化製品)のサービスメンテナンスおよび/または修理中に、消費者向けデバイス内の内部機械要素を描写するホログラフィックオブジェクトの表示をアクティブにし得る。この表示は、消費者向けデバイス内に配置されたセンサから得られた様々なセンサデータを使用して生成し得る。従って、例えば、資格のある冷蔵庫の技術者は、冷蔵庫の製氷機能に向けのサービスまたはメンテナンス作業を実行している間に、コンデンサーファンとモーターのアセンブリ、水管、製氷グリッドアセンブリなど、および冷蔵庫の製氷機に関連する回路などの冷蔵庫のユーザーには簡単には見えない内部の機械部品を含め、冷蔵庫の製氷機のホログラフィックディスプレイを安全に有効にでき得る。
図8は、1つ以上の実施形態による、ライトフィールドディスプレイシステムを使用して消費者向けデバイスとのユーザーのインタラクションを可能にするためのプロセスを示すフローチャートである。一実施形態では、図8のプロセスは、ライトフィールドディスプレイシステム500によって実行される(図5に示されるように)。他のエンティティは、他の実施形態におけるプロセスのステップのいくつかまたはすべてを実行し得る。同様に、実施形態は、異なるおよび/または追加のステップを含み得るか、または異なる順序でステップを実行し得る。
ライトフィールドディスプレイシステム500は、ユーザーからコマンドを受信する810。ユーザーコマンドは、物理的なコントロール、例えば、押し得る物理的なボタン、回転し得る物理的なダイヤル、および物理的にタッチ可能なスクリーンを介して受信し得、これらはすべて、消費者向けデバイスに配置され、感覚フィードバックシステム570の一部である。別の例では、ユーザーコマンドは、感覚フィードバックシステム570の一部である音響マイクロフォンなどの音響受信機で音声コマンドとして受信され得る。受信したユーザーコマンドは、さらなる解釈および分析のために、コントローラを介してコマンドライブラリ532に中継される。ユーザーコマンドは、表示されたホログラフィックUIなど、ユーザーによるホログラフィックオブジェクトのインタラクションを通じて受信され得る。ユーザーコマンドはまた、追跡モジュール526からの命令を介してユーザーを追跡している追跡システム580を介して受信され得る。ユーザーコマンドは、追跡システム580が、表示されたホログラフィックUI上のホログラフィック「ボタン」などの触覚ホログラフィック表面にユーザーが触れたことを検出したときに受信され得る。受信したユーザーコマンドは、さらなる解釈および分析のために、コントローラを介してコマンドライブラリ532に中継される。同様に、ユーザーコマンドは、ユーザーが行うジェスチャまたは動きの形式であり得る。ユーザーの動きまたはジェスチャは、追跡システム580によって識別され得、分析および解釈のためにコマンドライブラリ532に中継され得る。ユーザーコマンドはまた、消費者向けデバイスで通信ネットワークを介して受信され得、分析および解釈のためにコマンドライブラリ532に送信され得る。
ライトフィールドディスプレイシステム500は、計算コマンドを決定するためにユーザーコマンドを処理する820。ライトフィールドディスプレイシステム500のコマンドライブラリ532は、受信したユーザーコマンドを解釈し、追跡モジュールと併せて、おそらくユーザープロファイリングシステム528によって記憶されたユーザープロファイル情報に関連して、必要に応じて、ユーザージェスチャを解釈するために、保存されたヒューリスティックを適用し得、受信したユーザーコマンドに基づいて計算コマンドを決定する。決定された計算コマンドの一例は、消費者向けデバイスのユーザーが表示するために、より多くのホログラフィックコンテンツを生成するコマンドである。別の例は、生成されたホログラフィックコンテンツを変更し得る。決定された計算コマンドは、例えば、ユーザーの視線を追跡するための画像センサなどの、LFディスプレイシステム内のセンサをアクティブにし得る。決定された計算コマンドはまた、消費者向けデバイス内の制御をアクティブにし得る。例えば、計算コマンドは冷蔵庫の温度設定を下げ得る。
ライトフィールドディスプレイシステムは、計算コマンドに基づいて表示するためにホログラフィックコンテンツを生成する830。ライトフィールドディスプレイシステム500のLF処理エンジン530は、コマンドライブラリ532から決定された計算コマンドを受信し、計算コマンドに基づいて表示するためのホログラフィックコンテンツを生成する830。従って、例えば、計算コマンドは、LF処理エンジン530に、オーブンで焼く一斤のパンのホログラフィックディスプレイを生成するように指示し得る。それに応じて、LF処理エンジン530は、最初に、描写された一斤のパンの色および触覚の特徴などのホログラフィックディスプレイの特徴を決定し、焼いた一斤のパンの「仕上がり具合」を描写し、必要なホログラフィックコンテンツを生成する前に、データストア522から記憶されたユーザープロファイル特徴を取得し得る。
ライトフィールドディスプレイシステム500は、生成されたホログラフィックコンテンツを表示する840。コントローラ520は、ホログラフィックコンテンツをLF処理エンジン530からLFディスプレイモジュール512に投影するための表示命令を送信する。LFディスプレイモジュール512は、ホログラフィックコンテンツをユーザーに表示する。
追加の構成情報
本開示の実施形態の前述の説明は、例示の目的で提示されたものであり、網羅的であること、または開示を、開示された正確な形態に限定することを意図するものではない。関連技術の当業者は、上記の開示に照らして、多くの修正および変形が可能であることを理解することができる。
本明細書のいくつかの部分は、情報に対する操作のアルゴリズムおよび記号表現の観点から、本開示の実施形態を説明している。これらのアルゴリズムの説明および表現は、データ処理分野の当業者によって、自らの作業の本質を他の当業者に効果的に伝えるために一般的に使用される。これらの操作は、機能的、計算的、または論理的に説明される一方、コンピュータプログラムまたは等価な電気回路、マイクロコードなどによって実装されることが理解される。さらに、これらの操作の配置を、一般性を損なうことなく、モジュールと呼ぶことが場合によっては好都合であることも判明している。説明された操作およびそれらの関連付けられたモジュールは、ソフトウェア、ファームウェア、ハードウェア、またはそれらの任意の組み合わせにおいて具現化され得る。
本明細書に記載の工程、操作、またはプロセスのうちのいずれかが、1つ以上のハードウェアまたはソフトウェアモジュールを使用して、単独で、または他のデバイスと組み合わせて、実行または実装され得る。一実施形態では、ソフトウェアモジュールは、説明された工程、操作、またはプロセスのうちのいずれかまたはすべてを実行するために、コンピュータプロセッサによって実行され得るコンピュータ・プログラムコードを含むコンピュータ可読媒体を備えるコンピュータプログラム製品で実装される。
本開示の実施形態はまた、本明細書の操作を実行するための装置に関し得る。この装置は、要求された目的のために特別に構築され得、および/または、コンピュータに記憶されたコンピュータプログラムによって選択的に起動または再構成される汎用コンピューティングデバイスを備え得る。そのようなコンピュータプログラムは、コンピュータシステムバスに結合され得る、非一時的な有形のコンピュータ可読記憶媒体、または電子命令を記憶するために好適な任意のタイプの媒体に記憶され得る。さらに、本明細書で言及される任意のコンピューティングシステムは、単一のプロセッサを含み得るか、またはコンピューティング能力を高めるために複数のプロセッサ設計を採用するアーキテクチャであり得る。
本開示の実施形態はまた、本明細書の説明されているコンピューティングプロセスによって生成された製品に関し得る。そのような製品は、コンピューティングプロセスから生じる情報であって、その情報が非一時的な有形のコンピュータ可読記憶媒体に記憶される、情報を含み得、また本明細書に記載のコンピュータプログラム製品もしくは他のデータの組み合わせの任意の実施形態を含み得る。最後に、本明細書で使用される言語は、主に読み易さおよび教示目的のために選択されており、本発明の主題を画成または制限するように選択されていないことがある。従って、本開示の範囲は、この発明を実施するための形態によってではなく、本明細書に基づく出願に関して発行される任意の請求項によって限定されることが意図される。従って、実施形態の開示は、以下の特許請求の範囲に記載される本開示の範囲を例示することを意図するが、限定することを意図しない。
本開示の実施形態はまた、本明細書の説明されているコンピューティングプロセスによって生成された製品に関し得る。そのような製品は、コンピューティングプロセスから生じる情報であって、その情報が非一時的な有形のコンピュータ可読記憶媒体に記憶される、情報を含み得、また本明細書に記載のコンピュータプログラム製品もしくは他のデータの組み合わせの任意の実施形態を含み得る。最後に、本明細書で使用される言語は、主に読み易さおよび教示目的のために選択されており、本発明の主題を画成または制限するように選択されていないことがある。従って、本開示の範囲は、この発明を実施するための形態によってではなく、本明細書に基づく出願に関して発行される任意の請求項によって限定されることが意図される。従って、実施形態の開示は、以下の特許請求の範囲に記載される本開示の範囲を例示することを意図するが、限定することを意図しない。
(項目1)
消費者向けデバイスであって、
ホログラフィックコンテンツを生成するように構成されたコントローラと、
LFディスプレイアセンブリであって、前記生成されたホログラフィックコンテンツを前記消費者向けデバイスのユーザーに提示するように構成された1つ以上のLFディスプレイモジュールを含む、LFディスプレイアセンブリと、
前記ユーザーからの1つ以上のコマンドを認識するように構成されたコマンドインターフェースと、
を備えたライトフィールド(LF)ディスプレイシステムを備えていることを特徴とする消費者向けデバイス。
(項目2)
前記コントローラは、前記消費者向けデバイスの動作状態の変化に応答して、前記生成されたホログラフィックコンテンツを更新するように構成される、項目1に記載の消費者向けデバイス。
(項目3)
前記生成されたホログラフィックコンテンツは、前記消費者向けデバイスの動作を制御するための1つ以上のホログラフィック特徴を備えたホログラフィックユーザーインターフェース(UI)を備え、前記コマンドインターフェースは、前記生成されたホログラフィックUIを介して前記ユーザーから受信した前記1つ以上のコマンドを認識するようにさらに構成される、項目1に記載の消費者向けデバイス。
(項目4)
前記コマンドインターフェースは、前記ユーザーが前記提示されたホログラフィックUI内の前記1つ以上のホログラフィック特徴の閾値距離内にあるとの決定に基づいて、前記ホログラフィックUIを介して前記ユーザーからコマンドを受信するようにさらに構成される、項目3に記載の消費者向けデバイス。
(項目5)
前記1つ以上の認識されたコマンドは、前記消費者向けデバイスの動作状態の変化を引き起こす、項目1に記載の消費者向けデバイス。
(項目6)
前記LFディスプレイシステムは、
前記ホログラフィックコンテンツが提示されるときに、感覚フィードバックを提供するように構成された少なくとも1つの感覚フィードバックデバイスを備える感覚フィードバックシステムをさらに備える、項目1に記載の消費者向けデバイス。
(項目7)
前記コマンドインターフェースは、前記提供された感覚フィードバックを前記ユーザーからの1つ以上のコマンドとして認識するようにさらに構成される、項目6に記載の消費者向けデバイス。
(項目8)
前記感覚フィードバックシステムは、触覚フィードバック、音声フィードバック、芳香フィードバック、温度フィードバック、圧力フィードバック、力フィードバック、またはそれらの任意の組み合わせを含む、項目6に記載の消費者向けデバイス。
(項目9)
前記感覚フィードバックシステムは、ボタン、ダイヤル、ノブ、キーパッド、他の入力ハードウェア、またはそれらの任意の組み合わせの1つ以上をさらに備える、項目6に記載の消費者向けデバイス。
(項目10)
前記感覚フィードバックシステムは、マイクロフォンおよび音声認識ソフトウェアをさらに備える、項目6に記載の消費者向けデバイス。
(項目11)
前記LFディスプレイシステムは、
追跡システムであって、前記消費者向けデバイスの前記ユーザーに関する情報を取得するように構成された1つ以上の追跡デバイスを含む、追跡システムをさらに備え、
前記コントローラは、前記追跡システムによって取得された前記情報に部分的に基づいて、前記ユーザーの前記ホログラフィックコンテンツを生成するように構成される、項目1に記載の消費者向けデバイス。
(項目12)
前記追跡システムによって取得される前記情報は、前記ユーザーの位置、前記ユーザーの動き、前記ユーザーのジェスチャ、前記ユーザーの表情、前記ユーザーの視線、前記ユーザーの性別、および前記ユーザーの年齢の任意の組み合わせを含む、項目11に記載の消費者向けデバイス。
(項目13)
前記コントローラは、前記追跡システムによって取得された前記情報に基づいて前記生成されたホログラフィックコンテンツを更新するようにさらに構成される、項目11に記載の消費者向けデバイス。
(項目14)
前記コントローラは、前記追跡システムによって取得された前記情報と、人工知能モデルと、を使用して、前記ホログラフィックコンテンツを生成するように構成される、項目11に記載の消費者向けデバイス。
(項目15)
前記追跡システムは、ライトフィールドカメラ、1つ以上の2D画像センサ、および深度センサを含むセンサの任意の組み合わせを含む、項目11に記載の消費者向けデバイス。
(項目16)
前記ホログラフィックコンテンツを生成することは、前記追跡システム内の前記1つ以上のセンサからデータをキャプチャすることと、前記キャプチャされたデータに基づいて前記ホログラフィックコンテンツを生成することとを含む、項目15に記載の消費者向けデバイス。
(項目17)
前記コントローラは、前記ユーザーからの1つ以上の認識されたコマンドに基づいてホログラフィックコンテンツを変更するようにさらに構成される、項目1に記載の消費者向けデバイス。
(項目18)
前記コントローラは、
前記ホログラフィックコンテンツの少なくとも一部を、ベクトル化されたフォーマットでネットワークインターフェースを介してオンラインシステムから検索し、
前記ホログラフィックコンテンツの前記ベクトル化されたフォーマットを、前記LFディスプレイアセンブリで提示するためにラスタライズ化されたフォーマットに変換するようにさらに構成される、項目1に記載の消費者向けデバイス。
(項目19)
前記LFディスプレイシステムは、前記ホログラフィックコンテンツが前記ユーザーに提示される場所での環境特徴に基づいて、前記ホログラフィックコンテンツの前記提示を変更するように構成される、項目1に記載の消費者向けデバイス。
(項目20)
前記LFディスプレイシステムは、前記LFディスプレイシステムで受信されたパラメータの値に基づいて、前記ホログラフィックコンテンツの前記提示を変更するように構成される、項目1に記載の消費者向けデバイス。
(項目21)
前記追跡システムによって取得された前記情報にアクセスすることと、
前記ユーザーを識別するために前記情報を処理することと、
前記ユーザーのユーザープロファイルを生成することと、
を行うように構成されたユーザープロファイリングモジュールと、をさらに備え、
前記コントローラは、前記ユーザープロファイルに部分的に基づいて、前記ユーザーの前記ホログラフィックコンテンツを生成するようにさらに構成される、項目11に記載のLFディスプレイシステム。
(項目22)
前記コントローラは、前記ユーザープロファイルと、人工知能モデルと、を使用して、前記ホログラフィックコンテンツを生成するようにさらに構成される、項目21に記載のLFディスプレイシステム。
(項目23)
前記ユーザープロファイリングモジュールは、
前記ユーザーのソーシャルメディアアカウントからの情報を使用して、前記ユーザープロファイルを更新するようにさらに構成されており、
前記コントローラは、前記更新されたユーザープロファイルに部分的に基づいて、前記ホログラフィックコンテンツを生成するように構成される、項目21に記載のLFディスプレイシステム。
(項目24)
前記提示されたホログラフィックオブジェクトの表面の閾値距離内に、または前記提示されたホログラフィックオブジェクトの表面と一致する体積触覚表面を生成するように構成された超音波エネルギー投影デバイスをさらに備える、項目1に記載の消費者向けデバイス。
(項目25)
前記コントローラで受信されたパラメータの値に基づいて、前記生成された体積触覚表面のユーザータッチに対する抵抗を調整することをさらに含む、項目24に記載の消費者向けデバイス。
(項目26)
前記追跡システムによって取得された前記情報に部分的に基づいて生成される体積触覚表面を生成するように構成された超音波エネルギー投影デバイスをさらに備える、項目11に記載の消費者向けデバイス。
(項目27)
前記超音波エネルギー投影デバイスは、前記追跡システムによって取得された情報に応答して、前記生成された体積触覚表面を更新するようにさらに構成される、項目26に記載の消費者向けデバイス。
(項目28)
前記超音波エネルギー投影デバイスは、前記追跡システムおよび人工知能モデルによって取得された前記情報を使用して、前記体積触覚表面を生成するようにさらに構成される、項目26に記載の消費者向けデバイス。
(項目29)
前記コントローラは、触覚刺激、音響刺激、温度刺激、嗅覚刺激、またはそれらの任意の組み合わせを含む感覚コンテンツで生成された前記ホログラフィックコンテンツを拡張するようにさらに構成される、項目1に記載の消費者向けデバイス。
(項目30)
前記ホログラフィックコンテンツは、前記消費者向けデバイス上で実行されるアプリケーションと併せて提示される、項目1に記載の消費者向けデバイス。
(項目31)
前記提示されたホログラフィックコンテンツは、オンラインソースから受信したコンテンツに基づく、項目30に記載の消費者向けデバイス。
(項目32)
前記提示されたホログラフィックコンテンツは、前記ユーザーによって行われた操作上の選択に応答して、オンラインソースから受信されたコンテンツに基づく、項目31に記載の消費者向けデバイス。
(項目33)
前記提示されたホログラフィックコンテンツは、ホログラフィックキャラクターを含む、項目1に記載の消費者向けデバイス。
(項目34)
前記提示されたホログラフィックキャラクターに関連する特徴は、少なくとも部分的に、前記ユーザーによって構成される、項目33に記載の消費者向けデバイス。
(項目35)
前記特徴は、前記提示されたホログラフィックキャラクターの視覚的、音声的、および人格的特徴を含む、項目34に記載の消費者向けデバイス。
(項目36)
前記提示されたホログラフィックキャラクターに関連する前記特徴は、ネットワークを介してオンラインシステムから検索される、項目34に記載の消費者向けデバイス。
(項目37)
前記特徴は、取引手数料と引き換えに、前記ネットワークを介して前記オンラインシステムから検索される、項目36に記載の消費者向けデバイス。
(項目38)
前記ホログラフィックキャラクターは、ホームアシスタントデバイスに関連して提示される、項目34に記載の消費者向けデバイス。
(項目39)
前記ホログラフィックキャラクターが提示されるときに、感覚フィードバックを提供するように構成される少なくとも1つの感覚フィードバックデバイスを備える感覚フィードバックシステムをさらに備える、項目33に記載の消費者向けデバイス。
(項目40)
前記感覚フィードバックは、触覚フィードバック、音声フィードバック、芳香フィードバック、温度フィードバック、またはそれらの任意の組み合わせを含む、項目39に記載の消費者向けデバイス。
(項目41)
前記感覚フィードバックは、前記1人以上のユーザーが接触を介して交信し得る前記ホログラフィックキャラクターの表面と一致する触覚表面を提供するように構成された体積触覚投影システムを含む、項目39に記載の消費者向けデバイス。
(項目42)
前記ユーザーに関する情報を取得するように構成される1つ以上の追跡デバイスを備える追跡システムをさらに備え、
前記コントローラは、前記追跡システムによって取得された前記情報に基づいて、前記ユーザーの前記ホログラフィックキャラクターを生成するように構成される、項目33に記載の消費者向けデバイス。
(項目43)
前記追跡システムによって取得される情報は、前記ユーザーの位置、前記ユーザーの動き、前記ユーザーのジェスチャ、前記ユーザーの表情、前記ユーザーの視線、前記ユーザーの年齢、および前記ユーザーの性別のいずれかを含む、項目42に記載の消費者向けデバイス。
(項目44)
前記ユーザーの前記追跡情報は、前記ユーザーの前記視線を含み、前記LFディスプレイアセンブリは、前記ホログラフィックキャラクターの目を更新して、前記ユーザーの前記視線とのアイコンタクトを維持するように構成される、項目42に記載の消費者向けデバイス。
(項目45)
前記コントローラは、前記追跡システムによって取得された前記情報と、人工知能モデルと、を使用して、前記ホログラフィックキャラクターを生成するように構成される、項目42に記載の消費者向けデバイス。
(項目46)
前記追跡システムによって取得された前記情報にアクセスすることと、
前記ユーザーを識別するために前記情報を処理することと、
前記ユーザーのユーザープロファイルを生成することと、
を行うように構成されたユーザープロファイリングモジュールと、をさらに備え、
前記コントローラは、前記ユーザープロファイルに部分的に基づいて、前記ユーザーの前記ホログラフィックキャラクターを生成するように構成される、項目42に記載の消費者向けデバイス。
(項目47)
前記コントローラは、前記ユーザープロファイルと、人工知能モデルと、を使用して、前記ホログラフィックキャラクターを生成するように構成される、項目46に記載の消費者向けデバイス。
(項目48)
前記ユーザープロファイリングモジュールは、
前記ユーザーのソーシャルメディアアカウントからの情報を使用して、前記ユーザープロファイルを更新するようにさらに構成されており、
前記コントローラは、前記更新されたユーザープロファイルに部分的に基づいて、前記ホログラフィックキャラクターを生成するように構成される、項目46に記載の消費者向けデバイス。
(項目49)
前記コントローラは、前記更新されたユーザープロファイルと、人工知能モデルと、を使用して、前記ホログラフィックキャラクターを生成するように構成される、項目48に記載の消費者向けデバイス。
(項目50)
前記コントローラは、前記ユーザーからの1つ以上の認識されたコマンドに基づいて、前記ホログラフィックキャラクターを変更するようにさらに構成される、項目33に記載の消費者向けデバイス。
(項目51)
前記LFディスプレイシステムは、
ユーザーからセキュリティ資格情報を受信することと、
前記受信したセキュリティ資格情報を認証することと、
前記消費者向けデバイスの1つ以上の機能への安全なアクセスを可能にすることと、
前記認証に応答して、特定のホログラフィックコンテンツの生成を有効にすることと、
を行うように構成された認証モジュールを備えたセキュリティモジュールをさらに備える、項目1に記載の消費者向けデバイス。
(項目52)
前記セキュリティモジュールは、
前記消費者向けデバイス内の内部センサによってキャプチャされたデータを受信することと、
前記受信したデータを前記コントローラに提供することと、
を行うようにさらに構成された項目51に記載の消費者向けデバイス。
(項目53)
前記コントローラは、前記内部センサからの前記受信したデータに基づいて、前記ホログラフィックコンテンツを生成するように構成される、項目52に記載の消費者向けデバイス。
(項目54)
前記コントローラは、人工知能モデルを部分的に使用して前記ホログラフィックコンテンツを生成するように構成される、項目53に記載の消費者向けデバイス。