JP2024068987A - 表示制御装置及びプログラム - Google Patents
表示制御装置及びプログラム Download PDFInfo
- Publication number
- JP2024068987A JP2024068987A JP2022179716A JP2022179716A JP2024068987A JP 2024068987 A JP2024068987 A JP 2024068987A JP 2022179716 A JP2022179716 A JP 2022179716A JP 2022179716 A JP2022179716 A JP 2022179716A JP 2024068987 A JP2024068987 A JP 2024068987A
- Authority
- JP
- Japan
- Prior art keywords
- display
- priority
- layer
- display control
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 claims abstract description 21
- 238000013515 script Methods 0.000 claims description 2
- 230000001934 delay Effects 0.000 abstract description 5
- 238000000034 method Methods 0.000 description 22
- 238000010586 diagram Methods 0.000 description 21
- 238000004891 communication Methods 0.000 description 16
- 238000004364 calculation method Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 7
- 238000012986 modification Methods 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000003190 augmentative effect Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 239000000835 fiber Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 239000006249 magnetic particle Substances 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Landscapes
- Processing Or Creating Images (AREA)
Abstract
【課題】複数のレイヤにそれぞれ属する仮想オブジェクトを重畳して表示する場合の表示の遅延を抑制する。【解決手段】サーバ装置20は、ARを実現するためのデータをネットワーク2経由でヘッドマウントディスプレイ10に配信する。このデータは、ヘッドマウントディスプレイ10において仮想オブジェクトを表示するためのポリゴンデータを含んでいる。ヘッドマウントディスプレイ10は、サーバ装置20から配信されるデータを用いて仮想オブジェクトを表示する。ヘッドマウントディスプレイ10は、各々のレイヤについて取得されたデータに応じた仮想オブジェクトを表示面に表示するときに、表示を行うための処理の負荷が許容値を超えるときは、少なくとも各々のレイヤについての表示の優先度を用いて、当該負荷が当該許容値以下となるような表示を行う。【選択図】図1
Description
本発明は、仮想オブジェクトを表示するための技術に関する。
XR(クロスリアリティ)とは、現実世界と仮想世界を融合することで現実にはないものを知覚できるようにする技術の総称であり、VR(仮想現実)、AR(拡張現実)、MR(複合現実)といった技術を含む。XRの実現において、例えばヘッドマウントディスプレイ(HMD)等の表示端末は、様々な仮想オブジェクトを表示するために、仮想的な3次元空間における3次元座標を有するポリゴンデータを取得して描画する。このようなポリゴンデータの取得から描画までの処理の負荷は比較的大きいため、その表示に遅延が発生する可能性がある。例えば特許文献1には、HMDにおいてユーザが注目している箇所をそれ以外の箇所よりも高解像度で表示することで、スムーズな表示を実現している。
ところで、画像処理の分野では、レイヤと呼ばれる階層に属する画像を重畳して表示するという技術が知られている。そこで、本発明は、複数のレイヤにそれぞれ属する仮想オブジェクトを重畳して表示する場合の表示の遅延を抑制することを目的とする。
上記課題を解決するため、本発明は、各レイヤに属する1以上の仮想オブジェクトを表示するためのデータを、複数のレイヤについて取得する取得部と、各々の前記レイヤについて取得された前記データに応じた前記仮想オブジェクトを表示面に表示する表示制御部であって、前記表示を行うための処理の負荷が許容値を超えるときは、少なくとも各々の前記レイヤについての表示の優先度を用いて、当該負荷が当該許容値以下となるような表示を行う表示制御部とを備えることを特徴とする表示制御装置を提供する。
本発明によれば、複数のレイヤにそれぞれ属する仮想オブジェクトを重畳して表示する場合の表示の遅延を抑制することが可能となる。
[構成]
図1は、本発明の一実施形態に係る仮想オブジェクト表示システム1の一例を示す図である。仮想オブジェクト表示システム1は、複数のユーザがそれぞれ利用する複数のヘッドマウントディスプレイ10と、これらヘッドマウントディスプレイ10に対して、XRを実現するためのデータを提供するサーバ装置20とを備えている。ヘッドマウントディスプレイ10とサーバ装置20はネットワーク2により通信可能に接続される。ネットワーク2は、例えばLAN(Local Area Network)又はWAN(Wide Area Network)、若しくはこれらの組み合わせであり、有線区間又は無線区間を含んでいる。
図1は、本発明の一実施形態に係る仮想オブジェクト表示システム1の一例を示す図である。仮想オブジェクト表示システム1は、複数のユーザがそれぞれ利用する複数のヘッドマウントディスプレイ10と、これらヘッドマウントディスプレイ10に対して、XRを実現するためのデータを提供するサーバ装置20とを備えている。ヘッドマウントディスプレイ10とサーバ装置20はネットワーク2により通信可能に接続される。ネットワーク2は、例えばLAN(Local Area Network)又はWAN(Wide Area Network)、若しくはこれらの組み合わせであり、有線区間又は無線区間を含んでいる。
ヘッドマウントディスプレイ10は、本発明に係る表示制御装置として機能する。本実施形態ではXRの一例として、AR(拡張現実)を実現する場合を説明するが、これに限らず、VRやMR等のXR全般において実現可能である。サーバ装置20は、ARを実現するためのデータをネットワーク2経由でヘッドマウントディスプレイ10に配信する。このデータは、ヘッドマウントディスプレイ10において仮想オブジェクトを表示するためのポリゴンデータを含んでいる。ヘッドマウントディスプレイ10は、サーバ装置20から配信されるデータを用いて、現実の3次元空間に対して仮想オブジェクトを重畳させて表示する。
本実施形態では、ユーザの頭部に装着されるタイプのユーザ端末としてヘッドマウントディスプレイ10を例示している。ただし、ユーザ端末は、本実施形態の例に限らず、例えば眼鏡型やコンタクトレンズ型などのウェアラブルコンピュータであってもよいし、スマートホンやタブレットなどのコンピュータであってもよい。
図2は、ヘッドマウントディスプレイ10のハードウェア構成を例示する図である。ヘッドマウントディスプレイ10は、物理的には、プロセッサ1001、メモリ1002、ストレージ1003、通信装置1004、入力装置1005、出力装置1006、表示装置1007、撮像装置1008及びこれらを接続するバスなどを含むコンピュータとして構成されている。なお、以下の説明では、「装置」という文言は、回路、デバイス、ユニットなどに読み替えることができる。ヘッドマウントディスプレイ10のハードウェア構成は、図に示した各装置を1つ又は複数含むように構成されてもよいし、一部の装置を含まずに構成されてもよい。
ヘッドマウントディスプレイ10における各機能は、プロセッサ1001、メモリ1002などのハードウェア上に所定のソフトウェア(プログラム)を読み込ませることによって、プロセッサ1001が演算を行い、通信装置1004による通信、表示装置1007による表示及び撮像装置1008による撮像を制御したり、メモリ1002及びストレージ1003におけるデータの読み出し及び書き込みの少なくとも一方を制御したりすることによって実現される。
プロセッサ1001は、例えば、オペレーティングシステムを動作させてコンピュータ全体を制御する。プロセッサ1001は、周辺装置とのインターフェース、制御装置、演算装置、レジスタなどを含む中央処理装置(CPU:Central Processing Unit)によって構成されてもよい。また、例えばベースバンド信号処理部や呼処理部などがプロセッサ1001によって実現されてもよい。
プロセッサ1001は、プログラム(プログラムコード)、ソフトウェアモジュール、データなどを、ストレージ1003及び通信装置1004の少なくとも一方からメモリ1002に読み出し、これらに従って各種の処理を実行する。プログラムとしては、後述する動作の少なくとも一部をコンピュータに実行させるプログラムが用いられる。ヘッドマウントディスプレイ10の機能ブロックは、メモリ1002に格納され、プロセッサ1001において動作する制御プログラムによって実現されてもよい。各種の処理は、1つのプロセッサ1001によって実行されてもよいが、2以上のプロセッサ1001により同時又は逐次に実行されてもよい。プロセッサ1001は、1以上のチップによって実装されてもよい。なお、プログラムは、ネットワーク2経由でヘッドマウントディスプレイ10に送信されてもよい。
メモリ1002は、コンピュータ読み取り可能な記録媒体であり、例えば、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(Electrically Erasable Programmable ROM)、RAM(Random Access Memory)などの少なくとも1つによって構成されてもよい。メモリ1002は、レジスタ、キャッシュ、メインメモリ(主記憶装置)などと呼ばれてもよい。メモリ1002は、本実施形態に係る方法を実施するために実行可能なプログラム(プログラムコード)、ソフトウェアモジュールなどを保存することができる。
ストレージ1003は、コンピュータ読み取り可能な記録媒体であり、例えば、CD-ROM(Compact Disc ROM)などの光ディスク、ハードディスクドライブ、フレキシブルディスク、光磁気ディスク(例えば、コンパクトディスク、デジタル多用途ディスク、Blu-ray(登録商標)ディスク)、スマートカード、フラッシュメモリ(例えば、カード、スティック、キードライブ)、フロッピー(登録商標)ディスク、磁気ストリップなどの少なくとも1つによって構成されてもよい。ストレージ1003は、補助記憶装置と呼ばれてもよい。
通信装置1004は、ネットワーク2を介してコンピュータ間の通信を行うためのハードウェア(送受信デバイス)であり、例えばネットワークデバイス、ネットワークコントローラ、ネットワークカード、通信モジュールなどともいう。通信装置1004は、例えば周波数分割複信(FDD:Frequency Division Duplex)及び時分割複信(TDD:Time Division Duplex)の少なくとも一方を実現するために、高周波スイッチ、デュプレクサ、フィルタ、周波数シンセサイザなどを含んで構成されてもよい。例えば、送受信アンテナ、アンプ部、送受信部、伝送路インターフェースなどは、通信装置1004によって実現されてもよい。送受信部は、送信部と受信部とで、物理的に、または論理的に分離された実装がなされてもよい。なお、ヘッドマウントディスプレイ10が直接ネットワーク2に接続して通信を行うのではなく、例えばスマートホン等の通信機能を有するデバイスを介してネットワーク2に接続して通信を行うものであってもよい。
入力装置1005は、外部からの入力を受け付ける入力デバイス(例えば、キー、マイクロホン、スイッチ、ボタン、各種センサなど)である。出力装置1006は、外部への出力を実施する出力デバイス(例えばスピーカ、LEDランプなど)である。表示装置1007は、例えば液晶素子や液晶駆動回路等を含む表示デバイスである。撮像装置1008は、撮像素子を含む撮像デバイスである。
プロセッサ1001、メモリ1002などの各装置は、情報を通信するためのバスによって接続される。バスは、単一のバスを用いて構成されてもよいし、装置間ごとに異なるバスを用いて構成されてもよい。
また、ヘッドマウントディスプレイ10は、マイクロプロセッサ、デジタル信号プロセッサ(DSP:Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、FPGA(Field Programmable Gate Array)などのハードウェアを含んで構成されてもよく、当該ハードウェアにより、各機能ブロックの一部又は全てが実現されてもよい。例えば、プロセッサ1001は、これらのハードウェアの少なくとも1つを用いて実装されてもよい。
図3は、サーバ装置20のハードウェア構成を示す図である。サーバ装置20は、物理的には、プロセッサ2001、メモリ2002、ストレージ2003、通信装置2004、及びこれらを接続するバスなどを含むコンピュータとして構成されている。これらの各装置は図示せぬ電源から供給される電力によって動作する。サーバ装置20のハードウェア構成は、図3に示した各装置を1つ又は複数含むように構成されてもよいし、一部の装置を含まずに構成されてもよい。また、それぞれ筐体が異なる複数の装置が通信接続されて、サーバ装置20を構成してもよい。
サーバ装置20における各機能は、プロセッサ2001、メモリ2002などのハードウェア上に所定のソフトウェア(プログラム)を読み込ませることによって、プロセッサ2001が演算を行い、通信装置2004による通信を制御したり、メモリ2002及びストレージ2003におけるデータの読み出し及び書き込みの少なくとも一方を制御したりすることによって実現される。プロセッサ2001、メモリ2002、ストレージ2003、通信装置2004、及びこれらを接続するバスは、ヘッドマウントディスプレイ10について説明したプロセッサ1001、メモリ1002、ストレージ1003、通信装置1004、及びこれらを接続するバスと、ハードウェアとしては同様であるため、その説明を省略する。
図4は、ヘッドマウントディスプレイ10の機能構成の一例を示すブロック図である。図4に示すように、ヘッドマウントディスプレイ10においては、取得部11と、記憶部12と、負荷算出部13と、表示制御部14といった機能が実現される。
取得部21は、各種のデータを取得する。例えば取得部11は、サーバ装置20から、各レイヤに属する1以上の仮想オブジェクトを表示するためのデータを、複数のレイヤについて取得する。記憶部12は、取得部11により取得されたデータを記憶する。表示制御部14は、各々のレイヤについて取得されたデータに応じた仮想オブジェクトを表示装置1007の表示面に表示する。
負荷算出部13は、表示制御部14が上記データに応じた表示を行うための処理の負荷を算出する。具体的な算出方法の一例は、次のとおりである。各レイヤデータには、そのレイヤデータに属する各仮想オブジェクトについて、その表示を行うための処理の負荷に影響するパラメータがメタデータとして記述されている。このパラメータとは、例えば各仮想オブジェクトのポリゴン数やテクスチャ解像度であり、これらの値が大きいほどその表示を行うための処理の負荷も大きい。負荷算出部13は、各レイヤに属する仮想オブジェクトを表示する処理の開始又は終了のタイミングで、各レイヤについての上記メタデータを用いて、表示を行うための処理の負荷を所定の計算式に従い算出する。また、処理の負荷を算出する別の方法としては、負荷算出部13が、表示制御部14による表示に関する処理の負荷を常時計測するという方法も考えられる。
表示制御部14は、負荷算出部13により算出された負荷が許容値を超えるときは、各々のレイヤ及び仮想オブジェクトについての表示の優先度を用いて、各仮想オブジェクトについて、その負荷がその許容値以下となるような表示を行う。具体的には、優先度が低い仮想オブジェクトに関しては、例えばカリングと呼ばれる表示高速化処理を行う。カリングとは、ポリゴンデータに基づいて描画するポリゴンの数を減少させる処理のことであり、これにより、各ポリゴンを表示しないか、又は、各ポリゴンを表示するためのデータを削減して表示することが可能となる。
ここで、図5は、ヘッドマウントディスプレイ10のソフトウェア構成の一例を示すブロック図である。図5において、レイヤデータL1,L2,L3…(以下、レイヤデータLという)は、各レイヤに対応するデータである。各レイヤデータLは、図6に例示するように、レイヤ単位で独立して仮想オブジェクトを表現するポリゴンを描画するためのスクリプトとしての、ポリゴンデータPD1,PD2…を含んでいる。このポリゴンデータPD1,PD2…は、線で構成した多角形の集合によって各仮想オブジェクトの形状を規定するデータである。各々の仮想オブジェクトに対応するポリゴンデータには、3次元空間におけるその仮想オブジェクトの位置を示す3次元座標が記述されている。
各々のレイヤデータLは、それぞれ異なる主体によって作成されたものである。一例を挙げると、レイヤデータL1は、ユーザに対してゲームを提供するために第1の事業者により作成されたプログラムであり、レイヤデータL2は、ユーザに対して各種ニュースを提供するために第2の事業者により作成されたプログラムであり、レイヤデータL3は、ユーザに対してルート案内を提供するために第3の事業者により作成されたプログラムである。ユーザは、これらの主体から購入や譲渡等により、自らが望むレイヤデータを入手することができる。なお、レイヤデータは複数であればよく、その数は図5に例示した3つに限定されない。また、1つのレイヤデータに含まれるオブジェクトデータは1以上であればよく、その数は図6に例示した2つに限定されない。
図5において、レイヤデーモンLDは、各々のレイヤデータを統合的に管理するプログラムによって実現されるバックグラウンドプロセスである。レイヤデーモンLDは、前述したレイヤデータの作成者とは異なる主体によって管理されている。レイヤデーモンLDは、ソフトウェア階層において各レイヤデータLよりも上位に位置している。各レイヤデータLに基づく表示は、レイヤデーモンLDの機能により制約される。図4で説明した負荷算出部13及び表示制御部14は、主にこのレイヤデーモンLDによって実現される。
前述したように、表示制御部14は、各々のレイヤ及び各々の仮想オブジェクトについての優先度を用いて、負荷が許容値以下となるような表示を行うための対象となる仮想オブジェクトを特定し、特定した仮想オブジェクトを表示しないか、又は、その仮想オブジェクトを表示するためのデータを削減して表示する。表示制御部14は、レイヤについての優先度と、仮想オブジェクトについての優先度とを、次のようにして特定する。
レイヤの優先度は、レイヤ単位で予め付与された優先度である。具体的には、各レイヤデータには、そのレイヤによってユーザに提供されるサービスの属性がメタデータとして記述されている。例えばレイヤデータがユーザに対してゲームを提供するものであれば、その属性として「娯楽」がメタデータとして記述されており、レイヤデータがユーザに対してニュースを提供するものであれば、その属性として「情報提供」がメタデータとして記述されており、レイヤデータがユーザに対してルート案内を提供するものであれば、その属性として「情報提供」がメタデータとして記述されているといった具合である。この他にも、例えば「広告」とか「危険通知」といった各種の属性が考えられる。
記憶部12には、図7に例示するように、レイヤによってユーザに提供されるサービスの属性(レイヤ属性)と、そのレイヤの優先度との関係が予め記憶されている。図7の例では、レイヤ属性が「娯楽」の場合は優先度「2」、レイヤ属性が「情報提供」の場合は優先度「1」、レイヤ属性が「広告」の場合は優先度「4」、レイヤ属性が「危険通知」の場合は優先度「5」である。ここでは、優先度の値が大きいほど、優先する度合いが高いものとする。よって、優先度が高い順に、「危険通知」、「広告」、「娯楽」、「情報提供」となる。このようなレイヤ属性と優先度との関係は、レイヤデーモンの管理者と各レイヤデータの作成者との合意に基づいて予め決められているが、これに限らず、ヘッドマウントディスプレイ10のユーザが任意に設定できるようにしてもよい。また、レイヤ属性と優先度との関係は随時更新が可能とし、その更新結果がサーバ装置20からヘッドマウントディスプレイ10に通知されて記憶部12に記憶されるようにしてもよい。
仮想オブジェクトの優先度は、仮想オブジェクトの表示によって表現される空間において、ユーザの視点の位置と各々の仮想オブジェクトの位置との間の距離に応じた優先度である。具体的には、ユーザの視点の位置と仮想オブジェクトの位置との間の距離が小さいほど、その仮想オブジェクトについての優先度が大きい。前述したように、各々の仮想オブジェクトに対応するポリゴンデータには、3次元空間におけるその仮想オブジェクトの位置を示す3次元座標が記述されている。ユーザの視点の位置を例えば上記空間の原点とした場合、ユーザの視点の位置と仮想オブジェクトの位置との間の距離は所定の計算式により求められるから、表示制御部14は、その距離に応じた優先度を特定する。具体的には、ユーザの視点の位置と仮想オブジェクトの位置との間の距離が小さいほど、その仮想オブジェクトについての優先度が大きいものとする。
表示制御部14は、上記のようにして各レイヤ及び各仮想オブジェクトについて特定した優先度に基づいて、各々の仮想オブジェクトについて、以下の式を用いることで、最終的な優先度Pを算出する。
仮想オブジェクトの最終的な優先度P=a×その仮想オブジェクトが属するレイヤについて特定した優先度+b×その仮想オブジェクトについて特定した優先度+c
ここで、a,b,cは予め決められた係数乃至定数である。仮想オブジェクトの最終的な優先度Pの値が大きいほど、その仮想オブジェクトの優先度は高いことになる。
ここで、a,b,cは予め決められた係数乃至定数である。仮想オブジェクトの最終的な優先度Pの値が大きいほど、その仮想オブジェクトの優先度は高いことになる。
表示制御部14は、このようにして算出した仮想オブジェクトの最終的な優先度Pが小さいものから順番にカリングの対象とすることで、表示に関する負荷が許容値以下となるようにする。
[動作]
図8~12を参照して、本実施形態の動作説明を行う。図8において、AR表示が開始されると、取得部21は、各レイヤに属する仮想オブジェクトを表示するためのデータをサーバ装置20から取得する(ステップS11)。記憶部12は、取得部11により取得されたデータを記憶する。
図8~12を参照して、本実施形態の動作説明を行う。図8において、AR表示が開始されると、取得部21は、各レイヤに属する仮想オブジェクトを表示するためのデータをサーバ装置20から取得する(ステップS11)。記憶部12は、取得部11により取得されたデータを記憶する。
次に、負荷算出部13は、表示制御部14が上記データに応じた表示を行うための処理の負荷を算出する(ステップS12)。
次に、表示制御部14は、算出された負荷と、記憶部12に予め記憶されている許容値とを比較し、負荷が許容値を超えるか否かを判断する(ステップS13)。負荷が許容値以下であれば(ステップS13;NO)、表示制御部14は、各々のレイヤについて取得されたデータに応じた仮想オブジェクトを現実の3次元空間に重畳して表示装置1007に表示する通常表示処理を行う(ステップS14)。なお、AR表示においては、ヘッドマウントディスプレイ10が撮像した現実の3次元空間の画像に対して仮想オブジェクトを重畳して表示するという方法もあるし、また、ユーザが透明の表示装置1007を介して現実の3次元空間を観察するような場合にはその透明の表示装置1007に仮想オブジェクトを表示することで、仮想オブジェクトを現実の3次元空間に重畳するという方法もある。本発明をARに適用する場合には、どちらの方法を用いてもよい。
一方、負荷が許容値を超えた場合は(ステップS13;YES)、表示制御部14は、各レイヤ及び各仮想オブジェクトについての優先度に基づいて、各々の仮想オブジェクトの最終的な優先度を特定する(ステップS15)。これにより、負荷が許容値以下となるような表示を行うための対象となる仮想オブジェクトが特定されることになる。
そして、表示制御部14は、特定した仮想オブジェクトを表示しないか、又は、その仮想オブジェクトを表示するためのデータを削減して表示するカリング表示を行う(ステップS16)。以上の処理が、各レイヤに属する仮想オブジェクトを表示する処理の開始又は終了のタイミングで繰り返し実行される。
ここで、図9は、現実の3次元空間を例示する図である。AR表示が、ヘッドマウントディスプレイ10が撮像した現実の3次元空間の画像に対して仮想オブジェクトを重畳して表示する方法で実現される場合には、図9に例示するような画像がヘッドマウントディスプレイ10の表示装置1007に表示されることになる。
図10は、或るレイヤに属する仮想オブジェクトを例示する図であり、図11は、別レイヤに属する仮想オブジェクトを例示する図である。ここで、図10に対応するレイヤの優先度は、図11に対応するレイヤの優先度よりも低いものと仮定する。また、図10において、仮想オブジェクトP1は、仮想オブジェクトP2よりもユーザの視点に近い位置にある仮想オブジェクトであると仮定する。つまり、仮想オブジェクトP2の優先度は、仮想オブジェクトP1の優先度よりも低い。この場合、各仮想オブジェクトの最終的な優先度に関しては、仮想オブジェクトP3が最も高く、仮想オブジェクトP2が最も低いことになる。
図12は現実の3次元空間と仮想オブジェクトとが重畳された様子を例示する図である。このとき、上述したように最終的な優先度が最も低い仮想オブジェクトP2のポリゴン数は、本来のポリゴンデータで規定されているポリゴン数よりも少ないことになる。
なお、仮想オブジェクトP2がカリングにより表示されないようになった場合であってもなお、負荷が許容値を超えている場合は、最終的な優先度が次に低い仮想オブジェクトP1がカリングの対象となる。つまり、負荷が許容値以下になるまで、カリングの対象となる仮想オブジェクトが増加することになる。
以上説明した実施形態によれば、複数のレイヤにそれぞれ属する仮想オブジェクトを重畳して表示する場合の表示の遅延を抑制することが可能となる。
[変形例]
本発明は、上述した実施形態に限定されない。上述した実施形態を以下のように変形してもよい。また、以下の2つ以上の変形例を組み合わせて実施してもよい。
[変形例1]
上述した実施形態では、表示制御部14は、表示を行うための処理の負荷が許容値を超える場合に、各々のレイヤについての表示の優先度に加えて、各々の仮想オブジェクトについての表示の優先度を用いて、その負荷がその許容値以下となるような表示を行っていた。優先度の用い方は、この例に限らない。例えば、表示制御部14は表示を行うための処理の負荷が許容値を超える場合、少なくとも各々のレイヤについての表示の優先度を用いて、その負荷が当該許容値以下となるような表示を行うようにすればよい。つまり、レイヤごとの優先度のみを用いて、各レイヤに属する仮想オブジェクトを表示するようにしてもよい。
本発明は、上述した実施形態に限定されない。上述した実施形態を以下のように変形してもよい。また、以下の2つ以上の変形例を組み合わせて実施してもよい。
[変形例1]
上述した実施形態では、表示制御部14は、表示を行うための処理の負荷が許容値を超える場合に、各々のレイヤについての表示の優先度に加えて、各々の仮想オブジェクトについての表示の優先度を用いて、その負荷がその許容値以下となるような表示を行っていた。優先度の用い方は、この例に限らない。例えば、表示制御部14は表示を行うための処理の負荷が許容値を超える場合、少なくとも各々のレイヤについての表示の優先度を用いて、その負荷が当該許容値以下となるような表示を行うようにすればよい。つまり、レイヤごとの優先度のみを用いて、各レイヤに属する仮想オブジェクトを表示するようにしてもよい。
[変形例2]
レイヤ及び仮想オブジェクトの優先度を特定する方法として上記実施形態に開示した例は、あくまで例示であり、これに限定されない。例えば各レイヤの優先度は、ユーザが各レイヤに対応するプログラムを起動した順序に基づいたものであってもよいし、ユーザが各レイヤに対応するプログラムを実行した期間に基づいたものであってもよい。つまり、ユーザにとって重要度が高いと想定されるレイヤの優先度を高くするような方法であってもよい。
レイヤ及び仮想オブジェクトの優先度を特定する方法として上記実施形態に開示した例は、あくまで例示であり、これに限定されない。例えば各レイヤの優先度は、ユーザが各レイヤに対応するプログラムを起動した順序に基づいたものであってもよいし、ユーザが各レイヤに対応するプログラムを実行した期間に基づいたものであってもよい。つまり、ユーザにとって重要度が高いと想定されるレイヤの優先度を高くするような方法であってもよい。
[変形例3]
本発明をプログラムとしても提供してもよい。つまり、本発明は、コンピュータを、各レイヤに属する1以上の仮想オブジェクトを表示するためのデータを、複数のレイヤについて取得する取得部と、各々の前記レイヤについて取得された前記データに応じた前記仮想オブジェクトを表示面に表示する表示制御部であって、表示を行うための処理の負荷が許容値を超えるときは、少なくとも各々のレイヤについての表示の優先度を用いて、当該負荷が当該許容値以下となるような表示を行う表示制御部として機能させるためのプログラムであってもよい。また、本発明を表示制御方法としても提供してもよい。
本発明をプログラムとしても提供してもよい。つまり、本発明は、コンピュータを、各レイヤに属する1以上の仮想オブジェクトを表示するためのデータを、複数のレイヤについて取得する取得部と、各々の前記レイヤについて取得された前記データに応じた前記仮想オブジェクトを表示面に表示する表示制御部であって、表示を行うための処理の負荷が許容値を超えるときは、少なくとも各々のレイヤについての表示の優先度を用いて、当該負荷が当該許容値以下となるような表示を行う表示制御部として機能させるためのプログラムであってもよい。また、本発明を表示制御方法としても提供してもよい。
[そのほかの変形例]
上記実施の形態の説明に用いたブロック図は、機能単位のブロックを示している。これらの機能ブロック(構成部)は、ハードウェア及び/又はソフトウェアの任意の組み合わせによって実現される。また、各機能ブロックの実現手段は特に限定されない。すなわち、各機能ブロックは、物理的及び/又は論理的に結合した1つの装置により実現されてもよいし、物理的及び/又は論理的に分離した2つ以上の装置を直接的及び/又は間接的に(例えば、有線及び/又は無線)で接続し、これら複数の装置により実現されてもよい。例えば、ヘッドマウントディスプレイ10の機能の少なくとも一部が、サーバ装置20等の外部のコンピュータに実装されてもよい。
上記実施の形態の説明に用いたブロック図は、機能単位のブロックを示している。これらの機能ブロック(構成部)は、ハードウェア及び/又はソフトウェアの任意の組み合わせによって実現される。また、各機能ブロックの実現手段は特に限定されない。すなわち、各機能ブロックは、物理的及び/又は論理的に結合した1つの装置により実現されてもよいし、物理的及び/又は論理的に分離した2つ以上の装置を直接的及び/又は間接的に(例えば、有線及び/又は無線)で接続し、これら複数の装置により実現されてもよい。例えば、ヘッドマウントディスプレイ10の機能の少なくとも一部が、サーバ装置20等の外部のコンピュータに実装されてもよい。
本明細書で説明した各態様/実施形態は、LTE(Long Term Evolution)、LTE-A(LTE-Advanced)、SUPER 3G、IMT-Advanced、4G、5G、FRA(Future Radio Access)、W-CDMA(登録商標)、GSM(登録商標)、CDMA2000、UMB(Ultra Mobile Broadband)、IEEE 802.11(Wi-Fi)、IEEE 802.16(WiMAX)、IEEE 802.20、UWB(Ultra-WideBand)、Bluetooth(登録商標)、その他の適切なシステムを利用するシステム及び/又はこれらに基づいて拡張された次世代システムに適用されてもよい。
本明細書で説明した各態様/実施形態の処理手順、シーケンス、フローチャートなどは、矛盾の無い限り、順序を入れ替えてもよい。例えば、本明細書で説明した方法については、例示的な順序で様々なステップの要素を提示しており、提示した特定の順序に限定されない。
本明細書で説明した各態様/実施形態は単独で用いてもよいし、組み合わせて用いてもよいし、実行に伴って切り替えて用いてもよい。また、所定の情報の通知(例えば、「Xであること」の通知)は、明示的に行うものに限られず、暗黙的(例えば、その所定の情報の通知を行わない)ことによって行われてもよい。
本明細書で説明した各態様/実施形態は単独で用いてもよいし、組み合わせて用いてもよいし、実行に伴って切り替えて用いてもよい。また、所定の情報の通知(例えば、「Xであること」の通知)は、明示的に行うものに限られず、暗黙的(例えば、その所定の情報の通知を行わない)ことによって行われてもよい。
本明細書で使用する「システム」及び「ネットワーク」という用語は、互換的に使用される。
本明細書で説明した情報又はパラメータなどは、絶対値で表されてもよいし、所定の値からの相対値で表されてもよいし、対応する別の情報で表されてもよい。例えば、無線リソースはインデックスで指示されるものであってもよい。
上述したパラメータに使用する名称はいかなる点においても限定的なものではない。さらに、これらのパラメータを使用する数式等は、本明細書で明示的に開示したものと異なる場合もある。様々なチャネル(例えば、PUCCH、PDCCHなど)及び情報要素(例えば、TPCなど)は、あらゆる好適な名称によって識別できるので、これらの様々なチャネル及び情報要素に割り当てている様々な名称は、いかなる点においても限定的なものではない。
本明細書で使用する「判定(determining)」、「決定(determining)」という用語は、多種多様な動作を包含する場合がある。「判定」、「決定」は、例えば、判定(judging)、計算(calculating)、算出(computing)、処理(processing)、導出(deriving)、調査(investigating)、探索(looking up)(例えば、テーブル、データベース又は別のデータ構造での探索)、確認(ascertaining) した事を「判定」「決定」したとみなす事などを含み得る。また、「判定」、「決定」は、受信(receiving) (例えば、情報を受信すること)、送信(transmitting)(例えば、情報を送信すること)、入力(input)、出力(output)、アクセス(accessing)(例えば、メモリ中のデータにアクセスすること)した事を「判定」「決定」したとみなす事などを含み得る。また、「判定」、「決定」は、解決(resolving)、選択(selecting)、選定(choosing)、確立(establishing)、比較(comparing)などした事を「判定」「決定」したとみなす事を含み得る。つまり、「判定」「決定」は、何らかの動作を「判定」「決定」したとみなす事を含み得る。
本発明は、ヘッドマウントディスプレイ10において行われる処理のステップを備える情報処理方法として提供されてもよい。また、本発明は、ヘッドマウントディスプレイ10において実行されるプログラムとして提供されてもよい。かかるプログラムは、光ディスク等の記録媒体に記録した形態で提供されたり、インターネット等のネットワークを介して、コンピュータにダウンロードさせ、これをインストールして利用可能にするなどの形態で提供されたりすることが可能である。
ソフトウェア、命令などは、伝送媒体を介して送受信されてもよい。例えば、ソフトウェアが、同軸ケーブル、光ファイバケーブル、ツイストペア及びデジタル加入者回線(DSL)などの有線技術及び/又は赤外線、無線及びマイクロ波などの無線技術を使用してウェブサイト、サーバ、又は他のリモートソースから送信される場合、これらの有線技術及び/又は無線技術は、伝送媒体の定義内に含まれる。
本明細書で説明した情報、信号などは、様々な異なる技術のいずれかを使用して表されてもよい。例えば、上記の説明全体に渡って言及され得るデータ、命令、コマンド、情報、信号、ビット、シンボル、チップなどは、電圧、電流、電磁波、磁界若しくは磁性粒子、光場若しくは光子、又はこれらの任意の組み合わせによって表されてもよい。
本明細書で説明した用語及び/又は本明細書の理解に必要な用語については、同一の又は類似する意味を有する用語と置き換えてもよい。例えば、チャネル及び/又はシンボルは信号(シグナル)であってもよい。また、信号はメッセージであってもよい。また、コンポーネントキャリア(CC)は、キャリア周波数、セルなどと呼ばれてもよい。
本明細書で使用する「第1」、「第2」などの呼称を使用した要素へのいかなる参照も、それらの要素の量又は順序を全般的に限定するものではない。これらの呼称は、2つ以上の要素間を区別する便利な方法として本明細書で使用され得る。したがって、第1及び第2要素への参照は、2つの要素のみがそこで採用され得ること、又は何らかの形で第1要素が第2要素に先行しなければならないことを意味しない。
上記の各装置の構成における「手段」を、「部」、「回路」、「デバイス」等に置き換えてもよい。
「含む(including)」、「含んでいる(comprising)」、及びそれらの変形が、本明細書或いは特許請求の範囲で使用されている限り、これら用語は、用語「備える」と同様に、包括的であることが意図される。さらに、本明細書或いは特許請求の範囲において使用されている用語「又は(or)」は、排他的論理和ではないことが意図される。
本開示の全体において、例えば、英語でのa、an、及びtheのように、翻訳により冠詞が追加された場合、これらの冠詞は、文脈から明らかにそうではないことが示されていなければ、複数のものを含むものとする。
以上、本発明について詳細に説明したが、当業者にとっては、本発明が本明細書中に説明した実施形態に限定されるものではないということは明らかである。本発明は、特許請求の範囲の記載により定まる本発明の趣旨及び範囲を逸脱することなく修正及び変更態様として実施することができる。したがって、本明細書の記載は、例示説明を目的とするものであり、本発明に対して何ら制限的な意味を有するものではない。
1…仮想オブジェクト表示システム、2…ネットワーク、10…ヘッドマウントディスプレイ、11…取得部、12…記憶部、13…負荷算出部、14…表示制御部、1001…プロセッサ、1002…メモリ、1003…ストレージ、1004…通信装置、1005…入力装置、1006…出力装置、1007…表示装置、1008…撮像装置、20…サーバ装置、2001…プロセッサ、2002…メモリ、2003…ストレージ、2004…通信装置、LD…レイヤデーモン、L1,L2,L3…レイヤデータ、PD1,PD2…ポリゴンデータ、P1,P2,P3…仮想オブジェクト。
Claims (8)
- 各レイヤに属する1以上の仮想オブジェクトを表示するためのデータを、複数のレイヤについて取得する取得部と、
各々の前記レイヤについて取得された前記データに応じた前記仮想オブジェクトを表示面に表示する表示制御部であって、前記表示を行うための処理の負荷が許容値を超えるときは、少なくとも各々の前記レイヤについての表示の優先度を用いて、当該負荷が当該許容値以下となるような表示を行う表示制御部と
を備えることを特徴とする表示制御装置。 - 前記表示制御部は、前記表示を行うための処理の負荷が許容値を超えるとき、各々の前記レイヤについての表示の優先度に加えて、各々の前記仮想オブジェクトについての表示の優先度を用いて、当該負荷が当該許容値以下となるような表示を行う
ことを特徴とする請求項1記載の表示制御装置。 - 前記表示制御部は、
各々の前記レイヤ及び各々の前記仮想オブジェクトについての前記優先度を用いて、前記負荷が前記許容値以下となるような表示を行うための対象となる前記仮想オブジェクトを特定し、
特定した前記仮想オブジェクトを表示しないか、又は、当該仮想オブジェクトを表示するためのデータを削減して表示する
ことを特徴とする請求項2記載の表示制御装置。 - 各々の前記レイヤについての前記優先度は、レイヤ単位で予め付与された優先度である
ことを特徴とする請求項2記載の表示制御装置。 - 各々の前記仮想オブジェクトについての前記優先度は、前記仮想オブジェクトの表示によって表現される空間において、ユーザの視点の位置と、各々の前記仮想オブジェクトの位置との間の距離に応じた優先度である
ことを特徴とする請求項2記載の表示制御装置。 - ユーザの視点の位置と各々の前記仮想オブジェクトの位置との間の距離が小さいほど、各々の前記仮想オブジェクトについての前記優先度が大きい
ことを特徴とする請求項5記載の表示制御装置。 - 前記取得部によって取得される各々の前記レイヤに対応するデータは、それぞれ異なる主体によって作成され、且つ、レイヤ単位で独立して実行されるスクリプトを含むデータであり、
前記表示制御部は、各々の前記レイヤに対応するデータを管理するプログラムによって実現される
ことを特徴とする請求項1記載の表示制御装置。 - コンピュータを、
各レイヤに属する1以上の仮想オブジェクトを表示するためのデータを、複数のレイヤについて取得する取得部と、
各々の前記レイヤについて取得された前記データに応じた前記仮想オブジェクトを表示面に表示する表示制御部であって、表示を行うための処理の負荷が許容値を超えるときは、少なくとも各々のレイヤについての表示の優先度を用いて、当該負荷が当該許容値以下となるような表示を行う表示制御部と
して機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022179716A JP2024068987A (ja) | 2022-11-09 | 2022-11-09 | 表示制御装置及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022179716A JP2024068987A (ja) | 2022-11-09 | 2022-11-09 | 表示制御装置及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2024068987A true JP2024068987A (ja) | 2024-05-21 |
Family
ID=91093778
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022179716A Pending JP2024068987A (ja) | 2022-11-09 | 2022-11-09 | 表示制御装置及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2024068987A (ja) |
-
2022
- 2022-11-09 JP JP2022179716A patent/JP2024068987A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110544289B (zh) | 在中排序架构中利用帧间相干性 | |
KR101717915B1 (ko) | 동적 생성 그래픽 자원들에 대한 압축 기술들 | |
US20160004425A1 (en) | Method of displaying graphic user interface and electronic device implementing same | |
US20150242076A1 (en) | Method of editing one or more objects and apparatus for same | |
US11051042B2 (en) | Image processing device and method | |
CN109739611A (zh) | 列表视图绘制方法、装置、终端和存储介质 | |
US10032260B2 (en) | Inverse distortion rendering method based on a predicted number of surfaces in image data | |
CN114817630A (zh) | 卡片的显示方法、装置、电子设备、存储介质和程序产品 | |
CN113936089A (zh) | 界面渲染方法及装置、存储介质及电子设备 | |
KR20200028069A (ko) | 타일 영상의 영상 처리 방법 및 장치 | |
CN113411660A (zh) | 视频数据的处理方法、装置和电子设备 | |
US9959598B2 (en) | Method of processing image and electronic device thereof | |
JP2024068987A (ja) | 表示制御装置及びプログラム | |
US10430046B2 (en) | Electronic device and method for processing an input reflecting a user's intention | |
CN115576470A (zh) | 图像处理方法和装置、增强现实系统及介质 | |
CN115086745B (zh) | 一种直播视频处理方法、装置、设备及介质 | |
CN105727556A (zh) | 一种图像绘制的方法、相关设备及系统 | |
JP2024068986A (ja) | 表示制御装置 | |
CN115904069A (zh) | 输入模式确定方法、头戴式显示设备和计算机可读介质 | |
CN114741193A (zh) | 场景渲染方法、装置、计算机可读介质和电子设备 | |
CN113975797A (zh) | 云游戏互动方法、装置、存储介质及电子设备 | |
CN113342220A (zh) | 窗口渲染方法、头戴式显示套件和计算机可读介质 | |
CN112672182A (zh) | 直播界面展示方法、装置、电子设备和计算机可读介质 | |
US20140010302A1 (en) | Detection, location, and processing of static pixels | |
JP2021165812A (ja) | 制御装置及びプログラム |