JP5884816B2 - 透過型hmdを有する情報表示システム及び表示制御プログラム - Google Patents

透過型hmdを有する情報表示システム及び表示制御プログラム Download PDF

Info

Publication number
JP5884816B2
JP5884816B2 JP2013258978A JP2013258978A JP5884816B2 JP 5884816 B2 JP5884816 B2 JP 5884816B2 JP 2013258978 A JP2013258978 A JP 2013258978A JP 2013258978 A JP2013258978 A JP 2013258978A JP 5884816 B2 JP5884816 B2 JP 5884816B2
Authority
JP
Japan
Prior art keywords
virtual screen
drawing object
display
priority
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013258978A
Other languages
English (en)
Other versions
JP2015115034A (ja
Inventor
泰史 青山
泰史 青山
昌裕 小澤
昌裕 小澤
博司 野川
博司 野川
佐藤 邦和
邦和 佐藤
貴久 松永
貴久 松永
鉄蓮 李
鉄蓮 李
光晴 早坂
光晴 早坂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2013258978A priority Critical patent/JP5884816B2/ja
Priority to US14/566,616 priority patent/US20150170422A1/en
Publication of JP2015115034A publication Critical patent/JP2015115034A/ja
Application granted granted Critical
Publication of JP5884816B2 publication Critical patent/JP5884816B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/005General purpose rendering architectures
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Optics & Photonics (AREA)
  • Navigation (AREA)
  • Processing Or Creating Images (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、情報表示システム及び制御プログラムに関し、特に、透過型HMDを有する情報表示システム及び透過型HMDの表示を制御する表示制御プログラムに関する。
近年、センサ等のデバイスの小型化が進むにつれ、スマートグラスなどと呼ばれるウェアラブルな透過型HMD(Head Mounted Display)の開発が活発化している。一般に、透過型HMDを用いた情報表示システムでは、装着者(ユーザ)の外景を見通す先に透過型の仮想スクリーンを投影表示することで、装着者(ユーザ)は外景を見ながら情報を確認することができる。すなわち、透過型HMDは、周囲環境である外景に情報を重ねて表示(重畳表示)できることが特徴の一つである。
また、透過型HMDには、仮想スクリーンを投影表示する表示装置の他に、GPS(Global Positioning System)センサやジャイロセンサ、加速度センサなど、現実の空間におけるユーザの視点位置や視線向き(水平/垂直方向の方位や姿勢)が検出可能なセンサが搭載されている場合がある。これらのセンサの検出情報(座標、方位角、仰角/俯角、姿勢角)を用いることにより、仮想スクリーン上に文字や図形、画像などの描画情報(描画オブジェクトと呼ぶ。)を投影表示する際に、描画オブジェクトの描画位置(回転角度を含む。)の調整をリアルタイムで行うことができる。
描画オブジェクトの描画位置を調整する技術に関して、例えば、下記特許文献1には、観察者の頭部の、重力方向に対する傾き角を検出し、カメラ画像の、重力方向に対する傾きを、前記検出された傾き角の向きとは逆向きに、かつ、実質的に同じ角度で補正する画像傾き補正を行い、その画像傾き補正が行われたカメラ画像をモニタ画像としてモニタ装置の画面上に表示する技術が開示されている。
特開2012−160898号公報
透過型HMDに投影表示する描画オブジェクトは大別して2種類ある。その一つは、外景に重畳表示することによって意味を持つオブジェクト(例えば、ナビゲーション情報など)であり、この描画オブジェクトは外景に対する仮想スクリーンの位置関係(位置及び/又は角度)が変化した場合に外景に合わせて仮想スクリーン上の描画位置を調整することが好ましい。他の一つは、外景との関係性がない(低い)オブジェクト(例えば、テレビ電話や動画などの映像情報、地図などの画像情報)であり、この描画オブジェクトは外景に対する仮想スクリーンの位置関係に関わらず、仮想スクリーンに合わせて描画位置を調整することが好ましい。
ここで、仮想スクリーン上に、外景との関係性がない(低い)オブジェクトと外景に重畳表示することによって意味を持つオブジェクトとが表示されており、上記の従来の技術を利用して外景との関係性がない(低い)オブジェクトの描画位置を変更した場合、仮想スクリーン上の描画オブジェクト同士が干渉してしまう場合があり、重なり(干渉)が生じると情報に欠損が生じ、ユーザに適切に情報を提示することができなくなってしまうという問題があった。
本発明は、上記問題点に鑑みてなされたものであって、その主たる目的は、描画オブジェクト同士の干渉に起因する情報の欠損を効果的に抑制することができる透過型HMDを有する情報表示システム及び表示制御プログラムを提供することにある。
本発明の一側面は、仮想スクリーン上に、外景に重畳させて描画オブジェクトを表示するための表示/投影部と、外景に対する前記仮想スクリーンの位置及び/又は角度を特定する情報を検出する検出部と、を備える透過型ヘッドマウントディスプレイを有する情報表示システムであって、前記透過型ヘッドマウントディスプレイを制御する制御部は、アプリケーションで作成したデータに基づいて描画オブジェクトを生成し、前記検出部が検出した情報を参照して、前記描画オブジェクトの前記仮想スクリーン上の描画位置を設定する描画オブジェクト生成部と、前記表示/投影部を制御して、前記描画オブジェクトを前記仮想スクリーン上の前記描画位置に描画する描画処理部と、を備え、前記描画オブジェクト生成部は、前記描画オブジェクトを、前記外景に対する前記仮想スクリーンの位置及び/又は角度が変化した場合に、前記外景に対する位置関係が維持されるように前記仮想スクリーン上の描画位置を変化させる第1オブジェクトと、前記外景に対する前記仮想スクリーンの位置及び/又は角度が変化した場合でも、前記仮想スクリーン上の描画位置を変化させない第2オブジェクトと、に分類し、前記第1オブジェクトの描画優先度を前記第2オブジェクトの描画優先度よりも高く設定し、前記描画処理部は、前記描画優先度が異なる複数の描画オブジェクトの前記描画位置が重なる場合、前記描画優先度がより高い描画オブジェクトを優先して描画することを特徴とする。
本発明の一側面は、仮想スクリーン上に、外景に重畳させて描画オブジェクトを表示するための表示/投影部と、外景に対する前記仮想スクリーンの位置及び/又は角度を特定する情報を検出する検出部と、を備える透過型ヘッドマウントディスプレイを有する情報表示システムで動作する表示制御プログラムであって、前記透過型ヘッドマウントディスプレイを制御する制御部に、アプリケーションで作成したデータに基づいて描画オブジェクトを生成し、前記検出部が検出した情報を参照して、前記描画オブジェクトの前記仮想スクリーン上の描画位置を設定する描画オブジェクト生成処理、前記表示/投影部を制御して、前記描画オブジェクトを前記仮想スクリーン上の前記描画位置に描画する描画処理、を実行させ、前記描画オブジェクト生成処理では、前記描画オブジェクトを、前記外景に対する前記仮想スクリーンの位置及び/又は角度が変化した場合に、前記外景に対する位置関係が維持されるように前記仮想スクリーン上の描画位置を変化させる第1オブジェクトと、前記外景に対する前記仮想スクリーンの位置及び/又は角度が変化した場合でも、前記仮想スクリーン上の描画位置を変化させない第2オブジェクトと、に分類し、前記第1オブジェクトの描画優先度を前記第2オブジェクトの描画優先度よりも高く設定し、前記描画処理では、前記描画優先度が異なる複数の描画オブジェクトの前記描画位置が重なる場合、前記描画優先度がより高い描画オブジェクトを優先して描画することを特徴とする。
本発明の透過型HMDを有する情報表示システム及び表示制御プログラムによれば、描画オブジェクト同士の干渉に起因する情報の欠損を効果的に抑制することができる。
その理由は、検出部が検出した情報に基づいて、描画オブジェクトの仮想スクリーン上の描画位置を設定すると共に、各描画オブジェクトが、ユーザの視点位置や視線向き(すなわち、外景に対する仮想スクリーンの位置関係)に応じて仮想スクリーン上の描画位置の調整が必要なオブジェクトであるかを判断し、その判断結果に応じて描画オブジェクトに描画優先度を設定し、描画オブジェクトを仮想スクリーン上の描画位置に描画する際に、描画優先度が異なる複数の描画オブジェクトの描画位置に重なりが生じる場合には、描画優先度に基づき、描画優先度がより高い描画オブジェクトの描画を優先し、当該オブジェクトの視認性が確保できるように、描画オブジェクトの表示形態を変える干渉回避処理を実施するからである。
本発明の一実施例に係る情報表示システムの構成を模式的に示す図である。 本発明の一実施例に係る情報表示システムの構成を示すブロック図である。 視線の向きの変更により描画オブジェクトが重なる場合の例を示す図である。 視線の傾きの変更により描画オブジェクトが重なる場合の例を示す図である。 本発明の一実施例に係る情報表示システムの処理の概要を模式的に示す図である。 本発明の一実施例に係る情報表示システムの処理(描画オブジェクト生成処理)を示すフローチャート図である。 本発明の一実施例に係る情報表示システムの処理(描画処理)を示すフローチャート図である。 本発明の一実施例に係る情報表示システムの処理(描画処理の他の例)を示すフローチャート図である。 本発明の一実施例に係る仮想スクリーンの表示制御方法の一例を説明する図である。 本発明の一実施例に係る仮想スクリーンの表示制御方法の他の例を説明する図である。 本発明の一実施例に係る仮想スクリーンの表示制御方法のバリエーション(描画優先度が低い描画オブジェクトの縮小、変形の例)を示す図である。 本発明の一実施例に係る仮想スクリーンの表示制御方法のバリエーション(描画優先度が低い描画オブジェクトの分割、部分消去の例)を示す図である。 本発明の一実施例に係る仮想スクリーンの表示制御方法のバリエーション(描画オブジェクトの透明度(輝度又は濃度)を調整する例)を示す図である。 本発明の一実施例に係る仮想スクリーンの表示制御方法のバリエーション(描画優先度が高い描画オブジェクトの表示を強調する例)を示す図である。
背景技術で示したように、ウェアラブルな透過型HMDでは、仮想スクリーン上に情報(描画オブジェクト)を表示し、外景に重ねて表示(重畳表示)することによって、装着者(ユーザ)は外景を見ながら各種情報を確認することができる。しかしながら、仮想スクリーン上に表示される描画オブジェクトには、外景に重畳表示することによって意味を持つオブジェクトと外景との関係性がない(低い)オブジェクトとがあり、双方の描画オブジェクトが混在している場合に、ユーザの視点位置や視線向き(外景に対する仮想スクリーンの位置関係)に応じて一方の描画オブジェクトの描画位置を変化させると、描画オブジェクト同士が重なり合って情報に欠損が生じる場合がある。
具体的には、外景に重畳表示することによって意味を持つオブジェクトは、外景に対する仮想スクリーンの位置関係が変化した場合に、仮想スクリーンの変化とは逆の方向に描画オブジェクトを変化させる(すなわち、外景に対する位置関係を維持するように変化させる)必要がある。一方、外景との関係性がない(低い)オブジェクトは、外景に対する仮想スクリーンの位置関係の変化に関わらず、仮想スクリーンの変化に合わせて描画オブジェクトを変化させる(すなわち、仮想スクリーンに対する位置関係を維持するように変化させる)必要がある。そのため、双方の描画オブジェクトが混在する場合に一方の描画オブジェクトの描画位置を変化させると、仮想スクリーン上の描画オブジェクト同士が重なってしまい、重なり部分で一方又は双方の描画オブジェクトの情報に欠損が生じる。
そこで、本発明の一実施の形態では、GPSセンサやジャイロセンサ、加速度センサなどの検出部が検出した位置情報や角度情報に基づいて、描画オブジェクトの仮想スクリーン上の描画位置を設定すると共に、各描画オブジェクトが、ユーザの視点位置や視線向き(外景に対する仮想スクリーンの位置関係)に応じて仮想スクリーン上の描画位置の調整が必要なオブジェクトであるかを判断し、その判断結果に応じて描画オブジェクトに描画優先度を設定する。そして、設定された描画位置に基づいて描画オブジェクトを仮想スクリーン上に描画する際に、描画優先度が異なる複数の描画オブジェクトの描画位置に重なりが生じるかを判断し、重なりが生じる場合には、描画優先度に基づき、描画優先度がより高い描画オブジェクトの描画を優先し、当該オブジェクトの視認性が確保できるように、描画オブジェクトの表示形態を変える干渉回避処理を実施する。例えば、描画優先度がより低い描画オブジェクトの描画位置を移動させたり、縮小/変形/分割したり、重なり部分を消去したり、透明度を上げたり(輝度や濃度を下げたり)する。また、描画優先度がより高い描画オブジェクトの透明度を下げたり(輝度や濃度を上げたり)、拡大や点滅によって表示を強調したりする。これにより、情報の欠損を効果的に抑制することができ、ユーザに適切な情報を提示することができる。
上記した本発明の実施の形態についてさらに詳細に説明すべく、本発明の一実施例に係る透過型HMDを有する情報表示システム及び表示制御プログラムについて、図1乃至図14を参照して説明する。図1は、本実施例の情報表示システムの構成を模式的に示す図であり、図2は、情報表示システムの構成を示すブロック図である。また、図3及び図4は、描画オブジェクトが重なる場合の問題を説明する図であり、図5は、本実施例の情報表示システムの処理の概要を模式的に示す図である。また、図6乃至図8は、本実施例の情報表示システムの処理を示すフローチャート図であり、図9乃至図14は、仮想スクリーンの表示制御方法の例を示す図である。
本実施例の情報表示システムは、透過型HMD10を有するシステムであり、種々な構成が考えられる。代表的な構成は、図1(a)に示すように、透過型HMD10が単独で動作する構成、若しくは、図1(b)に示すように、透過型HMD10が透過型HMD10本体10aと制御部11とに分かれており、これらが有線又は無線で接続された構成である。また、透過型HMD10の仮想スクリーン上に表示する描画オブジェクトを他の装置で生成/編集/利用する場合は、図1(c)に示すように、透過型HMD10と、通信端末20と、描画オブジェクトの生成/編集を行うコンピュータ装置30や、描画オブジェクトの印刷/FAX送信などを行う画像形成装置40とがネットワークで接続された構成とすることができる。更に、ネットワーク上にサーバ50を配置し、インターネット60を介して外部のネットワーク上のコンピュータ装置70などと接続された構成とすることもできる。
なお、ネットワークの種類は任意であり、図1(c)の構成における通信端末20、コンピュータ装置30、画像形成装置40、サーバ50は、イーサネット(登録商標)、FDDI(Fiber-Distributed Data Interface)やトークンリング等の規格で定められるLAN(Local Area Network)などで接続することができる。また、透過型HMD10側のネットワークと外部のネットワークとは、インターネット回線、あるいは公衆FAX回線などを利用して接続することができる。また、透過型HDM10は、例えばLTE(Long Term Evolution)/3Gといった移動体通信回線、あるいはWiMAXといった無線通信回線を通じてネットワークに接続する構成としてもよい。また、図1(b)の構成における透過型HMD10本体10aと制御部11との通信、若しくは、図1(c)の構成における透過型HDM10と通信端末20との通信は、Bluetooth(登録商標)やNFC(Near Field Communication)、TransferJet、Wibree、IrDA等の規格で定められる近距離無線通信を利用することもできる。
以下、本実施例の情報表示システムの特徴部分である透過型HMD10について詳細に説明する。なお、本実施例では図1(a)の構成(透過型HMD10が単独で動作する構成)を前提にして説明するが、描画オブジェクトは、外部の制御部11(図1(b)の構成の場合)やコンピュータ装置30、70、サーバ50(図1(c)の構成の場合)から取得する構成としてもよい。
本実施例の情報表示システムは、ユーザが装着する部材(例えば、眼鏡やサングラス、ゴーグル、帽子など)と一体となったものであり、図2(a)に示すように、制御部11と、記憶部15と、通信I/F部16と、表示/投影部17と、検出部18などで構成される。
制御部11は、CPU(Central Processing Unit)12と、ROM(Read Only Memory)13やRAM(Random Access Memory)14などのメモリとで構成され、透過型HMD10の筐体(眼鏡やサングラス、ゴーグルのツル(テンプル)など)の内外に固定又は配置される。CPU12は、透過型HMD10の動作を制御する制御プログラム(必要に応じて描画オブジェクトの元となるデータを作成するアプリケーション)などをROM13又は記憶部15から読み出し、RAM14に展開して実行する。上記制御部は、図2(b)に示すように、描画オブジェクト生成部11a、描画処理部11bなどとしても機能する。
描画オブジェクト生成部11aは、アプリケーションを用いて作成したデータに基づいて描画オブジェクトを生成する。そして、描画オブジェクトが、仮想スクリーン上の描画位置の計算に際して、ユーザの視点位置や視線向き(すなわち、外景に対する仮想スクリーンの位置及び/又は角度(位置関係))に応じて仮想スクリーン上の描画位置の調整が必要なオブジェクトであるかを判断し、その判断結果に応じて描画優先度を設定し、描画オブジェクトのデータに描画優先度の情報を付加してメモリに記憶する。なお、本明細書において、視線向きとは、水平方向の向き(方位)と垂直方向の向きと姿勢(傾き)を含む概念である。また、仮想スクリーン上の描画位置とは、仮想スクリーンの上下左右の位置と仮想スクリーンの基準線に対する角度とを含む概念である。
上記仮想スクリーン上の描画位置の調整が必要な描画オブジェクトであるか否かは、例えば、その描画オブジェクトがどのようなアプリケーションによって作成されたデータに基づいて生成された描画オブジェクトであるかなどに応じて判断することができ、アプリケーションの種類に応じて、描画優先度を設定することができる。
具体的には、道案内などのナビゲーションを行うアプリケーションや、場所や建物などに関連する情報を提供するアプリケーションで作成されたデータに基づく描画オブジェクトは、外景に関連付けて描画する必要があるため、視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が必要なオブジェクトであると判断し、描画優先度を”高”に設定する。また、TV電話やテレビ放送、動画再生などを行うアプリケーションで作成されたデータに基づく描画オブジェクトは、外景との関連性がない(又は低い)ため、視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が不要なオブジェクトであると判断し、描画優先度を”低”に設定する。また、地図を提供するアプリケーションや、定点カメラの映像などを提供するアプリケーションで作成されたデータに基づく描画オブジェクトは外景との関連性はあるが、視点位置や視線向きに応じて逐一表示を変化させる必要はないため、視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が不要なオブジェクトであると判断し、描画優先度を”低”(若しくは”中”)に設定する。
なお、描画優先度は、後述する検出部18の内のどのセンサ(若しくは何種類のセンサ)で検出した情報を利用するかに応じて設定することもできる。例えば、ナビゲーション情報のようにGPSセンサとジャイロセンサと必要に応じて加速度センサが検出した情報を利用する場合は、描画優先度を”高”に設定し、地図情報のようにGPSセンサが検出した情報のみを利用する場合は、描画優先度を”中”に設定し、TV電話情報のようにセンサが検出した情報を利用する必要がない場合は、描画優先度を”低”に設定することができる。
また、描画オブジェクト生成部11aは、後述する検出部18が検出した信号(GPSセンサが検出した位置情報、ジャイロセンサや加速度センサが検出した方位角、仰角/俯角、姿勢角などの角度情報)に基づいて、視点位置や視線向きの情報を取得する。そして、描画オブジェクト生成部11aは、描画オブジェクトが視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が必要な描画オブジェクトの場合は、取得した視点位置や視線向きの情報に基づいて、描画オブジェクトの仮想スクリーン上の描画位置を設定し、設定した描画位置の情報を描画処理部11bに通知する。
具体的には、実空間を仮想スクリーンに投影した座標を(x、y、z)とし、視点位置や視線向き(水平/垂直方向の向き)が変化する前の仮想スクリーンの特定位置(例えば左上)に投影した座標が(x1,y1,z1)、視点位置や視線向きが変化した後の仮想スクリーンの同じ特定位置に投影した座標が(x2,y2,z2)であったとすると、仮想スクリーン上で描画オブジェクトを(x1−x2,y1−y2,z1−z2)だけ移動(すなわち、外景の同じ位置に重なるように移動)させる。また、視線向き(姿勢)が変化する前の仮想スクリーンの角度を基準にして、仮想スクリーンをθだけ回転させた場合は、仮想スクリーン上で描画オブジェクトを−θだけ回転(すなわち、外景に対する傾きが変わらないように回転)させる。
なお、描画オブジェクトが、視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が不要な描画オブジェクトの場合は、仮想スクリーンに対する描画位置は変わらない。
描画処理部11bは、メモリから描画オブジェクトのデータ及び描画位置の情報を取得し、表示/投影部17を制御して、仮想スクリーン上の描画位置に描画オブジェクトを表示させる。その際、描画処理部11bは、視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が必要な描画オブジェクト(第1オブジェクトと呼ぶ。)の描画位置と、視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が不要な描画オブジェクト(第2オブジェクトと呼ぶ。)の描画位置と、に重なりが生じるかを判断し、重なりが生じる場合は、第1オブジェクトの視認性を確保できるように、第2オブジェクト(若しくは第1オブジェクト)の表示形態を変化させる。
具体的には、第2オブジェクトを、第1オブジェクトと重ならない位置に移動させたり、第1オブジェクトと重ならないように縮小/変形/分割したり、第1オブジェクトと重なる部分の表示を消去したり、透明度を上げたり(輝度や濃度を下げたり)する。また、第1オブジェクトの透明度を下げたり(輝度や濃度を上げたり)、拡大して強調したり、点滅させて強調したりする。
なお、上記描画オブジェクト生成部11a及び描画処理部11bは、ハードウェアとして構成してもよいし、制御部11を描画オブジェクト生成部11a及び描画処理部11bとして機能させる表示制御プログラムとして構成し、当該表示制御プログラムをCPU12に実行させる構成としてもよい。また、図1(c)の構成の場合は、表示制御プログラムを、コンピュータ装置30、70やサーバ50などで動作させる構成としてもよい。
記憶部15は、フラッシュメモリ、SSD(Solid State Drive)、SD(Secure Digital)カードなどであり、透過型HMD10の筐体(眼鏡やサングラス、ゴーグルのツル(テンプル)など)の内外に固定又は配置され、アプリケーションで作成したデータ、仮想スクリーンに表示する描画オブジェクトのデータ、仮想スクリーンの表示領域を特定するための設定情報、各描画オブジェクトが視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が必要な描画オブジェクトであるか否かを判別するためのテーブルなどを記憶する。
通信I/F部16は、NIC(Network Interface Card)やモデムなどであり、透過型HMD10の筐体(眼鏡やサングラス、ゴーグルのツル(テンプル)など)の内外に固定又は配置され、上述した無線LAN通信や移動体通信、近距離無線通信などによって、外部の機器との通信を行う。なお、透過型HMD10が外部の機器と通信する必要がない場合(例えば、SDカードで外部の機器とデータのやりとりを行う場合)は、通信I/F部16を省略することができる。また、透過型HMD10が透過型HMD本体10aと制御部11とに分かれている場合は、双方に通信I/F部16を設け、双方の通信I/F部16を介して、制御部11が透過型HMD本体10aを制御するようにしてもよい。
表示/投影部17は、制御部11から受け取った描画オブジェクトのデータに基づいて描画オブジェクトの像を仮想スクリーン上に表示するための表示装置若しくは投影装置である。オブジェクトの表示方法として、表示部自体が透過性を有し、その表示部に描画オブジェクトを表示させるディスプレイ方式と、透過性を有する部材に情報を投影させる投影方式とがある。ディスプレイ方式の場合は、眼鏡やサングラス、ゴーグルのレンズやガラスの表面に透過型の液晶表示装置などを配置し、その液晶表示装置を透過型HMD10の筐体に固定又は配置した駆動回路で駆動して描画オブジェクトを表示することによって仮想スクリーン上に描画オブジェクトの像を表示する。また、投影方式の場合は、眼鏡やサングラス、ゴーグルのヨロイ(智)などに投影装置を配置し、レンズやガラスなどに描画オブジェクトを投影することによって仮想スクリーン上に描画オブジェクトの像を表示する。
検出部18は、視点位置や視線向きを検出するセンサ(例えば、GPSセンサ18a、ジャイロセンサ18b、加速度センサ18cなど)であり、透過型HMD10の筐体(眼鏡やサングラス、ゴーグルのツル(テンプル)など)の内外に固定又は配置される。GPSセンサ18aは、GPS衛星から取得したGPS情報に基づいて、透過型HMD10の実空間の座標を検出する。ジャイロセンサ18bは、透過型HMD10の基準方向からの角度変化(角速度)を検出する。加速度センサ18cは、透過型HMD10の加速度を検出する共に、重力加速度に基づいて透過型HMD10の姿勢を検出する。
なお、図2は、本実施例の透過型HMD10の一例であり、視点位置や視線向きに基づいて、仮想スクリーン上の描画オブジェクトの描画位置を修正可能な限りにおいて、その構成や表示制御方法は適宜変更可能である。例えば、図2は、透過型HMD10を装着したユーザが顔を動かして視点位置や視線向きを変える場合の構成を示しているが、透過型HMD10自体は動かさずにユーザが眼を動かして視点位置や視線向きを変えることも可能であり、その場合は、ユーザの眼の瞳の位置を撮像するカメラを設け、瞳の位置からユーザの視点位置や視線向きを特定することもできる。
以下、仮想スクリーン上に表示される描画オブジェクトについて、図面を参照して具体的に説明する。
図3(a)は、透過型HMD10を装着したユーザの視界情報を模式的に表した図である。外景に重畳して表示される枠が、透過型HMD10の仮想スクリーン80の表示領域である。この仮想スクリーン80上には、例えば、描画オブジェクトとして、ナビゲーション情報81(ここでは案内方向を示す矢印)、地図情報82、TV電話情報83(ここでは通話相手の画像)が表示される。上記描画オブジェクトの内、ナビゲーション情報81が視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が必要な描画オブジェクト(第1オブジェクト)であり、地図情報82及びTV電話情報83が視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が不要な描画オブジェクト(第2オブジェクト)である。
図3(b)は、図3(a)の状態からユーザが顔を横に振って視線の向き(すなわち、透過型HMD10の向き)を左に動かした場合を示している。この時、地図情報82及びTV電話情報83は視点位置や視線向きに応じて仮想スクリーン80上の描画位置の調整が不要な描画オブジェクトであるため、その描画位置は仮想スクリーン80の枠と共に左に移動する(すなわち、仮想スクリーン80上の描画位置は変化しない)。一方、ナビゲーション情報81は視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が必要な描画オブジェクトであり外景の同じ位置に重畳させる必要があるため、その描画位置は仮想スクリーン80の枠が移動しても移動しない(すなわち、仮想スクリーン80上の描画位置は右に移動する)。
また、図4(b)は、図4(a)の状態からユーザが顔を傾けて透過型HMD10を時計回り方向に回転させた場合を示している。この時、上記と同様に、地図情報82及びTV電話情報83は視点位置や視線向きに応じて仮想スクリーン80上の描画位置の調整が不要な描画オブジェクトであるため、仮想スクリーン80の枠と共に時計回りに回転する(すなわち、仮想スクリーン80上の描画位置は変化しない)。一方、ナビゲーション情報81は視点位置や視線向きに応じて仮想スクリーン80上の描画位置の調整が必要な描画オブジェクトであり外景に対して同じ方向を指し示す必要があるため、仮想スクリーン80の枠が回転してもナビゲーション情報81は回転しない(すなわち、仮想スクリーン80に対して反時計回りに回転する)。
このように、地図情報82及びTV電話情報83は仮想スクリーン80に対する描画位置は変わらず、ナビゲーション情報81は仮想スクリーン80に対する描画位置が変化するため、双方の描画オブジェクト(図3ではナビゲーション情報81とTV電話情報83、図4ではナビゲーション情報81と地図情報82)に重なり(図の楕円の実線で囲んだ領域参照)が生じて描画情報が欠損してしまう可能性があり、描画オブジェクトの視認性が悪化してしまう。
そこで、本実施例では、双方の描画オブジェクトの干渉(重なり)による重要な描画情報の欠損を防ぐために以下の処理を実施する。
具体的には、図5に示すように、仮想スクリーン80に表示する描画オブジェクトを生成する描画オブジェクト生成処理において、アプリケーションで作成したデータを取得して描画オブジェクトを生成し(図の(1)参照)、生成した描画オブジェクトが視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が必要なオブジェクトであるかを判断し、判断結果に応じた描画優先度情報を描画オブジェクトのデータに付加してメモリに記憶する(図の(2)参照)。そして、描画処理において、メモリから描画優先度情報が付加された描画オブジェクトを取得し(図の(3)参照)、ある描画オブジェクトの描画位置が、描画優先度がより高い他の描画オブジェクトと重なってしまう場合には、干渉回避処理を実施した上で、描画オブジェクトを仮想スクリーン80上に描画することにより(図の(4)参照)、描画オブジェクト同士の干渉による情報の欠損を防止する。
以下、情報表示システム(透過型HMD10)の具体的な処理について説明する。CPU12は、ROM13又は記憶部15に記憶した表示制御プログラムを読み出し、RAM14に展開して実行することにより、図7乃至図9のフローチャート図に示す各ステップの処理を実行する。なお、以下のフローにおいて、各描画オブジェクトが視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が必要な描画オブジェクトであるか否かを判別するためのテーブルは予め作成され、記憶部15等に記憶されているものとする。
[描画オブジェクト生成処理]
まず、制御部11(描画オブジェクト生成部11a)は、アプリケーションによって生成されたデータに基づいて、仮想スクリーンに表示/投影する描画オブジェクトを生成する(S101)。
次に、制御部11(描画オブジェクト生成部11a)は、生成した描画オブジェクトの仮想スクリーン上の描画位置の計算に当たって、予め記憶したテーブルを参照して、当該描画オブジェクトが、ユーザの視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が必要な描画オブジェクトであるかを判断する(S102)。
ユーザの視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が必要な描画オブジェクトの場合は、当該描画オブジェクトの描画優先度を”高”を設定し、その描画優先度情報を描画オブジェクトのデータに付加してメモリに記憶し(S103)、検出部18(GPSセンサ18a、ジャイロセンサ18b、加速度センサ18c)から視点位置や視線向きの情報を取得する(S104)。なお、本フローでは、視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が必要な描画オブジェクトに対してのみ描画優先度を設定したが、仮想スクリーン上の描画位置の調整が不要な描画オブジェクトに対しては描画優先度を”低”に設定してもよい。また、描画優先度は”高”と”低”の2段階に限らず、”高”、”中”、”低”などの3段階以上に設定してもよい。
その後、制御部11(描画オブジェクト生成部11a)は、描画オブジェクトの仮想スクリーン上の描画位置を設定する(S105)。例えば、視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が必要な描画オブジェクトの場合は、外景の所定位置(ナビゲーションのアプリケーションで作成したデータに基づく描画オブジェクトの場合は、案内する交差点など)に重なる仮想スクリーン上の位置を設定する。また、視点位置や視線向きに応じて仮想スクリーン上の描画位置の調整が不要な描画オブジェクトの場合は、仮想スクリーン上の特定位置(例えば、地図のアプリケーションで作成したデータに基づく描画オブジェクトは左下、TV電話のアプリケーションで作成したデータに基づく描画オブジェクトは右上など)を設定する。
そして、制御部11(描画オブジェクト生成部11a)は、描画するオブジェクトを全て生成するまで、上記のS101〜S105の処理を繰り返し実行する。
[描画処理]
制御部11(描画処理部11b)は、メモリに記憶された描画オブジェクトのデータに付加された描画優先度情報に基づいて、上記フローで生成された描画オブジェクトの中に、描画優先度が”高”の描画オブジェクトが存在するかを判断する(S201)。
描画する描画オブジェクトの中に描画優先度が”高”の描画オブジェクトが存在する場合は(S201のYes)、制御部11(描画処理部11b)は、描画優先度が”高”の描画オブジェクトのデータをメモリから取り出し、表示/投影部17を制御して、上記フローのS105で設定された仮想スクリーン上の描画位置に、その描画オブジェクトを描画する(S202)。
描画する描画オブジェクトの中に描画優先度が”高”の描画オブジェクトが存在しない場合は(S201のNo)、制御部11(描画処理部11b)は、描画優先度が”高”以外の描画オブジェクトのデータをメモリから取り出し、その描画オブジェクトの描画領域に、より描画優先度が高い描画オブジェクトが存在するか(すなわち、描画優先度が”高”の描画オブジェクトが既に描画されているか)を判断する(S203)。より描画優先度が高い描画オブジェクトが存在する場合は、描画オブジェクトの重なりによって生じる情報の欠損を回避するための干渉回避処理(詳細は後述する)を実行する(S204)。一方、より描画優先度が高い描画オブジェクトが存在しない場合は、制御部11(描画処理部11b)は、上記フローのS105で設定された仮想スクリーン上の描画位置に、その描画オブジェクトを描画する(S205)。
そして、制御部11(描画処理部11b)は、描画オブジェクトを全て描画するまで、上記のS201〜S205の処理を繰り返し実行する。
なお、上記フローは、描画優先度が高い描画オブジェクトを先に描画する場合の例であるが、描画オブジェクトを順に描画することもできる。この場合は、図8に示すように、描画オブジェクトのデータをメモリから順に取り出し、その描画オブジェクトの描画位置に描画済みの他の描画オブジェクトが存在するかを判断し(S301)、他の描画オブジェクトが存在する場合は、他の描画オブジェクトの方が描画優先度が低いかを判断する(S302)。上記他の描画オブジェクトの方が描画優先度が低い場合は(S302のNo)、描画済みの他の描画オブジェクトに対して干渉回避処理を実施し(S303)、他の描画オブジェクトの方が描画優先度が高い場合(必要に応じて双方の描画オブジェクトの描画優先度が等しい場合)は、描画する描画オブジェクトに対して干渉回避処理を実施する(S304)。その後、仮想スクリーン上の描画位置に、その描画オブジェクトを描画し(S305)、描画オブジェクトを全て描画するまで、S301〜S305の処理を繰り返し行う。
次に、上記の「干渉回避処理」について、図面を参照して具体的に説明する。図9(a)は、ユーザの視線向き(水平方向の向き)が変化することによってナビゲーション情報81とTV電話情報83とが干渉した場合(図3(b)の状態)の例であり、この場合、描画処理部11bは、図9(b)に示すように描画優先度が高いナビゲーション情報81の描画を優先し、描画優先度が低いTV電話情報83を、ナビゲーション情報81と干渉しない位置(ここでは仮想スクリーンの右上から左上)に移動させる制御を行う。また、図10(a)は、ユーザの視線向き(姿勢)が変化することによってナビゲーション情報81と地図情報82とが干渉した場合(図4(b)の状態)の例であり、この場合、描画処理部11bは、図10(b)に示すように描画優先度が高いナビゲーション情報81の描画を優先し、描画優先度が低い地図情報82を、ナビゲーション情報81と干渉しない位置(ここでは仮想スクリーンの左下から左上)に移動させる制御を行う。
このように、描画優先度のより高い描画オブジェクトの描画を優先し、描画優先度のより低い描画オブジェクトの描画位置を干渉が生じない位置に移動させるといった干渉回避処理を実施することにより、描画優先度のより高い描画オブジェクトの視認性を確保することができ、重要な情報の欠損を効果的に防止することができる。
なお、図9及び図10では、干渉回避処理として、描画優先度が低い描画オブジェクトを干渉が生じない位置に移動させる場合を示したが、干渉回避処理は、描画オブジェクトの重なりによって生じる、情報の欠損を回避可能な処理であればよい。
例えば、図11(a)に示すように、描画優先度が異なる複数の描画オブジェクトの描画位置に重なりが生じた場合、図11(b)に示すように、描画優先度がより低い方の描画オブジェクト(ここでは地図情報82)を縮小したり、図11(c)に示すように、描画優先度がより低い方の描画オブジェクトを変形したりして、優先度がより高い方の描画オブジェクト(ここではナビゲーション情報81)の情報が欠損しないようにしてもよい。
同様に、図12(a)に示すように、描画優先度が異なる複数の描画オブジェクトの描画位置に重なりが生じた場合、図12(b)に示すように、描画優先度がより低い方の描画オブジェクトを分割したり、図12(c)に示すように、描画優先度がより低い方の描画オブジェクトの重なり部分の表示を消去したりして、優先度がより高い方の描画オブジェクトの情報が欠損しないようにしてもよい。
また、図13(a)に示すように、描画優先度が異なる複数の描画オブジェクトの描画位置に重なりが生じた場合、図13(b)に示すように、描画優先度がより高い方の描画オブジェクトの透明度を下げる(すなわち、輝度や濃度を上げる)ようにしたり、図13(c)に示すように、描画優先度がより低い方の描画オブジェクトの透明度を上げる(すなわち、輝度や濃度を下げる)ようにしたりして、優先度がより高い方の描画オブジェクトの視認性を向上させるようにしてもよい。なお、図では、ハッチングの密度で透明度を表現している。
また、図14(a)に示すように、描画優先度が異なる複数の描画オブジェクトの描画位置に重なりが生じた場合、図14(b)に示すように、描画優先度がより高い方の描画オブジェクトを拡大して強調したり、図14(c)に示すように、描画優先度がより高い方の描画オブジェクトを点滅させて強調したりして、描画優先度がより高い方の描画オブジェクトの視認性を向上させるようにしてもよい。
なお、本発明は上記実施例に限定されるものではなく、本発明の趣旨を逸脱しない限りにおいて、透過型HMD10の構成や表示制御方法は適宜変更可能である。
例えば、上記実施例では、描画優先度がより低い方の描画オブジェクト、又は、描画優先度がより高い方の描画オブジェクトの一方に対して干渉回避処理を行う場合を例示したが、双方の描画オブジェクトに対して干渉回避処理を行うようにしてもよい。
また、上記実施例では、干渉回避処理として、描画優先度がより低い方の描画オブジェクトに対して、縮小、変形、分割、部分消去、透明度を上げる等の処理を例示し、描画優先度がより高い方の描画オブジェクトに対して、拡大、点滅、透明度を下げる等の処理を例示したが、干渉回避処理は、描画優先度が異なる複数の描画オブジェクトの内の一方の描画オブジェクトの視認性を確保可能な任意の処理であればよく、上記の処理を任意に組み合わせることもできる。
また、表示/投影部17を用いて、眼鏡やサングラス、ゴーグルのレンズやガラスなどにオブジェクトを表示する際に、左右2つのレンズやガラスにオブジェクトを表示してもよいし、一方のレンズやガラスのみにオブジェクトを表示してもよい。
また、上記実施例では、眼鏡やサングラス、ゴーグル、帽子などと一体となったウェアラブルな透過型HMD10について説明したが、機器に固定される装置(透過型HUDなど)に対しても、本発明の表示制御方法を同様に適用することができる。
本発明は、透過型HMDを有する情報表示システム及び透過型HMDにおけるオブジェクトの表示を制御する表示制御プログラム並びに当該表示制御プログラムを記録した記録媒体に利用可能である。
10 透過型HMD
11 制御部
11a 描画オブジェクト生成部
11b 描画処理部
12 CPU
13 ROM
14 RAM
15 記憶部
16 通信I/F部
17 表示/投影部
18 検出部
18a GPSセンサ
18b ジャイロセンサ
18c 加速度センサ
20 通信端末
30 コンピュータ装置
40 画像形成装置
50 サーバ
60 インターネット
70 コンピュータ装置

Claims (12)

  1. 仮想スクリーン上に、外景に重畳させて描画オブジェクトを表示するための表示/投影部と、外景に対する前記仮想スクリーンの位置及び/又は角度を特定する情報を検出する検出部と、を備える透過型ヘッドマウントディスプレイを有する情報表示システムであって、
    前記透過型ヘッドマウントディスプレイを制御する制御部は、
    アプリケーションで作成したデータに基づいて描画オブジェクトを生成し、前記検出部が検出した情報を参照して、前記描画オブジェクトの前記仮想スクリーン上の描画位置を設定する描画オブジェクト生成部と、
    前記表示/投影部を制御して、前記描画オブジェクトを前記仮想スクリーン上の前記描画位置に描画する描画処理部と、を備え、
    前記描画オブジェクト生成部は、前記描画オブジェクトを、前記外景に対する前記仮想スクリーンの位置及び/又は角度が変化した場合に、前記外景に対する位置関係が維持されるように前記仮想スクリーン上の描画位置を変化させる第1オブジェクトと、前記外景に対する前記仮想スクリーンの位置及び/又は角度が変化した場合でも、前記仮想スクリーン上の描画位置を変化させない第2オブジェクトと、に分類し、前記第1オブジェクトの描画優先度を前記第2オブジェクトの描画優先度よりも高く設定し、
    前記描画処理部は、前記描画優先度が異なる複数の描画オブジェクトの前記描画位置が重なる場合、前記描画優先度がより高い描画オブジェクトを優先して描画する、
    ことを特徴とする情報表示システム。
  2. 仮想スクリーン上に、外景に重畳させて描画オブジェクトを表示するための表示/投影部と、外景に対する前記仮想スクリーンの位置及び/又は角度を特定する情報を検出する検出部と、を備える透過型ヘッドマウントディスプレイを有する情報表示システムであって、
    前記透過型ヘッドマウントディスプレイを制御する制御部は、
    アプリケーションで作成したデータに基づいて描画オブジェクトを生成し、前記検出部が検出した情報を参照して、前記描画オブジェクトの前記仮想スクリーン上の描画位置を設定する描画オブジェクト生成部と、
    前記表示/投影部を制御して、前記描画オブジェクトを前記仮想スクリーン上の前記描画位置に描画する描画処理部と、を備え、
    前記描画オブジェクト生成部は、前記アプリケーションの種別に基づいて、前記描画オブジェクトの描画優先度を設定し、
    前記描画処理部は、前記描画優先度が異なる複数の描画オブジェクトの前記描画位置が重なる場合、前記描画優先度がより高い描画オブジェクトを優先して描画する、
    ことを特徴とする情報表示システム。
  3. 仮想スクリーン上に、外景に重畳させて描画オブジェクトを表示するための表示/投影部と、外景に対する前記仮想スクリーンの位置及び/又は角度を特定する情報を検出する検出部と、を備える透過型ヘッドマウントディスプレイを有する情報表示システムであって、
    前記検出部は、異なる情報を検出する複数種類のセンサを有し、
    前記透過型ヘッドマウントディスプレイを制御する制御部は、
    アプリケーションで作成したデータに基づいて描画オブジェクトを生成し、前記検出部が検出した情報を参照して、前記描画オブジェクトの前記仮想スクリーン上の描画位置を設定する描画オブジェクト生成部と、
    前記表示/投影部を制御して、前記描画オブジェクトを前記仮想スクリーン上の前記描画位置に描画する描画処理部と、を備え、
    前記描画オブジェクト生成部は、前記描画オブジェクトの生成に際して、参照する前記情報の種類が多いほど、描画優先度を高く設定し、
    前記描画処理部は、前記描画優先度が異なる複数の描画オブジェクトの前記描画位置が重なる場合、前記描画優先度がより高い描画オブジェクトを優先して描画する、
    ことを特徴とする情報表示システム。
  4. 前記検出部は、GPS(Global Positioning System)センサ、ジャイロセンサ、加速度センサの1以上を含む、
    ことを特徴とする請求項1乃至3のいずれか一に記載の情報表示システム。
  5. 前記描画処理部は、前記描画位置が重なる複数の描画オブジェクトの内、前記描画優先度がより低い描画オブジェクトに対して、前記描画優先度がより高い描画オブジェクトと重ならない位置に移動させる処理、前記描画優先度がより高い描画オブジェクトと重ならないように縮小、変形又は分割する処理、前記描画優先度がより高い描画オブジェクトと重なる部分の表示を消去する処理、透明度を上げる処理の中から選択される1以上の処理を行う、
    ことを特徴とする請求項1乃至4のいずれか一に記載の情報表示システム。
  6. 前記描画処理部は、前記描画位置が重なる複数の描画オブジェクトの内、前記描画優先度がより高い描画オブジェクトに対して、拡大する処理、点滅させる処理、透明度を下げる処理の中から選択される1以上の処理を行う、
    ことを特徴とする請求項1乃至5のいずれか一に記載の情報表示システム。
  7. 仮想スクリーン上に、外景に重畳させて描画オブジェクトを表示するための表示/投影部と、外景に対する前記仮想スクリーンの位置及び/又は角度を特定する情報を検出する検出部と、を備える透過型ヘッドマウントディスプレイを有する情報表示システムで動作する表示制御プログラムであって、
    前記透過型ヘッドマウントディスプレイを制御する制御部に、
    アプリケーションで作成したデータに基づいて描画オブジェクトを生成し、前記検出部が検出した情報を参照して、前記描画オブジェクトの前記仮想スクリーン上の描画位置を設定する描画オブジェクト生成処理、
    前記表示/投影部を制御して、前記描画オブジェクトを前記仮想スクリーン上の前記描画位置に描画する描画処理、を実行させ、
    前記描画オブジェクト生成処理では、前記描画オブジェクトを、前記外景に対する前記仮想スクリーンの位置及び/又は角度が変化した場合に、前記外景に対する位置関係が維持されるように前記仮想スクリーン上の描画位置を変化させる第1オブジェクトと、前記外景に対する前記仮想スクリーンの位置及び/又は角度が変化した場合でも、前記仮想スクリーン上の描画位置を変化させない第2オブジェクトと、に分類し、前記第1オブジェクトの描画優先度を前記第2オブジェクトの描画優先度よりも高く設定し、
    前記描画処理では、前記描画優先度が異なる複数の描画オブジェクトの前記描画位置が重なる場合、前記描画優先度がより高い描画オブジェクトを優先して描画する、
    ことを特徴とする表示制御プログラム。
  8. 仮想スクリーン上に、外景に重畳させて描画オブジェクトを表示するための表示/投影部と、外景に対する前記仮想スクリーンの位置及び/又は角度を特定する情報を検出する検出部と、を備える透過型ヘッドマウントディスプレイを有する情報表示システムで動作する表示制御プログラムであって、
    前記透過型ヘッドマウントディスプレイを制御する制御部に、
    アプリケーションで作成したデータに基づいて描画オブジェクトを生成し、前記検出部が検出した情報を参照して、前記描画オブジェクトの前記仮想スクリーン上の描画位置を設定する描画オブジェクト生成処理、
    前記表示/投影部を制御して、前記描画オブジェクトを前記仮想スクリーン上の前記描画位置に描画する描画処理、を実行させ、
    前記描画オブジェクト生成処理では、前記アプリケーションの種別に基づいて、前記描画オブジェクトの描画優先度を設定し、
    前記描画処理では、前記描画優先度が異なる複数の描画オブジェクトの前記描画位置が重なる場合、前記描画優先度がより高い描画オブジェクトを優先して描画する、
    ことを特徴とする表示制御プログラム。
  9. 仮想スクリーン上に、外景に重畳させて描画オブジェクトを表示するための表示/投影部と、外景に対する前記仮想スクリーンの位置及び/又は角度を特定する情報を検出する検出部と、を備える透過型ヘッドマウントディスプレイを有する情報表示システムで動作する表示制御プログラムであって、
    前記検出部は、異なる情報を検出する複数種類のセンサを有し、
    前記透過型ヘッドマウントディスプレイを制御する制御部に、
    アプリケーションで作成したデータに基づいて描画オブジェクトを生成し、前記検出部が検出した情報を参照して、前記描画オブジェクトの前記仮想スクリーン上の描画位置を設定する描画オブジェクト生成処理、
    前記表示/投影部を制御して、前記描画オブジェクトを前記仮想スクリーン上の前記描画位置に描画する描画処理、を実行させ、
    前記描画オブジェクト生成処理では、前記描画オブジェクトの生成に際して、参照する前記情報の種類が多いほど、描画優先度を高く設定し、
    前記描画処理では、前記描画優先度が異なる複数の描画オブジェクトの前記描画位置が重なる場合、前記描画優先度がより高い描画オブジェクトを優先して描画する、
    ことを特徴とする表示制御プログラム。
  10. 前記検出部は、GPSセンサ、ジャイロセンサ、加速度センサの1以上を含む、
    ことを特徴とする請求項7乃至9のいずれか一に記載の表示制御プログラム。
  11. 前記描画処理では、前記描画位置が重なる複数の描画オブジェクトの内、前記描画優先度がより低い描画オブジェクトに対して、前記描画優先度がより高い描画オブジェクトと重ならない位置に移動させる処理、前記描画優先度がより高い描画オブジェクトと重ならないように縮小、変形又は分割する処理、前記描画優先度がより高い描画オブジェクトと重なる部分の表示を消去する処理、透明度を上げる処理の中から選択される1以上の処理を行う、
    ことを特徴とする請求項7乃至10のいずれか一に記載の表示制御プログラム。
  12. 前記描画処理では、前記描画位置が重なる複数の描画オブジェクトの内、前記描画優先度がより高い描画オブジェクトに対して、拡大する処理、点滅させる処理、透明度を下げる処理の中から選択される1以上の処理を行う、
    ことを特徴とする請求項乃至11のいずれか一に記載表示制御プログラム。
JP2013258978A 2013-12-16 2013-12-16 透過型hmdを有する情報表示システム及び表示制御プログラム Active JP5884816B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013258978A JP5884816B2 (ja) 2013-12-16 2013-12-16 透過型hmdを有する情報表示システム及び表示制御プログラム
US14/566,616 US20150170422A1 (en) 2013-12-16 2014-12-10 Information Display System With See-Through HMD, Display Control Program and Display Control Method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013258978A JP5884816B2 (ja) 2013-12-16 2013-12-16 透過型hmdを有する情報表示システム及び表示制御プログラム

Publications (2)

Publication Number Publication Date
JP2015115034A JP2015115034A (ja) 2015-06-22
JP5884816B2 true JP5884816B2 (ja) 2016-03-15

Family

ID=53369127

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013258978A Active JP5884816B2 (ja) 2013-12-16 2013-12-16 透過型hmdを有する情報表示システム及び表示制御プログラム

Country Status (2)

Country Link
US (1) US20150170422A1 (ja)
JP (1) JP5884816B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11455028B2 (en) 2019-06-03 2022-09-27 Samsung Electronics Co., Ltd. Method for processing data and electronic device for supporting same

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6505556B2 (ja) * 2015-09-07 2019-04-24 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および画像生成方法
JP6346131B2 (ja) * 2015-09-07 2018-06-20 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および画像生成方法
KR102117376B1 (ko) * 2015-09-25 2020-06-01 주식회사 소니 인터랙티브 엔터테인먼트 정보 처리 장치
KR20170046415A (ko) * 2015-10-21 2017-05-02 엘지전자 주식회사 이동 단말기 및 그 제어방법
CN108351736B (zh) * 2015-11-02 2022-01-28 索尼公司 可穿戴显示器、图像显示装置和图像显示系统
US10482661B2 (en) * 2016-03-01 2019-11-19 International Business Machines Corporation Displaying of augmented reality objects
JP6348537B2 (ja) * 2016-05-27 2018-06-27 京セラ株式会社 携帯電子機器、携帯電子機器制御方法及び携帯電子機器制御プログラム
JP6232632B1 (ja) * 2016-08-09 2017-11-22 パロニム株式会社 動画再生プログラム、動画再生装置、動画再生方法、動画配信システム及びメタデータ作成方法
JP2019179080A (ja) * 2018-03-30 2019-10-17 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
JP7166711B2 (ja) * 2018-04-04 2022-11-08 アルパイン株式会社 表示システム
WO2019225354A1 (ja) * 2018-05-22 2019-11-28 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
JP7078568B2 (ja) 2019-03-19 2022-05-31 株式会社日立製作所 表示装置、表示制御方法、及び表示システム
KR20190109336A (ko) * 2019-09-05 2019-09-25 엘지전자 주식회사 운전자 시선에 기반한 길 안내 서비스 지원 장치 및 이를 이용한 자동차 내비게이션 시스템
JP2021043257A (ja) 2019-09-06 2021-03-18 富士ゼロックス株式会社 情報処理装置、及び情報処理プログラム
CN111432070B (zh) * 2020-03-17 2022-04-08 阿波罗智联(北京)科技有限公司 应用投屏控制方法、装置、设备和介质
CN112053449A (zh) * 2020-09-09 2020-12-08 脸萌有限公司 基于增强现实的显示方法、设备及存储介质
CN113407084B (zh) * 2021-06-24 2022-05-17 杭州灵伴科技有限公司 展示内容更新方法、头戴式显示设备和计算机可读介质

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02264997A (ja) * 1989-04-06 1990-10-29 Toshiba Corp 表示制御装置
WO2007052382A1 (ja) * 2005-11-02 2007-05-10 Matsushita Electric Industrial Co., Ltd. 表示オブジェクト透過装置
JP4695153B2 (ja) * 2008-02-08 2011-06-08 富士通エフ・アイ・ピー株式会社 ツールバー提供サーバ、ツールバー提供プログラム、ツールバー提供方法、ツールバー提供システム
JP5055402B2 (ja) * 2010-05-17 2012-10-24 株式会社エヌ・ティ・ティ・ドコモ オブジェクト表示装置、オブジェクト表示システム及びオブジェクト表示方法
JP5690135B2 (ja) * 2010-12-29 2015-03-25 任天堂株式会社 情報処理プログラム、情報処理システム、情報処理装置および情報処理方法
JP2012160898A (ja) * 2011-01-31 2012-08-23 Brother Ind Ltd 画像処理装置
JP2012164157A (ja) * 2011-02-07 2012-08-30 Toyota Motor Corp 画像合成装置
JP5675470B2 (ja) * 2011-04-01 2015-02-25 オリンパス株式会社 画像生成システム、プログラム及び情報記憶媒体
WO2013088557A1 (ja) * 2011-12-15 2013-06-20 パイオニア株式会社 表示装置及び表示方法
CN104053969B (zh) * 2012-01-12 2016-01-20 三菱电机株式会社 地图显示装置及地图显示方法
US9448404B2 (en) * 2012-11-13 2016-09-20 Qualcomm Incorporated Modifying virtual object display properties to increase power performance of augmented reality devices

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11455028B2 (en) 2019-06-03 2022-09-27 Samsung Electronics Co., Ltd. Method for processing data and electronic device for supporting same

Also Published As

Publication number Publication date
JP2015115034A (ja) 2015-06-22
US20150170422A1 (en) 2015-06-18

Similar Documents

Publication Publication Date Title
JP5884816B2 (ja) 透過型hmdを有する情報表示システム及び表示制御プログラム
JP6780642B2 (ja) 情報処理装置、情報処理方法及びプログラム
EP3011418B1 (en) Virtual object orientation and visualization
CN112218068B (zh) 头戴式显示器中的环境中断以及非视野不动产的利用
US10067559B2 (en) Graphical interface having adjustable borders
US20130246967A1 (en) Head-Tracked User Interaction with Graphical Interface
WO2014128810A1 (ja) ヘッドマウントディスプレイ及び画像表示装置
JP6899875B2 (ja) 情報処理装置、映像表示システム、情報処理装置の制御方法、及びプログラム
US20150199081A1 (en) Re-centering a user interface
CN107771310B (zh) 头戴式显示设备及其处理方法
JP6292478B2 (ja) 透過型hmdを有する情報表示システム及び表示制御プログラム
US20200413031A1 (en) System and method for generating a mixed reality experience
JP6228640B1 (ja) 表示制御方法および当該表示制御方法をコンピュータに実行させるためのプログラム
CN112655202B (zh) 用于头戴式显示器的鱼眼镜头的减小带宽立体失真校正
US20150185971A1 (en) Ring-Based User-Interface
US20230185099A1 (en) Small field of view display mitigation using transitional visuals
US11366318B2 (en) Electronic device and control method thereof
WO2023107806A1 (en) Eye image stabilized augmented reality displays
JP2017126009A (ja) 表示制御装置、表示制御方法、およびプログラム
US10885716B1 (en) Mixed reality system user interface placement
US20230396752A1 (en) Electronic Device that Displays Virtual Objects
JP2017026762A (ja) 表示制御装置、表示制御方法、及びプログラム
WO2020202747A1 (ja) 情報処理装置、情報処理方法、及び記録媒体
US20210266510A1 (en) Image processing apparatus, image processing method, and image processing program
CN118318219A (en) Augmented reality display with eye image stabilization

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150320

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151014

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151020

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160125

R150 Certificate of patent or registration of utility model

Ref document number: 5884816

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150