JP2015049498A - 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム、情報処理装置 - Google Patents

頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム、情報処理装置 Download PDF

Info

Publication number
JP2015049498A
JP2015049498A JP2013183631A JP2013183631A JP2015049498A JP 2015049498 A JP2015049498 A JP 2015049498A JP 2013183631 A JP2013183631 A JP 2013183631A JP 2013183631 A JP2013183631 A JP 2013183631A JP 2015049498 A JP2015049498 A JP 2015049498A
Authority
JP
Japan
Prior art keywords
image
head
mounted display
display device
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013183631A
Other languages
English (en)
Other versions
JP6229381B2 (ja
Inventor
小林 伸一
Shinichi Kobayashi
伸一 小林
高野 正秀
Masahide Takano
正秀 高野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2013183631A priority Critical patent/JP6229381B2/ja
Priority to US14/454,302 priority patent/US20150062164A1/en
Priority to CN201410442968.XA priority patent/CN104423583B/zh
Publication of JP2015049498A publication Critical patent/JP2015049498A/ja
Application granted granted Critical
Publication of JP6229381B2 publication Critical patent/JP6229381B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Liquid Crystal (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Abstract

【課題】頭部装着型表示装置の表示画像と、頭部装着型表示装置に接続されている外部装置の表示画像と、の両方を使用者に視認可能とする頭部装着型表示装置を提供する。【解決手段】使用者が虚像と外景を視認可能な頭部装着型表示装置は、頭部装着型表示装置に接続されている外部装置の表示画像である第1の画像と、頭部装着型表示装置が有する第2の画像と、を含む一覧画像を生成する生成部と、生成された一覧画像を表す虚像を形成する画像表示部と、を備える。【選択図】図5

Description

本発明は、頭部装着型表示装置に関する。
頭部に装着する表示装置である頭部装着型表示装置(ヘッドマウントディスプレイ(Head Mounted Display、HMD))が知られている。頭部装着型表示装置は、例えば、液晶ディスプレイと光源とを利用して画像を表す画像光を生成し、生成された画像光を投写光学系や導光板等を利用して使用者の眼に導くことにより、使用者に虚像を認識させる。このような頭部装着型表示装置は、例えばMicroUSB(Universal Serial Bus)等の有線インターフェイスによってスマートフォン等の外部装置と接続されて、MHL(Mobile High definition Link)等の規格に準拠して外部装置からの映像信号を受信する。同様に、頭部装着型表示装置は、例えば無線LAN等の無線インターフェイスによって外部装置と接続されて、Miracast等の規格に準拠して外部装置からの映像信号を受信する。頭部装着型表示装置は、このようにして受信した映像信号に基づいて、外部装置の表示画面に表示される画像(表示画像)と同じ虚像を頭部装着型表示装置の使用者に視認させることができる。
特許文献1には、携帯情報端末に搭載された所定の機能を、携帯情報端末の表示画面と、頭部装着型表示装置の表示画面との一方に表示させる際に、携帯情報端末の開閉状態に応じて表示先を決定する構成が記載されている。特許文献2には、頭部装着型表示装置に対して時間場所を問わない片手でのテキスト入力を可能とするために、各指の動作を検出する手段と、検出された動作を解析して文字コード等のコードを生成する手段とを備えるテキスト入力システムが記載されている。特許文献3には、頭部装着型表示装置に対して直感性と視認性に優れた入力手段を提供するための仮想マウスが記載されている。特許文献4には、複数の電子装置の間で、Wi−Fiインフラストラクチャモードの無線通信方式により電子データーを送受信する簡易操作型無線データー送受信システムが記載されている。
特開2013−92781号公報 特開2000−284886号公報 特開2000−29619号公報 特許第5037718号公報
特許文献1に記載された技術では、携帯情報端末に搭載された所定の機能のみが考慮されており、頭部装着型表示装置に搭載された機能の表示については考慮されていないという課題があった。また、特許文献2〜4に記載された技術では、頭部装着型表示装置において、他の装置の表示画像を表示させることについては考慮されていないという課題があった。
このため、頭部装着型表示装置の表示画像と、頭部装着型表示装置に接続されている外部装置の表示画像と、の両方を使用者に視認可能とする頭部装着型表示装置が望まれていた。そのほか、頭部装着型表示装置には、ユーザビリティーの向上、汎用性の向上、利便性の向上、信頼性の向上、製造コストの低減といった、種々の要望があった。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態として実現することが可能である。
(1)本発明の一形態によれば、使用者が虚像と外景を視認可能な頭部装着型表示装置が提供される。この頭部装着型表示装置は;前記頭部装着型表示装置に接続されている外部装置の表示画像である第1の画像と、前記頭部装着型表示装置が有する第2の画像と、を含む一覧画像を生成する生成部と;前記生成された一覧画像を表す前記虚像を形成する画像表示部と、を備える。この形態の頭部装着型表示装置によれば、画像表示部は、頭部装着型表示装置に接続されている外部装置の表示画像である第1の画像と、頭部装着型表示装置が有する画像である第2の画像とが含まれる一覧画像を表す虚像を形成し、使用者に視認させることができる。このため、頭部装着型表示装置の表示画像と外部装置の表示画像との両方を使用者に視認可能とする頭部装着型表示装置を提供することができる。
(2)上記形態の頭部装着型表示装置では、さらに;前記外部装置から前記第1の画像を取得する取得部を備え;前記生成部は、第1の領域に対して前記取得された第1の画像が配置され、前記第1の領域とは異なる第2の領域に対して前記第2の画像が配置された前記一覧画像を生成してもよい。この形態の頭部装着型表示装置によれば、生成部は、第1の領域に対して外部装置から取得された第1の画像を配置し、第2の領域に対して頭部装着型表示装置の第2の画像を配置することによって、簡便に、一覧画像を生成することができる。
(3)上記形態の頭部装着型表示装置において;前記生成部は、前記頭部装着型表示装置における現在の表示画像を前記第2の画像としてもよい。この形態の頭部装着型表示装置によれば、生成部は、頭部装着型表示装置の表示画像をそのまま第2の画像として使用して、一覧画像を生成することができる。このため、生成部における処理内容を簡潔にすることができる。
(4)上記形態の頭部装着型表示装置において;前記生成部は、前記頭部装着型表示装置が有するアイコン画像の配置を変更することで前記第2の画像を生成してもよい。この形態の頭部装着型表示装置によれば、生成部は、頭部装着型表示装置が有するアイコン画像の配置を変更することで、縦横比を自在に変化させた第2の画像を生成し、生成した第2の画像を用いて一覧画像を生成することができる。
(5)上記形態の頭部装着型表示装置において;前記生成部は、前記第2の画像を生成する際に、さらに、前記アイコン画像に対して、形状の変更と、透過率の変更と、色の変更と、大きさの変更と、装飾の付与と、のうちの少なくともいずれかを実施してもよい。この形態の頭部装着型表示装置によれば、生成部は、第2の画像を生成する際に、頭部装着型表示装置のアイコン画像に対して、形状の変更と、透過率の変更と、色の変更と、大きさの変更と、装飾の付与と、のうちの少なくともいずれかを実施する。この結果、使用者は、一覧画像において、頭部装着型表示装置のアイコン画像を識別しやすくなる。
(6)上記形態の頭部装着型表示装置において;前記生成部は、さらに、前記第1の画像と前記第2の画像とのうちの少なくとも一方の画像の大きさを変更し、前記変更後の前記画像を用いて前記一覧画像を生成してもよい。この形態の頭部装着型表示装置によれば、生成部は、第1の画像の大きさを第1の領域の大きさに合わせて変更することができる。また、生成部は、第2の画像の大きさを第2の領域の大きさに合わせて変更することができる。
(7)上記形態の頭部装着型表示装置において;前記生成部は、さらに、前記第1の画像と前記第2の画像とのうちの少なくとも一方の画像に対して、形状の変更と、透過率の変更と、色の変更と、大きさの変更と、装飾の付与と、のうちの少なくともいずれかを実施し、前記実施後の前記画像を用いて前記一覧画像を生成してもよい。この形態の頭部装着型表示装置によれば、生成部は、一覧画像を生成する際に、第1の画像と第2の画像との少なくとも一方に対して、形状の変更と、透過率の変更と、色の変更と、大きさの変更と、装飾の付与と、のうちの少なくともいずれかを実施することができる。この結果、使用者は、一覧画像において、第1の画像と、第2の画像とを相互に識別しやすくなる。
(8)上記形態の頭部装着型表示装置では、さらに;前記一覧画像に対する前記使用者の操作を取得する操作取得部と;前記取得された操作が、前記第1の画像に対する操作であった場合に、前記外部装置に対して前記操作を通知する通知部を備えてもよい。この形態の頭部装着型表示装置によれば、通知部は、一覧画像の第1の画像に対する使用者の操作を外部装置に対して通知する。このため、使用者は、頭部装着型表示装置の入力インターフェイスを介して外部装置を操作することができるため、頭部装着型表示装置におけるユーザビリティーを向上させることができる。
(9)上記形態の頭部装着型表示装置において;前記画像表示部は、前記一覧画像に対して、さらに、ポインター画像を重畳させた前記虚像を形成し;前記生成部は、前記第1の画像に重畳される前記ポインター画像と、前記第2の画像に重畳させる前記ポインター画像と、を異なる画像とさせてもよい。この形態の頭部装着型表示装置によれば、画像表示部は、第1の画像に重畳されるポインター画像と、第2の画像に重畳されるポインター画像とを、異なる画像(虚像)として使用者に視認させることができる。この結果、使用者は、一覧画像において自身が操作しているのが、第1の画像が表す外部装置であるか、第2の画像が表す頭部装着型表示装置であるかを識別しやすくなる。
(10)本発明の一形態によれば、画像表示システムが提供される。この画像表示システムは;使用者が虚像と外景を視認可能な頭部装着型表示装置と;前記頭部装着型表示装置に接続されている外部装置と、を備え;前記外部装置は;前記外部装置の表示画像である第1の画像を取得すると共に、前記取得された第1の画像を前記頭部装着型表示装置へ送信する送信部を備え;前記頭部装着型表示装置は;前記第1の画像と、前記頭部装着型表示装置が有する第2の画像と、を含む一覧画像を生成する生成部と;前記生成された一覧画像を表す前記虚像を形成する画像表示部と、を備える。
(11)本発明の一形態によれば、頭部装着型表示装置に接続され、前記頭部装着型表示装置に表示させるための画像を生成する情報処理装置が提供される。この情報処理装置は、前記頭部装着型表示装置に接続されている外部装置の表示画像である第1の画像と、前記頭部装着型表示装置が有する第2の画像と、を取得する取得部と;前記取得された第1の画像と、前記取得された第2の画像と、を含む一覧画像を生成する一覧画像生成部と;前記生成された一覧画像を前記頭部装着型表示装置へ送信する一覧画像送信部と、を備える。この形態の情報処理装置によれば、頭部装着型表示装置に接続されている情報処理装置を利用して上記形態と同様の効果を得ることができる。
上述した本発明の各形態の有する複数の構成要素は全てが必須のものではなく、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、適宜、前記複数の構成要素の一部の構成要素について、その変更、削除、新たな構成要素との差し替え、限定内容の一部削除を行うことが可能である。また、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、上述した本発明の一形態に含まれる技術的特徴の一部または全部を上述した本発明の他の形態に含まれる技術的特徴の一部または全部と組み合わせて、本発明の独立した一形態とすることも可能である。
例えば、本発明の一形態は、生成部と、画像表示部と、の2つの要素のうちの一部または全部の要素を備えた装置として実現可能である。すなわち、この装置は、生成部を有していてもよく、有していなくてもよい。また、この装置は、画像表示部を有していてもよく、有していなくてもよい。こうした装置は、例えば頭部装着型表示装置として実現できるが、頭部装着型表示装置以外の他の装置としても実現可能である。前述した頭部装着型表示装置の各形態の技術的特徴の一部または全部は、いずれもこの装置に適用することが可能である。
なお、本発明は、種々の態様で実現することが可能であり、例えば、頭部装着型表示装置、頭部装着型表示装置の制御方法、頭部装着型表示装置を用いた画像表示システム、これらの方法、装置またはシステムの機能を実現するためのコンピュータープログラム、そのコンピュータープログラムを記録した記録媒体等の形態で実現することができる。
本発明の一実施形態における画像表示システム1000の概略構成を示す説明図である。 ヘッドマウントディスプレイ100の構成を機能的に示すブロック図である。 領域情報記憶部122に記憶されている領域情報の一例を示す説明図である。 使用者に視認される虚像の一例を示す説明図である。 配置処理の手順を示すシーケンス図である。 ヘッドマウントディスプレイ100において一覧画像が表示されている様子を示す説明図である。 一覧画像におけるポインター画像の変化を説明するための説明図である。 通知処理の手順を示すシーケンス図である。 通知処理のステップS202について説明するための説明図である。 第2実施形態におけるヘッドマウントディスプレイ100aの構成を機能的に示すブロック図である。 フレーム情報124に記憶されているフレームの一例を示す説明図である。 第2実施形態における配置処理の手順を示すシーケンス図である。 ヘッドマウントディスプレイ100aにおいて一覧画像が表示されている様子を示す説明図である。 変形例におけるヘッドマウントディスプレイの外観の構成を示す説明図である。
A.第1実施形態:
A−1.画像表示システムの構成:
図1は、本発明の一実施形態における画像表示システム1000の概略構成を示す説明図である。画像表示システム1000は、頭部装着型表示装置100と、外部装置としての携帯情報端末300とを備えている。画像表示システム1000は、携帯情報端末300の表示画像と、頭部装着型表示装置100が有する画像と、を含む一覧画像を頭部装着型表示装置100に表示させるシステムである。ここで、「スマートフォン300の表示画像」とは、スマートフォン300の表示画面に表示されている画像を意味する。なお、スマートフォン300の表示画像には、表示画面に表示されるべき画像であるものの外部出力の結果として表示されない画像も含む。また、「頭部装着型表示装置100が有する画像」とは、頭部装着型表示装置100の表示画面に現在表示されている画像を意味する。なお、頭部装着型表示装置100の表示画像には、表示画面に表示されるべき画像であるものの外部出力の結果として表示されない画像も含む。
頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態のヘッドマウントディスプレイ100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。携帯情報端末300は、携帯可能な情報通信端末である。本実施形態では、携帯情報端末として、スマートフォン(smartphone)を例示する。ヘッドマウントディスプレイ100と、スマートフォン300とは、無線通信または有線通信可能に接続されている。
A−2.頭部装着型表示装置の構成:
図2は、ヘッドマウントディスプレイ100の構成を機能的に示すブロック図である。図1、2に示すように、ヘッドマウントディスプレイ100は、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御部(コントローラー)10とを備えている。画像表示部20と制御部10とは、接続部40によって接続され、接続部40を介して各種信号の伝送を行う。接続部40には、金属ケーブルや光ファイバーを採用することができる。
A−2−1.制御部の構成:
制御部10は、ヘッドマウントディスプレイ100を制御するための装置である。制御部10は、入力情報取得部110と、記憶部120と、電源130と、無線通信部132と、GPSモジュール134と、CPU140と、インターフェイス180と、送信部(Tx)51および52とを備え、各部は図示しないバスにより相互に接続されている(図2)。
入力情報取得部110は、例えば、タッチパッド、十字キー、フットスイッチ(使用者の足により操作するスイッチ)、ジェスチャー検出(カメラ等を用いて使用者のジェスチャーを検知し、ジェスチャーに対応付けられたコマンドによる操作入力を取得する)、視線検出(赤外線センサー等を用いて使用者の視線を検出し、視線の動きに対応付けられたコマンドによる操作入力を取得する)、マイクロホン等の入力デバイスに対する操作入力に応じた信号を取得する。なお、ジェスチャー検出の際は、使用者の指先や、使用者の手に付けられた指輪や、使用者が手に持つ道具等を動き検出のための目印にしてもよい。フットスイッチ、視線検出、マイクロホンによる操作入力を取得することとすれば、使用者が手を用いて操作することが困難な現場(例えば、医療現場、建設業や製造業などの手元作業を必要とする現場など)において、ヘッドマウントディスプレイ100が使用される場合の、使用者の利便性を大きく向上させることができる。
記憶部120は、ROM、RAM、DRAM、ハードディスク等によって構成されている。記憶部120は、領域情報記憶部122を含んでいる。領域情報記憶部122は、少なくとも1つの領域情報を記憶している。領域情報は、配置処理(図5)において生成される一覧画像の領域を規定する情報である。換言すれば、領域情報は、ヘッドマウントディスプレイ100が有する画像と、スマートフォン300の表示画像とを配置するための枠として使用される。
図3は、領域情報記憶部122に記憶されている領域情報の一例を示す説明図である。図3に示す領域情報AIは、長方形状の領域(以降、「領域AI」とも呼ぶ。)を有している。領域AIは、ヘッドマウントディスプレイ100の表示素子(図2:右LCD241、左LCD242)の縦横比と同じ縦横比を有することが好ましい。
領域AIは、第1の領域AR1と、第2の領域AR2との2つの領域を含んでいる。第1の領域AR1は、配置処理(図5)においてスマートフォン300の表示画像が配置される領域である。第2の領域AR2は、配置処理においてヘッドマウントディスプレイ100が有する画像が配置される領域である。図3の例では、第1の領域AR1は、領域AIを水平方向に等分した一方に配置され、第2の領域AR2は領域AIを水平方向に等分した他方に配置されている。すなわち、第1の領域AR1と、第2の領域AR2とは、同じ大きさの領域である。
なお、図3に示した第1の領域AR1と、第2の領域AR2との配置および大きさは一例であり、任意に定めることができる。例えば、第1の領域AR1と第2の領域AR2とは、領域AIを水平方向にn等分(nは3以上の整数)した大きさとしてもよい。この場合、領域情報AIを用いて生成された一覧画像がヘッドマウントディスプレイ100に表示された際、使用者の視界を妨げないという観点から、第1の領域AR1と第2の領域AR2とは、領域AIの端部(左右の端部)に配置されることが好ましい。また、第1の領域AR1と第2の領域AR2とは、領域AIを鉛直方向にm等分(mは2以上の整数)した大きさとしてもよい。ここで、mが3以上の場合、第1の領域AR1と第2の領域AR2とは、領域AIの端部(上下の端部)に配置されることが好ましい。また、第1の領域AR1と第2の領域AR2とは、異なる大きさとしてもよい。また、第1の領域AR1と、第2の領域AR2とは、領域の少なくとも一部が重なっていてもよい。
電源130は、ヘッドマウントディスプレイ100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。無線通信部132は、所定の無線通信規格(例えば、赤外線、Bluetooth(登録商標)に例示される近距離無線通信、IEEE802.11に例示される無線LAN等)に則って、外部装置との間で無線通信を行う。外部装置とは、ヘッドマウントディスプレイ100以外の他の機器を意味し、図1に示したスマートフォン300のほか、タブレット、パーソナルコンピューター、ゲーム端末、AV(Audio Video)端末、家電製品等がある。GPSモジュール134は、GPS衛星からの信号を受信することにより、ヘッドマウントディスプレイ100の使用者の現在位置を検出し、使用者の現在位置情報を表す現在位置情報を生成する。なお、現在位置情報は、例えば緯度経度を表す座標によって実現することができる。
CPU140は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、生成部142、通知部144、オペレーティングシステム(ОS)150、画像処理部160、音声処理部170、表示制御部190として機能する。
生成部142は、配置処理(図4)において、ヘッドマウントディスプレイ100が有する画像と、スマートフォン300の表示画像とを用いて一覧画像を生成する。通知部144は、通知処理(図8)において、一覧画像のうちの、スマートフォン300の表示画像に対する操作が行われた場合に、スマートフォン300に対して操作内容を通知する。
画像処理部160は、生成部142や、インターフェイス180や、無線通信部132等からOS150を介して入力される映像信号に基づいて信号を生成する。画像処理部160は、生成した信号を、接続部40を介して画像表示部20に供給することで、画像表示部20における表示を制御する。画像表示部20に供給するための信号は、アナログ形式とディジタル形式の場合で異なる。
例えば、ディジタル形式の場合、ディジタルR信号と、ディジタルG信号と、ディジタルB信号と、クロック信号PCLKとが同期した状態の映像信号が入力される。画像処理部160は、ディジタルR信号、ディジタルG信号、ディジタルB信号からなる画像データーDataに対して、必要に応じて周知の解像度変換処理、輝度彩度の調整などの種々の色調補正処理、キーストーン補正処理等の画像処理を実行する。その後、画像処理部160は、クロック信号PCLKと、画像データーDataとを、送信部51、52を介して送信する。
アナログ形式の場合、アナログR信号と、アナログG信号と、アナログB信号と、垂直同期信号VSyncと、水平同期信号HSyncとからなる映像信号が入力される。画像処理部160は、入力された信号から垂直同期信号VSyncと水平同期信号HSyncを分離し、それらの周期に応じて、図示しないPLL回路等を用いてクロック信号PCLKを生成する。また、画像処理部160は、アナログR信号と、アナログG信号と、アナログB信号とを、A/D変換回路等を用いてディジタル信号に変換する。画像処理部160は、変換後のディジタルR信号、ディジタルG信号、ディジタルB信号からなる画像データーDataに対して、必要に応じて周知の画像処理を実行した後、クロック信号PCLKと、画像データーDataと、垂直同期信号VSyncと、水平同期信号HSyncとを、送信部51、52を介して送信する。なお、以降では、送信部51を介して送信される画像データーDataを「右眼用画像データーData1」とも呼び、送信部52を介して送信される画像データーDataを「左眼用画像データーData2」とも呼ぶ。
表示制御部190は、画像表示部20が有する右表示駆動部22と左表示駆動部24とを制御する制御信号を生成する。制御信号とは、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFを個別に切り替えるための信号である。表示制御部190は、これらの制御信号によって、右表示駆動部22と左表示駆動部24とにおける画像光の生成および射出を制御する。表示制御部190は、生成した制御信号を、送信部51、52を介して送信する。
音声処理部170は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、右イヤホン32の図示しないスピーカーと、左イヤホン34の図示しないスピーカーとに対して供給する。
インターフェイス180は、所定の有線通信規格(例えば、MicroUSB(Universal Serial Bus)、USB、HDMI(High Definition Multimedia Interface、HDMIは登録商標)、DVI(Digital Visual Interface)、VGA(Video Graphics Array)、コンポジット、RS−232C(Recommended Standard 232)、IEEE802.3に例示される有線LAN等)に則って、外部装置との間で無線通信を行う。外部装置とは、ヘッドマウントディスプレイ100以外の他の機器を意味し、図1に示したスマートフォン300のほか、タブレット、パーソナルコンピューター、ゲーム端末、AV端末、家電製品等がある。
A−2−2.画像表示部の構成:
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26(図1)と、左光学像表示部28(図1)と、9軸センサー66とを含んでいる。
右表示駆動部22と左表示駆動部24とは、使用者が画像表示部20を装着した際の使用者のこめかみに対向する位置に配置されている。本実施形態における右表示駆動部22と左表示駆動部24とは、液晶ディスプレイ(Liquid Crystal Display、以下「LCD」と呼ぶ)や投写光学系を用いて、画像を表す画像光を生成し射出する。右表示駆動部22は、受信部(Rx)53と、光源として機能する右バックライト(BL)制御部201および右バックライト(BL)221と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251とを含んでいる。
受信部53は、送信部51から送信されるデーターを受信する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、入力されたクロック信号PCLKと右眼用画像データーData1と、垂直同期信号VSyncと、水平同期信号HSyncとに基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。右LCD241は、マトリクス状に配置された各画素位置の液晶を駆動することによって、右LCD241を透過する光の透過率を変化させることにより、右バックライト221から照射される照明光を、画像を表す有効な画像光へと変調する。右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。
左表示駆動部24は、右表示駆動部22とほぼ同様の構成を有し、右表示駆動部22と同様に動作する。すなわち、左表示駆動部24は、受信部(Rx)54と、光源として機能する左バックライト(BL)制御部202および左バックライト(BL)222と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252とを含んでいる。詳細な説明は省略する。なお、本実施形態ではバックライト方式を採用することとしたが、フロントライト方式や、反射方式を用いて画像光を射出してもよい。
右光学像表示部26と左光学像表示部28とは、使用者が画像表示部20を装着した際に使用者の左右の眼前にそれぞれ位置するように配置されている(図1参照)。右光学像表示部26は、右導光板261と、図示しない調光板を含んでいる。右導光板261は、光透過性の樹脂材料等によって形成されている。右導光板261は、右表示駆動部22から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REへ導く。右導光板261には、回折格子を用いても良いし半透過反射膜を用いても良い。調光板は、薄板状の光学素子であり、画像表示部20の表側を覆うように配置されている。調光板は、右導光板261を保護し、右導光板261の損傷や汚れの付着等を抑制する。また、調光板の光透過率を調整することによって、使用者の眼に入る外光量を調整して虚像の視認のしやすさを調整することができる。なお、調光板は省略可能である。
左光学像表示部28は、右光学像表示部26とほぼ同様の構成を有し、右光学像表示部26と同様に動作する。すなわち、左光学像表示部28は、左導光板262と、図示しない調光板を含み、左表示駆動部24から出力された画像光を、使用者の左眼LEへ導く。詳細な説明は省略する。
9軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)を検出するモーションセンサーである。9軸センサー66は、画像表示部20に設けられているため、画像表示部20が使用者の頭部に装着されているときには、ヘッドマウントディスプレイ100の使用者の頭部の動きを検出する動き検出部として機能する。ここで、頭部の動きとは、頭部の速度・加速度・角速度・向き・向きの変化を含む。
図4は、使用者に視認される虚像の一例を示す説明図である。図4では、使用者の視野VRを例示している。上述のようにして、ヘッドマウントディスプレイ100の使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、使用者は虚像VIを視認することができる。図4の例では、虚像VIは、ヘッドマウントディスプレイ100のOSの待ち受け画面である。また、使用者は、右光学像表示部26および左光学像表示部28を透過して外景SCを視認する。このように、本実施形態のヘッドマウントディスプレイ100の使用者は、視野VRのうち虚像VIが表示された部分については、虚像VIと、虚像VIの背後の外景SCとを見ることができる。また、使用者は、視野VRのうち虚像VIが表示されていない部分については、右光学像表示部26および左光学像表示部28を透過して外景SCを直接見ることができる。なお、本明細書において、「ヘッドマウントディスプレイ100が画像を表示する」ことには、ヘッドマウントディスプレイ100の使用者に対して虚像を視認させることも含む。
A−3.配置処理:
図5は、配置処理の手順を示すシーケンス図である。配置処理は、ヘッドマウントディスプレイ100が有する画像と、スマートフォン300の表示画像とが並べて配置された一覧画像を生成し、生成された一覧画像をヘッドマウントディスプレイ100に表示させる処理である。配置処理は、主として生成部142により実行される。
ステップS100において、配置処理を行うためのアプリケーションが起動される。ステップS100のアプリケーションの起動は、入力情報取得部110が使用者による起動操作を検出したことをトリガーとしてもよく、他のアプリケーションからの起動命令の検出をトリガーとしてもよい。ステップS100のアプリケーションの起動によって、CPU140に対して、生成部142および通知部144の機能が実現される。
ステップS102において無線通信部132またはインターフェイス180は、スマートフォン300が接続されたことを検出する。なお、以降では、ヘッドマウントディスプレイ100とスマートフォン300とがIEEE802.11に準拠した無線LANを用いて通信する場合を例示する。ステップS104において生成部142は、無線通信部132を介して接続されているスマートフォン300の認証を行う。この認証は、種々の認証技術を利用して実施することが可能である。例えば、生成部142は、スマートフォン300のMAC(Media Access Control)アドレスを用いてスマートフォン300を認証してもよく、ユーザ名とパスワードを用いてスマートフォン300を認証してもよい。また、生成部142は、認証局が発行するディジタル証明書を用いてスマートフォン300を認証してもよく、使用者の身体的特徴(顔、指紋、声紋)を認識してスマートフォン300を認証してもよい。ステップS104における認証が成功した後、ステップS106において生成部142は、スマートフォン300との間でコネクションを確立する。
ステップS108においてスマートフォン300は、スマートフォン300の表示画像を取得する。具体的には、スマートフォン300は、スマートフォン300において再生中のコンテンツや、アプリケーションGUI(Graphical User Interface)等、スマートフォン300において表示されている画面を所定の規格に従ってレンダリングし、フレーム画像を取得する。ステップS108において取得されたフレーム画像は、スマートフォン300の表示画像であり、以降「第1の画像」とも呼ぶ。
ステップS110においてスマートフォン300は、取得した第1の画像をヘッドマウントディスプレイ100へ送信する。ヘッドマウントディスプレイ100の生成部142は、無線通信部132を介して第1の画像を取得する。このとき、生成部142と無線通信部132とは「取得部」として機能する。
ステップS112において生成部142は、ヘッドマウントディスプレイ100が有する画像として、ヘッドマウントディスプレイ100の表示画面に現在表示されている画像を取得する。具体的には、生成部142は、ステップS108と同様の方法用いて、フレーム画像を取得する。なお、生成部142は、画像処理部160またはビデオメモリーから直接フレーム画像を取得してもよい。ステップS112において取得されたフレーム画像は、ヘッドマウントディスプレイ100が有する画像であり、以降「第2の画像」とも呼ぶ。
ステップS114において生成部142は、第1の画像と第2の画像とを拡大、縮小する。具体的には、生成部142は、ステップS110で取得した第1の画像を、領域情報AI(図3)の第1の領域AR1の大きさに合うように、拡大または縮小する。同様に、生成部142は、ステップS112で取得した第2の画像を、領域情報AIの第2の領域AR2の大きさに合うように、拡大または縮小する。なお、生成部142は、第1の画像および第2の画像の縦横比をそれぞれ維持したまま、拡大または縮小することが好ましい。そうすれば、生成部142は、スマートフォン300の表示画像と、ヘッドマウントディスプレイ100が有する画像(表示画像)を忠実に再現した一覧画像を生成することができる。
ステップS116において生成部142は、第1の画像を領域情報AIの第1の領域AR1に配置し、第2の画像を領域情報AIの第2の領域AR2に配置して、一覧画像を生成する。この際、生成部142は、第1の画像と第2の画像との少なくとも一方に対して、以下のa1〜a5に例示するような加工を施してもよい。なお、加工a1〜a5は、単独で採用されてもよく、組み合わせて採用されてもよい。
(a1)生成部142は、第1、2の画像の形状を変更する。例えば、生成部142は、四角形状の第1、2の画像を、円形状や台形状に変更することができる。
(a2)生成部142は、第1、2の画像の透過率を変更する。第1、2の画像の透過率を変更すれば、虚像として表示されている一覧画像を視認した際に、使用者の視界が一覧画像によって妨げられることを抑制することができる。
(a3)生成部142は、第1、2の画像の色変換処理を施す。例えば、画像表示部20に対して、使用者の視界方向の外景(外部の景色)を撮像し、外景画像を取得するカメラを備える構成とする。そして、生成部142は、第1、2の画像に対して外景画像の補色を強める、または、弱める色変換処理を施す。このようにすれば、生成部142は、第1、2の画像を外景と比して目立たせることができる。
(a4)生成部142は、第1、2の画像の大きさを変更する。例えば、生成部142は、第1、2の画像を、領域情報AIの第1、2の領域の大きさとは無関係に拡大または縮小する。
(a5)生成部142は、第1、2の画像に対して、文字、図形、記号等の装飾を付加する。例えば、生成部142は、第1、2の画像に対して、画像を説明するための文字を付加することができる。また、例えば、生成部142は、第1、2の画像に対して、画像の周囲を縁取る枠を追加することもできる。
このようにして、第1の画像と、第2の画像との一方に対して上記a1〜a5のような加工を施すこととすれば、一覧画像を視認した使用者は、一覧画像において、第1の画像と、第2の画像とを相互に識別しやすくなる。また、第1の画像と、第2の画像との両方に対して、異なる態様を用いて上記a1〜a5のような加工を施しても、同様に使用者における識別性を向上させることができる。
ステップS118において生成部142は、ヘッドマウントディスプレイ100に一覧画像を表示させる。具体的には、生成部142は、ステップS116で生成した一覧画像を、画像処理部160へ送信する。一覧画像を受信した画像処理部160では、上述の表示処理が行われる。この結果、ヘッドマウントディスプレイ100の使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、ヘッドマウントディスプレイ100の使用者は、視野に一覧画像の虚像を視認することができる。換言すれば、ヘッドマウントディスプレイ100は、一覧画像を表示することができる。
図6は、ヘッドマウントディスプレイ100において、一覧画像が表示されている様子を示す説明図である。図6に示すように、ヘッドマウントディスプレイ100の使用者は、視野VRにおいて、領域情報AI(図3)の第1の領域AR1に第1の画像IM1が配置され、第2の領域AR2に第2の画像IM2が配置された一覧画像を、虚像VIとして視認することができる。また、第2の画像IM2には、太枠BCを用いた装飾が付加されている。このため、使用者は、第1の画像と、第2の画像とを容易に識別することができる。
なお、動画像に対して図5の配置処理を適用する場合、上記ステップS108〜S118を繰り返し実行する。また、動画像を圧縮する規格が使用される場合は、ステップS108において、原画像やフレーム画像から変化した部分を表す差分画像(フレーム間差分)が送信されることがある。この場合、生成部142は、ステップS110とS112との間で、前回のフレーム画像と、取得したフレーム間差分とを用いてフレーム画像を合成する処理を行えばよい。
図7は、一覧画像におけるポインター画像の変化を説明するための説明図である。図7(A)は、第1の画像IM1に重畳されるポインター画像PO1を表している。図の例では、ポインター画像PO1は二重丸を表す図形である。図7(B)は、第2の画像IM2に重畳されるポインター画像PO2を表している。図の例では、ポインター画像PO2は円形に笑顔の描かれた図形である。上述したように、配置処理(図5)のステップS118において生成部142は、一覧画像をOS150経由で画像処理部160へ送信する。この際、OS150は、入力情報取得部110から取得した使用者の操作に応じて、一覧画像に対してポインター画像を重畳して描画する。生成部142は、OS150に対して、一覧画像の第1の画像IM1に重畳して描画されるポインター画像と、第2の画像IM2に重畳して描画されるポインター画像とを異なる画像とするように指示する。
この結果、図7(A)、(B)に示すように、画像表示部は、一覧画像の第1の画像IM1に重畳されるポインター画像PO1と、第2の画像IM2に重畳されるポインター画像PO2とを、異なる虚像VIとして使用者に視認させることができる。このようにすれば、ヘッドマウントディスプレイ100の使用者は、一覧画像において自身が操作しているのが、第1の画像IM1が表すスマートフォン300(外部装置)であるか、第2の画像IM2が表すヘッドマウントディスプレイ100(頭部装着型表示装置)であるかを識別しやすくなる。
以上のように、第1実施形態の配置処理によれば、画像表示部20は、ヘッドマウントディスプレイ100(頭部装着型表示装置)に接続されているスマートフォン300(外部装置)の表示画像である第1の画像と、ヘッドマウントディスプレイ100が有する画像である第2の画像とが含まれる一覧画像(図6)を表す虚像VIを形成し、使用者に視認させることができる。このため、ヘッドマウントディスプレイ100の表示画像とスマートフォン300の表示画像との両方を使用者に視認可能とするヘッドマウントディスプレイ100を提供することができる。
さらに、第1実施形態の配置処理によれば、生成部142は、領域情報AI(図3)に基づいて、第1の領域AR1に対してスマートフォン300(外部装置)から取得された第1の画像を配置し、第2の領域AR2に対してヘッドマウントディスプレイ100(頭部装着型表示装置)の第2の画像を配置することによって、簡便に、一覧画像を生成することができる。
さらに、第1実施形態の配置処理によれば、生成部142は、ヘッドマウントディスプレイ100(頭部装着型表示装置)が有する画像として、ヘッドマウントディスプレイ100の表示画面に現在表示されているフレーム画像(表示画像)を取得し、取得された表示画像をそのまま第2の画像として使用して、一覧画像を生成することができる。このため、生成部における配置処理の処理内容を簡潔にすることができる。
A−4.通知処理:
図8は、通知処理の手順を示すシーケンス図である。通知処理は、一覧画像のうちの第1、2の画像に対する操作が行われた場合、スマートフォン300またはヘッドマウントディスプレイ100に対して操作内容を通知する処理である。通知処理は、主として通知部144により実行される。
ステップS200において入力情報取得部110は、一覧画像に対する使用者の操作(例えば、クリック、ダブルクリック、ドラッグ、オンフォーカス、タップ、ダブルタップ、フリック等)を検出し、操作の座標(x、y)を取得する。この時、入力情報取得部110は「操作取得部」として機能する。
ステップS202において通知部144は、入力情報取得部110から座標(x、y)を受信し、以下の手順i、iiを実行する。
(i)受信した座標に基づいて、操作が行われた画像が第1の画像であるか、第2の画像であるかを特定する。
(ii)受信した座標に基づいて、配置処理(図5)のステップS114の拡大、縮小前の画像における座標を求める。
図9は、通知処理のステップS202について説明するための説明図である。図9(A)は、上記手順iについて説明するための説明図である。通知処理のステップS202において通知部144は、入力情報取得部110から座標CO1(x1、y1)を受信する。座標CO1は、一覧画像の左上端部の座標を(0、0)とした場合の、x方向の変化量と、y方向の変化量とを表す数値である。通知部144は、配置処理(図5)のステップS116における処理内容に基づき、座標CO1(x1、y1)が第1の画像IM1上に位置するか、第2の画像IM2上に位置するかを特定する。図9(A)の例では、座標CO1(x1、y1)は、第1の画像IM1、すなわち、スマートフォン300の表示画像上に位置している。
図9(B)は、上記手順iiについて説明するための説明図である。通知部144は、配置処理(図5)のステップS114で用いた拡大、縮小率を用いて、一覧画像に対して、ステップS114で行った変換とは逆の変換を施す。すなわち、ステップS114で縮小した場合は一覧画像を拡大し、ステップS114で拡大した場合は一覧画像を縮小する。その後、通知部144は、図9(A)で特定された画像(すなわち、第1の画像IM1または第2の画像IM2)の左上端部の座標を(0、0)とした場合の、座標CO1(x1、y1)と同じ位置に相当する座標CO2(x2、y2)を求める。
ステップS204において通知部144は、ステップS202で特定された画像が第2の画像、すなわち、ヘッドマウントディスプレイ100が有する画像(表示画像)であるか判定する。第2の画像である場合、通知部144は、OS150に対して、座標CO2(x2、y2)と、操作内容(例えば、クリック、ダブルクリック、ドラッグ、オンフォーカス、タップ、ダブルタップ、フリック等)を送信する。OS150では、受信した座標と操作内容に応じて、アプリケーションの起動等の処理が行われる。
ステップS206において通知部144は、ステップS202で特定された画像が第1の画像、すなわち、スマートフォン300の表示画像であるか判定する。第1の画像である場合、通知部144は、スマートフォン300に対して座標CO2(x2、y2)と、操作内容を送信する。スマートフォン300では、受信した座標と操作内容に応じて、アプリケーションの起動等の処理が行われる(ステップS208)。
以上のように、第1実施形態の通知処理によれば、通知部144は、一覧画像の第2の画像IM2(図9)に対する使用者の操作をOS150に通知するだけでなく、第1の画像IM1(図9)に対する使用者の操作をスマートフォン300(外部装置)に対して通知することができる。このため、使用者は、ヘッドマウントディスプレイ100(頭部装着型表示装置)の入力インターフェイスを介してヘッドマウントディスプレイ100を操作するだけでなく、ヘッドマウントディスプレイ100(頭部装着型表示装置)の入力インターフェイスを介してスマートフォン300をも操作することができる。この結果、利用者は、例えば、ヘッドマウントディスプレイ100に接続されている外部装置(本実施形態ではスマートフォン300)をカバンやポケットに入れたまま、当該外部装置を操作することが可能となり、ヘッドマウントディスプレイ100におけるユーザビリティーを向上させることができる。
B.第2実施形態:
本発明の第2実施形態では、「頭部装着型表示装置が有する画像」として、アイコン画像から生成された第2の画像を用いる構成について説明する。以下では、第1実施形態と異なる構成および動作を有する部分についてのみ説明する。なお、図中において第1実施形態と同様の構成部分については先に説明した第1実施形態と同様の符号を付し、その詳細な説明を省略する。
B−1.画像表示システムの構成:
第2実施形態における画像表示システムの概略構成は、図1に示す第1実施形態と同様である。
B−2.頭部装着型表示装置の構成:
図10は、第2実施形態におけるヘッドマウントディスプレイ100aの構成を機能的に示すブロック図である。図2に示した第1実施形態との違いは、制御部10に代えて制御部10aを備える点である。制御部10aは、生成部142に代えて生成部142aを備え、通知部144に代えて通知部144aを備え、記憶部120に代えて記憶部120aを備える。
生成部142aは、配置処理の処理内容が図5で説明した第1実施形態と異なる。通知部144aは、通知処理の処理内容が図8で説明した第1実施形態と異なる。
記憶部120aは、領域情報記憶部122に加えて、さらにフレーム情報124を備える。フレーム情報124には、少なくとも1つのフレームが記憶されている。フレーム情報124に記憶されているフレームは、第2実施形態の配置処理(図12)において、第2の画像(すなわち、ヘッドマウントディスプレイ100aが有するアイコン画像の配置を変更して生成される画像)を生成する際に、アイコン画像を配置するための枠として使用される。
本実施形態において、「アイコン画像」とは、プログラムやデバイスの内容を図、絵、文字、記号等を用いて分かり易く表現した画像を意味する。本実施形態の「アイコン画像」は、ヘッドマウントディスプレイ100aにインストールされているアプリケーションの起動用の画像を意味する。なお、「アイコン画像」には、このほか、ヘッドマウントディスプレイ100aにインストールされているアプリケーション(いわゆるウィジェットやガジェット)によって描画されている画像や、ヘッドマウントディスプレイ100aに記憶されているデーター(各種のファイル)の起動用の画像、ヘッドマウントディスプレイ100aに含まれるデバイスの存在を表す画像等を含んでもよい。を含んでもよい。アイコン画像は、換言すれば、アプリケーション(プログラム)やデーターやデバイスを抽象化したシンボルとも言える。
図11は、フレーム情報124に記憶されているフレームの一例を示す説明図である。図11に示すフレームFM1は、長方形状の領域(以降、「フレームFM1の領域」とも呼ぶ。)の内側に、画像リストLT1と、画像リストLT2と、これらを区切るための区切り線BAとが配置された構成を有する。フレームFM1の領域は、領域情報AIの第2の領域AR2と同じ縦横比を有することが好ましい。
画像リストLT1、LT2は、第2実施形態の配置処理において、アイコン画像が実際に配置される領域である。図3の例では、画像リストLT1、LT2は、フレームFM1の領域の下端の全体にわたって2段に配置されている。なお、画像リストLT1、LT2は、フレームFM1の任意の場所に配置することができる。例えば、画像リストLT1、LT2は、フレームFM1の領域の下端の一部に配置されてもよく、フレームFM1の領域の上端の一部または全体に配置されてもよく、フレームFM1の領域の右端の一部または全体に配置されてもよく、フレームFM1の領域の左端の一部または全体に配置されてもよく、フレームFM1の全ての領域に配置されてもよい。
画像リストLT1は、複数(図の例では5個)長方形状の画像枠B1〜B5を含んでいる。画像枠B1〜B5は、画像リストLT1内において、長方形状の長辺が互いに隣接するように配置されている。画像リストLT2は、複数の長方形状の画像枠B6〜B10を含んでいる。画像枠B6〜B10は、画像リストLT2内において、長方形状の長辺が互いに隣接するように配置されている。画像枠B1〜B10は、第2実施形態の配置処理(図12)において、ヘッドマウントディスプレイ100aが有するアイコン画像を配置するための領域である。
B−3.配置処理:
図12は、第2実施形態における配置処理の手順を示すシーケンス図である。図5に示した第1実施形態との違いは、ステップS112に代えてステップS300とステップS302とを備える点のみであり、他の処理内容は第1実施形態と同じである。
ステップS300において生成部142aは、ヘッドマウントディスプレイ100aが有するアイコン画像を収集する。具体的には、生成部142aは、記憶部120の所定の領域に記憶されている複数のアイコン画像のうち、ヘッドマウントディスプレイ100aの待ち受け画面に表示されるべき複数のアイコン画像を収集する。アイコン画像の一例としては、例えば、カメラやスピーカー等の各種デバイス、SNSサービス、メールサービス等の各種サービスの起動用アイコンがある。
ステップS302において生成部142aは、ステップS300で収集した複数のアイコン画像の配置を変更することで、第2の画像を生成する。具体的には、生成部142aは、フレーム情報124に記憶されているフレームFM1(図11)を取得する。生成部142aは、フレームFM1の画像リストLT1の画像枠B1〜B5と、画像リストLT2の画像枠B6〜B10に対して、取得した複数のアイコン画像を順次配置する。
なお、生成部142aは、ステップS300とS302との間に、以下のような処理b1〜bを行ってもよい。
(b1)アイコン画像のフィルタリング処理。
・例えば、生成部142aは、ステップS300で収集したアイコン画像から、画像解析やファイル名解析を用いて重複したアイコン画像を求めて、重複したアイコン画像の一方を破棄してもよい。
・例えば、生成部142aは、ステップS300で収集したアイコン画像から、画像解析やファイル名解析を用いてアイコン画像が表すアプリケーションを特定し、所定のアプリケーションに関するアイコン画像を破棄してもよい。
・例えば、生成部142aは、ステップS300で収集したアイコン画像に付随する情報を参照して、アイコン画像が表すアプリケーションの使用頻度を求めて、使用頻度が低いアイコン画像を破棄してもよい。
(b2)アイコン画像のグルーピングおよびソート処理。
・例えば、生成部142aは、ステップS300で収集したアイコン画像から、画像解析やファイル名解析を用いてアイコン画像の種類(アプリケーション起動用の画像か、アプリケーションによって描画されている画像か、データー起動用の画像か)を特定し、特定したアイコン画像の種類に応じてアイコン画像をグルーピングまたはソートしてもよい。
・例えば、生成部142aは、ステップS300で収集したアイコン画像から、画像解析やファイル名解析を用いてアイコン画像が表すアプリケーションの種類や名前を特定し、特定したアプリケーションの種類や名前に応じてアイコン画像をグルーピングまたはソートしてもよい。
・例えば、生成部142aは、ステップS300で収集したアイコン画像に付随する情報を参照して、アイコン画像が表すアプリケーションの使用頻度を求めて、使用頻度に応じてアイコン画像をグルーピングまたはソートしてもよい。
(b3)アイコン画像の加工処理。
・例えば、生成部142aは、アイコン画像の形状、透過率、大きさを任意に変更してもよい。
・例えば、生成部142aは、アイコン画像に対して色変換処理を施してもよい。この場合、画像表示部20に対して、使用者の視界方向の外景(外部の景色)を撮像し、外景画像を取得するカメラを備える構成とする。そして、生成部142aは、アイコン画像に対して外景画像の補色を強める色変換処理を施す。このようにすれば、生成部142aは、アイコン画像を外景と比して目立たせることができる。
・例えば、生成部142aは、アイコン画像に文字、図形、記号等の装飾を付加する。具体的には、生成部142aは、アイコン画像に対して、アイコン画像を説明するための文字を追加することができる。このようにすれば、虚像として表示されている第2の画像を視認した際に、使用者は、第2の画像に含まれる各アイコン画像が何であるかを識別しやすくなる。また、生成部142aは、アイコン画像に対して、アイコン画像の周囲を縁取る枠を追加することもできる。このようにすれば、生成部142aは、アイコン画像を外景と比して目立たせることができる。
図13は、ヘッドマウントディスプレイ100aにおいて、一覧画像が表示されている様子を示す説明図である。図12に示すように、第2実施形態のヘッドマウントディスプレイ100aの使用者は、視野VRにおいて、領域情報AI(図3)の第1の領域AR1に第1の画像IM1が配置されると共に、第2の領域AR2には、ヘッドマウントディスプレイ100aのアイコン画像を用いて生成された第2の画像IM2が配置された一覧画像を、虚像VIとして視認することができる。
なお、動画像に対して図12の配置処理を適用する場合、第1実施形態と同様に、上記ステップS108〜S118を繰り返し実行する。また、一覧画像におけるポインター画像の変化についても、第1実施形態と同様である。
以上のように、第2実施形態の配置処理によれば、生成部142aは、ヘッドマウントディスプレイ100(頭部装着型表示装置)が有するアイコン画像の配置を変更することで、フレームFM1に従って縦横比を自在に変化させた第2の画像IM2を生成し、生成した第2の画像IM2を用いて一覧画像を生成することができる。この結果、生成部142aは、領域情報AI(図3)の第2の領域AR2の大きさに応じて、最適な第2の画像を生成し、画像表示部20に表示させることができる。
B−4.通知処理:
第2実施形態における通知処理は、図8で説明した第1実施形態とほぼ同様である。ただし、ステップS202の手順iにおいて特定された画像が第2の画像である場合、上記手順iiは以下のiiiに読み替える。
(iii)通知部144aは、配置処理(図12)のステップS302における処理内容(すなわち、アイコン画像の配置)に基づいて、入力情報取得部110から取得された座標CO1(x1、y1)に相当する座標CO2(x2、y2)を求める。
C.変形例:
上記実施形態において、ハードウェアによって実現されるとした構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されるとした構成の一部をハードウェアに置き換えるようにしてもよい。その他、以下のような変形も可能である。
・変形例1:
上記実施形態では、画像表示システムの構成について例示した。しかし、画像表示システムの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、画像表示システムを構成する各装置の追加・削除・変換等を行うことができる。また、画像表示システムを構成する装置のネットワーク構成の変更を行うことができる。
例えば、ヘッドマウントディスプレイには、複数の外部装置(例えば、スマートフォンとPDA)が接続されてもよい。この場合、第1、2実施形態と同様にして、生成部は、第1の外部装置の表示画像と、第2の外部装置の表示画像と、第m(mは3以上の整数)の外部装置の表示画像と、の全てが並べて配置された一覧画像を生成してもよい。このようにすれば、画像表示部は、ヘッドマウントディスプレイが有する画像と、ヘッドマウントディスプレイに接続されている複数の外部装置の表示画像と、が並べて配置された一覧画像を虚像として使用者に視認させることができる。このため、ヘッドマウントディスプレイにおける使用者の利便性をより一層向上させることができる。
例えば、上記実施形態におけるスマートフォンの代わりに、インターネットINTを介したクラウドサーバーが使用されてもよい。また、ヘッドマウントディスプレイに複数の外部装置が接続される場合において、外部装置のうちの少なくとも1つとして、インターネットINTを介したクラウドサーバーが使用されてもよい。この場合であっても、生成部は、上記第1、2実施形態と同様の処理を行うことにより、上記第1実施形態および第2実施形態と同様の効果を得ることができる。
例えば、上記実施形態のヘッドマウントディスプレイの生成部の機能は、ヘッドマウントディスプレイとは異なる情報処理装置によって提供されてもよい。情報処理装置として、例えば、インターネットINTを介したクラウドサーバーが使用されてもよい。この場合、情報処理装置は、ヘッドマウントディスプレイ(頭部装着型表示装置)に接続されている外部装置の表示画像である第1の画像と、ヘッドマウントディスプレイが有する第2の画像と、を取得する取得部と、取得された第1の画像と、取得された第2の画像と、を含む一覧画像を生成する一覧画像生成部と、生成された一覧画像をヘッドマウントディスプレイへ送信する一覧画像送信部と、を備える。一覧画像生成部は、上記実施形態で説明したヘッドマウントディスプレイの生成部と同様の処理を行うことで、ヘッドマウントディスプレイへ送信する一覧画像を生成する。
・変形例2:
上記実施形態では、ヘッドマウントディスプレイの構成について例示した。しかし、ヘッドマウントディスプレイの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、各構成部の追加・削除・変換等を行うことができる。
上記実施形態における制御部と、画像表示部とに対する構成要素の割り振りはあくまで一例であり、種々の態様を採用可能である。例えば、以下のような態様としてもよい。(i)制御部にCPUやメモリー等の処理機能を搭載、画像表示部には表示機能のみを搭載する態様、(ii)制御部と画像表示部との両方にCPUやメモリー等の処理機能を搭載する態様、(iii)制御部と画像表示部とを一体化した態様(例えば、画像表示部に制御部が含まれ眼鏡型のウェアラブルコンピューターとして機能する態様)、(iv)制御部の代わりにスマートフォンや携帯型ゲーム機を使用する態様、(v)制御部と画像表示部とを無線通信かつワイヤレス給電可能な構成とすることにより接続部(コード)を廃した態様。(vi)制御部からタッチパッドを廃し、画像表示部にタッチパッドを設けた態様。
上記実施形態では、説明の便宜上、制御部が送信部を備え、画像表示部が受信部を備えるものとした。しかし、上記実施形態の送信部および受信部は、いずれも、双方向通信が可能な機能を備えており、送受信部として機能することができる。また、例えば、図5に示した制御部は、有線の信号伝送路を介して画像表示部と接続されているものとした。しかし、制御部と、画像表示部とは、無線LANや赤外線通信やBluetooth(登録商標)等の無線の信号伝送路を介した接続により接続されていてもよい。
例えば、図2に示した制御部、画像表示部の構成は任意に変更することができる。具体的には、例えば、制御部は、上述した各種の入力デバイス(タッチパッド、十字キー、フットスイッチ、ジェスチャー検出、視線検出、マイクロホン)のほか、種々の入力デバイス(例えば、操作用スティック、キーボード、マウス等)を備えることができる。また、上記実施形態では、電源として二次電池を用いることしたが、電源としては二次電池に限らず、種々の電池を使用することができる。例えば、一次電池や、燃料電池、太陽電池、熱電池等を使用してもよい。
例えば、ヘッドマウントディスプレイは、両眼タイプの透過型ヘッドマウントディスプレイであるものとしたが、単眼タイプのヘッドマウントディスプレイとしてもよい。また、使用者がヘッドマウントディスプレイを装着した状態において外景の透過が遮断される非透過型ヘッドマウントディスプレイとして構成してもよい。上記実施形態では、画像表示部を眼鏡のように装着するヘッドマウントディスプレイであるとしているが、例えば、帽子のように装着するタイプの画像表示部等、他の形状の画像表示部を採用したヘッドマウントディスプレイとしてもよい。また、イヤホンは耳掛け型やヘッドバンド型を採用してもよく、省略してもよい。さらに、例えば、自動車や飛行機等の車両に搭載されるヘッドアップディスプレイ(HUD、Head-Up Display)として構成されてもよい。そのほか、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。
図14は、変形例におけるヘッドマウントディスプレイの外観の構成を示す説明図である。図14(A)の例では、画像表示部20aが、右光学像表示部26に代えて右光学像表示部26aを備え、左光学像表示部28に代えて左光学像表示部28aを備えている。右光学像表示部26aおよび左光学像表示部28aは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼および左眼の斜め上に配置されている。図14(B)の例では、画像表示部20bが、右光学像表示部26に代えて右光学像表示部26bを備え、左光学像表示部28に代えて左光学像表示部28bを備えている。右光学像表示部26bおよび左光学像表示部28bは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼および左眼の斜め下に配置されている。このように、光学像表示部は使用者の眼の近傍に配置されていれば足りる。また、光学像表示部を形成する光学部材の大きさも任意であり、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様のヘッドマウントディスプレイとして実現することもできる。なお、図14のような構成とした場合においても、使用者における視認性を向上させつつヘッドマウントディスプレイに適した態様となるように、一覧画像における第1の画像と第2の画像の配置を適宜調整することができる。この場合、上記実施形態に例示した配置の例には限られない。
例えば、上記実施形態では、表示駆動部は、バックライトと、バックライト制御部と、LCDと、LCD制御部と、投写光学系を用いて構成されるものとした。しかし、上記の態様はあくまで例示である。表示駆動部は、これらの構成部と共に、またはこれらの構成部に代えて、他の方式を実現するための構成部を備えていても良い。例えば、表示駆動部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部と、投写光学系とを備える構成としても良い。また、例えば、表示駆動部は、LCDに代えてデジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型の頭部装着型表示装置に対して本発明を適用することも可能である。
例えば、生成部、通知部、画像処理部、表示制御部、音声処理部等の各機能部は、CPUがROMやハードディスクに格納されているコンピュータープログラムをRAMに展開して実行することにより実現されるものとして記載した。しかし、これら機能部は、当該機能を実現するために設計されたASIC(Application Specific Integrated Circuit:特定用途向け集積回路)を用いて構成されてもよい。
・変形例3:
上記実施形態では、配置処理の一例を示した。しかし、配置処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
例えば、生成部は、領域情報を使用せずに一覧画像を生成してもよい。具体的には、ステップS116において生成部は、領域情報に代えて、予め定められた座標位置に第1の画像と、第2の画像とを配置することで一覧画像を生成してもよい。他の例として、ステップS116において生成部は、取得した第1の画像および第2の画像の大きさから動的に計算した座標位置に第1の画像と、第2の画像とを配置することで一覧画像を生成してもよい。このようにすれば、領域情報を必要とせずに一覧画像を生成することができる。
例えば、ステップS114における第1、2の画像の拡大、縮小の処理は省略してもよい。また、例えば、ステップS104のスマートフォンの認証と、S106のコネクションの確立と、はいずれか一方を省略してもよく、実行順序を入れ替えてもよい。
例えば、上記実施形態で説明した一覧画像は、2次元的に表現された画像を想定した。しかし、画像処理部は、右眼用画像データーと左眼用画像データーとを異なるデーターとすることで、一覧画像を3次元的に表現してもよい。
例えば、生成部は、一覧画像の第1、2の画像に重畳して描画されるポインター画像をそれぞれ異なる画像にするとした。しかし、生成部は、一覧画像の第1の領域に重畳して描画されるポインター画像と、第2の領域に重畳して描画されるポインター画像とを、それぞれ異なる画像とするように、OSに指示してもよい。
例えば、一覧画像の第1の画像に重畳して描画されるポインター画像と、第2の画像に重畳して描画されるポインター画像としては、同一の形状で、色や装飾に変化を持たせた画像を用いてもよい。
例えば、一覧画像の第1の画像に重畳して描画されるポインター画像と、第2の画像に重畳して描画されるポインター画像と、を異なる画像とすることに代えて、他の方法を用いて、使用者が操作している画像を視認可能な構成とすることもできる。具体的には、使用者の操作している一方の画像の透過率を下げ、他方の画像の透過率を上げてもよい。また、使用者の操作している一方の画像に対して、外景と比して画像を強調するような色変換処理を施し、他方の画像に対して、外景と画像を同化させるような色変換処理を施してもよい。また、使用者の操作している一方の画像に装飾を施し、他方の画像は未装飾のままとしてもよい。このように、第1の画像と第2の画像の透過率や、色や、装飾の有無を用いて、使用者が操作している画像を視認可能な構成とすることもできる。
例えば、上記第2実施形態において、生成部は、フレームを使用せずに第2の画像を生成してもよい。具体的には、生成部は、予め定められた座標位置にアイコン画像を配置することで第2の画像を生成してもよい。他の例として、生成部は、取得したアイコン画像の大きさから動的に計算した座標位置にアイコン画像を配置することで第2の画像を生成してもよい。このようにすれば、フレーム情報を必要とせずに第2の画像を生成することができる。
例えば、上記第2実施形態において、生成部は、使用者の視線方向を避けるように、動的に第2の画像を生成してもよい。具体的には、上記ヘッドマウントディスプレイにおいて、使用者の眼を撮像するカメラや赤外線センサー等、使用者の視線方向を検出する構成(「視線方向検出部」とも呼ぶ。)を追加する。生成部は、フレーム備える複数の画像リストのうち、検出された視線方向に遠い画像リストを優先的に選択し、アイコン画像の配置を行うこともできる。このようにすれば、第2の画像において、使用者の視線方向を避けた動的なアイコン画像の配置が可能となる。
・変形例4:
上記実施形態では、通知処理の一例を示した。しかし、通知処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
・変形例5:
上記実施形態(図3)では、領域情報記憶部に記憶されている領域情報の例を示した。しかし、上記領域情報の詳細はあくまで一例であり、種々の変更が可能である。例えば、構成要素の追加、削除、変更を行うことができる。
例えば、領域情報記憶部には、複数の領域情報が記憶されていてもよい。また、ヘッドマウントディスプレイの使用者の好み(設定)、使用者の視線の動き、使用者の頭の動き、周囲の明るさ等、任意の条件によって、一覧画像を生成する際に使用されるフレームが選択されてもよい。
・変形例6:
上記第2実施形態(図11)では、フレーム情報に記憶されているフレームの例を示した。しかし、上記フレームの詳細はあくまで一例であり、種々の変更が可能である。例えば、構成要素の追加、削除、変更を行うことができる。
例えば、フレーム情報には、複数のフレームが記憶されていてもよい。また、ヘッドマウントディスプレイの使用者の好み(設定)、使用者の視線の動き、使用者の頭の動き、周囲の明るさ等、任意の条件によって、第2の画像を生成する際に使用されるフレームが選択されてもよい。
例えば、フレームは、2つの画像リストLT1、LT2を有するものとした。しかし、フレームが有する画像リストは1つでもよいし、3つ以上でもよい。また、画像リスト内の画像枠の形状、大きさ、個数は任意に定めることができる。さらに、フレームの領域の大きさ(縦横比)は、領域情報の第2の領域と同じ大きさ(縦横比)でなくともよい。
・変形例7:
本発明は、上述の実施形態や実施例、変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、実施例、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
10…制御部
20…画像表示部
22…右表示駆動部
24…左表示駆動部
26…右光学像表示部
28…左光学像表示部
32…右イヤホン
34…左イヤホン
40…接続部
51…送信部
52…送信部
53…受信部
100…ヘッドマウントディスプレイ(頭部装着型表示装置)
110…入力情報取得部(操作取得部)
120…記憶部
122…領域情報記憶部
124…フレーム情報
130…電源
132…無線通信部(取得部)
140…CPU
142…生成部(取得部、生成部)
144…通知部(通知部)
160…画像処理部
170…音声処理部
180…インターフェイス
190…表示制御部
201…右バックライト制御部
202…左バックライト制御部
221…右バックライト
222…左バックライト
251…右投写光学系
252…左投写光学系
261…右導光板
262…左導光板
300…スマートフォン(外部装置)
1000…画像表示システム
Data…画像データー
B1〜B10…画像枠
BC…太枠
SC…外景
RE…右眼
LE…左眼
AI…領域情報
VI…虚像
VR…視野
FM1…フレーム
IM1…第1の画像
IM2…第2の画像
PO1…ポインター画像
PO2…ポインター画像
AR1…第1の領域
AR2…第2の領域
LT1…画像リスト
LT2…画像リスト
INT…インターネット

Claims (12)

  1. 使用者が虚像と外景を視認可能な頭部装着型表示装置であって、
    前記頭部装着型表示装置に接続されている外部装置の表示画像である第1の画像と、前記頭部装着型表示装置が有する第2の画像と、を含む一覧画像を生成する生成部と、
    前記生成された一覧画像を表す前記虚像を形成する画像表示部と、
    を備える、頭部装着型表示装置。
  2. 請求項1に記載の頭部装着型表示装置であって、さらに、
    前記外部装置から前記第1の画像を取得する取得部を備え、
    前記生成部は、第1の領域に対して前記取得された第1の画像が配置され、前記第1の領域とは異なる第2の領域に対して前記第2の画像が配置された前記一覧画像を生成する、頭部装着型表示装置。
  3. 請求項1または請求項2に記載の頭部装着型表示装置であって、
    前記生成部は、前記頭部装着型表示装置における現在の表示画像を前記第2の画像とする、頭部装着型表示装置。
  4. 請求項1または請求項2に記載の頭部装着型表示装置であって、
    前記生成部は、前記頭部装着型表示装置が有するアイコン画像の配置を変更することで前記第2の画像を生成する、頭部装着型表示装置。
  5. 請求項4に記載の頭部装着型表示装置であって、
    前記生成部は、前記第2の画像を生成する際に、さらに、前記アイコン画像に対して、形状の変更と、透過率の変更と、色の変更と、大きさの変更と、装飾の付与と、のうちの少なくともいずれかを実施する、頭部装着型表示装置。
  6. 請求項1から請求項5のいずれか一項に記載の頭部装着型表示装置であって、
    前記生成部は、さらに、前記第1の画像と前記第2の画像とのうちの少なくとも一方の画像の大きさを変更し、前記変更後の前記画像を用いて前記一覧画像を生成する、頭部装着型表示装置。
  7. 請求項1から請求項6のいずれか一項記載の頭部装着型表示装置であって、
    前記生成部は、さらに、前記第1の画像と前記第2の画像とのうちの少なくとも一方の画像に対して、形状の変更と、透過率の変更と、色の変更と、大きさの変更と、装飾の付与と、のうちの少なくともいずれかを実施し、前記実施後の前記画像を用いて前記一覧画像を生成する、頭部装着型表示装置。
  8. 請求項1から請求項7のいずれか一項に記載の頭部装着型表示装置であって、さらに、
    前記一覧画像に対する前記使用者の操作を取得する操作取得部と、
    前記取得された操作が、前記第1の画像に対する操作であった場合に、前記外部装置に対して前記操作を通知する通知部を備える、頭部装着型表示装置。
  9. 請求項1から請求項8のいずれか一項に記載の頭部装着型表示装置であって、
    前記画像表示部は、前記一覧画像に対して、さらに、ポインター画像を重畳させた前記虚像を形成し、
    前記生成部は、前記第1の画像に重畳される前記ポインター画像と、前記第2の画像に重畳させる前記ポインター画像と、を異なる画像とさせる、頭部装着型表示装置。
  10. 頭部装着型表示装置を制御する方法であって、
    (a)前記頭部装着型表示装置に接続されている外部装置の表示画像である第1の画像と、前記頭部装着型表示装置が有する第2の画像と、を含む一覧画像を生成する工程と、
    (b)前記生成された一覧画像を表す虚像を形成する工程と、
    を備える、方法。
  11. 画像表示システムであって、
    使用者が虚像と外景を視認可能な頭部装着型表示装置と、
    前記頭部装着型表示装置に接続されている外部装置と、
    を備え、
    前記外部装置は、
    前記外部装置の表示画像である第1の画像を取得すると共に、前記取得された第1の画像を前記頭部装着型表示装置へ送信する送信部を備え、
    前記頭部装着型表示装置は、
    前記第1の画像と、前記頭部装着型表示装置が有する第2の画像と、を含む一覧画像を生成する生成部と、
    前記生成された一覧画像を表す前記虚像を形成する画像表示部と、
    を備える、画像表示システム。
  12. 頭部装着型表示装置に接続され、前記頭部装着型表示装置に表示させるための画像を生成する情報処理装置であって、
    前記頭部装着型表示装置に接続されている外部装置の表示画像である第1の画像と、前記頭部装着型表示装置が有する第2の画像と、を取得する取得部と、
    前記取得された第1の画像と、前記取得された第2の画像と、を含む一覧画像を生成する一覧画像生成部と、
    前記生成された一覧画像を前記頭部装着型表示装置へ送信する一覧画像送信部と、
    を備える、情報処理装置。
JP2013183631A 2013-09-05 2013-09-05 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム、情報処理装置 Active JP6229381B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013183631A JP6229381B2 (ja) 2013-09-05 2013-09-05 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム、情報処理装置
US14/454,302 US20150062164A1 (en) 2013-09-05 2014-08-07 Head mounted display, method of controlling head mounted display, computer program, image display system, and information processing apparatus
CN201410442968.XA CN104423583B (zh) 2013-09-05 2014-09-02 头部佩戴型显示装置、图像显示系统及信息处理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013183631A JP6229381B2 (ja) 2013-09-05 2013-09-05 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム、情報処理装置

Publications (2)

Publication Number Publication Date
JP2015049498A true JP2015049498A (ja) 2015-03-16
JP6229381B2 JP6229381B2 (ja) 2017-11-15

Family

ID=52699530

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013183631A Active JP6229381B2 (ja) 2013-09-05 2013-09-05 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム、情報処理装置

Country Status (1)

Country Link
JP (1) JP6229381B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5876607B1 (ja) * 2015-06-12 2016-03-02 株式会社コロプラ フローティング・グラフィカルユーザインターフェース
KR20170053280A (ko) * 2015-11-06 2017-05-16 삼성전자주식회사 복수의 전자장치 사이에서 가상 객체를 표시하는 방법 및 이를 지원하는 전자 장치
JP2018013741A (ja) * 2016-07-22 2018-01-25 富士通株式会社 表示制御プログラム、表示制御装置、及び表示制御方法
JP6892960B1 (ja) * 2020-09-29 2021-06-23 Kddi株式会社 制御装置、情報処理システム、制御方法及びプログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009075763A (ja) * 2007-09-19 2009-04-09 Toshiba Corp 携帯情報端末連係システムおよび連係処理プログラム並びに連係処理装置
JP2009086083A (ja) * 2007-09-28 2009-04-23 Brother Ind Ltd 画像表示装置及び画像表示システム
JP2009251154A (ja) * 2008-04-03 2009-10-29 Konica Minolta Holdings Inc 頭部装着式映像表示装置
JP2010263324A (ja) * 2009-04-30 2010-11-18 Olympus Imaging Corp 撮像装置、表示装置および撮像システム
US20120302289A1 (en) * 2011-05-27 2012-11-29 Kang Heejoon Mobile terminal and method of controlling operation thereof
JP2013104987A (ja) * 2011-11-14 2013-05-30 Seiko Epson Corp 頭部装着型表示装置および頭部装着型表示装置の制御方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009075763A (ja) * 2007-09-19 2009-04-09 Toshiba Corp 携帯情報端末連係システムおよび連係処理プログラム並びに連係処理装置
JP2009086083A (ja) * 2007-09-28 2009-04-23 Brother Ind Ltd 画像表示装置及び画像表示システム
JP2009251154A (ja) * 2008-04-03 2009-10-29 Konica Minolta Holdings Inc 頭部装着式映像表示装置
JP2010263324A (ja) * 2009-04-30 2010-11-18 Olympus Imaging Corp 撮像装置、表示装置および撮像システム
US20120302289A1 (en) * 2011-05-27 2012-11-29 Kang Heejoon Mobile terminal and method of controlling operation thereof
JP2013104987A (ja) * 2011-11-14 2013-05-30 Seiko Epson Corp 頭部装着型表示装置および頭部装着型表示装置の制御方法

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5876607B1 (ja) * 2015-06-12 2016-03-02 株式会社コロプラ フローティング・グラフィカルユーザインターフェース
WO2016199492A1 (ja) * 2015-06-12 2016-12-15 株式会社コロプラ フローティング・グラフィカルユーザインターフェース
JP2017004357A (ja) * 2015-06-12 2017-01-05 株式会社コロプラ フローティング・グラフィカルユーザインターフェース
US9959679B2 (en) 2015-06-12 2018-05-01 Colopl, Inc. Floating graphical user interface
KR20170053280A (ko) * 2015-11-06 2017-05-16 삼성전자주식회사 복수의 전자장치 사이에서 가상 객체를 표시하는 방법 및 이를 지원하는 전자 장치
KR102471977B1 (ko) 2015-11-06 2022-11-30 삼성전자 주식회사 복수의 전자장치 사이에서 가상 객체를 표시하는 방법 및 이를 지원하는 전자 장치
JP2018013741A (ja) * 2016-07-22 2018-01-25 富士通株式会社 表示制御プログラム、表示制御装置、及び表示制御方法
JP6892960B1 (ja) * 2020-09-29 2021-06-23 Kddi株式会社 制御装置、情報処理システム、制御方法及びプログラム
JP2022055697A (ja) * 2020-09-29 2022-04-08 Kddi株式会社 制御装置、情報処理システム、制御方法及びプログラム

Also Published As

Publication number Publication date
JP6229381B2 (ja) 2017-11-15

Similar Documents

Publication Publication Date Title
JP6209906B2 (ja) 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム
JP6492419B2 (ja) 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム、画像表示システム、および、情報処理装置
US20150062164A1 (en) Head mounted display, method of controlling head mounted display, computer program, image display system, and information processing apparatus
CN104469464B (zh) 图像显示装置、控制图像显示装置的方法、计算机程序以及图像显示系统
JP6206099B2 (ja) 画像表示システム、画像表示システムを制御する方法、および、頭部装着型表示装置
US9784976B2 (en) Head mounted display, information processing apparatus, image display apparatus, image display system, method for sharing display of head mounted display, and computer program
JP5970872B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6264014B2 (ja) 頭部装着型表示装置
US9799144B2 (en) Head mounted display, and control method for head mounted display
CN107077363B (zh) 信息处理装置、控制信息处理装置的方法、记录介质
JP6303274B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6229381B2 (ja) 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム、情報処理装置
JP2015227919A (ja) 画像表示装置、画像表示装置を制御する方法、コンピュータープログラム、および、画像表示システム
JP6740613B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2015064476A (ja) 画像表示装置、画像表示装置を制御する方法
JP6828235B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の表示を共有する方法、コンピュータープログラム
JP6451238B2 (ja) 映像を送信または受信する装置、装置を制御する方法、コンピュータープログラム
JP6394174B2 (ja) 頭部装着型表示装置、画像表示システム、頭部装着型表示装置を制御する方法、および、コンピュータープログラム
JP2016142966A (ja) 頭部装着型表示装置、情報処理装置、画像表示装置、画像表示システム、頭部装着型表示装置の表示を共有する方法、コンピュータープログラム
JP2016092567A (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6287399B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6308249B2 (ja) 頭部装着型表示装置および方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20160530

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160622

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170330

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170411

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170606

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170711

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170822

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170919

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171002

R150 Certificate of patent or registration of utility model

Ref document number: 6229381

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150