JP2015049883A - 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム - Google Patents

頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム Download PDF

Info

Publication number
JP2015049883A
JP2015049883A JP2013183630A JP2013183630A JP2015049883A JP 2015049883 A JP2015049883 A JP 2015049883A JP 2013183630 A JP2013183630 A JP 2013183630A JP 2013183630 A JP2013183630 A JP 2013183630A JP 2015049883 A JP2015049883 A JP 2015049883A
Authority
JP
Japan
Prior art keywords
image
head
mounted display
display device
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013183630A
Other languages
English (en)
Other versions
JP2015049883A5 (ja
JP6209906B2 (ja
Inventor
小林 伸一
Shinichi Kobayashi
伸一 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2013183630A priority Critical patent/JP6209906B2/ja
Priority to US14/467,970 priority patent/US9658451B2/en
Priority to CN201410423127.4A priority patent/CN104423043A/zh
Publication of JP2015049883A publication Critical patent/JP2015049883A/ja
Publication of JP2015049883A5 publication Critical patent/JP2015049883A5/ja
Application granted granted Critical
Publication of JP6209906B2 publication Critical patent/JP6209906B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72412User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories using two-way short-range wireless interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0149Head-up displays characterised by mechanical features
    • G02B2027/0161Head-up displays characterised by mechanical features characterised by the relative positioning of the constitutive elements
    • G02B2027/0163Electric or electronic control thereof
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed

Abstract

【課題】外部装置の表示画面を、頭部装着型表示装置に適した画像の表示態様を用いて、頭部装着型表示装置に表示させる。【解決手段】使用者が虚像と外景を視認可能な頭部装着型表示装置であって、頭部装着型表示装置に接続されている外部装置が有する複数の画像の配置を、頭部装着型表示装置用に変更して一覧画像を生成する生成部と、生成された一覧画像を虚像として使用者に視認させる画像表示部とを備える。【選択図】図4

Description

本発明は、頭部装着型表示装置に関する。
頭部に装着する表示装置である頭部装着型表示装置(ヘッドマウントディスプレイ(Head Mounted Display、HMD))が知られている。頭部装着型表示装置は、例えば、液晶ディスプレイと光源とを利用して画像を表す画像光を生成し、生成された画像光を投写光学系や導光板等を利用して使用者の眼に導くことにより、使用者に虚像を認識させる。このような頭部装着型表示装置は、例えばUSB(Universal Serial Bus)等の有線インターフェイスや、例えば無線LAN等の無線インターフェイスを持ち、携帯情報端末等(例えば、スマートフォンやタブレット等)の外部装置と接続することができる。
特許文献1には、携帯情報端末に搭載された所定の機能を、携帯情報端末の表示画面と、頭部装着型表示装置の表示画面との一方に表示させる際に、携帯情報端末の開閉状態に応じて表示先を決定する構成が記載されている。特許文献2には、頭部装着型表示装置において、携帯情報端末に表示中の画像の少なくとも一部領域である部分画像を表示させる構成が記載されている。特許文献3には、頭部装着型表示装置において、使用者の頭部姿勢情報に基づいて、情報端末から受信した画像データーが表す画像の一部を表示させる構成が記載されている。
特開2013−92781号公報 特開2012−44429号公報 特開2013−93705号公報
特許文献1に記載された技術では、携帯情報端末に搭載された所定の機能を、頭部装着型表示装置の表示画面において、どのように表示させるかについて十分な工夫がされていないという課題があった。また、特許文献2に記載された技術では、携帯情報端末の部分画像をそのまま頭部装着型表示装置に表示させるため、使用者の眼前が部分画像によって遮られることとなり、利用者は不便を感じる場合があるという課題があった。同様に、特許文献3に記載された技術では、情報端末からの画像データーが表す画像の一部をそのまま頭部装着型表示装置に表示させるため、使用者の眼前が画像によって遮られることとなり、利用者は不便を感じる場合があるという課題があった。
このため、外部装置の表示画面を、頭部装着型表示装置に適した画像の表示態様を用いて、頭部装着型表示装置に表示させることが望まれていた。そのほか、頭部装着型表示装置には、ユーザビリティーの向上、汎用性の向上、利便性の向上、信頼性の向上、製造コストの低減といった、種々の要望があった。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態として実現することが可能である。
(1)本発明の一形態によれば、使用者が虚像と外景を視認可能な頭部装着型表示装置が提供される。この頭部装着型表示装置は;前記頭部装着型表示装置に接続されている外部装置が有する複数の画像の配置を、前記頭部装着型表示装置用に変更して一覧画像を生成する生成部と;前記生成された一覧画像を前記虚像として前記使用者に視認させる画像表示部と、を備える。この形態の頭部装着型表示装置によれば、画像表示部は、外部装置が有する複数の画像の配置を、頭部装着型表示装置用に変更して生成された一覧画像を、虚像として使用者に視認させる。外部装置の画像とは、外部装置の表示画面に表示される画像である。この画像の配置を頭部装着型表示装置用に変更することは、すなわち、外部装置の表示画面を、頭部装着型表示装置に適した画像の表示態様に変更することを意味する。この結果、画像表示部は、外部装置の表示画面を、頭部装着型表示装置に適した画像の表示態様を用いて、頭部装着型表示装置に表示させることができる。
(2)上記形態の頭部装着型表示装置では、さらに;前記外部装置から前記複数の画像を取得する取得部を備え;前記生成部は、前記取得された複数の画像の配置を前記虚像の中心部を回避した位置へと変更することによって、前記一覧画像を生成してもよい。この形態の頭部装着型表示装置によれば、画像表示部は、画像の配置が虚像の中心部を回避した位置へと変更された一覧画像を表示させるため、使用者の眼前が画像によって遮られることを抑制することができる。この結果、画像表示部は、外部装置の表示画面を、頭部装着型表示装置に適した画像の表示態様を用いて、頭部装着型表示装置に表示させることができる。
(3)上記形態の頭部装着型表示装置では、さらに;前記一覧画像に対する前記使用者の操作を取得する操作取得部と;前記取得された操作が一の画像に対する操作であった場合に、前記外部装置における前記一の画像の位置を識別するための位置情報と、前記外部装置における前記一の画像のリンク先を識別するためのリンク先情報と、のうちの少なくとも一方を、前記外部装置に対して通知する通知部と、を備えてもよい。この形態の頭部装着型表示装置によれば、通知部は、頭部装着型表示装置に表示されている一覧画像の一の画像に対する操作が行われた場合に、外部装置に対して、位置情報とリンク先情報との内の少なくとも一方を通知する。位置情報は外部装置における一の画像の位置を識別するための情報であるため、座標等を用いた文字列標記が可能であり、データー量が小さい。同様に、リンク先情報は外部装置における一の画像のリンク先を識別するための情報であるため、ファイルパス等を用いた文字列標記が可能であり、データー量が小さい。従って、この形態の頭部装着型表示装置によれば、頭部装着型表示装置から外部装置へ送信される情報のデーター量を小さくすることができ、通信負荷を低減することができる。
(4)上記形態の頭部装着型表示装置において;前記取得部は、前記複数の画像と共に、前記外部装置における前記複数の画像の位置をそれぞれ識別するための位置情報と、前記外部装置における前記複数の画像のリンク先をそれぞれ識別するためのリンク先情報と、のうちの少なくとも一方を取得し;前記生成部は、前記一覧画像を生成する際に、前記画像と、前記画像の前記位置情報または前記画像の前記リンク先情報と、を対応付けて記憶し;前記通知部は、前記対応付けを用いて、前記一の画像の前記位置情報と、前記一の画像の前記リンク先情報と、のうちの少なくとも一方を通知してもよい。この形態の頭部装着型表示装置によれば、通知部は、画像と画像の位置情報または画像のリンク先情報との対応付けを用いて、簡単に、操作された一の画像の位置情報またはリンク先情報を通知することができる。
(5)上記形態の頭部装着型表示装置において;前記生成部は、前記前記画面一覧画像を生成する際に、さらに、前記取得された複数の画像に対して、形状の変更と、透過率の変更と、色の変更と、大きさの変更と、装飾の付与と、のうちの少なくともいずれかを実施してもよい。この形態の頭部装着型表示装置によれば、生成部は、画像に対して、形状の変更と、透過率の変更と、色の変更と、大きさの変更と、装飾の付与と、のうちの少なくともいずれかを実施する。この結果、画像表示部は、外部装置の表示画面をより一層頭部装着型表示装置に適した画像の表示態様とすることができる。
(6)上記形態の頭部装着型表示装置において;前記生成部は、前記取得された複数の画像から、所定の条件を満たす少なくとも一部の画像を抽出し、前記抽出された画像の配置を変更することによって、前記一覧画像を生成してもよい。この形態の頭部装着型表示装置によれば、生成部は、一覧画像に配置される画像を、所定の条件を用いてフィルタリングすることができる。例えば、所定の条件を使用者によって任意に設定可能とすれば、画像表示部は、使用者の好みの画像が残るようにフィルタリングされた一覧画像を使用者に視認させることが可能となるため、使用者の利便性を向上させることができる。
(7)上記形態の頭部装着型表示装置において;前記複数の画像には、少なくとも、前記外部装置にインストールされているアプリケーションの起動用のアイコン画像が含まれてもよい。この形態の頭部装着型表示装置によれば、画像には、外部装置にインストールされているアプリケーションの起動用のアイコン画像を含むことができる。
(8)上記形態の頭部装着型表示装置において;前記生成部は、前記一覧画像に対して、さらに、前記頭部装着型表示装置が有する複数の画像を、前記外部装置の前記複数の画像と識別可能な態様で配置してもよい。この形態の頭部装着型表示装置によれば、画像表示部は、外部装置の画像と、頭部装着型表示装置の画像と、の両方を、識別可能な態様で使用者に視認させることができるため、使用者の利便性を向上させることができる。
(9)本発明の一形態によれば、画像表示システムが提供される。この画像表示システムは;使用者が虚像と外景を視認可能な頭部装着型表示装置と;前記頭部装着型表示装置に接続されている外部装置と、を備え;前記外部装置は;前記外部装置が有する複数の画像を取得すると共に、前記取得された複数の画像を前記頭部装着型表示装置へ送信する送信部を備え;前記頭部装着型表示装置は;前記外部装置の前記複数の画像の配置を、前記頭部装着型表示装置用に変更して一覧画像を生成する生成部と;前記生成された一覧画像を前記虚像として前記使用者に視認させる画像表示部と、を備える。
上述した本発明の各形態の有する複数の構成要素は全てが必須のものではなく、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、適宜、前記複数の構成要素の一部の構成要素について、その変更、削除、新たな構成要素との差し替え、限定内容の一部削除を行うことが可能である。また、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、上述した本発明の一形態に含まれる技術的特徴の一部または全部を上述した本発明の他の形態に含まれる技術的特徴の一部または全部と組み合わせて、本発明の独立した一形態とすることも可能である。
例えば、本発明の一形態は、生成部と、画像表示部と、の2つの要素のうちの一部または全部の要素を備えた装置として実現可能である。すなわち、この装置は、生成部を有していてもよく、有していなくてもよい。また、この装置は、画像表示部を有していてもよく、有していなくてもよい。こうした装置は、例えば頭部装着型表示装置として実現できるが、頭部装着型表示装置以外の他の装置としても実現可能である。前述した頭部装着型表示装置の各形態の技術的特徴の一部または全部は、いずれもこの装置に適用することが可能である。
なお、本発明は、種々の態様で実現することが可能であり、例えば、頭部装着型表示装置、頭部装着型表示装置の制御方法、頭部装着型表示装置を用いた画像表示システム、これらの方法、装置またはシステムの機能を実現するためのコンピュータープログラム、そのコンピュータープログラムを記録した記録媒体等の形態で実現することができる。
本発明の一実施形態における画像表示システム1000の概略構成を示す説明図である。 ヘッドマウントディスプレイ100の構成を機能的に示すブロック図である。 フレーム情報122に記憶されているフレームの一例を示す説明図である。 再配置処理の手順を示すシーケンス図である。 アイコン画像の情報について説明するための説明図である。 ヘッドマウントディスプレイ100において一覧画像が表示されている様子を示す説明図である。 通知処理の手順を示すシーケンス図である。 フレーム情報122に記憶されているフレームの他の例を示す説明図である。 ヘッドマウントディスプレイ100においてフレームFM2を用いて生成された一覧画像が表示されている様子を示す説明図である。 フレーム情報122に記憶されているフレームの他の例を示す説明図である。 ヘッドマウントディスプレイ100においてフレームFM3を用いて生成された一覧画像が表示されている様子を示す説明図である。 第2実施形態におけるヘッドマウントディスプレイ100aの構成を機能的に示すブロック図である。 第2実施形態における再配置処理の手順を示すシーケンス図である。 ヘッドマウントディスプレイ100aにおいて第2実施形態の一覧画像が表示されている様子を示す説明図である。 変形例におけるヘッドマウントディスプレイの外観の構成を示す説明図である。
A.第1実施形態:
A−1.画像表示システムの構成:
図1は、本発明の一実施形態における画像表示システム1000の概略構成を示す説明図である。画像表示システム1000は、頭部装着型表示装置100と、外部装置としての携帯情報端末300とを備えている。画像表示システム1000は、携帯情報端末300の表示画面を、頭部装着型表示装置100に適した画像の表示態様を用いて、頭部装着型表示装置100に表示させるシステムである。
頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態のヘッドマウントディスプレイ100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。携帯情報端末300は、携帯可能な情報通信端末である。本実施形態では、携帯情報端末として、スマートフォン(smartphone)を例示する。ヘッドマウントディスプレイ100と、スマートフォン300とは、無線通信または有線通信可能に接続されている。
A−2.頭部装着型表示装置の構成:
図2は、ヘッドマウントディスプレイ100の構成を機能的に示すブロック図である。図1、2に示すように、ヘッドマウントディスプレイ100は、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御部(コントローラー)10とを備えている。画像表示部20と制御部10とは、接続部40によって接続され、接続部40を介して各種信号の伝送を行う。接続部40には、金属ケーブルや光ファイバーを採用することができる。
A−2−1.制御部の構成:
制御部10は、ヘッドマウントディスプレイ100を制御するための装置である。制御部10は、入力情報取得部110と、記憶部120と、電源130と、無線通信部132と、GPSモジュール134と、CPU140と、インターフェイス180と、送信部(Tx)51および52とを備え、各部は図示しないバスにより相互に接続されている(図2)。
入力情報取得部110は、例えば、タッチパッド、十字キー、フットスイッチ(使用者の足により操作するスイッチ)、ジェスチャー検出(カメラ等を用いて使用者のジェスチャーを検知し、ジェスチャーに対応付けられたコマンドによる操作入力を取得する)、視線検出(赤外線センサー等を用いて使用者の視線を検出し、視線の動きに対応付けられたコマンドによる操作入力を取得する)、マイクロホン等の入力デバイスに対する操作入力に応じた信号を取得する。なお、ジェスチャー検出の際は、使用者の指先や、使用者の手に付けられた指輪や、使用者が手に持つ道具等を動き検出のための目印にしてもよい。フットスイッチ、視線検出、マイクロホンによる操作入力を取得することとすれば、使用者が手を用いて操作することが困難な現場(例えば、医療現場、建設業や製造業などの手元作業を必要とする現場など)において、ヘッドマウントディスプレイ100が使用される場合の、使用者の利便性を大きく向上させることができる。
記憶部120は、ROM、RAM、DRAM、ハードディスク等によって構成されている。記憶部120は、フレーム情報122と、対応関係124とを含んでいる。フレーム情報122には、少なくとも1つのフレームが記憶されている。フレーム情報122に記憶されているフレームは、生成部142によって実行される再配置処理(図4)において、画像を再配置するための枠として使用される。ここで、再配置処理とは、スマートフォン300が有する複数の画像の配置を、ヘッドマウントディスプレイ100に適した画像の表示態様に変更し、ヘッドマウントディスプレイ100に表示させるための処理である。
以降の本実施形態では、「スマートフォン300が有する複数の画像」の具体例として、「スマートフォン300の表示画面に表示されるアイコン画像」を例示して説明する。ここで、「アイコン画像」とは、プログラムやデバイスの内容を図、絵、文字、記号等を用いて分かり易く表現した画像である。本実施形態の「アイコン画像」は、スマートフォン300にインストールされているアプリケーションの起動用の画像を意味する。なお、「アイコン画像」には、このほか、スマートフォン300にインストールされているアプリケーション(いわゆるウィジェットやガジェット)によって描画されている画像や、スマートフォン300に記憶されているデーター(各種のファイル)の起動用の画像、スマートフォン300に含まれるデバイスの存在を表す画像等を含んでもよい。アイコン画像は、換言すれば、アプリケーション(プログラム)やデーターやデバイスを抽象化したシンボルとも言える。
図3は、フレーム情報122に記憶されているフレームの一例を示す説明図である。図3に示すフレームFM1は、長方形状の領域(以降、「フレームFM1の領域」とも呼ぶ。)の内側に、画像リストLT1が配置された構成を有する。フレームFM1の領域は、ヘッドマウントディスプレイ100の表示素子(図2:右LCD241、左LCD242)の縦横比と同じ縦横比を有することが好ましい。
画像リストLT1は、後述の再配置処理(図4)において、アイコン画像が実際に配置される領域である。図3の例では、画像リストLT1は、フレームFM1の領域の左端の全体にわたって配置されている。なお、画像リストLT1は、フレームFM1の領域の任意の場所に配置することができる。ただし、フレームFM1を用いて生成された一覧画像がヘッドマウントディスプレイ100に表示された際、使用者の視界を妨げないという観点から、画像リストLT1は、フレームFM1の中心部を回避した位置(例えば四辺に近接する領域内)に配置されることが好ましい。具体的には、例えば、画像リストLT1は、フレームFM1の領域の左端の一部に配置されてもよく、フレームFM1の領域の右端の一部または全体に配置されてもよく、フレームFM1の領域の上端の一部または全体に配置されてもよく、フレームFM1の領域の下端の一部または全体に配置されてもよい。
画像リストLT1は、複数(図の例では12個)の長方形状の画像枠B1〜B12を含んでいる。画像枠B1〜B12は、画像リストLT1内において、長方形状の長辺が互いに隣接するように配置されている。画像枠B1〜B12は、後述の再配置処理(図4)において、スマートフォン300が有するアイコン画像を配置するための領域である。
図2の対応関係124は、スマートフォン300のアイコン画像と、スマートフォン300におけるアイコン画像の位置を識別するための位置情報(詳細は後述)またはスマートフォン300におけるアイコン画像のリンク先を識別するためのリンク先情報(詳細は後述)の内の少なくとも一方と、を対応付けて記憶するための記憶部である。対応関係124への対応付けの記憶は、後述の再配置処理(図4)において、生成部142が一覧画像を生成する際に行われる。
電源130は、ヘッドマウントディスプレイ100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。無線通信部132は、所定の無線通信規格(例えば、赤外線、Bluetooth(登録商標)に例示される近距離無線通信、IEEE802.11に例示される無線LAN等)に則って、外部装置との間で無線通信を行う。外部装置とは、ヘッドマウントディスプレイ100以外の他の機器を意味し、図1に示したスマートフォン300のほか、タブレット、パーソナルコンピューター、ゲーム端末、AV(Audio Video)端末、家電製品等がある。GPSモジュール134は、GPS衛星からの信号を受信することにより、ヘッドマウントディスプレイ100の使用者の現在位置を検出し、使用者の現在位置情報を表す現在位置情報を生成する。なお、現在位置情報は、例えば緯度経度を表す座標によって実現することができる。
CPU140は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、生成部142、通知部144、オペレーティングシステム(ОS)150、画像処理部160、音声処理部170、表示制御部190として機能する。
生成部142は、再配置処理(図4)において、スマートフォン300から取得されたアイコン画像の配置を変更し、一覧画像を生成する。通知部144は、通知処理(図7)において、一覧画像からアイコン画像に対する操作が行われた場合に、操作された一のアイコン画像の位置情報またはリンク先情報のうちの少なくとも一方を、スマートフォン300へ通知する。
画像処理部160は、生成部142や、インターフェイス180や、無線通信部132等からOS150を介して入力される映像信号に基づいて信号を生成する。画像処理部160は、生成した信号を、接続部40を介して画像表示部20に供給することで、画像表示部20における表示を制御する。画像表示部20に供給するための信号は、アナログ形式とディジタル形式の場合で異なる。
例えば、ディジタル形式の場合、ディジタルR信号と、ディジタルG信号と、ディジタルB信号と、クロック信号PCLKとが同期した状態の映像信号が入力される。画像処理部160は、ディジタルR信号、ディジタルG信号、ディジタルB信号からなる画像データーDataに対して、必要に応じて周知の解像度変換処理、輝度彩度の調整などの種々の色調補正処理、キーストーン補正処理等の画像処理を実行する。その後、画像処理部160は、クロック信号PCLKと、画像データーDataとを、送信部51、52を介して送信する。
アナログ形式の場合、アナログR信号と、アナログG信号と、アナログB信号と、垂直同期信号VSyncと、水平同期信号HSyncとからなる映像信号が入力される。画像処理部160は、入力された信号から垂直同期信号VSyncと水平同期信号HSyncを分離し、それらの周期に応じて、図示しないPLL回路等を用いてクロック信号PCLKを生成する。また、画像処理部160は、アナログR信号と、アナログG信号と、アナログB信号とを、A/D変換回路等を用いてディジタル信号に変換する。画像処理部160は、変換後のディジタルR信号、ディジタルG信号、ディジタルB信号からなる画像データーDataに対して、必要に応じて周知の画像処理を実行した後、クロック信号PCLKと、画像データーDataと、垂直同期信号VSyncと、水平同期信号HSyncとを、送信部51、52を介して送信する。なお、以降では、送信部51を介して送信される画像データーDataを「右眼用画像データーData1」とも呼び、送信部52を介して送信される画像データーDataを「左眼用画像データーData2」とも呼ぶ。
表示制御部190は、画像表示部20が有する右表示駆動部22と左表示駆動部24とを制御する制御信号を生成する。制御信号とは、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFを個別に切り替えるための信号である。表示制御部190は、これらの制御信号によって、右表示駆動部22と左表示駆動部24とにおける画像光の生成および射出を制御する。表示制御部190は、生成した制御信号を、送信部51、52を介して送信する。
音声処理部170は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、右イヤホン32の図示しないスピーカーと、左イヤホン34の図示しないスピーカーとに対して供給する。
インターフェイス180は、所定の有線通信規格(例えば、USB(Universal Serial Bus)、HDMI(High Definition Multimedia Interface、HDMIは登録商標)、DVI(Digital Visual Interface)、VGA(Video Graphics Array)、コンポジット、RS−232C(Recommended Standard 232)、IEEE802.3に例示される有線LAN等)に則って、外部装置との間で無線通信を行う。外部装置とは、ヘッドマウントディスプレイ100以外の他の機器を意味し、図1に示したスマートフォン300のほか、タブレット、パーソナルコンピューター、ゲーム端末、AV端末、家電製品等がある。
A−2−2.画像表示部の構成:
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26(図1)と、左光学像表示部28(図1)と、9軸センサー66とを含んでいる。
右表示駆動部22と左表示駆動部24とは、使用者が画像表示部20を装着した際の使用者のこめかみに対向する位置に配置されている。本実施形態における右表示駆動部22と左表示駆動部24とは、液晶ディスプレイ(Liquid Crystal Display、以下「LCD」と呼ぶ)や投写光学系を用いて、画像を表す画像光を生成し射出する。右表示駆動部22は、受信部(Rx)53と、光源として機能する右バックライト(BL)制御部201および右バックライト(BL)221と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251とを含んでいる。
受信部53は、送信部51から送信されるデーターを受信する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、入力されたクロック信号PCLKと右眼用画像データーData1と、垂直同期信号VSyncと、水平同期信号HSyncとに基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。右LCD241は、マトリクス状に配置された各画素位置の液晶を駆動することによって、右LCD241を透過する光の透過率を変化させることにより、右バックライト221から照射される照明光を、画像を表す有効な画像光へと変調する。右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。
左表示駆動部24は、右表示駆動部22とほぼ同様の構成を有し、右表示駆動部22と同様に動作する。すなわち、左表示駆動部24は、受信部(Rx)54と、光源として機能する左バックライト(BL)制御部202および左バックライト(BL)222と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252とを含んでいる。詳細な説明は省略する。なお、本実施形態ではバックライト方式を採用することとしたが、フロントライト方式や、反射方式を用いて画像光を射出してもよい。
右光学像表示部26と左光学像表示部28とは、使用者が画像表示部20を装着した際に使用者の左右の眼前にそれぞれ位置するように配置されている(図1参照)。右光学像表示部26は、右導光板261と、図示しない調光板を含んでいる。右導光板261は、光透過性の樹脂材料等によって形成されている。右導光板261は、右表示駆動部22から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REへ導く。右導光板261には、回折格子を用いても良いし半透過反射膜を用いても良い。調光板は、薄板状の光学素子であり、画像表示部20の表側を覆うように配置されている。調光板は、右導光板261を保護し、右導光板261の損傷や汚れの付着等を抑制する。また、調光板の光透過率を調整することによって、使用者の眼に入る外光量を調整して虚像の視認のしやすさを調整することができる。なお、調光板は省略可能である。
左光学像表示部28は、右光学像表示部26とほぼ同様の構成を有し、右光学像表示部26と同様に動作する。すなわち、左光学像表示部28は、左導光板262と、図示しない調光板を含み、左表示駆動部24から出力された画像光を、使用者の左眼LEへ導く。詳細な説明は省略する。
このようにして、ヘッドマウントディスプレイ100の使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、使用者は虚像を視認することができる。なお、本明細書において、「ヘッドマウントディスプレイ100が画像を表示する」ことには、ヘッドマウントディスプレイ100の使用者に対して虚像を視認させることも含む。
9軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)を検出するモーションセンサーである。9軸センサー66は、画像表示部20に設けられているため、画像表示部20が使用者の頭部に装着されているときには、ヘッドマウントディスプレイ100の使用者の頭部の動きを検出する動き検出部として機能する。ここで、頭部の動きとは、頭部の速度・加速度・角速度・向き・向きの変化を含む。
A−3.再配置処理:
図4は、再配置処理の手順を示すシーケンス図である。再配置処理は、スマートフォン300の表示画面に表示されるアイコン画像の配置を、ヘッドマウントディスプレイ100に適した画像の表示態様に変更した一覧画像を生成し、生成された一覧画像をヘッドマウントディスプレイ100に表示させる処理である。再配置処理は、主として生成部142により実行される。
ステップS100において、再配置処理を行うためのアプリケーションが起動される。ステップS100のアプリケーションの起動は、入力情報取得部110が使用者による起動操作を検出したことをトリガーとしてもよく、他のアプリケーションからの起動命令の検出をトリガーとしてもよい。ステップS100のアプリケーションの起動によって、CPU140に対して、生成部142および通知部144の機能が実現される。
ステップS102において無線通信部132またはインターフェイス180は、スマートフォン300が接続されたことを検出する。なお、以降では、ヘッドマウントディスプレイ100とスマートフォン300とがIEEE802.11に準拠した無線LANを用いて通信する場合を例示する。ステップS104において生成部142は、無線通信部132を介して接続されているスマートフォン300の認証を行う。この認証は、種々の認証技術を利用して実施することが可能である。例えば、生成部142は、スマートフォン300のMAC(Media Access Control)アドレスを用いてスマートフォン300を認証してもよく、ユーザー名とパスワードを用いてスマートフォン300を認証してもよい。また、生成部142は、認証局が発行するディジタル証明書を用いてスマートフォン300を認証してもよく、使用者の身体的特徴(顔、指紋、声紋)を認識してスマートフォン300を認証してもよい。ステップS104における認証が成功した後、ステップS106において生成部142は、スマートフォン300との間でコネクションを確立する。
ステップS108においてスマートフォン300は、スマートフォン300の表示画面に表示されているアイコン画像の情報を収集する。
図5は、アイコン画像の情報について説明するための説明図である。図4のステップS108においてスマートフォン300が収集するアイコン画像の情報には、アイコン画像60と、アイコン画像の座標70と、アイコン画像のリンク先80と、が含まれる。
アイコン画像60は、スマートフォン300の表示画面のうちの、いわゆる「待ち受け画面」に表示されているアイコン画像の集合である。図5の例では、アイコン画像60には、カメラのアプリケーションの起動用のアイコン画像61と、SNSサービスのアプリケーションの起動用のアイコン画像62と、スピーカーのアプリケーションの起動用のアイコン画像63と、メールサービスのアプリケーションの起動用のアイコン画像64とが含まれている。
アイコン画像の座標70は、スマートフォン300の待ち受け画面において、アイコン画像60(図の例ではアイコン画像61〜64)が配置されている位置を識別するための座標の集合である。アイコン画像の座標70は、スマートフォン300の表示画面の所定の点(例えば、左上端部)を原点(0、0)と定めたうえで、原点に対するアイコン画像の中心位置の移動量(x、y)として定義することができる。アイコン画像の座標70は「位置情報」として機能する。図5の例では、アイコン画像の座標70には、アイコン画像61の座標(xa、ya)と、アイコン画像62の座標(xb、yb)と、アイコン画像63の座標(xc、yc)と、アイコン画像64の座標(xd、yd)とが含まれている。
アイコン画像のリンク先80は、スマートフォン300に表示されているアイコン画像60(図の例ではアイコン画像61〜64)が表すアプリケーションの実行ファイルのリンク先(換言すれば、実行ファイルのファイルパス)の集合である。なお、アイコン画像が、スマートフォン300に記憶されているデーターの起動用の画像である場合、アイコン画像のリンク先は、データーのリンク先(換言すれば、データのファイルパス)となる。アイコン画像のリンク先80は「リンク先情報」として機能する。図5の例では、アイコン画像のリンク先80には、アイコン画像61のリンク先である「/sdcard/android/data/XXXa」と、アイコン画像62のリンク先である「/sdcard/android/data/XXXb」と、アイコン画像63のリンク先である「/sdcard/android/data/XXXc」と、アイコン画像64のリンク先である「/sdcard/android/data/XXXd」とが含まれている。
このように、図4のステップS108においてスマートフォン300は、スマートフォン300の表示画面に表示されている全て(例えばn個とする)のアイコン画像について、n組のアイコン画像と、アイコン画像の座標と、アイコン画像のリンク先と、からなるアイコン画像60と、アイコン画像の座標70と、アイコン画像のリンク先80とを「アイコン画像の情報」として収集する。なお、アイコン画像の座標70と、アイコン画像のリンク先80とは、いずれか一方を省略してもよい。その後、ステップS110においてスマートフォン300は、ステップS108で収集したアイコン画像の情報を、ヘッドマウントディスプレイ100へ送信する。
ステップS112において生成部142は、無線通信部132を介してアイコン画像の情報を取得する。このとき、生成部142と無線通信部132とは「取得部」として機能する。アイコン画像の情報を取得後、ステップS112において生成部142は、アイコン画像の情報をフィルタリングする。例えば、生成部142は、以下に挙げる条件a1〜a3の少なくとも1つ以上の条件を用いて、アイコン画像の情報をフィルタリングすることができる。
(a1)生成部142は、アイコン画像の情報における重複した情報を破棄する。具体的には、生成部142は、アイコン画像の情報に、アイコン画像のリンク先80の内容が同一で、かつ、アイコン画像の座標70の内容が異なる複数の情報が含まれる場合、「同一のリンク先を参照する複数の(重複した)アイコン画像が存在する」とみなして、いずれか一方の情報を破棄する。このようにすれば、生成部142は、同一のリンク先を参照する重複したアイコン画像が、一覧画像に含まれることを抑制することができる。
(a2)生成部142は、アイコン画像が表すアプリケーションに応じて、一部の情報を破棄する。具体的には、生成部142は、アイコン画像のリンク先80(81〜8n)の内容から、個々のアイコン画像60(61〜6n)が表すアプリケーションを特定する。生成部142は、特定したアプリケーションが、所定のアプリケーションである場合、当該アイコン画像についての情報を破棄する。このようにすれば、生成部142は、所定のアプリケーションについてのアイコン画像が、一覧画像に含まれることを抑制することができる。ここで、「所定のアプリケーション」を、例えば、ヘッドマウントディスプレイ100において実行不可能なアプリケーションとすれば、生成部142は、ヘッドマウントディスプレイ100において実行不可能なアプリケーションのアイコン画像が、一覧画像に含まれることを抑制することができる。
(a3)生成部142は、アイコン画像が表すアプリケーション(またはデーター)の使用頻度に応じて、一部の情報を破棄する。この場合、スマートフォン300が収集、送信するアイコン画像の情報には、さらに、個々のアイコン画像60(61〜6n)が表すアプリケーション(またはデーター)の使用頻度を含ませる。生成部142は、使用頻度が所定の頻度以下である場合、当該アイコン画像についての情報を破棄する。このようにすれば、生成部142は、スマートフォン300において使用頻度の低いアプリケーション(またはデーター)のアイコン画像が、一覧画像に含まれることを抑制することができる。
なお、ステップS112におけるフィルタリングの条件は、使用者によって任意に設定可能としてもよい。そうすれば、使用者は、自分の好みのアイコン画像が残るようにフィルタリングされた一覧画像を視認することが可能となるため、使用者の利便性を向上させることができる。
ステップS114において生成部142は、アイコン画像の情報をグルーピングし、ソートする。例えば、生成部142は、以下に挙げる条件b1〜b3の少なくとも1つ以上の条件を用いて、アイコン画像の情報をグルーピングやソートをすることができる。
(b1)生成部142は、アイコン画像の種類に応じて、アイコン画像の情報をグルーピング、ソートする。ここで、アイコン画像の種類とは、個々のアイコン画像60(61〜6n)が、(i)スマートフォン300にインストールされているアプリケーションの起動用の画像であるか、(ii)スマートフォン300にインストールされているアプリケーション(ウィジェットやガジェット)によって描画されている画像であるか、(iii)スマートフォン300に記憶されているデーターの起動用の画像であるか、を意味する(ステップS108参照)。
(b2)生成部142は、アイコン画像が表すアプリケーション(またはデーター)の名前や種類に応じて、アイコン画像の情報グルーピング、ソートする。なお、アプリケーション(またはデーター)の名前は、アイコン画像のリンク先80の内容から取得可能である。
(b3)生成部142は、アイコン画像が表すアプリケーション(またはデーター)の使用頻度に応じて、アイコン画像の情報をグルーピング、ソートする。なお、アプリケーション(またはデーター)の使用頻度の取得方法は、上記の条件a3と同様である。
このように、条件b1〜b3を用いれば、生成部142は、アイコン画像の情報を、種々の条件を用いてグルーピングやソートをすることができる。この結果、一覧画像における個々のアイコン画像60(61〜6n)の視認性を向上させることができる。
ステップS116において生成部142は、ステップS114の終了後のアイコン画像の情報を用いて、フレームFM1(図3)にアイコン画像60を配置することで、一覧画像を生成する。具体的には、生成部142は、フレーム情報122からフレームFM1を取得し、取得したフレームFM1の画像リストLT1の画像枠B1〜B12に対して、ソート後のアイコン画像の情報に含まれる個々のアイコン画像60(61〜6n)を順次配置する。生成部142は、画像枠B1〜B12に対してアイコン画像60を配置する際、個々のアイコン画像60(61〜6n)に対して、以下のc1〜c5に例示するような加工を施してもよい。なお、加工c1〜c5は、単独で採用されてもよく、組み合わせて採用されてもよい。
(c1)生成部142は、アイコン画像の形状を変更する。例えば、生成部142は、四角形状のアイコン画像を円形状に変更することができる。
(c2)生成部142は、アイコン画像の透過率を変更する。例えば、生成部142は、アイコン画像の透過率を上下させることができる。アイコン画像の透過率を上げれば、虚像として表示されている一覧画像を視認した際に、使用者の視界がアイコン画像によって妨げられることを抑制することができる。
(c3)生成部142は、アイコン画像に対して色変換処理を施す。例えば、画像表示部20に対して、使用者の視界方向の外景(外部の景色)を撮像し、外景画像を取得するカメラを備える構成とする。そして、生成部142は、アイコン画像に対して外景画像の補色を強める色変換処理を施す。このようにすれば、生成部142は、アイコン画像を外景と比して目立たせることができる。
(c4)生成部142は、アイコン画像の大きさを変更する。例えば、生成部142は、アイコン画像を画像枠B1〜B12の大きさに合わせて拡大、縮小する。
(c5)生成部142は、アイコン画像に文字、図形、記号等の装飾を付加する。例えば、生成部142は、アイコン画像に対して、アイコン画像を説明するための文字を追加することができる。このようにすれば、虚像として表示されている一覧画像を視認した際に、使用者は、各アイコン画像が何であるかを識別しやすくなる。また、例えば、生成部142は、アイコン画像に対して、アイコン画像の周囲を縁取る枠を追加することもできる。このようにすれば、生成部142は、アイコン画像を外景と比して目立たせることができる。
ステップS118において生成部142は、フレームFM1上のアイコン画像60の座標と、位置情報またはリンク先情報の内の少なくとも一方と、を対応付けて、対応関係124に記憶させる。フレームFM1上のアイコン画像60の座標は、フレームFM1の所定の点(例えば、左上端部)を原点(0、0)と定めたうえで、原点に対するアイコン画像の中心位置の移動量(x、y)として定義することができる。生成部142は、上記のようにして、フレームFM1上の個々のアイコン画像60(61〜6n)の座標をそれぞれ求める。生成部142は、求めたフレームFM1上の座標と、対応するアイコン画像の座標70(71〜7n)または対応するアイコン画像のリンク先80(81〜8n)と、を対応関係124に記憶させる。
ステップS120において生成部142は、ヘッドマウントディスプレイ100に一覧画像を表示させる。具体的には、生成部142は、ステップS116で生成した一覧画像を画像処理部160へ送信する。一覧画像を受信した画像処理部160では、上述の表示処理が行われる。この結果、ヘッドマウントディスプレイ100の使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、ヘッドマウントディスプレイ100の使用者は、視野に一覧画像の虚像を視認することができる。換言すれば、ヘッドマウントディスプレイ100は、一覧画像を表示することができる。
図6は、ヘッドマウントディスプレイ100において、一覧画像が表示されている様子を示す説明図である。図6(A)は、画像リストLT1が折り畳まれた状態の一覧画像を表す。図6(B)は、画像リストLT1が展開された状態の一覧画像を表す。図6(A)に示すように、画像処理部160は、使用者による操作が検出されない間は、画像リストLT1が折り畳まれた状態の一覧画像を表示させる。そして、折り畳まれた画像リストLT1に対する使用者の所定の操作(例えば、クリック、ダブルクリック、ドラッグ、オンフォーカス、タップ、ダブルタップ、フリック等)を入力情報取得部110が取得したことをトリガーとして、図6(B)に示すように、画像リストLT1が展開された状態の一覧画像を表示させる。なお、画像処理部160は、図6(A)の状態を省略してもよい。この場合、図6(B)に示す一覧画像が常に表示される。
図6に示すように、ヘッドマウントディスプレイ100の使用者は、視野VRにおいて、フレームFM1に配置された一覧画像の虚像VIを視認することができる。このとき、使用者は、右光学像表示部26および左光学像表示部28(図1)を透過して外景SCを視認することができる。換言すれば、本実施形態のヘッドマウントディスプレイ100の使用者は、視野VRのうち虚像VIが表示された部分については、虚像VIと、虚像VIの背後の外景SCとを同時に見ることができる。また、視野VRのうち虚像VIが表示されていない部分については、左右の光学像表示部26、28を透過して、外景SCを直接見ることができる。
以上のように、第1実施形態の再配置処理によれば、画像表示部20は、スマートフォン300(外部装置)が有するアイコン画像60の配置を、ヘッドマウントディスプレイ100(頭部装着型表示装置)用に変更して生成された一覧画像を、虚像VIとして使用者に視認させる。スマートフォン300が有するアイコン画像60とは、スマートフォン300の表示画面に表示される画像である。このアイコン画像60の配置をヘッドマウントディスプレイ100用に変更することは、すなわち、スマートフォン300の表示画面を、ヘッドマウントディスプレイ100に適した画像の表示態様に変更することを意味する。この結果、画像表示部20は、スマートフォン300の表示画面を、ヘッドマウントディスプレイ100に適した画像の表示態様を用いて、ヘッドマウントディスプレイ100に表示させることができる。
また、第1実施形態の再配置処理によれば、生成部142は、フレームFM1の中心部を回避した位置(例えば四辺に近接する領域内)に画像リストLT1(アイコン画像60が実際に配置される領域)が配置されたフレームFM1を用いて、一覧画像を生成する。このため、画像表示部20は、アイコン画像60の配置が虚像VIの中心部を回避した位置へと変更された一覧画像を表示させることができる。従って、使用者の眼前がアイコン画像60によって遮られることを抑制することができる。
A−4.通知処理:
図7は、通知処理の手順を示すシーケンス図である。通知処理は、ヘッドマウントディスプレイ100に表示されている一覧画像から一のアイコン画像が操作された場合に、操作された一のアイコン画像の位置情報またはリンク先情報をスマートフォン300へ通知する処理である。通知処理は、主として通知部144により実行される。
ステップS200において入力情報取得部110は、ヘッドマウントディスプレイ100に表示されている一覧画像の中の任意のアイコン画像に対する操作を検出し、操作が行われたアイコン画像の座標(x、y)を取得する。この時、入力情報取得部110は「操作取得部」として機能する。ステップS202において通知部144は、入力情報取得部110から座標(x、y)を受信し、受信した座標をキーとして対応関係124の「フレームFM1上のアイコン画像60の座標」を検索し、対応する位置情報(スマートフォン300上のアイコン画像の座標70)またはリンク先情報(スマートフォン300上のアイコン画像のリンク先80)を取得する。
ステップS204において通知部144は、取得した位置情報またはリンク先情報をスマートフォン300へ送信する。なお、ステップS204において通知部144は、位置情報とリンク先情報との両方をスマートフォン300へ通知してもよい。また、ステップS204において通知部144は、位置情報またはリンク先情報に加えて、ステップS200において検出された操作の内容(例えば、クリック、ダブルクリック、ドラッグ、オンフォーカス、タップ、ダブルタップ、フリック等)をスマートフォン300へ送信してもよい。ステップS206においてスマートフォン300は、ヘッドマウントディスプレイ100から受信した位置情報またはリンク先情報から、操作されたスマートフォン300のアイコン画像を特定し、ステップS200において検出された操作に応じた処理を行う。
以上のように、第1実施形態の通知処理によれば、通知部144は、ヘッドマウントディスプレイ100(頭部装着型表示装置)に表示されている一覧画像の一のアイコン画像に対する操作(例えば、クリック、ダブルクリック、ドラッグ、オンフォーカス、タップ、ダブルタップ、フリック等)が行われた場合に、スマートフォン300(外部装置)に対して、位置情報(スマートフォン300上のアイコン画像の座標70)とリンク先情報(スマートフォン300上のアイコン画像のリンク先80)との内の少なくとも一方を通知する。位置情報はスマートフォン300における一のアイコン画像の位置を識別するための情報であるため、座標等を用いた文字列標記が可能であり、データー量が小さい。同様に、リンク先情報はスマートフォン300における一のアイコン画像のリンク先を識別するための情報であるため、ファイルパス等を用いた文字列標記が可能であり、データー量が小さい。従って、この形態のヘッドマウントディスプレイ100によれば、ヘッドマウントディスプレイ100からスマートフォン300へ送信される情報のデーター量を小さくすることができ、通信負荷を低減することができる。
また、第1実施形態の通知処理によれば、通知部144は、アイコン画像60とアイコン画像の座標70(位置情報)またはアイコン画像のリンク先80(リンク先情報)との対応付けである対応関係124を用いて、簡単に、操作された一のアイコン画像の位置情報またはリンク先情報を通知することができる。
A−5.フレームの他の例:
再配置処理(図4)で使用可能なフレームの他の例について説明する。フレーム情報122には、図3で説明したフレームに代えて、または、図3で説明したフレームと共に、以下に説明する種々のフレームが記憶されていてもよい。フレーム情報122に複数のフレームが記憶されている場合、再配置処理において使用されるフレームは、使用者が任意に選択可能な構成とすることができる。
図8は、フレーム情報122に記憶されているフレームの他の例を示す説明図である。図8に示すフレームFM2は、長方形状の領域(以降、「フレームFM2の領域」とも呼ぶ。)の内側に、画像リストLT2が配置された構成を有する。フレームFM2の領域の横の比率は、ヘッドマウントディスプレイ100の表示素子の横の比率と同じである。また、フレームFM2の領域の縦の比率は、ヘッドマウントディスプレイ100の表示素子の縦の比率よりも大きい。これは、ヘッドマウントディスプレイ100に表示された一覧画像において、鉛直方向PEへの縦スクロールを可能とするためである。なお、図8において、ヘッドマウントディスプレイ100の表示素子の領域を一点鎖線で示す。
画像リストLT2は、再配置処理(図4)において、アイコン画像が実際に配置される領域であり、図8の例では、画像リストLT2は、フレームFM2の領域の右端の全体にわたって配置されている。画像リストLT2は、フレームFM2の領域の任意の場所に配置することができる。ただし、フレームFM2を用いて生成された一覧画像がヘッドマウントディスプレイ100に表示された際、使用者の視界を妨げないという観点から、画像リストLT2は、フレームFM2の中心部を回避した位置(例えば四辺に近接する領域内)に配置されることが好ましい。具体的には、例えば、画像リストLT2は、フレームFM2の領域の右端の一部に配置されてもよく、フレームFM2の領域の左端の一部または全体に配置されてもよく、フレームFM2の領域の上端の一部または全体に配置されてもよく、フレームFM2の領域の下端の一部または全体に配置されてもよい。
画像リストLT2は、複数(図の例では12個)の正方形状の画像枠B1〜B12を含んでいる。画像枠B1〜B12は、画像リストLT2内において、互いに隣接するように配置されている。画像枠B1〜B12は、再配置処理(図4)において、スマートフォン300が有するアイコン画像60を配置するための領域である。なお、画像リストLT2をフレームFM2の上下端に配置する場合、フレームFM2の領域の横の比率を表示素子の横の比率よりも大きくし、フレームFM2の領域の縦の比率を表示素子の縦の比率と同一とする。そうすれば、ヘッドマウントディスプレイ100に表示された一覧画像において、水平方向HFへの横スクロールが可能となる。
図9は、ヘッドマウントディスプレイ100において、フレームFM2を用いて生成された一覧画像が表示されている様子を示す説明図である。図9(A)は、画像リストLT2がスクロールされる前の一覧画像を表す。図9(B)は、画像リストLT2がスクロールされた後の一覧画像を表す。
このように、図8で説明したフレームFM2を用いて一覧画像が生成された場合であっても、図3のフレームFM1を用いた場合と同様の効果を得ることができる。
図10は、フレーム情報122に記憶されているフレームの他の例を示す説明図である。図10に示すフレームFM3は、長方形状の領域(以降、「フレームFM3の領域」とも呼ぶ。)の内側に、4つの画像リストLT3a〜LT3dが配置された構成を有する。フレームFM3の領域は、ヘッドマウントディスプレイ100の表示素子の縦横比と同じ縦横比を有することが好ましい。
4つの画像リストLT3a〜LT3dは、再配置処理(図4)において、アイコン画像が実際に配置される領域である。図10の例では、画像リストLT3aはフレームFM3の上端から中央近傍に向かって台形形状に延伸して配置されている。同様に、画像リストLT3bはフレームFM3の右端から中央近傍に向かって、画像リストLT3cはフレームFM3の下端から中央近傍に向かって、画像リストLT3dはフレームFM3の左端から中央近傍に向かって、それぞれ、台形形状に延伸して配置されている。
画像リストLT3a〜LT3dは、それぞれ、複数(図の例では12個)の台形状の画像枠B1〜B12を含んでいる。画像枠B1〜B12は、画像リストLT3a〜LT3d内において、タイル状に隣接して配置されている。画像枠B1〜B12は、再配置処理(図4)において、スマートフォン300が有するアイコン画像60を配置するための領域である。生成部142は、例えば、ステップS114においてアイコン画像の情報を複数のグループに分割した場合、第1のグループに属するアイコン画像を画像リストLT3aに配置し、第2のグループに属するアイコン画像を画像リストLT3bに配置する、という処理を行うことができる。生成部142は、一覧画像を生成する際、画像リストLT3a〜LT3dを全て使用してもよく、一部のみを使用してもよい。
図11は、ヘッドマウントディスプレイ100において、フレームFM3を用いて生成された一覧画像が表示されている様子を示す説明図である。図11の例では、画像リストLT3bを用いてアイコン画像60が配置されている。
このように、図10で説明したフレームFM3を用いて一覧画像が生成された場合であっても、図3のフレームFM1を用いた場合と同様の効果を得ることができる。
B.第2実施形態:
本発明の第2実施形態では、スマートフォンから取得したアイコン画像に加えて、さらに、ヘッドマウントディスプレイが有するアイコン画像を配置した一覧画像を生成可能な構成について説明する。以下では、第1実施形態と異なる構成および動作を有する部分についてのみ説明する。なお、図中において第1実施形態と同様の構成部分については先に説明した第1実施形態と同様の符号を付し、その詳細な説明を省略する。
B−1.画像表示システムの構成:
第2実施形態における画像表示システムの概略構成は、図1に示す第1実施形態と同様である。
B−2.頭部装着型表示装置の構成:
図12は、第2実施形態におけるヘッドマウントディスプレイ100aの構成を機能的に示すブロック図である。図2に示した第1実施形態との違いは、制御部10に代えて制御部10aを備える点である。制御部10aは、生成部142に代えて生成部142aを備え、通知部144に代えて通知部144aを備える。生成部142aは、再配置処理の処理内容が図4で説明した第1実施形態と異なる。通知部144aは、通知処理の処理内容が図7で説明した第1実施形態と異なる。
B−3.再配置処理:
図13は、第2実施形態における再配置処理の手順を示すシーケンス図である。図4に示した第1実施形態との違いは、ステップS112〜S118に代えてステップS300〜S308を備える点のみであり、他の処理内容は第1実施形態と同じである。
ステップS300において生成部142aは、ヘッドマウントディスプレイ100aの表示画面に表示されているアイコン画像の情報を収集する。第2実施形態における「アイコン画像」とは、第1実施形態で説明したスマートフォン300にインストールされているアプリケーションの起動用の画像に加えて、さらに、ヘッドマウントディスプレイ100にインストールされているアプリケーションの起動用の画像も含む。また、「アイコン画像」には、このほか、ヘッドマウントディスプレイ100にインストールされているウィジェットやガジェットによって描画されている画像や、ヘッドマウントディスプレイ100に記憶されているデーターの起動用の画像を含んでもよい。ステップS300における生成部142aの処理内容の詳細は、第1実施形態のステップS108の説明、および、図5の説明と同様である。ただし、「スマートフォン300」との記載を「ヘッドマウントディスプレイ100a」と読み替える。
ステップS302において生成部142aは、スマートフォン300のアイコン画像の情報と、ヘッドマウントディスプレイ100aのアイコン画像の情報とをフィルタリングする。詳細は第1実施形態のステップS112と同様である。
ステップS304において生成部142aは、スマートフォン300のアイコン画像の情報と、ヘッドマウントディスプレイ100aのアイコン画像の情報とをグルーピングし、ソートする。詳細は第1実施形態のステップS114と同様である。なお、ステップS304では、ステップS114で説明した条件b1〜b3に加えて、以下の条件b4を用いたグルーピングまたはソートを行うことが好ましい。
(b4)生成部142aは、アイコン画像の情報の抽出元デバイス(具体的には、ヘッドマウントディスプレイ100aのアイコン画像か、スマートフォン300のアイコン画像か)に応じて、アイコン画像の情報をグルーピングまたはソートする。このように、条件b4を用いれば、生成部142aは、アイコン画像の情報を、アイコン画像の情報の抽出元デバイスに応じてグルーピングやソートをすることができる。この結果、一覧画像における個々のアイコン画像60(61〜6n)の視認性を向上させることができる。
ステップS306において生成部142aは、ステップS304の終了後のアイコン画像の情報を用いて、フレームFM1(図3)にアイコン画像60を配置することで、一覧画像を生成する。詳細は第1実施形態のステップS116と同様である。なお、ステップS306では、個々のアイコン画像60(61〜6n)に対して、ステップS116で説明した加工c1〜c5に加えて、さらに、以下のc6に示す加工を施すことが好ましい。
(c6)生成部142aは、アイコン画像に対して、当該アイコン画像の情報の抽出元デバイスが異なることが使用者に識別可能となるような装飾を施す。例えば、ヘッドマウントディスプレイ100aのアイコン画像を縁取る枠と、スマートフォン300のアイコン画像を縁取る枠とを、異なる表示とする。また、例えば、ヘッドマウントディスプレイ100aのアイコン画像の色と、ヘッドマウントディスプレイ100aのアイコン画像の色とを、異なる色とする。そのほか、生成部142aは、アイコン画像の形状を変えてもよく、アイコン画像の透過率を変えてもよく、アイコン画像の大きさを変えてもよく、アイコン画像に付す注釈(文字、図形、記号等)を変えてもよい。
ステップS308において生成部142aは、フレームFM1上のアイコン画像60の座標と、ヘッドマウントディスプレイ100aの位置情報またはリンク先情報の内の少なくとも一方と、を対応付けて、対応関係124に記憶させる。同様に、生成部142aは、フレームFM1上のアイコン画像60の座標と、スマートフォン300の位置情報またはリンク先情報の内の少なくとも一方と、を対応付けて、対応関係124に記憶させる。
詳細は第1実施形態のステップS118と同様である。
図14は、ヘッドマウントディスプレイ100aにおいて、第2実施形態の一覧画像が表示されている様子を示す説明図である。なお、図14では、フレームFM1の領域の左端に画像リストLT1aが配置され、左端に画像リストLT1bが配置されたフレームFM1を用いて生成された一覧画像を示す。画像リストLT1aには、スマートフォン300から取得されたアイコン画像の情報に基づいて、スマートフォン300のアイコン画像が配置されている。また、画像リストLT1bには、ヘッドマウントディスプレイ100aから取得されたアイコン画像の情報に基づいて、ヘッドマウントディスプレイ100aのアイコン画像が配置されている。さらに、画像リストLT1aに配置されているアイコン画像は太い縁取りを用いて装飾され、画像リストLT1bに配置されているアイコン画像は細い縁取りを用いて装飾されている。
以上のように、第2実施形態の再配置処理によれば、画像表示部20は、スマートフォン300(外部装置)のアイコン画像と、ヘッドマウントディスプレイ100a(頭部装着型表示装置)のアイコン画像と、の両方を、相互に識別可能な態様で使用者に視認させることができるため、使用者の利便性を向上させることができる。なお、図14では、説明の便宜上、画像リストLT1a、LT1bが折り畳まれた状態は図示していない。しかし、図6と同様に、画像リストLT1a、LT1bは、折り畳み可能とされてもよい。
B−4.通知処理:
第2実施形態における通知処理は、図7で説明した第1実施形態とほぼ同様である。ただし、ステップS204において通知部144aは、操作が行われたアイコン画像の抽出元デバイスに対して、位置情報またはリンク先情報を送信する。すなわち、通知部144aは、操作が行われたアイコン画像の抽出元デバイスがヘッドマウントディスプレイ100aである場合は、OS150に対して位置情報またはリンク先情報を送信する。一方で、通知部144aは、操作が行われたアイコン画像の抽出元デバイスがスマートフォン300である場合は、スマートフォン300に対して位置情報またはリンク先情報を送信する。その後、位置情報またはリンク先情報を受信したヘッドマウントディスプレイ100aのOS150と、スマートフォン300と、のいずれか一方において、ステップS206で説明した処理が実施される。
C.変形例:
上記実施形態において、ハードウェアによって実現されるとした構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されるとした構成の一部をハードウェアに置き換えるようにしてもよい。その他、以下のような変形も可能である。
・変形例1:
上記実施形態では、画像表示システムの構成について例示した。しかし、画像表示システムの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、画像表示システムを構成する各装置の追加・削除・変換等を行うことができる。また、画像表示システムを構成する装置のネットワーク構成の変更を行うことができる。
例えば、ヘッドマウントディスプレイには、複数の外部装置(例えば、スマートフォンとPDA)が接続されてもよい。この場合、第2実施形態と同様にして生成部は、第1の外部装置のアイコン画像と、第2の外部装置のアイコン画像と、第m(mは3以上の整数)の外部装置のアイコン画像と、の全てが、相互に識別可能な態様で配置された一覧画像を生成してもよい。このようにすれば、画像表示部は、複数の外部装置のアイコン画像を、相互に識別可能な態様で使用者に視認させることができるため、ヘッドマウントディスプレイにおける使用者の利便性をより一層向上させることができる。
例えば、外部装置(のうちの少なくとも1つ)として、インターネットINTを介したクラウドサーバーが使用されてもよい。この場合であっても、生成部は、上記第1実施形態および第2実施形態と同様の処理を行うことにより、上記第1実施形態および第2実施形態と同様の効果を得ることができる。
上記実施例では、「外部装置が有する複数の画像」の具体例として、「外部装置の表示画面に表示されるアイコン画像」を例示して説明した。しかし、外部装置が有する複数の画像は、外部装置に記憶されている画像であればよく、必ずしも、外部装置に「表示される」画像や、外部装置の「アイコン」画像には限られない。
・変形例2:
上記実施形態では、ヘッドマウントディスプレイの構成について例示した。しかし、ヘッドマウントディスプレイの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、各構成部の追加・削除・変換等を行うことができる。
上記実施形態における制御部と、画像表示部とに対する構成要素の割り振りはあくまで一例であり、種々の態様を採用可能である。例えば、以下のような態様としてもよい。(i)制御部にCPUやメモリー等の処理機能を搭載、画像表示部には表示機能のみを搭載する態様、(ii)制御部と画像表示部との両方にCPUやメモリー等の処理機能を搭載する態様、(iii)制御部と画像表示部とを一体化した態様(例えば、画像表示部に制御部が含まれ眼鏡型のウェアラブルコンピューターとして機能する態様)、(iv)制御部の代わりにスマートフォンや携帯型ゲーム機を使用する態様、(v)制御部と画像表示部とを無線通信かつワイヤレス給電可能な構成とすることにより接続部(コード)を廃した態様。(vi)制御部からタッチパッドを廃し、画像表示部にタッチパッドを設けた態様。
上記実施形態では、説明の便宜上、制御部が送信部を備え、画像表示部が受信部を備えるものとした。しかし、上記実施形態の送信部および受信部は、いずれも、双方向通信が可能な機能を備えており、送受信部として機能することができる。また、例えば、図5に示した制御部は、有線の信号伝送路を介して画像表示部と接続されているものとした。しかし、制御部と、画像表示部とは、無線LANや赤外線通信やBluetooth(登録商標)等の無線の信号伝送路を介した接続により接続されていてもよい。
例えば、図2に示した制御部、画像表示部の構成は任意に変更することができる。具体的には、例えば、制御部は、上述した各種の入力デバイス(タッチパッド、十字キー、フットスイッチ、ジェスチャー検出、視線検出、マイクロホン)のほか、種々の入力デバイス(例えば、操作用スティック、キーボード、マウス等)を備えることができる。また、上記実施形態では、電源として二次電池を用いることしたが、電源としては二次電池に限らず、種々の電池を使用することができる。例えば、一次電池や、燃料電池、太陽電池、熱電池等を使用してもよい。
例えば、ヘッドマウントディスプレイは、両眼タイプの透過型ヘッドマウントディスプレイであるものとしたが、単眼タイプのヘッドマウントディスプレイとしてもよい。また、使用者がヘッドマウントディスプレイを装着した状態において外景の透過が遮断される非透過型ヘッドマウントディスプレイとして構成してもよい。上記実施形態では、画像表示部を眼鏡のように装着するヘッドマウントディスプレイであるとしているが、例えば、帽子のように装着するタイプの画像表示部等、他の形状の画像表示部を採用したヘッドマウントディスプレイとしてもよい。また、イヤホンは耳掛け型やヘッドバンド型を採用してもよく、省略してもよい。さらに、例えば、自動車や飛行機等の車両に搭載されるヘッドアップディスプレイ(HUD、Head-Up Display)として構成されてもよい。そのほか、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。
図15は、変形例におけるヘッドマウントディスプレイの外観の構成を示す説明図である。図15(A)の例では、画像表示部20aが、右光学像表示部26に代えて右光学像表示部26aを備え、左光学像表示部28に代えて左光学像表示部28aを備えている。右光学像表示部26aおよび左光学像表示部28aは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼および左眼の斜め上に配置されている。図15(B)の例では、画像表示部20bが、右光学像表示部26に代えて右光学像表示部26bを備え、左光学像表示部28に代えて左光学像表示部28bを備えている。右光学像表示部26bおよび左光学像表示部28bは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼および左眼の斜め下に配置されている。このように、光学像表示部は使用者の眼の近傍に配置されていれば足りる。また、光学像表示部を形成する光学部材の大きさも任意であり、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様のヘッドマウントディスプレイとして実現することもできる。なお、図15のような構成とした場合においても、使用者における視認性を向上させつつヘッドマウントディスプレイに適した態様となるように、外部装置が有する複数の画像の配置を適宜調整することができる。この場合、上記実施形態に例示した配置の例には限られない。
例えば、上記実施形態では、表示駆動部は、バックライトと、バックライト制御部と、LCDと、LCD制御部と、投写光学系を用いて構成されるものとした。しかし、上記の態様はあくまで例示である。表示駆動部は、これらの構成部と共に、またはこれらの構成部に代えて、他の方式を実現するための構成部を備えていても良い。例えば、表示駆動部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部と、投写光学系とを備える構成としても良い。また、例えば、表示駆動部は、LCDに代えてデジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型の頭部装着型表示装置に対して本発明を適用することも可能である。
例えば、生成部、通知部、画像処理部、表示制御部、音声処理部等の各機能部は、CPUがROMやハードディスクに格納されているコンピュータープログラムをRAMに展開して実行することにより実現されるものとして記載した。しかし、これら機能部は、当該機能を実現するために設計されたASIC(Application Specific Integrated Circuit:特定用途向け集積回路)を用いて構成されてもよい。
・変形例3:
上記実施形態では、再配置処理の一例を示した。しかし、再配置処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
例えば、生成部は、フレームを使用せずに一覧画像を生成してもよい。具体的には、ステップS116において生成部は、フレームに代えて、予め定められた座標位置にアイコン画像を配置することで一覧画像を生成してもよい。他の例として、ステップS116において生成部は、取得したアイコン画像の大きさから動的に計算した座標位置にアイコン画像を配置することで一覧画像を生成してもよい。このようにすれば、フレーム情報を必要とせずに一覧画像を生成することができる。
例えば、生成部は、使用者の視線方向を避けるように、動的に一覧画像を生成してもよい。具体的には、上記ヘッドマウントディスプレイにおいて、使用者の眼を撮像するカメラや赤外線センサー等、使用者の視線方向を検出する構成(「視線方向検出部」とも呼ぶ。)を追加する。ステップS116において生成部は、フレーム情報に記憶されている複数のフレームの中から、検出された視線方向の反対側に画像リストが配置されているフレームを選択することができる。他の例として、ステップS116において生成部は、図10のようにフレームが複数の画像リストを備える場合に、この複数の画像リストのうち、検出された視線方向の反対側の画像リストを優先的に選択し、アイコン画像の配置を行うこともできる。このようにすれば、一覧画像において、使用者の視線方向を避けた動的なアイコン画像の配置が可能となる。
例えば、ステップS112のフィルタリングは省略してもよい。また、ステップS112のフィルタリングは、スマートフォン側において、アイコン画像の情報の収集(ステップS108)と、アイコン画像の情報の送信(ステップS110)との間に実行されてもよい。
例えば、ステップS114のグルーピングおよびソートは、いずれか一方、または両方を省略してもよい。また、ステップS114のグルーピングおよびソートは、スマートフォン側において、アイコン画像の情報の収集(ステップS108)と、アイコン画像の情報の送信(ステップS110)との間に実行されてもよい。
例えば、上記実施形態で説明したアイコン画像は、2次元的に表現された画像を想定した。しかし、画像処理部は、右眼用画像データーと左眼用画像データーとを異なるデーターとすることで、アイコン画像を3次元的に表現してもよい。
例えば、ステップS104のスマートフォンの認証と、S106のコネクションの確立と、はいずれか一方を省略してもよく、実行順序を入れ替えてもよい。
・変形例4:
上記実施形態では、通知処理の一例を示した。しかし、通知処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
・変形例5:
上記実施形態では、位置情報としてアイコン画像の座標を、リンク先情報としてアイコン画像のリンク先を、それぞれ例示した。しかし、位置情報は、スマートフォン(外部装置)におけるアイコン画像の位置を識別可能な情報であればよく、座標には限られない。同様に、リンク先情報は、スマートフォンにおけるアイコン画像のリンク先を識別可能な情報であればよく、実行ファイルのリンク先(ファイルパス)には限られない。
・変形例6:
上記実施形態では、フレーム情報に記憶されているフレームの例を示した。しかし、上記フレームの詳細はあくまで一例であり、種々の変更が可能である。例えば、構成要素の追加、削除、変更を行うことができる。
例えば、上記実施形態のフレームFM1(図3)と、フレームFM2(図8)とは、それぞれ、1つの画像リストLT1、LT2を有するものとした。しかし、これらのフレームは、複数の画像リストを有していてもよい。
例えば、フレームFM1、フレームFM2、フレームFM3(図10)の領域の大きさや縦横比は任意に定めることができる。これらのフレームの縦横比は、ヘッドマウントディスプレイの表示素子の縦横比とは異なっていてもよい。
例えば、フレームFM1、フレームFM2、フレームFM3に配置されている画像リストが有する画像枠の形状、大きさ、個数は任意に定めることができる。また、これらのフレームが複数の画像リストを備える場合に、一の画像リストと、他の画像リストとの間で、画像枠の個数が異なっていてもよい。
・変形例7:
本発明は、上述の実施形態や実施例、変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、実施例、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
10…制御部
20…画像表示部
22…右表示駆動部
24…左表示駆動部
26…右光学像表示部
28…左光学像表示部
32…右イヤホン
34…左イヤホン
40…接続部
51…送信部
52…送信部
53…受信部
60(61〜64)…アイコン画像
70(71〜74)…アイコン画像の座標(位置情報)
80(81〜84)…アイコン画像のリンク先(リンク先情報)
100…ヘッドマウントディスプレイ(頭部装着型表示装置)
110…入力情報取得部(操作取得部)
120…記憶部
122…フレーム情報
124…対応関係
130…電源
132…無線通信部(取得部)
140…CPU
142…生成部(取得部、生成部)
144…通知部(通知部)
160…画像処理部
170…音声処理部
180…インターフェイス
190…表示制御部
201…右バックライト制御部
202…左バックライト制御部
221…右バックライト
222…左バックライト
251…右投写光学系
252…左投写光学系
261…右導光板
262…左導光板
300…スマートフォン(外部装置)
1000…画像表示システム
Data…画像データー
LT1…画像リスト
LT1a、b…画像リスト
LT2…画像リスト
LT3a〜d…画像リスト
B1〜12…画像枠
SC…外景
RE…右眼
LE…左眼
PE…鉛直方向
HF…水平方向
VI…虚像
VR…視野
FM1…フレーム
FM2…フレーム
FM3…フレーム
INT…インターネット

Claims (10)

  1. 使用者が虚像と外景を視認可能な頭部装着型表示装置であって、
    前記頭部装着型表示装置に接続されている外部装置が有する複数の画像の配置を、前記頭部装着型表示装置用に変更して一覧画像を生成する生成部と、
    前記生成された一覧画像を前記虚像として前記使用者に視認させる画像表示部と、
    を備える、頭部装着型表示装置。
  2. 請求項1に記載の頭部装着型表示装置であって、さらに、
    前記外部装置から前記複数の画像を取得する取得部を備え、
    前記生成部は、前記取得された複数の画像の配置を前記虚像の中心部を回避した位置へと変更することによって、前記一覧画像を生成する、頭部装着型表示装置。
  3. 請求項2に記載の頭部装着型表示装置であって、さらに、
    前記一覧画像に対する前記使用者の操作を取得する操作取得部と、
    前記取得された操作が一の画像に対する操作であった場合に、前記外部装置における前記一の画像の位置を識別するための位置情報と、前記外部装置における前記一の画像のリンク先を識別するためのリンク先情報と、のうちの少なくとも一方を、前記外部装置に対して通知する通知部と、
    を備える、頭部装着型表示装置。
  4. 請求項3に記載の頭部装着型表示装置であって、
    前記取得部は、前記複数の画像と共に、前記外部装置における前記複数の画像の位置をそれぞれ識別するための位置情報と、前記外部装置における前記複数の画像のリンク先をそれぞれ識別するためのリンク先情報と、のうちの少なくとも一方を取得し、
    前記生成部は、前記一覧画像を生成する際に、前記画像と、前記画像の前記位置情報または前記画像の前記リンク先情報と、を対応付けて記憶し、
    前記通知部は、前記対応付けを用いて、前記一の画像の前記位置情報と、前記一の画像の前記リンク先情報と、のうちの少なくとも一方を通知する、頭部装着型表示装置。
  5. 請求項1から請求項4のいずれか一項に記載の頭部装着型表示装置であって、
    前記生成部は、前記前記画面一覧画像を生成する際に、さらに、前記取得された複数の画像に対して、形状の変更と、透過率の変更と、色の変更と、大きさの変更と、装飾の付与と、のうちの少なくともいずれかを実施する、頭部装着型表示装置。
  6. 請求項1から請求項5のいずれか一項に記載の頭部装着型表示装置であって、
    前記生成部は、前記取得された複数の画像から、所定の条件を満たす少なくとも一部の画像を抽出し、前記抽出された画像の配置を変更することによって、前記一覧画像を生成する、頭部装着型表示装置。
  7. 請求項1から請求項6のいずれか一項に記載の頭部装着型表示装置であって、
    前記複数の画像には、少なくとも、前記外部装置にインストールされているアプリケーションの起動用のアイコン画像が含まれる、頭部装着型表示装置。
  8. 請求項1から請求項7のいずれか一項に記載の頭部装着型表示装置であって、
    前記生成部は、前記一覧画像に対して、さらに、前記頭部装着型表示装置が有する複数の画像を、前記外部装置の前記複数の画像と識別可能な態様で配置する、頭部装着型表示装置。
  9. 頭部装着型表示装置を制御する方法であって、
    (a)前記頭部装着型表示装置に接続されている外部装置が有する複数の画像の配置を、前記頭部装着型表示装置用に変更して一覧画像を生成する工程と、
    (b)前記生成された一覧画像を前記虚像として前記使用者に視認させる工程と、
    を含む、方法。
  10. 画像表示システムであって、
    使用者が虚像と外景を視認可能な頭部装着型表示装置と、
    前記頭部装着型表示装置に接続されている外部装置と、
    を備え、
    前記外部装置は、
    前記外部装置が有する複数の画像を取得すると共に、前記取得された複数の画像を前記頭部装着型表示装置へ送信する送信部を備え、
    前記頭部装着型表示装置は、
    前記外部装置の前記複数の画像の配置を、前記頭部装着型表示装置用に変更して一覧画像を生成する生成部と、
    前記生成された一覧画像を前記虚像として前記使用者に視認させる画像表示部と、
    を備える、画像表示システム。
JP2013183630A 2013-09-05 2013-09-05 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム Active JP6209906B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013183630A JP6209906B2 (ja) 2013-09-05 2013-09-05 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム
US14/467,970 US9658451B2 (en) 2013-09-05 2014-08-25 Head mounted display, method of controlling head mounted display, and image display system
CN201410423127.4A CN104423043A (zh) 2013-09-05 2014-08-26 头部佩戴型显示装置、控制头部佩戴型显示装置的方法以及图像显示系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013183630A JP6209906B2 (ja) 2013-09-05 2013-09-05 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム

Publications (3)

Publication Number Publication Date
JP2015049883A true JP2015049883A (ja) 2015-03-16
JP2015049883A5 JP2015049883A5 (ja) 2016-08-18
JP6209906B2 JP6209906B2 (ja) 2017-10-11

Family

ID=52582467

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013183630A Active JP6209906B2 (ja) 2013-09-05 2013-09-05 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム

Country Status (3)

Country Link
US (1) US9658451B2 (ja)
JP (1) JP6209906B2 (ja)
CN (1) CN104423043A (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017524996A (ja) * 2014-04-23 2017-08-31 ノキア テクノロジーズ オサケユイチア ヘッド・マウント・ディスプレイ上の情報表示
JP2019105678A (ja) * 2017-12-11 2019-06-27 京セラドキュメントソリューションズ株式会社 表示装置、及び画像表示方法
JP2019135600A (ja) * 2018-02-05 2019-08-15 Kddi株式会社 表示制御装置、表示制御方法及びプログラム
JP2020112982A (ja) * 2019-01-10 2020-07-27 セイコーエプソン株式会社 表示システム、表示システムの制御方法、情報処理装置、及び情報処理装置の制御プログラム
US10732918B2 (en) 2017-12-22 2020-08-04 Seiko Epson Corporation Display system, method of controlling display system, and display device
US10823962B2 (en) 2017-12-22 2020-11-03 Seiko Epson Corporation Processing device having connection detector, display system, and non-transitory computer-readable storage medium
US10971113B2 (en) 2017-12-22 2021-04-06 Seiko Epson Corporation Display system, electronic device, and display method
JP2022078113A (ja) * 2016-04-27 2022-05-24 ロヴィ ガイズ, インコーポレイテッド 仮想現実環境を表示するヘッドアップディスプレイ上に付加的コンテンツを表示するための方法およびシステム

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130339859A1 (en) 2012-06-15 2013-12-19 Muzik LLC Interactive networked headphones
USD753145S1 (en) * 2013-12-30 2016-04-05 Samsung Electronics Co., Ltd. Display screen or portion thereof with icon
KR20150091724A (ko) * 2014-02-03 2015-08-12 한국전자통신연구원 착용형 안경장치
US20150362990A1 (en) * 2014-06-11 2015-12-17 Lenovo (Singapore) Pte. Ltd. Displaying a user input modality
US10860620B1 (en) * 2015-04-07 2020-12-08 David Martel Associating physical items with content
TW201642112A (zh) * 2015-05-22 2016-12-01 富智康(香港)有限公司 應用程式圖示更換系統及方法
US20160378308A1 (en) * 2015-06-26 2016-12-29 Rovi Guides, Inc. Systems and methods for identifying an optimal image for a media asset representation
KR20180084901A (ko) * 2015-12-30 2018-07-25 선전 로욜 테크놀로지스 컴퍼니 리미티드 헤드 장착형 디스플레이 디바이스 및 이의 제어 방법
EP3187963A1 (en) * 2015-12-31 2017-07-05 Shanghai Xiaoyi Technology Co., Ltd. Display device and method
US10620910B2 (en) 2016-12-23 2020-04-14 Realwear, Inc. Hands-free navigation of touch-based operating systems
US11507216B2 (en) 2016-12-23 2022-11-22 Realwear, Inc. Customizing user interfaces of binary applications
US10393312B2 (en) 2016-12-23 2019-08-27 Realwear, Inc. Articulating components for a head-mounted display
US11099716B2 (en) 2016-12-23 2021-08-24 Realwear, Inc. Context based content navigation for wearable display
US10936872B2 (en) 2016-12-23 2021-03-02 Realwear, Inc. Hands-free contextually aware object interaction for wearable display
US10437070B2 (en) 2016-12-23 2019-10-08 Realwear, Inc. Interchangeable optics for a head-mounted display
DE102017114278A1 (de) * 2017-06-27 2018-12-27 Rheinmetall Electronics Gmbh Anzeigevorrichtung für eine Einsatzkraft zur Anzeige von Informations-Inhalten verschiedener Informations-Typen eines Führungssystems
DE112018006464T5 (de) * 2017-12-19 2020-08-27 Sony Corporation Informationsverarbeitungsvorrichtung, informationsverarbeitungsverfahren, programm, anzeigesystem und mobiles objekt
CN111352505B (zh) * 2020-01-13 2023-02-21 维沃移动通信有限公司 操作控制方法、头戴式设备及介质
WO2023132744A1 (ko) * 2022-01-10 2023-07-13 삼성전자 주식회사 복수의 어플리케이션 실행 화면들을 그룹화하여 제공하는 웨어러블 디바이스 및 그 제어 방법

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120302289A1 (en) * 2011-05-27 2012-11-29 Kang Heejoon Mobile terminal and method of controlling operation thereof
JP2013125247A (ja) * 2011-12-16 2013-06-24 Sony Corp ヘッドマウントディスプレイ及び情報表示装置
WO2014129105A1 (ja) * 2013-02-22 2014-08-28 ソニー株式会社 ヘッドマウントディスプレイシステム、ヘッドマウントディスプレイ及びヘッドマウントディスプレイ制御プログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100053069A1 (en) * 2008-08-26 2010-03-04 Symbol Technologies, Inc. Mobile computing system facilitating adaptive display of content among a plurality of display components including at least one virtual image display component
AU2011220382A1 (en) * 2010-02-28 2012-10-18 Microsoft Corporation Local advertising content on an interactive head-mounted eyepiece
JP5630141B2 (ja) 2010-08-18 2014-11-26 ブラザー工業株式会社 画像表示システム、画像表示システムに含まれる携帯型情報処理装置のためのコンピュータプログラム、画像表示システムに含まれるヘッドマウントディスプレイ、及び画像表示方法
JP5977922B2 (ja) * 2011-02-24 2016-08-24 セイコーエプソン株式会社 情報処理装置および情報処理装置の制御方法、透過型頭部装着型表示装置
JP5829097B2 (ja) 2011-10-25 2015-12-09 オリンパス株式会社 頭部装着型表示装置、プログラム及び画像処理システム
US9024844B2 (en) * 2012-01-25 2015-05-05 Microsoft Technology Licensing, Llc Recognition of image on external display
US20140015826A1 (en) * 2012-07-13 2014-01-16 Nokia Corporation Method and apparatus for synchronizing an image with a rendered overlay
JP5517222B2 (ja) 2012-12-03 2014-06-11 Necカシオモバイルコミュニケーションズ株式会社 端末装置、及びプログラム
US9146124B2 (en) * 2012-12-18 2015-09-29 Nokia Technologies Oy Helmet-based navigation notifications

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120302289A1 (en) * 2011-05-27 2012-11-29 Kang Heejoon Mobile terminal and method of controlling operation thereof
JP2013125247A (ja) * 2011-12-16 2013-06-24 Sony Corp ヘッドマウントディスプレイ及び情報表示装置
WO2014129105A1 (ja) * 2013-02-22 2014-08-28 ソニー株式会社 ヘッドマウントディスプレイシステム、ヘッドマウントディスプレイ及びヘッドマウントディスプレイ制御プログラム

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017524996A (ja) * 2014-04-23 2017-08-31 ノキア テクノロジーズ オサケユイチア ヘッド・マウント・ディスプレイ上の情報表示
KR101920983B1 (ko) 2014-04-23 2018-11-21 노키아 테크놀로지스 오와이 헤드 마운트형 디스플레이 상에서의 정보의 디스플레이
US11347301B2 (en) 2014-04-23 2022-05-31 Nokia Technologies Oy Display of information on a head mounted display
JP7286828B2 (ja) 2016-04-27 2023-06-05 ロヴィ ガイズ, インコーポレイテッド 仮想現実環境を表示するヘッドアップディスプレイ上に付加的コンテンツを表示するための方法およびシステム
JP2022078113A (ja) * 2016-04-27 2022-05-24 ロヴィ ガイズ, インコーポレイテッド 仮想現実環境を表示するヘッドアップディスプレイ上に付加的コンテンツを表示するための方法およびシステム
JP2019105678A (ja) * 2017-12-11 2019-06-27 京セラドキュメントソリューションズ株式会社 表示装置、及び画像表示方法
US10823962B2 (en) 2017-12-22 2020-11-03 Seiko Epson Corporation Processing device having connection detector, display system, and non-transitory computer-readable storage medium
US10971113B2 (en) 2017-12-22 2021-04-06 Seiko Epson Corporation Display system, electronic device, and display method
US10732918B2 (en) 2017-12-22 2020-08-04 Seiko Epson Corporation Display system, method of controlling display system, and display device
US11380287B2 (en) 2017-12-22 2022-07-05 Seiko Epson Corporation Display system, electronic device, and display method
JP2019135600A (ja) * 2018-02-05 2019-08-15 Kddi株式会社 表示制御装置、表示制御方法及びプログラム
JP2020112982A (ja) * 2019-01-10 2020-07-27 セイコーエプソン株式会社 表示システム、表示システムの制御方法、情報処理装置、及び情報処理装置の制御プログラム
JP7243193B2 (ja) 2019-01-10 2023-03-22 セイコーエプソン株式会社 表示システム、表示システムの制御方法、情報処理装置、及び情報処理装置の制御プログラム

Also Published As

Publication number Publication date
US9658451B2 (en) 2017-05-23
CN104423043A (zh) 2015-03-18
US20150061974A1 (en) 2015-03-05
JP6209906B2 (ja) 2017-10-11

Similar Documents

Publication Publication Date Title
JP6209906B2 (ja) 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム
JP6492419B2 (ja) 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム、画像表示システム、および、情報処理装置
US20150062164A1 (en) Head mounted display, method of controlling head mounted display, computer program, image display system, and information processing apparatus
US9784976B2 (en) Head mounted display, information processing apparatus, image display apparatus, image display system, method for sharing display of head mounted display, and computer program
CN104469464B (zh) 图像显示装置、控制图像显示装置的方法、计算机程序以及图像显示系统
JP6206099B2 (ja) 画像表示システム、画像表示システムを制御する方法、および、頭部装着型表示装置
US9824496B2 (en) Information display system using head mounted display device, information display method using head mounted display device, and head mounted display device
US9146618B2 (en) Unlocking a head mounted device
JP6217244B2 (ja) 画像処理装置、これを有する頭部装着型表示装置、画像処理方法およびコンピュータープログラム
US9799144B2 (en) Head mounted display, and control method for head mounted display
JP6380091B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
CN107077363B (zh) 信息处理装置、控制信息处理装置的方法、记录介质
US20170139567A1 (en) Entering Unlock Sequences Using Head Movements
JP6303274B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6229381B2 (ja) 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム、情報処理装置
JP2015227919A (ja) 画像表示装置、画像表示装置を制御する方法、コンピュータープログラム、および、画像表示システム
JP6740613B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2015064476A (ja) 画像表示装置、画像表示装置を制御する方法
JP6451222B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6828235B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の表示を共有する方法、コンピュータープログラム
JP6394174B2 (ja) 頭部装着型表示装置、画像表示システム、頭部装着型表示装置を制御する方法、および、コンピュータープログラム
JP6287399B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20160530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160622

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160622

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170424

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170516

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170712

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20170718

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170815

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170828

R150 Certificate of patent or registration of utility model

Ref document number: 6209906

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150