JP2019109849A - 透過型頭部装着型表示装置、表示制御方法、およびコンピュータープログラム - Google Patents
透過型頭部装着型表示装置、表示制御方法、およびコンピュータープログラム Download PDFInfo
- Publication number
- JP2019109849A JP2019109849A JP2017244059A JP2017244059A JP2019109849A JP 2019109849 A JP2019109849 A JP 2019109849A JP 2017244059 A JP2017244059 A JP 2017244059A JP 2017244059 A JP2017244059 A JP 2017244059A JP 2019109849 A JP2019109849 A JP 2019109849A
- Authority
- JP
- Japan
- Prior art keywords
- display
- image
- gesture
- unit
- display object
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 59
- 238000004590 computer program Methods 0.000 title claims description 12
- 238000001514 detection method Methods 0.000 claims abstract description 32
- 239000007787 solid Substances 0.000 claims description 7
- 230000008569 process Effects 0.000 description 40
- 230000006870 function Effects 0.000 description 35
- 238000012545 processing Methods 0.000 description 31
- 238000013500 data storage Methods 0.000 description 26
- 238000003384 imaging method Methods 0.000 description 22
- 238000003860 storage Methods 0.000 description 22
- 230000003287 optical effect Effects 0.000 description 21
- 230000000694 effects Effects 0.000 description 17
- 244000141359 Malus pumila Species 0.000 description 16
- 235000011430 Malus pumila Nutrition 0.000 description 15
- 235000015103 Malus silvestris Nutrition 0.000 description 15
- 239000000758 substrate Substances 0.000 description 13
- 210000003128 head Anatomy 0.000 description 12
- 235000013305 food Nutrition 0.000 description 11
- 230000033001 locomotion Effects 0.000 description 11
- 238000004891 communication Methods 0.000 description 9
- 230000000007 visual effect Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 238000005259 measurement Methods 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 6
- 230000005236 sound signal Effects 0.000 description 6
- 241000220223 Fragaria Species 0.000 description 5
- 235000016623 Fragaria vesca Nutrition 0.000 description 5
- 235000011363 Fragaria x ananassa Nutrition 0.000 description 5
- 230000003190 augmentative effect Effects 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 235000013399 edible fruits Nutrition 0.000 description 3
- 230000005484 gravity Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 238000002834 transmittance Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 239000002184 metal Substances 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 210000001525 retina Anatomy 0.000 description 2
- 244000144730 Amygdalus persica Species 0.000 description 1
- 241000167854 Bourreria succulenta Species 0.000 description 1
- 241000282414 Homo sapiens Species 0.000 description 1
- 235000006040 Prunus persica var persica Nutrition 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 235000021016 apples Nutrition 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 235000021170 buffet Nutrition 0.000 description 1
- 235000019693 cherries Nutrition 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 210000000744 eyelid Anatomy 0.000 description 1
- 230000004886 head movement Effects 0.000 description 1
- 239000004615 ingredient Substances 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005293 physical law Methods 0.000 description 1
- 239000011347 resin Substances 0.000 description 1
- 229920005989 resin Polymers 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000004270 retinal projection Effects 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/163—Wearable computers, e.g. on a belt
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
- G06F3/03547—Touch pads, in which fingers can move on a surface
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0141—Head-up displays characterised by optical features characterised by the informative content of the display
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B2027/0178—Eyeglass type
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Hardware Design (AREA)
- Optics & Photonics (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- User Interface Of Digital Computer (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
【課題】検索対象物を指し示すキーワードが曖昧である場合における検索対象物を検索する際の操作性を向上させ、また、検索対象物に関連する情報を容易に取得可能な技術を提供する。【解決手段】透過型頭部装着型表示装置であって、外景を透過し外景とともに視認できるように表示対象物の画像を表示する画像表示部と、予め定められたジェスチャーであって、表示された表示対象物の画像に対するジェスチャーを検出するジェスチャー検出部と、検出されたジェスチャーに応じた表示態様で表示対象物の画像を表示させることと、検出されたジェスチャーに応じた関連情報であって、表示対象物に関連する関連情報を表示させることと、のうち、少なくとも一方を実行する表示制御部と、を備える、透過型頭部装着型表示装置。【選択図】図8
Description
本発明は、透過型頭部装着型表示装置に関する。
頭部に装着されてユーザーの視野領域内に画像等を表示する頭部装着型表示装置(ヘッドマウントディスプレイ(Head Mounted Display、HMD))として、装着時に画像とともに外界の風景を透過視認できる透過型の頭部装着型表示装置が知られている。頭部装着型表示装置は、例えば、液晶ディスプレイと光源とを利用して生成された画像光を、投写光学系および導光板等を利用してユーザーの眼に導くことにより、ユーザーに虚像を認識させる。特許文献1には、透過型の頭部装着型表示装置を装着したユーザーが、所定の操作機器(例えば、DVDプレーヤー)を制御するための手段として、ユーザーが外界の風景を透過視認できる領域において操作機器を指で触れるジェスチャーが検出された場合に、電源のオン/オフ等の操作機器の操作に対応づけられるボタンを操作機器に重畳して表示し、ユーザーがかかるボタンを選択するジェスチャーを行うことにより、選択された操作を実行可能な技術が開示されている。特許文献2には、電子テキスト中で、ユーザーの示したキーワードおよび該キーワードに関連がある文等を強調して表示する技術が開示されている。
しかし、特許文献1および特許文献2に記載の技術は、ユーザーが操作機器の操作対象や、キーワードを予め認識していることを前提としている。したがって、例えば、ユーザーが検索対象物を指し示すキーワードを知らない、或いは不確かなまま、かかる検索対象物をブラウジング(検索)しようとした場合、比較的少ない回数で所望の検索対象物の情報を得ることは困難である。そこで、検索対象物を指し示すキーワードが曖昧である場合における検索対象物を検索する際の操作性を向上させ、また、検索対象物に関連する情報を容易に取得可能な技術が望まれている。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態として実現することが可能である。
(1)本発明の一実施形態によれば、透過型頭部装着型表示装置が提供される。この透過型頭部装着型表示装置は;外景を透過し外景とともに視認できるように表示対象物の画像を表示する画像表示部と;予め定められたジェスチャーであって、表示された前記表示対象物の画像に対するジェスチャーを検出するジェスチャー検出部と;検出された前記ジェスチャーに応じた表示態様で前記表示対象物の画像を表示させることと、検出された前記ジェスチャーに応じた関連情報であって、前記表示対象物に関連する関連情報を表示させることと、のうち、少なくとも一方を実行する表示制御部と;を備える。
この形態の透過型頭部装着型表示装置によれば、予め定められたジェスチャーであって、表示された表示対象物の画像に対するジェスチャーを検出するジェスチャー検出部と、検出されたジェスチャーに応じた表示態様で表示対象物の画像を表示させることと、検出されたジェスチャーに応じた関連情報であって、表示対象物に関連する関連情報を表示させることと、のうち、少なくとも一方を実行する表示制御部と、を備えるので、検出されたジェスチャーに応じた表示態様で表示対象物の画像を表示させることによって、表示対象物の画像を表示させる際の操作性を向上でき、検出されたジェスチャーに応じた関連情報であって表示対象物に関連する関連情報を表示させることによって、表示対象物に関連する情報を容易に取得できる。すなわち、この形態の透過型頭部装着型表示装置によれば、表示対象物を検索する際の操作性を向上でき、また、表示対象物に関連する情報を容易に取得できる。
(2)上記形態の透過型頭部装着型表示装置において、前記表示制御部は、前記関連情報を表示させることを実行する場合に、検出された前記ジェスチャーの位置に応じて、前記関連情報の内容を変更して表示させてもよい。この形態の透過型頭部装着型表示装置によれば、検出されたジェスチャーの位置に応じて、関連情報の内容が変更して表示されるので、使用者は、ジェスチャーを行う位置によって異なる関連情報を取得でき、種々の関連情報を容易に取得できる。
(3)上記形態の透過型頭部装着型表示装置において、キーワードの入力を受け付ける入力受付部を;さらに備え;前記表示制御部は、受け付けられた前記キーワードにより特定される表示対象物の画像を、受け付けられた前記キーワードの種類に応じて、前記キーワードにより特定される該表示対象物が実際に使用される状態を模した表示態様で表示させてもよい。この形態の透過型頭部装着型表示装置によれば、受け付けられたキーワードにより特定される表示対象物の画像が、受け付けられたキーワードの種類に応じて、該表示対象物が実際に使用される状態を模した表示態様で表示されるので、使用者は、表示対象物が実際に使用される状態を容易に想像することができ、使用者の利便性を向上できる。
(4)上記形態の透過型頭部装着型表示装置において、キーワードの入力を受け付ける入力受付部を;さらに備え;前記表示制御部は、受け付けられた前記キーワードにより特定される表示対象物の画像を、受け付けられた前記キーワードの種類に応じて、前記キーワードにより特定される該表示対象物が実際に提示される態様を模した提示態様で表示させてもよい。この形態の透過型頭部装着型表示装置によれば、受け付けられたキーワードにより特定される表示対象物の画像が、受け付けられたキーワードの種類に応じて、該表示対象物が実際に提示される態様を模した提示態様で表示されるので、使用者は、直感的に表示対象物を認識することができ、使用者の利便性を向上できる。
(5)上記形態の透過型頭部装着型表示装置において、前記画像表示部は、前記表示対象物の画像とは異なる画像であって、前記表示対象物が実際に提示される際に用いられる提示用物の画像である対象物提示用画像を、さらに表示し;前記ジェスチャー検出部は、前記対象物提示用画像に対するジェスチャーを、さらに検出し;前記表示制御部は、検出された前記対象物提示用画像に対するジェスチャーに応じて、前記表示対象物の画像を追加して表示させてもよい。この形態の透過型頭部装着型表示装置によれば、表示対象物が実際に提示される際に用いられる提示用物の画像である対象物提示用画像が表示され、検出された対象物提示用画像に対するジェスチャーに応じて、表示対象物の画像が追加して表示されるので、使用者は、対象物提示用画像に対してジェスチャーを行うことによって、より多くの表示対象物の画像を表示させることができ、表示対象物の画像を表示させる際の操作性を向上できるので、使用者の利便性を向上できる。
(6)上記形態の透過型頭部装着型表示装置において、前記入力受付部は、文字による前記キーワードの入力と、音声による前記キーワードの入力と、のうち、少なくとも一方の入力を受け付けてもよい。この形態の透過型頭部装着型表示装置によれば、文字によるキーワードの入力と、音声によるキーワードの入力と、のうち、少なくとも一方の入力が受け付けられるので、使用者は、キーワードを文字あるいは音声により入力することができ、使用者の利便性を向上できる。
(7)上記形態の透過型頭部装着型表示装置において、前記表示制御部は、前記表示対象物の画像を視差のついた立体として表示させてもよい。この形態の透過型頭部装着型表示装置によれば、表示対象物の画像が視差のついた立体として表示されるので、表示対象物の画像を目立たせることができ、表示対象物の画像の視認性を向上できる。
(8)上記形態の透過型頭部装着型表示装置において、前記表示対象物の画像は、予め定められた種類の検索の結果であってもよい。この形態の透過型頭部装着型表示装置によれば、表示対象物の画像は、予め定められた種類の検索の結果であるので、表示対象物を検索する際の操作性を向上できる。
本発明は、種々の形態で実現することも可能である。例えば、透過型頭部装着型表示装置における表示制御方法、かかる表示制御方法を実現するためのコンピュータープログラム、かかるコンピュータープログラムを記録した記録媒体等の形態で実現できる。
A.第1実施形態:
A1.透過型表示装置の全体構成:
図1は、本発明の実施形態としての頭部装着型表示装置100の概略構成を示す説明図である。頭部装着型表示装置100は、使用者の頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。HMD100は、グラスを通過して視認される外界の中に画像が浮かび上がるシースルー型(透過型)の頭部装着型表示装置である。
A1.透過型表示装置の全体構成:
図1は、本発明の実施形態としての頭部装着型表示装置100の概略構成を示す説明図である。頭部装着型表示装置100は、使用者の頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。HMD100は、グラスを通過して視認される外界の中に画像が浮かび上がるシースルー型(透過型)の頭部装着型表示装置である。
HMD100は、使用者に画像を視認させる画像表示部20と、画像表示部20を制御する制御装置(コントローラー)10とを備えている。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有する。画像表示部20は、右保持部21と、左保持部23と、前部フレーム27とを有する支持体に、右表示ユニット22と、左表示ユニット24と、右導光板26と、左導光板28とを備える。
右保持部21および左保持部23は、それぞれ、前部フレーム27の両端部から後方に延び、眼鏡のテンプル(つる)のように、使用者の頭部に画像表示部20を保持する。ここで、前部フレーム27の両端部のうち、画像表示部20の装着状態において使用者の右側に位置する端部を端部ERとし、使用者の左側に位置する端部を端部ELとする。右保持部21は、前部フレーム27の端部ERから、画像表示部20の装着状態における使用者の右側頭部に対応する位置まで延伸して設けられている。左保持部23は、前部フレーム27の端部ELから、画像表示部20の装着状態における使用者の左側頭部に対応する位置まで延伸して設けられている。
右導光板26および左導光板28は、前部フレーム27に設けられている。右導光板26は、画像表示部20の装着状態における使用者の右眼の眼前に位置し、右眼に画像を視認させる。左導光板28は、画像表示部20の装着状態における使用者の左眼の眼前に位置し、左眼に画像を視認させる。
前部フレーム27は、右導光板26の一端と左導光板28の一端とを互いに連結した形状を有する。この連結位置は、画像表示部20の装着状態における使用者の眉間の位置に対応する。前部フレーム27には、右導光板26と左導光板28との連結位置において、画像表示部20の装着状態において使用者の鼻に当接する鼻当て部が設けられていてもよい。この場合、鼻当て部と右保持部21と左保持部23とによって、画像表示部20を使用者の頭部に保持できる。また、右保持部21および左保持部23に対して、画像表示部20の装着状態において使用者の後頭部に接するベルトを連結してもよい。この場合、ベルトによって画像表示部20を使用者の頭部に強固に保持できる。
右表示ユニット22は、右導光板26による画像の表示を行う。右表示ユニット22は、右保持部21に設けられ、画像表示部20の装着状態における使用者の右側頭部の近傍に位置する。左表示ユニット24は、左導光板28による画像の表示を行う。左表示ユニット24は、左保持部23に設けられ、画像表示部20の装着状態における使用者の左側頭部の近傍に位置する。
本実施形態の右導光板26および左導光板28は、光透過性の樹脂等によって形成される光学部(例えばプリズム)であり、右表示ユニット22および左表示ユニット24が出力する画像光を使用者の眼に導く。なお、右導光板26および左導光板28の表面には、調光板が設けられてもよい。調光板は、光の波長域により透過率が異なる薄板状の光学素子であり、いわゆる波長フィルターとして機能する。調光板は、例えば、前部フレーム27の表面(使用者の眼と対向する面とは反対側の面)を覆うように配置される。調光板の光学特性を適宜選択することにより、可視光、赤外光、および紫外光等の任意の波長域の光の透過率を調整することができ、外部から右導光板26および左導光板28に入射し、右導光板26および左導光板28を透過する外光の光量を調整できる。
画像表示部20は、右表示ユニット22および左表示ユニット24がそれぞれ生成する画像光を、右導光板26および左導光板28に導き、この画像光によって、自身を透過して視認される外界の風景ともに、画像(拡張現実感(Augmented Reality、AR)画像)を使用者に視認させる(これを「画像を表示する」とも呼ぶ)。使用者の前方から右導光板26および左導光板28を透過して外光が使用者の眼に入射する場合、使用者の眼には、画像を構成する画像光と、外光とが入射する。このため、使用者における画像の視認性は、外光の強さに影響を受ける。
このため、例えば前部フレーム27に調光板を装着し、調光板の光学特性を適宜選択あるいは調整することによって、画像の視認のしやすさを調整することができる。典型的な例では、HMD100を装着した使用者が少なくとも外の景色を視認できる程度の光透過性を有する調光板を選択することができる。また、太陽光を抑制して、画像の視認性を高めることができる。また、調光板を用いると、右導光板26および左導光板28を保護し、右導光板26および左導光板28の損傷や汚れの付着等を抑制する効果が期待できる。調光板は、前部フレーム27、あるいは、右導光板26および左導光板28のそれぞれに対して着脱可能としてもよい。また、複数種類の調光板を交換して着脱可能としてもよく、調光板を省略してもよい。
カメラ61は、画像表示部20の前部フレーム27に配置されている。カメラ61は、前部フレーム27の前面において、右導光板26および左導光板28を透過する外光を遮らない位置に設けられる。図1の例では、カメラ61は、前部フレーム27の端部ER側に配置されている。カメラ61は、前部フレーム27の端部EL側に配置されていてもよく、右導光板26と左導光板28との連結部に配置されていてもよい。
カメラ61は、CCDやCMOS等の撮像素子、および、撮像レンズ等を備えるデジタルカメラである。本実施形態のカメラ61は単眼カメラであるが、ステレオカメラを採用してもよい。カメラ61は、HMD100の表側方向、換言すれば、画像表示部20の装着状態において使用者が視認する視界方向の、少なくとも一部の外界(実空間)を撮像する。換言すれば、カメラ61は、使用者の視界と重なる範囲または方向を撮像し、使用者が視認する方向を撮像する。カメラ61の画角の広さは適宜設定できる。本実施形態では、カメラ61の画角の広さは、使用者が右導光板26および左導光板28を透過して視認可能な使用者の視界の全体を撮像するように設定される。カメラ61は、制御機能部150(図6)の制御に従って撮像を実行し、得られた撮像データを制御機能部150へ出力する。
HMD100は、予め設定された測定方向に位置する測定対象物までの距離を検出する測距センサーを備えていてもよい。測距センサーは、例えば、前部フレーム27の右導光板26と左導光板28との連結部分に配置することができる。測距センサーの測定方向は、HMD100の表側方向(カメラ61の撮像方向と重複する方向)とすることができる。測距センサーは、例えば、LEDやレーザーダイオード等の発光部と、光源が発する光が測定対象物に反射する反射光を受光する受光部と、により構成できる。この場合、三角測距処理や、時間差に基づく測距処理により距離を求める。測距センサーは、例えば、超音波を発する発信部と、測定対象物で反射する超音波を受信する受信部と、により構成してもよい。この場合、時間差に基づく測距処理により距離を求める。測距センサーは、カメラ61と同様に、制御機能部150の指示に従って測距し、検出結果を制御機能部150へ出力する。
図2は、画像表示部20が備える光学系の構成を示す要部平面図である。説明の便宜上、図2には使用者の右眼REおよび左眼LEを図示する。図2に示すように、右表示ユニット22と左表示ユニット24とは、左右対称に構成されている。
右眼REに画像(AR画像)を視認させる構成として、右表示ユニット22は、OLED(Organic Light Emitting Diode)ユニット221と、右光学系251とを備える。OLEDユニット221は、画像光を発する。右光学系251は、レンズ群等を備え、OLEDユニット221が発する画像光Lを右導光板26へと導く。
OLEDユニット221は、OLEDパネル223と、OLEDパネル223を駆動するOLED駆動回路225とを有する。OLEDパネル223は、有機エレクトロルミネッセンスにより発光し、R(赤)、G(緑)、B(青)の色光をそれぞれ発する発光素子により構成される自発光型の表示パネルである。OLEDパネル223は、R、G、Bの素子を1個ずつ含む単位を1画素とした複数の画素が、マトリクス状に配置されている。
OLED駆動回路225は、後述の制御機能部150(図6)の制御に従って、OLEDパネル223が備える発光素子の選択および通電を実行し、発光素子を発光させる。OLED駆動回路225は、OLEDパネル223の裏面、すなわち発光面の裏側に、ボンディング等により固定されている。OLED駆動回路225は、例えばOLEDパネル223を駆動する半導体デバイスで構成され、OLEDパネル223の裏面に固定される基板に実装されてもよい。この基板には、後述する温度センサー217(図5)が実装される。なお、OLEDパネル223は、白色に発光する発光素子をマトリクス状に配置し、R、G、Bの各色に対応するカラーフィルターを重ねて配置する構成を採用してもよい。また、R、G、Bの色光をそれぞれ放射する発光素子に加えて、W(白)の光を放射する発光素子を備えるWRGB構成のOLEDパネル223が採用されてもよい。
右光学系251は、OLEDパネル223から射出された画像光Lを並行状態の光束にするコリメートレンズを有する。コリメートレンズにより並行状態の光束にされた画像光Lは、右導光板26に入射する。右導光板26の内部において光を導く光路には、画像光Lを反射する複数の反射面が形成される。画像光Lは、右導光板26の内部で複数回の反射を経て右眼RE側に導かれる。右導光板26には、右眼REの眼前に位置するハーフミラー261(反射面)が形成される。画像光Lは、ハーフミラー261で反射後、右導光板26から右眼REへと射出され、この画像光Lが右眼REの網膜で像を結ぶことで、使用者に画像を視認させる。
左眼LEに画像(AR画像)を視認させる構成として、左表示ユニット24は、OLEDユニット241と、左光学系252とを備える。OLEDユニット241は画像光を発する。左光学系252は、レンズ群等を備え、OLEDユニット241が発する画像光Lを左導光板28へと導く。OLEDユニット241は、OLEDパネル243と、OLEDパネル243を駆動するOLED駆動回路245を有する。各部の詳細は、OLEDユニット221、OLEDパネル223、OLED駆動回路225と同じである。OLEDパネル243の裏面に固定される基板には、温度センサー239(図5)が実装される。また、左光学系252の詳細は上述の右光学系251と同じである。
以上説明した構成によれば、HMD100は、シースルー型の表示装置として機能することができる。すなわち使用者の右眼REには、ハーフミラー261で反射した画像光Lと、右導光板26を透過した外光OLとが入射する。使用者の左眼LEには、ハーフミラー281で反射した画像光Lと、左導光板28を透過した外光OLとが入射する。このように、HMD100は、内部で処理した画像の画像光Lと外光OLとを重ねて使用者の眼に入射させる。この結果、使用者にとっては、右導光板26および左導光板28を透かして外界の風景(実世界)が見えると共に、この外界に重なるようにして画像光Lによる虚像(虚像画像、AR画像)が視認される。
なお、右光学系251および右導光板26を総称して「右導光部」とも呼び、左光学系252および左導光板28を総称して「左導光部」とも呼ぶ。右導光部および左導光部の構成は、上述した例に限定されず、画像光を用いて使用者の眼前に画像を形成する限りにおいて任意の方式を用いることができる。例えば、右導光部および左導光部には、回折格子を用いてもよいし、半透過反射膜を用いてもよい。
図1において、制御装置10と画像表示部20とは、接続ケーブル40によって接続される。接続ケーブル40は、制御装置10の下部に設けられるコネクターに着脱可能に接続され、左保持部23の先端から、画像表示部20内部の各種回路に接続する。接続ケーブル40には、デジタルデータを伝送するメタルケーブルまたは光ファイバーケーブルを有する。接続ケーブル40にはさらに、アナログデータを伝送するメタルケーブルを含んでもよい。接続ケーブル40の途中には、コネクター46が設けられている。
コネクター46は、ステレオミニプラグを接続するジャックであり、コネクター46と制御装置10とは、例えばアナログ音声信号を伝送するラインで接続される。図1に示す本実施形態の例では、コネクター46には、ステレオヘッドホンを構成する右イヤホン32および左イヤホン34と、マイク63を有するヘッドセット30とが接続されている。
マイク63は、例えば図1に示すように、マイク63の集音部が使用者の視線方向を向くように配置されている。マイク63は、音声を集音し、音声信号を音声インターフェイス182(図5)に出力する。マイク63は、モノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであっても無指向性のマイクであってもよい。
制御装置10は、HMD100を制御するための装置である。制御装置10は、点灯部12と、トラックパッド14と、方向キー16と、決定キー17と、電源スイッチ18とを含んでいる。点灯部12は、HMD100の動作状態(例えば、電源のON/OFF等)を、その発光態様によって通知する。点灯部12としては、例えば、LED(Light Emitting Diode)を用いることができる。
トラックパッド14は、トラックパッド14の操作面上での接触操作を検出して、検出内容に応じた信号を出力する。トラックパッド14としては、静電式や圧力検出式、光学式といった種々のトラックパッドを採用することができる。方向キー16は、上下左右方向に対応するキーへの押下操作を検出して、検出内容に応じた信号を出力する。決定キー17は、押下操作を検出して、制御装置10において操作された内容を決定するための信号を出力する。電源スイッチ18は、スイッチのスライド操作を検出することで、HMD100の電源の状態を切り替える。
図3は、使用者から見た画像表示部20の要部構成を示す図である。図3では、接続ケーブル40、右イヤホン32、左イヤホン34の図示を省略している。図3の状態では、右導光板26および左導光板28の裏側が視認できると共に、右眼REに画像光を照射するためのハーフミラー261、および、左眼LEに画像光を照射するためのハーフミラー281が略四角形の領域として視認できる。使用者は、これらハーフミラー261、281を含む右導光板26、左導光板28の全体を透過して外界の風景を視認すると共に、ハーフミラー261、281の位置に矩形の表示画像を視認する。
図4は、カメラ61の画角を説明するための図である。図4では、カメラ61と、使用者の右眼REおよび左眼LEとを平面視で模式的に示すと共に、カメラ61の画角(撮像範囲)をθで示す。なお、カメラ61の画角θは図示のように水平方向に拡がっているほか、一般的なデジタルカメラと同様に鉛直方向にも拡がっている。
上述のようにカメラ61は、画像表示部20において右側の端部に配置され、使用者の視線の方向(すなわち使用者の前方)を撮像する。このためカメラ61の光軸は、右眼REおよび左眼LEの視線方向を含む方向とされる。使用者がHMD100を装着した状態で視認できる外界の風景は、無限遠とは限らない。例えば、使用者が両眼で対象物OBを注視すると、使用者の視線は、図中の符号RD、LDに示すように、対象物OBに向けられる。この場合、使用者から対象物OBまでの距離は、30cm〜10m程度であることが多く、1m〜4mであることがより多い。そこで、HMD100について、通常使用時における使用者から対象物OBまでの距離の上限および下限の目安を定めてもよい。この目安は、予め求められHMD100にプリセットされていてもよいし、使用者が設定してもよい。カメラ61の光軸および画角は、このような通常使用時における対象物OBまでの距離が、設定された上限および下限の目安に相当する場合において対象物OBが画角に含まれるように設定されることが好ましい。
なお、一般的に、人間の視野角は水平方向におよそ200度、垂直方向におよそ125度とされる。そのうち情報受容能力に優れる有効視野は水平方向に30度、垂直方向に20度程度である。人間が注視する注視点が迅速に安定して見える安定注視野は、水平方向に60〜90度、垂直方向に45〜70度程度とされている。この場合、注視点が対象物OB(図4)であるとき、視線RD、LDを中心として水平方向に30度、垂直方向に20度程度が有効視野である。また、水平方向に60〜90度、垂直方向に45〜70度程度が安定注視野である。使用者が画像表示部20を透過して右導光板26および左導光板28を透過して視認する実際の視野を、実視野(FOV:Field Of View)と呼ぶ。実視野は、視野角および安定注視野より狭いが、有効視野より広い。
本実施形態のカメラ61の画角θは、使用者の視野より広い範囲を撮像可能に設定される。カメラ61の画角θは、少なくとも使用者の有効視野より広い範囲を撮像可能に設定されることが好ましく、実視野よりも広い範囲を撮像可能に設定されることがより好ましい。カメラ61の画角θは、使用者の安定注視野より広い範囲を撮像可能に設定されることがさらに好ましく、使用者の両眼の視野角よりも広い範囲を撮像可能に設定されることが最も好ましい。このため、カメラ61には、撮像レンズとしていわゆる広角レンズを備え、広い画角を撮像できる構成としてもよい。広角レンズには、超広角レンズ、準広角レンズと呼ばれるレンズを含んでもよい。また、カメラ61には、単焦点レンズを含んでもよく、ズームレンズを含んでもよく、複数のレンズからなるレンズ群を含んでもよい。
図5は、HMD100の構成を機能的に示すブロック図である。制御装置10は、プログラムを実行してHMD100を制御するメインプロセッサー140と、記憶部と、入出力部と、センサー類と、インターフェイスと、電源部130とを備える。メインプロセッサー140には、これらの記憶部、入出力部、センサー類、インターフェイス、電源部130がそれぞれ接続されている。メインプロセッサー140は、制御装置10が内蔵しているコントローラー基板120に実装されている。
記憶部には、メモリー118と、不揮発性記憶部121とが含まれている。メモリー118は、メインプロセッサー140によって実行されるコンピュータープログラム、および、処理されるデータを一時的に記憶するワークエリアを構成する。不揮発性記憶部121は、フラッシュメモリーやeMMC(embedded Multi Media Card)で構成される。不揮発性記憶部121は、メインプロセッサー140が実行するコンピュータープログラムや、メインプロセッサー140によって処理される各種のデータを記憶する。本実施形態において、これらの記憶部はコントローラー基板120に実装されている。
入出力部には、トラックパッド14と、操作部110とが含まれている。操作部110には、制御装置10に備えられた方向キー16と、決定キー17と、電源スイッチ18とが含まれる。メインプロセッサー140は、これら各入出力部を制御すると共に、各入出力部から出力される信号を取得する。
センサー類には、6軸センサー111と、磁気センサー113と、GNSS(Global Navigation Satellite System)レシーバー115とが含まれている。6軸センサー111は、3軸加速度センサーと3軸ジャイロ(角速度)センサーとを備えるモーションセンサー(慣性センサー)である。6軸センサー111は、これらセンサーがモジュール化されたIMU(Inertial Measurement Unit)を採用してもよい。磁気センサー113は、例えば、3軸の地磁気センサーである。GNSSレシーバー115は、GNSSを構成する人工衛星から受信した航法信号に基づいて、制御装置10の現在位置(経度・緯度)を測位する。これらセンサー類(6軸センサー111、磁気センサー113、GNSSレシーバー115)は、検出値を予め指定されたサンプリング周波数に従って、メインプロセッサー140へと出力する。各センサーが検出値を出力するタイミングは、メインプロセッサー140からの指示に応じてもよい。
インターフェイスには、無線通信部117と、音声コーデック180と、外部コネクター184と、外部メモリーインターフェイス186と、USB(Universal Serial Bus)コネクター188と、センサーハブ192と、FPGA194と、インターフェイス196とが含まれている。これらは、外部とのインターフェイスとして機能する。
無線通信部117は、HMD100と外部機器との間における無線通信を実行する。無線通信部117は、図示しないアンテナ、RF回路、ベースバンド回路、通信制御回路等を備えて構成され、あるいはこれらが統合されたデバイスとして構成されている。無線通信部117は、例えば、Bluetooth(登録商標)、Wi−Fi(登録商標)を含む無線LAN等の規格に準拠した無線通信を行う。
音声コーデック180は、音声インターフェイス182に接続され、音声インターフェイス182を介して入出力される音声信号のエンコード/デコードを行う。音声インターフェイス182は、音声信号を入出力するインターフェイスである。音声コーデック180は、アナログ音声信号からデジタル音声データへの変換を行うA/Dコンバーター、および、その逆の変換を行うD/Aコンバーターを備えてもよい。本実施形態のHMD100は、音声を右イヤホン32および左イヤホン34から出力し、マイク63により集音する。音声コーデック180は、メインプロセッサー140が出力するデジタル音声データをアナログ音声信号に変換し、音声インターフェイス182を介して出力する。また、音声コーデック180は、音声インターフェイス182に入力されるアナログ音声信号をデジタル音声データに変換してメインプロセッサー140に出力する。
外部コネクター184は、メインプロセッサー140に対して、メインプロセッサー140と通信する外部装置(例えば、パーソナルコンピューター、スマートフォン、ゲーム機器等)を接続するためのコネクターである。外部コネクター184に接続された外部装置は、コンテンツの供給元となり得るほか、メインプロセッサー140が実行するコンピュータープログラムのデバッグや、HMD100の動作ログの収集に使用できる。外部コネクター184は種々の態様を採用できる。外部コネクター184としては、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等の有線接続に対応したインターフェイスや、無線LANインターフェイス、Bluetoothインターフェイス等の無線接続に対応したインターフェイスを採用できる。
外部メモリーインターフェイス186は、可搬型のメモリーデバイスを接続可能なインターフェイスである。外部メモリーインターフェイス186は、例えば、カード型記録媒体を装着してデータの読み書きを行うメモリーカードスロットと、インターフェイス回路とを含む。カード型記録媒体のサイズ、形状、規格等は適宜選択できる。USBコネクター188は、USB規格に準拠したメモリーデバイス、スマートフォン、パーソナルコンピューター等を接続可能なインターフェイスである。USBコネクター188は、例えば、USB規格に準拠したコネクターと、インターフェイス回路とを含む。USBコネクター188のサイズ、形状、USB規格のバージョン等は適宜選択できる。
また、HMD100は、バイブレーター19を備える。バイブレーター19は、図示しないモーターと、偏芯した回転子等を備え、メインプロセッサー140の制御に従って振動を発生する。HMD100は、例えば、操作部110に対する操作を検出した場合や、HMD100の電源がオンオフされた場合等に所定の振動パターンでバイブレーター19により振動を発生させる。バイブレーター19は、制御装置10に設ける構成に換えて、画像表示部20側、例えば、画像表示部の右保持部21(テンプルの右側部分)に設ける構成としてもよい。
センサーハブ192およびFPGA194は、インターフェイス(I/F)196を介して画像表示部20に接続されている。センサーハブ192は、画像表示部20が備える各種センサーの検出値を取得して、メインプロセッサー140に出力する。FPGA194は、メインプロセッサー140と画像表示部20の各部との間で送受信されるデータの処理およびインターフェイス196を介した伝送を実行する。インターフェイス196は、画像表示部20の右表示ユニット22と、左表示ユニット24とに対してそれぞれ接続されている。本実施形態の例では、左保持部23に接続ケーブル40が接続され、この接続ケーブル40に繋がる配線が画像表示部20内部に敷設され、右表示ユニット22と左表示ユニット24とのそれぞれが、制御装置10のインターフェイス196に接続される。
電源部130には、バッテリー132と、電源制御回路134とが含まれている。電源部130は、制御装置10が動作するための電力を供給する。バッテリー132は、充電可能な電池である。電源制御回路134は、バッテリー132の残容量の検出と、OS143(図6)への充電の制御を行う。電源制御回路134は、メインプロセッサー140に接続され、バッテリー132の残容量の検出値や、バッテリー132の電圧の検出値をメインプロセッサー140へと出力する。なお、電源部130が供給する電力に基づいて、制御装置10から画像表示部20へと電力を供給してもよい。電源部130から制御装置10の各部および画像表示部20への電力の供給状態を、メインプロセッサー140により制御可能な構成としてもよい。
右表示ユニット22は、表示ユニット基板210と、OLEDユニット221と、カメラ61と、照度センサー65と、LEDインジケーター67と、温度センサー217とを備える。表示ユニット基板210には、インターフェイス196に接続されるインターフェイス(I/F)211と、受信部(Rx)213と、EEPROM(Electrically Erasable Programmable Read−Only Memory)215とが実装されている。受信部213は、インターフェイス211を介して制御装置10から入力されるデータを受信する。受信部213は、OLEDユニット221で表示する画像の画像データを受信した場合に、受信した画像データをOLED駆動回路225(図2)へと出力する。
EEPROM215は、各種のデータをメインプロセッサー140が読み取り可能な態様で記憶する。EEPROM215は、例えば、画像表示部20のOLEDユニット221、241の発光特性や表示特性に関するデータ、右表示ユニット22または左表示ユニット24のセンサー特性に関するデータ等を記憶する。具体的には、例えば、OLEDユニット221、241のガンマ補正に係るパラメーター、後述する温度センサー217、239の検出値を補償するデータ等を記憶する。これらのデータは、HMD100の工場出荷時の検査によって生成され、EEPROM215に書き込まれる。出荷後は、メインプロセッサー140がEEPROM215のデータを読み込んで各種の処理に利用する。
カメラ61は、インターフェイス211を介して入力される信号に従って撮像を実行し、撮像画像データあるいは撮像結果を表す信号を制御装置10へと出力する。照度センサー65は、図1に示すように、前部フレーム27の端部ERに設けられ、画像表示部20を装着する使用者の前方からの外光を受光するように配置される。照度センサー65は、受光量(受光強度)に対応した検出値を出力する。LEDインジケーター67は、図1に示すように、前部フレーム27の端部ERにおいてカメラ61の近傍に配置される。LEDインジケーター67は、カメラ61による撮像を実行中に点灯して、撮像中であることを報知する。
温度センサー217は、温度を検出し、検出した温度に対応する電圧値あるいは抵抗値を出力する。温度センサー217は、OLEDパネル223(図2)の裏面側に実装される。温度センサー217は、例えばOLED駆動回路225と同一の基板に実装されてもよい。この構成により、温度センサー217は主としてOLEDパネル223の温度を検出する。なお、温度センサー217は、OLEDパネル223あるいはOLED駆動回路225(図2)に内蔵されてもよい。例えば、OLEDパネル223がSi−OLEDとしてOLED駆動回路225と共に統合半導体チップ上の集積回路として実装される場合、この半導体チップに温度センサー217を実装してもよい。
左表示ユニット24は、表示ユニット基板230と、OLEDユニット241と、温度センサー239とを備える。表示ユニット基板230には、インターフェイス196に接続されるインターフェイス(I/F)231と、受信部(Rx)233と、6軸センサー235と、磁気センサー237とが実装されている。受信部233は、インターフェイス231を介して制御装置10から入力されるデータを受信する。受信部233は、OLEDユニット241で表示する画像の画像データを受信した場合に、受信した画像データをOLED駆動回路245(図2)へと出力する。
6軸センサー235は、3軸加速度センサーおよび3軸ジャイロ(角速度)センサーを備えるモーションセンサー(慣性センサー)である。6軸センサー235は、上記のセンサーがモジュール化されたIMUを採用してもよい。磁気センサー237は、例えば、3軸の地磁気センサーである。6軸センサー235と磁気センサー237は、画像表示部20に設けられているため、画像表示部20が使用者の頭部に装着されているときには、使用者の頭部の動きを検出する。検出された頭部の動きから画像表示部20の向き、すなわち、使用者の視界が特定される。
温度センサー239は、温度を検出し、検出した温度に対応する電圧値あるいは抵抗値を出力する。温度センサー239は、OLEDパネル243(図2)の裏面側に実装される。温度センサー239は、例えばOLED駆動回路245と同一の基板に実装されてもよい。この構成により、温度センサー239は主としてOLEDパネル243の温度を検出する。温度センサー239は、OLEDパネル243あるいはOLED駆動回路245(図2)に内蔵されてもよい。詳細は温度センサー217と同様である。
右表示ユニット22のカメラ61、照度センサー65、温度センサー217と、左表示ユニット24の6軸センサー235、磁気センサー237、温度センサー239は、制御装置10のセンサーハブ192に接続される。センサーハブ192は、メインプロセッサー140の制御に従って各センサーのサンプリング周期の設定および初期化を行う。センサーハブ192は、各センサーのサンプリング周期に合わせて、各センサーへの通電、制御データの送信、検出値の取得等を実行する。センサーハブ192は、予め設定されたタイミングで、右表示ユニット22および左表示ユニット24が備える各センサーの検出値をメインプロセッサー140へ出力する。センサーハブ192は、各センサーの検出値を一時的に保持するキャッシュ機能を備えてもよい。センサーハブ192は、各センサーの検出値の信号形式やデータ形式の変換機能(例えば、統一形式への変換機能)を備えてもよい。センサーハブ192は、メインプロセッサー140の制御に従ってLEDインジケーター67への通電を開始および停止させることで、LEDインジケーター67を点灯または消灯させる。
図6は、制御装置10の構成を機能的に示すブロック図である。制御装置10は、機能的には、記憶機能部122と、制御機能部150とを備える。記憶機能部122は、不揮発性記憶部121(図5)により構成される論理的な記憶部である。記憶機能部122は、記憶機能部122のみを使用する構成に代えて、不揮発性記憶部121に組み合わせてEEPROM215やメモリー118を使用する構成としてもよい。制御機能部150は、メインプロセッサー140がコンピュータープログラムを実行することにより、すなわち、ハードウェアとソフトウェアとが協働することにより構成される。
記憶機能部122には、制御機能部150における処理に供する種々のデータが記憶されている。具体的には、本実施形態の記憶機能部122は、設定データ格納部123と、コンテンツデータ格納部124と、ジェスチャーデータ格納部125と、キーワードデータ格納部126と、関連情報データ格納部127とを備える。設定データ格納部123には、HMD100の動作に係る各種の設定値が格納されている。例えば、設定データ格納部123には、制御機能部150がHMD100を制御する際のパラメーター、行列式、演算式、LUT(Look Up Table)等が格納されている。
コンテンツデータ格納部124には、制御機能部150の制御によって画像表示部20が表示する画像や映像を含むコンテンツのデータ(画像データ、映像データ、音声データ等)が格納されている。なお、コンテンツデータ格納部124には、双方向型のコンテンツのデータが格納されていてもよい。双方向型のコンテンツとは、操作部110によって使用者の操作を取得して、取得した操作内容に応じた処理を制御機能部150が実行し、処理内容に応じたコンテンツを画像表示部20に表示するタイプのコンテンツを意味する。この場合、コンテンツのデータには、使用者の操作を取得するためのメニュー画面の画像データ、メニュー画面に含まれる項目に対応する処理を定めるデータ等を含みうる。
ジェスチャーデータ格納部125には、ジェスチャーの種類と、表示対象物の関連情報の内容とが対応づけられた情報(以下、「対応情報」と呼ぶ)が格納されている。「ジェスチャー」とは、HMD100の使用者の体の一部の動きを意味し、本実施形態では、手の動き(動作)を意味する。また、「ジェスチャーの種類」とは、例えば、手を振る、手を握る等の手の動きの内容を意味する。なお、ジェスチャーは、HMD100の使用者によるジェスチャーに限られず、HMD100の使用者以外のジェスチャーを含んでもよい。また、ジェスチャーは、手の動き(動作)に限られず、手の指の動きでもよいし、足の動きでもよく、体の一部の動きであればよい。対応情報は、後述の表示対象物表示制御処理において、表示させる関連情報の内容を決定する際に利用される。ジェスチャーの種類および対応情報についての詳細な説明は、後述する。
キーワードデータ格納部126には、キーワードと、キーワードの種類とが予め対応づけられて格納されている。本実施形態において、「キーワードの種類」とは、HMD100の使用者により入力されたキーワードによって特定される表示対象物の画像の表示態様を決定する際に利用されるキーワードの分類を意味する。キーワードの種類は、「使用態様表示キーワード」と、「提示態様表示キーワード」と、「標準表示キーワード」と、の合計3種類が存在する。「使用態様表示キーワード」とは、表示対象物が実際に使用される状態を模した表示態様で表示対象物画像を表示させるキーワードである。「使用態様表示キーワード」に該当するキーワードは、例えば、「食べ物」が該当する。「提示態様表示キーワード」とは、表示対象物が実際に提示される態様を模した提示態様で表示対象物画像を表示させるキーワードである。「提示態様表示キーワード」に該当するキーワードは、例えば、「おしゃれ」が該当する。「標準表示キーワード」とは、使用態様表示キーワードおよび提示態様表示キーワードに該当しないキーワードであり、表示対象物画像をそのまま表示させるキーワードである。後述の表示対象物表示制御処理では、受け付けられたキーワードからキーワードの種類が特定され、特定されたキーワードの種類に応じた表示態様で表示対象物画像が表示される。
関連情報データ格納部127には、表示対象物と、表示対象物の関連情報とが対応づけられて格納されている。各関連情報は、予め優先度が設定されており、後述の表示対象物表示制御処理では、優先度の高い順に関連情報が表示される。なお、かかる優先度は、表示対象物表示制御処理において更新され、ジェスチャーの対象になった関連情報の優先度は上がり、ジェスチャーの対象にならなかった関連情報の優先度は下がるように変更される。本実施形態において、「ジェスチャーの対象」とは、HMD100の使用者がジェスチャーを行う際の対象物を意味する。ジェスチャーの対象は、例えば、画像表示部20に表示される表示対象物画像、関連情報を示す画像が該当する。
制御機能部150は、記憶機能部122が記憶しているデータを利用して各種処理を実行することにより、OS(Operating System)143、画像処理部145、表示制御部147、撮像制御部149、入出力制御部151、ジェスチャー検出部153、キーワード特定部155としての機能を実行する。本実施形態では、OS143以外の各機能部は、OS143上で実行されるコンピュータープログラムとして構成されている。
画像処理部145は、画像表示部20により表示する画像/映像の画像データに基づいて、右表示ユニット22および左表示ユニット24に送信する信号を生成する。画像処理部145が生成する信号は、垂直同期信号、水平同期信号、クロック信号、アナログ画像信号等であってもよい。画像処理部145は、メインプロセッサー140がコンピュータープログラムを実行して実現される構成のほか、メインプロセッサー140とは別のハードウェア(例えば、DSP(Digital Signal Processor)で構成してもよい。
なお、画像処理部145は、必要に応じて、解像度変換処理、画像調整処理、2D/3D変換処理等を実行してもよい。解像度変換処理は、画像データの解像度を右表示ユニット22および左表示ユニット24に適した解像度へと変換する処理である。画像調整処理は、画像データの輝度や彩度を調整する処理である。2D/3D変換処理は、三次元画像データから二次元画像データを生成し、あるいは、二次元画像データから三次元画像データを生成する処理である。画像処理部145は、これらの処理を実行した場合、処理後の画像データに基づき画像を表示するための信号を生成し、接続ケーブル40を介して画像表示部20へと送信する。
表示制御部147は、右表示ユニット22および左表示ユニット24を制御する制御信号を生成し、この制御信号により、右表示ユニット22および左表示ユニット24のそれぞれによる画像光の生成と射出とを制御する。具体的には、表示制御部147は、OLED駆動回路225、245を制御して、OLEDパネル223、243による画像の表示を実行させる。表示制御部147は、画像処理部145が出力する信号に基づいて、OLED駆動回路225、245がOLEDパネル223、243に描画するタイミングの制御、OLEDパネル223、243の輝度の制御等を行う。
また、表示制御部147は、後述の表示対象物表示制御処理において、表示対象物の画像(以下、「表示対象物画像」と呼ぶ)と、表示対象物に関連する関連情報(以下、「関連情報」と呼ぶ)と、を画像表示部20に表示させる。後述の表示対象物表示制御処理では、表示制御部147は、表示対象物画像を視差のついた立体として表示させるとともに、表示対象物を示すキーワードの種類に応じた表示態様で表示対象物画像を表示させ、また、表示された表示対象物画像に対する使用者のジェスチャーの種類に応じた関連情報を表示させる。表示対象物表示制御処理についての詳細な説明は、後述する。なお、以降の説明において、表示対象物を検索対象物と呼ぶ場合がある。
撮像制御部149は、カメラ61を制御して撮像を実行させ、撮像画像データを生成し、記憶機能部122に一時的に記憶させる。また、カメラ61が撮像画像データを生成する回路を含むカメラユニットとして構成される場合、撮像制御部149は、撮像画像データをカメラ61から取得して、記憶機能部122に一時的に記憶させる。
入出力制御部151は、トラックパッド14(図1)と、方向キー16と、決定キー17とを適宜、制御して、これらから入力指令を受け付ける。受け付けられた入力指令は、OS143、またはOS143と共にOS143上で動作するコンピュータープログラムに出力される。本実施形態において、入出力制御部151は、後述の表示対象物表示制御処理において、画像表示部20に表示される図示しないソフトキーボードから表示対象物を示すキーワードの文字入力を受け付ける。なお、本実施形態において、入出力制御部151は、課題を解決するための手段における入力受付部の下位概念に相当する。
ジェスチャー検出部153は、後述の表示対象物表示制御処理において、画像表示部20に表示される表示対象物画像に対するジェスチャーを検出する。本実施形態において、「表示対象物画像に対するジェスチャー」とは、HMD100の使用者から見てジェスチャーが表示対象物画像から所定距離以下離れている場合のジェスチャーを意味する。ジェスチャー検出部153は、使用者の視界VRの撮像画像を解析することにより、ジェスチャーの対象の表示対象物画像と、ジェスチャーの位置と、ジェスチャーの種類とをそれぞれ検出する。本実施形態において、「ジェスチャーの位置」とは、撮像画像におけるジェスチャーの検出位置を意味し、撮像画像におけるジェスチャーが行われた手の重心位置を意味する。なお、ジェスチャーの位置は、撮像画像におけるジェスチャーの検出位置に代えて、かかる検出位置に対応する表示領域PN内の位置でもよいし、ジェスチャーの対象となった表示対象物画像の表示位置でもよい。また、ジェスチャーの位置は、ジェスチャーが行われた手の重心位置に限らず、ジェスチャーが行われた手を含む領域の特徴点の位置でもよい。特徴点とは、例えば、かかる領域の重心点や、かかる領域の端点などを意味する。
キーワード特定部155は、後述の表示対象物表示制御処理において、キーワードデータ格納部126を参照して、受け付けられたキーワードの種類を特定する。
A2.拡張現実感表示:
図7は、HMD100による拡張現実感表示の一例を示す説明図である。図7では、使用者の視界VRを例示している。上述のようにして、HMD100の使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、使用者は、表示領域PN内において、表示対象の対象画像AIを拡張現実感(AR)として視認する。図7に示す例では、対象画像AIは、HMD100のOSのメニュー画面である。メニュー画面には、例えば、「アナログ時計」、「メッセージ」、「ミュージック」、「ナビゲーション」、「カメラ」、「ブラウザー」、「カレンダー」、「電話」の各アプリケーションプログラムを起動するためのアイコン画像が含まれる。また、右導光板26、左導光板28が外界からの光を透過することで、使用者は外景SCを視認する。このように、本実施形態のHMD100の使用者は、視界VRのうち対象画像AIが表示された部分については、外景SCに重なるようにして対象画像AIを見ることができる。また、視界VRのうち対象画像AIが表示されていない部分については、外景SCだけを見ることができる。
図7は、HMD100による拡張現実感表示の一例を示す説明図である。図7では、使用者の視界VRを例示している。上述のようにして、HMD100の使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、使用者は、表示領域PN内において、表示対象の対象画像AIを拡張現実感(AR)として視認する。図7に示す例では、対象画像AIは、HMD100のOSのメニュー画面である。メニュー画面には、例えば、「アナログ時計」、「メッセージ」、「ミュージック」、「ナビゲーション」、「カメラ」、「ブラウザー」、「カレンダー」、「電話」の各アプリケーションプログラムを起動するためのアイコン画像が含まれる。また、右導光板26、左導光板28が外界からの光を透過することで、使用者は外景SCを視認する。このように、本実施形態のHMD100の使用者は、視界VRのうち対象画像AIが表示された部分については、外景SCに重なるようにして対象画像AIを見ることができる。また、視界VRのうち対象画像AIが表示されていない部分については、外景SCだけを見ることができる。
図7に示すように、対象画像AI上には、ポインター画像Ptが表示されている。ポインター画像Ptは、使用者が対象画像AI上に表示された各メニューを選択するために用いられる。図7に示す例では、使用者は、対象画像AI上の「ブラウザー」アイコン画像にポインター画像Ptをあわせることで、「ブラウザー」メニューを選択している。使用者は、この状態で、トラックパッド14上でタップ操作等を行うことにより、「ブラウザー」メニューを実行できる。
A3.表示対象物表示制御処理:
先ず、図8に示す表示対象物表示制御処理の概要を説明する。HMD100の使用者が検索対象物のブラウジング(検索)をする際に、HMD100の使用者が検索対象物を指し示すキーワードを知っている場合、かかるキーワードを指定して検索を実行することにより、検索対象物の情報を比較的容易に取得し得る。しかし、HMD100の使用者が検索対象物を指し示すキーワードを知らない、或いは不確かなままである場合、比較的少ない回数で所望の検索対象物の情報を得ることは困難である。そこで、本実施形態では、検索対象物を示すキーワードの種類に応じた表示態様で検索対象物を表示し、また、表示された検索対象物に対する使用者のジェスチャーの種類に応じた関連情報を表示することによって、HMD100の使用者は、検索対象物の情報を容易に取得し得る。以下、詳細に説明する。
先ず、図8に示す表示対象物表示制御処理の概要を説明する。HMD100の使用者が検索対象物のブラウジング(検索)をする際に、HMD100の使用者が検索対象物を指し示すキーワードを知っている場合、かかるキーワードを指定して検索を実行することにより、検索対象物の情報を比較的容易に取得し得る。しかし、HMD100の使用者が検索対象物を指し示すキーワードを知らない、或いは不確かなままである場合、比較的少ない回数で所望の検索対象物の情報を得ることは困難である。そこで、本実施形態では、検索対象物を示すキーワードの種類に応じた表示態様で検索対象物を表示し、また、表示された検索対象物に対する使用者のジェスチャーの種類に応じた関連情報を表示することによって、HMD100の使用者は、検索対象物の情報を容易に取得し得る。以下、詳細に説明する。
図8は、表示対象物表示制御処理の処理手順を示すフローチャートである。表示対象物表示制御処理は、予め定められた種類の検索が実行されると開始される。本実施形態において、「予め定められた種類の検索」は、ブラウジングを意味する。表示対象物表示制御処理は、図7に示す「ブラウザー」メニューが実行されて、「ブラウザー」アプリケーションが起動すると開始される。本実施形態では、HMD100の使用者が、自身に似合う流行の腕時計を探したいが適切なキーワードが分からずに、「腕時計、おしゃれ」というキーワードを入力した場合を例に説明する。図8に示すように、入出力制御部151は、キーワードの入力を受け付ける(ステップS105)。
図9は、ステップS105実行後の使用者の視界VRの一例を模式的に示す説明図である。図9では、説明の便宜上、外景SCの図示を省略している。図9に示すように、表示領域PNには、対象画像AIが表示されている。対象画像AIは、「ブラウザー」アプリケーションの操作画面であり、検索ワードKwには「腕時計、おしゃれ」が入力されている。HMD100の使用者は、検索実行ボタンBtに図示しないポインター画像Ptを重畳させてトラックパッド14上をタップすることにより、検索を実行できる。このとき、入出力制御部151は、検索ワードKwに入力されているキーワード「腕時計」および「おしゃれ」の入力を受け付ける。
図8に示すように、ステップS105の実行後、キーワード特定部155は、受け付けられたキーワードを示す表示対象物を検索する(ステップS110)。具体的には、キーワード特定部155は、キーワードデータ格納部126を参照して、受け付けられたキーワードの示す表示対象物を検索する。
ステップS110の実行後、キーワード特定部155は、キーワードの種類を特定する(ステップS115)。具体的には、キーワード特定部155は、キーワードデータ格納部126を参照して、受け付けられたキーワードが、上述の「使用態様表示キーワード」、「提示態様表示キーワード」および「標準表示キーワード」のうちのいずれのキーワードの種類に該当するかを特定する。図9に示す例において、受け付けられたキーワードには、「おしゃれ」が含まれているため、キーワードの種類は、「使用態様表示キーワード」に特定される。
ステップS115の実行後、表示制御部147は、特定されたキーワードの種類に応じて、表示対象物画像を表示対象物が実際に使用される状態を模した表示態様で表示させる(ステップS120)。
図10は、ステップS120実行後の使用者の視界VRの一例を模式的に示す説明図である。図10では、説明の便宜上、外景SCの一部の図示を省略している。図10に示すように、対象画像AIには、「腕時計、おしゃれ」の検索結果として、種々の腕時計を示す表示対象物画像TO1、TO2、TO3、TO4およびTO5が表示されている。また、表示対象物画像TO3は、画像表示部20を透過して視認されるHMD100の使用者の左腕LHに重ねて表示されている。このような表示は、HMD100の使用者の左腕LHにはめられた状態、すなわち、表示対象物である腕時計が実際に使用される状態を模している。なお、図示の便宜上、図示を省略しているが、各表示対象物画像TO1〜TO5は、視差の付いた立体として表示され、また、各表示対象物画像の相対的な大きさも実際の相対的な大きさと同様に表示されている。
図8に示すように、ステップS120の実行後、ジェスチャー検出部153は、表示対象物画像TO1〜TO5に対するジェスチャーを検出したか否かを判定する(ステップS125)。具体的には、ジェスチャー検出部153は、HMD100の使用者の視界VRの撮像画像を解析することにより、使用者のジェスチャーを検出し、検出されたジェスチャーの位置(ジェスチャーが行われた領域)に基づいて、ジェスチャーの対象物を特定する。
表示対象物画像TO1〜TO5に対するジェスチャーを検出したと判定された場合(ステップS125:YES)、表示制御部147は、検出されたジェスチャーに応じて関連情報を表示させる(ステップS130)。本実施形態において、「応じて」とは、種類を意味する。すなわち、表示制御部147は、検出されたジェスチャーの種類に対応する関連情報を表示させる。
図11は、ジェスチャーの種類と関連情報の内容との対応関係の一例を示す説明図である。対応情報GLは、ジェスチャーデータ格納部125に予め記憶されている。図11に示すように、対応情報GLでは、ジェスチャーの種類と、関連情報の内容とが1対1に対応づけられている。なお、図11において、関連情報の内容の欄に「−」と記載されている箇所は、ジェスチャーの種類に対して関連情報の内容が対応づけられていない。この場合、関連情報は表示されず、表示対象物画像が、ジェスチャーの種類に応じた表示態様で表示される。以下、詳細に説明する。
図11のNo.1に示すように、ジェスチャーの種類が「つかむ」である場合、関連情報は表示されず、ジェスチャーが行われた表示対象物を選択する表示がされる。本実施形態において、「つかむ」ジェスチャーとは、手のひらを開いて特定の位置で手のひらを閉じ、少し待つジェスチャーを意味する。例えば、表示対象物として、複数の果物の画像が表示されている場合に、特定の果物の画像に対する「つかむ」ジェスチャーが検出されると、かかる特定の果物を選択する表示がされる。なお、キーワードの種類が「使用態様表示キーワード」に該当する場合において、特定の表示対象物画像に対して「つかむ」ジェスチャーが検出された場合、かかる特定の表示対象物を選択する表示がされるとともに、選択された表示対象物の売れ行き等の関連情報を表示してもよい。
図11のNo.2に示すように、ジェスチャーの種類が「なでる」である場合、関連情報として、表示対象物の質感、材質が表示される。本実施形態において、「なでる」ジェスチャーとは、手のひらを開いて表示対象物の特定の場所に当てて、当てた手を動かすジェスチャーを意味する。例えば、表示対象物として複数の絨毯の画像が表示されている場合に、特定の絨毯の画像に対する「なでる」ジェスチャーが検出されると、かかる特定の絨毯の毛の太さおよび材質等の情報が表示される。
図11のNo.3に示すように、ジェスチャーの種類が「タッチ」である場合、関連情報は表示されず、ジェスチャーが行われた表示対象物を選択する表示がされる。本実施形態において、「タッチ」ジェスチャーとは、手のひら、手の指および握りこぶし等で、表示対象物を特定の位置に移動させるジェスチャー、あるいは、表示対象物を軽く触ってすぐに戻すジェスチャーを意味する。例えば、表示対象物として、位置情報および文字情報等が表示されている場合に、特定の位置情報に対する「タッチ」ジェスチャーが検出されると、かかる特定の情報を選択する表示がされる。
図11のNo.4に示すように、ジェスチャーの種類が「引っ張る」である場合、関連情報として、表示対象物の内部、機構が表示される。本実施形態において、「引っ張る」ジェスチャーとは、上述の「つかむ」ジェスチャー後に手を使用者に近づけるジェスチャーを意味する。例えば、表示対象物として、自動車の画像が表示されている場合に、かかる自動車のドアの取手部分に対する「引っ張る」ジェスチャーが検出されると、自動車の内装や、自動車の車室内の内装情報が表示される。
図11のNo.5に示すように、ジェスチャーの種類が「割る」である場合、関連情報として、表示対象物の内部、機構が表示される。本実施形態において、「割る」ジェスチャーとは、手を開き、指を伸ばして、手の側面方向に手を動かすジェスチャーを意味する。例えば、表示対象物として、りんごの画像が表示されている場合に、かかる画像に対する「割る」ジェスチャーが検出されると、りんごの断面の様子を示す情報(断面図)が表示される。
図11のNo.6に示すように、ジェスチャーの種類が「はさむ」である場合、関連情報として、表示対象物の長さが表示される。本実施形態において、「はさむ」ジェスチャーとは、両手、あるいは、手の指で表示対象物をはさむジェスチャーを意味する。例えば、表示対象物として、皿の画像が表示されている場合に、皿の直径を「はさむ」ジェスチャーが検出されると、かかる皿の直径を示す数値が表示される。
図11のNo.7に示すように、ジェスチャーの種類が「持ち上げる」である場合、関連情報として、表示対象物の重量が表示される。本実施形態において、「持ち上げる」ジェスチャーとは、上述の「つかむ」ジェスチャーの後、重力方向と反対方向へ表示対象物を移動させるジェスチャーを意味する。例えば、表示対象物として、皿の画像が表示されている場合に、かかる皿を「持ち上げる」ジェスチャーが検出されると、かかる皿の重量を示す数値が表示される。なお、例えば、自動車、家具のように、実世界において手で持ち上げることが困難である表示対象物に対しても「持ち上げる」ジェスチャーを行うことができ、かかる表示対象物の重量を示す情報が表示される。
図11のNo.8に示すように、ジェスチャーの種類が「つまむ」である場合、関連情報は表示されず、ジェスチャーが行われた表示対象物を選択する表示がされる。本実施形態において、「つまむ」ジェスチャーとは、2本以上の指で表示対象物をはさみこむように指を動かすジェスチャーを意味する。例えば、表示対象物として、いちごの画像が表示されている場合に、いちごの画像に対する「つまむ」ジェスチャーが検出されると、いちごを選択する表示がされる。
図11のNo.9に示すように、ジェスチャーの種類が「使う」である場合、関連情報として、表示対象物を実際に使用する際の情報が表示される。本実施形態において、「使う」ジェスチャーとは、表示対象物が実際に使用される状態を示すジェスチャーを意味し、表示対象物ごとに異なるジェスチャーである。例えば、表示対象物が野球のバットである場合における「使う」ジェスチャーとは、バットを振るジェスチャーが該当する。かかるジェスチャーが検出された場合、関連情報として、スイングフォームの情報が表示される。また、例えば、表示対象物が所定の食べ物である場合における「使う」ジェスチャーとは、所定の食べ物を食べる動作を示すジェスチャーが該当する。この場合、関連情報として、料理の材料、レシピおよび店舗情報等が表示される。
このように、上述のステップS130では、HMD100の使用者が行ったジェスチャーの種類や、ジェスチャーの対象の表示対象物に応じて、表示対象物の表示態様を異ならせて表示させる。すなわち、HMD100の使用者の行ったジェスチャーの対象が、使用者の所望する情報の対象であるとし、また、HMD100の使用者の行ったジェスチャーの種類が、使用者の所望する情報の内容であるとして、表示態様を切り替える。このように処理するのは、本実施形態では、HMD100の使用者が表示対象物をよく知らない場合を前提としていることから、使用者が表示対象物画像に対して直感的な操作をすることによって所望の情報を取得できるようにするためである。
図12は、ステップS130実行後の使用者の視界VRの一例を模式的に示す説明図である。図12は、図10に示す例について、上述のステップS125において、表示対象物画像TO3に対して、「つかむ」ジェスチャーが行われた場合を示している。図12に示すように、対象画像AIには、表示対象物画像TO3に加えて、関連情報RO1が表示されている。関連情報RO1は、例えば、表示対象物画像TO3の売れ行きを示す情報および検索された回数を示す情報等が該当する。
なお、図示は省略するが、例えば、図10に示す例について、上述のステップS125において、表示対象物画像TO1に対して、所定のジェスチャーが行われた場合には、かかるジェスチャーの種類に応じた表示対象物画像TO1の関連情報が表示される。このように、表示制御部147は、表示対象物画像に対して行われるジェスチャーの位置に応じて、関連情報の対象となる表示対象物を定めるとともに、ジェスチャーの種類に応じた関連情報を表示させる。
図8に示すように、上述のステップS130の実行後、表示制御部147は、表示対象物表示制御処理を終了するか否かを判定する(ステップS135)。具体的には、表示制御部147は、「ブラウザー」アプリケーションの終了指示の有無を判定する。表示対象物表示制御処理を終了すると判定された場合(ステップS135:YES)、表示対象物表示制御処理は終了する。他方、表示対象物表示制御処理を終了しないと判定された場合(ステップS135:NO)、上述のステップS125に戻り、再びステップS125〜ステップS135が実行される。
上述のステップS125において、表示対象物画像TO1〜TO5に対するジェスチャーを検出していないと判定された場合(ステップS125:NO)、上述のステップS135が実行される。
以上説明した本実施形態のHMD100によれば、予め定められたジェスチャーであって、表示された表示対象物画像に対するジェスチャーを検出するジェスチャー検出部153と、検出されたジェスチャーに応じた表示態様で表示対象物画像を表示させることと、検出されたジェスチャーの種類に応じた関連情報であって、表示対象物に関連する関連情報を表示させることと、を実行する表示制御部147と、を備える。したがって、検出されたジェスチャーに応じた表示態様で表示対象物画像を表示させることによって、表示対象物画像を表示させる際の操作性を向上でき、検出されたジェスチャーの種類に応じた関連情報であって表示対象物に関連する関連情報を表示させることによって、表示対象物に関連する情報を容易に取得できる。すなわち、HMD100によれば、表示対象物を検索する際の操作性を向上でき、また、表示対象物に関連する情報を容易に取得できる。
また、検出されたジェスチャーの位置に応じて、関連情報の内容が変更して表示されるので、使用者は、ジェスチャーを行う位置によって異なる関連情報を取得でき、種々の関連情報を容易に取得できる。さらに、受け付けられたキーワードにより特定される表示対象物画像が、受け付けられたキーワードの種類に応じて、該表示対象物が実際に使用される状態を模した表示態様で表示されるので、使用者は、表示対象物が実際に使用される状態を容易に想像することができ、使用者の利便性を向上できる。
加えて、文字によるキーワードの入力の入力が受け付けられるので、使用者の利便性を向上できる。また、表示対象物画像が視差のついた立体として表示されるので、表示対象物画像を目立たせることができ、表示対象物画像の視認性を向上できる。加えて、表示対象物画像は、検索対象物のブラウジング(検索)の結果であるので、検索対象物を検索する際の操作性を向上できる。
B.第2実施形態:
B1.透過型表示装置の全体構成:
第2実施形態における頭部装着型表示装置100は、図1に示す第1実施形態における頭部装着型表示装置100と同じであるので、その詳細な説明は省略する。
B1.透過型表示装置の全体構成:
第2実施形態における頭部装着型表示装置100は、図1に示す第1実施形態における頭部装着型表示装置100と同じであるので、その詳細な説明は省略する。
第2実施形態における制御機能部は、表示制御部147が表示対象物画像および関連情報に加えて対象物提示用画像を表示させる点と、ジェスチャー検出部153が表示対象物画像に対するジェスチャーに加えて対象物提示用画像に対するジェスチャーを検出する点とにおいて、第1実施形態における制御機能部150と異なる。第2実施形態における制御機能部のその他の構成は、第1実施形態の制御機能部150と同じであるので、その詳細な説明は省略する。
第2実施形態における表示制御部147は、特定されたキーワードの種類が「提示態様表示キーワード」である場合に、対象物提示用画像を表示させる。本実施形態において、「対象物提示用画像」とは、表示対象物の実際の提示態様を模すための画像であり、表示対象物が実際に提示される際に用いられる提示用物の画像を意味する。対象物提示用画像と表示対象物画像とは異なる画像である。また、「表示対象物の実際の提示態様」とは、例えば、小売店で表示対象物が販売される際の提示態様、展示会で表示対象物が展示される際の提示態様および食卓等で表示対象物が提供される際の提示態様等の実世界で用いられている種々の提示態様を含む広い概念である。
また、第2実施形態における表示制御部147は、対象物提示用画像に対するジェスチャーが検出された場合に、検出されたジェスチャーに応じて表示対象物画像を追加および削除して、表示対象物画像を表示させる。
第2実施形態におけるジェスチャー検出部153は、対象物提示用画像に対するジェスチャーを検出する。
B2.表示対象物表示制御処理:
図13および図14は、第2実施形態における表示対象物表示制御処理の処理手順を示すフローチャートである。第2実施形態における表示対象物表示制御処理は、ステップS120に代えてステップS120aを実行する点と、ステップS121、ステップS122、ステップS126およびステップS127を追加して実行する点と、において、第1実施形態の表示対象物表示制御処理と異なる。第2実施形態の表示対象物表示制御処理におけるその他の手順は、第1実施形態の表示対象物表示制御処理と同じであるので、同一の手順には同一の符号を付し、その詳細な説明は省略する。
図13および図14は、第2実施形態における表示対象物表示制御処理の処理手順を示すフローチャートである。第2実施形態における表示対象物表示制御処理は、ステップS120に代えてステップS120aを実行する点と、ステップS121、ステップS122、ステップS126およびステップS127を追加して実行する点と、において、第1実施形態の表示対象物表示制御処理と異なる。第2実施形態の表示対象物表示制御処理におけるその他の手順は、第1実施形態の表示対象物表示制御処理と同じであるので、同一の手順には同一の符号を付し、その詳細な説明は省略する。
第2実施形態では、HMD100の使用者が、「りんご」に関する情報を探したいが適切なキーワードが分からずに、「赤い、食べ物」というキーワードを入力した場合を例に表示対象物表示制御処理の処理手順を説明する。第2実施形態の表示対象物表示制御処理では、図13に示すように、キーワードの種類が特定されると(ステップS115)、表示制御部147は、特定されたキーワードの種類に応じて表示対象物画像を表示対象物の提示態様を模した提示態様で表示させる(ステップS120a)。第2実施形態の例では、入力されたキーワードに「食べ物」が含まれていることから、キーワードの種類が「提示態様表示キーワード」に特定されるため、表示対象物画像が表示対象物の提示態様を模した提示態様で表示されることになる。
ステップS120aの実行後、表示制御部147は、対象物提示用画像を表示させるか否かを判定する(ステップS121)。具体的には、キーワードの種類と対象物提示用画像を表示させるか否かを対応づけてキーワードデータ格納部126に予め記憶しておき、表示制御部147は、キーワードデータ格納部126を参照して、特定されたキーワードの種類から表示対象物を提示する際に対象物提示用画像を要するか否かを判定する。
対象物提示用画像を表示させると判定された場合(ステップS121:YES)、表示制御部147は、対象物提示用画像を表示させる(ステップS122)。なお、ステップS122は、上述のステップS120aと同時に実行してもよい。この構成は、上述のステップS115の実行後に上述のステップS121を実行することにより実現できる。
図15は、ステップS122実行後の使用者の視界VRの一例を模式的に示す説明図である。図15では、説明の便宜上、外景SCの図示を省略している。図15に示すように、対象画像AIには、表示対象物画像TO6、TO7、TO8およびTO9と、対象物提示用画像SO1とが表示されている。表示対象物画像TO6〜TO9は、それぞれ、「赤い、食べ物」の検索結果を示しており、左から順に、表示対象物「りんご」の画像TO6、表示対象物「さくらんぼ」の画像TO7、表示対象物「桃」の画像TO8および表示対象物「いちご」の画像TO9である。
対象物提示用画像SO1は、ターンテーブルを示す画像であり、表示対象物である「食べ物」が実際に提示される際に用いられる提示用物の画像である。対象物提示用画像SO1は、画像に示された提示用物が実世界で実際に使用される際と同様な操作を行うことができるように構成されている。すなわち、HMD100の使用者は、対象物提示用画像SO1に対して、対象物提示用画像SO1に示される提示用物を実際に使用する際と同様な操作ができる。例えば、対象物提示用画像SO1に示すターンテーブルの場合、かかるターンテーブルを回す操作を行うことができる。
図13に示すように、上述のステップS121において、対象物提示用画像を表示させないと判定された場合(ステップS121:NO)、または、上述のステップS122の実行後、図14に示すように、上述のステップS125が実行される。ステップS125において、表示対象物画像に対するジェスチャーを検出していないと判定された場合(ステップS125:NO)、ジェスチャー検出部153は、対象物提示用画像SO1に対するジェスチャーを検出したか否かを判定する(ステップS126)。具体的には、上述のステップS125と同様に、ジェスチャー検出部153は、使用者の視界VRの撮像画像を解析することにより、ジェスチャーの位置を検出して、対象物提示用画像SO1に対するジェスチャーか否かを判定する。また、ジェスチャー検出部153は、上述のステップS125と同様に、ジェスチャーの種類もあわせて検出する。
対象物提示用画像SO1に対するジェスチャーを検出したと判定された場合(ステップS126:YES)、表示制御部147は、検出されたジェスチャーに応じて表示対象物画像を追加して表示させる(ステップS127)。具体的には、図15に示す例において、対象物提示用画像SO1に示すターンテーブルを時計回りに回すジェスチャーが検出された場合、表示対象物「りんご」の画像TO6が削除され、各表示対象物画像TO7〜TO9の表示位置がターンテーブルの回転方向に移動して表示され、表示対象物「いちご」の画像TO9が表示されていた位置に新たな表示対象物、例えば、「すいか」の画像が追加されて表示される。すなわち、表示制御部147は、ターンテーブルを回転させるジェスチャーに応じて、表示対象物画像を削除および追加して、表示対象物画像を表示させる。
図14に示すように、上述のステップS127の実行後、または、上述のステップS126において、対象物提示用画像SO1に対するジェスチャーを検出していないと判定された場合(ステップS126:NO)、上述のステップS135が実行される。
図16は、ステップS130実行後の使用者の視界VRの一例を模式的に示す説明図である。図16は、図15に示す例について、上述のステップS125において、表示対象物「りんご」の画像TO6に対して、「つかむ」ジェスチャーが行われた場合を示している。図16に示すように、対象画像AIには、表示対象物「りんご」の画像TO6に加えて、関連情報RO2およびRO3が表示されている。関連情報RO2は、表示対象物「りんご」の木を示す情報であり、「りんごの木」の外観を示す画像である。関連情報RO3は、表示対象物「りんご」の有名産地を示す情報であり、かかる有名産地の方向を矢印で示す画像である。有名産地の方向は、HMD100(制御装置10)の現在位置に基づいて算出できる。なお、関連情報として表示させる情報の内容は、関連情報データ格納部127に記憶されており、関連情報に対応づけられている優先度の高い順に表示される。
図17は、ステップS130実行後の使用者の視界VRの一例を模式的に示す説明図である。図17は、図16に示す例について、上述のステップS125において、関連情報RO2の示す「りんごの木」に対して、「さわる」ジェスチャーが行われた場合を示している。図17に示すように、対象画像AIには、表示対象物「りんご」の画像TO6および関連情報RO2に加えて、関連情報RO4が表示されている。関連情報RO4は、ジェスチャーが行われた「りんごの木」に関連する情報である。
図18は、ステップS130実行後の使用者の視界VRの一例を模式的に示す説明図である。図18は、図16に示す例について、上述のステップS125において、表示対象物「りんご」の画像TO6に対して、「さわる」ジェスチャーが行われた場合を示している。図18に示すように、対象画像AIには、表示対象物「りんご」の画像TO6に加えて、関連情報RO5が表示されている。関連情報RO5は、ジェスチャーが行われた「りんご」に関連する情報である。
図15、図16、図17および図18を比較して理解できるように、表示制御部147は、検出されたジェスチャーの位置に応じて関連情報の内容を変更して表示させる。
以上説明した第2実施形態のHMD100によれば、受け付けられたキーワードにより特定される表示対象物画像が、受け付けられたキーワードの種類に応じて、該表示対象物が実際に提示される態様を模した提示態様で表示されるので、使用者は、直感的に表示対象物を認識することができ、使用者の利便性を向上できる。また、表示対象物が実際に提示される際に用いられる提示用物の画像である対象物提示用画像が表示され、検出された対象物提示用画像に対するジェスチャーに応じて、表示対象物の画像が追加して表示されるので、使用者は、対象物提示用画像に対してジェスチャーを行うことによって、より多くの表示対象物画像を表示させることができ、表示対象物画像を表示させる際の操作性を向上できるので、使用者の利便性を向上できる。
C.他の実施形態:
C1.他の実施形態1:
上記第1実施形態において、特定されたキーワードの種類が「使用態様表示キーワード」である場合に、表示対象物画像は、表示対象物が実際に使用される状態を模した表示態様で表示されていたが、本発明はこれに限定されない。
C1.他の実施形態1:
上記第1実施形態において、特定されたキーワードの種類が「使用態様表示キーワード」である場合に、表示対象物画像は、表示対象物が実際に使用される状態を模した表示態様で表示されていたが、本発明はこれに限定されない。
図19は、他の実施形態1における表示対象物画像の表示態様の一例を模式的に示す説明図である。図19に示す例では、「壁掛け時計、おしゃれ」を検索した場合における使用者の視界VRの一例を模式的に示している。図19に示すように、対象画像AIには、「壁掛け時計、おしゃれ」の検索結果として、種々の壁掛け時計を示す表示対象物画像TO7、TO8、TO9、TO10およびTO11が表示されている。また、各表示対象物画像TO7〜TO11は、小売店において壁掛け時計が実際に提示される態様を模した提示態様で表示されている。すなわち、特定されたキーワードの種類が「使用態様表示キーワード」である場合に、表示対象物画像は、表示対象物が実際に使用される状態を模した表示態様で表示されていない。このような構成においても、上記第1実施形態と同様な効果を奏する。
C2.他の実施形態2:
上記各実施形態では、受け付けられたキーワードが、「腕時計、おしゃれ」、「赤い、食べ物」および「壁掛け時計、おしゃれ」である場合における表示対象物および関連情報を例示したが、本発明はこれに限定されない。例えば、受け付けられたキーワードが「衣服」である場合、「衣服」をHMD100の使用者が実際に身につける状態を模した表示態様で「衣服」の画像を表示してもよい。また、例えば、受け付けられたキーワードが「物理法則」である場合、物理にまつわる実世界の物、例えば、回路図、波形、計測器等の画像を表示してもよい。また、例えば、受け付けられたキーワードが「店舗情報」である場合、店舗の方向を示す矢印、地図、地球儀等の画像を表示してもよい。すなわち、一般には、受け付けられたキーワードの種類に応じて表示対象物が実際に使用される状態を模した表示態様で表示対象物画像を表示させる構成、あるいは、受け付けられたキーワードの種類に応じて表示対象物画像が実際に提示される態様を模した提示態様で表示対象物画像を表示させる構成であれば、上記各実施形態と同様な効果を奏する。
上記各実施形態では、受け付けられたキーワードが、「腕時計、おしゃれ」、「赤い、食べ物」および「壁掛け時計、おしゃれ」である場合における表示対象物および関連情報を例示したが、本発明はこれに限定されない。例えば、受け付けられたキーワードが「衣服」である場合、「衣服」をHMD100の使用者が実際に身につける状態を模した表示態様で「衣服」の画像を表示してもよい。また、例えば、受け付けられたキーワードが「物理法則」である場合、物理にまつわる実世界の物、例えば、回路図、波形、計測器等の画像を表示してもよい。また、例えば、受け付けられたキーワードが「店舗情報」である場合、店舗の方向を示す矢印、地図、地球儀等の画像を表示してもよい。すなわち、一般には、受け付けられたキーワードの種類に応じて表示対象物が実際に使用される状態を模した表示態様で表示対象物画像を表示させる構成、あるいは、受け付けられたキーワードの種類に応じて表示対象物画像が実際に提示される態様を模した提示態様で表示対象物画像を表示させる構成であれば、上記各実施形態と同様な効果を奏する。
C3.他の実施形態3:
上記各実施形態において、表示制御部147は、検出されたジェスチャーに応じた表示態様で表示対象物画像を表示させることと、検出されたジェスチャーに応じた関連情報を表示させることと、のうちの両方を実行していたが、本発明はこれに限定されない。例えば、表示制御部147は、検出されたジェスチャーに応じた表示態様で表示対象物画像を表示させることのみを実行してもよい。また、例えば、検出されたジェスチャーに応じた関連情報を表示させることのみを実行してもよい。すなわち、一般には、検出されたジェスチャーに応じた表示態様で表示対象物画像を表示させることと、検出されたジェスチャーに応じた関連情報を表示させることと、のうち、少なくとも一方を実行する構成であれば、上記各実施形態と同様な効果を奏する。
上記各実施形態において、表示制御部147は、検出されたジェスチャーに応じた表示態様で表示対象物画像を表示させることと、検出されたジェスチャーに応じた関連情報を表示させることと、のうちの両方を実行していたが、本発明はこれに限定されない。例えば、表示制御部147は、検出されたジェスチャーに応じた表示態様で表示対象物画像を表示させることのみを実行してもよい。また、例えば、検出されたジェスチャーに応じた関連情報を表示させることのみを実行してもよい。すなわち、一般には、検出されたジェスチャーに応じた表示態様で表示対象物画像を表示させることと、検出されたジェスチャーに応じた関連情報を表示させることと、のうち、少なくとも一方を実行する構成であれば、上記各実施形態と同様な効果を奏する。
C4.他の実施形態4:
上記各実施形態において、表示対象物表示制御処理のステップS105の実行後は、キーワードの入力を受け付けていなかったが、本発明はこれに限定されない。例えば、表示対象物画像を表示させた後(ステップS120またはステップS120aの実行後)、キーワードの入力を受け付けてもよい。この構成では、ステップS105において入力したキーワードの検索結果として、使用者の所望する情報(表示対象物)を取得できなかった場合に、使用者が新たにキーワードを追加することにより、所望の情報に近づくような情報を取得できる。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態において、表示対象物表示制御処理のステップS105の実行後は、キーワードの入力を受け付けていなかったが、本発明はこれに限定されない。例えば、表示対象物画像を表示させた後(ステップS120またはステップS120aの実行後)、キーワードの入力を受け付けてもよい。この構成では、ステップS105において入力したキーワードの検索結果として、使用者の所望する情報(表示対象物)を取得できなかった場合に、使用者が新たにキーワードを追加することにより、所望の情報に近づくような情報を取得できる。このような構成においても、上記各実施形態と同様な効果を奏する。
C5.他の実施形態5:
上記各実施形態において、文字によるキーワードの入力を受け付けていたが、本発明はこれに限定されない。例えば、HMD100の使用者の音声によるキーワードの入力を受け付けてもよい。また、例えば、文字による入力と音声による入力との両方の入力を受け付けてもよい。すなわち、一般には、文字によるキーワードの入力と、音声によるキーワードの入力と、のうち、少なくとも一方のキーワードの入力を受け付ける構成であれば、上記各実施形態と同様な効果を奏する。
上記各実施形態において、文字によるキーワードの入力を受け付けていたが、本発明はこれに限定されない。例えば、HMD100の使用者の音声によるキーワードの入力を受け付けてもよい。また、例えば、文字による入力と音声による入力との両方の入力を受け付けてもよい。すなわち、一般には、文字によるキーワードの入力と、音声によるキーワードの入力と、のうち、少なくとも一方のキーワードの入力を受け付ける構成であれば、上記各実施形態と同様な効果を奏する。
C6.他の実施形態6:
上記各実施形態において、表示対象物画像は、視差のついた立体として表示されていたが、本発明はこれに限定されない。例えば、表示対象物画像は、視差のついていない平面画像として表示されてもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態において、表示対象物画像は、視差のついた立体として表示されていたが、本発明はこれに限定されない。例えば、表示対象物画像は、視差のついていない平面画像として表示されてもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
C7.他の実施形態7:
上記各実施形態において、ジェスチャー検出部153は、表示対象物画像に対するジェスチャーまたは対象物提示用画像に対するジェスチャーに加えて、「決定」を示すジェスチャーを検出してもよい。具体的には、「決定」を示すジェスチャーを予め定めておき、図8に示すステップS125の実行後に、「決定」を示すジェスチャーが検出されたか否かを判定する処理を実行してもよい。この構成では、「決定」を示すジェスチャーが検出されたと判定された場合に、上述のステップS130を実行してもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態において、ジェスチャー検出部153は、表示対象物画像に対するジェスチャーまたは対象物提示用画像に対するジェスチャーに加えて、「決定」を示すジェスチャーを検出してもよい。具体的には、「決定」を示すジェスチャーを予め定めておき、図8に示すステップS125の実行後に、「決定」を示すジェスチャーが検出されたか否かを判定する処理を実行してもよい。この構成では、「決定」を示すジェスチャーが検出されたと判定された場合に、上述のステップS130を実行してもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
C8.他の実施形態8:
上記各実施形態において、表示制御部147は、関連情報データ格納部127を参照することにより、関連情報を取得していたが、本発明はこれに限定されない。例えば、関連情報データ格納部127を備えない構成においては、無線通信部117を介して、外部機器から関連情報を取得してもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態において、表示制御部147は、関連情報データ格納部127を参照することにより、関連情報を取得していたが、本発明はこれに限定されない。例えば、関連情報データ格納部127を備えない構成においては、無線通信部117を介して、外部機器から関連情報を取得してもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
C9.他の実施形態9:
上記各実施形態において、表示制御部147は、検出されたジェスチャーの位置に応じて関連情報の内容を変更して関連情報を表示させていたが、本発明はこれに限定されない。例えば、キーワードの追加入力を受け付ける構成においては、ジェスチャーの位置に代えて、追加されたキーワードの種類に応じて関連情報の内容を変更して関連情報を表示させてもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態において、表示制御部147は、検出されたジェスチャーの位置に応じて関連情報の内容を変更して関連情報を表示させていたが、本発明はこれに限定されない。例えば、キーワードの追加入力を受け付ける構成においては、ジェスチャーの位置に代えて、追加されたキーワードの種類に応じて関連情報の内容を変更して関連情報を表示させてもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
C10.他の実施形態10:
上記各実施形態において、キーワードの種類は3種類に分類されていたが、本発明はこれに限定されない。例えば、上述の3種類とは異なる任意の種類に分類されてもよい。また、例えば、キーワードの種類が分類されなくてもよい。この構成では、表示対象物が実際に使用される状態を模した表示態様で表示対象物画像を表示させてもよいし、表示対象物が実際に提示される状態を模した提示態様で表示対象物画像を表示させてもよいし、表示対象物画像をそのまま表示させてもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態において、キーワードの種類は3種類に分類されていたが、本発明はこれに限定されない。例えば、上述の3種類とは異なる任意の種類に分類されてもよい。また、例えば、キーワードの種類が分類されなくてもよい。この構成では、表示対象物が実際に使用される状態を模した表示態様で表示対象物画像を表示させてもよいし、表示対象物が実際に提示される状態を模した提示態様で表示対象物画像を表示させてもよいし、表示対象物画像をそのまま表示させてもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
C11.他の実施形態11:
上記各実施形態において、受け付けられたキーワードおよび検出されたジェスチャーを履歴として記憶機能部122に記憶させておき、次回の表示対象物表示制御処理に利用してもよい。具体的には、受け付けられたキーワードと、ジェスチャーの対象となった表示対象物と、ジェスチャーの種類とを対応づけて記憶する。そして、記憶された情報を利用して使用者の意図を解析することにより、次回の表示対象物表示制御処理において、使用者の所望する情報をより迅速に提供し得る。
上記各実施形態において、受け付けられたキーワードおよび検出されたジェスチャーを履歴として記憶機能部122に記憶させておき、次回の表示対象物表示制御処理に利用してもよい。具体的には、受け付けられたキーワードと、ジェスチャーの対象となった表示対象物と、ジェスチャーの種類とを対応づけて記憶する。そして、記憶された情報を利用して使用者の意図を解析することにより、次回の表示対象物表示制御処理において、使用者の所望する情報をより迅速に提供し得る。
C12.他の実施形態12:
上記第2実施形態において、表示対象物が「食べ物」である場合における対象物提示用画像は「ターンテーブル」を示す画像であったが、本発明はこれに限定されない。例えば、表示対象物が「食べ物」である場合における対象物提示用画像は、「ビュッフェスタイル」を示す画像であってもよい。また、例えば、表示対象物が「指輪」である場合における対象物提示用画像は、「リングケース」を示す画像であってもよい。また、例えば、「指輪」が実際に提示される際にライトアップされて提示される場合には、対象物提示用画像は、「指輪」に光を当てる様子を模した画像であってもよい。すなわち、対象物提示用画像は、表示対象物の実際の提示態様を模すための画像であり、表示対象物が実際に提示される際に用いられる提示用物の画像である構成であれば、上記第2実施形態と同様な効果を奏する。
上記第2実施形態において、表示対象物が「食べ物」である場合における対象物提示用画像は「ターンテーブル」を示す画像であったが、本発明はこれに限定されない。例えば、表示対象物が「食べ物」である場合における対象物提示用画像は、「ビュッフェスタイル」を示す画像であってもよい。また、例えば、表示対象物が「指輪」である場合における対象物提示用画像は、「リングケース」を示す画像であってもよい。また、例えば、「指輪」が実際に提示される際にライトアップされて提示される場合には、対象物提示用画像は、「指輪」に光を当てる様子を模した画像であってもよい。すなわち、対象物提示用画像は、表示対象物の実際の提示態様を模すための画像であり、表示対象物が実際に提示される際に用いられる提示用物の画像である構成であれば、上記第2実施形態と同様な効果を奏する。
C13.他の実施形態13:
上記各実施形態において、OLEDユニット221、241は、OLEDパネルと、OLEDパネル223、243を駆動するOLED駆動回路225、245とを有し、OLEDパネル223、243は、有機エレクトロルミネッセンスにより発光しそれぞれ発する発光素子により構成される自発光型の表示パネルであったが、本発明はこれに限定されない。また、OLEDパネル223、243は、R、G、Bの素子を1個ずつ含む単位を1画素とした複数の画素が、マトリクス状に配置されていたが、本発明はこれに限定されない。例えば、右表示ユニット22および左表示ユニット24は、それぞれ、光源部としてのOLEDパネルと、光源部が発する光を変調して複数の色光を含む画像光を出力する変調素子と、を備える映像素子として構成されてもよい。なお、OLEDパネルが発する光を変調する変調装置は、透過型液晶パネルが採用される構成に限定されない。例えば、透過型液晶パネルに代えて反射型液晶パネルを用いてもよいし、デジタル・マイクロミラー・デバイスを用いてもよいし、レーザースキャン方式のレーザー網膜投影型のHMDとしてもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態において、OLEDユニット221、241は、OLEDパネルと、OLEDパネル223、243を駆動するOLED駆動回路225、245とを有し、OLEDパネル223、243は、有機エレクトロルミネッセンスにより発光しそれぞれ発する発光素子により構成される自発光型の表示パネルであったが、本発明はこれに限定されない。また、OLEDパネル223、243は、R、G、Bの素子を1個ずつ含む単位を1画素とした複数の画素が、マトリクス状に配置されていたが、本発明はこれに限定されない。例えば、右表示ユニット22および左表示ユニット24は、それぞれ、光源部としてのOLEDパネルと、光源部が発する光を変調して複数の色光を含む画像光を出力する変調素子と、を備える映像素子として構成されてもよい。なお、OLEDパネルが発する光を変調する変調装置は、透過型液晶パネルが採用される構成に限定されない。例えば、透過型液晶パネルに代えて反射型液晶パネルを用いてもよいし、デジタル・マイクロミラー・デバイスを用いてもよいし、レーザースキャン方式のレーザー網膜投影型のHMDとしてもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
C14.他の実施形態14:
上記各実施形態において、関連情報はジェスチャーの種類に応じた情報であったが、本発明はこれに限定されない。例えば、関連情報は、ジェスチャーの速度や強弱に応じた情報であってもよい。具体的には、「なでる」ジェスチャーの場合、関連情報は、なでる速度に応じた情報や、なでる強さに応じた情報であってもよい。すなわち、一般には、検出されたジェスチャーに応じた関連情報であって、表示対象物に関連する関連情報であれば、上記各実施形態と同様な効果を奏する。
上記各実施形態において、関連情報はジェスチャーの種類に応じた情報であったが、本発明はこれに限定されない。例えば、関連情報は、ジェスチャーの速度や強弱に応じた情報であってもよい。具体的には、「なでる」ジェスチャーの場合、関連情報は、なでる速度に応じた情報や、なでる強さに応じた情報であってもよい。すなわち、一般には、検出されたジェスチャーに応じた関連情報であって、表示対象物に関連する関連情報であれば、上記各実施形態と同様な効果を奏する。
C15.他の実施形態15:
上記各実施形態において、ジェスチャーの種類は、図11に示す例に限定されない。例えば、連続する一つの領域で対象物と接するジェスチャー、互いに離れた複数の対象物と接するジェスチャー、対象物の位置を変えるジェスチャーおよび対象物の形を変えるジェスチャー等に該当する他の任意のジェスチャーであってもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態において、ジェスチャーの種類は、図11に示す例に限定されない。例えば、連続する一つの領域で対象物と接するジェスチャー、互いに離れた複数の対象物と接するジェスチャー、対象物の位置を変えるジェスチャーおよび対象物の形を変えるジェスチャー等に該当する他の任意のジェスチャーであってもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
C16.他の実施形態16:
上記各実施形態において、予め定められた種類の検索は、ブラウジングであったが、本発明はこれに限定されない。例えば、用語に基づく検索だけでなく、地図上での場所の検索であってもよい。また、例えば、関連ワードの検索であってもよい。具体的には、野球やサッカー等のスポーツの関連ワードの検索におけるルール、用具、トレーニング方法、観戦情報、チケット情報、有名選手等の検索であってもよい。また、歴史等の学習時の関連ワードの検索における人物、年号等の検索であってもよい。また、食べ物の関連ワードの検索におけるカロリー、レシピ、食材等の検索であってもよい。また、検索は、文字列入力による検索に限られず、画像マッチング、画像認証等の他の任意の検索方法であってもよく、文書検索、文字列検索、画像データの検索(画素検索)、音声データの検索(音声検索)等を含む広い概念を意味する。すなわち、一般には、表示対象物画像が予め定められた種類の検索の結果であれば、上記各実施形態と同様な効果を奏する。
上記各実施形態において、予め定められた種類の検索は、ブラウジングであったが、本発明はこれに限定されない。例えば、用語に基づく検索だけでなく、地図上での場所の検索であってもよい。また、例えば、関連ワードの検索であってもよい。具体的には、野球やサッカー等のスポーツの関連ワードの検索におけるルール、用具、トレーニング方法、観戦情報、チケット情報、有名選手等の検索であってもよい。また、歴史等の学習時の関連ワードの検索における人物、年号等の検索であってもよい。また、食べ物の関連ワードの検索におけるカロリー、レシピ、食材等の検索であってもよい。また、検索は、文字列入力による検索に限られず、画像マッチング、画像認証等の他の任意の検索方法であってもよく、文書検索、文字列検索、画像データの検索(画素検索)、音声データの検索(音声検索)等を含む広い概念を意味する。すなわち、一般には、表示対象物画像が予め定められた種類の検索の結果であれば、上記各実施形態と同様な効果を奏する。
本発明は、上述の実施形態に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態中の技術的特徴は、上述の課題の一部又は全部を解決するために、あるいは、上述の効果の一部又は全部を達成するために、適宜、差し替えや、組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
10…制御装置、12…点灯部、14…トラックパッド、16…方向キー、17…決定キー、18…電源スイッチ、19…バイブレーター、20…画像表示部、21…右保持部、22…右表示ユニット、23…左保持部、24…左表示ユニット、26…右導光板、27…前部フレーム、28…左導光板、30…ヘッドセット、32…右イヤホン、34…左イヤホン、40…接続ケーブル、46…コネクター、61…カメラ、63…マイク、65…照度センサー、67…LEDインジケーター、100…頭部装着型表示装置、110…操作部、111…6軸センサー、113…磁気センサー、115…GNSSレシーバー、117…無線通信部、118…メモリー、120…コントローラー基板、121…不揮発性記憶部、122…記憶機能部、123…設定データ格納部、124…コンテンツデータ格納部、125…ジェスチャーデータ格納部、126…キーワードデータ格納部、127…関連情報データ格納部、130…電源部、132…バッテリー、134…電源制御回路、140…メインプロセッサー、145…画像処理部、147…表示制御部、149…撮像制御部、150…制御機能部、151…入出力制御部、153…ジェスチャー検出部、155…キーワード特定部、180…音声コーデック、182…音声インターフェイス、184…外部コネクター、186…外部メモリーインターフェイス、188…USBコネクター、192…センサーハブ、196…インターフェイス、210…表示ユニット基板、211…インターフェイス、213…受信部、215…EEPROM、217…温度センサー、221…OLEDユニット、223…OLEDパネル、225…OLED駆動回路、230…表示ユニット基板、231…インターフェイス、233…受信部、235…6軸センサー、237…磁気センサー、239…温度センサー、241…OLEDユニット、243…OLEDパネル、245…OLED駆動回路、251…右光学系、252…左光学系、261…ハーフミラー、281…ハーフミラー、AI…対象画像、Bt…検索実行ボタン、EL…端部、ER…端部、GL…対応情報、Kw…検索ワード、L…画像光、LD…視線、LE…左眼、LH…左腕、OB…対象物、OL…外光、PN…表示領域、Pt…ポインター画像、RD…視線、RE…右眼、RO1…関連情報、RO2…関連情報、RO3…関連情報、RO4…関連情報、RO5…関連情報、SC…外景、SO1…対象物提示用画像、TO1…表示対象物画像、TO2…表示対象物画像、TO3…表示対象物画像、TO4…表示対象物画像、TO5…表示対象物画像、TO6…表示対象物画像、TO7…表示対象物画像、TO8…表示対象物画像、TO9…表示対象物画像、TO10…表示対象物画像、TO11…表示対象物画像、VR…視界
Claims (10)
- 透過型頭部装着型表示装置であって、
外景を透過し外景とともに視認できるように表示対象物の画像を表示する画像表示部と、
予め定められたジェスチャーであって、表示された前記表示対象物の画像に対するジェスチャーを検出するジェスチャー検出部と、
検出された前記ジェスチャーに応じた表示態様で前記表示対象物の画像を表示させることと、検出された前記ジェスチャーに応じた関連情報であって、前記表示対象物に関連する関連情報を表示させることと、のうち、少なくとも一方を実行する表示制御部と、
を備える、
透過型頭部装着型表示装置。 - 請求項1に記載の透過型頭部装着型表示装置において、
前記表示制御部は、前記関連情報を表示させることを実行する場合に、検出された前記ジェスチャーの位置に応じて、前記関連情報の内容を変更して表示させる、
透過型頭部装着型表示装置。 - 請求項1または請求項2に記載の透過型頭部装着型表示装置において、
キーワードの入力を受け付ける入力受付部を、さらに備え、
前記表示制御部は、受け付けられた前記キーワードにより特定される表示対象物の画像を、受け付けられた前記キーワードの種類に応じて、前記キーワードにより特定される該表示対象物が実際に使用される状態を模した表示態様で表示させる、
透過型頭部装着型表示装置。 - 請求項1または請求項2に記載の透過型頭部装着型表示装置において、
キーワードの入力を受け付ける入力受付部を、さらに備え、
前記表示制御部は、受け付けられた前記キーワードにより特定される表示対象物の画像を、受け付けられた前記キーワードの種類に応じて、前記キーワードにより特定される該表示対象物が実際に提示される態様を模した提示態様で表示させる、
透過型頭部装着型表示装置。 - 請求項4に記載の透過型頭部装着型表示装置において、
前記画像表示部は、前記表示対象物の画像とは異なる画像であって、前記表示対象物が実際に提示される際に用いられる提示用物の画像である対象物提示用画像を、さらに表示し、
前記ジェスチャー検出部は、前記対象物提示用画像に対するジェスチャーを、さらに検出し、
前記表示制御部は、検出された前記対象物提示用画像に対するジェスチャーに応じて、前記表示対象物の画像を追加して表示させる、
透過型頭部装着型表示装置。 - 請求項3から請求項5までのいずれか一項に記載の透過型頭部装着型表示装置において、
前記入力受付部は、文字による前記キーワードの入力と、音声による前記キーワードの入力と、のうち、少なくとも一方の入力を受け付ける、
透過型頭部装着型表示装置。 - 請求項1から請求項6までのいずれか一項に記載の透過型頭部装着型表示装置において、
前記表示制御部は、前記表示対象物の画像を視差のついた立体として表示させる、
透過型頭部装着型表示装置。 - 請求項1から請求項7までのいずれか一項に記載の透過型頭部装着型表示装置において、
前記表示対象物の画像は、予め定められた種類の検索の結果である、
透過型頭部装着型表示装置。 - 外景を透過し外景とともに視認できるように表示対象物の画像を表示する画像表示部を備える透過型頭部装着型表示装置における表示制御方法であって、
予め定められたジェスチャーであって、表示された前記表示対象物の画像に対するジェスチャーを検出する工程と、
検出された前記ジェスチャーに応じた表示態様で前記表示対象物の画像を表示させることと、検出された前記ジェスチャーに応じた関連情報であって、前記表示対象物に関連する情報を表示させることと、のうち、少なくとも一方を実行する工程と、
を備える、
表示制御方法。 - 外景を透過し外景とともに視認できるように表示対象物の画像を表示する画像表示部を備える透過型頭部装着型表示装置における表示制御を実現するためのコンピュータープログラムであって、
予め定められたジェスチャーであって、表示された前記表示対象物の画像に対するジェスチャーを検出する機能と、
検出された前記ジェスチャーに応じた表示態様で前記表示対象物の画像を表示させることと、検出された前記ジェスチャーに応じた関連情報であって、前記表示対象物に関連する情報を表示させることと、のうち、少なくとも一方を実行する機能と、
をコンピューターに実現させる、
コンピュータープログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017244059A JP2019109849A (ja) | 2017-12-20 | 2017-12-20 | 透過型頭部装着型表示装置、表示制御方法、およびコンピュータープログラム |
US16/225,265 US10908425B2 (en) | 2017-12-20 | 2018-12-19 | Transmission-type head mounted display apparatus, display control method, and computer program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017244059A JP2019109849A (ja) | 2017-12-20 | 2017-12-20 | 透過型頭部装着型表示装置、表示制御方法、およびコンピュータープログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019109849A true JP2019109849A (ja) | 2019-07-04 |
Family
ID=66813915
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017244059A Pending JP2019109849A (ja) | 2017-12-20 | 2017-12-20 | 透過型頭部装着型表示装置、表示制御方法、およびコンピュータープログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10908425B2 (ja) |
JP (1) | JP2019109849A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102570418B1 (ko) * | 2022-08-11 | 2023-08-25 | 주식회사 엠브이아이 | 사용자 행동을 분석하는 웨어러블 디바이스 및 이를 이용한 대상인식방법 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6440910B2 (ja) * | 2016-07-29 | 2018-12-19 | 三菱電機株式会社 | 表示装置、表示制御装置および表示制御方法 |
DE102017208806B3 (de) * | 2017-05-24 | 2018-07-26 | Audi Ag | Externe Darstellung von Bildaufnahmen eines Fahrzeuginnenraums in einer VR-Brille |
JP6957218B2 (ja) * | 2017-06-12 | 2021-11-02 | 株式会社バンダイナムコエンターテインメント | シミュレーションシステム及びプログラム |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7702611B2 (en) | 2005-01-07 | 2010-04-20 | Xerox Corporation | Method for automatically performing conceptual highlighting in electronic text |
US20080071559A1 (en) * | 2006-09-19 | 2008-03-20 | Juha Arrasvuori | Augmented reality assisted shopping |
US20120249797A1 (en) * | 2010-02-28 | 2012-10-04 | Osterhout Group, Inc. | Head-worn adaptive display |
JP2012181809A (ja) | 2011-03-03 | 2012-09-20 | Panasonic Corp | 機器制御装置、機器制御方法、機器制御プログラム、及び集積回路 |
US9311883B2 (en) * | 2011-11-11 | 2016-04-12 | Microsoft Technology Licensing, Llc | Recalibration of a flexible mixed reality device |
US20180203596A1 (en) * | 2017-01-19 | 2018-07-19 | Microsoft Technology Licensing, Llc | Computing device with window repositioning preview interface |
-
2017
- 2017-12-20 JP JP2017244059A patent/JP2019109849A/ja active Pending
-
2018
- 2018-12-19 US US16/225,265 patent/US10908425B2/en active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102570418B1 (ko) * | 2022-08-11 | 2023-08-25 | 주식회사 엠브이아이 | 사용자 행동을 분석하는 웨어러블 디바이스 및 이를 이용한 대상인식방법 |
Also Published As
Publication number | Publication date |
---|---|
US20190187479A1 (en) | 2019-06-20 |
US10908425B2 (en) | 2021-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11670267B2 (en) | Computer vision and mapping for audio applications | |
US9710130B2 (en) | User focus controlled directional user input | |
EP4172726A1 (en) | Augmented reality experiences using speech and text captions | |
US10635182B2 (en) | Head mounted display device and control method for head mounted display device | |
US9727132B2 (en) | Multi-visor: managing applications in augmented reality environments | |
EP4172730A1 (en) | Augmented reality experiences with object manipulation | |
US11340707B2 (en) | Hand gesture-based emojis | |
US20160131902A1 (en) | System for automatic eye tracking calibration of head mounted display device | |
US10908425B2 (en) | Transmission-type head mounted display apparatus, display control method, and computer program | |
CN108376029B (zh) | 显示系统 | |
JP2018101019A (ja) | 表示装置及び表示装置の制御方法 | |
US20170289533A1 (en) | Head mounted display, control method thereof, and computer program | |
JP2018151851A (ja) | 透過型表示装置、表示制御方法、およびコンピュータープログラム | |
JP6492673B2 (ja) | 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム | |
JP2019082891A (ja) | 頭部装着型表示装置、表示制御方法、およびコンピュータープログラム | |
JP2017091433A (ja) | 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム | |
JP6776578B2 (ja) | 入力装置、入力方法、コンピュータープログラム | |
JP2018206080A (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
JP6996115B2 (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
US20220375172A1 (en) | Contextual visual and voice search from electronic eyewear device | |
JP6784056B2 (ja) | 頭部装着型表示装置、表示システム、頭部装着型表示装置の制御方法、およびコンピュータープログラム | |
JP2018091882A (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
JP6790769B2 (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
JP2017182413A (ja) | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム | |
JP2018067160A (ja) | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム |