JP2018160735A - 透過型表示装置、表示制御方法、およびコンピュータープログラム - Google Patents
透過型表示装置、表示制御方法、およびコンピュータープログラム Download PDFInfo
- Publication number
- JP2018160735A JP2018160735A JP2017055713A JP2017055713A JP2018160735A JP 2018160735 A JP2018160735 A JP 2018160735A JP 2017055713 A JP2017055713 A JP 2017055713A JP 2017055713 A JP2017055713 A JP 2017055713A JP 2018160735 A JP2018160735 A JP 2018160735A
- Authority
- JP
- Japan
- Prior art keywords
- image
- pointer
- display
- pointer image
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000005540 biological transmission Effects 0.000 title claims abstract description 11
- 238000000034 method Methods 0.000 title claims description 147
- 238000004590 computer program Methods 0.000 title claims description 11
- 238000003384 imaging method Methods 0.000 claims abstract description 37
- 239000002131 composite material Substances 0.000 claims abstract description 28
- 230000008859 change Effects 0.000 claims description 76
- 238000001514 detection method Methods 0.000 claims description 17
- 239000007787 solid Substances 0.000 claims description 17
- 230000000295 complement effect Effects 0.000 claims description 14
- 230000004044 response Effects 0.000 claims description 4
- 230000001960 triggered effect Effects 0.000 claims description 2
- 230000008569 process Effects 0.000 description 119
- 238000012545 processing Methods 0.000 description 43
- 230000006870 function Effects 0.000 description 36
- 230000004048 modification Effects 0.000 description 22
- 238000012986 modification Methods 0.000 description 22
- 230000003287 optical effect Effects 0.000 description 22
- 230000000694 effects Effects 0.000 description 17
- 238000010586 diagram Methods 0.000 description 12
- 210000003128 head Anatomy 0.000 description 10
- 238000004364 calculation method Methods 0.000 description 9
- 239000000758 substrate Substances 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 238000005259 measurement Methods 0.000 description 8
- 230000005236 sound signal Effects 0.000 description 8
- 230000000007 visual effect Effects 0.000 description 8
- 238000006243 chemical reaction Methods 0.000 description 7
- 230000003190 augmentative effect Effects 0.000 description 5
- 239000003086 colorant Substances 0.000 description 5
- 239000000654 additive Substances 0.000 description 4
- 230000000996 additive effect Effects 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 4
- 102100025750 Sphingosine 1-phosphate receptor 1 Human genes 0.000 description 3
- 239000011521 glass Substances 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 101150024819 s1pr1 gene Proteins 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 238000002834 transmittance Methods 0.000 description 3
- 102000004137 Lysophosphatidic Acid Receptors Human genes 0.000 description 2
- 108090000642 Lysophosphatidic Acid Receptors Proteins 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000001678 irradiating effect Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 239000002184 metal Substances 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 210000001525 retina Anatomy 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 230000004886 head movement Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000012466 permeate Substances 0.000 description 1
- 238000000596 photon cross correlation spectroscopy Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000011347 resin Substances 0.000 description 1
- 229920005989 resin Polymers 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/0093—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04812—Interaction techniques based on cursor appearance or behaviour, e.g. being affected by the presence of displayed objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0118—Head-up displays characterised by optical features comprising devices for improving the contrast of the display / brillance control visibility
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B2027/0178—Eyeglass type
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0179—Display position adjusting means not related to the information to be displayed
- G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Software Systems (AREA)
- Computer Hardware Design (AREA)
- Computer Graphics (AREA)
- Controls And Circuits For Display Device (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Transforming Electric Information Into Light Information (AREA)
Abstract
【課題】透過型の表示装置において、ポインターの視認性を向上する。
【解決手段】透過型表示装置であって、光透過性を有し、表示対象の対象画像とポインター画像とを、自身を透過して視認される外界に重ねて表示する表示部と、ポインター画像の表示態様を制御する表示制御部と、外界を撮像する撮像部と、を備え、表示制御部は、撮像により得られた外界画像と、対象画像と、外界画像および対象画像の合成画像と、のうちいずれか一つを基準画像として、基準画像におけるポインター画像の表示位置を含む領域の特徴量に応じて、ポインター画像の表示態様を変更して表示させる、透過型表示装置。
【選択図】図8
【解決手段】透過型表示装置であって、光透過性を有し、表示対象の対象画像とポインター画像とを、自身を透過して視認される外界に重ねて表示する表示部と、ポインター画像の表示態様を制御する表示制御部と、外界を撮像する撮像部と、を備え、表示制御部は、撮像により得られた外界画像と、対象画像と、外界画像および対象画像の合成画像と、のうちいずれか一つを基準画像として、基準画像におけるポインター画像の表示位置を含む領域の特徴量に応じて、ポインター画像の表示態様を変更して表示させる、透過型表示装置。
【選択図】図8
Description
本発明は、透過型の表示装置に関する。
頭部に装着されてユーザーの視野領域内に画像等を表示する頭部装着型表示装置(ヘッドマウントディスプレイ(Head Mounted Display、HMD))として、装着時に画像とともに外界の風景を透過視認できる透過型の頭部装着型表示装置が知られている。頭部装着型表示装置は、例えば、液晶ディスプレイと光源とを利用して画像を表す画像光を生成し、生成された画像光を投写光学系および導光板等を利用してユーザーの眼に導くことにより、ユーザーに虚像を認識させる。ユーザーは、液晶ディスプレイ上に表示されるマウスカーソル等のポインターを操作することにより、頭部装着型表示装置を制御する。しかし、外界の風景および表示画像における色および模様等によっては、ポインターが視認しづらく、ポインターを見失ってしまうことがある。特許文献1には、透過型の表示装置において、外界の風景画像に重畳して表示画像を表示する際に、外界の風景画像全体の輝度と表示画像全体の輝度とに基づいて表示画像の表示輝度を算出し、表示輝度に応じて表示画像を表示する色または色の濃度を制御する技術が開示されている。
しかし、特許文献1に記載の技術では、例えば、表示画像の輝度が外界の風景の輝度に比べて著しく低い場合や、色彩に富んだ外界の風景を透過して視認した場合などには、外界の風景の色がポインターの色に影響して、ユーザーがポインターを視認できない、或いは、視認しづらいといった問題が生じ得る。このような課題は、透過型の頭部装着型表示装置に限らず、外界の風景に重畳して画像等を表示する透過型の表示装置においても共通する。そこで、透過型の表示装置において、ポインターの視認性を向上する技術が望まれている。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態として実現することが可能である。
(1)本発明の一実施形態によれば、透過型表示装置が提供される。この透過型表示装置は、光透過性を有し、表示対象の対象画像とポインター画像とを、自身を透過して視認される外界に重ねて表示する表示部と;前記ポインター画像の表示態様を制御する表示制御部と;外界を撮像する撮像部と;を備え;前記表示制御部は、前記撮像により得られた外界画像と、前記対象画像と、前記外界画像および前記対象画像の合成画像と、のうちいずれか一つを基準画像として、前記基準画像における前記ポインター画像の表示位置を含む領域の特徴量に応じて、前記ポインター画像の表示態様を変更して表示させる。
この形態の透過型表示装置によれば、撮像により得られた外界画像と、対象画像と、外界画像および対象画像の合成画像と、のうちいずれか一つを基準画像として、基準画像におけるポインター画像の表示位置を含む領域の特徴量に応じて、ポインター画像の表示態様を変更して表示させるので、基準画像の特徴を考慮した表示態様によりポインター画像を表示させることができ、ポインター画像の視認性を向上できる。
この形態の透過型表示装置によれば、撮像により得られた外界画像と、対象画像と、外界画像および対象画像の合成画像と、のうちいずれか一つを基準画像として、基準画像におけるポインター画像の表示位置を含む領域の特徴量に応じて、ポインター画像の表示態様を変更して表示させるので、基準画像の特徴を考慮した表示態様によりポインター画像を表示させることができ、ポインター画像の視認性を向上できる。
(2)上記形態の透過型表示装置において、前記基準画像は、前記合成画像であってもよい。この形態の透過型表示装置によれば、基準画像は、合成画像であるので、外界画像および対象画像の特徴量を考慮してポインター画像の表示態様を制御できる。したがって、透過して視認される外界に対象画像が重ねて表示され、さらにポインター画像が重ねて表示される場合に、ポインター画像の視認性を向上できる。
(3)上記形態の透過型表示装置において、前記基準画像における前記ポインター画像の表示位置を含む領域の平均色相値を算出する平均色相値算出部を、さらに有し;前記表示制御部は、前記ポインター画像の色を前記平均色相値の補色にして前記ポインター画像を表示させもよい。この形態の透過型表示装置によれば、ポインター画像の色を平均色相値の補色にしてポインター画像を表示させるので、ポインター画像の色が平均色相値の補色でない構成に比べて、ポインター画像をより視認しやすくできる。
(4)上記形態の透過型表示装置において、前記基準画像における前記ポインター画像の表示位置を含む領域のエッジ傾向を算出するエッジ傾向算出部をさらに有し;前記表示制御部は、前記ポインター画像の模様を前記エッジ傾向に基づき定まる方向性を有する模様にして、前記ポインター画像を表示させてもよい。この形態の透過型表示装置によれば、ポインター画像の模様をエッジ傾向に基づき定まる方向性を有する模様にしてポインター画像を表示させるので、ポインター画像の模様の視認性を高めて、ポインター画像自体の視認性を向上できる。
(5)上記形態の透過型表示装置において、前記表示制御部は、前記模様を、前記エッジ傾向の合成ベクトルと交差する方向に繰り返される縞模様にして前記ポインター画像を表示させてもよい。この形態の透過型表示装置によれば、ポインター画像の模様をエッジ傾向の合成ベクトルと交差する方向に繰り返される縞模様にしてポインター画像を表示させるので、ポインター画像の縞模様の視認性を高めて、ポインター画像自体の視認性を向上できる。
(6)上記形態の透過型表示装置において、前記基準画像における前記ポインター画像の表示位置を含む領域の平均色相値を算出する平均色相値算出部を、さらに有し;前記表示制御部は、前記ポインター画像を視差のついた立体として表示し、前記平均色相値に基づいて前記視差の変化量を設定してもよい。この形態の透過型表示装置によれば、ポインター画像を視差のついた立体として表示し、平均色相値に基づいて視差の変化量を設定するので、平均色相値が異なる領域にポインター画像が移動した場合にポインター画像の視認性を高め、ポインター画像への追従性(目で追う性能)を向上できる。
(7)上記形態の透過型表示装置において、前記基準画像における前記ポインター画像の表示位置を含む領域の平均色相値を算出する平均色相値算出部を、さらに有し;前記表示制御部は、前記ポインター画像を視差のついた立体として表示することと、前記ポインター画像を視差のついていない面として表示することと、を交互に切り替え、前記平均色相値に基づいて前記視差をつける周期を設定してもよい。この形態の透過型表示装置によれば、ポインター画像を視差のついた立体として表示することと、ポインター画像を視差のついていない面として表示することと、を交互に切り替え、平均色相値に基づいて視差をつける周期を設定するので、ポインター画像を目立たせて視認性を高めると共に、平均色相値が異なる領域にポインター画像が移動した場合にも視差をつける周期が変化することで、ポインター画像を目立たせることができ、ポインター画像への追従性を向上できる。
(8)上記形態の透過型表示装置において、前記表示制御部は、前記ポインター画像を視差のついた立体として表示し;前記立体として表示された前記ポインター画像の焦点位置を、前記表示部から前記外界へと向かう方向に所定距離移動させることと、前記外界から前記表示部へと向かう方向に前記所定距離移動させることと、を交互に行ってもよい。この形態の透過型表示装置によれば、ポインター画像を視差のついた立体として表示し、立体として表示されたポインター画像の焦点位置を、表示部から外界へと向かう方向に所定距離移動させることと、外界から表示部へと向かう方向に所定距離移動させることとを交互に行うので、立体として表示されたポインター画像を凹ませて表示することと出っ張らせて表示することとを交互に行うことができ、ポインター画像の視認性をより向上できる。
(9)上記形態の透過型表示装置において、前記表示制御部は、前記ポインター画像の少なくとも一部の明るさを周期的に変更して前記ポインター画像を表示させてもよい。この形態の透過型表示装置によれば、ポインター画像の少なくとも一部の明るさを周期的に変更してポインター画像を表示させるので、ポインター画像の一部を点滅させて表示させることができ、ポインター画像の視認性をより向上できる。
(10)上記形態の透過型表示装置において、前記表示制御部は、前記透過型表示装置における所定動作の検知を契機として、前記ポインター画像の表示態様の制御を実行してもよい。この形態の透過型表示装置によれば、透過型表示装置における所定動作の検知を契機として、ポインター画像の表示態様の制御を実行するので、ポインター画像の表示態様の制御を実行する契機を透過型表示装置の利用者が調整でき、利用者の利便性を向上できる。
本発明は、種々の形態で実現することも可能である。例えば、透過型表示装置における表示制御方法、かかる表示制御方法を実現するためのコンピュータープログラム、かかるコンピュータープログラムを記録した記録媒体等の形態で実現できる。
A.第1実施形態:
A1.透過型表示装置の全体構成:
図1は、本発明の第1実施形態としての頭部装着型表示装置100の概略構成を示す説明図である。頭部装着型表示装置100は、使用者の頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。HMD100は、グラスを通過して視認される外界の中に画像が浮かび上がるシースルー型(透過型)の頭部装着型表示装置である。
A1.透過型表示装置の全体構成:
図1は、本発明の第1実施形態としての頭部装着型表示装置100の概略構成を示す説明図である。頭部装着型表示装置100は、使用者の頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。HMD100は、グラスを通過して視認される外界の中に画像が浮かび上がるシースルー型(透過型)の頭部装着型表示装置である。
HMD100は、使用者に画像を視認させる画像表示部20と、画像表示部20を制御する制御装置(コントローラー)10とを備えている。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有する。画像表示部20は、右保持部21と、左保持部23と、前部フレーム27とを有する支持体に、右表示ユニット22と、左表示ユニット24と、右導光板26と、左導光板28とを備える。本実施形態において、画像表示部20は、課題を解決するための手段における表示部に相当する。
右保持部21および左保持部23は、それぞれ、前部フレーム27の両端部から後方に延び、眼鏡のテンプル(つる)のように、使用者の頭部に画像表示部20を保持する。ここで、前部フレーム27の両端部のうち、画像表示部20の装着状態において使用者の右側に位置する端部を端部ERとし、使用者の左側に位置する端部を端部ELとする。右保持部21は、前部フレーム27の端部ERから、画像表示部20の装着状態における使用者の右側頭部に対応する位置まで延伸して設けられている。左保持部23は、前部フレーム27の端部ELから、画像表示部20の装着状態における使用者の左側頭部に対応する位置まで延伸して設けられている。
右導光板26および左導光板28は、前部フレーム27に設けられている。右導光板26は、画像表示部20の装着状態における使用者の右眼の眼前に位置し、右眼に画像を視認させる。左導光板28は、画像表示部20の装着状態における使用者の左眼の眼前に位置し、左眼に画像を視認させる。
前部フレーム27は、右導光板26の一端と左導光板28の一端とを互いに連結した形状を有する。この連結位置は、画像表示部20の装着状態における使用者の眉間の位置に対応する。前部フレーム27には、右導光板26と左導光板28との連結位置において、画像表示部20の装着状態において使用者の鼻に当接する鼻当て部が設けられていてもよい。この場合、鼻当て部と右保持部21と左保持部23とによって、画像表示部20を使用者の頭部に保持できる。また、右保持部21および左保持部23に対して、画像表示部20の装着状態において使用者の後頭部に接するベルトを連結してもよい。この場合、ベルトによって画像表示部20を使用者の頭部に強固に保持できる。
右表示ユニット22は、右導光板26による画像の表示を行う。右表示ユニット22は、右保持部21に設けられ、画像表示部20の装着状態における使用者の右側頭部の近傍に位置する。左表示ユニット24は、左導光板28による画像の表示を行う。左表示ユニット24は、左保持部23に設けられ、画像表示部20の装着状態における使用者の左側頭部の近傍に位置する。
本実施形態の右導光板26および左導光板28は、光透過性の樹脂等によって形成される光学部(例えばプリズム)であり、右表示ユニット22および左表示ユニット24が出力する画像光を使用者の眼に導く。なお、右導光板26および左導光板28の表面には、調光板が設けられてもよい。調光板は、光の波長域により透過率が異なる薄板状の光学素子であり、いわゆる波長フィルターとして機能する。調光板は、例えば、前部フレーム27の表面(使用者の眼と対向する面とは反対側の面)を覆うように配置される。調光板の光学特性を適宜選択することにより、可視光、赤外光、および紫外光等の任意の波長域の光の透過率を調整することができ、外部から右導光板26および左導光板28に入射し、右導光板26および左導光板28を透過する外光の光量を調整できる。
画像表示部20は、右表示ユニット22および左表示ユニット24がそれぞれ生成する画像光を、右導光板26および左導光板28に導き、この画像光によって、自身を透過して視認される外界の風景とともに、画像(拡張現実感(Augmented Reality、AR)画像)を使用者に視認させる(これを「画像を表示する」とも呼ぶ)。使用者の前方から右導光板26および左導光板28を透過して外光が使用者の眼に入射する場合、使用者の眼には、画像を構成する画像光と、外光とが入射する。このため、使用者における画像の視認性は、外光の強さに影響を受ける。
このため、例えば前部フレーム27に調光板を装着し、調光板の光学特性を適宜選択あるいは調整することによって、画像の視認のしやすさを調整することができる。典型的な例では、HMD100を装着した使用者が少なくとも外の景色を視認できる程度の光透過性を有する調光板を選択することができる。また、太陽光を抑制して、画像の視認性を高めることができる。また、調光板を用いると、右導光板26および左導光板28を保護し、右導光板26および左導光板28の損傷や汚れの付着等を抑制する効果が期待できる。調光板は、前部フレーム27、あるいは、右導光板26および左導光板28のそれぞれに対して着脱可能としてもよい。また、複数種類の調光板を交換して着脱可能としてもよく、調光板を省略してもよい。
カメラ61は、画像表示部20の前部フレーム27に配置されている。カメラ61は、前部フレーム27の前面において、右導光板26および左導光板28を透過する外光を遮らない位置に設けられる。図1の例では、カメラ61は、前部フレーム27の端部ER側に配置されている。カメラ61は、前部フレーム27の端部EL側に配置されていてもよく、右導光板26と左導光板28との連結部に配置されていてもよい。
カメラ61は、CCDやCMOS等の撮像素子、および、撮像レンズ等を備えるデジタルカメラである。本実施形態のカメラ61は単眼カメラであるが、ステレオカメラを採用してもよい。カメラ61は、HMD100の表側方向、換言すれば、画像表示部20の装着状態において使用者が視認する視界方向の、少なくとも一部の外界(実空間)を撮像する。換言すれば、カメラ61は、使用者の視界と重なる範囲または方向を撮像し、使用者が視認する方向を撮像する。カメラ61の画角の広さは適宜設定できる。本実施形態では、カメラ61の画角の広さは、使用者が右導光板26および左導光板28を透過して視認可能な使用者の視界の全体を撮像するように設定される。カメラ61は、制御機能部150(図6)の制御に従って撮像を実行し、得られた撮像データを制御機能部150へ出力する。本実施形態において、カメラ61は、課題を解決するための手段における撮像部に相当する。
HMD100は、予め設定された測定方向に位置する測定対象物までの距離を検出する測距センサーを備えていてもよい。測距センサーは、例えば、前部フレーム27の右導光板26と左導光板28との連結部分に配置することができる。測距センサーの測定方向は、HMD100の表側方向(カメラ61の撮像方向と重複する方向)とすることができる。測距センサーは、例えば、LEDやレーザーダイオード等の発光部と、光源が発する光が測定対象物に反射する反射光を受光する受光部と、により構成できる。この場合、三角測距処理や、時間差に基づく測距処理により距離を求める。測距センサーは、例えば、超音波を発する発信部と、測定対象物で反射する超音波を受信する受信部と、により構成してもよい。この場合、時間差に基づく測距処理により距離を求める。測距センサーは、カメラ61と同様に、制御機能部150の指示に従って測距し、検出結果を制御機能部150へ出力する。
図2は、画像表示部20が備える光学系の構成を示す要部平面図である。説明の便宜上、図2には使用者の右眼REおよび左眼LEを図示する。図2に示すように、右表示ユニット22と左表示ユニット24とは、左右対称に構成されている。
右眼REに画像(AR画像)を視認させる構成として、右表示ユニット22は、OLED(Organic Light Emitting Diode)ユニット221と、右光学系251とを備える。OLEDユニット221は、画像光を発する。右光学系251は、レンズ群等を備え、OLEDユニット221が発する画像光Lを右導光板26へと導く。
OLEDユニット221は、OLEDパネル223と、OLEDパネル223を駆動するOLED駆動回路225とを有する。OLEDパネル223は、有機エレクトロルミネッセンスにより発光し、R(赤)、G(緑)、B(青)の色光をそれぞれ発する発光素子により構成される自発光型の表示パネルである。OLEDパネル223は、R、G、Bの素子を1個ずつ含む単位を1画素とした複数の画素が、マトリクス状に配置されている。
OLED駆動回路225は、後述の制御機能部150(図6)の制御に従って、OLEDパネル223が備える発光素子の選択および通電を実行し、発光素子を発光させる。OLED駆動回路225は、OLEDパネル223の裏面、すなわち発光面の裏側に、ボンディング等により固定されている。OLED駆動回路225は、例えばOLEDパネル223を駆動する半導体デバイスで構成され、OLEDパネル223の裏面に固定される基板に実装されてもよい。この基板には、後述する温度センサー217(図5)が実装される。なお、OLEDパネル223は、白色に発光する発光素子をマトリクス状に配置し、R、G、Bの各色に対応するカラーフィルターを重ねて配置する構成を採用してもよい。また、R、G、Bの色光をそれぞれ放射する発光素子に加えて、W(白)の光を放射する発光素子を備えるWRGB構成のOLEDパネル223が採用されてもよい。
右光学系251は、OLEDパネル223から射出された画像光Lを並行状態の光束にするコリメートレンズを有する。コリメートレンズにより並行状態の光束にされた画像光Lは、右導光板26に入射する。右導光板26の内部において光を導く光路には、画像光Lを反射する複数の反射面が形成される。画像光Lは、右導光板26の内部で複数回の反射を経て右眼RE側に導かれる。右導光板26には、右眼REの眼前に位置するハーフミラー261(反射面)が形成される。画像光Lは、ハーフミラー261で反射後、右導光板26から右眼REへと射出され、この画像光Lが右眼REの網膜で像を結ぶことで、使用者に画像を視認させる。
左眼LEに画像(AR画像)を視認させる構成として、左表示ユニット24は、OLEDユニット241と、左光学系252とを備える。OLEDユニット241は画像光を発する。左光学系252は、レンズ群等を備え、OLEDユニット241が発する画像光Lを左導光板28へと導く。OLEDユニット241は、OLEDパネル243と、OLEDパネル243を駆動するOLED駆動回路245を有する。各部の詳細は、OLEDユニット221、OLEDパネル223、OLED駆動回路225と同じである。OLEDパネル243の裏面に固定される基板には、温度センサー239(図5)が実装される。また、左光学系252の詳細は上述の右光学系251と同じである。
以上説明した構成によれば、HMD100は、シースルー型の表示装置として機能することができる。すなわち使用者の右眼REには、ハーフミラー261で反射した画像光Lと、右導光板26を透過した外光OLとが入射する。使用者の左眼LEには、ハーフミラー281で反射した画像光Lと、左導光板28を透過した外光OLとが入射する。このように、HMD100は、内部で処理した画像の画像光Lと外光OLとを重ねて使用者の眼に入射させる。この結果、使用者にとっては、右導光板26および左導光板28を透かして外界の風景(実世界)が見えると共に、この外界に重なるようにして画像光Lによる虚像(虚像画像、AR画像)が視認される。
なお、右光学系251および右導光板26を総称して「右導光部」とも呼び、左光学系252および左導光板28を総称して「左導光部」とも呼ぶ。右導光部および左導光部の構成は、上述した例に限定されず、画像光を用いて使用者の眼前に画像を形成する限りにおいて任意の方式を用いることができる。例えば、右導光部および左導光部には、回折格子を用いてもよいし、半透過反射膜を用いてもよい。
図1において、制御装置10と画像表示部20とは、接続ケーブル40によって接続される。接続ケーブル40は、制御装置10の下部に設けられるコネクターに着脱可能に接続され、左保持部23の先端から、画像表示部20内部の各種回路に接続する。接続ケーブル40には、デジタルデータを伝送するメタルケーブルまたは光ファイバーケーブルを有する。接続ケーブル40にはさらに、アナログデータを伝送するメタルケーブルを含んでもよい。接続ケーブル40の途中には、コネクター46が設けられている。
コネクター46は、ステレオミニプラグを接続するジャックであり、コネクター46と制御装置10とは、例えばアナログ音声信号を伝送するラインで接続される。図1に示す本実施形態の例では、コネクター46には、ステレオヘッドホンを構成する右イヤホン32および左イヤホン34と、マイク63を有するヘッドセット30とが接続されている。
マイク63は、例えば図1に示すように、マイク63の集音部が使用者の視線方向を向くように配置されている。マイク63は、音声を集音し、音声信号を音声インターフェイス182(図5)に出力する。マイク63は、モノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであっても無指向性のマイクであってもよい。
制御装置10は、HMD100を制御するための装置である。制御装置10は、点灯部12と、トラックパッド14と、方向キー16と、決定キー17と、電源スイッチ18とを含んでいる。点灯部12は、HMD100の動作状態(例えば、電源のON/OFF等)を、その発光態様によって通知する。点灯部12としては、例えば、LED(Light Emitting Diode)を用いることができる。
トラックパッド14は、トラックパッド14の操作面上での接触操作を検出して、検出内容に応じた信号を出力する。トラックパッド14としては、静電式や圧力検出式、光学式といった種々のトラックパッドを採用することができる。方向キー16は、上下左右方向に対応するキーへの押下操作を検出して、検出内容に応じた信号を出力する。決定キー17は、押下操作を検出して、制御装置10において操作された内容を決定するための信号を出力する。電源スイッチ18は、スイッチのスライド操作を検出することで、HMD100の電源の状態を切り替える。
図3は、使用者から見た画像表示部20の要部構成を示す図である。図3では、接続ケーブル40、右イヤホン32、左イヤホン34の図示を省略している。図3の状態では、右導光板26および左導光板28の裏側が視認できると共に、右眼REに画像光を照射するためのハーフミラー261、および、左眼LEに画像光を照射するためのハーフミラー281が略四角形の領域として視認できる。使用者は、これらハーフミラー261、281を含む右導光板26、左導光板28の全体を透過して外界の風景を視認すると共に、ハーフミラー261、281の位置に矩形の表示画像を視認する。
図4は、カメラ61の画角を説明するための図である。図4では、カメラ61と、使用者の右眼REおよび左眼LEとを平面視で模式的に示すと共に、カメラ61の画角(撮像範囲)をθで示す。なお、カメラ61の画角θは図示のように水平方向に拡がっているほか、一般的なデジタルカメラと同様に鉛直方向にも拡がっている。
上述のようにカメラ61は、画像表示部20において右側の端部に配置され、使用者の視線の方向(すなわち使用者の前方)を撮像する。このためカメラ61の光軸は、右眼REおよび左眼LEの視線方向を含む方向とされる。使用者がHMD100を装着した状態で視認できる外界の風景は、無限遠とは限らない。例えば、使用者が両眼で対象物OBを注視すると、使用者の視線は、図中の符号RD、LDに示すように、対象物OBに向けられる。この場合、使用者から対象物OBまでの距離は、30cm〜10m程度であることが多く、1m〜4mであることがより多い。そこで、HMD100について、通常使用時における使用者から対象物OBまでの距離の上限および下限の目安を定めてもよい。この目安は、予め求められHMD100にプリセットされていてもよいし、使用者が設定してもよい。カメラ61の光軸および画角は、このような通常使用時における対象物OBまでの距離が、設定された上限および下限の目安に相当する場合において対象物OBが画角に含まれるように設定されることが好ましい。
なお、一般的に、人間の視野角は水平方向におよそ200度、垂直方向におよそ125度とされる。そのうち情報受容能力に優れる有効視野は水平方向に30度、垂直方向に20度程度である。人間が注視する注視点が迅速に安定して見える安定注視野は、水平方向に60〜90度、垂直方向に45〜70度程度とされている。この場合、注視点が対象物OB(図4)であるとき、視線RD、LDを中心として水平方向に30度、垂直方向に20度程度が有効視野である。また、水平方向に60〜90度、垂直方向に45〜70度程度が安定注視野である。使用者が画像表示部20を透過して右導光板26および左導光板28を透過して視認する実際の視野を、実視野(FOV:Field Of View)と呼ぶ。実視野は、視野角および安定注視野より狭いが、有効視野より広い。
本実施形態のカメラ61の画角θは、使用者の視野より広い範囲を撮像可能に設定される。カメラ61の画角θは、少なくとも使用者の有効視野より広い範囲を撮像可能に設定されることが好ましく、実視野よりも広い範囲を撮像可能に設定されることがより好ましい。カメラ61の画角θは、使用者の安定注視野より広い範囲を撮像可能に設定されることがさらに好ましく、使用者の両眼の視野角よりも広い範囲を撮像可能に設定されることが最も好ましい。このため、カメラ61には、撮像レンズとしていわゆる広角レンズを備え、広い画角を撮像できる構成としてもよい。広角レンズには、超広角レンズ、準広角レンズと呼ばれるレンズを含んでもよい。また、カメラ61には、単焦点レンズを含んでもよく、ズームレンズを含んでもよく、複数のレンズからなるレンズ群を含んでもよい。
図5は、HMD100の構成を機能的に示すブロック図である。制御装置10は、プログラムを実行してHMD100を制御するメインプロセッサー140と、記憶部と、入出力部と、センサー類と、インターフェイスと、電源部130とを備える。メインプロセッサー140には、これらの記憶部、入出力部、センサー類、インターフェイス、電源部130がそれぞれ接続されている。メインプロセッサー140は、制御装置10が内蔵しているコントローラー基板120に実装されている。
記憶部には、メモリー118と、不揮発性記憶部121とが含まれている。メモリー118は、メインプロセッサー140によって実行されるコンピュータープログラム、および、処理されるデータを一時的に記憶するワークエリアを構成する。不揮発性記憶部121は、フラッシュメモリーやeMMC(embedded Multi Media Card)で構成される。不揮発性記憶部121は、メインプロセッサー140が実行するコンピュータープログラムや、メインプロセッサー140によって処理される各種のデータを記憶する。本実施形態において、これらの記憶部はコントローラー基板120に実装されている。
入出力部には、トラックパッド14と、操作部110とが含まれている。操作部110には、制御装置10に備えられた方向キー16と、決定キー17と、電源スイッチ18とが含まれる。メインプロセッサー140は、これら各入出力部を制御すると共に、各入出力部から出力される信号を取得する。
センサー類には、6軸センサー111と、磁気センサー113と、GPS(Global Positioning System)レシーバー115とが含まれている。6軸センサー111は、3軸加速度センサーと3軸ジャイロ(角速度)センサーとを備えるモーションセンサー(慣性センサー)である。6軸センサー111は、これらセンサーがモジュール化されたIMU(Inertial Measurement Unit)を採用してもよい。磁気センサー113は、例えば、3軸の地磁気センサーである。GPSレシーバー115は、図示しないGPSアンテナを備え、GPS衛星から送信される無線信号を受信して、制御装置10の現在位置の座標を検出する。これらセンサー類(6軸センサー111、磁気センサー113、GPSレシーバー115)は、検出値を予め指定されたサンプリング周波数に従って、メインプロセッサー140へと出力する。各センサーが検出値を出力するタイミングは、メインプロセッサー140からの指示に応じてもよい。
インターフェイスには、無線通信部117と、音声コーデック180と、外部コネクター184と、外部メモリーインターフェイス186と、USB(Universal Serial Bus)コネクター188と、センサーハブ192と、FPGA194と、インターフェイス196とが含まれている。これらは、外部とのインターフェイスとして機能する。
無線通信部117は、HMD100と外部機器との間における無線通信を実行する。無線通信部117は、図示しないアンテナ、RF回路、ベースバンド回路、通信制御回路等を備えて構成され、あるいはこれらが統合されたデバイスとして構成されている。無線通信部117は、例えば、Bluetooth(登録商標)、Wi−Fi(登録商標)を含む無線LAN等の規格に準拠した無線通信を行う。
音声コーデック180は、音声インターフェイス182に接続され、音声インターフェイス182を介して入出力される音声信号のエンコード/デコードを行う。音声インターフェイス182は、音声信号を入出力するインターフェイスである。音声コーデック180は、アナログ音声信号からデジタル音声データへの変換を行うA/Dコンバーター、および、その逆の変換を行うD/Aコンバーターを備えてもよい。本実施形態のHMD100は、音声を右イヤホン32および左イヤホン34から出力し、マイク63により集音する。音声コーデック180は、メインプロセッサー140が出力するデジタル音声データをアナログ音声信号に変換し、音声インターフェイス182を介して出力する。また、音声コーデック180は、音声インターフェイス182に入力されるアナログ音声信号をデジタル音声データに変換してメインプロセッサー140に出力する。
外部コネクター184は、メインプロセッサー140に対して、メインプロセッサー140と通信する外部装置(例えば、パーソナルコンピューター、スマートフォン、ゲーム機器等)を接続するためのコネクターである。外部コネクター184に接続された外部装置は、コンテンツの供給元となり得るほか、メインプロセッサー140が実行するコンピュータープログラムのデバッグや、HMD100の動作ログの収集に使用できる。外部コネクター184は種々の態様を採用できる。外部コネクター184としては、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等の有線接続に対応したインターフェイスや、無線LANインターフェイス、Bluetoothインターフェイス等の無線接続に対応したインターフェイスを採用できる。
外部メモリーインターフェイス186は、可搬型のメモリーデバイスを接続可能なインターフェイスである。外部メモリーインターフェイス186は、例えば、カード型記録媒体を装着してデータの読み書きを行うメモリーカードスロットと、インターフェイス回路とを含む。カード型記録媒体のサイズ、形状、規格等は適宜選択できる。USBコネクター188は、USB規格に準拠したメモリーデバイス、スマートフォン、パーソナルコンピューター等を接続可能なインターフェイスである。USBコネクター188は、例えば、USB規格に準拠したコネクターと、インターフェイス回路とを含む。USBコネクター188のサイズ、形状、USB規格のバージョン等は適宜選択できる。
また、HMD100は、バイブレーター19を備える。バイブレーター19は、図示しないモーターと、偏芯した回転子等を備え、メインプロセッサー140の制御に従って振動を発生する。HMD100は、例えば、操作部110に対する操作を検出した場合や、HMD100の電源がオンオフされた場合等に所定の振動パターンでバイブレーター19により振動を発生させる。バイブレーター19は、制御装置10に設ける構成に換えて、画像表示部20側、例えば、画像表示部の右保持部21(テンプルの右側部分)に設ける構成としてもよい。
センサーハブ192およびFPGA194は、インターフェイス(I/F)196を介して画像表示部20に接続されている。センサーハブ192は、画像表示部20が備える各種センサーの検出値を取得して、メインプロセッサー140に出力する。FPGA194は、メインプロセッサー140と画像表示部20の各部との間で送受信されるデータの処理およびインターフェイス196を介した伝送を実行する。インターフェイス196は、画像表示部20の右表示ユニット22と、左表示ユニット24とに対してそれぞれ接続されている。本実施形態の例では、左保持部23に接続ケーブル40が接続され、この接続ケーブル40に繋がる配線が画像表示部20内部に敷設され、右表示ユニット22と左表示ユニット24とのそれぞれが、制御装置10のインターフェイス196に接続される。
電源部130には、バッテリー132と、電源制御回路134とが含まれている。電源部130は、制御装置10が動作するための電力を供給する。バッテリー132は、充電可能な電池である。電源制御回路134は、バッテリー132の残容量の検出と、OS143(図6)への充電の制御を行う。電源制御回路134は、メインプロセッサー140に接続され、バッテリー132の残容量の検出値や、バッテリー132の電圧の検出値をメインプロセッサー140へと出力する。なお、電源部130が供給する電力に基づいて、制御装置10から画像表示部20へと電力を供給してもよい。電源部130から制御装置10の各部および画像表示部20への電力の供給状態を、メインプロセッサー140により制御可能な構成としてもよい。
右表示ユニット22は、表示ユニット基板210と、OLEDユニット221と、カメラ61と、照度センサー65と、LEDインジケーター67と、温度センサー217とを備える。表示ユニット基板210には、インターフェイス196に接続されるインターフェイス(I/F)211と、受信部(Rx)213と、EEPROM(Electrically Erasable Programmable Read−Only Memory)215とが実装されている。受信部213は、インターフェイス211を介して制御装置10から入力されるデータを受信する。受信部213は、OLEDユニット221で表示する画像の画像データを受信した場合に、受信した画像データをOLED駆動回路225(図2)へと出力する。
EEPROM215は、各種のデータをメインプロセッサー140が読み取り可能な態様で記憶する。EEPROM215は、例えば、画像表示部20のOLEDユニット221、241の発光特性や表示特性に関するデータ、右表示ユニット22または左表示ユニット24のセンサー特性に関するデータ等を記憶する。具体的には、例えば、OLEDユニット221、241のガンマ補正に係るパラメーター、後述する温度センサー217、239の検出値を補償するデータ等を記憶する。これらのデータは、HMD100の工場出荷時の検査によって生成され、EEPROM215に書き込まれる。出荷後は、メインプロセッサー140がEEPROM215のデータを読み込んで各種の処理に利用する。
カメラ61は、インターフェイス211を介して入力される信号に従って撮像を実行し、撮像画像データあるいは撮像結果を表す信号を制御装置10へと出力する。照度センサー65は、図1に示すように、前部フレーム27の端部ERに設けられ、画像表示部20を装着する使用者の前方からの外光を受光するように配置される。照度センサー65は、受光量(受光強度)に対応した検出値を出力する。LEDインジケーター67は、図1に示すように、前部フレーム27の端部ERにおいてカメラ61の近傍に配置される。LEDインジケーター67は、カメラ61による撮像を実行中に点灯して、撮像中であることを報知する。
温度センサー217は、温度を検出し、検出した温度に対応する電圧値あるいは抵抗値を出力する。温度センサー217は、OLEDパネル223(図2)の裏面側に実装される。温度センサー217は、例えばOLED駆動回路225と同一の基板に実装されてもよい。この構成により、温度センサー217は主としてOLEDパネル223の温度を検出する。なお、温度センサー217は、OLEDパネル223あるいはOLED駆動回路225(図2)に内蔵されてもよい。例えば、OLEDパネル223がSi−OLEDとしてOLED駆動回路225と共に統合半導体チップ上の集積回路として実装される場合、この半導体チップに温度センサー217を実装してもよい。
左表示ユニット24は、表示ユニット基板230と、OLEDユニット241と、温度センサー239とを備える。表示ユニット基板230には、インターフェイス196に接続されるインターフェイス(I/F)231と、受信部(Rx)233と、6軸センサー235と、磁気センサー237とが実装されている。受信部233は、インターフェイス231を介して制御装置10から入力されるデータを受信する。受信部233は、OLEDユニット241で表示する画像の画像データを受信した場合に、受信した画像データをOLED駆動回路245(図2)へと出力する。
6軸センサー235は、3軸加速度センサーおよび3軸ジャイロ(角速度)センサーを備えるモーションセンサー(慣性センサー)である。6軸センサー235は、上記のセンサーがモジュール化されたIMUを採用してもよい。磁気センサー237は、例えば、3軸の地磁気センサーである。6軸センサー235と磁気センサー237は、画像表示部20に設けられているため、画像表示部20が使用者の頭部に装着されているときには、使用者の頭部の動きを検出する。検出された頭部の動きから画像表示部20の向き、すなわち、使用者の視界が特定される。
温度センサー239は、温度を検出し、検出した温度に対応する電圧値あるいは抵抗値を出力する。温度センサー239は、OLEDパネル243(図2)の裏面側に実装される。温度センサー239は、例えばOLED駆動回路245と同一の基板に実装されてもよい。この構成により、温度センサー239は主としてOLEDパネル243の温度を検出する。温度センサー239は、OLEDパネル243あるいはOLED駆動回路245(図2)に内蔵されてもよい。詳細は温度センサー217と同様である。
右表示ユニット22のカメラ61、照度センサー65、温度センサー217と、左表示ユニット24の6軸センサー235、磁気センサー237、温度センサー239は、制御装置10のセンサーハブ192に接続される。センサーハブ192は、メインプロセッサー140の制御に従って各センサーのサンプリング周期の設定および初期化を行う。センサーハブ192は、各センサーのサンプリング周期に合わせて、各センサーへの通電、制御データの送信、検出値の取得等を実行する。センサーハブ192は、予め設定されたタイミングで、右表示ユニット22および左表示ユニット24が備える各センサーの検出値をメインプロセッサー140へ出力する。センサーハブ192は、各センサーの検出値を一時的に保持するキャッシュ機能を備えてもよい。センサーハブ192は、各センサーの検出値の信号形式やデータ形式の変換機能(例えば、統一形式への変換機能)を備えてもよい。センサーハブ192は、メインプロセッサー140の制御に従ってLEDインジケーター67への通電を開始および停止させることで、LEDインジケーター67を点灯または消灯させる。
図6は、制御装置10の構成を機能的に示すブロック図である。制御装置10は、機能的には、記憶機能部122と、制御機能部150とを備える。記憶機能部122は、不揮発性記憶部121(図5)により構成される論理的な記憶部である。記憶機能部122は、記憶機能部122のみを使用する構成に替えて、不揮発性記憶部121に組み合わせてEEPROM215やメモリー118を使用する構成としてもよい。制御機能部150は、メインプロセッサー140がコンピュータープログラムを実行することにより、すなわち、ハードウェアとソフトウェアとが協働することにより構成される。
記憶機能部122には、制御機能部150における処理に供する種々のデータが記憶されている。具体的には、本実施形態の記憶機能部122には、設定データ123と、コンテンツデータ124とが記憶されている。設定データ123は、HMD100の動作に係る各種の設定値を含む。例えば、設定データ123には、制御機能部150がHMD100を制御する際のパラメーター、行列式、演算式、LUT(Look Up Table)等が含まれている。また、後述する利用モードが設定データ123として予め記憶されている。
コンテンツデータ124には、制御機能部150の制御によって画像表示部20が表示する画像や映像を含むコンテンツのデータ(画像データ、映像データ、音声データ等)が含まれている。なお、コンテンツデータ124には、双方向型のコンテンツのデータが含まれてもよい。双方向型のコンテンツとは、操作部110によって使用者の操作を取得して、取得した操作内容に応じた処理を制御機能部150が実行し、処理内容に応じたコンテンツを画像表示部20に表示するタイプのコンテンツを意味する。この場合、コンテンツのデータには、使用者の操作を取得するためのメニュー画面の画像データ、メニュー画面に含まれる項目に対応する処理を定めるデータ等を含みうる。
制御機能部150は、記憶機能部122が記憶しているデータを利用して各種処理を実行することにより、OS143、画像処理部145、表示制御部147、撮像制御部149、入出力制御部151、平均色相値算出部153、エッジ傾向算出部155としての機能を実行する。本実施形態では、OS143以外の各機能部は、OS143上で実行されるコンピュータープログラムとして構成されている。
画像処理部145は、画像表示部20により表示する画像/映像の画像データに基づいて、右表示ユニット22および左表示ユニット24に送信する信号を生成する。画像処理部145が生成する信号は、垂直同期信号、水平同期信号、クロック信号、アナログ画像信号等であってもよい。画像処理部145は、メインプロセッサー140がコンピュータープログラムを実行して実現される構成のほか、メインプロセッサー140とは別のハードウェア(例えば、DSP(Digital Signal Processor)で構成してもよい。
なお、画像処理部145は、必要に応じて、解像度変換処理、画像調整処理、2D/3D変換処理等を実行してもよい。解像度変換処理は、画像データの解像度を右表示ユニット22および左表示ユニット24に適した解像度へと変換する処理である。画像調整処理は、画像データの輝度や彩度を調整する処理である。2D/3D変換処理は、三次元画像データから二次元画像データを生成し、あるいは、二次元画像データから三次元画像データを生成する処理である。画像処理部145は、これらの処理を実行した場合、処理後の画像データに基づき画像を表示するための信号を生成し、接続ケーブル40を介して画像表示部20へと送信する。
表示制御部147は、右表示ユニット22および左表示ユニット24を制御する制御信号を生成し、この制御信号により、右表示ユニット22および左表示ユニット24のそれぞれによる画像光の生成と射出とを制御する。具体的には、表示制御部147は、OLED駆動回路225、245を制御して、OLEDパネル223、243による画像の表示を実行させる。表示制御部147は、画像処理部145が出力する信号に基づいて、OLED駆動回路225、245がOLEDパネル223、243に描画するタイミングの制御、OLEDパネル223、243の輝度の制御等を行う。
また、表示制御部147は、後述のポインター画像表示制御処理において、ポインター画像の表示態様を制御する。ポインター画像表示制御処理では、使用者がポインター画像を視認しやすいようにポインター画像を目立たせて表示させる。例えば、ポインター画像の色および模様等の表示態様を制御する。ポインター画像表示制御処理についての詳細な説明は後述する。
撮像制御部149は、カメラ61を制御して撮像を実行させ、撮像画像データを生成し、記憶機能部122に一時的に記憶させる。また、カメラ61が撮像画像データを生成する回路を含むカメラユニットとして構成される場合、撮像制御部149は、撮像画像データをカメラ61から取得して、記憶機能部122に一時的に記憶させる。また、撮像制御部149は、後述のポインター画像表示制御処理において、表示制御部147の指示に応じて、外界の撮像を行って外界の撮像画像を得る。
入出力制御部151は、トラックパッド14(図1)と、方向キー16と、決定キー17とを適宜、制御して、これらから入力指令を取得する。取得した指令は、OS143、またはOS143と共にOS143上で動作するコンピュータープログラムに出力される。
平均色相値算出部153は、後述のポインター画像表示制御処理において、後述の基準画像におけるポインター画像の表示位置を含む領域の平均色相値を算出する。エッジ傾向算出部155は、後述のポインター画像表示制御処理において、後述の基準画像におけるポインター画像の表示位置を含む領域のエッジ傾向を算出する。
A2.拡張現実感表示:
図7は、HMD100による拡張現実感表示の一例を示す説明図である。図7では、使用者の視界VRを例示している。上述のようにして、HMD100の使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、使用者は表示対象の対象画像AIを拡張現実感(AR)として視認する。図7に示す例では、対象画像AIは、HMD100のOSのメニュー画面である。メニュー画面には、例えば、「メッセージ」、「電話」、「カメラ」、「ブラウザー」、「ナビゲーション」の各アプリケーションプログラムを起動するためのアイコンが含まれる。また、右導光板26、左導光板28が外界からの光を透過することで、使用者は外界SCを視認する。このように、本実施形態のHMD100の使用者は、視界VRのうち対象画像AIが表示された部分については、外界SCに重なるようにして対象画像AIを見ることができる。また、視界VRのうち対象画像AIが表示されていない部分については、外界SCだけを見ることができる。
図7は、HMD100による拡張現実感表示の一例を示す説明図である。図7では、使用者の視界VRを例示している。上述のようにして、HMD100の使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、使用者は表示対象の対象画像AIを拡張現実感(AR)として視認する。図7に示す例では、対象画像AIは、HMD100のOSのメニュー画面である。メニュー画面には、例えば、「メッセージ」、「電話」、「カメラ」、「ブラウザー」、「ナビゲーション」の各アプリケーションプログラムを起動するためのアイコンが含まれる。また、右導光板26、左導光板28が外界からの光を透過することで、使用者は外界SCを視認する。このように、本実施形態のHMD100の使用者は、視界VRのうち対象画像AIが表示された部分については、外界SCに重なるようにして対象画像AIを見ることができる。また、視界VRのうち対象画像AIが表示されていない部分については、外界SCだけを見ることができる。
図7に示すように、対象画像AI上には、ポインター画像Ptが表示されている。図7では、説明の便宜上、実際に使用者が視認するポインター画像Ptに比べて拡大して示している。ポインター画像Ptは、使用者が対象画像AI上に表示された各メニューを選択するために用いられる。図7に示す例では、使用者は、対象画像AI上のブラウザーアイコンにポインター画像Ptをあわせることで、ブラウザーメニューを選択している。使用者は、この状態で、トラックパッド14上でタップ操作等を行うことにより、ブラウザーメニューを実行できる。
本実施形態において、「ポインター画像」とは、GUI操作にかかる操作位置の指標であって、対象画像AIにおける操作対象位置を示す指標を意味し、本実施形態では、マウスポインター画像を意味する。なお、マウスポインターに限らず、例えば、マーカー、マウスカーソルなど任意のポインター画像を用いてもよい。図7に示す例では、ポインター画像Ptは、矢印形状を有する。なお、ポインター画像Ptの形状は、矢印形状に限らず、円形、三角形や四角形等の幾何学図形および記号等であってもよい。また、ポインター画像Ptに模様が付されている構成であってもよい。本実施形態では、ポインター画像Ptの模様は方向性を有する。具体的には、図7に示すように、ポインター画像Ptには、ある方向に繰り返される模様が付されている。なお、模様の方向についての詳細な説明は、後述する。
上述のように、使用者は、外界SCに重なるようにして対象画像AIを見るので、一般的には、外界SCおよび対象画像AIの特徴、例えば、彩度、明度および色相等により、ポインター画像Ptを視認しづらい場合がある。しかし、後述のポインター画像表示制御処理において、外界SCの撮像画像又は対象画像AI又はそれらの合成画像の特徴量に応じて、ポインター画像Ptの表示態様を制御してポインター画像Ptを表示することで、ポインター画像Ptの視認性を向上させている。
A3.ポインター画像表示制御処理:
図8は、ポインター画像表示制御処理の処理手順を示すフローチャートである。ポインター画像表示制御処理では、利用モードに応じてポインター画像Ptの表示態様を変更する。ポインター画像表示制御処理は、使用者が電源スイッチ18をオンに設定すると開始される。図8に示すように、表示制御部147は、設定データ123から利用モードを取得する(ステップS100)。
図8は、ポインター画像表示制御処理の処理手順を示すフローチャートである。ポインター画像表示制御処理では、利用モードに応じてポインター画像Ptの表示態様を変更する。ポインター画像表示制御処理は、使用者が電源スイッチ18をオンに設定すると開始される。図8に示すように、表示制御部147は、設定データ123から利用モードを取得する(ステップS100)。
利用モードとは、ポインター画像Ptの表示態様を変化させるモードであり、本実施形態では、「色調変更モード」と「向き変更モード」と「視差変更モード」との合計3種類のモードが存在する。「色調変更モード」とは、ポインター画像Ptの色を変更してポインター画像Ptを表示するモードである。「向き変更モード」とは、ポインター画像Ptの模様の向きを変更してポインター画像Ptを表示するモードである。「視差変更モード」とは、ポインター画像Ptに視差をつけてポインター画像Ptを表示するモードである。使用者は、これら3つのモードについて、それぞれ独立して有効または無効を選択的に設定でき、各モードについての有効性の情報が設定データ123として記憶機能部122に記憶される。なお、本実施形態では、上記3つのモードの全てが有効であると予め設定されている。
ステップS100の実行後、表示制御部147は、色調変更モードは有効であるか否かを判定する(ステップS105)。色調変更モードが有効でないと判定された場合(ステップS105:NO)、色調変更処理(ステップS110)を実行しない。これに対して、色調変更モードが有効であると判定された場合(ステップS105:YES)、表示制御部147は、色調変更処理を実行する(ステップS110)。
図9は、色調変更処理(ステップS110)の詳細な処理手順を示すフローチャートである。図9に示すように、表示制御部147は、基準画像設定処理を実行する(ステップS200)。本実施形態において、「基準画像」とは、ポインター画像Ptの表示態様を変更する際に特徴量が考慮される画像である。基準画像は、表示制御部147により、撮像により得られた外界画像と、対象画像AIと、撮像により得られた外界画像および対象画像AIの合成画像と、のうちのいずれか一つの画像に設定される。
図10は、基準画像設定処理(ステップS200)の詳細な処理手順を示すフローチャートである。図10に示すように、表示制御部147は、外界輝度を取得する(ステップS300)。具体的には、表示制御部147は、照度センサー65の取得する外光の受光量に対応した検出値に基づいて外界輝度を取得する。
ステップS300の実行後、表示制御部147は、外界輝度が対象画像輝度に比べて著しく高いか否かを判定する(ステップS305)。対象画像輝度は、対象画像AIの全画素のRGB値を輝度値に変換して、それらの平均値として算出される。表示制御部147は、予め閾値を定めておき、外界輝度と対象画像輝度との差の絶対値が閾値よりも大きい場合、外界輝度が対象画像輝度に比べて著しく高いと判定する。これに対して、外界輝度と対象画像輝度との差の絶対値が閾値以下の場合、外界輝度が対象画像輝度に比べて著しく高くないと判定する。外界輝度が対象画像輝度に比べて著しく高いと判定された場合(ステップS305:YES)、撮像制御部149は、カメラ61に外界を撮像させて外界画像を得る(ステップS310)。ステップS310の実行後、表示制御部147は、撮像により得られた外界画像を基準画像として設定する(ステップS315)。ステップS315の実行後、基準画像設定処理(ステップS200)は終了し、図9に示す後述のステップS205が実行される。
上述のステップS305において、外界輝度が対象画像輝度に比べて著しく高くないと判定された場合(ステップS305:NO)、表示制御部147は、外界輝度が対象画像輝度に比べて著しく低いか否かを判定する(ステップS320)。外界輝度が対象画像輝度に比べて著しく低いと判定された場合(ステップS320:YES)、表示制御部147は、対象画像AIを基準画像として設定する(ステップS325)。ステップS325の実行後、上述のステップS315の実行後と同様に、基準画像設定処理(ステップS200)は終了し、図9に示す後述のステップS205が実行される。
上述のステップS320において、外界輝度が対象画像輝度に比べて著しく低くないと判定された場合(ステップS320:NO)、上述のステップS310と同様に、撮像制御部149は、カメラ61に外界を撮像させて外界画像を得る(ステップS330)。ステップS330の実行後、表示制御部147は、撮像により得られた外界画像と対象画像AIとを加法混色して合成画像を得る(ステップS335)。なお、加法混色は公知な技術であるため、その詳細な説明は省略する。ステップS335において、加法混色の対象となるのは、各画像の全体である。ステップS335の実行後、表示制御部147は、合成画像を基準画像として設定する(ステップS340)。ステップS340の実行後、上述のステップS315およびステップS325の実行後と同様に、基準画像設定処理(ステップS200)は終了し、図9に示す後述のステップS205が実行される。
図9に示すように、ステップS200の完了後、表示制御部147は、基準画像とポインター画像Ptとの重複領域を算出する(ステップS205)。本実施形態において、「重複領域」とは、基準画像におけるポインター画像Ptの表示位置を含む領域であって、ポインター画像Ptの長手方向の長さの中点を中心とする略真円形状の領域を意味する。図7に示す例では、領域Ar1が重複領域として算出される。領域Ar1は、ポインター画像Ptに加えて、ポインター画像Ptの周辺の領域も含む領域である。
図9に示すように、ステップS205の実行後、表示制御部147は、重複領域Ar1の色相値を取得する(ステップS210)。具体的には、重複領域Ar1の各画素の色相値(色相角)を取得する。ステップS210の実行後、表示制御部147は、重複領域Ar1の平均色相値を算出する(ステップS215)。具体的には、上述のステップS210で取得した重複領域Ar1の各画素の色相値の和を重複領域の画素数で割ることにより平均色相値を算出する。
ステップS215の実行後、表示制御部147は、ポインター画像Ptの色を平均色相値の補色にする(ステップS220)。本実施形態において、「補色」とは、マンセル色相環において、平均色相値の表す色相と、ポインター画像Ptの色相値の表す色相と、の間の角度(色相角)が、180度である色相を意味する。また、「補色」には、色相角がちょうど180度である場合に加えて、例えば、色相角が180度±45度の範囲にある場合も含む広い概念を意味する。なお、色相環は、マンセル色相環に限らず、例えば、PCCS色相環であってもよいし、オストワルト色相環であってもよい。また、色相環は、赤、黄、緑、青、紫等の各色が連続的につながっていなくてもよい。
ステップS220において、ポインター画像Ptの色が平均色相値の補色にして表示されると、色調変更処理(ステップS110)が終了する。
図11は、色調変更処理(ステップS110)実行後のポインター画像Ptの一例を模式的に示す説明図である。図11では、説明の便宜上、基準画像Stgdにおける重複領域Ar1およびポインター画像Ptを図7に示す例よりもさらに拡大して示している。また、重複領域Ar1およびポインター画像Ptの色をハッチングにより表している。図11に示すように、ポインター画像Ptは、重複領域Ar1の平均色相値の色の補色にして表示されている。このため、ポインター画像Ptは、重複領域Ar1におけるポインター画像Ptを除いた領域に対して目立ち、ポインター画像Ptの視認性は向上している。
図8に示すように、色調変更処理(ステップS110)の実行後、表示制御部147は、向き変更モードは有効であるか否かを判定する(ステップS115)。向き変更モードが有効でないと判定された場合(ステップS115:NO)、向き変更処理(ステップS120)は実行されない。これに対して、向き変更モードが有効であると判定された場合(ステップS115:YES)、表示制御部147は、向き変更処理を実行する(ステップS120)。
図12は、向き変更処理(ステップS120)の詳細な処理手順を示すフローチャートである。向き変更処理が開始されると、まず上述のステップS200およびステップS205と同じ処理が実行される。したがって、基準画像が設定されて重複領域Ar1が算出される。
図12に示すように、ステップS205の実行後、表示制御部147は、重複領域Ar1のエッジ検出をする(ステップS400)。ステップS400では、キャニー法等の公知な画像処理技術を用いることによりエッジ検出を行う。
ステップS400の実行後、表示制御部147は、重複領域Ar1のエッジ傾向を算出する(ステップS405)。本実施形態において、「エッジ傾向」とは、基準画像の端を原点としたときのエッジにおける原点に近い端点を基点とし、原点に遠い端点を終点とするベクトルを意味する。ステップS405では、ステップS400で検出した全てのエッジ傾向の合成ベクトルをエッジ傾向として算出する。
ステップS405の実行後、表示制御部147は、ポインター画像Ptの模様をエッジ傾向の合成ベクトルと交差する方向に繰り返される縞模様にする(ステップS410)。ステップS410の実行後、向き変更処理(ステップS120)が終了する。
図13は、向き変更処理(ステップS120)実行後のポインター画像Ptの一例を模式的に示す説明図である。図13では、合成画像が基準画像Stgdである場合を示している。図13において、X軸は基準画像Stgdの長辺と平行な方向を示し、Y軸は基準画像Stgdの短辺と平行な方向を示している。図13に示す例では、外界画像における重複領域Ar1のエッジ傾向Edg1は、Y軸と平行なベクトルであり、対象画像AIにおける重複領域Ar1のエッジ傾向Edg2は、X軸と平行なベクトルである。したがって、重複領域Ar1におけるエッジ傾向Edg1およびエッジ傾向Edg2の合成ベクトルは、方向D1に沿ったベクトルとなる。このため、ステップS410では、ポインター画像Ptの模様が、方向D1と垂直な方向D2に繰り返される縞模様にしてポインター画像Ptが表示される。
図8に示すように、向き変更処理(ステップS120)の実行後、表示制御部147は、視差変更モードは有効であるか否かを判定する(ステップS125)。視差変更モードが有効でないと判定された場合(ステップS125:NO)、視差変更処理(ステップS130)は実行されず、上述のステップS100に戻る。これに対して、視差変更モードが有効であると判定された場合(ステップS125:YES)、表示制御部147は、視差変更処理を実行する(ステップS130)。
図14は、視差変更処理(ステップS130)の詳細な処理手順を示すフローチャートである。図14に示すように、視差変更処理が開始されると、まず上述のステップS200と同じ処理が実行される。したがって、基準画像が設定される。ステップS200の実行後、表示制御部147は、上述の色調変更処理(ステップS110)を実行したか否かを判定する(ステップS500)。色調変更処理を実行していないと判定された場合(ステップS500:NO)、表示制御部147は、基準画像における制御対象座標およびその周辺領域の色相値を算出する(ステップS505)。本実施形態において、「制御対象座標」とは、ポインター画像Ptのうち視差変更処理の対象とする座標を意味する。また、「周辺領域」とは、ポインター画像Ptに視差をつけて表示する際にポインター画像Ptの移動が予想される領域を含む領域を意味する。なお、本実施形態では、ポインター画像Ptに視差をつけて表示する際のポインター画像Ptの最大移動領域が周辺領域として予め設定されている。ステップS505において、表示制御部147は、上述の色調変更処理(ステップS110)におけるステップS210と同様な手順により、基準画像における制御対象座標およびその周辺領域の色相値を算出する。
ステップS505の実行後、表示制御部147は、制御対象およびその周辺領域の平均色相値を算出する(ステップS510)。ステップS510では、上述の色調変更処理(ステップS110)におけるステップS215と同様に、ステップS505で算出した各色相値の和をとり、制御対象およびその周辺領域の画素数で割ることにより平均色相値を算出する。
ステップS510の実行後、表示制御部147は、制御対象およびその周辺領域の平均色相値を平均色相値の補色にする(ステップS515)。ステップS515では、上述の色調変更モード(ステップS100)におけるステップS220と同様に、制御対象およびその周辺領域の平均色相値の補色にする。
ステップS515の実行後、表示制御部147は、ポインター画像Ptを視差のついた立体として表示する(ステップS520)。具体的には、表示制御部147は、表示制御部147において予め設定された視差の変化量のデフォルト値に基づいてポインター画像Ptに視差をつけて立体として表示する。
ステップS520の実行後、表示制御部147は、立体として表示されたポインター画像Ptの焦点位置を、画像表示部20から外界へと向かう方向に所定距離移動させることと、外界から画像表示部20へと向かう方向に所定距離移動させることと、を交互に行う(ステップS525)。具体的には、画像表示部20上にポインター画像Ptが表示されている状態におけるポインター画像Ptと使用者との焦点位置を基準位置とし、基準位置から外界へと向かう方向に所定距離だけ焦点位置を移動させる。また、移動させた焦点位置を外界から画像表示部20へと向かう方向に所定距離だけ移動させる。ステップS525の実行後、視差変更処理(ステップS130)は終了し、図8に示すように、上述のステップS100に戻る。
上述のステップS500において、色調変更処理を実行したと判定された場合(ステップS500:YES)、表示制御部147は、上述のステップS520およびステップS525を実行し、視差変更処理(ステップS130)は終了し、図8に示すように、上述のステップS100に戻る。
なお、上述のステップS505〜ステップS515は、上述のステップS520およびステップS525を実行することにより、制御対象座標がわかりにくくなることを抑制するために行う処理である。また、これらの処理は、図9に示す色調変更処理(ステップS110)におけるステップS210〜ステップS220に相当する処理である。このため、図14に示すように、色調変更処理(ステップS110)をすでに実行している場合、視差変更処理(ステップS130)において再びこれらの処理は実行されない。
図15は、視差変更処理(ステップS130)実行後におけるポインター画像Ptの一例を模式的に示す説明図である。図15において、ポインター画像Ptは、焦点位置を移動させていない状態を示している。また、ポインター画像Pt1は焦点位置を画像表示部20から外界へと向かう方向に所定距離移動させた状態を、ポインター画像Pt2は焦点位置を外界から画像表示部20へと向かう方向に所定距離移動させた状態を、それぞれ示している。
図15に示すように、ポインター画像Ptと使用者の右眼REおよび左眼LEとの焦点距離は、焦点距離wである。ポインター画像Pt1と使用者の右眼REおよび左眼LEとの焦点距離w1は、焦点距離wよりも大きい。このため、ポインター画像Pt1は、ポインター画像Ptに比べて使用者から遠くに見えるので、ポインター画像Pt1は、ポインター画像Ptを凹ませた形状で視認させることができる。これに対して、ポインター画像Pt2と使用者の右眼REおよび左眼LEとの焦点距離w2は、焦点距離wよりも小さい。このため、ポインター画像Pt2は、ポインター画像Ptに比べて使用者から近くに見えるので、ポインター画像Pt2は、ポインター画像Ptを出っ張らせた形状で視認させることができる。
以上説明した第1実施形態のHMD100によれば、撮像により得られた外界画像と、対象画像AIと、外界画像および対象画像AIの合成画像と、のうちいずれか一つを基準画像Stgdとして、基準画像Stgdにおけるポインター画像Ptの表示位置を含む領域Ar1の特徴量(平均色相値およびエッジ傾向)に応じて、ポインター画像Ptの表示態様を変更して表示させる。このため、基準画像Stgdの特徴を考慮した表示態様によりポインター画像Ptを表示させることができ、ポインター画像Ptの視認性を向上できる。
また、基準画像Stgdは、合成画像であるので、外界画像および対象画像AIの特徴量を考慮してポインター画像Ptの表示態様を制御できる。したがって、透過して視認される外界に対象画像AIが重ねて表示され、さらにポインター画像Ptが重ねて表示される場合に、ポインター画像Ptの視認性を向上できる。
加えて、ポインター画像Ptの色を平均色相値の補色にしてポインター画像Ptを表示させるので、ポインター画像Ptの色が平均色相値の補色でない構成に比べて、ポインター画像Ptをより視認しやすくできる。
また、ポインター画像Ptの模様をエッジ傾向に基づき定まる方向性を有する模様にしてポインター画像Ptを表示させるので、ポインター画像Ptの模様の視認性を高めて、ポインター画像Pt自体の視認性を向上できる。
加えて、ポインター画像Ptの模様をエッジ傾向の合成ベクトルと垂直な方向に繰り返される縞模様にしてポインター画像Ptを表示させるので、ポインター画像Ptの縞模様の視認性を高めて、ポインター画像Pt自体の視認性を向上できる。
加えて、立体として表示されたポインター画像Ptの焦点位置を、画像表示部20から外界へと向かう方向に所定距離移動させることと、外界から画像表示部20へと向かう方向に所定距離移動させることとを交互に行うので、立体として表示されたポインター画像Ptを凹ませて表示することと出っ張らせて表示することとを交互に行うことができ、ポインター画像Ptの視認性をより向上できる。
B.第2実施形態:
B1.透過型表示装置の全体構成:
第2実施形態における頭部装着型表示装置100は、図1に示す、第1実施形態における頭部装着型表示装置100と同じであるので、その詳細な説明は省略する。
B1.透過型表示装置の全体構成:
第2実施形態における頭部装着型表示装置100は、図1に示す、第1実施形態における頭部装着型表示装置100と同じであるので、その詳細な説明は省略する。
B2.ポインター画像表示制御処理:
図16は、第2実施形態における視差変更処理(ステップS130a)の詳細な処理手順を示すフローチャートである。第2実施形態におけるポインター画像表示制御処理は、視差変更処理の手順において第1実施形態における視差変更処理(ステップS130)と異なり、他の処理手順は第1実施形態と同じである。第2実施形態の視差変更処理(ステップS130a)は、ステップS516およびステップS517を追加して実行する点と、ステップS525を省略する点とにおいて、第1実施形態の視差変更処理(ステップS130)と異なる。第2実施形態の視差変更処理(ステップS130a)におけるその他の手順は、第1実施形態の視差変更処理(ステップS130)と同じであるので、同一の手順には同一の符号を付し、その詳細な説明は省略する。
図16は、第2実施形態における視差変更処理(ステップS130a)の詳細な処理手順を示すフローチャートである。第2実施形態におけるポインター画像表示制御処理は、視差変更処理の手順において第1実施形態における視差変更処理(ステップS130)と異なり、他の処理手順は第1実施形態と同じである。第2実施形態の視差変更処理(ステップS130a)は、ステップS516およびステップS517を追加して実行する点と、ステップS525を省略する点とにおいて、第1実施形態の視差変更処理(ステップS130)と異なる。第2実施形態の視差変更処理(ステップS130a)におけるその他の手順は、第1実施形態の視差変更処理(ステップS130)と同じであるので、同一の手順には同一の符号を付し、その詳細な説明は省略する。
第2実施形態の視差変更処理では、ポインター画像Ptを、視差のついた立体として表示することと、視差のついていない面として表示することと、を交互に切り替えてポインター画像Ptを表示させる。具体的には、図16に示すように、制御対象座標およびその周辺領域を平均色調値の補色にされると(ステップS515)、表示制御部147は、平均色相値に基づいて視差の変化量を設定する(ステップS516)。具体的には、表示制御部147は、ポインター画像Ptの平均色相値と、重複領域Ar1の平均色相値との差を算出し、算出した平均色相値の差が所定の閾値よりも大きい場合、視差の変化量を相対的に小さな固定値に設定する。また、算出した平均色相値の差が所定の閾値以下である場合、視差の変化量を相対的に大きな固定値に設定する。ポインター画像Ptの平均色相値と重複領域Ar1の平均色相値との差が大きい場合、視差の変化量が小さくてもポインター画像Ptは識別し易いのに対して、ポインター画像Ptの平均色相値と重複領域Ar1の平均色相値との差が小さい場合、視差の変化量を大きくしないとポインター画像Ptが識別できなくなるおそれがある。そこで、上述のように、算出した平均色相値の差が大きい場合に視差の変化量を相対的に小さな値に設定し、算出した平均色相値の差が小さい場合に視差の変化量を相対的に大きな値に設定する。
ステップS516の実行後、表示制御部147は、平均色相値に基づいて視差をつける周期を設定する(ステップS517)。具体的には、上述のステップS516と同様に、表示制御部147は、ポインター画像Ptの平均色相値と、重複領域Ar1の平均色相値との差を算出し、算出した平均色相値の差が所定の閾値よりも大きい場合、視差の周期を相対的に短く設定する。また、算出した平均色相値の差が所定の閾値以下である場合、視差の周期を相対的に長く設定する。
なお、視差の変化量および視差の周期は、3Dコンソーシアムが策定した3DC安全ガイドライン(ISO IWA3準拠)に基づいて設定することが好ましい。具体的には、視差は、瞳孔間距離以下の範囲に設定することが好ましく、5cmに対応する範囲で設定することがさらに好ましい。また、視差角の変化量は2度以内に設定することが好ましく、快適視差範囲である1度以内に設定することがさらに好ましい。
ステップS517の実行後、上述のステップS520と同様に、ポインター画像Ptを視差のついた立体として表示する。このとき、上述のステップS516およびステップS517において設定された視差の変化量および周期に基づいてポインター画像Ptが表示される。
以上説明した第2実施形態のHMD100によれば、ポインター画像Ptを視差のついた立体として表示し、平均色相値に基づいて視差の変化量を設定するので、平均色相値が異なる領域にポインター画像Ptが移動した場合にポインター画像Ptの視認性を高め、ポインター画像への追従性(目で追う性能)を向上できる。
加えて、ポインター画像Ptを視差のついた立体として表示することと、ポインター画像Ptを視差のついていない面として表示することと、を交互に切り替え、平均色相値に基づいて視差をつける周期を設定するので、ポインター画像Ptを目立たせて視認性を高めることができる。また、平均色相値が異なる領域にポインター画像Ptが移動した場合にも視差をつける周期が変化することで、ポインター画像Ptを目立たせることができ、ポインター画像Ptへの追従性を向上できる。
C.第3実施形態:
C1.透過型表示装置の全体構成:
第3実施形態における頭部装着型表示装置100は、図1に示す、第1実施形態における頭部装着型表示装置100と同じであるので、その詳細な説明は省略する。
C1.透過型表示装置の全体構成:
第3実施形態における頭部装着型表示装置100は、図1に示す、第1実施形態における頭部装着型表示装置100と同じであるので、その詳細な説明は省略する。
C2.ポインター画像表示制御処理:
図17は、第3実施形態における視差変更処理(ステップS130b)の詳細な処理手順を示すフローチャートである。第3実施形態におけるポインター画像表示制御処理は、視差変更処理の手順において第1実施形態における視差変更処理(ステップS130)と異なり、他の処理手順は第1実施形態と同じである。第3実施形態の視差変更処理(ステップS130b)は、ステップS525に代えてステップS525aを実行する点において、第1実施形態の視差変更処理(ステップS130)と異なる。第3実施形態の視差変更処理(ステップS130b)におけるその他の手順は、第1実施形態の視差変更処理(ステップS130)と同じであるので、同一の手順には同一の符号を付し、その詳細な説明は省略する。
図17は、第3実施形態における視差変更処理(ステップS130b)の詳細な処理手順を示すフローチャートである。第3実施形態におけるポインター画像表示制御処理は、視差変更処理の手順において第1実施形態における視差変更処理(ステップS130)と異なり、他の処理手順は第1実施形態と同じである。第3実施形態の視差変更処理(ステップS130b)は、ステップS525に代えてステップS525aを実行する点において、第1実施形態の視差変更処理(ステップS130)と異なる。第3実施形態の視差変更処理(ステップS130b)におけるその他の手順は、第1実施形態の視差変更処理(ステップS130)と同じであるので、同一の手順には同一の符号を付し、その詳細な説明は省略する。
第3実施形態の視差変更処理では、ポインター画像Ptの先端部分の明るさを周期的に変更して表示する。具体的には、図17に示すように、ポインター画像Ptが視差のついた立体として表示されると(ステップS520)、表示制御部147は、ポインター画像Ptの先端部分の明るさを周期的に変更する(ステップS525a)。さらに具体的には、表示制御部147は、ポインター画像Ptの先端部分の輝度を予め定められた範囲内で変更する。これにより、使用者にはポインター画像Ptの先端部分が点滅して表示される。
以上説明した第3実施形態のHMD100によれば、ポインター画像Ptの少なくとも一部の明るさを周期的に変更して表示させるので、ポインター画像Ptの一部を点滅させて表示させることができ、ポインター画像Ptの視認性をより向上できる。
D.変形例:
D1.変形例1:
上記各実施形態において、基準画像は合成画像であったが、本発明はこれに限られない。例えば、基準画像は、対象画像AIであってもよいし、撮像により得られた外界画像であってもよい。例えば、上述の基準画像設定処理(ステップS200)において、外界輝度と対象画像輝度とを比較した際に(ステップS305、ステップS320)、外界輝度が所定の閾値よりも低い場合、外界の色や明るさがポインター画像Ptへ影響することが抑制されるので、この場合、基準画像を対象画像AIとしてもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
D1.変形例1:
上記各実施形態において、基準画像は合成画像であったが、本発明はこれに限られない。例えば、基準画像は、対象画像AIであってもよいし、撮像により得られた外界画像であってもよい。例えば、上述の基準画像設定処理(ステップS200)において、外界輝度と対象画像輝度とを比較した際に(ステップS305、ステップS320)、外界輝度が所定の閾値よりも低い場合、外界の色や明るさがポインター画像Ptへ影響することが抑制されるので、この場合、基準画像を対象画像AIとしてもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
D2.変形例2:
上記各実施形態における向き変更処理(ステップS120)において、ポインター画像Ptの縞模様が繰り返される方向は、エッジ傾向の合成ベクトルと垂直な方向であったが、垂直な方向でなくてもよい。例えば、エッジ傾向の合成ベクトルと90度とは異なる角度で交差する方向であってもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態における向き変更処理(ステップS120)において、ポインター画像Ptの縞模様が繰り返される方向は、エッジ傾向の合成ベクトルと垂直な方向であったが、垂直な方向でなくてもよい。例えば、エッジ傾向の合成ベクトルと90度とは異なる角度で交差する方向であってもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
D3.変形例3:
上記第1実施形態では、ポインター画像Ptの模様を縞模様にして表示していたが、本発明はこれに限定されない。例えば、ポインター画像Ptの模様をグラデーションにして表示してもよい。
上記第1実施形態では、ポインター画像Ptの模様を縞模様にして表示していたが、本発明はこれに限定されない。例えば、ポインター画像Ptの模様をグラデーションにして表示してもよい。
図18は、変形例3におけるポインター画像Pt3の模様を模式的に示す説明図である。図18に示すポインター画像Pt3は、図13に示す第1実施形態のポインター画像Ptと模様のみが異なり、図18におけるその他の構成要素は図13におけるその他の構成要素と同一である。図18に示すように、ポインター画像Pt3は、ポインター画像Pt3の先端部s1から後端部e1に向かって、すなわち、エッジ傾向の合成ベクトルの方向D1と垂直な方向D2に沿って、ポインター画像Pt3の色の濃度が次第に薄くなるように表示されている。このように、エッジ傾向に基づいて定まる方向、すなわち、エッジ傾向の合成ベクトルの方向D1と垂直な方向D2に沿って層状に異なる色(濃度)となるようにポインター画像Pt3を表示してもよい。このような構成においても、上記第1実施形態と同様な効果を奏する。
D4.変形例4:
上記第3実施形態において、ポインター画像Ptの先端部分の明るさを周期的に変更して表示していたが、明るさを周期的に変更して表示するのはポインター画像Ptの先端部分に限られない。例えば、ポインター画像Ptの全体であってもよい。すなわち一般には、ポインター画像Ptの少なくとも一部の明るさを周期的に変更する構成であれば、上記第3実施形態と同様な効果を奏する。
上記第3実施形態において、ポインター画像Ptの先端部分の明るさを周期的に変更して表示していたが、明るさを周期的に変更して表示するのはポインター画像Ptの先端部分に限られない。例えば、ポインター画像Ptの全体であってもよい。すなわち一般には、ポインター画像Ptの少なくとも一部の明るさを周期的に変更する構成であれば、上記第3実施形態と同様な効果を奏する。
D5.変形例5:
上記各実施形態において、重複領域Ar1は、基準画像におけるポインター画像Ptの表示位置を含む領域であって、ポインター画像Ptの長手方向の長さの中点を中心とする略真円形状の領域であったが、本発明はこれに限定されない。例えば、略真円形状に限らず、楕円形状や多角形形状などの他の任意の形状であってもよい。また、例えば、ポインター画像Ptの外縁が所定の距離だけ離れた点の集合を外縁とする領域であってもよい。また、例えば、ポインター画像Ptの周辺領域を含まない領域であってもよい。すなわち、ポインター画像Ptの輪郭に沿って形成される領域を重複領域としてもよい。また、例えば、ポインター画像Ptがアイコン等の画像に重なっている場合には、かかるアイコン等の画像を含む領域を重複領域としてもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態において、重複領域Ar1は、基準画像におけるポインター画像Ptの表示位置を含む領域であって、ポインター画像Ptの長手方向の長さの中点を中心とする略真円形状の領域であったが、本発明はこれに限定されない。例えば、略真円形状に限らず、楕円形状や多角形形状などの他の任意の形状であってもよい。また、例えば、ポインター画像Ptの外縁が所定の距離だけ離れた点の集合を外縁とする領域であってもよい。また、例えば、ポインター画像Ptの周辺領域を含まない領域であってもよい。すなわち、ポインター画像Ptの輪郭に沿って形成される領域を重複領域としてもよい。また、例えば、ポインター画像Ptがアイコン等の画像に重なっている場合には、かかるアイコン等の画像を含む領域を重複領域としてもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
D6.変形例6:
上記各実施形態において、ポインター画像表示制御処理は、HMD100の電源がオンに設定されると開始されていたが、本発明はこれに限定されない。例えば、HMD100における所定動作の検知を契機としてポインター画像表示制御処理を開始してもよい。所定動作としては、例えば、制御装置10におけるトラックパッド14上でのタップ操作や、所定のアプリケーションの起動等が該当する。このような構成においても、上記各実施形態と同様な効果を奏する。加えて、HMD100における所定動作の検知を契機として、ポインター画像Ptの表示態様の制御を実行するので、ポインター画像Ptの表示態様の制御を実行する契機をHMD100の利用者が調整でき、利用者の利便性を向上できる。さらに、使用者がポインター画像Ptを視認しづらい場合にのみ所定動作を行ってポインター画像Ptの視認性を向上させることができるので、常時ポインター画像表示制御処理を行う構成に比べて、HMD100の処理負荷を低減できる。
上記各実施形態において、ポインター画像表示制御処理は、HMD100の電源がオンに設定されると開始されていたが、本発明はこれに限定されない。例えば、HMD100における所定動作の検知を契機としてポインター画像表示制御処理を開始してもよい。所定動作としては、例えば、制御装置10におけるトラックパッド14上でのタップ操作や、所定のアプリケーションの起動等が該当する。このような構成においても、上記各実施形態と同様な効果を奏する。加えて、HMD100における所定動作の検知を契機として、ポインター画像Ptの表示態様の制御を実行するので、ポインター画像Ptの表示態様の制御を実行する契機をHMD100の利用者が調整でき、利用者の利便性を向上できる。さらに、使用者がポインター画像Ptを視認しづらい場合にのみ所定動作を行ってポインター画像Ptの視認性を向上させることができるので、常時ポインター画像表示制御処理を行う構成に比べて、HMD100の処理負荷を低減できる。
D7.変形例7:
上記各実施形態において、ポインター画像表示制御処理の利用モードとして、色調変更モード、向き変更モードおよび視差変更モードの3つが用いられていたが、本発明はこれに限定されない。例えば、色調変更モードを省略して向き変更モードおよび視差変更モードの2つを用いてもよい。また、例えば、色調変更モードのみを用いてもよい。このような構成においても、基準画像におけるポインター画像Ptの表示位置を含む領域の特徴量に応じて、ポインター画像Ptの表示態様を変更して表示させるので、上記各実施形態と同様な効果を奏する。
上記各実施形態において、ポインター画像表示制御処理の利用モードとして、色調変更モード、向き変更モードおよび視差変更モードの3つが用いられていたが、本発明はこれに限定されない。例えば、色調変更モードを省略して向き変更モードおよび視差変更モードの2つを用いてもよい。また、例えば、色調変更モードのみを用いてもよい。このような構成においても、基準画像におけるポインター画像Ptの表示位置を含む領域の特徴量に応じて、ポインター画像Ptの表示態様を変更して表示させるので、上記各実施形態と同様な効果を奏する。
D8.変形例8:
上記各実施形態において、合成画像は、外界画像の全体と対象画像AIの全体との合成画像であったが、本発明はこれに限定されない。例えば、外界画像におけるポインター画像Ptの表示位置を含む領域と、対象画像AIにおけるポインター画像Ptの表示位置を含む領域と、の合成画像であってもよい。このような構成においても、上記各実施形態と同様な効果を奏する。加えて、処理領域を狭くでき、ポインター画像表示制御処理の処理負荷を低減できる。
上記各実施形態において、合成画像は、外界画像の全体と対象画像AIの全体との合成画像であったが、本発明はこれに限定されない。例えば、外界画像におけるポインター画像Ptの表示位置を含む領域と、対象画像AIにおけるポインター画像Ptの表示位置を含む領域と、の合成画像であってもよい。このような構成においても、上記各実施形態と同様な効果を奏する。加えて、処理領域を狭くでき、ポインター画像表示制御処理の処理負荷を低減できる。
D9.変形例9:
上記各実施形態において、合成画像は、加法混色により生成していたが、本発明はこれに限定されない。例えば、加法減色により生成してもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態において、合成画像は、加法混色により生成していたが、本発明はこれに限定されない。例えば、加法減色により生成してもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
D10.変形例10:
上記各実施形態において、基準画像設定処理(ステップS200)は、色調変更処理、向き変更処理および視差変更処理のそれぞれにおいて実行されていたが、本発明はこれに限定されない。例えば、利用モードとして複数のモードを用いる場合、先に実行される表示態様変更処理において基準画像設定処理を実行し、その後に実行される他の表示態様変更処理では先に実行された基準画像設定処理の処理結果を利用してもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態において、基準画像設定処理(ステップS200)は、色調変更処理、向き変更処理および視差変更処理のそれぞれにおいて実行されていたが、本発明はこれに限定されない。例えば、利用モードとして複数のモードを用いる場合、先に実行される表示態様変更処理において基準画像設定処理を実行し、その後に実行される他の表示態様変更処理では先に実行された基準画像設定処理の処理結果を利用してもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
D11.変形例11:
上記各実施形態において、ポインター画像表示制御処理を実行する表示装置は、HMD100であったが、本発明はこれに限定されない。例えば、ヘッドアップディスプレイ(HUD)であってもよいし、ビデオシースルー型HMDであってもよい。また、据え置き型の透過型表示装置でもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態において、ポインター画像表示制御処理を実行する表示装置は、HMD100であったが、本発明はこれに限定されない。例えば、ヘッドアップディスプレイ(HUD)であってもよいし、ビデオシースルー型HMDであってもよい。また、据え置き型の透過型表示装置でもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
D12.変形例12:
上記各実施形態において、表示制御部147の機能の少なくとも一部を他の制御機能部が実行してもよい。具体的には、上記各実施形態において表示制御部147は、OLEDパネル223、243による画像の表示の実行と、ポインター画像表示制御処理と、を実行していたが、例えば、ポインター画像表示制御処理を他の制御機能部が実行してもよい。また、これら制御機能部の機能および処理の一部又は全部は、CPU、ASIC(Application Specific Integrated Circuit)およびFPGA(Field Programmable Gate Array)等のデジタル回路を用いて実現してもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態において、表示制御部147の機能の少なくとも一部を他の制御機能部が実行してもよい。具体的には、上記各実施形態において表示制御部147は、OLEDパネル223、243による画像の表示の実行と、ポインター画像表示制御処理と、を実行していたが、例えば、ポインター画像表示制御処理を他の制御機能部が実行してもよい。また、これら制御機能部の機能および処理の一部又は全部は、CPU、ASIC(Application Specific Integrated Circuit)およびFPGA(Field Programmable Gate Array)等のデジタル回路を用いて実現してもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
D13.変形例13:
上記第2実施形態において、視差の変化量および視差の周期は、ポインター画像Ptの平均色相値と重複領域Ar1の平均色相値との差が所定の閾値よりも大きい場合と、所定の閾値以下である場合とでそれぞれ決まった値に設定されていたが、本発明はこれに限定されない。例えば、視差の変化量および視差の周期は、平均色相値の差が大きくなるにしたがって小さくなるように設定されてもよいし、平均色相値の差が小さくなるにしたがって大きくなるように設定されてもよい。また、例えば、平均色相値の差と比例するように設定されていてもよい。このような構成おいても、上記第2実施形態と同様な効果を奏する。
上記第2実施形態において、視差の変化量および視差の周期は、ポインター画像Ptの平均色相値と重複領域Ar1の平均色相値との差が所定の閾値よりも大きい場合と、所定の閾値以下である場合とでそれぞれ決まった値に設定されていたが、本発明はこれに限定されない。例えば、視差の変化量および視差の周期は、平均色相値の差が大きくなるにしたがって小さくなるように設定されてもよいし、平均色相値の差が小さくなるにしたがって大きくなるように設定されてもよい。また、例えば、平均色相値の差と比例するように設定されていてもよい。このような構成おいても、上記第2実施形態と同様な効果を奏する。
D14.変形例14:
上記各実施形態における色調変更処理、向き変更処理および視差変更処理において、それぞれ、表示態様の変更後のポインター画像Ptの表示処理を行っていたが、本発明はこれに限定されない。例えば、色調変更処理、向き変更処理および視差変更処理のそれぞれの処理において、ポインター画像Ptの表示態様の変更を行った後、変更後のポインター画像Ptの表示を実行しなくてもよい。この場合、各表示態様変更処理のうち最後に実行された表示態様変更処理の実行後におけるポインター画像Ptを表示してもよい。具体的には、図8に示すステップS130実行後にポインター画像Ptの表示処理を行ってもよい。このような構成であっても、上記各実施形態と同様な効果を奏する。
上記各実施形態における色調変更処理、向き変更処理および視差変更処理において、それぞれ、表示態様の変更後のポインター画像Ptの表示処理を行っていたが、本発明はこれに限定されない。例えば、色調変更処理、向き変更処理および視差変更処理のそれぞれの処理において、ポインター画像Ptの表示態様の変更を行った後、変更後のポインター画像Ptの表示を実行しなくてもよい。この場合、各表示態様変更処理のうち最後に実行された表示態様変更処理の実行後におけるポインター画像Ptを表示してもよい。具体的には、図8に示すステップS130実行後にポインター画像Ptの表示処理を行ってもよい。このような構成であっても、上記各実施形態と同様な効果を奏する。
D15.変形例15:
上記各実施形態および変形例における向き変更処理において、ポインター画像Ptの模様を変更していたが、本発明はこれに限定されない。例えば、ポインター画像Ptの形状をエッジ傾向の合成ベクトルと交差する方向に基づく形状に変更してもよい。例えば、ポインター画像Ptの形状が略真円形状である場合、ポインター画像Ptの形状をエッジ傾向の合成ベクトルと交差する方向に沿って細長く伸びる楕円形状に変更してもよい。また、例えば、ポインター画像Ptの模様と形状とのいずれも変更してもよいし、ポインター画像Ptの形状のみを変更してもよい。このような構成においても、上記各実施形態および変形例と同様な効果を奏する。
上記各実施形態および変形例における向き変更処理において、ポインター画像Ptの模様を変更していたが、本発明はこれに限定されない。例えば、ポインター画像Ptの形状をエッジ傾向の合成ベクトルと交差する方向に基づく形状に変更してもよい。例えば、ポインター画像Ptの形状が略真円形状である場合、ポインター画像Ptの形状をエッジ傾向の合成ベクトルと交差する方向に沿って細長く伸びる楕円形状に変更してもよい。また、例えば、ポインター画像Ptの模様と形状とのいずれも変更してもよいし、ポインター画像Ptの形状のみを変更してもよい。このような構成においても、上記各実施形態および変形例と同様な効果を奏する。
D16.変形例16:
上記各実施形態において、視差をつけたポインター画像Ptの表示を周期的に繰り返し行っていたが、本発明はこれに限定されない。例えば、視差をつけたポインター画像Ptを一回だけ表示してもよい。また、例えば、一回視差をつけてポインター画像Ptを表示した後、ポインター画像Ptの表示態様を元に戻さないで、視差をつけたポインター画像Ptの表示を継続してもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
上記各実施形態において、視差をつけたポインター画像Ptの表示を周期的に繰り返し行っていたが、本発明はこれに限定されない。例えば、視差をつけたポインター画像Ptを一回だけ表示してもよい。また、例えば、一回視差をつけてポインター画像Ptを表示した後、ポインター画像Ptの表示態様を元に戻さないで、視差をつけたポインター画像Ptの表示を継続してもよい。このような構成においても、上記各実施形態と同様な効果を奏する。
本発明は、上述の実施形態および変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、変形例中の技術的特徴は、上述の課題の一部又は全部を解決するために、あるいは、上述の効果の一部又は全部を達成するために、適宜、差し替えや、組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
10…制御装置、12…点灯部、14…トラックパッド、16…方向キー、17…決定キー、18…電源スイッチ、19…バイブレーター、20…画像表示部、21…右保持部、22…右表示ユニット、23…左保持部、24…左表示ユニット、26…右導光板、27…前部フレーム、28…左導光板、30…ヘッドセット、32…右イヤホン、34…左イヤホン、40…接続ケーブル、46…コネクター、61…カメラ、63…マイク、65…照度センサー、67…LEDインジケーター、100…頭部装着型表示装置、110…操作部、111…6軸センサー、113…磁気センサー、115…GPSレシーバー、117…無線通信部、118…メモリー、120…コントローラー基板、121…不揮発性記憶部、122…記憶機能部、123…設定データ、124…コンテンツデータ、130…電源部、132…バッテリー、134…電源制御回路、140…メインプロセッサー、145…画像処理部、147…表示制御部、149…撮像制御部、150…制御機能部、151…入出力制御部、153…平均色相値算出部、155…エッジ傾向算出部、180…音声コーデック、182…音声インターフェイス、184…外部コネクター、186…外部メモリーインターフェイス、188…USBコネクター、192…センサーハブ、196…インターフェイス、210…表示ユニット基板、211…インターフェイス、213…受信部、215…EEPROM、217…温度センサー、221…OLEDユニット、223…OLEDパネル、225…OLED駆動回路、230…表示ユニット基板、231…インターフェイス、233…受信部、235…6軸センサー、237…磁気センサー、239…温度センサー、241…OLEDユニット、243…OLEDパネル、245…OLED駆動回路、251…右光学系、252…左光学系、261…ハーフミラー、281…ハーフミラー、AI…対象画像、Ar1…重複領域、D1…方向、D2…方向、EL…端部、ER…端部、Edg1…エッジ傾向、Edg2…エッジ傾向、L…画像光、LD…視線、LE…左眼、OB…対象物、OL…外光、Pt…ポインター画像、Pt1…ポインター画像、Pt2…ポインター画像、Pt3…ポインター画像、RD…視線、RE…右眼、SC…外界、Stgd…基準画像、VR…視界、e1…後端部、s1…先端部、w…焦点距離、w1…焦点距離、w2…焦点距離
Claims (12)
- 透過型表示装置であって、
光透過性を有し、表示対象の対象画像とポインター画像とを、自身を透過して視認される外界に重ねて表示する表示部と、
前記ポインター画像の表示態様を制御する表示制御部と、
外界を撮像する撮像部と、
を備え、
前記表示制御部は、前記撮像により得られた外界画像と、前記対象画像と、前記外界画像および前記対象画像の合成画像と、のうちいずれか一つを基準画像として、前記基準画像における前記ポインター画像の表示位置を含む領域の特徴量に応じて、前記ポインター画像の表示態様を変更して表示させる、
透過型表示装置。 - 請求項1に記載の透過型表示装置において、
前記基準画像は、前記合成画像である、
透過型表示装置。 - 請求項1または請求項2に記載の透過型表示装置において、
前記基準画像における前記ポインター画像の表示位置を含む領域の平均色相値を算出する平均色相値算出部を、さらに有し、
前記表示制御部は、前記ポインター画像の色を前記平均色相値の補色にして前記ポインター画像を表示させる、
透過型表示装置。 - 請求項1から請求項3までのいずれか一項に記載の透過型表示装置において、
前記基準画像における前記ポインター画像の表示位置を含む領域のエッジ傾向を算出するエッジ傾向算出部を、さらに有し、
前記表示制御部は、前記ポインター画像の模様を前記エッジ傾向に基づき定まる方向性を有する模様にして、前記ポインター画像を表示させる、
透過型表示装置。 - 請求項4に記載の透過型表示装置において、
前記表示制御部は、前記模様を、前記エッジ傾向の合成ベクトルと交差する方向に繰り返される縞模様にして前記ポインター画像を表示させる、
透過型表示装置。 - 請求項1から請求項5までのいずれか一項に記載の透過型表示装置において、
前記基準画像における前記ポインター画像の表示位置を含む領域の平均色相値を算出する平均色相値算出部を、さらに有し、
前記表示制御部は、前記ポインター画像を視差のついた立体として表示し、前記平均色相値に基づいて前記視差の変化量を設定する、
透過型表示装置。 - 請求項1から請求項6までのいずれか一項に記載の透過型表示装置において、
前記基準画像における前記ポインター画像の表示位置を含む領域の平均色相値を算出する平均色相値算出部を、さらに有し、
前記表示制御部は、前記ポインター画像を視差のついた立体として表示することと、前記ポインター画像を視差のついていない面として表示することと、を交互に切り替え、前記平均色相値に基づいて前記視差をつける周期を設定する、
透過型表示装置。 - 請求項1から請求項7までのいずれか一項に記載の透過型表示装置において、
前記表示制御部は、
前記ポインター画像を視差のついた立体として表示し、
前記立体として表示された前記ポインター画像の焦点位置を、前記表示部から前記外界へと向かう方向に所定距離移動させることと、前記外界から前記表示部へと向かう方向に前記所定距離移動させることと、を交互に行う、
透過型表示装置。 - 請求項1から請求項8までのいずれか一項に記載の透過型表示装置において、
前記表示制御部は、前記ポインター画像の少なくとも一部の明るさを周期的に変更して前記ポインター画像を表示させる、
透過型表示装置。 - 請求項1から請求項9までのいずれか一項に記載の透過型表示装置において、
前記表示制御部は、前記透過型表示装置における所定動作の検知を契機として、前記ポインター画像の表示態様の制御を実行する、
透過型表示装置。 - 光透過性を有し、表示対象の対象画像とポインター画像とを、自身を透過して視認される外界に重ねて表示する表示部を備える透過型表示装置における表示制御方法であって、
外界を撮像して外界画像を得る工程と、
前記外界画像と、前記対象画像と、前記外界画像および前記対象画像の合成画像と、のうちいずれか一つを基準画像として、前記基準画像における前記ポインター画像の表示位置を含む領域の特徴量に応じて、前記ポインター画像の表示態様を変更して表示させる工程と、
を備える、
表示制御方法。 - 光透過性を有し、表示対象の対象画像とポインター画像とを、自身を透過して視認される外界に重ねて表示する表示部を備える透過型表示装置における表示制御方法を実現するためのコンピュータープログラムであって、
外界を撮像して外界画像を得る機能と、
前記外界画像と、前記対象画像と、前記外界画像および前記対象画像の合成画像と、のうちいずれか一つを基準画像として、前記基準画像における前記ポインター画像の表示位置を含む領域の特徴量に応じて、前記ポインター画像の表示態様を変更して前記表示部に表示させる機能と、
をコンピューターに実現させるための、
コンピュータープログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017055713A JP2018160735A (ja) | 2017-03-22 | 2017-03-22 | 透過型表示装置、表示制御方法、およびコンピュータープログラム |
US15/918,407 US10657722B2 (en) | 2017-03-22 | 2018-03-12 | Transmissive display device, display control method, and computer program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017055713A JP2018160735A (ja) | 2017-03-22 | 2017-03-22 | 透過型表示装置、表示制御方法、およびコンピュータープログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018160735A true JP2018160735A (ja) | 2018-10-11 |
Family
ID=63583529
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017055713A Pending JP2018160735A (ja) | 2017-03-22 | 2017-03-22 | 透過型表示装置、表示制御方法、およびコンピュータープログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10657722B2 (ja) |
JP (1) | JP2018160735A (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016212177A (ja) * | 2015-05-01 | 2016-12-15 | セイコーエプソン株式会社 | 透過型表示装置 |
US10540941B2 (en) | 2018-01-30 | 2020-01-21 | Magic Leap, Inc. | Eclipse cursor for mixed reality displays |
US11567627B2 (en) | 2018-01-30 | 2023-01-31 | Magic Leap, Inc. | Eclipse cursor for virtual content in mixed reality displays |
JP7134656B2 (ja) * | 2018-03-15 | 2022-09-12 | ソニー・オリンパスメディカルソリューションズ株式会社 | 医療用表示制御装置、および表示制御方法 |
WO2019236344A1 (en) | 2018-06-07 | 2019-12-12 | Magic Leap, Inc. | Augmented reality scrollbar |
US10895949B2 (en) * | 2019-02-22 | 2021-01-19 | Htc Corporation | Head mounted display and display method for eye-tracking cursor |
JP2021086074A (ja) * | 2019-11-29 | 2021-06-03 | セイコーエプソン株式会社 | 透過型画像表示装置 |
EP3839411B1 (fr) * | 2019-12-17 | 2023-08-23 | John Cockerill Defense SA | Système intelligent pour le contrôle de fonctions dans une tourelle de véhicule de combat |
EP4095844A4 (en) * | 2020-01-22 | 2023-10-18 | Sony Group Corporation | DISPLAY DEVICE |
US11789688B1 (en) * | 2020-03-26 | 2023-10-17 | Apple Inc. | Content presentation based on environmental data |
US11715405B1 (en) * | 2021-02-10 | 2023-08-01 | Sivalogeswaran Ratnasingam | Chroma modification based on ambient light characteristics |
US11735138B2 (en) * | 2021-04-22 | 2023-08-22 | GM Global Technology Operations LLC | Dual image plane HUD with automated illuminance setting for AR graphics displayed in far virtual image plane |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001034386A (ja) | 1999-07-19 | 2001-02-09 | Ricoh Co Ltd | 表示制御装置および表示制御方法 |
US7762672B2 (en) * | 2005-07-19 | 2010-07-27 | Fujinon Corporation | Data presentation apparatus and operation method of terminal |
US20070206024A1 (en) * | 2006-03-03 | 2007-09-06 | Ravishankar Rao | System and method for smooth pointing of objects during a presentation |
JP4699536B2 (ja) * | 2009-03-06 | 2011-06-15 | シャープ株式会社 | 位置検出装置、制御方法、制御プログラムおよび記録媒体 |
JP5497758B2 (ja) * | 2009-06-26 | 2014-05-21 | パナソニック株式会社 | 立体視画像表示装置 |
US9398844B2 (en) * | 2012-06-18 | 2016-07-26 | Microsoft Technology Licensing, Llc | Color vision deficit correction |
JP6364715B2 (ja) | 2013-07-18 | 2018-08-01 | セイコーエプソン株式会社 | 透過型表示装置および透過型表示装置の制御方法 |
JP6488629B2 (ja) | 2014-10-15 | 2019-03-27 | セイコーエプソン株式会社 | 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム |
EP3207542A1 (en) | 2014-10-15 | 2017-08-23 | Seiko Epson Corporation | Head-mounted display device, method of controlling head-mounted display device, and computer program |
JP2016142988A (ja) | 2015-02-04 | 2016-08-08 | 富士通株式会社 | 表示装置及び表示制御プログラム |
-
2017
- 2017-03-22 JP JP2017055713A patent/JP2018160735A/ja active Pending
-
2018
- 2018-03-12 US US15/918,407 patent/US10657722B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US10657722B2 (en) | 2020-05-19 |
US20180276898A1 (en) | 2018-09-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10657722B2 (en) | Transmissive display device, display control method, and computer program | |
JP7087481B2 (ja) | 頭部装着型表示装置、表示制御方法、およびコンピュータープログラム | |
US20180259775A1 (en) | Transmission-type display device, display control method, and computer program | |
US10838205B2 (en) | Head mounted display, control method thereof, and computer program | |
US10976836B2 (en) | Head-mounted display apparatus and method of controlling head-mounted display apparatus | |
CN108535868B (zh) | 头部佩戴型显示装置及其控制方法 | |
US20230251490A1 (en) | Head-mounted type display device and method of controlling head-mounted type display device | |
US10718948B2 (en) | Head-mounted display apparatus, display control method, and computer program | |
US20170289533A1 (en) | Head mounted display, control method thereof, and computer program | |
JP2018142857A (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
JP2018142168A (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
JP2019113693A (ja) | 表示システム、表示システムの制御方法、表示装置、及び、表示装置の制御方法 | |
JP2019164420A (ja) | 透過型頭部装着型表示装置および透過型頭部装着型表示装置の制御方法、透過型頭部装着型表示装置の制御のためのコンピュータープログラム | |
JP2018137505A (ja) | 表示装置およびその制御方法 | |
JP2017116562A (ja) | 表示装置、表示装置の制御方法、及び、プログラム | |
JP7238456B2 (ja) | 表示システム、情報処理装置の制御プログラム、及び情報処理装置の制御方法 | |
JP2020071587A (ja) | 表示装置、及び、表示装置の制御方法 | |
JP2017146726A (ja) | 移動支援装置、及び、移動支援方法 | |
JP2018042004A (ja) | 表示装置、頭部装着型表示装置、及び、表示装置の制御方法 | |
JP6932917B2 (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
JP2019053644A (ja) | 頭部装着型表示装置、及び頭部装着型表示装置の制御方法 | |
JP2017134630A (ja) | 表示装置、表示装置の制御方法、及び、プログラム | |
JP2017182413A (ja) | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム | |
JP2017182460A (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、コンピュータープログラム | |
JP2017142294A (ja) | 表示装置、及び、表示装置の制御方法 |