JP2016208370A - ヘッドマウントディスプレイ、及び、ヘッドマウントディスプレイの制御方法 - Google Patents

ヘッドマウントディスプレイ、及び、ヘッドマウントディスプレイの制御方法 Download PDF

Info

Publication number
JP2016208370A
JP2016208370A JP2015089815A JP2015089815A JP2016208370A JP 2016208370 A JP2016208370 A JP 2016208370A JP 2015089815 A JP2015089815 A JP 2015089815A JP 2015089815 A JP2015089815 A JP 2015089815A JP 2016208370 A JP2016208370 A JP 2016208370A
Authority
JP
Japan
Prior art keywords
information
display
head mounted
posture
mounted display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015089815A
Other languages
English (en)
Other versions
JP6534292B2 (ja
Inventor
哲司 渕上
Tetsuji Fuchigami
哲司 渕上
和記 船瀬
Kazuki Funase
和記 船瀬
昭宣 尾関
akinobu Ozeki
昭宣 尾関
英士 青木
Eiji Aoki
英士 青木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Corp of America
Original Assignee
Panasonic Intellectual Property Corp of America
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Corp of America filed Critical Panasonic Intellectual Property Corp of America
Priority to JP2015089815A priority Critical patent/JP6534292B2/ja
Priority to US15/131,902 priority patent/US9983840B2/en
Priority to CN201610252375.6A priority patent/CN106066537B/zh
Publication of JP2016208370A publication Critical patent/JP2016208370A/ja
Priority to US15/784,605 priority patent/US9946504B2/en
Priority to US15/962,528 priority patent/US10359982B2/en
Application granted granted Critical
Publication of JP6534292B2 publication Critical patent/JP6534292B2/ja
Priority to US16/454,177 priority patent/US10747488B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03547Touch pads, in which fingers can move on a surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/16Use of wireless transmission of display information

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】ユーザが所望する情報を適切にユーザに提示する。
【解決手段】ユーザの頭部に装着されるヘッドマウントディスプレイ10は、ヘッドマウントディスプレイ10の姿勢を検知する姿勢検知部111と、ヘッドマウントディスプレイ10への所定の操作を検知する操作検知部112と、情報を表示する表示部114と、姿勢検知部111が検知した姿勢の変化に応じて表示部114が表示する情報を変更する制御部113とを備え、制御部113は、さらに、操作検知部112が所定の操作を検知した場合には、姿勢検知部111が検知した姿勢に変化があっても、表示部114が表示している情報を変更せずに維持する。
【選択図】図3

Description

本発明は、ヘッドマウントディスプレイ、及び、ヘッドマウントディスプレイの制御方法に関する。
ユーザの頭部に装着され、ユーザに映像を視聴させるディスプレイ装置(以降、ヘッドマウントディスプレイ)がある。ユーザは、ヘッドマウントディスプレイを利用することで、手を用いることなく、また、視線の方向を変えることなく映像を視聴することができる。そのため、ヘッドマウントディスプレイは、例えば機械の保守作業員が保守手順を示す映像を視聴しながら当該機械の保守を行う場合等に大変有用である。
特許文献1は、ヘッドマウントディスプレイの姿勢に基づいてユーザに所望の情報を提示するヘッドマウントディスプレイを開示する。特許文献1に開示されるヘッドマウントディスプレイによれば、ユーザは、所望の情報を自動的に迅速かつ容易に取得することができる。
国際公開第2014/128751号
しかしながら、特許文献1が開示する技術によれば、ヘッドマウントディスプレイがユーザの意図とは無関係に、ユーザに提示する情報を変更する。そのため、ユーザの意図に反してヘッドマウントディスプレイの表示情報が変化する可能性がある。
そこで、本発明は、ユーザが所望する情報を適切にユーザに提示するヘッドマウントディスプレイ等を提供する。
本発明の一態様に係るヘッドマウントディスプレイは、ユーザの頭部に装着されるヘッドマウントディスプレイであって、前記ヘッドマウントディスプレイの姿勢を検知する姿勢検知部と、前記ヘッドマウントディスプレイへの所定の操作を検知する操作検知部と、情報を表示する表示部と、前記姿勢検知部が検知した姿勢の変化に応じて前記表示部が表示する情報を変更する制御部とを備え、前記制御部は、さらに、前記操作検知部が前記所定の操作を検知した場合には、前記姿勢検知部が検知した姿勢に変化があっても、前記表示部が表示している情報を変更せずに維持する。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
本発明のヘッドマウントディスプレイは、ユーザが所望する情報を適切にユーザに提示することができる。
図1は、実施の形態1におけるヘッドマウントディスプレイの外観図である。 図2は、実施の形態1におけるヘッドマウントディスプレイのハードウェア構成を示すブロック図である。 図3は、実施の形態1におけるヘッドマウントディスプレイの機能構成を示すブロック図である。 図4は、実施の形態1における姿勢検知部による姿勢の検知の第一の説明図である。 図5は、実施の形態1における姿勢検知部による姿勢の検知の第二の説明図である。 図6は、実施の形態1における制御部による姿勢情報と、表示情報の種類との対応を示す対応テーブルを示す説明図である。 図7は、実施の形態1におけるユーザの視界と、表示部に表示されるアイコンとの説明図である。 図8は、実施の形態1におけるユーザの視界と、表示部に表示される画像との説明図である。 図9は、実施の形態1における強調された表示態様の説明図である。 図10は、実施の形態1における制御部による表示情報の変更又は維持についての処理を示すフロー図である。 図11は、実施の形態1における制御部による表示の維持の解除についての処理を示すフロー図である。 図12は、実施の形態1における制御部による表示の維持及びその解除についての一連の流れを示す模式図である。 図13は、実施の形態1における画像の数が多い表示情報の説明図である。 図14は、実施の形態1における文字の数が少ない表示情報の説明図である。 図15は、実施の形態1における文字の数が多い表示情報の説明図である。 図16は、実施の形態2におけるヘッドマウントディスプレイの外観図である。 図17は、実施の形態2におけるヘッドマウントディスプレイのハードウェア構成を示すブロック図である。 図18は、実施の形態2におけるヘッドマウントディスプレイの機能構成を示すブロック図である。 図19は、実施の形態2における制御部による表示の変更についての処理を示すフロー図である。 図20は、実施の形態2における制御部による表示の維持及びその解除についての一連の流れを示す模式図である。
(本発明の基礎となった知見)
本発明者は、「背景技術」の欄において記載した、ヘッドマウントディスプレイに関し、以下の問題が生じることを見出した。
一般に人が空を見上げる時は天気を気にしていることが総じて多い。そこで、ユーザが空を見上げると、ヘッドマウントディスプレイが今日の天気を示すマークを表示するようにすれば、ユーザによる直感的な操作が実現すると考えられる。この考えに基づいて、従来、ヘッドマウントディスプレイの姿勢の変化に応じてユーザに提示する情報を変更するヘッドマウントディスプレイがある(特許文献1)。
特許文献1に開示される技術によれば、ヘッドマウントディスプレイの姿勢(傾斜の方向)の変化があるとユーザに提示される情報が変化する。そのため、ユーザが比較的短時間で把握できる情報(例えば、一日の天気を示す1個の晴れマーク)であれば、ヘッドマウントディスプレイの姿勢に基づいて表示情報を切り替えることにより、ユーザは、直感的な動作でヘッドマウントディスプレイに情報を表示させることができる。
しかし、上記の方法によれば、ユーザが把握するのに比較的長い時間を要する情報(例えば、降水確率の時間的推移)に対して同様にヘッドマウントディスプレイの姿勢の変化に基づく表示切り替えを行うと、ユーザが情報の内容を完全に把握する前にヘッドマウントディスプレイの姿勢が変化した場合に表示が切り替わってしまい内容の把握ができないことがある。つまり、ユーザが情報の閲覧を継続したい場合には、ヘッドマウントディスプレイの姿勢を一定に維持しなければならないことになり、利便性が低い。
ユーザの意図と異なりユーザに提示される情報が変化した場合には、ユーザは、ヘッドマウントディスプレイの姿勢を元に戻すという新たな動作を行う必要がある。また、ヘッドマウントディスプレイは、ユーザによる上記動作に基づいて、提示する情報を元に戻す処理を行う必要がある。
そこで、本発明は、ヘッドマウントディスプレイの姿勢を一定に維持することなく、ユーザが所望する情報を適切にユーザに提示するヘッドマウントディスプレイ等を提供する。
このような問題を解決するために、本発明の一態様に係るヘッドマウントディスプレイは、ユーザの頭部に装着されるヘッドマウントディスプレイであって、前記ヘッドマウントディスプレイの姿勢を検知する姿勢検知部と、前記ヘッドマウントディスプレイへの所定の操作を検知する操作検知部と、情報を表示する表示部と、前記姿勢検知部が検知した姿勢の変化に応じて前記表示部が表示する情報を変更する制御部とを備え、前記制御部は、さらに、前記操作検知部が前記所定の操作を検知した場合には、前記姿勢検知部が検知した姿勢に変化があっても、前記表示部が表示している情報を変更せずに維持する。
これによれば、ユーザが自らの判断で所定の操作によって情報の表示を固定(維持)させることによって、ヘッドマウントディスプレイの姿勢に関わらず、必要な情報をヘッドマウントディスプレイが表示することができる。このように、ヘッドマウントディスプレイは、ユーザが所望する情報を適切にユーザに提示することができる。
また、ヘッドマウントディスプレイは、一般にヘッドマウントディスプレイを装着するユーザにのみ画像を表示する。そのため、上記ユーザの周囲にいる人から見ると、ヘッドマウントディスプレイを装着し、ヘッドマウントディスプレイに対して何らかの操作を行っているユーザが異様に見えると言われている。上記のような動作によりヘッドマウントディスプレイに情報を表示させることができれば、ユーザは、人前でも違和感の無い自然な動作で、必要な情報をヘッドマウントディスプレイに表示させることができる。
このように、ユーザは、直感的、且つ人前でも違和感の無い自然な動作による情報収集と、把握に比較的長い時間を要する情報の内容把握を両立させることができる。
例えば、前記制御部は、前記操作検知部が前記所定の操作を検知した場合であって、前記姿勢検知部が検知した姿勢に変化がある場合には、前記表示部が表示する情報を変更せずに維持するとともに、前記情報の表示態様を変化させる。
これによれば、ヘッドマウントディスプレイが表示している情報の表示態様のみを変化させることで、ユーザは、表示されている情報がヘッドマウントディスプレイの姿勢の変化に関わらず固定されていることを一目で認識することができる。よって、ヘッドマウントディスプレイの姿勢の変化があっても表示が切り替わらない状況であることを、ヘッドマウントディスプレイの故障であるとユーザが誤認識することを防ぐことができる。
例えば、前記表示部は、前記情報を表示する際には、前記情報とともに前記情報の背景として図形を表示し、前記制御部は、前記図形の色を変化させることで、前記情報の表示態様を変化させる。
例えば、前記表示部は、前記情報を表示する際には、前記情報とともに前記情報を囲む枠を表示し、前記制御部は、前記枠の太さ又は色を変化させることで、前記情報の表示態様を変化させる。
これによれば、ヘッドマウントディスプレイが表示している背景又は枠の色を変更することで、ユーザは、ヘッドマウントディスプレイによる表示が固定されていることを具体的に認識させることができる。
例えば、前記ヘッドマウントディスプレイは、さらに、前記表示部が表示する情報の情報量が所定より大きいか否かを判定する第一判定部を備え、前記制御部は、前記情報量が所定より大きいと判定された場合に限り、前記操作検知部が前記所定の操作を検知したときに、前記姿勢検知部が検知した姿勢に変化があっても、前記表示部が表示する情報を変更せずに維持する。
例えば、前記ヘッドマウントディスプレイは、さらに、前記表示部が表示する情報の情報量が所定より小さいか否かを判定する第二判定部を備え、前記制御部は、前記情報量が所定より小さいと判定された場合には、前記操作検知部が前記所定の操作を検知しても、前記姿勢検知部が検知した姿勢の変化に応じて、前記表示部が表示する情報を変更する。
これによれば、ヘッドマウントディスプレイは、表示している情報の特徴に基づいて、当該情報の表示をヘッドマウントディスプレイの姿勢に応じて変更するか、又は、維持するかを決定する。具体的には、当該情報が、ユーザにとってヘッドマウントディスプレイの姿勢に基づいて表示を切り替えたい情報(比較的短時間で把握できる情報)なのか、表示を切り替えたくない情報(把握に比較的長い時間を要する情報)なのかがある程度推定できるので、ヘッドマウントディスプレイが情報毎に上記のいずれの情報であるかを予め設定することができる。
また、これによれば、ユーザが比較的短時間で把握できる情報(例えば、一日の天気を示す1個の晴れマーク)が表示されている状態で、ユーザが誤って所定の操作を行った場合でも、ヘッドマウントディスプレイの姿勢に基づいて、表示する情報を変更させることができる。
例えば、前記制御部は、前記操作検知部が前記所定の操作を検知した後に、さらに前記所定の操作と同一の後続操作を検知した場合には、前記操作検知部が前記後続操作を検知した時に前記姿勢検知部が検知した姿勢に基づいて、前記表示部に表示する情報を変更する。
これによれば、ヘッドマウントディスプレイは、表示が固定されている状態を解除する際、ユーザが何らかの動作を行うことなく、ヘッドマウントディスプレイの姿勢に応じた適切な情報を表示することができる。よって、ユーザが次の情報を閲覧する際の負担を低減できる。
例えば、前記制御部は、前記操作検知部が前記所定の操作を検知した後に、さらに前記所定の操作と同一の後続操作を検知した場合には、前記表示部による情報の表示を停止する。
これによれば、ヘッドマウントディスプレイは、表示が固定されている状態を解除する際に、その表示を消去することで、ユーザが必要としていない情報を表示することを回避することができる。よって、必要としていない情報が表示されることによるユーザの煩わしさを低減できる。
例えば、前記操作検知部は、操作ボタンを有し、前記操作ボタンの押下、又は、前記操作ボタンへの接触を、前記所定の操作として検知する。
例えば、前記操作検知部は、タッチパッドを有し、前記タッチパッドへのタップを、前記所定の操作として検知する。
例えば、前記操作検知部は、マイク、及び、前記マイクが収音した音声を音声認識することでユーザによる発話を取得する音声認識装置を有し、前記音声認識装置により、所定の発話を取得したことを、前記所定の操作として検知する。
これによれば、ヘッドマウントディスプレイは、操作ボタン、タッチパッド及び音声に基づいて、具体的にユーザからの操作を受け付けることができる。
例えば、前記姿勢検知部は、さらに、前記姿勢が、前記ユーザにとっての上方、下方、左方及び右方のどの方向に基準姿勢から変化した姿勢であるかを示す姿勢情報を生成し、前記制御部は、さらに、(i)前記表示部が表示するための情報として、上方、下方、左方及び右方のそれぞれの方向に対応付けられた4つの情報を保有しており、(ii)前記表示部の表示領域のうちの上方、下方、左方及び右方のそれぞれの方向に、前記4つの情報のうち当該方向に対応付けられた情報を示すアイコンを表示し、(iii)前記姿勢検知部が前記姿勢情報を生成した場合に、生成された前記姿勢情報により示される方向に対応付けられた情報を前記表示部に表示する。
これによれば、ヘッドマウントディスプレイがアイコンを表示することで、ユーザは、ヘッドマウントディスプレイの傾斜の方向と、その方向にどの情報が割り当てられているのかをあわせて認識することができる。よって、ユーザは、ヘッドマウントディスプレイの傾斜方向にどの情報が割り当てられているのかを記憶する必要がないので、ユーザの負担が低減される。
例えば、前記ヘッドマウントディスプレイは、さらに、操作空間におけるスワイプジェスチャ操作であって、一の方向を示すスワイプジェスチャ操作を検知するジェスチャ検知部を備え、前記制御部は、さらに、前記ジェスチャ検知部が検知した前記スワイプジェスチャ操作により示される方向に応じて前記表示部が表示する情報を変更する。
これによれば、ユーザは、ヘッドマウントディスプレイの姿勢を変化させる代わりにスワイプ操作によって表示情報を変化させることができる。そのため、例えば、ユーザは、本来ヘッドマウントディスプレイの姿勢を変化させることで表示される情報を、正面を向いたままの状態でスワイプ操作によって必要な情報を表示させることで表示させ、把握することできる。このとき、ヘッドマウントディスプレイの姿勢を変化させる必要はない。このように、把握するに比較的長時間を要する情報を確認するためのユーザによる操作の選択肢を増やすことができる。
また、本発明の一態様に係るヘッドマウントディスプレイは、ユーザの頭部に装着されるヘッドマウントディスプレイであって、前記ヘッドマウントディスプレイの姿勢を検知する姿勢検知部と、操作空間におけるスワイプジェスチャ操作であって、一の方向を示すスワイプジェスチャ操作を検知するジェスチャ検知部と、情報を表示する表示部と、前記姿勢検知部が検知した姿勢の変化に応じて前記表示部が表示する情報を変更する制御部とを備え、前記制御部は、さらに、前記ジェスチャ検知部が検知した前記スワイプジェスチャ操作により示される方向に応じて前記表示部が表示する情報を変更する。
これによれば、そこで、ユーザは、ヘッドマウントディスプレイの姿勢を変化させる代わりにスワイプ操作によって表示情報を変化させることができる。そのため、例えば、ユーザは、正面を向いたままの状態でスワイプ操作によって必要な情報を表示させることで、本来ヘッドマウントディスプレイの姿勢を変化させることで表示される情報を表示させ、把握することできる。このように、ヘッドマウントディスプレイは、ユーザが所望する情報を適切にユーザに提示することができる。
このように、ユーザは、直感的、且つ人前でも違和感の無い自然な動作による情報収集と、把握に比較的長い時間を要する情報の内容把握を両立させることができる。
例えば、前記ジェスチャ検知部は、(a)前記ユーザの手が上方から下方へ移動したことを、下方向を示すスワイプジェスチャ操作として検出し、(b)前記ユーザの手が下方から上方へ移動したことを、上方向を示すスワイプジェスチャ操作として検出し、(c)前記ユーザの手が左方から右方へ移動したことを、右方向を示すスワイプジェスチャ操作として検出し、(d)前記ユーザの手が右方から左方へ移動したことを、左方向を示すスワイプジェスチャ操作として検出し、前記制御部は、前記ジェスチャ検知部が検知した前記スワイプジェスチャ操作により示される方向に応じて前記表示部が表示する情報を変更する。
これによれば、ヘッドマウントディスプレイは、ユーザによるジェスチャ操作を、上下左右の4方向のいずれかを示す操作として受け付け、受け付けた方向に対応する情報を表示することができる。このように、方向及び情報の数が絞り込まれていることで、ユーザに厳密な操作を要求することなく、おおまかなジェスチャによる操作を可能とすることで、操作性を向上することができる。
例えば、前記姿勢検知部は、さらに、前記制御部は、さらに、(i)前記表示部が表示するための情報として、上方、下方、左方及び右方のそれぞれの方向に対応付けられた4つの情報を保有しており、(ii)前記表示部の表示領域のうちの上方、下方、左方及び右方のそれぞれの方向に、前記4つの情報のうち当該方向に対応付けられた情報を示すアイコンを表示し、(iii)前記ジェスチャ検知部が前記スワイプジェスチャ操作を検知した場合に、前記スワイプジェスチャ操作の始点となる方向に対応付けられた情報を前記表示部に表示する。
これによれば、ヘッドマウントディスプレイがアイコンを表示することで、ユーザは、ジェスチャ操作の向きと、その向きにどの情報が割り当てられているのかをあわせて認識することができる。よって、ユーザは、ジェスチャ操作の向きにどの情報が割り当てられているのかを記憶する必要がないので、ユーザの負担が低減される。
例えば、前記ジェスチャ検知部は、前記ユーザの手を可視光により撮影するカメラを有し、前記カメラにより撮影された前記ユーザの手の動きに基づいて前記スワイプジェスチャ操作を検知する。
例えば、前記ジェスチャ検知部は、前記ユーザの手から発せられる赤外線を取得する赤外線センサを有し、前記赤外線センサにより取得された前記ユーザの手の動きに基づいて前記スワイプジェスチャ操作を検知する。
これによれば、ヘッドマウントディスプレイは、可視光カメラ又は赤外線カメラによりユーザの手の動きを取得し、これに基づいて具体的にジェスチャ操作を受け付けることができる。
例えば、前記ヘッドマウントディスプレイは、さらに、前記ヘッドマウントディスプレイへの所定の操作を検知する操作検知部を備え、前記操作検知部がユーザによる前記所定の操作を検知した場合には、前記姿勢検知部が検知した姿勢に変化があっても、前記表示部が表示する情報を変更せずに維持する。
これによれば、ユーザが自らの判断で所定の操作によって情報の表示を固定(維持)させることによって、ヘッドマウントディスプレイの姿勢に関わらず、必要な情報をヘッドマウントディスプレイが表示することができる。
このように、ユーザは、直感的、且つ人前でも違和感の無い自然な動作による情報収集と、把握に比較的長い時間を要する情報の内容把握を両立させることができる。
また、本発明の一態様に係るヘッドマウントディスプレイの制御方法は、ユーザの頭部に装着されるヘッドマウントディスプレイの制御方法であって、前記ヘッドマウントディスプレイは、情報を表示する表示部を備え、前記制御方法は、前記ヘッドマウントディスプレイの姿勢を検知する姿勢検知ステップと、前記ヘッドマウントディスプレイへの所定の操作を検知する操作検知ステップと、前記姿勢検知ステップで検知した姿勢の変化に応じて前記表示部が表示する情報を変更する制御ステップとを含み、前記制御ステップでは、さらに、前記操作検知ステップが前記所定の操作を検知した場合には、前記姿勢検知ステップで検知した姿勢に変化があっても、前記表示部が表示している情報を変更せずに維持する。
これによれば、上記のヘッドマウントディスプレイと同様の効果を奏する。
また、本発明の一態様に係るヘッドマウントディスプレイの制御方法は、ユーザの頭部に装着されるヘッドマウントディスプレイの制御方法であって、前記ヘッドマウントディスプレイは、情報を表示する表示部を備え、前記制御方法は、前記ヘッドマウントディスプレイの姿勢を検知する姿勢検知ステップと、操作空間におけるスワイプジェスチャ操作であって、一の方向を示すスワイプジェスチャ操作を検知するジェスチャ検知ステップと、前記姿勢検知ステップで検知した姿勢の変化に応じて前記表示部が表示する情報を変更する制御ステップとを含み、前記制御ステップでは、さらに、前記ジェスチャ検知ステップで検知した前記スワイプジェスチャ操作により示される方向に応じて前記表示部が表示する情報を変更する。
これによれば、上記のヘッドマウントディスプレイと同様の効果を奏する。
以下では、本発明の実施の形態に係るヘッドマウントディスプレイについて、図面を用いて詳細に説明する。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムまたは記録媒体の任意な組み合わせで実現されてもよい。
以下、実施の形態について、図面を参照しながら具体的に説明する。
なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
(実施の形態1)
本実施の形態において、ユーザが所望する情報を適切にユーザに提示するヘッドマウントディスプレイ等について説明する。より具体的には、ユーザによる操作に基づいて、ユーザが把握するのに比較的長時間を要する情報の表示を継続するヘッドマウントディスプレイ等について説明する。
図1は、本実施の形態におけるヘッドマウントディスプレイ10の外観図である。
図1に示されるように、ヘッドマウントディスプレイ10は、眼鏡のようにユーザの頭部に装着される眼鏡型端末である。ヘッドマウントディスプレイ10は、本体部11と、鼻あて部12と、つる13と、耳かけ部14とを備える。
本体部11は、ヘッドマウントディスプレイ10による情報処理、及び、画像の表示等を行う処理部である。本体部11は、つる13の一部に取り付けられており、ユーザの頭部の位置又は姿勢が変化すると、ユーザの頭部と一体となって位置又は姿勢が変化する。本体部11の機能及び処理については、後で詳しく説明する。
鼻あて部12は、ヘッドマウントディスプレイ10をユーザの頭部に固定するための鼻あてである。鼻あて部12は、ユーザの鼻を左右両側から挟むように配置されることで、ユーザの頭部に対してヘッドマウントディスプレイ10を固定する。
つる13は、鼻あて部12と耳かけ部14とをつなぐ棒体である。
耳かけ部14は、ヘッドマウントディスプレイ10をユーザの頭部に固定するための耳かけである。耳かけ部14は、ユーザの耳に引っかかるように配置されることで、ユーザの頭部に対してヘッドマウントディスプレイ10を固定する。
なお、ヘッドマウントディスプレイ10を装着したユーザにとっての奥行き方向をX方向といい、左右方向をY方向といい、頭上と足元とを結ぶ方向をZ方向ともいう。また、特に断らない限りZ方向のプラス向きを上向きといい、Z方向のマイナス向きを下向きという。
なお、図1に示されるヘッドマウントディスプレイ10の形状は、あくまで一例であり、ユーザの頭部の少なくとも一部に装着され、ユーザに提示するための画像を表示するものであればどのような形状であってもよく、例えば、帽子型又はヘルメット型等があり得る。
図2は、本実施の形態におけるヘッドマウントディスプレイ10のハードウェア構成を示すブロック図である。
図2に示されるように、ヘッドマウントディスプレイ10は、ハードウェア構成として、CPU101(Central Processing Unit)と、メインメモリ102と、ストレージ103と、通信IF104(Interface)と、加速度センサ105と、ボタン106と、ディスプレイ107とを備える。
CPU101は、ストレージ103等に記憶された制御プログラムを実行するプロセッサである。
メインメモリ102は、CPU101が制御プログラムを実行するときに使用するワークエリアとして用いられる揮発性の記憶領域である。
ストレージ103は、制御プログラム、及び、コンテンツなどを保持する不揮発性の記憶領域である。
通信IF104は、ネットワークを介して他の装置との間でデータを送受信するネットワークインタフェースである。通信IF104は、例えば、IEEE802.11a、b、g規格に適合した無線LAN(Local Area Network)インタフェースである。
加速度センサ105は、加速度を検出するセンサである。
ボタン106(操作ボタンともいう)は、ユーザによる押下又は接触等の操作を受け付ける入力装置である。なお、ボタン106の代わりに、タッチパッド(不図示)を用いることも可能である。なお、ボタン106の代わりに、周囲の音声を収音するマイク(不図示)と、マイクが収音した音声を音声認識することでユーザの発話を取得する音声認識装置(不図示)とを用いることも可能である。この場合、音声認識装置により所定の発話を取得したことを上記操作として受け付ける。
ディスプレイ107は、画像を表示する透過型の表示装置である。例えば、ディスプレイ107は、ハーフミラーを利用してユーザに画像を提示するプリズムディスプレイである。なお、ディスプレイ107は、ユーザに対して画像を提示するものであればその方式は問わず、例えば、レーザ光によりユーザの網膜に画像を提示するいわゆる網膜操作型ディスプレイなどでもよい。
図3は、本実施の形態におけるヘッドマウントディスプレイ10の機能構成を示すブロック図である。
図3に示されるように、ヘッドマウントディスプレイ10は、機能構成として、姿勢検知部111と、操作検知部112と、制御部113と、表示部114とを備える。また、制御部113は、その一機能として判定部115を有してもよい。
姿勢検知部111は、ヘッドマウントディスプレイ10の姿勢を検知する処理部である。姿勢検知部111は、具体的には、加速度センサ105によりヘッドマウントディスプレイ10の姿勢、及び、その姿勢の変化を検知し、その姿勢の変化を示す情報である姿勢情報を生成する。ヘッドマウントディスプレイ10の姿勢は、ユーザの頭部の向きと1対1対応する。例えば、姿勢検知部111は、ユーザの頭部が前方の斜め上方を向く姿勢である場合、「上向きに傾斜」(以降、単に「上向き」という)との姿勢情報を生成する。姿勢検知部111は、CPU101、メインメモリ102、ストレージ103及び加速度センサ105等により実現される。
なお、ヘッドマウントディスプレイ10の姿勢の変化は、ユーザの身体全体の向きの変化により生ずる場合と、ユーザの首の動きにより生ずる場合とがあるが、これらは、加速度センサ105が検知する加速度の大きさにより判別される。具体的には、加速度センサ105が検知する加速度の大きさが所定値以上である場合に、首の動きにより生ずる姿勢の変化であると判別される。そして、姿勢検知部111は、ユーザの首の動きにより生ずる姿勢の変化を検知した場合にのみ、上記姿勢を示す情報を生成するようにしてもよい。ユーザの首の動きにより生ずる姿勢の変化の方が、ユーザが意図的に頭部の姿勢を変化したことを反映していると考えられるからである。
なお、姿勢検知部111は、上向き、下向き、左向き、右向き及び正面の5方向を、姿勢として検出するようにしてもよい。ユーザの意図する頭部の向きと、現実のユーザの頭部の向きとは、厳密には一致しないことが考えられる。例えば、ユーザが頭部を上向きにすることを意図しても、現実にユーザの頭部の向きは正確に上向きにならず、上向きから少し左(又は右)に傾いた方向になることがあると考えられる。そこで、姿勢検知部111は、上記5方向を姿勢として検出するようしておくことで、上記のような正確な上向きから少しずれた向きを上向きと判定することができる。このように、厳密な上向きだけでなく、厳密な上向きを含む所定の範囲内を上向きと判定することで、ユーザによる柔軟な操作を可能とする。
操作検知部112は、ユーザによるヘッドマウントディスプレイ10への操作を検知する処理部である。操作検知部112は、ボタン106に対するユーザによる押下又は接触の操作を検知する。操作検知部112は、CPU101、メインメモリ102、ストレージ103及びボタン106等により実現される。
制御部113は、姿勢検知部111が検知したヘッドマウントディスプレイ10の姿勢の変化に応じて表示部114が表示する情報(以降、「表示情報」ともいう)を変更する処理部である。さらに、制御部113は、操作検知部112が操作を検知した場合には、姿勢検知部111が検知したヘッドマウントディスプレイ10の姿勢に変化があっても、表示部114が表示する表示情報を変更せずに維持する。
具体的には、制御部113は、各種表示情報を表示部114に表示させる。より具体的には、制御部113は、ヘッドマウントディスプレイ10の姿勢と、当該姿勢の場合に制御部113が表示部114に表示させる表示情報との対応付けを予め保持している。そして、制御部113は、姿勢検知部111から姿勢情報を取得し、取得した姿勢情報に対応付けられた表示情報を選択し、選択した表示情報を表示部114に表示させる。なお、上記表示情報は、当該表示情報を出力するための所定のアプリケーションを制御部113が実行することによって出力されたものであってもよいし、予め定められた情報であってもよいし、通信IF104を介して外部から取得したものであってもよい。
また、制御部113は、表示部114の表示領域のうちの上方、下方、左方及び右方のそれぞれの方向に、4つの情報のうち当該方向に対応付けられた情報を示すアイコンを表示する。このアイコンは、どの方向にヘッドマウントディスプレイ10を傾斜させればどの情報が表示されるかをユーザに案内するためのアイコンである。
なお、制御部113は、表示情報を維持する際には、表示情報の種類を維持するようにしてもよい。すなわち、制御部113は、表示情報の種類を維持し、表示情報そのものは、その種類の範囲内で変更されるようにしてもよい。
なお、制御部113は、操作検知部112が操作を検知した場合に、表示情報が表示部114上に維持されていることをユーザに提示するために表示情報の表示態様を変更してもよい。具体的には、表示情報の表示態様を、より強調したものに変更してもよい。このようにすることで、たとえヘッドマウントディスプレイ10の姿勢が変化しても表示情報が変化せずに維持されることを明示的にユーザに認識させることができる。
なお、制御部113は、判定部115を有してもよい。この場合、制御部113は、ヘッドマウントディスプレイ10の姿勢に加えて、判定部115による表示情報についての判定結果に基づいて表示部114に表示する表示情報を変更又は維持する。
判定部115は、表示部114が表示する表示情報の情報量が所定より大きいか、又は、所定より小さいかを判定する処理部である。ここで、「情報量」とは、表示部114が表示する情報の表示面積、文字数、画像と文字との混在の有無などから定められる量である。判定部115は、例えば、上記情報の表示面積が所定値より大きい情報、ディスプレイ107の表示可能面積に対する表示面積の割合が所定値より大きい情報、含まれる文字又は画像の数が所定値より大きい情報、又は、画像と文字とが混在した情報は、情報量が大きい情報と判定する。このような判定に基づいて制御部113が表示情報を変更するか又は維持するかを決定できるのは、ユーザが当該表示情報の表示を切り替えることを意図するか否かが、この情報量によりある程度推定可能であるからである。なお、判定部115は、特許請求の範囲における第一判定部又は第二判定部に相当する。
表示部114は、情報を画像として表示する表示装置である。表示部114は、制御部113が選択した表示情報を画像として表示する。表示部114は、ディスプレイ107等により実現される。
以降において、ヘッドマウントディスプレイ10の各機能ブロックの機能及び処理について詳細に説明する。まず、姿勢検知部111によるヘッドマウントディスプレイ10の姿勢の検知について説明する。
図4は、本実施の形態における姿勢検知部111による姿勢の検知の第一の説明図である。図4は、ユーザが水平面上(XY平面上)において首を振る場合、つまり、ユーザが頭部を横に(左又は右に)回転させる場合のヘッドマウントディスプレイ10の姿勢の変化を示す図である。
具体的には、図4は、ユーザが正面を見る場合を基準として左へθ1度の方向を向くように頭部を回転させた場合を示している。このとき、姿勢検知部111は、加速度センサ105によりヘッドマウントディスプレイ10が、基準姿勢から、基準姿勢から左方向へθ1度回転した姿勢に変化したことを検知する。なお、基準姿勢とは、この姿勢の変化が開始されたとき姿勢のことであり、ユーザの頭部が概ね停止していると考えられる場合の姿勢のことである。
図5は、本実施の形態における姿勢検知部111による姿勢の検知の第二の説明図である。図5は、ユーザが鉛直方向(XZ平面上)において首を振る場合、つまり、ユーザが頭部を縦に(上又は下に)振る場合のヘッドマウントディスプレイ10の姿勢の変化を示す図である。
具体的には、図5は、ユーザが正面を見る場合を基準として上へθ2度の方向を向くように、頭部を回転させた場合を示している。このとき、姿勢検知部111は、加速度センサ105によりヘッドマウントディスプレイ10が、基準姿勢から、基準姿勢から上方へθ2度回転した姿勢に変化したことを検知する。
以上のように取得されるθ1及びθ2に基づいて、姿勢検知部111は、ヘッドマウントディスプレイ10の姿勢を検知する。なお、ヘッドマウントディスプレイ10の姿勢は、θ1及びθ2の組み合わせにより無段階に特定されるようにしてもよいし、θ1及びθ2の範囲を所定の区間に区切ることにより、例えば上向き又は下向きというように、よりおおまかな姿勢として特定してもよい。以降では、後者の場合、具体的には、θ1及びθ2に基づいて、ヘッドマウントディスプレイ10の姿勢を、「上向き」、「下向き」、「左向き」、「右向き」及び「正面」の5つの姿勢のいずれかに特定する場合について説明する。
図6は、本実施の形態における制御部113による姿勢情報と、表示情報の種類との対応を示す対応テーブル601を示す説明図である。具体的には、対応テーブル601は、ヘッドマウントディスプレイ10の姿勢と、当該姿勢の場合に制御部113が表示部114に表示する表示情報の種類との対応付けを示している。
例えば、ヘッドマウントディスプレイ10の姿勢「上向き」は、表示情報の種類「天気予報」に対応付けられている。つまり、ヘッドマウントディスプレイ10の姿勢が上向きであることを姿勢検知部111が検知した場合には、制御部113は、天気予報の情報を表示部114に表示する。なお、天気予報の情報を表示部114に表示するために、制御部113は、所定のアプリケーション等により予め通信IF104等を利用して外部から必要な情報を取得し、取得した情報を情報処理することで表示情報を生成してもよい。
また、ヘッドマウントディスプレイ10の姿勢「正面」は、対応する表示情報がないことに対応付けられている。これは、ユーザが正面を向いているときには、表示情報がない、つまり、表示部114が何も情報を表示しないことを意味する。
以降において、表示部114が表示する表示情報について説明する。
図7は、本実施の形態におけるユーザの視界701と、表示部114に表示されるアイコンとの説明図である。
ユーザの視界701は、ヘッドマウントディスプレイ10を装着しているユーザが見る視界を示している。ユーザの視界701には、外界の風景が含まれており、また、その外界の風景に重畳するように表示部114が含まれている。言い換えれば、ユーザは、表示部114を透過して外界の風景を見ている。表示部114の表示領域のうちの上方、下方、左方及び右方のそれぞれの方向にはアイコン711、712、713及び714が表示されている。これらのアイコンは、ヘッドマウントディスプレイ10の姿勢(傾斜の方向)と、その姿勢での表示情報の種類とをユーザに提示するためのものであり、ユーザがそのアイコンの方向にヘッドマウントディスプレイ10の姿勢を変えればそのアイコンにより示される表示情報が表示されることをユーザに案内するためのものである。
このように、ユーザは、外界の風景とともに外界の風景に重畳された情報を視認するようにしてヘッドマウントディスプレイ10を利用する。
図8は、本実施の形態におけるユーザの視界と、表示部114に表示される画像801との説明図である。画像801は、制御部113がヘッドマウントディスプレイ10の姿勢の変化に応じて表示部114に表示させる画像の一例である。
画像801は、天気予報を示す画像であり、ヘッドマウントディスプレイ10の姿勢が上向きであるときに表示される情報である。画像801は、枠802で囲まれており、一日の天気を示す文字と図形とを含んでいる。
このとき、天気予報を示す情報の背景となる部分には、画像801のように白色が表示されるようにしてもよいし、何も表示がされないことにより、透過した外界の風景がユーザにより視認されるようにしてもよい。
図9は、本実施の形態における強調された表示態様の説明図である。画像901は、制御部113がユーザによる所定の操作に応じて、表示態様を変更した表示画像の一例である。
具体的には、画像901は、画像801に対して画像の枠902が太い枠に変更されたものである。このようにすることで、ヘッドマウントディスプレイ10は、表示情報が表示部114上に維持されている、つまり、姿勢の変化があっても表示が変更されないことを積極的にユーザに認識させることができる。
なお、表示情報が表示部114上に維持されていることを示すために、画像の枠を太い枠に変更する代わりに、任意の方法で画像を強調するように示してもよい。具体的には、画像の背景として表示される図形の色を変更したり、文字の色又は装飾(フォント、太字、斜体、下線等)を変更したりしてもよく、また、上記を複数組み合わせてもよい。
以降において、制御部113が表示部114に表示させる情報の変更に係る処理について説明する。
図10は、本実施の形態における制御部113による表示情報の変更又は維持についての処理を示すフロー図である。図12は、本実施の形態における制御部113による表示の維持及びその解除についての一連の流れを示す模式図である。
ステップS101において、姿勢検知部111がヘッドマウントディスプレイ10の姿勢の変化を検知したか否かを判定する。姿勢検知部111が上記姿勢の変化を検知した場合(ステップS101でYes)には、検知した姿勢の変化を示す姿勢情報を生成した上で、ステップS102へ進む。一方、姿勢検知部111が上記姿勢の変化を検知しない場合(ステップS101でNo)には、再びステップS101を行う。つまり、姿勢検知部111は、上記姿勢の変化を検知するまでステップS101で待機する。ステップS101は、図12の(a)の状態に相当する。
ステップS102において、制御部113は、ステップS101で姿勢検知部111が生成した姿勢情報を取得し、当該姿勢情報により示されるヘッドマウントディスプレイ10の姿勢に対応付けられた表示情報を表示部114に表示させる。ステップS101は、図12の(b)の状態に相当する。図12の(b)において、ヘッドマウントディスプレイ10の姿勢が上向きとなったことに基づいて、表示部114に天気予報の情報が表示される。
ステップS103において、操作検知部112は、ユーザによる所定の操作を検知したか否かを判定する。操作検知部112がユーザによる所定の操作を検知した場合(ステップS103においてYes)には、ステップS111へ進む。一方、操作検知部112がユーザによる所定の操作を検知しない場合(ステップS103においてNo)には、ステップS104へ進む。ステップS103は、図12の(c)に相当する。図12の(c)において、ユーザによる所定の操作(例えばユーザの指U1によるボタン106の押下)が検知されたことに基づいて、表示部114における天気予報の情報の表示が維持される。なお、このとき制御部113は、表示情報を変更せずに維持しながら、情報の表示の枠を太い枠に変化させることで表示態様を変更する。
ステップS104において、姿勢検知部111は、ヘッドマウントディスプレイ10の姿勢の変化を検知するまでステップS104で待機し、上記姿勢の変化を検知したら姿勢情報を生成した上でステップS105へ進む。
ステップS105において、制御部113は、ステップS104で姿勢検知部111が生成した姿勢情報を取得し、当該姿勢情報に基づいて、表示部114が表示する情報を変更する。
ステップS111において、姿勢検知部111は、ヘッドマウントディスプレイ10の姿勢の変化を検知するまでステップS111で待機し、上記姿勢の変化を検知したら姿勢情報を生成した上でステップS112へ進む。
ステップS112において、制御部113は、ステップS111で姿勢検知部111が生成した姿勢情報にかかわらず、表示部114上の表示情報を変更せずに維持する。ステップS112は、図12の(d)に相当する。ヘッドマウントディスプレイ10の姿勢が、正面を向いているにも関わらず、表示部114に天気予報の情報が太い枠に囲まれた状態で表示されている。
なお、所定の操作の検知(ステップS103)と、姿勢の変化の検知(ステップS104又はステップS111)との順番は、図10に示すものと反対でもよい。
以上の一連の処理により、ヘッドマウントディスプレイ10は、ユーザによる所定の操作がなされた場合には、ユーザに提示する情報を変更せずに維持する(図12の(d))。このように、ヘッドマウントディスプレイ10は、ユーザが所望する情報を適切にユーザに提示することができる。
図11は、本実施の形態における制御部113による表示の維持の解除についての処理を示すフロー図である。
ステップS201において、操作検知部112は、ユーザによる所定の操作(例えばユーザの指U1によるボタン106の押下、「後続動作」ともいう)を検知したか否かを判定する。操作検知部112がユーザによる所定の操作を検知した場合(ステップS201においてYes)には、ステップS202へ進む。一方、操作検知部112がユーザによる所定の操作を検知しない場合(ステップS201においてNo)には、ステップS211へ進む。
ステップS202において、制御部113は、表示部114が表示する情報を維持することを解除する、つまり、表示部114が表示する情報を変更可能な状態とする。なお、制御部113は、このときに姿勢検知部111が検知する姿勢に応じて、表示部114に表示する表示情報を変更するようにしてもよいし、表示部114による表示を消去してもよい(図12の(e))。
ステップS211において、制御部113は、表示部114が表示する情報を維持することを継続する。
これにより、ヘッドマウントディスプレイ10は、表示部114に表示する表示情報を維持することを適切に解除することができる。
なお、制御部113は、表示部114が表示する情報について、一律に上記のような処理を行ってもよいし、表示情報の情報量に応じて、上記の処理を行うか否かを決定するようにしてもよい。以下で2つの画像の例を用いて具体的に説明する。第一の例は、表示情報に含まれる画像の数を情報量として用いる場合であり、第二の例は、表示情報に含まれる文字の数を情報量として用いる場合である。
図13は、本実施の形態における画像の数が多い表示情報の説明図である。図13を用いて、表示情報に含まれる画像の数に基づいて上記の処理を行うか否かを決定する方法の第一の例について説明する。
図13において表示部114が表示する画像1301は、一週間の天気の推移を示す画像であり、一日の天気を示す画像801より情報量が大きいものの一例である。ユーザは、画像1301に示される情報を把握するには、画像801の場合より長い時間を要すると考えられる。これに対し、一日の天気を示す画像801に示される情報を把握するには、短時間(例えば数秒)で済むと考えられる。
そこで、制御部113は、判定部115による判定結果に応じて、図10で示した一連の処理を行うか否かを決定するようにしてもよい。
判定部115は、例えば、表示部114が表示する画像に含まれる画像の数が3を超える場合に情報量が多いと判定する。そして、制御部113は、情報量が多いと判定された場合に限り、制御部113が図10で示した一連の処理を行い、情報量が少ないと判定された場合には、検知した姿勢の変化に応じて表示情報を切り替える処理を行うようにする。
この判定方法によれば、判定部115が画像801に含まれる画像の数は1であると判定し、制御部113は、画像801を表示する場合には、検知した姿勢の変化に応じて表示情報を切り替える処理を行うようにする。一方、判定部115が画像1301に含まれる画像の数は7であると判定し、制御部113は、画像1301を表示する場合には、所定操作に基づいて表示情報を維持する処理(図10の処理)を行うようにする。
図14は、本実施の形態における文字の数が少ない表示情報の説明図である。図15は、本実施の形態における文字の数が多い表示情報の説明図である。図14及び図15を用いて、表示情報に含まれる文字の数に基づいて上記の処理を行うか否かを決定する方法の第二の例について説明する。
図14に示される画像1401は、比較的少ない数(例えば15文字程度)の文字を含む。図15に示される画像1501は、比較的多い数(例えば100文字程度)の文字を含む。
判定部115は、例えば、表示部114が表示する画像に含まれる文字の数が20を超える場合に情報量が多いと判定する。そして、制御部113は、この場合にのみ制御部113が図10で示した一連の処理を行い、この場合以外には、検知した姿勢の変化に応じて表示情報を切り替える処理を行うようにする。
なお、文字の数を判定する場合に、その表示情報に応じた定形の文字列を除外して文字の数を判定してもよい。例えば、表示情報がメールである場合には、送信元を意味する「From」、又は、宛先を意味する「To」の文字列を除外して、その残部の文字数を数えるようにしてもよい。これら定形の文字列は、この表示情報固有の意味を有するわけではないので、ユーザは、これら定形の文字列の意味を把握しようと努めることがないと考えられるからである。
なお、判定部115が文字の数を判定する場合に、さらに、一行に含まれる文字数、行数、文字の表示サイズなどを考慮にいれてもよい。具体的には、一行に含まれる文字数が多い場合、行数が多い場合、文字の表示サイズが小さい場合等に、情報量が多いと判定してもよい。
このようにすれば、ユーザは、ヘッドマウントディスプレイ10に対して、ユーザが把握するのに比較的長い時間を要する画像については、所定操作を行うことにより表示情報の維持をさせることができる。一方、把握するのにあまり時間を要しない画像については、姿勢に応じた表示情報の切り替えを行わせることができる。ユーザは、ヘッドマウントディスプレイ10を用いて、表示情報の切り替えの利便性を損なわずに、確実に情報を取得できる。
以上のように、本実施の形態におけるヘッドマウントディスプレイは、ユーザが所望する情報を適切にユーザに提示することができる。特に、ユーザが自らの判断で所定の操作によって情報の表示を固定(維持)させることによって、ヘッドマウントディスプレイの姿勢に関わらず、必要な情報をヘッドマウントディスプレイが表示することができる。このように、ユーザは、直感的、且つ人前でも違和感の無い自然な動作による情報収集と、把握に比較的長い時間を要する情報の内容把握を両立させることができる。
(実施の形態2)
本実施の形態において、ユーザが所望する情報を適切にユーザに提示するヘッドマウントディスプレイ等について説明する。より具体的には、ユーザによる操作に基づいて、ユーザが所望する情報を表示するヘッドマウントディスプレイ等について説明する。
図16は、本実施の形態におけるヘッドマウントディスプレイ10Aの外観図である。
図16に示されるように、ヘッドマウントディスプレイ10Aは、実施の形態1のヘッドマウントディスプレイ10と類似の外観を有するが、本体部11Aがヘッドマウントディスプレイ10におけるものと異なる。この差異については、ハードウェア構成の違いとして以下で説明する。
図17は、本実施の形態におけるヘッドマウントディスプレイ10Aのハードウェア構成を示すブロック図である。
図17に示されるように、ヘッドマウントディスプレイ10Aは、実施の形態1のヘッドマウントディスプレイ10と類似の外観を有するが、カメラ108を備える点で異なる。その他のハードウェア構成は同じであるので説明を省略する。
カメラ108は、周囲を撮像することで、画像を生成する撮像装置である。カメラ108は、ヘッドマウントディスプレイ10Aの前方(X方向のプラス向き)を撮像することができる位置及び角度でヘッドマウントディスプレイ10Aに配置されている。なお、カメラ108は、可視光により周囲を撮像する可視光カメラであってもよいし、赤外線により周囲を撮像する赤外線カメラであってもよい。
図18は、実施の形態2におけるヘッドマウントディスプレイ10Aの機能構成を示すブロック図である。
図18に示されるように、本実施の形態のヘッドマウントディスプレイ10Aは、ヘッドマウントディスプレイ10と類似の機能構成を有するが、ジェスチャ検知部121を備える点で異なる。その他の機能構成は同じであるので説明を省略する。
ジェスチャ検知部121は、ユーザによる操作空間におけるスワイプジェスチャ操作であって、一の方向を示すジェスチャ操作を検知する処理部である。ここで、スワイプジェスチャ操作とは、ユーザが手等を一の方向に払うように移動させる操作のことである。なお、スワイプジェスチャ操作のことを、単にジェスチャ操作ということもある。
具体的には、ジェスチャ検知部121は、カメラ108によりヘッドマウントディスプレイ10Aの前方の操作空間を撮影する。操作空間の撮影は、複数の静止画(フレーム)を生成するものであり、動画の撮影、又は、複数回の静止画の撮影によるものである。ここで、操作空間とは、ユーザがスワイプジェスチャ操作を行う空間のことであり、カメラ108が撮像可能な空間のうちの一部又は全部である。
そして、ジェスチャ検知部121は、撮影により取得したフレームから、人間の手の動きを検知し、手の動きを示す情報であるジェスチャ情報を生成する。カメラ108が可視光カメラである場合には、例えば、画像上の肌色部分を抽出することで、人間の手をその他の被写体と区別した上で、人間の手の動きを検知して、ジェスチャ情報を生成する。カメラ108が赤外線カメラである場合には、人間の手から放射される赤外線を検出することで人間の手の動きを検知して、ジェスチャ情報を生成する。なお、ジェスチャ操作は、手によるものに限られず、ユーザの身体の他の一部によるものであってもよい。ジェスチャ検知部121は、CPU101、メインメモリ102、ストレージ103及びカメラ108等により実現される。
なお、ジェスチャ検知部121は、ユーザから見て上向き、下向き、左向き及び右向きの4方向だけのスワイプジェスチャ操作を検出するようにしてもよい。ユーザがスワイプジェスチャ操作により意図した向きと、現実にユーザが自身の手を払うように動かす方向とは、厳密には一致しないことが考えられる。例えば、ユーザが上向きのスワイプジェスチャ操作を行うことを意図しても、現実にユーザが手を動かす方向は正確に上向きにならず、上向きから少し右に傾いた方向になることがあると考えられる。上記4方向だけのスワイプジェスチャ操作を検出するようしておくことで、上記のような正確な上向きから少しずれた角度のスワイプジェスチャ操作を上向きと判定することができる。
なお、実施の形態1と同様に、制御部113は、表示部114の表示領域のうちの上方、下方、左方及び右方のそれぞれの方向に、4つの情報のうち当該方向に対応付けられた情報を示すアイコンを表示する。このアイコンは、どの方向にスワイプジェスチャ操作をすればどの情報が表示されるかをユーザに案内するためのアイコンである。
図19は、本実施の形態における制御部113による表示の変更についての処理を示すフロー図である。図20は、実施の形態2における制御部113による表示の維持及びその解除についての一連の流れを示す模式図である。これらの図を参照しながら、制御部113による表示の維持及びその解除についての一連の流れについて説明する。
まず、ヘッドマウントディスプレイ10Aの姿勢が正面を向く姿勢であり、表示部114に何も表示されていない状態であるとする。この状態は、図20の(a)に相当する。
ステップS301において、ジェスチャ検知部121は、ユーザによるスワイプジェスチャ操作を検知するか否かを判定する。ジェスチャ検知部121がスワイプジェスチャ操作を検知した場合(ステップS301でYes)には、ジェスチャ情報を生成した上でステップS311に進む。一方、スワイプジェスチャ操作を検知しない場合(ステップS301でNo)には、ステップS302に進む。ステップS301は、図20の(b)に相当する。図20の(b)において、ユーザが手U2により上方から下方(下向き)のスワイプジェスチャ操作をしたことに基づいて、当該スワイプジェスチャ操作の始点である上方に対応する向きである上向きに対応付けられた天気予報の情報が表示部114に表示される。
ステップS302において、姿勢検知部111は、ヘッドマウントディスプレイ10の姿勢の変化を検知するか否かを判定する。上記姿勢の変化を検知したら姿勢情報を生成した上でステップS303へ進む。
ステップS303において、制御部113は、ステップS302で姿勢検知部111が生成した姿勢情報に基づいて、表示部114が表示する情報を変更する。
ステップS311において、制御部113は、ステップS301でジェスチャ検知部121が生成したジェスチャ情報を取得し、当該ジェスチャ情報に基づいて、表示部114が表示する情報を変更する。
なお、表示部114に情報を表示するためのスワイプジェスチャ操作と反対向きを示すスワイプジェスチャ操作により、表示を消去する(表示することをやめる)こともできる(図20の(c))。
なお、ヘッドマウントディスプレイ10Aは、実施の形態1におけるヘッドマウントディスプレイ10と組み合わせることも可能である。具体的には、ヘッドマウントディスプレイ10Aが、さらに、ボタン106及び操作検知部112を備えることで、ユーザによる所定の操作に基づいて表示を維持することができる。
以上のように、本実施の形態におけるヘッドマウントディスプレイは、ヘッドマウントディスプレイは、ユーザが所望する情報を適切にユーザに提示することができる。特に、ユーザは、ヘッドマウントディスプレイの姿勢を変化させる代わりにスワイプ操作によって表示情報を変化させることができる。そのため、例えば、ユーザは、正面を向いたままの状態でスワイプ操作によって必要な情報を表示させることで、本来ヘッドマウントディスプレイの姿勢を変化させることで表示される情報を表示させ、把握することできる。このように、ユーザは、直感的、且つ人前でも違和感の無い自然な動作による情報収集と、把握に比較的長い時間を要する情報の内容把握を両立させることができる。
なお、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記各実施の形態のヘッドマウントディスプレイなどを実現するソフトウェアは、次のようなプログラムである。
すなわち、このプログラムは、コンピュータに、ユーザの頭部に装着されるヘッドマウントディスプレイの制御方法であって、前記ヘッドマウントディスプレイは、情報を表示する表示部を備え、前記制御方法は、前記ヘッドマウントディスプレイの姿勢を検知する姿勢検知ステップと、前記ヘッドマウントディスプレイへの所定の操作を検知する操作検知ステップと、前記姿勢検知ステップで検知した姿勢の変化に応じて前記表示部が表示する情報を変更する制御ステップとを含み、前記制御ステップでは、さらに、前記操作検知ステップが前記所定の操作を検知した場合には、前記姿勢検知ステップで検知した姿勢に変化があっても、前記表示部が表示している情報を変更せずに維持する制御方法を実行させる。
また、このプログラムは、コンピュータに、ユーザの頭部に装着されるヘッドマウントディスプレイの制御方法であって、前記ヘッドマウントディスプレイは、情報を表示する表示部を備え、前記制御方法は、前記ヘッドマウントディスプレイの姿勢を検知する姿勢検知ステップと、操作空間におけるスワイプジェスチャ操作であって、一の方向を示すスワイプジェスチャ操作を検知するジェスチャ検知ステップと、前記姿勢検知ステップで検知した姿勢の変化に応じて前記表示部が表示する情報を変更する制御ステップとを含み、前記制御ステップでは、さらに、前記ジェスチャ検知ステップで検知した前記スワイプジェスチャ操作により示される方向に応じて前記表示部が表示する情報を変更する制御方法を実行させる。
以上、一つまたは複数の態様に係るヘッドマウントディスプレイなどについて、実施の形態に基づいて説明したが、本発明は、この実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
本発明は、ユーザが所望する情報を適切にユーザに提示するヘッドマウントディスプレイに利用可能である。
10、10A ヘッドマウントディスプレイ
11、11A 本体部
12 鼻あて部
13 つる
14 耳かけ部
101 CPU
102 メインメモリ
103 ストレージ
104 通信IF
105 加速度センサ
106 ボタン
107 ディスプレイ
108 カメラ
111 姿勢検知部
112 操作検知部
113 制御部
114 表示部
115 判定部
121 ジェスチャ検知部
701 視界
711、712、713、714 アイコン
801、901、1301、1401、1501 画像
802、902 枠
U1 指
U2 手

Claims (21)

  1. ユーザの頭部に装着されるヘッドマウントディスプレイであって、
    前記ヘッドマウントディスプレイの姿勢を検知する姿勢検知部と、
    前記ヘッドマウントディスプレイへの所定の操作を検知する操作検知部と、
    情報を表示する表示部と、
    前記姿勢検知部が検知した姿勢の変化に応じて前記表示部が表示する情報を変更する制御部とを備え、
    前記制御部は、さらに、
    前記操作検知部が前記所定の操作を検知した場合には、前記姿勢検知部が検知した姿勢に変化があっても、前記表示部が表示している情報を変更せずに維持する
    ヘッドマウントディスプレイ。
  2. 前記制御部は、
    前記操作検知部が前記所定の操作を検知した場合であって、前記姿勢検知部が検知した姿勢に変化がある場合には、前記表示部が表示する情報を変更せずに維持するとともに、前記情報の表示態様を変化させる
    請求項1に記載のヘッドマウントディスプレイ。
  3. 前記表示部は、前記情報を表示する際には、前記情報とともに前記情報の背景として図形を表示し、
    前記制御部は、
    前記図形の色を変化させることで、前記情報の表示態様を変化させる
    請求項2に記載のヘッドマウントディスプレイ。
  4. 前記表示部は、前記情報を表示する際には、前記情報とともに前記情報を囲む枠を表示し、
    前記制御部は、
    前記枠の太さ又は色を変化させることで、前記情報の表示態様を変化させる
    請求項2又は3に記載のヘッドマウントディスプレイ。
  5. 前記ヘッドマウントディスプレイは、さらに、
    前記表示部が表示する情報の情報量が所定より大きいか否かを判定する第一判定部を備え、
    前記制御部は、
    前記情報量が所定より大きいと判定された場合に限り、前記操作検知部が前記所定の操作を検知したときに、前記姿勢検知部が検知した姿勢に変化があっても、前記表示部が表示する情報を変更せずに維持する
    請求項1〜4のいずれか1項に記載のヘッドマウントディスプレイ。
  6. 前記ヘッドマウントディスプレイは、さらに、
    前記表示部が表示する情報の情報量が所定より小さいか否かを判定する第二判定部を備え、
    前記制御部は、
    前記情報量が所定より小さいと判定された場合には、前記操作検知部が前記所定の操作を検知しても、前記姿勢検知部が検知した姿勢の変化に応じて、前記表示部が表示する情報を変更する
    請求項1〜5のいずれか1項に記載のヘッドマウントディスプレイ。
  7. 前記制御部は、
    前記操作検知部が前記所定の操作を検知した後に、さらに前記所定の操作と同一の後続操作を検知した場合には、前記操作検知部が前記後続操作を検知した時に前記姿勢検知部が検知した姿勢に基づいて、前記表示部に表示する情報を変更する
    請求項1〜6のいずれか1項に記載のヘッドマウントディスプレイ。
  8. 前記制御部は、
    前記操作検知部が前記所定の操作を検知した後に、さらに前記所定の操作と同一の後続操作を検知した場合には、前記表示部による情報の表示を停止する
    請求項1〜6のいずれか1項に記載のヘッドマウントディスプレイ。
  9. 前記操作検知部は、
    操作ボタンを有し、
    前記操作ボタンの押下、又は、前記操作ボタンへの接触を、前記所定の操作として検知する
    請求項1〜8のいずれか1項に記載のヘッドマウントディスプレイ。
  10. 前記操作検知部は、
    タッチパッドを有し、
    前記タッチパッドへのタップを、前記所定の操作として検知する
    請求項1〜9のいずれか1項に記載のヘッドマウントディスプレイ。
  11. 前記操作検知部は、
    マイク、及び、前記マイクが収音した音声を音声認識することでユーザによる発話を取得する音声認識装置を有し、
    前記音声認識装置により、所定の発話を取得したことを、前記所定の操作として検知する
    請求項1〜10のいずれか1項に記載のヘッドマウントディスプレイ。
  12. 前記姿勢検知部は、さらに、
    前記姿勢が、前記ユーザにとっての上方、下方、左方及び右方のどの方向に基準姿勢から変化した姿勢であるかを示す姿勢情報を生成し、
    前記制御部は、さらに、
    (i)前記表示部が表示するための情報として、上方、下方、左方及び右方のそれぞれの方向に対応付けられた4つの情報を保有しており、
    (ii)前記表示部の表示領域のうちの上方、下方、左方及び右方のそれぞれの方向に、前記4つの情報のうち当該方向に対応付けられた情報を示すアイコンを表示し、
    (iii)前記姿勢検知部が前記姿勢情報を生成した場合に、生成された前記姿勢情報により示される方向に対応付けられた情報を前記表示部に表示する
    請求項1〜11のいずれか1項に記載のヘッドマウントディスプレイ。
  13. 前記ヘッドマウントディスプレイは、さらに、
    操作空間におけるスワイプジェスチャ操作であって、一の方向を示すスワイプジェスチャ操作を検知するジェスチャ検知部を備え、
    前記制御部は、さらに、
    前記ジェスチャ検知部が検知した前記スワイプジェスチャ操作により示される方向に応じて前記表示部が表示する情報を変更する
    請求項1〜12のいずれか1項に記載のヘッドマウントディスプレイ。
  14. ユーザの頭部に装着されるヘッドマウントディスプレイであって、
    前記ヘッドマウントディスプレイの姿勢を検知する姿勢検知部と、
    操作空間におけるスワイプジェスチャ操作であって、一の方向を示すスワイプジェスチャ操作を検知するジェスチャ検知部と、
    情報を表示する表示部と、
    前記姿勢検知部が検知した姿勢の変化に応じて前記表示部が表示する情報を変更する制御部とを備え、
    前記制御部は、さらに、
    前記ジェスチャ検知部が検知した前記スワイプジェスチャ操作により示される方向に応じて前記表示部が表示する情報を変更する
    ヘッドマウントディスプレイ。
  15. 前記ジェスチャ検知部は、
    (a)前記ユーザの手が上方から下方へ移動したことを、下方向を示すスワイプジェスチャ操作として検出し、
    (b)前記ユーザの手が下方から上方へ移動したことを、上方向を示すスワイプジェスチャ操作として検出し、
    (c)前記ユーザの手が左方から右方へ移動したことを、右方向を示すスワイプジェスチャ操作として検出し、
    (d)前記ユーザの手が右方から左方へ移動したことを、左方向を示すスワイプジェスチャ操作として検出し、
    前記制御部は、
    前記ジェスチャ検知部が検知した前記スワイプジェスチャ操作により示される方向に応じて前記表示部が表示する情報を変更する
    請求項13〜14のいずれか1項に記載のヘッドマウントディスプレイ。
  16. 前記姿勢検知部は、さらに、
    前記制御部は、さらに、
    (i)前記表示部が表示するための情報として、上方、下方、左方及び右方のそれぞれの方向に対応付けられた4つの情報を保有しており、
    (ii)前記表示部の表示領域のうちの上方、下方、左方及び右方のそれぞれの方向に、前記4つの情報のうち当該方向に対応付けられた情報を示すアイコンを表示し、
    (iii)前記ジェスチャ検知部が前記スワイプジェスチャ操作を検知した場合に、前記スワイプジェスチャ操作の始点となる方向に対応付けられた情報を前記表示部に表示する
    請求項14に記載のヘッドマウントディスプレイ。
  17. 前記ジェスチャ検知部は、前記ユーザの手を可視光により撮影するカメラを有し、
    前記カメラにより撮影された前記ユーザの手の動きに基づいて前記スワイプジェスチャ操作を検知する
    請求項13〜16のいずれか1項に記載のヘッドマウントディスプレイ。
  18. 前記ジェスチャ検知部は、前記ユーザの手から発せられる赤外線を取得する赤外線センサを有し、
    前記赤外線センサにより取得された前記ユーザの手の動きに基づいて前記スワイプジェスチャ操作を検知する
    請求項13〜16のいずれか1項に記載のヘッドマウントディスプレイ。
  19. 前記ヘッドマウントディスプレイは、さらに、
    前記ヘッドマウントディスプレイへの所定の操作を検知する操作検知部を備え、
    前記操作検知部がユーザによる前記所定の操作を検知した場合には、前記姿勢検知部が検知した姿勢に変化があっても、前記表示部が表示する情報を変更せずに維持する
    請求項14に記載のヘッドマウントディスプレイ。
  20. ユーザの頭部に装着されるヘッドマウントディスプレイの制御方法であって、
    前記ヘッドマウントディスプレイは、情報を表示する表示部を備え、
    前記制御方法は、
    前記ヘッドマウントディスプレイの姿勢を検知する姿勢検知ステップと、
    前記ヘッドマウントディスプレイへの所定の操作を検知する操作検知ステップと、
    前記姿勢検知ステップで検知した姿勢の変化に応じて前記表示部が表示する情報を変更する制御ステップとを含み、
    前記制御ステップでは、さらに、
    前記操作検知ステップが前記所定の操作を検知した場合には、前記姿勢検知ステップで検知した姿勢に変化があっても、前記表示部が表示している情報を変更せずに維持する
    制御方法。
  21. ユーザの頭部に装着されるヘッドマウントディスプレイの制御方法であって、
    前記ヘッドマウントディスプレイは、情報を表示する表示部を備え、
    前記制御方法は、
    前記ヘッドマウントディスプレイの姿勢を検知する姿勢検知ステップと、
    操作空間におけるスワイプジェスチャ操作であって、一の方向を示すスワイプジェスチャ操作を検知するジェスチャ検知ステップと、
    前記姿勢検知ステップで検知した姿勢の変化に応じて前記表示部が表示する情報を変更する制御ステップとを含み、
    前記制御ステップでは、さらに、
    前記ジェスチャ検知ステップで検知した前記スワイプジェスチャ操作により示される方向に応じて前記表示部が表示する情報を変更する
    制御方法。
JP2015089815A 2015-04-24 2015-04-24 ヘッドマウントディスプレイ、及び、ヘッドマウントディスプレイの制御方法 Active JP6534292B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2015089815A JP6534292B2 (ja) 2015-04-24 2015-04-24 ヘッドマウントディスプレイ、及び、ヘッドマウントディスプレイの制御方法
US15/131,902 US9983840B2 (en) 2015-04-24 2016-04-18 Head-mounted display apparatus worn on user's head
CN201610252375.6A CN106066537B (zh) 2015-04-24 2016-04-21 头戴式显示器和头戴式显示器的控制方法
US15/784,605 US9946504B2 (en) 2015-04-24 2017-10-16 Head-mounted display apparatus worn on user's head
US15/962,528 US10359982B2 (en) 2015-04-24 2018-04-25 Head-mounted display apparatus worn on user's head
US16/454,177 US10747488B2 (en) 2015-04-24 2019-06-27 Head-mounted display apparatus worn on user's head

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015089815A JP6534292B2 (ja) 2015-04-24 2015-04-24 ヘッドマウントディスプレイ、及び、ヘッドマウントディスプレイの制御方法

Publications (2)

Publication Number Publication Date
JP2016208370A true JP2016208370A (ja) 2016-12-08
JP6534292B2 JP6534292B2 (ja) 2019-06-26

Family

ID=57147732

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015089815A Active JP6534292B2 (ja) 2015-04-24 2015-04-24 ヘッドマウントディスプレイ、及び、ヘッドマウントディスプレイの制御方法

Country Status (3)

Country Link
US (4) US9983840B2 (ja)
JP (1) JP6534292B2 (ja)
CN (1) CN106066537B (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10437070B2 (en) 2016-12-23 2019-10-08 Realwear, Inc. Interchangeable optics for a head-mounted display
US11507216B2 (en) 2016-12-23 2022-11-22 Realwear, Inc. Customizing user interfaces of binary applications
US10936872B2 (en) * 2016-12-23 2021-03-02 Realwear, Inc. Hands-free contextually aware object interaction for wearable display
US11099716B2 (en) 2016-12-23 2021-08-24 Realwear, Inc. Context based content navigation for wearable display
JP2019016316A (ja) 2017-07-11 2019-01-31 株式会社日立エルジーデータストレージ 表示システム、及び表示システムの表示制御方法
US10921879B2 (en) * 2019-06-07 2021-02-16 Facebook Technologies, Llc Artificial reality systems with personal assistant element for gating user interface elements
CN112506335B (zh) * 2019-09-16 2022-07-12 Oppo广东移动通信有限公司 头戴式设备及其控制方法、装置、系统和存储介质
WO2022074815A1 (ja) * 2020-10-09 2022-04-14 マクセル株式会社 携帯端末とヘッドマウントディスプレイ及びその連携表示システム
CN112667079A (zh) * 2020-12-25 2021-04-16 海信视像科技股份有限公司 一种虚拟现实设备及反向提示画面显示方法
JP2022156159A (ja) * 2021-03-31 2022-10-14 セイコーエプソン株式会社 頭部装着型装置、頭部装着型装置の制御方法及び制御プログラム
US11288027B1 (en) * 2021-04-14 2022-03-29 Varjo Technologies Oy Peripheral display apparatus and system
CN112988107A (zh) * 2021-04-25 2021-06-18 歌尔股份有限公司 一种音量调节方法、系统及头戴式设备
CN115291729A (zh) * 2022-08-10 2022-11-04 立讯精密科技(南京)有限公司 头戴式设备的提醒方法及头戴式设备
WO2024122979A1 (ko) * 2022-12-05 2024-06-13 삼성전자주식회사 전경 객체의 사이즈 또는 개수에 기반하여 배경 객체를 변경하기 위한 웨어러블 장치 및 그 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH086708A (ja) * 1994-04-22 1996-01-12 Canon Inc 表示装置
JP2004021931A (ja) * 2002-06-20 2004-01-22 West Unitis Kk 作業誘導システム
JP2013168910A (ja) * 2012-02-17 2013-08-29 Sony Corp ヘッドマウントディスプレイ、ヘッドマウントディスプレイ制御プログラム及びヘッドマウントディスプレイの制御方法
US20130246967A1 (en) * 2012-03-15 2013-09-19 Google Inc. Head-Tracked User Interaction with Graphical Interface
JP2014021983A (ja) * 2012-07-16 2014-02-03 Samsung Electronics Co Ltd タッチ及びジェスチャー入力を用いた端末の制御方法及びその端末

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4757714A (en) * 1986-09-25 1988-07-19 Insight, Inc. Speed sensor and head-mounted data display
US20020044152A1 (en) * 2000-10-16 2002-04-18 Abbott Kenneth H. Dynamic integration of computer generated and real world images
US20050055645A1 (en) * 2003-09-09 2005-03-10 Mitutoyo Corporation System and method for resizing tiles on a computer display
US8964298B2 (en) * 2010-02-28 2015-02-24 Microsoft Corporation Video display modification based on sensor input for a see-through near-to-eye display
US8670183B2 (en) * 2011-03-07 2014-03-11 Microsoft Corporation Augmented view of advertisements
WO2013093906A1 (en) * 2011-09-19 2013-06-27 Eyesight Mobile Technologies Ltd. Touch free interface for augmented reality systems
CN102346646A (zh) * 2011-09-19 2012-02-08 百度在线网络技术(北京)有限公司 一种用于在移动终端的显示屏幕上显示内容的方法与装置
CN103270456B (zh) * 2011-10-20 2016-11-23 松下知识产权经营株式会社 显示装置及显示系统
US9291823B2 (en) * 2012-03-30 2016-03-22 Google Inc. Wearable device with input and output structures
JP5847014B2 (ja) * 2012-05-17 2016-01-20 オリンパス株式会社 頭部装着型表示装置
WO2014097404A1 (ja) * 2012-12-18 2014-06-26 パイオニア株式会社 ヘッドアップディスプレイ、制御方法、プログラム、及び記憶媒体
WO2014128751A1 (ja) 2013-02-19 2014-08-28 株式会社ブリリアントサービス ヘッドマウントディスプレイ装置、ヘッドマウントディスプレイ用プログラム、およびヘッドマウントディスプレイ方法
TW201502581A (zh) * 2013-07-11 2015-01-16 Seiko Epson Corp 頭部配戴型顯示裝置及頭部配戴型顯示裝置之控制方法
KR102083596B1 (ko) * 2013-09-05 2020-03-02 엘지전자 주식회사 디스플레이장치 및 디스플레이장치의 동작방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH086708A (ja) * 1994-04-22 1996-01-12 Canon Inc 表示装置
JP2004021931A (ja) * 2002-06-20 2004-01-22 West Unitis Kk 作業誘導システム
JP2013168910A (ja) * 2012-02-17 2013-08-29 Sony Corp ヘッドマウントディスプレイ、ヘッドマウントディスプレイ制御プログラム及びヘッドマウントディスプレイの制御方法
US20130246967A1 (en) * 2012-03-15 2013-09-19 Google Inc. Head-Tracked User Interaction with Graphical Interface
JP2014021983A (ja) * 2012-07-16 2014-02-03 Samsung Electronics Co Ltd タッチ及びジェスチャー入力を用いた端末の制御方法及びその端末

Also Published As

Publication number Publication date
US9946504B2 (en) 2018-04-17
US9983840B2 (en) 2018-05-29
US20160313956A1 (en) 2016-10-27
US20180239573A1 (en) 2018-08-23
CN106066537A (zh) 2016-11-02
US20180039466A1 (en) 2018-02-08
US10359982B2 (en) 2019-07-23
US20190317717A1 (en) 2019-10-17
CN106066537B (zh) 2020-07-24
US10747488B2 (en) 2020-08-18
JP6534292B2 (ja) 2019-06-26

Similar Documents

Publication Publication Date Title
JP2016208370A (ja) ヘッドマウントディスプレイ、及び、ヘッドマウントディスプレイの制御方法
US10082940B2 (en) Text functions in augmented reality
US20210407203A1 (en) Augmented reality experiences using speech and text captions
US10133407B2 (en) Display apparatus, display system, method for controlling display apparatus, and program
JP4927631B2 (ja) 表示装置、その制御方法、プログラム、記録媒体および集積回路
US10477090B2 (en) Wearable device, control method and non-transitory storage medium
CN110546601B (zh) 信息处理装置、信息处理方法和程序
CN105393192A (zh) 用于近眼显示器的网状分层菜单显示配置
KR102361025B1 (ko) 웨어러블 글래스 및 웨어러블 글래스를 통하여 영상을 디스플레이하는 방법
US10409324B2 (en) Glass-type terminal and method of controlling the same
KR20190121758A (ko) 정보 처리 장치, 정보 처리 방법, 및 프로그램
JPWO2015170520A1 (ja) 情報処理システムおよび情報処理方法
CN108369451B (zh) 信息处理装置、信息处理方法及计算机可读存储介质
JP6638392B2 (ja) 表示装置、表示システム、表示装置の制御方法、及び、プログラム
WO2015136952A1 (ja) ジェスチャー認識装置、ヘッドマウントディスプレイ、および携帯端末
JP6740613B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム
US11475866B2 (en) Head-mounted display apparatus, input method switching method, and input method switching program
KR102312601B1 (ko) 시선 추적을 이용한 시인성 개선 방법, 저장 매체 및 전자 장치
JP7031112B1 (ja) 眼鏡型端末
KR102522142B1 (ko) 양손 제스처를 이용해 조작 신호를 입력하는 착용형 증강현실 장치 및 양손 제스처를 이용한 착용형 증강현실 장치의 조작 방법
US20240089362A1 (en) Terminal Device
KR20210125465A (ko) 시선 추적을 이용한 시인성 개선 방법, 저장 매체 및 전자 장치
CN115877942A (zh) 电子设备以及通过检测用户眼睛的状态来控制其的方法
JP2019053714A (ja) 頭部装着型表示装置、及び頭部装着型表示装置の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180925

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190521

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190528

R150 Certificate of patent or registration of utility model

Ref document number: 6534292

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150