JP6490804B2 - タップによって制御されるヘッドマウント型ディスプレイ装置、その制御方法、及びその制御のためのコンピュータプログラム - Google Patents

タップによって制御されるヘッドマウント型ディスプレイ装置、その制御方法、及びその制御のためのコンピュータプログラム Download PDF

Info

Publication number
JP6490804B2
JP6490804B2 JP2017514798A JP2017514798A JP6490804B2 JP 6490804 B2 JP6490804 B2 JP 6490804B2 JP 2017514798 A JP2017514798 A JP 2017514798A JP 2017514798 A JP2017514798 A JP 2017514798A JP 6490804 B2 JP6490804 B2 JP 6490804B2
Authority
JP
Japan
Prior art keywords
value
display device
mounted display
head
tap
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017514798A
Other languages
English (en)
Other versions
JP2017531388A (ja
Inventor
キョン コン ナ,
キョン コン ナ,
クヮン ジン チェ,
クヮン ジン チェ,
Original Assignee
エフエックスギア インコーポレイテッド
エフエックスギア インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by エフエックスギア インコーポレイテッド, エフエックスギア インコーポレイテッド filed Critical エフエックスギア インコーポレイテッド
Publication of JP2017531388A publication Critical patent/JP2017531388A/ja
Application granted granted Critical
Publication of JP6490804B2 publication Critical patent/JP6490804B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/02Viewing or reading apparatus
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/023Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/36Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source using liquid crystals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/64Constructional details of receivers, e.g. cabinets or dust covers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Optics & Photonics (AREA)
  • Computer Hardware Design (AREA)
  • Chemical & Material Sciences (AREA)
  • Crystallography & Structural Chemistry (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • User Interface Of Digital Computer (AREA)

Description

実施例は、ヘッドマウント型ディスプレイ装置(Head−Mounted Display;HMD)、その制御のための方法、及びコンピュータプログラムに係り、より詳しくは、別途のコントローラなしでHMDに加えられたタップ(tap)によって制御できるように構成されたHMD及びその制御技術に関する。
ヘッドマウント型ディスプレイ装置(Head−Mounted Display;HMD)は、頭部に着用する形態の携帯ディスプレイ装置であって、表示装置をゴーグルやヘルメットのような形態で頭部に装着することによって眼前の至近距離に画像の焦点が結ぶように構成された装備である。HMDを着用したユーザは、視界全体が画像で覆われることになってバーチャルリアリティのような感じを受けることができ、軍事用、医療用、及び個人用などの多様な分野に応用されている。
一例として、日本公開特許公報第1999-161190では、ユーザの頭部の動きを検出し、検出された結果に基づいて表示素子に表示される情報を制御する技術を開示している。しかし、この種の従来のHMDにおけるユーザの動きは表示素子に表示される視点の切り替えだけに用いられており、表示される情報に対するイベント(event)処理などの制御のためには別途のコントローラ、例えば、タッチパッド、ゲームパッドなどを必要とするという短所がある。
本発明の一側面によれば、別途のコントローラなしでヘッドマウント型ディスプレイ装置(Head−Mounted Display;HMD)に加えられるタップ(tap)を入力信号として用いてHMDに表示されるイメージが制御できるように構成されたHMD及びその制御方法、並びにそのためのコンピュータプログラムを提供することができる。
一実施例に係るヘッドマウント型ディスプレイ装置(Head−Mounted Display;HMD)は、センサ部と、イメージを表示するように構成された表示部、及び前記センサ部による測定値から前記HMDに加えられたタップを測定し、前記タップを入力信号として用いて、前記表示部に表示されるイメージを制御するように構成された制御部と、を含む。
前記制御部は、前記測定値を予め設定された基準値と比較することによって前記HMDに加えられたタップ情報を検出するように構成されていてよい。このとき、前記タップ情報は、タップの有無、回数、及び位置情報を含んでいてよい。また、前記測定値及び前記基準値は、前記HMDを着用したユーザの動きまたは前記HMDで発生した音との少なくとも一方に基づく信号であってよい。
前記制御部は、前記タップを前記入力信号として用いて、前記表示部に表示されるイメージの種類、出力部分、出力形態、及び再生速度の一つ以上を変化させるように構成されていてもよい。
一実施例に係るHMDの制御方法は、前記HMDにイメージを表示する段階と、前記HMDに加えられたタップを測定する段階、及び前記HMDに加えられたタップを入力信号として用いて、前記HMDに表示されるイメージを制御する段階と、を含む。
前記タップを測定する段階は、前記HMDのセンサによって得られた測定値を予め設定された基準値と比較することによって前記HMDに加えられたタップ情報を検出する段階を含んでいてよい。このとき、前記タップ情報は、タップの有無、回数、及び位置情報を含んでいてよい。また、前記測定値及び前記基準値は、前記HMDを着用したユーザの動きまたは前記HMDで発生した音との少なくとも一方に基づく信号であってよい。
前記HMDに表示されるイメージを制御する段階は、前記タップを前記入力信号として用いて、前記HMDに表示されるイメージの種類、出力部分、出力形態、及び再生速度の一つ以上を変化させる段階を含んでいてもよい。
一実施例に係るコンピュータプログラムは、HMDに結合されて、前記HMDの制御方法を行うように媒体に記録されたものであってよい。
本発明の一側面に係るヘッドマウント型ディスプレイ装置(Head−Mounted Display;HMD)及びその制御方法を用いると、HMDに加えられるタップ(tap)を入力信号として用いてHMDに表示されるイメージを制御することによって、別途のコントローラがなくてもイベント(event)処理などが可能であるという利点がある。
一実施例に係るヘッドマウント型ディスプレイ装置(Head−Mounted Display;HMD)のブロック図である。 一実施例に係るHMDで用いられる例示的な基準信号の波形を示すグラフである。 一実施例に係るHMDで用いられる例示的な基準信号の波形を示すグラフである。 一実施例に係るHMDで用いられる例示的な基準信号の波形を示すグラフである。 一実施例に係るHMDで用いられる例示的な基準信号の波形を示すグラフである。 一実施例に係るHMDで用いられる例示的な基準信号の波形を示すグラフである。 一実施例に係るHMDで用いられる例示的な基準信号の波形を示すグラフである。
以下、図面を参照して本発明の実施例について詳述する。
図1は、一実施例に係るヘッドマウント型ディスプレイ装置(Head−Mounted Display;HMD)のブロック図である。
図1を参照すると、本実施例に係るHMDは、センサ部10、表示部20、及び制御部30を含む。一実施例において、HMDは、通信部40及び/または格納部50を更に含んでいてよい。本実施例に係るHMDは、ユーザが頭部にHMDを着用できるように構成され、必要に応じて一つまたは複数の固定手段(図示せず)を含んでいてよい。例えば、実施例に係るHMDは、ゴーグル(goggle)またはヘルメットのような形態で実現されていてよいが、必ずしもこれらに限定されるものではない。
実施例に係るHMDは、全てがハードウェアであるか、または全てがソフトウェアであるか、または部分的にハードウェアで部分的にソフトウェアである側面を有していてよい。例えば、本明細書においてHMDを構成する各「部(unit)」は、ハードウェア及びこれを駆動させるための運用ソフトウェアを通称するものであってよい。また、ハードウェアは、CPUまたは他のプロセッサ(processor)を含むデータ処理機器であってよい。また、ハードウェアによって駆動されるソフトウェアは、実行中のプロセス、オブジェクト(object)、実行ファイル(executable)、実行スレッド(thread of execution)、プログラム(program)などを指すものであってよい。
また、実施例に係るHMDを構成する各部は、必ずしも物理的に区分される別個の構成要素を指すものを意図しない。図1においてセンサ部10、表示部20、及び制御部30などを互いに区分される別個のブロックにて図示しているが、実施例によっては、センサ部10、表示部20、及び制御部30の一部または全てを一つの素子として集積化することもできる。例えば、マイクロプロセッサ(microprocessor)のような処理手段、加速度センサ、及びタッチスクリーンを備えたスマートフォン(smartphone)が前述したセンサ部10、表示部20、及び制御部30の一つ以上に該当することがあり、このようなスマートフォンが頭部に装着可能な他の部材(図示せず)に結合されて実施例に係るHMDを構成することもできる。すなわち、本明細書に記載されたHMDは、他の部材を介してヘッドマウント用として使用可能なスマートフォンであってもよい。
センサ部10は、HMDに加えられるタップ(tap)を検出するための基礎になる測定値を得るための部分である。例えば、センサ部10は、加速度計(accelerometer)、磁気計(magnetometer)及び/またはジャイロスコープ(gyroscope)などのようにHMDを着用したユーザの動きを測定することができる一つ以上のセンサからなるものであってよい。この場合、これらのセンサによる測定値をタップに対応する動きの基準値と比較することでHMDに加えられたタップを測定することができる。または、センサ部10は、マイクのように音を測定することができる一つ以上のセンサからなるものであってもよく、この場合は、HMDがタップされるときに発生する音を用いてタップを測定することができる。タップの具体的な測定過程については後述する。
センサ部10がユーザの動きを測定するように構成された一つまたは複数のセンサからなる場合、センサ部10の測定値は、タップの検出だけでなくユーザの視点に応じて表示されるイメージに対応する視点を変化させるのにも用いられ得る。これは、広視野角イメージの一部を出力しながらHMDを着用したユーザの頭部が動くことに対応してイメージの表示される部分を移動させることによってユーザが現実感を感じられるようにし、従来のHMDに用いられるのと同じ表示形態である。例えば、ユーザが頭部を右側に回すと、表示部20に表示されるイメージ全体をこれに対応して左側に移動させることによって、ユーザをしてイメージにて表示された仮想空間で首を回して右側を眺めたように感じさせることである。しかし、これは例示的なものに過ぎず、他の実施例において、センサ部10は、HMDに加えられたタップのみを測定するために備えられ、ユーザの動きは、センサ部10ではない別途の装置によって測定されてもよい。
表示部20は、ユーザの眼付近に位置してイメージを表示するための部分である。表示部20は、液晶表示装置(Liquid Crystal Display;LCD)または他の適切な画像表示素子を含んでいてよい。また、表示部20は、画像表示素子によって表示されるイメージの焦点がユーザの眼またはその付近に結ぶようにするための凸レンズなどの一つ以上の光学素子をさらに含んでいてもよい。本明細書において表示部20に表示されるイメージは、写真のような単一のイメージまたは映像のような一連の連続したイメージをいずれも含むものと意図される。例えば、映像及び/または音声を含む動画などのコンテンツ(contents)も本明細書に記載されたイメージに含まれ得る。
一実施例において、HMDは通信部40を更に含み、表示部20に表示されるイメージは、通信部40によりネットワークを介して遠隔サーバ(図示せず)から受信するものであってよい。例えば、通信部40は、ストリーミング(streaming)方式にてイメージを受信することもできる。また、HMDは、通信部40を介して遠隔サーバにデータを転送することもできる。他の実施例において、表示部20に表示されるイメージは、格納部50に予め格納されていたものであってよい。格納部50は、表示部20に表示されるイメージまたは他の更なるデータを格納してもよい。
制御部30は、センサ部10及び表示部20に通信可能に接続され、センサ部10による測定値からHMDに加えられたタップを検出する。また、制御部30は、タップが検出されると、これを入力信号として用いて、表示部20に表示されるイメージを制御する。制御部30は、タップを入力信号としてイメージに関連付けられた様々なイベント(event)を処理することができ、ここで、イベント処理は、イメージの種類、出力部分、出力形態、再生速度などの変化を指すものであってよい。例えば、表示されるイメージの選択、イメージの再生開始及び中断、イメージが時系列的な動画の場合、早送り(fast forward)、巻き戻し(rewind)、再生速度の増加及び減少、出力ボリュームの増加及び減少、全画面(full screen)モードのような表示形態の切替、イメージ上に表示されるメニュー、ボタン(button)またはアイコン(icon)などのユーザインタフェース(user interface)の操作がイベント処理に該当され得るが、これらに限定されるものではない。イメージがゲーム、バーチャルリアリティ(Virtual Reality;VR)または拡張現実(Augmented Reality;AR)アプリケーションの一部である場合は、かかるアプリケーションとの相互作用がHMDをタップすることによって行われていてもよい。
HMDにタップが加えられていない状態では、制御部30は、通常のHMDと同様に、ユーザの動きに応じてイメージに対応する視点が変化するように表示部20に表示されるイメージを制御することができる。例えば、ユーザが頭部を右側に回すと、制御部30は、表示部20に表示されるイメージ全体をこれに対応して左側に移動させる。しかし、センサ部10による測定値からHMDにタップが加えられたことが検出されると、制御部30は、タップを入力信号として表示部10に表示されるイメージを制御するように構成される。したがって、本実施例に係るHMDを着用したユーザは、別途のコントローラがなくても自身の頭部をタップするだけでイメージと相互作用することができる。
一実施例において、制御部30は、タップ検出部31及び基準値格納部32を含む。タップ検出部31は、センサ部10による測定値を基準値格納部32に予め設定された基準値と比較することによってHMDに加えられたタップを検出するように構成される。タップ検出部31は、HMDに加えられたタップを検出することができるように構成される。タップ検出部31は、HMDへのタップのために別途に備えられた特定の接触部(図示せず)に加えられるタップを検出するように構成されていてもよく、またはHMDの任意の部分に加えられるタップを検出するように構成されていてもよい。また、一実施例において、タップ検出部31は、更に、HMDへのタップが加えられた部分がどの部分であるかが判別できるように構成されていてよい。センサ部10の測定値及び基準値格納部32に格納された基準値は、タップを検出するためのセンサ部10がどのような種類のセンサで構成されたかに応じて適切な形態を有していてよい。
一実施例において、前記測定値及び前記基準値のそれぞれは、HMDを着用したユーザの動きに基づく信号であってよく、動きに基づく信号は、速度、加速度、角速度、及び/または方位の一つ以上を用いたものであってよい。センサ部10が振動を測定できる一つ以上のセンサで構成された場合、ユーザがHMDの任意の部分の表面をタップすると、振動によってセンサ部10に測定される振動には突然の信号大きさの変化またはパターンの変化が生じる。この結果、タップ検出部31では、ユーザの通常の頭部の動きと装置へのタップとを区分することができ、通常の頭部の動きではないタップが検出されると、タップ情報を入力信号としてイメージを制御することができる。
他の実施例において、前記測定値及び前記基準値のそれぞれは、HMDで発生した音に基づく信号であってよい。センサ部10が音を測定することができる一つ以上のセンサで構成された場合、ユーザがHMDの表面をタップすると、センサ部10で測定される信号の大きさが増加するようになる。このとき、タップ検出部31では、センサ部10の測定信号の増加からHMDがタップされたことを把握することができ、タップ情報を入力信号としてイメージを制御することができる。
タップ情報の検出過程について具体的に説明する。タップ検出部31では、センサ部10の測定値と基準値格納部32に予めデータベース化されて格納されたタップ基準信号のテンプレートマッチング(template matching)を用いて比較して類似度を算出することができる。類似度の算出アルゴリズムとしては、正規化相互相関(normalized cross correlation)アルゴリズムを用いてよく、その結果、類似度は下記の式1のように算出される。
式1
Figure 0006490804
前記式1中、S(x)はセンサ部10の測定信号であり、T(x)は予め格納されたタップ基準信号である。δ及びδは、それぞれ測定信号と基準信号の標準偏差であり、Saverage及びTaverageは、それぞれ測定信号と基準信号の平均である。特定時間区間の間に測定された信号に対し、前記式1にて算出された類似度が所定の閾値以上である場合、タップ検出部31は、HMDがタップされたと決定することができる。
基準信号が更に細分化されていれば、タップ検出部31は、タップの有無及び回数だけでなく、タップされた位置情報をも含むタップ情報を得ることができる。すなわち、HMDの上下・左右方向別の基準信号または他の方式にて区分された各位置別の基準信号を予め格納し、センサ部10の測定値を各位置別の基準信号と比較して、最も類似度の高い基準信号に対応する位置がタップされたと決定することができる。
しかし、前述したタップ情報の算出過程は単に例示的なものであって、他の実施例に係るHMDでは、前述した方式ではない他の方式にてHMDに加えられたタップを検出するように構成されていてもよい。
図2a乃至図2eは、一実施例に係るHMDで用いられる例示的な基準信号の波形を示すグラフであって、加速度計を利用した基準信号の波形を示す。
図2a乃至図2eの各グラフの点線四角形内に示されたように、タップを示す基準信号は、タップによって特定の区間で測定値が急増するピークを有する。例えば、ピークでの加速度測定値は約8.5m/sであってよいが、これに限定されるものではない。センサ部の測定値をこのような基準信号と比較した結果、類似度が予め決められた閾値(例えば、70%)以上の場合にタップがあったと決定することができる。
図3は、一実施例に係るHMDで用いられるまた他の例示的な基準信号の波形を示すグラフであって、音を用いた基準信号を示す。
図2を参照して前述した加速度に基づく基準信号と同様に、音を用いた基準信号もタップによって特定区間で測定値が急増するピークを有する。一例において、基準信号で音測定値はピークのときに約−5dBであり、最低値が約−75dBであってよいが、これに限定されるものではない。センサ部の測定値をこのような基準信号と比較した結果、類似度が予め決められた閾値(例えば、70%)以上の場合にタップがあったと決定することができる。
しかし、図2及び図3を参照して前述した基準信号の波形は単に例示的なものであって、センサの測定値がタップか否かを決定するための基準信号の種類、波形、及び信号の大きさなどは、使用するセンサの感度及び適用アプリケーションなどにより適宜決定すればよい。
以上で説明した実施例に係るHMDの動作及びこれを制御するための方法は、少なくとも部分的にコンピュータプログラムで実現され、コンピュータ読み取り可能な記録媒体に記録することができる。前記コンピュータ読み取り可能な記録媒体は、コンピュータ読み取り可能なデータが格納されるあらゆる種類の記録装置を含む。コンピュータ読み取り可能な記録媒体の例としては、ROM、RAM、CD−ROM、磁気テープ、フロッピーディスク、光データ記憶装置などがあり、また、搬送波(carrier wave)(例えば、インターネットを介した伝送の形態)で実現されることも含む。また、コンピュータ読み取り可能な記録媒体は、ネットワークに接続されたコンピュータシステムに分散され、分散方式にてコンピュータ読み取り可能なコードが格納され実行されていてもよい。また、本実施例を実現するための機能的なプログラム、コード、及びコードセグメント(segment)は本実施例の属する技術分野における通常の技術者によって容易に理解できるはずである。
以上、本発明を図面に示された実施例を参考にして説明してきたが、これは例示的なものに過ぎず、当該分野における通常の知識を有する者であればそれより種々の変形及び実施例の変形が可能であるという点が理解できるであろう。なお、このような変形は本発明の技術的保護範囲内にあるとみなすべきである。したがって、本発明の真の技術的保護範囲は、特許請求の範囲の技術的思想によって決定されるべきである。
実施例は、ヘッドマウント型ディスプレイ装置(Head−Mounted Display;HMD)とその制御のための方法、及びコンピュータプログラムに関する。

Claims (7)

  1. ヘッドマウント型ディスプレイ装置であって、
    センサ部と、
    イメージを表示する表示部、及び制御部を備え、
    該制御部は、
    前記センサ部によって得られた測定値が、前記ヘッドマウント型ディスプレイ装置を装着したユーザの動きまたは前記ヘッドマウント型ディスプレイ装置に加えられたタップのいずれかを示すかどうかを、前記測定値と予め設定された基準値との間の類似度を、正規化相互相関アルゴリズムを用いて演算することによって決定し、該正規化相互相関アルゴリズムは、所定の時間内の測定値の平均値と所定の時間内にセンサ部によって得られた測定値の標準偏差と予め設定された基準値の平均値と予め設定された基準値の標準偏差を使用し、且つ
    演算された類似度が所定の閾値以上である場合にはタップが発生したと判断し、演算された類似度が所定の閾値未満である場合にユーザのタップでない動きが発生したと判断することによって決定し、
    ユーザの動きを示す前記センサ部によって得られる測定値に応じて、前記ヘッドマウント型ディスプレイ装置を装着したユーザの動きに応じてイメージの視点を変更し、
    ヘッドマウント型ディスプレイ装置に加えられたタップを示すセンサ部によって得られる測定値に応じて、タップを入力信号として用いることにより表示部に表示されるイメージを制御し、
    測定値と予め設定された基準値との間の類似度は、前記測定値の誤差と前記基準値の誤差の和を、前記測定値と前記基準値のそれぞれの標準偏差で割った数の平均値であり、
    前記測定値と予め設定された基準値との間の類似度は以下の式によって演算され、
    Figure 0006490804
    ここでS(x)は測定値を表し、T(x)は基準値を表し、Saverageは測定値の平均値を表し、Taverageは基準値の平均値を表し、δは測定値の標準偏差を表し、δは基準値の標準偏差を表す、ヘッドマウント型ディスプレイ装置。
  2. 前記測定値及び前記基準値は、前記ヘッドマウント型ディスプレイ装置を着用したユーザの動きと前記ヘッドマウント型ディスプレイ装置で発生した音との少なくとも一方に基づく信号である、請求項1に記載のヘッドマウント型ディスプレイ装置。
  3. 前記制御部は、前記タップを前記入力信号として用いて、前記表示部に表示されるイメージの種類、出力部分、出力形態、及び再生速度の一つ以上を変化させる、請求項1に記載のヘッドマウント型ディスプレイ装置。
  4. ヘッドマウント型ディスプレイ装置の制御方法であって、
    前記ヘッドマウント型ディスプレイ装置にイメージを表示する段階と、
    センサ部によって得られた測定値が、前記ヘッドマウント型ディスプレイ装置を装着したユーザの動きまたは前記ヘッドマウント型ディスプレイ装置に加えられたタップのいずれかを示すかどうかを前記測定値と予め設定された基準値との間の類似度に基づいて決定する段階と、
    ユーザの動きを示す前記センサ部によって得られる測定値に応じて、前記ヘッドマウント型ディスプレイ装置を装着した前記ユーザの動きに応じて前記イメージの視点を変更する段階と、
    ヘッドマウント型ディスプレイ装置に加えられたタップを示すセンサ部によって得られる測定値に応じて、タップを入力信号として用いることにより表示部に表示されるイメージを制御する段階であって、
    センサ部によって得られた測定値が、前記ヘッドマウント型ディスプレイ装置を装着したユーザの動きまたは前記ヘッドマウント型ディスプレイ装置に加えられたタップのいずれかを示すかどうかを決定する段階は、
    所定の時間内に得られる測定値の平均値と所定の時間内に得られる測定値の標準偏差と予め設定された基準値の平均値と予め設定された基準値の標準偏差を使用する正規化相互相関アルゴリズムを用いて、前記測定値と予め設定された基準値との間の類似度を演算する段階と、
    演算された類似度が所定の閾値以上である場合にはタップが発生したと判断する段階と、
    演算された類似度が所定の閾値未満である場合にユーザのタップでない動きが発生したと判断する段階を含み、
    測定値と予め設定された基準値との間の類似度は、前記測定値の誤差と前記基準値の誤差の和を、前記測定値と前記基準値のそれぞれの標準偏差で割った数の平均値であり、
    前記測定値と予め設定された基準値との間の類似度は以下の式によって演算され、
    Figure 0006490804
    ここでS(x)は測定値を表し、T(x)は基準値を表し、Saverageは測定値の平均値を表し、Taverageは基準値の平均値を表し、δは測定値の標準偏差を表し、δは基準値の標準偏差を表す、ヘッドマウント型ディスプレイ装置の制御方法。
  5. 前記測定値及び前記基準値は、前記ヘッドマウント型ディスプレイ装置を着用したユーザの動きと前記ヘッドマウント型ディスプレイ装置で発生した音との少なくとも一方に基づく信号である、請求項4に記載のヘッドマウント型ディスプレイ装置の制御方法。
  6. 前記ヘッドマウント型ディスプレイ装置に表示されるイメージを制御する段階は、前記タップを前記入力信号として用いて、前記ヘッドマウント型ディスプレイ装置に表示されるイメージの種類、出力部分、出力形態、及び再生速度の一つ以上を変化させる段階を含む、請求項4に記載のヘッドマウント型ディスプレイ装置の制御方法。
  7. 非一時的な媒体に格納されたコンピュータプログラムであって、前記コンピュータプログラムは、
    ヘッドマウント型ディスプレイ装置にイメージを表示する段階と、
    センサ部によって得られた測定値が、前記ヘッドマウント型ディスプレイ装置を装着したユーザの動きまたは前記ヘッドマウント型ディスプレイ装置に加えられたタップのいずれかを示すかどうかを、前記測定値と予め設定された基準値との間の類似度に基づいて決定する段階と、
    ユーザの動きを示す前記センサ部によって得られる測定値に応じて、前記ヘッドマウント型ディスプレイ装置を装着したユーザの動きに応じてイメージの視点を変更する段階と、
    ヘッドマウント型ディスプレイ装置に加えられたタップを示すセンサ部によって得られる測定値に応じて、タップを入力信号として用いることにより表示部に表示されるイメージを制御する段階を備え、
    センサ部によって得られた測定値が、前記ヘッドマウント型ディスプレイ装置を装着したユーザの動きまたは前記ヘッドマウント型ディスプレイ装置に加えられたタップのいずれかを示すかどうかを決定する段階は、
    所定の時間内に得られる測定値の平均値と所定の時間内に得られる測定値の標準偏差と予め設定された基準値の平均値と予め設定された基準値の標準偏差を使用する正規化相互相関アルゴリズムを用いて、前記測定値と予め設定された基準値との間の類似度を演算する段階と、
    演算された類似度が所定の閾値以上である場合にはタップが発生したと判断する段階と、
    演算された類似度が所定の閾値未満である場合にユーザのタップでない動きが発生したと判断する段階を含み、
    測定値と予め設定された基準値との間の類似度は、前記測定値の誤差と前記基準値の誤差の和を、前記測定値と前記基準値のそれぞれの標準偏差で割った数の平均値であり、
    前記測定値と予め設定された基準値との間の類似度は以下の式によって演算され、
    Figure 0006490804
    ここでS(x)は測定値を表し、T(x)は基準値を表し、Saverageは測定値の平均値を表し、Taverageは基準値の平均値を表し、δは測定値の標準偏差を表し、δは基準値の標準偏差を表す、コンピュータプログラム。
JP2017514798A 2014-09-17 2015-09-16 タップによって制御されるヘッドマウント型ディスプレイ装置、その制御方法、及びその制御のためのコンピュータプログラム Active JP6490804B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR10-2014-0123344 2014-09-17
KR1020140123344A KR101839441B1 (ko) 2014-09-17 2014-09-17 두드림에 의해 제어되는 헤드 마운트형 디스플레이 장치, 이의 제어 방법 및 이의 제어를 위한 컴퓨터 프로그램
PCT/KR2015/009707 WO2016043515A1 (ko) 2014-09-17 2015-09-16 두드림에 의해 제어되는 헤드 마운트형 디스플레이 장치, 이의 제어 방법 및 이의 제어를 위한 컴퓨터 프로그램

Publications (2)

Publication Number Publication Date
JP2017531388A JP2017531388A (ja) 2017-10-19
JP6490804B2 true JP6490804B2 (ja) 2019-03-27

Family

ID=55454756

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017514798A Active JP6490804B2 (ja) 2014-09-17 2015-09-16 タップによって制御されるヘッドマウント型ディスプレイ装置、その制御方法、及びその制御のためのコンピュータプログラム

Country Status (5)

Country Link
US (1) US9904359B2 (ja)
JP (1) JP6490804B2 (ja)
KR (1) KR101839441B1 (ja)
CN (1) CN106796452B (ja)
WO (1) WO2016043515A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6668170B2 (ja) * 2016-06-07 2020-03-18 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置、情報処理方法、およびコンピュータプログラム
KR20180021515A (ko) 2016-08-22 2018-03-05 삼성전자주식회사 영상 표시 장치 및 영상 표시 장치의 동작 방법
US10241583B2 (en) * 2016-08-30 2019-03-26 Intel Corporation User command determination based on a vibration pattern
CN106383575B (zh) * 2016-09-07 2020-04-10 北京奇虎科技有限公司 一种vr视频的交互控制方法和装置
CN106383597B (zh) * 2016-09-07 2020-04-28 北京奇虎科技有限公司 一种实现与智能终端、与vr设备交互的方法和装置
CN107885313A (zh) * 2016-09-29 2018-04-06 阿里巴巴集团控股有限公司 一种设备交互方法、装置和设备
CN106791765A (zh) * 2016-11-29 2017-05-31 宇龙计算机通信科技(深圳)有限公司 视图界面的切换方法、装置和虚拟现实设备
DE102018108643A1 (de) * 2018-04-11 2019-11-14 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Positionsbestimmungsvorrichtung zum Bestimmen einer Position eines Gegenstands innerhalb einer tubulären Struktur
KR102242703B1 (ko) * 2018-10-24 2021-04-21 주식회사 알파서클 헤드 마운트 디스플레이에 연결된 스마트 단말 및 이를 위한 제어 방법
KR102281296B1 (ko) * 2019-06-17 2021-07-23 주식회사 케이티앤지 에어로졸 생성 장치 및 그의 동작 방법
KR20210087760A (ko) * 2020-01-03 2021-07-13 삼성전자주식회사 전자장치 및 그 제어방법
CN111616460A (zh) * 2020-01-17 2020-09-04 厦门理工学院 智能头盔及其控制方法
CN114442810A (zh) * 2022-01-28 2022-05-06 歌尔科技有限公司 一种头戴设备的控制方法、头戴设备及存储介质

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11161190A (ja) 1997-11-25 1999-06-18 Seiko Epson Corp 頭部装着型表示装置
KR100265492B1 (ko) * 1998-03-04 2000-09-15 구자홍 두부 움직임 감지 장치 및 감지 방법
US6861946B2 (en) * 2000-05-17 2005-03-01 Caveo Technology Llc. Motion-based input system for handheld devices
JP5023663B2 (ja) 2006-11-07 2012-09-12 ソニー株式会社 撮像装置、撮像方法
US20100259471A1 (en) 2007-11-16 2010-10-14 Nikon Corporation Control device, head-mount display device, program, and control method
JP5047115B2 (ja) * 2008-10-14 2012-10-10 セコム株式会社 移動物体追跡装置
US9292084B2 (en) * 2009-10-13 2016-03-22 Intel Corporation Control systems and methods for head-mounted information systems
KR101997034B1 (ko) * 2010-04-19 2019-10-18 삼성전자주식회사 인터페이스 방법 및 장치
WO2012011263A1 (ja) * 2010-07-20 2012-01-26 パナソニック株式会社 ジェスチャ入力装置およびジェスチャ入力方法
EP2619749A4 (en) * 2010-09-21 2017-11-15 4IIII Innovations Inc. Head-mounted peripheral vision display systems and methods
KR101677696B1 (ko) 2010-12-14 2016-11-18 한국전자통신연구원 움직임 탐색시 효율적인 움직임 벡터 추출 방법 및 그 장치
KR101824501B1 (ko) * 2011-05-19 2018-02-01 삼성전자 주식회사 헤드 마운트 디스플레이 장치의 이미지 표시 제어 장치 및 방법
JPWO2013054728A1 (ja) * 2011-10-11 2015-03-30 ソニー株式会社 ヘッド・マウント・ディスプレイ及び表示制御方法
JP5993127B2 (ja) * 2011-10-25 2016-09-14 オリンパス株式会社 頭部装着型表示装置、情報端末、プログラム、情報記憶媒体、画像処理システム、頭部装着型表示装置の制御方法及び情報端末の制御方法
JP5958689B2 (ja) * 2012-03-22 2016-08-02 セイコーエプソン株式会社 頭部装着型表示装置
CN104685869B (zh) * 2012-09-27 2018-12-28 京瓷株式会社 显示装置、控制方法
JP2014072575A (ja) * 2012-09-27 2014-04-21 Kyocera Corp 表示装置および制御方法
US9016857B2 (en) * 2012-12-06 2015-04-28 Microsoft Technology Licensing, Llc Multi-touch interactions on eyewear
US20140168057A1 (en) * 2012-12-13 2014-06-19 Qualcomm Incorporated Gyro aided tap gesture detection
KR102028761B1 (ko) * 2013-07-26 2019-10-04 마이크로소프트 테크놀로지 라이센싱, 엘엘씨 헤드 마운티드 디스플레이 및 그 제어 방법
US20150347717A1 (en) * 2014-06-02 2015-12-03 Xerox Corporation Hybrid personal training system and method

Also Published As

Publication number Publication date
US20160077651A1 (en) 2016-03-17
WO2016043515A1 (ko) 2016-03-24
CN106796452B (zh) 2019-11-12
US9904359B2 (en) 2018-02-27
CN106796452A (zh) 2017-05-31
JP2017531388A (ja) 2017-10-19
KR101839441B1 (ko) 2018-03-16
KR20160032817A (ko) 2016-03-25

Similar Documents

Publication Publication Date Title
JP6490804B2 (ja) タップによって制御されるヘッドマウント型ディスプレイ装置、その制御方法、及びその制御のためのコンピュータプログラム
CN106796351B (zh) 通过视线控制的头戴式显示装置及其控制方法、计算机可读存储介质
EP3029552B1 (en) Virtual reality system and method for controlling operation modes of virtual reality system
CN110647237B (zh) 在人工现实环境中基于手势的内容共享
JP6848881B2 (ja) 情報処理装置、情報処理方法、及びプログラム
US20120229248A1 (en) Multipurpose controller for electronic devices, facial expressions management and drowsiness detection
US11695908B2 (en) Information processing apparatus and information processing method
US10771707B2 (en) Information processing device and information processing method
WO2017126433A1 (ja) 情報処理装置およびユーザガイド提示方法
US20240069339A1 (en) Head mounted display and information processing method
JP6492330B2 (ja) 電子機器、および画像の提供方法
WO2020050186A1 (ja) 情報処理装置、情報処理方法及び記録媒体
KR101879235B1 (ko) 시선에 의해 제어되는 헤드 마운트형 디스플레이 장치, 이의 제어 방법 및 이의 제어를 위한 컴퓨터 프로그램
JP2021114310A (ja) 情報処理装置および警告提示方法
US20210232219A1 (en) Information processing apparatus, information processing method, and program
KR102533465B1 (ko) 시각에 따른 가상현실내의 도구패널 위치 지정방법
US11983306B2 (en) Peripheral tracking system and method

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180815

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181225

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190227

R150 Certificate of patent or registration of utility model

Ref document number: 6490804

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250