JP6264871B2 - 情報処理装置および情報処理装置の制御方法 - Google Patents

情報処理装置および情報処理装置の制御方法 Download PDF

Info

Publication number
JP6264871B2
JP6264871B2 JP2013259059A JP2013259059A JP6264871B2 JP 6264871 B2 JP6264871 B2 JP 6264871B2 JP 2013259059 A JP2013259059 A JP 2013259059A JP 2013259059 A JP2013259059 A JP 2013259059A JP 6264871 B2 JP6264871 B2 JP 6264871B2
Authority
JP
Japan
Prior art keywords
image
unit
control
information processing
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013259059A
Other languages
English (en)
Other versions
JP2015115038A (ja
Inventor
和夫 西沢
和夫 西沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2013259059A priority Critical patent/JP6264871B2/ja
Priority to US14/555,923 priority patent/US9465452B2/en
Publication of JP2015115038A publication Critical patent/JP2015115038A/ja
Application granted granted Critical
Publication of JP6264871B2 publication Critical patent/JP6264871B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0132Head-up displays characterised by optical features comprising binocular systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04808Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Description

本発明は、情報処理装置に関する。
情報処理装置の1つとして、頭部に装着する表示装置である頭部装着型表示装置(ヘッドマウントディスプレイ(Head Mounted Display)、HMD)が知られている。頭部装着型表示装置は、例えば、液晶ディスプレイおよび光源を利用して画像を表わす画像光を生成し、生成された画像光を投写光学系や導光板を利用して使用者の眼に導くことにより、使用者に虚像を視認させる。頭部装着型表示装置の制御として、操作部に含まれるトラックパッドに触れる使用者の指の動きを検出することで使用者に視認される虚像を変化させたり、虚像としてのフォルダーが選択されることでフォルダーに含まれる各種ファイルを虚像として使用者に視認させる制御等が知られている。
特許文献1には、操作面に接触している2本の指の中間位置に対応するポインターを画像表示部に表示させ、中間位置の変化に伴ってポインターの表示位置を変化させ、3本目の指が操作面に接触することで選択を行なうクリック操作が実行される情報処理装置が開示されている。また、特許文献2には、カメラで撮像された右手の人差し指と右手の中指との相対的な位置関係の変化によって、画像表示部に表示されたポインターの表示位置を変化させる入力装置が開示されている。また、特許文献3には、マルチタッチセンシティブ画面上の第1のロケーションおよび第2のロケーションに依存する位置でグラフィックオブジェクトを表示して、パーソナルコンピューターのマウスと同じようにグラフィックオブジェクトを動かすシステムについて開示されている。また、特許文献4には、操作面に2本の指が接触した場合に、クリック操作として認識するシステムが開示されている。
特開2007−299384号公報 特開2008−242881号公報 特表2009−523267号公報 特開2013−69350号公報
しかし、特許文献1に記載された情報処理装置では、操作面に接触している2本の指の中間位置に対応するように、ポインターが表示されるため、ポインターを動かすために、使用者は、2本の指の中間位置を常に認識する必要があり、直感的な操作を行なうことができないという課題があった。また、クリック操作を行うのに、3本の指での操作が必要となり、直感的な操作が行なうことができないことに加え、操作が冗長的で複雑になってしまうおそれがあった。また、特許文献2に記載された入力装置では、入力操作を受け付けるために、使用者の手をカメラで撮像する必要があり、入力装置としてカメラを含む操作部が大きくなってしまい、使用者に携帯されるモバイル機器などの操作部としては採用しづらいという課題があった。また、特許文献3および特許文献4に記載されたシステムでは、クリック操作を受け付けると、操作面に接触していた複数の指のすべてが一時的に操作面から離れてしまうため、クリック操作後の操作面における指の接触位置が異なると、使用者が望む位置とは異なる位置へとポインターが動いてしまうおそれがあった。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態又は適用例として実現可能である。本発明の一形態は、情報処理装置であって、操作面と、前記操作面への少なくとも1つの操作を検出して検出位置に応じた位置指定信号を出力する位置指定部と、を含む操作部と;前記操作面への前記操作によって検出される第1の操作に応じた前記位置指定信号に基づいて第1の制御を行ない、前記第1の操作が継続すると共に、前記操作面への新たな第2の操作に基づいて、前記情報処理装置に対して前記第1の制御とは異なる第2の制御を行なう制御部と;を備え、前記制御部は、前記第1の操作と前記第2の操作とが継続されているときに、前記第1の操作のみがキャンセルされたことが検出された場合には、前記第2の操作を前記第1の操作として検出しなおし、新たな前記第2の操作を検出可能な状態にする、情報処理装置として提供される。
(1)本発明の一形態によれば、情報処理装置が提供される。この情報処理装置は、操作面と、前記操作面への少なくとも1つの操作を検出して検出位置に応じた位置指定信号を出力する位置指定部と、を含む操作部と;前記操作面への前記操作によって検出される第1の前記操作に応じた前記位置指定信号に基づいて第1の制御を行ない、前記第1の操作が継続すると共に、前記操作面への新たな第2の前記操作に基づいて、前記情報処理装置に対して前記第1の制御とは異なる第2の制御を行なう制御部と、を備える。この形態の情報処理装置によれば、任意のタイミングで、かつ、操作面における任意の位置に操作が検出されることで第2の制御が行なわれるため、使用者の利便性および操作性が向上し、また、使用者は、直感的かつ簡便に情報処理装置を操作できる。また、使用者の操作を受け付けるために操作面のみがあればよいため、操作部を小型化でき、携帯性の高い入力装置を提供できる。
(2)上記形態の情報処理装置において、前記制御部は、前記第1の制御として、画像表示装置が画像を表示する画像領域内に表示させるポインター画像の位置を設定する。この形態の情報処理装置によれば、第1の操作が継続した状態で、第2の制御が行なわれるため、操作面に操作が検出されていない状態にならずにポインター画像の位置が固定されており、誤動作の発生を抑制できる。
(3)上記形態の情報処理装置において、前記制御部は、前記第1の操作が継続している状態において前記画像領域内に表示された選択可能なオブジェクトと前記ポインター画像とが重なっているときに、前記第2の操作が検出されると、前記第2の制御として、前記ポインター画像と重なっている前記オブジェクトを選択するクリック制御を行なってもよい。この形態の情報処理装置によれば、使用者は、操作部の特定の位置に固定された操作面以外を操作しなくても、オブジェクトの選択を行なうことができ、自由度が高く直感的な操作を行なうことができる。
(4)上記形態の情報処理装置において、前記制御部は、前記画像領域内に表示された選択可能なオブジェクトと前記ポインター画像とが重なっているときに、前記第1の操作における前記検出位置と前記第2の操作における前記検出位置とが同時かつ平行に移動する変化が検出されると、前記第2の制御として、前記ポインター画像と重なっている前記オブジェクトの位置を前記検出位置の変化に基づいて変更させるドラッグ制御を行なってよい。この形態の情報処理装置によれば、使用者は、操作部の特定の位置に固定された操作面以外を操作しなくても、オブジェクトの移動を行なうことができ、自由度が高く直感的な操作を行なうことができる。
(5)上記形態の情報処理装置において、前記制御部は、前記画像領域内に表示された選択可能なオブジェクトと前記ポインター画像とが重なっているときに、前記操作面に垂直な仮想的な特定軸を中心として前記第1の操作における前記検出位置と前記第2の操作における前記検出位置とが同時に回転する変化が検出されると、前記第2の制御として、前記ポインター画像が重なっている前記オブジェクトを回転させる回転制御を行なってもよい。この形態の情報処理装置によれば、使用者は、操作部の特定の位置に固定された操作面以外を操作しなくても、オブジェクトの回転を行なうことができ、自由度が高く直感的な操作を行なうことができる。
(6)上記形態の情報処理装置において、前記制御部は、前記第1の操作における前記検出位置と前記第2の操作における前記検出位置とを直径とする円の内部に前記特定軸が含まれる場合には、前記第2の制御として、前記回転制御を行なってもよい。この形態の情報処理装置によれば、回転制御が行なわれる場合に、第1の操作における検出位置と第2の操作における検出位置とを直径とする円の内部に特定軸が含まれる場合に、オブジェクトが回転させられるため、誤動作を抑制できる。
(7)上記形態の情報処理装置において、前記制御部は、前記画像領域内に特定画像の一部の領域が表示されている場合に、前記第1の操作における前記検出位置の変化が検出されないと共に、前記第2の操作における前記検出位置の変化が検出された場合には、前記第2の制御として、前記ポインター画像の位置を固定すると共に、前記第2の操作における前記検出位置の変化に基づいて、前記画像領域内に表示される前記特定画像の領域を変更するスクロールバー制御を行なってもよい。この形態の情報処理装置によれば、使用者は、画像領域に表示される特定画像の一部の領域を変更したい場合に、ポインター画像の位置を変化させなくても、画像領域に表示される特定画像の一部の領域を変更でき、使用者の利便性や操作性が向上する。
(8)上記形態の情報処理装置において、前記制御部は、前記画像領域内における前記ポインター画像の位置を前記操作面における前記検出位置に対応付けてもよい。この形態の情報処理装置によれば、使用者は、操作面を視認しながら操作する場合には、ポインター画像の位置を視認できるため、画像領域内においてポインター画像の位置を直感的に動かすことができ、使用者の利便性が向上する。
(9)上記形態の情報処理装置において、前記制御部は、前記操作が検出された第1の状態から前記操作が検出されていない状態へと移行した後に、再度、前記操作が検出された第2の状態のとき、前記第1の状態における最後の前記ポインター画像の位置を、前記第2の状態において、前記第1の操作における前記検出位置にかかわらず、最初の前記ポインター画像の位置として対応付ける第1の設定を行なってもよい。この形態の情報処理装置によれば、使用者は、操作面を視認できなくても、画像領域を視認することで直感的にポインター画像の位置を動かすことができ、使用者の利便性が向上する。
(10)上記形態の情報処理装置において、前記制御部は、前記操作に基づいて、前記ポインター画像の位置を前記操作面における前記検出位置に対応付ける第2の設定と前記第1の設定とを切り替えてもよい。この形態の情報処理装置によれば、使用者の意思に応じて第1の設定と第2の設定とが切り替えられるため、使用者の利便性および操作性がさらに向上する。
(11)上記形態の情報処理装置において、前記画像表示装置は、使用者の頭部に装着された状態において、前記画像を表す画像データに基づいて画像光を形成し、前記画像光を虚像として使用者に視認させると共に外景を透過させる頭部装着型画像表示装置であり;前記情報処理装置は、さらに;透過された前記外景に前記操作面の少なくとも一部が含まれるか否かを判定する操作面判定部を備え;前記制御部は、透過された前記外景に前記操作面が含まれていないと判定された場合には、前記第1の設定に切り替え、透過された前記外景に前記操作面の少なくとも一部が含まれていると判定された場合には前記第2の設定に切り替えてもよい。この形態の情報処理装置によれば、画像表示装置と操作面との位置関係が判定されることにより、操作面が使用者に視認されているか否かが判定され、判定結果に応じて第1の設定と第2の設定とが自動的に切り替えられることで、使用者の利便性がさらに向上する。
(12)上記形態の情報処理装置において、さらに;前記操作部に配置され、前記操作部の加速度を検出する加速度検出部を備え;前記制御部は、検出された前記操作部の加速度に基づいて前記操作面の向きを特定し、前記操作面の向きが第1の向きの場合には、第1の規則に基づいて前記位置指定信号の変化を前記ポインター画像の位置の変化へと変換し、前記操作部の向きが前記第1の向きとは異なる第2の向きの場合には、前記第1の規則とは異なる第2の規則に基づいて前記位置指定信号の変化を前記ポインター画像の位置の変化へと変換してもよい。この形態の情報処理装置によれば、操作面の向きにかかわらず、操作部の加速度の方向を基準とした入力が行なわれ、使用者の操作性が向上する。
(13)上記形態の情報処理装置において、前記操作面への操作は、前記操作面へと接触する操作であってもよい。この形態の情報処理装置によれば、操作面が検出する操作として、接触操作が採用されているため、誤検出の少ない操作が行なわれる。
上述した本発明の各形態の有する複数の構成要素はすべてが必須のものではなく、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、適宜、前記複数の構成要素の一部の構成要素について、その変更、削除、新たな他の構成要素との差し替え、限定内容の一部削除を行なうことが可能である。また、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、上述した本発明の一形態に含まれる技術的特徴の一部または全部を上述した本発明の他の形態に含まれる技術的特徴の一部または全部と組み合わせて、本発明の独立した一形態とすることも可能である。
例えば、本発明の一形態は、操作部と、制御部と、の2つの要素の内の一つまたは全部の要素を備えた装置として実現可能である。すなわち、この装置は、操作部を有していてもよく、有していなくてもよい。また、装置は、制御部を有していてもよく、有していなくてもよい。操作部は、例えば、操作面と、前記操作面への少なくとも1つの操作を検出して検出位置に応じた位置指定信号を出力する位置指定部と、を含んでいてもよい。制御部は、例えば、前記操作面への前記操作によって検出される第1の前記操作に応じた前記位置指定信号に基づいて第1の制御を行ない、前記第1の操作が継続すると共に、前記操作面への新たな第2の前記操作に基づいて、前記情報処理装置に対して前記第1の制御とは異なる第2の制御を行なってもよい。こうした装置は、例えば、情報処理装置として実現できるが、情報処理装置以外の他の装置としても実現可能である。このような形態によれば、装置の操作性の向上および簡易化、装置の一体化や、装置を使用する使用者の利便性の向上、等の種々の課題の少なくとも1つを解決することができる。前述した頭部装着型表示装置の各形態の技術的特徴の一部または全部は、いずれもこの装置に適用することが可能である。
本発明は、情報処理装置以外の種々の形態で実現することも可能である。例えば、頭部装着型表示装置、情報処理装置または頭部装着型表示装置の制御方法、情報処理システム、頭部装着型表示システム、情報処理システムまたは頭部装着型表示システムを実現するためのコンピュータープログラム、そのコンピュータープログラムを記録した記録媒体、そのコンピュータープログラムを含み搬送波内に具現化されたデータ信号等の形態で実現できる。
頭部装着型表示装置の外観構成を示す説明図である。 頭部装着型表示装置の構成を機能的に示すブロック図である。 画像光生成部によって画像光が射出される様子を示す説明図である。 操作制御処理の流れを示す説明図である。 操作制御処理の流れを示す説明図である。 操作制御処理の流れを示す説明図である。 操作制御処理の流れを示す説明図である。 操作制御処理の流れを示す説明図である。 操作制御処理の流れを示す説明図である。 操作制御処理の流れを示す説明図である。 操作制御処理の流れを示す説明図である。 操作画面が表示されたときに使用者が視認する視野の概略図である。 変換角度についての説明図である。 変換角度についての説明図である。 第1の接触操作の接触状態と使用者の視野とを示す説明図である。 第1の接触操作の接触状態と使用者の視野とを示す説明図である。 第1の接触操作の接触状態と使用者の視野とを示す説明図である。 クリック制御における接触操作の接触状態と使用者の視野とを示す説明図である。 2点ドラッグ制御における接触操作の接触状態と使用者の視野とを示す説明図である。 2点回点制御の回転中心と2点接触位置との関係の一例を示す説明図である。 2点回転制御における接触操作の接触状態と使用者の視野とを示す説明図である。 3点ドラッグ制御における接触操作の接触状態と使用者の視野とを示す説明図である。 3点回点制御の回転中心と3点接触位置との関係の一例を示す説明図である。 スクロールバー制御における接触操作の接触状態と使用者の視野とを示す説明図である。 スクロールバー制御における接触操作の接触状態と使用者の視野とを示す説明図である。 変形例における頭部装着型表示装置の外観構成を示す説明図である。
A.第1実施形態:
A−1.頭部装着型表示装置の構成:
図1は、頭部装着型表示装置100の外観構成を示す説明図である。頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態の頭部装着型表示装置100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。なお、本明細書では、頭部装着型表示装置100によって使用者が視認する虚像を便宜的に「表示画像」とも呼ぶ。また、画像データに基づいて生成された画像光を射出することを「画像を表示する」ともいう。
頭部装着型表示装置100は、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御部10(コントローラー10)と、を備えている。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、右保持部21と、右表示駆動部22と、左保持部23と、左表示駆動部24と、右光学像表示部26と、左光学像表示部28と、赤外線発光部61と、を含んでいる。右光学像表示部26および左光学像表示部28は、それぞれ、使用者が画像表示部20を装着した際に使用者の右および左の眼前に位置するように配置されている。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置で、互いに接続されている。
右保持部21は、右光学像表示部26の他端である端部ERから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。同様に、左保持部23は、左光学像表示部28の他端である端部ELから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。右保持部21および左保持部23は、眼鏡のテンプル(つる)のようにして、使用者の頭部に画像表示部20を保持する。
右表示駆動部22と左表示駆動部24とは、使用者が画像表示部20を装着した際の使用者の頭部に対向する側に配置されている。なお、以降では、右保持部21および左保持部23を総称して単に「保持部」とも呼び、右表示駆動部22および左表示駆動部24を総称して単に「表示駆動部」とも呼び、右光学像表示部26および左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
表示駆動部22,24は、液晶ディスプレイ241,242(Liquid Crystal Display、以下「LCD241,242」とも呼ぶ)や投写光学系251,252等を含む(図2参照)。表示駆動部22,24の構成の詳細は後述する。光学部材としての光学像表示部26,28は、導光板261,262(図2参照)と調光板とを含んでいる。導光板261,262は、光透過性の樹脂材料等によって形成され、表示駆動部22,24から出力された画像光を使用者の眼に導く。調光板は、薄板状の光学素子であり、使用者の眼の側とは反対の側である画像表示部20の表側を覆うように配置されている。調光板は、導光板261,262を保護し、導光板261,262の損傷や汚れの付着等を抑制する。また、調光板の光透過率を調整することによって、使用者の眼に入る外光量を調整して虚像の視認のしやすさを調整できる。なお、調光板は省略可能である。
赤外線発光部61は、画像表示部20を装着した使用者の眼から光学像表示部26,28への方向へと赤外線を発光する。赤外線発光部61によって発光された赤外線が、後述する制御部10に形成された赤外線受光部63に受光されると、赤外線発光部61から所定の範囲内に制御部10が存在すると判定され、制御部10が使用者に視認されていると判定される。
画像表示部20は、さらに、画像表示部20を制御部10に接続するための接続部40を有している。接続部40は、制御部10に接続される本体コード48と、右コード42と、左コード44と、連結部材46と、を含んでいる。右コード42と左コード44とは、本体コード48が2本に分岐したコードである。右コード42は、右保持部21の延伸方向の先端部APから右保持部21の筐体内に挿入され、右表示駆動部22に接続されている。同様に、左コード44は、左保持部23の延伸方向の先端部APから左保持部23の筐体内に挿入され、左表示駆動部24に接続されている。連結部材46は、本体コード48と、右コード42および左コード44と、の分岐点に設けられ、イヤホンプラグ30を接続するためのジャックを有している。イヤホンプラグ30からは、右イヤホン32および左イヤホン34が延伸している。
画像表示部20と制御部10とは、接続部40を介して各種信号の伝送を行なう。本体コード48における連結部材46とは反対側の端部と、制御部10と、のそれぞれには、互いに嵌合するコネクター(図示しない)が設けられている。本体コード48のコネクターと制御部10のコネクターとの嵌合/嵌合解除により、制御部10と画像表示部20とが接続されたり切り離されたりする。右コード42と、左コード44と、本体コード48とには、例えば、金属ケーブルや光ファイバーを採用できる。
制御部10は、頭部装着型表示装置100を制御するための装置である。制御部10は、決定キー11と、点灯部12と、表示切替キー13と、輝度切替キー15と、方向キー16と、メニューキー17と、電源スイッチ18と、トラックパッド14と、加速度センサー19と、赤外線受光部63と、を含んでいる。決定キー11は、押下操作を検出して、制御部10で操作された内容を決定する信号を出力する。点灯部12は、頭部装着型表示装置100の動作状態を、その発光状態によって通知する。頭部装着型表示装置100の動作状態としては、例えば、電源のON/OFF等がある。点灯部12としては、例えば、LED(Light Emitting Diode)が用いられる。表示切替キー13は、押下操作を検出して、例えば、コンテンツ動画の表示モードを3Dと2Dとに切り替える信号を出力する。輝度切替キー15は、押下操作を検出して、画像表示部20の輝度を増減する信号を出力する。方向キー16は、上下左右方向に対応するキーへの押下操作を検出して、検出内容に応じた信号を出力する。電源スイッチ18は、スイッチのスライド操作を検出することで、頭部装着型表示装置100の電源投入状態を切り替える。
トラックパッド14は、操作面上における使用者の指の接触操作を検出して、検出内容に応じた信号を出力する。検出される接触操作としては、例えば、接触位置の変化や後述するクリック制御を行なうための操作などがある。頭部装着型表示装置100では、接触操作によって、画像表示部20に表示される表示画像の制御といった各種制御が行なわれる。トラックパッド14としては、静電式や圧力検出式、光学式といった種々のトラックパッドを採用できる。なお、トラックパッド14は、請求項における操作面に相当する。また、接触操作は、請求項における操作面に検出される操作に想到し、接触位置は、請求項における検出位置に相当する。加速度センサー19は、制御部10に作用する加速度(例えば、重力加速度)を取得する。本実施形態では、加速度センサー19は、0.5秒間に1回、定期的に、制御部10に作用する加速度を取得する。赤外線受光部63は、画像表示部20に形成された赤外線発光部61が発光する赤外線を受光する。赤外線受光部63は、赤外線を受光すると、赤外線を受光したことを表す信号を、後述する入力決定部(図2)に送信する。なお、加速度センサー19は、請求項における加速度検出部に相当する。
図2は、頭部装着型表示装置100の構成を機能的に示すブロック図である。図2に示すように、制御部10は、操作部135と、電源130と、記憶部120と、加速度センサー19と、赤外線受光部63と、CPU140と、インターフェイス180と、送信部51(Tx51)および送信部52(Tx52)と、を有している。操作部135は、使用者による操作を受け付け、決定キー11、表示切替キー13、トラックパッド14、輝度切替キー15、方向キー16、メニューキー17、および、電源スイッチ18から構成されている。
電源130は、頭部装着型表示装置100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。記憶部120は、種々のコンピュータープログラムを格納している。記憶部120は、ROMやRAM等によって構成されている。CPU140は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、オペレーティングシステム150(OS150)、表示制御部190、画像処理部160、音声処理部170、入力決定部165、および、向き補正部167として機能する。
表示制御部190は、右表示駆動部22および左表示駆動部24を制御する制御信号を生成する。具体的には、表示制御部190は、制御信号により、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFなど、を個別に制御する。これにより、表示制御部190は、右表示駆動部22および左表示駆動部24のそれぞれによる画像光の生成および射出を制御する。例えば、表示制御部190は、右表示駆動部22および左表示駆動部24の両方に画像光を生成させたり、一方のみに画像光を生成させたり、両方共に画像光を生成させなかったりする。表示制御部190は、右LCD制御部211と左LCD制御部212とに対する制御信号のそれぞれを、送信部51および52を介して送信する。また、表示制御部190は、右バックライト制御部201と左バックライト制御部202とに対する制御信号のそれぞれを送信する。
画像処理部160は、コンテンツに含まれる画像信号を取得する。画像処理部160は、取得した画像信号から、垂直同期信号VSyncや水平同期信号HSync等の同期信号を分離する。また、画像処理部160は、分離した垂直同期信号VSyncや水平同期信号HSyncの周期に応じて、PLL(Phase Locked Loop)回路等(図示しない)を利用してクロック信号PCLKを生成する。画像処理部160は、同期信号が分離されたアナログ画像信号を、A/D変換回路等(図示しない)を用いてディジタル画像信号に変換する。その後、画像処理部160は、変換後のディジタル画像信号を、対象画像の画像データ(RGBデータ)として、1フレームごとに記憶部120内のDRAMに格納する。なお、画像処理部160は、必要に応じて、画像データに対して、解像度変換処理、輝度、彩度の調整といった種々の色調補正処理、キーストーン補正処理等の画像処理を実行してもよい。
画像処理部160は、生成されたクロック信号PCLK、垂直同期信号VSync、水平同期信号HSync、記憶部120内のDRAMに格納された画像データ、のそれぞれを、送信部51、52を介して送信する。なお、送信部51を介して送信される画像データを「右眼用画像データ」とも呼び、送信部52を介して送信される画像データを「左眼用画像データ」とも呼ぶ。送信部51、52は、制御部10と画像表示部20との間におけるシリアル伝送のためのトランシーバーとして機能する。
画像処理部160は、光学像表示部26,28において使用者に虚像を視認させることができる画像表示最大領域PN(以下、単に「表示領域PN」とも呼ぶ)に、各種操作に応じた画像を表示する。画像処理部160は、検出される接触操作に応じて、例えば、表示領域PNにポインター画像を表示し、トラックパッド14への接触位置の変化に応じて、ポインター画像の表示位置を変更する。本実施形態では、トラックパッド14における接触位置と、表示領域PNにおけるポインター画像の表示位置と、の対応位置関係を関係付ける関係方式には、絶対座標方式と相対座標方式との2つがある。なお、相対座標方式および絶対座標方式の詳細については、後述する。
入力決定部165は、トラックパッド14における接触操作やメニューキー17が押下された操作に基づく入力を決定する。決定される入力としては、例えば、トラックパッド14に検出された接触操作において、接触位置の変化や使用者の指が接触している接触時間がある。また、入力決定部165は、赤外線発光部61によって発光された赤外線を赤外線受光部63が受光した場合には、制御部10が画像表示部20に対して所定の位置に存在すると判定する。また、入力決定部165は、発光された赤外線を赤外線受光部63が受光していない場合には、制御部10が画像表示部20に対して所定の位置には存在していないと判定する。入力決定部165は、制御部10が所定の位置に存在すると判定した場合には、関係方式を絶対座標方式に設定し、絶対座標方式に基づいて、接触位置の変化を、ポインター画像の表示位置の変化に変換した信号を画像処理部160へと送信する。入力決定部165は、制御部10が所定の位置に存在していないと判定した場合には、関係方式を相対座標方式に設定し、接触位置の変化を、相対座標方式に基づいて、ポインター画像の表示位置の変化に変換した信号を画像処理部160へと送信する。画像処理部160は、送信された信号に基づいて、表示領域PNに表示されたポインター画像の表示位置を設定する。なお、赤外線発光部61、赤外線受光部63、および、入力決定部165は、請求項における操作面判定部に相当する。
向き補正部167は、加速度センサー19から送信される制御部10に作用する加速度(例えば、重力加速度)を示す信号に基づいて、制御部10の向きを特定する。向き補正部167は、制御部10の向きと重力方向とがなす角度に基づいて、接触位置の変化の方向を、ポインター画像の表示位置の変化の方向に対応させるため行なわれる補正の変換角度を決定する。入力決定部165は、向き補正部167によって検出された接触位置の変化を決定された変換角度に基づいて、ポインター画像の表示位置を変化させる。なお、入力決定部165、画像処理部160、および、向き補正部167は、請求項における制御部の一部に相当し、変換角度は、請求項における第1の規則および第2の規則に相当する。
本実施形態では、絶対座標方式と相対座標方式とが切替可能である。操作部135が所定の操作を受け付けた場合、または、入力決定部165によって制御部10が画像表示部20に対して所定の位置に存在するか否かの判定によって、絶対座標方式と相対座標方式とを切り替えられる。絶対座標方式では、操作面であるトラックパッド14と表示領域PNとが1対1で対応している。ここで、トラックパッド14と表示領域PNとが1対1で対応しているとは、トラックパッド14の領域内の座標位置と表示領域PN内の座標位置とが1対1で対応付けられていることを意味する。例えば、接触操作が検出されている接触状態のときには、接触位置に対応する表示領域PNに位置にポインター画像が表示される。また、接触操作が検出されていない非接触状態のときには、表示領域PNにポインター画像が表示されない。なお、本実施形態では、接触状態から非接触状態へと変化したときに、一定時間、表示領域PNにポインター画像が表示され、一定時間が経過すると共に非接触状態が継続している場合には、表示領域PNに表示されているポインター画像が非表示になる。絶対座標方式において、非接触状態のときに、接触操作が検出されると、接触位置に対応する表示領域PNの座標位置にポインター画像が表示される。なお、接触状態から非接触状態へと変化してからポインター画像が表示されている一定時間に、新たな接触操作が検出されると、新たな接触操作が検出されるまでに表示されていたポインター画像が非表示になり、新たに検出された接触位置に対応する表示領域PNの座標位置にポインター画像が表示される。絶対座標方式では、トラックパッド14の接触位置と表示領域PNの座標位置とが1対1で対応しているため、使用者は、トラックパッド14を視認しながら操作する場合には、ポインター画像の表示位置を視認できるため、ポインター画像の表示位置を直感的に動かすことができ、使用者の利便性が向上する。なお、関係方式を絶対座標方式に設定することは、請求項における第2の設定を行なうことに相当する。また、接触状態が検出されていない状態で初めて接触状態が検出される状態は、請求項における第1の状態に相当し、接触状態から非接触状態へと変化した後に、再度、接触状態へと変化した状態は、請求項における第2の状態に相当する。
相対座標方式では、絶対座標方式と異なり、接触操作における接触位置と表示領域PNの座標位置とが1対1で対応していない。接触位置と表示領域PNの座標位置とが1対1で対応していないとは、例えば、トラックパッド14における接触位置の変化がトラックパッド14の左端から右端へと横方向に変化した場合に、表示領域PNにおけるポインター画像の表示位置が左端から中央へと横方向に移動する(左端から横方向へと全体の50%移動する)。すなわち、接触位置の変化がトラックパッド14の左端から右端へと変化しても、ポインター画像の表示位置は左端から右端へと移動せず、接触位置と表示領域PNの座標位置とが1対1で対応していない。なお、接触位置の変化量に対するポインター画像の表示位置の移動量は、任意に設定できる。そのため、相対座標方式では、接触位置の変化量とポインター画像の表示位置の移動量とを使用者の好みによって設定でき、使用者の利便性が向上する。また、相対座標方式では、接触状態から非接触状態へと変化した場合に、一定時間が経過すると、入力決定部165は、ポインター画像を非表示にすると共に表示されていたポインター画像の表示位置を記憶する。再度、非接触状態から接触状態へと変化した場合に、入力決定部165は、新たに検出された接触操作における接触位置にかかわらず、記憶したポインター画像の表示位置に再びポインター画像を表示させる。そのため、相対座標方式では、接触状態と非接触状態とが変化して、非接触状態において一時的にポインター画像が表示されなくても、直近の接触状態において記憶された表示位置にポインター画像が表示される。そのため、使用者は、トラックパッド14を視認できなくても、表示領域PNを視認することで直感的にポインター画像を動かすことができ、使用者の利便性が向上する。なお、関係方式を相対座標方式に設定することは、請求項における第1の設定を行なうことに相当する。
音声処理部170は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、連結部材46に接続された右イヤホン32内のスピーカー(図示しない)および左イヤホン34内のスピーカー(図示しない)に対して供給する。なお、例えば、Dolby(登録商標)システムを採用した場合、音声信号に対する処理がなされ、右イヤホン32および左イヤホン34のそれぞれからは、例えば周波数等が変えられた異なる音が出力される。
インターフェイス180(図2)は、制御部10に対して、コンテンツの供給元となる種々の外部機器OAを接続するためのインターフェイスである。外部機器OAとしては、例えば、パーソナルコンピューター(PC)や携帯電話端末、ゲーム端末等、がある。インターフェイス180としては、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等、を用いることができる。
画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26としての右導光板261と、左光学像表示部28としての左導光板262と、赤外線発光部61と、を備えている。
右表示駆動部22は、受信部53(Rx53)と、光源として機能する右バックライト制御部201(右BL制御部201)および右バックライト221(右BL221)と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251と、を含んでいる。右バックライト制御部201と右バックライト221とは、光源として機能する。右LCD制御部211と右LCD241とは、表示素子として機能する。なお、右バックライト制御部201と、右LCD制御部211と、右バックライト221と、右LCD241と、を総称して「画像光生成部」とも呼ぶ。
受信部53は、制御部10と画像表示部20との間におけるシリアル伝送のためのレシーバーとして機能する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、受信部53を介して入力されたクロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、右眼用画像データと、に基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。右光学像表示部26としての右導光板261は、右投写光学系251から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REに導く。なお、右投写光学系251と右導光板261とを総称して「導光部」とも呼ぶ。
左表示駆動部24は、右表示駆動部22と同様の構成を有している。左表示駆動部24は、受信部54(Rx54)と、光源として機能する左バックライト制御部202(左BL制御部202)および左バックライト222(左BL222)と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252と、を含んでいる。左バックライト制御部202と左バックライト222とは、光源として機能する。左LCD制御部212と左LCD242とは、表示素子として機能する。なお、左バックライト制御部202と、左LCD制御部212と、左バックライト222と、左LCD242と、を総称して「画像光生成部」とも呼ぶ。また、左投写光学系252は、左LCD242から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。左光学像表示部28としての左導光板262は、左投写光学系252から出力された画像光を、所定の光路に沿って反射させつつ使用者の左眼LEに導く。なお、左投写光学系252と左導光板262とを総称して「導光部」とも呼ぶ。
図3は、画像光生成部によって画像光が射出される様子を示す説明図である。右LCD241は、マトリクス状に配置された各画素位置の液晶を駆動することによって、右LCD241を透過する光の透過率を変化させることにより、右バックライト221から照射される照明光ILを、画像を表わす有効な画像光PLへと変調する。左側についても同様である。なお、図3のように、本実施形態ではバックライト方式を採用したが、フロントライト方式や、反射方式を用いて画像光を射出する構成としてもよい。
A−2.操作制御処理:
図4ないし図11は、操作制御処理の流れを示す説明図である。操作制御処理は、接触操作に応じて、表示領域PNに表示される画像が変化したり、各種操作によって選択された画像に基づく制御が行なわれる処理である。
操作制御処理では、初めに、画像処理部160は、使用者の操作対象としての画像である各種操作画面を表示領域PNに表示させる(ステップS10)。図12は、操作画面が表示されたときに使用者が視認する視野VRの概略図である。使用者は、表示領域PNに表示された操作画面VIを視認する。なお、本実施形態では、表示領域PNの領域全体に操作画面VIが表示されている。使用者の視野VRの内、操作画面VIが表示された部分以外については、使用者は、光学像表示部26および左光学像表示部28を透過して、外景を視認できる。なお、本実施形態の頭部装着型表示装置100では、使用者は、操作画面VIが表示された部分についても、操作画面VIの背後に透過された外景を視認できる。図12に示すように、操作画面VIは、複数の選択可能な画像であるアイコンICを含んでいる。例えば、図12に示す操作画面VIには、アイコンICとして、「メッセージ」、「カメラ」、「ブラウザー」、および、「電話」が含まれている。
表示領域PNに操作画面VIが表示されると(図4のステップS10)、入力決定部165は、操作部135が形成された制御部10が画像表示部20に対して所定の位置に存在するか否かを判定する(ステップS12)。制御部10が画像表示部20に対して所定の位置に存在すると判定された場合には(ステップS12:YES)、入力決定部165は、関係方式を絶対座標方式に設定する(ステップS14)。制御部10が画像表示部20に対して所定の位置に存在しないと判定された場合には(ステップS12:NO)、入力決定部165は、関係方式を相対座標方式に設定する(ステップS16)。
関係方式が絶対座標方式または相対座標方式に設定されると(ステップS14、または、ステップS16)、向き補正部167は、特定した制御部10の向きに基づいて変換角度を決定する(ステップS18)。図13および図14は、変換角度についての説明図である。なお、図13および図14に示す視野VRは、一例であり、図12に示す視野VRと異なる。図13には、制御部10において、トラックパッド14の中心O1と決定キー11の中心O2とを通る直線L1と、重力方向DGと、トラックパッド14上で動かされる使用者の人差し指FFの操作方向DR1と、が示されている。図13に示すように、重力方向DGと操作方向DR1とは、同じ方向である。また、図13には、接触操作が検出された場合の使用者の視野VRが示されている。本実施形態では、初期設定として、トラックパッド14における直線L1に沿った中心O1から中心O2への基準方向D0と重力方向DGとが同じ方向の場合に変換角度が0であると設定されている。そのため、操作方向DR1が基準方向D0と同じ方向である場合には変換角度が0度であるため、入力決定部165は、向き補正部167によって決定された変換角度に基づいて、操作方向DR1に沿った人差し指FFの動きを、同じように、操作方向DR1に沿った動きとして、画像処理部160に表示させる。
図14には、基準方向D0と重力方向DGとが同じ方向ではなく、制御部10が重力方向に対して初期設定と比べて傾いている場合に、向き補正部167が補正する変換角度が0度以外の例が示されている。図14に示すように、制御部10が傾いているため、重力方向DGと基準方向D0とは、角度β1を形成する。なお、角度β1は、60度である。この場合に、向き補正部167は、重力方向DGを基準として重力方向DGから時計回りを正の角度として、基準方向D0に沿った操作方向DR1の人差し指FFの動きを、変換角度である角度β1の分だけ補正する。すなわち、トラックパッド14に対する操作方向DR1の相対方向は、基準方向D0と同じであっても、入力決定部165が特定された変換角度に基づいて画像処理部160に表示させるポインターPOの表示位置の変化は、加速度センサー19によって取得された重力方向DGによって異なる。入力決定部165は、向き補正部167によって決定された変換角度に基づいて、図14の操作画面VIに示すように、ポインターPOの表示位置を変更する。
変換角度が決定されると(図4のステップS18)、トラックパッド14は、第1の接触操作の検出を監視する(ステップS20)。第1の接触操作とは、非接触状態で、初めに検出される接触操作のことである。第1の接触操作が検出されない場合には(ステップS20:NO)、ステップS12以降の処理が繰り返される。第1の接触操作が検出されると(ステップS20:YES)、入力決定部165は、表示領域PNにポインターPOを表示させる(ステップS22)。ポインター画像が表示された状態で、第1の接触操作におけるトラックパッド14の接触位置(以下、単に「第1の接触位置」とも呼ぶ)が変化すると、入力決定部165は、第1の接触位置の変化が変換角度によって補正された変化に応じて、ポインターPOの表示位置を変化させる(ステップS24)。次に、入力決定部165は、表示位置が変化したポインターPOが表示されたアイコンICのいずれかに重複しているか否かを判定する(ステップS26)。なお、第1の接触操作は、請求項における第1の操作に相当し、第1の接触位置の変化に応じてポインターPOの表示位置が変化することは、請求項における第1の制御に相当する。
図15ないし図17は、第1の接触操作の接触状態と使用者の視野VRとを示す説明図である。図15に示すように、トラックパッド14は、第1の接触操作として、使用者による接触を検出する。本実施形態では、第1の接触操作として、使用者の右手の人差し指FFがトラックパッド14に接触している。また、図15には、第1の接触操作が検出されたときに、使用者が視認する視野VRが示されている。図15の操作画面VIに示すように、画像処理部160は、第1の接触操作に応じて、表示領域PNにポインターPOを表示させる。なお、図15ないし図17に示すように、使用者には制御部10が視認されておらず、制御部10が画像表示部20に対して所定の位置に存在していないため、関係方式は、相対座標方式に設定されている。図16に示すように、人差し指FFの第1の接触位置が変化すると、ポインターPOの表示位置が変化する。本実施形態では、第1の接触位置が変化した結果、図17に示すように、ポインターPOがアイコンICの「メッセージ」に重複すると、重複された重複アイコンIC0の色が変化する。重複アイコンIC0の色が変化することは、重複アイコンIC0が選択可能な状態であることを示している。ポインターPOがアイコンICに重複した状態で、使用者は、トラックパッド14に対して後述する各種操作を行なうことで、アイコンICに関連する操作を行なうことができる。
図4のステップS26の処理において、ポインターPOがいずれのアイコンICにも重複していないと判定された場合には(ステップS26:NO)、ステップS24以降の処理が行なわれる。ポインターPOがアイコンICのいずれかに重複していると判定された場合には(ステップS26:YES)、トラックパッド14は、第2の接触操作の検出を監視する(ステップS28)。第2の接触操作が検出されない場合には(ステップS28:NO)、再度、ステップS24以降の処理が行なわれる。第2の接触操作が検出された場合には(ステップS28:YES)、入力決定部165は、第2の接触操作が検出されている第2の接触時間が所定の時間以下であるか否かを判定する(ステップS30)。第2の接触時間が所定の時間以下(例えば、0.5秒以下)であると判定された場合には(ステップS30:YES)、入力決定部165は、重複アイコンIC0の選択を決定するクリック制御を行なう(ステップS32)。クリック制御が行なわれると、重複アイコンIC0に関連するプログラムが実行された後に、ステップS24以降の処理が行なわれる。なお、第2の接触操作は、請求項における第2の操作に相当する。
図18は、クリック制御における接触操作の接触状態と使用者の視野VRとを示す説明図である。図18には、クリック制御が行なわれた場合の第2の接触操作と使用者の視野VRとが示されている。図18に示すように、トラックパッド14は、第1の接触操作に加えて、使用者による第2の接触操作を検出する。本実施形態では、第2の接触操作として、使用者の右手の中指MFがトラックパッド14に接触している。なお、第2の接触操作としての中指MFの接触が検出された時間は、所定の時間である0.5秒以下である。クリック制御が行なわれると、OS150は、重複アイコンIC0の「メッセージ」のプログラムを実行する。
図4のステップS30の処理において、第2の接触時間が所定の時間以下ではないと判定された場合には(ステップS30:NO)、トラックパッド14は、第1の接触位置と第2の接触操作におけるトラックパッド14の接触位置(以下、「第2の接触位置」とも呼ぶ)とが同時に平行移動しているか否かを判定する(図5のステップS32)。なお、以降では、第1の接触位置と第2の接触位置とを合わせて、2点接触位置とも呼ぶ。2点接触位置が同時に平行移動していると判定された場合には(ステップS32:YES)、入力決定部165は、重複アイコンIC0の表示位置を移動させる2点ドラッグ制御を行なう(ステップS34)。なお、本願でいう「同時」とは、時間的に同じ瞬間であることのみに限定されず、一定の幅をもった時間帯のことをいう。接触操作は、使用者によって行なわれるものであり、例えば、第1の接触位置の変化と第2の検出位置の変化との開始時刻が0.1秒ずれていても、本願では同時の変化として取り扱う。なお、同時に、どれくらいの時間的なずれを含むのかは、任意に設定できる。また、本願でいう「平行」とは、第1の接触位置の変化と第2の接触位置の変化とが全く同じ軌跡である必要はなく、多少異なっていてもよい。例えば、所定の期間における第1の接触位置の直線的な変化と第2の接触位置の直線的な変化とにおいて、2つの直線のなす角度が5度以下であれば、本願の平行に含まれる。
図7には、2点ドラッグ制御の流れが示されている。2点ドラッグ制御では、初めに、入力決定部165がポインターPOと重複アイコンIC0との表示位置を、2点接触位置の変化に応じて移動させる(ステップS102)。なお、この時点では、重複アイコンIC0の移動は、途中であるため、確定していない。図19は、2点ドラッグ制御における接触操作の接触状態と使用者の視野VRとを示す説明図である。図19の操作画面VIには、2点接触位置の変化に応じて、ポインターPOと重複アイコンIC0との表示位置が変化している画像が示されている。図19に示すように、重複アイコンIC0の表示位置は、2点ドラッグ制御の前(例えば、図15)と比較して、ポインターPOと共に移動して変化する。
ポインターPOと重複アイコンIC0とが移動しているときに(図7のステップS102)、トラックパッド14は、人差し指FFが離れる第1の接触操作のキャンセルを監視する(ステップS104)。第1の接触操作がキャンセルされない場合には(ステップS104:NO)、トラックパッド14は、中指MFが離れる第2の接触操作のキャンセルを監視する(ステップS106)。第2の接触操作のキャンセルされない場合には(ステップS106:NO)、ステップS102以降の処理が行なわれる。第2の接触操作のキャンセルされた場合には(ステップS106:YES)、入力決定部165は、重複アイコンIC0の移動を確定する(ステップS108)。重複アイコンIC0の移動が確定すると、第1の接触操作のみが検出されている状態であるため、図4のステップS24以降の処理が行なわれる。
図7のステップS104の処理において、第1の接触操作がキャンセルされた場合には(ステップS104:YES)、入力決定部165は、重複アイコンIC0の移動をキャンセルする(ステップS110)。重複アイコンIC0の移動をキャンセルするとは、2点ドラッグ制御によって、ポインターPOが重複して移動させられた重複アイコンIC0の移動をなかったこととするものである。この場合、重複アイコンIC0は、2点ドラッグ制御が行なわれる前の表示位置に表示される。その後、トラックパッド14は、第2の接触操作のキャンセルを監視する(ステップS112)。第2の接触操作がキャンセルされた場合には(ステップS112:YES)、非接触状態であるため、トラックパッド14は、操作制御処理を終了する所定の操作の検出を監視する(図4のステップS35)。所定の操作が検出されなかった場合には(ステップS35:NO)、ステップS35以降の処理が行なわれる。所定の操作が検出された場合には(ステップS35:YES)、入力決定部165は、操作制御処理を終了する。
図7のステップS112の処理において、第2の接触操作がキャンセルされなかった場合には(図7のステップS112:NO)、トラックパッド14は、トラックパッド14に検出されている中指MFの第2の接触操作を、第1の接触操作として新たに検出する(ステップS114)。その後、図4のステップS24以降の処理が行なわれる。
図5のステップS32の処理において、2点接触位置が平行移動していないと判定された場合には(ステップS32:NO)、入力決定部165は、2点接触位置がトラックパッド14の面に垂直な仮想的な回転中心軸を中心として回転しているか否かを判定する(ステップS36)。2点接触位置が回転していると判定された場合には(図5のステップS36:YES)、入力決定部165は、2点接触位置の回転に応じて、重複アイコンIC0の中心を軸として重複アイコンIC0を回転させる2点回転制御を行なう(ステップS38)。
図20は、2点回点制御の回転中心と2点接触位置との関係の一例を示す説明図である。図20には、第1の接触操作と第2の接触操作が検出されているときに、トラックパッド14と使用者の指との関係が示されている。図20には、人差し指FFの第1の接触位置FPと、中指MFの第2の接触位置MPと、第1の接触位置FPと第2の接触位置MPとを結んだ直線を直径とする領域円C1と、トラックパッド14の面に直交すると共に2点回点制御の回転中心を通る回転中心軸O3と、が示されている。本実施形態では、領域円C1の中に回転中心軸O3が含まれている場合に、2点接触位置が回転していると判定され、回転中心軸O3が領域円C1の外にある場合には、2点接触位置が回転していないと判定される。
図8には、2点回転制御の流れが示されている。なお、2点回転制御の処理では、図7に示す2点ドラッグ制御における処理と重複する処理については説明を省略し、異なる処理であるステップS202、ステップS208、および、ステップS210について説明する。2点回転制御では、初めに、入力決定部165が2点接触位置の回転に応じて、重複アイコンIC0を回転させる(ステップS202)。図21は、2点回転制御における接触操作の接触状態と使用者の視野VRとを示す説明図である。図21の操作画面VIには、2点接触位置の回転に応じて、重複アイコンIC0が回転している場合の表示画像が示されている。なお、本実施形態では、2点回点制御によって重複アイコンIC0は回転するが、ポインターPOは回転しない。図21に示すように、重複アイコンIC0は、2点回転制御の前(例えば、図15)と比較して、操作画面VIに平行な面上の重複アイコンIC0の中心を軸に回転している。
ステップS206の処理において、第2の接触操作がキャンセルされた場合には(ステップS206:YES)、入力決定部165は、重複アイコンIC0の回転を確定する(ステップS208)。ステップS204の処理において、第1の接触操作がキャンセルされた場合には(ステップS204:NO)、入力決定部165は、重複アイコンIC0の回転をキャンセルする(ステップS210)。重複アイコンIC0の回転がキャンセルされると、重複アイコンIC0は、2点回転制御が行なわれる前の表示に戻される。
図5のステップS36の処理において、2点接触位置が回転していないと判定された場合(ステップS36:NO)、トラックパッド14は、第2の接触操作のみのキャンセルの検出を監視する(ステップS40)。第2の接触操作のみがキャンセルされた場合には(ステップS40:YES)、図4のステップS24以降の処理が行なわれる。第2の接触操作のみのキャンセルが検出されなかった場合には(図5のステップS40:NO)、トラックパッド14は、第1の接触操作のみのキャンセルの検出を監視する(ステップS42)。第1の接触操作のみがキャンセルされた場合には(ステップS42:NO)、トラックパッド14は、第2の接触操作を新たな第1の接触操作として検出し(ステップS44)、図4のステップS24以降の処理が行なわれる。
図5のステップS42の処理において、第1の接触操作のみのキャンセルが検出されなかった場合には(ステップS42:NO)、トラックパッド14は、第1の接触操作と第2の接触操作とのキャンセルの検出を監視する(ステップS46)。第1の接触操作と第2の接触操作とがキャンセルされた場合には(ステップS46:YES)、非接触状態であるため、図4のステップS35以降の処理が行なわれる。第1の接触操作と第2の接触操作のいずれもキャンセルされなかった場合には(図5のステップS46:NO)、トラックパッド14は、第3の接触操作の検出を監視する(ステップS52)。第3の接触操作が検出されない場合には(ステップS52:NO)、ステップS32以降の処理が行なわれる。第3の接触操作が検出された場合には(ステップS52:YES)、入力決定部165は、第3の接触操作が行なわれている第3の接触時間が所定の時間以下であるか否かを判定する(図6のステップS54)。第3の接触時間が所定の時間以下であると判定された場合には(ステップS54:YES)、入力決定部165は、重複アイコンIC0の選択および決定を行なう等のダブルクリック制御を行なう(図6のステップS56)。本実施形態では、ポインターPOがアイコンICに重複しても、重複アイコンIC0の選択が行なわれずに、重複アイコンIC0の色が変化しないアイコンが存在する場合がある。その場合に、ダブルクリック制御が行なわれると、ポインターPOが重複するだけでは選択が行なわれない重複アイコンIC0の選択および決定が実行される。ダブルクリック制御が行なわれると(ステップS56)、図4のステップS24以降の処理が行なわれる。なお、第3の接触操作は、請求項における第2の操作に相当する。
ステップS54の処理において、際3の接触時間が所定の時間よりも長いと判定された場合には(ステップS54:NO)、トラックパッド14は、第1の接触位置と第2の接触位置と第3の接触操作におけるトラックパッド14の接触位置(以下、「第3の接触位置」とも呼ぶ)と、が平行移動しているか否かを判定する(ステップS58)。なお、以降では、第1の接触位置と第2の接触位置と第3の接触位置とを合わせて、3点接触位置とも呼ぶ。3点接触位置が同時に平行移動していると判定された場合には(ステップS58:YES)、入力決定部165は、重複アイコンIC0の表示位置を移動させる3点ドラッグ制御を行なう(ステップS60)。
図9には、3点ドラッグ制御の流れが示されている。3点ドラッグ制御では、初めに、入力決定部165がポインターPOと重複アイコンIC0との表示位置を、3点接触位置の変化に応じて移動させる(ステップS302)。図22は、3点ドラッグ制御における接触操作の接触状態と使用者の視野VRとを示す説明図である。図22では、使用者の人差し指FFと中指MFと親指THとの3本の指がトラックパッド14に接触している状態が示されている。本実施形態では、第3の接触操作として、使用者の右手の親指THがトラックパッド14に接触している。図22に示すように、重複アイコンIC0の表示位置は、3点ドラッグ制御の前と比較して、ポインターPOと共に移動して変化する。ポインターPOと重複アイコンIC0とが移動しているときに(図9のステップS302)、トラックパッド14は、第1の接触操作のキャンセルを監視する(ステップS304)。第1の接触操作のキャンセルされない場合には(ステップS304:NO)、トラックパッド14は、第2の接触操作のキャンセルと親指THが離れる第3の接触操作のキャンセルとを監視する(ステップS306)。第2の接触操作と第3の接触操作とがキャンセルされた場合には(ステップS306:YES)、入力決定部165は、重複アイコンIC0の移動を確定する(ステップS307)。重複アイコンIC0の移動が確定すると、第1の接触操作のみが検出されている状態であるため、図4のステップS24以降の処理が行なわれる。図9のステップS306の処理において、第2の接触操作と第3の接触操作とがキャンセルされない場合には(ステップS306:NO)、トラックパッド14は、第2の接触操作と第3の接触操作と内の一方のキャンセルを監視する(ステップS308)。第2の接触操作と第3の接触操作とのいずれもキャンセルされない場合には(ステップS308:NO)、第1の接触操作と第2の接触操作と第3の接触操作とが検出されているため、ステップS304以降の処理が行なわれる。ステップS308の処理において、第2の接触操作と第3の接触操作との一方がキャンセルされた場合には(ステップS308:YES)、トラックパッド14は、検出され続けている一方の接触操作を第2の接触操作として検出し(ステップS310)、図5のステップS32以降の処理が行なわれる。
図9のステップS304の処理において、第1の接触操作がキャンセルされた場合には(ステップS304:YES)、入力決定部165は、重複アイコンIC0の移動をキャンセルする(ステップS312)。重複アイコンIC0の移動がキャンセルされると、重複アイコンIC0は、3点ドラッグ制御が行なわれる前の表示位置に表示される。その後、トラックパッド14は、第2の接触操作と第3の接触操作とのキャンセルを監視する(ステップS314)。第2の接触操作と第3の接触操作とがキャンセルされた場合には(ステップS314:YES)、非接触状態であるため、図4のステップS35以降の処理が行なわれる。図9のステップS314の処理において、第2の接触操作と第3の接触操作とがキャンセルされなかった場合には(ステップS314:NO)、トラックパッド14は、第2の接触操作と第3の接触操作との内の一方のキャンセルを監視する(ステップS318)。第2の接触操作と第3の接触操作とのいずれもがキャンセルされなかった場合には(ステップS316:NO)、トラックパッド14は、第2の接触操作を新たな第1の接触操作として検出すると共に、第3の接触操作を新たな第2の接触操作として検出する(ステップS318)。その後、図5のステップS32以降の処理が行なわれる。図9のステップS316の処理において、第2の接触操作と第3の接触操作と内の一方がキャンセルされた場合には(ステップS316:YES)、トラックパッド14は、検出され続けている一方の接触操作を第1の接触操作として検出し(ステップS320)、図4のステップS24以降の処理が行なわれる。
図6のステップS58の処理において、3点接触位置が平行移動していないと判定された場合には(ステップS58:NO)、入力決定部165は、3点接触位置がトラックパッド14の平面に垂直な仮想的な回転中心軸を中心として回転しているか否かを判定する(ステップS60)。3点接触位置が回転していると判定された場合には(ステップS62:YES)、入力決定部165は、2点接触位置の回転に応じて、重複アイコンIC0の中心を軸として表示領域PNに表示された重複アイコンIC0を回転させる3点回転制御を行なう(ステップS64)。
図23は、3点回点制御の回転中心と3点接触位置との関係の一例を示す説明図である。図23には、第1の接触操作と第2の接触操作と第3の接触操作とが検出されているときに、トラックパッド14と使用者の指との関係が示されている。図23には、人差し指FFの第1の接触位置FPと、中指MFの第2の接触位置MPと、親指THの第3の接触位置TPと、第1の接触位置FPと第2の接触位置MPと第3の接触位置TPとを通る領域円C2と、トラックパッド14の面に直交すると共に3点回点制御の回転中心を通る回転中心軸O4と、が示されている。本実施形態では、領域円C2の中に回転中心軸O4が含まれている場合に、回転していると判定され、回転中心軸O4が領域円C1の外にある場合には、回転していないと判定される。
図10には、3点回転制御の流れが示されている。なお、3点回点制御の処理では、図9に示す3点ドラッグ制御における処理と重複する処理については説明を省略し、異なる処理であるステップS402、ステップS407、および、ステップS412について説明する。3点回転制御では、初めに、入力決定部165が3点接触位置の回転に応じて、重複アイコンIC0を回転させる(ステップS402)。ステップS406の処理において、第2の接触操作と第3の接触操作とがキャンセルされた場合には(ステップS406:YES)、入力決定部165は、重複アイコンIC0の回転を確定する(ステップS407)。ステップS404の処理において、第1の接触操作がキャンセルされた場合には(ステップS404:NO)、入力決定部165は、重複アイコンIC0の回転をキャンセルする(ステップS412)。重複アイコンIC0の回転がキャンセルされると、重複アイコンIC0は、2点回転制御が行なわれる前の表示に戻される。
図6のステップS62の処理において、3点接触位置が回転していないと判定された場合には(ステップS62:NO)、トラックパッド14は、第1の接触位置と第2の接触位置とが固定された状態で第3の接触位置が変化している(以下、「第3位置変化を行なう」とも呼ぶ)か否かを判定する(ステップS66)。第3位置変化が行なわれていると判定された場合には(ステップS66:YES)、入力決定部165は、表示領域PNに特定画像の一部の領域が表示されている場合に、表示される特定画像の一部の領域を変更するスクロールバー制御を行なう(ステップS68)。
図11には、スクロールバー制御の流れが示されている。なお、スクロールバー制御の処理では、図9に示す3点ドラッグ制御における処理に対して、ステップS502の処理と、3点ドラッグ制御におけるステップS307およびステップS312の処理がない点と、が異なる。そのため、スクロールバー制御では、ステップS502(図11)の処理についてのみ説明する。スクロールバー制御では、初めに、全体が表示領域PNに表示されずに一部の領域のみが表示されている特定画像において、表示される特定画像の一部の領域を変更するスクロールを行なう(ステップS502)。
図24および図25は、スクロールバー制御における接触操作の接触状態と使用者の視野VRとを示す説明図である。図24には、スクロールが行なわれる前の接触状態と視野VRとが示されており、図25には、スクロールが行なわれた後の接触状態と視野VRとが示されている。図24に示すように、使用者の人差し指FFと中指MFと親指THとがトラックパッド14に接触して接触操作として検出されている。第1の接触位置FPと第2の接触位置MPとが固定された状態で、第3の接触位置TPが変化することで、スクロールが行なわれる。図24の視野VRに示すように、使用者は、操作画面VI2を視認している。操作画面VI2には、操作画面VI2よりも表示される領域が大きい特定画像IMGの一部と、第3の接触位置TPの変化によって変化するスクロールバー画像SCBと、が含まれている。特定画像IMGには、建造物BDの画像が含まれている。図25には、図24に示す接触状態から、第1の接触位置FPと第2の接触位置MPとが固定された状態で、第3の接触位置TPが変化した後のトラックパッド14における接触状態と、使用者の視野VRと、が示されている。図25に示すように、スクロールが行なわれたため、使用者には、図24に示す操作画面VI2とは異なる操作画面VI3が視認される。スクロールによって第3の接触位置TPが下方向に変化すると、スクロールバー画像SCBの表示位置が表示領域PNにおいて下方向に移動すると共に、操作画面VI3には、図24に示す特定画像IMGの一部の領域よりも下の領域が表示される。そのため、操作画面VI3に表示されている建造物BDは、図24よりも図25において、下の階の画像が表示されている。なお、本実施形態のスクロールバー制御では、ポインターPOの位置は固定されている。クリック制御、2点ドラッグ制御、2点回点制御、3点ドラッグ制御、3点回点制御、および、スクロールバー制御は、請求項における第2の制御に相当する。
図6のステップS66の処理において、第3位置変化が行なわれていないと判定された場合には(ステップS66:NO)、トラックパッド14は、第1の接触操作のキャンセルを監視する(ステップS70)。第1の接触操作がキャンセルされない場合には(ステップS70:NO)、トラックパッド14は、第2の接触操作のキャンセルと第3の接触操作のキャンセルとを監視する(ステップS72)。第2の接触操作と第3の接触操作とがキャンセルされた場合には(ステップS72:YES)、第1の接触操作のみが検出されている状態であるため、図4のステップS24以降の処理が行なわれる。図6のステップS72の処理において、第2の接触操作と第3の接触操作とがキャンセルされない場合には(ステップS72:NO)、トラックパッド14は、第2の接触操作と第3の接触操作と内の一方のキャンセルを監視する(ステップS74)。第2の接触操作と第3の接触操作とのいずれもキャンセルされない場合には(ステップS74:NO)、第1の接触操作と第2の接触操作と第3の接触操作とが検出されているため、ステップS58以降の処理が行なわれる。ステップS74の処理において、第2の接触操作と第3の接触操作との一方がキャンセルされた場合には(ステップS74:YES)、トラックパッド14は、検出され続けている一方の接触操作を第2の接触操作として検出し(ステップS76)、図5のステップS32以降の処理が行なわれる。
図6のステップS70の処理において、第1の接触操作がキャンセルされた場合には(ステップS70:YES)、トラックパッド14は、第2の接触操作と第3の接触操作とのキャンセルを監視する(ステップS78)。第2の接触操作と第3の接触操作とがキャンセルされた場合には(ステップS78:YES)、非接触状態であるため、図4のステップS35以降の処理が行なわれる。図6のステップS78の処理において、第2の接触操作と第3の接触操作とがキャンセルされなかった場合には(ステップS78:NO)、トラックパッド14は、第2の接触操作と第3の接触操作との内の一方のキャンセルを監視する(ステップS80)。第2の接触操作と第3の接触操作とのいずれもがキャンセルされなかった場合には(ステップS80:NO)、トラックパッド14は、第2の接触操作を新たな第1の接触操作として検出すると共に、第3の接触操作を新たな第2の接触操作として検出する(ステップS82)。その後、図5のステップS32以降の処理が行なわれる。図6のステップS80の処理において、第2の接触操作と第3の接触操作と内の一方がキャンセルされた場合には(ステップS80:YES)、トラックパッド14は、検出され続けている一方の接触操作を第1の接触操作として検出し(ステップS84)、図4のステップS24以降の処理が行なわれる。
以上説明したように、本実施形態における頭部装着型表示装置100では、操作部135に含まれるトラックパッド14は、使用者の指の接触操作を検出して、検出内容に応じた信号を出力する。また、入力決定部165がトラックパッド14によって検出された接触操作やメニューキー17が押下された操作に基づく入力を決定し、画像処理部160が送信された信号に基づいて、表示領域PNに表示されたポインターPOの表示位置を設定する。入力決定部165は、第1の接触操作が検出されると、表示領域PNにポインターPOを表示させ、第1の接触位置の変化によってポインターPOの表示位置を変化させる。その後、第1の接触操作が検出された状態で、第2の接触操作における接触時間が所定の時間以下であると判定された場合には、入力決定部165は、重複アイコンIC0の選択を決定するクリック制御を行なう。そのため、本実施形態の頭部装着型表示装置100では、任意のタイミングで、かつ、トラックパッド14における任意の位置に接触操作が検出されることで、各種操作が行なわれるため、使用者の利便性および操作性が向上し、また、使用者は、直感的かつ簡便に頭部装着型表示装置100を操作できる。また、使用者の操作を受け付けるために、操作面としてのトラックパッド14のみがあればよいため、操作部135を小型化でき、携帯性の高い入力装置を提供できる。
また、本実施形態の頭部装着型表示装置100では、入力決定部165は、第1の接触操作が検出されると、表示領域PNにポインターPOを表示させ、第1の接触位置の変化によってポインターPOの表示位置を変化させる。そのため、本実施形態の頭部装着型表示装置100では、第1の接触操作が継続した状態で、クリック制御等の操作が行なわれるため、非接触状態にならずにポインターPOの位置が固定されており、誤動作の発生を抑制できる。また、本実施形態では、トラックパッド14が受け付ける操作として、接触操作が採用されているため、誤検出の少ない操作が行なわれる。
また、本実施形態の頭部装着型表示装置100では、第1の接触操作が検出されている状態で、ポインターPOが表示領域PNに表示されたアイコンIC(重複アイコンIC0)に重複しているときに、第2の接触操作が検出されると、入力決定部165は、重複アイコンIC0を選択するクリック制御を行なう。また、本実施形態の頭部装着型表示装置100では、ポインターPOが表示領域PNに表示されたアイコンIC(重複アイコンIC0)に重複しているときに、2点接触位置が同時に平行していると、入力決定部165は、2点接触位置の変化に応じて、操作画面VIにおける重複アイコンIC0の表示位置を移動させる2点ドラッグ制御を行なう。そのため、本実施形態の頭部装着型表示装置100では、使用者は、操作部135の特定の位置に固定されたボタンを押下する等の操作を行なわなくても、重複アイコンIC0の選択や移動を行なうことができ、自由度が高く直感的な操作を行なうことができる。
また、本実施形態の頭部装着型表示装置100では、第1の接触状態が検出されている状態で、ポインターPOが表示領域PNに表示されたアイコンIC(重複アイコンIC0)と重複しているときに、入力決定部165は、2点接触位置が回転中心軸O3を中心とする回転に応じて、重複アイコンIC0を回転させる2点回点制御を行なう。入力決定部165は、第1の接触位置FPと第2の接触位置MPとを結んだ直線を直径とする領域円C1に回転中心軸O3が含まれる場合に、2点回点制御を行なう。そのため、本実施形態の頭部装着型表示装置100では、使用者は、操作部135の特定の位置に固定されたボタンを押下する等の操作を行なわなくても、重複アイコンIC0の回転を行なうことができ、自由度が高く直感的な操作を行なうことができる。また、回転中心軸O3が領域円C1に含まれる場合に、重複アイコンIC0を回転させられるため、誤動作を抑制できる。
また、本実施形態の頭部装着型表示装置100では、入力決定部165は、接触位置とポインターPOの表示位置との関係方式を、操作面であるトラックパッド14と表示領域PNとが1対1で対応している絶対座標方式に設定する。そのため、本実施形態の頭部装着型表示装置100では、使用者は、トラックパッド14を視認しながら操作する場合には、ポインター画像の表示位置を視認できるため、表示領域PNにおいてポインターPOを直感的に動かすことができ、使用者の利便性が向上する。
また、本実施形態の頭部装着型表示装置100では、入力決定部165は、接触位置とポインターPOの表示位置との関係方式を相対座標方式に設定する。相対座標方式では、接触状態から非接触状態へと一定時間が経過した後に、ポインター画像を非表示にする。その後、再度、非接触状態から接触状態へと変化した場合に、入力決定部165は、新たに検出された接触操作における接触位置にかかわらず、前の接触状態におけるポインターPOの表示位置に、再びポインター画像を表示させる。そのため、本実施形態の頭部装着型表示装置100では、使用者は、トラックパッド14を視認できなくても、表示領域PNを視認することで直感的にポインターPOを動かすことができ、使用者の利便性が向上する。
また、本実施形態の頭部装着型表示装置100では、入力決定部165は、赤外線発光部61によって発光された赤外線を赤外線受光部63が受光した場合には、制御部10が画像表示部20に対して所定の位置に存在すると判定する。また、入力決定部165は、発光された赤外線を赤外線受光部63が受光していない場合には、制御部10が画像表示部20に対して所定の位置には存在していないと判定する。入力決定部165は、操作部135が所定の操作を受け付けた場合、または、入力決定部165によって制御部10が画像表示部20に対して所定の位置に存在するか否かの判定によって、絶対座標方式と相対座標方式とを切り替えて設定する。そのため、本実施形態の頭部装着型表示装置100では、使用者の意思に応じて絶対座標方式と相対座標方式とが切り替えられて設定されるため、使用者の利便性および操作性がさらに向上する。また、画像表示部20と制御部10との位置関係が判定されることにより、使用者に操作部135を含む制御部10が視認されているか否かが判定され、当該判定結果に応じて絶対座標方式と相対座標方式とが自動的に切り替えられることで、使用者の利便性がさらに向上する。
また、本実施形態の頭部装着型表示装置100では、加速度センサー19が制御部10に作用する加速度(例えば、重力加速度)を取得し、向き補正部167は、加速度センサー19から送信される制御部10に作用する加速度を示す信号に基づいて、制御部10の向きを特定し、制御部10の向きと重力方向とがなす角度に基づいて変換角度を決定する。入力決定部165は、向き補正部167によって決定された変換角度に基づいて、検出された第1の接触位置の変化を補正し、補正結果に基づいてポインターPOの表示位置を変化させる。そのため、本実施形態の頭部装着型表示装置100では、操作部135の向きにかかわらず重力方向を基準とした入力が行なわれ、使用者の操作性が向上する。また、上記実施形態では、加速度センサー19は、0.5秒間に1回、定期的に、加速度を取得したが、加速度が取得される頻度は、これに限られず、種々変形可能である。例えば、1秒間に1回、加速度が取得されてもよい。
B.変形例:
なお、この発明は上記実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば、次のような変形も可能である。
B1.変形例1:
上記実施形態では、第1の接触操作として人差し指FFが検出され、第2の接触操作として中指MFが検出され、第3の接触操作として親指THが検出されたが、検出される接触操作は特定の指に限られないし、また、指以外の接触操作であってもよい。例えば、第1の接触操作として中指MFが検出されて、第2の接触操作として親指THが検出されてもよい。また、使用者の指ではなく、タッチペンによる接触操作がトラックパッド14によって検出されてもよい。また、トラックパッド14への操作は、接触操作に限られず、非接触の操作であってもよい。例えば、操作面として、3次元型のモーションセンサーが用いられることで、非接触の操作が検出されてもよい。
上記実施形態では、クリック制御が行なわれるための判定の所定の時間が0.5秒として設定されたが、0.5秒以外の数字であってもよい。例えば、0.1秒や1.0秒であってもよい。また、0.5秒の間に、第2の接触操作が、接触状態から非接触状態へと変化した後に、再び接触状態が検出されたときに、クリック制御ではなく、ダブルクリック制御が行なわれてもよい。
上記実施形態では、接触状態から非接触状態へと変化したときに、一定時間、ポインターPOが表示され続ける態様としたが、非接触状態におけるポインターPOの表示の設定については種々変形可能である。例えば、接触状態から非接触状態へと変化したと同時にポインターPOが非表示となり、非接触状態の時には常にポインターPOが非表示になるような設定であってもよい。また、接触状態および非接触状態にかかわらず、操作画面VIが表示されているときには、常にポインターPOが表示される設定であってもよい。
上記実施形態では、2点回点制御および3点回転制御(合わせて「回転制御」とも呼ぶ)において、ポインターPOが回転しない態様であったが、回転制御におけるポインターPOの回転については、種々変形可能である。例えば、2点回転制御のときにはポインターPOが回転せずに、3点回転制御のときにはポインターPOが重複アイコンIC0と同時に回転してもよい。また、3点回点制御では、重複アイコンIC0ではなく、ポインターPOのみが回転してもよい。
また、上記実施形態では、ポインターPOの画像が変化しなかったが、ポインターPOの画像が不変である必要はなく、ポインターPOの画像については種々変形可能である。例えば、第2の接触位置MPや第3の接触位置TPによって行なわれる制御の内容によって、ポインターPOの画像が変更されてもよい。
また、上記実施形態では、第1の接触位置FPと第2の接触位置MPとを結んだ直線を直径とする領域円C1に回転中心軸O3が含まれる場合に、2点回点制御が行なわれたが、必ずしも2点回点制御が行なわれるために、領域円C1に回転中心軸O3が含まれる必要はない。例えば、領域円C1の領域よりも外側に回転中心軸O3があった場合でも2点回点制御が行なわれてもよいし、第3の接触位置TPを新たな回転中心軸とした場合に2点回転制御が行なわれてもよい。また、3点回転制御は、回転中心軸O4が領域円C2に含まれていない場合に行なわれてもよい。
上記実施形態では、赤外線発光部61によって発光された赤外線を赤外線受光部63が受光したか否かによって、入力決定部165が制御部10と画像表示部20との位置関係を特定したが、当該位置関係の特定の方法については、これに限られず、種々変形可能である。例えば、赤外線発光部61および赤外線受光部63の代わりに画像表示部20に配置されたカメラが、使用者の視線方向を撮像して、入力決定部165が撮像された画像の中に制御部10が含まれるか否かを判定してもよい。また、上記実施形態では、画像表示部20に対して制御部10が所定の位置に存在するか否かが判定されたが、必ずしも制御部10と画像表示部20との位置関係は特定される必要はなく、位置関係にかかわらず、検出された接触位置とポインターPOの表示位置との関係方式は、常に絶対座標方式または相対座標方式に固定されてもよい。
上記実施形態では、向き補正部167が加速度センサー19によって取得された制御部10に作用する加速度に基づいて決定した変換角度によって、接触位置の変化とポインターPOの表示位置の変化とが対応したが、必ずしも変換角度に基づいて接触位置の変化とポインターPOの表示位置の変化とを対応させる必要はない。例えば、加速度センサー19および向き補正部167が頭部装着型表示装置100に備えられておらず、接触位置の変化とポインターPOの表示位置の変化との対応が変換角度によって補正されなくてもよい。
上記実施形態では、選択される重複アイコンIC0として、「メッセージ」を例にして説明されたが、選択されて実行されるアイコンICは、「メッセージ」に限られず種々変形可能である。例えば、操作画面VI(図10)に表示されているアイコンICの「ブラウザー」であってもよいし、他のプログラムを実行するためのアイコンが操作画面VIに含まれていてもよい。また、ポインターPOがアイコンICに重複していなくても、所定の操作によって、特定のアイコンICが選択される態様であってもよい。
B2.変形例2:
上記実施形態では、3点接触位置の変化によって、スクロールバー制御が行なわれたが、第3の接触操作が検出しているか否かにかかわらず、2点接触位置の変化によってスクロールバー制御が行なわれてもよい。例えば、第1の接触操作と第2の接触操作とが検出されて第3の接触操作が検出されていない状態で、第1の接触位置FPが固定されると共に、第2の接触位置MPが変化している場合に、ポインターPOの表示位置が固定された状態で操作画面VI2(図24)に含まれる特定画像IMGの一部の領域が変化してもよい。この変形例では、使用者は、特定画像IMGのスクロールを行ないたい場合に、ポインターPOをわざわざスクロールバー画像SCBに重なるように移動させて、スクロールバー画像SCBを選択する必要がなく、簡便にスクロールを行なうことができ、使用者の利便性や操作性が向上する。
また、上記実施形態では、検出された複数の接触操作における接触位置の変化に応じて各種制御が行なわれたが、2つ以上の制御が組み合わされてもよい。例えば、3点接触位置の変化によって、第1の接触位置FPと第2の接触位置MPとが同時に平行移動すると共に、第3の接触位置TPが第1の接触位置FPおよび第2の接触位置MPとは異なる移動をしている場合に、重複アイコンIC0の2点ドラッグ制御が行なわれると共に、スクロールバー制御が行なわれてもよい。
また、上記実施形態では、図24および図25に示すスクロールバー制御において、スクロールバー画像SCBが操作されることで、特定画像IMGの表示される領域が表示領域PNの上下方向に沿って変化したが、スクロール制御において変更される特定画像IMGの領域の設定方法については種々変形可能である。例えば、表示領域PNの上下方向および左右方向に沿って変化するスクロールバー画像SCBが表示されて、特定画像IMGの領域が上下方向や左右方向に沿って変化してもよい。また、表示領域PNの上下方向に沿って変化するスクロールバー画像SCBが表示されている場合に、スクロールに対応する接触操作における接触位置が斜めに変化した場合に、接触位置の変化における上下方向の移動量のみに対応したスクロールが行なわれてもよい。
また、上記実施形態では、第1の接触操作、第2の接触操作、および、第3の接触操作の3つに応じて、頭部装着型表示装置100が制御されたが、検出される接触操作の種類の数については種々変形可能である。例えば、第1の接触操作と第2の接触操作のみによって頭部装着型表示装置100が制御され、第3の接触操作が検出されなくてもよい。また、第3の接触操作の後に検出される第4の接触操作との組み合わせによって、頭部装着型表示装置100が制御されてもよい。
また、上記実施形態では、複数の接触操作に基づいて、クリック制御や回転制御といった複数の制御が行なわれたが、必ずしも複数の制御が行なわれる必要はない。例えば、単に、第2の接触操作がクリック制御にのみ対応した態様であってもよい。
また、操作部135が所定の操作を受け付けることにより、第1の接触操作と第2の接触操作との組み合わせによって決定される操作が変更されてもよい。例えば、第1の接触操作と第3の接触操作とによってクリック制御が行なわれてもよい。また、人工知能(Artificial Intelligence)を用いて、使用頻度の高い接触操作による制御が自動的に優先して設定されてもよい。
B3.変形例3:
上記実施形態では、制御部10に操作部135が形成されたが、操作部135の態様については種々変形可能である。例えば、制御部10とは別体で操作部135であるユーザーインターフェースがある態様でもよい。この場合に、操作部135は、電源130等が形成された制御部10とは別体であるため、小型化でき、使用者の操作性が向上する。
例えば、画像光生成部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としてもよい。また、例えば、画像生成部は、LCDに代えて、LCOS(Liquid crystal on silicon, LCoS は登録商標)や、デジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型の頭部装着型表示装置100に対して本発明を適用することも可能である。
また、例えば、頭部装着型表示装置100は、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様のヘッドマウントディスプレイとしてもよい。また、頭部装着型表示装置100は、いわゆる単眼タイプのヘッドマウントディスプレイであるとしてもよい。また、頭部装着型表示装置100は、両眼タイプの光学透過型であるとしているが、本発明は、例えば、ビデオ透過型といった他の形式の頭部装着型表示装置にも同様に適用可能である。
また、イヤホンは耳掛け型やヘッドバンド型が採用されてもよく、省略してもよい。また、例えば、自動車や飛行機等の車両に搭載される頭部装着型表示装置として構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵された頭部装着型表示装置として構成されてもよい。
B4.変形例4:
上記実施形態における頭部装着型表示装置100の構成は、あくまで一例であり、種々変形可能である。例えば、制御部10に設けられた方向キー16を省略したり、方向キー16やトラックパッド14に加えて、操作用スティック等の他の操作用インターフェイスを設けたりしてもよい。また、制御部10は、キーボードやマウス等の入力デバイスを接続可能な構成であり、キーボードやマウスから入力を受け付けるものとしてもよい。
上記実施形態では、ポインターPOやアイコンICを含む操作画面VIの表示装置として頭部装着型表示装置100の画像表示部20が用いられたが、操作画面VIの表示装置については、種々変形可能である。例えば、パーソナルコンピューター(PC)に接続されたモニターであってもよいし、スクリーンに操作画面VIを投影するプロジェクターであってもよい。
また、画像表示部として、眼鏡のように装着する画像表示部20に代えて、例えば帽子のように装着する画像表示部といった他の方式の画像表示部を採用してもよい。また、イヤホン32,34は、適宜省略可能である。また、上記実施形態では、画像光を生成する構成として、LCDと光源とを利用しているが、これらに代えて、有機ELディスプレイといった他の表示素子を採用してもよい。
図26は、変形例における頭部装着型表示装置の外観構成を示す説明図である。図26(A)の例の場合、図1に示した頭部装着型表示装置100との違いは、画像表示部20aが、右光学像表示部26に代えて右光学像表示部26aを備える点と、左光学像表示部28に代えて左光学像表示部28aを備える点とである。右光学像表示部26aは、上記実施形態の光学部材よりも小さく形成され、頭部装着型表示装置100aの装着時における使用者の右眼の斜め上に配置されている。同様に、左光学像表示部28bは、上記実施形態の光学部材よりも小さく形成され、頭部装着型表示装置100aの装着時における使用者の左眼の斜め上に配置されている。図26(B)の例の場合、図1に示した頭部装着型表示装置100との違いは、画像表示部20bが、右光学像表示部26に代えて右光学像表示部26bを備える点と、左光学像表示部28に代えて左光学像表示部28bを備える点とである。右光学像表示部26bは、上記実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼の斜め下に配置されている。左光学像表示部28bは、上記実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の左眼の斜め下に配置されている。このように、光学像表示部は使用者の眼の近傍に配置されていれば足りる。また、光学像表示部を形成する光学部材の大きさも任意であり、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様の頭部装着型表示装置100として実現できる。
また、上記実施形態において、頭部装着型表示装置100は、使用者の左右の眼に同じ画像を表わす画像光を導いて使用者に二次元画像を視認させるとしてもよいし、使用者の左右の眼に異なる画像を表わす画像光を導いて使用者に三次元画像を視認させるとしてもよい。
また、上記実施形態において、ハードウェアによって実現されていた構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されていた構成の一部をハードウェアに置き換えるようにしてもよい。例えば、上記実施形態では、画像処理部160や音声処理部170は、CPU140がコンピュータープログラムを読み出して実行することにより実現されるとしているが、これらの機能部はハードウェア回路により実現されるとしてもよい。
また、本発明の機能の一部または全部がソフトウェアで実現される場合には、そのソフトウェア(コンピュータープログラム)は、コンピューター読み取り可能な記録媒体に格納された形で提供することができる。この発明において、「コンピューター読み取り可能な記録媒体」とは、フレキシブルディスクやCD−ROMのような携帯型の記録媒体に限らず、各種のRAMやROM等のコンピューター内の内部記憶装置や、ハードディスク等のコンピューターに固定されている外部記憶装置も含んでいる。
また、上記実施形態では、図1および図2に示すように、制御部10と画像表示部20とが別々の構成として形成されているが、制御部10と画像表示部20との構成については、これに限られず、種々変形可能である。例えば、画像表示部20の内部に、制御部10に形成された構成の全てが形成されてもよいし、一部が形成されてもよい。また、上記実施形態における電源130が単独で形成されて、交換可能な構成であってもよいし、制御部10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、図2に示すCPU140が制御部10と画像表示部20との両方に形成されていてもよいし、制御部10に形成されたCPU140と画像表示部20に形成されたCPUとが行なう機能が別々に分けられている構成としてもよい。
また、制御部10がPCに内蔵されて、PCのモニターに代えて画像表示部20が使用される態様であってもよいし、制御部10と画像表示部20とが一体化して、使用者の衣服に取り付けられるウェアラブルコンピューターの態様であってもよい。
本発明は、上記実施形態や変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや、組み合わせを行なうことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
10…制御部
11…決定キー
12…点灯部
13…表示切替キー
14…トラックパッド(操作面)
15…輝度切替キー
16…方向キー
17…メニューキー
18…電源スイッチ
19…加速度センサー(加速度検出部)
20…画像表示部(画像表示装置)
21…右保持部
22…右表示駆動部
23…左保持部
24…左表示駆動部
26…右光学像表示部
28…左光学像表示部
30…イヤホンプラグ
32…右イヤホン
34…左イヤホン
40…接続部
42…右コード
44…左コード
46…連結部材
48…本体コード
51,52…送信部
53,54…受信部
61…赤外線発光部(操作面判定部)
63…赤外線受光部(操作面判定部)
100…頭部装着型表示装置
120…記憶部
130…電源
135…操作部(操作部)
140…CPU
150…OS
160…画像処理部(制御部)
165…入力決定部(制御部、操作面判定部)
167…向き補正部(制御部)
170…音声処理部
180…インターフェイス
190…表示制御部
201…右バックライト制御部
202…左バックライト制御部
211…右LCD制御部
212…左LCD制御部
221…右バックライト
222…左バックライト
241…右LCD
242…左LCD
251…右投写光学系
252…左投写光学系
261…右導光板
262…左導光板
D0…基準方向
DG…重力方向
DR1…操作方向
O1,O2…中心
L1…直線
β1…角度
C1,C2…領域円
O3,O4…回転中心軸
VR…視野
FF…人差し指
MF…中指
TH…親指
FP…第1の接触位置
MP…第2の接触位置
TP…第3の接触位置
VI,VI2,VI3…操作画面
PN…表示領域
PO…ポインター
SCB…スクロールバー画像
IMG…特定画像
BD…建造物
RE…右眼
LE…左眼
AP…先端部
EL…端部
ER…端部
PL…画像光
IL…照明光

Claims (14)

  1. 情報処理装置であって、
    操作面と、前記操作面への少なくとも1つの操作を検出して検出位置に応じた位置指定信号を出力する位置指定部と、を含む操作部と、
    前記操作面への前記操作によって検出される第1の操作に応じた前記位置指定信号に基づいて第1の制御を行ない、前記第1の操作が継続すると共に、前記操作面への新たな第2の操作に基づいて、前記情報処理装置に対して前記第1の制御とは異なる第2の制御を行なう制御部と、を備え
    前記制御部は、前記第1の操作と前記第2の操作とが継続されているときに、前記第1の操作のみがキャンセルされたことが検出された場合には、前記第2の操作を前記第1の操作として検出しなおし、新たな前記第2の操作を検出可能な状態にする、情報処理装置。
  2. 請求項1に記載の情報処理装置であって、
    前記制御部は、前記第1の制御として、画像表示装置が画像を表示する画像領域内に表示させるポインター画像の位置を設定する、情報処理装置。
  3. 請求項2に記載の情報処理装置であって、
    前記制御部は、前記第1の操作が継続している状態において前記画像領域内に表示された選択可能なオブジェクトと前記ポインター画像とが重なっているときに、前記第2の操作が検出されると、前記第2の制御として、前記ポインター画像と重なっている前記オブジェクトを選択するクリック制御を行なう、情報処理装置。
  4. 請求項2または請求項3に記載の情報処理装置であって、
    前記制御部は、前記画像領域内に表示された選択可能なオブジェクトと前記ポインター画像とが重なっているときに、前記第1の操作における前記検出位置と前記第2の操作における前記検出位置とが同時かつ平行に移動する変化が検出されると、前記第2の制御として、前記ポインター画像と重なっている前記オブジェクトの位置を前記検出位置の変化に基づいて変更させるドラッグ制御を行なう、情報処理装置。
  5. 請求項2から請求項4までのいずれか一項に記載の情報処理装置であって、
    前記制御部は、前記画像領域内に表示された選択可能なオブジェクトと前記ポインター画像とが重なっているときに、前記操作面に垂直な仮想的な特定軸を中心として前記第1の操作における前記検出位置と前記第2の操作における前記検出位置とが同時に回転する変化が検出されると、前記第2の制御として、前記ポインター画像が重なっている前記オブジェクトを回転させる回転制御を行なう、情報処理装置。
  6. 請求項5に記載の情報処理装置であって、
    前記制御部は、前記第1の操作における前記検出位置と前記第2の操作における前記検出位置とを直径とする円の内部に前記特定軸が含まれる場合には、前記第2の制御として、前記回転制御を行なう、情報処理装置。
  7. 請求項2から請求項6までのいずれか一項に記載の情報処理装置であって、
    前記制御部は、前記画像領域内に特定画像の一部の領域が表示されている場合に、前記第1の操作における前記検出位置の変化が検出されないと共に、前記第2の操作における前記検出位置の変化が検出された場合には、前記第2の制御として、前記ポインター画像の位置を固定すると共に、前記第2の操作における前記検出位置の変化に基づいて、前記画像領域内に表示される前記特定画像の領域を変更するスクロールバー制御を行なう、情報処理装置。
  8. 請求項2から請求項7までのいずれか一項に記載の情報処理装置であって、
    前記制御部は、前記画像領域内における前記ポインター画像の位置を前記操作面における前記検出位置に対応付ける、情報処理装置。
  9. 請求項2から請求項8までのいずれか一項に記載の情報処理装置であって、
    前記制御部は、前記操作が検出された第1の状態から前記操作が検出されていない状態へと移行した後に、再度、前記操作が検出された第2の状態のとき、前記第1の状態における最後の前記ポインター画像の位置を、前記第2の状態において、前記第1の操作における前記検出位置にかかわらず、最初の前記ポインター画像の位置として対応付ける第1の設定を行なう、情報処理装置。
  10. 請求項9に記載の情報処理装置であって、
    前記制御部は、前記操作に基づいて、前記ポインター画像の位置を前記操作面における前記検出位置に対応付ける第2の設定と前記第1の設定とを切り替える、情報処理装置。
  11. 請求項10に記載の情報処理装置であって、
    前記画像表示装置は、使用者の頭部に装着された状態において、前記画像を表す画像データに基づいて画像光を形成し、前記画像光を虚像として使用者に視認させると共に外景を透過させる頭部装着型画像表示装置であり、
    前記情報処理装置は、さらに、
    透過された前記外景に前記操作面の少なくとも一部が含まれるか否かを判定する操作面判定部を備え、
    前記制御部は、透過された前記外景に前記操作面が含まれていないと判定された場合には、前記第1の設定に切り替え、透過された前記外景に前記操作面の少なくとも一部が含まれていると判定された場合には前記第2の設定に切り替える、情報処理装置。
  12. 請求項2から請求項11までのいずれか一項に記載の情報処理装置であって、さらに、
    前記操作部に配置され、前記操作部の加速度を検出する加速度検出部を備え、
    前記制御部は、検出された前記操作部の加速度に基づいて前記操作面の向きを特定し、前記操作面の向きが第1の向きの場合には、第1の規則に基づいて前記位置指定信号の変化を前記ポインター画像の位置の変化へと変換し、前記操作部の向きが前記第1の向きとは異なる第2の向きの場合には、前記第1の規則とは異なる第2の規則に基づいて前記位置指定信号の変化を前記ポインター画像の位置の変化へと変換する、情報処理装置。
  13. 請求項1から請求項12までのいずれか一項に記載の情報処理装置であって、
    前記操作面への操作は、前記操作面へと接触する操作である、情報処理装置。
  14. 操作面と、前記操作面への少なくとも1つの操作を検出して検出位置に応じた位置指定信号を出力する位置指定部と、を含む操作部を備える、情報処理装置の制御方法であって、
    前記操作面への前記操作によって検出される第1の操作に応じた前記位置指定信号に基づいて第1の制御を行ない、前記第1の操作が継続すると共に、前記操作面への新たな第2の操作に基づいて、前記情報処理装置に対して前記第1の制御とは異なる第2の制御を行なう工程と
    前記第1の操作と前記第2の操作とが継続されているときに、前記第1の操作のみがキャンセルされたことを検出した場合に、前記第2の操作を前記第1の操作として検出しなおし、新たな前記第2の操作を検出可能な状態にする工程と、
    を備える、制御方法。
JP2013259059A 2013-12-16 2013-12-16 情報処理装置および情報処理装置の制御方法 Active JP6264871B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013259059A JP6264871B2 (ja) 2013-12-16 2013-12-16 情報処理装置および情報処理装置の制御方法
US14/555,923 US9465452B2 (en) 2013-12-16 2014-11-28 Information processing apparatus and control method of information processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013259059A JP6264871B2 (ja) 2013-12-16 2013-12-16 情報処理装置および情報処理装置の制御方法

Publications (2)

Publication Number Publication Date
JP2015115038A JP2015115038A (ja) 2015-06-22
JP6264871B2 true JP6264871B2 (ja) 2018-01-24

Family

ID=53368406

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013259059A Active JP6264871B2 (ja) 2013-12-16 2013-12-16 情報処理装置および情報処理装置の制御方法

Country Status (2)

Country Link
US (1) US9465452B2 (ja)
JP (1) JP6264871B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210001865A (ko) * 2019-06-26 2021-01-06 베이징 시아오미 모바일 소프트웨어 컴퍼니 리미티드 웨어러블 제어장치, 가상/증강현실 시스템 및 제어방법

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9202297B1 (en) * 2011-07-12 2015-12-01 Domo, Inc. Dynamic expansion of data visualizations
US9792017B1 (en) 2011-07-12 2017-10-17 Domo, Inc. Automatic creation of drill paths
DE102014006776A1 (de) * 2014-05-08 2015-11-12 Audi Ag Bedienvorrichtung für ein elektronisches Gerät
DE102014009303B4 (de) * 2014-06-26 2020-07-23 Audi Ag Verfahren zum Betreiben einer Virtual-Reality-Brille und System mit einer Virtual-Reality-Brille
KR20170129509A (ko) * 2016-05-17 2017-11-27 엘지전자 주식회사 헤드 마운티드 디스플레이 장치 및 그것의 제어방법
US11494986B2 (en) * 2017-04-20 2022-11-08 Samsung Electronics Co., Ltd. System and method for two dimensional application usage in three dimensional virtual reality environment
CN107479804A (zh) * 2017-08-16 2017-12-15 歌尔科技有限公司 虚拟现实设备及其内容调整方法
JP2019046156A (ja) * 2017-09-01 2019-03-22 エレコム株式会社 ポインティングデバイス
WO2019070249A1 (en) * 2017-10-04 2019-04-11 Hewlett-Packard Development Company, L.P. USER INTERFACES WITH STRAIN SENSORS
US10714592B2 (en) * 2017-10-30 2020-07-14 Taiwan Semiconductor Manufacturing Co., Ltd. Method of manufacturing a semiconductor device and a semiconductor device
WO2020075456A1 (ja) * 2018-10-11 2020-04-16 オムロン株式会社 入力装置

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07230352A (ja) * 1993-09-16 1995-08-29 Hitachi Ltd タッチ位置検出装置及びタッチ指示処理装置
JP2001117713A (ja) * 1999-10-19 2001-04-27 Casio Comput Co Ltd データ処理装置、及び記憶媒体
JP4803883B2 (ja) * 2000-01-31 2011-10-26 キヤノン株式会社 位置情報処理装置及びその方法及びそのプログラム。
JP2002055781A (ja) * 2000-08-14 2002-02-20 Canon Inc 情報処理装置及びその制御方法、コンピュータ可読メモリ
JP2003348675A (ja) * 2002-05-27 2003-12-05 Canon Inc リモコン送信装置、リモート制御サブシステム、リモート制御システム、リモート制御装置およびリモート制御方法
JP2005234993A (ja) * 2004-02-20 2005-09-02 Toshiba Corp 画像表示装置、及び画像表示方法
US7728823B2 (en) 2004-09-24 2010-06-01 Apple Inc. System and method for processing raw data of track pad device
US7719522B2 (en) 2004-09-24 2010-05-18 Apple Inc. Raw data track pad device and system
JP4319156B2 (ja) * 2005-03-02 2009-08-26 任天堂株式会社 情報処理プログラムおよび情報処理装置
JP2009523267A (ja) 2005-09-15 2009-06-18 アップル インコーポレイテッド トラックパッドデバイスの未加工データを処理するシステム及び方法
JP5210497B2 (ja) * 2006-04-12 2013-06-12 クラリオン株式会社 ナビゲーション装置
US20070257891A1 (en) 2006-05-03 2007-11-08 Esenther Alan W Method and system for emulating a mouse on a multi-touch sensitive surface
JP2008242881A (ja) 2007-03-28 2008-10-09 Chube Univ 入力装置及び入力プログラム
JP4906893B2 (ja) * 2009-08-18 2012-03-28 キヤノン株式会社 撮像装置及び撮像装置の制御方法
US20100085323A1 (en) * 2009-12-04 2010-04-08 Adam Bogue Segmenting a Multi-Touch Input Region by User
WO2011145330A1 (ja) * 2010-05-18 2011-11-24 パナソニック株式会社 座標決定装置、座標決定方法及び座標決定プログラム
JP5275429B2 (ja) * 2011-11-08 2013-08-28 株式会社東芝 情報処理装置、プログラムおよびポインティング方法
JP5927867B2 (ja) * 2011-11-28 2016-06-01 セイコーエプソン株式会社 表示システム、及び操作入力方法
JP5990958B2 (ja) * 2012-03-22 2016-09-14 セイコーエプソン株式会社 頭部装着型表示装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210001865A (ko) * 2019-06-26 2021-01-06 베이징 시아오미 모바일 소프트웨어 컴퍼니 리미티드 웨어러블 제어장치, 가상/증강현실 시스템 및 제어방법
US11175758B2 (en) 2019-06-26 2021-11-16 Beijing Xiaomi Mobile Software Co., Ltd. Wearable control device, virtual/augmented reality system and control method
KR102351393B1 (ko) * 2019-06-26 2022-01-17 베이징 시아오미 모바일 소프트웨어 컴퍼니 리미티드 웨어러블 제어장치, 가상/증강현실 시스템 및 제어방법

Also Published As

Publication number Publication date
US20150169096A1 (en) 2015-06-18
US9465452B2 (en) 2016-10-11
JP2015115038A (ja) 2015-06-22

Similar Documents

Publication Publication Date Title
JP6264871B2 (ja) 情報処理装置および情報処理装置の制御方法
US9965048B2 (en) Head-mount type display device, control system, method of controlling head-mount type display device, and computer program
US9921646B2 (en) Head-mounted display device and method of controlling head-mounted display device
JP6206099B2 (ja) 画像表示システム、画像表示システムを制御する方法、および、頭部装着型表示装置
JP5884576B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
US20150168729A1 (en) Head mounted display device
JP6500477B2 (ja) 頭部装着型表示装置、制御システム、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6318596B2 (ja) 情報処理装置および情報処理装置の制御方法
US20120218303A1 (en) Information processing apparatus, control method of information processing apparatus, and transmission head-mount type display device
JP6111659B2 (ja) 表示装置、および、表示装置の制御方法
JP6427942B2 (ja) 頭部装着型表示装置、制御システム、および、頭部装着型表示装置の制御方法
JP6303274B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2014142751A (ja) 表示装置、頭部装着型表示装置および表示装置の制御方法
US9799144B2 (en) Head mounted display, and control method for head mounted display
JP2018124721A (ja) 頭部装着型表示装置、及び頭部装着型表示装置の制御方法
JP5990958B2 (ja) 頭部装着型表示装置
JP6740613B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2014154074A (ja) 入力装置、頭部装着型表示装置および入力装置の制御方法
JP2016212769A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP6669183B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6350705B2 (ja) 表示装置、および、表示装置の制御方法
JP6217772B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2013201636A (ja) 電子機器
JP2017191424A (ja) 頭部装着型表示装置

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20160530

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161017

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170706

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170718

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170914

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171211

R150 Certificate of patent or registration of utility model

Ref document number: 6264871

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150