JP5793426B2 - グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法 - Google Patents

グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法 Download PDF

Info

Publication number
JP5793426B2
JP5793426B2 JP2011548330A JP2011548330A JP5793426B2 JP 5793426 B2 JP5793426 B2 JP 5793426B2 JP 2011548330 A JP2011548330 A JP 2011548330A JP 2011548330 A JP2011548330 A JP 2011548330A JP 5793426 B2 JP5793426 B2 JP 5793426B2
Authority
JP
Japan
Prior art keywords
virtual physical
physical space
user interface
user
graphical user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011548330A
Other languages
English (en)
Other versions
JP2012516518A (ja
Inventor
デイビッド バーンボーム、
デイビッド バーンボーム、
クリストファー ジェイ. ウーリッヒ、
クリストファー ジェイ. ウーリッヒ、
ピーター ルビン、
ピーター ルビン、
フォン デイビッド ヌゴ、
フォン デイビッド ヌゴ、
レオ コペロウ、
レオ コペロウ、
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Immersion Corp
Original Assignee
Immersion Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US12/502,702 external-priority patent/US8638301B2/en
Application filed by Immersion Corp filed Critical Immersion Corp
Publication of JP2012516518A publication Critical patent/JP2012516518A/ja
Application granted granted Critical
Publication of JP5793426B2 publication Critical patent/JP5793426B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72427User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality for supporting games or graphical animations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1626Constructional details or arrangements for portable computers with a single-body enclosure integrating a flat display, e.g. Personal Digital Assistants [PDAs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72469User interfaces specially adapted for cordless or mobile telephones for operating the device by selecting functions from two or more displayed items, e.g. menus or icons
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M19/00Current supply arrangements for telephone systems
    • H04M19/02Current supply arrangements for telephone systems providing ringing current or supervisory tones, e.g. dialling tone or busy tone
    • H04M19/04Current supply arrangements for telephone systems providing ringing current or supervisory tones, e.g. dialling tone or busy tone the ringing-current being generated at the substations
    • H04M19/047Vibrating means for incoming calls
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2200/00Indexing scheme relating to G06F1/04 - G06F1/32
    • G06F2200/16Indexing scheme relating to G06F1/16 - G06F1/18
    • G06F2200/163Indexing scheme relating to constructional details of the computer
    • G06F2200/1637Sensing arrangement for detection of housing movement or orientation, e.g. for controlling scrolling or cursor movement on the display of an handheld computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04803Split screen, i.e. subdividing the display area or the window area into separate subareas

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Hardware Design (AREA)
  • General Business, Economics & Management (AREA)
  • Business, Economics & Management (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Description

[関連出願へのクロスリファレンス]この実用特許出願は、2009年1月29日に出願され“Systems and Methods for Pseudo-Telepresence in a Shared Space”と題された米国仮特許出願番号61/148,312と、2009年5月26日に出願され“Systems and Methods for Transmitting Haptic Messages”と題された米国仮特許出願番号61/181,280の優先権を主張し、2008年7月15日に出願され“Systems and Methods for Physics-Based Tactile Messaging”と題された米国仮特許出願番号61/080,978と、2008年7月15日に出願され“Systems and Methods for Mapping Message Contents to Virtual Physical Properties for Vibrotactile Messaging”と題された米国仮特許出願番号61/080,981と、2008年7月15日に出願され“Systems and Methods for Shifting Sensor Haptic Feedback Function Between Passive and Active Modes”と題された米国仮特許出願番号61/080,985と、2008年7月15日に出願され“Systems and Methods for Gesture Indication of Message Recipients”と題された米国仮特許出願番号61/080,987の優先権を主張する2009年7月14日に出願され“Systems and Methods for Transmitting Haptic Messages”と題された米国特許出願番号12/502,702の一部継続出願であり、それらの全てはその全体がここで引用によって組み込まれる。
本発明は、全般的にグラフィカルユーザインターフェースに関し、より特定には、グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法に関する。
従来のユーザデバイスは、アプリケーションを選択し、電話番号をダイヤルし、またはテキストメッセージをタイプするための、タッチスクリーンまたはボタンのような、デバイスと相互作用することをユーザに許容するための基本的なインターフェースメカニズムを使用し得る。そのようなデバイスでは、インターフェースの複数レベルを通したナビゲーションは煩雑であり得て、ユーザによる相当な注意を要求し、望ましい機能に正しくアクセスするためにデバイスを正確に操作することを要求し、またはユーザインターフェースを保持してナビゲートするために2つの手の使用を要求し得る。例えば、そのようなデバイスは、メッセージ受取人を選択し、メッセージをタイプし、メッセージを送るためのマルチステッププロセスを使用し得る従来のテキストメッセ−ジングシステムを含み得る。従って、ユーザのジェスチャーに応答してグラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法の必要がある。
グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法の実施形態が開示される。例えば、グラフィカルユーザインターフェースとの物理的相互作用を解釈するための一つのシステムは、ユーザによって掴まれるように構成されたハウジングと、ハウジング中に配置されたディスプレイであって、ディスプレイはグラフィカルユーザインターフェースを表示するように構成されているものと、ハウジング中に配置されたセンサーであって、センサーは一つの自由度におけるハウジングの動きを検出するように構成されているものと、を有するデバイスである。デバイスはまた、ハウジング中に配置され、ディスプレイおよびセンサーと通信しているプロセッサであって、プロセッサは、センサーからのセンサー信号を受け取り、センサー信号は動きと関連付けられたパラメータを含み、パラメータに基づいてグラフィカルユーザインターフェースと関連付けられたコマンドを決定し、コマンドに基づいて実行されるべき機能を決定し、機能を実行する、ように構成されているもの、を含む。
この描写的実施形態は、発明を限定したり規定したりするためではなく、むしろその理解を補助するための例を提供するために言及されている。描写的実施形態が詳細な記載で説明され、そこでは発明の更なる記載が提供される。この発明の様々な実施形態によって供される利点は、この明細書を精査することによって更に理解され得る。
本発明のこれらおよびその他の特徴、側面および利点は、添付の図面を参照して以下の詳細な記載が読まれた時により良く理解される。
図1は、本発明の一実施形態に従ったグラフィカルユーザインターフェースを提供するためのデバイスを示す。 図2aは、本発明の一実施形態に従ったグラフィカルユーザインターフェースを示す。 図2bは、本発明の一実施形態に従ったグラフィカルユーザインターフェースを示す。 図2cは、本発明の一実施形態に従ったグラフィカルユーザインターフェースを示す。 図2dは、本発明の一実施形態に従ったグラフィカルユーザインターフェースを示す。 図3は、本発明の一実施形態に従ったグラフィカルユーザインターフェースを提供するための方法を示す。 図4は、本発明の実施形態に従ったグラフィカルユーザインターフェースを示す。 図5は、本発明の実施形態に従ったグラフィカルユーザインターフェースを示す。 図6は、本発明の実施形態に従ったグラフィカルユーザインターフェースを示す。 図7は、本発明の実施形態に従ったグラフィカルユーザインターフェースを示す。 図8は、本発明の実施形態に従ったグラフィカルユーザインターフェースを示す。 図9aは、本発明の実施形態に従ったグラフィカルユーザインターフェースを示す。 図9bは、本発明の実施形態に従ったグラフィカルユーザインターフェースを示す。
本発明の実施形態は、グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法を提供する。
例えば、本発明の一つの描写的実施形態では、携帯電話が、タッチ感応ディスプレイスクリーンと、様々なアプリケーションを実行するプロセッサと、携帯電話の動きを感知することが可能なセンサーからなる。稼動された時、携帯電話は、電話機能、コンタクト情報、インターネットブラウザーおよび電子メール機能のような、携帯電話によって提供された機能性にアクセスすることをユーザに許容するためのグラフィカルユーザインターフェースを表示する。いくつかの従来の携帯電話と同様に、描写的携帯電話のユーザは、携帯電話によって提供された機能を稼動するための様々なアイコンにタッチするように、グラフィカルユーザインターフェースと相互作用するためにタッチ感応ディスプレイスクリーンにタッチしても良い。しかしながら、描写的実施形態はまた、非従来的なやり方で携帯電話と相互作用することもユーザに許容する。
例えば、ユーザは、動き感応グラフィカルユーザインターフェースを稼動するために携帯電話を素早く揺り動かすかまたは振っても良い。一旦動き感応グラフィカルユーザインターフェースが稼動されると、ユーザは、グラフィカルユーザインターフェースの異なる特徴を通してナビゲートするために電話を様々な方向にまたは様々な向きを通して物理的に動かしても良い。例えば、一つの描写的グラフィカルユーザインターフェースは、携帯電話内で利用可能な機能を表している複数のアイコンを表示しても良い。アイコンは、従来の6速ギアシフトパターンのような自動車のギアシフトパターンを表している一連のチャネルに沿って、シフトパターン内のギアシフトレバーのグラフィカル表現と共に、配列される。望ましい機能をナビゲートするために、ユーザは、それがあたかもシフトレバーであるかのように、電話を動かしても良い。ユーザが携帯電話を動かすにつれて、ジャイロスコープ状のセンサーのようなセンサーが、携帯電話の動きを検出し、動き情報を携帯電話のプロセッサに提供する。プロセッサは、センサー信号を解釈し、携帯電話の動きを追跡するように表示されたギアシフトノブの位置を変更する。一旦ユーザが望ましい機能に「シフト」すれば、ユーザは機能を稼動するために携帯電話を素早く揺り動かすかまたは振っても良い。揺り動かしは再度センサーによって感知され、プロセッサに送信される。プロセッサは、動きを機能の選択として解釈し、それから機能を実行する。そのような動き感応グラフィカルユーザインターフェースは、ユーザがタッチによってユーザインターフェースを操作することに意図的に集中する必要無しに素早く機能を稼動したい時、あるいはもしユーザが一方の手に何かを持っていて携帯電話を使うためにもう一方の手だけが空いているならば、望ましいものであり得る。
ここで図1を参照すると、図1は本発明の一実施形態に従ったグラフィカルユーザインターフェースを提供するためのデバイス100を示す。デバイス100は、ハウジング110、ディスプレイ120、プロセッサ130、センサー140、およびアクチュエータ150からなる。示された実施形態では、ハウジング110は携帯電話ハウジングであるが、その他の実施形態では、ハウジング110は、パーソナルデジタルアシスタント(PDA)、リモートコントロール(例えば、TV用の)、携帯電話、移動コンピューター、ディスプレイ、またはその他の好適なデバイスのためのハウジングのような、その他のタイプのハウジングであっても良い。いくつかの実施形態では、ハウジング110は、手持ち式デバイスハウジングからなっていても良く、その他の実施形態では、ハウジング110は、より大きなハウジング、例えばコンピューターモニターハウジングまたは固定されたディスプレイのためのハウジング、からなっていても良い。ディスプレイ120は、ディスプレイ120が画像をデバイス100のユーザに表示するように構成されるように、ハウジング内に配置されている。図1に示された実施形態では、ディスプレイ120はタッチ感応ディスプレイであり、ユーザの指またはスタイラスからのような、ディスプレイ120との接触を感知するように構成されている。ディスプレイ120はまた、ステータス情報をユーザに提供するためまたはユーザがデバイス100によって提供された機能にアクセスすることを許容するためのインターフェースを提供するためのように、グラフィカルユーザインターフェースをユーザに表示するように構成されている。
デバイス100はまた、ハウジング110内に配置されたプロセッサ130からなる。図1に示された実施形態では、プロセッサ130は、点線によって示されるように、それが全体的にデバイス100内に配置されるように、デバイス100内に配置される。いくつかの実施形態では、しかしながら、プロセッサはデバイス100中に配置されていなくても良い。例えば、一実施形態では、デバイスは、モニターまたはLCDスクリーンと通信しているデスクトップコンピューターからなっていても良い。同様に、いくつかの実施形態では、センサー140とアクチュエータ150が全体的にデバイス100内に配置されるが、いくつかの実施形態では、センサー140またはアクチュエータ150の一部または全部が、ユーザに視認可能であっても良い。示された実施形態では、プロセッサ130は、センサー140、アクチュエータ150およびディスプレイ120と通信している。プロセッサ130は、センサー140からのセンサー信号を受け取り、ディスプレイ信号をディスプレイ120に出力し、アクチュエータ信号をアクチュエータ150に出力するように構成されている。
プロセッサ130は更に、センサー140から受け取った1つ以上のセンサー信号に基づいて、ユーザインターフェースと関連付けられたコマンドを決定するように構成されている。例えば、上述したギアシフトの実施形態では、センサー140は、ユーザが携帯電話100を左に動かしたことを示すセンサー信号をプロセッサ130に送っても良い。プロセッサ130は、グラフィカルユーザインターフェース中に表示されたギアシフトノブが左に動くことを引き起こすためにコマンドが生成されるべきであることを決定する。図1に示された実施形態では、ユーザはまた、ギアシフトノブに対応する位置においてディスプレイ120にタッチし指を左にドラッグすることによって、同様のコマンドがプロセッサによって発行されることを引き起こしても良い。よって、プロセッサ130は、グラフィカルユーザインターフェースと関連付けられたコマンドを生成するためにセンサー信号を解釈しても良い。例えば、プロセッサ130は、携帯電話100の動きと関連付けられた複数のセンサー信号を受け取り、それから機能の選択を示す一つのセンサー信号を受け取っても良い。
プロセッサ130はまた、グラフィカルユーザインターフェースに基づいて、ディスプレイ信号を生成するように構成されている。典型的には、グラフィカルユーザインターフェースは、別のアプリケーション(またはオペレーティングシステム)の一部としてまたはそれと協調してプロセッサ130上で実行され、ディスプレイデバイス上に表示される。よって、グラフィカルユーザインターフェースは、ディスプレイ120がグラフィカルユーザインターフェースを表示することを引き起こすために、プロセッサがディスプレイ信号を生成することを引き起こしても良い。プロセッサ130が、携帯電話100の感知された動きに基づいたもののような、グラフィカルユーザインターフェースと関連付けられたコマンドを発行した後、グラフィカルユーザインターフェースは、グラフィカルユーザインターフェースの状態を更新し、それからグラフィカルユーザインターフェースの表示を更新するためにプロセッサ130がディスプレイ信号を生成することを引き起こしても良い。
図1に示された実施形態では、センサー140は、携帯電話100内に配置され、携帯電話100の動きと向きの変化を検出するように構成されている。しかしながら、いくつかの実施形態では、センサー140の一部または全部、または複数のセンサーは、デバイス上の外部に位置していても良く、ユーザによって接触されても良い。示されたセンサー140は、3つの平行移動軸160に沿った動きと3つの平行移動軸160の周りの回転を検出することが可能なジャイロスコープ状のセンサーからなる。しかしながら、その他の実施形態では、1つ以上の軸に沿ったかまたはその周りの平行移動または回転の動きを検出するための1つ以上の加速度計のような、その他の好適なセンサーが採用されても良い。別の好適なセンサーは、デバイス100の位置を決定するための光または無線ソースのような、外部ソースからの入力を受信するための受信器からなっていても良い。例えば、複数の無線送信機が室内に配列されていても良く、センサー140は、送信機からの無線信号を受信し、受信した無線信号に基づいて位置および向きを決定しても良い。
その他の実施形態では、センサー140は、GPSセンサー、タッチ感応入力デバイス(例えば、タッチスクリーン、タッチパッド)、質感スタイラス、撮像センサー、または何らかのその他のタイプのセンサーからなっていても良い。1つ以上のセンサー140が、加速度、傾斜、慣性または位置の変化を検出するように構成されていても良い。例えば、デバイス100は、デバイス100の加速度を測定するように構成された加速度計からなっていても良い。あるいは携帯電話100は、位置センサー、回転速度センサー、光センサー、圧力センサー、質感センサー、カメラ、マイクロホン、またはその他のタイプのセンサーからなっていても良い。本発明のいくつかの開示された実施形態がデバイスの感知された動きについて説明されたが、そのような感知された動きに加えてまたはその代りに、限定することなく圧力、接触、ボタン押し、または可聴信号を含んだ、その他の感知された入力が使用されても良い。そのようなセンサーは、片手のみを使ったデバイス100とのユーザの相互作用を容易なものとしても良い。
センサー140はまた、センサー信号140をプロセッサ130に送信するように構成されている。センサー信号は、デバイス100の位置、動き、加速度または「急な動き」(即ち、加速度の微分)と関連付けられた1つ以上のパラメータからなっていても良い。例えば、一実施形態では、センサー140は、各パラメータが一つの測定された平行移動または回転軸に沿ったかまたはその周りの動きと関連付けられた、複数のパラメータからなるセンサー信号を生成して送信する。本発明のいくつかの実施形態では、センサー140は、マルチタッチ感知能力を提供しても良い。例えば、一実施形態では、圧力センサーが、圧力センサー上の複数の位置における圧力を検出し、複数の位置の各々における圧力と関連付けられた1つ以上のセンサー信号を提供することが可能であっても良い。更に、センサーが異なる実施形態でのデバイスの前、サイドまたは後ろに位置していても良く、その各々が接触または圧力と関連付けられた1つ以上のセンサー信号を提供しても良い。いくつかの実施形態では、センサーは、1つ以上の軸160に沿った動きを示すと解釈するようにプロセッサがプログラムされている電圧または電流を出力する。
プロセッサ130はまた、1つ以上のアクチュエータ150と通信している。アクチュエータ150は、プロセッサ130からのアクチュエータ信号を受け取り、触覚エフェクトを出力するように構成されている。プロセッサ130が触覚エフェクトを決定した後、それはアクチュエータ信号をアクチュエータ150に送る。アクチュエータ信号は、アクチュエータ150が決定された触覚エフェクトを出力することを引き起こすように構成されている。アクチュエータ150は、例えば、圧電アクチュエータ、電気モーター、電磁アクチュエータ、ボイスコイル、線形共鳴アクチュエータ、形状記憶合金、電気活性ポリマー、ソレノイド、偏心回転質量モーター(ERM)または線形共鳴アクチュエータ(LRA)であっても良い。
ここで図2aを参照すると、図2aは本発明の一実施形態に従ったグラフィカルユーザインターフェースを示す。本発明のいくつかの実施形態によると、図2aに示されたユーザインターフェースは、デバイス100を動かすために片手のみを使ってユーザによって操作されても良い。図2aに示された実施形態では、図1のデバイス100が、デバイス100の機能を選択して稼動するために使用可能なユーザインターフェース210を実行する。示された実施形態では、ユーザインターフェースは、ディスプレイ120の視認可能エリアを超える次元をもった、仮想ワークスペース230または仮想物理的空間からなる。様々な実施形態では、仮想ワークスペース230は、1次元または多次元ワークスペースからなっていても良い。いくつかの実施形態では、仮想ワークスペースは、境界があっても良いが、その他の実施形態ではそれは境界が無くても良い。仮想ワークスペース内をナビゲートするには、ユーザは、望ましい機能を選択するためにデバイス100を1つ以上の方向に動かす。
例えば、ユーザは、デバイスのディスプレイ120の平面と近似的に直角な方向に(Z軸または表面法線に沿って)デバイスを振り(または揺り動かし)、タッチ感応ディスプレイにタッチし、またはデバイス上のボタンを押しても良い。そうすることによって、デバイス100は、それが仮想ワークスペース230を稼動して、XまたはY軸方向でのデバイス100の感知された動きを仮想ワークスペース230「内」の仮想の動きに対応するものとして解釈すべきであることを決定しても良い。ユーザはそれから、望ましい機能を選択するために仮想ワークスペース230内でデバイス100を動かしても良い。機能を選択するには、それをディスプレイ120内で中央にしたり、または選択機能と関連付けられた別のジェスチャーをすることによってのようにして、一旦望ましい機能が選択されると、ユーザは軽く叩く動きでZ軸に沿ってデバイスを再度振り、タッチ感応ディスプレイ120にタッチし、またはボタンを押しても良い。いくつかの実施形態では、以下でより詳細に記載されるであろうようにいつ機能が選択されたかを決定する際に触覚エフェクトがユーザを補助しても良い。代替的に、ユーザは機能を実行しないことの方を選んでも良く、デバイス100はもはやデバイスの動きを仮想ワークスペース230内の動きとして解釈すべきではないことをデバイス100に示しても良い。
図2bに示された関連する実施形態では、ユーザインターフェース240は、ユーザが実行する機能を選択するためにX、YまたはZ軸のいずれにおいてもデバイスを動かし得るように、仮想物理的空間232においてのような、3次元仮想ワークスペース232からなっていても良い。そのような実施形態では、ユーザは、デバイス100を横に振ること、タッチ感応ディスプレイ120を軽く叩くこと、デバイス100のサイドまたは後ろの圧力センサーを握り締めること、デバイス上のマイクロホンにコマンドを話すこと、またはデバイス100上のボタンを押すことのような、1つ以上のジェスチャーを使って仮想ワークスペース232を可能または不能としても良い。加えて、そのような3次元仮想物理的空間とのインターフェースを行うための本発明の実施形態は、ユーザが選択して稼動し得る2次元アイコンではなく、3次元オブジェクトからなっていても良い。
例えば、本発明の一実施形態では、複数の機能は各々、3次元仮想物理的空間232中のボールまたはブロックのような仮想物理的オブジェクト270−274によって表されていても良い。一実施形態では、仮想物理的空間232内をナビゲートし始める時、ユーザは、仮想物理的空間232内に配列されたオブジェクト270−274がユーザに対して位置しているように、X、YおよびZ軸の原点に立っている。そのようなので、仮想物理的空間232内をナビゲートしている時、ユーザは、前方または後方に一歩踏み出すことによったり、またはデバイス100内のセンサーによって検出され得るデバイス100を様々な方向に動かすことによるように、原点から離れるように動いても良い。そのような動きは、ユーザが原点ポイントから離れるように動くことに結果としてなり得る。しかしながら、ユーザは、ユーザ上にそれを再度中心化するためにグラフィカルユーザインターフェース240をリセットすることが可能であっても良い。加えて、後に仮想物理的空間232を再稼動すると、ユーザの位置が原点にリセットされても良い。
仮想物理的空間232からなるグラフィカルユーザインターフェース240を提供している本発明の実施形態では、ユーザは、仮想物理的空間中を「漂っている」アプリケーションとデータを表しているボールまたはブロックのような異なる仮想物理的オブジェクト270−274を閲覧するために、様々な位置と向きにデバイスを動かしても良い。ユーザは、オブジェクトを選択してそれを仮想物理的空間232内の新たな位置までドラッグすることによってのように、様々な仮想物理的オブジェクト270−274の位置を配列することができる。例えば、ユーザは、頻繁にアクセスされる機能を表しているオブジェクトがユーザの「近く」に位置し、即ちオブジェクトがX、YおよびZ軸の原点に近い座標に位置し、より少なく頻繁にアクセスされる機能を表しているオブジェクトがユーザの位置から遠く離れているように、オブジェクト270−274を配列しても良い。よって、頻繁に使われる機能にアクセスすることは、デバイス100のより少ない動きが必要であり得るので、より容易であり得る。
いくつかの実施形態では、ユーザは、1つ以上のセンサー140によって検出される、その他のタイプの動きまたはジェスチャーを通して仮想物理的空間232または仮想物理的オブジェクト270−274と相互作用しても良い。デバイス100が傾けられ、振られ、またはそうでなければ動かされるにつれて、1つ以上のセンサーがそれらの動きを検出し、通信デバイスの動きに少なくとも部分的に基づいたセンサー信号を生成しても良い。一実施形態では、加速度計センサーが、デバイス100の傾斜と加速度を検出するように構成されている。デバイス100が傾けられるにつれて、加速度計は、デバイス100の傾きまたは加速度に少なくとも部分的に基づいてプロセッサに信号を送るように構成されることができる。別の実施形態では、ディスプレイ120が、タッチ感応ディスプレイ上のジェスチャーまたは位置入力を検出するように構成されたタッチ感応ディスプレイからなる。指がタッチ感応ディスプレイ上に置かれるかまたはドラッグされるにつれて、タッチ感応ディスプレイは、指の動きの速度または圧力のような指の動きに少なくとも部分的に基づいた信号を生成しても良い。もっと更なる実施形態では、デバイス100が、デバイス100のサイドまたは後ろ上あるいはディスプレイ上のような、デバイスの1つ以上の面上の圧力センサーからなる。ユーザは、仮想物理的空間232または仮想物理的オブジェクト270−274を選択するかまたはそれらと相互作用するために、1つ以上の位置においてそのような圧力センサーにタッチしても良い。
一実施形態では、センサー信号を受け取ると、プロセッサ130は、センサー信号に少なくとも部分的に基づいて、仮想物理的空間との相互作用を決定するように構成されている。例えば、仮想物理的空間を通したナビゲーションは、センサー信号から抽出された特徴に少なくとも部分的に基づいていても良い。例えば、デバイス100を前方に傾けることが、仮想物理的空間中の前方への動きに翻訳されても良い。デバイス100を右または左に動かすことが、仮想物理的空間中で右または左を見ることに翻訳されても良い。
いくつかの実施形態では、2人のユーザが同じ仮想物理的空間にアクセスするために接続しても良く、または彼らそれぞれの仮想物理的空間をマージしても良い。例えば、図2cと2dは、彼らそれぞれの仮想物理的空間に接続した2人のユーザを示す。そのような実施形態は、異なるデバイス間でデータまたはアプリケーションを共有することを容易にしても良い。例えば、一実施形態では、2人以上のユーザが彼らそれぞれのデバイス上で仮想物理的空間232、234を稼動し、それから彼らのグラフィカルユーザインターフェースに内臓された機能性を使ってお互いと接続しても良い。そのような実施形態では、各ユーザは、彼らのデバイスの内容を表している仮想物理的空間232、234を閲覧し、他のユーザの(または複数ユーザの)デバイスの仮想物理的空間232、234も自分自身の内容も閲覧することが可能であっても良い。例えば、図2cに示された一実施形態では、第一のユーザの仮想物理的空間232の一つの境界において、第一のユーザの仮想物理的空間232と別のユーザの仮想物理的空間234の間の境界を示すように部分的に透明なスクリーンが現れても良い。別の実施形態では、図2dに示されるように2人(またはそれ以上)のユーザが彼らそれぞれの仮想物理的空間に接続する時、各ユーザの仮想物理的空間の内容のいくつかまたは全部を含んだ新たな仮想物理的空間236が作り出されても良い。特定の仮想物理的オブジェクト270−274、280−284の所有権が、視覚的、触覚的または聴覚的に示されていても良い。例えば、第一のユーザが第二のユーザによって所有されたオブジェクト283にナビゲートする時、第一のユーザは、自分自身の仮想物理的オブジェクト270−274の1つにナビゲートする時に自分が感じるであろうものとは異なる触覚エフェクトを経験しても良い。
一実施形態では、第一のユーザが自分のデバイスを使って第一の仮想物理的空間232を稼動しても良く、第二のユーザが自分のデバイスを使って第二の仮想物理的空間234を稼動しても良い。第一のユーザは、第一の仮想物理的空間232を第二の仮想物理的空間234と接続するために第二のユーザのデバイスに要求を送信するように自分のデバイスを操作しても良い。第二のユーザがそれから要求を受け入れても良く、2つのデバイスがそれらそれぞれの仮想物理的空間232、234を接続しても良い。一実施形態では、第一のユーザは、第一の仮想物理的空間232への拡張を見ることが可能であっても良く、ここで拡張は第二の仮想物理的空間234からなる。同様に、第二のユーザは、第二の仮想物理的空間234への拡張を見ることが可能であっても良く、ここで拡張は第一の仮想物理的空間232からなる。よって、第一および第二のユーザは、第一および第二の仮想物理的空間の両方内を閲覧またはナビゲートすることが可能であっても良い。一実施形態では、第一および第二の仮想物理的空間232、234は、第一の仮想物理的空間232からのオブジェクト270−274のいくつかまたは全部と第二の仮想物理的空間234からのオブジェクト280−284のいくつかまたは全部からなる第三の仮想物理的空間236を形成するようにマージしても良い。
仮想物理的空間232、234が接続された後、ユーザは、1人のユーザのデバイス上に格納されたデータを共有したりまたはアプリケーションのコピーを共有したりのように、データを転送するために、共有された(第三の)仮想物理的空間236または引っ付けられた第一および第二の仮想物理的空間232、234内をナビゲートしても良い。例えば、第一のユーザは、第二の仮想物理的空間234内または共有された(第三の)仮想物理的空間236内の第二のユーザのデバイス上の曲を表しているオブジェクト283を見ても良い。第一のユーザは、曲オブジェクト283を選択して聞くように、または曲オブジェクト283を聴くことの許可を要求するように、デバイス100を操作しても良い。第二のユーザのデバイスが要求を受け取っても良く、第二のユーザは、触覚エフェクト、視覚的キュー、または聴覚的キューの形でのように、通知されても良い。第二のユーザは、それから要求を受け入れるか要求を拒否するかのどちらかをするために自分のデバイスを操作しても良い。第二のユーザからの許可を受け取ると、または曲283を選択した後、曲283が第一のユーザのために彼のデバイス上でプレイされる。曲を聞いた後、第一のユーザは、それから曲を選択し、第一のユーザのデバイス上に格納されたオブジェクト270−274を表している仮想物理的空間232のような仮想物理的空間の一部中にドラッグしても良く、またはオブジェクトが第一のユーザのデバイスにコピーされるべきであることを示すためにジェスチャーをしても良い。ユーザは同様に、共有仮想物理的空間236内をナビゲートして様々な仮想物理的オブジェクト270−274、280−284と相互作用することによって、絵やビデオのようなその他のアプリケーションまたはデータを共有しても良い。
一実施形態では、複数のユーザが、同じ仮想物理的空間236にアクセスして、ユーザのデバイスの各々上で実行されている共有されたアプリケーションまたは共通のアプリケーションを使って相互作用しても良い。例えば、一実施形態では、各ユーザは、ユーザがチャットルームでチャットすることを許容するチャットアプリケーション272を実行しても良い。チャットルームは、ユーザの各々によってアクセス可能な共有された仮想空間中に表現されていても良い。ユーザは、メッセージを表している仮想物理的オブジェクトを生成して、それらをチャットルームを表している共有された仮想物理的空間中に渡すことによってのように、彼ら自身のプライベートな仮想物理的空間中に仮想メッセージを生成しても良い。例えば、ユーザは、メッセージを生成し、それを仮想メッセージオブジェクト内にカプセル化し、それを高速でチャットルームに向けてドラッグすることによってのように、物理的特性を仮想メッセージオブジェクトに適用しても良い。仮想メッセージオブジェクトがチャットルームに入る時、その他のユーザの各々は、物理的属性と共にメッセージを受け取る。加えて、ユーザは、仮想メッセージオブジェクトをチャットルームにではなく別のユーザの仮想プライベート空間中に渡すことによって、多くの従来のチャットルームで利用可能な呟き機能をシミュレーションして、その他の個人ユーザに仮想メッセージオブジェクトを渡しても良い。そのような相互作用は、様々なユーザにより豊かなチャット経験を許容し得る。
仮想物理的空間の比喩に戻ると、いくつかの実施形態では、ユーザは、異なる方向でまたは異なる向きを通してデバイス100を動かすことによって仮想物理的空間230−236と相互作用しても良い。しかしながら、いくつかの実施形態では、ユーザは、異なるタイプのセンサー140を有したデバイス100と相互作用しても良い。例えば、一実施形態では、デバイス100は、デバイスのディスプレイと反対側の表面のような、デバイス100の後ろ表面上に位置するマルチタッチ圧力センサーからなっていても良い。ユーザは、1つ以上の位置において圧力センサー140にタッチして、センサー140との接触の位置に対応する位置においてディスプレイ上に表示されたポイントまたはカーソルとしてタッチのフィードバックを受け取っても良い。ユーザは、それからデバイス100によって表示されたグラフィカルユーザインターフェースをナビゲートするためにジェスチャーまたはその他の入力を提供するようにセンサー140と相互作用しても良い。いくつかの実施形態では、ディスプレイはタッチ感応であっても良く、よってデバイスの後ろ上のタッチ感応センサーとの接触は、あたかもユーザがタッチ感応ディスプレイに接触しているかのように、グラフィカルユーザインターフェース上に渡るコントロールを提供しても良い。いくつかの実施形態では、しかし、デバイス100の後ろ上のタッチ感応センサーを使ってなされた入力は、タッチ感応ディスプレイを使って利用可能なものとは異なるコマンドを許容しても良い。いくつかの実施形態では、そのようなマルチタッチまたはその他のセンサーは、デバイス100の後ろ表面上のセンサーに加えて、またはその代りに、デバイス100の1つ以上のサイド上に位置していても良い。
いくつかの実施形態では、ユーザが仮想物理的空間と相互作用している間、プロセッサによって生成された触覚またはサウンドエフェクトが、仮想物理的空間との相互作用をシミュレーションしてもよい。例えば、ユーザが一つの仮想物理的オブジェクトから別のものにナビゲートする時、プロセッサは、グラフィカルユーザインターフェースの表示を更新することに加えて、アクチュエータがユーザに触覚エフェクトを出力することを引き起こすように構成された1つ以上のアクチュエータ信号を生成しても良い。例えば、ユーザは、新たな機能に到着すると、小さな「ポップ」または振動を経験しても良い。一実施形態では、1人のユーザが絵のような仮想物理的オブジェクトを仮想物理的空間中の別のユーザに送る時、振動とサウンドが、絵が第一のユーザによって送られて第二のユーザによって受け取られたことを示しても良い。そのような仮想物理的オブジェクトの送信はまた、速度、質量(例えば、「より重い」オブジェクトはより大きなファイルサイズを有していても良い)、または緊急度のようなオブジェクトの性質に基づいて触覚エフェクトが生成されることを引き起こしても良い。デバイス100のような第一のデバイスは、第二のデバイスから仮想物理的オブジェクトを受け取って、オブジェクトが受け取られたことを示すように触覚エフェクトまたは可聴サウンドを出力しても良い。仮想物理的空間を使ったグラフィカルユーザインターフェースのもっと更なる実施形態は、当業者には明らかであろう。
ここで図3を参照すると、図3は本発明の一実施形態に従ったグラフィカルユーザインターフェースを提供するための方法を示す。図3に示された実施形態では、方法300は、ユーザインターフェースとのユーザの相互作用を決定するための複数のステップからなる。
図1に示されたデバイスと図2に示されたグラフィカルユーザインターフェースについて説明される本発明の一実施形態では、方法300は、センサー(図示せず)がデバイス100の動きを感知する時にステップ310で始まる。例えば、一実施形態では、デバイス100は、Z軸に沿ったデバイス100の動きを検出するジャイロスコープ状のセンサー140からなる。センサーは、制限することなく距離、速度、方向、加速度、加速度のレート(または急な動き)、向き、回転速度、回転加速度(例えば、トルク)、または持続時間のような、Z軸に沿った動きを記述する情報からなるセンサー信号を生成して出力する。センサーがセンサー信号を出力した後、方法はステップ320に進む。
ステップ320では、図1に示されたデバイス100の一実施形態のプロセッサ130が、センサー信号を受け取り、センサー信号に少なくとも部分的に基づいてユーザインターフェース210と関連付けられたコマンドを決定する。例えば、プロセッサ130は、仮想ワークスペース(または仮想物理的空間)230−236内の動きを決定する。例えば、一実施形態では、プロセッサ130は、右へのデバイス100の動きを示すセンサー信号を受け取る。プロセッサ130は、仮想ウィンドウをワークスペース中に右へ特定の距離だけ動かすことによってユーザが視界を仮想ワークスペース230中に変更したことを決定する。その他の実施形態では、しかしながら、そのような動きは異なって解釈されても良い。例えば、一実施形態では、右へのデバイス100の動きは、現在選択されているオブジェクトの右の次に利用可能なオブジェクトに動くこととプロセッサ130によって解釈されても良い。
デバイス100の更なる動きは、異なるやり方で解釈されても良い。例えば、ユーザは、デバイスを左に回転しても良い。プロセッサは、仮想物理的空間230−236とのレート制御相互作用、または仮想物理的空間230−236中への視界の回転として、動きを解釈しても良い。本発明の実施形態では、レート制御は、デバイス100の位置によって示されるレートでの一定の動きを指す。例えば、もしユーザがデバイス100を右に20度だけ回転すれば、仮想ワークスペース230−236中への視界は、一つのレートで右に動いても良い。もしユーザが回転を45度に増やせば、視界は、増加したレートで右に動いても良い。対照的に、位置制御モードは、特定の方向でのデバイス100の動きに比例した、仮想ワークスペース230−236内の動きに結果としてなり得る。例えば、もしユーザがデバイス100を3インチ左に動かせば、仮想ワークスペース230−236中への対応する視界は、仮想ワークスペース230−236内で12インチに相当分だけ左に動いても良い。仮想ワークスペース230−236中へのデバイス100のマッピングの動きのもっと更なる方法が採用されても良い。
例えば、一実施形態では、プロセッサ130は、ユーザが仮想ワークスペース230−236を稼動したことを決定しても良い。そのような実施形態では、センサー140は、デバイス100の素早い動きを感知して、センサー信号をプロセッサ130に送信しても良い。プロセッサ130は、センサー信号を受け取り、センサー信号に少なくとも部分的に基づいて、仮想ワークスペース230−236が稼動されていることを決定する。もしプロセッサ130が、ユーザは仮想ワークスペース230−236と相互作用していることを既に決定していれば、プロセッサ130は、センサー信号に少なくとも部分的に基づいて、仮想ワークスペース230−236内の動きを決定しても良い。例えば、一実施形態では、センサー信号が、一方向でのデバイス100の鋭く急な動きを示していても良い。そのような場合には、プロセッサ130は、ユーザがその方向に素早くスクロールすることを試みていることを決定しても良く、シミュレーションされた摩擦力によって停止まで時間に渡って削減されるワークスペース230−236内の慣性的な動きをシミュレーションしても良い。別の実施形態では、しかしながら、プロセッサ130は、そのような動きは動きの方向での次に利用可能な機能への動きを示すことを決定しても良い。
プロセッサがユーザインターフェース210と関連付けられたコマンドを決定した後、方法300はステップ330に進む。代替的に、ユーザがデバイス100を更に操作しても良い。そのような場合には、方法はステップ310に戻る。
ステップ330では、プロセッサ130は、ユーザインターフェースと関連付けられた動きに基づいて機能を決定する。例えば、プロセッサ130が仮想ワークスペース230−236内の動きを決定した後、プロセッサ130は、機能が同定されているかまたは選択されているかどうかを決定する。例えば、もし動きが仮想ワークスペース230−236中への視界が仮想オブジェクト上に中心化されることを引き起こせば、プロセッサ130は、仮想オブジェクトが選択されていることを決定しても良い。プロセッサ130が動きに基づいて選択された機能を決定した後、方法300はステップ340に進む。
ステップ340では、プロセッサ130は、機能が実行されるべきであることを示すために更なる入力を受け取る。例えば、一実施形態では、ユーザは、プロセッサ130が機能を実行することを引き起こすために、ボタンを押すか、デバイス100上のタッチ感応ディスプレイ120上のエリアをタッチするか、または圧力センサーを握り締めるかしても良い。別の実施形態では、ユーザは、実行ジェスチャーと関連付けられたマナーでデバイス100を動かしても良い。例えば、ユーザは、選択された機能が実行されるべきであることを示すためにデバイス100との軽く叩く動きをしても良い。一旦プロセッサ130が選択された機能は実行されるべきであることの指標を受け取ると、プロセッサ130は機能を実行する。機能が実行された後、方法はステップ310に戻り、ユーザは追加のタスクを行うためにデバイスを更に操作しても良い。
仮想物理的空間に関係するグラフィカルユーザインターフェースに加えて、本発明の追加の実施形態は、望ましい機能への容易なアクセスを許容するように、または片手のみを使ったユーザインターフェースの容易な操作を許容するように構成されたグラフィカルユーザインターフェースを提供する。
ここで図4を参照すると、図4は、本発明の一実施形態に従ったグラフィカルユーザインターフェースを示す。示された実施形態では、デバイス400は、様々な機能を行うためにユーザによって選択可能な複数のアイコン420a−fを有するユーザインターフェース410からなる。例えば、ユーザインターフェースは、アイコンがユーザによって選択された時に電子メールアプリケーションが実行されて使用可能となる電子メール機能に対応するアイコン420bを含む。ユーザがユーザインターフェース410をナビゲートするのを補助するために、ユーザインターフェース410は、実行する機能を選択するためにシフトパターン440内でユーザによって操作可能なギアシフトノブ430からなる。一実施形態では、ユーザは、ギアシフトノブ430にタッチして、ノブを望ましい機能までドラッグしても良い。加えて、ユーザは、シフトノブ430を動かすためにシフトパターン440内で望ましい方向にデバイス100を単に振っても(または揺り動かしても)良い。そのような実施形態では、デバイス400内に配置されたジャイロスコープ状またはその他の好適なセンサーのようなセンサー(図示せず)は、デバイス400の動きを検出し、動きを示すセンサー信号を出力するように構成されている。デバイス400内に配置されたプロセッサ(図示せず)は、センサー信号を受け取り、デバイス400の動きに対応するシフトパターン内のシフトノブ430の動きを決定するように構成されている。例えば、もしユーザがデバイス400を左に揺り動かせば、プロセッサはデバイス400の左への動きを示すセンサー信号を受け取り、シフトノブの対応する動きを決定する。
いくつかの実施形態ではデバイス400は様々な向きで保持されても良いので、動きの向きはデバイス400の向きに従って変動し得ることに注意されたい。例えば、示された実施形態では、ユーザは第一の向きにデバイス400を保持している。しかしながら、ユーザはデバイス400を時計回りに90度回転する方を選ぶかもしれない。そのような場合には、前の「ポートレート」ビューではなく「ランドスケープ」ビューにおいてであるが、シフトパターンがユーザに対して同じ向きに留まるように、ユーザインターフェースが反対方向に90度回転しても良い。
一実施形態では、ユーザシフトパターンは、ユーザインターフェースの平面中の直交するXおよびY軸に対応した2次元パターンからなっていても良い。そのような実施形態では、ユーザは、機能が実行されるべきであることを示すために、上または下のような第3の次元でデバイスを振る(または揺り動かす)ことによって機能を稼動する。そのような実施形態は、デバイス400を操作するのに両手、例えばデバイス400を保持するための一方の手と機能を選択するための第二の手、が利用可能ではないユーザには有用であり得る。そのような状況では、ユーザは、片手のみを使って機能を選択して稼動するようにユーザインターフェースを操作することが可能であり得る。
関連する実施形態では、デバイス400は、デバイス400の後ろ上に位置するマルチタッチセンサーからなっていても良い。そのような実施形態では、ユーザは、グラフィカルユーザインターフェースと相互作用するためにデバイス400にコマンドを送るのに1つ以上の指を使っても良い。ユーザの指の位置の視覚的指標は、カーソルまたはスタイラス化された指先アイコンによって提供されても良い。いくつかの実施形態では、デバイス400は、振動のような、ユーザの指の位置の触覚的指標を提供しても良い。
ここで図5を参照すると、図5は本発明の一実施形態に従ったグラフィカルユーザインターフェース500を示す。図5に示された実施形態では、ユーザは、デバイス510内に格納されたコンタクト520a−dのリストにナビゲートしている。各コンタクトについて、ユーザは、電話をかけること、テキストメッセージを送ること、電子メールを送ること、またはユーザのコンタクト情報を編集することのような、行うべき様々な機能にアクセスすることが可能であっても良い。図5に示された実施形態では、ユーザは、表示されたコンタクトに対応する位置においてデバイス510のタッチ感応ディスプレイにタッチしても良い。タッチ感応スクリーンがコンタクトを検出した時、それはデバイス510中のプロセッサ(図示せず)に信号を送信し、そのことはメニュー530がユーザの指の周りにリング状に配列された複数の機能を有するように見えることを引き起こす。そのような実施形態では、ユーザは、それから望ましい機能の方向に自分の指を動かすかまたは弾いても良く、またはメニュー530が消えることを引き起こすようにタッチスクリーンから自分の指を外しても良い。
動きの感知を使った関連する実施形態では、ユーザは、一方向にデバイス510を振ることによってコンタクト530a−dのリストを通してスクロールし、それからカーソル、選択ボックス、またはその他のグラフィカルユーザインターフェース要素が望ましいコンタクトが選択されたことを示す時にデバイスを揺り動かすことによって一つのコンタクトを選択しても良い。ユーザはそれから、円形のメニュー530が現れることを引き起こしても良く、好ましい機能の方向にデバイス510を揺り動かしてもよく、またはメニュー530が消えることを引き起こすようにデバイスを振っても良い。そのような実施形態は、デバイス510と相互作用するためのより単純でより直感的なユーザインターフェースを提供し得る。そのようなメニューシステム530は、デバイス内で利用可能なその他の機能と共に、または仮想物理的空間内をナビゲートしている時に、使用され得る。
ここで図6を参照すると、図6は本発明の一実施形態に従ったグラフィカルユーザインターフェース600を示す。図6に示された実施形態では、グラフィカルユーザインターフェースは、車輪に沿って配列された複数のアイコンを有する仮想回転車輪からなる。そのようなグラフィカルユーザインターフェースは、ユーザが片手のみを使って効率的にインターフェースをナビゲートし得るので有利であり得る。例えば、ユーザは、ユーザの親指がデバイスのタッチ感応ディスプレイ620と相互作用し得るように、図6に示されるようにデバイス610を握り締めても良い。ユーザは、望ましい機能を表しているアイコンを自分の親指によって容易に届くことが可能な位置に持ってくるために車輪630を回転するように自分の親指を使っても良い。ユーザは、それから自分の親指でアイコンを軽く叩くことによってのように、望ましい機能を実行しても良い。関連する実施形態では、デバイスは、ユーザがグラフィカルユーザインターフェース600と相互作用するために操作し得る、デバイスのサイドまたはデバイスの後ろ上に位置するタッチ感応センサーからなっていても良い。そのような実施形態では、例えばコンタクト、写真、音楽またはビデオのような、その他のタイプのデータがそのような車輪によってアクセスされても良い。
ここで図7を参照すると、図7は本発明の一実施形態に従ったグラフィカルユーザインターフェース700を示す。図7に示された実施形態では、複数の機能(例えば、機能740a)が、シミュレーションされた深さ次元中のリスト730に配列される。例えば、リストに沿ったアイテムがユーザにより近くかまたはユーザからより遠くに表示されても良く、ユーザは、デバイス710のタッチ感応ディスプレイ720にタッチして自分の指を或る方向かまたは別の方向にドラッグすることによって、リストを通してスクロールしても良い。別の実施形態では、ユーザは、デバイスのサイドまたは背部のようなデバイス710の異なる部分上に位置する、マルチタッチセンサーのようなタッチ感応センサーと相互作用しても良い。
更に、ユーザは、より一般的なアプリケーションではなく、特定の番号を呼び出したり、または特定のユーザにテキストを送ったりする機能のような、リスト上に含められるべき特定の機能を選択しても良い。それらの特定の機能は、ユーザによって包含のために手動で選択されても良く、パラメータに基づいてデバイスによって自動的に管理されても良く、または手動的と自動的の両方で管理されても良い。特定の機能を自動的に配列する時、デバイス610は、最も頻繁に使用される機能を選択するか、または例えばユーザの前の慣習に基づいたユーザが与えられた機能を選択する可能性のような、何らかのその他の計量に基づいて機能を順序付けしても良い。加えて、ユーザは、スイッチ750を使うことによってのように、2つ以上の異なる自動化された配列の間を行き来することが可能であっても良い。
ここで図8を参照すると、図8は本発明の一実施形態に従ったグラフィカルユーザインターフェース800を示す。図8に示された実施形態では、グラフィカルユーザインターフェース800は、非慣例的な検索機能を提供する。慣例的な検索機能は、検索が実行されることを引き起こすためにユーザが単語またはいくつかの文字をタイプすることを要求する一方、図8に示された実施形態では、ユーザは、単にタッチ感応スクリーン820上に文字を書くことによってか、または検索されるべき用語を示すための様々な文字の形にデバイス810を動かすことによって、検索を稼動し得る。プロセッサ(図示せず)は、ユーザが検索用語の最初の文字を指し示した後に、アプリケーション、データファイル、コンタクト等のアイテムについての検索を開始しても良い。追加の文字が検出されるにつれて、プロセッサは潜在的な検索結果のリストを更に絞り込んでも良い。検索の判断条件に見合ったアイテムが見つけられると、デバイス810は、仮想物理的空間内の仮想オブジェクトのような、ここに開示された様々なグラフィカルユーザインターフェースに従って結果を表示しても良い。ユーザは、それから検索結果中をナビゲートして、望ましいオブジェクトを選択しても良い。
ここで図9a−bを参照すると、図9a−bは本発明の一実施形態に従ったグラフィカルユーザインターフェースを示す。図9aに示された実施形態では、ユーザは、非慣例的な応答を使って入ってくる電話の呼びまたはテキストメッセージに応答しても良い。例えば、典型的には、ユーザは電話の呼びを受けた時に、ユーザは呼びに答えても、電話が鳴るのを許容するか呼び音を消音することによってのように呼びを無視しても良い。しかしながら、本発明の実施形態は、そのような事象に応答するためのより豊かなオプションを提供する。
本発明の一実施形態では、電話の呼びを受けた時、デバイス900は、ここに開示されたもののような本発明の様々な実施形態に従って配列された複数のオプション910−930をユーザに提示しても良い。オプションは、メッセージに応答するかまたは呼びを無視するが応答を送るオプションからなっていても良い。例えば、もしユーザがボーイフレンドから電話の呼びを受けるが電話に答えられなければ、ユーザは唇のペアのアイコンを選択しても良い。呼びは無視されるが、メッセージは発信者に送られ、デバイス950のスクリーン上に表示されるかまたは触覚エフェクトとして出力される。代替的に、もしユーザが彼女のボーイフレンドに怒っていれば、彼女は呼びを無視するかまたはテキストメッセージに応答するために、拳または閉じた扉のアイコンを選択しても良い。一実施形態では、電話をかけた人はそれから、呼びが無視されたことを示す拳の絵と共に鋭く強い触角エフェクトか、扉が音を立てて閉じられること示す触角エフェクトと共に閉じる扉の動画を受け取るであろう。いくつかの実施形態では、ユーザは、デバイスのサイドまたは後ろ上に位置する圧力センサーのようなデバイス上に位置する1つ以上のセンサーと相互作用するか、あるいはデバイスを動かすことによって、電話の呼びに応答してかまたは電話の呼びの間のどちらかに電話をかけた人に応答を送っても良い。例えば、一実施形態では、デバイスは、デバイスのサイド上に位置する圧力センサーからなっていても良い。そのような実施形態を使って、ユーザは、ハグのような他者に触覚信号を送るようにデバイスを握り締めても良い。
本発明の実施形態は、デジタル電子回路中に、またはコンピューターのハードウェア、ファームウェア、ソフトウェア中に、あるいはそれらの技術の組み合わせ中に、実装されることができる。一実施形態では、コンピューターは、1つのプロセッサまたは複数のプロセッサからなっていても良い。プロセッサは、プロセッサと結合されたランダムアクセスメモリー(RAM)のようなコンピューター読み取り可能な媒体からなる。プロセッサは、メッセ−ジングのための1つ以上のコンピュータープログラムを実行するように、メモリー中に格納されたコンピューター実行可能なプログラム命令を実行する。そのようなプロセッサは、マイクロプロセッサや、デジタル信号プロセッサ(DSP)や、アプリケーション特定集積回路(ASIC)や、フィールドプログラマブルゲートアレイ(FPGAs)や、ステートマシーンからなっていても良い。そのようなプロセッサは更に、PLCsや、プログラマブル割り込みコントローラ(PICs)や、プログラマブルロジックデバイス(PLDs)や、プログラマブルリードオンリーメモリー(PROMs)や、電子的プログラマブルリードオンリーメモリー(EPROMsまたはEEPROMs)や、あるいはその他の同様なデバイスのような、プログラマブル電子デバイスからなっていても良い。
そのようなプロセッサは、プロセッサによって実行された時に、プロセッサによって実行されるかまたは支援されるようにここに記載されたステップをプロセッサが行うことを引き起こす命令を格納した媒体、例えばコンピューター読み取り可能な媒体、からなっていても良く、またはそれと通信していても良い。コンピューター読み取り可能な媒体の実施形態は、コンピューター読み取り可能な命令をウェブサーバー中のプロセッサのようなプロセッサに提供することが可能な、電子的、光学的、磁気的あるいはその他のストレージまたは送信デバイスからなっていても良いが、それらに限定はされない。媒体のその他の例は、フロッピー(登録商標)ディスク、CD−ROM、磁気ディスク、メモリーチップ、ROM、RAM、ASIC、構成されたプロセッサ、全光学的媒体、全磁気的テープまたはその他の磁気的媒体、あるいはそこからコンピュータープロセッサが読み取りすることができるあらゆるその他の媒体からなるが、それらに限定はされない。また、様々なその他のデバイスは、ルーターや、プライベートまたはパブリックネットワークや、その他の送信デバイスのような、コンピューター読み取り可能な媒体を含んでいても良い。記載されたプロセッサと処理は、1つ以上の構造であっても良く、1つ以上の構造を通して分散されていても良い。プロセッサは、ここに記載された方法(または方法の部分)の1つ以上を実行するためのコードからなっていても良い。
一般的事項
発明の、好ましい実施形態を含んだ、実施形態の前述した記載は、描写と記載の目的のためだけに提示されており、網羅的であることや開示されたその通りの形に発明を限定することは意図されていない。その数々の変形や適応は、発明の精神と範囲から逸脱することなく、当業者には明らかであろう。
ここでの「一実施形態」または「実施形態」への言及は、実施形態との関係で記載された特定の特徴、構造、動作またはその他の特性が、発明の少なくとも1つの実装に含まれ得ることを意味する。発明は、そのように記載された特定の実施形態に制限はされない。明細書中の様々な箇所での「一実施形態では」または「実施形態では」という言回しの出現は、必ずしも同じ実施形態を指すものではない。「一実施形態」との関連でこの明細書中に記載されたあらゆる特定の特徴、構造、動作またはその他の特性は、あらゆるその他の実施形態について記載されたその他の特徴、構造、動作またはその他の特性と組み合わされても良い。
ここでの「または」という接続詞の使用は、文脈が強要する通りに包摂的および排他的関係の両方、あるいは包摂的または排他的関係のどちらかを包含することが意図されている。

Claims (14)

  1. デバイスであって、
    ユーザによって掴まれるように構成されたハウジングと、
    前記ハウジングの中に配置されたディスプレイであって、仮想物理的空間を含むグラフィカルユーザインターフェースを表示するように構成されたディスプレイと、
    前記ハウジングの中に配置されたセンサーであって、一つの自由度における前記ハウジングの動きを検出するように構成されたセンサーと、
    前記ハウジングの中に配置され、かつ、前記ディスプレイ及び前記センサーと通信するプロセッサと
    を含み、
    前記プロセッサは、
    前記動きと関連付けられたパラメータを含むセンサー信号を前記センサーから受け取り、
    記グラフィカルユーザインターフェースと関連付けられたコマンドを前記パラメータに少なくとも部分的に基づいて決定し、
    記コマンドに少なくとも部分的に基づいて実行されるべき機能を決定し、及び
    前記機能を実行するべく構成され
    前記仮想物理的空間は、第一の仮想物理的空間を含み、
    前記グラフィカルユーザインターフェースは、第一のグラフィカルユーザインターフェースを含み、
    前記プロセッサは更に、
    第二の仮想物理的空間を含む第二のグラフィカルユーザインターフェースを実行する第二のデバイスを前記第一の仮想物的空間に接続することの要求を示す信号を前記第二のデバイスから受け取り、
    前記第一の仮想物理的空間を前記第二の仮想物理的空間に接続するべく構成されるデバイス。
  2. 前記仮想物理的空間は、複数の仮想物理的オブジェクトを含む、請求項のデバイス。
  3. 前記仮想物理的空間は、2次元仮想物理的空間を含む、請求項のデバイス。
  4. 前記仮想物理的空間は、3次元仮想物理的空間を含む、請求項のデバイス。
  5. アクチュエータを更に含み、
    前記プロセッサは更に、前記動きに基づいてアクチュエータ信号を生成し、及び、前記アクチュエータ信号を前記アクチュエータに出力して前記アクチュエータに触覚エフェクトを出力させるべく構成される、請求項1のデバイス。
  6. 記プロセッサは更に、
    記デバイスの第二の動きを示す第二のセンサー信号を前記センサーから受け取り、及び
    前記第一のグラフィカルユーザインターフェースと前記第二の仮想物理的空間の間の相互作用を前記第二の動きに基づいて決定するべく構成される、請求項のデバイス。
  7. 前記コマンドは、前記第二の仮想物理的空間内の仮想物理的オブジェクトの選択を含む、請求項のデバイス。
  8. 前記機能は、前記仮想物理的オブジェクトを前記第二の仮想物理的空間から前記第一の仮想物理的空間まで動かすか、又は前記仮想物理的オブジェクトを前記第二の仮想物理的空間から前記第一の仮想物理的空間にコピーする、動き機能又はコピー機能を含む、請求項のデバイス。
  9. 前記機能は、前記仮想物理的オブジェクトの内容を閲覧する閲覧機能を含む、請求項のデバイス。
  10. 方法であって、
    デバイスの動きと関連付けられたパラメータを含むセンサー信号をセンサーから受け取ることと、
    仮想物理的空間を含むグラフィカルユーザインターフェースと関連付けられたコマンドを前記パラメータに少なくとも部分的に基づいて決定することと、
    記コマンドに少なくとも部分的に基づいて実行されるべき機能を決定することと、
    前記機能を実行することと
    を含み、
    前記仮想物理的空間は、第一の仮想物理的空間を含み、
    前記グラフィカルユーザインターフェースは、第一のグラフィカルユーザインターフェースを含み、
    前記方法は更に、
    第二の仮想物理的空間を含む第二のグラフィカルユーザインターフェースを実行する第二のデバイスを前記第一の仮想物的空間に接続することの要求を示す信号を前記第二のデバイスから受け取ることと、
    前記第一の仮想物理的空間を前記第二の仮想物理的空間に接続することと
    を含む方法。
  11. 記方法は更に、
    記デバイスの第二の動きを示す第二のセンサー信号を前記センサーから受け取ることと、
    前記第一のグラフィカルユーザインターフェースと前記第二の仮想物理的空間の間の相互作用を前記第二の動きに基づいて決定することと
    を含む、請求項10の方法。
  12. 前記コマンドは、前記第二の仮想物理的空間内の仮想物理的オブジェクトの選択を含む、請求項11の方法。
  13. 前記機能は、前記仮想物理的オブジェクトを前記第二の仮想物理的空間から前記第一の仮想物理的空間まで動かすか、又は前記仮想物理的オブジェクトを前記第二の仮想物理的空間から前記第一の仮想物理的空間にコピーする、動き機能又はコピー機能を含む、請求項12の方法。
  14. 前記機能は、前記仮想物理的オブジェクトの内容を閲覧する閲覧機能を含む、請求項12の方法。
JP2011548330A 2009-01-29 2010-01-29 グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法 Expired - Fee Related JP5793426B2 (ja)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US14831209P 2009-01-29 2009-01-29
US61/148,312 2009-01-29
US18128009P 2009-05-26 2009-05-26
US61/181,280 2009-05-26
US12/502,702 2009-07-14
US12/502,702 US8638301B2 (en) 2008-07-15 2009-07-14 Systems and methods for transmitting haptic messages
PCT/US2010/022528 WO2010088477A1 (en) 2009-01-29 2010-01-29 Systems and methods for interpreting physical interactions with a graphical user interface

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2014087262A Division JP2014170568A (ja) 2009-01-29 2014-04-21 グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法

Publications (2)

Publication Number Publication Date
JP2012516518A JP2012516518A (ja) 2012-07-19
JP5793426B2 true JP5793426B2 (ja) 2015-10-14

Family

ID=42396029

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2011548330A Expired - Fee Related JP5793426B2 (ja) 2009-01-29 2010-01-29 グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法
JP2014087262A Pending JP2014170568A (ja) 2009-01-29 2014-04-21 グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法
JP2016046840A Pending JP2016154018A (ja) 2009-01-29 2016-03-10 グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法
JP2018133909A Pending JP2018185853A (ja) 2009-01-29 2018-07-17 グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法

Family Applications After (3)

Application Number Title Priority Date Filing Date
JP2014087262A Pending JP2014170568A (ja) 2009-01-29 2014-04-21 グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法
JP2016046840A Pending JP2016154018A (ja) 2009-01-29 2016-03-10 グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法
JP2018133909A Pending JP2018185853A (ja) 2009-01-29 2018-07-17 グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法

Country Status (5)

Country Link
EP (1) EP2391934B1 (ja)
JP (4) JP5793426B2 (ja)
KR (4) KR101653432B1 (ja)
CN (2) CN104407667B (ja)
WO (1) WO2010088477A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10203756B2 (en) 2008-07-15 2019-02-12 Immersion Corporation Systems and methods for shifting haptic feedback function between passive and active modes

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2392389A4 (en) 2010-02-03 2014-10-15 Nintendo Co Ltd GAME SYSTEM, OPERATING METHOD AND GAME PROCESSING METHOD
US8913009B2 (en) 2010-02-03 2014-12-16 Nintendo Co., Ltd. Spatially-correlated multi-display human-machine interface
JP6243586B2 (ja) 2010-08-06 2017-12-06 任天堂株式会社 ゲームシステム、ゲーム装置、ゲームプログラム、および、ゲーム処理方法
US10150033B2 (en) 2010-08-20 2018-12-11 Nintendo Co., Ltd. Position calculation system, position calculation device, storage medium storing position calculation program, and position calculation method
JP5988549B2 (ja) * 2010-08-20 2016-09-07 任天堂株式会社 位置算出システム、位置算出装置、位置算出プログラム、および位置算出方法
JP5742163B2 (ja) * 2010-10-15 2015-07-01 ヤマハ株式会社 情報処理端末および設定制御システム
KR101364826B1 (ko) 2010-11-01 2014-02-20 닌텐도가부시키가이샤 조작 장치 및 조작 시스템
US8493354B1 (en) 2012-08-23 2013-07-23 Immersion Corporation Interactivity model for shared feedback on mobile devices
US8711118B2 (en) * 2012-02-15 2014-04-29 Immersion Corporation Interactivity model for shared feedback on mobile devices
KR102652437B1 (ko) 2012-05-11 2024-03-27 가부시키가이샤 한도오따이 에네루기 켄큐쇼 전자 기기, 기억 매체, 프로그램, 및 표시 방법
US8570296B2 (en) 2012-05-16 2013-10-29 Immersion Corporation System and method for display of multiple data channels on a single haptic display
CN103226066B (zh) * 2013-04-12 2015-06-10 北京空间飞行器总体设计部 一种针对巡视器移动运行状态的图形显示界面优化方法
KR20140138424A (ko) 2013-05-23 2014-12-04 삼성전자주식회사 제스쳐를 이용한 사용자 인터페이스 방법 및 장치
WO2014209405A1 (en) * 2013-06-29 2014-12-31 Intel Corporation System and method for adaptive haptic effects
EP3046020A4 (en) * 2013-09-11 2017-04-26 Yulong Computer Telecommunication Scientific (Shenzhen) Co. Ltd. Display method for touchscreen and terminal
US9159294B2 (en) * 2014-01-31 2015-10-13 Google Inc. Buttonless display activation
JP5707519B1 (ja) * 2014-02-05 2015-04-30 日本電信電話株式会社 入力装置、入力方法及びプログラム
CN104932800A (zh) * 2014-03-21 2015-09-23 朱江 一种互动装置
JP2015207242A (ja) * 2014-04-23 2015-11-19 富士通株式会社 電子機器
US10678326B2 (en) * 2015-09-25 2020-06-09 Microsoft Technology Licensing, Llc Combining mobile devices with people tracking for large display interactions
WO2018025948A1 (ja) 2016-08-04 2018-02-08 株式会社Nttドコモ ユーザ端末及び無線通信方法
JP6946857B2 (ja) * 2017-08-24 2021-10-13 富士フイルムビジネスイノベーション株式会社 情報処理装置及びプログラム

Family Cites Families (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2884720B2 (ja) * 1990-06-15 1999-04-19 ソニー株式会社 ポータブル検索表示装置
JP2502914B2 (ja) * 1992-07-31 1996-05-29 インターナショナル・ビジネス・マシーンズ・コーポレイション デ―タ転送方法及び装置
US5666499A (en) * 1995-08-04 1997-09-09 Silicon Graphics, Inc. Clickaround tool-based graphical interface with two cursors
JPH1049290A (ja) * 1996-08-05 1998-02-20 Sony Corp 情報処理装置および方法
JPH10240434A (ja) * 1997-02-27 1998-09-11 Matsushita Electric Ind Co Ltd コマンドメニュー選択方法
JP4251673B2 (ja) * 1997-06-24 2009-04-08 富士通株式会社 画像呈示装置
US6522312B2 (en) * 1997-09-01 2003-02-18 Canon Kabushiki Kaisha Apparatus for presenting mixed reality shared among operators
US7844914B2 (en) * 2004-07-30 2010-11-30 Apple Inc. Activating virtual keys of a touch-screen virtual keyboard
US20060279542A1 (en) * 1999-02-12 2006-12-14 Vega Vista, Inc. Cellular phones and mobile devices with motion driven control
US6545669B1 (en) * 1999-03-26 2003-04-08 Husam Kinawi Object-drag continuity between discontinuous touch-screens
JP2000325653A (ja) * 1999-05-19 2000-11-28 Enix Corp 携帯型ビデオゲーム装置およびプログラムを格納した記録媒体
US6972734B1 (en) * 1999-06-11 2005-12-06 Canon Kabushiki Kaisha Mixed reality apparatus and mixed reality presentation method
CA2386407C (en) * 1999-10-18 2009-05-05 British Telecommunications Public Limited Company Personal mobile communication device
US7688306B2 (en) * 2000-10-02 2010-03-30 Apple Inc. Methods and apparatuses for operating a portable device based on an accelerometer
JP2002298160A (ja) * 2001-03-29 2002-10-11 Namco Ltd 携帯型画像生成装置、プログラム及び情報記憶媒体
JP3944824B2 (ja) * 2001-11-09 2007-07-18 ソニー株式会社 データ通信装置、表示方法、プログラム及びプログラム格納媒体
JP2003177864A (ja) * 2001-12-13 2003-06-27 Fuji Photo Film Co Ltd 情報端末システム
US7002553B2 (en) * 2001-12-27 2006-02-21 Mark Shkolnikov Active keyboard system for handheld electronic devices
JP3902508B2 (ja) * 2002-05-20 2007-04-11 任天堂株式会社 ゲームシステムおよびゲームプログラム
JP4218336B2 (ja) * 2002-12-12 2009-02-04 ソニー株式会社 情報処理システム、サービス提供装置および方法、情報処理装置および方法、並びにプログラム
JP2006518507A (ja) * 2003-02-19 2006-08-10 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ ポータブル装置間でのコンテンツアイテムのアドホック共有のためのシステムと、そのインタラクション方法
JP4401728B2 (ja) * 2003-09-30 2010-01-20 キヤノン株式会社 複合現実空間画像生成方法及び複合現実感システム
US7532196B2 (en) * 2003-10-30 2009-05-12 Microsoft Corporation Distributed sensing techniques for mobile devices
US7176888B2 (en) * 2004-03-23 2007-02-13 Fujitsu Limited Selective engagement of motion detection
JP2007531113A (ja) * 2004-03-23 2007-11-01 富士通株式会社 携帯装置の傾斜及び並進運動成分の識別
US20050219211A1 (en) * 2004-03-31 2005-10-06 Kotzin Michael D Method and apparatus for content management and control
JP2005332063A (ja) * 2004-05-18 2005-12-02 Sony Corp 触覚機能付き入力装置、情報入力方法及び電子機器
JP2006113859A (ja) * 2004-10-15 2006-04-27 Nec Corp 携帯情報端末及びその表示制御方法
JP2006146440A (ja) * 2004-11-17 2006-06-08 Sony Corp 電子機器及び情報表示選択方法
KR101002807B1 (ko) * 2005-02-23 2010-12-21 삼성전자주식회사 메뉴 화면을 표시하는 단말기에서 메뉴 네비게이션을 제어하는 장치 및 방법
JP2006333355A (ja) * 2005-05-30 2006-12-07 Toshiba Corp 携帯情報処理装置およびその操作方法
JP4507992B2 (ja) * 2005-06-09 2010-07-21 ソニー株式会社 情報処理装置および方法、並びにプログラム
US7933632B2 (en) * 2005-09-16 2011-04-26 Microsoft Corporation Tile space user interface for mobile devices
KR100746008B1 (ko) * 2005-10-31 2007-08-06 삼성전자주식회사 3차원 모션 그래픽 유저 인터페이스, 이를 제공하는 장치및 방법
US8049715B2 (en) * 2005-11-30 2011-11-01 Motorola Mobility, Inc. Method and system for accessing data stored in an electronic device
WO2007079425A2 (en) * 2005-12-30 2007-07-12 Apple Inc. Portable electronic device with multi-touch input
JP2007206755A (ja) * 2006-01-31 2007-08-16 Sony Computer Entertainment Inc 情報処理システム、情報処理装置、情報処理プログラム、情報処理プログラムを記憶したコンピュータ読み取り可能な記憶媒体
US20070268246A1 (en) * 2006-05-17 2007-11-22 Edward Craig Hyatt Electronic equipment with screen pan and zoom functions using motion
KR100772909B1 (ko) * 2006-05-30 2007-11-05 삼성전자주식회사 이미지 검색 방법 및 장치
JP4485492B2 (ja) * 2006-06-27 2010-06-23 ソフトバンクモバイル株式会社 実行機能選択方法及び移動通信端末装置
US20080125224A1 (en) * 2006-09-26 2008-05-29 Pollatsek David Method and apparatus for controlling simulated in flight realistic and non realistic object effects by sensing rotation of a hand-held controller
WO2008126571A1 (ja) * 2007-03-16 2008-10-23 Nec Corporation 携帯端末装置、その機能起動方法及びプログラム
US9317110B2 (en) * 2007-05-29 2016-04-19 Cfph, Llc Game with hand motion control
JP2009003799A (ja) * 2007-06-22 2009-01-08 Aplix Corp ポータブル機器およびポータブル機器における仮想空間の提供方法
CN101178615A (zh) * 2007-12-12 2008-05-14 美新半导体(无锡)有限公司 姿态及运动感应系统及使用该系统的便携式电子设备

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10203756B2 (en) 2008-07-15 2019-02-12 Immersion Corporation Systems and methods for shifting haptic feedback function between passive and active modes
US10416775B2 (en) 2008-07-15 2019-09-17 Immersion Corporation Systems and methods for shifting haptic feedback function between passive and active modes

Also Published As

Publication number Publication date
KR20170093995A (ko) 2017-08-16
JP2012516518A (ja) 2012-07-19
WO2010088477A1 (en) 2010-08-05
KR20160105915A (ko) 2016-09-07
EP2391934A1 (en) 2011-12-07
KR101899506B1 (ko) 2018-09-20
EP2391934B1 (en) 2019-08-28
JP2018185853A (ja) 2018-11-22
JP2014170568A (ja) 2014-09-18
CN102301319B (zh) 2014-11-12
KR101653432B1 (ko) 2016-09-01
EP2391934A4 (en) 2013-10-30
CN102301319A (zh) 2011-12-28
KR101766370B1 (ko) 2017-08-08
KR20110110361A (ko) 2011-10-06
KR20180102708A (ko) 2018-09-17
CN104407667A (zh) 2015-03-11
JP2016154018A (ja) 2016-08-25
CN104407667B (zh) 2018-01-09

Similar Documents

Publication Publication Date Title
JP5793426B2 (ja) グラフィカルユーザインターフェースとの物理的相互作用を解釈するためのシステムと方法
US20140189506A1 (en) Systems And Methods For Interpreting Physical Interactions With A Graphical User Interface
JP6143922B2 (ja) グラフィカルユーザインターフェース装置においてテクスチャを用いるためのシステム及び方法
KR102086980B1 (ko) 그래픽 사용자 인터페이스 위젯에서 텍스처를 사용하는 시스템 및 방법
JP2018063700A (ja) コンテキスト型圧力検知触覚応答
US20110254792A1 (en) User interface to provide enhanced control of an application program
JP2018106734A (ja) 動的な触覚効果を有するマルチタッチデバイス
US9600120B2 (en) Device, method, and graphical user interface for orientation-based parallax display
US20090256809A1 (en) Three-dimensional touch interface
TWI503700B (zh) 用以提供多維資料介面之方法及裝置
KR20110030341A (ko) 가상 환경에서 객체와 상호 작용하는 시스템
KR102117450B1 (ko) 디스플레이 장치 및 그 제어 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140421

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140902

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20141201

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20141208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150714

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150810

R150 Certificate of patent or registration of utility model

Ref document number: 5793426

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees