JP4763695B2 - タッチ・センシティブ入力デバイスのためのモード・ベースのグラフィカル・ユーザ・インタフェース - Google Patents

タッチ・センシティブ入力デバイスのためのモード・ベースのグラフィカル・ユーザ・インタフェース Download PDF

Info

Publication number
JP4763695B2
JP4763695B2 JP2007523644A JP2007523644A JP4763695B2 JP 4763695 B2 JP4763695 B2 JP 4763695B2 JP 2007523644 A JP2007523644 A JP 2007523644A JP 2007523644 A JP2007523644 A JP 2007523644A JP 4763695 B2 JP4763695 B2 JP 4763695B2
Authority
JP
Japan
Prior art keywords
touch
scroll wheel
virtual scroll
virtual
finger
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007523644A
Other languages
English (en)
Other versions
JP2008508600A (ja
Inventor
ホテリング,スティーブ
ストリッコン,ジョシュア・エイ
フッピ,ブライアン・キュー
カー,ダンカン・ロバート
チャウドリ,イムラン
クリスティー,グレッグ
イヴ,ジョナサン・ピイ
オーディング,バス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apple Inc
Original Assignee
Apple Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US10/903,964 external-priority patent/US8479122B2/en
Application filed by Apple Inc filed Critical Apple Inc
Priority claimed from PCT/US2005/025641 external-priority patent/WO2006020304A2/en
Publication of JP2008508600A publication Critical patent/JP2008508600A/ja
Application granted granted Critical
Publication of JP4763695B2 publication Critical patent/JP4763695B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04812Interaction techniques based on cursor appearance or behaviour, e.g. being affected by the presence of displayed objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04106Multi-sensing digitiser, i.e. digitiser using at least two different sensing technologies simultaneously or alternatively, e.g. for detecting pen and finger, for saving power or for improving position detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04808Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、全体として、タッチ・センシティブ・デバイスに関連するジェスチャリングに関する。
(関連技術の説明)
今日、コンピュータ・システムにおける諸操作を実行するための多くのスタイルの入力デバイスが存在する。諸操作は、概ね、カーソルを動かすことや、ディスプレイ・スクリーン上で選択を行うことに対応する。また、操作には、ページング、スクロール、パン、ズーム、その他も含まれる。例として、入力デバイスには、ボタン、スイッチ、キーボード、マウス、トラックボール、タッチ・パッド、ジョイスティック、タッチ・スクリーンなどが含まれることが可能である。以上のデバイスのそれぞれは、コンピュータ・システムを設計する際に考慮される利点と欠点を有する。
ボタンやスイッチは、一般に、機械的な性質を有し、カーソルの動き、および選択を行うことに関して、限られたコントロールを提供する。例えば、ボタンやスイッチは、一般に、特定の方向にカーソルを動かすこと(例えば、矢印キー)、または特定の選択を行うこと(例えば、入力、削除、数、その他)に専用である。
マウスでは、入力ポインタの動きは、ユーザが、マウスを表面に沿って動かすにつれ、マウスの相対的動きに対応する。トラックボールでは、入力ポインタの動きは、ユーザが、筐体内のボールを動かすにつれ、ボールの相対的動きに対応する。また、マウスおよびトラックボールは、選択を行うための1つまたは複数のボタンも含む。また、マウスは、ユーザが、単にホイールを前方または後方に回転させることによってGUIの中を移動することができるようにするスクロール・ホイールも含むことが可能である。
タッチ・パッドでは、入力ポインタの動きは、ユーザの指が、タッチ・パッドの表面に沿って動かされるにつれ、その指(またはスタイラス)の相対的動きに対応する。他方、タッチ・スクリーンは、スクリーンを覆うタッチ・センシティブな透明パネルを有する一種のディスプレイ・スクリーンである。タッチ・スクリーンを使用する際、ユーザは、スクリーン上のGUIオブジェクトを直接にポイントする(通常、スタイラスまたは指で)ことにより、ディスプレイ・スクリーン上で選択を行う。
さらなる機能を提供するため、以上の入力デバイスのいくつかを使用してジェスチャが実施されてきた。例として、タッチ・パッドでは、タッチ・パッドの表面上で1回または複数回のタップが検出されると、選択が行われる。一部のケースでは、タッチ・パッドの任意の部分をタップし、他のケースでは、タッチ・パッドの専用の部分をタップすることが可能である。選択に加え、タッチ・パッドの縁における指の動きを使用することにより、スクロールを開始させることもる。
アップルコンピュータ株式会社に譲渡された米国特許第5,612,719号と米国特許第5,590,219号が、ジェスチャリングの他のいくつかの用法を説明している。米国特許第5,612,719号は、スクリーン上で、ボタンの上、またはボタン近くで行われた、少なくとも2つの異なるボタン・ジェスチャに応答するオンスクリーン・ボタンを開示する。米国特許第5,590,219号は、コンピュータ・システムのディスプレイ・スクリーン上で楕円型のジェスチャを認識するための方法を開示する。
最近、より高度なジェスチャが実装されている。例えば、スクロールは、タッチ・パッド上に4本の指を置いて、スクロール・ジェスチャを認識させ、その後、タッチ・パッド上でそれらの指を動かして、スクロール・イベントを実行することによって開始される。しかし、それらの高度なジェスチャを実施する方法は、いくつかの欠点を有する。例として、ジェスチャは、設定されると、ユーザが、ジェスチャ状態をリセットするまで、変更されることがない。例えば、タッチ・パッドでは、4本の指がスクロールし、ユーザが、4本の指が認識された後に、親指を置いた場合、4本の指と親指を含む、その新たなジェスチャに関連するいずれのアクションも、手全体が、タッチ・パッドから持ち上げられて離され、再び置かれる(例えば、リセットされる)まで、実行されない。簡単に述べると、ユーザは、ジェスチャ状態を中途で変更することができない。同様の文脈で、任意の所与の時点で、1つのジェスチャだけが実行される。つまり、複数のジェスチャは、同時に実行されることができない。
以上に基づき、ジェスチャが、タッチ・センシティブ・デバイス上で実行される形に、改良の必要性が存在する。
本発明は、ジェスチャを実施し、タッチ・センシティブ・デバイスでジェスチャを実施する方法に関する。タッチ・センシティブ・デバイスの例には、タッチ・スクリーンとタッチ・パッドが含まれる。また、本発明は、ユーザ・インタフェースに関し、さらにディスプレイでユーザ・インタフェースを実装する方法にも関する。
本発明は、方法として、グラフィカル・ユーザ・インタフェース、コンピューティング・デバイス、またはコンピュータ可読媒体を含む、多数の形で実現できる。本発明のいくつかの実施態様を以下に説明する。
本発明は、一実施態様では、ユーザ・インタフェース方法に関する。方法は、タッチを検出することを含む。また、方法は、タッチが検出された際のユーザ・インタフェース・モードを判定することも含む。方法は、ユーザ・インタフェース・モードに基づき、検出されたタッチに応答して、1つまたは複数のGUI要素を活性化することをさらに含む。
本発明は、一実施態様では、ユーザ・インタフェース方法に関する。方法は、メディア・アイテムのグループをディスプレイすることを含む。また、方法は、ディスプレイされたメディア・アイテムのグループにわたってタッチを検出することも含む。方法は、ディスプレイされたメディア・アイテムにわたってタッチが検出された際に、仮想スクロール・ホイールを活性化することをさらに含む。仮想スクロール・ホイールの活性化には、仮想スクロール・ホイールの機能をディスプレイすることや、有効にすることが含まれ、仮想スクロール・ホイールは、ユーザが、メディア・アイテムのグループの中で移動するために、ユーザの指を旋回させるタッチ領域を提供する。方法は、タッチ・イベントが、仮想スクロール・ホイールのタッチ領域に対して実行されたかどうかを判定することをさらに含む。さらに、方法は、スクロール・タッチ・イベントが実行された際に、メディア・アイテムのグループをスクロールすることを含む。
本発明は、一実施態様では、ディスプレイとタッチ・スクリーンとを有する、ユーザによって操作される電子デバイス上で実行される方法に関する。方法は、タッチが検出されたかどうかを判定することを含む。また、方法は、タッチが検出された際に、現行のオペレーション条件を監視し、分析することも含む。また、方法は、第1のオペレーション条件セットに関して、第1のGUI要素を活性化することも含む。方法は、第2のオペレーション条件セットに関して、第2のGUI要素を活性化することをさらに含む。
本発明は、一実施態様では、ディスプレイと、タッチ・センシティブ入力デバイスとを有するコンピューティング・デバイス上で実行される方法に関する。方法は、タッチを感知することを含む。また、方法は、タッチが検出されると、GUI要素をディスプレイし、有効にすることも含む。GUI要素は、以下の少なくとも1つに基づく。すなわち、(a)コンピューティング・デバイス上で現在、実行されているアプリケーション、(b)アプリケーションの現在の状態、および/または(c)タッチの1つまたは複数の特性。特性には、例えば、タッチ・ロケーション、タッチID、タッチの回数、タッチ・モーションが含まれる。方法は、以下のイベントの1つが生じた際に、GUI要素を無効にし、ディスプレイからGUI要素を除去することをさらに含む。すなわち、(a)タッチがもはや検出されない、(b)タッチが、所定の時間にわたって検出されていない、(c)ディスプレイし、有効にするステップ以来、ある時間が経過している、(d)ユーザ選択、である。
本発明は、別の実施態様では、コンピューティング・システムに関する。コンピューティング・システムは、グラフィカル・ユーザ・インタフェースをディスプレイするように構成されたディスプレイ・デバイスを含む。また、システムは、ディスプレイ・デバイスの上に配置されたタッチ・スクリーンも含む。タッチ・スクリーンは、ディスプレイ・デバイスの上で生じるタッチを検出するように構成される。システムは、ディスプレイ・デバイスとタッチ・スクリーンに結合されたプロセッサをさらに含む。プロセッサは、タッチに応答して、1つまたは複数のGUI要素をディスプレイするようディスプレイ・デバイスに命令し、ディスプレイされたGUI要素に関連してタッチ・イベントが検出されると、GUI要素に関連するアクションを実行する。
本発明は、別の実施態様では、コンピューティング・デバイスに関する。コンピューティング・デバイスはプロセッサを含む。また、コンピューティング・デバイスは、タッチ・イベントを感知することができるタッチ・スクリーンも含む。コンピューティング・デバイスは、複数のメディア・アイテムを同時にディスプレイするように構成されたディスプレイ、および仮想スクロール・ホイールをさらに含む。仮想スクロール・ホイールは、スクロール・アクションを実施するためにタッチ・イベントが実行される領域を提供する。スクロール・アクションは、ユーザが、複数のメディア・アイテムにわたって移動することを可能にする。
本発明のその他の態様および利点は、例として、本発明の諸原理を示す、添付の図面に関連して解釈される、以下の詳細な説明から明白となろう。
本発明は、添付の図面に関連して、以下の詳細な説明によって容易に理解されよう。図面では、同様の符号が、同様の構造上の要素を示す。
本発明は、ジェスチャに関し、かつタッチ・センシティブ・デバイスを使用してジェスチャを実施する方法に関する。タッチ・センシティブ・デバイスの例には、タッチ・スクリーンとタッチ・パッドが含まれる。また、本発明は、ユーザ・インタフェースに関し、かつディスプレイでユーザ・インタフェースを実施する方法にも関する。本発明の一態様は、1つまたは複数の条件に基づき、ユーザ・インタフェース・モードを判定することに関する。本発明の別の態様は、ユーザ・インタフェース・モードに基づいて1つまたは複数のGUI要素を活性化すること(例えば、GUI要素をディスプレイすること)に関する。本発明の別の態様は、仮想スクロール・ホイールに関する。
本発明の以上、およびその他の態様を、図1〜図38Jに関連して以下に説明する。しかし、本発明は、それらの限られた実施形態を超えて広がるので、それらの図に関連して本明細書で与えられる詳細な説明は、例示を目的とすることが、当業者には直ちに理解されよう。
図1は、本発明の一実施形態による例示的なコンピュータ・システム50のブロック図である。コンピュータ・システム50は、デスクトップ・コンピュータ、ラップトップ・コンピュータ、タブレット・コンピュータ、またはハンドヘルド・コンピュータなどの、パーソナル・コンピュータ・システムに対応する。また、コンピュータ・システムは、セル電話機、PDA、専用メディア・プレーヤ、家庭用電子機器などの、コンピューティング・デバイスに対応することも可能である。
図1に示された例示的なコンピュータ・システム50は、命令を実行し、コンピュータ・システム50に関連するオペレーションを実行するように構成されたプロセッサ56を含む。例えば、メモリから取り出された命令を使用して、プロセッサ56は、例えば、コンピューティング・システム50のコンポーネント間における入力データと出力データの受信と操作を制御することができる。プロセッサ56は、単一チップ上、複数のチップ上、または複数の電気コンポーネントに実装される。例えば、専用もしくは組み込み型のプロセッサ、単一目的プロセッサ、コントローラ、ASICなどを含め、様々なアーキテクチャをプロセッサ56として使用できる。
ほとんどのケースで、プロセッサ56は、オペレーティング・システムと一緒になって、コンピュータ・コードを実行し、かつデータを生成し使用する。オペレーティング・システムは、一般に、周知であり、さらに詳細に説明することはしない。例として、オペレーティング・システムは、OS/2、DOS、Unix(登録商標)、Linux、Palm OSなどとすることが可能である。また、オペレーティング・システムは、限定された目的の器具タイプのコンピューティング・デバイスのために使用されるような、特殊目的のオペレーティング・システムでもよい。オペレーティング・システム、その他のコンピュータ・コード、データは、プロセッサ56に結合されたメモリ・ブロック58内に常駐することが可能である。メモリ・ブロック58は、一般に、コンピュータ・システム50によって使用されるコンピュータ・コードやデータを格納する場所を提供する。例として、メモリ・ブロック58には、読取り専用メモリ(ROM)、ランダム・アクセス・メモリ(RAM)、ハード・ディスク・ドライブ、および/または類似物が含まれる。また、情報は、取り外し可能な記憶媒体上に常駐して、必要とされる際に、コンピュータ・システム50上に読み込まれる、またはインストールされる。取り外し可能な記憶媒体には、例えば、CD−ROM、PC−CARD、メモリ・カード、フロッピー(登録商標)・ディスク、磁気テープ、ネットワーク・コンポーネントが含まれる。
また、コンピュータ・システム50は、プロセッサ56に結合されたディスプレイ・デバイス68も含む。ディスプレイ・デバイス68は、液晶ディスプレイ(LCD)(例えば、能動マトリックス、受動マトリックスなど)であってもよい。代替的に、ディスプレイ・デバイス68は、モノクロのディスプレイ、カラー・グラフィックス・アダプタ(CGA)ディスプレイ、高性能グラフィックス・アダプタ(EGA)ディスプレイ、可変グラフィックス・アレイ(VGA)ディスプレイ、スーパVGAディスプレイ、陰極線管(CRT)などのモニタであってもよい。また、ディスプレイ・デバイスは、プラズマ・ディスプレイ、または電子インクで実現されるディスプレイでもよい。
ディスプレイ・デバイス68は、概して、コンピュータ・システムのユーザと、オペレーティング・システム、またはオペレーティング・システム上で実行されているアプリケーションとの間で、使いやすいユーザ・インタフェースを提供するグラフィカル・ユーザ・インタフェース(GUI)69をディスプレイするように構成される。一般的に述べると、GUI69は、グラフィック・イメージを伴うプログラム、ファイル、操作オプションを表す。グラフィック・イメージは、ウインドウ、フィールド、ダイアログ・ボックス、メニュー、アイコン、ボタン、カーソル、スクロール・バーなどを含む。そのようなイメージは、事前定義されたレイアウトで配置されるか、またはユーザによって行われる特定のアクションに役立つように動的に作成される。操作中、ユーザは、グラフィック・イメージに関連する諸機能やタスク群を開始するために、様々なグラフィック・イメージを選択し、活性化することができる。例として、ユーザは、ウインドウを開く、閉じる、最小化する、または最大化するボタン、または特定のプログラムを起動するアイコンを選択することができる。GUI69は、さらに、または代替的に、ユーザのためにディスプレイ・デバイス68上で、非対話型のテキストやグラフィックスなどの情報をディスプレイすることもできる。
また、コンピュータ・システム50は、プロセッサ56に結合された入力デバイス70も含む。入力デバイス70は、外部世界からコンピュータ・システム50にデータを転送するように構成される。入力デバイス70は、例えば、ディスプレイ68上のGUI69に関連してトラッキングを実行し、選択を行うのに使用される。また、入力デバイス70は、コンピュータ・システム50においてコマンドを発行するのに使用されることも可能である。入力デバイス70は、ユーザのタッチからの入力を受け取り、その情報をプロセッサ56に送るように構成されたタッチ・センシティブ・デバイスを含む。例として、タッチ・センシティブ・デバイスは、タッチ・パッドまたはタッチ・スクリーンに対応する。多くのケースで、タッチ・センシティブ・デバイスは、タッチを認識するとともに、タッチ・センシティブ面上のタッチの位置と大きさも認識する。タッチ感知手段は、タッチをプロセッサ56に報告し、プロセッサ56は、そのタッチをプロセッサ56のプログラミングに従って解釈する。例えば、プロセッサ56は、特定のタッチに従ってタスクを開始することができる。タッチをローカルで処理し、コンピュータ・システムのメイン・プロセッサに対する要求を減らすのに専用プロセッサを使用してもよい。タッチ・センシティブ・デバイスは、静電容量感知、抵抗感知、表面弾性波感知、圧力感知、光学感知、および/または類似の技術を含むが、以上には限定されない感知技術に基づくことが可能である。さらに、タッチ感知手段は、単一ポイント感知またはマルチポイント感知に基づくことが可能である。単一ポイント感知は、単一のタッチを識別することだけができるのに対して、マルチポイント感知は、同時に生じた複数のタッチを識別することができる。
入力デバイス70は、ディスプレイ68の上または前に配置されたタッチ・スクリーンであることが可能である。タッチ・スクリーン70は、ディスプレイ・デバイス68に組み込まれても、別個のコンポーネントであってもよい。タッチ・スクリーン70は、タッチ・パッド、マウス、その他などの他の入力技術に優る、いくつかの利点を有する。1つには、タッチ・スクリーン70は、ディスプレイ68の前に配置され、したがって、ユーザは、GUI69を直接に操作することができる。例えば、ユーザは、制御されるべきオブジェクトの上に、ユーザの指を単に置くだけである。タッチ・パッドにおいて、このような1対1の関係は全く存在しない。タッチ・パッドでは、タッチ・パッドは、ディスプレイから離れて、通常、異なる平面に配置される。例えば、ディスプレイは、通常、垂直面に配置され、タッチ・パッドは、通常、水平面に配置される。これにより、タッチ・パッドの使用は、それほど直観的でなくなり、したがって、タッチ・スクリーンと比べると、より困難になる。タッチ・スクリーンであることに加え、入力デバイス70は、マルチポイント入力デバイスであることが可能である。マルチポイント入力デバイスは、複数のオブジェクト(指)を識別することができるという点で、従来の単一ポイント・デバイスに優る利点を有する。単一ポイント・デバイスは、複数のオブジェクトを識別することが全くできない。例として、本明細書で使用されることが可能なマルチポイント・タッチ・スクリーンは、参照により本明細書に組み込まれている、同時係属の、本発明の譲受人に譲渡された米国特許出願第10/840,862号においてより詳細に示され、説明されている。
また、コンピュータ・システム50は、1つまたは複数のI/Oデバイス群80に結合するための諸機能も含む。例として、I/Oデバイス群80は、キーボード、プリンタ、スキャナ、カメラ、スピーカ、および/または類似物に相当する。I/Oデバイス群80は、コンピュータ・システム50に組み込まれても、別個のコンポーネント(例えば、周辺デバイス群)であってもよい。一部のケースでは、I/Oデバイス群80は、有線接続(例えば、ケーブル/ポート)を介してコンピュータ・システム50に接続される。他のケースでは、I/Oデバイス群80は、無線接続を介してコンピュータ・システム80に接続される。例として、データ・リンクは、PS/2、USB、IR、RF、Bluetoothなどに相当する。
本発明の一実施形態によれば、コンピュータ・システム50は、入力デバイス70に印加されるジェスチャ85を認識し、ジェスチャ85に基づいてコンピュータ・システム50の諸態様を制御するように設計される。一部のケースでは、ジェスチャは、1つまたは複数の特定のコンピューティング・オペレーションにマップされた、入力デバイスとの様式化された対話として定義される。ジェスチャ85は、様々な手の動き、より詳細には、指の動きを介して行われる。代替的に、またはさらに、ジェスチャは、スタイラスを使用して行われることも可能である。以上のケースのすべてにおいて、入力デバイス70は、ジェスチャ85を受け取り、プロセッサ56が、ジェスチャ85に関連するオペレーションを実行する命令を実行する。さらに、メモリ・ブロック58が、ジェスチャ・オペレーション・プログラム88を含むことが可能であり、プログラム88は、オペレーティング・システムの一部であっても、別個のアプリケーションであってもよい。ジェスチャ・オペレーション・プログラム88は、一般に、ジェスチャ85の出現を認識し、1つまたは複数のソフトウェア・エージェントに、それらのジェスチャ85、および/またはそれらのジェスチャに応答してどのようなアクションが行われるべきかについて通知する命令セットを含む。
ユーザが、1つまたは複数のジェスチャを実行すると、入力デバイス70は、ジェスチャ情報をプロセッサ56に中継する。メモリ58から、より詳細には、ジェスチャ・オペレーション・プログラム88からの命令を使用して、プロセッサ56は、ジェスチャ85を解釈し、それらのジェスチャ85に基づき、メモリ58、ディスプレイ68、I/Oデバイス群80などの、コンピュータ・システム50の様々なコンポーネントを制御する。ジェスチャ85は、メモリ58の中に格納されたアプリケーション群におけるアクションを実行するためのコマンド、ディスプレイ68上に示されたGUIオブジェクト群を変更するためのコマンド、メモリ58の中に格納されたデータを変更するためのコマンド、および/またはI/Oデバイス群80におけるアクションを実行するためのコマンドとして識別されることが可能である。例として、コマンドは、ズーム、パン、スクロール、ページング、回転、サイズ設定などに関連することが可能である。さらなる例として、コマンドは、特定のプログラムを起動すること、ファイルまたはドキュメントを開くこと、メニューを閲覧すること、選択を行うこと、命令を実行すること、コンピュータ・システムにログオンすること、権限を付与された個人が、コンピュータ・システムの制限された領域にアクセスするのを許すこと、コンピュータ・デスクトップのユーザが選好する構成に関連するユーザ・プロファイルを読み込むこと、および/または以上に類することに関連することも可能である。
多様な異なるジェスチャを利用することも可能である。例として、ジェスチャは、単一ポイント・ジェスチャもしくはマルチポイント・ジェスチャ、静的ジェスチャもしくは動的ジェスチャ、連続的ジェスチャもしくは区分されたジェスチャ、および/または以上に類するジェスチャである。単一ポイント・ジェスチャは、単一の接触ポイントで実行されるジェスチャであり、例えば、このジェスチャは、例えば、単一の指、手のひら、またはスタイラスからの、単一のタッチで実行される。マルチポイント・ジェスチャは、複数のポイントで実行されることが可能なジェスチャであり、例えば、ジェスチャは、例えば、複数の指、複数の指と手のひら、指とスタイラス、複数のスタイラス、および/または以上の任意の組み合わせからの、複数のタッチで実行される。静的ジェスチャは、動きを含まないジェスチャであり、動的ジェスチャは、動きを含むジェスチャである。連続的ジェスチャは、単一のストロークで実行されるジェスチャであり、区分されたジェスチャは、一連の別個のステップもしくはストロークで実行されるジェスチャである。
一部の実施形態では、コンピュータ・システム50は、複数のジェスチャを同時に記録するように構成される、すなわち、複数のジェスチャが、同時に実行されることが可能である。例として、ズーム・ジェスチャが、回転ジェスチャと同時に実行されることが可能であり、あるいは回転ジェスチャが、パン・ジェスチャと同時に実行されることが可能である。1つの特定の実装では、ズーム・ジェスチャ、回転ジェスチャ、パン・ジェスチャはすべて、ズーム、回転、パンを同時に実行するために、同時に行われることが可能である。
別の実施形態では、システムは、ジェスチャに関連するアクションを、ジェスチャと同時に実施できるように、ジェスチャを即時に認識するように構成される、すなわち、ジェスチャとアクションは、2ステップのプロセスであるのではなく、並行して同時に行われる。例として、スクロール・ジェスチャ中、スクリーンが、指の動きとともに動く。
別の実施形態では、ディスプレイ68上に提示されたオブジェクトが、タッチ・スクリーン上で行われるジェスチャを連続的に追う。実行されているジェスチャと、ディスプレイ68上で示されるオブジェクトの間に1対1の関係が存在する。例えば、ジェスチャが実行されるにつれ、そのジェスチャの下に位置するオブジェクトの変更が同時に生じる。例えば、ズーム・ジェスチャ中、複数の指が、広げられて離れ、または閉じられて一緒になり、ディスプレイ68上に示されたオブジェクトが、広げる最中にズーム・インされ、閉じる最中にズーム・アウトされるようにすることが可能である。この操作中、コンピュータ・システム50は、ユーザ入力をズーム・ジェスチャとして認識し、どのようなアクションが行われるべきかを判定し、制御データを適切なデバイスに、このケースでは、ディスプレイ68に出力する。
別の実施形態では、コンピュータ・システム50は、ジェスチャが、入力デバイス68の異なる区域の上で実施された場合、異なる事物を意味する、領域反応性をもたらす。例えば、音量ノブ上の回転ジェスチャは、音量が増大する/減少することを生じさせるのに対して、写真上の回転ジェスチャは、その写真の回転を生じさせる。
別の実施形態では、タッチ・スクリーンと接触している指の数は、入力モードを示すことが可能である。例えば、単一の指による単一のタッチが、例えば、トラッキング、すなわち、ポインタもしくはカーソルの動き、または選択を実行する要望を示すことが可能であるのに対して、例えば、一群の指による複数のタッチが、ジェスチャリングを実行する要望を示すことが可能である。ジェスチャリングを実施するための指の数は、様々であることが可能である。例として、2本の指が、第1のジェスチャ・モードを示すことが可能であり、3本の指が、第3のジェスチャ・モードを示す可能性があるといった具合である。代替的に、任意の数の指、すなわち、複数が、1つまたは複数のジェスチャ制御を含むことが可能な、同一のジェスチャ・モードのために使用されることが可能である。指の向きも同様に、所望されるモードを表すのに使用されることが可能である。指のプロファイルが、例えば、ユーザが、ユーザの親指を使用したか、または人差し指を使用したかに基づき、異なるモードのオペレーションを許すように検出されるようにすることも可能である。
別の実施形態では、ストロークを止める(例えば、タッチ・センシティブ面から持ち上げる)ことなしに、入力デバイス上で連続的なストロークを行いながら、入力を変更するようにしてもよい。1つの実装では、ユーザは、ストロークが行われている間に、トラッキング(または選択)モードからジェスチャリング・モードに切り替えることができる。例えば、トラッキングまたは選択を単一の指に関連付け、ジェスチャリングを、複数の指に関連付けることが可能であり、したがって、ユーザは、タッチ・スクリーン上から第2の指を持ち上げること、およびタッチ・スクリーン上に第2の指を置くことにより、トラッキング/選択とジェスチャリングの間で切り替えを行うことができる。別の実装では、ユーザは、ストロークが行われている間に、1つのジェスチャ・モードから別のジェスチャ・モードに切り替えることができる。例えば、ズームが、ペアの指を広げることに関連付けられることが可能であり、回転が、そのペアの指を回転させることに関連付けられることが可能であり、したがって、ユーザは、広げることと、回転させることの間でユーザの指の動きを交替させることにより、ズームと回転の間で切り替えを行うことができる。さらに別の実装では、ジェスチャ入力の数は、ストロークが行われている間に、変更されることが可能である(例えば、足される、または引かれる)。例えば、指が広げられて離されるズーム中、ユーザは、ユーザの指をさらに回転させて、ズームと回転をともに開始させることができる。さらに、ズームと回転の最中に、ユーザは、ユーザの指を広げるのを止めて、回転だけが生じるようにすることができる。つまり、ジェスチャ入力は、同時に、または連続的に、絶え間なく入力されることが可能である。
1つの特定の実施形態では、単一の指が、トラッキング(または選択)を開始し、互いに極めて近接した2つ以上の指が、スクロールまたはパンを開始する。1本の指と2本の指の間で容易な切り替えをもたらすように、2本の指が、通常、好ましくは、すなわち、ユーザは、単に、さらなる指を上げる、または下ろすことにより、モード間で非常に簡単に切り替えを行うことができる。以上は、他の形態のモード切り替えよりも直観的であるという利点を有する。トラッキング中、カーソルの動きは、ユーザが、タッチ・センシティブ・デバイスのタッチ・センシティブ面上で単一の指を動かすことによって制御される。タッチ・センシティブ・デバイスのセンサ配列が、指の動きを解釈し、ディスプレイ上でカーソルの対応する動きを生じさせるための信号を生成する。スクロール中、スクリーンの動きは、ユーザが、タッチ・センシティブ・デバイスのタッチ・センシティブ面上で双数の指を動かすことによって制御される。組み合わせの指が、垂直方向に動かされると、その動きは、垂直スクロール・イベントとして解釈され、組み合わせの指が、水平方向に動かされると、その動きが、水平スクロール・イベントとして解釈される。同一のことを、パンに関しても述べることができ、ただし、パンは、水平方向と垂直方向だけでなく、すべての方向で行われることが可能である。
本明細書で使用される「スクロール」という用語は、概ね、新たなデータのセット(例えば、テキストの行、またはグラフィックス)が、ディスプレイ領域内で見えるようにされるように、ディスプレイ・スクリーン上のディスプレイ領域にわたって、ディスプレイされるデータまたはイメージ(例えば、テキストまたはグラフィックス)を動かすことに関する。ほとんどのケースで、ディスプレイ領域が一杯になると、それぞれの新たなデータ・セットは、ディスプレイ領域の端に出現し、他のすべてのデータ・セットは、1つ位置を譲る。つまり、ディスプレイ領域から外れる各データ・セットにつき、新たなデータ・セットが出現する。要するに、スクロール・ファンクションは、ユーザが、現在、ディスプレイ領域から外れている、連続するデータ・セットを見ることができるようにする。ディスプレイ領域は、ディスプレイ・スクリーンのディスプレイ領域全体であっても、ディスプレイ・スクリーンの一部分(例えば、ウインドウ・フレーム)に過ぎなくてもよい。
前述したとおり、スクロールは、垂直に(上向きまたは下向きに)、または水平に(左または右に)実施されることが可能である。垂直スクロールのケースでは、ユーザが、下向きにスクロールすると、それぞれの新たなデータ・セットが、ディスプレイ領域の一番下に出現し、他のすべてのデータ・セットは、1つ位置を上に移動する。ディスプレイ領域が一杯である場合、一番上のデータ・セットは、ディスプレイ領域から外れるように移動する。同様に、ユーザが、上向きにスクロールすると、それぞれの新たなデータ・セットが、ディスプレイ領域の一番上に出現し、他のすべてのデータ・セットは、1つ位置を下に移動する。ディスプレイ領域が一杯である場合、一番下のデータ・セットは、ディスプレイ領域から外れるように移動する。
例として、ディスプレイ・スクリーンは、オペレーション中、メディア・アイテム(例えば、曲)のリストをディスプレイすることができる。ユーザは、タッチ・スクリーンにわたってユーザの指を動かすことにより、メディア・アイテムのリストを直線的にスクロールすることができる。指が、タッチ・スクリーンにわたって動くにつれ、メディア・アイテムのリストからのディスプレイされたアイテムは、ユーザが、メディア・アイテムのリストを効果的にスクロールすることができるように変化する。ほとんどのケースで、ユーザは、ユーザの指をより大きい速度で動かすことにより、メディア・アイテムのリストの走査を加速することができる。前述した例に関連することが可能な、いくつかの実施形態を、以下により詳細に説明する。例えば、図6、図23、図27を参照されたい。
図2は、本発明の一実施形態によるマルチポイント処理方法100である。マルチポイント処理方法100は、例えば、図1に示されたシステムにおいて実行される。マルチポイント処理方法100は、一般に、ブロック102で始まり、イメージが、マルチポイント入力デバイスから、より詳細には、マルチポイント・タッチ・スクリーンから読み取られる。例として、マルチポイント・タッチ・スクリーンは、参照により本明細書に組み込まれている、同時係属の米国特許出願第10/840,862号で開示されているマルチポイント・タッチ・スクリーンに相当する。「イメージ」という用語が使用されているが、データは、他の形態でもたらされることも可能であることに留意されたい。ほとんどのケースで、タッチ・スクリーンから読み取られるイメージは、大きさ(Z)を、タッチ・スクリーンの各感知ポイントまたは各ピクセルの位置(x、y)の関数として与える。大きさは、各ポイントで測定される静電容量に反映させることが可能である。
ブロック102に続いて、マルチポイント処理方法100は、ブロック104に進み、イメージが、フィーチャの集合もしくはリストに変換される。各フィーチャは、タッチなどの、別個の入力を表す。ほとんどのケースで、各フィーチャは、独自の一意識別子(ID)、x座標、y座標、Zの大きさ、角度θ、面積Aなどを含む。例として、図3Aおよび図3Bは、時間における特定のイメージ120を示す。イメージ120では、2つの別々のタッチに基づく2つのフィーチャ122が存在する。それらのタッチは、例えば、タッチ・スクリーンに触れるペアの指から形成される。図示されるとおり、各フィーチャ122は、一意識別子(ID)、x座標、y座標、Zの大きさ、角度θ、面積Aを含む。より詳細には、第1のフィーチャ122Aが、ID1、x1、y1、Z1、θ1、A1によって表され、第2のフィーチャ122Bが、ID2、x2、y2、Z2、θ2、A2によって表される。このデータは、例えば、マルチタッチ・プロトコルを使用して出力される。
データまたはイメージからフィーチャへの変換は、参照により本明細書に組み込まれている、同時係属の米国特許出願第10/840,862号で説明される方法を使用して達成できる。その出願で開示されるとおり、生のデータが受け取られる。生のデータは、通常、デジタル化された形態になっており、タッチ・スクリーンの各ノードに関する値を含む。値は、0から256までの間であり、0は、タッチ圧力が全くないことに相当し、256は、完全なタッチ圧力に相当する。その後、生のデータは、雑音を減らすように濾過される。濾過されると、接続されたポイントの各グループのトポロジを示す勾配データが生成される。その後、タッチ領域に関する境界が、その勾配データに基づいて計算される、すなわち、いずれのポイントが一緒にグループ化されて、各タッチ領域を形成するかについての判定が行われる。例として、Watershedアルゴリズムが使用される。境界が判定されると、タッチ領域のそれぞれに関するデータが計算される(例えば、x、y、Z、θ、A)。
ブロック104に続いて、マルチポイント処理方法100は、ブロック106に進み、フィーチャの分類とフィーチャのグループ化が実行される。分類中、フィーチャのそれぞれの正体が特定される。例えば、フィーチャは、特定の指、親指、手のひら、またはその他のオブジェクトとして分類される。分類された後、フィーチャは、グループ化される。グループが形成される形は、様々であってよい。ほとんどのケースで、フィーチャは、何らかの基準(例えば、フィーチャが、類似した属性を有する)に基づいてグループ化される。例えば、図3Aおよび図3Bに示される2つのフィーチャを、一緒にグループ化することが可能である。というのは、それらのフィーチャのそれぞれが、互いに近接した位置にあるため、またはそれらのフィーチャが、同一の手からくるためである。グループ化は、タッチ・イベントの一部ではないフィーチャを濾過して除くように、ある程度のフィルタリングを含むことが可能である。濾過する際、1つまたは複数のフィーチャが、何らかの事前定義された基準を満たすため、または何らかの基準を満たさないために、拒否されることがある。例として、フィーチャの1つは、タブレットPCの端に位置する親指として分類される。親指は、作業を実行するのに使用されるのではなく、デバイスを把持するのに使用されているため、親指から生成されたフィーチャは拒否される、すなわち、処理されているタッチ・イベントの一部とは見なされない。
ブロック106に続いて、マルチポイント処理方法100は、ブロック108に進み、フィーチャ・グループに関する重要なパラメータが計算される。重要なパラメータには、フィーチャ間の距離、すべてのフィーチャのx/y重心、フィーチャの回転、グループの総圧力(例えば、重心における圧力)などが含まれる。図4に示されるとおり、計算には、重心Cを求めること、重心Cから各フィーチャまで仮想の線130を引くこと、それぞれの仮想の線に関する距離D(D1およびD2)を定義すること、次に、距離D1と距離D2を平均することが含まれる。パラメータが、計算されると、パラメータ値が報告される。パラメータ値は、通常、グループ識別子(GID)と、各グループ内のフィーチャの数(このケースでは、3つ)とともに報告される。ほとんどのケースで、初期パラメータ値と現在のパラメータ値がともに、報告される。初期パラメータ値は、セットダウン時に、すなわち、ユーザが、ユーザの指をタッチ・スクリーン上に置いた時点に基づくことが可能であり、現在の値は、セットダウン後に行われたストローク内の任意のポイントに基づくことが可能である。理解されるべきこととして、ブロック102〜108は、ユーザ・ストローク中に繰り返し実行されて、複数の順次に更新された信号を生成する。初期パラメータと現在のパラメータは、後のステップで比較されて、システムにおけるアクションが実行される。
ブロック108に続いて、プロセス・フローは、ブロック110に進み、グループは、ユーザ・インタフェース(UI)要素であるか、またはUI要素に関連付けられる。UI要素は、ボタン・ボックス、リスト、スライダ、ホイール、ノブ、その他である。各UI要素は、ユーザ・インタフェースのコンポーネントまたはコントロールを表す。UI要素の背後のアプリケーションは、ブロック108で計算されるパラメータ・データへのアクセスを有する。1つの実装では、アプリケーションは、タッチ・データに対応するUI要素に対するタッチ・データの関連性をランク付けする。ランク付けは、何からの所定の基準に基づく。ランク付けは、性能指数を生成すること、および、いずれのUI要素であれ、最高の性能指数を有するUI要素に、グループへの唯一のアクセスを許すことを含むことが可能である。ある程度のヒステリシスさえも存在することが可能である(UI要素の1つが、そのグループのコントロールを主張すると、グループは、別のUI要素が、はるかに高いランク付けを有するようになるまで、そのUI要素から離れない)。例として、ランク付けは、UI要素に関連するGUIオブジェクトに対する重心(またはフィーチャ)の近接性を判定することを含むことが可能である。
ブロック110に続いて、マルチポイント処理方法100は、ブロック112、114に進む。ブロック112、114は、ほぼ同時に実行されることが可能である。ユーザから見て、一実施形態では、ブロック112、114は、同時並行に実行されるように見える。ブロック112で、初期パラメータ値と現在のパラメータ値の差と、それらの値が関連するUI要素に基づき、1つまたは複数のアクションが実行される。ブロック114で実行される、それらの1つまたは複数のアクションに関するユーザ・フィードバックが、もたらされる。例として、ユーザ・フィードバックは、ディスプレイ・フィードバック、オーディオ・フィードバック、触覚フィードバック、および/または類似するフィードバックを含む。
図5は、本発明の一実施形態によるパラメータ計算方法150である。パラメータ計算方法150は、例えば、図2に示されるブロック108に対応する。パラメータ計算方法150は、一般に、ブロック152で始まり、フィーチャのグループを受け取る。ブロック152に続いて、パラメータ計算方法150は、ブロック154に進み、フィーチャのグループの中のフィーチャの数が変化したかどうかについての判定が行われる。例えば、フィーチャの数は、ユーザが、さらなる指を上げたこと、または置いたことに起因して、変化する。異なる指が、異なる制御(例えば、トラッキング、ジェスチャリング)を実行するのに必要とされる。フィーチャの数が変化している場合、パラメータ計算方法150は、ブロック156に進み、初期パラメータ値が計算される。数が同じままである場合、パラメータ計算方法150はブロック158に進み、現在のパラメータ値が計算される。その後、パラメータ計算方法150は、ブロック150に進み、初期パラメータ値と現在のパラメータ値が報告される。例として、初期パラメータ値は、ポイント間の平均初期距離(またはDistance(AVG)initial)を含み、現在のパラメータ値はポイント間の平均現在距離(またはDistance(AVG)current)を含むことが可能である。以上の値は、後続のステップで、コンピュータ・システムの様々な態様を制御するために比較される。
以上の方法と技術は、GUIインタフェース・オブジェクトやアクションの任意の数を実施するのに使用できる。例えば、ウインドウをサイズ変更する、ディスプレイをスクロールする、オブジェクトを回転させる、ディスプレイされたビューのズーム・インまたはズーム・アウトを行う、テキストもしくは他のオブジェクトの削除または挿入を行うなどのユーザ・コマンドを検出し、行うように、ジェスチャが生じさせられる。また、ジェスチャは、コンピューティング・システムとの人間の対話を円滑にするように作成される音量ノブ、スイッチ、スライダ、ハンドル、ノブ、ドア、その他のウィジェットなどの、仮想制御インタフェース群を呼び出し、操作するのに使用されてもよい。
以上の方法を使用する実施例を挙げるのに、図6A〜図6Gを参照して、タブレットPC175のディスプレイ174のGUIインタフェース172上の仮想音量ノブ170を制御するための回転ジェスチャを説明する。ノブ170を作動させるため、ユーザは、ユーザの指176をマルチポイント・タッチ・スクリーン178上に置く。仮想制御ノブは、既にディスプレイされているか、あるいはセットダウン時における指の特定の数、向き、もしくはプロファイル、またはセットダウン直後の指の動き、またはユーザの対話の以上の特性、その他の特性の何らかの組み合わせにより、ディスプレイされるべき仮想制御ノブが呼び出される。いずれにしても、コンピューティング・システムは、指グループを仮想制御ノブに関連付け、ユーザが、仮想音量ノブを使用することを意図しているという判定を行う。また、この関連付けは、入力の時点におけるコンピューティング・デバイスのモード、または現在の状態にある程度基づく。例えば、同一のジェスチャは、コンピューティング・デバイス上で現在、曲が再生されている場合、音量知識ジェスチャとして、またはオブジェクト編集アプリケーションが実行されている場合、回転コマンドとして、代替的に解釈される。例えば、可聴フィードバックまたは触覚フィードバックを含む、他のユーザ・フィードバックが提供されてもよい。
ノブ170が、図6Aに示されるとおりディスプレイされると、ノブ170が実際のノブまたはダイヤルであるとした場合と同様に、ユーザの指176が、ノブ170の周りに位置付けられ、その後、ノブ170を回すことをシミュレートするように、ノブ170の周りで回転させられる。この場合も、例えば、クリック音の形態の可聴フィードバック、または振動の形態の触覚フィードバックが、ノブ170が「回転させられる」につれ、与えられてもよい。また、ユーザは、ユーザの他方の手を使用して、タブレットPC175を把持してもよい。
図6Bに示されるとおり、マルチポイント・タッチ・スクリーン178は、少なくともペアのイメージを検出する。詳細には、第1のイメージ180が、セットダウン時に作成され、少なくとも1つの他のイメージ182が、指176が回転させられると、作成される。2つだけのイメージが示されているが、ほとんどのケースでは、それら2つのイメージの間で増分しながら生じるはるかに多くのイメージが存在する。各イメージは、特定の時点でタッチ・スクリーンと接触している指のプロファイルを表す。また、それらのイメージは、タッチ・イメージとも呼ばれる。「イメージ」という用語は、プロファイルが、スクリーン178上にディスプレイされることを意味しない(むしろ、タッチ・センシティブ・デバイスによってイメージングされる)ものと理解されたい。また、「イメージ」という用語が使用されるが、データは、様々な時点におけるタッチ平面を表す他の形態であってもよいことに留意されたい。
図6Cに示されるとおり、イメージ180、182のそれぞれは、フィーチャ184の集合に変換される。各フィーチャ184は、例えば、ノブ170を囲む指176のそれぞれ、およびタブレットPC175を把持するのに使用される他方の手177の親指、先端部からの特定のタッチに関連する。
図6Dに示されるとおり、フィーチャ184は、分類され、すなわち、各指/親指が、識別され、イメージ180、182のそれぞれに関してグループ化される。この特定のケースで、ノブ170に関連するフィーチャ184Aが一緒にグループ化されて、グループ188を形成し、親指に関連するフィーチャ184Bは濾過されて除かれる。代替の構成では、親指フィーチャ184Bは、それ自体で別個のフィーチャとして(または別のグループの中で)扱われて、例えば、システムの入力モードまたは操作モードを変更する、または別のジェスチャ、例えば、その親指(または他の指)の区域においてスクリーン上にディスプレイされるイコライザ・スライダに関連するスライダ・ジェスチャを実施することも可能である。
図6Eに示されるとおり、フィーチャ・グループ188の重要なパラメータが、各イメージ180、182に関して計算される。第1のイメージ180に関連する重要なパラメータは初期状態を表し、第2のイメージ182の重要なパラメータは現在の状態を表す。
やはり、図6Eに示されるとおり、フィーチャ・グループ188が、ノブ170に近接しているため、ノブ170がグループ188に関連するUI要素である。その後、図6Fに示されるとおり、各イメージ180、182からのフィーチャ・グループ188の重要なパラメータ値が比較されて、回転ベクトルが、すなわち、初期状態から現在の状態まで時計方向に5度、回転させられたフィーチャ・グループが算出される。図6Fに、初期フィーチャ・グループ(イメージ180)が破線で示されているのに対して、現在のフィーチャ・グループ(イメージ182)は実線で示されている。
図6Gに示されるとおり、回転ベクトルに基づき、タブレットPC175のスピーカ192が、指176の回転量に応じて、スピーカ192の出力を増加する(または減少させる)、すなわち、5度の回転に基づいて5%だけ音量を増加する。また、タブレットPCのディスプレイ174は、指176の回転量に応じて、ノブ170の回転を調整することもできる、すなわち、ノブ170の位置が、5度、回転する。ほとんどのケースで、ノブの回転は、指の回転と同時に生じる、すなわち、指の各回転度ごとに、ノブが1度回転する。要するに、仮想制御ノブは、スクリーン上で生じるジェスチャを追う。さらに、タブレットPCのオーディオ・ユニット194は、各回転単位につき、クリック音をもたらすことができ、例えば、5度の回転に基づき、5回のクリックをもたらすことができる。さらに、タブレットPC175の触覚ユニット196が、各クリックに関して、ある量の振動、または他の触覚フィードバックをもたらして、実際のノブをシミュレートすることも可能である。
さらなるジェスチャが、仮想制御ノブ・ジェスチャと同時に実行されてもよいことに留意されたい。例えば、複数の仮想制御ノブが、両手、すなわち、各仮想制御ノブに関して1つの手を使用して、同時に制御されてもよい。代替的に、またはさらに、1つまたは複数のスライダ・バーが、仮想制御ノブと同時に制御されてもよい、すなわち、一方の手が、仮想制御ノブを操作するのに対して、他方の手の少なくとも1本の指、さらに、おそらく、複数の指が、少なくとも1つのスライダを操作し、さらに、おそらく、複数のスライダ・バー、例えば、指ごとのスライダ・バーを操作する。
実施形態は、仮想制御ノブを使用して説明されているが、別の実施形態では、UI要素は、仮想スクロール・ホイールであってもよいことにも留意されたい。例として、仮想スクロール・ホイールは、参照によりすべて本明細書に組み込まれている、米国特許公報Nos.2003/0076303A1、米国特許公報Nos.2003/0076301A1、米国特許公報Nos.2003/0095096A1において説明されているスクロール・ホイールなどの、実際のスクロール・ホイールを模倣することが可能である。例えば、ユーザが、仮想スクロール・ホイールの表面上にユーザの指を置き、旋回、回転、または接線方向のジェスチャ・モーションを行うと、ウインドウ内にディスプレイされたアイテムのリストに関してスクロール・アクションが、実行されることが可能である。
図7は、本発明の一実施形態によるタッチ・ベースの方法200の図である。方法は、一般に、ブロック202で始まり、マルチポイント感知デバイス上で行われたユーザ入力が検出される。ユーザ入力には、1つまたは複数のタッチ入力が含まれ、各タッチ入力は、一意識別子を有する。ブロック202に続いて、タッチ・ベースの方法200は、ブロック204に進み、ユーザ入力が、単一の一意識別子(1回のタッチ入力)を含む場合、トラッキング入力または選択入力として分類され、あるいは、ユーザ入力が、少なくとも2つの一意識別子(複数のタッチ入力)を含む場合、ジェスチャ入力として分類される。ユーザ入力が、トラッキング入力として分類された場合、タッチ・ベースの方法200は、ブロック206に進み、そのユーザ入力に対応するトラッキングが実行される。ユーザ入力が、ジェスチャ入力として分類された場合、タッチ・ベースの方法200は、ブロック208に進み、そのユーザ入力に対応する1つまたは複数のジェスチャ制御アクションが実行される。ジェスチャ制御アクションは、その少なくとも2つの一意識別子とともに、またはそれらの識別子の間で生じた変化に、少なくともある程度、基づく。
図8は、本発明の一実施形態によるタッチ・ベースの方法250の図である。タッチ・ベースの方法250は、一般に、ブロック252で始まり、タッチ・センシティブ面上の入力ストローク中に、初期イメージがキャプチャされる。ブロック252に続いて、タッチ・ベースの方法250は、ブロック254に進み、タッチ・モードが、初期イメージに基づいて判定される。例えば、初期イメージが、単一の一意識別子を含む場合、タッチ・モードは、トラッキング・モードまたは選択モードに対応する。他方、イメージが、複数の一意識別子を含む場合、タッチ・モードは、ジェスチャ・モードに対応する。ブロック254に続いて、タッチ・ベースの方法250は、ブロック256に進み、タッチ・センシティブ面上の入力ストローク中に、次のイメージがキャプチャされる。イメージは、通常、ストローク中に順次にキャプチャされ、そのため、ストロークに関連する複数のイメージが存在することが可能である。ブロック256に続いて、タッチ・ベースの方法250は、ブロック258に進み、初期イメージのキャプチャと、次のイメージのキャプチャの間にタッチ・モードが変化しているかどうかの判定が行われる。タッチ・モードが変化している場合、タッチ・ベースの方法250は、ブロック260に進み、次のイメージが、初期イメージとして設定され、その後、タッチ・モードが、その新たな初期イメージに基づき、ブロック254で再び判定される。タッチ・モードが変わらないままであった場合、タッチ・ベースの方法250は、ブロック262に進み、初期イメージと次のイメージが比較され、1つまたは複数の制御信号が、その比較に基づいて生成される。
図9は、本発明の一実施形態によるタッチ・ベースの方法300の図である。タッチ・ベースの方法300は、ブロック302で始まり、GUIオブジェクトが出力される。例えば、特定のGUIオブジェクトをディスプレイするよう、プロセッサが、ディスプレイに命令する。ブロック302に続いて、タッチ・ベースの方法300は、ブロック304に進み、GUIオブジェクト上でジェスチャ入力が受け取られる。例えば、ユーザは、タッチ・スクリーンの表面上で、ディスプレイされたGUIオブジェクトの上にある間に、ユーザの指をジェスチャの形で置く、または動かす。ジェスチャ入力には、連続して行われる1つまたは複数の単独ジェスチャ、または同時に行われる複数のジェスチャが含まれてもよい。ジェスチャのそれぞれは、一般に、そのジェスチャに関連する特定のシーケンス、動き、または向きを有する。例えば、ジェスチャには、指を広げて離すこと、または指を閉じて一緒にすること、指を回転させること、指を並進させること、および/または以上に類する動きが含まれる。
ブロック304に続いて、タッチ・ベースの方法300は、ブロック306に進み、GUIオブジェクトが、ジェスチャ入力に基づき、ジェスチャ入力と調和して変更される。変更されるということが意味するのは、GUIオブジェクトが、実行される特定の1つまたは複数のジェスチャに応じて変化することである。調和してということが意味するのは、ほぼ、1つまたは複数のジェスチャが実行されている間に、変化が生じることである。ほとんどのケースでは、ジェスチャと、GUIオブジェクトにおいて生じる変化との間に、1対1の関係が存在し、ジェスチャと変化は、実質的に同時に生じる。要するに、GUIオブジェクトは指の動きを追う。例えば、指を広げることにより、オブジェクトが同時に拡大され、指を閉じることにより、GUIオブジェクトが同時に縮小され、指を回転させることにより、オブジェクトが同時に回転させられ、指を並進させることにより、GUIオブジェクトの同時のパンされるかまたはスクロールされる。
一実施形態では、ブロック306は、いずれのGUIオブジェクトが、実行されているジェスチャに関連するかを判定し、その後、ディスプレイされたオブジェクトを、そのオブジェクトの上に置かれた指にロックして、GUIオブジェクトが、ジェスチャ入力に応じて変化するようにすることを含む。指をGUIオブジェクトにロックすること、または関連付けることにより、GUIオブジェクトは、指がタッチ・スクリーン上で何を行っているかに応じて、自らを連続的に調整する。しばしば、判定することと、ロックすることは、セットダウン時に、すなわち、指がタッチ・スクリーン上に位置付けられた際に、行われる。
図10は、本発明の一実施形態によるズーム・ジェスチャ方法350の図である。ズーム・ジェスチャは、マルチポイント・タッチ・スクリーン上で実行される。ズーム・ジェスチャ方法350は、一般に、ブロック352で始まり、少なくとも第1の指と第2の指の存在が、タッチ・センシティブ面上で同時に検出される。少なくとも2本の指の存在は、そのタッチが、1本の指に基づくトラッキング・タッチではなく、ジェスチャ・タッチであることを示すように構成される。一部のケースでは、2つだけの指の存在が、タッチが、ジェスチャ・タッチであることを示す。他のケースでは、2つより多くの任意の数の指が、タッチが、ジェスチャ・タッチであることを示す。実際、ジェスチャ・タッチは、触れている指が、2つであれ、3つであれ、4つ以上であれ、さらに、ジェスチャ中にその数が変わる場合でも、機能するように構成される、すなわち、ジェスチャ中のいずれの時点でも、2本の指を最低限、必要とするだけであることが可能である。
ブロック352に続いて、ズーム・ジェスチャ方法350は、ブロック354に進み、少なくとも2本の指の間の距離が比較される。距離は、指から指までであっても、各指から、他の何らかの基準点、例えば、重心までであってもよい。2本の指の間の距離が、増大した(広がって離れた)場合、ブロック356に示されるとおり、ズーム・イン信号が生成される。2本の指の間の距離が、小さくなった(閉じて一緒になった)場合、ブロック358に示されるとおり、ズーム・アウト信号が生成される。ほとんどのケースでは、指のセットダウンは、それらの指を、ディスプレイされている特定のGUIオブジェクトに関連付ける、またはロックする。例えば、タッチ・センシティブ面が、タッチ・スクリーンでであり、GUIオブジェクトは、タッチ・スクリーン上にディスプレイされる。以上は、通常、指の少なくとも1つが、GUIオブジェクトの上に位置付けられると、生じる。その結果、それらの指が、離されると、ズーム・イン信号が使用されて、GUIオブジェクト内の組み込まれたフィーチャのサイズが大きくされ、指がすぼめられて一緒になると、ズーム・アウト信号が生成されて、オブジェクト内の組み込まれたフィーチャのサイズが小さくされる。ズームは、通常、ディスプレイの周辺、ウインドウの周辺、GUIオブジェクトの縁、および/または以上に類する場所などの、事前定義された境界内で行われる。組み込まれたフィーチャは、異なるレベルのズームをそれぞれが表す、複数のレイヤ上に形成される。ほとんどのケースでは、ズームの量は、2つのオブジェクト間の距離に応じて、変化する。さらに、ズームは、通常オブジェクトの動きと実質的に同時に行われることが可能である。例えば、指が、広がって離れる、または閉じて一緒になると、オブジェクトも同時に、ズーム・インまたはズーム・アウトする。以上の方法は、ズームを対象としているが、以上の方法は、拡大または縮小のために使用されてもよいことに留意されたい。ズーム・ジェスチャ方法350は、パブリシング・プログラム、写真プログラム、描画プログラムなどのグラフィック・プログラムにおいて特に有用である。さらに、ズームは、カメラなどの周辺デバイスを制御するのに使用されてもよく、すなわち、指が広げられて離されると、カメラが、ズーム・アウトし、指が閉じられると、カメラが、ズーム・インする。
図11A〜図11Hは、前述した方法を使用するズーム・シーケンスを示す。図11Aは、ズームされることが可能な、組み込まれたレベルを有する北米の地図の形態で、GUIオブジェクト364を表しているディスプレイを示す。一部のケースでは、図示されるとおり、GUIオブジェクトは、GUIオブジェクト364の境界を形成するウインドウの内側に位置付けられる。図11Bは、北米368の、詳細には、米国370のある地域上に、より詳細には、カリフォルニア372上に指366を位置付けているユーザを示す。カリフォルニア372をズーム・インするため、ユーザは、図11Cに示されるとおり、ユーザの指366を広げて離すことを始める。指366が、さらに広がって離れる(距離が増大する)につれ、地図は、図11D〜図11Hに示されるように、カリフォルニア北部374上をさらにズーム・インし、次いで、カリフォルニア北部374の特定の地域をズーム・インし、次いで、ベイエリア376をズーム・インし、次いで、半島378(例えば、サンフランシスコとサンノゼ・エリアの間の地域)をズーム・インし、次いで、サンフランシスコとサンノゼの間に位置するサンカルロス市380をズーム・インする。サンカルロス380からズーム・アウトし、北米368に戻るため、指366が、前述した順序に、ただし、逆の順序で従って、再び閉じられて一緒になる。
図12は、本発明の一実施形態によるパン方法400の図である。パン・ジェスチャは、マルチポイント・タッチ・スクリーン上で実行される。パン方法400は、一般に、ブロック402で始まり、少なくとも第1のオブジェクトと第2のオブジェクトが、タッチ・センシティブ面上で同時に検出される。少なくとも2本の指の存在が、タッチが1本の指に基づくトラッキング・タッチではなく、ジェスチャ・タッチであることを示すように構成される。一部のケースでは、2つだけの指の存在が、タッチがジェスチャ・タッチであることを示す。他のケースでは、2つより多い任意の数の指が、タッチがジェスチャ・タッチであることを示す。実際、ジェスチャ・タッチは、触れている指が、2つであれ、3つであれ、4つ以上であれ、さらに、ジェスチャ中にその数が変わる場合でも、機能するように構成される、すなわち、ジェスチャ中のいずれの時点でも、2本の指を最低限、必要とするだけである。ブロック402に続いて、パン方法400は、ブロック404に進み、2つのオブジェクトの、それらのオブジェクトが、タッチ・スクリーンにわたって一緒に動かされた場合の位置が、監視される。ブロック404に続いて、パン方法400は、ブロック406に進み、2つのオブジェクトの位置が、初期位置に対して変化した際に、パン信号が生成される。ほとんどのケースでは、指のセットダウンが、タッチ・スクリーン上にディスプレイされた、特定のGUIオブジェクトに指を関連付ける、またはロックする。典型的には、指の少なくとも1つが、GUIオブジェクト上のイメージの上に位置付けられる。その結果、指が、タッチ・スクリーンにわたって一緒に動かされると、パン信号を使用して、イメージが、それらの指の方向に並進させられる。ほとんどのケースでは、パンの量は、2つのオブジェクトが動く距離に応じる。さらに、パンは、通常、それらのオブジェクトの動きと実質的に同時に生じることが可能である。例えば、指が動くにつれ、オブジェクトが指と一緒に動く。
図13A〜図13Dは、前述したパン方法400に基づくパン・シーケンスを示す。図11の地図を使用して、図13Aは、ユーザが、地図の上にユーザの指366を位置付けているのを示す。セットダウン後、指366は、地図にロックされる。図13Bに示されるとおり、指366が、垂直に上方に動くと、地図364全体が、上方に動かされ、地図364のそれまでに見えていた部分が、ディスプレイ領域の外に置かれ、地図364の未だ見られていない部分が、ディスプレイ領域内に置かれる。図13Cに示されるとおり、指366が、側方に水平方向に動くと、地図364全体が、側方に動かされて、地図364のそれまでに見えていた部分が、ディスプレイ領域の外に置かれ、地図の未だ見られていない部分が、ディスプレイ領域内に置かれる。図13Dに示されるとおり、指366が、対角に動くと、地図364全体が、対角に動かされ、地図364のそれまでに見えていた部分が、ディスプレイ領域の外に置かれ、地図364の未だ見られていない部分が、ディスプレイ領域内に置かれる。理解されるべきこととして、地図364の動きは、指366の動きを追う。以上のプロセスは、テーブルに沿って1枚の紙をスライドさせることに類似する。紙にかけられた指の圧力が、紙をそれらの指にロックし、指が、テーブルにわたってスライドすると、その1枚の紙が、それらの指とともに動く。
図14は、本発明の一実施形態による回転方法450の図である。回転ジェスチャは、マルチポイント・タッチ・スクリーン上で実行される。回転方法450は、一般に、ブロック452で始まり、第1のオブジェクトと第2のオブジェクトの存在が同時に検出される。少なくとも2本の指の存在が、タッチが、1本の指に基づくトラッキング・タッチではなく、ジェスチャ・タッチであることを示すように構成される。一部のケースでは、2つだけの指の存在が、タッチが、ジェスチャ・タッチであることを示す。他のケースでは、2つより多い任意の数の指が、タッチが、ジェスチャ・タッチであることを示す。実際、ジェスチャ・タッチは、触れている指が、2つであれ、3つであれ、4つ以上であれ、さらに、ジェスチャ中にその数が変わる場合でも、機能するように構成される、すなわち、ジェスチャ中のいずれの時点でも、2本の指を最低限、必要とするだけである。
ブロック452に続いて、回転方法450は、ブロック454に進み、指のそれぞれの角度が設定される。角度は、通常、基準点を基準として測定される。ブロック454に続いて、回転方法450は、ブロック456に進み、複数のオブジェクトの少なくとも1つのオブジェクトの角度が、基準点を基準として変化すると、回転信号が生成される。ほとんどのケースでは、指のセットダウンが、タッチ・スクリーン上にディスプレイされた特定のGUIオブジェクトに指を関連付ける、またはロックする。通常、指の少なくとも1つが、GUIオブジェクト上のイメージの上に位置付けられると、GUIオブジェクトは、それらの指に関連付けられる、またはロックされる。その結果、指が回転させられると、回転信号を使用して、オブジェクトが、指回転の方向(例えば、時計方向、反時計方向)に回転させられる。ほとんどのケースでは、オブジェクト回転の量は、指回転の量に応じて変わる、すなわち、指が、5度、動いた場合、オブジェクトもそのように動く。さらに、回転は、通常、指の動きと実質的に同時に生じることが可能である。例えば、指が回転するにつれ、オブジェクトが、それらの指とともに同時に回転する。
図15A〜図15Cは、前述した方法に基づく回転シーケンスを示す。図11の地図を使用して、図15Aは、ユーザが、地図364の上にユーザの指366を位置付けているのを示す。セットダウン後、それらの指366は、地図364にロックされる。図15Bに示されるとおり、指366が、時計方向に回転させられると、それらの回転する指366に応じて、地図364全体が、時計方向に回転させられる。図15Cに示されるとおり、指366が、反時計方向に回転させられると、それらの回転する指366に応じて、地図364全体が、反時計方向に回転させられる。
図10〜図15で説明した方法は、同一のジェスチャ・ストローク中に実施されることが可能であることに留意されたい。つまり、ズーム、回転、パンはすべて、指を広げること、指を回転させること、指をスライドさせることを含む、ジェスチャ・ストローク中に実行される。例えば、少なくとも2本の指を使用したセットダウン後、ディスプレイされたオブジェクト(地図)は、それら2本の指に関連付けられる、またはロックされる。ズームを行うため、ユーザは、ユーザの指を広げる、または閉じる。回転させるため、ユーザは、ユーザの指を回転させる。パンするため、ユーザは、ユーザの指をスライドさせる。以上のアクションのそれぞれは、連続した動きで同時に行われてもよい。例えば、ユーザは、タッチ・スクリーンにわたってユーザの指を回転させ、スライドさせながら、それらの指を広げたり、閉じたりすることができる。代替的に、ユーザは、ジェスチャ・ストロークをリセットする必要なしに、以上の動きのそれぞれを分けることもできる。例えば、ユーザは、ユーザの指をまず、広げ、次いで、ユーザの指を回転させ、次いで、ユーザの指を閉じ、次いで、ユーザの指をスライドさせることなどができる。
図16は、本発明の一実施形態によるGUI操作方法500の図である。GUI操作方法500は、GUIにおける浮動制御を開始するために構成される。GUI操作方法500は、一般に、ブロック502で始まり、指または親指などのオブジェクトの存在が検出される。これは、例えば、タッチ・スクリーンを使用して行うことができる。ブロック502に続いて、GUI操作方法500は、ブロック504に進み、オブジェクトが認識される(オブジェクトの正体が、見出される)。オブジェクトは、複数のオブジェクトの中から認識される。例えば、前述の図2のブロック104を参照されたい。
ブロック504に続いて、GUI操作方法500は、ブロック506に進み、オブジェクトの付近におけるイメージが生成される。イメージは、通常、認識されたオブジェクトに基づく。イメージには、通常、ウインドウ、フィールド、ダイアログ・ボックス、メニュー、アイコン、ボタン、カーソル、スクロール・バー、その他が含まれる。一部のケースでは、ユーザは、機能とタスクを開始するために、イメージ(またはイメージに組み込まれたフィーチャ)を選択して、活性化することができる。例として、イメージは、ユーザ・インタフェース要素、またはユーザ・インタフェース要素のグループ(例えば、ウインドウを開く、閉じる、最小化する、または最大化する1つまたは複数のボタン)である。また、イメージは、特定のプログラムを起動する1つまたは複数のアイコン、または選択されると開くファイルであってもよい。イメージは、非対話型のテキストやグラフィックスにもさらに対応することが可能である。ほとんどのケースでは、イメージは、オブジェクトが検出される限りディスプレイされるが、あるいは、イメージは、事前設定された時間にわたってディスプレイされるようにしてもよく、すなわち、ある期間の後、イメージは、タイム・アウトになり、除去される。
1つの特定の実施形態では、イメージは、ユーザによって選択される1つまたは複数の制御オプションを含む。制御オプションは、様々なタスクを実施するための1つまたは複数のコントロール・ボタンを含む。例えば、制御オプション・ボックスは、音楽聴取コントロール・ボタン、例えば、再生、一時停止、シーク、メニューを含む。
図17A〜図17Eは、前述した方法を使用した浮動制御シーケンスを示す。図17Aに示されるとおり、ユーザ510が、タブレットPC512を使用しており、したがって、タブレットPC512を一方の手514で把持する一方で、他方の手516を使用してナビゲート(例えば、トラッキング、ジェスチャリング)を行っている。タブレットPC512を把持しているユーザのクローズ・アップである図17Bに示されるとおり、把持する手514の親指の一部分が、タッチ・スクリーン520の上に位置付けられる。図17Cに示されるとおり、タブレットPC512は、親指を認識し、親指に隣接してコントロール・ボックス522をディスプレイする。コントロール・ボックス522は、ユーザの親指によって選択されて、タブレットPC512におけるタスクを開始する様々なボタン524を含む。図17Dに示されるとおり、タブレットPC512を把持しながら、親指は、ボタン524の1つの上に伸ばされて、その後、タップされて、ボタン524に関連するタスクが選択される。例として、タスクは、プログラムを起動すること、またはネットワークへアクセスすること、またはデバイスのオペレーション・モードを変更することに関連する。コントロール・ボックス522とそのボタン群524は、タッチ・スクリーン520の入力モードを変更するのに使用され、したがって、例えば、ユーザの他方の手の指で行われた同一のジェスチャが、ボタン524のいずれが選択されたかに依存して、複数の意味を有することが可能である。図17Eに示されるとおり、親指が、タッチ・スクリーン520から離されると、コントロール・ボックス522は、タイム・アウトして消えてもよい。代替的に、コントロール・ボックスは、従来のクローズ・アイコンまたはクローズ・ボタンを使用して閉じられてもよい。
図18は、本発明の一実施形態によるGUI操作方法550の図である。GUI操作方法550は、ズーム目標を開始するために構成される。GUI操作方法550は、一般に、ブロック552で始まり、コントロール・ボックスGUI要素がディスプレイされる。コントロール・ボックスは、多少、互いに近接しており、アクションを実行するのに使用される1つまたは複数のコントロール・ボタンを含む。コントロール・ボックスは、例えば、最大化、最小化、閉じるなどの、コントロール・ボタンを含む。ブロック552に続いて、GUI操作方法550は、ブロック554に進み、コントロール・ボックスの上、またはコントロール・ボタンの1つの上で、オブジェクトの存在が検出されると、ある期間にわたって、コントロール・ボックスが拡大されるか、またはコントロール・ボタンの少なくとも1つが拡大される。コントロール・ボックスが拡大されるケースでは、コントロール・ボタンのそれぞれが拡大されて、ボタンの選択がはるかに容易になる。コントロール・ボタンだけが拡大されるケースでは、ユーザは、そのボタンが、正しいボタンであるかどうかを判断し、正しいボタンである場合、その拡大されたコントロール・ボタンを選択し、さもなければ、プロセスを再スタートして、適切なコントロール・ボタンが提示されるようにする。ほとんどのケースでは、コントロール・ボタンのサイズは、オブジェクトによって容易に選択されることが可能であるように、指のサイズに対応する。ブロック554に続いて、GUI操作方法550は、ブロック556に進み、拡大されたコントロール・ボタンの1つの上でオブジェクトの存在が検出されると、選択されたコントロール・ボタンに関連する制御信号が生成される。
図19A〜図19Dは、前述したGUI操作方法550を使用したズーム目標シーケンスを示す。図19Aに示されるとおり、ユーザ510が、ユーザの指576をコントロール・ボックス578の上に置く。含まれるコントロール・ボックス578のボタン群580は指576より小さく、互いに近接して配置されるので、ユーザ510が、場合により、望ましくないボタン580、例えば、所望されるボタンに隣接するボタンを押すことなしに、選択を直接に行うのは困難である。例として、指576は、ボタン580の2つ以上を覆う可能性がある。コントロール・ボックスの上に置くと、コントロール・ボックス578に含まれるボタン群580を含む、コントロール・ボックス578の少なくとも一部分が拡大される。図19Cに示されるとおり、コントロール・ボックスが、拡大された状態に達すると、ユーザは、現時点で親指のサイズにより近い、拡大されたボタンの1つを選択することができる。例として、ユーザは、所望されるコントロール・ボタンの上をタップする。図19Dに示されるとおり、コントロール・ボックスは、ボタンが選択された後、または全く選択が行われなかった所定の期間(例えば、タイム・アウト)の後、またはユーザが、ユーザの指をコントロール・ボックスから離した後、ボックスの初期サイズにまで小さくなる。
図20は、本発明の一実施形態によるGUI操作方法600の図である。GUI操作方法600は、ページ・ターンを開始するために構成されている。GUI操作方法600は、一般に、ブロック602で始まり、多数のページからのあるページがGUI内にディスプレイされる。例として、それらのページは電子ブックに関連する。ブロック602に続いて、GUI操作方法600は、ブロック604に進み、ページの上の所定の領域内における、あるオブジェクト(または複数のオブジェクト)の存在が検出される。所定の領域は、例えば、ページ番号がディスプレイされている領域に相当する。ブロック604に続いて、GUI操作方法600はブロック606に進み、オブジェクト(または複数のオブジェクト)が、所定の領域内で並進させられると、ページ・ターン信号が生成される。並進は、実際の書籍版の本のページをめくる指をシミュレートするように構成される。並進の方向により、ページ・リストの中の次のページに行くか、前のページに行くかが示される。例えば、指が、右から左に通された場合、ページ・バック信号が生成され、指が、左から右に通された場合、ページ・アップ信号が生成される。以上のGUI操作方法600は、いくつかの形で拡張させることができる。例えば、複数の指が通された場合、1ページより大きいページング信号を生じさせる。例えば、2本の指を通すことが、2ページをめくることに等しく、3本の指を通すことが、3ページをめくることに等しいといった具合である。あるいは、2本の指を通すことが、10ページをめくることに等しく、3本の指を通すことが、50ページをめくることに等しいといった具合である。
図21A〜図21Dは、前述したGUI操作方法600を使用したページ・ターニング・シーケンスを示す。タブレットPC512を把持するユーザ510のクローズアップである図21Aに示されるとおり、ユーザは、ページ630の左側に向かう方向で、ページ番号上にユーザの指を通す。図21Bに示されるとおり、タブレットPC512は、ページ番号の領域内における、そのスワイプや、そのスワイプの方向を認識し、したがって、タブレットPC512は、ページ・グループの中の次のページをディスプレイする。これは、ページ・グループをさっと通り過ぎるように繰り返し実行されてもよい。図21Cに示されるとおり、ユーザは、ページ630の右側に向かう方向で、ページ番号上にユーザの指576を通す。図21Dに示されるとおり、タブレットPC512は、ページ番号の領域内における、そのスワイプとそのスワイプの方向を認識し、したがって、タブレットPC512は、ページ・グループの中の前のページをディスプレイする。これは、ページ・グループをさっと通り過ぎるように繰り返し実行されてもよい。
図22は、本発明の一実施形態によるGUI操作方法650の図である。GUI操作方法650は、通常、スクロール操作中、またはパン操作中に慣性を開始するために構成される。慣性は、一般に、静止しているオブジェクトが、静止したままである傾向、または動いているオブジェクトが、外力によって乱されない限り、直線で運動を続ける傾向として定義される。この特定の実施形態では、GUI、またはGUIの何らかの部分が、動きの変化率に対するGUI、またはGUIの何らかの部分の抵抗である慣性特性に関連付けられる。高い慣性特性を有するGUIの場合、所与の入力に対するGUIの加速度は小さい。他方、GUIが低い慣性特性を有する場合、所与の入力に対する加速度は、大きい。
GUI操作方法650は、一般に、ブロック652で始まり、グラフィック・イメージがGUI上にディスプレイされる。ブロック652に続いて、GUI操作方法650はブロック654に進み、タッチ・センシティブ面上のスクロール・ストロークまたはパン・ストロークが検出される。例として、ストロークは直線ストロークまたは回転ストロークである。直線ストローク中、スクロールまたはパンの方向は、通常、ストロークの方向に従う。回転ストローク中(図6参照)、回転ストロークは、時計方向の動きが垂直上方に対応し、反時計方向の動きが垂直下方に対応するように、直線入力に通常変換される。ブロック654に続いて、プロセス・フローは、ブロック656に進み、スクロール・ストロークまたはパン・ストロークの速度と方向が決定される。ブロック656に続いて、GUI操作方法650はブロック658に進み、スクロール・ストロークまたはパン・ストロークの速度と方向、および関連する慣性特性に従って、イメージが動かされる。ブロック658に続いて、GUI操作方法650はブロック660に進み、パン・ストロークまたはスクロール・スクロールがもはや検出されなくても、イメージの動きが継続する。例えば、ユーザが、タッチ・センシティブ面からユーザの指を持ち上げると、スクロール・ファンクションまたはパン・ファンクションは、あたかもスクロール・ストロークまたはパン・ストロークが依然として行われているかのように継続する。一部のケースでは、イメージの動きは、何らかの制動(停止または減速)制御が実行されるまで、継続する。以上の特定の方法は、0の重力加速度をシミュレートする。他のケースでは、イメージの動きは、関連する慣性GUI操作方法650に応じて減速される。喩えとして述べると、イメージは、デスクトップ上を動く1枚の紙に相当することができる。その1枚の紙を動かすために、ユーザは、所望の方向でその紙に力を加える。ユーザが、その紙から指を上げて離すと、紙は、いくらかの時間にわたって、所望される方向でデスクトップに沿ってスライドすることを続ける。指を上げた後に紙がスライドする量は、一般に、とりわけ、紙の質量、指によって加えられた力、紙とデスクトップの間で見られる摩擦力などに依存する。理解されるべきこととして、従来、スクロールとパンが実施される場合、スクロールまたはパンは、指が持ち上げられると停止していた。これに対して、前述した方法を使用すると、スクロールまたはパンが、指が持ち上げられた場合にも動き続ける。
GUI操作方法650は、ブロックA、Bをさらに含むことが可能である。ブロックAにおいて、タッチ・センシティブ面上で、指などのオブジェクトが、そのオブジェクトの助けなしにイメージが動いている際に検出される(ブロック660)。ブロックBにおいて、オブジェクトが検出されると、イメージの動きが停止される、すなわち、その新たなタッチは、制動手段の役割をする。前段の喩えを使用すると、1枚の紙が、デスクトップ上をスライドしている間に、ユーザが、ユーザの指をその紙の上に押し付けて、その紙の動きを停止させる。
図23A〜図23Dは、前述した方法を使用した慣性シーケンスを示す。図23Aは、メディア・アイテム681のリスト680を有するウインドウ679を含む、GUI678を提示するディスプレイを示す。ウインドウ679とリスト680は、例えば、カリフォルニア州、クパチーノ所在のアップルコンピュータ株式会社によって製造されるiTune(登録商標)で見られる制御ウインドウと音楽リストに相当する。図23Bに示されるとおり、ユーザが、タッチ・スクリーン520の上でユーザの1本または複数の指576をスライドさせると、ウインドウの中でメディア・アイテムを上方または下方に動かす垂直スクロールが実施される。スクロールの方向は、指の動き(図示される)と同一の方向に従っても、逆の方向に進んでもよい。1つの特定の実施形態では、リストからメディア・アイテムを選択するために、単一の指が使用され、リストをスクロールするのに、2本の指が使用される。
スクロールは、一般に、ディスプレイ・スクリーン上のディスプレイ領域にわたって、ディスプレイされたデータまたはイメージ(例えば、メディア・アイテム681)を動かして、新たなデータ・セット(例えば、メディア・アイテム681)が、ディスプレイ領域内で見えるようにすることに関する。ほとんどのケースでは、ディスプレイ領域が一杯になると、それぞれの新たなデータ・セットがディスプレイ領域の端に出現し、他のすべてのデータ・セットは1つ位置を譲る。つまり、ディスプレイ領域から外れる各データ・セットに対して新たなデータ・セットが出現する。要するに、それらのファンクションは、現在、ディスプレイ領域から外れている、連続するデータ・セットをユーザに見えるようにする。ほとんどのケースでは、ユーザは、ユーザの指をより高い速度で動かすことにより、データ・セットを走査するのを加速させることができる。リストをスクロールする例は、参照により本明細書に組み込まれている、米国特許公報Nos.2003/0076303A1、米国特許公報Nos.2003/0076301A1、米国特許公報Nos.2003/0095096A1で見ることができる。
図23Cに示されるとおり、ディスプレイされたデータは、指がタッチ・スクリーンから離されても動き続ける。この継続的な動きは、少なくともある程度、それまでの動きに基づく。例えば、スクロールは、同一の方向と同一の速度で続ける。一部のケースでは、スクロールは、時とともに、すなわち、メディア・アイテムを走査する速度は、次第に遅くなり、ついには、スクロールが最終的に止まって静的リストが残される。例として、ディスプレイ領域内に新たなメディア・アイテムが運び込まれるごとに、速度が徐々に減少させられる。代替的に、またはさらに、図23Dに示されるとおり、指576がタッチ・スクリーン520上に再び置かれると、ディスプレイされたデータがその動くのを止める。つまり、タッチ・スクリーン上に指が再び置かれることにより、継続的な作用している動きを停止させる、または減速する制動が実施される。以上のシーケンスは、垂直スクロールを対象としているが、これは、限定ではなく、水平スクロールやパンも、前述した方法を使用して実行できることに留意されたい。
図24は、本発明の一実施形態によるGUI操作方法700の図である。方法700は、キーボードをシミュレートするために構成されている。方法は、一般に、ブロック702で始まり、キーボードがディスプレイ上に提示される。ブロック702に続いて、プロセス・フローはブロック704に進み、第1のキー上の第1のオブジェクトと、第2のキー上の第2のオブジェクトの同時の存在がタッチ・スクリーン上で検出される。タッチ・スクリーンは、ディスプレイの上に、または前方に位置付けられる。例として、ディスプレイがLCDで、タッチ・スクリーンがマルチポイント・タッチ・スクリーンである。ブロック704に続いて、プロセス・フローは、ブロック706に進み、第1のオブジェクトが、第1のキー上で検出され、第2のオブジェクトが、第2のキー上で同時に検出されると、1つまたは複数の同時の制御信号が、生成される。
一実施形態では、第1のオブジェクトが第1のキー上で検出され、第2のオブジェクトが第2のキー上で同時に検出されると、単一の制御信号だけが生成される。例として、第1のキーがシフト・キーで、第2のキーが記号キー(例えば、文字、数字)である。このようにして、このキーボードは、従来のキーボードのように作用する、すなわち、ユーザは、記号、すなわち、小文字文字盤/大文字文字盤を変更するために、複数のキーを同時に選択することが可能となる。また、キーは、コントロール・キー、Altキー、エスケープ・キー、ファンクション・キーなどに対応することも可能である。
別の実施形態では、同時に生じるそれぞれの作動させられたキー(キー・タッチ)に関して、制御信号が生成される。例えば、文字のグループが、同時にタイプされることが可能である。一部のケースでは、キーボードの背後で実行されているアプリケーションは、何らかの所定の基準に基づいて文字の順序を判定するように構成される。例えば、文字は、入り乱れているものの、アプリケーションは、つづり、用法、文脈などに基づき、文字の正しい順序を判定することができる。
2つだけのキーについて述べたが、2つのキーは限定ではなく、2つより多くのキーが同時に作動させられて、1つまたは複数の制御信号を生成してもよいことに留意されたい。例えば、コントロール−Alt−削除機能が、実施されることが可能であり、あるいはより大きい文字グループが、同時にタイプされることも可能である。
図25A〜図25Dは、前述した方法を使用したキーボード・シーケンスを示す。図25Aは、キーボードの形態のGUIオブジェクト730を提示するディスプレイを示す。図25Bに示されるとおり、ユーザは、ユーザの指576をキーボード730上のマルチポイント・タッチ・スクリーン520の上に位置付けて、ワード・プロセッシング・プログラムにデータを入力する。例として、ユーザは、ワード・プロセッシング・プログラムにおいて小文字の「q」を生じさせるために、Qキー上にユーザの指576Aの1つを置くことができる。図25Cに示されるとおり、文字が大文字であるべきであるとユーザが決めた場合、ユーザは、1本の指576Bをシフト・キー上に置き、別の指576Aを所望される文字上に置く(矢印で示されるとおり)。図25Dに示されるとおり、引き続き小文字でタイプするのに、ユーザは、単に、シフト・キーからユーザの指576Bを離し、ユーザの指576Aを所望される文字上に置く(矢印で示されるとおり)。
図26は、本発明の一実施形態によるGUI操作方法750の図である。方法750は、参照によりすべて本明細書に組み込まれている、米国特許公報Nos.2003/0076303A1、米国特許公報Nos.2003/0076301A1、米国特許公報Nos.2003/0095096A1において説明されるスクロール・ホイールのような、スクロール・ホイールをシミュレートするために構成されている。方法は、一般に、ブロック752で始まり、仮想スクロール・ホイールがディスプレイ上に提示される。一部のケースでは、仮想スクロール・ホイールは仮想ボタンを中央に含む。仮想スクロール・ホイールは、例えば、リストをスクロールすることを実施するように構成され、ボタンは、例えば、リストの中に格納されたアイテムの選択を実施するように構成される。ブロック752に続いて、方法はブロック754に進み、仮想スクロール・ホイールの上の少なくとも1本の指の存在、さらに、一部のケースでは、第1の指と第2の指などの、複数の指の存在が、タッチ・スクリーン上で検出される。タッチ・スクリーンは、ディスプレイの上、または前方に位置付けられる。例として、ディスプレイがLCDで、タッチ・スクリーンがマルチポイント・タッチ・スクリーンである。ブロック754に続いて、方法はブロック756に進み、仮想スクロール・ホイール上の指の初期位置が設定される。例として、基準ポイントに対する指の角度が判定される(例えば、12時、6時など)。ほとんどのケースでは、指のセットダウンは、指が仮想スクロール・ホイール上に位置付けられると、1本または複数の指に関連付ける、結び付ける、またはロックする。
ブロック756に続いて、方法750はブロック758に進み、基準ポイントに対する指の角度が変化すると回転信号が生成される。回転信号は、例えば、複数のメディア・アイテムをスクロールすることや、場合により、指で仮想スクロール・ホイールを動かすことを含め、いくつかのアクションを実行するのに使用される。例として、メディア・アイテムの間でセレクタを動かすことや、仮想スクロール・ホイールをホイールの軸を中心として動かすために必要な距離、方向、速度に信号の組み合わせと頻度が変換される。ほとんどのケースでは、スクロールとホイール回転の量は、指の回転の量に応じて変化する。例として、指が5度動いた場合、ホイールも5度動く。さらに、スクロールとホイールの回転は、通常、指の動きと実質的に同時に生じる。例えば、指が回転すると、スクロールとホイールの回転が同時に実行される。さらに、要件ではないが、スクロールとホイールの回転の方向は、一般に、指の回転の方向と同一である。例えば、仮想スクロール・ホイールは、指の回転の方向(例えば、時計方向、反時計方向など)で回転する。
一部のケースでは、前述した慣性の諸原理は、仮想スクロール・ホイールにも適用される。以上のようなケースでは、仮想スクロール・ホイールは、複数の指(または複数の指の1つ)が仮想スクロール・ホイールから離されると、回転することを続け、仮想の摩擦を介して徐々に止まる。代替的に、またはさらに、継続的な回転は、スクロール・ホイール上に再び複数の指(または離された指)を置いて、仮想スクロール・ホイールの回転を制動することにより、止められるようにしてもよい。
回転する仮想スクロール・ホイールに限定されるわけではない。一部のケースでは、仮想スクロール・ホイールは、機械的に回転するホイールではなく、タッチ面をシミュレートするように静的なままである(例えば、指と一緒に回転しない)でもよいことに留意されたい。
図27A〜図27Dは、前述した方法を使用したスクロール・ホイール・シーケンスを示す。図27Aは、スクロール・ホイールを提示するディスプレイを示す。スクロール・ホイールは、プログラムの一環として自動的にディスプレイされても、特定のジェスチャが実行された際にディスプレイされてもよい。例として、音楽プログラム(カリフォルニア州、クパチーノ所在のアップルコンピュータ株式会社によって製造されるiTune(登録商標)などの)のオペレーション中、典型的には音楽プログラムにおいてトラッキングを行うために使用される1本の指ではなく、2本の指がタッチ・スクリーン上に置かれると、仮想スクロール・ホイールが音楽プログラムのGUI上に現れる。一部のケースでは、仮想スクロール・ホイールは、2本の指がGUIの所定の領域上に置かれた場合にだけ出現する。代替的に、仮想スクロール・ホイールの出現は、指の数以外の、または指の数に加えた何かに基づいてもよい。例えば、仮想スクロール・ホイールは、音楽プログラムが実行されている際に行われた、いずれのタッチにも応答して出現させることも可能である。
図27Bに示されるとおり、ユーザは、ユーザの指をマルチポイント・タッチ・スクリーン520の上で、スクロール・ホイールの上に位置付ける。何らかの時点で、指はスクロール・ホイールにロックされる。これは、例えば、セットダウン時に行われる。図27Cに示されるとおり、指を時計方向に回転させると、スクロール・ホイールは、回転する指に応じて時計方向に回転させられる。図27Dに示されるとおり、指を反時計方向に回転させると、仮想スクロール・ホイールは、回転する指に応じて、反時計方向に回転させられる。代替的に、仮想スクロール・ホイールの回転は、接線の形の指の直線的な動きとともに、回転させられることも可能である。
図28は、本発明の一実施形態によるユーザ・インタフェース方法800である。ユーザ・インタフェース方法800は、例えば、ディスプレイと、タッチ・スクリーンなどのタッチ・センシティブ入力デバイスとを有するコンピューティング・デバイス上で実行される。ユーザ・インタフェース方法800は、ブロック802で始まり、タッチが、検出される。これは、スタイラス、または1本または複数の指などのオブジェクトが、タッチ・センシティブ入力デバイスのタッチ・センシティブ面上に置かれた際に、タッチ・センシティブ入力デバイスを使用して達せられる。
タッチが検出されると、ユーザ・インタフェース方法800はブロック804に進み、タッチに応答して、ユーザ・インタフェース(UI)モードが判定される。ユーザ・インタフェース・モードは様々である。ユーザ・インタフェース・モードには、ナビゲーション・モード、スクロール・モード、データ入力モード、編集モード、制御モード、情報モード、ディスプレイモード、その他が含まれる。各モードは、通常、そのモードに関連する1つまたは複数のGUIインタフェース要素を有する。例として、仮想スクロール・ホイール(例えば、図27)またはスライダ・バーが、スクロール・モードに関連し、キーボード(例えば、図25)またはキーパッドが、データ入力モードに関連し、フォーマット・ツール・バーまたは描画ツール・バーなどのツール・バーが編集モードに関連し、ボタン群を含むコントロール・パネルが制御モードに関連し、ウインドウが情報モードに関連するといった具合である。
例えば、コンピューティング・デバイス上で現在実行されている1つまたは複数のアプリケーション、その1つまたは複数のアプリケーションの現在の状態もしくはモード、および/またはタッチに関連するタッチ特性を含む、1つまたは複数の条件に基づき、ユーザ・インタフェース・モードがブロック804で判定される。実際、ブロック804でユーザ・インタフェース・モードを判定することは、1つまたは複数の条件を監視し、分析することを含む。
現在のアプリケーションには、例えば、オペレーティング・システム(例えば、Mac OS)、ワード・プロセッシング・プログラム、スプレッドシート・プログラム、描画編集プログラム、イメージ編集プログラム、ゲーム・プログラム、写真管理プログラム(例えば、iPhoto)、音楽管理プログラム(例えば、iTune)、ビデオ編集プログラム(例えば、iMovie)、映画管理プログラム(例えば、QuickTime)、音楽編集プログラム(例えば、GarageBand)、インターネット・インタフェース・プログラム、および/または類似のプログラムが含まれる。
アプリケーションの現在の状態またはモードは、アプリケーションの活性の部分(例えば、現在のウインドウ、またはウインドウ内の現在のウインドウ)に対応する。例えば、音楽管理プログラムの活性の部分は、音楽制御モード、再生リスト選択モード、メニュー・モード、および/または類似するモードに対応する。さらに、写真管理プログラムの活性の部分は、写真ブラウズ・モードまたは写真編集モードに対応する。さらに、インターネット・インタフェース・プログラムの活性の部分は、Webモードまたは電子メール・モードに対応する。
他方、タッチ特性は、前述した諸実施形態の多くで説明されるとおり、例えば、タッチ位置、タッチID、タッチの数などに対応する。
アプリケーションに関して、異なるアプリケーションは異なるUIモードを示す。例えば、ワード・プロセッシング・アプリケーションまたはスプレッドシート・アプリケーションは、データ入力モードを示すのに対して、音楽管理プログラムは、制御モードまたはスクロール・モードを示す。アプリケーションの現在の状態に関して、アプリケーションの異なるモードは、異なるUIモードを示す。例えば、音楽管理プログラムでは、メニュー・ウインドウが、1つのUIモードを示すことが可能であるのに対して、再生リスト・ウインドウは別のUIモードを示す。
タッチに関して、指の数は異なるUIモードを示す。例えば、1本の指が第1のモードを示すのに対して、2本の指は第2のモードを示す。さらに、タッチの指の種類が異なるUIモードを示すようにしてもよい。例えば、親指が第1のUIモードを示し、人差し指が第2のUIモードを示す。さらに、タッチの位置で異なるUIモードを示すことが可能である。例えば、第1のタッチ位置が第1のUIモードを示し、第2のタッチ位置が第2のUIモードを示す(タッチが音楽プログラムの境界の上に位置している場合、第1のUIモードが実施され、タッチが音楽プログラムにおける再生リストまたは曲リストの上に位置している場合、第2のUIモードが実施される。)
一実施形態では、ユーザ・インタフェース・モードは条件の1つだけに基づく。例えば、ユーザ・インタフェース・モードは、アプリケーション、アプリケーションの現在の状態、または前述した様々なタッチ特性の1つに基づく。別の実施形態では、ユーザ・インタフェース・モードは複数の条件に基づく。例えば、ユーザ・インタフェース・モードは、アプリケーション、アプリケーションの現在の状態、様々なタッチ特性から選択された、少なくとも2つの組み合わせに基づくことが可能である。例として、第1のタッチ特性と組み合わされたアプリケーションが、第1のUIモードを示し、第2のタッチ特性と組み合わされた同一のアプリケーションが第2のUIモードを示す。
いくつかの例を挙げると、アプリケーションが、ワード・プロセッシング・プログラムまたはスプレッドシート・プログラムである場合、モードは、データがスプレッドシートに入力されるように、データ入力モードであると判定される(例えば、キーボード)。アプリケーションが音楽管理プログラムで、再生リストが、現在、示されている(活性の部分)場合、モードは、スクロール・モードであると判定され、したがって、リストの中のアイテムが、所望されるアイテムを見つけるためにスクロールされる(例えば、スクロール・ホイール)。代替的に、曲が再生されている(活性の部分)場合、曲が再生される形を制御できるように、モードは制御モードであると判定される(例えば、再生オプション、停止オプション、シーク・オプション、ボリューム制御オプション)。さらに、アプリケーションが、写真管理プログラムで、ある特定の写真がディスプレイされている(活性の部分)場合、その写真を変更できる(例えば、白黒に変換するオプション、赤目を除去するオプション、回転オプション)ように、モードは制御モードであると判定される。
ユーザ・インタフェース・モード804を判定した後、ユーザ・インタフェース方法800はブロック806に進み、ユーザ・インタフェース・モードに基づき、タッチに応答して、1つまたは複数のGUI要素がディスプレイされる。一部のケースでは、1つだけのGUI要素がディスプレイされ、他のケースでは、複数のGUI要素がディスプレイされる。GUI要素は、通常、特定のモードに関連する。例えば、スライダ・バーまたはスクロール・ホイールは、スクロール・モードでディスプレイされ、キーボードまたはキーパッドは、データ入力モードでディスプレイされ、ツール・バーは、編集モードでディスプレイされ、様々なボタン、またはコントロール・パネルは、制御モードでディスプレイされ、情報ウインドウは、情報モードでディスプレイされる。
GUI要素は、様々な形でディスプレイされる。例えば、GUI要素は、現在、ディスプレイされているグラフィック・イメージの上に位置付けられることも、現在、ディスプレイされているグラフィック・イメージに取って代わる(例えば、最小化する、移動するなど)ことも可能である。一部のケースでは、GUI要素は、GUI要素の下に配置された現在のグラフィック・イメージを見ることができる(したがって、最小化することや移動することを無くす)ように、半透明にされる。これは、スクロール・ホイールを使用して、スクロール・ホイールの下に配置されたリストを走査する際に、役立つ。さらに、GUI要素は、タッチの付近に配置されても、何らかの所定の場所に配置されてもよい。所定の場所は、アーゴノミクスに、すなわち、ユーザに最良の場所がどこであるかに基づくことが可能である。
以上に加えて、GUI要素は、成長すること、フェード・インすること、ポップ・アップすることなどの、従来の効果を使用してディスプレイされたり、一部のケースでは、脈打ったり、振動することなどさえ可能である。効果が、ポップアップすることである場合、GUI要素は即時に見えるようにされる。効果が、図29A〜図29Dに示されるとおり、成長することである場合、小さいGUI要素820A(スクロール・ホイール)が、最初にディスプレイされ、その後、様々なサイズ820B、820Cを介して絶えず大きくなり、ついには、所望されるサイズ820Dに達する。成長の速度はタッチの圧力に基づくことが可能である。例えば、タッチ圧力が低い場合、GUI要素は、ゆっくりと成長することが可能であり、タッチ圧力が高い場合、GUI要素はより急速に成長することが可能である。加えて、GUI要素の最終サイズは、タッチの長さに基づくことが可能である。例えば、GUI要素は、タッチがもはや検出されなくなると、成長するのを止める。代替的に、速度とサイズは、例えば、コントロール・パネルを介して、ユーザ調整可能であってもよい。効果が、図30A〜図30Dに示されるとおり、フェージングである場合、GUI要素822は、無から様々なレベルの歪みまたは透明度822A〜822Cを介して、最終の完全なイメージ822Dまで、ゆっくりと見えるようにされる。フェージングは、成長と同様に制御されることが可能である。例えば、フェードの速度やレベルは、タッチの圧力と長さによって制御されることが可能である。
遷移効果は、現在、ディスプレイされているイメージ、すなわち、タッチが検出される前に現行でディスプレイされていたイメージに持ち込まれることさえ可能である。一実施形態では、逆の効果が、現在、ディスプレイされているイメージに生じる。例えば、図31A〜図31Dに示されるとおり、現在、ディスプレイされているグラフィック・イメージ826は、GUI要素820が大きくなるにつれ、小さくなり最小化される。代替的に、GUI要素が、即時にポップインする場合、現在、ディスプレイされているグラフィック・イメージは、即時にポップアウトする、または即時に最小化される。
GUI要素がディスプレイされると(806)、ユーザ・インタフェース方法800は、ブロック808に進み、GUI要素の機能が有効にされる。例えば、GUI要素に対するタッチ・イベントが監視され、そのタッチ・イベントに関連するアクションが実行される。GUI要素の有効化は、GUI要素のディスプレイと同時に行われて、GUI要素がディスプレイされると、ユーザが、即時に、GUI要素を使用することを始めることができるようになる。例として、スクロール・モードにおいて、仮想スクロール・ホイールがディスプレイされ、有効にされると、そのスクロール・ホイールに対するタッチ・イベントが監視される。監視中、スクロール・ホイール上の指の位置に関連する制御信号が、指が仮想スクロール・ホイールの周りで旋回するにつれ、生成される。それらの信号は、スクロールを実行するのに使用される。例えば、信号の数、組み合わせ、頻度が、リストの間で選択バーを動かすのに必要な距離、方向、速度に変換される。例として、仮想スクロール・ホイールや、仮想スクロール・ホイールがどのように機能するかについてのより詳細な説明に関して、図6、図26、図27を参照されたい。
GUI要素を有効にし、ディスプレイした後の何らかの時点で、GUI要素を非活性化するか否かについての判定812が行われる。判定812は、例えば、1)タッチがもはや検出されない、2)タッチが事前設定された時間にわたって検出されていない、3)タイム・アウトが生じた(GUI要素が最初に、ディスプレイされ/有効にされて以来、事前設定された時間が経過した)、または4)ユーザ選択(例えば、ユーザが、GUI要素を閉じるボタンを選択する)を含め、様々な形で行われる。
判定が、オペレーションの停止を示す場合、方法はブロック814に進み、GUI要素が無効にされ、ディスプレイから除去される。無効にされると、タッチ・イベントが生じた際に、アクションはもはや実行されない。ディスプレイからのGUI要素の除去は、GUI要素が、ゆっくりとフェード・アウトすること、縮小すること、または即時に消えること(ポップアウトする)などの遷移効果を使用して除去されてもよいという点で、GUI要素をディスプレイすることと同様に機能することが可能である。除去遷移効果は、ディスプレイ遷移効果の逆に働く。例えば、GUI要素は、フェードインと同様にフェード・アウトし、成長と同様に縮小し、ポップインと同様にポップアウトする。さらに、GUI要素は、ディスプレイからゆっくりと退き、消えてもよく、その一方で、取って代わられた、または縮小された現行のグラフィック・イメージが、元のサイズと形状にゆっくりと戻ることが可能である。判定が、オペレーションの停止を示さない場合、方法は、GUI要素のディスプレイ、GUI要素の有効化を維持する。
図32は、本発明の一実施形態による判定方法850である。判定方法は、例えば、図28のブロック804に対応する。判定方法はブロック852で始まり、現在のアプリケーションが判定される。判定方法はブロック854に進み、アプリケーションの現在の状態が判定される。ブロック854に続いて、判定方法はブロック856に進み、タッチに関連するタッチ特性が判定される。判定方法はブロック860に進み、ブロック852〜858の結果に基づき、UIモードが選択される。例として、規則セットが、特定の条件セットに対する適切なUIモードを示すことが可能である。
図33は、本発明の一実施形態によるユーザ・インタフェース方法900である。方法は、例えば、ディスプレイと、タッチ・スクリーンなどのタッチ・センシティブ入力デバイスとを有するコンピューティング・デバイス上で実行される。図34Aは、曲リスト932Aを含むウインドウ930Aの一例を示し、図35Aは、曲リスト932Bを含むウインドウ930Bの別の例を示す。図34Aは、例えば、カリフォルニア州、クパチーノ所在のアップルコンピュータ株式会社によって製造されるiPod(登録商標)上でディスプレイされたグラフィカル・ユーザ・インタフェースで、図35Aは、例えば、カリフォルニア州、クパチーノ所在のアップルコンピュータ株式会社によって製造されるiTune(登録商標)などの音楽管理プログラムに関連するグラフィカル・ユーザ・インタフェースである。
ブロック902に続いて、ユーザ・インタフェース方法900は、ブロック904に進み、ディスプレイされた曲リスト(またはウインドウ、またはGUI全体)の上でタッチが検出される。これは、スタイラス、または1本または複数の指などのオブジェクトが、タッチ・センシティブ入力デバイスのタッチ・センシティブ面上に置かれた際に、タッチ・センシティブ入力デバイスを使用して行われる。図34B、図35Bは、曲リスト932を含むウインドウ930の上に置かれた指925を示す。
タッチが検出されると、ユーザ・インタフェース方法900は、ブロック906に進み、仮想スクロール・ホイールが活性化される。つまり、仮想スクロール・ホイールは、曲リストに加えてディスプレイされて、ホイールの機能が有効にされる。要するに、曲リストに触れられたため、ユーザが、曲リストの中の曲を走査することを可能にするスクロール・ホイールが提供される。一部のケースでは、仮想スクロール・ホイールは、メディア・アイテムに取って代わる、すなわち、メディア・アイテムは、仮想スクロール・ホイールのためのスペースを空けるように、最小化または移動される。他のケースでは、仮想スクロール・ホイールは、メディア・アイテムの上に位置付けられ、または重ねられる(メディア・アイテムは、現行のサイズ、形状、および位置を維持する)。仮想スクロール・ホイールは、メディア・アイテムが、仮想スクロール・ホイールを通して見えるように、半透明にされる。図34C、図35Cは、曲リスト932を含むウインドウ930の上に重ねられた透明な仮想スクロール・ホイール936を示す。代替的に、仮想スライダ・バーがディスプレイされてもよい。
ディスプレイされると、仮想スクロール・ホイールに対するスクロール・タッチ・イベント(またはジェスチャ)が実行されたか否かについての判定908が行われる。例えば、スクロール・ホイールの上に指が位置付けられているか否か、またはその指が、スクロール・ホイールの周りで旋回する形で動かされているかどうか。
スクロール・タッチ・イベントが、ユーザによって実行された場合、ユーザ・インタフェース方法900はブロック910に進み、曲リストのスクロールがスクロール・タッチ・イベントに応じて実施される。例として、指を仮想スクロール・ホイールの周りで旋回させるにつれ、セレクタ・バーが1つの曲から別の曲に移動する。図34D、図35Dは、仮想スクロール・ホイール936の周りで旋回する指925と、その旋回する指925に応じて、曲リスト932を直線的に移動するセレクタ・バー938を示す。例示される諸実施形態では、セレクタ・バーは、指を時計方向に旋回させると、直線的に上方に動かされ、指を反時計方向に旋回させると、直線的に下方に動かされる。しかし、以上は、限定ではないことに留意されたい。例えば、セレクタ・バーは、指を時計方向に旋回させると、直線的に下方に動かされ、指を反時計方向に旋回させると、直線的に上方に動かされてもよい。
スクロールまたは選択タッチ・イベントが実行されない場合、ユーザ・インタフェース方法900は、ブロック916に進み、仮想スクロール・ホイールが非活性化される。つまり、仮想スクロール・ホイールは無効にされ、ディスプレイから除去される。図34E、図35Eは、仮想スクロール・ホイール936のないディスプレイ928を示す。仮想スクロール・ホイール936は、除去されているものの、曲リストに加えられた変更、すなわち、セレクタ・バーの位置は、通常、そのままである。
一部のケースでは、仮想スクロール・ホイールは、ホイールの表面を横切るボタン・ゾーン、またはホイール中央もしくはホイール側部における仮想ボタンを含むことが可能である。ボタン群やボタン・ゾーンは、例えば、メニュー、再生、シーク、一時停止、および/または以上に類することに対応する。この特定の実施形態では、前述した方法はブロック416より前に行われる、さらなるステップを含むことが可能である。例えば、スクロール・タッチ・イベントが実行されない場合、ユーザ・インタフェース方法900は、仮想スクロール・ホイールに対して選択タッチ・イベント(またはジェスチャ)が実行されたか否かについての判定が行われる、さらなるブロックを含むことが可能である。選択タッチ・イベントは、ボタンをタップすることにより、または仮想スクロール・ホイールの表面の周りの旋回ではなく、ボタン上により高い圧力、またはより低い圧力を加えることにより、実施されることが可能である(図34F、35Fを参照)。ボタンが、曲選択ボタンまたは曲エンタ・ボタンである場合、方法は、セレクタ・バーが上に置かれた曲が選択される別のブロックを含む。つまり、仮想ボタンがタップされる、または別の形で選択されると、セレクタ・バーによって現在、覆われている曲が再生され、ユーザが享受するために出力される。
前述した方法は、曲リストをスクロールすることに限定されないことに留意されたい。任意のメディア・アイテムや任意の要素グループが、前述した技術を使用してスクロールされる。例えば、図36A〜図36Cに示された写真レイアウト942では、ユーザが、写真レイアウト942(またはグループ化)の上にユーザの指925を置くと、仮想スクロール・ホイール936が現れ、その後、ホイール936を使用して、レイアウト942における様々な写真943の間でハイライタ944を動かすことができる。例として、写真は、多数のイメージを走査することを、より容易にするサムネール・イメージである。
図37は、本発明の一実施形態による方法950である。方法はブロック952で始まり、タッチが検出されたかどうかが判定される。タッチが検出された場合、方法はブロック954に進み、現在のオペレーション条件が、監視されて、分析される。条件は、例えば、現在のアプリケーション、そのアプリケーションの状態、および/またはタッチに関連するタッチ特性に対応する。
第1の条件セットが実施された場合、方法はブロック956に進み、第1のGUI要素が活性化される。例えば、図38A〜図38Bに示されるとおり、ユーザが、その活性のウインドウ960の再生リスト部分964に触れると、音楽管理プログラムの活性のウインドウ960内で、スクロール・ホイール962が活性化される。
第2の条件セットが実施されると、方法はブロック958に進み、第2のGUI要素が活性化される。例えば、図38B〜図38Cに示されるとおり、ユーザが、活性のウインドウ960の境界968にも触れると、音楽管理プログラムの活性のウインドウ960内で、音楽コントロール・パネル966が活性化される。第1のGUI要素と第2のGUI要素は、互いに無関係に機能するものの、第1の条件群と第2の条件群が同時に生じた場合、同時に活性化されることも可能である(図34C)。
ブロック956に続いて、方法はブロック960に進み、第1のGUI要素が非活性化されるべきかどうかが判定される。非活性化されるべき場合、方法はブロック962に進み、GUI要素が非活性化される。例えば、図38Dに示されるとおり、指925が再生リスト962の上でもはや検出されなくなると、第1のGUI要素(スクロール・ホイール962)が無効にされ、ディスプレイから除去される。非活性化されるべきでない場合、方法はブロック956を維持する。
同様に、ただし、独立に、ブロック958に続いて、方法はブロック964に進み、第2のGUI要素が非活性化されるべきかどうかが判定される。非活性化されるべき場合、方法はブロック966に進み、GUI要素が非活性化される。例えば、図38Eに示されるとおり、指925が境界968の上でもはや検出されなくなると、第2のGUI要素(コントロール・パネル966)が無効にされ、ディスプレイから除去される。非活性化されるべきでない場合、方法はブロック958を維持する。
方法は、2つだけのGUI要素に限定されず、他の諸条件が実施される場合、他のGUI要素が活性化されてもよいことに留意されたい。例えば、第3の条件セットが生じた場合、第3のGUI要素が活性化されるといった具合である。例として、図38Fに示されるとおり、ユーザは、活性のウインドウ960の境界968からメニュー部分970にユーザの指925をスライドさせて、コントロール・パネル966からスクロール・ホイール972への変更を開始することができる(例えば、第2のGUI要素が非活性化される一方で、第3のGUI要素が活性化される)。
さらに、図38Gに示されるとおり、ユーザは、現在のタッチに別の指925を加えて、第1のコントロール・パネル966から第2のコントロール・パネル982への変更を開始することができる。第1のコントロール・パネルは、再生オプション、停止オプション、シーク・オプション、音量オプションなどの第1の制御オプション・セットを含み、第2のコントロール・パネル982は、曲再生順序オプション、曲情報オプション、照明効果オプションなどの第2の制御オプション・セットを含む。
さらに、図38Hに示されるとおり、ユーザは、1本の指925Aを境界968の上に置き、別の指925Bをメニュー部分970の上に置き、さらに別の指925Cを再生リスト部分964の上に置いて、異なる3つのGUI要素、詳細には、コントロール・パネル966、メニュー970をスクロールするための第1のスクロール・ホイール972、再生リスト964をスクロールするための第2のスクロール・ホイール962を開始することができる。
加えて、複数のGUI要素が同一の部分内で活性化されてもよい。例えば、図38I、図38Jに示されるとおり、ユーザが、再生リスト964の中で特定のボックスを選択した場合、ユーザが曲に関連するデータ(例えば、題名、アーチスト、ジャンル、その他)を入力することができるように、キーボード992が活性化される。スクロール・ホイール962が、キーボード992と同時に活性である場合、スクロール・ホイール962は、図示されるとおり、キーボード992を収容するように最小化される。キーボード992が非活性化されると、スクロール・ホイール962は再び元のサイズに戻る。
本発明の様々な態様、実施形態、実装、または特徴は、別々に使用されることも、任意の組み合わせで使用されることも可能である。
本発明は、好ましくは、ハードウェアによって、ソフトウェアによって、またはハードウェアとソフトウェアの組み合わせによって実現できる。また、ソフトウェアは、コンピュータ可読媒体上のコンピュータ可読コードとして実装される。コンピュータ可読媒体は、コンピュータ・システムによって後に読み取られることが可能なデータを格納することができる任意のデータ記憶デバイスである。コンピュータ可読媒体の例には、読取り専用メモリ、ランダム・アクセス・メモリ、CD−ROM、DVD、磁気テープ、光データ記憶デバイス、および搬送波が含まれる。また、コンピュータ可読媒体は、コンピュータ可読コードが、分散された形で記憶され、実行されるように、ネットワーク結合されたコンピュータ・システムを介して分散されることも可能である。
本発明を、いくつかの好ましい実施形態に関連して説明してきたが、本発明の範囲に含まれる変更形態、置換形態、および均等形態が存在する。例えば、本発明は、タッチ・スクリーンを主に対象としてきたが、一部のケースでは、タッチ・スクリーンの代わりにタッチ・パッドが使用されることも可能であることに留意されたい。また、他のタイプのタッチ・センシティブ・デバイスが、利用されることも可能である。また、本発明の方法および装置を実施する多くの代替の仕方が存在することにも留意されたい。したがって、添付の特許請求の範囲は、本発明の真の趣旨および範囲に含まれるものとして、すべてのそのような変更形態、置換形態、均等形態を含むものと解釈されるものとする。
本発明の一実施形態によるコンピュータ・システムのブロック図である。 本発明の一実施形態によるマルチポイント処理方法を示す図である。 本発明の一実施形態によるイメージを示す図である。 本発明の一実施形態によるフィーチャのグループを示す図である。 本発明の一実施形態によるパラメータ計算方法を示す図である。 本発明の一実施形態による回転ジェスチャを示す図である。 本発明の一実施形態による回転ジェスチャを示す図である。 本発明の一実施形態による回転ジェスチャを示す図である。 本発明の一実施形態による回転ジェスチャを示す図である。 本発明の一実施形態による回転ジェスチャを示す図である。 本発明の一実施形態による回転ジェスチャを示す図である。 本発明の一実施形態による回転ジェスチャを示す図である。 本発明の一実施形態によるタッチ・ベースの方法を示す図である。 本発明の一実施形態によるタッチ・ベースの方法を示す図である。 本発明の一実施形態によるタッチ・ベースの方法を示す図である。 本発明の一実施形態によるズーム・ジェスチャ方法を示す図である。 本発明の一実施形態によるズーム・シーケンスを示す図である。 本発明の一実施形態によるズーム・シーケンスを示す図である。 本発明の一実施形態によるズーム・シーケンスを示す図である。 本発明の一実施形態によるズーム・シーケンスを示す図である。 本発明の一実施形態によるズーム・シーケンスを示す図である。 本発明の一実施形態によるズーム・シーケンスを示す図である。 本発明の一実施形態によるズーム・シーケンスを示す図である。 本発明の一実施形態によるズーム・シーケンスを示す図である。 本発明の一実施形態によるパン方法を示す図である。 本発明の一実施形態によるパン・シーケンスを示す図である。 本発明の一実施形態によるパン・シーケンスを示す図である。 本発明の一実施形態によるパン・シーケンスを示す図である。 本発明の一実施形態によるパン・シーケンスを示す図である。 本発明の一実施形態による回転方法を示す図である。 本発明の一実施形態による回転シーケンスを示す図である。 本発明の一実施形態によるGUI操作方法を示す図である。 本発明の一実施形態による浮動制御シーケンスを示す図である。 本発明の一実施形態による浮動制御シーケンスを示す図である。 本発明の一実施形態による浮動制御シーケンスを示す図である。 本発明の一実施形態による浮動制御シーケンスを示す図である。 本発明の一実施形態による浮動制御シーケンスを示す図である。 本発明の一実施形態によるGUI操作方法を示す図である。 本発明の一実施形態によるズーム目標シーケンスを示す図である。 本発明の一実施形態によるズーム目標シーケンスを示す図である。 本発明の一実施形態によるズーム目標シーケンスを示す図である。 本発明の一実施形態によるズーム目標シーケンスを示す図である。 本発明の一実施形態によるGUI操作方法を示す図である。 本発明の一実施形態によるページ・ターニング・シーケンスを示す図である。 本発明の一実施形態によるページ・ターニング・シーケンスを示す図である。 本発明の一実施形態によるページ・ターニング・シーケンスを示す図である。 本発明の一実施形態によるページ・ターニング・シーケンスを示す図である。 本発明の一実施形態によるGUI操作方法を示す図である。 本発明の一実施形態による慣性シーケンスを示す図である。 本発明の一実施形態による慣性シーケンスを示す図である。 本発明の一実施形態による慣性シーケンスを示す図である。 本発明の一実施形態による慣性シーケンスを示す図である。 本発明の一実施形態によるGUI操作方法を示す図である。 本発明の一実施形態によるキーボード・シーケンスを示す図である。 本発明の一実施形態によるキーボード・シーケンスを示す図である。 本発明の一実施形態によるキーボード・シーケンスを示す図である。 本発明の一実施形態によるキーボード・シーケンスを示す図である。 本発明の一実施形態によるGUI操作方法を示す図である。 本発明の一実施形態によるスクロール・ホイール・シーケンスを示す図である。 本発明の一実施形態によるスクロール・ホイール・シーケンスを示す図である。 本発明の一実施形態によるスクロール・ホイール・シーケンスを示す図である。 本発明の一実施形態によるスクロール・ホイール・シーケンスを示す図である。 本発明の一実施形態によるユーザ・インタフェース方法を示す図である。 本発明の一実施形態による遷移効果を示す図である。 本発明の別の実施形態による遷移効果を示す図である。 本発明の別の実施形態による遷移効果を示す図である。 本発明の一実施形態による判定方法を示す図である。 本発明の一実施形態によるユーザ・インタフェース方法を示す図である。 本発明の一実施形態による図33に示された方法に関連するシーケンスを示す図である。 本発明の一実施形態による図33に示された方法に関連するシーケンスを示す図である。 本発明の一実施形態による図33に示された方法に関連するシーケンスを示す図である。 本発明の一実施形態による図33に示された方法に関連するシーケンスを示す図である。 本発明の一実施形態による図33に示された方法に関連するシーケンスを示す図である。 本発明の一実施形態による図33に示された方法に関連するシーケンスを示す図である。 本発明の一実施形態による図33に示された方法に関連するシーケンスを示す図である。 本発明の一実施形態によるユーザ・インタフェース・シーケンスを示す図である。 本発明の一実施形態によるユーザ・インタフェース方法を示す図である。 本発明の一実施形態によるユーザ・インタフェース・シーケンスを示す図である。 本発明の一実施形態によるユーザ・インタフェース・シーケンスを示す図である。 本発明の一実施形態によるユーザ・インタフェース・シーケンスを示す図である。 本発明の一実施形態によるユーザ・インタフェース・シーケンスを示す図である。 本発明の一実施形態によるユーザ・インタフェース・シーケンスを示す図である。 本発明の一実施形態によるユーザ・インタフェース・シーケンスを示す図である。 本発明の一実施形態によるユーザ・インタフェース・シーケンスを示す図である。 本発明の一実施形態によるユーザ・インタフェース・シーケンスを示す図である。 本発明の一実施形態によるユーザ・インタフェース・シーケンスを示す図である。 本発明の一実施形態によるユーザ・インタフェース・シーケンスを示す図である。

Claims (33)

  1. タッチスクリーンと、当該タッチスクリーンと通信可能に接続されたプロセッサを備えたコンピュータシステムであって、前記プロセッサが、
    前記タッチスクリーン上の一連のアイテムを表示し、
    前記一連のアイテムにわたり前記タッチスクリーン上で検出される初期タッチに応答して、仮想スクロールホィールがあらわれるようにし、グルグル回る(swirling)モーションタッチイベントを用いて前記仮想スクロールホィールは操作可能であり、
    前記タッチスクリーンに接触する連続を維持しながら前記初期タッチに続くグルグル回るモーションタッチイベントであって、前記初期タッチの後の仮想スクロールホィールで検出される当該モーションタッチイベントを、前記表示された一連のアイテムを通じて一連の動きに変換するように実行させ、
    前記初期タッチと少なくとも一部が同時期に起こる第2のタッチを検出し、
    前記第2のタッチに応じてGUI要素を活性化し、
    前記仮想スクロールホィールは、当該仮想スクロールホィール上の特別な初期タッチ位置とは無関係な初期タッチの位置に関する前記グルグル回るモーションタッチイベントの動きに基づき前記一連のアイテムを通じて動くように構成された関連入力デバイスであることを特徴とする前記コンピュータシステム。
  2. 前記検出された初期タッチ及びタッチ・イベントは、前記タッチを生じさせるオブジェクトのプロファイルをあらわすタッチイメージである、請求項1に記載のコンピュータシステム。
  3. 前記プロセッサは、さらに、前記仮想スクロールホィールがあらわれるとき、前記一連のアイテムを最小化又はシフトして、前記一連のアイテムの可視性を維持するようにする、請求項1に記載のコンピュータシステム。
  4. 前記プロセッサは、さらに、前記仮想スクロールホィールがその中央部に仮想ボタンを有するようにあらわれるようにする、請求項1に記載のコンピュータシステム。
  5. 前記プロセッサは、さらに、前記仮想ボタンでタッチ・イベントの検出があると、前記一連のアイテムから特定のアイテムを選択する、請求項4に記載のコンピュータシステム。
  6. 前記プロセッサは、さらに、写真の列として前記一連のアイテムを表示する、請求項1記載のコンピュータシステム。
  7. 前記プロセッサは、さらに、前記仮想スクロールホィールで検出された前記グルグル回るモーションタッチイベントを、前記表示された写真の列を通じたハイライトマーカーを動かすことにより、前記表示された写真の列を通じた動きに変換する、請求項6記載のコンピュータシステム。
  8. 前記仮想スクロールホィールは、前記仮想スクロールホィールの下に置かれた前記それまでに表示されていた一連のアイテムが、前記仮想スクロールホィールを通して見られるように、半透明である請求項1に記載のコンピュータシステム。
  9. 前記仮想スクロールホィールは、前記検出されたタッチの付近にあらわれる請求項1、及び3〜8の何れか1項に記載のコンピュータシステム。
  10. 前記仮想スクロールホィールは、所定の場所にあらわれる請求項1、及び3〜8の何れか1項に記載のコンピュータシステム。
  11. 前記仮想スクロールホィールをあらわすようにすることは、前記仮想スクロールホィールを第1の状態から第2の状態に遷移させる遷移効果を実施することを含んでいる、請求項1、及び3〜8の何れか1項に記載のコンピュータシステム。
  12. 前記遷移効果は、ポップ、成長、またはフェード・インとフェード・アウトから選択される請求項11に記載のコンピュータシステム。
  13. 前記遷移効果の速度は、前記タッチの圧力に基づく請求項11に記載のコンピュータシステム。
  14. 前記仮想スクロールホィールを非活性化するか否かを判定し、前記非活性化は、前記仮想スクロールホィールの機能を無効にし、前記仮想スクロールホィールをディスプレイから消去することを含む、請求項1、及び3〜8の何れか1項に記載のコンピュータシステム。
  15. 前記仮想スクロールホィールは、タッチがもはや検出されなくなると、非活性化される請求項14に記載のコンピュータシステム。
  16. 前記仮想スクロールホィールは、タッチが事前設定された時間にわたって検出されていなかった場合、非活性化される請求項14に記載のコンピュータシステム。
  17. 前記仮想スクロールホィールは、事前設定された時間にわたって活性化された後、非活性化される請求項14に記載のコンピュータシステム。
  18. 前記仮想スクロールホィールは、ユーザ選択を介して非活性化される請求項14に記載のコンピュータシステム。
  19. 前記仮想スクロールホィールをあらわすようにすることは、前記仮想スクロールホィールを第1の状態から第2の状態に遷移させる遷移効果を実施することを含み、前記表示された仮想スクロールホィールを非活性化することは、前記仮想スクロールホィールを前記第2の状態から前記第1の状態に遷移させる逆遷移効果を実施することを含む請求項1、及び3〜8の何れか1項に記載のコンピュータシステム。
  20. ディスプレイとタッチスクリーンとを有するユーザ操作可能な電子デバイスで実行される方法であって、
    一連のアイテムを表示し、
    第1のタッチが前記一連のアイテムで検出された場合、前記第1のタッチに対応する第1の重心を決定するステップと、
    前記第1のタッチに応じて、仮想スクロールホィールを活性化するステップと、
    前記タッチスクリーンに接触する連続を維持しながら前記第1のタッチに後続するグルグル回るモーションタッチイベントが前記仮想スクロールホィールで検出されるかどうかを判定するステップと、
    前記グルグル回るモーションタッチイベントが検出されるとき、前記一連のアイテムをスクロールするステップと、
    前記第1のタッチと少なくとも一部が同時期に起こる第2のタッチを検出し、前記第2のタッチに対応する第2の重心を決定するステップと、
    前記第2のタッチに応じてGUI要素を活性化するステップとを含み、
    前記仮想スクロールホィールは、当該仮想スクロールホィール上の特別な第1のタッチ位置とは無関係な第1のタッチの位置に関する前記グルグル回るモーションタッチイベントの動きに基づき前記一連のアイテムを通じて動くように構成された関連入力デバイスである前記方法。
  21. 前記仮想スクロール・ホイールを活性化するステップは、前記仮想スクロール・ホイールを表示して、前記仮想スクロール・ホイールの機能を有効にすることを含み、前記仮想スクロール・ホイールは、前記一連のアイテムを走査するために前記グルグル回るモーションスクロール・タッチ・イベントが実行され得るタッチ領域を提供する請求項20に記載の方法。
  22. タッチ・イベントが実行されない場合、前記仮想スクロール・ホイールを非活性化するステップをさらに含み、前記仮想スクロール・ホイールの非活性化は、前記仮想スクロール・ホイールの機能を無効にし、前記仮想スクロール・ホイールをディスプレイから消去する請求項21に記載の方法。
  23. 前記仮想スクロール・ホイールの表示と、前記仮想スクロール・ホイールのディスプレイからの消去は、表示される場合、前記仮想スクロール・ホイールを第1の状態から第2の状態に遷移させる遷移効果、および消去される場合、前記仮想スクロール・ホイールを前記第2の状態から前記第1の状態に遷移させる遷移効果を使用して実行される請求項22に記載の方法。
  24. 前記仮想スクロール・ホイールは、前記仮想スクロール・ホイールを第1の状態から第2の状態に遷移させる遷移効果を使用して表示される請求項21に記載の方法。
  25. 前記遷移効果は、小さい仮想スクロール・ホイールが最初に表示され、その後、前記仮想スクロール・ホイールが絶えず大きくなり、ついには、前記仮想スクロール・ホイールが最終サイズに達するように前記仮想スクロール・ホイールを成長させる請求項21に記載の方法。
  26. 前記仮想スクロール・ホイールが、前記一連のアイテムの上に表示され、前記仮想スクロール・ホイールは、前記仮想スクロール・ホイールの下に置かれた前記一連のアイテムが、前記仮想スクロール・ホイールを通して見られるように半透明である請求項21、24、25のいずれか1項に記載の方法。
  27. 前記検出された初期タッチ及びタッチ・イベントは、前記タッチを生じさせるオブジェクトのプロファイルをあらわすタッチイメージである請求項20〜26の何れか1項に記載の方法。
  28. 前記仮想スクロール・ホイールが1つまたは複数の仮想ボタンを提供し、
    前記仮想スクロール・ホイールの前記1つまたは複数の仮想ボタンに対する選択タッチ・イベントが実行されたかどうかを判定するステップと、
    特定のボタンに関連するアクションを、前記特定のボタン上で前記選択タッチ・イベントが実行されると実施するステップをさらに含む、
    請求項21〜25のいずれか1項に記載の方法。
  29. 前記1つまたは複数の仮想ボタンは、前記タッチ領域によって囲まれた少なくとも中央ボタンを含む請求項28に記載の方法。
  30. 前記仮想スクロール・ホイールは円形である請求項29に記載の方法。
  31. 前記グルグル回るモーションタッチイベントが前記仮想スクロールホィールで検出されるかどうかを判定する前記ステップは、
    前記仮想スクロール・ホイールのタッチ領域の上で少なくとも1本の指の存在を検出すること、
    前記指の初期位置を設定すること、
    前記初期位置に対する指の動きを監視することを含む請求項20〜25のいずれか1項に記載の方法。
  32. 前記一連のアイテムは、曲リストである請求項20〜25のいずれか1項に記載の方法。
  33. 前記検出された第1のタッチ、第2のタッチ、及びタッチ・イベントは、タッチ・センシング入力デバイスと通信するオブジェクトのプロファイルをあらわすタッチイメージである、請求項20に記載の方法。
JP2007523644A 2004-07-30 2005-07-19 タッチ・センシティブ入力デバイスのためのモード・ベースのグラフィカル・ユーザ・インタフェース Expired - Fee Related JP4763695B2 (ja)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US59248304P 2004-07-30 2004-07-30
US10/903,964 2004-07-30
US10/903,964 US8479122B2 (en) 2004-07-30 2004-07-30 Gestures for touch sensitive input devices
US60/592,483 2004-07-30
US11/038,590 2005-01-18
US11/038,590 US8239784B2 (en) 2004-07-30 2005-01-18 Mode-based graphical user interfaces for touch sensitive input devices
PCT/US2005/025641 WO2006020304A2 (en) 2004-07-30 2005-07-19 Mode-based graphical user interfaces for touch sensitive input devices

Publications (2)

Publication Number Publication Date
JP2008508600A JP2008508600A (ja) 2008-03-21
JP4763695B2 true JP4763695B2 (ja) 2011-08-31

Family

ID=35908005

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2007523644A Expired - Fee Related JP4763695B2 (ja) 2004-07-30 2005-07-19 タッチ・センシティブ入力デバイスのためのモード・ベースのグラフィカル・ユーザ・インタフェース
JP2007523645A Pending JP2008508601A (ja) 2004-07-30 2005-07-19 タッチ・センシティブ入力デバイスのためのジェスチャ
JP2010065759A Active JP5456529B2 (ja) 2004-07-30 2010-03-23 グラフィカル・ユーザ・インターフェース・オブジェクトを操作する方法及びコンピュータシステム

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2007523645A Pending JP2008508601A (ja) 2004-07-30 2005-07-19 タッチ・センシティブ入力デバイスのためのジェスチャ
JP2010065759A Active JP5456529B2 (ja) 2004-07-30 2010-03-23 グラフィカル・ユーザ・インターフェース・オブジェクトを操作する方法及びコンピュータシステム

Country Status (6)

Country Link
EP (4) EP3121697A1 (ja)
JP (3) JP4763695B2 (ja)
KR (4) KR101270847B1 (ja)
CN (1) CN103365595B (ja)
DE (2) DE202005021427U1 (ja)
WO (1) WO2006020305A2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103460164A (zh) * 2012-02-03 2013-12-18 松下电器产业株式会社 触觉提示装置以及触觉提示装置的驱动方法、驱动程序

Families Citing this family (582)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9513744B2 (en) 1994-08-15 2016-12-06 Apple Inc. Control systems employing novel physical controls and touch screens
US20090273574A1 (en) 1995-06-29 2009-11-05 Pryor Timothy R Programmable tactile touch screen displays and man-machine interfaces for improved vehicle instrumentation and telematics
GB9722766D0 (en) 1997-10-28 1997-12-24 British Telecomm Portable computers
US9292111B2 (en) 1998-01-26 2016-03-22 Apple Inc. Gesturing with a multipoint sensing device
US7614008B2 (en) 2004-07-30 2009-11-03 Apple Inc. Operation of a computer with touch screen interface
US7760187B2 (en) 2004-07-30 2010-07-20 Apple Inc. Visual expander
US8479122B2 (en) 2004-07-30 2013-07-02 Apple Inc. Gestures for touch sensitive input devices
US9239673B2 (en) 1998-01-26 2016-01-19 Apple Inc. Gesturing with a multipoint sensing device
US7469381B2 (en) * 2007-01-07 2008-12-23 Apple Inc. List scrolling and document translation, scaling, and rotation on a touch-screen display
US8645137B2 (en) 2000-03-16 2014-02-04 Apple Inc. Fast, language-independent method for user authentication by voice
US7312785B2 (en) 2001-10-22 2007-12-25 Apple Inc. Method and apparatus for accelerated scrolling
US8339379B2 (en) * 2004-04-29 2012-12-25 Neonode Inc. Light-based touch screen
US7333092B2 (en) 2002-02-25 2008-02-19 Apple Computer, Inc. Touch pad for handheld device
US7250939B2 (en) 2002-03-19 2007-07-31 Aol Llc Display motion multiplier
US7656393B2 (en) 2005-03-04 2010-02-02 Apple Inc. Electronic device having display and surrounding touch sensitive bezel for user interface and control
US11275405B2 (en) 2005-03-04 2022-03-15 Apple Inc. Multi-functional hand-held device
US7669134B1 (en) 2003-05-02 2010-02-23 Apple Inc. Method and apparatus for displaying information during an instant messaging session
US9060770B2 (en) 2003-05-20 2015-06-23 Ethicon Endo-Surgery, Inc. Robotically-driven surgical instrument with E-beam driver
US8059099B2 (en) 2006-06-02 2011-11-15 Apple Inc. Techniques for interactive input to portable electronic devices
US7653883B2 (en) 2004-07-30 2010-01-26 Apple Inc. Proximity detector in handheld device
US8381135B2 (en) 2004-07-30 2013-02-19 Apple Inc. Proximity detector in handheld device
KR101270847B1 (ko) * 2004-07-30 2013-06-05 애플 인크. 터치 감지 입력 장치용 제스처
WO2006020304A2 (en) * 2004-07-30 2006-02-23 Apple Computer, Inc. Mode-based graphical user interfaces for touch sensitive input devices
US20100231506A1 (en) * 2004-09-07 2010-09-16 Timothy Pryor Control of appliances, kitchen and home
US8225231B2 (en) 2005-08-30 2012-07-17 Microsoft Corporation Aggregation of PC settings
US8677377B2 (en) 2005-09-08 2014-03-18 Apple Inc. Method and apparatus for building an intelligent automated assistant
US7958456B2 (en) 2005-12-23 2011-06-07 Apple Inc. Scrolling list with floating adjacent index symbols
US7786975B2 (en) 2005-12-23 2010-08-31 Apple Inc. Continuous scrolling list with acceleration
US20070152983A1 (en) 2005-12-30 2007-07-05 Apple Computer, Inc. Touch pad with symbols based on mode
WO2007079425A2 (en) 2005-12-30 2007-07-12 Apple Inc. Portable electronic device with multi-touch input
US7509588B2 (en) 2005-12-30 2009-03-24 Apple Inc. Portable electronic device with interface reconfiguration mode
KR100823083B1 (ko) * 2006-02-09 2008-04-18 삼성전자주식회사 터치스크린을 구비한 문서 표시장치의 문서 교정 방법 및그 장치
JP5210497B2 (ja) * 2006-04-12 2013-06-12 クラリオン株式会社 ナビゲーション装置
KR100771626B1 (ko) * 2006-04-25 2007-10-31 엘지전자 주식회사 단말기 및 이를 위한 명령 입력 방법
US20070257891A1 (en) * 2006-05-03 2007-11-08 Esenther Alan W Method and system for emulating a mouse on a multi-touch sensitive surface
US9063647B2 (en) 2006-05-12 2015-06-23 Microsoft Technology Licensing, Llc Multi-touch uses, gestures, and implementation
US9198084B2 (en) 2006-05-26 2015-11-24 Qualcomm Incorporated Wireless architecture for a traditional wire-based protocol
US9360967B2 (en) 2006-07-06 2016-06-07 Apple Inc. Mutual capacitance touch sensing device
US8022935B2 (en) 2006-07-06 2011-09-20 Apple Inc. Capacitance sensing electrode with integrated I/O mechanism
US8743060B2 (en) 2006-07-06 2014-06-03 Apple Inc. Mutual capacitance touch sensing device
CN1885717B (zh) * 2006-07-11 2014-04-02 汕头市夏野电器有限公司 一种用于产生改变电路参数的控制信号的感应拨盘以及含有该感应拨盘的电路参数控制装置
JP2008033695A (ja) * 2006-07-29 2008-02-14 Sony Corp 表示内容のスクロール方法、スクロール装置およびスクロールプログラム
US7907117B2 (en) 2006-08-08 2011-03-15 Microsoft Corporation Virtual controller for visual displays
KR100781706B1 (ko) 2006-08-16 2007-12-03 삼성전자주식회사 휴대 단말기의 리스트 스크롤 장치 및 방법
US7864163B2 (en) * 2006-09-06 2011-01-04 Apple Inc. Portable electronic device, method, and graphical user interface for displaying structured electronic documents
US9304675B2 (en) * 2006-09-06 2016-04-05 Apple Inc. Portable electronic device for instant messaging
AU2012100655B4 (en) * 2006-09-06 2013-01-24 Apple Inc. Touch screen device, method, and graphical user interface for determining commands by applying heuristics
US7956849B2 (en) 2006-09-06 2011-06-07 Apple Inc. Video manager for portable multifunction device
CN101529874A (zh) * 2006-09-06 2009-09-09 苹果公司 用于具有触摸屏显示器的便携式多功能设备的电话呼入管理
US7940250B2 (en) * 2006-09-06 2011-05-10 Apple Inc. Web-clip widgets on a portable multifunction device
US8842074B2 (en) 2006-09-06 2014-09-23 Apple Inc. Portable electronic device performing similar operations for different gestures
US8564544B2 (en) 2006-09-06 2013-10-22 Apple Inc. Touch screen device, method, and graphical user interface for customizing display of content category icons
US8106856B2 (en) 2006-09-06 2012-01-31 Apple Inc. Portable electronic device for photo management
US10313505B2 (en) 2006-09-06 2019-06-04 Apple Inc. Portable multifunction device, method, and graphical user interface for configuring and displaying widgets
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US7581186B2 (en) 2006-09-11 2009-08-25 Apple Inc. Media manager with integrated browsers
US8564543B2 (en) 2006-09-11 2013-10-22 Apple Inc. Media player with imaged based browsing
GB2480777B (en) * 2006-09-11 2012-01-04 Apple Inc Media player with image-based browsing
US7890863B2 (en) * 2006-10-04 2011-02-15 Immersion Corporation Haptic effects with proximity sensing
WO2008045464A2 (en) 2006-10-10 2008-04-17 Wms Gaming Inc. Multi-player, multi-touch table for use in wagering game systems
US8274479B2 (en) 2006-10-11 2012-09-25 Apple Inc. Gimballed scroll wheel
KR100770936B1 (ko) 2006-10-20 2007-10-26 삼성전자주식회사 문자 입력 방법 및 이를 위한 이동통신단말기
US7856605B2 (en) 2006-10-26 2010-12-21 Apple Inc. Method, system, and graphical user interface for positioning an insertion marker in a touch screen display
US8570278B2 (en) 2006-10-26 2013-10-29 Apple Inc. Portable multifunction device, method, and graphical user interface for adjusting an insertion point marker
JP2008158842A (ja) * 2006-12-25 2008-07-10 Xanavi Informatics Corp 地図表示装置
KR101515767B1 (ko) * 2006-12-27 2015-04-28 임머숀 코퍼레이션 진동 촉각 피드백을 통한 가상 디텐트
US7855718B2 (en) 2007-01-03 2010-12-21 Apple Inc. Multi-touch input discrimination
US8130203B2 (en) 2007-01-03 2012-03-06 Apple Inc. Multi-touch input discrimination
US7956847B2 (en) * 2007-01-05 2011-06-07 Apple Inc. Gestures for controlling, manipulating, and editing of media files using touch sensitive devices
US8214768B2 (en) * 2007-01-05 2012-07-03 Apple Inc. Method, system, and graphical user interface for viewing multiple application windows
AU2011253700B2 (en) * 2007-01-05 2013-08-29 Apple Inc. Gestures for controlling, manipulating, and editing of media files using touch sensitive devices
US7978182B2 (en) 2007-01-07 2011-07-12 Apple Inc. Screen rotation gestures on a portable multifunction device
US7844915B2 (en) 2007-01-07 2010-11-30 Apple Inc. Application programming interfaces for scrolling operations
US7966578B2 (en) * 2007-01-07 2011-06-21 Apple Inc. Portable multifunction device, method, and graphical user interface for translating displayed content
US8788954B2 (en) * 2007-01-07 2014-07-22 Apple Inc. Web-clip widgets on a portable multifunction device
US20080168402A1 (en) 2007-01-07 2008-07-10 Christopher Blumenberg Application Programming Interfaces for Gesture Operations
US20080168478A1 (en) 2007-01-07 2008-07-10 Andrew Platzer Application Programming Interfaces for Scrolling
US20080165149A1 (en) * 2007-01-07 2008-07-10 Andrew Emilio Platzer System, Method, and Graphical User Interface for Inputting Date and Time Information on a Portable Multifunction Device
US20080165151A1 (en) * 2007-01-07 2008-07-10 Lemay Stephen O System and Method for Viewing and Managing Calendar Entries
US9001047B2 (en) 2007-01-07 2015-04-07 Apple Inc. Modal change based on orientation of a portable multifunction device
US8519964B2 (en) 2007-01-07 2013-08-27 Apple Inc. Portable multifunction device, method, and graphical user interface supporting user navigations of graphical objects on a touch screen display
US8689132B2 (en) 2007-01-07 2014-04-01 Apple Inc. Portable electronic device, method, and graphical user interface for displaying electronic documents and lists
US8612857B2 (en) 2007-01-08 2013-12-17 Apple Inc. Monitor configuration for media device
US8607144B2 (en) 2007-01-08 2013-12-10 Apple Inc. Monitor configuration for media device
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
KR101420419B1 (ko) 2007-04-20 2014-07-30 엘지전자 주식회사 전자기기와 그 데이터 편집방법 및 이동통신단말기
KR20080101484A (ko) * 2007-05-18 2008-11-21 엘지전자 주식회사 이동통신 단말기 및 그 제어방법
US8436815B2 (en) 2007-05-25 2013-05-07 Microsoft Corporation Selective enabling of multi-input controls
US8185839B2 (en) 2007-06-09 2012-05-22 Apple Inc. Browsing or searching user interfaces and other aspects
US8201096B2 (en) 2007-06-09 2012-06-12 Apple Inc. Browsing or searching user interfaces and other aspects
US9933937B2 (en) 2007-06-20 2018-04-03 Apple Inc. Portable multifunction device, method, and graphical user interface for playing online videos
US9954996B2 (en) 2007-06-28 2018-04-24 Apple Inc. Portable electronic device with conversation management for incoming instant messages
US9772751B2 (en) 2007-06-29 2017-09-26 Apple Inc. Using gestures to slide between user interfaces
EP2017756A1 (de) * 2007-07-20 2009-01-21 BrainLAB AG Verfahren zur Anzeige und/oder Bearbeitung bzw. Verarbeitung von Bilddaten medizinischen oder medizintechnischen Ursprungs mit Gestenerkennung
KR101395780B1 (ko) * 2007-07-27 2014-05-16 삼성전자주식회사 촉각 감지를 위한 압력 센서 어레이 장치 및 방법
US8683378B2 (en) 2007-09-04 2014-03-25 Apple Inc. Scrolling techniques for user interfaces
US9619143B2 (en) 2008-01-06 2017-04-11 Apple Inc. Device, method, and graphical user interface for viewing application launch icons
US11126321B2 (en) 2007-09-04 2021-09-21 Apple Inc. Application menu user interface
US8619038B2 (en) 2007-09-04 2013-12-31 Apple Inc. Editing interface
US8122384B2 (en) 2007-09-18 2012-02-21 Palo Alto Research Center Incorporated Method and apparatus for selecting an object within a user interface by performing a gesture
US8098235B2 (en) * 2007-09-28 2012-01-17 Immersion Corporation Multi-touch device having dynamic haptic effects
US8633915B2 (en) 2007-10-04 2014-01-21 Apple Inc. Single-layer touch-sensitive display
EP2053497A1 (en) * 2007-10-26 2009-04-29 Research In Motion Limited Text selection using a touch sensitive screen of a handheld mobile communication device
US9274698B2 (en) 2007-10-26 2016-03-01 Blackberry Limited Electronic device and method of controlling same
EP2060970A1 (en) * 2007-11-12 2009-05-20 Research In Motion Limited User interface for touchscreen device
US8416198B2 (en) * 2007-12-03 2013-04-09 Apple Inc. Multi-dimensional scroll wheel
TW200925966A (en) * 2007-12-11 2009-06-16 J Touch Corp Method of controlling multi-point controlled controller
KR20090070491A (ko) * 2007-12-27 2009-07-01 엔에이치엔(주) 터치스크린을 이용한 화면 제어 장치 및 방법
US9330720B2 (en) 2008-01-03 2016-05-03 Apple Inc. Methods and apparatus for altering audio output signals
US9372576B2 (en) 2008-01-04 2016-06-21 Apple Inc. Image jaggedness filter for determining whether to perform baseline calculations
US20090174676A1 (en) 2008-01-04 2009-07-09 Apple Inc. Motion component dominance factors for motion locking of touch sensor data
US8230360B2 (en) 2008-01-04 2012-07-24 Apple Inc. User interface for selection from media collection
US8327272B2 (en) 2008-01-06 2012-12-04 Apple Inc. Portable multifunction device, method, and graphical user interface for viewing and managing electronic calendars
US8405621B2 (en) 2008-01-06 2013-03-26 Apple Inc. Variable rate media playback methods for electronic devices with touch interfaces
KR101224588B1 (ko) * 2008-01-24 2013-01-22 삼성전자주식회사 멀티포인트 스트록을 감지하기 위한 ui 제공방법 및 이를적용한 멀티미디어 기기
US20110006980A1 (en) * 2008-01-31 2011-01-13 Appside Co., Ltd. Data input device, data input method, data input program, and recording medium containing the program
US20090207140A1 (en) * 2008-02-19 2009-08-20 Sony Ericsson Mobile Communications Ab Identifying and responding to multiple time-overlapping touches on a touch panel
US20090213083A1 (en) * 2008-02-26 2009-08-27 Apple Inc. Simulation of multi-point gestures with a single pointing device
US8717305B2 (en) * 2008-03-04 2014-05-06 Apple Inc. Touch event model for web pages
US8416196B2 (en) * 2008-03-04 2013-04-09 Apple Inc. Touch event model programming interface
US8174502B2 (en) 2008-03-04 2012-05-08 Apple Inc. Touch event processing for web pages
US8205157B2 (en) 2008-03-04 2012-06-19 Apple Inc. Methods and graphical user interfaces for conducting searches on a portable multifunction device
US8201109B2 (en) 2008-03-04 2012-06-12 Apple Inc. Methods and graphical user interfaces for editing on a portable multifunction device
US8645827B2 (en) 2008-03-04 2014-02-04 Apple Inc. Touch event model
US8650507B2 (en) 2008-03-04 2014-02-11 Apple Inc. Selecting of text using gestures
KR101007045B1 (ko) * 2008-03-12 2011-01-12 주식회사 애트랩 접촉센서 장치 및 이 장치의 포인팅 좌표 결정 방법
US9454256B2 (en) 2008-03-14 2016-09-27 Apple Inc. Sensor configurations of an input device that are switchable based on mode
US9448721B2 (en) 2008-03-19 2016-09-20 Blackberry Limited Electronic device including touch-sensitive input device and method of determining selection
EP2104027B1 (en) * 2008-03-19 2013-10-23 BlackBerry Limited Electronic device including touch sensitive input surface and method of determining user-selected input
KR101163895B1 (ko) 2008-03-27 2012-07-09 미쓰비시덴끼 홈기기 가부시키가이샤 유도 가열 조리기
KR101460127B1 (ko) 2008-03-27 2014-11-10 삼성전자주식회사 저항막 방식 터치스크린의 멀티 터치 인식 방법 및 이를이용하는 휴대 단말기
US8996376B2 (en) 2008-04-05 2015-03-31 Apple Inc. Intelligent text-to-speech conversion
DE102008017716A1 (de) * 2008-04-07 2009-10-08 Volkswagen Ag Anzeige- und Bedienvorrichtung für ein Kraftfahrzeug sowie Verfahren zum Betreiben einer solchen
US20090254855A1 (en) * 2008-04-08 2009-10-08 Sony Ericsson Mobile Communications, Ab Communication terminals with superimposed user interface
DE102008022752A1 (de) * 2008-05-08 2009-11-12 Volkswagen Ag Verfahren zur Bestimmung mindestens einer Berührungsposition einer berührungssensitiven Vorrichtung sowie entsprechend ausgestaltete berührungssensitive Einrichtung und Fahrzeug
US10496753B2 (en) 2010-01-18 2019-12-03 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US9035891B2 (en) 2008-05-16 2015-05-19 International Business Machines Corporation Multi-point touch-sensitive sensor user interface using distinct digit identification
US9035886B2 (en) 2008-05-16 2015-05-19 International Business Machines Corporation System and apparatus for a multi-point touch-sensitive sensor user interface using distinct digit identification
KR101439554B1 (ko) * 2008-06-19 2014-09-11 주식회사 케이티 터치 입력 인식 방법 및 이를 수행하는 장치
KR101498623B1 (ko) 2008-06-25 2015-03-04 엘지전자 주식회사 휴대 단말기 및 그 제어방법
US8241912B2 (en) 2008-06-26 2012-08-14 Wms Gaming Inc. Gaming machine having multi-touch sensing device
US8754855B2 (en) * 2008-06-27 2014-06-17 Microsoft Corporation Virtual touchpad
KR100984826B1 (ko) * 2008-07-03 2010-10-20 주식회사 엘지유플러스 휴대용 단말기 및 그의 사용자 인터페이스 방법
DE102008032450B4 (de) 2008-07-10 2023-11-02 Rational Ag Anzeigeverfahren und Gargerät hierfür
DE102008032448B4 (de) 2008-07-10 2023-11-02 Rational Ag Anzeigeverfahren und Gargerät hierfür
DE102008032451C5 (de) * 2008-07-10 2017-10-19 Rational Ag Anzeigeverfahren und Gargerät hierfür
CN102099775B (zh) * 2008-07-17 2014-09-24 日本电气株式会社 信息处理装置、记录有程序的存储介质以及目标移动方法
US20100030549A1 (en) 2008-07-31 2010-02-04 Lee Michael M Mobile device having human language translation capability with positional feedback
DE102008038897A1 (de) * 2008-08-13 2010-02-18 Deutsche Telekom Ag Mobiltelefon mit Menüführung auf dem Bildschirm
JP5501509B2 (ja) * 2008-09-03 2014-05-21 キヤノン株式会社 情報処理装置、その動作方法及びプログラム
US20100064261A1 (en) * 2008-09-09 2010-03-11 Microsoft Corporation Portable electronic device with relative gesture recognition mode
BRPI0913496A2 (pt) * 2008-09-12 2016-07-26 Koninkl Philips Electronics Nv "dispositivo eletrônico de mão para apresentar e consultar meta metadados, dispositivo de exibição, método para apresentar e consultar metadados em um dispositivo eletrônico de mão e produto de software"
KR20100033202A (ko) * 2008-09-19 2010-03-29 삼성전자주식회사 디스플레이 장치 및 상기 디스플레이 장치의 제어 방법
FR2936326B1 (fr) * 2008-09-22 2011-04-29 Stantum Dispositif pour le controle d'appareil electronique par la manipulation d'objets graphiques sur un ecran tactile multicontacts
US20100073303A1 (en) * 2008-09-24 2010-03-25 Compal Electronics, Inc. Method of operating a user interface
US20100077431A1 (en) * 2008-09-25 2010-03-25 Microsoft Corporation User Interface having Zoom Functionality
US8284170B2 (en) 2008-09-30 2012-10-09 Apple Inc. Touch screen device, method, and graphical user interface for moving on-screen objects without using a cursor
EP2175349A1 (en) * 2008-10-08 2010-04-14 Research in Motion Limited Method and system for displaying an image on a handheld electronic communication device
KR101033280B1 (ko) * 2008-10-23 2011-05-09 (주)오로라 디자인랩 다접점 터치센서를 이용하는 스위치 및 그 제어방법
US8466879B2 (en) 2008-10-26 2013-06-18 Microsoft Corporation Multi-touch manipulation of application objects
US8477103B2 (en) 2008-10-26 2013-07-02 Microsoft Corporation Multi-touch object inertia simulation
DE602008006738D1 (de) * 2008-10-29 2011-06-16 Giga Byte Comm Inc Verfahren und Vorrichtung zum Umschalten eines Touchscreens einer tragbaren elektronischen Vorrichtung
EP2352077B1 (en) * 2008-10-30 2016-02-10 NEC Corporation Portable terminal device, data manipulation processing method and data manipulation processing program
KR101029627B1 (ko) * 2008-10-31 2011-04-15 에스케이텔레시스 주식회사 터치스크린이 구비된 이동통신 단말기의 기능구현방법 및 장치
US8502785B2 (en) * 2008-11-12 2013-08-06 Apple Inc. Generating gestures tailored to a hand resting on a surface
JP5174626B2 (ja) * 2008-11-17 2013-04-03 株式会社ゼンリンデータコム 地図表示装置、地図表示方法、およびコンピュータプログラム
US20100123676A1 (en) * 2008-11-17 2010-05-20 Kevin Scott Kirkup Dual input keypad for a portable electronic device
US8584031B2 (en) 2008-11-19 2013-11-12 Apple Inc. Portable touch screen device, method, and graphical user interface for using emoji characters
JPWO2010067537A1 (ja) 2008-12-08 2012-05-17 シャープ株式会社 操作受付装置及びコンピュータプログラム
KR101531363B1 (ko) 2008-12-10 2015-07-06 삼성전자주식회사 이차원 인터랙티브 디스플레이에서 가상 객체 또는 시점을 제어하는 방법
US9398089B2 (en) 2008-12-11 2016-07-19 Qualcomm Incorporated Dynamic resource sharing among multiple wireless devices
WO2010067118A1 (en) 2008-12-11 2010-06-17 Novauris Technologies Limited Speech recognition involving a mobile device
JP5108747B2 (ja) 2008-12-26 2012-12-26 富士フイルム株式会社 情報表示装置、方法およびプログラム
EP2370878B8 (en) 2008-12-29 2019-06-19 Hewlett-Packard Development Company, L.P. Gesture detection zones
KR101596499B1 (ko) * 2009-01-14 2016-02-23 삼성전자주식회사 휴대용 기기의 키 입력 방법 및 장치
KR101544364B1 (ko) * 2009-01-23 2015-08-17 삼성전자주식회사 듀얼 터치 스크린을 구비한 휴대 단말기 및 그 컨텐츠 제어방법
US8922521B2 (en) 2009-02-02 2014-12-30 Apple Inc. Switching circuitry for touch sensitive display
JP5347589B2 (ja) * 2009-03-10 2013-11-20 株式会社オートネットワーク技術研究所 操作装置
US8510665B2 (en) 2009-03-16 2013-08-13 Apple Inc. Methods and graphical user interfaces for editing on a multifunction device with a touch screen display
US8839155B2 (en) 2009-03-16 2014-09-16 Apple Inc. Accelerated scrolling for a multifunction device
US8566045B2 (en) 2009-03-16 2013-10-22 Apple Inc. Event recognition
US9684521B2 (en) 2010-01-26 2017-06-20 Apple Inc. Systems having discrete and continuous gesture recognizers
US8285499B2 (en) 2009-03-16 2012-10-09 Apple Inc. Event recognition
US8589374B2 (en) 2009-03-16 2013-11-19 Apple Inc. Multifunction device with integrated search and application selection
US8572513B2 (en) 2009-03-16 2013-10-29 Apple Inc. Device, method, and graphical user interface for moving a current position in content at a variable scrubbing rate
US8566044B2 (en) 2009-03-16 2013-10-22 Apple Inc. Event recognition
US9311112B2 (en) 2009-03-16 2016-04-12 Apple Inc. Event recognition
JP2010218422A (ja) * 2009-03-18 2010-09-30 Toshiba Corp 情報処理装置および情報処理装置の制御方法
JP5146389B2 (ja) * 2009-04-03 2013-02-20 ソニー株式会社 情報処理装置、および推定方法
US8593410B2 (en) 2009-04-10 2013-11-26 Apple Inc. Touch sensor panel design
KR101056088B1 (ko) * 2009-04-20 2011-08-10 (주)빅트론닉스 터치패널 입력장치, 방법 및 이를 이용한 모바일 기기
KR100974910B1 (ko) * 2009-05-12 2010-08-09 우효준 터치 장치 제어방법, 이를 이용하는 터치 장치
US9354751B2 (en) 2009-05-15 2016-05-31 Apple Inc. Input device with optimized capacitive sensing
EP2254032A1 (en) * 2009-05-21 2010-11-24 Research In Motion Limited Portable electronic device and method of controlling same
US10241644B2 (en) 2011-06-03 2019-03-26 Apple Inc. Actionable reminder entries
US10255566B2 (en) 2011-06-03 2019-04-09 Apple Inc. Generating and processing task items that represent tasks to perform
US9858925B2 (en) 2009-06-05 2018-01-02 Apple Inc. Using context information to facilitate processing of commands in a virtual assistant
US10241752B2 (en) 2011-09-30 2019-03-26 Apple Inc. Interface for a virtual digital assistant
US9009612B2 (en) 2009-06-07 2015-04-14 Apple Inc. Devices, methods, and graphical user interfaces for accessibility using a touch-sensitive surface
FR2946768B1 (fr) * 2009-06-11 2012-02-10 Sagem Defense Securite Procede d'entree tactile d'instructions de commande d'un programme d'ordinateur et systeme pour la mise en oeuvre de ce procede
US8957874B2 (en) 2009-06-29 2015-02-17 Apple Inc. Touch sensor panel design
US9431006B2 (en) 2009-07-02 2016-08-30 Apple Inc. Methods and apparatuses for automatic speech recognition
US9264248B2 (en) 2009-07-02 2016-02-16 Qualcomm Incorporated System and method for avoiding and resolving conflicts in a wireless mobile display digital interface multicast environment
JP2011013990A (ja) * 2009-07-03 2011-01-20 Pioneer Electronic Corp コンテンツ再生装置
US8872771B2 (en) 2009-07-07 2014-10-28 Apple Inc. Touch sensing device having conductive nodes
JP2011028345A (ja) * 2009-07-22 2011-02-10 Olympus Imaging Corp 条件変更装置、カメラ、携帯機器、およびプログラム
JP5669169B2 (ja) * 2009-07-28 2015-02-12 Necカシオモバイルコミュニケーションズ株式会社 端末装置及びプログラム
DE102010026291B4 (de) 2009-08-06 2024-08-22 Volkswagen Ag Kraftfahrzeug
JP5482023B2 (ja) * 2009-08-27 2014-04-23 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
US9176962B2 (en) 2009-09-07 2015-11-03 Apple Inc. Digital media asset browsing with audio cues
KR101691823B1 (ko) * 2009-09-09 2017-01-02 엘지전자 주식회사 이동 단말기 및 이것의 디스플레이 제어 방법
FR2950168B1 (fr) * 2009-09-11 2012-03-23 Milibris Terminal mobile a ecran tactile
EP3260969B1 (en) 2009-09-22 2021-03-03 Apple Inc. Device, method, and graphical user interface for manipulating user interface objects
US8780069B2 (en) 2009-09-25 2014-07-15 Apple Inc. Device, method, and graphical user interface for manipulating user interface objects
US8624933B2 (en) 2009-09-25 2014-01-07 Apple Inc. Device, method, and graphical user interface for scrolling a multi-section document
US8766928B2 (en) 2009-09-25 2014-07-01 Apple Inc. Device, method, and graphical user interface for manipulating user interface objects
US8799826B2 (en) 2009-09-25 2014-08-05 Apple Inc. Device, method, and graphical user interface for moving a calendar entry in a calendar application
US8832585B2 (en) 2009-09-25 2014-09-09 Apple Inc. Device, method, and graphical user interface for manipulating workspace views
NO332170B1 (no) 2009-10-14 2012-07-16 Cisco Systems Int Sarl Anordning og fremgangsmate for kamerakontroll
US20110090155A1 (en) * 2009-10-15 2011-04-21 Qualcomm Incorporated Method, system, and computer program product combining gestural input from multiple touch screens into one gestural input
KR20110047349A (ko) * 2009-10-30 2011-05-09 주식회사 팬택 휴대용 단말기에서 터치와 가압을 이용하는 사용자 인터페이스 장치 및 방법
US8957918B2 (en) * 2009-11-03 2015-02-17 Qualcomm Incorporated Methods for implementing multi-touch gestures on a single-touch touch surface
JP2011106946A (ja) * 2009-11-17 2011-06-02 Hioki Ee Corp 波形表示装置および波形表示方法
JP5568970B2 (ja) * 2009-11-30 2014-08-13 ソニー株式会社 情報処理装置、情報処理方法及びそのプログラム
US20110138284A1 (en) * 2009-12-03 2011-06-09 Microsoft Corporation Three-state touch input system
US9582238B2 (en) 2009-12-14 2017-02-28 Qualcomm Incorporated Decomposed multi-stream (DMS) techniques for video display systems
US8358281B2 (en) 2009-12-15 2013-01-22 Apple Inc. Device, method, and graphical user interface for management and manipulation of user interface elements
US20110148786A1 (en) * 2009-12-18 2011-06-23 Synaptics Incorporated Method and apparatus for changing operating modes
US8698762B2 (en) 2010-01-06 2014-04-15 Apple Inc. Device, method, and graphical user interface for navigating and displaying content in context
JP4932010B2 (ja) * 2010-01-06 2012-05-16 株式会社スクウェア・エニックス ユーザインタフェース処理装置、ユーザインタフェース処理方法、およびユーザインタフェース処理プログラム
US8736561B2 (en) 2010-01-06 2014-05-27 Apple Inc. Device, method, and graphical user interface with content display modes and display rotation heuristics
US20110163967A1 (en) * 2010-01-06 2011-07-07 Imran Chaudhri Device, Method, and Graphical User Interface for Changing Pages in an Electronic Document
JP5572397B2 (ja) * 2010-01-06 2014-08-13 京セラ株式会社 入力装置、入力方法および入力プログラム
US8438504B2 (en) 2010-01-06 2013-05-07 Apple Inc. Device, method, and graphical user interface for navigating through multiple viewing areas
EP2343503A1 (de) * 2010-01-07 2011-07-13 Navigon AG Verfahren zum Betrieb eines Navigationsgeräts
CN102123132A (zh) * 2010-01-08 2011-07-13 阿尔卡特朗讯 为用户终端提供通信的方法及装置
EP2642371A1 (en) 2010-01-14 2013-09-25 BrainLAB AG Controlling a surgical navigation system
US10705794B2 (en) 2010-01-18 2020-07-07 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US10679605B2 (en) 2010-01-18 2020-06-09 Apple Inc. Hands-free list-reading by intelligent automated assistant
US10276170B2 (en) 2010-01-18 2019-04-30 Apple Inc. Intelligent automated assistant
US10553209B2 (en) 2010-01-18 2020-02-04 Apple Inc. Systems and methods for hands-free notification summaries
EP2348392A1 (en) * 2010-01-21 2011-07-27 Research In Motion Limited Portable electronic device and method of controlling same
KR101319264B1 (ko) 2010-01-22 2013-10-18 전자부품연구원 멀티 터치 압력에 기반한 ui 제공방법 및 이를 적용한 전자기기
WO2011089450A2 (en) 2010-01-25 2011-07-28 Andrew Peter Nelson Jerram Apparatuses, methods and systems for a digital conversation management platform
US8539385B2 (en) 2010-01-26 2013-09-17 Apple Inc. Device, method, and graphical user interface for precise positioning of objects
US8677268B2 (en) 2010-01-26 2014-03-18 Apple Inc. Device, method, and graphical user interface for resizing objects
US8539386B2 (en) 2010-01-26 2013-09-17 Apple Inc. Device, method, and graphical user interface for selecting and moving objects
KR100990833B1 (ko) * 2010-01-28 2010-11-04 김준 터치 장치 제어방법, 이를 이용하는 터치 장치
US8682667B2 (en) 2010-02-25 2014-03-25 Apple Inc. User profiling for selecting user specific voice input processing information
US8756522B2 (en) 2010-03-19 2014-06-17 Blackberry Limited Portable electronic device and method of controlling same
EP2367097B1 (en) * 2010-03-19 2017-11-22 BlackBerry Limited Portable electronic device and method of controlling same
US20110246875A1 (en) * 2010-04-02 2011-10-06 Symantec Corporation Digital whiteboard implementation
US8458615B2 (en) 2010-04-07 2013-06-04 Apple Inc. Device, method, and graphical user interface for managing folders
US10788976B2 (en) 2010-04-07 2020-09-29 Apple Inc. Device, method, and graphical user interface for managing folders with multiple pages
WO2011130919A1 (en) 2010-04-23 2011-10-27 Motorola Mobility, Inc. Electronic device and method using touch-detecting surface
DE202010006302U1 (de) 2010-04-30 2010-09-30 Wagner, Amina Halter für einen tragbaren Tablet-Computer mit einer Anzeigevorrichtung
JP5230684B2 (ja) * 2010-05-13 2013-07-10 パナソニック株式会社 電子機器、表示方法、及びプログラム
JP5010714B2 (ja) 2010-05-21 2012-08-29 株式会社東芝 電子機器、入力制御プログラム、及び入力制御方法
JP5533254B2 (ja) * 2010-05-24 2014-06-25 アイシン・エィ・ダブリュ株式会社 情報表示装置、情報表示方法及びプログラム
US9542091B2 (en) 2010-06-04 2017-01-10 Apple Inc. Device, method, and graphical user interface for navigating through a user interface using a dynamic object selection indicator
US8707195B2 (en) 2010-06-07 2014-04-22 Apple Inc. Devices, methods, and graphical user interfaces for accessibility via a touch-sensitive surface
KR101685145B1 (ko) * 2010-06-09 2016-12-09 엘지전자 주식회사 이동 단말기 및 그 제어방법
JP5598104B2 (ja) * 2010-06-10 2014-10-01 ソニー株式会社 情報処理装置、情報処理方法及びコンピュータプログラム
KR101102326B1 (ko) * 2010-06-11 2012-01-05 한국과학기술원 터치스크린 제어장치, 방법, 이를 포함하는 전자 기기 및 이를 위한 기록매체
US10216408B2 (en) 2010-06-14 2019-02-26 Apple Inc. Devices and methods for identifying user interface objects based on view hierarchy
US8933910B2 (en) 2010-06-16 2015-01-13 Panasonic Intellectual Property Corporation Of America Information input apparatus, information input method, and program
CN102314297B (zh) * 2010-07-07 2016-04-13 腾讯科技(深圳)有限公司 一种窗口对象惯性移动方法及实现装置
US8972903B2 (en) * 2010-07-08 2015-03-03 Apple Inc. Using gesture to navigate hierarchically ordered user interface screens
US8922499B2 (en) 2010-07-26 2014-12-30 Apple Inc. Touch input transitions
US9098182B2 (en) 2010-07-30 2015-08-04 Apple Inc. Device, method, and graphical user interface for copying user interface objects between content regions
US8972879B2 (en) 2010-07-30 2015-03-03 Apple Inc. Device, method, and graphical user interface for reordering the front-to-back positions of objects
US9081494B2 (en) 2010-07-30 2015-07-14 Apple Inc. Device, method, and graphical user interface for copying formatting attributes
JP5482549B2 (ja) * 2010-08-03 2014-05-07 富士通株式会社 表示装置、表示方法、および、表示プログラム
US8593418B2 (en) 2010-08-08 2013-11-26 Qualcomm Incorporated Method and system for adjusting display content
KR20120019244A (ko) * 2010-08-25 2012-03-06 삼성전자주식회사 휴대 단말기의 복합 속성 제어 방법 및 이를 지원하는 휴대 단말기
JP5725767B2 (ja) * 2010-08-31 2015-05-27 キヤノン株式会社 情報処理装置及びその制御方法
US9747270B2 (en) * 2011-01-07 2017-08-29 Microsoft Technology Licensing, Llc Natural input for spreadsheet actions
WO2012043360A1 (ja) 2010-09-29 2012-04-05 Necカシオモバイルコミュニケーションズ株式会社 情報処理装置、その制御方法及びプログラム
US9678572B2 (en) 2010-10-01 2017-06-13 Samsung Electronics Co., Ltd. Apparatus and method for turning e-book pages in portable terminal
KR101743632B1 (ko) * 2010-10-01 2017-06-07 삼성전자주식회사 휴대용 단말기에서 전자책 페이지 넘김 장치 및 방법
EP2437151B1 (en) 2010-10-01 2020-07-08 Samsung Electronics Co., Ltd. Apparatus and method for turning e-book pages in portable terminal
KR20120035748A (ko) * 2010-10-06 2012-04-16 삼성전자주식회사 인쇄옵션 표시방법 및 인쇄옵션 표시장치
KR101915615B1 (ko) 2010-10-14 2019-01-07 삼성전자주식회사 모션 기반 사용자 인터페이스 제어 장치 및 방법
KR101199970B1 (ko) 2010-10-29 2012-11-12 전남대학교산학협력단 멀티 터치 특징정보 추출방법 및 그 멀티 터치 특징정보를 이용한 멀티 터치 제스처 인식방법
US9092135B2 (en) 2010-11-01 2015-07-28 Sony Computer Entertainment Inc. Control of virtual object using device touch interface functionality
JPWO2012070682A1 (ja) 2010-11-24 2014-05-19 日本電気株式会社 入力装置及び入力装置の制御方法
JP5479414B2 (ja) * 2010-11-24 2014-04-23 キヤノン株式会社 情報処理装置およびその制御方法
US20120159395A1 (en) 2010-12-20 2012-06-21 Microsoft Corporation Application-launching interface for multiple modes
EP3982242B1 (en) * 2010-12-20 2024-05-01 Apple Inc. Event recognition
KR101729523B1 (ko) * 2010-12-21 2017-04-24 엘지전자 주식회사 휴대 단말기 및 그 동작 제어방법
US10762293B2 (en) 2010-12-22 2020-09-01 Apple Inc. Using parts-of-speech tagging and named entity recognition for spelling correction
US8689123B2 (en) 2010-12-23 2014-04-01 Microsoft Corporation Application reporting in an application-selectable user interface
ES2392419B1 (es) 2010-12-27 2013-10-22 BSH Electrodomésticos España S.A. Dispositivo de aparato doméstico, aparato doméstico con un dispositivo de aparato doméstico, y procedimiento para la puesta en funcionamiento de un dispositivo de aparato doméstico.
KR101662726B1 (ko) * 2010-12-29 2016-10-14 삼성전자주식회사 전자 기기의 스크롤 방법 및 장치
US9423951B2 (en) 2010-12-31 2016-08-23 Microsoft Technology Licensing, Llc Content-based snap point
JP6115728B2 (ja) * 2011-01-06 2017-04-19 ティヴォ ソリューションズ インコーポレイテッド ジェスチャに基づく制御方法および装置
US9582239B2 (en) 2011-01-21 2017-02-28 Qualcomm Incorporated User input back channel for wireless displays
US9787725B2 (en) 2011-01-21 2017-10-10 Qualcomm Incorporated User input back channel for wireless displays
US8964783B2 (en) 2011-01-21 2015-02-24 Qualcomm Incorporated User input back channel for wireless displays
US9413803B2 (en) 2011-01-21 2016-08-09 Qualcomm Incorporated User input back channel for wireless displays
US9065876B2 (en) 2011-01-21 2015-06-23 Qualcomm Incorporated User input back channel from a wireless sink device to a wireless source device for multi-touch gesture wireless displays
US10135900B2 (en) 2011-01-21 2018-11-20 Qualcomm Incorporated User input back channel for wireless displays
US10108386B2 (en) 2011-02-04 2018-10-23 Qualcomm Incorporated Content provisioning for wireless back channel
US9503771B2 (en) 2011-02-04 2016-11-22 Qualcomm Incorporated Low latency wireless display for graphics
EP2492788B1 (en) * 2011-02-24 2015-07-15 ST-Ericsson SA Zooming method
US9547428B2 (en) 2011-03-01 2017-01-17 Apple Inc. System and method for touchscreen knob control
EP2500814B1 (en) * 2011-03-13 2019-05-08 LG Electronics Inc. Transparent display apparatus and method for operating the same
US9262612B2 (en) 2011-03-21 2016-02-16 Apple Inc. Device access using voice authentication
US9383917B2 (en) 2011-03-28 2016-07-05 Microsoft Technology Licensing, Llc Predictive tiling
US9298363B2 (en) 2011-04-11 2016-03-29 Apple Inc. Region activation for touch sensitive surface
JP6207023B2 (ja) 2011-05-09 2017-10-04 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. スクリーン上のオブジェクトの回転
JP2012247861A (ja) * 2011-05-25 2012-12-13 Panasonic Corp タッチスクリーン装置、タッチ操作入力方法及びプログラム
US9158445B2 (en) 2011-05-27 2015-10-13 Microsoft Technology Licensing, Llc Managing an immersive interface in a multi-application immersive environment
US9104307B2 (en) 2011-05-27 2015-08-11 Microsoft Technology Licensing, Llc Multi-application environment
US9032338B2 (en) 2011-05-30 2015-05-12 Apple Inc. Devices, methods, and graphical user interfaces for navigating and editing text
US8677232B2 (en) 2011-05-31 2014-03-18 Apple Inc. Devices, methods, and graphical user interfaces for document manipulation
US10057736B2 (en) 2011-06-03 2018-08-21 Apple Inc. Active transport based notifications
US8751971B2 (en) 2011-06-05 2014-06-10 Apple Inc. Devices, methods, and graphical user interfaces for providing accessibility using a touch-sensitive surface
US8959459B2 (en) 2011-06-15 2015-02-17 Wms Gaming Inc. Gesture sensing enhancement system for a wagering game
JP5855862B2 (ja) * 2011-07-07 2016-02-09 オリンパス株式会社 撮像装置、撮像方法およびプログラム
WO2013028081A1 (en) * 2011-08-23 2013-02-28 Opera Software Asa Page based navigation and presentation of web content
US8994660B2 (en) 2011-08-29 2015-03-31 Apple Inc. Text correction processing
US20130057587A1 (en) 2011-09-01 2013-03-07 Microsoft Corporation Arranging tiles
JP5805473B2 (ja) * 2011-09-02 2015-11-04 クラリオン株式会社 操作装置
US9557909B2 (en) 2011-09-09 2017-01-31 Microsoft Technology Licensing, Llc Semantic zoom linguistic helpers
US20130067398A1 (en) * 2011-09-09 2013-03-14 Theresa B. Pittappilly Semantic Zoom
US10353566B2 (en) 2011-09-09 2019-07-16 Microsoft Technology Licensing, Llc Semantic zoom animations
US8922575B2 (en) 2011-09-09 2014-12-30 Microsoft Corporation Tile cache
US9146670B2 (en) 2011-09-10 2015-09-29 Microsoft Technology Licensing, Llc Progressively indicating new content in an application-selectable user interface
US9244802B2 (en) 2011-09-10 2016-01-26 Microsoft Technology Licensing, Llc Resource user interface
JP2014530417A (ja) * 2011-09-13 2014-11-17 ニューマン インフィニット, インク.Newman Infinite, Inc. ユーザインタフェース要素を操作する装置、方法及びコンピュータ読み取り可能な記憶媒体
US9851889B2 (en) 2011-09-16 2017-12-26 Kt Corporation Apparatus and method for rotating a displayed image by using multi-point touch inputs
DE102011116187A1 (de) * 2011-10-14 2013-04-18 Volkswagen Aktiengesellschaft Verfahren und Vorrichtung zum Bereitstellen einer Nutzerschnittstelle
US9658715B2 (en) 2011-10-20 2017-05-23 Microsoft Technology Licensing, Llc Display mapping modes for multi-pointer indirect input devices
US9274642B2 (en) 2011-10-20 2016-03-01 Microsoft Technology Licensing, Llc Acceleration-based interaction for multi-pointer indirect input devices
US8933896B2 (en) 2011-10-25 2015-01-13 Microsoft Corporation Pressure-based interaction for indirect touch input devices
KR101279518B1 (ko) * 2011-10-26 2013-06-28 엘지전자 주식회사 이동 단말기 및 그의 스크린 제어방법
KR101880653B1 (ko) * 2011-10-27 2018-08-20 삼성전자 주식회사 터치패널을 구비하는 휴대단말기의 입력 판정 장치 및 방법
US9372612B2 (en) * 2011-10-31 2016-06-21 Microsoft Technology Licensing, Llc Exposing inertial snap points
US9053083B2 (en) 2011-11-04 2015-06-09 Microsoft Technology Licensing, Llc Interaction between web gadgets and spreadsheets
US9367230B2 (en) * 2011-11-08 2016-06-14 Microsoft Technology Licensing, Llc Interaction models for indirect interaction devices
WO2013067618A1 (en) 2011-11-09 2013-05-16 Research In Motion Limited Touch-sensitive display method and apparatus
US9823837B2 (en) 2011-11-29 2017-11-21 Panasonic Intellectual Property Management Co., Ltd. Display control device, display control method, and display control program
US9389679B2 (en) 2011-11-30 2016-07-12 Microsoft Technology Licensing, Llc Application programming interface for a multi-pointer indirect touch input device
JP5776525B2 (ja) * 2011-12-05 2015-09-09 株式会社デンソー 入力装置
JP5798903B2 (ja) * 2011-12-13 2015-10-21 日本電信電話株式会社 情報入力システムとそのプログラム
DE102011056940A1 (de) 2011-12-22 2013-06-27 Bauhaus Universität Weimar Verfahren zum Betrieb einer mehrfachberührungsfähigen Anzeige und Vorrichtung mit einer mehrfachberührungsfähigen Anzeige
JP5880024B2 (ja) * 2011-12-22 2016-03-08 株式会社バッファロー 情報処理装置及びプログラム
US9525998B2 (en) 2012-01-06 2016-12-20 Qualcomm Incorporated Wireless display with multiscreen service
US9317899B2 (en) 2012-01-13 2016-04-19 Sony Corporation Information processing apparatus and information processing method, and computer program
JP6196017B2 (ja) 2012-01-13 2017-09-13 サターン ライセンシング エルエルシーSaturn Licensing LLC 情報処理装置及び情報処理方法、並びにコンピューター・プログラム
JP5957893B2 (ja) 2012-01-13 2016-07-27 ソニー株式会社 情報処理装置及び情報処理方法、並びにコンピューター・プログラム
US9195369B2 (en) 2012-02-06 2015-11-24 Hothead Games, Inc. Virtual opening of boxes and packs of cards
JP5936183B2 (ja) 2012-02-07 2016-06-15 オリンパス株式会社 撮影機器
JP5797580B2 (ja) * 2012-02-16 2015-10-21 シャープ株式会社 入力制御装置、電子機器、入力制御方法、プログラムおよび記録媒体
JP2013178658A (ja) * 2012-02-28 2013-09-09 Nikon Corp 画像処理装置及びプログラム、並びに電子カメラ
US10134385B2 (en) 2012-03-02 2018-11-20 Apple Inc. Systems and methods for name pronunciation
US9483461B2 (en) 2012-03-06 2016-11-01 Apple Inc. Handling speech synthesis of content for multiple languages
JP5817613B2 (ja) * 2012-03-23 2015-11-18 株式会社デンソー 入力装置
JP2013210944A (ja) * 2012-03-30 2013-10-10 Hitachi Solutions Ltd 画面操作機能を有する装置
US8881269B2 (en) 2012-03-31 2014-11-04 Apple Inc. Device, method, and graphical user interface for integrating recognition of handwriting gestures with a screen reader
WO2013154341A1 (ko) * 2012-04-10 2013-10-17 Ahn Jae Seok 모바일 단말에서 디지털 컨텐트를 스크롤하는 방법 및 이를 위한 모바일 단말 장치
JP6004716B2 (ja) * 2012-04-13 2016-10-12 キヤノン株式会社 情報処理装置およびその制御方法、コンピュータプログラム
US9329723B2 (en) 2012-04-16 2016-05-03 Apple Inc. Reconstruction of original touch image from differential touch image
WO2013155590A1 (en) * 2012-04-18 2013-10-24 Research In Motion Limited Systems and methods for displaying information or a feature in overscroll regions on electronic devices
US9086732B2 (en) 2012-05-03 2015-07-21 Wms Gaming Inc. Gesture fusion
JP2013238955A (ja) * 2012-05-14 2013-11-28 Sharp Corp 携帯情報端末
US9280610B2 (en) 2012-05-14 2016-03-08 Apple Inc. Crowd sourcing information to fulfill user requests
CN102799347B (zh) 2012-06-05 2017-01-04 北京小米科技有限责任公司 应用于触屏设备的用户界面交互方法、装置及触屏设备
US9721563B2 (en) 2012-06-08 2017-08-01 Apple Inc. Name recognition system
JP5877374B2 (ja) * 2012-06-13 2016-03-08 パナソニックIpマネジメント株式会社 操作表示装置、プログラム
US9495129B2 (en) 2012-06-29 2016-11-15 Apple Inc. Device, method, and user interface for voice-activated navigation and browsing of a document
JP2014010777A (ja) * 2012-07-02 2014-01-20 Fujitsu Ltd 表示プログラム、表示方法、及び情報処理装置
WO2014010543A1 (ja) * 2012-07-09 2014-01-16 Necカシオモバイルコミュニケーションズ株式会社 情報処理装置、入力受付方法及びプログラム
JP6031600B2 (ja) * 2012-07-15 2016-11-24 アップル インコーポレイテッド 3d相互作用のマルチタッチジェスチャ認識の曖昧性除去
JP2012234569A (ja) * 2012-08-09 2012-11-29 Panasonic Corp 電子機器、表示方法、及びプログラム
CN102819417B (zh) * 2012-08-16 2015-07-15 小米科技有限责任公司 一种图片显示处理方法及装置
US9507513B2 (en) 2012-08-17 2016-11-29 Google Inc. Displaced double tap gesture
KR101343591B1 (ko) * 2012-09-03 2013-12-19 엘지전자 주식회사 휴대 전자기기 및 이의 제어방법
US9576574B2 (en) 2012-09-10 2017-02-21 Apple Inc. Context-sensitive handling of interruptions by intelligent digital assistant
KR101405822B1 (ko) * 2012-09-18 2014-06-11 주식회사 인프라웨어 터치기반 편집 어플을 위한 시각적 편집보조 제공 방법 및 이를 위한 컴퓨터로 판독가능한 기록매체
US9547647B2 (en) 2012-09-19 2017-01-17 Apple Inc. Voice-based media searching
JP6159069B2 (ja) * 2012-09-27 2017-07-05 京セラ株式会社 表示装置
CN106020620B (zh) 2012-09-27 2019-07-26 京瓷株式会社 显示装置、控制方法和控制程序
CN103729107A (zh) * 2012-10-15 2014-04-16 中兴通讯股份有限公司 一种悬浮对象的实现方法与装置
US20140109016A1 (en) * 2012-10-16 2014-04-17 Yu Ouyang Gesture-based cursor control
US8949735B2 (en) 2012-11-02 2015-02-03 Google Inc. Determining scroll direction intent
KR101468970B1 (ko) * 2012-11-30 2014-12-04 주식회사 인프라웨어 터치 스크린 디스플레이 입력을 통한 객체 스크롤 방법 및 장치
JP6033061B2 (ja) * 2012-11-30 2016-11-30 Kddi株式会社 入力装置およびプログラム
JP2014112335A (ja) * 2012-12-05 2014-06-19 Fuji Xerox Co Ltd 情報処理装置及びプログラム
KR20140078853A (ko) * 2012-12-18 2014-06-26 삼성전자주식회사 증강현실시스템 및 그 제어방법
US11003351B2 (en) 2012-12-26 2021-05-11 Gree, Inc. Display processing method and information device
US20140189603A1 (en) * 2012-12-28 2014-07-03 Darryl L. Adams Gesture Based Partition Switching
JP5385450B2 (ja) * 2012-12-28 2014-01-08 株式会社ゼンリンデータコム 地図表示装置
US10691230B2 (en) 2012-12-29 2020-06-23 Apple Inc. Crown input for a wearable electronic device
KR102072582B1 (ko) * 2012-12-31 2020-02-03 엘지전자 주식회사 듀얼 디스플레이 방법 및 장치
US20150301635A1 (en) * 2013-01-15 2015-10-22 Hitachi Maxell, Ltd. Information processing device, information processing method, and program
IN2013CH00469A (ja) 2013-01-21 2015-07-31 Keypoint Technologies India Pvt Ltd
EP2946272A4 (en) 2013-01-21 2016-11-02 Keypoint Technologies India Pvt Ltd TEXT ENTRY SYSTEM AND METHOD
JP5835240B2 (ja) * 2013-01-28 2015-12-24 カシオ計算機株式会社 情報処理装置、情報処理方法及びプログラム
CN103970646B (zh) 2013-01-29 2016-12-28 国际商业机器公司 一种用于操作序列的自动分析方法及其系统
DE112014000709B4 (de) 2013-02-07 2021-12-30 Apple Inc. Verfahren und vorrichtung zum betrieb eines sprachtriggers für einen digitalen assistenten
DE102013101339A1 (de) * 2013-02-12 2014-08-14 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Bedienelement
JP6058118B2 (ja) * 2013-02-27 2017-01-11 アルプス電気株式会社 操作検知装置
KR102117086B1 (ko) * 2013-03-08 2020-06-01 삼성디스플레이 주식회사 단말기 및 그의 조작 방법
US9368114B2 (en) 2013-03-14 2016-06-14 Apple Inc. Context-sensitive handling of interruptions
KR102157332B1 (ko) * 2013-03-15 2020-09-17 삼성전자주식회사 전자 장치에서 줌 기능을 제어하기 위한 방법 및 장치
WO2014144579A1 (en) 2013-03-15 2014-09-18 Apple Inc. System and method for updating an adaptive speech recognition model
AU2014233517B2 (en) 2013-03-15 2017-05-25 Apple Inc. Training an at least partial voice command system
US10514767B2 (en) 2013-04-02 2019-12-24 Sony Corporation Information processing apparatus and information processing method
KR102114608B1 (ko) * 2013-04-02 2020-06-05 엘지전자 주식회사 멀티 스크린 디바이스 및 그 제어 방법
US20140306910A1 (en) * 2013-04-15 2014-10-16 Qualcomm Incorporated Id tracking of gesture touch geometry
JP5742870B2 (ja) * 2013-04-17 2015-07-01 カシオ計算機株式会社 電子機器およびプログラム
US8997013B2 (en) * 2013-05-31 2015-03-31 Google Inc. Multiple graphical keyboards for continuous gesture input
WO2014197334A2 (en) 2013-06-07 2014-12-11 Apple Inc. System and method for user-specified pronunciation of words for speech synthesis and recognition
WO2014197336A1 (en) 2013-06-07 2014-12-11 Apple Inc. System and method for detecting errors in interactions with a voice-based digital assistant
US9582608B2 (en) 2013-06-07 2017-02-28 Apple Inc. Unified ranking with entropy-weighted information for phrase-based semantic auto-completion
WO2014197335A1 (en) 2013-06-08 2014-12-11 Apple Inc. Interpreting and acting upon commands that involve sharing information with remote devices
US9733716B2 (en) 2013-06-09 2017-08-15 Apple Inc. Proxy gesture recognizer
US10176167B2 (en) 2013-06-09 2019-01-08 Apple Inc. System and method for inferring user intent from speech inputs
EP3937002A1 (en) 2013-06-09 2022-01-12 Apple Inc. Device, method, and graphical user interface for enabling conversation persistence across two or more instances of a digital assistant
AU2014278595B2 (en) 2013-06-13 2017-04-06 Apple Inc. System and method for emergency calls initiated by voice command
US10664652B2 (en) 2013-06-15 2020-05-26 Microsoft Technology Licensing, Llc Seamless grid and canvas integration in a spreadsheet application
US20160147338A1 (en) 2013-07-17 2016-05-26 Touchcard, Inc. Image display system and input device
JP6211327B2 (ja) * 2013-07-22 2017-10-11 アルプス電気株式会社 入力装置
DE112014003653B4 (de) 2013-08-06 2024-04-18 Apple Inc. Automatisch aktivierende intelligente Antworten auf der Grundlage von Aktivitäten von entfernt angeordneten Vorrichtungen
KR20150019352A (ko) 2013-08-13 2015-02-25 삼성전자주식회사 전자장치에서 그립상태를 인지하기 위한 방법 및 장치
US9886141B2 (en) 2013-08-16 2018-02-06 Apple Inc. Mutual and self capacitance touch measurements in touch panel
US10503388B2 (en) 2013-09-03 2019-12-10 Apple Inc. Crown input for a wearable electronic device
JP6138641B2 (ja) * 2013-09-13 2017-05-31 株式会社Nttドコモ 地図情報表示装置、地図情報表示方法、及び地図情報表示プログラム
JP5948294B2 (ja) * 2013-09-25 2016-07-06 京セラドキュメントソリューションズ株式会社 タッチパネル装置、及びこれを備えた画像形成装置
JP6393325B2 (ja) 2013-10-30 2018-09-19 アップル インコーポレイテッドApple Inc. 関連するユーザインターフェースオブジェクトの表示
JP2015099526A (ja) * 2013-11-20 2015-05-28 富士通株式会社 情報処理装置および情報処理プログラム
JP6222830B2 (ja) * 2013-12-27 2017-11-01 マクセルホールディングス株式会社 画像投射装置
JP2017068291A (ja) * 2014-02-14 2017-04-06 アルプス電気株式会社 入力方法、及び入力装置
WO2015121964A1 (ja) * 2014-02-14 2015-08-20 富士通株式会社 入力装置
US9620105B2 (en) 2014-05-15 2017-04-11 Apple Inc. Analyzing audio input for efficient speech and music recognition
US10936120B2 (en) 2014-05-22 2021-03-02 Apple Inc. Panel bootstraping architectures for in-cell self-capacitance
US10592095B2 (en) 2014-05-23 2020-03-17 Apple Inc. Instantaneous speaking of content on touch devices
US9502031B2 (en) 2014-05-27 2016-11-22 Apple Inc. Method for supporting dynamic grammars in WFST-based ASR
US9760559B2 (en) 2014-05-30 2017-09-12 Apple Inc. Predictive text input
US10204096B2 (en) 2014-05-30 2019-02-12 Apple Inc. Device, method, and graphical user interface for a predictive keyboard
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US10289433B2 (en) 2014-05-30 2019-05-14 Apple Inc. Domain specific language for encoding assistant dialog
US9734193B2 (en) 2014-05-30 2017-08-15 Apple Inc. Determining domain salience ranking from ambiguous words in natural speech
US9978043B2 (en) 2014-05-30 2018-05-22 Apple Inc. Automatic event scheduling
TWI566107B (zh) 2014-05-30 2017-01-11 蘋果公司 用於處理多部分語音命令之方法、非暫時性電腦可讀儲存媒體及電子裝置
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US10078631B2 (en) 2014-05-30 2018-09-18 Apple Inc. Entropy-guided text prediction using combined word and character n-gram language models
US9633004B2 (en) 2014-05-30 2017-04-25 Apple Inc. Better resolution when referencing to concepts
US9785630B2 (en) 2014-05-30 2017-10-10 Apple Inc. Text prediction using combined word N-gram and unigram language models
US9898162B2 (en) 2014-05-30 2018-02-20 Apple Inc. Swiping functions for messaging applications
US9842101B2 (en) 2014-05-30 2017-12-12 Apple Inc. Predictive conversion of language input
US9430463B2 (en) 2014-05-30 2016-08-30 Apple Inc. Exemplar-based natural language processing
US9971500B2 (en) 2014-06-01 2018-05-15 Apple Inc. Displaying options, assigning notification, ignoring messages, and simultaneous user interface displays in a messaging application
DE112014006739T5 (de) * 2014-06-11 2017-05-11 Mitsubishi Electric Corporation Anzeigesteuersystem und Anzeigesteuerverfahren
CN118192869A (zh) 2014-06-27 2024-06-14 苹果公司 尺寸减小的用户界面
US10289251B2 (en) 2014-06-27 2019-05-14 Apple Inc. Reducing floating ground effects in pixelated self-capacitance touch screens
US10659851B2 (en) 2014-06-30 2020-05-19 Apple Inc. Real-time digital assistant knowledge updates
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
US10446141B2 (en) 2014-08-28 2019-10-15 Apple Inc. Automatic speech recognition based on user feedback
US9880655B2 (en) 2014-09-02 2018-01-30 Apple Inc. Method of disambiguating water from a finger touch on a touch sensor panel
WO2016036510A1 (en) 2014-09-02 2016-03-10 Apple Inc. Music user interface
US9818400B2 (en) 2014-09-11 2017-11-14 Apple Inc. Method and apparatus for discovering trending terms in speech requests
US10789041B2 (en) 2014-09-12 2020-09-29 Apple Inc. Dynamic thresholds for always listening speech trigger
EP3175330B1 (en) 2014-09-22 2022-04-20 Apple Inc. Ungrounded user signal compensation for pixelated self-capacitance touch sensor panel
US20160088060A1 (en) * 2014-09-24 2016-03-24 Microsoft Technology Licensing, Llc Gesture navigation for secondary user interface
US10635296B2 (en) 2014-09-24 2020-04-28 Microsoft Technology Licensing, Llc Partitioned application presentation across devices
US10025684B2 (en) 2014-09-24 2018-07-17 Microsoft Technology Licensing, Llc Lending target device resources to host device computing environment
US10448111B2 (en) 2014-09-24 2019-10-15 Microsoft Technology Licensing, Llc Content projection
US9769227B2 (en) 2014-09-24 2017-09-19 Microsoft Technology Licensing, Llc Presentation of computing environment on multiple devices
US9606986B2 (en) 2014-09-29 2017-03-28 Apple Inc. Integrated word N-gram and class M-gram language models
US9886432B2 (en) 2014-09-30 2018-02-06 Apple Inc. Parsimonious handling of word inflection via categorical stem + suffix N-gram language models
US10074360B2 (en) 2014-09-30 2018-09-11 Apple Inc. Providing an indication of the suitability of speech recognition
US9646609B2 (en) 2014-09-30 2017-05-09 Apple Inc. Caching apparatus for serving phonetic pronunciations
US9668121B2 (en) 2014-09-30 2017-05-30 Apple Inc. Social reminders
US10127911B2 (en) 2014-09-30 2018-11-13 Apple Inc. Speaker identification and unsupervised speaker adaptation techniques
US10712867B2 (en) 2014-10-27 2020-07-14 Apple Inc. Pixelated self-capacitance water rejection
JP5966125B2 (ja) * 2014-11-12 2016-08-10 株式会社ユピテル 車両用情報表示装置
JP2016099871A (ja) * 2014-11-25 2016-05-30 アルパイン株式会社 情報機器およびその操作方法、操作プログラム
KR101619888B1 (ko) 2014-11-28 2016-05-12 현대자동차주식회사 터치 인식 기능을 구비한 차량 및 그 제어방법과 내비게이션
US10552013B2 (en) 2014-12-02 2020-02-04 Apple Inc. Data detection
US9711141B2 (en) 2014-12-09 2017-07-18 Apple Inc. Disambiguating heteronyms in speech synthesis
EP3037783B1 (en) * 2014-12-23 2019-09-25 Alpine Electronics, Inc. Information processing apparatus, particularly navigation system, and method of processing information
US20160202865A1 (en) 2015-01-08 2016-07-14 Apple Inc. Coordination of static backgrounds and rubberbanding
CN107209602B (zh) 2015-02-02 2020-05-26 苹果公司 柔性自电容和互电容触摸感测系统架构
US9865280B2 (en) 2015-03-06 2018-01-09 Apple Inc. Structured dictation using intelligent automated assistants
US10567477B2 (en) 2015-03-08 2020-02-18 Apple Inc. Virtual assistant continuity
US9721566B2 (en) 2015-03-08 2017-08-01 Apple Inc. Competing devices responding to voice triggers
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US10488992B2 (en) 2015-03-10 2019-11-26 Apple Inc. Multi-chip touch architecture for scalability
US9899019B2 (en) 2015-03-18 2018-02-20 Apple Inc. Systems and methods for structured stem and suffix language models
US10192128B2 (en) 2015-03-27 2019-01-29 Nec Corporation Mobile surveillance apparatus, program, and control method
US9842105B2 (en) 2015-04-16 2017-12-12 Apple Inc. Parsimonious continuous-space phrase representations for natural language processing
US10083688B2 (en) 2015-05-27 2018-09-25 Apple Inc. Device voice control for selecting a displayed affordance
US10127220B2 (en) 2015-06-04 2018-11-13 Apple Inc. Language identification from short strings
US10101822B2 (en) 2015-06-05 2018-10-16 Apple Inc. Language input correction
US10101882B2 (en) 2015-06-05 2018-10-16 Apple Inc. Movement between multiple views
US9578173B2 (en) 2015-06-05 2017-02-21 Apple Inc. Virtual assistant aided communication with 3rd party service in a communication session
US10186254B2 (en) 2015-06-07 2019-01-22 Apple Inc. Context-based endpoint detection
US11025565B2 (en) 2015-06-07 2021-06-01 Apple Inc. Personalized prediction of responses for instant messaging
CN104991645A (zh) * 2015-06-24 2015-10-21 宇龙计算机通信科技(深圳)有限公司 光标控制方法及装置
JP6511352B2 (ja) * 2015-07-03 2019-05-15 株式会社エクシング 楽曲検索装置及び楽曲検索用プログラム
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US9697820B2 (en) 2015-09-24 2017-07-04 Apple Inc. Unit-selection text-to-speech synthesis using concatenation-sensitive neural networks
US10366158B2 (en) 2015-09-29 2019-07-30 Apple Inc. Efficient word encoding for recurrent neural network language models
US11010550B2 (en) 2015-09-29 2021-05-18 Apple Inc. Unified language modeling framework for word prediction, auto-completion and auto-correction
US10365773B2 (en) 2015-09-30 2019-07-30 Apple Inc. Flexible scan plan using coarse mutual capacitance and fully-guarded measurements
US11587559B2 (en) 2015-09-30 2023-02-21 Apple Inc. Intelligent device identification
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10049668B2 (en) 2015-12-02 2018-08-14 Apple Inc. Applying neural network language models to weighted finite state transducers for automatic speech recognition
KR20170064901A (ko) * 2015-12-02 2017-06-12 엘지전자 주식회사 모바일 디바이스 및 그 제어 방법
US20170177204A1 (en) * 2015-12-18 2017-06-22 Lenovo Enterprise Solutions (Singapore) Pte. Ltd. Centering gesture to enhance pinch-to-zoom gesture on touchscreens
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
JP2017138738A (ja) * 2016-02-02 2017-08-10 富士通テン株式会社 入力装置、表示装置および入力装置の制御方法
US9871962B2 (en) 2016-03-04 2018-01-16 RollCall, LLC Movable user interface shutter button for camera
US10446143B2 (en) 2016-03-14 2019-10-15 Apple Inc. Identification of voice inputs providing credentials
US9919213B2 (en) * 2016-05-03 2018-03-20 Hothead Games Inc. Zoom controls for virtual environment user interfaces
JP6681110B2 (ja) * 2016-05-09 2020-04-15 株式会社コーエーテクモゲームス ユーザインターフェース処理プログラム及び記録媒体
US9934775B2 (en) 2016-05-26 2018-04-03 Apple Inc. Unit-selection text-to-speech synthesis based on predicted concatenation parameters
US9972304B2 (en) 2016-06-03 2018-05-15 Apple Inc. Privacy preserving distributed evaluation framework for embedded personalized systems
US10249300B2 (en) 2016-06-06 2019-04-02 Apple Inc. Intelligent list reading
US10049663B2 (en) 2016-06-08 2018-08-14 Apple, Inc. Intelligent automated assistant for media exploration
DK179588B1 (en) 2016-06-09 2019-02-22 Apple Inc. INTELLIGENT AUTOMATED ASSISTANT IN A HOME ENVIRONMENT
US10586535B2 (en) 2016-06-10 2020-03-10 Apple Inc. Intelligent digital assistant in a multi-tasking environment
US10490187B2 (en) 2016-06-10 2019-11-26 Apple Inc. Digital assistant providing automated status report
US10620812B2 (en) 2016-06-10 2020-04-14 Apple Inc. Device, method, and graphical user interface for managing electronic communications
US10509862B2 (en) 2016-06-10 2019-12-17 Apple Inc. Dynamic phrase expansion of language input
US10192552B2 (en) 2016-06-10 2019-01-29 Apple Inc. Digital assistant providing whispered speech
US10067938B2 (en) 2016-06-10 2018-09-04 Apple Inc. Multilingual word prediction
DK201670540A1 (en) 2016-06-11 2018-01-08 Apple Inc Application integration with a digital assistant
DK179415B1 (en) 2016-06-11 2018-06-14 Apple Inc Intelligent device arbitration and control
DK179049B1 (en) 2016-06-11 2017-09-18 Apple Inc Data driven natural language event detection and classification
DK179343B1 (en) 2016-06-11 2018-05-14 Apple Inc Intelligent task discovery
DK201670595A1 (en) 2016-06-11 2018-01-22 Apple Inc Configuring context-specific user interfaces
AU2017100670C4 (en) 2016-06-12 2019-11-21 Apple Inc. User interfaces for retrieving contextually relevant media content
US11816325B2 (en) 2016-06-12 2023-11-14 Apple Inc. Application shortcuts for carplay
DK201670580A1 (en) 2016-06-12 2018-01-02 Apple Inc Wrist-based tactile time feedback for non-sighted users
US10010791B2 (en) 2016-06-28 2018-07-03 Hothead Games Inc. Systems and methods for customized camera views and customizable objects in virtualized environments
US10004991B2 (en) 2016-06-28 2018-06-26 Hothead Games Inc. Systems and methods for customized camera views in virtualized environments
KR101726549B1 (ko) * 2016-06-29 2017-04-12 정상문 모바일 실시간 시뮬레이션 게임에서의 터치 조작 방식
AU2017208277B2 (en) 2016-09-06 2018-12-20 Apple Inc. Back of cover touch sensors
US10043516B2 (en) 2016-09-23 2018-08-07 Apple Inc. Intelligent automated assistant
JP6249073B2 (ja) * 2016-09-28 2017-12-20 富士ゼロックス株式会社 情報処理装置及びプログラム
JP6181833B1 (ja) * 2016-09-29 2017-08-16 株式会社ゲオインタラクティブ 画像表示装置及び画像表示用プログラム
US10593346B2 (en) 2016-12-22 2020-03-17 Apple Inc. Rank-reduced token representation for automatic speech recognition
CN106955489B (zh) * 2017-02-14 2018-05-11 网易(杭州)网络有限公司 一种控制手机游戏中信息显示的交互方法及装置
US10386965B2 (en) 2017-04-20 2019-08-20 Apple Inc. Finger tracking in wet environment
US11431836B2 (en) 2017-05-02 2022-08-30 Apple Inc. Methods and interfaces for initiating media playback
US10992795B2 (en) 2017-05-16 2021-04-27 Apple Inc. Methods and interfaces for home media control
DK201770439A1 (en) 2017-05-11 2018-12-13 Apple Inc. Offline personal assistant
US10928980B2 (en) 2017-05-12 2021-02-23 Apple Inc. User interfaces for playing and managing audio items
DK179496B1 (en) 2017-05-12 2019-01-15 Apple Inc. USER-SPECIFIC Acoustic Models
DK179745B1 (en) 2017-05-12 2019-05-01 Apple Inc. SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT
DK201770431A1 (en) 2017-05-15 2018-12-20 Apple Inc. Optimizing dialogue policy decisions for digital assistants using implicit feedback
DK201770432A1 (en) 2017-05-15 2018-12-21 Apple Inc. Hierarchical belief states for digital assistants
DK179560B1 (en) 2017-05-16 2019-02-18 Apple Inc. FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES
US20220279063A1 (en) 2017-05-16 2022-09-01 Apple Inc. Methods and interfaces for home media control
CN111343060B (zh) 2017-05-16 2022-02-11 苹果公司 用于家庭媒体控制的方法和界面
CN110770685B (zh) 2017-06-20 2023-07-07 三菱电机株式会社 触摸输入判定装置、触摸面板输入装置、触摸输入判定方法和记录介质
CN107608621A (zh) * 2017-10-12 2018-01-19 北京元心科技有限公司 触点信息的处理方法、装置和终端
EP3503026A1 (en) 2017-12-20 2019-06-26 Koninklijke Philips N.V. Device, system and method for interacting with vessel images
DK180171B1 (en) 2018-05-07 2020-07-14 Apple Inc USER INTERFACES FOR SHARING CONTEXTUALLY RELEVANT MEDIA CONTENT
TWI666574B (zh) * 2018-05-22 2019-07-21 義隆電子股份有限公司 判斷觸控裝置上之觸控物件力道及觸控事件的方法
JP7004629B2 (ja) * 2018-09-25 2022-01-21 富士フイルム株式会社 画像表示制御装置、画像表示制御装置の作動プログラム、及び作動方法
US20200333925A1 (en) * 2019-04-19 2020-10-22 Microsoft Technology Licensing, Llc System and method for navigating interfaces using touch gesture inputs
US11675476B2 (en) 2019-05-05 2023-06-13 Apple Inc. User interfaces for widgets
DK201970535A1 (en) 2019-05-06 2020-12-21 Apple Inc Media browsing user interface with intelligently selected representative media items
TWI728361B (zh) 2019-05-15 2021-05-21 和碩聯合科技股份有限公司 用於一電子裝置的快速資料瀏覽方法
US10996917B2 (en) 2019-05-31 2021-05-04 Apple Inc. User interfaces for audio media control
US11620103B2 (en) 2019-05-31 2023-04-04 Apple Inc. User interfaces for audio media control
US10996761B2 (en) 2019-06-01 2021-05-04 Apple Inc. User interfaces for non-visual output of time
US11194467B2 (en) 2019-06-01 2021-12-07 Apple Inc. Keyboard management user interfaces
KR20220044591A (ko) * 2020-02-14 2022-04-08 후아웨이 테크놀러지 컴퍼니 리미티드 롤링 디바이스들의 자체-적응형 디스플레이 종횡비 조정기 및 제스처
DK202070612A1 (en) 2020-02-14 2021-10-26 Apple Inc User interfaces for workout content
US11662867B1 (en) 2020-05-30 2023-05-30 Apple Inc. Hover detection on a touch sensor panel
US11416136B2 (en) 2020-09-14 2022-08-16 Apple Inc. User interfaces for assigning and responding to user inputs
US11392291B2 (en) 2020-09-25 2022-07-19 Apple Inc. Methods and interfaces for media control with dynamic feedback
KR20220042558A (ko) * 2020-09-28 2022-04-05 주식회사 딥바이오 병리 이미지 분석 결과 출력 방법 및 이를 수행하는 컴퓨팅 시스템
CN112396590B (zh) * 2020-11-25 2022-07-15 中南大学 一种半自磨入磨矿石块度检测方法、设备及介质
WO2024064235A1 (en) * 2022-09-23 2024-03-28 Apple Inc. Touchscreen jog wheel user interface element

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0448318A (ja) * 1990-06-18 1992-02-18 Sony Corp 情報入力装置
JPH0454523A (ja) * 1990-06-21 1992-02-21 Hitachi Aic Inc タッチパネル
JPH09230993A (ja) * 1996-02-20 1997-09-05 Sharp Corp ジョグダイアルの模擬入力装置
JPH11175258A (ja) * 1997-09-26 1999-07-02 Ericsson Inc インテリジェント型携帯通信装置用タッチ画面ディスプレイを使用する方法および装置
JP2001230992A (ja) * 2000-02-18 2001-08-24 Nidec Copal Corp 画像表示装置及びその制御方法
JP2002501271A (ja) * 1998-01-26 2002-01-15 ウェスターマン,ウェイン 手操作入力を統合する方法および装置
WO2003036457A2 (en) * 2001-10-22 2003-05-01 Apple Computer, Inc. Method and apparatus for accelerated scrolling
JP2003173237A (ja) * 2001-09-28 2003-06-20 Ricoh Co Ltd 情報入出力システム、プログラム及び記憶媒体
JP2003233455A (ja) * 2002-02-06 2003-08-22 Matsushita Electric Ind Co Ltd 情報処理装置
WO2004029789A2 (en) * 2002-09-24 2004-04-08 Koninklijke Philips Electronics N.V. Graphical user interface navigation method and apparatus
WO2004047069A1 (en) * 2002-11-19 2004-06-03 Motorola, Inc., A Corporation Of The State Of Delaware Body-centric virtual interactive apparatus and method
WO2006020305A2 (en) * 2004-07-30 2006-02-23 Apple Computer, Inc. Gestures for touch sensitive input devices

Family Cites Families (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6028271A (en) * 1992-06-08 2000-02-22 Synaptics, Inc. Object position detector with edge motion feature and gesture recognition
US5612719A (en) 1992-12-03 1997-03-18 Apple Computer, Inc. Gesture sensitive buttons for graphical user interfaces
JPH07230352A (ja) * 1993-09-16 1995-08-29 Hitachi Ltd タッチ位置検出装置及びタッチ指示処理装置
US5583946A (en) 1993-09-30 1996-12-10 Apple Computer, Inc. Method and apparatus for recognizing gestures on a computer system
JP3546337B2 (ja) * 1993-12-21 2004-07-28 ゼロックス コーポレイション 計算システム用ユーザ・インタフェース装置及びグラフィック・キーボード使用方法
US5798760A (en) * 1995-06-07 1998-08-25 Vayda; Mark Radial graphical menuing system with concentric region menuing
JPH09146708A (ja) * 1995-11-09 1997-06-06 Internatl Business Mach Corp <Ibm> タッチパネルの駆動方法及びタッチ入力方法
US5825308A (en) * 1996-11-26 1998-10-20 Immersion Human Interface Corporation Force feedback interface having isotonic and isometric functionality
US5825352A (en) * 1996-01-04 1998-10-20 Logitech, Inc. Multiple fingers contact sensing method for emulating mouse buttons and mouse operations on a touch sensor pad
US5874948A (en) 1996-05-28 1999-02-23 International Business Machines Corporation Virtual pointing device for touchscreens
JPH1039748A (ja) * 1996-07-18 1998-02-13 Koonet:Kk 電子式地図システム、それを用いた情報提供装置及び記憶媒体
JPH1173271A (ja) * 1997-08-28 1999-03-16 Sharp Corp 指示装置、処理装置および記憶媒体
JPH11133816A (ja) * 1997-10-27 1999-05-21 Canon Inc 画像形成装置、設定情報入力方法および記憶媒体
US7663607B2 (en) 2004-05-06 2010-02-16 Apple Inc. Multipoint touchscreen
US6211856B1 (en) * 1998-04-17 2001-04-03 Sung M. Choi Graphical user interface touch screen with an auto zoom feature
US6278443B1 (en) * 1998-04-30 2001-08-21 International Business Machines Corporation Touch screen with random finger placement and rolling on screen to control the movement of information on-screen
US6429846B2 (en) * 1998-06-23 2002-08-06 Immersion Corporation Haptic feedback for touchpads and other touch controls
US20020018051A1 (en) * 1998-09-15 2002-02-14 Mona Singh Apparatus and method for moving objects on a touchscreen display
JP4542637B2 (ja) * 1998-11-25 2010-09-15 セイコーエプソン株式会社 携帯情報機器及び情報記憶媒体
JP2000163193A (ja) * 1998-11-25 2000-06-16 Seiko Epson Corp 携帯情報機器及び情報記憶媒体
US6246395B1 (en) * 1998-12-17 2001-06-12 Hewlett-Packard Company Palm pressure rejection method and apparatus for touchscreens
US6639584B1 (en) * 1999-07-06 2003-10-28 Chuang Li Methods and apparatus for controlling a portable electronic device using a touchpad
JP2001134382A (ja) * 1999-11-04 2001-05-18 Sony Corp 図形処理装置
JP4803883B2 (ja) * 2000-01-31 2011-10-26 キヤノン株式会社 位置情報処理装置及びその方法及びそのプログラム。
JP2001356878A (ja) * 2000-06-14 2001-12-26 Hitachi Ltd アイコン制御方法
JP4543513B2 (ja) * 2000-07-17 2010-09-15 ソニー株式会社 双方向通信システム、表示装置、ベース装置および双方向通信方法
US6570557B1 (en) * 2001-02-10 2003-05-27 Finger Works, Inc. Multi-touch system and method for emulating modifier keys via fingertip chords
JP4686886B2 (ja) * 2001-04-06 2011-05-25 ソニー株式会社 情報処理装置
JP2003123992A (ja) 2001-10-17 2003-04-25 Ushio Inc キセノン放電ランプ点灯装置
US7084856B2 (en) 2001-10-22 2006-08-01 Apple Computer, Inc. Mouse having a rotary dial
US7345671B2 (en) * 2001-10-22 2008-03-18 Apple Inc. Method and apparatus for use of rotational user inputs
GB0201074D0 (en) * 2002-01-18 2002-03-06 3G Lab Ltd Graphic user interface for data processing device
JP3847641B2 (ja) * 2002-02-28 2006-11-22 株式会社ソニー・コンピュータエンタテインメント 情報処理装置、情報処理プログラム、情報処理プログラムを記録したコンピュータ読み取り可能な記録媒体、及び情報処理方法
US7466307B2 (en) * 2002-04-11 2008-12-16 Synaptics Incorporated Closed-loop sensor on a solid-state object position detector
US20030193481A1 (en) * 2002-04-12 2003-10-16 Alexander Sokolsky Touch-sensitive input overlay for graphical user interface
US8570277B2 (en) * 2002-05-16 2013-10-29 Sony Corporation Inputting method and inputting apparatus
US7789756B2 (en) * 2002-09-13 2010-09-07 Igt Wagering gaming device having simulated control of movement of game functional elements
KR20040057131A (ko) * 2002-12-24 2004-07-02 삼성전자주식회사 터치스크린에서 지정위치 확대 기능을 갖는 휴대용 모바일기기 및 그 확대 방법
US7337634B2 (en) * 2003-01-09 2008-03-04 General Electric Company Washer/dryer touch sensitive graphical user interface
US7411575B2 (en) * 2003-09-16 2008-08-12 Smart Technologies Ulc Gesture recognition method and touch system incorporating the same

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0448318A (ja) * 1990-06-18 1992-02-18 Sony Corp 情報入力装置
JPH0454523A (ja) * 1990-06-21 1992-02-21 Hitachi Aic Inc タッチパネル
JPH09230993A (ja) * 1996-02-20 1997-09-05 Sharp Corp ジョグダイアルの模擬入力装置
JPH11175258A (ja) * 1997-09-26 1999-07-02 Ericsson Inc インテリジェント型携帯通信装置用タッチ画面ディスプレイを使用する方法および装置
JP2002501271A (ja) * 1998-01-26 2002-01-15 ウェスターマン,ウェイン 手操作入力を統合する方法および装置
JP2001230992A (ja) * 2000-02-18 2001-08-24 Nidec Copal Corp 画像表示装置及びその制御方法
JP2003173237A (ja) * 2001-09-28 2003-06-20 Ricoh Co Ltd 情報入出力システム、プログラム及び記憶媒体
WO2003036457A2 (en) * 2001-10-22 2003-05-01 Apple Computer, Inc. Method and apparatus for accelerated scrolling
JP2003233455A (ja) * 2002-02-06 2003-08-22 Matsushita Electric Ind Co Ltd 情報処理装置
WO2004029789A2 (en) * 2002-09-24 2004-04-08 Koninklijke Philips Electronics N.V. Graphical user interface navigation method and apparatus
WO2004047069A1 (en) * 2002-11-19 2004-06-03 Motorola, Inc., A Corporation Of The State Of Delaware Body-centric virtual interactive apparatus and method
WO2006020305A2 (en) * 2004-07-30 2006-02-23 Apple Computer, Inc. Gestures for touch sensitive input devices

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103460164A (zh) * 2012-02-03 2013-12-18 松下电器产业株式会社 触觉提示装置以及触觉提示装置的驱动方法、驱动程序
CN103460164B (zh) * 2012-02-03 2017-02-08 松下知识产权经营株式会社 触觉提示装置以及触觉提示装置的驱动方法

Also Published As

Publication number Publication date
KR20090050109A (ko) 2009-05-19
KR100958491B1 (ko) 2010-05-17
EP2000894B1 (en) 2016-10-19
JP2008508601A (ja) 2008-03-21
EP3121697A1 (en) 2017-01-25
EP1774429A2 (en) 2007-04-18
JP2008508600A (ja) 2008-03-21
CN103365595B (zh) 2017-03-01
JP2010170573A (ja) 2010-08-05
KR101128572B1 (ko) 2012-04-23
EP2000893A2 (en) 2008-12-10
DE202005021492U1 (de) 2008-05-08
EP2000894A2 (en) 2008-12-10
EP1774429B1 (en) 2018-06-06
EP2000893B1 (en) 2016-09-21
CN103365595A (zh) 2013-10-23
KR101270847B1 (ko) 2013-06-05
EP2000894A3 (en) 2009-01-14
DE202005021427U1 (de) 2008-02-14
KR20120014067A (ko) 2012-02-15
KR20070039613A (ko) 2007-04-12
WO2006020305A3 (en) 2007-05-24
JP5456529B2 (ja) 2014-04-02
KR100984596B1 (ko) 2010-09-30
KR20080096593A (ko) 2008-10-30
EP2000893A3 (en) 2009-01-14
WO2006020305A2 (en) 2006-02-23

Similar Documents

Publication Publication Date Title
JP4763695B2 (ja) タッチ・センシティブ入力デバイスのためのモード・ベースのグラフィカル・ユーザ・インタフェース
KR100958490B1 (ko) 사용자 인터페이스 방법, 미디어 항목들을 통해 스크롤하는방법, 디스플레이 및 터치 스크린을 갖는 사용자-조작되는전자 장치 상에서 수행되는 방법, 디스플레이 및 터치감지 입력 장치를 갖는 컴퓨팅 장치 상에서 수행되는 방법,컴퓨팅 시스템, 컴퓨팅 장치, 터치 감지 장치를 통해플로팅 컨트롤을 기동시키는 컴퓨터 구현 방법 및 컴퓨터구현 방법
US8239784B2 (en) Mode-based graphical user interfaces for touch sensitive input devices
US8686962B2 (en) Gestures for controlling, manipulating, and editing of media files using touch sensitive devices
AU2011253700B2 (en) Gestures for controlling, manipulating, and editing of media files using touch sensitive devices

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20080124

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20080124

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081027

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090127

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091124

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100222

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100301

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100324

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100720

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20101019

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20101026

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20101122

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20101130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110523

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110609

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140617

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4763695

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D02

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees