JP2014526107A - タッチ・インテリジェント・ターゲッティング - Google Patents

タッチ・インテリジェント・ターゲッティング Download PDF

Info

Publication number
JP2014526107A
JP2014526107A JP2014524996A JP2014524996A JP2014526107A JP 2014526107 A JP2014526107 A JP 2014526107A JP 2014524996 A JP2014524996 A JP 2014524996A JP 2014524996 A JP2014524996 A JP 2014524996A JP 2014526107 A JP2014526107 A JP 2014526107A
Authority
JP
Japan
Prior art keywords
point
display
indication
objects
computing device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014524996A
Other languages
English (en)
Other versions
JP5847939B2 (ja
JP2014526107A5 (ja
Inventor
アンダーソン,ジェン
クリスチャン ブラウン,エリック
ティード,ジェニファー
プレドヴィック,ゴラン
エドワード ジェームズ,ブルース
スー,フェイ
リッペルト,メイベル
アグラワル,ムディット
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2014526107A publication Critical patent/JP2014526107A/ja
Publication of JP2014526107A5 publication Critical patent/JP2014526107A5/ja
Application granted granted Critical
Publication of JP5847939B2 publication Critical patent/JP5847939B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

ユーザー入力は、ディスプレイ上のある位置をターゲットとするユーザーの意図を示すことができる。ユーザー入力に基づいて、ターゲットとされる点を決定するために、コンピューティング装置は、少なくとも一つの点の指示、幅の指示および高さの指示を受領できる。コンピューティング装置は、前記少なくとも一つの点の指示、前記幅の指示および前記高さの指示に基づいて前記ディスプレイの一部分を推定することができる。コンピューティング装置はまた、前記少なくとも一つの点の位置に基づいてかつ前記ディスプレイの前記推定された部分内の前記一つまたは複数のオブジェクトの一部の位置に基づいて、ターゲットとされている点を決定することができる。

Description

本願の主題は、表示されたユーザー・インターフェースとのユーザー対話に関する。
コンピュータ・システムは、キーボード、モニタおよびマウスのような、ユーザーがコンピュータ・システムと対話し、ユーザー・インターフェースの諸側面を制御することを許容する周辺装置を含むことができる。マウス、スタイラスなどのようないくつかの周辺装置は、ユーザーが、表示されるユーザー・インターフェースを制御するための精密な入力をすることを許容する。しかしながら、タッチスクリーン・ディスプレイ、タッチパッド、動き感応性カメラなどといった他の装置はある種の事例においてユーザーにとってよりアクセスしやすいが、ユーザー入力の精密さはずっと低下する。タッチスクリーン・ディスプレイ、タッチパッドおよび同様のユーザー入力装置は、モニタ、ラップトップ・コンピュータ、テーブル・コンピュータ、携帯電話、ポイントオブセール・キオスクなどといったいくつもの装置に含まれることができる。
タッチスクリーン、タッチパッドおよび動き感応性カメラ装置のさまざまな実装に関する一つの問題は、ユーザーがどのオブジェクトをターゲットとしようと意図しているかをいかにして判別するかである。ユーザー・インターフェースを制御するためにマウスを使う場合には、マウス・ポインタが画面上の特定の点を示す。マウス・ポインタによって指示される点は、タッチスクリーン上のユーザーの指よりずっと精密である。しかしながら、マウスの使用は、携帯電話、タブレット・コンピュータなどといったある種の装置に関しては望ましくないまたは現実的ではない。マウスとは対照的に、タッチスクリーン・ディスプレイの精密さはずっと低い。ユーザーがタッチスクリーン・ディスプレイにタッチするとき、ユーザーがどの点をターゲットとしようと意図しているかが明確ではないことがある。これは、ユーザーの指がタッチスクリーン・ディスプレイ上のどの一点よりもずっと大きいから、あるいは指が関心対象要素の良好なビューを隠蔽して、ユーザーの精密さ誤差を高めることがあるからである。
本稿に開示される発明は、ディスプレイ上に示されるオブジェクトに基づいてターゲットとされている点を決定することに向けられる。ある実施形態では、ディスプレイ上に示されるオブジェクトに基づいてターゲットとされている点を決定する方法は、第一の点の指示、幅の指示および高さの指示を受領する段階と、前記第一の点の指示、前記幅の指示および前記高さの指示に基づいて前記ディスプレイの一部分を推定する段階と、前記ディスプレイの推定された部分内に一つまたは複数のオブジェクトの少なくとも一部分が位置することを判別する段階と、前記第一の点の位置に基づいてかつ前記ディスプレイの前記推定された部分内の前記一つまたは複数のオブジェクトの前記部分に基づいて、前記一つまたは複数のオブジェクトのうちからターゲットとされているオブジェクトを決定する段階とを含む。ユーザー入力は、タッチスクリーン・ディスプレイのタッチ、タッチパネル・デバイスのタッチ、動き感応性カメラによって感知されるジェスチャーまたは他のユーザー入力装置であることができる。
もう一つの実施形態では、システムが、一つまたは複数のオブジェクトを表示するよう構成されたディスプレイ装置とコンピューティング装置とを含む。前記コンピューティング装置は、第一の点の指示、第二の点の指示、幅の指示および高さの指示を受領する段階と、前記第二の点の指示、前記幅の指示および前記高さの指示に基づいて前記ディスプレイの一部分を推定する段階と、前記ディスプレイの推定された部分内に一つまたは複数のオブジェクトの少なくとも一部分が位置することを判別する段階と、前記第一の点の位置に基づいてかつ前記ディスプレイの前記推定された部分内の前記一つまたは複数のオブジェクトの前記部分に基づいて、前記一つまたは複数のオブジェクトのうちからターゲットとされているオブジェクトを決定する段階とを実行するよう構成されている。
さらにもう一つの実施形態では、命令を具現するコンピュータ可読媒体の命令が、第一の点の指示、第二の点の指示、幅の指示および高さの指示を受領するための命令と、前記第二の点の指示、前記幅の指示および前記高さの指示に基づいて前記ディスプレイの一部分を推定するための命令と、前記ディスプレイの推定された部分内に一つまたは複数のオブジェクトの少なくとも一部分が位置することを判別するための命令と、前記第一の点の位置に基づいてかつ前記ディスプレイの前記推定された部分内の前記一つまたは複数のオブジェクトの前記部分に基づいて、前記一つまたは複数のオブジェクトのうちからターゲットとされているオブジェクトを決定する段階とを含む。
本発明の実施形態が実装されうる例示的な汎用コンピューティング環境を描く図である。 AおよびBは、コンピューティング装置およびタッチスクリーン・ディスプレイの例示的な実施形態を描く図である。 A〜Cは、タッチスクリーン・ディスプレイの例示的な実施形態および該タッチスクリーン・ディスプレイとの例示的なユーザー対話を描く図である。 A〜Dは、タッチスクリーン・ディスプレイによって与えられるデータの実施形態およびユーザーの指とタッチスクリーン・ディスプレイとの間の接触領域の推定の実施形態を描く図である。 A〜Dは、タッチスクリーン・ディスプレイとの例示的なユーザー対話およびユーザーとタッチスクリーン・ディスプレイとの間の接触領域の推定の実施形態を描く図である。 タッチスクリーン・ディスプレイによって与えられるデータの追加的な実施形態およびディスプレイの一部分の推定の実施形態を描く図である。 ターゲットとされる点を決定するさまざまな実施形態を描く図の一つである。 ターゲットとされる点を決定するさまざまな実施形態を描く図の一つである。 ターゲットとされる点を決定するさまざまな実施形態を描く図の一つである。 ターゲットとされる点を決定するさまざまな実施形態を描く図の一つである。 ターゲットとされる点を決定するさまざまな実施形態を描く図の一つである。 ターゲットとされる点を決定するさまざまな実施形態を描く図の一つである。 ターゲットとされる点を決定する追加的な実施形態を描く図の一つである。 ターゲットとされる点を決定する追加的な実施形態を描く図の一つである。 ターゲットとされる点を決定する追加的な実施形態を描く図の一つである。 ターゲットとされる点を決定する追加的な実施形態を描く図の一つである。 複数のフレームワークを描くタッチスクリーン・ディスプレイの実施形態およびユーザーとタッチスクリーン・ディスプレイとの間の接触領域、ディスプレイの推定される部分が複数のフレームワークの諸部分にまたがるときに、ターゲットとされる点を決定する実施形態を描く図の一つである。 複数のフレームワークを描くタッチスクリーン・ディスプレイの実施形態およびユーザーとタッチスクリーン・ディスプレイとの間の接触領域、ディスプレイの推定される部分が複数のフレームワークの諸部分にまたがるときに、ターゲットとされる点を決定する実施形態を描く図の一つである。 AおよびBは、ユーザーがタッチスクリーン・ディスプレイにタッチし、タッチスクリーン・ディスプレイとの接触を維持しながらユーザーとタッチスクリーンとの間の接触点を動かす実施形態を描く図である。 ターゲットとされるオブジェクトの決定のある実施形態に基づく方法の表現を描く図である。 ターゲットとされる点の決定につながるイベントの例示的なシーケンスの表現を描く図である。 コンピューティング装置がディスプレイの一部分を推定するためにディスプレイによって報告される幾何構造を使うかまたはコンピューティング装置がディスプレイの一部分を推定するためにシミュレートされた幾何構造を使うかを決定する方法を描く図である。
本発明の実施形態は、一つまたは複数のコンピュータ・システム上で実行されうる。図1および以下の議論は、本発明の実施形態が実装されうる好適なコンピューティング環境の簡単な一般的記述を与えることを意図したものである。
図1は、例示的な汎用コンピューティング・システムを描いている。本汎用コンピューティング・システムは、処理ユニット21を含む、通常のコンピュータ20などを含んでいてもよい。処理ユニット21は一つまたは複数のプロセッサを有していてもよく、そのそれぞれは一つまたは複数の処理コアを有していてもよい。二つ以上の処理コアをもつプロセッサがしばしば呼ばれるところのマルチコア・プロセッサは、単一チップ・パッケージ内に含まれる複数のプロセッサを有する。
コンピュータ20はグラフィック処理ユニット(GPU)90をも有していてもよい。GPU 90は、コンピュータ・グラフィックを扱うよう最適化された特化されたマイクロプロセッサである。処理ユニット21は仕事をGPU 90に委託してもよい。GPU 90はそれ自身のグラフィック・メモリを有していてもよいし、および/またはシステム・メモリ22の一部へのアクセスを有していてもよい。処理ユニット21と同様に、GPU 90はそれぞれが一つまたは複数のコアをもつ一つまたは複数の処理ユニットを有していてもよい。
コンピュータ20はシステム・メモリ22と、システムが動作状態にあるときにシステム・メモリ22を含むさまざまなシステム・コンポーネントを処理ユニット21に通信上結合するシステム・バス23をも有していてもよい。システム・メモリ22は読み出し専用メモリ(ROM)24およびランダム・アクセス・メモリ(RAM)25を含むことができる。スタートアップ時などにコンピュータ20内の要素間で情報を転送する助けとなる基本ルーチンを含んでいる基本入出力システム26(BIOS)がROM 24に記憶されている。システム・バス23は、メモリ・バスまたはメモリ・コントローラ、周辺バスまたはローカル・バスを含むいくつかの型のバス構造のいずれであってもよく、多様なバス・アーキテクチャの任意のものを実装する。処理ユニット21とは独立にメモリからの読み出しおよび/またはメモリへの書き込みをするよう構成されている直接メモリアクセス(DMA)コントローラ80がシステム・バス23に結合されていてもよい。さらに、記憶ドライブI/F 32または磁気ディスク・ドライブI/F 33のようなシステム・バス23に接続された装置も、DMAコントローラ80を使うことなく、処理ユニット21と独立にメモリからの読み出しおよび/またはメモリへの書き込みをするよう構成されていてもよい。
コンピュータ20はさらに、ハードディスク(図示せず)または半導体ディスク(SSD)(図示せず)からの読み出しおよびそれらへの書き込みのための記憶ドライブ27、リムーバブル磁気ディスク29からの読み出しまたはそれへの書き込みのための磁気ディスク・ドライブ28およびCD-ROMまたは他の光学メディアのようなリムーバブル光ディスク31からの読み出しまたはそれへの書き込みのための光ディスク・ドライブ30を含んでいてもよい。ハードディスク・ドライブ27、磁気ディスク・ドライブ28および光ディスク・ドライブ30は、それぞれハードディスク・ドライブ・インターフェース32、磁気ディスク・ドライブ・インターフェース33および光ディスク・ドライブ・インターフェース34によってシステム・バス23に接続されるものとして示されている。ドライブおよび関連するコンピュータ可読記憶媒体は、コンピュータ20のためのコンピュータ可読命令、データ構造、プログラム・モジュールおよび他のデータの不揮発性記憶を提供する。
本稿に記載される例示的な実施形態は、ハードディスク、リムーバブル磁気ディスク29およびリムーバブル光ディスク31のような記憶媒体を描いているが、そうした記憶媒体は存在していなくてもよく、あるいはさまざまな実施形態において必要とされなくてもよいことは当業者には理解されるはずである。さらに、コンピュータによってアクセス可能なデータを記憶することができる、コンピュータ可読媒体の他の型が用いられてもよい。たとえば、フラッシュメモリカード、デジタルビデオディスクまたはデジタル多用途ディスク(DVD)、ランダム・アクセス・メモリ(RAM)、読み出し専用メモリ(ROM)なども例示的な動作環境において使用されてもよい。一般に、そのようなコンピュータ可読記憶媒体は、本開示の諸側面を具現するプロセッサ実行可能な命令を記憶するためにいくつかの実施形態において使用されることができる。コンピュータ20はまた、小型コンピュータ・システム・インターフェース(SCSI)バス56を介して記憶装置62に接続するホスト・アダプター55を有していてもよい。
オペレーティング・システム35、一つまたは複数のアプリケーション・プログラム36、他のプログラム・モジュール37およびプログラム・データ38を含む、コンピュータ可読命令を含むいくつかのプログラム・モジュールが、ハードディスク、磁気ディスク29、光ディスク31、ROM 24またはRAM 25のようなコンピュータ可読媒体上に記憶されていてもよい。処理ユニットによる実行時に、コンピュータ可読命令は、下記でより詳細に記述されるアクションを実行させるまたはさまざまなプログラム・モジュールをインスタンス生成させる。ユーザーは、キーボード40およびポインタ・デバイス42のような入力装置を通じてコンピュータ20にコマンドおよび情報を入力してもよい。ポインタ・デバイス42はマウス、タッチパッド、タッチスクリーン、ユーザー動きを感知するカメラなどであることができる。他の入力装置(図示せず)はマイクロホン、ジョイスティック、ゲームパッド、衛星ディスク、スキャナなどを含んでいてもよい。これらおよび他の入力装置はしばしば、システム・バスに結合されているシリアル・ポート・インターフェース46を通じて処理ユニット21に接続されるが、パラレル・ポート、ゲーム・ポートまたはユニバーサル・シリアル・バス(USB)のような他のインターフェースによって接続されていてもよい。ディスプレイ47または他の型の表示装置もビデオ・アダプター48のようなインターフェースを介してシステム・バス23に結合されることができる。ディスプレイ47に加えて、コンピュータは典型的には、スピーカーおよびプリンタのような他の周辺出力装置(図示せず)を含む。
コンピュータ20は、リモート・コンピュータ49のような一つまたは複数のリモート・コンピュータへの論理的接続を使ってネットワーク接続された環境において動作してもよい。リモート・コンピュータ49は別のコンピュータ、サーバー、ルータ、ネットワークPC、ピア装置または他の一般的なネットワーク・ノードであってもよく、典型的にはコンピュータ20に関して上記した要素の多くまたは全部を含むことができる。ただし、メモリ記憶装置50のみが図1に示されている。図1に描かれている論理的接続はローカル・エリア・ネットワーク(LAN)51および広域ネットワーク(WAN)52を含むことができる。そのようなネットワーキング環境は、オフィス、企業規模のコンピュータ・ネットワーク、イントラネットおよびインターネットにおいて一般的なものである。
LANネットワーキング環境において使われるとき、コンピュータ20はネットワーク・インターフェースまたはアダプター53を通じてLAN 51に接続されることができる。WANネットワーキング環境において使われるとき、コンピュータ20は典型的にはモデム54またはインターネットなどの広域ネットワーク52を通じて通信を確立するための他の手段を含むことができる。内蔵でも外付けでもよいモデム54は、シリアル・ポート・インターフェース46を介してシステム・バス23に接続されることができる。あるネットワーク接続された環境では、コンピュータ20またはその一部に対して描かれているプログラム・モジュールがリモート・メモリ記憶装置に記憶されてもよい。図示したネットワーク接続は例示的なものであり、コンピュータ間の通信リンクを確立する他の手段が使用されてもよいことは理解されるであろう。
コンピュータ20がネットワーク接続された環境において動作するよう構成される実施形態では、OS 35はネットワーク上でリモートに記憶され、コンピュータ20は、ローカルに記憶されたOSからブートするのではなく、このリモートに記憶されたOSをネットブートしてもよい。ある実施形態では、コンピュータ20は、OS 35がフルOSよりも少なく、ネットワーク接続およびモニタ47上などでの表示出力を扱うよう構成されたカーネルであるシンクライアントである。
ここで図2のAを参照するに、モバイル・コンピューティング装置200のある実施形態が描かれている。モバイル・コンピューティング装置200は携帯電話、携帯情報端末(personal data assistant)または他の同様の装置であることができる。モバイル・コンピューティング装置200は筐体210内にコンピューティング装置(図示せず)を含むことができる。モバイル装置200内のコンピューティング装置は、図1に関して記述されるコンピュータ20と同様であり、処理ユニット21、システム・メモリ22、記憶ドライブ27などといったコンピュータ20のコンポーネントの一部または全部を含むことができる。筐体210は複数のボタン211を含むことができる。モバイル・コンピューティング装置200はタッチスクリーン・ディスプレイ220をも含むことができる。タッチスクリーン・ディスプレイ220は、図1に関して上述したポインタ・デバイス42と同様のポインタ・デバイスの実施形態である。タッチスクリーン・ディスプレイ220は、対話可能なオブジェクト221および非対話可能なオブジェクト222の両方を表示できる。ユーザーは、オブジェクト221のうちの一つの選択など、実行されるべき所望されるアクションを示すために、タッチスクリーン・ディスプレイ220にタッチすることができる。タッチスクリーン・ディスプレイ220は、容量式のタッチスクリーン・ディスプレイまたは抵抗式のタッチスクリーン・ディスプレイであることができる。
ここで図2のBを参照するに、システム200のある実施形態が描かれている。システム200は、コンピュータ260およびモニタ270を含む。コンピュータ260は図1に関して記述されているコンピュータ20と同様であり、処理ユニット21、システム・メモリ22、記憶ドライブ27などといったコンピュータ20のコンポーネントの一部または全部を含むことができる。モニタ270はタッチスクリーン・ディスプレイ271をも含むことができる。タッチスクリーン・ディスプレイ271は、図1に関して上述したポインタ・デバイス42と同様のポインタ・デバイスの実施形態である。タッチスクリーン・ディスプレイ271は両方のオブジェクト272を表示することができる。ユーザーは、オブジェクト272のうちの一つの選択など、実行されるべき所望されるアクションを示すために、タッチスクリーン・ディスプレイ272にタッチすることができる。
ここで図3のAを参照するに、三つのオブジェクト301、302および303を表示しているタッチスクリーン・ディスプレイ300の実施形態が描かれている。図3のAに示した実施形態では、ユーザーは指310でタッチスクリーン・ディスプレイ300に触れる。図3のAの描画は、タッチスクリーン・ディスプレイを使うユーザーにとっての困難の一つを示している。ユーザーがタッチスクリーン・ディスプレイ300にタッチしようとする際、ユーザーの指310がタッチされようとしているタッチスクリーン・ディスプレイ300の部分を隠蔽してしまう。タッチスクリーン・ディスプレイ300のユーザーのビューが隠蔽されるので、ユーザーは、タッチスクリーン・ディスプレイ300のどの部分が実際にタッチされるかがわからない。
ここで図3のBを参照するに、タッチスクリーン・ディスプレイ300およびユーザーの指310の図が示されており、ユーザーの指310は透明なものとして示されている。ユーザーがタッチスクリーン・ディスプレイ300にタッチするとき、タッチスクリーン・ディスプレイ300はタッチ点320を決定する。タッチ点320はタッチスクリーン・ディスプレイ300が、ユーザーがタッチスクリーン・ディスプレイ300をタッチすることによってターゲットとしたと解釈する点である。ユーザーがタッチスクリーン・ディスプレイ300にタッチするとき、タッチスクリーン・ディスプレイ300はタッチ点320の指示をコンピューティング装置に送ることができる。タッチ点320の指示は、デカルト座標(x,y)、極座標(r,θ)の形または二次元平面上で点を指定する情報の他の任意の形を取ることができる。
ここで図3のCを参照するに、オブジェクト301、302および303ならびにタッチ点320を示しているタッチスクリーン・ディスプレイ300の図が示されている。ユーザーの指310がタッチスクリーン・ディスプレイ300に実際に接触した実際の接触領域330の輪郭も描かれている。ユーザーとタッチスクリーン・ディスプレイとの間の接触領域は、複数のオブジェクトの諸部分をカバーできる。図3のCに描かれる例では、実際の接触領域330はオブジェクト301、302および303のそれぞれの一部をカバーする。しかしながら、タッチスクリーン・ディスプレイ300によって決定されるタッチ点320はオブジェクト301、302および303のどれの上にも位置しない。よって、図3のA〜Cに描かれる例では、ユーザーの指310が実際には三つのオブジェクト301、302および303のそれぞれの一部の上でタッチスクリーン・ディスプレイ300にタッチしたとしても、タッチ点320は実際にはどのオブジェクトの上にも位置しない。コンピューティング装置は、タッチ点を、タッチスクリーン・ディスプレイと接触するときにユーザーがターゲットとした点として解釈することができる。そのような状況では、コンピューティング装置はユーザーによるタッチスクリーン・ディスプレイ300のタッチを、オブジェクト301、302および303のいずれをターゲットとしたものとも解釈しない。タッチ点320が、オブジェクト301、302および303のいずれの上でもない位置にあるからである。
図3のA〜Cに関して述べたように、タッチスクリーン・ディスプレイはタッチスクリーン・ディスプレイに対するユーザーのタッチを検出することができ、そのユーザーのタッチに基づいてタッチ点を決定することができる。タッチスクリーン・ディスプレイは、デカルト座標(x,y)の形のタッチ点の指示をコンピューティング装置に提供できる。図4のAは、タッチスクリーン・ディスプレイがコンピューティング装置に、タッチ点Tの指示のほかはいかなる情報も提供しないときにコンピューティング装置に利用可能な情報を描いている。描かれているように、タッチスクリーン・ディスプレイがコンピューティング装置にタッチ点Tの指示のほかはいかなる情報も送らないときは、コンピューティング装置は、デカルト平面上でのタッチ点Tの位置以外には、ユーザーによるタッチスクリーン・ディスプレイのタッチについてそれ以上のことは知らない。
図4のBは、タッチスクリーン・ディスプレイによって提供されることのできるデータのもう一つの実施形態を描いている。タッチ点Tの情報を提供することに加えて、タッチスクリーン・ディスプレイは中心点Cの指示をも提供できる。中心点Cは、タッチスクリーン・ディスプレイとユーザーの指との間の接触領域の中心にある点の近似であることができる。対照的に、タッチ点Tは、ユーザーがターゲットとすることを意図した点の推定としてタッチスクリーン・ディスプレイによって選択される点である。中心点Cとタッチ点Tは、図4のBに描かれるように異なる位置であることができ、あるいは同じ位置であることができる。ある実施形態では、タッチ点Tの位置は中心点Cの位置および固定オフセットに基づいて決定されることができる。たとえば、タッチ点Tの位置は、中心点Cの位置の2ミリメートル上である位置として決定されることができる。
図4のCは、タッチスクリーン・ディスプレイによって提供されることのできるデータのもう一つの実施形態ならびにユーザーとタッチスクリーン・ディスプレイとの間の接触に基づいてディスプレイの一部を推定することのある実施形態を描いている。図4のCに描かれた実施形態では、タッチスクリーン・ディスプレイはコンピューティング装置にタッチ点Tの指示、中心点Cの指示、高さHの指示および幅Wの指示を提供する。タッチ点Tおよび中心点Cは図4のAおよびBに関して記述された点と同様であることができる。幅は、ユーザーがタッチスクリーン・ディスプレイにタッチする最も左の点とユーザーがタッチスクリーン・ディスプレイにタッチする最も右の点との間の水平距離であることができる。同様に、高さは、ユーザーがタッチスクリーン・ディスプレイにタッチする最上点とユーザーがタッチスクリーン・ディスプレイにタッチする最下点との間の垂直距離であることができる。コンピューティング装置は、ユーザーの指とタッチスクリーン・ディスプレイとの間のディスプレイの一部410を、中心点Cの指示、高さHの指示および幅Wの指示に基づいて推定することができる。図4のCに描かれた実施形態では、ディスプレイの推定される部分410は、中心点Cを中心として、幅Wおよび高さHをもつ長方形である。ディスプレイの推定される部分410の長方形の形状は、ユーザーの指とタッチスクリーン・ディスプレイとの間の接触領域の正確な形ではない可能性が高いが、以下でより詳しく論じるような、ターゲットとされるオブジェクトを決定するために使用できる実際の接触領域の推定ではある。ディスプレイの推定される部分410は図4のCに描かれるように中心点Cを中心とすることができるが、ディスプレイの推定される部分410がタッチ点Tを中心とすることも可能である。後者の場合、コンピューティング装置はタッチ点Tの指示、高さHの指示および幅Wの指示に基づいてディスプレイの推定される部分を決定することが可能である。
図4のDは、ディスプレイの一部分の推定のもう一つの実施形態を示している。タッチスクリーン・ディスプレイはコンピューティング装置にタッチ点Tの指示、中心点Cの指示、高さHの指示および幅Wの指示を提供する。この実施形態では、コンピューティング装置は、中心点Cを中心とし、幅Wおよび高さHをもつ楕円であるディスプレイの部分420を推定する。ディスプレイの推定される部分420の楕円形の形状は、図4のCにおける長方形近似よりもユーザーの指とタッチスクリーン・ディスプレイとの間の実際の接触領域のより近い近似となりうる。しかしながら、ディスプレイの楕円形の推定部分420はいまだユーザーの指とタッチスクリーン・ディスプレイとの間の実際の接触領域の近似である。図4のCに描かれる長方形や図4のDに描かれる楕円以外の他の形が、ディスプレイの一部を推定するまたはユーザーの指とタッチスクリーン・ディスプレイとの間の接触領域を推定するために使われてもよい。
ここで図5のA〜Dを参照するに、ユーザーの指とタッチスクリーン・ディスプレイとの間の接触の二つの事例ならびにコンピューティング装置によるディスプレイの一部の対応する推定が描かれている。図5のAでは、ユーザーの指510はユーザーの指510の先端付近でタッチスクリーン・ディスプレイ520に接触する。この実施形態のような状況のもとでは、ユーザーの指510とタッチスクリーン・ディスプレイ520との間の接触領域の幅がその高さより大きいことが可能である。図5のBは、コンピューティング装置による、ユーザーの指510とタッチスクリーン・ディスプレイ520との間のディスプレイ530の一部の推定が描かれている。コンピューティング装置はタッチ点Tの指示、中心点Cの指示、高さHの指示および幅Wの指示をタッチスクリーン・ディスプレイ520から受領することができる。ユーザーの指510とタッチスクリーン・ディスプレイ520との間の接触領域の幅がその高さより大きいので、Hの値がWの値より大きい。Hの値がWの値より大きいので、コンピューティング装置が推定するディスプレイ530の楕円形の部分は高さより幅が大きくなる。
図5のCでは、ユーザーの指540はユーザーの指540の腹のより近くでタッチスクリーン・ディスプレイ550に接触する。こうした状況のもとでは、ユーザーの指540とタッチスクリーン・ディスプレイ550との間の接触領域の高さがその幅さより大きいことが可能である。図5のDは、コンピューティング装置による、図5のCに描かれるユーザーの指540とタッチスクリーン・ディスプレイ550との間のディスプレイの一部の推定を描いている。コンピューティング装置はタッチ点Tの指示、中心点Cの指示、高さHの指示および幅Wの指示をタッチスクリーン・ディスプレイ550から受領することができる。ユーザーの指540とタッチスクリーン・ディスプレイ550との間の接触領域の高さがその幅より大きいので、Wの値がHの値より大きい。Wの値がHの値より大きいので、コンピューティング装置が推定するディスプレイ560の楕円形の部分は幅より高さが大きくなる。
本発明の実施形態をタッチスクリーン・ディスプレイに関して記述してきたが、本発明の他の実施形態も可能である。ある実施形態では、ユーザーは、表示されるユーザー・インターフェースを制御するための入力を提供するためにタッチパッド装置と対話することができる。タッチパッドは、ユーザーによるタッチパッドのタッチに基づいて、コンピューティング装置に、点の指示、幅の指示および高さの指示を送ることができる。コンピューティング装置は、点の指示、幅の指示および高さの指示に基づいて、表示されるユーザー・インターフェースの一部分を推定することができる。もう一つの実施形態では、ユーザーは、テレビジョンに表示されるユーザー・インターフェースを制御するために動き感応性カメラと対話することができる。動き感応性カメラは、ユーザーの位置、動きまたはジェスチャーに基づいて、コンピューティング装置に、点の指示、幅の指示および高さの指示を送ることができる。コンピューティング装置は、点の指示、幅の指示および高さの指示に基づいて、テレビジョンに表示されるユーザー・インターフェースの一部分を推定することができる。もう一つの実施形態では、ユーザーは容量性のペンを使ってタッチスクリーン・ディスプレイと対話することができる。タッチスクリーン・ディスプレイは、容量性ペンによるタッチパッドのタッチに基づいて、コンピューティング装置に、点の指示、幅の指示および高さの指示を送ることができる。
図6のA〜Dは、タッチスクリーン・ディスプレイがコンピューティング装置に提供できるデータのさらなる実施形態ならびにディスプレイの一部の推定の実施形態を描いている。これらの実施形態では、コンピューティング装置はタッチ点Tの指示、中心点Cの指示、高さHの指示、幅Wの指示および角度θの指示をタッチスクリーン・ディスプレイから受領することができる。角度θは、デカルト平面における方向の一つに対しての、ユーザーの指がタッチスクリーンに接触した角度の近似を表わす。図6のA〜Bに描かれる実施形態では、角度θは、y軸に対する、ユーザーの指がタッチスクリーンに接触した角度の近似を表わす。しかしながら、当業者は、角度θはデカルト座標における任意の軸または直線に対するユーザーの指の角度であり得るありうることを認識するであろう。
図6のAでは、コンピューティング装置はディスプレイの一部分610を幅Wおよび高さHをもつ長方形として推定した。ディスプレイの長方形の推定部分610は中心点Cを中心とし、中心点Cのまわりに角度θだけ回転している。図6のBでは、コンピューティング装置はディスプレイの部分620が幅Wおよび高さHをもつ楕円であると推定した。ディスプレイの楕円形の部分620は中心点Cを中心とし、中心点Cのまわりに角度θだけ回転している。図6のAおよびB両方に描かれているように、タッチ点Tは中心点Cのまわりに角度θだけ回転される必要はない。
図6のCでは、コンピューティング装置はディスプレイの部分630が長方形631内に内接していると推定した。長方形631は幅Wおよび高さHをもち、中心点Cを中心としている。長方形631の長辺はy軸に平行である。ディスプレイの楕円部分630は、y軸に対して角度θの位置にある長軸632および長軸632と垂直な短軸633をもつ。図6のCに描かれているように、タッチ点Tは中心点Cのまわりに角度θだけ回転させられることができる。図6のDは、図6のCに描かれているディスプレイの楕円部分630を描いている。図6のDに描かれるように、ディスプレイの楕円部分630は、長方形631の幅Wおよび高さHとは異なる幅W'および高さH'をもつ。長方形631の内部にディスプレイの推定される部分を内接させることは、ディスプレイの楕円形の推定部分に限定されない。コンピューティング装置が長方形631内に内接したディスプレイの長方形部分または他の任意の形をディスプレイの推定部分のために推定することも可能である。
他の実施形態では、コンピューティング装置が他の仕方でディスプレイの一部分を推定することが可能である。ある実施形態では、コンピューティング装置は単に、ユーザーとディスプレイとの間の接触領域の幅および高さを推定してディスプレイの一部分を推定することができる。もう一つの実施形態では、コンピューティング装置は、以前の高さおよび幅の指標の高さおよび幅を平均して、そうした平均高さおよび幅をディスプレイの一部分を推定するために使うことができる。
ここで図7A〜7Fを参照すると、ターゲットとされる点の決定のさまざまな実施形態が描かれている。図7Aは、オブジェクトとディスプレイの推定部分との間の交わりを見出すことによるターゲットとされる点の決定を描いている。描かれているように、オブジェクト711の一部分がディスプレイの推定部分710と交わるが、タッチ点Tはオブジェクト711上にはない。たとえタッチ点Tがオブジェクト711上に位置していなくても、オブジェクト711がディスプレイ710の推定部分に交わる唯一のオブジェクトなので、コンピューティング装置はターゲットとされる点Sがオブジェクト711上に位置されていることを判別することができる。スナップ点とも称されるターゲットとされる点Sは、ターゲットとされるオブジェクト711上で、ユーザーによるタッチスクリーン・ディスプレイのタッチによってターゲットとされる位置を表わす。
図7Bは、タッチ点がオブジェクト内に含まれていることを見出すことによるターゲットとされる点の決定を描いている。描かれているように、オブジェクト721の一部およびオブジェクト722の一部がディスプレイの推定部分720に交わる。タッチ点Tはオブジェクト721上に位置している。オブジェクト721がタッチ点Tを含む唯一のオブジェクトなので、コンピューティング装置は、ターゲットとされる点Sがタッチ点Tと同じ位置に位置していることを判別することができる。
図7Cは、オブジェクトに関連付けられたランクを使うことによる、ターゲットとされる点およびターゲットとされるオブジェクトの決定を描いている。描かれているように、オブジェクト731の一部およびオブジェクト732の一部がディスプレイの推定部分730に交わる。オブジェクト732とオブジェクト731も重なり、タッチ点Tはオブジェクト731および732の両方の上に位置している。タッチ点Tがオブジェクト731および732の両方の上に位置しているので、ターゲットとされる位置Sは、タッチ点Tの位置にあると判別されることができる。オブジェクト731および732のそれぞれにランクが関連付けられることができる。オブジェクトどうしが重なり、図7Cに描かれるオブジェクト731および732のようにターゲットとされる位置Sが重なり合うオブジェクト上に位置するとき、コンピューティング装置は、オブジェクト731および732のどちらがターゲットとされるオブジェクトであるかを、オブジェクト731および732のそれぞれのランクに基づいて決定することができる。オブジェクト731および732のランクは、オブジェクト731および732の幾何形状に基づく、ユーザーがオブジェクト731および732のそれぞれを選択する確からしさに基づくまたは他の任意の形のランキングであることができる。オブジェクト731および732のランクはオペレーティング・システム、アプリケーションまたはコンピューティング・システム上で動作している他のコンポーネントによって提供されることもできる。
図7Dは、タッチ点が曖昧であるときのターゲットとされる点の決定を描いている。タッチ点が曖昧であるというのは、タッチ点がオブジェクト上に位置しておらず、複数のオブジェクトが少なくとも部分的にディスプレイの推定された部分内に位置している場合である。図7Dに描かれているように、オブジェクト741、742および743のそれぞれの一部がディスプレイの推定された部分740内に位置している。しかしながら、タッチ点Tはオブジェクト741、742および743のいずれの上にも位置していない。どの位置がターゲットとされている点であるかの曖昧さを解決するため、コンピューティング装置は、タッチ点Tとオブジェクト741、742および743のそれぞれとの間の距離を決定することができる。コンピューティング装置は、単に距離に基づいて決定をしてもよいし、あるいはコンピューティング装置はそれらの距離に重みをかけてもよい。距離は、オブジェクト741、742および743のそれぞれに関連付けられたランク、オブジェクト741、742および743のそれぞれの形状、オブジェクト741、742および743のそれぞれの、ディスプレイの推定部分740内に位置される部分などのうちの一つまたは複数によって重みをかけられることができる。図7Dに描かれた実施形態では、コンピューティング装置は、ターゲットとされる点Sはオブジェクト741上に位置していると判別している。ターゲットとされる点Sの決定は、タッチ点Tとオブジェクト741の間の距離がタッチ点Tとオブジェクト742および743の間の距離のいずれよりも短いことに基づくことができる。
図7Eは、曖昧なタッチ点を解決するための散弾〔ショットガン〕アプローチを使ってのターゲットとされる点の決定を描いている。図7Eに描かれる実施形態では、オブジェクト751、752および753のそれぞれの一部がディスプレイの推定された部分750内に位置しているが、タッチ点Tはオブジェクト751、752および753のいずれの上にも位置していない。コンピューティング装置は、ディスプレイの推定された部分750内のいくつかの点754を使い、オブジェクト751、752および753内に位置する点754の数を決定することができる。図7Eに描いた実施形態では、オブジェクト751および753のいずれの中よりも、オブジェクト752内に位置する点754が多い。それらの点754の位置に基づいて、コンピューティング装置はターゲットとされる点Sを決定することができる。ターゲットとされる点Sはこの実施例では、オブジェクト752上に位置している。
図7Fは、曖昧なタッチ点を解決するためのオブジェクト重なりアプローチを使ってのターゲット点の決定を描いている。図7Fに描かれる実施形態では、オブジェクト761、762および763のそれぞれの一部がディスプレイの推定された部分760内に位置しているが、タッチ点はオブジェクト761、762および763のいずれの上にも位置していない。コンピューティング装置は、オブジェクト761、762および763のそれぞれの、ディスプレイの推定された部分760内に位置している部分のサイズを決定することができる。図7Fに描いた実施形態では、オブジェクト761および763の、ディスプレイの推定された部分760内に位置する部分よりも、オブジェクト762の多くがディスプレイの推定された部分760内に位置している。オブジェクト761、762および763の、ディスプレイの推定された部分760内に位置している部分に基づいて、コンピューティング装置はターゲットとされる点Sを決定することができる。ターゲットとされる点Sはこの実施例では、オブジェクト762上に位置している。
ここで図8A〜8Dを参照すると、タッチスクリーン・ディスプレイの実施形態およびターゲットとされる点の決定の実施形態が描かれている。図8Aに描かれるのは、三つのオブジェクト801、802および803を表示しているタッチスクリーン・ディスプレイ800である。ユーザーによるタッチスクリーン・ディスプレイ800のタッチに応答して、タッチスクリーン・ディスプレイはコンピューティング装置に、点810の指示、幅の指示および高さの指示を送る。点810はタッチ点または中心点であることができる。タッチスクリーン・ディスプレイ800は、モニタなどコンピューティング装置の周辺装置の一部であることができ、あるいはタッチスクリーン・ディスプレイは携帯電話やタブレット・コンピュータの場合など、コンピューティング装置と一体的に形成されていることができる。コンピューティング装置が点810の指示、幅の指示および高さの指示を受領したのち、コンピューティング装置はユーザーとタッチスクリーン・ディスプレイ800との間の接触があるディスプレイの一部分811を推定することができる。
図8Bはユーザーとタッチスクリーン・ディスプレイ800との間の接触に基づくディスプレイの推定された部分811を、ディスプレイの推定された部分811内に位置するオブジェクト801および803の部分および点810とともに、描いている。点810はオブジェクト801上に位置している。点810が一つのオブジェクト801上に位置するので、コンピューティング装置はターゲットとされる点が点810と同じ位置に位置すると決定することができる。
図8Cは、曖昧な点に基づくターゲットとされる点の決定を描いている。図8Cに描かれるように、複数のオブジェクト801、802および803の少なくとも一部がディスプレイの推定された部分821に含まれるので、点820は曖昧である。だが、タッチ点820はオブジェクト801、802および803のいずれの上にも位置していない。コンピューティング装置は、点820とオブジェクト801、802および803の各部分との間の距離に基づいてターゲットとされる点822の位置を決定することができる。図8Cに描かれる実施形態では、タッチ点820は、オブジェクト802および803のどちらよりもオブジェクト801の近くに位置している。ここで描かれる実施形態では、コンピューティング装置は、ターゲットとされる点822がオブジェクト801上に位置していると判別する。オブジェクト801と点820との間の最短距離が点820とオブジェクト802および803との間の最短距離よりも短いからである。
もう一つの実施形態では、コンピューティング装置はタッチ点810とオブジェクト801、802および803のそれぞれとの間の距離のそれぞれに重みをかける。重みは、ディスプレイの推定された部分821内の、オブジェクト801、802および803の特徴に基づくことができる。たとえば、タッチ点Tはオブジェクト801および802のコーナーの最も近くに位置し、タッチ点Tはオブジェクト803のある辺に最も近くに位置する。コンピューティング装置は、ユーザーがオブジェクトのコーナーよりもオブジェクトの長辺を選択する可能性が高いと判断される場合には、点820とオブジェクト803との間の距離により大きな重みを与えることができる。同様に、ユーザーがオブジェクトの長辺よりもオブジェクトのコーナーを選択する可能性が高いと判断される場合には、点820とオブジェクト801および802との間の距離により大きな重みを与えることができる。重みは、ユーザーがある種のオブジェクトを選択する確からしさにも基づくことができる。たとえば、ユーザーは、オブジェクト801または803よりもオブジェクト802を選択する可能性がずっと高いことがありうる。この場合、コンピューティング装置は、点820とオブジェクト801および803との間の距離よりも、点820とオブジェクト802との間の距離に高い重みを与えてもよい。重みは、ディスプレイの推定された部分811内に位置する各オブジェクトの部分にも基づくことができる。たとえば、図8Cに描かれるように、オブジェクト803はディスプレイの推定される部分812の半分近くを占める一方、オブジェクト801および802はディスプレイの推定される部分812のずっと小さな部分を占める。この場合、コンピューティング装置は、点820とオブジェクト801および802との間の距離よりも、点820とオブジェクト803との間の距離に大きな重みを与えてもよい。
図8Dには、タッチスクリーン・ディスプレイ800のもう一つの実施形態が描かれている。この実施形態では、タッチスクリーン・ディスプレイ800は三つのオブジェクト801、802および803を表示するものとして描かれている。また、点830およびディスプレイの推定される部分831も描かれている。点830はオブジェクト801、802および803のいずれの上にも位置していないが、オブジェクト801の一部はディスプレイの推定される部分831に交わる。ある実施形態では、オブジェクト801がディスプレイの推定される部分831に交わり、オブジェクト801がディスプレイの推定される部分831内に部分的に位置される唯一のオブジェクトなので、コンピューティング装置はターゲットとされる点832がオブジェクト801上に位置すると判定する。
ここで図9Aを参照すると、筐体910およびタッチスクリーン・ディスプレイ920を含む装置900が描かれている。装置900はモニタのような、コンピューティング装置に接続される表示装置であることができる。装置900は、携帯電話またはタブレット・コンピュータなど、筐体910内にコンピューティング装置を含むこともできる。図9Aに描かれるように、タッチスクリーン・ディスプレイ920はオペレーティング・システム930、ウェブ・ブラウザー940およびウェブ・ブラウザー940によって表示されるウェブ・ページ内に埋め込まれているメディア・プレーヤー950を表示する。オペレーティング・システム930、ウェブ・ブラウザー940およびメディア・プレーヤー950のそれぞれは別個のフレームワークである。各フレームワークはオブジェクトを含むことができる。たとえば、図9Aに描かれる実施形態では、オペレーティング・システム930はアイコン931および932を含み、ウェブ・ブラウザー940はボタン941を含み、メディア・プレーヤー950はボタン951を含む。
上記のように、コンピューティング装置は多くのオブジェクトのうちのどれがターゲットとされるオブジェクトであるかを、オブジェクトがターゲットとされる可能性に基づいて決定することができる。ある実施形態では、各フレームワークはコンピューティング・システムに、そのフレームワーク内のオブジェクトの一部または全部についてのランクを提供することができる。たとえば、オペレーティング・システム930はアイコン931についてのランクおよびアイコン932についてのランクを提供することができ、ウェブ・ブラウザー940はボタン941についてのランクを提供することができ、メディア・プレーヤー950はボタン951についてのランクを提供することができる。一部のフレームワークはオブジェクトについてのランクを提供するが他のフレームワークはオブジェクトについてのランクを提供しないことも可能である。たとえば、ある実施形態では、オペレーティング・システム930およびウェブ・ブラウザー940はオブジェクトのそれぞれについてランクを提供するが、メディア・プレーヤー950はそのオブジェクトのいずれについてもランクを提供しない。
ここで図9Bを参照すると、図9Aに描かれたタッチスクリーン・ディスプレイの一部およびディスプレイの推定された部分961が描かれている。上記のように、ディスプレイの推定される部分961は、タッチスクリーン・ディスプレイ920から受領される点の指示、幅の指示および高さの指示に基づいてコンピューティング装置によって決定されることができる。描かれているように、オペレーティング・システム930のアイコン931および932の部分、ウェブ・ブラウザー940のボタン941、縦の辺942、横の辺943およびコーナー944の部分およびメディア・プレーヤー950のボタン951の部分を含む、いくつかのオブジェクトの一部がディスプレイの推定される部分961内に位置している。
コンピューティング装置は、オブジェクトの、ディスプレイの推定された部分961内の部分の位置に基づいて、ディスプレイの推定される部分961内のターゲットとされる点962の位置を決定することができる。たとえば、コンピューティング装置は、ターゲットとされる点962がタッチ点960に最も近いオブジェクトの上に位置していると判定することができる。しかしながら、距離に基づく判定は状況によっては問題になりうる。図9Bに描かれるように、縦の辺942はアイコン931に重なり、縦の辺942およびアイコン931は実質的にタッチ点960から等距離である。そのような問題に対処する一つの方法は、各オブジェクトに関連付けられているランクに従ってタッチ点と各オブジェクトとの間の距離に重みをかけることである。上記で論じたように、各フレームワークがコンピューティング・システムにオブジェクトについてのランクを提供しうる。フレームワークがオブジェクトについてのランクを提供しない場合には、ランクはオブジェクトに割り当てられることができる。ランク付けされていないオブジェクトにランクを割り当てることにより、各オブジェクトが、ターゲットとされるオブジェクトのランクに基づく決定とともに使うために関連付けられたランクをもつことが保証される。図9Bに描かれた実施形態に示されるところでは、ターゲットとされる点962はアイコン932の上に位置している。
ここで、図10のAおよびBを参照すると、装置1000およびユーザーがタッチスクリーン・ディスプレイにタッチし、タッチスクリーン・ディスプレイとの接触を維持しながらユーザーとタッチスクリーンとの間の接触点を動かす実施形態の二つの事例が描かれている。装置1000は筐体1010およびタッチスクリーン・ディスプレイ1020を含むことができる。タッチスクリーン・ディスプレイ1020はオペレーティング・システム1030およびウェブ・ブラウザー1040を表示する。ウェブ・ブラウザー1040のコーナー1041は、選択すると、ユーザーの指をある位置から別の位置にドラッグすることによりユーザーがウェブ・ブラウザー1040をサイズ変更することを許容するオブジェクトである。図10のAおよびBにはまた、タッチ点1050およびディスプレイの推定された部分1051も描かれている。図10のAは、ユーザーがタッチスクリーン・ディスプレイにタッチする時点を描いており、図10のBはのちの時点を描いている。図10のAに描かれる時と図10のBに描かれる時との間に、ユーザーの指は、ウェブ・ブラウザー1040をサイズ変更するために、タッチスクリーン・ディスプレイ1020を横断してドラッグされている。図10のAに描かれる時点では、タッチ点はコーナー1041上に位置していないにもかかわらず、コンピューティング装置はウェブ・ブラウザーのコーナー1041がターゲットとされる点であり、ターゲットとされる点はコーナー1041上に位置することを判別できる。タッチ点とターゲットとされる点の位置の差はオフセット1052によって表わされている。図10のBに描かれるように、オフセット1052はユーザーの指がタッチスクリーン・ディスプレイ1020を横断してドラッグされる際に維持される。ある実施形態では、タッチ点1050とターゲットとされる点1041との間のオフセット1052が、ユーザーがタッチスクリーン・ディスプレイにタッチする図10のAに描かれる時点において決定される。ユーザーがタッチスクリーンを横切って指をドラッグするときなど、ユーザーがユーザーとタッチスクリーンとの間の接触点を動かすに際、ユーザーがタッチスクリーン・ディスプレイと接触したままでいる限り、上記オフセットは維持される。
上述したように、本発明のある実施形態は、テレビジョンに表示されるユーザー・インターフェースを制御するためにユーザーが動き感応性カメラと対話することを含む。そのような実施形態では、動き感応性カメラは、ユーザーの位置またはユーザーのアクションに基づいてユーザー入力を認識することができる。ユーザー入力から、動き感応性カメラはターゲットとされる点、ユーザー対話の中心点、ユーザー対話の幅およびユーザー対話の高さを決定することができる。動き感応性カメラは、ターゲットとされる点の指示、中心点の指示、幅の指示および高さの指示をコンピューティング装置に送ることができる。コンピューティング装置は、上記の諸方法に従って、受領されたターゲットとされる点の指示、中心点の指示、幅の指示および高さの指示に基づいてターゲット・オブジェクトを決定することができる。
図11は、本発明のある実施形態に基づく方法の表現を描いている。少なくとも一つの点の指示、幅の指示および高さの指示が受領される(1110)。少なくとも一つの点の指示は、中心点の指示およびタッチ点の指示、別の点の指示またはそれらの任意の組み合わせを含むことができる。少なくとも一つの点の指示、幅の指示および高さの指示に基づいて、ディスプレイの一部分が推定される(1120)。オブジェクトの一部分がディスプレイの推定された部分内に位置していることが判別される(1130)。ターゲットとされるオブジェクトは、前記少なくとも一つの点の位置およびディスプレイの推定された部分内にある前記オブジェクトの部分に基づいて、決定される(1140)。
図12は、ターゲットとされる点の決定につながるイベントの例示的なシーケンスの表現を描いている。ユーザーがタッチスクリーン・ディスプレイにタッチする(1210)。タッチスクリーン・ディスプレイがユーザーによるタッチスクリーン・ディスプレイのタッチに基づいて点、幅および高さを決定する(1220)。タッチスクリーン・ディスプレイは点、高さおよび幅の指示をコンピューティング装置に送る(1230)。コンピューティング装置はコンピューティング装置への点、高さおよび幅の指示を受領する(1240)。コンピューティング装置は、点、高さおよび幅の指示に基づいてディスプレイの一部分を推定する(1250)。コンピューティング装置は、一つまたは複数のオブジェクトの少なくとも一部がディスプレイの推定された部分内に位置していることを判別する(1260)。コンピューティング装置は、点の位置およびディスプレイの推定された部分内に位置する前記一つまたは複数のオブジェクトの前記一部に基づいて、ターゲットとされる点を決定する(1270)。
ここで図13を参照するに、ディスプレイ装置によって提供された高さの指示および幅の指示を使うかあるいはシミュレートされた幾何構造を使うかを決定する方法が描かれている。シミュレートされた幾何構造とは、ディスプレイ装置によって提供される幾何構造を使う以外の、ディスプレイの一部分を推定するためにコンピューティング装置によって使用される幾何構造をいう。たとえば、シミュレートされた幾何構造は、ディスプレイの一部分を推定するための、ユーザーとディスプレイとの間の接触領域の幅および高さの、コンピューティング装置による推定値であることができる。もう一つの例では、シミュレートされた幾何構造は、高さおよび幅の以前の指示から導出されることができる。たとえば、高さの以前の指示の平均高さおよび幅の以前の指示の平均幅である。
図13に描かれるように、ディスプレイ装置は、タッチ情報をコンピューティング装置に報告することができる(1305)。タッチ情報はタッチ点、中心点、幅の指示および高さの指示のうちの一つまたは複数を含むことができる。コンピューティング装置は、タッチ情報が高さの指示および幅の指示(H,W)を含むかどうかを判定することができる(1310)。タッチ情報が(H,W)を含まなければ、コンピューティング装置は、ディスプレイの一部分を決定するために、シミュレートされた幾何構造を使う(1315)。タッチ情報が(H,W)を含む場合には、コンピューティング装置は(H,W)がヌル値(0,0)でないかどうかを判定することができる(1320)。(H,W)が(0,0)に等しくない場合、コンピューティング装置は(H,W)の値が所定の範囲内にはいるかどうかを決定することができる(1325)。所定の範囲は、(H,W)の有効な値と見なされる範囲であることができる。(H,W)の値が所定の範囲内にはいる場合、コンピューティング装置はディスプレイの一部分を推定するために(H,W)のそれらの値を使うことができる(1330)。(H,W)の値が所定の範囲外である場合には、コンピューティング装置は、ディスプレイの一部分を推定するためにシミュレートされた幾何構造を使うことができる(1335)。(H,W)の値が(0,0)に等しい場合には、コンピューティング装置は、(H,W)の値が注入(injection)を通じて設定されるかどうかを決定することができる(1340)。(H,W)の値が注入を通じて設定される場合、コンピューティング装置はディスプレイの一部分を推定するために、シミュレートされた幾何構造を使うことができる(1345)。(H,W)の値が注入を通じて設定されない場合、コンピューティング装置はディスプレイの一部分を推定せず(1350)、ターゲットとされる点を決定することなく進む。
本発明について、さまざまな図面で示される好ましい諸側面との関連で述べてきたが、本開示から外れることなく本開示の同じ機能を実行するために、他の類似の側面が使用されてもよく、あるいは記述されている諸側面に修正および追加がなされてもよいことは理解される。したがって、本開示はいかなる単一の側面にも限定されるべきではなく、付属の請求項に従って広さおよび範囲において解釈されるべきである。たとえば、本稿に記載されるさまざまな手順はハードウェアまたはソフトウェアまたは両者の組み合わせで実装されてもよい。本発明は、コンピュータ可読記憶媒体および/またはコンピュータ可読通信媒体を用いて実装されてもよい。よって、本発明またはそのある種の側面もしくは部分は、フロッピー(登録商標)ディスクケット、CD-ROM、ハードドライブまたは他の任意の機械可読記憶媒体といった有体の媒体に具現されたプログラム・コード(すなわち命令)の形を取ってもよい。プログラム・コードがコンピュータのような機械にロードされて実行される場合、その機械が開示される実施形態を実施するよう構成された装置となる。本稿において明示的に記載されている特定の実装に加えて、本稿に開示される明細を考慮することから、他の側面および実装が当業者には明白であろう。明細書および図示される実装は単に例であると考えられることが意図されている。

Claims (10)

  1. ユーザー入力に基づいて、ディスプレイ上に示されているターゲットとされている点を決定する方法であって:
    少なくとも一つの点の指示、幅の指示および高さの指示を受領する段階と;
    前記少なくとも一つの点の指示、前記幅の指示および前記高さの指示に基づいて前記ディスプレイの一部分を推定する段階と;
    前記ディスプレイの推定された部分内に一つまたは複数のオブジェクトの少なくとも一部分が位置することを判別する段階と;
    前記少なくとも一つの点の位置に基づいてかつ前記ディスプレイの前記推定された部分内の前記一つまたは複数のオブジェクトの前記部分に基づいて、ターゲットとされている点を決定する段階とを含む、
    方法。
  2. 前記一つまたは複数のオブジェクトが第一のフレームワークにおける第一のオブジェクトおよび第二のフレームワークにおける第二のオブジェクトを含む、請求項1記載の方法。
  3. 前記第一のオブジェクトに関連付けられた第一のランクが前記第一のフレームワークによって提供される、請求項2記載の方法。
  4. 前記第二のオブジェクトに第二のランクを割り当てる段階をさらに含む、
    請求項3記載の方法。
  5. 前記少なくとも一つの点と前記第一のオブジェクトとの間の距離に、前記第一のランクに基づいて重みをかける段階と;
    前記少なくとも一つの点と前記第二のオブジェクトとの間の距離に、前記第二のランクに基づいて重みをかける段階とをさらに含み、
    前記ターゲットとされる点を決定する段階が、前記少なくとも一つの点と前記第一のオブジェクトとの間の重みをかけられた距離に基づいてかつ前記少なくとも一つの点と前記第二のオブジェクトとの間の重みをかけられた距離に基づいて前記ターゲットとされる点を決定することを含む、
    請求項4記載の方法。
  6. ユーザーの装置との対話に基づいてターゲットとされる点を決定するためのシステムであって:
    一つまたは複数のオブジェクトを表示するよう構成されたディスプレイ装置および
    コンピューティング装置とを有しており、前記コンピューティング装置は:
    少なくとも一つの点の指示、幅の指示および高さの指示を受領する段階と;
    前記少なくとも一つの点の指示、前記幅の指示および前記高さの指示に基づいて前記ディスプレイの一部分を推定する段階と;
    前記ディスプレイの推定された部分内に一つまたは複数のオブジェクトの少なくとも一部分が位置することを判別する段階と;
    前記少なくとも一つの点の位置に基づいてかつ前記ディスプレイの前記推定された部分内の前記一つまたは複数のオブジェクトの前記部分に基づいて、ターゲットとされている点を決定する段階とを実行するよう構成されている、
    システム。
  7. 前記コンピューティング装置が、前記少なくとも一つの点と、前記ディスプレイの前記推定された部分内の前記一つまたは複数のオブジェクトの各部分との間の距離に基づいて、前記ターゲットとされている点を決定するようさらに構成されている、請求項6記載のシステム。
  8. 前記コンピューティング装置が、前記一つまたは複数のオブジェクトのそれぞれに関連付けられたランクに基づいて、前記ターゲットとされている点を決定するようさらに構成されている、請求項7記載のシステム。
  9. ユーザーによるタッチスクリーン・ディスプレイのタッチに基づいてターゲットとされている点を決定するための命令が具現されているコンピュータ可読媒体であって、前記命令は:
    少なくとも一つの点の指示、幅の指示および高さの指示を受領するための命令と;
    前記少なくとも一つの点の指示、前記幅の指示および前記高さの指示に基づいて前記ディスプレイの一部分を推定するための命令と;
    前記ディスプレイの推定された部分内に一つまたは複数のオブジェクトの少なくとも一部分が位置することを判別するための命令と;
    前記少なくとも一つの点の位置に基づいてかつ前記ディスプレイの前記推定された部分内の前記一つまたは複数のオブジェクトの前記部分に基づいて、ターゲットとされている点を決定するための命令とを含む、
    コンピュータ可読媒体。
  10. 請求項9記載のコンピュータ可読媒体であって、前記ディスプレイの一部分を推定するための前記命令が、前記ディスプレイの一部分を、前記少なくとも一つの点を中心とした長方形の内部に内接する楕円として推定するための命令を含み、前記長方形は前記高さの指示に対応する高さおよび前記幅の指示に対応する幅をもつ、コンピュータ可読媒体。
JP2014524996A 2011-08-12 2011-10-10 タッチ・インテリジェント・ターゲッティング Active JP5847939B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US13/209,058 US10140011B2 (en) 2011-08-12 2011-08-12 Touch intelligent targeting
US13/209,058 2011-08-12
PCT/US2011/055619 WO2013025228A1 (en) 2011-08-12 2011-10-10 Touch intelligent targeting

Publications (3)

Publication Number Publication Date
JP2014526107A true JP2014526107A (ja) 2014-10-02
JP2014526107A5 JP2014526107A5 (ja) 2014-11-13
JP5847939B2 JP5847939B2 (ja) 2016-01-27

Family

ID=47677224

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014524996A Active JP5847939B2 (ja) 2011-08-12 2011-10-10 タッチ・インテリジェント・ターゲッティング

Country Status (6)

Country Link
US (1) US10140011B2 (ja)
EP (1) EP2742405A4 (ja)
JP (1) JP5847939B2 (ja)
KR (1) KR101872560B1 (ja)
CN (1) CN103718136B (ja)
WO (1) WO2013025228A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018500091A (ja) * 2014-12-18 2018-01-11 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 医療画像編集

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5460679B2 (ja) * 2011-11-28 2014-04-02 ソニー株式会社 情報処理装置、情報処理方法、およびコンテンツファイルのデータ構造
US9727228B2 (en) * 2013-02-22 2017-08-08 Keysight Technologies, Inc. Method for selecting waveforms on electronic test equipment
US9506966B2 (en) 2013-03-14 2016-11-29 Google Technology Holdings LLC Off-center sensor target region
US10725645B2 (en) * 2013-05-20 2020-07-28 Rakuten, Inc. Information processing device for controlling display of web pages using main display area and sub display area
JP6370118B2 (ja) * 2014-06-06 2018-08-08 キヤノン株式会社 情報処理装置、情報処理方法、及びコンピュータプログラム
JP6035290B2 (ja) * 2014-07-29 2016-11-30 京セラドキュメントソリューションズ株式会社 表示入力装置及びこれを備えた画像形成装置
US10310675B2 (en) * 2014-08-25 2019-06-04 Canon Kabushiki Kaisha User interface apparatus and control method
CN105635776B (zh) * 2014-11-06 2019-03-01 深圳Tcl新技术有限公司 虚拟操作界面遥控控制方法及系统
JP5906345B1 (ja) * 2015-08-05 2016-04-20 株式会社Cygames 操作履歴に基づいてタッチ対象を予測するプログラム、電子装置、システム及び制御方法
JP6607121B2 (ja) * 2016-03-30 2019-11-20 セイコーエプソン株式会社 画像認識装置、画像認識方法および画像認識ユニット
KR102650630B1 (ko) * 2016-11-29 2024-03-21 주식회사 넥슨코리아 가상 입력수단 제공 방법 및 장치
CN111552429B (zh) * 2020-04-29 2021-07-23 杭州海康威视数字技术股份有限公司 一种图形选中方法、装置及电子设备
CN114237419B (zh) * 2021-03-31 2023-10-27 青岛海信商用显示股份有限公司 显示设备、触控事件的识别方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6040824A (en) * 1996-07-31 2000-03-21 Aisin Aw Co., Ltd. Information display system with touch panel
JP2001141504A (ja) * 1996-07-31 2001-05-25 Aisin Aw Co Ltd 情報表示装置
JP2001175375A (ja) * 1999-12-22 2001-06-29 Casio Comput Co Ltd 携帯情報端末装置、及び記憶媒体
US20080094356A1 (en) * 2006-09-06 2008-04-24 Bas Ording Methods for Determining a Cursor Position from a Finger Contact with a Touch Screen Display
US20100079405A1 (en) * 2008-09-30 2010-04-01 Jeffrey Traer Bernstein Touch Screen Device, Method, and Graphical User Interface for Moving On-Screen Objects Without Using a Cursor
JP2010186254A (ja) * 2009-02-10 2010-08-26 Panasonic Corp 表示制御装置
US20110157042A1 (en) * 2009-12-31 2011-06-30 Shenzhen Mindray Bio-Medical Electronics Co., Ltd. Touch screen response method and device

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0887395A (ja) 1994-09-20 1996-04-02 Hitachi Ltd アイコンメニュー選択方式およびそのシステムならびに情報処理装置
US6654733B1 (en) 2000-01-18 2003-11-25 Microsoft Corporation Fuzzy keyboard
US6573844B1 (en) 2000-01-18 2003-06-03 Microsoft Corporation Predictive keyboard
KR100474267B1 (ko) 2002-01-08 2005-03-10 엘지전자 주식회사 차량용 터치 패널의 인식오류 최소화 방법
TWI226583B (en) 2003-03-14 2005-01-11 Higher Way Electronic Co Ltd Coordinates detection method and system for a touch panel
US8164573B2 (en) 2003-11-26 2012-04-24 Immersion Corporation Systems and methods for adaptive interpretation of input from a touch-sensitive input device
JP4431004B2 (ja) 2004-07-29 2010-03-10 京セラ株式会社 多方向キー構造及び携帯端末装置
JP2006139655A (ja) 2004-11-15 2006-06-01 Matsushita Electric Ind Co Ltd タッチパネル付き表示装置およびプログラム
US7489306B2 (en) 2004-12-22 2009-02-10 Microsoft Corporation Touch screen accuracy
US20070097096A1 (en) 2006-03-25 2007-05-03 Outland Research, Llc Bimodal user interface paradigm for touch screen devices
US7903092B2 (en) * 2006-05-25 2011-03-08 Atmel Corporation Capacitive keyboard with position dependent reduced keying ambiguity
CN101356493A (zh) 2006-09-06 2009-01-28 苹果公司 用于照片管理的便携式电子装置
US7889185B2 (en) 2007-01-05 2011-02-15 Apple Inc. Method, system, and graphical user interface for activating hyperlinks
US9552155B2 (en) 2008-02-04 2017-01-24 Microsoft Technology Liecsnsing, LLC Dynamic soft keyboard
JP5157971B2 (ja) 2009-03-09 2013-03-06 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
US20100295796A1 (en) 2009-05-22 2010-11-25 Verizon Patent And Licensing Inc. Drawing on capacitive touch screens
US20110050575A1 (en) 2009-08-31 2011-03-03 Motorola, Inc. Method and apparatus for an adaptive touch screen display
KR101680343B1 (ko) 2009-10-06 2016-12-12 엘지전자 주식회사 이동 단말기 및 그 정보처리방법
US8782556B2 (en) 2010-02-12 2014-07-15 Microsoft Corporation User-centric soft keyboard predictive technologies

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6040824A (en) * 1996-07-31 2000-03-21 Aisin Aw Co., Ltd. Information display system with touch panel
JP2001141504A (ja) * 1996-07-31 2001-05-25 Aisin Aw Co Ltd 情報表示装置
JP2001175375A (ja) * 1999-12-22 2001-06-29 Casio Comput Co Ltd 携帯情報端末装置、及び記憶媒体
US20080094356A1 (en) * 2006-09-06 2008-04-24 Bas Ording Methods for Determining a Cursor Position from a Finger Contact with a Touch Screen Display
JP2010503125A (ja) * 2006-09-06 2010-01-28 アップル インコーポレイテッド タッチスクリーンディスプレイとの指接触からカーソル位置を決定する方法
US20100079405A1 (en) * 2008-09-30 2010-04-01 Jeffrey Traer Bernstein Touch Screen Device, Method, and Graphical User Interface for Moving On-Screen Objects Without Using a Cursor
JP2010186254A (ja) * 2009-02-10 2010-08-26 Panasonic Corp 表示制御装置
US20110157042A1 (en) * 2009-12-31 2011-06-30 Shenzhen Mindray Bio-Medical Electronics Co., Ltd. Touch screen response method and device

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018500091A (ja) * 2014-12-18 2018-01-11 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 医療画像編集
JP2021098053A (ja) * 2014-12-18 2021-07-01 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 医療画像編集
JP7080054B2 (ja) 2014-12-18 2022-06-03 コーニンクレッカ フィリップス エヌ ヴェ 医療画像編集

Also Published As

Publication number Publication date
CN103718136A (zh) 2014-04-09
US20130038540A1 (en) 2013-02-14
KR101872560B1 (ko) 2018-06-28
CN103718136B (zh) 2018-07-10
EP2742405A1 (en) 2014-06-18
EP2742405A4 (en) 2015-04-08
KR20140047126A (ko) 2014-04-21
JP5847939B2 (ja) 2016-01-27
US10140011B2 (en) 2018-11-27
WO2013025228A1 (en) 2013-02-21

Similar Documents

Publication Publication Date Title
JP5847939B2 (ja) タッチ・インテリジェント・ターゲッティング
JP5730667B2 (ja) デュアルスクリーン上のユーザジェスチャのための方法及びデュアルスクリーンデバイス
EP2457147B1 (en) Gradual proximity touch screen
JP6133972B2 (ja) 3次元グラフィックユーザインターフェイス
EP2766793B1 (en) Enhanced target selection for a touch-based input enabled user interface
TWI544369B (zh) 計算設備中的觸摸事件預期
US8462134B2 (en) Multi-finger mouse emulation
KR101535320B1 (ko) 표면상에 놓인 손에 맞는 제스쳐를 생성하는 방법
US9158446B2 (en) Method and apparatus for interfacing
US10089000B2 (en) Auto targeting assistance for input devices
CN104024983B (zh) 用于间接交互设备的交互模型
EP3500918A1 (en) Device manipulation using hover
TW200941314A (en) Touch sensor device and pointing coordinate determination method thereof
US20100134409A1 (en) Three-dimensional user interface
CN103135887A (zh) 信息处理装置、信息处理方法和程序
US9423948B2 (en) Information processing device, control method for information processing device, program, and information storage medium for determining collision between objects on a display screen
KR102198596B1 (ko) 간접 입력의 명확화 기법
US10073612B1 (en) Fixed cursor input interface for a computer aided design application executing on a touch screen device
US20130249807A1 (en) Method and apparatus for three-dimensional image rotation on a touch screen
KR20130054990A (ko) 듀얼 터치 경험 필드를 달성하기 위한 싱글 터치 프로세스
US20170017389A1 (en) Method and apparatus for smart device manipulation utilizing sides of device
KR20140086805A (ko) 전자 장치, 그 제어 방법 및 컴퓨터 판독가능 기록매체
US10275146B2 (en) Virtual navigation apparatus, navigation method, and non-transitory computer readable medium thereof

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140910

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140910

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20150523

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150909

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151027

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151125

R150 Certificate of patent or registration of utility model

Ref document number: 5847939

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250