JP6631541B2 - タッチ入力のための方法及びシステム - Google Patents

タッチ入力のための方法及びシステム Download PDF

Info

Publication number
JP6631541B2
JP6631541B2 JP2016569608A JP2016569608A JP6631541B2 JP 6631541 B2 JP6631541 B2 JP 6631541B2 JP 2016569608 A JP2016569608 A JP 2016569608A JP 2016569608 A JP2016569608 A JP 2016569608A JP 6631541 B2 JP6631541 B2 JP 6631541B2
Authority
JP
Japan
Prior art keywords
touch
gesture
gesture components
components
inputs
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016569608A
Other languages
English (en)
Other versions
JP2017517071A5 (ja
JP2017517071A (ja
Inventor
ヴァラナシ,キラン
ペレス,パトリック
Original Assignee
インターデジタル シーイー パテント ホールディングス
インターデジタル シーイー パテント ホールディングス
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by インターデジタル シーイー パテント ホールディングス, インターデジタル シーイー パテント ホールディングス filed Critical インターデジタル シーイー パテント ホールディングス
Publication of JP2017517071A publication Critical patent/JP2017517071A/ja
Publication of JP2017517071A5 publication Critical patent/JP2017517071A5/ja
Application granted granted Critical
Publication of JP6631541B2 publication Critical patent/JP6631541B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04104Multi-touch detection in digitiser, i.e. details about the simultaneous detection of a plurality of touching locations, e.g. multiple fingers or pen and finger
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04808Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本開示は、タッチ入力のための方法及びシステムに概して関係がある。
多くのタイプの入力デバイスが、ボタン若しくはキー、マウス、トラックボール、ジョイスティック、及び同様のもののように、コンピュータシステムにおいて操作を実施するのに現在利用可能である。トラックパッド及びタッチスクリーンのようなタッチ検知デバイスは、それらの動作の容易さ及び多用途性並びにそれらの値下がりにより、ますます一般的になりつつある。タッチスクリーンは、タッチスクリーンに表示されているユーザインターフェイス(UI;user interface)によって指示され得る位置で指、スタイラス又は他のオブジェクトを用いてタッチスクリーンに触れることによって様々な機能を実行することをユーザに可能にすることができる。一般に、タッチ検知デバイスは、デバイスのタッチ面上又はその近くでのタッチイベントと、タッチ面上のタッチイベントの位置とを検知することができ、コンピュータシステムは、次いで、タッチイベントに基づき1つ以上のアクションを実行するようタッチイベントを解釈することができる。
本願では、タッチ入力のジェスチャ成分の組を決定する様々なシステム及び方法が記載されている。様々な実施形態において、タッチデータが取得されてよく、生成されるジェスチャ成分の数が選択されてよい。ジェスチャ成分の組は、タッチデータ及びジェスチャ成分の数に基づき生成されてよい。ジェスチャ成分の組は、非一時的なコンピュータ可読媒体に記憶されてよい。いくつかの実施形態において、タッチデータを取得することは、タッチ検知面におけるタッチ接触を検知することを含んでよい。これは、例えば、所定の時間インターバルで周期的にタッチデータを捕捉すること、ユーザのインジケーションを受け取り、該インジケーションに基づきタッチデータを捕捉すること、などを含んでよい。いくつかの実施形態において、タッチデータは、例えば、絶対運動、相対運動、絶対位置、相対位置、絶対近接、相対近接、近接の変化、絶対サイズ、相対サイズ、サイズの変化、などを含んでよい。いくつかの実施形態において、生成されるジェスチャ成分の数は、コンピュータシステムの制御入力の数に基づいてよい。いくつかの実施形態において、タッチデータは行列において記憶されてよく、ジェスチャ成分の組を生成することは、行列の疎行列分解を実施することを含んでよい。いくつかの実施形態において、ジェスチャ成分は非直交であり、いくつかの実施形態において、ジェスチャ成分の数は、タッチデータを検知するために使用されるタッチ検知システムによって検出されることが可能な自由度の数よりも多くてよい。
本開示の様々な実施形態が実装され得るシステムのいくつかの例を表す。 タッチ入力によって制御される更に複雑な機能を含むことができるコンピュータアプリケーションの例を表す。 タッチ入力によって制御される更に複雑な機能を含むことができるコンピュータアプリケーションの例を表す。 様々な実施形態に従ってジェスチャ成分を決定する方法の例を表すフローチャートである。 様々な実施形態に従ってジェスチャ成分を決定するシステムの例を表す。 様々な実施形態に従ってジェスチャ成分を使用することができる音声合成ソフトウェアアプリケーションの例を表す。 様々な実施形態に従って、タッチ入力の組をトレーニングし、タッチ入力のトレーニングされた組を用いて制御入力を決定する方法の例のフローチャートである。 様々な実施形態に従ってタッチ入力の組をトレーニングするシステムの例を表す。 様々な実施形態に従ってタッチ入力の組をトレーニングするシステムの例を表す。 様々な実施形態に従ってタッチ入力の組をトレーニングするシステムの例を表す。 様々な実施形態に従ってタッチ入力の組をトレーニングするシステムの例を表す。 様々な実施形態に従って、制御入力を決定するようタッチ入力のトレーニングされた組を使用するランタイム環境の例を表す。 様々な実施形態に従って、所定のジェスチャ成分に基づきタッチ入力の組をトレーニングし、タッチ入力のトレーニングされた組及びジェスチャ成分を用いて制御入力を決定する方法の例を表す。 様々な実施形態に従ってタッチ入力に基づき複数の制御入力を決定する一般的な方法の例である。 様々な実施形態に従ってタッチ入力に基づき複数の制御入力を決定する一般的な方法の他の例である。 様々な実施形態に従う1つの実施を表すコンピュータシステムの例のブロック図である。 図面は、本開示の概念を説明することを目的とし、必ずしも、本開示を表す唯一の可能な構成ではない点が理解されるべきである。
タッチ検知は、入力のための直観的なプラットフォームを提供することができる。トラックパッド及びタッチスクリーンは、タッチ検知面上又はその近くで動く複数の接触、例えば、指、スタイラス、などを検知することができる。本願で開示されている技術は、トラックパッドを備えたパーソナルコンピュータ、タッチスクリーンを備えたスマートフォン又はタブレットコンピュータ、などのような、タッチ入力を処理することができるあらゆる種類のデバイスにおいて実装されてよい。例えば、図1は、本開示の様々な実施形態が実装され得るシステムのいくつかの例を表す。図1は、内蔵トラックパッド103のような内蔵タッチ検知面を含むことができるコンピュータ100を表す。外付けトラックパッド105のような外部タッチ検知面は、図1に示されるように有線接続を介して、又は無線接続を介して、コンピュータ100へ接続され得る。図1はまた、タッチスクリーン153のようなタッチ検知面を含むことができるタブレットコンピュータ150を表す。
従来のジェスチャ処理では、タッチ検知面は、接触の動きを検知し、タッチ検知システムは、接触動作を様々な動き成分に分解することによって、接触動作を処理する。言い換えると、タッチ検知システムは、接触動作から様々な動き成分を抽出する。それらの動き成分は、当業者であれば容易に理解するだろうように、タッチ検知システムがタッチ検知面上での複数の接触について検知することができる動きの自由度に関連付けられる。従来のジェスチャ処理では、抽出される動き成分の数は、タッチ検知システムによって検知可能な動きの自由度の数に通常は等しい。典型的なタッチ検知システムで検出可能な自由度は、夫々の接触についての水平移動成分及び垂直移動成分(すなわち、x及びy方向における動き)、接触の各対についての回転成分、並びに接触の各対についてのスケーリング成分(すなわち、“ピンチ操作”及び“逆ピンチ操作”、すなわち、拡大)を含む。他の自由度は、当業者であれば理解するだろうように、より高度なタッチ検知システムにおいて検出され得る。例えば、いくつかのタッチ検知システムは、接触の各対の回転方向を検出することに加えて、個々の接触の回転方向を検出することができる。この場合に、抽出可能な動き成分は、夫々の個々の接触についての追加的な回転成分を含む。同様に、いくつかの高度なタッチ検知システムは、手全体の回転(例えば、あたかも大きなビンのふたを回して外すかのように、手首が回転している間は指の伸長が比較的一定のままである場合)と、より細かい指先の回転(例えば、あたかも緩んだボトルキャップを回して外すか又はノブを回すかのように、手首が比較的固定されたままで親指及び他の指が互いに巻き付く場合)とを区別することができる。この場合に、抽出可能な動き成分は、タッチ検知システムによって検出されるそれらの2つの追加的な自由度に基づく成分を含む。当業者であれば理解するだろうように、抽出可能な動き成分の数は、夫々の特定のタッチ検知システムの既知のパラメータである。
動き成分が抽出されると、それらは次いで、コンピュータシステムの様々な機能、制御、などのためのジェスチャ入力を決定するために使用され得る。例えば、垂直及び水平移動成分の組み合わせは、マウスのカーソルを動かすために使用されてよい。他の例では、垂直移動成分は、ウェブページをスクロールするために使用され得る。ウェブページをスクロールすることは、例えば、ウェブページをディスプレイ上で上下に動かす動作を伴い、スクロール動作の垂直制御の動きを垂直移動成分と適合させることは、垂直動き成分の対応する上下方向を用いてスクロールする直観的制御を提供することができる。例えば、トラックパッド上に2本の指を置き、トラックパッド上で上方向に指を滑らせることは、スクロールアップ動作(あるいは、ウェブページがタッチ入力の動きと同じ方向において動く、いわゆる“ナチュラルスクロール”のためのスクロールダウン動作)。のための典型的且つ直観的なタッチ入力である。いくつかのジェスチャは、スクロールするためのジェスチャとして定義された2本の指の垂直移動の場合におけるように、単一の動き成分と同等であるよう定義され得る。他のジェスチャは、マウスのカーソル移動のためのジェスチャとして定義される1本の指による水平及び垂直移動の場合におけるように、2つ以上の動き成分の組み合わせであるよう定義され得る。
当然ながら、動きの自由度に関連する動き成分の数は、タッチ検知システムによって検知される自由度の数によって制限される。動き成分の制限された数は、翻って、タッチ入力を通じて直観的な様式で合理的に実施され得る同時入力の数を制限しうる。いくつかのシステムは、例えば、接触の数に基づきジェスチャを区別すること(例えば、1本の指による垂直移動、すなわち、マウスのカーソル移動を、2本の指による垂直移動、すなわち、スクロールと区別すること)によって、ジェスチャの数を増やそうと試みている。しかし、ジェスチャの基準として動き成分の制限された数を使用することは、依然としてシステムに制限を課しうる。例えば、動き成分の制限された数に基づきジェスチャどうしを区別するために指の数を使用することは、いくつかのジェスチャが直観的な様式で同時に実施され得ないという好ましくない結果を生じさせうる。例えば、1本の指によるマウスのカーソル移動は、2本の指によるスクロールと同時に実施され得ない。これは、合理的且つ直観的である方法において、マウス移動とスクロールとの間で2本の指の動きを分けること、すなわち、2本の指のうちのどれがマウス移動のために使用されるべきかを決定することが困難であるからである。
典型的なタッチ検知システムで抽出される動き成分の数が自由度の数に制限される1つの理由は、典型的なタッチ検知システムが、直交する動き成分、例えば、垂直及び水平移動、回転、及びスケーリングを抽出するからである。当業者には当然ながら、直交する動き成分は、互いに垂直である動き成分である。2次元の実空間及び3次元の実空間において、2つのベクトルv及びwは、それらのドット積がゼロに等しい(すなわち、v・w=0)とき且つそのときに限り、直交する。この条件を満足しない如何なる2つのベクトルも非直交である点が留意されるべきである。すなわち、ベクトルv及びwは、v・w≠0の場合に非直交である。より一般的に、内積空間Eの2つの要素v及びwは、vとwとの内積が0である場合に直交する。同様に、内積空間Eの2つの要素v及びwは、vとwとの内積が0でない場合には直交しない。動き成分は直交するので、夫々の抽出された動き成分は、他の抽出された動き成分から線形独立である。
ジェスチャ処理の従来の見識において、接触動作を直交する成分に分けることは望ましいと考えられており、実際に、1つの動き成分が他の動き成分に“浸出(bleeding)”することを防ぐための努力が行われている。例えば、ユーザは、トラックパッド上で2本の指を並べて押し当て、次いで、左の指を上へ(すなわち、トラックパッドの上端の方へ)滑らせてよい。従来のジェスチャ処理システムは、動きが左の指の垂直移動であるよう意図されるか又は時計回り方向における2本の指の回転の開始であるかどうかを即座に決定しなければならない。動きが垂直移動であるよう意図される場合には、ユーザは、例えば、マウスのカーソルを動かしたいと望んでいる可能性がある。他方で、動きが時計回りの回転であるよう意図される場合には、ユーザは、例えば、文書内の現在見ているページを回転させたいと望んでいる可能性がある。タッチシステムが、実際にはユーザが回転の開始であるよう動きを意図している場合に、左の指の動きを垂直移動として誤って解釈するならば、その場合に、回転成分のいくらかは、垂直移動成分に“浸出”したと言われる。このような理由により、直交する動き成分の抽出に基づくジェスチャ処理は、複数のタッチ入力を使用して複数の機能の同時の(例えば、重なり合った)制御を可能にするシステムにおいて極めて複雑になりうる。上記の例で見られたように、システムが、マウスのカーソルの動き及び文書ページの回転を同時に制御することをタッチ入力に可能にする場合に、システムは、左の指の動きのうちのどれくらいが垂直移動成分に割り当てられるべきかと、動きのうちのどれくらいが回転成分に割り当てられるべきかとを決定する必要がありうる。言い換えると、従来のジェスチャ処理システムは、「接触の動きのどれくらいが水平移動であるよう意図されており、どれくらいが垂直移動であるよう意図されており、どれくらいが回転であるよう意図されており、どれくらいがスケーリングであるよう意図されているか?」との問いを、常にでないとしても、しばしば解決する必要がある。人間によるタッチの動きは流動的であり、しばしば不明確であるから、どのようなタッチ入力をユーザが意図しているのかに関してしばしばあいまい性が現れうる。反応が良く且つ直観的であるタッチ入力を維持するために、従来のシステムは、そのようなあいまい性を即座に且つ正確に解消しなければならない。
直交する動き成分の使用は他の欠点も備えうる。例えば、直交する動き成分に依存することは、コンピュータシステムのより複雑な機能、制御、などのための直観的なジェスチャを生成することを更に難しいものとしうる。例えば、ウェブページをスクロールする上下の動きを垂直移動成分にマッピングすることは直観的でありうるが、他の機能は、直交する動き成分へのそのような直接的な対応を有しない、より複雑な動きを必要としうる。
例えば、図2A及び2Bは、タッチ入力によって制御されるより複雑な機能を含むことができるコンピュータアプリケーションの例を表す。図2Aは、様々な実施形態に従って、表現をアニメーション化するコンピュータソフトウェアアプリケーションによってコンピュータ生成の顔201が表示されているコンピュータディスプレイ200を示す。ソフトウェアアプリケーションは、タッチ入力が、眉、目、口、などのような、顔201の様々な特徴を調整して、顔において様々な表情を作り出すことを可能にすることができる。当然に、人間の顔は、人間の一連の感情の表現を可能にするようまとまって動作する42の筋肉及び結合組織を含む複雑な構造体である。図2Bは、顔201の表面上の様々な点の起こり得る動き(例えば、変形)の小標本のみを示す矢印を含む。例えば、眉の様々な部分は、半ば独立して上下に動くことができ、まぶたは開閉することができ、鼻孔は張り出すことができ、頬は上方向に引き寄せることができ、唇は、人間の発話の複雑さからも明らかなように、膨大な数の複雑な変形を行うことができる。
顔201の多数の複雑な変形の直観的な制御を提供するジェスチャの組を、タッチデータから抽出された制限された数の動きに基づき決定することは、不可能でないとしても困難でありうる。このタスクは、タッチデータの動き成分が、水平及び垂直移動、回転、並びにスケーリングのような、直交する動き成分であるよう強いられるならば、より一層困難でありうる。
要約すると、限られた固定数の直交する基本の動きに接触動作を分解することに基づくタッチシステムは、比較的簡単な機能、制御、などの小さい組のための入力として使用され得る、タップ、スワイプ、ピンチイン、ピンチアウト、などのような、比較的簡単なジェスチャの小さい組に制限されうる。それらの動き成分は、特定のコンピュータ機能、制御、動作、などと相性がよいが、一方で、より複雑なコンピュータ機能は、従来のタッチシステムにおいてタッチデータから抽出される限られた数の動き成分と適合することが困難でありうる。実際に、簡単な機能でさえ、ユーザにとっての直感的感覚を維持するようにタッチ入力を機能と適合させるために、たくさんの微調整、フィルタリング、などを必要としうる。
本開示の様々な実施形態は、上記の問題のいくつかを軽減又は解消するのに役立つことができる。図3〜5は、様々な実施形態に従って、ジェスチャ成分を決定する方法及びシステムの例を表す。ジェスチャ成分は、例えば、タッチデータから出力されて、その後にタッチ入力を処理するために使用され得る、特定の接触動作、位置、構成(すなわち、相対位置)などであることができる。ある意味では、ジェスチャ成分の組が決定されると、ジェスチャ成分は、上記の動き成分として同様の目的を果たすことができる。様々な実施形態において、例えば、タッチ入力は、接触動作を所定のジェスチャ成分に分解することによって処理されてよく、分解された接触動作は、コンピュータシステムの制御入力を決定するために使用されてよい。ジェスチャ成分は、接触動作、接触位置、接触近接性(例えば、圧力)、接触サイズ、などを制限なしに含むことができるタッチデータから抽出され得る点が留意されるべきである。加えて、当然に、様々な実施形態は、絶対運動、相対運動、絶対位置、相対位置、絶対近接、相対近接、近接の変化、絶対サイズ、相対サイズ、サイズの変化などに基づくことができる点が留意されるべきである。
いくつかの実施形態において、ジェスチャ成分の数は、タッチ検知システムによって検出可能な自由度の数よりも多くてよい。他の実施形態では、ジェスチャ成分の数は、タッチ検知システムによって検出可能な自由度の数以下であってよい。例えば、タッチ検知面の2次元空間における接触の動き、位置、などはパラメータ化され得、マッピングは、この空間から、入力を制御するパラメータ空間へと学習され得る。パラメータ空間の次元(ひいては、ジェスチャ成分の数)は、例えば、所望の制御入力の数に対応するよう選択され得る。このようにして、例えば、ジェスチャ成分の数は、タッチ検知システムによって検出可能な自由度よりも多く、それよりも少なく、又はそれと等しく選択され得る。
いくつかの実施形態において、ジェスチャ成分は非直交であることができ、他の実施形態では、ジェスチャ成分は、以下でより詳細に説明されるように、直交することができる。
図3は、様々な実施形態に従ってジェスチャ成分を決定する方法の例を表すフローチャートであり、図4は、様々な実施形態に従ってジェスチャ成分を決定するシステムの例を表し、図5は、様々な実施形態に従ってジェスチャ成分を使用することができる音声合成ソフトウェアアプリケーションの例を表す。
最初に図3の方法を参照すると、タッチデータが取得され得る(301)。例えば、ユーザは、タッチ検知面上で自身の指を自由に動かすことができ(すなわち、如何なる特定の機能、制御、動作、などからも独立している自由造形のタッチ)、タッチデータは、異なる時点で捕捉され記憶され得る。様々な実施形態において、例えば、タッチデータは、所定の時間インターバルで周期的に捕捉され得る。様々な実施形態において、特定のグラフィカルユーザインターフェイス(GUI;graphical user interface)におけるマウスクリックのような、インジケーションがユーザから受け取られてよく、タッチデータは、インジケーションに基づき捕捉され得る。自由造形のタッチデータを捕捉し記憶することは、例えば、タッチ検知面上の接触の自然な動きに基づきジェスチャ成分が決定されることを可能にすることができる。
図4を参照すると、タッチ検知面400が使用されてよく、ユーザは、タッチ検知面上で自身の指を動かすことができる。タッチ検知面400は、ユーザの指に対応する接触401を検出することができる。様々な時点403で、接触データは、行列405のようなデータ構造において、記憶され得る。
図3を参照すると、数‘n’が選択され得る(302)。数は、タッチデータから決定されるべきジェスチャ成分の数を表すことができる。様々な実施形態において、決定されるべきジェスチャ成分の数は、タッチ入力によって制御されるべき同時のコンピュータ機能、制御、動作、などの数に対応することができる。例えば、図5は、12個のスライダ501を含むGUI500を示す。スライダ501は、同時に動かされてよく、例えば、ソフトウェアアプリケーションによって実施される音声合成の様々な側面を制御することができる。図5の音声合成ソフトウェアアプリケーションのような、12個の同時の制御を備えたアプリケーションにおいてタッチ入力を処理するためのジェスチャ成分は、図3の方法において数n=12を選択することによって、決定され得る。
図3を参照すると、ジェスチャ成分は、記憶されているタッチデータと、決定されるべきジェスチャ成分の数とに基づき、生成され得る(303)。様々な実施形態において、ジェスチャ成分は、行列405のような、記憶されているタッチデータの行列に対する疎行列分解に基づき、生成され得る。そのような疎行列分解の例は、以下でより詳細に説明される。このようにして、例えば、ユーザの指の動きに限局され且つ独特であって、ユーザの動きの範囲に有効に及ぶことができるジェスチャ成分の組を生成することが可能であり得る。
例として、様々な実施形態において、5本の指によるタッチデータが取得されてよい。各時点で取得されたタッチデータは、タッチ検知面上の接触の位置を表すよう、夫々の接触のx及びy座標(すなわち、絶対位置)のような、10個の値を含むことができる。例えば、行列405における各行の値aからa10は、夫々の時点403での5つの接触401のx及びy座標の10個の値であることができる(なお、行列における夫々の“a”の下付き文字は、対応する行、すなわち、時点を表す。)。他の実施形態では、行列における値は、上述されたように、例えば、絶対運動、相対運動、絶対位置、相対位置、絶対近接、などであることができる。
これより、疎行列分解に基づきジェスチャ成分を生成する方法の例が記載される。‘N’を行列405の行の総数、すなわち、捕捉及び記憶されるタッチデータの“スナップショット”の数であるとする。結果として現れる行列Aは、以下のように分解され得る次元N×10を有する:
このとき、Cは、夫々のジェスチャを‘n’次元の基底に投影するジェスチャ成分を表し、Wは、この基底にわたる様々なジェスチャの量を表す。式は、分解を求めるよう費用関数に基づき最適化され得る。様々な実施形態において、疎行列分解は、次のようである:
これにより、W≧0及びmax(W:,k)=1の各要素は、疎成分の組を知るために使用され得る。
式(1)は、決定されるべきジェスチャ成分の数‘n’に基づき、代替的に、C及びWに対して最小化され得る。Wは、Cが適切に調整されて有意味であるように解を制約するために使用され得ることが留意されるべきである。また、他の最適化が他の実施形態では可能であることも留意されるべきである。例えば、主成分解析(PCA;principal component analysis)、カーネルPCAのような非線形埋め込み、などがある。当業者に明らかなように、そのような最適化は、例えば、直交又は非直交であるジェスチャ成分Cを生成するために使用され得る。例えば、疎行列分解法は、非直交のジェスチャ成分を生成するために使用されてよく、一方、PCAは、直交するジェスチャ成分を生成するために使用されてよい。ジェスチャ成分Cは、ジェスチャのn個の直観的な選択を表すことができる。
図4を参照すると、行列405は、タッチコントローラ409におけるジェスチャ成分処理モジュール407によって処理され得る。ジェスチャ成分処理モジュール407は、行列405と、決定されるべきジェスチャ成分の数に対応する数字‘n’とを取得することができる。様々な実施形態において、数字‘n’は、例えば、キーボード又は他の入力デバイスを介してユーザの入力から、取得され得る。ジェスチャ成分処理モジュール407は、決定されるべきジェスチャ成分の数‘n’に基づき、行列405の疎行列分解を実施することができる。
図3を参照すると、ジェスチャ成分は、非一時的なコンピュータ可読媒体において記憶され得る(304)。例えば、図4は、ジェスチャ成分処理モジュール407がジェスチャ成分411をストレージ413において記憶することを示す。
ジェスチャ成分の組Cは、例えば、タッチ入力の任意の組Aを、Cのジェスチャ成分の加重結合である等しくパラメータ化された重みベクトルWに変換するために、使用され得る。
言い換えると、重みベクトルWは、成分行列Cの擬似逆行列を通じてAを投影することによって、Aから推定され得る。
疎性に基づく分解を使用することは、いくつかの利点を有することができる。例えば、疎性に基づく分解は、データクラスタに沿って成分を配置することができる。そのため、ジェスチャ成分は、ユーザにとってより直観的であるジェスチャを表すことができる。また、クラスタは、タッチ検知システムの自由度の数よりも多いジェスチャ成分の使用を依然として可能にしながら、ジェスチャ成分をより独立したものとする傾向を有することができる。これは、限られた数の固定の動き成分を有するという上記の欠点を回避するのを助けるができる。
様々な実施形態において、ジェスチャ成分の異なる組は、例えば、実施されるべき同時の機能、制御、動作の異なる数、異なる手のサイズ、異なるタッチ面サイズ、異なるタッチ面形状、などに基づき、生成され得る。例えば、トラックパッドの製造業者は、トラックパッド上の小さい、中間の、及び大きい手のサイズに対応する3組のジェスチャ成分を生成してよい。トラックパッドは、ジェスチャ成分の組を記憶し、そして、ユーザの手のサイズを検出して、ジェスチャ成分の対応する組をジェスチャ処理のために使用するようホストプロセッサへ供給するようにプログラムされてよい。
様々な実施形態において、指の身元(identity)が決定され、更なるパラメータとして使用され得る。例えば、接触は(1つ又は2つの手が使用されているかどうかに応じて)1つ又は2つのクラスタにクラスタ化されてよく、クラスタから最も遠い接触が決定されてよく、そして、この距離が閾値を超える場合には、これを親指とする。残りの接触は、人差し指、中指、薬指及び小指として出現順に識別され得る。
タッチ入力の組をトレーニングし、タッチ入力のトレーニングされた組を使用して制御入力を決定する方法とともに、ジェスチャ成分を使用する更に詳細な例は、以下で記載される。
図6〜11は、様々な実施形態に従って、タッチ入力の組をトレーニングし、タッチ入力のトレーニングされた組を使用して制御入力を決定する方法及びシステムの例を表す。様々な実施形態において、ユーザは、ユーザがコンピュータの制御入力に対応したいタッチ入力の例の組を提供することができる。このようにして、ユーザは、制御入力へのタッチ入力の処理を個人化することができ、それにより、タッチ入力は、特定のアプリケーションタスクに適することができる。ランタイムフェーズの間、任意のタッチ入力(すなわち、トレーニングの間にユーザによって提供されたタッチ入力の例のうちの1つでなかったタッチ入力)は取得され、コンピュータシステムへの複数の制御入力に対応することができる連続値の組に変換され得る。
図6は、様々な実施形態に従って、タッチ入力の組をトレーニングし、タッチ入力のトレーニングされた組を使用して制御入力を決定する方法の例のフローチャートである。図7〜10は、タッチ入力の組をトレーニングするシステムの例を表し、図11は、様々な実施形態に従って、制御入力を決定するためにタッチ入力のトレーニングされた組を使用するランタイム環境の例を表す。
図6を参照すると、トレーニングフェーズの間、タッチ入力の組は、トレーニングされたタッチ入力として取得されてよく(601)、夫々のトレーニングされたタッチ入力は、コンピュータシステムへのサンプル制御入力の組と対にされ得る(602)。
図7を参照すると、タッチ検知面700は、ソフトウェアアプリケーションへのサンプル制御入力と対にされるトレーニングされたタッチ入力を取得するために使用され得る。この例では、ソフトウェアアプリケーションは、図2A及び2Bに関して上述されたソフトウェアアプリケーションのような、表情をアニメーション化するソフトウェアアプリケーションであることができる。図7の例では、ソフトウェアアプリケーションは、ディスプレイ703において表示されている顔701の様々な特徴をタッチ入力が調整することを可能にすることができる。サンプル制御入力は行列705において記憶され得る。例えば、サンプル制御入力は、表情ソフトウェアアプリケーションにおけるサンプル表情であることができる。夫々のサンプル表情は、‘m’個の制御Sの夫々についてのサンプル制御入力Pの対応する組を有することができる。サンプル制御入力は、行列705のような行列Pにおいて記憶され得る。例えば、夫々の表情は、制御として見なされ得る‘m’個のブレンドシェイプ(blendshapes)の組によって記述され得る。それらのブレンドシェイプSの夫々は、図7に示される表情のような健全な発露における顔701の休息姿勢からの3次元(3D)頂点オフセット(Δx,Δy,Δz)の組であることができる。夫々のブレンドシェイプSは、それらのオフセットをサイズ3×nのベクトルに積み重ねることによって簡潔に記述され得る。なお、nは、顔701を生成するために使用される3Dメッシュにおける頂点の数である。それらのベクトルは、ブレンドシェイプ行列Sを形成するようそれら自体が積み重ねられ得る。表情Fは、それらのブレンドシェイプを線形結合することによって生成され得る。
サンプル制御入力Pの第1の組(例えば、行列705における‘p’値の最初の行)に対応する第1のサンプル表情は、ディスプレイ703に表示されてよく、ユーザは、タッチ検知面700においてタッチ入力を行うことができる。タッチ入力は、トレーニングされたタッチ入力A(行列707における‘a’値の最初の行)として行列707において記憶され得る。このようにして、トレーニングされたタッチ入力は、制御入力の対応する組と対にされ得る。
図8〜11は、表示される更なるサンプル表情と、トレーニングされたタッチ入力を行列705の対応する制御入力と対にするよう行列707において記憶されている対応するトレーニングされたタッチ入力とを表す。
図6を参照すると、ランタイムフェーズの間、トレーニングされたタッチ入力とサンプル制御入力との対にされた対応は、任意のタッチ入力から制御入力を決定するために使用され得る。例えば、タッチ入力は、ランタイムタッチ入力として取得されてよく(603)、トレーニングされたタッチ入力は、コンピュータシステムの制御入力、すなわち、任意の顔ジェスチャを決定するよう、ランタイムタッチ入力に基づき補間され得る(604)。
例えば、補間は、例えば、次によって決定され得る線形マッピング関数Lによって、提供され得る:
当業者であれば容易に理解するだろうように、他のマッピング関数、例えば、非線形カーネル回帰を適用すること、ニューラルネットワークを使用すること、などが使用されてよい点が留意されるべきである。
図11は、マッピング関数L1100が顔701の新しい表情を生成するために任意のタッチ入力1101に適用され得るところのランタイムフェーズの例を表す。
上述されたように、図3〜5に関して記載された方法によって決定されたジェスチャ成分は、タッチ入力の組をトレーニングし、タッチ入力のトレーニングされた組を使用して制御入力を決定する方法とともに、使用され得る。これに関して、図12は、所定のジェスチャ成分に基づきタッチ入力の組をトレーニングし、タッチ入力のトレーニングされた組及びジェスチャ成分を使用して制御入力を決定する方法の例を表す。トレーニングフェーズの間、タッチ入力の組は、トレーニングされたタッチ入力として取得され得る(1201)。トレーニングされたタッチ入力は、ジェスチャ成分の所定の組に基づき分解されてよく(1202)、夫々の分解されたトレーニングされたタッチ入力は、コンピュータシステムへの同様に分解されたサンプル制御入力の組と対にされ得る(1203)。ランタイムフェーズの間、タッチ入力はランタイムタッチ入力として取得されてよく(1204)、ランタイムタッチ入力は、ジェスチャ成分の組に基づき分解され得る(1205)。分解されたトレーニングされたタッチ入力は、コンピュータシステムの分解された制御入力、すなわち、任意の顔ジェスチャを決定するよう、分解されたランタイムタッチ入力に基づき補間され得る(1206)。分解された制御入力は、制御入力の空間に逆投影され得る(1207)。
例えば、夫々のトレーニングされたタッチ入力は、サンプル表情F(ブレンドシェイプSが知られているとして、その重みベクトルTによって与えられる。)と対にされ得る重みベクトルWを得るよう、ジェスチャ成分の組に基づき分解される(すなわち、ジェスチャ成分の組の上に投影される)。各対(W,T)は、トレーニング例を与える。それらの列は、行列W及びTを形成するよう積み重ねられ得る。様々な実施形態において、ユーザは、例えば、トレーニングの間にどのジェスチャを実施すべきかにおいて導かされてよい。それらの例は、マッピング関数Lを知るために使用されてよい。様々な実施形態において、線形マッピング関数は、次によって決定され得る:
当業者ならば容易に理解するだろうように、他のマッピング関数、例えば、非線形カーネル回帰を適用すること、ニューラルネットワークを使用すること、などが使用されてよい点が留意されるべきである。
例えば行列Cによって表されるジェスチャ成分を用いてタッチ入力Aを“ジェスチャ空間”に投影することは、当業者であれば理解するだろうように、より少ないインタラクティブなトレーニングサンプルの使用を可能にすること、及びより自然な方法で補間動作を行うのを助けることのような、利点を有することができる。
このようにして、例えば、自由造形のジェスチャの学習処理を用いて決定されたジェスチャ成分のn次元空間は、疎なトレーニング例の組を通じてユーザによって“注釈(annotated)”を付されてよい。夫々の例は、n次元ジェスチャ空間におけるユーザのための有意味な制御設定に注釈を付けることができる。如何なる非明示的に定義された対応も、それらの明示的に定義された対応に基づき補間を通じて決定され得る。所与の例の夫々は、制御のm次元空間における点と関連付けられる。
図13は、様々な実施形態に従って、タッチ入力に基づき複数の制御入力を決定する一般的な方法の例である。タッチ入力はタッチ検知面から取得されてよく(1301)、タッチ入力の非直交のジェスチャ成分が決定され得る(1302)。コンピュータシステムの複数の制御入力は、非直交のジェスチャ成分に基づき決定され得る(1303)。様々な実施形態において、図13の一般的な方法は、所定のジェスチャ成分が非直交である場合に、図12に関して上述されたような方法によって実現されてよい。当業者に明らかなように、他の方法は、図13の一般的な方法において使用され得る非直交のジェスチャ成分を得るために使用されてよい。上述されたように、非直交のジェスチャ成分の使用は、複雑な制御入力動作のより直観的なタッチ制御を提供することのような、従来のジェスチャ処理に対する有意な利点を提供することができる。
図14は、様々な実施形態に従って、タッチ入力に基づき複数の制御入力を決定する一般的な方法の他の例である。タッチ入力はタッチ検知面から取得されてよく(1401)、タッチ入力のジェスチャ成分の数は、ジェスチャ成分の数がタッチ検知システムによって検出可能な自由度の数よりも多くなるように決定され得る(1402)。コンピュータシステムの複数の制御入力は、ジェスチャ成分に基づき決定され得る(1403)。様々な実施形態において、図14の一般的な方法は、所定のジェスチャ成分の数がタッチ検知システムによって検出可能な自由度の数よりも多い場合に、図12に関して上述されたような方法によって実現されてよい。当業者に明らかなように、他の方法は、図14の一般的な方法において使用され得るタッチ検知システムの自由度に数で勝るジェスチャ成分の組を取得するために使用されてよい。上述されたように、タッチ検知システムによって検出可能な自由度の数よりも多いジェスチャ成分を使用することによって、タッチ入力は、特に、同時に制御可能な多数の制御入力を伴う状況において、制御入力とより直観的に適合することができる。
図15は、様々な実施形態に従う1つの実施を表すコンピュータシステム1500の例のブロック図である。様々な実施形態において、コンピュータシステム1500は、例えば、スマートフォン、デジタルメディアプレイヤー、コンピュータ100、タブレットコンピュータ150、などにおいて含まれてよい。様々な実施形態において、コンピュータシステム1500は、タッチ面1501及びタッチコントローラ1503を含むタッチ検知システムを備えることができる。様々な実施形態において、タッチ面1501は、例えば、タッチスクリーン、トラックパッド、などであることができる。
タッチ検知システムは、例えば、容量型タッチ検知システムであることができる。例えば、タッチ面1501は、容量検知ノードのアレイを形成するよう重なり合うことができる駆動線及び検知線(図示せず。)を備えた容量検知媒体を含むことができるタッチ検知回路を含むことができる。駆動線は、タッチコントローラ1503からの活性化信号により駆動可能であり、検知線において生成される結果として現れる検知信号は、タッチコントローラ1503によって受信され得る。検知信号は、夫々の容量検知ノードでのキャパシタンスの情報を得るようタッチコントローラ1503によって処理され得る。指、スタイラス、などのような、導電性タッチオブジェクトは、導電性オブジェクトがノードに近づくにつれて、ノードで検知されるキャパシタンスを変化させることができる。このようにして、各ノードで検知されるキャパシタンスは、タッチオブジェクトの近接の情報を提供することができる。如何なる所与の時点でも、アレイ内の全てのノードによって検知されるキャパシタンスは、アレイに対するタッチオブジェクトの近接の‘像(picture)’、すなわち、タッチピクチャを提供することができる。この理由により、ノードは、タッチピクチャ要素又はタッチピクセルと見なされ得る。
本願で記載される例は、容量に基づくタッチ検知を対象とするが、タッチ面1501は、如何なるタイプのタッチ検知面であることもできる点が理解されるべきである。例えば、様々な実施形態において、タッチ面1501は、光学式タッチセンサ、圧力式タッチセンサ、表面弾性波(SAW;surface acoustic wave)式タッチセンサ、などであることができる。
コンピュータシステム1500は、タッチコントローラ1503から出力を受け取ることができ、そして、出力に基づき動作を実施することができるホストプロセッサ1505を更に含むことができる。例えば、ホストプロセッサ1505は、メモリ1507及びプログラムストレージ1509へ接続され得る。それらは、様々な実施形態に従う機能を実装することができるコンピュータ実行可能命令(例えば、コンピュータプログラム、オペレーティングシステム、など)を記憶することができる。コンピュータシステム1500は、グラフィカルユーザインターフェイス(GUI)、映画、などのような画像を生成するようディスプレイを制御することができる、LCDドライバ、タッチスクリーンドライバ、などのようなディスプレイコントローラ1511を更に含むことができる。様々な実施形態において、タッチ面1501は、ディスプレイを含むタッチスクリーンであることができ、ディスプレイコントローラ1511は、画像を表示するようタッチスクリーンを駆動することができる。他の実施形態では、コンピュータシステム1500は、ディスプレイコントローラ1511が画像を生成するよう制御することができる液晶ディスプレイ(LCD;liquid crystal display)、有機発光ダイオード(OLED;organic light emitting diode)ディスプレイ、などのような、タッチ面1501とは別個のディスプレイを含むことができる。コンピュータシステム1500は周辺機器1513を更に含むことができる。周辺機器1513は、プリンタ、他の入力デバイス(例えば、コンピュータマウス、キーボード、など)、ウォッチドッグタイマ、及び同様のものを制限なしに含むことができる。
タッチ面1501で検知されたタッチ入力は、カーソル又はポインタのようなオブジェクトを動かすこと、スクロール又はパンすること、制御設定を調整すること、ファイル又は文書を開くこと、メニューを見ること、選択を行うこと、命令を実行すること、ホストデバイスに接続されている周辺機器を操作すること、電話呼び出しに応えること、電話を掛けること、電話呼び出しを終了すること、ボリューム又はオーディオ設定を変更すること、住所、頻繁に発信される番号、着信履歴、不在着信のような電話通信に関する情報を記憶すること、コンピュータ又はコンピュータネットワークにログオンすること、コンピュータ又はコンピュータネットワークへの制限されたエリアへの権限のある個々のアクセスを許可すること、コンピュータデスクトップのユーザの好みの配置に関連するユーザプロファイルをロードすること、ウェブコンテンツへのアクセスを許可すること、特定のプログラムを起動すること、メッセージを暗号化又は復号すること、仮想世界と相互作用すること、コンピュータゲームで遊ぶこと、などを制限なしに含むことができる動作を実施するために、プログラムストレージ1509に記憶されているコンピュータプログラムによって使用され得る。
また、当然に、様々な実施形態の様々な例が本願において詳細に図示及び記載されてきたが、当業者であれば、本開示の適用範囲内に依然としてある他の変形された実施形態を容易に考え付くことができる。
本願で挙げられている全ての例及び条件は、当該技術を促進させることに本発明者によって寄与される概念及び本開示の原理を読者が理解するのを助ける教育上の目的を意図され、そのような具体的に挙げられている例及び条件に制限されないものとして解釈されるべきである。
更には、本開示の原理、態様及び実施形態並びにそれらの具体例を挙げる本願における全ての記述は、その構成上及び機能上の両方の同等物を包含するよう意図される。加えて、そのような同等物は、現在知られている同等物及び将来開発される同等物(すなわち、構造にかかわらず、同じ機能を実施する開発されたあらゆる要素)の両方を含むことが意図される。
よって、例えば、当業者に明らかなように、本願で示されるブロック図は、本開示の原理を具現する、実例となる回路、電気部品、光学部品、などの概念図を表す。同様に、明らかなように、如何なるフローチャート、フロー図、状態遷移図、擬似コード、及び同様のものも、コンピュータ可読媒体において実質的に表され、そうしてコンピュータ又はプロセッサによって、そのようなコンピュータ又はプロセッサが明示的に図示されていようとなかろうと、実行され得る様々なプロセスを表す。
図示されている様々な要素の機能は、専用のハードウェア及び適切なソフトウェアに関連してソフトウェアを実行することが可能なハードウェアの使用を通じて提供されてよい。プロセッサによって提供される場合に、機能は、単一の専用のプロセッサによって、単一の共有プロセッサによって、又は一部が共有され得る複数の個別プロセッサによって、提供されてよい。更には、語「プロセッサ」又は「コントローラ」の明示的な使用は、ソフトウェアを実行することが可能なハードウェアに明示的に言及していると解釈されるべきではなく、暗に、制限なしに、デジタル信号プロセッサ(“DSP”)ハードウェア、ソフトウェアを記録するリードオンリーメモリ(“ROM”)、ランダムアクセスメモリ(“RAM”)、及び不揮発性ストレージを含んでよい。
従来及び/又はカスタムの他のハードウェアも含まれてよい。同様に、図示されている如何なるスイッチも、単に概念的である。それらの機能は、プログラムロジックの動作を通じて、専用のロジックを通じて、プログラム制御と専用のロジックとの相互作用を通じて、又は手動によってさえ、実行されてよく、特定の技術は、文脈からより具体的に理解されるように実施者によって選択可能である。
本願の特許請求の範囲において、特定の機能を実施する手段として表されている如何なる要素も、例えば、その機能を実施する回路要素の組み合わせ、あらゆる形をとるソフトウェアであって、従って、機能を実施するよう当該ソフトウェアを実行する適切な回路と組み合わされるファームウェア、マイクロコード又は同様のものを含むソフトウェア、などを含め、その機能を実施するあらゆる方法を包含するよう意図される。そのような特許請求の範囲によって定義される本開示は、挙げられている様々な手段によって提供される機能が組み合わされて、特許請求の範囲が要求しているように1つにされるという事実に存在する。よって、それらの機能を提供することができる如何なる手段も、本願で示されているものと同等であると見なされる。
上記の実施形態に加えて、以下の付記が開示される。
(付記1)
タッチデータを取得することと、
生成されるジェスチャ成分の数を選択することと、
前記タッチデータ及び前記ジェスチャ成分の数に基づきジェスチャ成分の組を生成することと、
前記ジェスチャ成分の組を非一時的なコンピュータ可読媒体に記憶することと
を有する方法。
(付記2)
前記タッチデータを取得することは、タッチ検知面におけるタッチ接触を検知することを含む、
付記1に記載の方法。
(付記3)
前記タッチデータを取得することは、所定の時間インターバルで周期的に前記タッチデータを捕捉することを更に含む、
付記2に記載の方法。
(付記4)
前記タッチデータを取得することは、ユーザのインジケーションを受け取り、該インジケーションに基づき前記タッチデータを捕捉することを更に含む、
付記2に記載の方法。
(付記5)
前記タッチデータは、絶対運動、相対運動、絶対位置、相対位置、絶対近接、相対近接、近接の変化、絶対サイズ、相対サイズ、又はサイズの変化のうちの少なくとも1つを含む、
付記1に記載の方法。
(付記6)
前記生成されるジェスチャ成分の数は、コンピュータシステムの制御入力の数に基づく、
付記1に記載の方法。
(付記7)
前記タッチデータは、行列において記憶され、
前記ジェスチャ成分の組を生成することは、前記行列の疎行列分解を実施することを含む、
付記1に記載の方法。
(付記8)
前記ジェスチャ成分は非直交である、
付記1に記載の方法。
(付記9)
ジェスチャ成分の数は、前記タッチデータを検知するために使用されるタッチ検知システムによって検出されることが可能な自由度の数よりも多い、
付記1に記載の方法。
(付記10)
第1のタッチ入力の組を取得することと、
夫々の第1のタッチ入力を前記ジェスチャ成分に基づくコンピュータシステムのサンプル制御入力と対にすることと、
第2のタッチ入力を取得することと、
前記コンピュータシステムのランタイム制御入力を決定するよう前記第2のタッチ入力に基づき前記第1のタッチ入力の組を補間することと
を更に有する付記1に記載の方法。
(付記11)
プロセッサと、
前記プロセッサに、
タッチデータを取得させ、
生成されるジェスチャ成分の数を選択させ、
前記タッチデータ及び前記ジェスチャ成分の数に基づきジェスチャ成分の組を生成させ、
前記ジェスチャ成分の組を非一時的なコンピュータ可読媒体に記憶させる
よう構成された命令を記憶しているメモリと
を有するシステム。
(付記12)
タッチ検知面を更に有し、
前記タッチデータを取得することは、タッチ検知面におけるタッチ接触を検知することを含む、
付記11に記載のシステム。
(付記13)
前記タッチデータを取得することは、所定の時間インターバルで周期的に前記タッチデータを捕捉することを更に含む、
付記12に記載のシステム。
(付記14)
前記タッチデータを取得することは、ユーザのインジケーションを受け取り、該インジケーションに基づき前記タッチデータを捕捉することを更に含む、
付記12に記載のシステム。
(付記15)
前記タッチデータは、絶対運動、相対運動、絶対位置、相対位置、絶対近接、相対近接、近接の変化、絶対サイズ、相対サイズ、又はサイズの変化のうちの少なくとも1つを含む、
付記11に記載のシステム。
(付記16)
前記生成されるジェスチャ成分の数は、コンピュータシステムの制御入力の数に基づく、
付記11に記載のシステム。
(付記17)
前記タッチデータは、行列において記憶され、
前記ジェスチャ成分の組を生成することは、前記行列の疎行列分解を実施することを含む、
付記11に記載のシステム。
(付記18)
前記ジェスチャ成分は非直交である、
付記11に記載のシステム。
(付記19)
ジェスチャ成分の数は、前記タッチデータを検知するために使用されるタッチ検知システムによって検出されることが可能な自由度の数よりも多い、
付記11に記載のシステム。
(付記20)
前記命令は更に、前記プロセッサに、
第1のタッチ入力の組を取得させ、
夫々の第1のタッチ入力を前記ジェスチャ成分に基づくコンピュータシステムのサンプル制御入力と対にさせ、
第2のタッチ入力を取得させ、
前記コンピュータシステムのランタイム制御入力を決定するよう前記第2のタッチ入力に基づき前記第1のタッチ入力の組を補間させる、
付記11に記載のシステム。
(付記21)
タッチデータを取得することと、
生成されるジェスチャ成分の数を選択することと、
前記タッチデータ及び前記ジェスチャ成分の数に基づきジェスチャ成分の組を生成することと、
前記ジェスチャ成分の組を非一時的なコンピュータ可読媒体に記憶することと
を有する方法を実施するよう実行可能なコンピュータ実行可能命令を記憶している非一時的なコンピュータ可読媒体。
(付記22)
前記タッチデータを取得することは、タッチ検知面におけるタッチ接触を検知することを含む、
付記21に記載のコンピュータ可読媒体。
(付記23)
前記タッチデータを取得することは、所定の時間インターバルで周期的に前記タッチデータを捕捉することを更に含む、
付記22に記載のコンピュータ可読媒体。
(付記24)
前記タッチデータを取得することは、ユーザのインジケーションを受け取り、該インジケーションに基づき前記タッチデータを捕捉することを更に含む、
付記22に記載のコンピュータ可読媒体。
(付記25)
前記タッチデータは、絶対運動、相対運動、絶対位置、相対位置、絶対近接、相対近接、近接の変化、絶対サイズ、相対サイズ、又はサイズの変化のうちの少なくとも1つを含む、
付記21に記載のコンピュータ可読媒体。
(付記26)
前記生成されるジェスチャ成分の数は、コンピュータシステムの制御入力の数に基づく、
付記21に記載のコンピュータ可読媒体。
(付記27)
前記タッチデータは、行列において記憶され、
前記ジェスチャ成分の組を生成することは、前記行列の疎行列分解を実施することを含む、
付記21に記載のコンピュータ可読媒体。
(付記28)
前記ジェスチャ成分は非直交である、
付記21に記載のコンピュータ可読媒体。
(付記29)
ジェスチャ成分の数は、前記タッチデータを検知するために使用されるタッチ検知システムによって検出されることが可能な自由度の数よりも多い、
付記21に記載のコンピュータ可読媒体。
(付記30)
前記方法は、
第1のタッチ入力の組を取得することと、
夫々の第1のタッチ入力を前記ジェスチャ成分に基づくコンピュータシステムのサンプル制御入力と対にすることと、
第2のタッチ入力を取得することと、
前記コンピュータシステムのランタイム制御入力を決定するよう前記第2のタッチ入力に基づき前記第1のタッチ入力の組を補間することと
を更に有する、付記21に記載のコンピュータ可読媒体。
(付記31)
付記1乃至10のうちいずれか一つに記載の方法を実施するようプロセッサによって実行可能なプログラムコード命令を有するコンピュータプログラム。

Claims (14)

  1. タッチ検知面から、行列において記憶されるタッチデータを取得することと、
    生成されるジェスチャ成分の数を選択することと、
    前記行列の疎行列分解を実施することによって、前記タッチデータ及び前記ジェスチャ成分の数に基づきジェスチャ成分の組を生成することと、
    前記タッチ検知面から第1のタッチ入力を取得することと、
    前記ジェスチャ成分の組に対する前記第1のタッチ入力の投影を決定することと、
    前記投影に基づきコンピュータシステムの複数の制御入力を決定することと
    を有する方法。
  2. 前記生成されるジェスチャ成分の数は、前記コンピュータシステムの制御入力の数に基づく、
    請求項1に記載の方法。
  3. 前記ジェスチャ成分は非直交である、
    請求項1又はに記載の方法。
  4. 前記ジェスチャ成分の数は、前記タッチデータを検知するために使用されるタッチ検知システムによって検出されることが可能な自由度の数よりも多い、
    請求項1又はに記載の方法。
  5. 前記複数の制御入力を決定することは、
    トレーニングされたタッチ入力の組を取得することと、
    夫々のトレーニングされたタッチ入力を前記コンピュータシステムのサンプル制御入力と対にすることと、
    前記トレーニングされたタッチ入力の組を前記第1のタッチ入力に基づき補間することと
    を含む、請求項1乃至のうちいずれか一項に記載の方法。
  6. 前記トレーニングされたタッチ入力の組を補間することは、前記トレーニングされたタッチ入力の線形マッピング関数を決定することを含む、
    請求項に記載の方法。
  7. 前記第1のタッチ入力は、絶対運動、相対運動、絶対位置、相対位置、絶対近接、相対近接、近接の変化、絶対サイズ、相対サイズ、又はサイズの変化のうちの少なくとも1つを含む、
    請求項1乃至のうちいずれか一項に記載の方法。
  8. 前記ジェスチャ成分の組を非一時的なコンピュータ可読媒体において記憶することと、
    前記投影を非一時的なコンピュータ可読媒体において記憶することと
    を更に有する請求項1に記載の方法。
  9. 第2のタッチ入力を取得することと、
    前記コンピュータシステムのランタイム制御入力を決定するよう前記第2のタッチ入力に基づき前記第1のタッチ入力の組を補間することと
    を更に有する請求項1に記載の方法。
  10. プロセッサに、
    タッチ検知面から、行列において記憶されるタッチデータを取得させ、
    生成されるジェスチャ成分の数を選択させ、
    前記行列の疎行列分解を実施することによって、前記タッチデータ及び前記ジェスチャ成分の数に基づきジェスチャ成分の組を生成させ、
    前記タッチ検知面から第1のタッチ入力を取得させ、
    前記ジェスチャ成分の組に対する前記第1のタッチ入力の投影を決定させ、
    前記投影に基づきコンピュータシステムの複数の制御入力を決定させる
    よう構成された命令を記憶しているメモリを有するシステム。
  11. 前記生成されるジェスチャ成分の数は、当該システムの制御入力の数に基づく、
    請求項10に記載のシステム。
  12. 前記プロセッサは、
    前記ジェスチャ成分の組を非一時的なコンピュータ可読媒体において記憶し、
    前記投影を非一時的なコンピュータ可読媒体において記憶する
    よう更に構成される、請求項10に記載のシステム。
  13. 前記プロセッサは、
    第2のタッチ入力を取得し、
    当該システムのランタイム制御入力を決定するよう前記第2のタッチ入力に基づき前記第1のタッチ入力の組を補間する
    よう更に構成される、請求項10に記載のシステム。
  14. タッチ検知面から、行列において記憶されるタッチデータを取得することと、
    生成されるジェスチャ成分の数を選択することと、
    前記行列の疎行列分解を実施することによって、前記タッチデータ及び前記ジェスチャ成分の数に基づきジェスチャ成分の組を生成することと、
    前記タッチ検知面から第1のタッチ入力を取得することと、
    前記ジェスチャ成分の組に対する前記第1のタッチ入力の投影を決定することと、
    前記投影に基づきコンピュータシステムの複数の制御入力を決定することと
    を有する方法を実施するよう実行可能なコンピュータ実行可能命令を記憶している非一時的なコンピュータ可読媒体。
JP2016569608A 2014-05-28 2015-05-26 タッチ入力のための方法及びシステム Expired - Fee Related JP6631541B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP14305801 2014-05-28
EP14305801.4 2014-05-28
PCT/EP2015/061577 WO2015181159A1 (en) 2014-05-28 2015-05-26 Methods and systems for touch input

Publications (3)

Publication Number Publication Date
JP2017517071A JP2017517071A (ja) 2017-06-22
JP2017517071A5 JP2017517071A5 (ja) 2018-06-28
JP6631541B2 true JP6631541B2 (ja) 2020-01-15

Family

ID=50943256

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016569608A Expired - Fee Related JP6631541B2 (ja) 2014-05-28 2015-05-26 タッチ入力のための方法及びシステム

Country Status (6)

Country Link
US (1) US10268368B2 (ja)
EP (1) EP3149566A1 (ja)
JP (1) JP6631541B2 (ja)
KR (1) KR20170009979A (ja)
CN (1) CN106575200A (ja)
WO (4) WO2015181163A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10096133B1 (en) * 2017-03-31 2018-10-09 Electronic Arts Inc. Blendshape compression system
CN111957032B (zh) * 2019-02-22 2024-03-08 网易(杭州)网络有限公司 游戏角色控制方法、装置、设备和存储介质
US10902618B2 (en) 2019-06-14 2021-01-26 Electronic Arts Inc. Universal body movement translation and character rendering system
US11504625B2 (en) 2020-02-14 2022-11-22 Electronic Arts Inc. Color blindness diagnostic system
US11232621B2 (en) 2020-04-06 2022-01-25 Electronic Arts Inc. Enhanced animation generation based on conditional modeling
US11648480B2 (en) 2020-04-06 2023-05-16 Electronic Arts Inc. Enhanced pose generation based on generative modeling
US11830121B1 (en) 2021-01-26 2023-11-28 Electronic Arts Inc. Neural animation layering for synthesizing martial arts movements
US11526235B1 (en) * 2021-05-18 2022-12-13 Microsoft Technology Licensing, Llc Artificial intelligence model for enhancing a touch driver operation
US11887232B2 (en) 2021-06-10 2024-01-30 Electronic Arts Inc. Enhanced system for generation of facial models and animation
US11670030B2 (en) 2021-07-01 2023-06-06 Electronic Arts Inc. Enhanced animation generation based on video with local phase
US11562523B1 (en) 2021-08-02 2023-01-24 Electronic Arts Inc. Enhanced animation generation based on motion matching using local bone phases
US11782522B1 (en) * 2022-03-25 2023-10-10 Huawei Technologies Co., Ltd. Methods and systems for multimodal hand state prediction

Family Cites Families (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6701296B1 (en) * 1988-10-14 2004-03-02 James F. Kramer Strain-sensing goniometers, systems, and recognition algorithms
US20070177804A1 (en) * 2006-01-30 2007-08-02 Apple Computer, Inc. Multi-touch gesture dictionary
US8479122B2 (en) * 2004-07-30 2013-07-02 Apple Inc. Gestures for touch sensitive input devices
US6249606B1 (en) * 1998-02-19 2001-06-19 Mindmaker, Inc. Method and system for gesture category recognition and training using a feature vector
US7030861B1 (en) * 2001-02-10 2006-04-18 Wayne Carl Westerman System and method for packing multi-touch gestures onto a hand
US7170496B2 (en) * 2003-01-24 2007-01-30 Bruce Peter Middleton Zero-front-footprint compact input system
US7519223B2 (en) * 2004-06-28 2009-04-14 Microsoft Corporation Recognizing gestures and using gestures for interacting with software applications
US9063647B2 (en) * 2006-05-12 2015-06-23 Microsoft Technology Licensing, Llc Multi-touch uses, gestures, and implementation
US7956847B2 (en) * 2007-01-05 2011-06-07 Apple Inc. Gestures for controlling, manipulating, and editing of media files using touch sensitive devices
US8175728B2 (en) * 2007-12-13 2012-05-08 Georgia Tech Research Corporation Detecting user gestures with a personal mobile communication device
US8345014B2 (en) * 2008-07-12 2013-01-01 Lester F. Ludwig Control of the operating system on a computing device via finger angle using a high dimensional touchpad (HDTP) touch user interface
US8169414B2 (en) * 2008-07-12 2012-05-01 Lim Seung E Control of electronic games via finger angle using a high dimensional touchpad (HDTP) touch user interface
US8390577B2 (en) * 2008-07-25 2013-03-05 Intuilab Continuous recognition of multi-touch gestures
US20100095234A1 (en) 2008-10-07 2010-04-15 Research In Motion Limited Multi-touch motion simulation using a non-touch screen computer input device
US8436821B1 (en) * 2009-11-20 2013-05-07 Adobe Systems Incorporated System and method for developing and classifying touch gestures
KR101058612B1 (ko) * 2009-12-28 2011-08-22 박원주 멀티터치가 가능한 터치스크린을 이용한 화상의 색 보정 방법
US8286102B1 (en) * 2010-05-27 2012-10-09 Adobe Systems Incorporated System and method for image processing using multi-touch gestures
US20110314427A1 (en) 2010-06-18 2011-12-22 Samsung Electronics Co., Ltd. Personalization using custom gestures
US8754862B2 (en) 2010-07-11 2014-06-17 Lester F. Ludwig Sequential classification recognition of gesture primitives and window-based parameter smoothing for high dimensional touchpad (HDTP) user interfaces
US9134799B2 (en) * 2010-07-16 2015-09-15 Qualcomm Incorporated Interacting with a projected user interface using orientation sensors
US9459733B2 (en) * 2010-08-27 2016-10-04 Inputdynamics Limited Signal processing systems
US8743064B2 (en) * 2010-09-17 2014-06-03 A.I. Solutions, Inc. Gesture orbit design
US20120092286A1 (en) * 2010-10-19 2012-04-19 Microsoft Corporation Synthetic Gesture Trace Generator
JP2014507726A (ja) * 2011-02-08 2014-03-27 ハワース, インコーポレイテッド マルチモーダルタッチスクリーン対話装置、方法、及び、システム
US20130132903A1 (en) * 2011-03-22 2013-05-23 Aravind Krishnaswamy Local Coordinate Frame User Interface for Multitouch-Enabled Applications
US20120280927A1 (en) * 2011-05-04 2012-11-08 Ludwig Lester F Simple touch interface and hdtp grammars for rapid operation of physical computer aided design (cad) systems
US8751972B2 (en) * 2011-09-20 2014-06-10 Google Inc. Collaborative gesture-based input language
US10430066B2 (en) * 2011-12-06 2019-10-01 Nri R&D Patent Licensing, Llc Gesteme (gesture primitive) recognition for advanced touch user interfaces
US20130198690A1 (en) * 2012-02-01 2013-08-01 Microsoft Corporation Visual indication of graphical user interface relationship
GB201203832D0 (en) * 2012-03-05 2012-04-18 Elliptic Laboratories As User input system
US8698778B2 (en) * 2012-07-30 2014-04-15 Olympus Ndt Method of manipulating impedance plane with a multi-point touch on touch screen
US9874977B1 (en) * 2012-08-07 2018-01-23 Amazon Technologies, Inc. Gesture based virtual devices
US9323985B2 (en) * 2012-08-16 2016-04-26 Microchip Technology Incorporated Automatic gesture recognition for a sensor system
US9001035B2 (en) * 2012-10-19 2015-04-07 Red Bird Rising, Llc Configured input display for communicating to computational apparatus
US9201580B2 (en) * 2012-11-13 2015-12-01 Adobe Systems Incorporated Sound alignment user interface
US20140375572A1 (en) * 2013-06-20 2014-12-25 Microsoft Corporation Parametric motion curves and manipulable content
CN103559809B (zh) * 2013-11-06 2017-02-08 常州文武信息科技有限公司 基于计算机的现场交互演示系统
US9594893B2 (en) * 2014-01-15 2017-03-14 Lenovo (Singapore) Pte. Ltd. Multi-touch local device authentication
TWI509533B (zh) * 2014-04-23 2015-11-21 Novatek Microelectronics Corp 多重掃描之觸控系統的相位補償方法及相位補償電路
US9678664B2 (en) * 2015-04-10 2017-06-13 Google Inc. Neural network for keyboard input decoding

Also Published As

Publication number Publication date
WO2015181163A1 (en) 2015-12-03
JP2017517071A (ja) 2017-06-22
US20180239526A1 (en) 2018-08-23
WO2015181162A1 (en) 2015-12-03
CN106575200A (zh) 2017-04-19
US10268368B2 (en) 2019-04-23
KR20170009979A (ko) 2017-01-25
EP3149566A1 (en) 2017-04-05
WO2015181159A1 (en) 2015-12-03
WO2015181161A1 (en) 2015-12-03

Similar Documents

Publication Publication Date Title
JP6631541B2 (ja) タッチ入力のための方法及びシステム
US12086323B2 (en) Determining a primary control mode of controlling an electronic device using 3D gestures or using control manipulations from a user manipulable input device
US20220083880A1 (en) Interactions with virtual objects for machine control
EP3552085B1 (en) Multi-task machine learning for predicted touch interpretations
JP5702296B2 (ja) ソフトウェアキーボード制御方法
US20200004403A1 (en) Interaction strength using virtual objects for machine control
Le et al. Investigating the feasibility of finger identification on capacitive touchscreens using deep learning
Oh et al. The challenges and potential of end-user gesture customization
US9696882B2 (en) Operation processing method, operation processing device, and control method
Matlani et al. Virtual mouse using hand gestures
WO2022267760A1 (zh) 按键功能执行方法、装置、设备及存储介质
US10222866B2 (en) Information processing method and electronic device
TWI564780B (zh) 觸控螢幕姿態技術
Huang et al. SpeciFingers: Finger Identification and Error Correction on Capacitive Touchscreens
US20200174580A1 (en) Method and system to automatically map physical objects into input devices in real time
US11782548B1 (en) Speed adapted touch detection
KR20140086805A (ko) 전자 장치, 그 제어 방법 및 컴퓨터 판독가능 기록매체
EP4439258A1 (en) Mode switching between touchless pointer operation and typing activities using a computer device
EP4439240A1 (en) Emulation of a physical input device for touchless control of a computer device
Lu et al. Realizing multi-touch-like gestures in 3d space
Matulic et al. Deep Learning-Based Hand Posture Recognition for Pen Interaction Enhancement
Gaur AUGMENTED TOUCH INTERACTIONS WITH FINGER CONTACT SHAPE AND ORIENTATION
HANI Detection of Midair Finger Tapping Gestures and Their Applications
Wu Study and design of interaction techniques to facilitate object selection and manipulation in virtual environments on mobile devices
Bunscheit Imaginary Interfaces: Development of user interfaces for creating highly mobile screen-less devices

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180516

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180516

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20181220

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20181227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190123

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190207

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190425

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190807

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191029

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20191111

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191125

R150 Certificate of patent or registration of utility model

Ref document number: 6631541

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees