JP6899655B2 - 乱れ抵抗性タッチスクリーン - Google Patents

乱れ抵抗性タッチスクリーン Download PDF

Info

Publication number
JP6899655B2
JP6899655B2 JP2017005595A JP2017005595A JP6899655B2 JP 6899655 B2 JP6899655 B2 JP 6899655B2 JP 2017005595 A JP2017005595 A JP 2017005595A JP 2017005595 A JP2017005595 A JP 2017005595A JP 6899655 B2 JP6899655 B2 JP 6899655B2
Authority
JP
Japan
Prior art keywords
gui
body part
touch screen
user
spatial relationship
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017005595A
Other languages
English (en)
Other versions
JP2017199345A (ja
Inventor
ルーカス ドマラズキ,
ルーカス ドマラズキ,
ブライアン アスクエナガ,
ブライアン アスクエナガ,
サマンサ シュワルツ,
サマンサ シュワルツ,
マリウシュ ナウォトツェインスキー,
マリウシュ ナウォトツェインスキー,
アントニオ プエンテス,
アントニオ プエンテス,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Boeing Co
Original Assignee
Boeing Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Boeing Co filed Critical Boeing Co
Publication of JP2017199345A publication Critical patent/JP2017199345A/ja
Application granted granted Critical
Publication of JP6899655B2 publication Critical patent/JP6899655B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • G06F3/0418Control or interface arrangements specially adapted for digitisers for error correction or compensation, e.g. based on parallax, calibration or alignment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0412Digitisers structurally integrated in a display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/014Hand-worn input/output arrangements, e.g. data gloves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Description

本開示は、広くは、データ処理システムに関し、特に、タッチスクリーンシステムを含むデータ処理システムに関する。
航空機のコックピット内で必要とされる空間の量を低減させる労力において、種々の電気システムが組み合わされて単一のシステムとなり又はディスプレイを共有し得る。例えば、幾つかの飛行計器及び制御装置が組み合わされて、単一のディスプレイ及びそのディスプレイのための制御システムとなり得る。このやり方において、航空機のコックピットの中のこれらのシステムのために、より少ない空間が必要とされ得る。
グラフィカルユーザインターフェース(GUI)を使用して、種々の種類の情報が表示され得る。GUIと相互作用するために、ディスプレイは、ユーザがGUI内の相互作用要素を起動又は変更することを許容する、統合されたタッチスクリーンを含み得る。しかし、特定の動作状態の間、タッチスクリーンを使用するオペレータの技量は、困難なものとなり得る。例えば、強い加速が存在する中で、離陸及び着陸などの航空機の特定の操縦の間に、正しい相互作用ボタン又はスライダをタッチすることは困難であり得る。他の例では、天候などの状態も、タッチスクリーンの使用をより困難にし得る。
本明細書で説明される一態様は、タッチスクリーンにグラフィカルユーザインターフェース(GUI)を表示すること、及びユーザの身体部分とタッチスクリーンに表示されたGUIの少なくとも一部分との間の空間的な関係を特定することを含む、方法である。該方法は、タッチスクリーンと身体部分との間の相対的な動きに応じて、タッチスクリーン内でGUIの一部分の位置を移動させ、身体部分とGUIの一部分との間の空間的な関係を維持することを含む。
本明細書で説明される別の一態様は、GUIを表示するように設定されたタッチスクリーンと乱れ検出器とを含む、ディスプレイシステムである。乱れ検出器は、ユーザの身体部分とタッチスクリーンに表示されたGUIの少なくとも一部分との間の空間的な関係を特定し、タッチスクリーンと身体部分との間の相対的な動きに応じて、タッチスクリーン内でGUIの一部分の位置を移動させ、身体部分とGUIの一部分との間の空間的な関係を維持するように設定されている。
本明細書で説明される別の一態様は、コンピュータ可読記憶媒体を用いて具現化されるコンピュータ可読プログラムを含む、コンピュータ可読記憶媒体である。1以上のコンピュータプロセッサによって実行可能なコンピュータ可読プログラムコードは、タッチスクリーンにGUIを表示し、ユーザの身体部分とタッチスクリーンに表示されたGUIの少なくとも一部分との間の空間的な関係を特定し、タッチスクリーンと身体部分との間の相対的な動きに応じて、タッチスクリーン内でGUIの一部分の位置を移動させ、ユーザとGUIの一部分との間の空間的な関係を維持する。
統合されたタッチスクリーン及びディスプレイスクリーンを有する、ディスプレイシステムのブロック図である。 乱れ運動に応じて、GUIを調整するためのフローチャートである。 タッチスクリーンに対する手の位置を追跡するためのシステムを示す。 タッチスクリーンに対する手の位置を追跡するためのシステムを示す。 乱れ運動に応じて、GUIの位置を調整するタッチスクリーンを示す。 乱れ運動に応じて、GUIの位置を調整するタッチスクリーンを示す。 乱れ運動に応じて、GUIの位置を調整するタッチスクリーンを示す。
理解を容易にするため、可能な場合には、複数の図に共通する同一の要素を指し示すために同一の参照番号を使用した。一態様に開示された要素は、特に列挙することなく、他の態様に有利に用いられ得る。
本明細書の態様は、輸送体(例えば、航空機、ボート、自動車、列車、宇宙船など)内の乱れ運動に応じて、表示されるグラフィカルユーザインターフェース(GUI)の少なくとも一部分を移動させる、ディスプレイシステムを説明する。一態様において、GUIは、ユーザがGUI内の1以上の要素(例えば、ボタン、スライダ、相互作用物体など)と相互作用することを可能にする、統合されたタッチセンシング領域を含む、スクリーンに表示される。ユーザは、自分の指を使用して、GUIと相互作用するためにスクリーンにタッチする(又は覆い被さる)ことができる。しかし、乱れ運動は、ユーザが、GUI内の相互作用要素をミスし又はGUI内の間違った要素を不注意にタッチする原因となる。
一態様では、ユーザがGUI内の望ましい相互作用要素をタッチすることを助けるために、ディスプレイシステムが、ユーザの手又は指の動きを追跡し、GUIを表示するスクリーンに対するその位置を判定して、乱れ運動の間に、スクリーンに対する手又は指の空間的な関係を維持する。一態様では、ユーザが、スクリーンに対する手の位置を判定するためのセンサを含む、手袋をはめる。代替的に、ディスプレイシステムは、ユーザの手の位置を追跡するための動作追跡アプリケーションを含み得る。乱れ運動が、スクリーンに対して望ましくない又は意図しないやり方で手が移動することをもたらすときに、ディスプレイシステムは、ユーザとGUIとの間の空間的な関係が維持されるように、表示されているGUIを調整する。一態様では、ディスプレイシステムが、GUIの少なくとも一部分がユーザの指と固定された空間的な関係を維持するように、スクリーン内でGUIの位置をシフトする。したがって、ユーザが、乱れ運動のすぐ後でスクリーンにタッチするならば、ユーザは、スクリーンの意図しない位置ではなく、GUIの意図された位置にタッチすることになる。
図1は、コンピューティングシステム105と統合されたタッチ及びディスプレイ装置145とを有する、ディスプレイシステム100のブロック図である。コンピューティングシステム105は、プロセッサ110、オペレーティングシステム115、乱れ検出器130、ディスプレイ調節器135、及びタッチ調節器140を含む。プロセッサ110は、複数の処理コアを含み得る、1以上の処理要素を表している。プロセッサ110は、オペレーティングシステム115から受信された指示命令を実行するための、汎用プロセッサ又は特定用途向け集積回路(ASIC)を含むことができる。オペレーティングシステム115は、本明細書で説明される機能を実行することができる、任意のオペレーティングシステムであり得る。オペレーティングシステム115は、タッチ/ディスプレイ装置145に表示されるためのGUI125を生成する、パイロットアプリケーション120を含む。
一態様では、パイロットアプリケーション120が、タッチ/ディスプレイ装置145を含む、多機能ディスプレイに表示されるためのGUI125を更新する。概して、GUI125は、飛行機の高度、輸送体の傾き、速度、コントロールシステムの位置、ステータス、燃料レベルなどの情報を、ユーザに提供し得る。更に、GUI125は、ユーザが、タッチ/ディスプレイ装置145を使用して、起動させ又は移動させることができる、相互作用要素を含む。例えば、GUI125を表示するために使用されるスクリーン150は、装置145がユーザ入力を受信することを可能にする、センシング領域も画定する。ユーザがGUI125内の相互作用要素にタッチする(又は覆い被さる)ときに、タッチ/ディスプレイ装置145は、ユーザの指の位置を検出し、パイロットアプリケーション120に注意喚起することができる。それに応じて、パイロットアプリケーション120は、GUI125を変更し、又は輸送体内の他のシステムに、輸送体のパラメータを変更する制御信号を送信することができる。
図1は、パイロットが航空機又はボートなどの輸送体を操縦するために有用な情報を出力するパイロットアプリケーション120を示しているが、運転手に指示を提供するための相互作用GUIを自動車内に表示するナビケーションアプリケーションなどの、他のアプリケーションが使用され得る。別の一実施例において、コンピューティングシステム105は、飛行機内の乗客が鑑賞する映画又はテレビ番組を選択するためのGUIを表示する、メディアアプリケーションを含み得る。例えば、タッチ/ディスプレイ装置145は、座席の後部内に配置され得るか又は輸送体内のユーザによって把持されるタブレット若しくはスマートフォンであり得る。これらの非限定的な例の全ては、以下で説明される技術が使用されて、ユーザが、乱れ運動の間にスクリーンの望ましくない部分を偶発的にタッチしてしまうことを妨げることができる、アプリケーションである。
乱れ検出器130は、乱れ運動を検出し、それに応じて、GUI125がタッチ/ディスプレイ装置145内に表示されるやり方を調整する。本明細書で使用される際に、「乱れ運動」又は「乱れ」は、ユーザとタッチ/ディスプレイ装置145との間の空間的な関係を変化させる、輸送体及び/又は輸送体内のユーザにかかる任意の力を含み得る。乱れ運動の例は、航空機内の乱れ、車輪輸送体が受ける窪みからの衝撃、加速又は減速(例えば、赤信号での停止、又は航空機の離陸若しくは着陸)、波を越えての移動などを含む。
乱れ検出器130は、パイロットアプリケーション120と通信可能に接続され、タッチ/ディスプレイ装置145にGUI125を表示する作業を行うディスプレイ調節器135と通信可能に接続され得る。乱れ検出器130は、乱れ運動を検出したことに応じて、ディスプレイ調節器135がGUI125を出力するやり方を変更する。例えば、乱れ運動の前に、ユーザの指は、GUI125内で表示された特定のボタンを覆って配置され得る。しかし、乱れ運動は、指又は装置145の何れかが互いに対して移動することを強い、それによって、指がもはやボタンを覆って配置されていないという状態が生じ得る。乱れ運動が生じたときにユーザがボタンをタッチするプロセスにあったならば、本明細書で説明される技術がないとして、ユーザは、そのボタンを含まないGUI125の一部分に接触し得る。以下でより詳細に説明されるように、乱れ検出器130は、GUI125がタッチ/ディスプレイ装置145に表示されるやり方を変更するように、ディスプレイ調節器135に指示命令し、それによって、乱れ運動が生じた後で、ユーザの指とGUI125内のボタンとの間の空間的な関係が維持される。
一態様では、乱れ検出器130が、乱れ運動を特定するために使用され得るデータを提供する、加速度計、ジャイロスコープ、動作追跡システムなどの、飛行機内に配置された1以上のセンサと通信可能に接続されている。これらのセンサは、乱れ検出器130が、手の動きがユーザによって意図されたものであるか又は乱れ運動を原因とするものであるかを判定することを可能にする。例えば、センサは、乱れ検出器130が、指がスクリーン150にタッチする前にユーザの指を追跡すること、及び、指の動きが乱れ運動によるものであるか否かを判定することを可能にし、乱れ運動によるものならば、GUI125が装置145に表示されるやり方を調整する。
タッチ調節器140は、タッチ/ディスプレイ装置145に接続され、スクリーン150内のセンシング領域の近傍にあるときに、ユーザの指又は手(若しくは他の身体部分)の位置を検出する。例えば、タッチ調節器140は、抵抗性センシング又は容量性センシングを使用して、ユーザが現在接触している、スクリーン150内の位置を特定し得る。一態様では、タッチ調整器140が、この位置を、ユーザがGUI125内の相互作用要素のうちの1つにタッチしたか否かを判定する、乱れ検出器130又はパイロットアプリケーション120に報告する。言い換えると、乱れ検出器130は、GUI125の相互作用要素が表示されている位置を知っており、これらの位置をタッチ調節器140によって提供される位置と相互に関連付け、相互作用要素のうちのどの1つにユーザが現在接触し又は覆い被さっているかを判定することができる。
乱れ検出器130を使用して、GUI125が表示されるやり方を調整することの1つの利点は、パイロットアプリケーション120が、変更又は修正される必要がないということである。すなわち、(ハードウェア、ファームウェア、ソフトウェア、又はそれらの組み合わせであり得る)乱れ検出器130は、パイロットアプリケーション120とディスプレイ調節器135との間の媒介物として働くことができる。したがって、パイロットアプリケーション120は、乱れ運動を検出しGUI125を調整する必要がなく、むしろこれは、乱れ検出器130によって実行される。一態様では、複数の異なるアプリケーションが、タッチ/ディスプレイ装置145を使用してGUIを表示するとしても、これらのアプリケーションは、本明細書で説明される技術を実行するために修正されない。代わりに、パイロットアプリケーション120は、GUI125を乱れ検出器130に送信し、そこで、乱れ検出器130は、GUI125が乱れ運動に応じて表示されるやり方を修正する。更に、乱れ検出器130がGUI125を修正するので、乱れ検出器130は、タッチ/ディスプレイ装置145のセンシング領域内のユーザ相互作用の位置を、GUI125内の相互作用要素の位置にマッピングするための情報を含み、ユーザが要素のうちの1以上に接触したか否かを判定する。そうであるならば、乱れ検出器130は、相互作用要素がユーザに接触されたという情報を、パイロットアプリケーション120に知らせることができる。したがって、一態様では、パイロットアプリケーション120が、GUI125が通常に表示されたか又は表示される前に乱れ検出器130によって変更されたか否かに関わらず、同じように機能する。
図2は、乱れ運動に応じて、GUIを調整するための方法200のフローチャートである。該方法は、ブロック205で始まり、乱れ検出器がディスプレイシステムを乱れモードに設定する。一態様では、乱れ検出器が輸送体内のセンサをモニターし、ディスプレイシステムが乱れモードに設定されたか否かを判定する。例えば、乱れ検出器は、予め規定された期間内に、センサによって報告された加速度が閾値を超えたか又は加速度の特定の数値が測定されるまで待って、乱れモードを起動するかもしれない。一態様では、ユーザ(例えば、パイロット又は運転手)が、手動で乱れモードを起動し得る。一旦、乱れモードに設定されると、乱れ検出器は、以下で説明されるように、タッチスクリーンと相互作用するユーザの身体部分(例えば、指又は手)の位置のモニタリングを開始する。
乱れモードが起動されないならば、乱れ検出器は、ユーザの動きが乱れ運動によってもたらされたか否かを判定するためにユーザをモニターし得ない。ディスプレイシステムを乱れモードにすることは、乱れ検出器が誤って、乱れ運動によってもたらされたものではないユーザの動きを意図されない動きとして解釈する、誤検出の可能性を低減させ得る。しかし、他の態様では、乱れ検出器が、ディスプレイシステムが乱れモードにされるまで待たずに、乱れ運動によってもたらされたユーザの手又は指の動きを検出することを試みる。
ブロック210では、乱れ検出器が、ユーザの手又は指の動きを追跡する。一態様では、乱れ検出器が、GUIを表示するスクリーンに対する手の相対的な位置を判定する。一実施例において、乱れ検出器は、GUIのうちのどの部分が、スクリーンに垂直な方向に対して、ユーザに指によって覆われているかを判定する。そのやり方において、乱れ検出器は、GUI内のどの相互作用要素を、ユーザが起動又は接触しようとしている可能性が高いかを特定し得る。したがって、乱れ運動が、ユーザの手が動くことをもたらすならば、乱れ検出器は、ユーザが接触しようと試み得る相互作用要素を既に特定している。
図3は、GUI125を表示している、タッチスクリーン150に対する手の位置を追跡するためのシステム300を示す。システム300は、ユーザによってはめられている、センサ310及び320を含む手袋305を含む。センサ310及び320は、乱れ検出器によって使用され、方法200のブロック210で説明されたように手の位置を追跡することができる、データを出力する。例えば、センサ310及び320は、加速度計、ジャイロスコープ、位置検出のために使用される高周波又は赤外線エミッタなどであり得る。手袋305は、センサ310及び320によって生成されたデータを、ユーザの手又は指の位置を追跡するためにそのデータを使用することができる、乱れ検出器に送信するための無線送信器を含み得る。
一態様では、乱れ検出器が、センサ310及び320からのデータを使用して、GUI125に対する指315の位置を判定する。例えば、乱れ検出器は、指315が、GUI125内のボタン325のうちの1つに覆い被さっているか否かを判定する。一態様では、乱れ検出器が、ボタン325の位置と比較され得る、3D空間内の指315の位置を判定する。言い換えると、ボタン325の位置が知られていると想定して、乱れ検出器は、センサ310及び320によって提供された情報を使用して、指315がどのボタン315に接近しているかを判定し得る。システム300は、ユーザの手を追跡するための装着可能装置(ウエアラブルデバイス)として手袋305を使用することを示しているが、他の態様では、装着可能装置は、リング、ブレスレット、腕時計などであり得る。
図4は、タッチスクリーンに対する手405の位置を追跡するためのシステム400を示す。ユーザが手を追跡するためのアクティブな装置を装着する図3のものとは異なり、システム400は、動き追跡器415を使用して、スクリーン150に対する手の位置を特定する。すなわち、システム400は、ユーザが、手405の位置を追跡するために任意の種類の装置を装着することを要求しない。代わりに、システム400は、動き追跡器415に更新された画像を提供するコンピューティングシステム105に接続されたカメラ410を含む。一態様において、カメラ410は、その視野が、スクリーン150に接近する物体(例えば、手405)を捉えるように配置されている。
動き追跡器415は、カメラ410によって捉えられた画像を処理し、スクリーン150に対する手405の位置を特定する。その後、動き追跡器415は、手405の位置を乱れ検出器に送信する。このやり方において、システム400は、手405が、GUI125内のボタン325のうちの1つに接近しているか又は覆い被さっているか否かを判定し得る。更に、スクリーンに対する手405の位置を判定することにおいて助けとなるために、システム400は、手405からカメラまでの距離を判定する深度カメラを含み得る。概して、本明細書で説明される技術は、ユーザとGUI125との間の空間的な関係を特定するために、手405の拡張された指によって重ねられたGUI125の一部分を特定するのに十分な解像度を提供する、任意の検出システムを使用することができる。
方法200に戻ると、ブロック215において、乱れ検出器は、手(又は指)がスクリーンの閾値距離内にあるか否かを判定する。この実施例では、乱れ検出器が、手又は指とスクリーンとの間の距離を判定する。例えば、乱れ検出器は、ユーザの指がスクリーンから予め規定された距離内(例えば、1インチ以下)にあるまで、GUIの一部分をユーザの手と相互に関連付け得ない。言い換えると、乱れ検出器は、ユーザの手又は指がスクリーンから1インチ内にあるまで待って、ユーザがGUIのどの部分に接触を試みているのかを特定し得る。例えば、ユーザの手がスクリーンから1インチを超えているならば、方法200は、ブロック220へ進み、GUIがスクリーンに通常通りに表示される。
図3及び図4の両方は、スクリーン150とユーザとの間の距離D1及びD2を判定するように示している。これらの実施例では、ユーザが、拡張された指の先端である。一態様では、指がスクリーン150から1インチを超えて離れているならば、乱れ検出器は、指によって重ねられているGUI125の一部分を特定しない。すなわち、乱れ検出器は、指とGUI125との間の空間的な関係を特定しない。例えば、ユーザは、自分が3つのボタン325のうちのどれを押そうとしているか、未だ決めていないだろう。しかし、ユーザが、スクリーンから1インチ内に指を動かしたときに、乱れ検出器は、ユーザがどのボタン325を押そうとしているか決定したと想定する。それに応じて、乱れ検出器は、システム300又はシステム400を使用して、指によって重ねられているスクリーン150の位置を判定する。
一態様では、乱れ検出器が、システム300又は400を使用して、ユーザの手がスクリーンに接近する速度もモニターし得る。例えば、ユーザが、1秒当たり1インチ以上の速度でスクリーンに向かって自分の手を動かしているならば、乱れ検出器は、ユーザがどのボタンを押すか決定したと判定する。それに応じて、乱れ検出器は、ユーザが現在の動きを続けるならば、押すことになるボタンを特定する。すなわち、乱れ検出器は、システム300又は400によって提供されたセンサ情報を使用して、ユーザの手の現在の方向を判定し、したがって、ユーザの指がスクリーンのどこに接触するかを判定し得る。一態様では、閾値距離よりもむしろ、ユーザの手が移動する速度が、ブロック215での閾値として使用され得る。例えば、ユーザの手とスクリーンとの現在の分離に関わらず、乱れ検出器は、手がスクリーンに接近する速度が1秒当たり1インチよりも速ければ、ブロック225へ進むのみであり得る。したがって、指がスクリーンから0.5インチだけ離れているが静止しているならば、乱れ検出器は、GUI内の任意の特定の相互作用要素を、指の位置と相互に関連付け得ない。言い換えると、ユーザは自分の手を動かしていないので、乱れ検出器は、ユーザが、どの相互作用要素を押すか未だ決定していないと想定し、したがって、乱れ運動が存在するとしても、GUIを通常通りに表示する。
別の一態様では、予め規定された距離の閾値とユーザが自分の手を動かしている速度が、ブロック215で組み合わせて使用され得る。例えば、ユーザの手の任意の部分がスクリーンから2インチ以内にあり、且つ、手が1秒当たり0.5インチの速度でスクリーンに向かう方向において移動している場合にのみ、乱れ検出器は、ブロック225へ進み得る。さもなければ、乱れ検出器は、GUIを通常通りに表示する。
ユーザの身体部分が、スクリーンから閾値距離内にあると想定するならば、方法200は、ブロック225へ進み、乱れ検出器は、手の動きが乱れ運動によってもたらされたものであるか否かを判定する。ここで、乱れ検出器は、手の動きがユーザによって意図されたものか又は意図しないものであるかを予測する。そうするために、乱れ検出器は、輸送体内の1以上のセンサをモニターし、手又はタッチスクリーンの動きが、センサによって測定された加速度又は力に相当するものであるか否かを判定し得る。例えば、タッチスクリーン内に配置された加速度計が、自動車が窪みから受けた衝撃又は船が波から受けた衝撃によってもたらされた力を測定したならば、それと同時に、図3又は図4で示されたシステムのうちの1つが、タッチスクリーンに対する手の動きを検出し、乱れ検出器は、手の動きが、ユーザによって意図されたものであるよりはむしろ、乱れ運動の結果であると判定する。
別の一態様において、乱れ検出器は、手が動いた速度を判定し、その動きが乱れ運動からもたらされたものであるか否かを判定する。例えば、タッチスクリーン内のボタンを選択するときに、ユーザは、1秒当たり1インチよりも遅い速度で自分の手を動かし得る。しかし、突然の乱れ運動は、手が、タッチスクリーンに対して、1秒当たり2インチより速い速度で移動することをもたらし得る。したがって、乱れ検出器が、1秒当たり2インチよりも速い速度を検出したならば、検出器は、その動きが、意図的なものではなく、乱れ運動によってもたらされたものであると想定する。
図3を参照すると、一態様では、乱れ検出器が、センサ310の出力をセンサ320の出力と比較し、指315の動きが乱れ運動によってもたらされたか否かを判定する。例えば、センサ320の出力は、指315が加速している(すなわち、動いている)ことを示しているが、センサ310の出力が、手の残りの部分が静止していることを示しているならば、乱れ検出器は、指315の動きが、ユーザによって意図されたものであり、乱れ運動によってもたらされたものではないと判定し得る。しかし、センサ310及び320の両方が、同じ加速度を出力するならば、乱れ検出器は、指315の動きが乱れ運動によってもたらされたものであると判定し得る。さらに、類似の解析が、図4のシステム400によって実行され得る。そこで、動き追跡器415は、手405の他の部分に対する指の動きを追跡し得る。拡張された指が手の他の部分とは異なって動くならば、乱れ検出器は、指の動きがユーザによって意図されたものであると判定し得る。
一態様では、乱れ検出器は、多数の要因を考慮して、手の動きが意図的なものではないか否かを判定し得る。例えば、乱れ検出器は、動きの速度と輸送体内に配置されたセンサによって提供されたデータの両方を考慮して、指の動きが意図的なものであったか否かを判定し得る。別の一実施例では、乱れ検出器が、輸送体に取り付けられたセンサによって提供されたデータと共に、追跡システム300及び400によって提供された情報を使用し得る。
乱れ検出器が、ブロック225において検出された動きが、乱れ運動によってもたらされたものではなかったと判定するならば、方法200は、ブロック220へ進み、GUIが通常通りに表示される。しかし、動きが乱れによってもたらされたものであったならば、方法200は、ブロック230へ進み、乱れ検出器は、スクリーン内のGUIの少なくとも一部分を移動させ、手とGUIの基本部分との間の空間的な関係を維持する。以下の図面と説明は、乱れ運動の間(又はその後)に、ユーザの手とGUIの一部分との間の関係を維持する種々の実施例を提供する。
図5A〜図5Cは、乱れ運動に応じて、GUI125の位置を調整するタッチスクリーン150を示す。図5Aで示されているように、ユーザの手505は、GUI125内のボタン325Cに重なっている。ここで、手505は、スクリーン150に接触していないと想定する。例えば、ユーザは、ボタン325Cを選択するために、自分の手505をスクリーンに向けて(すなわち、ページの中への方向において)移動させるプロセスにあり得る。しかし、ユーザが、タッチ式のスクリーン150に接触し、ボタン325Cを選択することができる前に、乱れ運動が、手505(又はスクリーン150)が矢印510によって示されている方向において移動する原因となる力をもたらす。すなわち、手505は、上に動き、ボタン325Cから離れ、それはユーザによって意図されてない。
図5Bは、図5Aで示されている手505とGUI125との間の空間的な関係に対する乱れ運動の結果を示している。多くの乱れ運動の乱暴で突然の性質のために、ユーザは、乱れ運動によって加えられた力を埋め合わせるために、手505の位置を調整する時間がないだろう。示されているように、乱れ運動は、手505の拡張された指が今やボタン325Bに覆い被さるまで、上に移動する(又はスクリーン150が下へ移動する)ことをもたらす。ユーザが、自分の手505をスクリーン150へ向けて動かし続けるならば、ユーザは、誤ってボタン325Bに接触することになる。すなわち、ユーザがGUI125内のボタン(例えば、ボタン325C)に接触しようとする間に、乱れ運動が生じるならば、この実施例において、その動きは、ユーザが誤ったボタン(例えば、ボタン325B)に接触することをもたらす。
図5Cは、乱れ検出器がGUI125を移動させて、図5Aで示されたような乱れ運動が生じる前に、手505とボタン325Cとの間の空間的な関係を維持したことの結果を示している。すなわち、図5Bで示された望ましくない空間的な関係が、避けられる。図5Cでは、乱れ検出器が、GUI125を上へシフトするようにディスプレイ調節器に指示命令し、それによって、手505の拡張された指が、ボタン325Cに重なったままである。一態様では、乱れ検出器が、手505の位置を連続的に追跡し、したがって、乱れ運動が生じる前に存在したGUI125と手505との間の空間的な関係を維持することができる。例えば、一旦、乱れ検出器が、乱れを原因とする矢印510で示されるスクリーン150に対する手505の動きを判定したならば、乱れ検出器は、GUI125と手505との間の空間的な関係を維持する。言い換えると、乱れ検出器は、乱れ運動が、スクリーン150に対する手505の相対的な位置を変化させるのと同じやり方で、GUI125を移動させる。したがって、乱れ運動の前に手505によって重ねられていたGUI125のどの部分であっても、乱れ運動の間及び後で、その手によって重ねられたままである。
本明細書で使用されるように、手505とGUI125との間の空間的な関係を維持することは、GUI125に対する手505の位置が変化しないことを必ずしも意味するわけではない。例えば、図3及び図4で示された追跡システム内の精度の低さのために、図5A及び図5Cで示される手505とGUI125との間の空間的な関係は、わずかに変化し得る。更に、手505は、乱れ検出器が動きを判定する前に幾らかの距離を移動し、その動きは乱れ運動によってもたらされたものであり得るので、手505とGUI125との間の空間的な関係は、その乱れ運動の結果として、わずかに変化し得る。それにもかかわらず、手505とGUI125との間の空間的な関係を維持することは、未だ、乱れ運動の前に手505によって重ねられた相互作用要素が、乱れ運動の間に又は後で、未だ、手505によって重ねられることをもたらす。
一態様では、一旦、(方法200のブロック215で説明されたように)手がスクリーンから予め規定された距離内にあると、乱れ検出器は、手505とGUI125との間の空間的な関係を保存する。したがって、乱れ運動のために、この空間的な関係が変化したときに、乱れ検出器は、(一時的には失われてしまったかもしれない)保存された空間的な関係が維持されるように、スクリーン150内のGUI125を移動させることができる。したがって、空間的な関係を維持することは、乱れ運動の間に、手505が常にGUI125の望ましい部分(例えば、ボタン325C)に重なっていることを必要としない。例えば、その動きが激しい場合もあるので、乱れ検出器は、意図されたボタン325Cに重なるように手505を維持するのに十分速く、GUI125を調整することができない。しかし、一旦、乱れ運動が収まり又は停止すると、乱れ検出器は、GUI125を調整し、先に保存された、手505とGUI125との間の空間的な関係を維持することができる。
図5Cでは、ディスプレイ調節器が、図5AではGUI125によって以前に占められていた空間内に、ブランク部分515を表示する。すなわち、乱れ検出器が、GUI125を移動させ、空間的な関係を維持するときに、ディスプレイ調節器は、以前はGUI125によって占められていたスクリーン150の一部分を埋め戻す(back fill)ことができる。ブランク部分515は、黒又は何らかの他のソリッドカラーの何れかであり得る。
図6A及び図6Bは、乱れ運動に応じて、GUI125の位置を調整するタッチスクリーン150を示す。図6A及び図6Bは、スクリーン150に対する手の位置における上向きの変化をもたらす乱れ運動の代わりに、ここでは、乱れ運動が、手605(又はスクリーン150)が矢印610によって示されるように動くことをもたらすという点を除いて、図5A及び図5Cと同様である。そのようにして、埋め合わせられなければ、乱れ運動は、ユーザが手605をスクリーン150に向けて動かす際に、手605がもはやボタン326Cに重ならないことをもたらし得る。
矢印610によって示されている動きが乱れによるものであることを判定したことに応じて、乱れ検出器は、図6Bで示されるようにGUI125を移動させ、手605とGUI125との間の空間的な関係を維持する。具体的には、GUI125の移動が手605の移動を反映するように、ディスプレイ調節器が、GUI125をスクリーン内の右へ動かす。結果として、ブランク部分615は、GUI125によって占められるべく使用されていた、スクリーン150の左側に配置される。したがって、乱れ運動の存在があったとしても、乱れ検出器は、GUI125の位置を更新し、手605とGUI125との間の空間的な関係を維持することができる。
図7A及び図7Bは、乱れ運動に応じて、GUI700の位置を調整するタッチスクリーン150を示す。乱れ検出器がGUI125全体を移動させる図5C及び図6Bとは異なり、図7A及び図7Bにおいて、乱れ検出器は、GUI700の一部分のみを移動させる。明瞭さのために、図7A及び図7Bからユーザの手は省略されているが、ユーザの手は、点線によって示されているGUI700の一部分705に重なることを想定する。例えば、ユーザは、自分の手を動かし、部分705内に含まれた下向きの矢印にタッチし得る。しかし、下向きの矢印を含むスクリーン150の部分705と接触する前に、乱れ運動が、スクリーン150に対するユーザの手の相対的な位置を変化させる原因となる。
図7Bは、乱れ運動に応じて、乱れ検出器が、GUI700の部分705を移動させることを示している。この場合には、乱れ運動が、手をスクリーン150に対して平行な方向において上へ移動させることをもたらす。それに応じて、乱れ検出器は、スクリーン150内のその以前の位置から部分705を除去し、ユーザの手の動きを反映するやり方で部分705を移動させる。したがって、ユーザがスクリーン150に接触するならば、自分は、部分705、すなわち、下向きの矢印に接触するだろう。この実施例では、乱れ検出器が、GUI700の一部分(すなわち、部分705)を特定し、乱れ運動が検出されたときに、ユーザの手とのその空間的な関係を維持するために、既に特定された部分705をスクリーン150内で移動させる。この場合では、部分705が、上向きの矢印の一部分と重なるように上にシフトされる。示されているように、部分705を移動させることは、以前に部分705によって占められていたスクリーン150内の空間内にブランク部分710を生成する。
図7A及び図7Bで示されるようにGUI700を調整することの1つの利点は、乱れ運動に応じて全体のGUIがシフトされないということであり、それは、ユーザの注意力を削がないであろう。しかし、全体部分よりもむしろGUI700の一部分のみを移動させることは、GUIを生成するアプリケーション(例えば、図1のパイロットアプリケーション120)が、乱れ運動に応じて修正されることを意味し得る。すなわち、図7Bで示されるように、ユーザの手に対応する部分705の周りで移動するために、アプリケーションは、異なるGUIを生成し得る。対照的に、図5C及び図6Bで示されるように、全体のGUIをシフトすることは、基本のアプリケーションが修正されないことを意味し得る。
一態様では、部分705を移動させることに加えて、乱れ検出器が、部分705のサイズを増加させもし得る。すなわち、図7Aで示されている位置から図7Bで示されている位置へ、部分705を移動させるときに、乱れ検出器は、部分705の面積を拡大させ、それを大きくする。それは、ユーザが、望ましいボタン、例えば、下向きの矢印に接触する可能性を増加させる。
方法200に戻ると、ブロック230では、乱れ検出器が、図5〜図7で示されている技術のうちの何れかを使用し、GUIの少なくとも一部分を移動させ、手とGUIとの間の空間的な関係を維持することができる。乱れ運動が継続し、手を動かし、手がスクリーンの閾値距離内にある限り、乱れ検出器は、手の動きを反映するようにGUI(又はその一部分)を動かす。しかし、一態様では、一旦、ユーザが自分の手がもはやスクリーンの閾値距離内にないように自分の手を動かしたならば、乱れ検出器は、たとえユーザの手が乱れのせいで動かされたとしても、GUIを移動させることを停止し得る。一態様では、乱れ検出器が、GUIをその通常の(調整されていない)状態へ戻すように移動させる。例えば、乱れ検出器は、図5A、図6A、及び図7Aで示されるように、GUIをその元々のデフォルト位置へ戻すように、ディスプレイ調節器に指示命令し得る。
前の段落において、本開示で提示される諸態様が参照される。しかし、本開示の範囲は、記載される具体的な諸態様に限定されない。代わりに、検討される諸態様の実装及び実施のため、種々の諸態様に関連しているかどうかに関わらず、以下の特徴及び要素の任意の組み合わせが検討される。更に、本明細書で開示される諸態様によって他の可能な解決法又は先行技術と比べた利点が達成可能であるかもしれないが、具体的な利点が所与の態様によって達成されるかどうかは、本開示の範囲を限定するものではない。したがって、先の態様、特徴、及び利点は単なる例示であり、添付の特許請求の範囲で明示されていない限り、特許請求の範囲の要素であると考えたり、又は特許請求の範囲を限定すると考えるべきではない。
諸態様は、専らハードウェアである態様、専らソフトウェア(ファームウェア、常駐ソフトウェア、マイクロコードなどを含む)である態様、又はソフトウェアとハードウェアの態様を組み合わせた態様の形式をとり得る。本書では、それらは全て「回路」、「モジュール」又は「システム」と広く称され得る。
諸態様とは、システム、方法、及び/又はコンピュータプログラム製品であり得る。コンピュータプログラム製品は、本書に記載の諸態様をハードウェア及びソフトウェアを含むプロセッサに実行させるコンピュータ可読プログラム命令を内に有する、コンピュータ可読記憶媒体(単数又は複数)を含み得る。
コンピュータ可読記憶媒体は、指令実行デバイスが使用するための指令を保持し、記憶することが可能な、有形デバイスであり得る。コンピュータ可読記憶媒体は、限定するわけではないが例としては、電子記憶デバイス、磁気記憶デバイス、光記憶デバイス、電磁記憶デバイス、半導体記憶デバイス、又はこれらの任意の好適な組み合わせであり得る。コンピュータ可読記憶媒体のより具体的な非網羅的リストは、ポータブルコンピュータディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、読出し専用メモリ(ROM)、消去可能プログラマブル読出し専用メモリ(EPROM又はフラッシュメモリ)、スタティックランダムアクセスメモリ(SRAM)、ポータブルコンパクトディスク読出し専用メモリ(CD−ROM)、デジタル多用途ディスク(DVD)、メモリスティック、フロッピーディスク、パンチカード又は指令が記録されている溝内の隆起構造などの機械的にエンコードされたデバイス、及び、これらの任意の好適な組み合わせを、含む。コンピュータ可読記憶媒体とは、本書においては、それ自体が、電波又はその他の自由に伝播する電磁波、導波管又はその他の伝送媒体を通って伝播する電磁波(光ファイバケーブルを通過する光パルスなど)、或いは、ワイヤを通って伝送される電気信号といった、一時的信号であると、解釈されるべきではない。
本明細書に記載のコンピュータ可読プログラム命令は、コンピュータ可読記憶媒体からハードウェア及びソフトウェアを含む各コンピュータデバイス/処理デバイスに対して、又は、例えばインターネット、ローカルエリアネットワーク、ワイドエリアネットワーク及び/若しくはワイヤレスネットワークといったネットワークを経由して外部のコンピュータ若しくは外部記憶装置に対して、ダウンロード可能である。ネットワークは、銅の伝送ケーブル、光伝送ファイバー、無線伝送、ルータ、ファイアウォール、スイッチ、ゲートウェイコンピュータ、及び/又はエッジサーバを含み得る。各コンピュータデバイス/処理デバイスのネットワークアダプタカード又はネットワークインターフェースは、ネットワークからコンピュータ可読プログラム命令を受信し、各コンピュータデバイス/処理デバイス内のコンピュータ可読記憶媒体内に保存するために、該コンピュータ可読プログラム命令を転送する。
様々な態様の動作を実行するコンピュータ可読プログラム命令は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、機械語命令、機械依存命令、マイクロコード、ファームウェア命令、状態設定データ、又は、スモールトーク、C++などといったオブジェクト指向プログラミング言語、及び、プログラミング言語「C」又は同様のプログラミング言語といった従来型の手続き型プログラミング言語を含む、1以上のプログラミング言語の任意の組み合わせによって書かれたソースコード若しくはオブジェクトコードであり得る。コンピュータ可読プログラム命令は、完全にユーザのコンピュータ上で、スタンドアロンのソフトウェアパッケージとして部分的にユーザのコンピュータ上で、部分的にユーザのコンピュータ上且つ部分的にリモートコンピュータ上で、又は完全にリモートのコンピュータ若しくはサーバ上で、実行され得る。後者の場合、リモートコンピュータは、ローカルエリアネットワーク(LAN)若しくはワイドエリアネットワーク(WAN)を含む任意のタイプのネットワークを介してユーザのコンピュータに接続され得るか、又は、(例えば、インターネットサービスプロバイダを利用してインターネットを介して)外部のコンピュータへの接続がなされてもよい。いくつかの態様では、例えば、プログラマブル論理回路、フィールドプログラマブルゲートアレイ(FPGA)、又はプログラマブル論理アレイ(PLA)を含む電子回路は、本開示の諸態様を実行する目的で該電子回路をカスタマイズするために、コンピュータ可読プログラム命令の状態情報を利用することによってコンピュータ可読プログラム命令を実行してよい。
方法、装置(システム)、及びコンピュータプログラム製品のフローチャート及び/又はブロック図を参照して、本明細書で諸態様が記載される。フローチャート及び/又はブロック図の各ブロック、並びにフローチャート及び/又はブロック図のブロックの組み合わせが、コンピュータ可読プログラム命令によって実行可能であることは、理解されよう。
上記のコンピュータ可読プログラム指令は、機械を生産するために、汎用コンピュータ、又は特殊用途コンピュータのプロセッサ、或いはその他のプログラマブルデータ処理装置に提供されてよく、それにより、コンピュータのプロセッサ又はその他のプログラマブルデータ処理装置を介して実行を行うこれらの指令が、フローチャート及び/又はブロック図のブロック(複数可)内に特定されている機能/作用を実装するための手段を作り出す。これらのコンピュータ可読プログラム命令は、コンピュータに命令可能なコンピュータ可読記憶媒体内、プログラム可能なデータ処理装置内、及び/又は特有の方法で機能する他の装置内にもまた、記憶され得る。それによって、命令が記憶されているコンピュータ可読記憶媒体には、該フローチャート及び/又はブロック図の単数若しくは複数のブロックで特定されている機能/動作の態様を実装する命令を含む製品が、含まれる。
コンピュータ可読プログラム命令はまた、一連の動作ステップをコンピュータ上、他のプログラム可能な装置上、又はコンピュータに実装されるプロセスを生み出す他の装置上で実行させるために、コンピュータ、他のプログラム可能なデータ処理装置、又は他の装置にもロードされ得る。これによって、コンピュータ上、他のプログラム可能な装置上、又は他の装置上で実行される命令は、該フローチャート及び/又はブロック図の単数若しくは複数のブロックで特定されている機能/動作を実装する。
図面のフローチャート及びブロック図は、本明細書に開示された様々な態様によるシステム、方法及びコンピュータプログラム製品の可能な実装態様のアーキテクチャ、機能性、及び操作を示すものである。その際、フローチャート及びブロック図の各ブロックは、特定の一又は複数の論理機能を実装する一又は複数の実行可能な命令を含む命令のモジュール、セグメント、又は部分を表し得る。いくつかの代替的な実施態様では、ブロックに記載された機能は図面に記載された順序を逸脱して現われてよい。例えば、場合によっては、連続して示されている2つのブロックはほぼ同時に実行されてもよく、又は、含まれる機能によってはブロックは逆順に実行されてもよい。ブロック図及び/又はフローチャートの各ブロック、並びにブロック図及び/又はフローチャートのブロックの組み合わせは、特定機能又は動作を行う特殊用途のハードウェアベースのシステムによって実装可能であるか、又は特殊用途のハードウェア及びコンピュータ命令の組み合わせによって実行可能であることもまた、留意されるであろう。
更に、本開示には下記の条項による実施形態が含まれる。
条項1
タッチスクリーンにグラフィカルユーザインターフェース(GUI)を表示すること、
ユーザの身体部分と前記タッチスクリーンに表示されている前記GUIの少なくとも一部分との間の空間的な関係を特定すること、及び
前記タッチスクリーンと前記身体部分との間の相対的な動きに応じて、前記タッチスクリーン内で前記GUIの前記一部分の位置を移動させ、前記身体部分と前記GUIの前記一部分との間の前記空間的な関係を維持することを含む、方法。
条項2
前記空間的な関係を特定するときに、及び、前記GUIの前記位置を移動させるときに、前記ユーザの前記身体部分が、前記タッチスクリーンに接触していない、条項1に記載の方法。
条項3
前記空間的な関係を特定することが、
前記ユーザが前記タッチスクリーンに接触する前に、前記タッチスクリーンに対する前記身体部分の位置を特定するために、前記ユーザの前記身体部分を追跡することを含む、条項1又は2に記載の方法。
条項4
前記ユーザの前記身体部分を追跡することが、
前記ユーザの前記身体部分に装着可能な装置から、前記身体部分の前記位置を特定するために処理されるセンサデータを受信することを含む、条項3に記載の方法。
条項5
前記身体部分が前記タッチスクリーンから閾値距離内にあるか否かを判定することを更に含み、前記身体部分が前記閾値距離内にあるときにのみ、前記GUIの前記一部分の前記位置を移動させ、前記空間的な関係を維持する、条項1から4のいずれか一項に記載の方法。
条項6
前記タッチスクリーンに対する前記身体部分の位置における変化を特定すること、及び
前記身体部分の位置における前記変化が、前記タッチスクリーンを含む輸送体の乱れ運動によってもたらされたか否かを判定することを更に含み、前記身体部分の位置における前記変化が、前記乱れ運動によってもたらされたときにのみ、前記GUIの前記一部分の前記位置を移動させ、前記空間的な関係を維持する、条項1から5のいずれか一項に記載の方法。
条項7
前記タッチスクリーン内で前記GUIの前記一部分の前記位置を移動させ、前記空間的な関係を維持することが、
前記タッチスクリーンに対する前記ユーザの前記身体部分の動きを反映するように、前記タッチスクリーン内で表示される前記GUIの全体部分をシフトすることを含む、条項1から6のいずれか一項に記載の方法。
条項8
GUIを表示するように設定されたタッチスクリーン、及び
乱れ検出器を備え、前記乱れ検出器が、
ユーザの身体部分と前記タッチスクリーンに表示された前記GUIの少なくとも一部分との間の空間的な関係を特定し、且つ
前記タッチスクリーンと前記身体部分との間の相対的な動きに応じて、前記タッチスクリーン内の前記GUIの前記一部分の位置を移動させ、前記身体部分と前記GUIの前記一部分との間の前記空間的な関係を維持するように設定されている、ディスプレイシステム。
条項9
前記空間的な関係を特定するときに、及び、前記GUIの前記位置を移動させるときに、前記ユーザの前記身体部分が、前記タッチスクリーンに接触していない、条項8に記載のディスプレイシステム。
条項10
前記乱れ検出器が、
前記ユーザの前記身体部分を追跡し、前記ユーザが前記タッチスクリーンに接触する前に、前記タッチスクリーンに対する前記身体部分の位置を特定するように設定されている、条項8又は9に記載のディスプレイシステム。
条項11
前記乱れ検出器が、
前記ユーザの前記身体部分に装着可能な装置からセンサデータを受信し、前記身体部分の前記位置を特定するように設定されている、条項10に記載のディスプレイシステム。
条項12
前記乱れ検出器が、
前記身体部分が前記タッチスクリーンから閾値距離内にあるか否かを判定するように設定され、前記身体部分が前記閾値距離内にあるときにのみ、前記GUIの前記一部分の前記位置を移動させ、前記空間的な関係を維持する、条項8から11のいずれか一項に記載のディスプレイシステム。
条項13
前記乱れ検出器が、
前記タッチスクリーンに対する前記身体部分の位置における変化を特定し、且つ
前記身体部分の位置における前記変化が、前記タッチスクリーンを含む輸送体の乱れ運動によってもたらされたか否かを判定するように設定され、前記身体部分の位置における前記変化が、前記乱れ運動によってもたらされたときにのみ、前記GUIの前記一部分の前記位置を移動させ、前記空間的な関係を維持する、条項8から12のいずれか一項に記載のディスプレイシステム。
条項14
前記乱れ検出器が、
前記タッチスクリーンに対する前記ユーザの前記身体部分の動きを反映して、前記タッチスクリーン内で表示される前記GUIの全体部分をシフトするように設定されている、条項8から13のいずれか一項に記載のディスプレイシステム。
条項15
コンピュータ可読記憶媒体を用いて具現化されるコンピュータ可読プログラムコードを備えた、コンピュータ可読記憶媒体であって、前記コンピュータ可読プログラムコードが、1以上のコンピュータプロセッサによって、
タッチスクリーンにGUIを表示し、
ユーザの身体部分と前記タッチスクリーンに表示されている前記GUIの少なくとも一部分との間の空間的な関係を特定し、且つ
前記タッチスクリーンと前記身体部分との間の相対的な動きに応じて、前記タッチスクリーン内で前記GUIの前記一部分の位置を移動させ、前記ユーザと前記GUIの前記一部分との間の前記空間的な関係を維持するように実行可能である、コンピュータ可読記憶媒体。
条項16
前記空間的な関係を特定するときに、且つ、前記GUIの前記位置を移動させるときに、前記ユーザの前記身体部分が、前記タッチスクリーンに接触していない、条項15に記載のコンピュータ可読記憶媒体。
条項17
前記空間的な関係を特定することが、
前記ユーザの前記身体部分を追跡し、前記ユーザが前記タッチスクリーンに接触する前に、前記タッチスクリーンに対する前記身体部分の位置を特定するように実行可能なコンピュータ可読プログラムコードを含む、条項16に記載のコンピュータ可読記憶媒体。
条項18
前記ユーザの前記身体部分を追跡することが、
前記ユーザの前記身体部分に装着可能な装置から、センサデータであって、前記身体部分の前記位置を特定するために処理される、センサデータを受信するように実行可能なコンピュータ可読プログラムコードを含む、条項17に記載のコンピュータ可読記憶媒体。
条項19
前記コンピュータ可読プログラムコードが、
前記身体部分が前記タッチスクリーンから閾値距離内にあるか否かを判定し、前記身体部分が前記閾値距離内にあるときにのみ、前記GUIの前記一部分の前記位置を移動させ、前記空間的な関係を維持するように更に実行可能である、条項16から18のいずれか一項に記載のコンピュータ可読記憶媒体。
条項20
前記コンピュータ可読プログラムコードが、
前記タッチスクリーンに対する前記身体部分の位置における変化を特定し、且つ
前記身体部分の位置における前記変化が、前記タッチスクリーンを含む輸送体の乱れ運動によってもたらされたか否かを判定し、前記身体部分の位置における前記変化が、前記乱れ運動によってもたらされたときにのみ、前記GUIの前記一部分の前記位置を移動させ、前記空間的な関係を維持するように更に実行可能である、条項16から19のいずれか一項に記載のコンピュータ可読記憶媒体。
前記は本発明の諸態様を対象としているが、本発明の他の、及びさらなる態様は、その基本的な範囲及び以下の特許請求の範囲によって決定されるその範囲を逸脱することなく、考案され得る。

Claims (9)

  1. タッチスクリーン(150)にグラフィカルユーザインターフェース(GUI)(125)を表示すること、
    ユーザの身体部分と前記タッチスクリーン(150)に表示され前記GUI(125)の少なくとも一部分との間の空間的な関係を特定すること
    前記タッチスクリーン(150)に対する前記身体部分の位置における変化を特定すること、
    前記身体部分の位置における前記変化が、前記タッチスクリーン(150)を含む輸送体の乱れ運動によってもたらされたか否かを判定すること、ここで、当該判定することは、前記身体部分が前記タッチスクリーン(150)に接近する速度が閾値速度を超えているか否かを判定すること、及び/又は前記身体部分と第2の身体部分の動きが異なるか否かを判定することを含み、及び
    前記身体部分の位置における前記変化が前記乱れ運動によってもたらされたときにのみ、前記タッチスクリーン(150)と前記身体部分との間の相対的な動きに応じて、前記タッチスクリーン(150)内で前記GUI(125)の前記一部分の位置を移動させ、前記身体部分と前記GUI(125)の前記一部分との間の前記空間的な関係を維持することを含む、方法。
  2. 前記空間的な関係を特定するときに、及び、前記GUI(125)の前記位置を移動させるときに、前記ユーザの前記身体部分が、前記タッチスクリーン(150)に接触していない、請求項1に記載の方法。
  3. 前記空間的な関係を特定することが、
    前記ユーザが前記タッチスクリーン(150)に接触する前に、前記タッチスクリーン(150)に対する前記身体部分の位置を特定するために、前記ユーザの前記身体部分を追跡することを含む、請求項1又は2に記載の方法。
  4. 前記ユーザの前記身体部分を追跡することが、
    前記ユーザの前記身体部分に装着可能な装置(305)から、前記身体部分の前記位置を特定するために処理されるセンサデータを受信することを含む、請求項3に記載の方法。
  5. 前記身体部分が前記タッチスクリーン(150)から閾値距離内にあるか否かを判定することを更に含み、前記身体部分が前記閾値距離内にあるときにのみ、前記GUI(125)の前記一部分の前記位置を移動させ、前記空間的な関係を維持する、請求項1から4のいずれか一項に記載の方法。
  6. 前記タッチスクリーン(150)内で前記GUI(125)の前記一部分の前記位置を移動させ、前記空間的な関係を維持することが、
    前記タッチスクリーン(150)に対する前記ユーザの前記身体部分の動きを反映するように、前記タッチスクリーン(150)内で表示される前記GUI(125)の全体部分をシフトすることを含む、請求項1からのいずれか一項に記載の方法。
  7. GUI(125)を表示するように設定されたタッチスクリーン(150)、及び
    乱れ検出器(130)を備え、前記乱れ検出器(130)が、
    ユーザの身体部分と前記タッチスクリーン(150)に表示された前記GUI(125)の少なくとも一部分との間の空間的な関係を特定し
    前記タッチスクリーン(150)に対する前記身体部分の位置における変化を特定し、
    前記身体部分の位置における前記変化が、前記タッチスクリーン(150)を含む輸送体の乱れ運動によってもたらされたか否かを判定し、ここで、当該判定することは、前記身体部分が前記タッチスクリーン(150)に接近する速度が閾値速度を超えているか否かを判定すること、及び/又は前記身体部分と第2の身体部分の動きが異なるか否かを判定することを含み、且つ
    前記身体部分の位置における前記変化が前記乱れ運動によってもたらされたときにのみ、前記タッチスクリーン(150)と前記身体部分との間の相対的な動きに応じて、前記タッチスクリーン(150)内の前記GUI(125)の前記一部分の位置を移動させ、前記身体部分と前記GUI(125)の前記一部分との間の前記空間的な関係を維持する
    ように設定されている、ディスプレイシステム。
  8. 前記空間的な関係を特定するときに、及び、前記GUI(125)の前記位置を移動させるときに、前記ユーザの前記身体部分が、前記タッチスクリーン(150)に接触していない、請求項に記載のディスプレイシステム。
  9. コンピュータ可読記憶媒体を用いて具現化されるコンピュータ可読プログラムコードを備えた、コンピュータ可読記憶媒体であって、前記コンピュータ可読プログラムコードが、1以上のコンピュータプロセッサによって、
    タッチスクリーン(150)にGUI(125)を表示し、
    ユーザの身体部分と前記タッチスクリーン(150)に表示され前記GUI(125)の少なくとも一部分との間の空間的な関係を特定し
    前記タッチスクリーン(150)に対する前記身体部分の位置における変化を特定し、
    前記身体部分の位置における前記変化が、前記タッチスクリーン(150)を含む輸送体の乱れ運動によってもたらされたか否かを判定し、ここで、当該判定することは、前記身体部分が前記タッチスクリーン(150)に接近する速度が閾値速度を超えているか否かを判定すること、及び/又は前記身体部分と第2の身体部分の動きが異なるか否かを判定することを含み、且つ
    前記身体部分の位置における前記変化が前記乱れ運動によってもたらされたときにのみ、前記タッチスクリーン(150)と前記身体部分との間の相対的な動きに応じて、前記タッチスクリーン(150)内で前記GUI(125)の前記一部分の位置を移動させ、前記ユーザと前記GUI(125)の前記一部分との間の前記空間的な関係を維持する
    ように実行可能である、コンピュータ可読記憶媒体。
JP2017005595A 2016-02-09 2017-01-17 乱れ抵抗性タッチスクリーン Active JP6899655B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/019,153 2016-02-09
US15/019,153 US10503317B2 (en) 2016-02-09 2016-02-09 Turbulence resistant touch system

Publications (2)

Publication Number Publication Date
JP2017199345A JP2017199345A (ja) 2017-11-02
JP6899655B2 true JP6899655B2 (ja) 2021-07-07

Family

ID=57680042

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017005595A Active JP6899655B2 (ja) 2016-02-09 2017-01-17 乱れ抵抗性タッチスクリーン

Country Status (4)

Country Link
US (1) US10503317B2 (ja)
EP (1) EP3214535B1 (ja)
JP (1) JP6899655B2 (ja)
CN (1) CN107045404B (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2551520B (en) * 2016-06-20 2018-11-21 Ge Aviat Systems Ltd Correction of vibration-induced error for touch screen display in an aircraft
US10705731B2 (en) * 2017-08-17 2020-07-07 The Boeing Company Device operational control systems and methods
KR102414497B1 (ko) * 2017-09-29 2022-06-29 애플 인크. Imu 기반 장갑
FR3076387B1 (fr) * 2018-01-04 2020-01-24 Airbus Operations Procede et systeme d'aide a la gestion de listes de commandes sur un aeronef.
US10914567B2 (en) 2018-02-23 2021-02-09 Apple Inc. Magnetic sensor based proximity sensing
US11301087B2 (en) * 2018-03-14 2022-04-12 Maxell, Ltd. Personal digital assistant
US20190318711A1 (en) * 2018-04-16 2019-10-17 Bell Helicopter Textron Inc. Electronically Damped Touch Screen Display
US10596281B1 (en) * 2018-07-23 2020-03-24 Rockwell Collins, Inc. Sterilizing touch screen displays with ultraviolet light
US11023033B2 (en) * 2019-01-09 2021-06-01 International Business Machines Corporation Adapting a display of interface elements on a touch-based device to improve visibility
GB2604145A (en) * 2021-02-26 2022-08-31 Daimler Ag A display device for a motor vehicle as well as a corresponding method
WO2023049045A1 (en) * 2021-09-21 2023-03-30 Apple Inc. Input location correction based on device motion
US11755150B2 (en) 2021-09-21 2023-09-12 Apple Inc. Input location correction based on device motion
US12026340B1 (en) 2023-04-20 2024-07-02 Rockwell Collins, Inc. System including touchscreen display computing device having adjustable sensitivity and method therefor

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005059812A (ja) * 2003-08-20 2005-03-10 Matsushita Electric Ind Co Ltd 機器制御インターフェース
US7728825B2 (en) * 2005-03-22 2010-06-01 Microsoft Corporation Targeting in a stylus-based user interface
US9395905B2 (en) 2006-04-05 2016-07-19 Synaptics Incorporated Graphical scroll wheel
WO2009024971A2 (en) * 2007-08-19 2009-02-26 Saar Shai Finger-worn devices and related methods of use
US8681093B2 (en) * 2008-02-11 2014-03-25 Apple Inc. Motion compensation for screens
US8279242B2 (en) * 2008-09-26 2012-10-02 Microsoft Corporation Compensating for anticipated movement of a device
DE112009003647B4 (de) * 2008-12-04 2015-08-20 Mitsubishi Electric Corp. Fahrzeug-montierte Informationsvorrichtung
US9400659B2 (en) 2009-09-29 2016-07-26 Verizon Patent And Licensing Inc. Graphical user interface window attachment
US8994646B2 (en) * 2010-12-17 2015-03-31 Microsoft Corporation Detecting gestures involving intentional movement of a computing device
US20130033433A1 (en) 2011-08-02 2013-02-07 Honeywell International Inc. Touch screen having adaptive input requirements
US20130314328A1 (en) 2012-05-23 2013-11-28 Honeywell International Inc. Methods and systems for enhancing touch screen operation in a display of an aircraft
US20140035827A1 (en) * 2012-07-31 2014-02-06 Elwha LLC, a liability company of the State of Delaware Touch screen display compensated for a carrier-induced motion
US20140062893A1 (en) * 2012-08-28 2014-03-06 Honeywell International Inc. System and method for reducing the probability of accidental activation of control functions on a touch screen
US8825234B2 (en) * 2012-10-15 2014-09-02 The Boeing Company Turbulence mitigation for touch screen systems
US9417666B2 (en) * 2012-10-19 2016-08-16 Microsoft Technology Licesning, LLC User and device movement based display compensation
US10241639B2 (en) 2013-01-15 2019-03-26 Leap Motion, Inc. Dynamic user interactions for display control and manipulation of display objects
US20140240242A1 (en) * 2013-02-26 2014-08-28 Honeywell International Inc. System and method for interacting with a touch screen interface utilizing a hover gesture controller
US20150002403A1 (en) 2013-06-26 2015-01-01 Honeywell International Inc. Touch screen and method for adjusting touch sensitive object placement thereon
CN103885593B (zh) * 2014-03-14 2016-04-06 努比亚技术有限公司 一种手持终端及其屏幕防抖方法和装置

Also Published As

Publication number Publication date
EP3214535B1 (en) 2020-06-03
CN107045404B (zh) 2022-01-28
US20170228095A1 (en) 2017-08-10
CN107045404A (zh) 2017-08-15
US10503317B2 (en) 2019-12-10
JP2017199345A (ja) 2017-11-02
EP3214535A1 (en) 2017-09-06

Similar Documents

Publication Publication Date Title
JP6899655B2 (ja) 乱れ抵抗性タッチスクリーン
US10466800B2 (en) Vehicle information processing device
US9649938B2 (en) Method for synchronizing display devices in a motor vehicle
US20130293466A1 (en) Operation device
US10310623B2 (en) Information processing device, information processing method, and program
US20150212683A1 (en) Information display device and display information operation method
CA2969959C (en) Correction of vibration-induced error for touch screen display in an aircraft
CN106586005B (zh) 具有操作员监视的飞行器系统和方法
US9360673B2 (en) Interaction method in an aircraft cockpit between a pilot and his environment
US20150199020A1 (en) Gesture ui device, gesture ui method, and computer-readable recording medium
JP5921981B2 (ja) 映像表示装置および映像表示方法
US20140223374A1 (en) Method of displaying menu based on depth information and space gesture of user
US9870080B2 (en) Method, system, and device for controlling a cursor or user interface action as a function of touch and force input
WO2018214029A1 (zh) 用于操纵可移动装置的方法和设备
US9829995B1 (en) Eye tracking to move the cursor within view of a pilot
WO2014011116A1 (en) A method and device for controlling a display device
US9823767B2 (en) Press and move gesture
US20190318711A1 (en) Electronically Damped Touch Screen Display
JP6390380B2 (ja) 表示操作装置
US9851801B1 (en) Dual touchpad system
EP3567463A1 (en) System for navigating an aircraft display with a mobile device
US10338885B1 (en) Aural and visual feedback of finger positions
US20140358334A1 (en) Aircraft instrument cursor control using multi-touch deep sensors
KR102533465B1 (ko) 시각에 따른 가상현실내의 도구패널 위치 지정방법
JP4962387B2 (ja) ポインタ表示・移動装置およびポインタ表示・移動装置用のプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210521

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210608

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210615

R150 Certificate of patent or registration of utility model

Ref document number: 6899655

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250