JP2010039558A - 情報処理装置及びその制御方法 - Google Patents

情報処理装置及びその制御方法 Download PDF

Info

Publication number
JP2010039558A
JP2010039558A JP2008198621A JP2008198621A JP2010039558A JP 2010039558 A JP2010039558 A JP 2010039558A JP 2008198621 A JP2008198621 A JP 2008198621A JP 2008198621 A JP2008198621 A JP 2008198621A JP 2010039558 A JP2010039558 A JP 2010039558A
Authority
JP
Japan
Prior art keywords
selection range
contact area
information processing
processing apparatus
touch panel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008198621A
Other languages
English (en)
Other versions
JP5161690B2 (ja
JP2010039558A5 (ja
Inventor
Tomoyuki Shimizu
智之 清水
Hiroyuki Nagai
宏之 長井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2008198621A priority Critical patent/JP5161690B2/ja
Priority to US12/509,723 priority patent/US20100026649A1/en
Publication of JP2010039558A publication Critical patent/JP2010039558A/ja
Publication of JP2010039558A5 publication Critical patent/JP2010039558A5/ja
Application granted granted Critical
Publication of JP5161690B2 publication Critical patent/JP5161690B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04808Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】タッチパネル式ディスプレイの利用者が、簡易に、手の届かない範囲を含んだ領域をも指定できるようにする方法を提供する。
【解決手段】 マルチタッチパネルを制御する情報処理装置において、接触領域取得部は、マルチタッチパネルにおける接触領域を取得し、手側面判定部は、取得された接触領域が予め定められた形状を有するか否かを判定する。選択範囲決定部及び選択範囲配置部は、接触領域が所定の形状を有すると判定された場合に、接触領域の検出位置に基づいて選択範囲を配置し、配置された選択範囲をマルチタッチパネルに表示する。
【選択図】 図2

Description

本発明は、マルチタッチパネルを具備した情報処理装置及びその制御方法に関する。
近年、ゲーム機や音楽再生機等の携帯機器に搭載されている小型ディスプレイから、プレゼンテーションや会議・授業等で使われるような、比較的大型のディスプレイにおいてまで、タッチパネル機能を持つものが増えている。タッチパネルディスプレイは、表示されているオブジェクトに対する操作を、ユーザが直感的な指示により行うことが可能となるため、老若男女を問わず、様々な分野で普及が進んできている。タッチパネルディスプレイを利用した入力においては、オブジェクトの操作や選択等のために、対象となるオブジェクトを含んだ範囲を指定するようなタッチ入力が必要になる。
一般に、操作対象となるオブジェクトを選択する方法としては、
・指やペンによってオブジェクト内の一点をタッチすることで選択対象のオブジェクトを直に指定する、
・選択対象が複数ある場合などには、全体を囲うようにタッチ入力点を動かすことで選択対象のオブジェクトを指示する、
といった方法がある(特許文献1参照)。
また、近年では、多地点のタッチを同時に検知できるセンサを備えたタッチパネルも出現してきている(以下、マルチタッチパネル)。このようなマルチタッチパネルを有するディスプレイにおいては、両手で囲うような動作で範囲を指定するといったことが可能になってきている(非特許文献1参照)。
特開平1−142969公報 Tse, E.; Greenberg, S.; Shen,C.;Forlines, C., "Multimodal Multiplayer Tabletop Gaming",International Workshop on Pervasive Gaming Applications (Per Games), May 2006
しかし、これらの方法では、以下のような課題がある。
まず、手が届くところでしか、選択範囲の指定ができない。これは、大型のディスプレイを利用した会議や授業などで、大きな範囲を指定する必要がある場合などに、体の小さい人や、身体が不自由な人等にとって、特に大きな制約となる。
また、一度だけ範囲指定すれば済む場合は良いが、会議や授業で何度も範囲指定を繰り返すような場合、特に上記のような制約を受けやすい人ほど、体力的な影響も大きい。例えば、大きなディスプレイ上で、小さな子供が何度も大きな範囲を指定するような処理は大変な作業になる。
本発明は上記のような課題に鑑みてなされたものであり、タッチパネルの利用者が、簡易に、手の届かない範囲を含んだ領域をも指定できるようにする方法を提供することを目的とする。
上述した目的を達成するための本発明の一態様による情報処理装置は以下の構成を備える。すなわち、
マルチタッチパネルを制御する情報処理装置であって、
前記マルチタッチパネルにおける接触領域を取得する取得手段と、
前記取得手段によって取得された前記接触領域が予め定められた形状を有するか否かを判定する判定手段と、
前記判定手段によって前記接触領域が予め定められた形状を有すると判定された場合、前記接触領域の検出位置に基づいて選択範囲を配置する配置手段と、
前記配置手段で配置された前記選択範囲を前記マルチタッチパネルに表示する表示手段とを備える。
また、上記の目的を達成するための本発明の他の態様による情報処理装置の制御方法は、
マルチタッチパネルを制御する情報処理装置の制御方法であって、
前記マルチタッチパネルにおける接触領域を取得する取得工程と、
前記取得工程によって取得された前記接触領域が予め定められた形状を有するか否かを判定する判定工程と、
前記判定工程によって前記接触領域が予め定められた形状を有すると判定された場合、前記接触領域の検出位置に基づいて選択範囲を配置する配置工程と、
前記配置工程で配置された前記選択範囲を前記マルチタッチパネルに表示する表示工程とを有する。
本発明によれば、タッチパネルの利用者が、手の届かない範囲を含めた選択範囲を簡易に指定できるようになる。
以下、図面を参照して本発明の好適な実施形態を詳細に説明する。
<第1実施形態>
図1は、本実施形態による情報処理装置の構成例を示すブロック図である。
図1において、101は情報処理装置100全体を制御するCentralProcessingUnit(CPU)である。102は変更を必要としないプログラムやパラメータを格納するRead Only Memory(ROM)である。103は外部記憶装置などから供給されるプログラムやデータを一時記憶するRandomAccessMemory(RAM)である。104は情報処理装置100に固定して設置されたハードディスクやメモリカードを含む外部記憶装置である。なお、外部記憶装置104としては、情報処理装置100から着脱可能なフレキシブルディスク(FD)やCompactDisc(CD)等の光ディスク、磁気や光カード、ICカード、メモリカードなどを含んでもよい。105はマルチタッチパネル108からのユーザの操作を受け、データを入力するデバイスとのインターフェイスである。106は情報処理装置100の保持するデータや供給されたデータをマルチタッチパネル108のディスプレイ(表示パネル)に表示するためのインターフェイスである。107は101〜106の各ユニットを通信可能に接続するシステムバスである。入力デバイスインターフェイス105、出力デバイスインターフェイス106はいずれもマルチタッチパネル108と接続されている。
マルチタッチパネル108は、タッチ入力パネルと表示パネルを有する。タッチ入力パネル(接触面)上でのタッチ入力位置(接触点の座標)は入力デバイスインターフェイス105を介して情報処理装置100に入力され、情報処理装置100から表示パネルへの表示情報は出力デバイスインターフェイス106より出力される。
なお、本実施形態では、本発明内容を含む情報処理プログラムコードが外部記憶装置104に格納されており、CPU101によって実行される。ユーザはマルチタッチパネル108を用いて操作し、やはりマルチタッチパネル108よりレスポンスを得る。情報処理プログラムコードは、ROM102に格納されていてもよい。
なお、本実施形態に係るマルチタッチパネルは、接触面に含まれる複数の接触点を同時に感知可能とする。ただし、複数の接触点が同時に検出できればよく、その検出方法(センサ)については何の制約もない。さらには、接触点に相当する領域が取得できるのであれば、必ずしもユーザの接触を必要としなくても良い。例えば、光学式のセンサを利用して、画像として取得する場合等が該当する。なお、センサは一つに限定する必要もなく、例えば、人の肌の接触を感知するために静電容量方式のセンサを用い、指示された領域や人の手であることなどを判定するために光学式のセンサを利用するなど、複数のセンサを組み合わせて利用しても構わない。
図2は、本実施形態による情報処理装置の機能的な構成を説明するブロック図である。
図2において、201は、マルチタッチパネル108への手などの接触を感知して、該感知した領域を取得する接触領域取得部である。マルチタッチパネル上での感知イメージは図3の(a)、(b)に示すようになる。この例では、手側面の領域を感知した様子が示されている。図3の(a)に示すように、接触点を感知する方式の場合は、接触した部位の全面がマルチタッチパネルに接触するため、ほぼ同時に、一定の密度でまとまった複数の接触点が感知される。接触領域取得部201は、マルチタッチパネル108により同時に検出された複数の接触位置が予め定められた密度以上の密度で存在する領域を接触領域として取得する。このように、ある一定の密度でまとまった接触点集合を一つの接触領域として判別することで、マルチタッチパネル上の複数箇所に同時に同様な部位の接触があった場合でも、両者の領域を区別して取得することが可能になる。また、図3の(b)に示すように、光学式センサによる方式では、個々の手の連続した面の領域を画像として取得できるので、より精度の高い領域の取得が可能である。なお、上記では、マルチタッチパネルへの接触を前提とした例を述べたが、これに限られるものではなく、例えば光学式センサによる方式を利用する場合等は、非接触状態であっても、画像として利用者の操作指示領域を取得することが可能である。このような場合は、必ずしも手が接触することは必要ではない。
202は、接触領域取得部201で取得した領域が、手の側面の接触を感知して取得したものであるか否かを判定する手側面判定部である。取得した領域が手の側面であるか否かの判定は、簡単には、指やペンによる入力と切り分ければ良い場合が考えられるが、このような場合には、領域の面積の違いによって、推定する方法が考えられる。これは、指やペンを感知した場合の領域面積と、手の側面の領域面積との明らかな差を利用する方法である。
一方で、手の側面と区別しなければならない領域の種類が多い場合は、面積からだけでは簡単には推定できない。このような場合は、感知した領域のパタンマッチングによる推定方法が考えられる。パタンマッチングについて以下に説明する。
まず、あらかじめ、多くの人の手側面を感知した場合に取得した領域情報(領域に含まれる接触点の分布等)を学習データとした、学習済みのパタンを生成しておく。マルチタッチパネルへの入力が行われた場合は、感知した領域情報について、学習済みパタンの中に類似パタンが存在していれば手側面と判定し、類似パタンが存在していなかった場合は、手側面とみなさない。以上のような判定処理により、手側面を推定することができる。このとき、より精度を上げるために、実際にそのマルチタッチパネルを利用する利用者の手側面の領域情報を、あらかじめ学習パタンとして登録するようにしても良い。なお、領域の面積だけによる厳密な推定は困難なことは既に述べた通りだが、面積の情報を併用することで、パタンマッチングの判定処理をする対象を絞り込むようにすることは可能である。
さらに、図3の(b)に示した光学式センサによる方式を利用可能な場合は、色や形状などを利用した認識処理を行ったり、接触点の情報と併用したりして、手側面の検出精度を上げるといったことも考えられる。
なお、上記は自動で手側面を判定する場合について述べたが、必ずしも自動で判定する必要もない。例えば、手側面による接触である旨を、マルチタッチパネル108などを介して明示的に指示するようにして、さらに精度を確保するようにしても構わない。
また、ここでは、手側面を判定する際、同時に手側面領域における手の平側と手の甲側の方向付けも行う。本実施形態で利用する手の形状は、手の平を軽く丸めた状態を想定しているため、感知した領域の形状から、該領域の手の平側がどちらかを推定することができる。
203は領域動作判定部であり、接触領域取得部201で取得した領域が、手側面判定部202で手側面であると判定された場合に、該領域の平行移動・回転移動、手の平の開閉動作といった動作を監視して、それら動作の実施有無の判定を行う。
204は選択範囲決定部であり、接触領域取得部201で取得した領域が、手側面判定部202で手側面であると判定された場合に、該領域の形状から、選択範囲の大きさを決定する。本実施形態においては、選択範囲は円状の範囲とする。領域の形状からの選択範囲の大きさを決定する方法としては、例えば図7のように、感知した手側面領域の両端の2つの点701と、中間の1つの点702を決定し、該3点から、それらを含む円を求める方法等が挙げられる。あるいは、手側面からは、図3の(a)のように接触点が複数感知されるので、該接触点の分布から近似円を求めて利用するようにしてもよい。
205は選択範囲配置部であり、選択範囲決定部204で決定した選択範囲を、マルチタッチパネル108上に接触している手側面領域の手の平側に配置する。
以上の201〜205の各機能部は、CPU101がROM102に格納されたプログラム或いは外部記憶装置104からRAM103にロードされたプログラムを実行することにより実現されるものである。
次に図4〜図6のフローチャートを用いて、本実施形態による情報処理装置の動作を説明する。
図4に示すフローチャートでは、手側面がマルチタッチパネルに置かれた際に、選択範囲を同パネル上に配置するまでの処理の手順を示す。
ステップS401において、接触領域取得部201は、マルチタッチパネル108の接触面への手などの接触を感知し、その接触領域を取得する。
ステップS402において、ステップS401で取得した接触領域が予め定められた形状を有するか否かを判定する。本実施形態では、上述したように、手側面判定部202が、ステップS401で取得した接触領域が手側面であるか否かを判定する。接触領域が所定の形状を有すると判定した場合(本実施形態では手側面であると判定した場合)は、ステップS403へ移行し、接触領域の検出位置に基づいて選択範囲が配置される。手側面と判定できない場合には、本処理を終了する。
ステップS403において、選択範囲決定部204は、接触領域の形状に基づいて選択範囲の大きさを決定する。本実施形態では、検出した手側面の領域の形から初期の選択範囲円の大きさが決定される。なお、本実施形態では、選択範囲決定部204により、接触領域の形状に基づいて動的に初期の選択範囲円の大きさを決定したが、これに限るものではなく、初期の選択範囲円の大きさはあらかじめ決めておいても良い。この場合、手側面の形状に応じて大きさを決められるというメリットは得られないが、一方でそのための計算コストを削減し、微調整は後述の図5のフローに示す処理によって行うというように構成することができる。なお、初期の選択範囲円の大きさを決めておく場合、該大きさはシステムで決まった値でも良いし、利用者が設定できるようにしてあっても良い。なお、予め決まった円を利用する場合は、ステップS403は飛ばして、ステップS402で手側面を認識した後、ステップS404へ処理を移行すれば良い。
ステップS404において、選択範囲配置部205は、ステップS403で決定した大きさの初期の選択範囲円を、マルチタッチパネル108上に配置する。本実施形態では、手側面の接触領域は湾曲形状を有しており、選択範囲配置部205は、この湾曲形状に基づいて選択範囲決定部204により決定された大きさの選択範囲円を、当該湾曲形状に沿うように配置する。すなわち、選択範囲配置部205は、マルチタッチパネル108上の手側面領域の、手の平側に沿うように選択範囲円を配置するようにする。選択範囲配置部205は、こうして配置した選択範囲を、マルチタッチパネル108に表示する。以上の処理を、図8の(a)、(b)により、より具体的に説明する。マルチタッチパネル108上に手側面を載せると(図8の(a))、その手側面の接触領域に基づいて初期の選択範囲円の大きさが決定される(ステップS401〜S403)。該大きさの初期の選択範囲円は、手側面の手の平側に沿うように配される(図8の(b)、ステップS404)。
図5は、図4に示した処理によって配置された選択範囲円を、手側面の動きに応じて、平行移動・回転移動・拡大・縮小を行う処理の手順を示すフローチャートである。なお、図5に示される処理は、図4に示した処理に継続するものであり、手側面が接触した状態であり、該手側面の領域に沿って選択範囲が配置された状態であるところから始まるものとする。
まず、ステップS501において、手側面判定部202は、手側面が接触している状態か否かを監視する。手側面領域が接触を維持している場合は、ステップS502に移行する。接触状態ではなくなった場合は、本処理は終了する。
ステップS502において、領域動作判定部203は、該領域に変動があるか否かを監視する。領域に変動があった場合は、ステップS503に移行する。変動がない場合は、ステップS501へ移行し、手側面領域の接触状態の監視を続ける。
ステップS503において、領域動作判定部203は、該変動の内容が、領域全体の移動を含むものであるか否かを判定する。領域全体の移動であった場合は、処理はステップS504へ移行し、以下に詳述するように、接触領域の移動に応じた選択範囲の移動が行われる。そうでない場合は、処理はステップS505へ移行する。領域全体の移動であるか否かは、領域の面積、形状がほぼ維持されたまま、別の座標へ移動したか否かで確認することができる。
ステップS504においては、領域全体の移動が発生しているので、選択範囲配置部205は、配置してある選択範囲を該領域の移動に合わせて、平行移動もしくは回転移動する。すなわち、図9の(a)、(b)ように、手側面との配置関係を維持しながら、手側面の移動に合わせて、選択範囲を移動する。なお、図9の(a)、(b)の例では、操作により選択範囲がマルチタッチパネルの境界を超えているが、この場合、マルチタッチパネル外の範囲指定は有効・無効のいずれかに決まっていれば良く、いずれでも構わない。
ステップS505,S506では、接触領域の形状の変化に応じて選択範囲の大きさが変更される。まず、ステップS505において、領域動作判定部203は、該変動の内容が、手側面を曲げ伸ばしする動作を含むものであるか否かを判定する。領域の変動が、手側面の曲げ伸ばしに相当する動作であった場合、処理はステップS506へ移行する。そうでない場合は、ステップS501へ移行し、監視を続ける。手側面を曲げ伸ばしする動作であるか否かは、例えば、感知した接触点から近似曲線を求め、該曲線の曲率などの変動を見ればよい。あるいは、光学的なセンサを備える場合等は、手の形状そのものを取得できるので、その形状から判定するなどしても構わない。
ステップS506において、選択範囲決定部204は、手側面の曲げ伸ばし動作に応じて、選択範囲の縮小、拡大を行う。以下、図10を参照して、本実施形態の選択範囲縮小拡大について説明する。
図10の(b)に示すように、変動内容が、手側面の曲げ動作(1006)であった場合は、選択範囲円と手側面との位置関係を維持したまま、選択範囲円の縮小を行う。選択範囲円の縮小は、例えば次のように行われる。まず、手側面領域の中心部のある点と選択範囲円の中心点とを結ぶ法線(1005)上において、選択範囲円の中心点(1004)を手の方向へ移動させる。そして、移動後の中心点から手側面領域の中心点の距離を半径とした選択範囲円を、移動後の中心点を中心として配置する。こうして、図10の(a)の状態から図10の(b)の状態となり、選択範囲円の縮小が行われる。一方、図10の(c)に示すように、手側面の伸ばし動作(1007)であった場合は、選択範囲円の中心点1004を法線1005上で、手から遠ざかる方向へ移動させ、選択範囲円の拡大を行う。
なお、縮小・拡大後の選択範囲円の大きさについては、図7で説明したような方法で再計算しても良いし、あるいは、該曲げ伸ばし動作の変動量や変動速度(ジェスチャの大きさや速さ)等から、拡大・縮小の量を決めても構わない。なお、手側面領域の中心部の点は、例えば、領域を通る選択範囲円の弧の中心部分(弧の両端の点から均等な距離にある、弧上の点)等を採用すれば良い。これは、例えば、図7の702のような点に相当する。
図6は、図4乃至図5に示す処理によってマルチタッチパネル上に配置した選択範囲を確定する処理手順の例を示すフローチャートである。図4乃至図5のフローチャートでは、選択範囲を配置し、それを移動したり拡大縮小したりして、選択範囲を決める前段階の処理を行ってきた。図6のフローチャートは、この選択範囲を確定する処理として位置付けられる。なお、図6のフローチャートは、図4乃至図5に示す処理を実施することによって、選択範囲が配置されている状態から始まるものとする。本実施形態では、接触領域取得部201が接触領域の消滅を検出した場合に、選択範囲配置部205で配置された選択範囲を確定する確定手段を更に備える。但し、選択範囲配置部205で選択範囲を配置してから所定時間継続して当該接触領域が存在していたことを条件とする。以下、詳細に説明する。
まず、ステップS601において、接触領域取得部201は、感知していた接触領域が無くなった、あるいは、手側面判定部202で手側面と判定できる領域が無くなったことを検知する。次に、ステップS602において、手側面領域が選択範囲配置後に継続してどれだけ接触していたかを取得する。手側面の接触開始時間は、手側面判定部202で手側面と判定された領域が検出された時点等を用いることができる。該開始時間を保持しておけば、ステップS601での検知時間から取得できる。
次にステップS603において、選択範囲配置部205は、該接触時間が一定時間以上であるか否かを判定し、一定時間を超えて接触していた場合は、ステップS604へ処理を移行し、選択範囲を確定する。そうでない場合は、ステップS605へ移行し、当該選択範囲を破棄する。
なお、選択範囲の確定処理は、上記に限定されるものではなく、範囲選択処理と区別可能な判断基準を含んだ処理であればどのような処理でも構わない。
例えば、一定時間以上、領域の変動を感知しなかった場合には、手側面の接触状態を維持したまま、確定処理を行っても構わない。あるいは、マルチタッチパネル上への明示的な確定処理を示す指示(例えば、マルチタッチパネル上に表示されたボタンへのタッチやジェスチャ等)を受け、選択範囲の確定を行っても良い。物理的なボタンを利用しても構わないことは言うまでもない。さらには、マイク等の音声入力デバイスと音声認識部を設けることで、「選択範囲確定」などの音声入力を受けて、選択範囲の確定を行うようにしても構わない。
以上のように、第1実施形態によれば、片手で選択範囲の移動や大きさの変更を行うことができるので、操作性が向上する。
<第2実施形態>
第1実施形態では、選択範囲を配置し、該範囲を確定するところまでの処理の手順を示した。しかし、本発明の適用範囲はこれに限定されるものではなく、例えば、確定した後の選択範囲に含まれるオブジェクトに対する平行移動・回転移動・拡大・縮小等の処理に適用することも可能である。ただし、第1実施形態において示した確定処理の方法によっては、既に手側面がマルチタッチパネルから離れている場合があり、この場合は、選択範囲と再度感知した手側面領域とを関連付ける処理が別途必要になる。手側面と確定済み選択範囲の関連付けは、確定済み選択範囲の外周付近への手側面領域を感知した場合(より、一般的に言えば、選択範囲から所定の距離内で所定の形状を検出した場合)に、手側面を該選択範囲と関連づける等の方法が挙げられる。なお、手側面をマルチタッチパネルから離さずに確定する方法を取った場合(例えば、物理的なボタンや音声入力を利用して確定する場合)は、この関連付けの手順は不要である。
それ以降は、図5に示すフローと同等の処理で、該範囲の平行移動、回転移動、拡大・縮小処理を行い、それに合わせて包含しているオブジェクトを移動・拡大・縮小する。このような選択範囲に合わせたオブジェクトの平行移動、回転移動、拡大縮小は、オブジェクトに対するアフィン変換として一括して扱うことができる。
第2実施形態の例は、図11のようになる。ここでは、マルチタッチパネル108において図11の(a)に示されるように選択範囲1101を確定した後、図11の(b)に示されるように該領域に含まれるオブジェクトを拡大する例を示している。マルチタッチパネル108上に置かれた手の側面により検出される円弧の中心角を大きくすることにより、1102で示されるようにオブジェクトが拡大され、逆に中心角を小さくすればオブジェクトが縮小される。これは、例えば、大型ディスプレイを使ったプレゼンテーションにおいて、オブジェクトを拡大操作して、視聴者に見やすく提示するといった場合に、適用可能である。
なお、これまで選択範囲の回転は、図9(a)、(b)に示すやり方を提示していたが、オブジェクトの回転に関しては、さらに図12のような回転操作を可能にすることで、オブジェクトを回転させるようにしてもよい。この処理は、図12に示したように、選択範囲の外周に沿った手側面の移動を検知した際に、行うようにすれば良い。
なお、上記では、一つのオブジェクトを操作する場合について述べたが、選択範囲1101内のオブジェクトは単体であっても、複数であっても構わない。選択範囲1101にオブジェクトが複数ある場合は、それらをまとめて移動したり、拡大縮小を行なったりすれば良い。また、選択範囲1101に含まれるオブジェクトであるか否かの判定については、表示されたオブジェクトが選択範囲の中に一定割合以上含まれているか否かといった判定によって決定すれば良い。例えば表示されたオブジェクトの面積の70%以上が選択範囲1101に含まれている場合は、当該選択範囲内であるとみなすといった方法等が考えられる。なお、オブジェクトが多数ある場合や、選択範囲内か否かの判定条件付近のオブジェクトがある場合等は、いずれが選択されているかが一見しては分かり難い。このため、選択されていることを示すように選択範囲内と判定されたオブジェクトを強調表示するなどしても良い。なお、強調表示の仕方としては上記の手法に限定されるものではなく、印をつけたり、枠をつけたり、色をつけたりといった種々の方法のいずれを用いても構わない。
以上のように、第2実施形態では、第1実施形態で説明した手順で選択範囲が確定した後に、当該選択範囲から予め定められた距離内に検出された所定形状の接触領域の変化に基づいて当該選択範囲に存在するオブジェクトの表示が変更される。オブジェクトの表示の変更としては、例えば、拡大、縮小、平行移動、回転等が挙げられる。このため、ユーザは、例えば、手の側面をマルチタッチパネルに接触させながら、その湾曲の状態を変更することでオブジェクトの操作を行うことができ、より直感的な操作を実現することができる。
<第3実施形態>
上記第1実施形態では、手の曲げ伸ばしによって、選択範囲の拡大縮小を行ったが、選択範囲の平行移動、回転移動時に、意図せず手の曲げ伸ばしを行ってしまうことが起こりうる。平行移動・回転移動中に、選択範囲が大きくなったり小さくなったりを繰り返すことは、選択範囲の確定を目指す上では避けることが望ましい。よって、平行移動・回転移動を行っている最中は、該操作を受け付けないようにし、拡大縮小をロックするようにしても良い。同様に、拡大縮小の操作中においては、微量な平行移動・回転移動については無視するようにしても良い。このように、選択範囲の移動中は、当該選択範囲の大きさの変更を禁止することにより、より操作性が向上する。
<第4実施形態>
上記第2実施形態では、選択範囲円を配置、確定し、該円の平行移動・回転移動・拡大縮小について述べた。このとき、該選択範囲円に対する変形操作を受け付けるようにしても構わない。例えば、図13に示すように、片手で選択範囲の指定を行い、もう一方の手で、選択範囲円を変形したりしても構わない。以上のように、選択範囲配置部205は、配置した選択範囲から予め定められた距離内に、当該選択範囲を決定した接触領域に含まれない接触の入力を検出した場合に、接触領域の形状を前記接触の位置に基づいて変更する。
<第5実施形態>
上記第1実施形態の説明において、選択範囲円を配置する方法は既に述べたとおりであるが、初期の形状を、該選択範囲円に内接する別の図形に設定しておくことで、例えば図14に示すように、円以外の選択範囲を扱うことができることは言うまでもない。なお、図9に示したような選択範囲円の回転移動にともなう内接図形の移動では、回転に付随して内接図形も回転することになる(図15の(a))。内接図形の形状次第では、意図的に回転させることで効率的に選択対象のオブジェクトを範囲内におさめることができるようになり、この操作は有効である。一方で、平行移動を主とした選択範囲の移動や拡大縮小時などに、手側面が意図せずに回転してしまった場合に、選択範囲がその都度傾いたりすることが望ましくない場合も考えられる。そのような場合は、図15の(b)のように、選択範囲円の回転移動時の内接図形の回転をロックするようにしても良い。なお、回転時の振る舞いは、ここで説明した二通りのいずれか一方である必要は無い。上記のように、好適なケースに応じて自動で切り替えても良いし、適宜利用者からの入力操作に応じて切り替えるようにしても良い。
<第6実施形態>
上記各実施形態では、手の側面の形から初期の選択範囲円を配置する方法について述べたが、これに限定されるものではなく、手の形状に沿った形の選択範囲を配置するようにしても構わない。すなわち、判定された接触領域の形状にしたがって、選択範囲の形状を決定するようにしてもよい。例えば、手の側面を弧状に曲げた場合だけでなく、手の側面を直角状に曲げた領域を認識可能にし、手側面領域が弧状なら円状の選択範囲を配置し、直角状の場合は矩形状の選択範囲を配置するなどしても良い。
<第7実施形態>
上記各実施形態では、手の側面を初期選択範囲の配置に必要な領域としたが、選択範囲を決定できる形状を、マルチタッチパネルに感知させられれば良く、必ずしも手側面でなくても構わない。例えば指先を揃えて弧状に並べた状態を所定形状の接触領域として検出し、初期選択範囲を配置するようにしても構わない。さらには、例えば、マルチタッチパネルへの入力指示として、指で弧を描く動作が行なわれた場合に、該動作をジェスチャとして認識し、該ジェスチャを認識した際には、描かれた弧の領域をもとに、該弧に合わせて選択範囲を配置するようにしても構わない。なお、指で弧を描くことで確定した選択範囲のサイズの変更や範囲の移動には、例えば、第2実施形態で説明した構成を用いることができる。
<第8実施形態>
以上、実施形態を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能である。具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
尚、本発明は、ソフトウェアのプログラムをシステム或いは装置に直接或いは遠隔から供給し、そのシステム或いは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによって前述した実施形態の機能が達成される場合を含む。この場合、供給されるプログラムは実施形態で図に示したフローチャートに対応したコンピュータプログラムである。
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であっても良い。
コンピュータプログラムを供給するためのコンピュータ読み取り可能な記憶媒体としては以下が挙げられる。例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などである。
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページから本発明のコンピュータプログラムをハードディスク等の記録媒体にダウンロードすることが挙げられる。この場合、ダウンロードされるプログラムは、圧縮され自動インストール機能を含むファイルであってもよい。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布するという形態をとることもできる。この場合、所定の条件をクリアしたユーザに、インターネットを介してホームページから暗号を解く鍵情報をダウンロードさせ、その鍵情報を使用して暗号化されたプログラムを実行し、プログラムをコンピュータにインストールさせるようにもできる。
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどとの協働で実施形態の機能が実現されてもよい。この場合、OSなどが、実際の処理の一部または全部を行ない、その処理によって前述した実施形態の機能が実現される。
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれて前述の実施形態の機能の一部或いは全てが実現されてもよい。この場合、機能拡張ボードや機能拡張ユニットにプログラムが書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行なう。
第1実施形態による情報処理装置の構成例を示すブロック図である。 第1実施形態による情報処理装置の機能構成を示すブロック図である。 第1実施形態の情報処理装置において、マルチタッチパネルでの片手側面を感知したセンサの検出状態のイメージを表した図である。 第1実施形態の情報処理装置における、初期の選択範囲円を配置する処理の手順を示すフローチャートである。 第1実施形態の情報処理装置における、選択範囲円の平行移動・回転移動・拡大縮小といった処理の手順を示すフローチャートである。 第1実施形態の情報処理装置における、選択範囲を確定する処理の手順を示すフローチャートである。 第1実施形態の情報処理装置における、感知した片手側面の領域から選択範囲円を求める例を示す図である。 第1実施形態の情報処理装置において、マルチタッチパネル上へ片手側面を置いた際に選択範囲円が配置される例を示す図である。 第1実施形態の情報処理装置における、選択範囲の平行移動・回転移動の例を示す図である。 第1実施形態の情報処理装置における、選択範囲の拡大・縮小を行う例を示す図である。 第2実施形態の情報処理装置における、確定した選択範囲内のオブジェクトを、選択範囲の拡大に合わせて、拡大処理する例を示す図である。 第2実施形態の情報処理装置における、確定した選択範囲内のオブジェクトを、選択範囲の回転に合わせて、回転処理する例を示す図である。 第4実施形態の情報処理装置の、選択範囲の変形を行なう例を示す図である。 第4実施形態の情報処理装置の、選択範囲円に内接する図形を設定して、選択範囲とする例を示す図である。 第5実施形態の情報処理装置の、選択範囲円に内接する図形の回転移動の例を示す図である。

Claims (14)

  1. マルチタッチパネルを制御する情報処理装置であって、
    前記マルチタッチパネルにおける接触領域を取得する取得手段と、
    前記取得手段によって取得された前記接触領域が予め定められた形状を有するか否かを判定する判定手段と、
    前記判定手段によって前記接触領域が予め定められた形状を有すると判定された場合、前記接触領域の検出位置に基づいて選択範囲を配置する配置手段と、
    前記配置手段で配置された前記選択範囲を前記マルチタッチパネルに表示する表示手段とを備えることを特徴とする情報処理装置。
  2. 前記取得手段は、前記マルチタッチパネルにより同時に検出された複数の接触位置が予め定められた密度以上の密度で存在する領域を前記接触領域として取得することを特徴とする請求項1に記載の情報処理装置。
  3. 前記配置手段は、
    前記接触領域の形状に基づいて前記選択範囲の大きさを決定する手段を更に備えることを特徴とする請求項1に記載の情報処理装置。
  4. 前記接触領域は湾曲形状を有し、
    前記配置手段は、前記湾曲形状に基づいて決定される大きさの円を前記選択範囲とし、 大きさが決定された前記円を前記湾曲形状に沿うように配置することを特徴とする請求項3に記載の情報処理装置。
  5. 前記取得手段によって取得される前記接触領域の形状の変化に応じて前記選択範囲の大きさを変更する変更手段を更に備えることを特徴とする請求項1に記載の情報処理装置。
  6. 前記変更手段は、更に、前記接触領域の移動に応じて前記選択範囲を移動することを特徴とする請求項5に記載の情報処理装置。
  7. 前記変更手段は、前記選択範囲の移動中は、前記選択範囲の大きさの変更を禁止することを特徴とする請求項6に記載の情報処理装置。
  8. 前記取得手段が前記接触領域の消滅を検出した場合に、前記配置手段で配置された前記選択範囲を確定する確定手段を更に備えることを特徴とする請求項1乃至7のいずれか1項に記載の情報処理装置。
  9. 前記確定手段によって選択範囲が確定した後に、当該選択範囲から予め定められた距離内に、前記取得手段によって予め定められた形状の接触領域が検出された場合に、前記接触領域の変化に基づいて前記選択範囲により選択されたオブジェクトに対して拡大、縮小、平行移動、回転の少なくともいずれかを行って前記オブジェクトの表示を変更する変更手段を更に備えることを特徴とする請求項8に記載の情報処理装置。
  10. 前記配置手段により配置された前記選択範囲から予め定められた距離内に前記接触領域に含まれない接触を検出した場合に、前記選択範囲の形状を前記接触の位置に基づいて変更する手段を更に備えることを特徴とする請求項1に記載の情報処理装置。
  11. 前記判定手段によって判定された前記接触領域の形状にしたがって、前記選択範囲の形状を決定することを特徴とする請求項1に記載の情報処理装置。
  12. マルチタッチパネルを制御する情報処理装置の制御方法であって、
    前記マルチタッチパネルにおける接触領域を取得する取得工程と、
    前記取得工程によって取得された前記接触領域が予め定められた形状を有するか否かを判定する判定工程と、
    前記判定工程によって前記接触領域が予め定められた形状を有すると判定された場合、前記接触領域の検出位置に基づいて選択範囲を配置する配置工程と、
    前記配置工程で配置された前記選択範囲を前記マルチタッチパネルに表示する表示工程とを有することを特徴とする情報処理装置の制御方法。
  13. コンピュータに、請求項12に記載の情報処理装置の制御方法を実行させるプログラム。
  14. コンピュータに、請求項12に記載の情報処理装置の制御方法を実行させるプログラムを格納したコンピュータ読み取り可能な記憶媒体。
JP2008198621A 2008-07-31 2008-07-31 情報処理装置及びその制御方法 Expired - Fee Related JP5161690B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008198621A JP5161690B2 (ja) 2008-07-31 2008-07-31 情報処理装置及びその制御方法
US12/509,723 US20100026649A1 (en) 2008-07-31 2009-07-27 Information processing apparatus and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008198621A JP5161690B2 (ja) 2008-07-31 2008-07-31 情報処理装置及びその制御方法

Publications (3)

Publication Number Publication Date
JP2010039558A true JP2010039558A (ja) 2010-02-18
JP2010039558A5 JP2010039558A5 (ja) 2011-09-15
JP5161690B2 JP5161690B2 (ja) 2013-03-13

Family

ID=41607835

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008198621A Expired - Fee Related JP5161690B2 (ja) 2008-07-31 2008-07-31 情報処理装置及びその制御方法

Country Status (2)

Country Link
US (1) US20100026649A1 (ja)
JP (1) JP5161690B2 (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012027744A (ja) * 2010-07-24 2012-02-09 Canon Inc 情報処理装置及びその制御方法
JP2013050952A (ja) * 2011-08-30 2013-03-14 Samsung Electronics Co Ltd タッチスクリーンを有する携帯端末機及びそのユーザインターフェース提供方法
JP2013186540A (ja) * 2012-03-06 2013-09-19 Sony Corp 情報処理装置及び情報処理方法
JP2013228973A (ja) * 2012-04-27 2013-11-07 Kyocera Document Solutions Inc 情報処理装置及び画像形成装置
JP2014501998A (ja) * 2011-01-07 2014-01-23 クゥアルコム・インコーポレイテッド タッチスクリーン上に複数のフレームを提示するためのシステム及び方法
CN103827792A (zh) * 2011-09-29 2014-05-28 英特尔公司 光纤接近传感器
JP2014134938A (ja) * 2013-01-09 2014-07-24 Sharp Corp 入力表示装置
WO2014132893A1 (ja) * 2013-02-27 2014-09-04 アルプス電気株式会社 操作検知装置
JP2014164602A (ja) * 2013-02-26 2014-09-08 Kyocera Corp 電子機器
JP2014182588A (ja) * 2013-03-19 2014-09-29 Ntt Docomo Inc 情報端末、操作領域制御方法及び操作領域制御プログラム
JP6036856B2 (ja) * 2013-02-08 2016-11-30 株式会社ニコン 電子制御装置、制御方法、及び制御プログラム
JPWO2015049899A1 (ja) * 2013-10-01 2017-03-09 オリンパス株式会社 画像表示装置および画像表示方法
JP2017510879A (ja) * 2014-01-28 2017-04-13 ▲華▼▲為▼終端有限公司Huawei Device Co., Ltd. 端末デバイスを処理するための方法及び端末デバイス
KR101813028B1 (ko) * 2010-12-17 2017-12-28 엘지전자 주식회사 이동 단말기 및 그 디스플레이 제어 방법
KR20200085703A (ko) * 2020-07-07 2020-07-15 삼성전자주식회사 터치 스크린을 갖는 휴대 단말기 및 그의 사용자 인터페이스 제공 방법

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4608475B2 (ja) * 2006-11-16 2011-01-12 インターナショナル・ビジネス・マシーンズ・コーポレーション 表示画面への画像表示方法
JP5326802B2 (ja) * 2009-05-19 2013-10-30 ソニー株式会社 情報処理装置、画像拡大縮小方法及びそのプログラム
US20110043538A1 (en) * 2009-08-18 2011-02-24 Sony Ericsson Mobile Communications Ab Method and Arrangement for Zooming on a Display
JP5482023B2 (ja) * 2009-08-27 2014-04-23 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
US9747270B2 (en) 2011-01-07 2017-08-29 Microsoft Technology Licensing, Llc Natural input for spreadsheet actions
KR101718893B1 (ko) 2010-12-24 2017-04-05 삼성전자주식회사 터치 인터페이스 제공 방법 및 장치
JP5599741B2 (ja) * 2011-02-21 2014-10-01 シャープ株式会社 電子機器、コンテンツ表示方法、およびコンテンツ表示プログラム
JP2013054470A (ja) * 2011-09-01 2013-03-21 Sony Corp 情報処理装置、情報処理方法、及びプログラム
TW201349128A (zh) * 2012-02-06 2013-12-01 Qualcomm Inc 具有保護導電陣列之生物測定掃描器
WO2014081104A1 (en) * 2012-11-21 2014-05-30 Lg Electronics Inc. Multimedia device for having touch sensor and method for controlling the same
US10664652B2 (en) 2013-06-15 2020-05-26 Microsoft Technology Licensing, Llc Seamless grid and canvas integration in a spreadsheet application
CN104346094B (zh) * 2013-08-07 2018-02-27 联想(北京)有限公司 显示处理方法和显示处理设备
CN105242840B (zh) * 2014-06-30 2019-11-26 联想(北京)有限公司 一种信息处理方法及一种电子设备
USD823312S1 (en) * 2014-08-11 2018-07-17 Sony Corporation Display panel or screen with graphical user interface
US10719697B2 (en) * 2016-09-01 2020-07-21 Mitsubishi Electric Corporation Gesture judgment device, gesture operation device, and gesture judgment method
US20200117332A1 (en) * 2017-07-03 2020-04-16 Lai Wa WONG Device having multi-touch applications

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0683523A (ja) * 1991-12-13 1994-03-25 American Teleph & Telegr Co <Att> ワークサーフェスシステム及びその実現方法、及びセンサ利用方法及び人物識別方法
JPH1040012A (ja) * 1996-05-28 1998-02-13 Internatl Business Mach Corp <Ibm> 仮想ポインティング・デバイスの生成指示方法、コンピュータ・システム及び装置
JPH1063422A (ja) * 1996-06-25 1998-03-06 Internatl Business Mach Corp <Ibm> 少なくとも2つの仮想ポインティング・デバイスを生成する方法及びコンピュータ・システム
JP2000322187A (ja) * 1999-05-11 2000-11-24 Ricoh Microelectronics Co Ltd タッチパネル及びタッチパネル付き液晶表示装置
JP2001290585A (ja) * 2000-01-31 2001-10-19 Canon Inc 位置情報処理装置及びその方法及びそのプログラム、操作装置及びその方法及びそのプログラム
JP2004280532A (ja) * 2003-03-17 2004-10-07 Kureo:Kk 選択領域制御装置、選択領域制御方法及び選択領域制御プログラム
JP2005100391A (ja) * 2003-09-10 2005-04-14 Mitsubishi Electric Research Laboratories Inc ハンドジェスチャを認識する方法
JP2005227476A (ja) * 2004-02-12 2005-08-25 Seiko Epson Corp 画像表示装置、画像表示方法及びプログラム
JP2006011914A (ja) * 2004-06-28 2006-01-12 Fuji Photo Film Co Ltd 画像表示制御装置及び画像表示制御プログラム
JP2007272904A (ja) * 2006-03-30 2007-10-18 Lg Electronics Inc 画面表示項目を選択する端末機及び方法
JP2007310888A (ja) * 2007-05-17 2007-11-29 Seiko Epson Corp 携帯情報機器及び情報記憶媒体
US20080168403A1 (en) * 2007-01-06 2008-07-10 Appl Inc. Detecting and interpreting real-world and security gestures on touch and hover sensitive devices

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5471578A (en) * 1993-12-30 1995-11-28 Xerox Corporation Apparatus and method for altering enclosure selections in a gesture based input system
US5835079A (en) * 1996-06-13 1998-11-10 International Business Machines Corporation Virtual pointing device for touchscreens
US5784061A (en) * 1996-06-26 1998-07-21 Xerox Corporation Method and apparatus for collapsing and expanding selected regions on a work space of a computer controlled display system
US5751283A (en) * 1996-07-17 1998-05-12 Microsoft Corporation Resizing a window and an object on a display screen
US6891551B2 (en) * 2000-11-10 2005-05-10 Microsoft Corporation Selection handles in editing electronic documents
US20050108620A1 (en) * 2003-11-19 2005-05-19 Microsoft Corporation Method and system for selecting and manipulating multiple objects
US7519223B2 (en) * 2004-06-28 2009-04-14 Microsoft Corporation Recognizing gestures and using gestures for interacting with software applications
US7743348B2 (en) * 2004-06-30 2010-06-22 Microsoft Corporation Using physical objects to adjust attributes of an interactive display application
US7719523B2 (en) * 2004-08-06 2010-05-18 Touchtable, Inc. Bounding box gesture recognition on a touch detecting interactive display
WO2008095137A2 (en) * 2007-01-31 2008-08-07 Perceptive Pixel, Inc. Methods of interfacing with multi-point input devices and multi-point input systems employing interfacing techniques
US7936341B2 (en) * 2007-05-30 2011-05-03 Microsoft Corporation Recognizing selection regions from multiple simultaneous inputs
US9772689B2 (en) * 2008-03-04 2017-09-26 Qualcomm Incorporated Enhanced gesture-based image manipulation

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0683523A (ja) * 1991-12-13 1994-03-25 American Teleph & Telegr Co <Att> ワークサーフェスシステム及びその実現方法、及びセンサ利用方法及び人物識別方法
JPH1040012A (ja) * 1996-05-28 1998-02-13 Internatl Business Mach Corp <Ibm> 仮想ポインティング・デバイスの生成指示方法、コンピュータ・システム及び装置
JPH1063422A (ja) * 1996-06-25 1998-03-06 Internatl Business Mach Corp <Ibm> 少なくとも2つの仮想ポインティング・デバイスを生成する方法及びコンピュータ・システム
JP2000322187A (ja) * 1999-05-11 2000-11-24 Ricoh Microelectronics Co Ltd タッチパネル及びタッチパネル付き液晶表示装置
JP2001290585A (ja) * 2000-01-31 2001-10-19 Canon Inc 位置情報処理装置及びその方法及びそのプログラム、操作装置及びその方法及びそのプログラム
JP2004280532A (ja) * 2003-03-17 2004-10-07 Kureo:Kk 選択領域制御装置、選択領域制御方法及び選択領域制御プログラム
JP2005100391A (ja) * 2003-09-10 2005-04-14 Mitsubishi Electric Research Laboratories Inc ハンドジェスチャを認識する方法
JP2005227476A (ja) * 2004-02-12 2005-08-25 Seiko Epson Corp 画像表示装置、画像表示方法及びプログラム
JP2006011914A (ja) * 2004-06-28 2006-01-12 Fuji Photo Film Co Ltd 画像表示制御装置及び画像表示制御プログラム
JP2007272904A (ja) * 2006-03-30 2007-10-18 Lg Electronics Inc 画面表示項目を選択する端末機及び方法
US20080168403A1 (en) * 2007-01-06 2008-07-10 Appl Inc. Detecting and interpreting real-world and security gestures on touch and hover sensitive devices
JP2007310888A (ja) * 2007-05-17 2007-11-29 Seiko Epson Corp 携帯情報機器及び情報記憶媒体

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012027744A (ja) * 2010-07-24 2012-02-09 Canon Inc 情報処理装置及びその制御方法
KR101813028B1 (ko) * 2010-12-17 2017-12-28 엘지전자 주식회사 이동 단말기 및 그 디스플레이 제어 방법
JP2014501998A (ja) * 2011-01-07 2014-01-23 クゥアルコム・インコーポレイテッド タッチスクリーン上に複数のフレームを提示するためのシステム及び方法
US10042546B2 (en) 2011-01-07 2018-08-07 Qualcomm Incorporated Systems and methods to present multiple frames on a touch screen
JP2013050952A (ja) * 2011-08-30 2013-03-14 Samsung Electronics Co Ltd タッチスクリーンを有する携帯端末機及びそのユーザインターフェース提供方法
US11275466B2 (en) 2011-08-30 2022-03-15 Samsung Electronics Co., Ltd. Mobile terminal having a touch screen and method for providing a user interface therein
US10809844B2 (en) 2011-08-30 2020-10-20 Samsung Electronics Co., Ltd. Mobile terminal having a touch screen and method for providing a user interface therein
JP2020091912A (ja) * 2011-08-30 2020-06-11 三星電子株式会社Samsung Electronics Co.,Ltd. タッチスクリーンを有する携帯端末機及びそのユーザインターフェース提供方法
JP2014531682A (ja) * 2011-09-29 2014-11-27 インテル コーポレイション 光ファイバ近接センサ
CN103827792A (zh) * 2011-09-29 2014-05-28 英特尔公司 光纤接近传感器
JP2013186540A (ja) * 2012-03-06 2013-09-19 Sony Corp 情報処理装置及び情報処理方法
JP2013228973A (ja) * 2012-04-27 2013-11-07 Kyocera Document Solutions Inc 情報処理装置及び画像形成装置
JP2014134938A (ja) * 2013-01-09 2014-07-24 Sharp Corp 入力表示装置
US9141205B2 (en) 2013-01-09 2015-09-22 Sharp Kabushiki Kaisha Input display device, control device of input display device, and recording medium
JP6036856B2 (ja) * 2013-02-08 2016-11-30 株式会社ニコン 電子制御装置、制御方法、及び制御プログラム
JPWO2014123224A1 (ja) * 2013-02-08 2017-02-02 株式会社ニコン 電子制御装置、制御方法、及び制御プログラム
JP2014164602A (ja) * 2013-02-26 2014-09-08 Kyocera Corp 電子機器
WO2014132893A1 (ja) * 2013-02-27 2014-09-04 アルプス電気株式会社 操作検知装置
JP2014182588A (ja) * 2013-03-19 2014-09-29 Ntt Docomo Inc 情報端末、操作領域制御方法及び操作領域制御プログラム
JPWO2015049899A1 (ja) * 2013-10-01 2017-03-09 オリンパス株式会社 画像表示装置および画像表示方法
JP2017510879A (ja) * 2014-01-28 2017-04-13 ▲華▼▲為▼終端有限公司Huawei Device Co., Ltd. 端末デバイスを処理するための方法及び端末デバイス
KR20200085703A (ko) * 2020-07-07 2020-07-15 삼성전자주식회사 터치 스크린을 갖는 휴대 단말기 및 그의 사용자 인터페이스 제공 방법
KR102249182B1 (ko) 2020-07-07 2021-05-10 삼성전자 주식회사 터치 스크린을 갖는 휴대 단말기 및 그의 사용자 인터페이스 제공 방법

Also Published As

Publication number Publication date
JP5161690B2 (ja) 2013-03-13
US20100026649A1 (en) 2010-02-04

Similar Documents

Publication Publication Date Title
JP5161690B2 (ja) 情報処理装置及びその制御方法
EP3461291B1 (en) Implementation of a biometric enrollment user interface
Whitmire et al. Digitouch: Reconfigurable thumb-to-finger input and text entry on head-mounted displays
EP2676178B1 (en) Breath-sensitive digital interface
US9830444B2 (en) Password processing device
Hinckley et al. Sensor synaesthesia: touch in motion, and motion in touch
JP5448370B2 (ja) 情報処理装置及びその制御方法、プログラム、記憶媒体
JP4734435B2 (ja) タッチパネル式ディスプレイを持った携帯型ゲーム装置
TWI408572B (zh) Information processing device, input device, information processing system, information processing method and computer readable storage medium
US9696882B2 (en) Operation processing method, operation processing device, and control method
US20170094178A1 (en) Method and system for determining proper positioning of an object
JP4741983B2 (ja) 電子機器及び電子機器の動作方法
CN105320275B (zh) 可穿戴设备和操作可穿戴设备的方法
JP2008146243A (ja) 情報処理装置、情報処理方法、及びプログラム
JP2009042796A (ja) ジェスチャー入力装置および方法
US10140002B2 (en) Information processing apparatus, information processing method, and program
US9274702B2 (en) Drawing device, drawing control method, and drawing control program for drawing graphics in accordance with input through input device that allows for input at multiple points
JP5654932B2 (ja) ユーザインタフェース装置、表示装置による操作受付方法及びプログラム
Zarek et al. SNOUT: One-handed use of capacitive touch devices
Hsieh et al. Developing hand-worn input and haptic support for real-world target finding
JP6466736B2 (ja) 情報処理装置、情報処理方法、ならびに、プログラム
JP2014082605A (ja) 情報処理装置、その制御方法及びプログラム
JP2017045472A (ja) タッチパネル式装置によるヘッドマウントディスプレイ上のポインタ操作が可能なシステム、プログラム、及び方法
KR101136327B1 (ko) 휴대 단말기의 터치 및 커서 제어방법 및 이를 적용한 휴대 단말기
Ren Designing for Effective Freehand Gestural Interaction

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110801

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110801

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120427

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120625

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121116

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121214

R151 Written notification of patent or utility model registration

Ref document number: 5161690

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151221

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees