JP2015106256A - 情報処理装置、情報処理装置を制御するための方法、および、当該方法をコンピュータに実行させるためのプログラム - Google Patents

情報処理装置、情報処理装置を制御するための方法、および、当該方法をコンピュータに実行させるためのプログラム Download PDF

Info

Publication number
JP2015106256A
JP2015106256A JP2013247582A JP2013247582A JP2015106256A JP 2015106256 A JP2015106256 A JP 2015106256A JP 2013247582 A JP2013247582 A JP 2013247582A JP 2013247582 A JP2013247582 A JP 2013247582A JP 2015106256 A JP2015106256 A JP 2015106256A
Authority
JP
Japan
Prior art keywords
touch
information processing
processing apparatus
touch event
gesture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013247582A
Other languages
English (en)
Other versions
JP6015637B2 (ja
Inventor
征平 市山
Shohei Ichiyama
征平 市山
洋一 来正
Yoichi Kurumasa
洋一 来正
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2013247582A priority Critical patent/JP6015637B2/ja
Priority to US14/551,682 priority patent/US9124740B2/en
Priority to EP14194913.1A priority patent/EP2881852B1/en
Priority to CN201410705324.5A priority patent/CN104679424B/zh
Publication of JP2015106256A publication Critical patent/JP2015106256A/ja
Application granted granted Critical
Publication of JP6015637B2 publication Critical patent/JP6015637B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00352Input means
    • H04N1/00392Other manual input means, e.g. digitisers or writing tablets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00352Input means
    • H04N1/00381Input by recognition or interpretation of visible user gestures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00405Output means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04806Zoom, i.e. interaction techniques or interactors for controlling the zooming operation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0094Multifunctional device, i.e. a device capable of all of reading, reproducing, copying, facsimile transception, file transception

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Accessory Devices And Overall Control Thereof (AREA)
  • Facsimiles In General (AREA)

Abstract

【課題】タッチ操作に基づくジェスチャーが容易に把握される情報処理装置を提供する。【解決手段】画像形成装置100は、タッチパネル110と、タッチイベント受け付け部120と、タッチ操作に対して色や画像等の情報を付加することにより、タッチイベントがタッチパネル110または外部端末170のどの部分で発生したのかがユーザーに分かるように視覚化するタッチ情報付加部130と、ジェスチャー判定部140と、画面制御部150と、タッチイベント処理部160とを備える。画面制御部150は、ジェスチャー制御部151を含む。タッチイベント処理部160は、入力された命令に相当するデータと、タッチパネル110または外部端末170を識別するためのデータとを、タッチイベントとして保持するタッチイベント記憶部161と、タッチイベントを再生するタッチイベント再生部162とを含む。【選択図】図1

Description

本開示は情報処理装置の制御に関し、より特定的には、タッチ操作を受け付け可能な情報処理装置におけるタッチ操作の再現に関する。
装置に対する操作の表示に関し、たとえば、特開2008−040560号公報(特許文献1)は、「装置に対して行われた操作などの履歴情報を表示する際、継続する操作を見失うことなく表示することができる履歴表示装置」を開示している。
また、特開2000−235549号公報(特許文献2)は、「操作者の行うマウスの動きなどを,後で他の端末で再生する場合に,再生時に同じ結果が得られるようにする」ための技術を開示している。
特開2008−040560号公報 特開2000−235549号公報
特開2008−040560号公報に開示された技術によると、装置に対して行われた操作などの履歴情報を表示する際、継続した操作を見失うことなく表示させるために、操作履歴を生成する際に、操作された操作部の位置を示す操作位置画像を操作部画像上で時系列的に隣接した2つの操作部間を結ぶ経路に沿って予め定められた表示間隔で表示させることができる。しかしながら、たとえば、ジェスチャー操作に適用した場合には、ジェスチャー操作は連続した操作であり、2点が近いので軌跡を表示することができないという問題がある。
また、特開2000−235549号公報に開示された技術によると、マウスの入力イベント(マウスクリックやマウス移動など)と結果イベント(ウィンドウの生成やポインタ位置更新など)を記憶し、記憶したイベントを発行することができる。しかしならが、パーソナルコンピューター上では常にマウスが表示されているのに対して画像形成装置ではマウスは存在しない。そのため、入力イベントを発生させるだけでは、パネル上のどこに入力イベントが発生したのかが分からないという問題がある。
また、別の局面において、画像形成装置の操作内容の再生手段として、タッチイベントを記憶し、記憶したタッチイベントを再生成・発行することで、記憶時と同じ操作内容を再生させる方法が考えられる。この方法を用いることで、タッチ操作やジェスチャー操作など、ユーザーが操作した内容を完全に再現することが可能となる。しかし、タッチイベントの自動再生を行う場合に、画像形成装置の内部においてタッチイベントを発生させるため、ユーザーはどこのキーが押されているのか、またどのような操作が行われているのかが分からない。そのため、タッチされた点の座標値や操作(たとえば、フリック操作など)の内容を容易に把握できることが必要とされている。
したがって、上記のような問題を解決するための技術が必要とされている。本開示は、上述の問題点を解決するためになされたものであって、その目的は、タッチされた点や操作内容が容易に分かる情報処理装置を提供することである。他の目的は、タッチされた点や操作内容が容易に分かるように情報処理装置を制御するための方法を提供することである。さらに他の目的は、当該方法をコンピュータに実行させるためのプログラムを提供することである。
一実施の形態に従う情報処理装置は、情報処理装置に対するタッチ操作を受け付ける画面を表示するための表示手段と、タッチ操作を受け付けるためのタッチ操作手段と、タッチ操作手段に対する1つ以上のタッチ操作にそれぞれ対応する1つ以上のタッチイベントを発行するためのタッチイベント発行手段と、タッチイベント発行手段によって発行される1つ以上のタッチイベントに基づき対応する処理を行なうモードと、予め記憶されたタッチイベントを再生する再生モードとをそれぞれ実行可能なジェスチャー制御手段とを備える。ジェスチャー制御手段は、再生モードにおいてタッチイベントに関連付けられる領域に、記憶されたタッチイベントに対応するタッチ操作を示す操作画像を付加し、表示手段に表示させる。
好ましくは、タッチ操作手段は、一連のタッチ操作を受け付ける。情報処理装置は、一連のタッチ操作が、情報処理装置の機能を実現するための操作に該当するか否かを判断するための判断手段をさらに備える。一連のタッチ操作が、情報処理装置の機能を実現するための操作に該当する場合に、ジェスチャー制御手段は、1つ以上のタッチイベントと情報とを表示手段に表示させる。
好ましくは、情報処理装置は、当該情報処理装置の外部装置からデータを取得するための取得手段をさらに備える。タッチイベント発行手段は、外部装置から取得されたデータに基づいて、1つ以上のタッチイベントを発行する。
好ましくは、外部装置は、タッチパネルを備える情報通信端末を含む。情報処理装置は、情報通信端末におけるサンプリング数を情報処理装置におけるサンプリング数に補正するための補正手段をさらに備える。
好ましくは、タッチイベント発行手段は、予め規定されたタイミングから1つ以上のタッチ操作のそれぞれが行なわれたタイミングまで経過した時間と、当該タッチ操作とを関連付けて記憶するための記憶手段を含む。情報処理装置は、1つ以上のタッチ操作のそれぞれについて、時間と当該タッチ操作とに基づいて、1つ以上のタッチ操作に対応する動作を情報処理装置に実行させるための再生手段をさらに含む。
好ましくは、ジェスチャー制御手段は、1つ以上のタッチ操作または情報の表示を繰り返すように構成されている。
好ましくは、情報は、情報処理装置と他の情報処理装置との間で移送可能である。情報が表示される領域は、当該情報を表示する情報処理装置が備える表示手段の表示領域の大きさに応じて変更されるように構成されている。
好ましくは、情報処理装置に対するタッチ操作は、フリック操作を含む。フリック操作が行なわれた場合に、表示手段は、フリック操作の軌跡を表示するように構成されている。
好ましくは、情報処理装置に対するタッチ操作は、二点タッチ操作を含む。表示手段は、二点タッチ操作が行なわれた点の座標値の変化に応じて、当該変化を示す方向を表示する。
好ましくは、ジェスチャー制御手段は、再生モードにおいてタッチイベントによる処理の結果を示す画像とともに操作画像を表示手段に表示させるように構成されている。
他の実施の形態に従うと、情報処理装置を制御するための方法が提供される。この方法は、情報処理装置に対するタッチ操作を受け付ける画面を表示するステップと、タッチ操作を受け付けるステップと、1つ以上のタッチ操作にそれぞれ対応する1つ以上のタッチイベントを発行するステップと、発行された1つ以上のタッチイベントに基づき対応する処理を行なうモードと、予め記憶されたタッチイベントを再生する再生モードとをそれぞれ実行するステップとを備える。実行するステップは、再生モードにおいてタッチイベントに関連付けられる領域に、記憶されたタッチイベントに対応するタッチ操作を示す操作画像を付加して表示するステップを含む。
さらに他の実施の形態に従うと、情報処理装置を制御するための方法をコンピュータに実行させるためのプログラムが提供される。このプログラムは、コンピュータに、情報処理装置に対するタッチ操作を受け付ける画面を表示するステップと、タッチ操作を受け付けるステップと、1つ以上のタッチ操作にそれぞれ対応する1つ以上のタッチイベントを発行するステップと、発行された1つ以上のタッチイベントに基づき対応する処理を行なうモードと、予め記憶されたタッチイベントを再生する再生モードとをそれぞれ実行するステップとを実行させる。実行するステップは、再生モードにおいてタッチイベントに関連付けられる領域に、記憶されたタッチイベントに対応するタッチ操作を示す操作画像を付加して表示するステップを含む。
ある局面において、情報処理装置に対して行なわれたタッチ操作が視覚化されるので、ユーザーは、タッチ操作の内容を容易に把握することができる。
この発明の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。
本発明の実施の形態に明る画像形成装置100により実現される機能を表すブロック図である。 本発明の実施の形態に係る画像形成装置100のハードウェア構成の一例を表す図である。 本発明に係る技術思想が適用される画像形成装置100の概略を表す図である。 本発明の実施の形態に係る画像形成装置100と他の機器とが接続された状態を表す図である。 本発明の実施の形態に係る画像形成装置100における各種のタッチイベントを表す図である。 本発明の実施の形態に係る画像形成装置100が備えるタッチパネル110における操作を表す図である。 本発明の実施の形態に係るジェスチャー判定部140の構成を表す図である。 タッチイベントを記憶するための処理を表すフローチャートである。 本発明の実施の形態に係る画像形成装置100がタッチイベントを記憶するために備える構成を表す図である。 本発明の実施の形態に係る画像形成装置100が実行する処理の一部を表すフローチャートである。 タッチイベントの再生処理を表す図である。 タッチパネル110の画面の推移を表す図である。 本発明の実施の形態に係る画像形成装置100がフリック操作を記憶する場合におけるタッチパネル110の画面の推移を表す図である。 本発明の実施の形態に係る画像形成装置100のタッチパネル110が操作イベントを再生する場合の画面の推移を表す図である。 本発明の実施の形態に係る画像形成装置100のタッチパネル110におけるピンチ操作とジェスチャとを表す図である。 本発明の実施の形態に係る画像形成装置100におけるタッチイベントのインポートとエクスポートとを表わす図である。 画像形成装置100が備えるタッチパネル110に表示されるタッチイベントに情報が付加される局面を表す図である。 画像形成装置100がフリックジェスチャを再生する場合に軌跡が付加されることを表す図である。 タッチパネル110にピンチジェスチャの軌跡および方向が表示されている態様を表す図である。 タッチパネル110に対して画像を回転させる操作が行なわれた場合に情報が付加される一態様を表す図である。 タッチイベントが登録された画像形成装置100のタッチパネル110の大きさと、当該タッチイベントを再生する情報処理装置のタッチパネルの大きさとが異なる場合における画像の表示態様を表す図である。 画像形成装置100が実行する処理の一部を表すフローチャートである。 画像形成装置100がアニメーションを実行している場合におけるジェスチャーの表示処理を表すフローチャートである。
以下、図面を参照しつつ、本発明の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
まず、情報処理装置の一態様である画像形成装置の一つの局面について説明する。ある局面において、画像形成装置を遠隔地にあるリモート端末に接続し、接続されたリモート端末側から画像形成装置側へ操作方法を指示する情報を送ることで、画像形成装置は、操作方法を指示する情報を合成して表示することができる。リモート端末側からオペレーターが送信した操作方法を指示する情報(たとえば、○印、矢印、手の画像など)を合成することが考えられる。しかしながら、この場合、マルチタッチ操作を指示する操作方法指示情報をリモート端末から画像形成装置へ送信した際、実際にジェスチャー操作した際の時間や強さ、方向が分からないため、画像形成装置上で再現される操作内容を見ているユーザーは、どの程度の操作を行えばよいのかが分からないという問題が生じる。
また、リモート端末側から拡大の命令が画像形成装置に二度与えられた場合には、予め規定された大きさだけ、2回目の命令に応じた拡大率を1回目の命令に応じた拡大率よりも大きくするように構成される。そのため、リモート端末側での操作に対して、画像形成装置側では忠実に操作内容を再現することはできないことになる。
また、別の局面では、遠隔からの操作支援の際に、ヘルプデスクのオペレーターのパネル操作に対して補正を加え、オペレーター独特の動きを適切なものに変換することが考えられる。これは、操作支援者の第1の操作位置(操作開始位置)から第2の操作位置(操作終了位置)までの操作支援画面として第1の操作画面から第2の操作画面までの間で、操作時間に応じて操作画面を補間した、連続して操作パネルにアニメーション表示するものである。リモート端末側から画像形成装置側へ送る情報としては、タッチ開始時の情報(第1座標値)とタッチ終了時の情報(第2座標値)のみであり、画像形成装置側でジェスチャー操作を特定することができない。ジェスチャーの特定にはタッチ操作が開始された時の座標値と、タッチ操作が継続している間の座標値と、タッチ操作が終了した時の座標値とが必要になるためである。したがって、この局面では、タッチ操作が継続中の座標値を省き、ユーザーの操作内容を補正することとなってしまい、実際にユーザーが操作した内容と異なってしまうことになる。
以下に例示する。
(ピンチジェスチャーの場合の例)
操作パネルに二点の指でタッチしたまま、片方の指が動いた時点でピンチジェスチャーと判定し、
指が徐々に移動してその移動が予め規定した一定時間停止したことを検出または片方の指がパネルから離れた場合に、
ジェスチャー操作が終了したと判断する。
その終了位置を第2座標値とし、最初の座標値と最後の座標値(第2座標値)との間を補完(補間画像の合成でジェスチャー操作内容をアニメーション表示)する。
これを適用すると、忠実に操作内容を再現できないだけでなく、ピンチジェスチャー中に画像が拡大している時に、指を離すとそこで画像の拡大は終了するはずが、指を離した時にジェスチャー終了位置と判断されてしまい、開始位置から終了位置までの補間が行われてしまうことになる。
つまり、再生時にピンチジェスチャーが行われた場合、ジェスチャー終了後に続けて補間したバージョンのピンチジェスチャー操作の内容が本体パネル上に合成されてしまうという問題が発生し、操作内容を忠実に再現し視覚化することができない。
したがって、画像形成装置その他の情報処理装置が、ユーザーからのタッチ操作に基づいてタッチイベントを自動再生する場合において、タッチされた点の座標値や操作の内容(フリック操作、ピンチ操作など)がユーザーによって容易に認識される技術が必要とされている。そこで、本発明の実施の形態に係る画像形成装置100は、以下のような構成を備える。
[画像形成装置100の構成]
図1を参照して、本発明の実施の形態に係る画像形成装置100について説明する。図1は、本発明の実施の形態に明る画像形成装置100により実現される機能を表すブロック図である。以下、本発明の技術思想が適用される情報処理装置の一例として画像形成装置100が用いられる。しかしながら、当該技術思想の適用対象は画像形成装置100に限られない。本発明に係る技術思想は、タブレット端末、タッチパネル型コンピュータその他の、少なくともタッチパネルを備える情報処理装置に適用可能である。
ある局面において、画像形成装置100は、タッチパネル110と、タッチイベント受け付け部120と、タッチ情報付加部130と、ジェスチャー判定部140と、画面制御部150と、タッチイベント処理部160とを備える。画面制御部150は、ジェスチャー制御部151を含む。タッチイベント処理部160は、タッチイベント記憶部161と、タッチイベント再生部162とを含む。画像形成装置100には、外部端末170が、無線によってまたは有線によって接続可能である。無線接続の態様は特に限定されず、たとえば、WiFi(Wireless Fidelity)その他の方式が用いられ得る。
画像形成装置100は、タッチ操作(以下、タッチイベントという)を記憶するための動作モードと、タッチ操作を再生するための動作モードとを有する。
タッチパネル110は、画像形成装置100に対する命令の入力を受け付ける。入力された命令は、タッチパネル110を識別するデータと共に、タッチイベント受け付け部120に送られる。
他の局面において、外部端末170は、タッチパネル110と同様に、画像形成装置100に対する命令の入力を受け付ける。入力された命令は、外部端末170を識別するためのデータと共に、タッチイベント受け付け部120に送られる。
タッチイベント受け付け部120は、与えられた命令と、当該命令を与えたタッチパネル110または外部端末170を識別するためのデータとを、タッチイベント処理部160に送る。
タッチイベント処理部160は、ある局面において、タッチイベント受け付け部120から送られたデータをタッチイベント記憶部161に記憶する。別の局面において、タッチイベント処理部160は、記憶しているデータを読み出す。
(タッチイベント記憶時)
より具体的には、画像形成装置100の動作モードがタッチイベントを記憶するための動作モードであるとき、タッチイベント記憶部161は、入力された命令に相当するデータと、タッチパネル110または外部端末170を識別するためのデータとを、タッチイベントとして保持する。
(タッチイベント再生時)
一方、画像形成装置100の動作モードがタッチイベントを再生する動作モードであるとき、タッチイベント再生部162は、タッチイベント記憶部161に格納されているデータを読み出してタッチイベントを再生する。
タッチ情報付加部130は、タッチパネル110または外部端末170に与えられたタッチ操作に対して、色や画像等の情報を付加することにより、タッチイベントがタッチパネル110または外部端末170のどの部分で発生したのかがユーザーに分かるように視覚化する。
ジェスチャー判定部140は、タッチパネル110または外部端末170における画面の種類と、タッチ操作に基づくタッチイベントを表すデータとに基づいて、ジェスチャーを表示可能であるか否かを判断する。より具体的には、ジェスチャー判定部140は、タッチイベント受け付け部120から、画面の種類を表すデータを受信し、そのデータに基づいて、タッチパネル110または外部端末170に表示されている画面が、ジェスチャーを表示可能な画面であるか否かを判断する。
その表示されている画面がジェスチャーを表示可能である場合、ジェスチャー判定部140は、タッチイベント受け付け部120から受信したタッチイベントと、ジェスチャーを表すデータ(「ジェスチャーイベント」ともいう。)とを画面制御部150に送る。
画面制御部150は、タッチイベント受け付け部120から送られるタッチイベントと、当該タッチイベントに関連付けられた情報とに基づいて、画像形成装置100における画面の表示を制御する。ジェスチャー制御部151は、1つ以上のタッチイベントに基づき対応する処理を行なう通常モードと、予め記憶されたタッチイベントを再生する再生モードとをそれぞれ実行可能である。ある局面において、ジェスチャー制御部151は、再生モードにおいてタッチイベントに関連付けられる領域に、当該記憶されたタッチイベントに対応するタッチ操作を示す操作画像を付加し、当該操作画像をタッチパネル110の表示領域に表示させる。別の局面において、ジェスチャー制御部151は、再生モードにおいてタッチイベントによる処理の結果を示す画像とともに当該操作画像をタッチパネル110の表示領域に表示させる。
より具体的には、画像形成装置100の動作モードがタッチ操作に基づくジェスチャーのアニメーションを表示可能な場合には、ジェスチャー制御部151は、タッチイベントに対してアニメーションを表示するための情報印、矢印その他の画像や色)を付加することにより、ジェスチャーを示すアニメーションが反映されたデータを生成する。
画面制御部150は、そのようなデータを用いて、タッチパネル110または外部端末170の表示領域にジェスチャーを示すアニメーションを表示させる。画像形成装置100のユーザーは、そのアニメーションを視認することにより、画像形成装置100に行なわれたタッチ操作を画像形成装置100のジェスチャーとして認識することができる。
図2を参照して、画像形成装置100の構成についてさらに説明する。図2は、本発明の実施の形態に係る画像形成装置100のハードウェア構成の一例を表す図である。画像形成装置100は、MFP(Multi function Peripherals)本体システム制御部200と、パネルCPU(Central Processing Unit)201と、ROM(Read-Only Memory)202と、RAM(Random Access Memory)203と、LCD(Liquid Crystal Display)制御部204と、VRAM(Video Random Access Memory)205と、LCDパネル部206と、ハードキー操作部208と、入出力制御部211と、接続端子部220とを備える。LCDパネル部206は、タッチパネル110を含む。
図2に示されるように、各構成要素は、他の構成要素に電気的に接続されている。接続端子部220には、USB(Universal Serial Bus)メモリ221が装着可能である。
MFP本体システム制御部200は、画像形成装置100の動作を制御する。MFP本体システム制御部200は、たとえば、画像形成装置100の各処理を実行するように構成されたコントローラ、プロセッサその他の装置によって実現される。
パネルCPU201は、MFP本体システム制御部200と通信する。パネルCPU201は、タッチパネル110の動作を制御する。より具体的には、パネルCPU201は、タッチパネル110に対するタッチ操作によって出力される信号に基づいて、当該タッチ操作で指定される命令をMFP本体システム制御部200に送出する。MFP本体システム制御部200は、その命令に基づいて画像形成装置100の動作を制御する。たとえば、MFP本体システム制御部200は、タッチ操作に基づいて、コピーの拡大または縮小の倍率を変更し、あるいは、片面コピーまたは両面コピーの設定を変更する。他の局面において、パネルCPU201は、入出力制御部211と通信する。
ROM202は、画像形成装置100の動作を規定する制御プログラムやデータを保持している。RAM203は、画像形成装置100において生成されたデータを一時的に保持する。
LCD制御部204は、VRAM205のリード/ライト制御を実行する。LCD制御部204は、LCDパネル部206における画像の表示を制御する。LCD制御部204は、画像を表示するためのデータとしてROM202に格納されている画像データを読み出して、その画像データをVRAM205に一旦書き込む。LCD制御部204は、VRAM205からその画像データを読み出して、その画像データをLCDパネル部206に送る。LCDパネル部206は、その画像データに基づいて画像を表示する。表示される画像は、たとえば、画像形成装置100によるコピーの設定値の入力を受け付ける画面、画像形成装置100によってスキャンされた画像の送信先を設定するための画面等を含む。
LCDパネル部206は、表示領域においてタッチされた位置を検出し、その位置を表す情報(たとえば、座標値)を入出力制御部211に送る。入出力制御部211は、その情報を用いて、画面上のどの機能が選択されたかを特定し、その機能を表すデータをパネルCPU201に送信する。パネルCPU201は、そのデータに基づいて、タッチパネル110における設定を行なう。パネルCPU201は、設定後のデータをMFP本体システム制御部200に送る。MFP本体システム制御部200は、その信号に基づいて画像形成装置100の動作を制御する。
ハードキー操作部208は、ハードキーと、画像形成装置100の状態を表すLED(Light Emitting Diode)その他の発光装置と、ハードキーまたはLCDパネル部206において入力が行なわれた旨を通知するための音声出力部とを含む。ハードキーは、たとえば、スタートキー、テンキー、パネルリセットキー等を含む。音声出力部は、たとえば、ブザー、スピーカ等で実現される。
ハードキー操作部208は、入出力制御部211によって制御される。ある局面において、ハードキー操作部208は、スタートキー(図示しない)の押下に応答して、入出力制御部211とパネルCPU201とを介して、MFP本体システム制御部200と通信する。
接続端子部220は、USBメモリ221の装着を検出し、MFP本体システム制御部200に検出結果を送信する。USBメモリ221が接続端子部220に適切に装着されている場合、USBメモリ221と画像形成装置100との間でデータの受け渡しが可能になる。
[外観]
図3を参照して、画像形成装置100についてさらに説明する。図3は、本発明に係る技術思想が適用される画像形成装置100の概略を表す図である。画像形成装置100は、タッチパネル110と、ADF(Auto Document Feeder)320と、給紙トレイ330と、ハードディスク340と、プリンタ350と、後処理装置360とを備える。
タッチパネル110は、ユーザーによるタッチ操作に基づいて、画像形成装置100に対する命令の入力を受け付ける。タッチパネル110の形式は特に限定されない。
ADF320は、たとえば、流し読みタイプの自動原稿急送装置である。給紙トレイ330は、たとえば、大容量型の外付けタイプの給紙装置である。ハードディスク340は、画像形成装置100を作動させるためのプログラムおよびデータ、ならびに、画像形成装置100において生成されたデータまたは画像形成装置100に入力されたデータを格納する。
プリンタ350は、タッチパネル110に対して与えられたタッチ操作に基づいて、ハードディスク340、RAMその他の記憶装置に保持されているデータを用いて用紙に画像を形成する。なお、画像形成装置100の出力は用紙に限られず、別の局面において、スキャンされた画像を含むデータが出力されてもよい。
後処理装置360は、プリンタ350から出力される用紙に対して予め規定された後処理を実行する。なお、画像形成装置100のハードウェアは周知である。したがって、ハードウェアの詳細な説明は繰り返さない。
[使用態様]
図4を参照して、画像形成装置100の使用態様について説明する。図4は、本発明の実施の形態に係る画像形成装置100と他の機器とが接続された状態を表す図である。ある局面において、画像形成装置100は、外部端末170と無線によって接続される。無線は、たとえば、WiFi(Wireless Fidelity)、赤外線通信、Bluetooth(登録商標)等であるが、その他の無線方式が用いられてもよい。画像形成装置100は、さらに、接続端子部220を備える。接続端子部220には、USBハブ400が接続され得る。USBハブ400には、メモリ221が装着され得る。
画像形成装置100と外部端末170とが無線接続している場合には、外部端末170は、画像形成装置100に命令を与える操作部として、タッチパネル110と同様に機能する。
[タッチイベント]
図5を参照して、タッチイベントについて説明する。図5は、本発明の実施の形態に係る画像形成装置100における各種のタッチイベントを表す図である。ある局面において、タッチイベントは、プレス、ムーヴおよびリリースを含む。
(1)「プレス」とは、画像形成装置100のユーザーがタッチパネル110の画面を指510でタッチしたときに生じるイベントである。より具体的には、ユーザーは、タッチパネル110から離れていた指510を矢印520の方向に移動して、タッチパネル110上の領域530あにタッチする。このとき、領域530において、タッチイベントとして「プレス」が発生する。
(2)「ムーヴ」とは、ユーザーがタッチパネル110の画面を指510でタッチした状態で発生するイベントである。すなわち、「ムーヴ」は、タッチパネル110が押されたままの状態である。より具体的には、指510がタッチパネル110の領域540に接触しているとき、タッチイベントとして「ムーヴ」が発生する。
(3)「リリース」とは、ユーザーが画面をタッチしている指を離した時に発生するイベントである。たとえば、タッチパネル110に接していた指510が、矢印方向に示されるように、タッチパネル110から離されると、タッチイベントとして「リリース」が発生する。
なお、本実施の形態においては、上記のタッチイベントが例示されているが、本実施の形態に係る技術思想が適用されるタッチイベントは、上記の例示されたものに限られない。
[ジェスチャー判定]
図6を参照して、画像形成装置100におけるジェスチャー判定について説明する。図6は、本発明の実施の形態に係る画像形成装置100が備えるタッチパネル110における操作を表す図である。
(状態A)
ある局面において、画像形成装置100のユーザーは、タッチパネル110の操作面に対してタッチする。たとえば、領域610が指510によってタッチされる。画像形成装置100は、タッチイベント(プレス)が発生したことを検知する。ユーザーが、矢印の方向に向けてタッチパネル110の操作面上で指510をスライドさせる(ムーヴ)。たとえば、ユーザーは指510を領域610から領域630を経て領域640までスライドし(ムーヴ)、領域640で指510をタッチパネル110から離す(リリース)。このプレスからリリースまでの時間が予め規定された時間よりも長いとき、すなわち、プレス→ムーヴ→リリースという一連の操作が行なわれた時間が予め規定された時間よりも長いとき、ジェスチャー判定部140は、画像形成装置100のジェスチャー(動作)として、ドラッグジェスチャーを特定する。
一方、一連の操作が行なわれた時間が予め規定された時間よりも短いとき、ジェスチャー判定部140は、画像形成装置100のジェスチャーとしてフリックジェスチャーを特定する。
(状態B)
別の局面において、ユーザーが、予め定められた時間、指510をタッチパネル110に押し続けると、ジェスチャー判定部140は、画像形成装置100のジェスチャーとしてロングタップジェスチャーを特定する。別の局面において、ユーザーが、予め定められた時間の間に、タッチ→リリース→タッチ→リリースという一連の操作を行なうと、ジェスチャー判定部140は、画像形成装置100のジェスチャーとしてダブルタップジェスチャーを特定する。
(状態C)
さらに別の局面において、ユーザーが二本の指510,511を用いて、タッチパネル110の領域660,670にタッチし(プレス)、矢印方向に指510,511を移動し(ムーヴ)、その後に指510,511の移動を停止するという操作を行なうと、ジェスチャー判定部140は、その操作を二点タッチジェスチャーの開始状態であることを検出する。ムーヴ状態の指510,511のいずれか一点の座標値に変化があれば、ジェスチャー判定部140は、タッチパネル110の状態が二点タッチジェスチャー中の状態であることを検知する。画面制御部150は、二点タッチジェスチャーが開始された時の座標値と、現在の座標値とに基づいて、拡大あるいは回転を行なう。
[ジェスチャー判定]
図7および図8を参照して、本実施の形態に係る画像形成装置100におけるジェスチャー判定について説明する。図7は、本発明の実施の形態に係るジェスチャー判定部140の構成を表す図である。図8は、タッチイベントを記憶するための処理を表すフローチャートである。
図7に示されるように、ある局面において、ジェスチャー判定部140とタッチパネル110とは、タッチイベント受け付け部120を介して接続されている。ジェスチャー判定部140は、ジェスチャーマネジャー710と、タップレコガナイザー720と、フリックレコガナイザー730と、ピンチレコガナイザー740と、タッチイベント一時格納領域750とを備える。ジェスチャーマネジャー710の出力は、タップレコガナイザー720と、フリックレコガナイザー730と、ピンチレコガナイザー740との少なくともいずれかに入力される。
本実施の形態において、たとえば、フリックジェスチャーは、以下のようにして認識される。タッチパネル110において、画像形成装置100のユーザーは、指510を領域にタッチする(プレス701)。ユーザーは、指510を左方向になぞるような操作を行なう(ムーヴ702,703)。その後、ユーザーは、指510をタッチパネル110から離す(リリース704)。
タッチパネル110からの出力は、タッチイベント受け付け部120に入力される。より詳しくは、タッチパネル110における指510の操作(たとえば、プレス701、ムーヴ702,703、リリース704)を表す信号は、タッチイベント受け付け部120に入力される。当該信号は、タッチパネル110において検出された点の座標値、当該点の移動方向を表す座標値の推移等を含む。タッチイベント受け付け部120は、タッチパネル110と、タッチイベント受け付け部120とのインターフェイスとして機能する。タッチイベント受け付け部120は、タッチパネル110からの出力をジェスチャー判定部140における処理に適合するフォーマットに変換し、変換後の信号をジェスチャー判定部140に送る。
ジェスチャー判定部140において、ジェスチャーマネジャー710は、タッチイベント受け付け部120からの出力信号に基づいて、タッチパネル110におけるタッチイベントの種類を特定する。ジェスチャーマネジャー710は、その特定された種類に応じて、信号を、タップレコガナイザー720とフリックレコガナイザー730とピンチレコガナイザー740とのいずれかに送る。その信号を受け取ったレコガナイザーは、その信号の内容(座標値の推移等)を判断して、所定のジェスチャー(たとえば、フリック)が発生したかどうかを判定する。
一実施の形態において、実行可能なジェスチャーが画像形成装置100に予め登録されている。以下、フリックジェスチャーが受付可能なジェスチャーとして登録されている場合を例示する。この場合、タッチパネル110においてフリック操作が可能な領域(以下「フリック可能領域」ともいう。)に対して、フリック認識機能(フリックレコグナイザー)が規定される。フリックレコグナイザーは、タッチパネル110からの出力信号に基づいてフリック操作を認識する。ある局面において、フリックレコグナイザーは、たとえば、タッチパネル110または画像形成装置100が備えるプロセッサが認識処理を実行することによって実現される。他の局面において、フリック認識機能を実現するための構成が回路素子その他のハードウェアによって実現されてもよい。
ある局面において、フリックレコガナイザー730は、タッチイベント一時格納領域750に、各信号を書き込む。より具体的には、フリックレコガナイザー730は、プレス701に基づくデータを領域751に書き込む。当該データは、タッチパネル110において接触が検出された点の座標値、当該接触が検出された時の時刻等を含み得る。
その後、フリックレコガナイザー730は、ムーヴ702が行なわれた時に検出されたデータを領域752に書き込む。当該データは、ムーヴ702の間に検出された各接触点の座標値を含む。さらに、フリックレコガナイザー730は、ムーヴ703が行なわれた時に検出されたデータを領域753に書き込む。領域753に書き込まれるデータの形式は、領域752に書き込まれるデータの形式と同じである。
フリックレコガナイザー730は、タッチイベント一時格納領域750に格納されたデータを用いて、フリックジェスチャーがタッチパネル110において発生したかどうかを判断する。図7の例では、領域751に格納されるデータを受け取った時点では、フリックレコガナイザー730は、フリックジェスチャーが行なわれたと判断しない。領域751〜754に格納されるデータを全て受け取ると、フリックレコガナイザー730は、タッチパネル110においてフリックジェスチャーが発生したと判断する。フリックレコガナイザー730は、判断の結果をジェスチャーマネジャー710に送る。
本実施の形態において、タップレコガナイザー720とフリックレコガナイザー730とピンチレコガナイザー740とは、画像形成装置100が有する各機能に対応する画面に応じて登録される。たとえば、画像形成装置100のある機能(たとえば、コピー)を実現するための設定画面が、フリックジェスチャーのみを受け付ける場合には、ジェスチャー判定部140には、フリックレコガナイザー730のみが登録される。すなわち、フリックレコガナイザー730の機能のみが有効に(アクティブに)設定される。
別の局面において、画像形成装置100の他の機能(たとえば、スキャン)を実現するための設定画面において、フリックジェスチャーと二点タッチ操作とが有効である場合には、ジェスチャー判定部140には、フリックレコガナイザー730とピンチレコガナイザー740とが登録される。すなわち、フリックレコガナイザー730の機能と、ピンチレコガナイザー740の機能とが有効に設定される。
図8を参照して、ステップS810にて、タッチイベント受け付け部120は、タッチパネル110からの出力信号に基づいて、タッチイベントを受け付ける。
ステップS820にて、ジェスチャーマネジャー710は、タッチイベント受け付け部120からの出力に基づいて、検出されたタッチイベントの種類を特定する。ジェスチャーマネジャー710は、特定された種類に対応するレコガナイザーを介してタッチイベントを格納する。たとえば、ジェスチャーマネジャー710がフリックレコガナイザー730を特定すると、フリックレコガナイザー730は、タッチイベントのデータをタッチイベント一時格納領域750に格納する。
[タッチイベントの記憶]
図9を参照して、タッチイベントの記憶について説明する。図9は、本発明の実施の形態に係る画像形成装置100がタッチイベントを記憶するために備える構成を表す図である。
ある局面において、タッチパネル110は、画像形成装置100のユーザーによるタッチ操作を受け付けて、受け付けたタッチ操作に対応する信号をタッチイベントとして出力する。タッチパネル110から出力されるタッチイベントは、タッチイベント受け付け部120によって受け付けられる。
ある局面において、タッチイベント受け付け部120から出力されるタッチイベントは、タッチイベント記憶部161に格納される。たとえば、タッチイベント記憶部161は、領域910〜930のそれぞれにタッチイベントを格納している。領域910には、第1のタッチイベントを表すデータが格納されている。当該データは、具体的には、タッチ操作の種類(=プレス)と、当該タッチが検出された点の座標値(X:760,Y:450)と、タッチ操作の記憶が開始されてからタッチイベント(=プレス)が検出されるまでの時間(=Time1)とを含む。領域920には、第2のタッチイベントを表すデータが格納されている。当該データは、具体的には、タッチ操作の種類(=リリース)と、当該タッチが検出された点の座標値(X:760,Y:450)と、タッチ操作の記憶が開始されてから当該タッチイベント(=リリース)が検出されるまでの時間(=Time2)とを含む。領域930には、第3のタッチイベントを表すデータが格納されている。当該データは、具体的には、タッチ操作の種類(=プレス)と、当該タッチが検出された点の座標値(X:760,Y:450)と、タッチ操作の記憶が開始されてから当該タッチイベント(=リリース)が検出されるまでの時間(=Time3)とを含む。
タッチイベント受け付け部120から出力されるタッチイベントは、ジェスチャー判定部140に入力される。ジェスチャー判定部140は、図7に示す態様でジェスチャーの種類を特定する。ジェスチャー判定部140によって特定されたジェスチャーを示すデータは、ジェスチャー制御部151に入力される。一方、タッチイベント受け付け部120から出力されたタッチイベントを示すデータは、画面制御部150にも入力される。
ジェスチャー制御部151は、ジェスチャー判定部140による判定の結果と、タッチイベントのデータとに基づいて、ジェスチャーの表示を制御する。
[タッチイベントの再生]
図10を参照して、画像形成装置100におけるタッチイベントの再生について説明する。図10は、本発明の実施の形態に係る画像形成装置100が実行する処理の一部を表すフローチャートである。当該処理は、たとえば、タッチイベントの再生の命令が画像形成装置100に与えられると、MFP本体システム制御部200によって実行される。
ステップS1010にて、MFP本体システム制御部200は、タッチイベント記憶部161に格納されているデータを読み出して、タッチイベントを生成し、画面制御部150に当該タッチイベントを発行する。
ステップS1020にて、MFP本体システム制御部200は、タッチパネル110に対して与えられたタッチイベントを受け付ける。
ステップS1030にて、MFP本体システム制御部200は、画像形成装置100の動作モードに基づいて、ユーザーの操作に対応するジェスチャーを受け付け可能か否かを判断する。MFP本体システム制御部200は、ジェスチャーを受け付け可能であると判断すると(ステップS1030にてYES)、制御をステップS1040に切り替える。そうでない場合には(ステップS1030にてYES)、MFP本体システム制御部200は、制御をステップS1070に切り替える。
ステップS1040にて、MFP本体システム制御部200は、ジェスチャー判定を行ない、タッチ操作に対応する画像形成装置100のジェスチャーを特定する。
ステップS1050にて、MFP本体システム制御部200は、ステップS1020において受け付けられたタッチイベントが画像形成装置100が実行するジェスチャーとして特定されたか否かを判断する。MFP本体システム制御部200は、タッチイベントがジェスチャーとして特定されたと判断すると(ステップS1050にてYES)、制御をステップS1060に切り替える。そうでない場合には(ステップS1050にてNO)、MFP本体システム制御部200は、制御をステップS1070に切り替える。
ステップS1060にて、MFP本体システム制御部200は、ステップS1040において特定されたジェスチャーに基づいて、画像形成装置100におけるジェスチャー制御を実行する。ある局面において、MFP本体システム制御部200は、ジェスチャー制御部151として、タッチパネル110の表示領域に当該ジェスチャーを表示する。当該ジェスチャーは、たとえば、ユーザーが画像形成装置100に対して登録した一連の操作に対応する動作のデモンストレーションである。
ステップS1070にて、MFP本体システム制御部200は、ステップS1020において受け付けられたタッチイベントに基づいて、画面制御を実行する。ある局面において、MFP本体システム制御部200は、画面制御部150として、当該タッチイベントに応じた画面制御を実行する。
[イベントの再生]
図11を参照して、タッチイベントの再生について説明する。図11は、タッチイベントの再生処理を表す図である。
ある局面において、タッチイベントの再生処理は、ユーザーが再生の指示を画像形成装置100に与えることによって実現される。タッチイベントを再生する指示がタッチパネル110に与えられると、その指示は、タッチイベント受け付け部120によって受け付けられてタッチイベント処理部160に送られる。タッチイベント処理部160において、タッチイベント再生部162は、タッチイベント記憶部161から記憶されているタッチイベントに関するデータを読み出す。読み出されるデータの一例は、図9に示されている。
タッチイベント再生部162は、読みだしたデータを用いてタッチイベントを生成する。たとえば、図11に示される例では、プレス→リリース→プレスというタッチイベントが生成され得る。タッチイベント再生部162は、生成したタッチイベントを規定するデータをタッチイベント受け付け部120に送ることにより、タッチイベントをタッチイベント受け付け部120に対して発行する。タッチイベント受け付け部120は、そのデータを画面制御部150に送信する。画面制御部150は、そのデータを用いて、画面遷移、設定の変更その他の画像形成装置100の動作を制御する。
ある局面において、画像形成装置100の画面がジェスチャー操作を受付可能な画面である場合には、ジェスチャー判定部140は、タッチイベント受け付け部120によって受け付けられたタッチイベントを用いて、ジェスチャーを判定する。たとえば、ジェスチャーの判定(ジェスチャーの種類の特定)には、タッチイベント再生部162によって生成されて発行された複数のタッチイベント(領域910〜930)が用いられる。ジェスチャー判定部140は、タッチイベントからジェスチャーを特定すると、その特定の結果をジェスチャー制御部151に送る。ジェスチャー制御部151は、その結果に基づいて、画像形成装置100の動作のデモンストレーションとしてのタッチパネル110におけるジェスチャーの表示制御を実行する。
[タッチ操作の記憶および再生]
図12を参照して、画像形成装置100に対する操作がタッチ操作のみである場合について説明する。図12は、タッチパネル110の画面の推移を表す図である。状態(A)から状態(C)は、画像形成装置100がタッチイベントを記憶する場合に表示される画面の推移を表す。状態(D)〜状態(F)は、画像形成装置100がタッチイベントを再生する場合に表示される画面の推移を表す。
状態(A)に示されるように、ある局面において、タッチパネル110は、コピーのための操作を受け付ける画面を表示している。ユーザーの指510が、ソフトキー1210に触れる(タッチ操作)。このタッチ操作は、タッチイベント(プレス)として、タッチが検出された点の座標値と所定の時間と共にタッチイベント記憶部161に格納される。座標値は、たとえば、タッチパネル110の左上の端点を原点(0,0)と規定することにより計測され得る。
状態(B)に示されるように、ユーザーが指510をソフトキー1210から離すと、その操作は、タッチイベント(リリース)として、タッチが検出された点の座標値と所定の時間とともに、タッチイベント記憶部161に格納される。
状態(C)に示されるように、ユーザーが指510をソフトキー1220にタッチすると、その操作は、タッチイベント(プレス)として、タッチイベント記憶部161に格納される。
状態(D)に示されるように、別の局面において、画像形成装置100は、ユーザー(たとえば、画像形成装置100の説明をする販売員)から、タッチイベントの再生の命令を受け付ける。その命令に応答して、タッチパネル110は、タッチイベント記憶部161の領域910からデータを読み出して、メッセージ1230を表示する。メッセージ1230は、状態(A)に示されるように保存されたタッチイベント(プレス)の作成を示す。このとき、タッチパネル110は、ソフトキー1210においてタッチが行なわれたことを示す印を表示してもよい。この印は、たとえば、状態(D)に示されるように、円形の図形であるが、その他の図形、文字、記号等が表示されてもよい。また、別の局面において、ソフトキー1210の色が変更されてもよい。また、さらに別の局面において、ソフトキー1210が点滅してもよい。
状態(E)に示されるように、その後、タッチパネル110は、タッチイベント(リリース)を再生する。具体的には、タッチパネル110は、領域920のデータに基づいて、メッセージ1240を表示する。このとき、状態(D)の場合と同様に、タッチパネル110は、ソフトキー1210においてタッチが行なわれたことを示す印を表示してもよい。この印は、たとえば、状態(E)に示されるように、円形の図形であるが、その他の図形、文字、記号等が表示されてもよい。また、別の局面において、ソフトキー1210の色が変更されてもよい。また、さらに別の局面において、ソフトキー1210が点滅してもよい。
状態(F)に示されるように、タッチパネル110は、タッチイベント(プレス)を再生する。具体的には、タッチパネル110は、領域930のデータに基づいて、メッセージ1250を表示する。このとき、状態(D)の場合と同様に、タッチパネル110は、ソフトキー1220においてタッチが行なわれたことを示す印を表示してもよい。この表示は、たとえば、状態(F)に示されるように、円形の図形であるが、その他の図形、文字、記号等が表示されてもよい。また、別の局面において、ソフトキー1220の色が変更されてもよい。また、さらに別の局面において、ソフトキー1220が点滅してもよい。
[フリック操作の記憶]
図13を参照して、フリック操作の記憶および再生について説明する。図13は、本発明の実施の形態に係る画像形成装置100がフリック操作を記憶する場合におけるタッチパネル110の画面の推移を表す図である。
状態(A)から状態(C)は、ユーザーの操作に応答して画像形成装置100がフリック操作のタッチイベントを記憶する場合におけるタッチパネル110の画面の推移を表す。状態(D)から状態(F)は、ジェスチャー判定部140によるジェスチャーの判定結果とタッチイベント記憶部161へのデータ格納の状態を表す。
状態(A)に示されるように、ある局面において、ユーザーは、メニュー操作を行なって、画像形成装置100の動作モードをタッチ操作の記憶モードに切り替える。ユーザーは、指510を用いてソフトキー1310にタッチする(プレス)。
状態(B)に示されるように、ユーザーは、指510を画面に押し付けたまま、右手を左方向に移動させる。このとき、たとえば、5つのタッチイベントが認識される。これらのイベントを示すデータは、タッチイベント記憶部161の領域1331〜1335に格納される。
状態(C)に示されるように、ユーザーが、指510をタッチパネル110から離すと、その操作は、タッチイベント(リリース)として認識され、タッチイベント記憶部161の領域1336に格納される。
その後、ジェスチャー判定部140は、タッチパネル110からの出力に基づいて、タッチイベントの内容を判断し、対応するデータをタッチイベント記憶部161に格納する。
より具体的には、状態(D)に示されるように、ジェスチャー判定部140は、タッチパネル110からの出力に基づいて、フリック操作が行なわれたことを検知する。ジェスチャー判定部140は、画像形成装置100が実行するジェスチャーとして、フリック操作に対応するジェスチャーを特定する。ジェスチャーが特定されると、当該ジェスチャーを表すアニメーションが作成される。状態(A)の画面に示される操作に対応するデータは、タッチイベント(プレス)として、当該操作が検出された点の座標値と、所定の時間とともに、領域1330に格納される。
さらに、状態(E)に示されるように、ジェスチャー判定部140は、タッチパネル110において、画面を左方向に移す旨の矢印1340を表示しつつ、画面を左にスクロールすることを認識する。このとき、状態(B)の画面に示される操作に対応するデータは、タッチイベント(ムーヴ)として、当該操作が検出された点の座標値と、所定の時間とともに、領域1331〜1335に格納される。
タッチイベント記憶部161に格納されているデータ量だけ画面がスクロールすると、状態(F)に示されるように、フリックジェスチャーのアニメーションが停止することになる。
[操作イベント再生時]
図14を参照して、操作イベントの再生について説明する。図14は、本発明の実施の形態に係る画像形成装置100のタッチパネル110が操作イベントを再生する場合の画面の推移を表す図である。
ある局面において、画像形成装置100は、図13に示されるような処理に応答して、タッチイベント記憶部161にデータを格納している。画像形成装置100は、ユーザーから、タッチ操作に対応するジェスチャーを示すアニメーションの再生の指示を受けると、タッチイベント記憶部161に格納されているデータを参照して、当該アニメーションの再生を開始する。
より詳しくは、画面(A)に示されるように、タッチパネル110は、ソフトキー1410において、タッチ操作が行なわれたことを表す印1420を表示する。印1420は、ユーザーの指の先端に相当する。この表示の態様は、円形の印に限られず、その他の形状や記号が用いられてもよい。また、印1420は点滅してもよい。また、他の局面において、印1420の色は、タッチパネル110の他の領域の色とは異なってもよい。タッチパネル110は、さらに、タッチイベントが発行されたことを示すメッセージ1430を表示する。
その後、画面(B)に示されるように、タッチパネル110は、タッチイベントとしてムーヴに相当する画面の推移を表示する。たとえば、タッチパネル110は、画面(A)に表示された印1420が移動していることを表すために、印1421,1422,1423,1424を順次表示する。これにより、タッチパネル110を見ている人(たとえば、デモ画面を見ている潜在顧客)は、画面を右から左に送るための操作が行なわれたことを容易に認識できる。さらに、他の局面において、タッチパネル110は、タッチイベント(ムーヴ)が発行されたことを示すメッセージ1440を表示してもよい。
画面(C)は、フリック操作の最後にユーザーの指がタッチパネル110から離れた状態を示す画面である。タッチパネル110は、画面から指が離れたことを示す印1425を表示する。これにより、タッチパネル110を見ている人(たとえば、デモ画面を見ている潜在顧客)は、フリック操作が終了したことを容易に認識できる。さらに、他の局面において、タッチパネル110は、タッチイベント(リリース)が発行されたことを示すメッセージ1450を表示してもよい。
[ピンチ操作]
図15を参照して、ピンチ操作の記憶と再生について説明する。図15は、本発明の実施の形態に係る画像形成装置100のタッチパネル110におけるピンチ操作と当該ピンチ操作に基づくジェスチャーとを表す図である。
画面(A)を参照して、ある局面において、タッチパネル110の動作モードがピンチ操作を受け付けるモードである場合、ユーザーは、ピンチ操作を行なうために、親指と人差し指とをタッチパネル110に押し当てて、親指と人差し指との間隔を広げるような操作を行なう。タッチパネル110は、そのような操作に応じた信号をタッチイベント受け付け部120に出力する。タッチイベント受け付け部120は、信号の形式をジェスチャー判定部140による処理に応じた形式に変更した後、変更後の信号をジェスチャー判定部140に出力する。
ジェスチャー判定部140は、その信号に基づいて、タッチパネル110に対する操作がピンチ操作であることを検知する。ジェスチャー判定部140において、ピンチレコガナイザー740は、タッチ操作(ピンチ)を表すデータを生成し、そのデータをタッチイベント記憶部161に格納する。当該データは、たとえば、領域1510〜1515に格納されている。
より詳しくは、領域1510には、親指がタッチされたことを示すデータが格納される。領域1511には、人差し指がタッチされたことを示すデータが格納される。領域1512には、親指がタッチパネル110に押し続けられた状態を示すデータが格納される。領域1513には、人差し指がタッチパネル110に押し続けられた状態を示すデータが格納される。領域1514には、親指のムーヴ操作を示すデータが格納される。領域1515には、人差し指のムーヴ操作を示すデータが格納される。
このようにして、画像形成装置100は、ピンチ操作の入力を受け付けた後、ピンチ操作の再生の指示、すなわち、ジェスチャー再生の命令を受け付けることが可能になる。そのような命令が画像形成装置100に与えられると、タッチパネル110は、ジェスチャーの表示を開始する。
より具体的には、画面(C)に示されるように、タッチパネル110は、画像を表示する。この画像は、たとえば、画面(A)においてピンチ操作を入力する際に用いられた画像であるが、このような画像に限られず、他の画像が用いられてもよい。他の局面において、画像形成装置100の記憶装置(たとえば、RAM203、USBメモリ221、ハードディスク340など)に格納されている他の画像データに基づいて、当該他の画像がタッチパネル110に表示されてもよい。
タッチパネル110がピンチ操作に対応する動作を実行すると、画面(D)に示されるように、拡大された画像が表示される。
[タッチイベントのインポートまたはエクスポート]
図16を参照して、タッチイベントのインポートとエクスポートとについて説明する。図16は、本発明の実施の形態に係る画像形成装置100におけるタッチイベントのインポートとエクスポートとを表わす図である。ある局面において、画像形成装置100において生成されたタッチイベントは、同様の機能を備える他の画像形成装置その他の情報処理装置においても用いられ得る。
図16において、画面(A)は、画像形成装置100にタッチイベントを記憶させる操作が行なわれる画面を表わす図である。ある局面において、画像形成装置100の動作モードがタッチイベントを記憶するモードであるとき、ユーザーは、ソフトキー1611をタッチすることにより、当該タッチ操作に応じたタッチイベント(プレス)を画像形成装置100に記憶させることができる。このとき、タッチイベント記憶部161は、タッチ操作を表すデータを格納する。
より具体的には、領域1620は、タッチイベント(プレス)が座標値(760,450)において、あるタイミング(Time1)で行なわれたことを格納している。なお、当該タイミングは、たとえば、記憶するモードが起動してから経過した時間であるが、時間の起算点は記憶するモードが起動したときに限られない。画像形成装置100が時計を内蔵している場合には、その時計によって計測された時刻がタイミングとして用いられてもよい。
なお、他の局面において、タッチパネル110は、タッチイベントが行われたことを表すメッセージ1610を表示してもよい。ユーザーは、どのようなタッチイベントが画像形成装置100によって認識されているかを確認することができるので、誤ったタッチ操作が認識されることを防止できる。
その他の操作が行なわれた場合にも、タッチイベント記憶部161は、当該操作に対応するデータを格納する。たとえば、領域1621には、タッチイベント(リリース)が行なわれたこと、当該タッチイベントが行われた点の座標値、当該タッチイベントが行われたタイミングが格納されている。領域1622には、タッチイベント(プレス)について同様のデータが保持されている。
ある局面に従う画像形成装置100は、タッチイベント記憶部161に格納されたデータを着脱可能な外部の記憶装置にエクスポートすることができる。画像形成装置100は、データをエクスポートするとき、タッチイベント記憶部161その他のメモリ領域に格納されているデータを任意のファイル形式(たとえば、csvファイル)に変換した後、変換後のファイルをUSBメモリ221に保存する。
図16の例では、画像形成装置100は、領域1620〜1622に保存されているデータを、USBメモリ221にエクスポートできる。USBメモリ221は、そのような画像形成装置100に接続されると、タッチイベント保存フォルダ1630を生成する。タッチイベント保存フォルダ1630は、領域1620〜1622に格納されているデータに相当するデータをタッチイベント保存ファイル1631に保存する。その後、USBメモリ221は、他の情報処理装置に接続される。
画面(B)は、画像形成装置100と同様の機能を有する他の情報処理装置が備えるタッチパネル1640の画面である。すなわち、当該他の情報処理装置の動作モードがタッチイベントを再生するモードであるとき、USBメモリ221が当該他の情報処理装置に装着されると、タッチイベント保存ファイル1631がUSBメモリ221から他の情報処理装置のタッチイベント記憶部161に読み出される。読み出されたデータの形式がcsvその他の任意の形式である場合には、当該他の情報処理装置は、そのデータの形式を認識可能なデータの形式に変換する。
タッチパネル1640は、タッチイベント保存ファイル1631に含まれるデータ(たとえば、領域1620に格納されているデータに基づいて、タッチイベント(プレス)が行なわれたことを表す印1650を表示する。このようにして、画像形成装置100において発行されたタッチイベントを他の情報処理装置にインポートすることができ、また、当該他の情報処理装置は、画像形成装置100から、当該タッチイベントをインポートすることができる。画像形成装置100と同様の機能、すなわち、タッチイベントの再生機能を備える他の情報処理装置は、そのインポートされたデータに基づいて、画像形成装置100において登録されたタッチイベントを再生することができる。したがって、たとえば、ある拠点で画像形成装置100に設定されたタッチイベントの内容を、その拠点から離れた他の拠点にある他の情報処理装置でも再現できる。
[ジェスチャーへの情報の付加]
図17を参照して、タッチイベントへの情報の付加について説明する。図17は、画像形成装置100が備えるタッチパネル110に表示されるジェスチャーに情報が付加される局面を表す図である。
画面(A)に示されるように、タッチパネル110は、ユーザーの指510によるソフトキー1710に対するタッチ操作を受け付ける。タッチイベント記憶部161は、当該タッチ操作を表すデータをタッチイベント(プレス)として保存する。
画面(B)に示されるように、その後、画像形成装置100あるいは同様の機能を備える他の情報処理装置においてタッチイベントが再生されると、タッチパネル110は、ユーザーの指によるタッチ操作が行なわれたことを表す印1720を表示する。このとき、印1720は、タッチパネル110の画面で用いられている色とは異なる。これにより、タッチパネル110の画面を見ているユーザーは、印1720を容易に認識できるので、ジェスチャーの内容を容易に理解することができる。なお、タッチイベントに付加される情報としては、色に限られない。たとえば、印1720は点滅してもよい。この場合、タッチイベントには印1720を点滅させるという動作情報が命令として付加されることになる。このようにしても、ユーザーは、タッチパネル110に対するジェスチャーの内容を容易に理解することができる。
なお、上述のような情報が印1720に付加されるタイミングは、タッチイベントが登録される時、タッチイベントが再生される時のいずれであってもよい。タッチイベントが登録される時に当該情報が付加される場合には、タッチイベント記憶部161は、当該タッチイベントに関連付けられた当該情報を保持する。タッチイベントが再生される時に当該情報が付加される場合には、画像形成装置100は、タッチイベントの再生モードの設定項目の一つとして、そのような情報をタッチイベントに付加するための設定(付加する/付加しない)を受け付ける構成が用いられ得る。
[軌跡情報の付加]
図18を参照して、タッチイベントに対する情報の付加についてさらに説明する。図18は、画像形成装置100がフリックジェスチャーを再生する場合に軌跡が付加されることを表す図である。
ある局面において、タッチイベント記憶部161は、領域1801,1802等に、タッチイベントを表す情報を保持している。画像形成装置100がフリックジェスチャーの再生の指示の入力を受け付けると、画面(A)に示されるように、タッチパネル110は、ソフトキー1810にタッチ操作が行なわれたことを示す印1820を表示する。他の局面において、より詳細な説明のために、タッチイベントが生成されて発行されたことを示すメッセージ1821が表示されてもよい。
画面(B)に示されるように、タッチパネル110は、ソフトキー1810および印1820が左にスクロールされたことを示す画像を表示する。この時点で、画像形成装置100のユーザーは、タッチイベントが画像形成装置100に登録されたことを認識することができる。画像形成装置100がタッチイベントの再生モードになると、ジェスチャー判定部140は、タッチイベント記憶部161の領域1801,1802に基づいて、実行されるべきジェスチャーとしてフリックジェスチャーを認識する。
その後、画面(C)および画面(D)に示されるように、タッチパネル110は、登録されたフリックジェスチャーを再生表示する。このとき、タッチパネル110は、印1831,1832,1833,1834を表示する。各印の大きさは、印1831→印1832→印1833→印1834の順である。これにより、ユーザーは、フリックジェスチャーが行なわれたこと、および、その内容を把握し易くなる。
なお、他の局面において、画像形成装置100は、印1831〜印1834を結ぶような線をタッチパネル110に表示してもよい。また、さらに他の局面において、画像形成装置100は、ジェスチャー発生時に実行されるアニメーションが終了するまで、ジェスチャー操作に対応する軌跡を繰り返し表示してもよい。ユーザーは、タッチイベントの軌跡を認識できる。
[ピンチジェスチャーに対する情報の付加]
さらに別の局面において、画像形成装置100は、ピンチジェスチャーに対して情報を付加してもよい。そこで、図19を参照して、ピンチジェスチャーに対する情報の付加について説明する。図19は、タッチパネル110にピンチジェスチャーの軌跡および方向が表示されている態様を表す図である。ある局面において、タッチイベント記憶部161は、ピンチジェスチャーを表すデータを領域1901,1902に格納している。
画面(A)に示されるように、タッチパネル110は、ユーザーの指がタッチされたことを表す印1910,1920を表示する。その後、ユーザーは、ピンチアウト操作を行なう。ジェスチャー判定部140は、ピンチジェスチャーが行なわれたことを検知する。
その後、画面(B)に示されるように、タッチパネル110は、タッチイベント記憶部161に格納されているデータに基づいてピンチジェスチャーと、当該ピンチジェスチャーの軌跡および方向とを表示する。より具体的には、タッチパネル110は、ピンチジェスチャーが行なわれたことを示す複数の印、すなわち、印1910,1911,1912と、印1920,1921,1922とを表示する。さらに、タッチパネル110は、外向きの矢印1930,1940を表示する。このような表示により、ユーザーは、ピンチジェスチャーが行なわれたことを容易に理解できる。
なお、各印の表示態様は上述のものに限られず、他の局面において、各印には色が付されてもよく、さらには、常時表示に代えて点滅表示が行なわれてもよい。
[ピンチジェスチャー(回転)に対する情報の付加]
さらに他の局面において、画像形成装置100は、タッチパネル110に表示される画像が回転される場合に情報を画像に付加してもよい。そこで、図20を参照して、ピンチジェスチャーとして回転が行なわれる場合における情報の付加について説明する。図20は、タッチパネル110に対して画像を回転させる操作が行なわれた場合に情報が付加される一態様を表す図である。
ある局面において、タッチイベント記憶部161は、画像形成装置100のユーザーによって登録されたタッチイベントを表すデータを領域2001,2002に格納している。その後、タッチイベントを再生するモードが起動すると、タッチパネル110は、タッチイベントを再生する画面を表示する。
より具体的には、画面(A)に示されるように、タッチパネル110は、画面上でピンチジェスチャー(回転)が行なわれた場合においてタッチパネル110から指がリリースされた点を表す二つの印2014,2024を表示する。ジェスチャー判定部140は、タッチイベント記憶部161に格納されているデータに基づいて、ピンチジェスチャー(回転)が行なわれたことを認識する。
その後、画面(B)に示されるように、タッチパネル110は、画面(A)に示される画像が回転された後の画像を表示する。さらに、タッチパネル110は、ピンチジェスチャー(回転)が行なわれたことを示す印として、印2014,2024に加えて、印2011,2012,2013と、印2021,2022,2023とを表示する。さらに、タッチパネル110は、円弧状の矢印2010,2020を表示する。これにより、画面(B)を見たユーザーは、画像を回転させるためのタッチ操作が行なわれたことを容易に認識することができる。
なお、各印の表示態様は上述のものに限られず、他の局面において、各印には色が付されてもよく、さらには、常時表示に代えて点滅表示が行なわれてもよい。
[情報が付加される領域の大きさの変更]
図16を参照して説明した通り、本発明の実施の形態に係る画像形成装置100は、ある局面において、タッチイベントを表すデータをエクスポートすることができ、他の情報処理装置が当該データをインポートすることができる。この場合、画像形成装置100のタッチパネル110の大きさと、当該他の情報処理装置のタッチパネルの大きさとが異なる場合がある。
そこで、図21を参照して、タッチイベントの登録時と再生時とにおいてタッチパネルの表示領域の大きさが異なる場合について説明する。図21は、タッチイベントが登録された画像形成装置100のタッチパネル110の大きさと、当該タッチイベントを再生する情報処理装置のタッチパネルの大きさとが異なる場合における画像の表示態様を表す図である。
図21(A)は、画像形成装置100が備えるタッチパネル110にソフトキー2120と、タッチイベントを表す印2130とが表示されている状態を表す。図21(B)は、他の情報処理装置が備えるタッチパネル2140にソフトキー2150と、タッチイベントを表す印2160とが表示されている状態を表す。
図21(A)と図21(B)とに示されるように、タッチパネル110の大きさと、タッチパネル2140の大きさとは異なる場合がある。このような場合、タッチパネル2140を備える情報処理装置は、通常は、タッチパネル110の大きさとタッチパネル2140の大きさとの比率に応じて、ソフトキー2150と印2160とをタッチパネル2140に表示する。したがって、タッチパネル2140がタッチパネル110よりも小さい場合には、タッチパネル2140に表示されるソフトキー2150および印2150は、タッチパネル110に表示されるソフトキー2120および印2130よりも小さくなる。
しかしながら、図21(C)に示されるように、ある局面において、他の情報処理装置は、タッチイベントが行われたことを示す印として、印2160よりも大きな印2170を表示してもよい。この場合、ソフトキー2150と印2170との比率は、ソフトキー2120と印2130との比率と異なることになるが、印2170が小さく表示されなくなるため、ユーザーは、印2170を容易に識別することができるので、タッチイベントが行われたことを把握し易くなる。
[制御構造]
図22および図23を参照して、画像形成装置100の制御構造について説明する。図22は、画像形成装置100が実行する処理の一部を表すフローチャートである。
ステップS2210にて、MFP本体システム制御部200は、RAM203その他の記憶装置に格納されているタッチイベントの内容を取り出して、タッチイベントを生成して発行する。
ステップS2220にて、MFP本体システム制御部200は、タッチイベントの入力を受け付ける。
ステップS2230にて、MFP本体システム制御部200は、タッチイベントに情報を付加する。情報は、タッチイベントを示す印の表示態様を変更するために用いられる。当該情報がタッチイベントに付加されると、当該印の色は、タッチパネル110の画面の他の色と異なる色に変更される。別の局面では、ジェスチャーを示す軌跡が当該印と共にタッチパネル110に表示される。
ステップS2240にて、MFP本体システム制御部200は、LCDパネル部206またはハードキー操作部208に対して与えられた操作に基づいて、ジェスチャーを受け付け可能か否かを判断する。この判断は、たとえば、当該操作に応じてLCDパネル部206またはハードキー操作部208から出力される信号の内容に基づいて行なわれる。
一例として、ユーザーがLCDパネル部206に対してタッチ操作を行なった場合、その時の画像形成装置100の動作モードがジェスチャー操作を受け付けるモードである場合、MFP本体システム制御部200は、ジェスチャー操作を受け付けることが可能であると判断する。画像形成装置100の動作モードがジェスチャー操作を受け付けないモードである場合、たとえば、コピー枚数の入力を受け付ける画面が表示されている場合、MFP本体システム制御部200は、ジェスチャーを受け付けることができないと判断する。
別の例として、ユーザーがハードキー操作部208に対して操作を行なった場合、ハードキー操作部208から出力される信号は、操作がハードキー操作部208に対して行なわれたことを表す情報を含む。したがって、この場合、MFP本体システム制御部200は、ジェスチャーを受け付けることができないと判断する。
MFP本体システム制御部200は、ジェスチャーを受け付けることが可能と判断すると(ステップS2240にてYES)、制御をステップS2250に切り替える。そうでない場合には(ステップS2240にてNO)、MFP本体システム制御部200は、制御をステップS2290に切り替える。
ステップS2250にて、MFP本体システム制御部200は、パネルCPU201から出力される信号に基づいて、タッチパネル110に対して与えられた操作がジェスチャー操作であるか否かを判断し、さらに、当該操作ジェスチャー操作である場合にはジェスチャーの種類を判断する。
ステップS2260にて、MFP本体システム制御部200は、当該操作がジェスチャーであると判定すると(ステップS2260にてYES)、制御をステップS2270に切り替える。そうでない場合には(ステップS2260にてNO)、MFP本体システム制御部200は、制御をステップS2290に切り替える。
ステップS2270にて、MFP本体システム制御部200は、MFP本体システム制御部200は、LCD制御部204を介して、LCDパネル部206に、ジェスチャー判定用のタッチイベントに情報を付加して、ジェスチャーの軌跡を表示させる。
ステップS2280にて、MFP本体システム制御部200は、LCD制御部204を介して、ジェスチャー制御を実行する。LCDパネル部206は、画像形成装置100に登録されているタッチイベントに基づくジェスチャーの再生表示を実行する。
ステップS2290にて、MFP本体システム制御部200は、LCD制御部204を介して、通常の画面制御を実行する。LCDパネル部206は、画像形成装置100の動作モードに応じて、ユーザーの操作に応じた設定の入力を受け付け、あるいは、当該操作に基づいて画面を他の画面に切り替える。
図23を参照して、画像形成装置100の他の局面における制御構造について説明する。図23は、画像形成装置100がアニメーションを実行している場合におけるジェスチャーの表示処理を表すフローチャートである。
ステップS2310にて、MFP本体システム制御部200は、画像形成装置100がジェスチャー操作を表わすアニメーションを実行中であるか否かを判断する。この判断は、たとえば、画像形成装置100の動作モードを表すデータに基づいて行なわれる。MFP本体システム制御部200は、画像形成装置100がアニメーションを実行中であると判断すると(ステップS2310にてYES)、制御をステップS2320に切り替える。そうでない場合には(ステップS2310にてNO)、MFP本体システム制御部200は、制御をステップS2330に切り替える。
ステップS2320にて、MFP本体システム制御部200は、ジェスチャー操作の軌跡の反復表示を実行する。これにより、画像形成装置100のユーザーは、LCDパネル部206において、ジェスチャー操作を示す軌跡を確実に視認できる。
ステップS2330にて、MFP本体システム制御部200は、ジェスチャー操作の軌跡の表示を停止する。
<まとめ>
以上のようにして、本発明の実施の形態に係る画像形成装置100は、タッチパネル110に対する操作を受け付けて、当該操作に基づく動作を画像形成装置100のジェスチャーとして表示する。このとき、画像形成装置100は、当該ジェスチャーに付加的な情報を表示する。これにより、画像形成装置100のタッチパネル110を用いた操作内容が把握し易くなる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
100 画像形成装置、110,1640,2140 タッチパネル、120 タッチイベント受け付け部、130 タッチ情報付加部、140 ジェスチャー判定部、150 画面制御部、151 ジェスチャー制御部、160 タッチイベント処理部、161 タッチイベント記憶部、162 タッチイベント再生部、170 外部端末、200 本体システム制御部、201 CPU、202 ROM、203 RAM、204 制御部、205 VRAM、206 LCDパネル部、208 ハードキー操作部、211 入出力制御部、220 接続端子部、221 メモリ、330 給紙トレイ、340 ハードディスク、350 プリンタ、360 後処理装置、400 USBハブ、750 タッチイベント一時格納領域。

Claims (12)

  1. 情報処理装置であって、
    前記情報処理装置に対するタッチ操作を受け付ける画面を表示するための表示手段と、
    前記タッチ操作を受け付けるためのタッチ操作手段と、
    前記タッチ操作手段に対する1つ以上のタッチ操作にそれぞれ対応する1つ以上のタッチイベントを発行するためのタッチイベント発行手段と、
    前記タッチイベント発行手段によって発行される前記1つ以上のタッチイベントに基づき対応する処理を行なうモードと、予め記憶された前記タッチイベントを再生する再生モードとをそれぞれ実行可能なジェスチャー制御手段とを備え、
    前記ジェスチャー制御手段は、前記再生モードにおいて前記タッチイベントに関連付けられる領域に、前記記憶されたタッチイベントに対応するタッチ操作を示す操作画像を付加し、前記表示手段に表示させる、情報処理装置。
  2. 前記タッチ操作手段は、一連のタッチ操作を受け付け、
    前記情報処理装置は、前記一連のタッチ操作が、前記情報処理装置の機能を実現するための操作に該当するか否かを判断するための判断手段をさらに備え、
    前記一連のタッチ操作が、前記情報処理装置の機能を実現するための操作に該当する場合に、前記ジェスチャー制御手段は、前記1つ以上のタッチイベントと前記情報とを前記表示手段に表示させる、請求項1に記載の情報処理装置。
  3. 前記情報処理装置の外部装置からデータを取得するための取得手段をさらに備え、
    前記タッチイベント発行手段は、前記外部装置から取得されたデータに基づいて、前記1つ以上のタッチイベントを発行する、請求項1または2に記載の情報処理装置。
  4. 前記外部装置は、タッチパネルを備える情報通信端末を含み、
    前記情報処理装置は、前記情報通信端末におけるサンプリング数を前記情報処理装置におけるサンプリング数に補正するための補正手段をさらに備える、請求項3に記載の情報処理装置。
  5. 前記タッチイベント発行手段は、予め規定されたタイミングから前記1つ以上のタッチ操作のそれぞれが行なわれたタイミングまで経過した時間と、当該タッチ操作とを関連付けて記憶するための記憶手段を含み、
    前記情報処理装置は、前記1つ以上のタッチ操作のそれぞれについて、前記時間と当該タッチ操作とに基づいて、前記1つ以上のタッチ操作に対応する動作を前記情報処理装置に実行させるための再生手段をさらに含む、請求項1〜4のいずれか一項に記載の情報処理装置。
  6. 前記ジェスチャー制御手段は、前記1つ以上のタッチ操作または前記情報の表示を繰り返すように構成されている、請求項1〜5のいずれか一項に記載の情報処理装置。
  7. 前記情報は、前記情報処理装置と他の情報処理装置との間で移送可能であり、
    前記情報が表示される領域は、当該情報を表示する情報処理装置が備える表示手段の表示領域の大きさに応じて変更されるように構成されている、請求項1〜6のいずれか一項に記載の情報処理装置。
  8. 前記情報処理装置に対するタッチ操作は、フリック操作を含み、
    前記フリック操作が行なわれた場合に、前記表示手段は、前記フリック操作の軌跡を表示するように構成されている、請求項1〜7のいずれか一項に記載の情報処理装置。
  9. 前記情報処理装置に対するタッチ操作は、二点タッチ操作を含み、
    前記表示手段は、前記二点タッチ操作が行なわれた点の座標値の変化に応じて、当該変化を示す方向を表示する、請求項1〜8のいずれか一項に記載の情報処理装置。
  10. 前記ジェスチャー制御手段は、前記再生モードにおいて前記タッチイベントによる前記処理の結果を示す画像とともに前記操作画像を前記表示手段に表示させる、請求項1〜9のいずれか一項に記載の情報処理装置。
  11. 情報処理装置を制御するための方法であって、
    前記情報処理装置に対するタッチ操作を受け付ける画面を表示するステップと、
    前記タッチ操作を受け付けるステップと、
    前記1つ以上のタッチ操作にそれぞれ対応する1つ以上のタッチイベントを発行するステップと、
    前記発行された1つ以上のタッチイベントに基づき対応する処理を行なうモードと、予め記憶された前記タッチイベントを再生する再生モードとをそれぞれ実行するステップとを備え、
    前記実行するステップは、前記再生モードにおいて前記タッチイベントに関連付けられる領域に、前記記憶されたタッチイベントに対応するタッチ操作を示す操作画像を付加して表示するステップを含む、情報処理装置を制御するための方法。
  12. 情報処理装置を制御するための方法をコンピュータに実行させるためのプログラムであって、前記プログラムは、前記コンピュータに、
    前記情報処理装置に対するタッチ操作を受け付ける画面を表示するステップと、
    前記タッチ操作を受け付けるステップと、
    前記1つ以上のタッチ操作にそれぞれ対応する1つ以上のタッチイベントを発行するステップと、
    前記発行された1つ以上のタッチイベントに基づき対応する処理を行なうモードと、予め記憶された前記タッチイベントを再生する再生モードとをそれぞれ実行するステップとを実行させ、
    前記実行するステップは、前記再生モードにおいて前記タッチイベントに関連付けられる領域に、前記記憶されたタッチイベントに対応するタッチ操作を示す操作画像を付加して表示するステップを含む、プログラム。
JP2013247582A 2013-11-29 2013-11-29 情報処理装置、情報処理装置を制御するための方法、および、当該方法をコンピュータに実行させるためのプログラム Active JP6015637B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013247582A JP6015637B2 (ja) 2013-11-29 2013-11-29 情報処理装置、情報処理装置を制御するための方法、および、当該方法をコンピュータに実行させるためのプログラム
US14/551,682 US9124740B2 (en) 2013-11-29 2014-11-24 Reproduction of touch operation in information processing apparatus
EP14194913.1A EP2881852B1 (en) 2013-11-29 2014-11-26 Reproduction of touch operation in information processing apparatus
CN201410705324.5A CN104679424B (zh) 2013-11-29 2014-11-28 信息处理装置中的触摸操作的再现

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013247582A JP6015637B2 (ja) 2013-11-29 2013-11-29 情報処理装置、情報処理装置を制御するための方法、および、当該方法をコンピュータに実行させるためのプログラム

Publications (2)

Publication Number Publication Date
JP2015106256A true JP2015106256A (ja) 2015-06-08
JP6015637B2 JP6015637B2 (ja) 2016-10-26

Family

ID=51999274

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013247582A Active JP6015637B2 (ja) 2013-11-29 2013-11-29 情報処理装置、情報処理装置を制御するための方法、および、当該方法をコンピュータに実行させるためのプログラム

Country Status (4)

Country Link
US (1) US9124740B2 (ja)
EP (1) EP2881852B1 (ja)
JP (1) JP6015637B2 (ja)
CN (1) CN104679424B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017027150A (ja) * 2015-07-16 2017-02-02 富士ゼロックス株式会社 情報処理装置及びプログラム
CN113986106A (zh) * 2021-10-15 2022-01-28 深圳集智数字科技有限公司 触摸屏的双手操作方法、装置、电子设备及存储介质

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6043334B2 (ja) * 2014-12-22 2016-12-14 京セラドキュメントソリューションズ株式会社 表示装置、画像形成装置、及び、表示方法
CN106339298A (zh) * 2015-07-10 2017-01-18 富泰华工业(深圳)有限公司 系统信息的显示方法、系统与电子装置
JP6693073B2 (ja) * 2015-09-14 2020-05-13 セイコーエプソン株式会社 機器による装置の取扱説明方法、機器およびプログラム
KR102123715B1 (ko) * 2016-08-16 2020-06-16 주식회사 엘지화학 고체 산화물 연료전지
CN106527933B (zh) * 2016-10-31 2020-09-01 努比亚技术有限公司 移动终端边缘手势的控制方法及装置
CN108073345A (zh) * 2016-11-10 2018-05-25 北京国双科技有限公司 一种手势检测的方法及相关设备
TW201907285A (zh) * 2017-04-28 2019-02-16 日商松下知識產權經營股份有限公司 顯示裝置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000155648A (ja) * 1998-11-20 2000-06-06 Hitachi Software Eng Co Ltd 小型携帯端末装置
JP2010117763A (ja) * 2008-11-11 2010-05-27 Kyocera Mita Corp 電子機器
US20110273380A1 (en) * 2010-05-07 2011-11-10 Research In Motion Limited Portable electronic device and method of controlling same
WO2012169157A1 (ja) * 2011-06-07 2012-12-13 パナソニック株式会社 被サポート装置、サポート装置、機器間ガイドシステム、記録媒体、及び集積回路
JP5331935B1 (ja) * 2012-12-22 2013-10-30 淳也 榎本 無線による画面表示制御方法及びシステム
JP2013232047A (ja) * 2012-04-27 2013-11-14 Konica Minolta Inc 画像処理装置、その制御方法、および、その制御プログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000235549A (ja) 1999-02-17 2000-08-29 Nippon Telegr & Teleph Corp <Ntt> 操作履歴の時系列記録による同期再生方法および操作抽出端末と操作再生端末の操作履歴同期再生プログラムを記録した記録媒体
US7886236B2 (en) 2003-03-28 2011-02-08 Microsoft Corporation Dynamic feedback for gestures
JP2007001237A (ja) * 2005-06-27 2007-01-11 Konica Minolta Business Technologies Inc 機器、機器システム、画像形成装置、機器の制御方法及びプログラム
JP2008040560A (ja) 2006-08-01 2008-02-21 Sharp Corp 履歴情報の表示装置および方法
US9311528B2 (en) 2007-01-03 2016-04-12 Apple Inc. Gesture learning
US7770136B2 (en) 2007-01-24 2010-08-03 Microsoft Corporation Gesture recognition interactive feedback
JP5764982B2 (ja) * 2011-03-08 2015-08-19 ソニー株式会社 再生処理装置、撮像装置、再生処理方法、及びプログラム
US9582123B2 (en) * 2012-11-26 2017-02-28 Qualcomm Incorporated Dual-mode capacitance sensing in a touch panel sensor
WO2014192126A1 (ja) * 2013-05-30 2014-12-04 株式会社 東芝 電子機器および手書き入力方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000155648A (ja) * 1998-11-20 2000-06-06 Hitachi Software Eng Co Ltd 小型携帯端末装置
JP2010117763A (ja) * 2008-11-11 2010-05-27 Kyocera Mita Corp 電子機器
US20110273380A1 (en) * 2010-05-07 2011-11-10 Research In Motion Limited Portable electronic device and method of controlling same
WO2012169157A1 (ja) * 2011-06-07 2012-12-13 パナソニック株式会社 被サポート装置、サポート装置、機器間ガイドシステム、記録媒体、及び集積回路
JP2013232047A (ja) * 2012-04-27 2013-11-14 Konica Minolta Inc 画像処理装置、その制御方法、および、その制御プログラム
JP5331935B1 (ja) * 2012-12-22 2013-10-30 淳也 榎本 無線による画面表示制御方法及びシステム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017027150A (ja) * 2015-07-16 2017-02-02 富士ゼロックス株式会社 情報処理装置及びプログラム
CN113986106A (zh) * 2021-10-15 2022-01-28 深圳集智数字科技有限公司 触摸屏的双手操作方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
CN104679424A (zh) 2015-06-03
JP6015637B2 (ja) 2016-10-26
US9124740B2 (en) 2015-09-01
EP2881852A1 (en) 2015-06-10
EP2881852B1 (en) 2019-12-25
CN104679424B (zh) 2018-07-20
US20150156352A1 (en) 2015-06-04

Similar Documents

Publication Publication Date Title
JP6015637B2 (ja) 情報処理装置、情報処理装置を制御するための方法、および、当該方法をコンピュータに実行させるためのプログラム
US8610678B2 (en) Information processing apparatus and method for moving a displayed object between multiple displays
JP5523090B2 (ja) 入力装置、入力装置の制御方法、プログラムおよび記憶媒体
KR20140011594A (ko) 펜 인식 패널을 포함한 단말기의 기능 운용 방법 및 이를 지원하는 단말기
JP2013156923A (ja) 電子機器、その制御方法、プログラム、及び記録媒体
JP5862587B2 (ja) ジェスチャ判別装置、ジェスチャ判別方法、およびコンピュータプログラム
US9661165B2 (en) Image forming apparatus with playback mode, display method for an operation screen, and computer program
JP6226103B1 (ja) 表示制御装置
JP5875262B2 (ja) 表示制御装置
JP6299245B2 (ja) 表示装置、制御プログラム、スクロール表示方法、及び記録媒体
JP2015114928A (ja) 画像処理システム、画像形成装置、操作画面表示方法、およびコンピュータプログラム
JP6432966B2 (ja) 楽譜表示・演奏プログラム及び楽譜表示・演奏装置
JP6087602B2 (ja) 電子黒板
JP5446617B2 (ja) 選択支援装置及びプログラム
JP6823514B2 (ja) 楽譜表示・演奏プログラム及び楽譜表示・演奏装置
WO2018123701A1 (ja) 電子機器、その制御方法およびプログラム
JP6350238B2 (ja) 情報処理装置
JP5161359B1 (ja) 情報処理装置、情報処理方法、プログラム、ならびに、管理プログラム
JP2007148626A (ja) Guiによる操作ボタンの表示方法及びその表示プログラム
JP2017157057A (ja) 表示制御装置
KR20090046189A (ko) 프로그래스 바를 이용한 동작 제어 방법 및 장치
WO2012057174A1 (ja) タッチリモコン
JP6481310B2 (ja) 電子機器及び電子機器の制御プログラム
JP2013182123A (ja) 端末装置、コンテンツ再生システム、及びプログラム
JP6131982B2 (ja) ジェスチャ判別装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160527

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160830

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160912

R150 Certificate of patent or registration of utility model

Ref document number: 6015637

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150