JP4851547B2 - モード設定システム - Google Patents

モード設定システム Download PDF

Info

Publication number
JP4851547B2
JP4851547B2 JP2009015475A JP2009015475A JP4851547B2 JP 4851547 B2 JP4851547 B2 JP 4851547B2 JP 2009015475 A JP2009015475 A JP 2009015475A JP 2009015475 A JP2009015475 A JP 2009015475A JP 4851547 B2 JP4851547 B2 JP 4851547B2
Authority
JP
Japan
Prior art keywords
mode
pen
determining
information
setting system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009015475A
Other languages
English (en)
Other versions
JP2010176190A (ja
Inventor
宏幸 真鍋
雅朗 福本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Docomo Inc
Original Assignee
NTT Docomo Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Docomo Inc filed Critical NTT Docomo Inc
Priority to JP2009015475A priority Critical patent/JP4851547B2/ja
Publication of JP2010176190A publication Critical patent/JP2010176190A/ja
Application granted granted Critical
Publication of JP4851547B2 publication Critical patent/JP4851547B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明はモード設定システムに関し、特にペンがタブレットに接触した後の処理に関するモードを設定するためのモード設定システムに関する。
パーソナルコンピュータ(以下、PCと略称する)のうち、近年普及し始めたものとして、タッチパネルを備えたPCや、タブレット型PCがある。これらは、キーボード入力ではなく、ペンなどを用いて表示画面やタブレット表面への直接入力を実現したものである。
これらのPCにおいては、ペンなどを用いた表示画面への入力の際、複数のモードを切り替える必要がある。例えば、手書きのメモアプリケーションを考えた場合には、少なくとも手書き文字を書くモードと、オブジェクトを選択するモードが必要である。また、地図アプリケーションの場合には、少なくとも地図を移動するパンモードと、地図を拡大縮小するズームモードが必要である。さらに検索機能を加える場合には、検索モードも必要となる。ユーザは実行したいタスクに応じ、複数の取り得るモードの中から適切なモードを選び、さらにそのモードに設定することが必要である。例えばマウスでは、左右のクリックボタンやホイールなどを組み合わせて、具体的には単なるマウスの移動はカーソルの移動に割り当て、左クリックを押下しながらのマウス移動をオブジェクトの選択に割り当てるなど、ユーザはマウスを使って明示的にモードを指示することが可能である。マウスなどのように、ユーザが随意的かつ独立に制御できる複数のパラメータを入力できるデバイスであれば、モードの切り替えを入力デバイス側のみで瞬時に行うことができる。しかし、ペン入力の場合、ユーザが随意的・独立に制御できるパラメータの数が少ない。このため、多くの場合、モード切り替え操作を行わなければならない。このことは、より多くの操作が必要となることであり、操作が複雑になる問題や、タスク完了までに時間がかかるという問題が生じる。
従来のペン入力におけるモード切替方法は、2つに大別できる。すなわち、ペンダウン(ペン先が表示画面やタブレット表面に接触している状態を指す)前にモードを設定する方法、ペンダウン後にモードを設定する方法、のいずれかである。
(ペンダウン前にモードを設定する方法)
ペンダウン前にモード設定動作を行う方法は、最も一般的である。具体的には、画面に表示されているモード切り替えアイコンをタップする、メニューを呼び出してモードを切り替える(タップ&ホールド等)、ボタン押下(バレルボタン、サイドスイッチ等)、という方法が考えられる。
また、ペンのホバー中(ペン先が表示画面やタブレット表面に近接しているが、接触していない状態を指す)のジェスチャーを使う研究として、非特許文献1や、非特許文献2があるが、いずれもユーザは意識的なかつ明示的なモード決定操作を行う必要がある。これらの方式では、余計なモード切替操作が必要なことや、ユーザが現在のモードを正しく認識し、かつ取り得るモードと切り替え方法を常に把握しておく必要があるという課題がある。
(ペンダウン後にモードを設定する方法)
ペンダウン後にモードを設定する方法が非特許文献3に記載されている。非特許文献3では、ストロークを認識してシステムが自動的に清書している。ユーザが円を描いた場合、厳密に正円になることはないが、システムが円であると認識し、正円に書き直す。また直線を描いた場合も同様に、システムが直線であると認識し、書き直す。
また、非特許文献4では、ストロークを認識していき、文字認識結果を逐次更新していく。この他、非特許文献5では、ストローク完了後にモードを決定する。
ところで、周知のスケッチアプリケーションソフトウェアにおいては、ペンの傾きや圧力を使ってモードを切り替えることができる。例えば、スケッチアプリケーションソフトウェアにおいて、ペン圧によって線幅が変わる。これは離散的で明確なモード切り替えではないが、一種のモード切り替えと考えることもできる。
Fitzmaurice G.,Khan A.、Pieke R.,Buxton B.,and Kurtenbach G.,Tracking Menus,Proc. UIST2003,ACM Press(2003),71-79. Grossman T.,Hinckley K. Baudisch P. Agrawala M.,and Balakrishnan R.,Hover Widgets: using the tracking state to extend the capabilities of pen-operated devices. Proc. CHI2006,ACM Press(2006),861-870. Igarashi T.,Matsuoka S.,Kawachiya S.,and Tanaka H.,Interactive beautification: a technique for rapid geometric design, Proc. UIST1997,ACM Press(1997),105-114. Masui T.,Integrating pen operations for composition by example,Proc. UIST1998、ACM Press(1998),211-212. Saund E.,and Lank E.,Stylus input and editing without prior selection of mode,Proc. UIST2003,ACM Press(2003),213-216.
上述した非特許文献1、非特許文献2など、ペンダウン前にモードを決定する方法では、いずれもユーザは意識的なかつ明示的なモード決定操作を行う必要がある。これらの方式では、モード切り替え操作が必要なことや、ユーザが現在のモードを正しく認識し、かつ、取り得るモードと切り替え方法を常に把握しておく必要がある。
つまり、ペンダウン前にモード設定動作を行う場合、モードはメインの動作の前にユーザの意思により決定されているが、ユーザが明示的なモード切り替え操作を行うことが必要であり、操作が煩わしいという問題がある。また、一般に、モードはユーザを混乱させる原因であり、操作が追加され、さらにその切り替え操作が面倒となれば、余計に混乱させることになる。
一方、非特許文献3、非特許文献4、非特許文献5など、ペンダウン後にモードを設定する方法では、ペンダウン時点からモードが切り替わるまでにタイムラグが生じる。このため、設定されるモードによってリアルタイムなレスポンスが異なる場合には、タイムラグがユーザを混乱させる要因になる。
なお、上述したスケッチアプリケーションソフトウェアにおける線幅変更を一種のモード切り替えと考えた場合、そのモード切り替えにおいても上述したタイムラグが生じるという問題がある。
本発明の目的は、追加の切り替え操作を行わず、かつ、タイムラグが生じずにモード設定を行うことのできるモード設定システムを提供することである。
本発明の請求項1によるモード設定システムは、ペンによる入力が可能なデバイスに関するモードを設定するモード設定システムであって、前記ペンが前記デバイスに接触する前の、前記ペンに関する情報を取得するペン情報取得手段と、前記ペン情報取得手段によって取得した情報に応じて、設定すべきモードを決定するモード決定手段とを含み、前記モード決定手段は、モードを決定するために用いるパラメータとして、ペンの移動速度、加速度、移動方向、軌跡の曲率、軌跡を直線近似した際の近似誤差、のうち少なくとも1つを用い、当該パラメータと前記モード決定のための判定基準の閾値とを比較して前記モードを決定し、前記判定基準の内容を更新する更新手段をさらに含み、当該更新手段は、前記モード決定手段でモードを決定した後の前記ペンが移動している時の前記ペンに関する情報に基づいて前記ペンが前記モード決定手段で決定したモードに対応する移動をしていると判定されるとき、前記モード決定のための前記判定基準をより厳しくすることを特徴とする。
このような構成によれば、ホバー中の情報を用いてモードを決定するため、モードをユーザが決定する煩わしさがなく、またモードが決定されるまでのタイムラグがなくなるため、より素早くタスクを完了することができるようになる。
また、入力モードを設定する基準が、更新されることで、モード判別の精度を向上させることができる。
本発明の請求項2によるモード設定システムは、請求項1において、前記モード決定手段が決定するモードは、オブジェクトを移動させるドラッグモード、オブジェクトを選択する選択モード、文字を入力する文字入力モード、うちの少なくとも1つであることを特徴とする。設定されるモードによってオブジェクトの移動、オブジェクトの選択、文字入力が可能となるので、素早い操作が可能となる。
本発明の請求項3によるモード設定システムは、請求項1又は請求項2において、前記モード決定手段は、モードを決定するために用いるパラメータとして、ペンの傾き、をさらに用いることを特徴とする。さらに、ペンの傾きをパラメータとして用いることにより、モードを正しく設定することができる。
本発明の請求項4によるモード設定システムは、請求項1から請求項3までのいずれか1項において、ペン情報取得手段は、前記ペンが前記デバイスに接触している場合の、前記ペンに関する情報も取得し、前記モード決定手段は、前記ペンがタブレットに接触した時にモードを決定できない場合には、前記ペンが接触した以降の前記ペンに関する情報も用いてモードを決定することを特徴とする。ペンがタブレットに接触した時にモードを設定できない場合には、ペンが接触した以降の情報も用いて入力モードを設定することで、モード設定の誤りを削減することができる。
発明の請求項によるモード設定システムは、請求項1から請求項までのいずれか1項において、前記デバイスは、罫線およびグリッドの少なくとも一方を表示可能であり、前記ペンによる文字入力の際に前記デバイスに表示された罫線またはグリッドに沿って文字を書き始めることができるようにしたことを特徴とする。罫線またはグリッドに沿って文字を入力する場合、ペンダウン前の速度が低下することが多いので、ペンの速度に基づいてモードを適切に設定することができる。
本発明の請求項によるモード設定システムは、請求項において、前記罫線またはグリッドを構成する線同士の間隔を、前記デバイスに表示される内容の縮尺に応じて変化させる表示制御手段をさらに含むことを特徴とする。表示される罫線またはグリッドが表示内容の縮尺表示を兼ねることにより、それらを表示することによる違和感を低減することができる。
本発明の請求項によるモード設定システムは、請求項1から請求項までのいずれか1項において、前記ペンの代わりに指を用いることを特徴とする。指を用いれば、操作のためのペンを用意する必要がなくなる。
本発明によれば、ペンを用いた入力方法において、タイムラグがなく、入力モードを自動的に設定することができる。
本発明の実施の形態に係るモード設定システムの一構成例を示すブロック図である。 図1のモード設定システムの動作例を示すフローチャートである。 本発明の実施の形態に係るモード設定システムの他の構成例を示すブロック図である。 図3のモード設定システムの動作例を示すフローチャートである。 モード決定結果が妥当であるか判断する処理を追加した動作例を示すフローチャートである。 図1に、罫線またはグリッドを構成する線同士の間隔を、表示される内容の縮尺に応じて変化させる表示制御部を、追加した構成を示すブロック図である。 図3に、罫線またはグリッドを構成する線同士の間隔を、表示される内容の縮尺に応じて変化させる表示制御部を、追加した構成を示すブロック図である。 罫線表示の例を示す図である。 グリッド表示の例を示す図である。
以下、本発明の実施の形態を、図面を参照して説明する。なお、以下の説明において参照する各図では、他の図と同等部分は同一符号によって示されている。
(本システムの概要)
本システムは、入力モードを自動的に設定するモード設定システムであり、タイムラグが生じないことが特徴である。本システムでは、ペンがタブレット近傍にあるものの、タブレットには接触していない状態(ホバー中)において、ペンに関する情報を取得し、その取得結果に応じてモードを設定する。ホバー中であっても、ペンの位置、傾き等の情報を取得することができるタブレットなどに本システムを適用することができる。
なお、スケッチアプリケーションソフトウェアや地図アプリケーション(例えば、Google(登録商標)maps)などに、本システムを適用することができる。
(システムの構成例)
図1は本システムの一構成例を示すブロック図である。同図において、本システムは、オブジェクトの移動や選択、文字の入力を行うためにユーザが用いるペン10と、ペン10による操作が行われるデバイス11と、デバイス11に対するペン10のホバー中およびデバイス11に対するペン10の接触中にペン10に関する情報を取得するペン情報取得部12と、デバイス11に対するペン10の先端の軌跡を保存する軌跡保存部13と、モードの判定基準を格納する判定基準格納部14と、軌跡保存部13に保存された軌跡および判定基準格納部14に格納された判定基準に従って、モードを決定するモード決定部15と、決定されたモードに従った処理を行う処理部16とを備えている。
デバイス11は、例えば、電磁誘導方式のタブレットである。電磁誘導方式のタブレットにおいては、ペンがホバー中であっても、ペンがタブレットの操作面に接触している場合であっても、そのペンに関する情報を取得できる。電磁誘導方式のタブレットに限らず、ホバー中のペン、および、操作面に接触しているペン、に関する情報を取得できるデバイスを用いればよい。なお、以下は、デバイス11が電磁誘導式タブレット(以下、単にタブレットと呼ぶ)である場合について説明する。
ペン情報取得部12は、ペン10に関する情報をデバイス11から取得し、軌跡保存部13に保存する機能を有している。
軌跡保存部13は、後述する軌跡DB1〜3を保存する機能を有している。軌跡DB1〜3は、ペン10の先端の軌跡に関するデータを保存するためのデータベースである。
判定基準格納部14は、後述する判定基準4を格納する機能を有している。この判定基準4は、ペン情報取得部12によってデバイス11から取得された、ペン10に関する情報についての閾値である。
モード決定部15は、デバイス11から取得された、ペン10に関する情報と判定基準4の値との比較結果に応じて、モードを決定する。
なお、ペン情報取得部12、モード決定部15、処理部16は、CPUが所定のプログラムを実行することによって実現することができる。軌跡保存部13や判定基準格納部14については、メモリや磁気ディスクなどの記憶手段によって実現できる。
(基本原理)
ペンを使ったインタラクションを行う場合、ペンがホバーした状態からタブレットに接触(ペンダウン)、タブレット上でペンが移動、タブレットからペンが離れ(ペンアップ)、再度ホバー状態に戻る、という状態遷移が繰り返される。
本システムの基本原理は、ホバー中のペン10の状態など、ペン10に関する情報を取得して保存しておき、ペンダウン時にホバー中のペンに関する情報からモードを決定するものである。
図2は、図1のモード設定システムの動作例を示すフローチャートである。同図を参照すると、ペンを用いたインタラクションを行う場合、まずペンがホバー中である状態からスタートする。次に、ペンダウンが起こるかどうかを常に監視しておく(ステップS1)。ペンダウンが起こらない場合、すなわちホバー中である場合には、タブレットで取得できるペンの情報を軌跡DB1に保存しておく(ステップS1→S2)。
ここで、軌跡DB1には、ペンの位置や傾き、速度など、モード決定を効率的に行えるためのパラメータを格納しておく。また、図2の判定基準4は、モード決定を高い精度で行うための基準である。この判定基準4は、予め定められたものであってもよく、またユーザ毎に異なったものでも構わない。この判定基準4は、後述する認識エンジンのパラメータとなる。認識エンジンとして、音声認識やジェスチャー認識でよく用いられるHMM(隠れマルコフモデル)を使う場合には、モード毎のモデルのパラメータ(より具体的には遷移確率や確率分布)が該当する。
その後、ペンがペンダウンした時には、モード設定ステップに進む(ステップS1→S3)。
モード設定ステップでは、軌跡DB1に保存されているホバー中のペンに関する情報と、判定基準格納部14に保存されている判定基準4を用いて、モード判定が行われる(ステップS3)。タブレットへの入力モードが、この判定によって決定されたモードに設定される。例えば、オブジェクトの移動、オブジェクトの選択、文字入力、のモードが存在する場合に、これらモードのいずれか1つに設定される。なお、このモード設定ステップによるモードの設定は、ペンダウンと同時に行われる。このため、ペンダウン後にモードを設定する場合のようなタイムラグは生じない。
その後、ペンがタブレットに接触した状態で移動する時は、設定された入力モードでの処理に移行する(ステップS4)。
(実行するタスクによって異なるペンの運動)
ところで、ペンとタブレットとを用いたインタラクションでは、実行するタスクによってペンの軌跡、速度などは大きく異なる。また、その違いはペンダウン後に明確に観測されるが、ペンダウン前にも観察される。以下で具体的な違いを述べる。
一般に繊細な操作(小さな字を書く等)と大雑把な操作(大きな線を引く等)とでは、ペンの移動速度が異なる。繊細な操作ではペンがゆっくりと動き、大雑把な操作ではペンが素早く動く。この移動速度の違いは、ペンダウン前のホバー中にも観察される。そのため、例えばペンダウン直前のホバー中のペンの移動速度を観察することで、ペンダウン後に繊細な操作が行われるのか、大雑把な操作が行われるのかを予想することが可能である。
また、タブレット上に表示されたオブジェクト(以下、単に「オブジェクト」と呼ぶ)に対する操作の内容に関してもペンの状態に違いが観察される。ここで、オブジェクトを移動させる場合とオブジェクトを選択する場合とを考えてみる。まず、オブジェクトを移動させる場合には、ペン先の運動は移動方向にそった直線運動となる。一方、オブジェクトを円又は楕円で囲うことにより、そのオブジェクトを選択することを考えた場合には、ペン先の運動は円運動又は楕円運動となる。ペン先の運動が直線運動となるか、円運動又は楕円運動となるかの違いについては、ペンダウン以降だけでなく、ペンダウン前にも観察される。そのため、ペンダウン直前のペン先の軌跡を観察しておけば、ペンダウン後にペンが直線を描くのか、円又は楕円を描くのかを判定することができる。
さらに、ユーザ毎に、ペンの軌跡や速度に個人差がある。例えば、あるモードではペンダウン時に一瞬ペン先が停止するのに対し、別なモードではペンダウン時にペン先の速度が低下しないことが観察される場合がある。また、あるモードではペン速度が最小となるのがペンダウン後であるのに対し、別なモードではペンダウン前となることが観察される場合がある。
このようなペンダウン前の、ペンに関する情報の違いに基づいて、モードを判別し、モードを設定することができる。
(ペンの移動速度とモードとの関係)
ペンの移動速度については、例えば、以下のように算出する。すなわち、ペン先のXY座標やペンの傾きなどのペンの状態を一定時間毎に計測する。計測時間の間隔は正確に一定ではなく、ある程度の範囲、例えば9〜11msでよい。移動速度は、最新のペン状態(これが計測された時刻をt0とする)と直前のペン状態(同じくt1とする)とから算出できる。すなわち、時刻t0のペン位置と時刻t1のペン位置との距離を、t0−t1で割れば、移動速度が算出できる。また、算出される移動速度の変動を減らすために、時刻t1のペン情報を用いるのではなく、それよりも過去の時刻(例えば、t10)を用いても構わない。なお、これを行うことは、移動平均を求めていることと等価である。
そして、上記のように計測された移動速度に基づいて、入力モードを決定する。例えば、ペンダウン時刻における移動速度がある閾値を超えていた場合には入力モードA(例えば、選択モード)とし、それ以下であった場合には入力モードB(例えば、ドラッグモード)とする。この閾値については、ユーザによって値が変わるので、事前にそのユーザに合った閾値を設定しておく必要がある。また、ユーザによっては、移動速度と設定すべきモードとの間に相関がない場合もあるので、そのようなユーザに対しては移動速度に基づいてモードを決定することはできない。
(ペンの加速度とモードの決定)
加速度については、上述したペンの移動速度をさらに時間で微分することによって算出できる。具体的には、時刻t0における移動速度と、それよりも過去の時刻t1における移動速度の差をt0−t1で割れば算出できる。
そして、上記のように算出された加速度に基づいて、入力モードを決定する。よく見られる傾向として、選択モードの場合にはペンダウン時点よりも過去にペンの移動速度が最小となり、ドラッグモードの場合にはペンダウン時点以降で移動速度が最小となる。これを加速度の観点から見ると、移動速度が最小となる=加速度が0(零)である。このため、加速度が0となるタイミングをみれば、モードを決定できることになる。
(ペンの移動方向とモードの決定)
移動方向は、時刻t0とそれよりも過去の時刻t1とにおけるペン先の座標の変化(ベクトル)の角度である。
移動方向に基づくモードの決定は、次のように行う。すなわち、円を描く場合(選択モード)には、時計の6時の位置から時計回りに円を描く場合が多いので、ペンダウン前の移動方向としても、左であることが多い。一方、ドラッグモードの場合には、方向は任意なので、ペンダウン前の移動方向はバラバラである。よって、ペンダウン前の移動方向が左である場合には、選択モードである可能性が高くなる。
また、上記とは異なる開始位置、回転方向をとるユーザも存在する。このようなユーザについては、判定基準を変えれば対処できる。また、一部のユーザでは開始位置、回転方向がバラバラな場合があるので、そのような場合には移動方向に基づいてモードを決定することはできない。
(ペンの傾きとモードの決定)
ペンの傾きは、一部の電磁式タブレットで直接取得できる。例えば、ワコム社のタブレットであれば、ペンの傾きを取得できる。ここでいう傾きとは、タブレットを基準面として見たときの、ペンの傾きのことで、2次元のベクトルである。すなわち、タブレットのX軸に対する傾き角度と、Y軸に対する傾き角度である。ペンの傾きについては、ユーザによって特有の値になることがあるので、事前にそのユーザに合った閾値を設定しておけば、ペンの傾きに基づいてモードを決定することができる。また、ユーザによっては、ペンの傾きと設定すべきモードとの間に相関がない場合もあるので、そのようなユーザに対してはペンの傾きに基づいてモードを決定することはできない。
(軌跡の曲率とモードの決定)
軌跡の曲率は、ペン先の軌跡から算出する。軌跡の曲率χは、例えば、式(1)で表すことができる。
χ=dθ/ds
=lim(Δθ/Δs)
=lim|[t(s+Δs)−t(s)]/Δs|
=|dt/ds|
=|d2r/ds2| …(1)
なお、式(1)において、sは、ある任意の曲線上の点P0を基点とし、そこから曲線上の任意点Pまでの距離である。θは曲線上の任意点P、Qそれぞれにおける単位接線ベクトルtP、tQのなす角度である。式(1)の極限値「lim」は、「Δs→0」である。なお、この曲率の算出については、Webサイト(URL:http://ja.wikipedia.org/wiki/%E6%9B%B2%E7%8E%87)に記載されている。
曲率は時間毎に変化する。この曲率は曲率半径の逆数なので、曲率が小さいということは、直線に近いことを意味する。したがって、軌跡の曲率に基づいて、入力モードを決定する場合、ペンダウン時点での曲率をモード判定に利用する。そして、曲率が所定閾値より大きい場合には選択モード、所定閾値以下の場合にはドラッグモード、と決定することができる。
(軌跡を直線近似した際の近似誤差とモードの決定)
ペンの軌跡を直線近似するというのは、有限個の点を直線で近似することである。具体的には、点(ベクトル)をai=(xi、yi)、近似直線をy=f(x)とすると、|yi−f(xi)|の合計Σ|yi−f(xi)|を最小化するf(x)を求めることである。
ここでいう近似誤差とは、最小化されたΣ|yi−f(xi)|のことである。軌跡がほぼ直線の場合には近似誤差はほぼ0となる。一方、軌跡が直線ではない場合には近似誤差が大きくなる。これにより、軌跡が円弧を描いているのか、ほぼ直線なのかの判定が可能となる。したがって、上記の曲率に基づく場合と同様に、近似誤差が所定閾値より大きい場合には選択モード、所定閾値以下の場合にはドラッグモード、と決定することができる。
なお、上記の各パラメータ(すなわち、ペンの移動速度、加速度、移動方向、傾き、軌跡の曲率、軌跡を直線近似した際の近似誤差)の他、ペンとタブレットとの距離(ペンがタブレットからどの程度浮いているのか)を利用してもよい。
(個人差を利用したモードの決定)
ところで、ユーザがそれぞれのモード毎のペンの動き(例えば、上述したペンの傾き)を事前に登録することにより、個人差を利用したモードの決定を実現することができる。これは、音声認識で認識率を上げるためにディクテーションをするのと同じである。認識エンジンは、その事前のデータを用いて学習しておく。
この時、ユーザ毎にどのパラメータがモード決定に有効なのかを、知っておく必要はない。それは認識エンジンが学習するからである。
今までは、入力モードを、ある時刻におけるパラメータのみで決定する場合について説明したが、現実的には複数のパラメータからなる時系列データを上記認識エンジンに入力しておき、ペンダウン時点で最も可能性の高いモードを選択することなる。
(他の構成例)
図3は本システムの他の構成例を示すブロック図である。同図において、本例のモード設定システムは、図1の構成に、判定基準格納部14の内容を更新する判定基準更新部17が追加された構成になっている。この判定基準更新部17は、CPUが所定のプログラムを実行することによって実現することができる。
この判定基準更新部17によって、判定基準格納部14の内容すなわち判定基準を更新し、より高い精度でのモード判定を目指すことも可能である。この判定基準の更新処理を含む、本システムの動作について、図4を参照して説明する。
図4は、判定基準の更新処理を含む動作例を示すフローチャートである。同図において、ステップS1からステップS3までの動作については、図2の場合と同様である。
ステップS3においてモードが設定された後、ペンの移動に基づく処理が行われると共に、ペンが移動している時のペン情報が軌跡DB2に保存される(ステップS4)。この処理は、ペンアップが行われるまで継続して行われる(ステップS5→S4)。
このようにモード設定後にペンが移動している時のペン情報は、軌跡DB2に保存される。この軌跡DB2に保存される、ペンに関する情報は、上述した各パラメータ(すなわち、ペンの移動速度、ペンの加速度、ペンの移動方向、ペンの傾き、ペン先端の軌跡の曲率、軌跡を直線近似した際の近似誤差)を用いればよい。もっとも、ペンに関する情報を軌跡DB2に格納しておく理由は、ペンアップ時点でモードの正解値を求めるためである。このためには、上述した各パラメータを用いるのではなく、純粋にXY座標の値だけを軌跡DB2に保存してもよいし、圧力等の他のパラメータを加えることでより正確に正解値が求められるのであれば、そのパラメータを保存してもよい。
そして、ペンアップが行われた時点で、判定基準格納部14に格納されている判定基準4の内容が更新される(ステップS5→S6)。すなわち、設定されたモードが正しかったのか、誤っていたのかを知ることができるのは、ペンアップが行われた時点なので、その時点で判定基準4の内容が更新される。
例えば、ドラッグモードと文字入力モードとが存在する場合に、設定されたモードがドラッグモードであったにも関わらず、ペンアップ後に軌跡DB2の情報を見返してみると、ユーザは文字を描いていたということがわかれば、それはモード設定が誤っていたことになる。そこで、判定基準格納部14に格納されている判定基準4の内容を更新すれば、モード設定を誤った判定基準4を修正することが可能である。また、モード設定が正しかった場合には、判定基準4をより厳しくし、曖昧な状態を作らないように判定基準4を修正することも可能である。判定基準4の修正は、具体的には、モードを決定するための、ペン10に関する情報についての閾値を変更することを指す。
このように判定基準4の内容が更新されることにより、次回のペンダウン前のモード決定をより適切に行うことができる。
(ユーザの判断の利用)
ところで、モード設定が正しかったかどうかを、ユーザに判断させることも可能である。この場合の実装例として、ペンアップ時にポップアップメニューを表示し、ユーザに選択させることが考えられる。すなわち、ペンアップ時にポップアップメニューを表示し、モード設定が誤っていた場合にはポップアップメニューに表示されるモードの中から、本来設定されるべきモードをユーザが選択する。一方、モード設定が正しかった場合にはそのメニューを無視させる。このようにユーザに選択させることで、モード設定が正しかったのか、誤っていたのかを判断することも可能である。
さらに、ユーザに判定基準4の内容を修正するか否かを判断させることもできる。例えば、ペンアップ時にポップアップメニューを表示し、修正する場合にはポップアップメニューをユーザが選択し、修正しない場合には無視するなどすればよい。このように判定基準4の修正を行い、修正された判定基準4に基づいてモードを設定すれば、個人差があっても高い精度でモードを設定することができるようになる。
(モード設定の曖昧さに基づく処理)
次に、モード決定結果が曖昧であるか判断する処理を追加した動作について、図5を参照して説明する。同図において、ステップS1からステップS3までの動作については、図2の場合と同様である。
ステップS3aにおいて、設定されたモードが妥当であったか判断する。ペンダウン時にモード判定が曖昧であった場合、ペンダウン後のペン先端の移動の軌跡を軌跡DB3に保存する(ステップS3a→S4b)。そして、ステップS3に戻り、モード決定を繰返す。
設定されたモードが曖昧でなく、妥当であると判断できた場合には、モードを確定して処理を継続する(ステップS3a→S4a)。
このように、モードの決定が曖昧さを判断し、曖昧である場合にはペンの移動の軌跡を保存してモード判定を繰返すことにより、モード設定の誤りを削減することができる。つまり、ペンがタブレットに接触した時にモードを決定できない場合には、ペンがタブレットに接触した以降(つまり、ペンダウン後)のペンに関する情報をも用いてモードを決定することができる。
ちなみに、曖昧さの判定は、認識エンジンにHMMを用いた場合には、尤度を用いればよく、尤度が閾値を超えている場合には曖昧でないとし、閾値以下の場合には曖昧であると判定すればよい。
なお、軌跡DB1と軌跡DB3とは、同じ記憶領域を用いて保存してもよい。ただし、ペンダウン前の情報なのかペンダウン後の情報なのかを識別するためのフラグを付加しておく必要がある。
ここで、ペンダウン前の判定とペンダウン後の判定とは判定基準が異なる。例えば、ペンダウン前にはペン先にかかる圧力をモード判定に利用することはできないが、ペンダウン後にはそれを利用することができる。Z方向(すなわちタブレット面に垂直な方向)の距離はペンダウン前では利用できるが、ペンダウン後では利用できない。このように、モード決定する際に必要なパラメータが異なっている可能性が高いので、軌跡DB1、軌跡DB3それぞれに含まれるパラメータは同一であっても構わない。具体的には、軌跡DB1に圧力パラメータを含むようにし、軌跡DB3にZ方向距離を含むようにしても構わない。
もっとも、それら軌跡DB1、軌跡DB3を別々に設けてもよい。すなわち、軌跡DB1は圧力パラメータを含まず、軌跡DB3はZ方向の距離を含まないようにしてもよい。
(変形例)
タブレットに、罫線やグリッドを表示しておき、それに沿って文字を入力させることをユーザに促せば、ペンの速度に基づいてモードを適切に設定することができる。
ここで、Google(登録商標)Mapを例に説明する。パン、ズームモードに加えて、文字入力モードがあれば、手書きで“東京”と書けば、東京にフォーカスを即座に移動することができる。通常は、検索窓があり、その検索窓をタップすると文字入力モードに突入する。しかし画面の大きさに制約のあるモバイル端末では、検索窓を表示しておくのは画面の使用効率が悪くなる。また、モード切り替え操作が必要となる。そこで、本システムを使ってパン、ズーム、文字入力の3つのモードを切り替えることを考える。
パンの場合は円又は楕円を描き、ズームの場合は直線を描くとすれば、両者を切り分けることができる。しかし、文字入力については、そのような切り分け方では対応できない。ここで、パン、ズームは、相対的に大雑把な操作である。これに対し、小さな文字を書こうとすると、繊細な操作が要求されることになる。
ここで、ユーザインタフェースに関する周知のフィッツの法則(Fitts' Law)によると、ポインティングタスクにおけるタスク完了時間は、オブジェクトすなわちターゲットまでの距離、ターゲットの大きさの2つと、いくつかの定数を用いて定式化することができる。それによれば、距離が伸びる/ターゲットが大きくなるとポインティング速度が増す。このため、大雑把な操作(大きな動きが必要な操作:距離が大きい、ターゲットも大きい)では速度が増加し、繊細な操作(小さな動きが要求される:距離が小さく、ターゲットも小さい)では速度が低減する。
上述したパン、ズームは大雑把な操作であるため、速度の絶対値は大きなものとなる。これに対し、文字を書く場合には速度が低減する。ただし、描く文字のサイズが大きい場合には、速度は増加する。したがって、パン、ズームと文字入力とを、速度を使って切り分けようとした場合、文字入力における速度を落とすことが重要となる。その一つの方法として、小さな文字をユーザに書かせるという方法が考えられる。
しかしながら、小さな文字を書かせようとしても、文字の書き出しは大雑把で速度が増加する場合がある。例えば、とりあえずペンダウンしておいて、後はビジュアルフィードバックを効かせて、きれいな文字を描く、という場合である。
本システムではペンダウン前の、ペンに関する情報が重要なので、ペンダウン前に速度を低減しておく必要があるため、罫線またはグリッドを利用する。すなわち、罫線またはグリッドを表示しておけば、ユーザは文字の書き出し位置に制約を受ける。そのため、大雑把にペンダウンするわけにはいかず、正確なペンダウンが必要となり、この結果ペンダウン前の速度を低減させることができる。そこで、タブレットを、罫線およびグリッドの少なくとも一方を表示可能な構成とし、ペンによる文字入力の際にタブレットに表示された罫線またはグリッドに沿って文字を書き始めることができるようにする。罫線またはグリッドに沿って文字を入力する場合、ペンダウン前の速度が低下することが多いので、ペンの速度に基づいてモードを適切に設定することができる。
ただ、罫線やグリッドを単に表示するだけでは、目障りで違和感が生じる場合がある。このため、罫線やグリッドを縮尺表示としても利用することが望ましい。つまり、罫線またはグリッドを構成する線同士の間隔を、タブレットに表示される内容の縮尺に応じて変化させる表示制御部を追加すればよい。すなわち、図1のモード設定システムにおいては、図6のように表示制御部18を追加すればよく、図3のモード設定システムにおいては、図7のように表示制御部18を追加すればよい。この表示制御部18は、CPUが所定のプログラムを実行することによって実現することができる。
Google(登録商標)Mapを考えた場合、この表示制御部18によって罫線を画面に表示する場合、例えば、図8のように表示される。すなわち、図8(a)のように罫線を「1Km」という文字と共に表示している状態において、拡大表示操作すると、図8(b)のように罫線同士の間隔が変化すると共に表示されている文字も「0.6Km」に変化する。なお、この変化に伴い、画面の横方向を示す文字も、図8(a)の「5Km」から図8(b)の「2Km」の表示に変化する。
また、表示制御部18によってグリッドを画面に表示する場合、例えば、図9のように表示される。すなわち、図9(a)のようにグリッドを「1Km」という文字と共に表示している状態において、拡大表示操作すると、図9(b)のようにグリッドを構成する線同士の間隔が変化すると共に表示されている文字も「0.6Km」に変化する。
ここで重要なことは、罫線やグリッドの大きさは、一定である必要はないということである.速度が低下するのに十分な小ささであればよいため、縮尺表示のように、キリのよい数字とするために、縮尺によって大きさが可変となるような大きさを用いることが可能であるということである。
図8および図9のように、表示される罫線またはグリッドが表示内容の縮尺表示を兼ねることにより、それらを表示することによってユーザに与える違和感を低減することができる。
なお、例えば静電容量方式のタッチパネルを用いれば、ペンの代わりに指を用いて、同様の操作を行うことができる。指を用いれば、操作のためのペンを用意する必要がなくなる。指を用いる場合については、上記説明中の“ペン”を“指”に読み替えればよい。すなわち、静電容量方式のタッチパネルを用いれば、指で操作する場合、少なくともホバー中の指について、XY座標を取得することができるので、電磁誘導式のタブレットにペンを用いる場合と同様に、タイムラグがなく、入力モードを自動的に設定できる。静電容量方式のタッチパネルを用いる場合、指に限らず、導電性を有する棒状の物体を用いれば、同様の作用効果が得られる。
(まとめ)
以上説明したように、本システムでは、ホバー中のペン情報(ペン先の位置情報等)も取得できるタブレット(例えば、電磁誘導式タブレット)などに適用されることを前提としている。そして、ホバー中のペン情報を蓄積し、ペンダウン時に蓄積したペン情報を認識し、その結果に応じてモード(選択モードやドラッグモード)を決定する。
対象とするホバー中の動きは、ユーザの意図的・意識的な動きではない。すなわち、予め決められたジェスチャーを、ホバー中に行うのではない。ペンダウン後に行うペンの動きを行うのに不可分、かつ、ユーザが意識しない動きを本システムが認識する。
ユーザがモード決定動作を行う必要がない(事前にも事後にも)、モードがペンダウン時に決定されているためシステムはペンダウン時から適切なレスポンスを返すことができる(時間遅れがない)、というメリットがある。つまり、ペンダウン前にユーザの意図を抽出していることになる。
このように、本システムによれば、ペンを用いた入力において、タイムラグがなく、入力モードを自動的に設定できる。さらにユーザ毎の個人差を学習することで、より高精度なモード判定によるモード設定が行えるようになる。
本発明は、ペンがタブレットに接触した後の処理に関するモードを設定する場合に利用することができる。
1〜3 軌跡DB
4 判定基準
10 ペン
11 デバイス
12 ペン情報取得部
13 軌跡保存部
14 判定基準格納部
15 モード決定部
16 処理部
17 判定基準更新部
18 表示制御部

Claims (7)

  1. ペンによる入力が可能なデバイスに関するモードを設定するモード設定システムであって、
    前記ペンが前記デバイスに接触する前の、前記ペンに関する情報を取得するペン情報取得手段と、
    前記ペン情報取得手段によって取得した情報に応じて、設定すべきモードを決定するモード決定手段とを含み、
    前記モード決定手段は、モードを決定するために用いるパラメータとして、ペンの移動速度、加速度、移動方向、軌跡の曲率、軌跡を直線近似した際の近似誤差、のうち少なくとも1つを用い、当該パラメータと前記モード決定のための判定基準の閾値とを比較して前記モードを決定し、前記判定基準の内容を更新する更新手段をさらに含み、
    当該更新手段は、前記モード決定手段でモードを決定した後の前記ペンが移動している時の前記ペンに関する情報に基づいて前記ペンが前記モード決定手段で決定したモードに対応する移動をしていると判定されるとき、前記モード決定のための前記判定基準をより厳しくすることを特徴とするモード設定システム。
  2. 請求項1において、前記モード決定手段が決定するモードは、オブジェクトを移動させるドラッグモード、オブジェクトを選択する選択モード、文字を入力する文字入力モード、うちの少なくとも1つであることを特徴とするモード設定システム。
  3. 請求項1又は請求項2において、前記モード決定手段は、モードを決定するために用いるパラメータとして、ペンの傾き、をさらに用いることを特徴とするモード設定システム。
  4. 請求項1から請求項3までのいずれか1項において、
    ペン情報取得手段は、前記ペンが前記デバイスに接触している場合の、前記ペンに関する情報も取得し、
    前記モード決定手段は、前記ペンがタブレットに接触した時にモードを決定できない場合には、前記ペンが接触した以降の前記ペンに関する情報も用いてモードを決定することを特徴とするモード設定システム。
  5. 請求項1から請求項までのいずれか1項において、
    前記デバイスは、罫線およびグリッドの少なくとも一方を表示可能であり、前記ペンによる文字入力の際に前記デバイスに表示された罫線またはグリッドに沿って文字を書き始めることができるようにしたことを特徴とするモード設定システム。
  6. 請求項において、
    前記罫線またはグリッドを構成する線同士の間隔を、前記デバイスに表示される内容の縮尺に応じて変化させる表示制御手段をさらに含むことを特徴とするモード設定システム。
  7. 請求項1から請求項までのいずれか1項において、
    前記ペンの代わりに指を用いることを特徴とするモード設定システム。
JP2009015475A 2009-01-27 2009-01-27 モード設定システム Expired - Fee Related JP4851547B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009015475A JP4851547B2 (ja) 2009-01-27 2009-01-27 モード設定システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009015475A JP4851547B2 (ja) 2009-01-27 2009-01-27 モード設定システム

Publications (2)

Publication Number Publication Date
JP2010176190A JP2010176190A (ja) 2010-08-12
JP4851547B2 true JP4851547B2 (ja) 2012-01-11

Family

ID=42707145

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009015475A Expired - Fee Related JP4851547B2 (ja) 2009-01-27 2009-01-27 モード設定システム

Country Status (1)

Country Link
JP (1) JP4851547B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10353479B2 (en) 2014-11-13 2019-07-16 Seiko Epson Corporation Display apparatus and display apparatus control method

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5912423B2 (ja) * 2011-11-04 2016-04-27 シャープ株式会社 表示装置および表示プログラム
JP5970700B2 (ja) * 2012-04-16 2016-08-17 セイコーエプソン株式会社 プロジェクター、プロジェクターの制御方法、プログラム、および、プロジェクションシステム
US9280235B2 (en) * 2012-09-13 2016-03-08 Panasonic Intellectual Property Corporation Of America Portable electronic device
JP6126904B2 (ja) * 2013-05-13 2017-05-10 株式会社Nttドコモ 電子機器、軌跡補正方法、プログラム
JP2015022410A (ja) * 2013-07-17 2015-02-02 シャープ株式会社 マルチモード入力システムおよび情報処理システム
JP2015099526A (ja) 2013-11-20 2015-05-28 富士通株式会社 情報処理装置および情報処理プログラム
KR101619888B1 (ko) 2014-11-28 2016-05-12 현대자동차주식회사 터치 인식 기능을 구비한 차량 및 그 제어방법과 내비게이션
JP6543960B2 (ja) * 2015-02-27 2019-07-17 セイコーエプソン株式会社 表示装置、表示制御方法およびプログラム
JP6544073B2 (ja) * 2015-06-22 2019-07-17 セイコーエプソン株式会社 画像表示システムおよび画像表示方法
JP2022090171A (ja) * 2020-12-07 2022-06-17 レノボ・シンガポール・プライベート・リミテッド 情報処理装置及び情報処理方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2501554B2 (ja) * 1985-07-31 1996-05-29 キヤノン株式会社 入力装置
JPH0683528A (ja) * 1992-09-03 1994-03-25 Fujitsu Ltd 座標入力装置
JPH07271505A (ja) * 1994-03-29 1995-10-20 Toshiba Corp 画像表示制御装置
JPH10198522A (ja) * 1997-01-08 1998-07-31 Fuji Xerox Co Ltd 入力制御装置及び該装置におけるコマンド選択支援方法
JPH10240442A (ja) * 1997-02-21 1998-09-11 Sharp Corp 情報処理装置
JP3959462B2 (ja) * 2002-03-25 2007-08-15 国立大学法人東京農工大学 表示装置の表示内容制御方法
US20040196286A1 (en) * 2003-04-01 2004-10-07 Microsoft Corporation Progressive scale graph
JP4766340B2 (ja) * 2006-10-13 2011-09-07 ソニー株式会社 近接検知型情報表示装置およびこれを使用した情報表示方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10353479B2 (en) 2014-11-13 2019-07-16 Seiko Epson Corporation Display apparatus and display apparatus control method

Also Published As

Publication number Publication date
JP2010176190A (ja) 2010-08-12

Similar Documents

Publication Publication Date Title
JP4851547B2 (ja) モード設定システム
CN107077288B (zh) 键盘输入的消歧
US8600163B2 (en) Handwriting determination apparatus and method and program
US9021402B1 (en) Operation of mobile device interface using gestures
US8466934B2 (en) Touchscreen interface
US9870141B2 (en) Gesture recognition
JP6902234B2 (ja) 文字列に文字を挿入するための方法および対応するデジタルデバイス
US20100037183A1 (en) Display Apparatus, Display Method, and Program
JP6180888B2 (ja) 電子機器、方法およびプログラム
US8456433B2 (en) Signal processing apparatus, signal processing method and selection method of user interface icon for multi-touch panel
US9477398B2 (en) Terminal and method for processing multi-point input
KR20140038568A (ko) 터치스크린 장치의 사용자로부터 수신된 입력 및 제스쳐에 응답하여 동작을 수행하는 컴퓨터로 구현된 방법 및 컴퓨터 판독가능 매체
JP2009093291A (ja) ジェスチャー判定装置及び方法
US10416868B2 (en) Method and system for character insertion in a character string
US9182908B2 (en) Method and electronic device for processing handwritten object
KR20100028465A (ko) 포인터의 드래그 방향에 따른 문자 또는 메뉴입력 방법
KR20080066416A (ko) 터치 스크린을 갖는 이동 단말기의 사용자 인터페이스 방법
EP4307096A1 (en) Key function execution method, apparatus and device, and storage medium
JP2007287015A (ja) 階層構造として記述された項目を選択する入力装置、文字入力装置および入力プログラム
US10073612B1 (en) Fixed cursor input interface for a computer aided design application executing on a touch screen device
US9256360B2 (en) Single touch process to achieve dual touch user interface
US20160378327A1 (en) Path gestures
KR101919841B1 (ko) 터치 오기 교정 방법 및 시스템
Uddin Improving Multi-Touch Interactions Using Hands as Landmarks
US20140210732A1 (en) Control Method of Touch Control Device

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110222

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110418

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110614

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110912

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20110920

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111018

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111020

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141028

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141028

Year of fee payment: 3

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D04

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees