JP2013238919A - 電子機器および手書き文書検索方法 - Google Patents

Abstract

【課題】筆跡情報から意図した筆跡情報部分を検索すると共に、筆跡情報から意図しない筆跡情報部分を検索しないようにすること。
【解決手段】実施形態によれば、電子機器は、タッチスクリーンディスプレイと、検索手段と、表示処理手段とを具備する。前記検索手段は、記憶媒体に保存された前記タッチスクリーンディスプレイ上で行われる手書き入力操作によって手書きされる複数のストロークにそれぞれ対応する複数のストロークデータを含む筆跡情報から、検索キーとして指定される特定の筆跡情報部分に対応するストロークの軌跡との類似度が基準値以上であるストロークの軌跡を有する筆跡情報部分を見つけ出す。表示処理手段は、前記筆跡情報部分を含む筆跡情報に対応する一つ以上のサムネイルと、前記基準値を変更するための第１のユーザインタフェースを前記タッチスクリーンディスプレイ上に表示する。
【選択図】 図６

Description

本発明の実施形態は、手書き文書内の筆跡を検索することが可能な電子機器および同電子機器で用いられる手書き文書検索方法に関する。

近年、タブレット、ＰＤＡ、スマートフォンといった種々の電子機器が開発されている。この種の電子機器の多くは、ユーザによる入力操作を容易にするために、タッチスクリーンディスプレイを備えている。

ユーザは、タッチスクリーンディスプレイ上に表示されるメニューまたはオブジェクトを指などでタッチすることにより、これらメニューまたはオブジェクトに関連づけられた機能の実行を携帯型電子機器に指示することができる。

しかし、タッチスクリーンディスプレイを備える既存の電子機器の多くは、画像、音楽、他の各種メディアデータに対する操作性を追求したコンシューマ向け製品であり、会議、商談、商品開発などのビジネスシーンにおける利用については必ずしも適していない場合がある。このため、ビジネスシーンにおいては、いまなお、紙の手帳が広く利用されている。

特開２０１２−３８２２５号公報

紙の手帳の代わりに、タッチスクリーンディスプレイに対して手書き入力される複数のストロークにそれぞれ対応する複数のストロークデータを含む筆跡情報を保存しておくことが考えられている。

保存された筆跡情報から前記筆跡情報から、検索キーとして指定される特定の筆跡情報部分に対応するストロークの軌跡との類似度が基準値以上であるストロークの軌跡を有する筆跡情報部分を見つけ出す筆跡検索処理も提案されている。

しかし、筆跡検索処理において、意図した筆跡情報部分が検索されなかったり、意図しない筆跡情報部分が検索されたりすることがあった。

本発明は、筆跡情報から意図した筆跡情報部分を検索すると共に、筆跡情報から意図しない筆跡情報部分を検索しないようにすることが可能な電子機器および手書き文書検索方法を提供することを目的とする。

実施形態によれば、電子機器は、タッチスクリーンディスプレイと、検索手段と、表示処理手段とを具備する。前記検索手段は、記憶媒体に保存された前記タッチスクリーンディスプレイ上で行われる手書き入力操作によって手書きされる複数のストロークにそれぞれ対応する複数のストロークデータを含む筆跡情報から、検索キーとして指定される特定の筆跡情報部分に対応するストロークの軌跡との類似度が基準値以上であるストロークの軌跡を有する筆跡情報部分を見つけ出す。表示処理手段は、前記筆跡情報部分を含む筆跡情報に対応する一つ以上のサムネイルと、前記基準値を変更するための第１のユーザインタフェースを前記タッチスクリーンディスプレイ上に表示する。

実施形態に係る電子機器の外観を示す斜視図。 同実施形態の電子機器と外部装置との連携動作を示す図。 同実施形態の電子機器のタッチスクリーンディスプレイ上に手書きされる手書き文書の例を示す図。 同実施形態の電子機器によって記憶媒体に保存される、図３の手書き文書に対応する時系列情報を説明するための図。 同実施形態の電子機器のシステム構成を示すブロック図。 同実施形態の電子機器によって実行されるデジタルノートブックアプリケーションプログラムの機能構成を示すブロック図。 同実施形態の電子機器によって実行される手書き文書作成処理の手順を示すフローチャート。 同実施形態の電子機器によって表示される検索画面を示す図。 図８の検索画面上に表示される検索結果を示す図。 図８の検索画面上に表示される検索結果を示す図。 図８の検索画面上に表示される検索結果を示す図。 図８の検索画面からあるページにジャンプする様子を示す図。 図１２に示す状態から基準値を変更した様子を示す図。 図１２に示す状態から基準値を変更した様子を示す図。 同実施形態の電子機器によって実行される検索処理の手順を示すフローチャート。 デジタルノートブックアプリケーションプログラム２０２の機能構成の変形例。 デジタルノートブックアプリケーションプログラム２０２の機能構成の変形例。 電子機器によって表示される検索画面を示す図。

以下、実施の形態について図面を参照して説明する。
図１は、一実施形態に係る電子機器の外観を示す斜視図である。この電子機器は、例えば、ペンまたは指によって手書き入力可能なペン・ベースの携帯型電子機器である。この電子機器は、タブレットコンピュータ、ノートブック型パーソナルコンピュータ、スマートフォン、ＰＤＡ等として実現され得る。以下では、この電子機器がタブレットコンピュータ１０として実現されている場合を想定する。タブレットコンピュータ１０は、タブレットまたはストレートコンピュータとも称される携帯型電子機器であり、図１に示すように、本体１１とタッチスクリーンディスプレイ１７とを備える。タッチスクリーンディスプレイ１７は、本体１１の上面に重ね合わせるように取り付けられている。

本体１１は、薄い箱形の筐体を有している。タッチスクリーンディスプレイ１７には、フラットパネルディスプレイと、フラットパネルディスプレイの画面上のペンまたは指の接触位置を検出するように構成されたセンサとが組み込まれている。フラットパネルディスプレイは、例えば、液晶表示装置（ＬＣＤ）であってもよい。センサとしては、例えば、静電容量方式のタッチパネル、電磁誘導方式のデジタイザなどを使用することができる。以下では、デジタイザとタッチパネルの２種類のセンサの双方がタッチスクリーンディスプレイ１７に組み込まれている場合を想定する。

デジタイザおよびタッチパネルタッチの各々は、フラットパネルディスプレイの画面を覆うように設けられる。このタッチスクリーンディスプレイ１７は、指を使用した画面に対するタッチ操作のみならず、ペン１００を使用した画面に対するタッチ操作も検出することができる。ペン１００は例えば電磁誘導ペンであってもよい。ユーザは、外部オブジェクト（ペン１００又は指）を使用してタッチスクリーンディスプレイ１７上で手書き入力操作を行うことができる。手書き入力操作中においては、画面上の外部オブジェクト（ペン１００又は指）の動きの軌跡、つまり手書き入力操作によって手書きされるストロークの軌跡（筆跡）がリアルタイムに描画され、これによって各ストロークの軌跡が画面上に表示される。外部オブジェクトが画面に接触されている間の外部オブジェクトの動きの軌跡が１ストロークに相当する。手書きされた文字または図形などに対応する多数のストロークの集合、つまり多数の軌跡（筆跡）の集合が手書き文書を構成する。

本実施形態では、この手書き文書は、イメージデータではなく、各ストロークの軌跡の座標列とストローク間の順序関係を示す時系列情報として記憶媒体に保存される。この時系列情報の詳細は図４を参照して後述するが、この時系列情報は、概して、複数のストロークにそれぞれ対応する時系列のストロークデータの集合を意味する。各ストロークデータは、ある一つのストロークに対応し、このストロークの軌跡上の点それぞれに対応する座標データ系列（時系列座標）を含む。これらストロークデータの並びの順序は、ストロークそれぞれが手書きされた順序つまり筆順に相当する。

タブレットコンピュータ１０は、記憶媒体から既存の任意の時系列情報を読み出し、この時系列情報に対応する手書き文書、つまりこの時系列情報によって示される複数のストロークそれぞれに対応する軌跡を画面上に表示することができる。さらに、タブレットコンピュータ１０は編集機能を有している。この編集機能は、「消しゴム」ツール、範囲指定ツール、および他の各種ツール等を用いたユーザによる編集操作に応じて、表示中の手書き文書内の任意のストロークまたは任意の手書き文字等を削除または移動することができる。さらに、この編集機能は、幾つかの手書き操作の履歴を取り消す機能も含んでいる。

本実施形態では、時系列情報（手書き文書）は、１つまたは複数のページとして管理されうる。この場合、時系列情報（手書き文書）を１つの画面に収まる面積単位で区切ることによって、１つの画面に収まる時系列情報のまとまりを１つのページとして記録してもよい。あるいは、ページのサイズを可変できるようにしてもよい。この場合、ページのサイズは１つの画面のサイズよりも大きい面積に広げることができるので、画面のサイズよりも大きな面積の手書き文書を一つのページとして扱うことができる。１つのページ全体をディスプレイに同時に表示できない場合は、そのページを縮小するようにしてもよいし、縦横スクロールによってページ内の表示対象部分を移動するようにしてもよい。

図２は、タブレットコンピュータ１０と外部装置との連携動作の例を示している。タブレットコンピュータ１０は、パーソナルコンピュータ１やクラウドと連携することができる。すなわち、タブレットコンピュータ１０は、無線ＬＡＮなどの無線通信デバイスを備えており、パーソナルコンピュータ１との無線通信を実行することができる。さらに、タブレットコンピュータ１０は、インターネット上のサーバ２との通信を実行することもできる。サーバ２はオンラインストレージサービス、他の各種クラウドコンピューティングサービスを実行するサーバであってもよい。

パーソナルコンピュータ１はハードディスクドライブ（ＨＤＤ）のようなストレージデバイスを備えている。タブレットコンピュータ１０は、時系列情報（手書き文書）をネットワーク越しにパーソナルコンピュータ１に送信して、パーソナルコンピュータ１のＨＤＤに記録することができる（アップロード）。タブレットコンピュータ１０とパーソナルコンピュータ１との間のセキュアな通信を確保するために、通信開始時には、パーソナルコンピュータ１がタブレットコンピュータ１０を認証するようにしてもよい。この場合、タブレットコンピュータ１０の画面上にユーザに対してＩＤまたはパスワードの入力を促すダイアログを表示してもよいし、タブレットコンピュータ１０のＩＤなどを自動的にタブレットコンピュータ１０からパーソナルコンピュータ１に送信してもよい。

これにより、タブレットコンピュータ１０内のストレージの容量が少ない場合でも、タブレットコンピュータ１０が多数の時系列情報（手書き文書）あるいは大容量の時系列情報（手書き文書）を扱うことが可能となる。

さらに、タブレットコンピュータ１０は、パーソナルコンピュータ１のＨＤＤに記録されている任意の１以上の時系列情報を読み出し（ダウンロード）、その読み出した時系列情報によって示されるストロークそれぞれの軌跡をタブレットコンピュータ１０のディスプレイ１７の画面に表示することができる。この場合、複数の時系列情報（手書き文書）それぞれのページを縮小することによって得られるサムネイルの一覧をディスプレイ１７の画面上に表示してもよいし、これらサムネイルから選ばれた１ページをディスプレイ１７の画面上に通常サイズで表示してもよい。

サムネイルとは、時系列情報（手書き文書）に対応する表示画面（画像）であればどのようなものであっても良い。サムネイルは、時系列情報（手書き文書）を任意に拡大、縮小したものであってもよく、また倍率に応じて視認しやすい形に加工されるものであっても良い。

さらに、タブレットコンピュータ１０が通信する先はパーソナルコンピュータ１ではなく、上述したように、ストレージサービスなどを提供するクラウド上のサーバ２であってよい。タブレットコンピュータ１０は、時系列情報（手書き文書）をネットワーク越しにサーバ２に送信して、サーバ２のストレージデバイス２Ａに記録することができる（アップロード）。さらに、タブレットコンピュータ１０は、サーバ２のストレージデバイス２Ａに記録されている任意の時系列情報を読み出して（ダウンロード）、その時系列情報によって示されるストロークそれぞれの軌跡をタブレットコンピュータ１０のディスプレイ１７の画面に表示することができる。

このように、本実施形態では、時系列情報が格納される記憶媒体は、タブレットコンピュータ１０内のストレージデバイス、パーソナルコンピュータ１内のストレージデバイス、サーバ２のストレージデバイスのいずれであってもよい。

次に、図３および図４を参照して、ユーザによって手書きされたストローク（文字、マーク、図形など）と時系列情報との関係について説明する。図３は、ペン１００などを使用してタッチスクリーンディスプレイ１７上に手書きされる手書き文書（手書き文字列）の例を示している。

手書き文書では、一旦手書きされた文字や図形などの上に、さらに別の文字や図形などが手書きされるというケースが多い。図３においては、「ＡＢＣ」の手書き文字列が「Ａ」、「Ｂ」、「Ｃ」の順番で手書きされ、この後に、手書きの矢印が、手書き文字「Ａ」のすぐ近くに手書きされた場合が想定されている。

手書き文字「Ａ」は、ペン１００などを使用して手書きされる２つのストローク（「∧」形状の軌跡、「−」形状の軌跡）によって、つまり２つの軌跡によって表現される。最初に手書きされる「∧」形状のペン１００の軌跡は例えば等時間間隔でリアルタイムにサンプリングされ、これによって「∧」形状のストロークの時系列座標ＳＤ１１、ＳＤ１２、…ＳＤ１ｎが得られる。同様に、次に手書きされる「−」形状のペン１００の軌跡もサンプリングされ、これによって「−」形状のストロークの時系列座標ＳＤ２１、ＳＤ２１、…ＳＤ２ｎが得られる。

手書き文字「Ｂ」は、ペン１００などを使用して手書きされた２つのストローク、つまり２つの軌跡によって表現される。手書き文字「Ｃ」は、ペン１００などを使用して手書きされた手書きされた１つのストローク、つまり１つの軌跡によって表現される。手書きの「矢印」は、ペン１００などを使用して手書きされた手書きされた２つのストローク、つまり２つの軌跡によって表現される。

図４は、図３の手書き文書に対応する時系列情報２００を示している。時系列情報は、複数のストロークデータＳＤ１、ＳＤ２、…、ＳＤ７を含む。時系列情報２００内においては、これらストロークデータＳＤ１、ＳＤ２、…、ＳＤ７は、筆跡順に、つまり複数のストロークが手書きされた順に時系列に並べている。

時系列情報２００において、先頭の２つのストロークデータＳＤ１、ＳＤ２は、手書き文字「Ａ」の２つのストロークをそれぞれ示している。３番目と４番目のストロークデータＳＤ３、ＳＤ４は、手書き文字「Ｂ」を構成する２つのストロークをそれぞれ示している。５番目のストロークデータＳＤ５は、手書き文字「Ｃ」を構成する１つのストロークを示している。６番目と７番目のストロークデータＳＤ６、ＳＤ７は、手書き「矢印」を構成する２つのストロークをそれぞれ示している。

各ストロークデータは、一つのストロークに対応する座標データ系列（時系列座標）、つまり一つのストロークの軌跡上の複数の点それぞれに対応する複数の座標を含む。各ストロークデータにおいては、複数の座標はストロークが書かれた順に時系列に並べられている。例えば、手書き文字「Ａ」に関しては、ストロークデータＳＤ１は、手書き文字「Ａ」の「∧」形状のストロークの軌跡上の点それぞれに対応する座標データ系列（時系列座標）、つまりｎ個の座標データＳＤ１１、ＳＤ１２、…ＳＤ１ｎを含む。ストロークデータＳＤ２は、手書き文字「Ａ」の「−」形状のストロークの軌跡上の点それぞれに対応する座標データ系列、つまりｎ個の座標データＳＤ２１、ＳＤ２２、…ＳＤ２ｎを含む。なお、座標データの数はストロークデータ毎に異なっていてもよい。

各座標データは、対応する軌跡内のある１点に対応するＸ座標およびＹ座標を示す。例えば、座標データＳＤ１１は、「∧」形状のストロークの始点のＸ座標（Ｘ１１）およびＹ座標（Ｙ１１）を示す。ＳＤ１ｎは、「∧」形状のストロークの終点のＸ座標（Ｘ１ｎ）およびＹ座標（Ｙ１ｎ）を示す。

さらに、各座標データは、その座標に対応する点が手書きされた時点に対応するタイムスタンプ情報Ｔを含んでいてもよい。手書きされた時点は、絶対時間（例えば、年月日時分秒）またはある時点を基準とした相対時間のいずれであってもよい。例えば、各ストロークデータに、ストロークが書き始められた絶対時間（例えば、年月日時分秒）をタイムスタンプ情報として付加し、さらに、ストロークデータ内の各座標データに、絶対時間との差分を示す相対時間をタイムスタンプ情報Ｔとして付加してもよい。

このように、各座標データにタイムスタンプ情報Ｔが追加された時系列情報を使用することにより、ストローク間の時間的関係をより精度よく表すことができる。

さらに、各座標データには、筆圧を示す情報（Ｚ）を追加してもよい。

図４で説明したような構造を有する時系列情報２００は、個々のストロークの筆跡だけでなく、ストローク間の時間的関係も表すことができる。したがって、この時系列情報２００を使用することにより、図３に示すようにたとえ手書き「矢印」の先端部が手書き文字「Ａ」上に重ねてまたは手書き文字「Ａ」に近接して書かれたとしても、手書き文字「Ａ」と手書き「矢印」の先端部とを異なる文字または図形として扱うことが可能となる。

いま、図３に破線の四角で示されているように、ユーザによって画面上のある範囲が指定された場合を想定する。破線の四角によって示される指定範囲には、手書き文字「Ａ」の２つのストロークと、手書き「矢印」の先端部に対応する１つのストロークが含まれている。通常であれば、手書き文字「Ａ」の２つのストロークのみならず、手書き「矢印」の先端部に対応する１つのストロークも、処理対象の時系列情報部分として選択されてしまう可能性がある。

しかし、本実施形態では、時系列情報２００を使用することにより、手書き「矢印」の先端部を処理対象の時系列情報部分から除外することができる。すなわち、本実施形態では、時系列情報２００が解析され、これによって手書き文字「Ａ」の２つのストローク（ストロークデータＳＤ１、ＳＤ２）については連続的に手書きされたものと判定され、さらに、手書き「矢印」の先端部（ストロークデータＳＤ７）の手書きタイミングは、手書き文字「Ａ」の手書きタイミングと不連続であることが判定される。したがって、手書き「矢印」の先端部（ストロークデータＳＤ７）を処理対象の時系列情報部分から除外することができる。この場合、手書き「矢印」の先端部（ストロークデータＳＤ７）の手書きタイミングが手書き文字「Ａ」の手書きタイミングと不連続であるか否かの判定は、時系列情報内のストロークデータの並びに基づいて行うことができる。あるいは、この判定は、上述のタイムスタンプ情報Ｔを使用して実行してもよい。タイムスタンプ情報Ｔを使用することにより、より高精度に判定することができる。また、時系列情報内のストロークデータの並びとタイムスタンプ情報Ｔの双方に基づいて、上述の判定を実行してもよい。例えば、ストロークデータＳＤ２とストロークデータＳＤ７との間に所定数以上のストロークデータが含まれている場合には、ストロークデータＳＤ７の書き込みタイミングがストロークデータＳＤ２の書き込みタイミングと不連続であると判定し、ストロークデータＳＤ２とストロークデータＳＤ７との間のストロークデータ数が所定数よりも少ない場合には、ストロークデータＳＤ２内のタイムスタンプ情報とストロークデータＳＤ７のタイムスタンプ情報とに基づいて、ストロークデータＳＤ７の書き込みタイミングがストロークデータＳＤ２の書き込みタイミングと不連続であるか否かを判定してもよい。この場合、ストロークデータＳＤ２内の最後の座標データに付加されたタイムスタンプ情報Ｔ２ｎとストロークデータＳＤ７内の先頭の座標データに付加されたタイムスタンプ情報Ｔ７１とを比較してもよい。

さらに、本実施形態の時系列情報２００においては、上述したように、ストロークデータＳＤ１、ＳＤ２、…、ＳＤ７の並びは手書き文字の筆順を示す。例えば、ストロークデータＳＤ１およびＳＤ２の並びは、最初に「∧」形状のストロークが手書きされ、次に「−」形状のストロークが手書きされたことを表す。したがって、たとえ２つの手書き文字の筆跡同士が互いに類似していても、それら２つの手書き文字の筆順が互いに異なる場合には、それら２つの手書き文字を異なる文字として区別することができる。

さらに、本実施形態では、上述したように、手書き文書は、イメージまたは文字認識結果ではなく、時系列のストロークデータの集合から構成される時系列情報２００として記憶されるので、手書き文字の言語に依存せずに手書き文字を扱うことができる。よって、本実施形態の時系列情報２００の構造は、使用言語の異なる世界中の様々な国で共通に使用できる。

図５は、タブレットコンピュータ１０のシステム構成を示す図である。
タブレットコンピュータ１０は、図５に示されるように、ＣＰＵ１０１、システムコントローラ１０２、主メモリ１０３、グラフィクスコントローラ１０５、ＢＩＯＳ−ＲＯＭ１０５、不揮発性メモリ１０６、無線通信デバイス１０７、エンベデッドコントローラ（ＥＣ）１０８等を備える。

ＣＰＵ１０１は、タブレットコンピュータ１０内の各種モジュールの動作を制御するプロセッサである。ＣＰＵ１０１は、ストレージデバイスである不揮発性メモリ１０６から主メモリ１０３にロードされる各種ソフトウェアを実行する。これらソフトウェアには、オペレーティングシステム（ＯＳ）２０１、および各種アプリケーションプログラムが含まれている。アプリケーションプログラムには、デジタルノートブックアプリケーションプログラム２０２が含まれている。このデジタルノートブックアプリケーションプログラム２０２は、上述の手書き文書を作成および表示する機能、手書き文書を編集する機能、筆跡検索機能、および文字・図表認識機能等を有している。

また、ＣＰＵ１０１は、ＢＩＯＳ−ＲＯＭ１０５に格納された基本入出力システム（ＢＩＯＳ）も実行する。ＢＩＯＳは、ハードウェア制御のためのプログラムである。

システムコントローラ１０２は、ＣＰＵ１０１のローカルバスと各種コンポーネントとの間を接続するデバイスである。システムコントローラ１０２には、主メモリ１０３をアクセス制御するメモリコントローラも内蔵されている。また、システムコントローラ１０２は、ＰＣＩ ＥＸＰＲＥＳＳ規格のシリアルバスなどを介してグラフィクスコントローラ１０４との通信を実行する機能も有している。

グラフィクスコントローラ１０４は、本タブレットコンピュータ１０のディスプレイモニタとして使用されるＬＣＤ１７Ａを制御する表示コントローラである。このグラフィクスコントローラ１０４によって生成される表示信号はＬＣＤ１７Ａに送られる。ＬＣＤ１７Ａは、表示信号に基づいて画面イメージを表示する。このＬＣＤ１７Ａ上にはタッチパネル１７Ｂおよびデジタイザ１７Ｃが配置されている。タッチパネル１７Ｂは、ＬＣＤ１７Ａの画面上で入力を行うための静電容量式のポインティングデバイスである。指が接触される画面上の接触位置および接触位置の動き等はタッチパネル１７Ｂによって検出される。デジタイザ１７ＣはＬＣＤ１７Ａの画面上で入力を行うための電磁誘導式のポインティングデバイスである。ペン１００が接触される画面上の接触位置および接触位置の動き等はデジタイザ１７Ｃによって検出される。

無線通信デバイス１０７は、無線ＬＡＮまたは３Ｇ移動通信などの無線通信を実行するように構成されたデバイスである。ＥＣ１０８は、電力管理のためのエンベデッドコントローラを含むワンチップマイクロコンピュータである。ＥＣ１０８は、ユーザによるパワーボタンの操作に応じて本タブレットコンピュータ１０を電源オンまたは電源オフする機能を有している。

次に、図６を参照して、デジタルノートブックアプリケーションプログラム２０２の機能構成について説明する。

デジタルノートブックアプリケーションプログラム２０２は、ペン軌跡表示処理部３０１、時系列情報生成部３０２、ページ保存処理部３０４、ページ取得処理部３０５、手書き文書表示処理部３０６、基準値通知部３０７、および処理部３０８等を備える。

デジタルノートブックアプリケーションプログラム２０２は、タッチスクリーンディスプレイ１７を用いて入力されるストロークデータを使用することによって、手書き文書の作成、表示、編集等を行う。タッチスクリーンディスプレイ１７は、「タッチ」、「移動（スライド）」、「リリース」等のイベントの発生を検出するように構成されている。「タッチ」は、画面上に外部オブジェクトが接触したことを示すイベントである。「移動（スライド）」は、画面上に外部オブジェクトが接触されている間に接触位置が移動されたことを示すイベントである。「リリース」は、画面から外部オブジェクトが離されたことを示すイベントである。

ペン軌跡表示処理部３０１および時系列情報生成部３０２は、タッチスクリーンディスプレイ１７によって発生される「タッチ」または「移動（スライド）」のイベントを受信し、これによって手書き入力操作を検出する。「タッチ」イベントには、接触位置の座標が含まれている。「移動（スライド）」イベントにも、移動先の接触位置の座標が含まれている。したがって、ペン軌跡表示処理部３０１および時系列情報生成部３０２は、タッチスクリーンディスプレイ１７から、接触位置の動きの軌跡に対応する座標列を受信することができる。

ペン軌跡表示処理部３０１は、タッチスクリーンディスプレイ１７から座標列を受信し、この座標列に基づいて、ペン１００等を使用した手書き入力操作によって手書きされる各ストロークの軌跡をタッチスクリーンディスプレイ１７内のＬＣＤ１７Ａの画面上に表示する。このペン軌跡表示処理部３０１により、画面にペン１００が接触している間のペン１００の軌跡、つまり各ストロークの軌跡がＬＣＤ１７Ａの画面上に描かれる。

時系列情報生成部３０２は、タッチスクリーンディスプレイ１７から出力される上述の座標列を受信し、この座標列に基づいて、図４で詳述したような構造を有する上述の時系列情報を生成する。この場合、時系列情報、つまりストロークの各点に対応する座標およびタイムスタンプ情報は作業メモリ４０１に一時保存してもよい。

ページ保存処理部３０４は、生成された時系列情報を手書き文書（手書きページ）として記憶媒体４０２に保存する。記憶媒体４０２は、上述したように、タブレットコンピュータ１０内のストレージデバイス、パーソナルコンピュータ１内のストレージデバイス、サーバ２のストレージデバイスのいずれであってもよい。

ページ取得処理部３０５は、記憶媒体４０２から既に格納されている任意の時系列情報を読み出す。読み出された時系列情報は手書き文書表示処理部３０６に送られる。手書き文書表示処理部３０６は、時系列情報を解析し、この解析結果に基づいて、時系列情報によって示される各ストロークの軌跡を画面上に手書きページとして表示する。

基準値通知部３０７は、入力に応じて筆跡検索処理時の基準値を後述する検索処理部３０９に通知する。

処理部３０８は、処理対象の時系列情報に対して様々な処理、例えば、筆跡検索処理等を実行することができる。この処理部３０８は、検索処理部３０９を含む。

検索処理部３０９は、記憶媒体４０２内に既に格納されている複数の時系列情報（複数の手書きページ）を検索してこれら複数の時系列情報内の特定の時系列情報部分（特定の手書き文字列等）を見つけ出す。この検索処理部３０９は、特定の時系列情報部分を検索キーつまり検索クエリとして指定するように構成された指定モジュールを含んでいる。検索処理部３０９は、複数の時系列情報の各々から、特定の時系列情報部分に対応するストロークの軌跡との類似度が基準値以上であるストロークの軌跡を有する時系列情報部分を見つけ出し、見つけ出された時系列情報部分に対応する軌跡をＬＣＤ１７Ａの画面上に視認可能に表示する。

例えば、検索クエリとして指定される特定の時系列情報部分は、例えば、特定の手書き文字、特定の手書き文字列、特定の手書き記号、特定の手書き図形等が使用しうる。以下では、特定の手書き文字列が検索クエリとして指定される場合を想定する。

この検索処理部３０９によって実行される検索処理は筆跡検索であり、すでに記録されている複数の手書きページの中から、検索クエリである特定の手書き文字列と類似する筆跡を有する手書き文字列を検索する。なお、現在表示中のある一つの手書きページのみを対象に筆跡検索を行ってもよい。

手書き文字間の類似度の計算方法としては、様々な方法を使用することができる。例えば各ストロークの座標列をベクトルとして扱ってもよい。この場合、比較対象のベクトル同士の類似度を計算するために、それら比較対象のベクトル間の内積を比較対象のベクトル間の類似度として算出してもよい。また他の例としては、各ストロークの軌跡を画像として扱い、比較対象の軌跡間の画像の重なりがもっとも多くなる部分の面積の大きさを上述の類似度として計算してもよい。さらに計算処理量を減らすための任意の工夫をしてもよい。また、手書き文字間の類似度の計算方法として、ＤＰ（Dynamic Programming）マッチングを使用してもよい。

この検索処理部３０９内の上述の指定モジュールは、検索対象とすべき文字列または図形を手書きするための検索キー入力領域を画面上に表示してもよい。ユーザによって検索キー入力領域に手書きされた文字列等が検索クエリとして使用される。

例えば、ユーザは、表示中のページ内の一部を手書きの丸で囲むことによって範囲指定することができる。あるいは、ユーザは、あらかじめ用意されているメニューを用いてデジタルノートブックアプリケーションプログラム２０２を「選択」モードに設定し、この後、表示中のページ内の一部をペン１００でなぞってもよい。

このように、表示中の時系列情報（手書きページ）内の時系列情報部分（手書き文字列）が検索クエリとして選択された場合においては、検索処理部３０９は、検索クエリとして選択された時系列情報部分を検索対象から除外する。すなわち、検索処理部３０９は、表示中の時系列情報全体では無く、選択された時系列情報部分を除く、表示中の時系列情報内の他の時系列情報部分から、選択され時系列情報部分に対応するストロークの軌跡との類似度が基準値以上であるストロークの軌跡を有する時系列情報部分を見つけ出す。

このように、検索クエリとして選択された時系列情報部分を検索対象から除外するという処理を行うことにより、選択された時系列情報部分（検索されて当然の文字列）それ自体が検索結果として表示されてしまうことを防止することができる。

よって、ユーザは、表示中のページに検索クエリとして使用すべき文字列を新たに手書きし、この文字列を選択するという操作を行うことによって、検索クエリの入力を行うことが可能となる。この場合、新たに手書きされた文字列（検索クエリ）自体は検索対象から除外されるので、新たに手書きされた文字列自体が検索結果として表示されることはない。よって、検索キー入力領域を画面上に表示することなく、表示中の手書きページの一部を容易に検索クエリとして使用することができる。

このように、本実施形態では、既に記録されている複数の手書きページから、検索クエリとして選択されたある手書き文字の特徴に類似する手書き文字を検索することができる。よって、過去に作成および保存した多数の手書きページから、ユーザの意図に合った手書きページを簡単に検索することができる。

本実施形態の筆跡検索においては、テキスト検索の場合とは異なり、文字認識を行う必要が無い。したがって、言語に依存しないため、あらゆる言語で手書きされた手書きページを検索対象とすることができる。さらに、図形等を筆跡検索のための検索クエリとして使用することもでき、また言語以外の記号、マーク等を筆跡検索のための検索クエリとして使用することもできる。

次に、図７のフローチャートを参照して、デジタルノートブックアプリケーションプログラム２０２によって実行される手書きページ作成処理の手順について説明する。

ユーザがペン１００を使用して手書き入力操作を行うと（ステップＳ１１）、「タッチ」や「移動」のイベントが発生される。これらイベントに基づいて、デジタルノートブックアプリケーションプログラム２０２は、ペン１００の動きの軌跡を検出する（ステップＳ１２）。ペン１００の動きの軌跡が検出されたならば（ステップＳ１２のＹＥＳ）、デジタルノートブックアプリケーションプログラム２０２は、検出されたペン１００の動きの軌跡をディスプレイに表示する（ステップＳ１３）。さらに、デジタルノートブックアプリケーションプログラム２０２は、検出されたペン１００の動きの軌跡に対応する座標列に基づいて上述の時系列情報を生成し、その時系列情報を作業メモリ４０１に一時保存する（ステップＳ１４）。

図８は、デジタルノートブックアプリケーションプログラム２０２によってユーザに提示される筆跡検索画面５００の例示である。
筆跡検索画面５００は、検索キー入力領域５０１、検索ボタン５０１Ａ、クリアボタン５０１Ｂ、スライダーバー５０２を表示する。検索キー入力領域５０１は、検索対象とすべき文字列または図形を手書きするための入力領域である。検索ボタン５０１Ａは、筆跡検索処理の実行を指示するためのボタンである。クリアボタン５０１Ｂは、検索キー入力領域５０１に手書きされた文字列または図形の削除（クリア）を指示するためのボタンである。スライダーバー５０２内のボタン５０２Ａを左右にスライドさせることで、筆跡検索処理時の基準値を調節することが可能である。

筆跡検索画面５００は、さらに、一つ以上の手書きページサムネイル６０１を表示する。図８の例においては、９個の手書きページそれぞれに対応する９個の手書きページサムネイル６０１が表示されている。

図９に示されているように、検索キー入力領域５０１に手書き文字列「ＴＡＢＬＥＴ」が入力されている状態で検索ボタン５０１Ａが押下された場合、９個の手書きページの各々から手書き文字列「ＴＡＢＬＥＴ」を見つけ出すための筆跡検索処理が開始される。そして、筆跡検索画面５００上には、手書き文字列「ＴＡＢＬＥＴ」を含む幾つかの手書きページそれぞれに対応する手書きページサムネイルが表示される。図９においては、９個の手書きページの中の５個の手書きページが手書き文字列「ＴＡＢＬＥＴ」を含む手書きページとして検索された場合が例示されている。ヒットワード、つまり５個の手書きページサムネイル中の手書き文字列「ＴＡＢＬＥＴ」は強調表示され、他の筆跡部分と区別して表示される。

図９に示す状態で、例えばボタン５０２Ａをスライドさせ、基準値を下げると、図１０に示す検索結果表示画面が表示される。基準値を下げることで、９個の手書きページの中の６個の手書きページが手書き文字列「ＴＡＢＬＥＴ」を含む手書きページとして検索される。

図９に示す状態で、例えばボタン５０２Ａをスライドさせ、基準値を下げると、図１１に示す検索結果表示画面が表示される。基準値を上げることで、９個の手書きページの中の５個の手書きページが手書き文字列「ＴＡＢＬＥＴ」を含む手書きページとして検索される。

検索される５個の手書きページサムネイルの１つがユーザによって選択されたならば、図１２に示すように、選択された手書きページサムネイル６０１Ａに対応する手書きページ６０１Ｂが通常のサイズで画面上に表示される。手書きページ６０１Ｂには、検索ボタン７００が表示される。ユーザによって検索ボタン７００が押下されたならば、表示画面の内容は、図１１の左側に示される検索画面に戻される。また、手書きページ６０１Ｂには、筆跡検索処理時の基準値を調節するためのユーザインタフェースとしてスライダーバー７０１が表示されている。スライダーバー７０１内のボタン７０１Ａを左右にスライドさせることで、筆跡検索処理時の基準値を設定された範囲内で調節することが可能である。

図１２の手書きページ６０１Ｂ内には、手書き文字列「ＴＡＢＬＥＴ」７１１，７１２が強調表示されている。図１２に示す状態で、例えばボタン５０２Ａをスライドさせ、基準値を下げると、図１３に示す検索結果表示画面が表示される。基準値を下げることで、手書きページ６０１Ｂが表示される。手書きページ６０１Ｂ内には、手書き文字列「ＴＡＢＬＥＴ」７１１〜７１３が強調表示されている。図１２に示す状態で、例えばボタン５０２Ａをスライドさせ、基準値を上げると、図１４に示す検索結果表示画面が表示される。基準値を下げることで、手書きページ６０１Ｃが表示される。手書きページ６０１Ｃ内には、手書き文字列「ＴＡＢＬＥＴ」７１１が強調表示されている。

次に、図１５のフローチャートを参照して、上述の筆跡検索処理の手順を説明する。
デジタルノートブックアプリケーションプログラム２０２は、ユーザ操作に応じて、手書きブロック（時系列情報部分）、つまり手書き文字列又は手書きの図形等を、検索キー（検索クエリ）として指定する（ステップＳ３１）。そして、デジタルノートブックアプリケーションプログラム２０２は、複数の手書き文書（手書きページ）から、検索キーとして指定された手書きブロック内のストロークの軌跡との類似度が基準値以上であるストロークの軌跡を有する手書きブロックを検索する（ステップＳ３２）。検索された手書きブロックは強調表示される（ステップＳ３３）。

図１６は、デジタルノートブックアプリケーションプログラム２０２の機能構成の変形例である。
基準値設定部３１０は、筆跡検索画面５００内の検索キー入力領域５０１に手書きされた文字列または図形のストローク数に応じて、検索処理部３０９に基準値を設定する。例えば、ストローク数が増える毎に基準値を下げるようにしても良い。ストローク数が増えるに従って、検索される文字列または図形が少なくなる。ストローク数が増える毎に基準値を下げることによって、検索される文字列または図形が少なくなることが抑制される。

図１７は、デジタルノートブックアプリケーションプログラム２０２の機能構成の変形例である。
認識処理部３１１は、表示中の時系列情報（手書きページ）および検索キー入力領域５０１に手書きされた文字列または図形に対して手書き文字認識、手書き図形認識、手書き表認識などの認識処理を実行する。

基準値設定部３１２は、認識処理部３１１による表示中の時系列情報（手書きページ）の認識結果と検索キー入力領域５０１に手書きされた文字列または図形に対する認識結果とに基づいて時系列情報（手書きページ）から検索キーを検索する。基準値設定部３１２は、認識結果を用いた検索結果と検索処理部３０９による筆跡検索結果とに基づいて、好適な基準値を検索処理部３０９に設定する。基準値設定部３１２は、認識結果を用いた検索結果と検索処理部３０９による筆跡検索結果とが一致するように、基準値を設定する。例えば、検索処理部３０９による筆跡検索結果が、認識結果を用いた検索結果より多くの部分を検索している場合、基準値を現在の設定値より高くする。例えば、検索処理部３０９による筆跡検索結果が、認識結果を用いた検索結果より少ない部分を検索している場合、基準値を現在の設定値より低くする。

例えば、この認識処理部３１１および基準値設定部３１２による処理は、毎回行う必要は無い。特に、他のユーザによって入力された時系列情報（手書きページ）に対して、筆跡検索処理を行う場合に有効である。

図１８は、電子機器によって表示される検索画面を示す図である。
他人が入力した時系列情報（手書きページ）に対して筆跡検索を行うと、筆跡が異なるので、基準値を低くしないと検索されにくい。そのため、図１８に示すように、基準値を変更するためのユーザインタフェースとして、自分ボタン８０１および他人ボタン８０２を表示するようにしても良い。他人ボタン８０２が操作された場合の基準値は、自分ボタン８０１が操作された場合の基準値より低く設定される。

また、サーバ２に格納されている時系列情報（手書きページ）を取得し、取得した手書きページに対して筆跡検索処理を行う場合は、他人ボタン８０２が操作された場合の基準値に自動的に設定するようにしても良い。サーバ２に格納されている手書きページは、他のユーザによって作成された手書きページの可能性が高いので、他人ボタン８０２が操作された場合の基準値にすることで、意図する筆跡情報部分を検索することが可能になる。

以上説明したように、本実施形態においては、タッチスクリーンディスプレイ１７の表示画面上に筆跡検索処理時の基準値を変更するためのユーザインタフェースを表示することによって、ユーザがユーザインタフェースを用いて基準値を変更することが可能になるので、筆跡検索処理時に手書きページから意図した筆跡情報部分を検索すると共に、手書きページから意図しない筆跡情報部分を検索しないようにすることが可能になる。

なお、上述の筆跡検索処理および認識処理（文字認識処理、図形認識処理、表認識処理）は、タブレットコンピュータ１０と連携して動作する、パーソナルコンピュータ１またはインターネット上のサーバ２によって実行してもよい。

本実施形態の手書き文書に対する各種処理はコンピュータプログラムによって実現することができるので、このコンピュータプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのコンピュータプログラムをタッチスクリーンディスプレイを備えた通常のコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

１０…タブレットコンピュータ（電子機器）、１７…タッチスクリーンディスプレイ、２０２…デジタルノートブックアプリケーションプログラム、３０１…ペン軌跡表示処理部、３０２…時系列情報生成部、３０４…ページ保存処理部、３０５…ページ取得処理部、３０６…手書き文書表示処理部、３０７…基準値設定部、３０８…処理部、３０９…検索処理部、３１０…基準値設定部、３１１…認識処理部、３１２…基準値設定部、４０１…作業メモリ、４０２…記憶媒体、５００…筆跡検索画面、５０１…検索キー入力領域、５０１Ａ…検索ボタン、５０１Ｂ…クリアボタン、５０２…スライダーバー、５０２Ａ…ボタン。

実施形態によれば、電子機器は、入力手段と、表示処理手段とを具備する。入力手段は、検索キーに対応するストロークの情報を入力する。表示処理手段は、手書きにより記載された複数のストロークに対応する複数のストロークデータを含む筆跡情報から、検索キーに対応するストロークの軌跡との類似度が基準値以上であるストロークの軌跡を有する第１筆跡情報部分をそれぞれ含む第１筆跡情報に対応する複数の第１サムネイルと、前記基準値を変更するための第１のユーザインタフェースとを、画面上に、同時に表示可能である。前記第１のユーザインタフェースによって前記基準値が変更された場合、前記表示処理手段は、前記筆跡情報から検索キーとして指定される特定の筆跡情報部分に対応するストロークの軌跡との類似度が前記変更された基準値以上であるストロークの軌跡を有する第２筆跡情報部分を含む第２筆跡情報に対応する複数の第２サムネイルを表示可能である。

Claims (9)

1. タッチスクリーンディスプレイと、
   記憶媒体に保存された前記タッチスクリーンディスプレイ上で行われる手書き入力操作によって手書きされる複数のストロークにそれぞれ対応する複数のストロークデータを含む筆跡情報から、検索キーとして指定される特定の筆跡情報部分に対応するストロークの軌跡との類似度が基準値以上であるストロークの軌跡を有する筆跡情報部分を見つけ出す検索手段と、
   前記筆跡情報部分を含む筆跡情報に対応する一つ以上のサムネイルと、前記基準値を変更するための第１のユーザインタフェースとを、前記タッチスクリーンディスプレイ上に表示する表示処理手段と
   を具備する電子機器。
2. 前記第１のユーザインタフェースによって前記基準値が変更された場合、前記検索手段は、前記特定の筆跡情報部分に対応するストロークの軌跡との類似度が前記変更された基準値以上であるストロークの軌跡を有する筆跡情報部分を見つけ出す
   請求項１に記載の電子機器。
3. 前記一つ以上のサムネイルから選択されたサムネイルに対応する第１の筆跡情報に基づいて前記複数のストロークそれぞれに対応する軌跡を、前記タッチスクリーンディスプレイ上に表示する第３の表示処理手段を更に具備する請求項２に記載の電子機器。
4. 前記第３の表示処理手段は、前記筆跡情報部分と他の筆跡情報部分とを区別して表示する請求項３に記載の電子機器。
5. 前記第３の表示処理手段は、前記基準値を変更するための第２のユーザインタフェースを前記タッチスクリーンディスプレイ上に更に表示し、
   前記第２のユーザインタフェースによって前記基準値が変更された場合、前記検索手段は、前記第１の筆跡情報から、前記特定の筆跡情報部分に対応するストロークの軌跡との類似度が前記変更された基準値以上であるストロークの軌跡を有する筆跡情報部分を再度見つけ出し、
   前記第３の表示処理手段は、前記再度見つけ出された筆跡情報部分と他の筆跡情報部分とを区別して表示する
   請求項４に記載の電子機器。
6. 前記検索手段は、検索対象とすべき文字列または図形を手書きするための検索キー入力領域を前記タッチスクリーンディスプレイ上に表示し、前記検索キー入力領域に手書きされる文字列または図形を前記検索キーとして使用する請求項１記載の電子機器。
7. 前記検索キー入力領域に手書きされる文字列または図形のストローク数を検出し、ストローク数に応じた基準値を前記検索手段に設定する設定手段を更に具備する請求項６に記載の電子機器。
8. 記憶媒体に保存された、タッチスクリーンディスプレイ上で行われる手書き入力操作によって手書きされる複数のストロークにそれぞれ対応する複数のストロークデータを含む筆跡情報から、検索キーとして指定される特定の筆跡情報部分に対応するストロークの軌跡との類似度が基準値以上であるストロークの軌跡を有する筆跡情報部分を見つけ出し、
   前記筆跡情報部分を含む筆跡情報に対応する一つ以上のサムネイルと、前記基準値を変更するためのユーザインタフェースとを前記タッチスクリーンディスプレイ上に表示する
   手書き文書検索方法。
9. タッチスクリーンディスプレイを備えるコンピュータにより実行されるプログラムであって、
   記憶媒体に保存された、タッチスクリーンディスプレイ上で行われる手書き入力操作によって手書きされる複数のストロークにそれぞれ対応する複数のストロークデータを含む筆跡情報から、検索キーとして指定される特定の筆跡情報部分に対応するストロークの軌跡との類似度が基準値以上であるストロークの軌跡を有する筆跡情報部分を見つけ出す手順と、
   前記筆跡情報部分を含む筆跡情報に対応する一つ以上のサムネイルと、前記基準値を変更するためのユーザインタフェースとを前記タッチスクリーンディスプレイ上に表示する手順と
   を前記コンピュータに実行させるためのプログラム。

Images