JPWO2014147716A1 - 電子機器および手書き文書処理方法 - Google Patents
電子機器および手書き文書処理方法 Download PDFInfo
- Publication number
- JPWO2014147716A1 JPWO2014147716A1 JP2015506400A JP2015506400A JPWO2014147716A1 JP WO2014147716 A1 JPWO2014147716 A1 JP WO2014147716A1 JP 2015506400 A JP2015506400 A JP 2015506400A JP 2015506400 A JP2015506400 A JP 2015506400A JP WO2014147716 A1 JPWO2014147716 A1 JP WO2014147716A1
- Authority
- JP
- Japan
- Prior art keywords
- stroke
- pen
- stroke data
- handwritten
- strokes
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/32—Digital ink
- G06V30/333—Preprocessing; Feature extraction
- G06V30/347—Sampling; Contour coding; Stroke extraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/166—Editing, e.g. inserting or deleting
- G06F40/171—Editing, e.g. inserting or deleting by use of digital ink
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/22—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
- G06V10/235—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition based on user input or interaction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/32—Digital ink
- G06V30/36—Matching; Classification
- G06V30/387—Matching; Classification using human interaction, e.g. selection of the best displayed recognition candidate
Abstract
実施形態によれば、電子機器は、入力手段と表示処理手段とを具備する。入力手段は、第1形態で描画される1以上の第1ストロークと、前記第1形態とは異なる第2形態で描画される1以上の第2ストロークとが手書きされる場合に、前記第1ストロークに対応する第1ストロークデータと前記第2ストロークに対応する第2ストロークデータとを含む手書き文書データを入力する。表示処理手段は、前記1以上の第1ストロークが描画される領域と、前記1以上の第2ストロークが描画される領域とが少なくとも一部重複する場合に、前記第1ストロークデータのみに対する第1処理の処理結果、前記第2ストロークデータのみに対する前記第1処理の処理結果、あるいは、前記第1ストロークデータと前記第2ストロークデータとに対する前記第1処理の処理結果のいずれかを表示可能である。
Description
本発明の実施形態は、手書きデータを扱う技術に関する。
近年、タブレット、PDA、スマートフォンといった種々の電子機器が開発されている。この種の電子機器の多くは、ユーザによる入力操作を容易にするために、タッチスクリーンディスプレイを備えている。
ユーザは、タッチスクリーンディスプレイ上に表示されるメニューまたはオブジェクトを指などでタッチすることにより、これらメニューまたはオブジェクトに関連付けられた機能の実行を電子機器に指示することができる。
このような電子機器では、ユーザが、タッチスクリーンディスプレイ上で文字や図形等を手書きするための機能を有するものもある。このような手書きの文字や図形を含む手書き文書(手書きデータ)は保存され、必要に応じて閲覧される。
ところで、手帳のような紙のページでは、ユーザが、手書きする内容に応じて、鉛筆、ボールペン、マーカーペン等のペンの種類や、ペンの色等を使い分けることがある。そのため、タッチスクリーンディスプレイ上で手書きされる文字や図形でも、ペンの種類や色等の使い分けが考慮されることが望ましい。
本発明の一形態は、手書き文書データを容易に扱うことができる電子機器および手書き文書処理方法を提供することを目的とする。
実施形態によれば、電子機器は、入力手段と表示処理手段とを具備する。入力手段は、第1形態で描画される1以上の第1ストロークと、前記第1形態とは異なる第2形態で描画される1以上の第2ストロークとが手書きされる場合に、前記第1ストロークに対応する第1ストロークデータと前記第2ストロークに対応する第2ストロークデータとを含む手書き文書データを入力する。表示処理手段は、前記1以上の第1ストロークが描画される領域と、前記1以上の第2ストロークが描画される領域とが少なくとも一部重複する場合に、前記第1ストロークデータのみに対する第1処理の処理結果、前記第2ストロークデータのみに対する前記第1処理の処理結果、あるいは、前記第1ストロークデータと前記第2ストロークデータとに対する前記第1処理の処理結果のいずれかを表示可能である。
以下、実施の形態について図面を参照して説明する。
図1は、一実施形態に係る電子機器の外観を示す斜視図である。この電子機器は、例えば、ペンまたは指によって手書き入力可能なペン・ベースの携帯型電子機器である。この電子機器は、タブレットコンピュータ、ノートブック型パーソナルコンピュータ、スマートフォン、PDA等として実現され得る。以下では、この電子機器がタブレットコンピュータ10として実現されている場合を想定する。タブレットコンピュータ10は、タブレットまたはスレートコンピュータとも称される携帯型電子機器であり、図1に示すように、本体11とタッチスクリーンディスプレイ17とを備える。タッチスクリーンディスプレイ17は、本体11の上面に重ね合わせるように取り付けられている。
図1は、一実施形態に係る電子機器の外観を示す斜視図である。この電子機器は、例えば、ペンまたは指によって手書き入力可能なペン・ベースの携帯型電子機器である。この電子機器は、タブレットコンピュータ、ノートブック型パーソナルコンピュータ、スマートフォン、PDA等として実現され得る。以下では、この電子機器がタブレットコンピュータ10として実現されている場合を想定する。タブレットコンピュータ10は、タブレットまたはスレートコンピュータとも称される携帯型電子機器であり、図1に示すように、本体11とタッチスクリーンディスプレイ17とを備える。タッチスクリーンディスプレイ17は、本体11の上面に重ね合わせるように取り付けられている。
本体11は、薄い箱形の筐体を有している。タッチスクリーンディスプレイ17には、フラットパネルディスプレイと、フラットパネルディスプレイの画面上のペンまたは指の接触位置を検出するように構成されたセンサとが組み込まれている。フラットパネルディスプレイは、例えば、液晶表示装置(LCD)であってもよい。センサとしては、例えば、静電容量方式のタッチパネル、電磁誘導方式のデジタイザなどを使用することができる。以下では、デジタイザとタッチパネルの2種類のセンサの双方がタッチスクリーンディスプレイ17に組み込まれている場合を想定する。
デジタイザおよびタッチパネルの各々は、フラットパネルディスプレイの画面を覆うように設けられる。このタッチスクリーンディスプレイ17は、指を使用した画面に対するタッチ操作のみならず、ペン100を使用した画面に対するタッチ操作も検出することができる。ペン100は例えば電磁誘導ペンであってもよい。
ユーザは、外部オブジェクト(ペン100又は指)を使用してタッチスクリーンディスプレイ17上で、手書きにより複数のストロークを入力する手書き入力操作を行うことができる。手書き入力操作中においては、画面上の外部オブジェクト(ペン100又は指)の動きの軌跡、つまり手書き入力操作によって手書きされるストロークの軌跡(筆跡)がリアルタイムに描画され、これによって各ストロークの軌跡が画面上に表示される。外部オブジェクトが画面に接触されている間の外部オブジェクトの動きの軌跡が1ストロークに相当する。手書きされた文字または図形などに対応する多数のストロークの集合、つまり多数の軌跡(筆跡)の集合が手書き文書を構成する。
本実施形態では、この手書き文書は、イメージデータではなく、各ストロークの軌跡の座標列とストローク間の順序関係とを示す時系列情報と、各ストロークの描画形態を示す描画形態情報(ペン情報)を含む手書き文書データとして記憶媒体に保存される。この時系列情報の詳細は図3および図4を参照して後述するが、この時系列情報は、概して、複数のストロークにそれぞれ対応する時系列のストロークデータの集合を意味する。各ストロークデータは、手書きにより入力可能なある一つのストロークを表現可能なデータであればどのようなものであってもよく、例えば、このストロークの軌跡上の点それぞれに対応する座標データ系列(時系列座標)を含む。これらストロークデータの並びの順序は、ストロークそれぞれが手書きされた順序つまり筆順に相当する。また、描画形態情報の詳細は、図5から図7を参照して後述するが、この描画形態情報は、例えば、複数のストロークが描画される、ペン先の種類(線種)、線幅、色、透過度等の組み合わせを示す。
タブレットコンピュータ10は、記憶媒体から既存の任意の手書き文書データを読み出し、この手書き文書データに対応する手書き文書画面上に表示することができる。つまり、時系列情報によって示される複数のストロークそれぞれに対応する軌跡が、描画形態情報によって示される複数のストロークそれぞれに対応する描画形態で描画された手書き文書を、画面上に表示することができる。
図2は、タブレットコンピュータ10のシステム構成を示す図である。
タブレットコンピュータ10は、図2に示されるように、CPU101、システムコントローラ102、主メモリ103、グラフィクスコントローラ104、BIOS−ROM105、不揮発性メモリ106、無線通信デバイス107、エンベデッドコントローラ(EC)108等を備える。
タブレットコンピュータ10は、図2に示されるように、CPU101、システムコントローラ102、主メモリ103、グラフィクスコントローラ104、BIOS−ROM105、不揮発性メモリ106、無線通信デバイス107、エンベデッドコントローラ(EC)108等を備える。
CPU101は、タブレットコンピュータ10内の各種モジュールの動作を制御するプロセッサである。CPU101は、ストレージデバイスである不揮発性メモリ106から主メモリ103にロードされる各種ソフトウェアを実行する。これらソフトウェアには、オペレーティングシステム(OS)201、および各種アプリケーションプログラムが含まれている。アプリケーションプログラムには、デジタルノートブックアプリケーションプログラム202が含まれている。このデジタルノートブックアプリケーションプログラム202は、上述の手書き文書を作成および表示する機能、手書き文書上に手書きされた文字を文字認識し、手書きされた図形を図形認識する機能、手書き文書を検索する機能、等を有している。
また、CPU101は、BIOS−ROM105に格納された基本入出力システム(BIOS)も実行する。BIOSは、ハードウェア制御のためのプログラムである。
システムコントローラ102は、CPU101のローカルバスと各種コンポーネントとの間を接続するデバイスである。システムコントローラ102には、主メモリ103をアクセス制御するメモリコントローラも内蔵されている。また、システムコントローラ102は、PCI EXPRESS規格のシリアルバスなどを介してグラフィクスコントローラ104との通信を実行する機能も有している。
グラフィクスコントローラ104は、本タブレットコンピュータ10のディスプレイモニタとして使用されるLCD17Aを制御する表示コントローラである。このグラフィクスコントローラ104によって生成される表示信号はLCD17Aに送られる。LCD17Aは、表示信号に基づいて画面イメージを表示する。このLCD17A上にはタッチパネル17Bおよびデジタイザ17Cが配置されている。タッチパネル17Bは、LCD17Aの画面上で入力を行うための静電容量式のポインティングデバイスである。指が接触される画面上の接触位置および接触位置の動き等はタッチパネル17Bによって検出される。デジタイザ17CはLCD17Aの画面上で入力を行うための電磁誘導式のポインティングデバイスである。ペン100が接触される画面上の接触位置および接触位置の動き等はデジタイザ17Cによって検出される。
無線通信デバイス107は、無線LANまたは3G移動通信などの無線通信を実行するように構成されたデバイスである。EC108は、電力管理のためのエンベデッドコントローラを含むワンチップマイクロコンピュータである。EC108は、ユーザによるパワーボタンの操作に応じて本タブレットコンピュータ10を電源オンまたは電源オフする機能を有している。
次いで、図3および図4を参照して、ユーザによって手書きされたストローク(文字、マーク、図形、表など)と時系列情報との関係について説明する。図3は、ペン100などを使用してタッチスクリーンディスプレイ17上に手書きされる手書き文書の例を示している。
手書き文書では、一旦手書きされた文字や図形などの上に、さらに別の文字や図形などが手書きされるというケースが多い。図3においては、「ABC」の手書き文字列が「A」、「B」、「C」の順番で手書きされ、この後に、手書きの矢印が、手書き文字「A」のすぐ近くに手書きされた場合が想定されている。
手書き文字「A」は、ペン100などを使用して手書きされる2つのストローク(「∧」形状の軌跡、「−」形状の軌跡)によって、つまり2つの軌跡によって表現される。最初に手書きされる「∧」形状のペン100の軌跡は例えば等時間間隔でリアルタイムにサンプリングされ、これによって「∧」形状のストロークの座標データ系列(時系列座標)CD11、CD12、…CD1nが得られる。同様に、次に手書きされる「−」形状のペン100の軌跡もサンプリングされ、これによって「−」形状のストロークの座標データ系列CD21、CD22、…CD2nが得られる。
手書き文字「B」は、ペン100などを使用して手書きされた2つのストローク、つまり2つの軌跡によって表現される。手書き文字「C」は、ペン100などを使用して手書きされた手書きされた1つのストローク、つまり1つの軌跡によって表現される。手書きの「矢印」は、ペン100などを使用して手書きされた2つのストローク、つまり2つの軌跡によって表現される。
図4は、図3の手書き文書に対応する時系列情報200を示している。時系列情報は、複数の座標データ系列(時系列座標)CD1、CD2、…、CD7を含む。時系列情報200内においては、これら座標データ系列CD1、CD2、…、CD7は、筆跡順に、つまり複数のストロークが手書きされた順に時系列に並べられている。
時系列情報200において、先頭の2つの座標データ系列CD1、CD2は、手書き文字「A」の2つのストロークをそれぞれ示している。3番目と4番目の座標データ系列CD3、CD4は、手書き文字「B」を構成する2つのストロークをそれぞれ示している。5番目の座標データ系列CD5は、手書き文字「C」を構成する1つのストロークを示している。6番目と7番目の座標データ系列CD6、CD7は、手書き矢印を構成する2つのストロークをそれぞれ示している。
各座標データ系列は、一つのストロークに対応する座標データ系列(時系列座標)、つまり一つのストロークの軌跡上の複数の点それぞれに対応する複数の座標を含む。各座標データ系列において、複数の座標は、ストロークが書かれた順に時系列に並べられている。例えば、手書き文字「A」に関して、座標データ系列CD1は、手書き文字「A」の「∧」形状のストロークの軌跡上の点それぞれに対応する座標データ系列(時系列座標)、つまりn個の座標データCD11、CD12、…CD1nを含む。座標データ系列CD2は、手書き文字「A」の「−」形状のストロークの軌跡上の点それぞれに対応する座標データ系列、つまりn個の座標データCD21、CD22、…CD2nを含む。なお、座標データの数は座標データ系列毎に異なっていてもよい。
各座標データは、対応する軌跡内のある1点に対応するX座標およびY座標を示す。例えば、座標データCD11は、「∧」形状のストロークの始点のX座標(X11)およびY座標(Y11)を示す。CD1nは、「∧」形状のストロークの終点のX座標(X1n)およびY座標(Y1n)を示す。
さらに、各座標データは、その座標に対応する点が手書きされた時点に対応するタイムスタンプ情報Tを含んでいてもよい。手書きされた時点は、絶対時間(例えば、年月日時分秒)またはある時点を基準とした相対時間のいずれであってもよい。例えば、各座標データに、ストロークが書き始められた絶対時間(例えば、年月日時分秒)をタイムスタンプ情報として付加し、さらに、座標データ系列内の各座標データに、絶対時間との差分を示す相対時間をタイムスタンプ情報Tとして付加してもよい。
このように、各座標データにタイムスタンプ情報Tが追加された時系列情報を使用することにより、ストローク間の時間的関係をより精度よく表すことができる。
各座標データには、筆圧を示す情報(Z)を追加してもよい。
各座標データには、筆圧を示す情報(Z)を追加してもよい。
次いで、図5から図7を参照して、ユーザによって手書きされたストローク(文字、マーク、図形、表など)と描画形態情報との関係について説明する。
図5は、複数の描画形態(すなわち、複数のペン)で描画される複数のストロークを含む手書き文書71の例を示す。この手書き文書71には、第1形態で描画される手書き文字のストローク「ABC」72と、第1形態とは異なる第2形態で描画される手書きの線のストローク73とが含まれている。
図5は、複数の描画形態(すなわち、複数のペン)で描画される複数のストロークを含む手書き文書71の例を示す。この手書き文書71には、第1形態で描画される手書き文字のストローク「ABC」72と、第1形態とは異なる第2形態で描画される手書きの線のストローク73とが含まれている。
ここでは、ストロークを第1形態で描画するための「鉛筆ペン」と、ストロークを第2形態で描画するための「マーカーペン」とが規定されていることを想定している。その場合、ユーザは、例えば、鉛筆ペンを選択して文字「ABC」72を手書きした後、マーカーペンを選択して文字「ABC」72上に線73を手書きする。
図6に示すように、文字「ABC」72は5つのストロークST1〜ST5(第1ストローク)で構成され、線73は1つのストロークST6(第2ストローク)で構成されている。これらストロークST1〜ST6のそれぞれの形状や筆順は、上述した時系列情報によって表される。
ところで、このようなストロークST1〜ST6に対して、ストロークに基づく検索(筆跡検索)や文字認識が行われる場合、重なっている文字72のストロークST1〜ST5と線73のストロークST6とに対して検索や文字認識が行われるので、文字や線(図形)を正しく検索または認識できない可能性がある。例えば、ユーザが検索キーとして手書きした文字「ABC」のストロークに基づいて手書き文書71が検索される場合、手書き文書71では文字「ABC」72と線73とが重なっているので、「ABC」に対応するストロークST1〜ST5だけを正しく検出することができない可能性がある。また、例えば、手書き文書71を文字認識する場合、手書き文書71では文字「ABC」72と線73とが重なっているので、「ABC」という文字列を正しく認識することができない可能性がある。
そのため、本実施形態では、上述したように、手書きされたストロークに対して、そのストロークに対応する座標データ系列だけでなく、そのストロークの描画形態を示す描画形態情報(例えば、ストロークを手書きする際に用いた「ペン」を示す情報)も含むストロークデータが生成される。
図7は、手書き文書71において第1形態で描画される手書き文字「ABC」72に対応するストロークST1〜ST5と、第1形態とは異なる第2形態で描画される手書きの線73に対応するストロークST6とに、それぞれの描画形態情報が付加されていることを示す。すなわち、文字「ABC」72に対応するストロークST1〜ST5に第1形態を示す描画形態情報、例えば、「鉛筆ペン」を示すペンID“1”が付加され、線73に対応するストロークST6に第2形態を示す描画形態情報、例えば、「マーカーペン」を示すペンID“2”が付加されている。
これにより本実施形態では、描画形態情報(ペンID)に基づいて、手書きされた複数のストロークを描画形態毎に(すなわち、ペン毎に)扱うことができるので、ストロークに基づく検索や、文字認識、図形認識等の各種の認識を精度よく行うことができる。
さらに、本実施形態では、上述したように、手書き文書は、イメージまたは文字認識結果ではなく、時系列の座標データの集合から構成される時系列情報200として記憶されるので、言語に依存せずに手書きの文字や図形を扱うことができる。よって、本実施形態の時系列情報200の構造は、使用言語の異なる世界中の様々な国で共通に使用できる。
次いで、図8を参照して、デジタルノートブックアプリケーションプログラム202の機能構成について説明する。デジタルノートブックアプリケーションプログラム202は、タッチスクリーンディスプレイ17を用いた手書き入力操作によって入力される座標データ系列(時系列座標)を使用することによって、手書き文書の作成、表示、編集等を行う。また、デジタルノートブックアプリケーション202は、検索キーとして手書きされたストローク(例えば、手書きの文字や図形)を用いて、手書き文書を検索することもできる。さらに、デジタルノートブックアプリケーションプログラム202は、手書き文書上に手書きされた文字を文字コードに変換し(文字認識)、手書きされた図形を図形オブジェクトに変換する(図形認識)こともできる。
デジタルノートブックアプリケーション202は、例えば、ペン設定部300、軌跡表示処理部301、時系列情報生成部302、検索/認識部303、ページ保存処理部306、ページ取得処理部307、および文書表示処理部308を備える。
上述したタッチスクリーンディスプレイ17は、「タッチ」、「移動(スライド)」、「リリース」等のイベントの発生を検出するように構成されている。「タッチ」は、画面上に外部オブジェクトが接触したことを示すイベントである。「移動(スライド)」は、画面上に外部オブジェクトが接触されている間に接触位置が移動されたことを示すイベントである。「リリース」は、画面から外部オブジェクトが離されたことを示すイベントである。
タッチスクリーンディスプレイ17の画面上には、例えば、手書きされるストロークの描画形態を選択するための複数のアイコンと、ストロークを手書きする領域とが表示されている。描画形態を選択するためのアイコンは、ユーザが直感的に理解しやすいように、例えば、描画形態に対応する、ペンの種類や色、太さ等を表現する画像を含む。そのためユーザは、描画形態の選択を、現実空間でペンを選ぶように行うことができる。
ペン設定部300は、タッチスクリーンディスプレイ17によって発生される「タッチ(タップ)」のイベントを受信し、これによってペン変更操作を検出する。「タッチ」イベントには、接触位置の座標が含まれている。ペン設定部300は、描画形態を選択するための複数のアイコンの内のいずれかのアイコン上での「タッチ」イベントが受信されたことに応じて、タッチされたアイコンに関連付けられた描画形態を、現在の描画形態として設定する。描画形態を選択するための複数のアイコンの各々には、例えば、ペン先の種類、線幅、色、透過度等の任意の組み合わせを規定する描画形態(ペン)が関連付けられている。
なお、描画形態を選択するための複数のアイコンの各々には、各描画形態に付与された識別情報(ペンID)が関連付けられてもよい。ペンIDは、例えば、ペン先の種類、線幅(太さ)、色、透過度(濃さ)、等のパラメータが規定されたペンを識別するための識別情報を示す。ペン設定部300は、アイコン上での「タッチ」イベントが受信されたことに応じて、そのアイコンに関連付けられたペンIDに対応する描画形態(ペン)を、現在の描画形態として設定する。描画形態を選択するためのアイコンが表示される画面の例については、図14および図15を参照して後述する。
軌跡表示処理部301および時系列情報生成部302は、タッチスクリーンディスプレイ17によって発生される「タッチ」、「移動(スライド)」または「リリース」のイベントを受信し、これによって手書き入力操作を検出する。「タッチ」イベントには、接触位置の座標が含まれている。「移動(スライド)」イベントには、移動先の接触位置の座標が含まれている。「リリース」イベントには、接触位置が画面から離された位置(リリース位置)の座標が含まれている。したがって、軌跡表示処理部301および時系列情報生成部302は、タッチスクリーンディスプレイ17から、接触位置の動きの軌跡に対応する座標列を受信することができる。
軌跡表示処理部301は、タッチスクリーンディスプレイ17から座標列を受信する。そして、軌跡表示処理部301は、この座標列に基づいて、手書き入力操作によって手書きされる各ストロークの軌跡を、ペン設定部300によって設定された描画形態(ペン)で、タッチスクリーンディスプレイ17内のLCD17Aの画面上に表示する。この軌跡表示処理部301により、画面にペン100が接触している間のペン100の軌跡、つまり各ストロークの軌跡がLCD17Aの画面上に描かれる。
時系列情報生成部302は、タッチスクリーンディスプレイ17から出力される上述の座標列を受信し、この座標列に基づいて、図4で詳述したような構造を有する時系列情報(座標データ系列)と、ペン設定部300によって設定されている現在の描画形態を示す描画形態情報とを含むストロークデータを生成する。この場合、時系列情報、つまりストロークの各点に対応する座標およびタイムスタンプ情報と、描画形態情報とは作業メモリ401に一時保存されてもよい。
また、ペン設定部300は、描画形態を選択するための複数のアイコンの内のいずれかのアイコン上での「タッチ」イベントが受信されたことに応じて、描画形態を随時変更できる。ユーザは、例えば、「ボールペン」の描画形態を設定するためのアイコンをタッチして文字を手書きし、「マーカーペン」の描画形態を設定するためのアイコンをタッチして、その文字を強調するための線を手書きすると云うように、描画形態を適宜変更しながら、文字や図形を手書きすることができる。
したがって、時系列情報生成部302は、手書きされたストロークに対して、そのストロークに対応する時系列情報と、そのストロークの描画形態情報とを含むストロークデータを生成する。そして、時系列情報生成部302は、生成されたストロークデータを作業メモリ401に一時保存する。
ページ保存処理部306は、生成されたストロークデータ(作業メモリ401に一時保存されたストロークデータ)を含む、手書き文書単位(または手書きページ単位)の手書き文書データを生成し、記憶媒体402に保存する。記憶媒体402は、例えば、タブレットコンピュータ10内のストレージデバイスである。
例えば、時系列情報生成部302およびページ保存処理部306は、第1形態で描画される1以上の第1ストロークと、第1形態とは異なる第2形態で描画される1以上の第2ストロークとが画面上に手書きされる場合に、第1ストロークに対応する第1ストロークデータと第2ストロークに対応する第2ストロークデータとを含む手書き文書データを生成し、記憶媒体402に保存する。なお、生成された手書き文書データは、後述する検索/認識部303の入力として用いられ得る。
ページ取得処理部307は、記憶媒体402や、ネットワークを介して接続されたサーバ等から、既に格納されている任意の手書き文書データを読み出す。読み出された手書き文書データは文書表示処理部308に送られる。また、読み出された手書き文書データは、後述する検索/認識部303の入力として用いられ得る。
文書表示処理部308は、手書き文書データを解析し、この解析結果に基づいて、時系列情報によって示される各ストロークの軌跡を、各ストロークに対応する描画形態情報によって示される描画形態で、画面上に手書き文書(手書きページ)として表示する。なお、文書表示処理部308は、手書き文書の作成、編集、削除等を指示するためのメニューや、手書きされるストロークの描画形態(ペン)を選択するためのオブジェクト等の各種のGUIも表示することができる。
図9は、手書き文書データの例を示す。
手書き文書データは、手書き文書上に手書きされた複数のストロークに対応する複数のストロークデータを含む。各ストロークデータは、対応する一つのストロークの座標データ系列(時系列情報)と、そのストロークが描画される描画形態を示す描画形態情報とを含む。以下では、描画形態情報としてペンIDが用いられることを想定する。
手書き文書データは、手書き文書上に手書きされた複数のストロークに対応する複数のストロークデータを含む。各ストロークデータは、対応する一つのストロークの座標データ系列(時系列情報)と、そのストロークが描画される描画形態を示す描画形態情報とを含む。以下では、描画形態情報としてペンIDが用いられることを想定する。
座標データ系列(時系列情報)は、図4を参照して上述したように、一つのストロークの軌跡上の複数の点それぞれに対応する複数の座標(例えば、X座標およびY座標)を含む。ペンIDは、その一つのストロークが手書きされる際に使用されたペン(すなわち、描画形態)に付与された識別情報を示す。
図10を参照して、ペンIDを規定するペン情報の一構成例を説明する。ペン情報は、複数のペンに対応する複数のエントリを含む。これら複数のペンは、例えば、デジタルノートブックアプリケーション202によって予め規定された描画形態が関連付けられている。つまり、各ペンには、ペン先の形状、色、太さ、濃さ(透過度)、線種、等を示す各種のパラメータが予め設定されている。
ペン情報の各エントリは、例えば、「ペンID」と「ペン」とを含む。あるペンに対応するエントリにおいて、「ペンID」は、そのペンに付与された識別情報を示す。「ペン」は、そのペンの種類を示す。したがって、各エントリでは、デジタルノートブックアプリケーション202によって規定されたペンとペンIDとの対応が示される。図10に示す例では、ペン情報は、デジタルノートブックアプリケーション202によって規定されている「鉛筆ペン」、「マーカーペン」、「赤ペン」等の複数のペンと、それら複数のペンの各々の識別情報(ペンID)とを示している。
図9に示したストロークデータには、例えば、図10のペン情報によって示される複数のペンの内の、いずれかのペンを示すペンIDが含まれている。したがって、図9および図10に示す例では、「ストロークデータ1」と「ストロークデータ2」とが、ペンID=1である「鉛筆ペン」で描画されたストロークに対応し、「ストロークデータ6」が、ペンID=2である「マーカーペン」で描画されたストロークに対応している。
図9に示したストロークデータには、例えば、図10のペン情報によって示される複数のペンの内の、いずれかのペンを示すペンIDが含まれている。したがって、図9および図10に示す例では、「ストロークデータ1」と「ストロークデータ2」とが、ペンID=1である「鉛筆ペン」で描画されたストロークに対応し、「ストロークデータ6」が、ペンID=2である「マーカーペン」で描画されたストロークに対応している。
なお、使用されるペン(描画形態)は、ペン先の形状、色、太さ、濃さ(透過度)、線種、等を示す各種のパラメータによって識別されてもよい。
図11から図13を参照して、ペンIDを規定するペン情報を別の構成例について説明する。図11は、ペン先情報の一構成例を示す。ペン先情報は、複数種のペン先に対応する複数のエントリを含む。各エントリは、例えば、「ペン先ID」と「ペン先」とを含む。あるペン先に対応するエントリにおいて、「ペン先ID」は、そのペン先に付与された識別情報を示す。「ペン先」は、そのペン先の形状を示す。「ペン先」には、例えば、予め規定された形状を表す「鉛筆」、「マーカー」、「ボールペン」等が設定される。
図12は、色情報の一構成例を示す。色情報は、複数種の色に対応する複数のエントリを含む。各エントリは、例えば、「色ID」と「色」とを含む。ある色に対応するエントリにおいて、「色ID」は、その色に付与された識別情報を示す。「色」は、その色を示す。「色」には、例えば、予め規定された色を表す「黒」、「赤」、「黄」等が設定される。なお、「色」には、RGBの値のような、色を表す値が設定されてもよい。
そして、図13は、上述したペン先情報、色情報等を用いて規定されるペン情報の一構成例を示す。ペン情報は、複数のペンに対応する複数のエントリを含む。このペン情報の各エントリは、例えば、「ペン先」、「色」、「太さ」、「濃さ」、「ペンID」を含む。
あるペンに対応するエントリにおいて、「ペン先」は、そのペンのペン先、すなわち、ペンを使用して描画されるストロークの形状を示す。「ペン先」には、例えば、図11のペン先情報によって規定される「ペン先ID」の値の一つが設定される。「色」は、そのペンの色、すなわち、ペンを使用して描画されるストロークの色を示す。「色」には、例えば、図12の色情報によって規定される「色ID」の値の一つが設定される。
「太さ」は、そのペンの太さ、すなわち、ペンを使用して描画されるストロークの太さを示す。「太さ」には、例えば、予め規定された範囲内の値や、ポイント単位の値等が設定される。「濃さ」は、そのペンの濃さ、すなわち、ペンを使用して描画されるストロークの濃さ(透過度)を示す。「濃さ」には、例えば、予め規定された範囲内の値や、パーセント単位の値が設定される。「ペンID」は、そのペンに付与された識別情報を示す。「ペンID」には、例えば、「ペン先」、「色」、「太さ」、「濃さ」の各々に示される値を組み合わせた値が設定される。例えば、図13に示す「ペン先」=1,「色」=1,「太さ」=1,「濃さ」=6であるエントリにおいては、「ペンID」に、これらの値が組み合わせられた(1,1,1,6)が設定されている。このように各種のペン属性を示すパラメータが組み合わせられたペンIDを、図9に示したような手書き文書データ内のストロークデータのペンIDとして用いることができる。
検索/認識部303は、上述のように構成される手書き文書データに対して、検索処理や認識処理のような各種の処理を施すことができる。ここでは、第1形態で描画される1以上の第1ストロークと、第1形態とは異なる第2形態で描画される1以上の第2ストロークとが手書きされる場合に、第1ストロークに対応する第1ストロークデータと第2ストロークに対応する第2ストロークデータとを含む手書き文書データが、検索/認識部303に入力されることを想定する。図5に示した例のように、1以上の第1ストロークと1以上の第2ストロークとは、少なくとも一部が重複していてもよい。
検索/認識部303は、1以上の第1ストロークが描画される領域と、1以上の第2ストロークが描画される領域とが少なくとも一部重複する場合に、第1ストロークデータのみに対する第1処理(例えば、検索処理、認識処理、等)の処理結果、第2ストロークデータのみに対する第1処理の処理結果、あるいは、第1ストロークデータと第2ストロークデータとに対する第1処理の処理結果のいずれかを表示可能である。
例えば、上記の第1処理が、検索キーであるストローク(以下、第3ストロークとも称する)に対応する第3ストロークデータに基づく手書き文書データへの検索処理である場合、検索/認識部303は、第1ストロークデータのみに対する第3ストロークデータに基づく検索処理結果、第2ストロークデータのみに対する第3ストロークデータに基づく検索処理結果、あるいは、第1ストロークデータと第2ストロークデータに対する第3ストロークデータに基づく検索処理結果のいずれかを表示可能である。
より具体的には、検索/認識部303は、検索を指示する操作に応じて、記憶媒体402に保存された複数の手書き文書や画面に表示中の手書き文書等(以下、対象手書き文書とも称する)に対して、検索キーである第3ストロークに基づく検索を行う。第3ストロークは、例えば、手書きの文字や図形を構成する1以上のストロークであり、ユーザによって手書き入力される。
検索/認識部303は、対象手書き文書に対応する手書き文書データから、描画形態(ペンID)毎に、1以上のストロークデータを取り出す。そして、検索/認識部303は、描画形態毎のストロークデータに対して、検索キーである第3ストロークに対応する第3ストロークデータに基づいて検索を行う。例えば、検索/認識部303は、1以上の第1ストロークが描画される領域と、1以上の第2ストロークが描画される領域との少なくとも一部が重複する場合に、第3ストロークデータに基づいて第1ストロークデータを検索し、第3ストロークデータに基づいて第2ストロークデータを検索する。
検索/認識部303は、第1ストロークデータを用いて、1以上の第1ストロークに対応する1以上の第1特徴量を算出し、第2ストロークデータを用いて、1以上の第2ストロークに対応する1以上の第2特徴量を算出し、第3ストロークデータを用いて、第3ストロークに対応する第3特徴量を算出する。そして、検索/認識部303は、1以上の第1特徴量と第3特徴量とに基づいて、1以上の第1ストロークから、第3ストロークに対応するストロークを検出し、1以上の第2特徴量と第3特徴量とに基づいて、1以上の第2ストロークから、第3ストロークに対応するストロークを検出する。
例えば、検索/認識部303は、検索キーに対応する第3ストロークデータを解析することによって、検索キーとして手書きされた第3ストロークに対応する特徴量を算出する。検索/認識部303は、第3ストロークに対応する座標データ系列を用いて、例えば、ストロークの傾きのような形状を表す特徴量であって、ストロークのサイズ(長さ)や、ストローク上でサンプリングされた座標点数(座標データ数)のような形状以外の特徴が正規化された特徴量を算出する。
同様にして、検索/認識部303は、手書き文書データ内の、第1形態の1以上の第1ストロークに対応する第1ストロークデータを解析することによって、1以上の第1ストロークそれぞれに対応する1以上の特徴量を算出する。そして、検索/認識部303は、対象手書き文書内の1以上の第1ストロークに対応する1以上の特徴量と、検索キーに対応する特徴量とを用いて筆跡検索を実行することによって、第1ストロークに対応する特徴量の中に、検索キーの特徴量に相当する特徴量があるか否かを判定する。つまり、検索/認識部303は、1以上の第1ストロークに対応する1以上の特徴量と検索キーの特徴量とを用いて、1以上の第1ストロークの中に検索キーに類似するストローク(すなわち、検索キーに近いストローク)が含まれているか否かを判定する。検索/認識部303は、例えば、1以上の第1ストロークに対応する1以上の特徴量に、検索キーに対応する特徴量との類似度がしきい値以上である特徴量が含まれる場合、その特徴量を有する1以上の第1ストロークの内のストローク、すなわち、検索キーに類似するストロークを検出する。
また、検索/認識部303は、同様にして、手書き文書データ内の、第2形態の1以上の第2ストロークから、検索キーに類似するストロークを検出する。このようにして、検索/認識部303は、手書き文書に含まれる描画形態毎のストロークから、検索キーのストロークに類似するストロークを検索する。
検索/認識部303は、1以上の第1ストロークが描画される領域と、1以上の第2ストロークが描画される領域との少なくとも一部が重複する場合に、第1ストロークデータのみに対する検索処理(第1処理)の処理結果と、第2ストロークデータのみに対する検索処理の処理結果と、第1ストロークデータと第2ストロークデータとに対する検索処理の処理結果のいずれかを、タッチスクリーンディスプレイ17の画面に表示する。
この処理結果として、検索/認識部303は、例えば、対象手書き文書が既に表示されている場合、検出されたストローク(検索キーに類似するストローク)を強調して表示してもよい。また、検索/認識部303は、記憶媒体402やサーバ等に格納された複数の手書き文書(手書き文書データ)から、検索キーに類似するストロークを含む手書き文書を検出し、検出された手書き文書のサムネイルのリストを表示してもよい。
以上のように、検索/認識部303は、手書き文書内の複数のストロークを描画形態毎に(すなわち、ペン毎に)扱うので、描画形態が異なるストローク同士が重なっていたり、近接したりしている場合にも、ストロークに基づく検索を精度よく行うことができる。
また、上記の第1処理が手書き文書データへの認識処理である場合、検索/認識部303は、第1ストロークデータのみに対する認識処理結果、第2ストロークデータのみに対する認識処理結果、あるいは、第1ストロークデータと第2ストロークデータに対する認識処理結果のいずれかを表示可能である。さらに、上記の第1処理が手書き文書データへの文字認識処理である場合、検索/認識部303は、第1ストロークデータのみに対する文字認識処理結果、第2ストロークデータのみに対する文字認識処理結果、あるいは、第1ストロークデータと第2ストロークデータに対する文字認識処理結果のいずれかを表示可能である。
より具体的には、検索/認識部303は、認識を指示する操作に応じて、記憶媒体402に保存された手書き文書や画面に表示中の手書き文書等(対象手書き文書)に対して、文字認識や図形認識を行う。
検索/認識部303は、対象手書き文書に対応する手書き文書データから、描画形態(ペンID)毎に、1以上のストロークデータを取り出す。そして、検索/認識部303は、描画形態毎のストロークデータに対して、文字認識や図形認識を行う。例えば、検索/認識部303は、1以上の第1ストロークが描画される領域と、1以上の第2ストロークが描画される領域との少なくとも一部が重複する場合に、第1ストロークデータに文字認識処理(または図形認識処理)を施し、第2ストロークデータに文字認識処理(または図形認識処理)を施す。
検索/認識部303は、第1形態の1以上の第1ストロークに対応する第1ストロークデータを用いて、1以上の第1ストロークに対応する文字コードや図形オブジェクトを認識する。検索/認識部303は、1以上の第1ストロークデータと文字辞書データとを用いて、手書き文書上の手書き文字を認識する。つまり、手書き文書上の1以上の第1ストロークから手書き文字を認識する。文字辞書データは、例えば、記憶媒体402に予め格納され、複数の文字(文字コード)の特徴を示す複数のエントリを含む。
検索/認識部303は、例えば、認識処理対象の1以上の第1ストロークデータをグループ化処理することによって、複数のブロック(手書きブロック)を検出する。グループ化処理では、互いに近傍に位置するストロークにそれぞれ対応するストロークデータ同士が同一ブロックに分類されるように、認識処理対象の1以上の第1ストロークデータがグループ化される。
検索/認識部303は、検出された複数のブロックの内の処理対象ブロックを、文字コードに変換する。検索/認識部303は、文字辞書データを用いて、手書き文字(処理対象ブロックに含まれる1以上のストローク)と複数の文字コードそれぞれとの間の類似度を算出する。検索/認識部303は、例えば、手書き文字と文字コードとの類似度を、文字の形状や書き順に基づいて算出する。そして、検索/認識部303は、手書き文字を、その手書き文字に関する類似度が最も高い文字コードに変換する。
検索/認識部303は、文字認識結果に基づいて、手書き文書上の手書き文字に対応する文字コードを表示(プレビュー表示)してもよい。つまり、検索/認識部303は、手書き文書上に表示されている手書き文字を、対応する文字コードに置き換える。
また、検索/認識部303は、文字認識結果に基づいて、手書き文書上の手書き文字に対応する文字コードを示す文字コードデータを生成してもよい。検索/認識部303は、生成された文字コードデータを作業メモリ401等に一時保存してもよい。
さらに、検索/認識部303は、1以上の第1ストロークデータを用いて、手書き文書上の手書き図形を認識する。検索/認識部303は、認識処理対象の1以上の第1ストロークデータを上述のようにグループ化処理することによって得られる複数のブロック内の処理対象ブロックを、複数の図形オブジェクトの内の一つに変換する。手書き文書内に含まれる手書き図形は、例えば、PowerPoint(登録商標)などのドロー系アプリケーションプログラムが扱うことが可能な図形オブジェクトに変換される。
検索/認識部303は、1以上の第1ストロークから図形オブジェクトを認識する。検索/認識部303は、例えば、複数の図形オブジェクトそれぞれの特徴を示す図形辞書データを予め保持しており、手書き図形(処理対象ブロックに含まれる1以上のストローク)と複数の図形オブジェクトそれぞれとの間の類似度を算出する。そして、検索/認識部303は、手書き図形を、この手書き図形に関する類似度が最も高い図形オブジェクトに変換する。
この類似度は、例えば、手書き図形(ストローク)の時系列情報に基づく特徴量と図形オブジェクトの輪郭線(形状)に基づく特徴量との類似度である。また、類似度の算出においては、手書き図形を必要に応じて回転、拡大、または縮小してもよく、回転、拡大、または縮小された後の手書き図形と複数の図形オブジェクトそれぞれとの間の類似度が求められる。そして、手書き図形に関する類似度が最も高い図形オブジェクトが選択され、この選択された図形オブジェクトは、手書き図形に対して施された回転、拡大、または縮小の処理内容に基づいて変形される。この変形された図形オブジェクトが、手書き図形の代わりに表示される。
上述の類似度の計算においては、手書き図形のストロークの軌跡情報および各図形オブジェクトの軌跡情報の各々をベクトルの集合として扱い、ベクトルの集合同士の比較を行うことによって類似度を算出することができる。これにより、手書きで描いた図形を容易にPowerPointなどのドロー系の文書(アプリケーションデータ)に変換することができる。
検索/認識部303は、図形認識結果に基づいて、手書き文書上の手書き図形に対応する図形オブジェクトを画面に表示(プレビュー表示)してもよい。つまり、検索/認識部303は、手書き文書上に表示されている手書き図形を、対応する図形オブジェクトに置き換える。
また、検索/認識部303は、図形認識結果に基づいて、手書き文書上の手書き図形に対応する図形オブジェクトを示す図形オブジェクトデータを生成してもよい。検索/認識部303は、生成された図形オブジェクトデータを作業メモリ401等に一時保存してもよい。
同様にして、検索/認識部303は、第2形態の1以上の第2ストロークに対応する第2ストロークデータを用いて、1以上の第2ストロークに対応する文字コードや図形オブジェクトを認識する。
検索/認識部303は、1以上の第1ストロークが描画される領域と、1以上の第2ストロークが描画される領域との少なくとも一部が重複する場合に、第1ストロークデータのみに対する認識処理(第1処理)の処理結果と、第2ストロークデータのみに対する認識処理の処理結果と、第1ストロークデータと第2ストロークデータとに対する認識処理の処理結果のいずれかを、タッチスクリーンディスプレイ17の画面に表示する。
この処理結果として、検索/認識部303は、例えば、手書き文書上の手書き文字に対応する文字コードを表示し、手書き図形に対応する図形オブジェクトを表示する。
以上のように、検索/認識部303は、手書き文書内の複数のストロークを描画形態毎に(すなわち、ペン毎に)扱うので、描画形態(ペンID)が異なるストローク同士が重なっていたり、近接したりしている場合にも、描画形態が異なるストローク同士を1つの文字や図形を構成するストロークとして認識しない。したがって、文字認識や図形認識を精度よく行うことができる。
次いで、図14および図15を参照して、描画形態を規定するペンを設定するための画面の例について説明する。
図14は、ペン入力モード時に表示されるノートビュー画面とメニュー表示モード時に表示されるノートビュー画面との関係を示す。
文書表示処理部308は、ページ(手書きページ)の新規作成、および既存のページの閲覧および編集が可能なノートビュー画面を表示する。ノートビュー画面は2つの表示モードに対応する2種類の表示形態を有している。デジタルノートブックアプリケーション202内の各部は、2つのモード、つまり、ペン入力モードとメニュー表示モードとに応じて動作することができる。
文書表示処理部308は、ページ(手書きページ)の新規作成、および既存のページの閲覧および編集が可能なノートビュー画面を表示する。ノートビュー画面は2つの表示モードに対応する2種類の表示形態を有している。デジタルノートブックアプリケーション202内の各部は、2つのモード、つまり、ペン入力モードとメニュー表示モードとに応じて動作することができる。
ペン入力モードは手書き入力可能なモードである。このペン入力モードにおいては、文書表示処理部308は、図14の左部に示されるノートビュー画面を表示する。このノートビュー画面は手書き入力可能な画面である。このノートビュー画面において、破線で囲まれた矩形の領域は手書き可能な領域である。手書き可能な領域においては、デジタイザ17Cからの入力は描画のために使用され、タップ、スワイプ等のジェスチャを示すイベントとしては使用されない。一方、手書き可能な領域以外の領域においては、デジタイザ17Cからの入力はタップ、スワイプ等のジェスチャを示すイベントとしても使用され得る。タッチパネル17Bからの入力は、描画には使用されず、タップ、スワイプ等のジェスチャを示すイベントとして使用される。
ペン入力モードに対応するこのノートビュー画面には、ユーザによって選択された任意の手書き文書データ内の任意のページを表示することができる。ペン入力モードにおいては、できるだけ大きなサイズの手書き可能領域をノートビュー画面内に確保できるようにするために、必要最小限のユーザインタフェースが表示される。本実施形態では、ノートビュー画面の端部、例えば、上端部に、ペン100を使用したユーザの手書き入力操作を支援するためのユーザインタフェースが表示される。
このユーザインタフェースは、デジタイザ17Cからの入力に基づいて行われる描画の形態(描画の種類)をユーザが容易に切り替えることを可能にするためのグラフィカルユーザインタフェースである。例えば、描画の形態には、デジタイザ17Cからの入力に基づいて描画されるストロークの属性(色、太さ、形状、濃さ、透過度、その他)、デジタイザ17Cからの入力に基づいて描画される消しゴムの軌跡(消去ストローク)の属性(太さ、形状、その他)、およびデジタイザ17Cからの入力に基づいて描画される範囲選択のための枠の属性(形状、その他)、等が含まれ得る。
このユーザインタフェースは、描画の形態(描画の種類)をユーザが容易に切り替えることを可能にするために、描画の複数の形態(すなわち、複数のペン)に対応する複数のアイコン(ボタン)501〜505を含む。これらアイコン501〜505は、手書き可能領域を狭めないようにするために、画面の上端部において横に一列に並べられている。
アイコン(ボタン)501〜505の各々は、手書き可能領域を狭めないようにするために、小さな丸のような形状を有している。これらアイコン(ボタン)501〜505の内のアイコン501、502、503は、手書きストロークを描画するための異なる3つの形態にそれぞれ対応している。つまり、アイコン501、502、503には、手書きストロークを描画するための異なる3つの形態がそれぞれ割り当てられている。
ここでは、アイコン501には、手書きストロークを描画するための形態として、例えば、色=黒、太さ(線幅)=nポイント、ペン先=鉛筆のようなペン種属性が割り当てられている。この場合、アイコン501は黒色で塗り潰された小さな丸を表す画像であってもよい。
アイコン502には、手書きストロークを描画するための別の形態として、例えば、色=赤、太さ(線幅)=mポイント、ペン先=ポールペンのようなペン種属性が割り当てられている。この場合、アイコン502は赤色で塗り潰された小さな丸を表す画像であってもよい。
アイコン503には、手書きストロークを描画するためのさらに別の形態として、例えば、色=黄、太さ(線幅)=2mポイント、ペン先=マーカーのようなペン種属性が割り当てられている。この場合、アイコン503は黄色で塗り潰された小さな丸を表す画像であってもよい。
ユーザは、アイコン501、502、503のいずれかをペン100または指でタップするというシングルアクションを行うだけで、容易に使用すべき手書きストロークの描画の形態、つまり使用すべきペン種を切り替えることができる。ペン設定部300は、ユーザがアイコン501、502、503のいずれかをタップしたこと(ペン変更操作)が検出されたことに応じて、タップされたアイコンに関連付けられた描画形態(ペン)を、現在の描画形態として設定する。
アイコン504は、ノートビュー画面上の範囲を選択するための描画の形態に対応している。つまり、アイコン504には、ノートビュー画面上の範囲を選択するための描画の形態、例えば、範囲選択のための矩形または自由枠を描画するための形態が割り当てられる。アイコン505は、ノートビュー画面上の手書きストロークを消去(透明にする)ことが可能な描画の形態に対応している。つまり、このアイコン505には、ノートビュー画面上の手書きストロークを消去(透明にする)ことが可能な描画の形態が割り当てられている。例えば、ページの背景色と同じ色でペン100の動きの軌跡(消去ストローク)を描画することにより、あるいは消去ストロークと他の手書きストロークとが交差する交差部分を透明にするための透明の属性を有する消去ストロークを描画することにより、ノートビュー画面上の任意の手書きストロークを消去することができる。
したがって、本実施形形態では、ユーザは、アイコン501、502、503、504、505のいずれかをペン100または指でタップするというシングルアクションを行うだけで、ペン種(赤ペン、黒ペン、マーカ)の切り替えだけでなく、ペンと範囲選択ツールと消しゴムツールとの間の切り替えをすることができる。アイコン501、502、503、504、505の内から選択されたアイコンは、強調表示される。この場合、選択されたアイコンのサイズを大きくしてもよいし、選択されたアイコンの回りに飾り枠を表示してもよい。
例えば、黒ペンのアイコン501が選択(タップ)された場合、ペン設定部300は、このアイコン501に関連付けられた、色=黒、太さ(線幅)=nポイント、ペン先=鉛筆のペン種属性を、現在の描画形態(ペン)として設定する。そして、ペン100を用いて手書き入力されると、軌跡表示処理部301は、ペン100の動きに合わせて黒色のストローク(軌跡)をノートビュー画面上に表示する。また、時系列情報生成部302は、ノートビュー画面を通じて入力されるストロークに対応するストロークデータを生成する。上述したように、生成されるストロークデータには、ストロークに対応する座標データ系列と、当該ストロークの描画形態(ペン)を示す描画形態情報とが含まれている。
また、選択ボタン504が選択された場合、軌跡表示処理部301は、ペン100または指を用いたドラッグ操作に応じてノートビュー画面中で範囲を選択する。
従来のインタフェースでは、ユーザは、例えば階層構造のメニューをたどりながら、色を選択する操作、太さを選択する操作などを含む複数の操作を行うことが必要とされる。またもし階層構造のメニューの代わりに、色を選択するためのメニューと、太さを選択するためのメニュー等とを含む複数のメニューを同時に画面上に表示すると、手書き可能領域が狭くなる。
本実施形態では、上述したように、異なる描画の形態がそれぞれ割り当てられる複数の小さなアイコン501〜505(ミニマムなペン)をノートビュー画面上に表示しているので、手書き可能領域を大きく取ることができ、かつシングルアクションでペン種(赤ペン、黒ペン、マーカー)、範囲選択、および消しゴムを素早く切り替えることができる。
ノートビュー画面上が指でスワイプされると、文書表示処理部308は、ノートビュー画面上に表示されるページを別のページに変更することができる。例えば、ノートビュー画面上が指で右方向に向けてスワイプされると、文書表示処理部308は、現在表示されているページの次のページをノートビュー画面上に表示する。現在表示されているページがあるノートファイルの第1頁である場合には、右方向へのスワイプに応じて、このノートファイルの第2頁がノートビュー画面上に表示される。
さらに、もしノートビュー画面上のアイコン以外の領域が指でタップされたならば、文書表示処理部308は、メニュー表示モードに遷移する。メニュー表示モードは上述の描画の複数の形態を設定するためのメニューを少なくとも表示可能なモードである。
このメニュー表示モードにおいては、文書表示処理部308は、図14の右部に示されるように、複数の小さなアイコン501〜505を含むユーザインタフェースの代わりに、このユーザインタフェースよりも大きなサイズを有する別のユーザインタフェース(ペンメニュー)をノートビュー画面上に表示する(円で囲まれているアイコン群)。つまり、円で囲まれているアイコン群を含むユーザインタフェースの面積は、複数の小さなアイコン501〜505を含むユーザインタフェースの面積よりも大きい。さらに、文書表示処理部308は、メニュー520aもノートビュー画面上に表示する。
メニュー表示モードにおいては、ノートビュー画面への手書き入力は行われない。このメニュー表示モードのノートビュー画面においては、デジタイザ17Cからの入力およびタッチパネル17Bからの入力の各々は、タップ操作、スワイプ操作、ピンチ操作等のジェスチャを示すイベントとして使用される。
メニュー表示モードのノートビュー画面上のペンメニューは、ペン入力モードで表示される複数の小さなアイコン501〜505がどのような機能に対応しているかをユーザが確認することを可能にする。さらに、ノートビュー画面上のペンメニューは、ユーザがアイコン501〜505に対応する描画の形態を設定(または変更)することを可能にし、またユーザが作成/編集しているページに適用可能な各種機能を呼び出すことを可能にする。
上述したように、ペン入力モードのノートビュー画面にはペン種切り替えのような最小限の機能が割り当てられた小さいサイズのユーザインタフェースが表示されるので、ユーザは、手書き入力可能領域を有効に活用でき、ページへの手書き入力に専念することができる。また、ユーザは、ノートビュー画面をタップするという簡単な操作を行うだけで、アイコン501〜505の機能を確認でき且つページに適用すべき機能(描画の形態の設定/変更を含む)の呼び出しが可能なメニュー表示モードに容易に切り替えることができる。
メニュー表示モードのノートビュー画面においては、複数の小さなアイコン501〜505を含むユーザインタフェースの代わりに、このユーザインタフェースよりも大きなサイズを有する別のユーザインタフェースであるペンメニュー等が表示される。このペンメニューは、デジタイザ17Cからの入力に基づいて行われる描画の上述の複数の形態に対応し、且つ複数の小さなアイコン501〜505と異なる複数の大きなアイコン(ボタン)511〜515を含む。ユーザは、アイコン511〜515を見ることにより、ペン入力モードで表示される複数の小さなアイコン501〜505にどのような機能が割り当てられているのかを容易に確認することができる。
アイコン511〜515の各々はこれらアイコンに対応する機能(描画の形態)をリアルに表現するための画像であってもよい。アイコン511〜515は上述の小さなアイコン501〜505にそれぞれ対応している。ペン入力モードにおいては、黒ペン、赤ペン、マーカー、選択(範囲選択)、消しゴムに対応する小さなアイコン501〜505がこの順に横一列に並べられているが、黒ペン、赤ペン、マーカー、選択、消しゴムに対応するアイコン511〜515はこの順に縦一列に並べられている。このようにペン入力モードとメニュー表示モードとで、アイコンの配置の縦横は変わるものの、黒ペン、赤ペン、マーカー、選択、消しゴムという順番は変わらない。したがって、ユーザはアイコン511〜515が上述の小さなアイコン501〜505にそれぞれ対応していることを理解しやすくなる。
アイコン511は上述の小さなアイコン501よりも大きく且つリアルなペンの画像(ここでは、ペンの側面図の画像)であってもよい。小さなアイコン501の上述の丸形状は、ペン先の正面図を模式的に表していたが、アイコン511はペンの側面図を表す立体感のある画像から構成され得る。アイコン511においては、ペンの先端は黒色で表示され、このペン先は現在設定されている黒ペンの太さに対応する太さで表示される。あるいは、図14に示されているように、ペン先の近くに、現在設定されている黒ペンの太さに対応する太さで黒色の線を表示してもよい。
アイコン512は上述の小さなアイコン502よりも大きく且つリアルなペンの画像(ここでは、ペンの側面図の画像)であってもよい。小さなアイコン502の上述の丸形状は、ペン先の正面図を模式的に表していたが、アイコン512はペンの側面図を表す立体感のある画像から構成される。アイコン512においては、ペンの先端は赤色で表示され、このペン先は現在設定されている赤ペンの太さに対応する太さで表示される。あるいは、図14に示されているように、ペン先の近くに、現在設定されている赤ペンの太さに対応する太さで赤色の線を表示してもよい。
アイコン513は上述の小さなアイコン503よりも大きく且つリアルなペンの画像(ここでは、ペンの側面図の画像)であってもよい。小さなアイコン503の上述の丸形状は、ペン先の正面図を模式的に表していたが、アイコン513はペンの側面図を表す立体感のある画像から構成される。アイコン513においては、ペンの先端は黄色で表示され、このペン先は現在設定されているマーカーの太さに対応する太さで表示される。あるいは、図14に示されているように、ペン先の近くに、現在設定されているマーカーの太さに対応する太さで、現在設定されているマーカーの色(ここでは黄色)の線を表示してもよい。
同様に、アイコン514、515も、上述のアイコン504、505よりも大きく且つリアルな画像から構成される。
細長形状を有するこれらアイコン511〜515は、これらアイコンの長手方向がノートピュー画面の横方向に延在するようにノートビュー画面上に縦に一列に並べられている。現在選択されているアイコンのノートビュー画面上の位置は自動的に変更される。例えば、アイコン502がユーザによって選択されている状態で表示モードがペン入力モードからメニュー表示モードに切り替えられた場合、あるいはペン入力モードのノートビュー画面上でアイコン512がユーザによって選択された場合には、アイコン512の位置が変更される。この場合、アイコン512として使用されるペンの画像を、図14に示されているように、他のアイコンのペン画像よりも画面の中心部に向けて突出するように表示してもよい。このように選択されたアイコンの表示位置を変更することにより、どのアイコンが現在選択されているのかをユーザに分かり易く呈示することができる。
文書表示処理部308は、アイコン511〜515のいずれかが左方向にスワイプされた場合(あるいは選択されているアイコンがさらにタップされた場合)、スワイプされたこのアイコンに対応する描画の形態を設定するための詳細設定メニューをノートビュー画面上に表示し得る。詳細設定メニューを操作することにより、ユーザは、スワイプされたアイコンに割り当てる描画形態を変更することができる。また、詳細設定メニューを操作することにより、ユーザは、新たな描画形態を作成することもできる。この場合、この新たな描画形態が割り当てられた新規の小さなアイコンおよび大きなリアルなアイコンが、文書表示処理部308によってペン入力モードのノートビュー画面およびメニュー表示モードのノートビュー画面に表示される。
メニュー520aは、複数の機能が割り当てられた複数のアイコン(ボタン)を表示する。メニュー520aの内容、つまりメニュー520a内に表示される複数のアイコンの種類は、ノートビュー画面に表示されているページの内容に応じて自動的に変更される。サブメニューが関連付けられたアイコンを、メニュー520a内に表示することもできる。ユーザは、サブメニューから目的の機能に対応するアイコンを選択することができる。
図15に示すように、ペン入力モードのノートビュー画面に表示される幾つかのアイコンにサブメニューを割り当てることができ、同様に、メニュー表示モードのノートビュー画面に表示される幾つかのアイコンにサブメニューを割り当てることができる。
図15では、範囲選択のためのアイコン504にサブメニューが割り当てられ、また消しゴムのアイコン505にサブメニューが割り当てられている場合が想定されている。
アイコン504が指またはペン100によってタップされると、文書表示処理部308は、サブメニュー504aをノートビュー画面上に表示する。サブメニュー504aには、「矩形」、「自由枠」(フリーハンド枠)、「全選択」に対応する3つのアイコンが表示される。ユーザは、これら3種類の選択ツールの1つを選択することができる。「全選択」に対応するアイコンが選択された場合には、軌跡表示処理部301は、表示中のページ全体を選択することができる。
アイコン505が指またはペン100によってタップされると、文書表示処理部308は、サブメニュー505aをノートビュー画面上に表示する。サブメニュー505aには、消しゴムの太さ(消しゴムに対応する描画の太さ)を指定する3つのアイコンと、「全消去」を指定するアイコンとが表示される。
メニュー表示モードのノートビュー画面においても、アイコン514に関連付けてサブメニュー504aと同様の内容のサブメニューを表示し得、またアイコン515に関連付けてサブメニュー505aと同様の内容のサブメニューを表示し得る。
メニュー表示モードのノートビュー画面において、アイコン511〜515のいずれかが左方向に指またはペン100によってスワイプされた場合(あるいは選択されているアイコンが指またはペン100によってさらにタップされた場合)、文書表示処理部308は、図15の右部に示すように、スワイプされたこのアイコン(ここではアイコン512)をノートビュー画面の中央に表示すると共に、他の各アイコンをグレーアウトする。そして、文書表示処理部308は、ノートビュー画面上に、メニュー520aの代わりに、別のメニュー520cを表示する。メニュー520c内の例えば「編集」アイコンが指またはペン100によってタップされると、文書表示処理部308は、描画形態を設定するための詳細設定メニュー530をノートビュー画面上に表示する。ユーザは、詳細設定メニュー530を操作することによって、アイコン512(つまりアイコン502)に割り当てるべきペン先種別(毛筆、万年筆、鉛筆、ボールペン、マーカ、等)と、色と、太さと、濃さとを指定することができる。ペン先種別は、例えば、毛筆、万年筆、鉛筆、ボールペン、マーカ、等を示すアイコン(画像)から選択される。色は、例えば、複数の色が示されるタイル状のパレットから選択される。太さと濃さとは、例えば、スライドバーのつまみを調整することによって設定される。ペン設定部300は、アイコン512に割り当てられた描画形態、すなわち、指定されたペン先種別と、色と、太さと、濃さとを、現在の描画形態として設定する。
次いで、図16および図17を参照して、複数のペン(複数の描画形態)で手書きされた複数のストロークを含む手書き文書の別の例について説明する。これらの手書き文書81,91では、鉛筆ペン(第1形態)のストローク「ABC」82,92と、マーカーペン(第2形態)のストローク83,93とが重なり合っていない。
しかし、ストロークに基づく検索や文字・図形認識では、描画形態が異なるストロークが重なり合う場合だけでなく、それらストロークが近接する場合でも、誤った検索や認識が引き起こされる可能性がある。そのため、複数の描画形態で手書きされた複数のストローク同士が近接する場合にも、本実施形態のように、ストロークデータに描画形態を示す情報(例えば、ペンID)を含めることによって、ストロークに基づく検索や文字・図形認識の精度を向上させることができる。
次いで、図18のフローチャートを参照して、デジタルノートブックアプリケーション202によって実行される手書き処理の手順の例を説明する。
まず、ペン設定部300は、現在使用されている描画形態を示すペンIDに、所定のペンIDを設定する(ブロックB11)。ペンIDは、例えば、ペン先の種類、線幅(太さ)、色、透過度(濃さ)、等のパラメータが規定された描画形態(ペン)を識別するための識別情報を示す。したがって、ペンIDには、例えば、ペン先の種類、線幅、色、透過度等の任意の組み合わせを有するペンに対して、一つの識別情報(ID)が付与されている。
次に、ペン設定部300は、ペンを変更する操作(ペン変更操作)が検出されたか否かを判定する(ブロックB12)。このペンを変更する操作は、例えば、図14および図15を参照して説明したように、ユーザがメニューに示される複数のペンから任意のペンを選択する操作や、パラメータを指定したペンを設定する操作である。
ペンを変更する操作が検出されていない場合(ブロックB12のNO)、すなわち、現在設定されているペンIDの描画形態(ペン)がそのまま使用される場合、ブロックB14に進む。一方、ペンを変更する操作が検出されている場合(ブロックB12のYES)、ペン設定部300は、現在使用されている描画形態を示すペンIDに、ペン変更操作に基づく新たなペンIDを設定し(ブロックB13)、ブロックB14に進む。
次いで、軌跡表示処理部301は、手書き入力操作に応じて、現在設定されているペン(描画形態)で、手書きによるストロークの軌跡を表示する(ブロックB14)。そして、時系列情報生成部302は、ペンとストロークとを示すストロークデータ(時系列のストロークデータ)を生成する(ブロックB15)。生成されたストロークデータは、例えば、手書き文書単位で、手書き文書データとして記憶媒体402等に保存される。
また、図19のフローチャートを参照して、デジタルノートブックアプリケーション202によって実行される検索処理の手順の例を説明する。検索処理では、入力された検索キーに基づいて、ペンID毎の時系列情報(ストロークデータ)から、検索キーに類似するストロークのデータが取得される。以下では、LCD17Aの画面に、検索キーを入力するための検索キー入力エリアが表示されていることを想定する。
まず、軌跡表示処理部301は、画面上の検索キー入力エリアに対する手書き入力操作に応じて、手書きによる軌跡(ストローク)を表示する(ブロックB21)。そして、時系列情報生成部302は、検索キーとして用いるストロークを示すストロークデータ(時系列情報)を生成する(ブロックB22)。
次いで、検索/認識部303は、作業メモリ401や記憶媒体402等に保存された手書き文書のストロークデータを読み出す(ブロックB23)。手書き文書に含まれる複数のストロークデータの各々には、その手書き文書内に手書きされたストロークを示す時系列情報と、当該ストロークが手書きされた際の描画形態を示すペンIDとが含まれている。
検索/認識部303は、手書き文書で使用され得る複数のペンに対応する複数のペンIDの内の、一つのペンIDを選択する(ブロックB24)。検索/認識部303は、ブロックB23で読み出された手書き文書のストロークデータから、選択されたペンIDを含むストロークデータを取り出す(ブロックB25)。取り出されたストロークデータは、検索キーを用いた検索を行う対象の時系列情報(ストローク群)を含む。検索/認識部303は、取り出されたストロークデータ(時系列情報)を用いて、手書き文書上のストロークから、検索キーのストロークに対応するストロークを検出する(ブロックB26)。検索/認識部303は、例えば、検索キーのストロークの特徴量と、取り出されたストロークデータ(時系列情報)によって示される第1ストロークの特徴量とを用いて、特徴量の差(差の絶対値)がしきい値未満である場合に、第1ストロークと検索キーのストロークとが対応(類似)すると決定する。なお、検索/認識部303は、例えば、検索キーのストロークの特徴ベクトルと、取り出された時系列情報に示される第1ストロークの特徴ベクトルとを用いて、類似度(例えば、特徴ベクトルの内積)がしきい値以上である場合に、第1ストロークと検索キーのストロークとが対応すると決定してもよい。
次いで、検索/認識部303は、複数のペンIDに、選択されていない他のペンIDがあるか否かを判定する(ブロックB27)。選択されていないペンIDがある場合(ブロックB27のYES)、ブロックB24に戻り、新たなペンIDを含むストロークデータに対して検索処理を実行する。選択されていないペンIDがない場合(ブロックB27のNO)、つまり、手書き文書内の全てのストロークデータに対する検索処理が完了した場合、検索/認識部303は、検索処理の処理結果をタッチスクリーンディスプレイ17の画面に表示し(ブロックB28)、処理を終了する。検索/認識部303は、例えば、ペンID(描画形態)毎のストロークデータに対する処理結果をそれぞれ表示してもよいし、複数のペンIDのストロークデータそれぞれに対する処理結果を併せて表示してもよい。
以上により、検索/認識部303は、検索キーの入力に応じて、例えば、検索キーを含む手書き文書のリスト(手書き文書のサムネイルのリスト)や、手書き文書内の検索キーを含む領域のリストを画面に表示することができる。なお、上述した検索処理と同様に、ペンID(描画形態)毎のストロークデータに対して認識処理を行うこともできる。
以上説明したように、本実施形態によれば、手書き文書データを容易に扱うことができる。軌跡表示処理部301およびページ保存処理部306は、第1形態で描画される1以上の第1ストロークと、第1形態とは異なる第2形態で描画される1以上の第2ストロークとが手書きされる場合に、第1ストロークに対応する第1ストロークデータと第2ストロークに対応する第2ストロークデータとを含む手書き文書データを入力する。そして、検索/認識部303は、1以上の第1ストロークが描画される領域と、1以上の第2ストロークが描画される領域とが少なくとも一部重複する場合に、第1ストロークデータのみに対する第1処理の処理結果、第2ストロークデータのみに対する第1処理の処理結果、あるいは、第1ストロークデータと第2ストロークデータとに対する第1処理の処理結果のいずれかを表示することができる。これにより、処理結果が表示形態毎に表示され得るので、ユーザは、例えば、手書き文書の閲覧を容易に行うことができる。
なお、本実施形態の手書き処理および検索処理(認識処理)の手順は全てソフトウェアによって実行することができる。このため、手書き処理および検索処理(認識処理)の手順を実行するプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのプログラムを通常のコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
実施形態によれば、電子機器は、入力手段と表示処理手段とを具備する。入力手段は、第1形態で描画される1以上の第1ストロークと、前記第1形態とは異なる第2形態で描画される1以上の第2ストロークとが手書きされる場合に、前記第1ストロークに対応する第1ストロークデータと前記第2ストロークに対応する第2ストロークデータとを含む手書き文書データを入力する。表示処理手段は、前記1以上の第1ストロークが描画される領域と、前記1以上の第2ストロークが描画される領域とが少なくとも一部重複する場合に、前記第1ストロークデータに含まれる座標データのみに対する第1処理の処理結果、前記第2ストロークデータに含まれる座標データのみに対する前記第1処理の処理結果、あるいは、前記第1ストロークデータに含まれる座標データと前記第2ストロークデータに含まれる座標データとに対する前記第1処理の処理結果のいずれかを表示可能である。
Claims (7)
- 第1形態で描画される1以上の第1ストロークと、前記第1形態とは異なる第2形態で描画される1以上の第2ストロークとが手書きされる場合に、前記第1ストロークに対応する第1ストロークデータと前記第2ストロークに対応する第2ストロークデータとを含む手書き文書データを入力する入力手段と、
前記1以上の第1ストロークが描画される領域と、前記1以上の第2ストロークが描画される領域とが少なくとも一部重複する場合に、前記第1ストロークデータのみに対する第1処理の処理結果、前記第2ストロークデータのみに対する前記第1処理の処理結果、あるいは、前記第1ストロークデータと前記第2ストロークデータとに対する前記第1処理の処理結果のいずれかを表示可能な表示処理手段とを具備する電子機器。 - 前記第1処理は、第3ストロークに対応する第3ストロークデータに基づく前記手書き文書データへの検索処理であって、
前記表示処理手段は、前記第1ストロークデータのみに対する前記第3ストロークデータに基づく検索処理結果、前記第2ストロークデータのみに対する前記第3ストロークデータに基づく検索処理結果、あるいは、前記第1ストロークデータと前記第2ストロークデータに対する前記第3ストロークデータに基づく検索処理結果のいずれかを表示可能である請求項1記載の電子機器。 - 前記第1処理は、認識処理であって、
前記表示処理手段は、前記第1ストロークデータのみに対する認識処理結果、前記第2ストロークデータのみに対する認識処理結果、あるいは、前記第1ストロークデータと前記第2ストロークデータに対する認識処理結果のいずれかを表示可能である請求項1記載の電子機器。 - 前記第1処理は、文字認識処理であって、
前記表示処理手段は、前記第1ストロークデータのみに対する文字認識処理結果、前記第2ストロークデータのみに対する文字認識処理結果、あるいは、前記第1ストロークデータと前記第2ストロークデータに対する文字認識処理結果のいずれかを表示可能である請求項1記載の電子機器。 - タッチスクリーンディスプレイをさらに具備し、
前記第1ストロークデータと前記第2ストロークデータは、前記タッチスクリーンディスプレイを介して前記入力手段へ入力されるものであって、
前記表示処理手段は、
前記1以上の第1ストロークが描画される領域と、前記1以上の第2ストロークが描画される領域とが少なくとも一部重複する場合に、前記第1ストロークデータのみに対する第1処理の処理結果、前記第2ストロークデータのみに対する前記第1処理の処理結果、あるいは、前記第1ストロークデータと前記第2ストロークデータとに対する前記第1処理の処理結果のいずれかを、前記タッチスクリーンディスプレイへ表示する請求項1記載の電子機器。 - 第1形態で描画される1以上の第1ストロークと、前記第1形態とは異なる第2形態で描画される1以上の第2ストロークとが手書きされる場合に、前記第1ストロークに対応する第1ストロークデータと前記第2ストロークに対応する第2ストロークデータとを含む手書き文書データを入力し、
前記1以上の第1ストロークが描画される領域と、前記1以上の第2ストロークが描画される領域とが少なくとも一部重複する場合に、前記第1ストロークデータのみに対する第1処理の処理結果、前記第2ストロークデータのみに対する前記第1処理の処理結果、あるいは、前記第1ストロークデータと前記第2ストロークデータとに対する前記第1処理の処理結果のいずれかを表示する手書き文書処理方法。 - コンピュータにより実行されるプログラムであって、前記プログラムは、
第1形態で描画される1以上の第1ストロークと、前記第1形態とは異なる第2形態で描画される1以上の第2ストロークとが手書きされる場合に、前記第1ストロークに対応する第1ストロークデータと前記第2ストロークに対応する第2ストロークデータとを含む手書き文書データを入力する手順と、
前記1以上の第1ストロークが描画される領域と、前記1以上の第2ストロークが描画される領域とが少なくとも一部重複する場合に、前記第1ストロークデータのみに対する第1処理の処理結果、前記第2ストロークデータのみに対する前記第1処理の処理結果、あるいは、前記第1ストロークデータと前記第2ストロークデータとに対する前記第1処理の処理結果のいずれかを表示する手順とを前記コンピュータに実行させるプログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2013/057703 WO2014147716A1 (ja) | 2013-03-18 | 2013-03-18 | 電子機器および手書き文書処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2014147716A1 true JPWO2014147716A1 (ja) | 2017-02-16 |
Family
ID=51579452
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015506400A Pending JPWO2014147716A1 (ja) | 2013-03-18 | 2013-03-18 | 電子機器および手書き文書処理方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20150154444A1 (ja) |
JP (1) | JPWO2014147716A1 (ja) |
WO (1) | WO2014147716A1 (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9218523B2 (en) * | 2009-09-04 | 2015-12-22 | Siemens Industry, Inc. | System and method for determining authorship of a document |
US20150058753A1 (en) * | 2013-08-22 | 2015-02-26 | Citrix Systems, Inc. | Sharing electronic drawings in collaborative environments |
WO2016098218A1 (ja) * | 2014-12-18 | 2016-06-23 | 株式会社ワコム | デジタルインク生成装置、デジタルインク生成方法及びデジタルインク再生装置 |
US20180095653A1 (en) * | 2015-08-14 | 2018-04-05 | Martin Hasek | Device, method and graphical user interface for handwritten interaction |
US10210383B2 (en) * | 2015-09-03 | 2019-02-19 | Microsoft Technology Licensing, Llc | Interacting with an assistant component based on captured stroke information |
CN106095861B (zh) * | 2016-06-02 | 2019-07-26 | 联想(北京)有限公司 | 一种信息处理方法及电子设备 |
USD808410S1 (en) * | 2016-06-03 | 2018-01-23 | Samsung Electronics Co., Ltd. | Display screen or portion thereof with graphical user interface |
US10871880B2 (en) * | 2016-11-04 | 2020-12-22 | Microsoft Technology Licensing, Llc | Action-enabled inking tools |
US10739988B2 (en) | 2016-11-04 | 2020-08-11 | Microsoft Technology Licensing, Llc | Personalized persistent collection of customized inking tools |
JP6600383B2 (ja) * | 2018-06-07 | 2019-10-30 | シャープ株式会社 | 表示システム、通信装置、及びコンピュータプログラム |
KR102601347B1 (ko) * | 2018-12-28 | 2023-11-13 | 엘지디스플레이 주식회사 | 터치표시장치 및 터치센싱회로 |
US11132122B2 (en) | 2019-04-11 | 2021-09-28 | Ricoh Company, Ltd. | Handwriting input apparatus, handwriting input method, and non-transitory recording medium |
US20220374142A1 (en) * | 2019-10-11 | 2022-11-24 | Kiyoshi Kasatani | Display apparatus, color supporting apparatus, display method, and program |
JP7072621B2 (ja) * | 2020-11-04 | 2022-05-20 | 株式会社ワコム | デジタルインクファイル再生装置、デジタルインクファイル再生方法、及びプログラム |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0877295A (ja) * | 1994-09-05 | 1996-03-22 | Hitachi Ltd | 手書き情報検索方法及びそれを用いた手書き入力装置 |
JP2005115907A (ja) * | 2003-09-19 | 2005-04-28 | Ricoh Co Ltd | 手書き情報入力システム、手書き情報入力方法及び手書き情報入力プログラム |
JP2012238115A (ja) * | 2011-05-10 | 2012-12-06 | Hitachi Solutions Ltd | 情報入力装置及び情報入力システム及び情報入力方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07296103A (ja) * | 1994-04-28 | 1995-11-10 | Matsushita Electric Ind Co Ltd | オンライン文字認識装置 |
JP2000172428A (ja) * | 1999-01-01 | 2000-06-23 | Hitachi Ltd | 情報処理装置及びそれを用いた情報システム |
JP4112967B2 (ja) * | 2002-12-24 | 2008-07-02 | 大日本印刷株式会社 | 電子ペンを利用した採点システム及び入力記号認識システム、採点処理プログラム、並びに入力記号認識プログラム |
US8145997B2 (en) * | 2005-06-30 | 2012-03-27 | Canon Kabushiki Kaisha | Method for simultaneously performing a plurality of handwritten searches |
JP2010218286A (ja) * | 2009-03-17 | 2010-09-30 | Toshiba Corp | 情報処理装置およびプログラムおよび表示方法 |
CN103970467A (zh) * | 2013-02-04 | 2014-08-06 | 英华达(上海)科技有限公司 | 多重输入法手写辨识系统及其方法 |
-
2013
- 2013-03-18 JP JP2015506400A patent/JPWO2014147716A1/ja active Pending
- 2013-03-18 WO PCT/JP2013/057703 patent/WO2014147716A1/ja active Application Filing
-
2015
- 2015-02-05 US US14/615,393 patent/US20150154444A1/en not_active Abandoned
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0877295A (ja) * | 1994-09-05 | 1996-03-22 | Hitachi Ltd | 手書き情報検索方法及びそれを用いた手書き入力装置 |
JP2005115907A (ja) * | 2003-09-19 | 2005-04-28 | Ricoh Co Ltd | 手書き情報入力システム、手書き情報入力方法及び手書き情報入力プログラム |
JP2012238115A (ja) * | 2011-05-10 | 2012-12-06 | Hitachi Solutions Ltd | 情報入力装置及び情報入力システム及び情報入力方法 |
Also Published As
Publication number | Publication date |
---|---|
US20150154444A1 (en) | 2015-06-04 |
WO2014147716A1 (ja) | 2014-09-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2014147716A1 (ja) | 電子機器および手書き文書処理方法 | |
JP6180888B2 (ja) | 電子機器、方法およびプログラム | |
EP2993557B1 (en) | Electronic device and method for processing handwriting | |
JP6092418B2 (ja) | 電子機器、方法及びプログラム | |
JP5728592B1 (ja) | 電子機器および手書き入力方法 | |
JP6010253B2 (ja) | 電子機器、方法およびプログラム | |
US10416868B2 (en) | Method and system for character insertion in a character string | |
JP6426417B2 (ja) | 電子機器、方法及びプログラム | |
US20150347001A1 (en) | Electronic device, method and storage medium | |
JP5925957B2 (ja) | 電子機器および手書きデータ処理方法 | |
JP6092462B2 (ja) | 電子機器、方法及びプログラム | |
US20140219564A1 (en) | Electronic device and handwritten document processing method | |
JP2014059808A (ja) | 電子機器および手書き文書処理方法 | |
JP5634617B1 (ja) | 電子機器および処理方法 | |
JP6100013B2 (ja) | 電子機器および手書き文書処理方法 | |
US20150098653A1 (en) | Method, electronic device and storage medium | |
JP2016085512A (ja) | 電子機器、方法及びプログラム | |
JP6430198B2 (ja) | 電子機器、方法及びプログラム | |
JP6202997B2 (ja) | 電子機器、方法及びプログラム | |
JP6251408B2 (ja) | 電子機器、方法及びプログラム | |
JP6062487B2 (ja) | 電子機器、方法及びプログラム | |
JP6499198B2 (ja) | 手書きのための電子機器および方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20161004 |