JP2014081816A - 電子機器および方法 - Google Patents
電子機器および方法 Download PDFInfo
- Publication number
- JP2014081816A JP2014081816A JP2012229843A JP2012229843A JP2014081816A JP 2014081816 A JP2014081816 A JP 2014081816A JP 2012229843 A JP2012229843 A JP 2012229843A JP 2012229843 A JP2012229843 A JP 2012229843A JP 2014081816 A JP2014081816 A JP 2014081816A
- Authority
- JP
- Japan
- Prior art keywords
- graphic object
- stroke data
- graphic
- handwritten
- stroke
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/22—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of characters or indicia using display control signals derived from coded signals representing the characters or indicia, e.g. with a character-code memory
- G09G5/24—Generation of individual character patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/20—Drawing from basic elements, e.g. lines or circles
- G06T11/203—Drawing of straight lines or curves
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/32—Digital ink
- G06V30/36—Matching; Classification
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2354/00—Aspects of interface with display user
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2370/00—Aspects of data communication
- G09G2370/02—Networking aspects
- G09G2370/022—Centralised management of display operation, e.g. in a server instead of locally
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Computer Hardware Design (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Character Discrimination (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
【課題】手書きされた図形を図形オブジェクトに変換するための辞書を効率的に作成できる電子機器を実現する。
【解決手段】実施形態によれば、電子機器は、生成手段、選択手段、変換手段、および記憶媒体を具備する。生成手段は、手書き入力された1以上のストロークに対応する第1ストロークデータを生成する。選択手段は、前記第1ストロークデータに関連付ける第1図形オブジェクトを選択する。変換手段は、前記第1ストロークデータを、前記第1図形オブジェクトを変形させた第2図形オブジェクトに対応する第2ストロークデータに変換する。記憶媒体は、前記第1図形オブジェクトと前記第1ストロークデータを関連付けて保存し、前記第2図形オブジェクトと前記第2ストロークデータとを関連付けて保存する。
【選択図】図5
【解決手段】実施形態によれば、電子機器は、生成手段、選択手段、変換手段、および記憶媒体を具備する。生成手段は、手書き入力された1以上のストロークに対応する第1ストロークデータを生成する。選択手段は、前記第1ストロークデータに関連付ける第1図形オブジェクトを選択する。変換手段は、前記第1ストロークデータを、前記第1図形オブジェクトを変形させた第2図形オブジェクトに対応する第2ストロークデータに変換する。記憶媒体は、前記第1図形オブジェクトと前記第1ストロークデータを関連付けて保存し、前記第2図形オブジェクトと前記第2ストロークデータとを関連付けて保存する。
【選択図】図5
Description
本発明の実施形態は、手書き文書を処理することが可能な電子機器および同電子機器で用いられる手書き文書処理方法に関する。
近年、タブレット、PDA、スマートフォンといった種々の電子機器が開発されている。この種の電子機器の多くは、ユーザによる入力操作を容易にするために、タッチスクリーンディスプレイを備えている。
ユーザは、タッチスクリーンディスプレイ上に表示されるメニューまたはオブジェクトを指などでタッチすることにより、これらメニューまたはオブジェクトに関連付けられた機能の実行を電子機器に指示することができる。
このような電子機器では、ユーザが、タッチスクリーンディスプレイ上で文字や図形等を手書きするための機能を有するものもある。このような手書きの文字や図形を含む手書き文書(手書きページ)は保存され、必要に応じて閲覧される。
また、手書き文書内の手書きの文字を認識することによって、その文字を文字コードに変換する技術も提案されている。そのような変換によって、手書き文書内の文字に対応する文字コードを、例えば、Word(登録商標)のような文書作成ソフトウェアで扱うことができるようになる。
手書き文書には、矢印や矩形、円形等の各種の図形を手書きすることもできる。また、手書きの文字と同様に、手書きの図形を認識することによって、その図形を図形オブジェクトに変換することが期待される。
しかし、手書きの図形の形状や筆順はユーザによって異なる場合があるので、手書きの図形を、ユーザが意図した図形オブジェクトに変換することは困難である可能性がある。
本発明の一形態は、手書きされた図形を図形オブジェクトに変換するための辞書を効率的に作成できる電子機器および手書き文書処理方法を提供することを目的とする。
実施形態によれば、電子機器は、生成手段、選択手段、変換手段、および記憶媒体を具備する。生成手段は、手書き入力された1以上のストロークに対応する第1ストロークデータを生成する。選択手段は、前記第1ストロークデータに関連付ける第1図形オブジェクトを選択する。変換手段は、前記第1ストロークデータを、前記第1図形オブジェクトを変形させた第2図形オブジェクトに対応する第2ストロークデータに変換する。記憶媒体は、前記第1図形オブジェクトと前記第1ストロークデータを関連付けて保存し、前記第2図形オブジェクトと前記第2ストロークデータとを関連付けて保存する。
以下、実施の形態について図面を参照して説明する。
図1は、一実施形態に係る電子機器の外観を示す斜視図である。この電子機器は、例えば、ペンまたは指によって手書き入力可能なペン・ベースの携帯型電子機器である。この電子機器は、タブレットコンピュータ、ノートブック型パーソナルコンピュータ、スマートフォン、PDA等として実現され得る。以下では、この電子機器がタブレットコンピュータ10として実現されている場合を想定する。タブレットコンピュータ10は、タブレットまたはスレートコンピュータとも称される携帯型電子機器であり、図1に示すように、本体11とタッチスクリーンディスプレイ17とを備える。タッチスクリーンディスプレイ17は、本体11の上面に重ね合わせるように取り付けられている。
図1は、一実施形態に係る電子機器の外観を示す斜視図である。この電子機器は、例えば、ペンまたは指によって手書き入力可能なペン・ベースの携帯型電子機器である。この電子機器は、タブレットコンピュータ、ノートブック型パーソナルコンピュータ、スマートフォン、PDA等として実現され得る。以下では、この電子機器がタブレットコンピュータ10として実現されている場合を想定する。タブレットコンピュータ10は、タブレットまたはスレートコンピュータとも称される携帯型電子機器であり、図1に示すように、本体11とタッチスクリーンディスプレイ17とを備える。タッチスクリーンディスプレイ17は、本体11の上面に重ね合わせるように取り付けられている。
本体11は、薄い箱形の筐体を有している。タッチスクリーンディスプレイ17には、フラットパネルディスプレイと、フラットパネルディスプレイの画面上のペンまたは指の接触位置を検出するように構成されたセンサとが組み込まれている。フラットパネルディスプレイは、例えば、液晶表示装置(LCD)であってもよい。センサとしては、例えば、静電容量方式のタッチパネル、電磁誘導方式のデジタイザなどを使用することができる。以下では、デジタイザとタッチパネルの2種類のセンサの双方がタッチスクリーンディスプレイ17に組み込まれている場合を想定する。
デジタイザおよびタッチパネルの各々は、フラットパネルディスプレイの画面を覆うように設けられる。このタッチスクリーンディスプレイ17は、指を使用した画面に対するタッチ操作のみならず、ペン100を使用した画面に対するタッチ操作も検出することができる。ペン100は例えば電磁誘導ペンであってもよい。
ユーザは、外部オブジェクト(ペン100又は指)を使用してタッチスクリーンディスプレイ17上で手書き入力操作を行うことができる。手書き入力操作中においては、画面上の外部オブジェクト(ペン100又は指)の動きの軌跡、つまり手書き入力操作によって手書きされるストロークの軌跡(筆跡)がリアルタイムに描画され、これによって各ストロークの軌跡が画面上に表示される。外部オブジェクトが画面に接触されている間の外部オブジェクトの動きの軌跡が1ストロークに相当する。手書きされた文字または図形などに対応する多数のストロークの集合、つまり多数の軌跡(筆跡)の集合が手書き文書を構成する。
本実施形態では、この手書き文書は、イメージデータではなく、各ストロークの軌跡の座標列とストローク間の順序関係を示す時系列情報を含む手書き文書データとして記憶媒体に保存される。この時系列情報の詳細は図3を参照して後述するが、この時系列情報は、概して、複数のストロークにそれぞれ対応する時系列のストロークデータの集合を意味する。各ストロークデータは、手書きにより入力可能なある一つのストロークを表現可能なデータであればどのようなものであっても良く、例えば、このストロークの軌跡上の点それぞれに対応する座標データ系列(時系列座標)を含む。これらストロークデータの並びの順序は、ストロークそれぞれが手書きされた順序つまり筆順に相当する。
タブレットコンピュータ10は、記憶媒体から既存の任意の手書き文書データを読み出し、この手書き文書データに対応する手書き文書、つまり、時系列情報によって示される複数のストロークそれぞれに対応する軌跡が描画された手書き文書を、画面上に表示することができる。
次いで、図2および図3を参照して、ユーザによって手書きされたストローク(文字、マーク、図形、表など)と時系列情報との関係について説明する。図2は、ペン100などを使用してタッチスクリーンディスプレイ17上に手書きされる手書き文書(手書き文字列)の例を示している。
手書き文書では、一旦手書きされた文字や図形などの上に、さらに別の文字や図形などが手書きされるというケースが多い。図2においては、「ABC」の手書き文字列が「A」、「B」、「C」の順番で手書きされ、この後に、手書きの矢印が、手書き文字「A」のすぐ近くに手書きされた場合が想定されている。
手書き文字「A」は、ペン100などを使用して手書きされる2つのストローク(「∧」形状の軌跡、「−」形状の軌跡)によって、つまり2つの軌跡によって表現される。最初に手書きされる「∧」形状のペン100の軌跡は例えば等時間間隔でリアルタイムにサンプリングされ、これによって「∧」形状のストロークの時系列座標SD11、SD12、…SD1nが得られる。同様に、次に手書きされる「−」形状のペン100の軌跡もサンプリングされ、これによって「−」形状のストロークの時系列座標SD21、SD21、…SD2nが得られる。
手書き文字「B」は、ペン100などを使用して手書きされた2つのストローク、つまり2つの軌跡によって表現される。手書き文字「C」は、ペン100などを使用して手書きされた手書きされた1つのストローク、つまり1つの軌跡によって表現される。手書きの「矢印」は、ペン100などを使用して手書きされた2つのストローク、つまり2つの軌跡によって表現される。
図3は、図2の手書き文書に対応する時系列情報200を示している。時系列情報は、複数のストロークデータSD1、SD2、…、SD7を含む。時系列情報200内においては、これらストロークデータSD1、SD2、…、SD7は、筆跡順に、つまり複数のストロークが手書きされた順に時系列に並べられている。
時系列情報200において、先頭の2つのストロークデータSD1、SD2は、手書き文字「A」の2つのストロークをそれぞれ示している。3番目と4番目のストロークデータSD3、SD4は、手書き文字「B」を構成する2つのストロークをそれぞれ示している。5番目のストロークデータSD5は、手書き文字「C」を構成する1つのストロークを示している。6番目と7番目のストロークデータSD6、SD7は、手書き矢印を構成する2つのストロークをそれぞれ示している。
各ストロークデータは、一つのストロークに対応する座標データ系列(時系列座標)、つまり一つのストロークの軌跡上の複数の点それぞれに対応する複数の座標を含む。各ストロークデータにおいて、複数の座標は、ストロークが書かれた順に時系列に並べられている。例えば、手書き文字「A」に関しては、ストロークデータSD1は、手書き文字「A」の「∧」形状のストロークの軌跡上の点それぞれに対応する座標データ系列(時系列座標)、つまりn個の座標データSD11、SD12、…SD1nを含む。ストロークデータSD2は、手書き文字「A」の「−」形状のストロークの軌跡上の点それぞれに対応する座標データ系列、つまりn個の座標データSD21、SD22、…SD2nを含む。なお、座標データの数はストロークデータ毎に異なっていてもよい。
各座標データは、対応する軌跡内のある1点に対応するX座標およびY座標を示す。例えば、座標データSD11は、「∧」形状のストロークの始点のX座標(X11)およびY座標(Y11)を示す。SD1nは、「∧」形状のストロークの終点のX座標(X1n)およびY座標(Y1n)を示す。
さらに、各座標データは、その座標に対応する点が手書きされた時点に対応するタイムスタンプ情報Tを含んでいてもよい。手書きされた時点は、絶対時間(例えば、年月日時分秒)またはある時点を基準とした相対時間のいずれであってもよい。例えば、各ストロークデータに、ストロークが書き始められた絶対時間(例えば、年月日時分秒)をタイムスタンプ情報として付加し、さらに、ストロークデータ内の各座標データに、絶対時間との差分を示す相対時間をタイムスタンプ情報Tとして付加してもよい。
このように、各座標データにタイムスタンプ情報Tが追加された時系列情報を使用することにより、ストローク間の時間的関係をより精度よく表すことができる。
各座標データには、筆圧を示す情報(Z)を追加してもよい。
各座標データには、筆圧を示す情報(Z)を追加してもよい。
さらに、本実施形態では、上述したように、手書き文書は、イメージまたは文字認識結果ではなく、時系列のストロークデータの集合から構成される時系列情報200として記憶されるので、言語に依存せずに手書きの文字や図形を扱うことができる。よって、本実施形態の時系列情報200の構造は、使用言語の異なる世界中の様々な国で共通に使用できる。
図4は、タブレットコンピュータ10のシステム構成を示す図である。
タブレットコンピュータ10は、図4に示されるように、CPU101、システムコントローラ102、主メモリ103、グラフィクスコントローラ104、BIOS−ROM105、不揮発性メモリ106、無線通信デバイス107、エンベデッドコントローラ(EC)108等を備える。
タブレットコンピュータ10は、図4に示されるように、CPU101、システムコントローラ102、主メモリ103、グラフィクスコントローラ104、BIOS−ROM105、不揮発性メモリ106、無線通信デバイス107、エンベデッドコントローラ(EC)108等を備える。
CPU101は、タブレットコンピュータ10内の各種モジュールの動作を制御するプロセッサである。CPU101は、ストレージデバイスである不揮発性メモリ106から主メモリ103にロードされる各種ソフトウェアを実行する。これらソフトウェアには、オペレーティングシステム(OS)201、および各種アプリケーションプログラムが含まれている。アプリケーションプログラムには、デジタルノートブックアプリケーションプログラム202が含まれている。このデジタルノートブックアプリケーションプログラム202は、上述の手書き文書を作成および表示する機能、手書き文書内の手書き文字を文字コードに変換する機能、手書き文書内の手書き図形を図形オブジェクトに変換する機能、変換時に用いられる図形オブジェクトと手書き図形との対応を示す辞書を作成する機能、等を有している。
また、CPU101は、BIOS−ROM105に格納された基本入出力システム(BIOS)も実行する。BIOSは、ハードウェア制御のためのプログラムである。
システムコントローラ102は、CPU101のローカルバスと各種コンポーネントとの間を接続するデバイスである。システムコントローラ102には、主メモリ103をアクセス制御するメモリコントローラも内蔵されている。また、システムコントローラ102は、PCI EXPRESS規格のシリアルバスなどを介してグラフィクスコントローラ104との通信を実行する機能も有している。
グラフィクスコントローラ104は、本タブレットコンピュータ10のディスプレイモニタとして使用されるLCD17Aを制御する表示コントローラである。このグラフィクスコントローラ104によって生成される表示信号はLCD17Aに送られる。LCD17Aは、表示信号に基づいて画面イメージを表示する。このLCD17A上にはタッチパネル17Bおよびデジタイザ17Cが配置されている。タッチパネル17Bは、LCD17Aの画面上で入力を行うための静電容量式のポインティングデバイスである。指が接触される画面上の接触位置および接触位置の動き等はタッチパネル17Bによって検出される。デジタイザ17CはLCD17Aの画面上で入力を行うための電磁誘導式のポインティングデバイスである。ペン100が接触される画面上の接触位置および接触位置の動き等はデジタイザ17Cによって検出される。
無線通信デバイス107は、無線LANまたは3G移動通信などの無線通信を実行するように構成されたデバイスである。EC108は、電力管理のためのエンベデッドコントローラを含むワンチップマイクロコンピュータである。EC108は、ユーザによるパワーボタンの操作に応じて本タブレットコンピュータ10を電源オンまたは電源オフする機能を有している。
次に、図5を参照して、デジタルノートブックアプリケーションプログラム202の機能構成について説明する。デジタルノートブックアプリケーションプログラム202は、タッチスクリーンディスプレイ17を用いた手書き入力操作によって入力されるストロークデータを使用することによって、手書き文書の作成、表示、編集等を行う。また、デジタルノートブックアプリケーションプログラム202は、手書き文書を整形する、すなわち、手書き文書内の手書き文字を文字コードに変換し、手書き図形を図形オブジェクトに変換する。さらに、デジタルノートブックアプリケーションプログラム202は、手書き文書の整形(変換)時に用いられる図形オブジェクトと手書き図形との対応を示す辞書を作成する。
デジタルノートブックアプリケーションプログラム202は、例えば、軌跡表示処理部301、時系列情報生成部302、図形オブジェクト表示処理部303、選択部304、変形図形生成部305、登録部306、認識部307等を備える。
タッチスクリーンディスプレイ17は、「タッチ」、「移動(スライド)」、「リリース」等のイベントの発生を検出するように構成されている。「タッチ」は、画面上に外部オブジェクトが接触したことを示すイベントである。「移動(スライド)」は、画面上に外部オブジェクトが接触されている間に接触位置が移動されたことを示すイベントである。「リリース」は、画面から外部オブジェクトが離されたことを示すイベントである。
軌跡表示処理部301および時系列情報生成部302は、タッチスクリーンディスプレイ17によって発生される「タッチ」または「移動(スライド)」のイベントを受信し、これによって手書き入力操作を検出する。「タッチ」イベントには、接触位置の座標が含まれている。「移動(スライド)」イベントには、移動先の接触位置の座標が含まれている。したがって、軌跡表示処理部301および時系列情報生成部302は、タッチスクリーンディスプレイ17から、接触位置の動きの軌跡に対応する座標列を受信することができる。
軌跡表示処理部301は、タッチスクリーンディスプレイ17から座標列を受信し、この座標列に基づいて、ペン100等を使用した手書き入力操作によって手書きされる各ストロークの軌跡をタッチスクリーンディスプレイ17内のLCD17Aの画面上に表示する。この軌跡表示処理部301により、画面にペン100が接触している間のペン100の軌跡、つまり各ストロークの軌跡がLCD17Aの画面上に描かれる。
時系列情報生成部302は、タッチスクリーンディスプレイ17から出力される上述の座標列を受信し、この座標列に基づいて、図3で詳述したような構造を有する時系列情報(ストロークデータ)を生成する。この場合、時系列情報、つまりストロークの各点に対応する座標およびタイムスタンプ情報は作業メモリに一時保存してもよい。
上述の構成により、ユーザは、手書きの文字や図形を含む手書き文書を作成することができ、また、辞書に登録するための手書き図形を入力することもできる。
上述の構成により、ユーザは、手書きの文字や図形を含む手書き文書を作成することができ、また、辞書に登録するための手書き図形を入力することもできる。
次いで、手書き文書に含まれる手書き図形を図形オブジェクトに変換する際に用いられる、図形オブジェクトと手書き図形との対応を示す図形オブジェクト辞書データ401を作成するための動作について説明する。ここでは、上述の軌跡表示処理部301および時系列情報生成部302によって、辞書に登録するための手書き図形を構成する1以上のストロークが入力されていることを想定する。
図形オブジェクト表示処理部303は、入力された手書き図形を関連付ける、図形オブジェクトの候補の一覧を表示する。図形オブジェクト表示処理部303は、例えば、図形オブジェクト辞書データベース401で規定された複数の図形オブジェクトの一覧を表示する。図形オブジェクト辞書データベース401は、例えば、コンピュータ10内のストレージに格納されている。
なお、図形オブジェクト表示処理部303は、図形オブジェクト辞書データベース401で規定された複数の図形オブジェクトが、入力された手書き図形に対応する1以上のストロークとの類似度が高い順(1以上のストロークと類似している順)に配置された一覧を表示してもよい。その場合、認識部307は、入力された手書き図形と複数の図形オブジェクトの各々との類似度を算出する。例えば、認識部307は、入力された手書き図形(1以上のストローク)の形状に関する特徴量を算出し、複数の図形オブジェクトの各々の形状に関する特徴量との類似度を算出する。そして、図形オブジェクト表示処理部303は、算出された類似度が高い順に、それら複数の図形オブジェクトが配置された一覧を画面に表示する。
選択部304は、ユーザがタッチスクリーンディスプレイ17を用いて、表示された図形オブジェクトの一覧から一つの図形オブジェクトを選択する図形オブジェクト選択操作に応じて、入力された手書き図形に関連付ける図形オブジェクト(以下、第1図形オブジェクトとも称する)を選択する。
図6は、手書き図形と図形オブジェクトとを関連付けるための手書き図形登録画面51の例を示す。この手書き図形登録画面51は、手書き図形入力エリア52とオブジェクト選択エリア53とを備える。手書き図形入力エリア52は、辞書(図形オブジェクト辞書データベース401)に登録したい図形を手書きするためのエリアである。オブジェクト選択エリア53には、手書き図形入力エリア52内の手書き図形に関連付ける図形オブジェクトの候補の一覧が表示される。
ユーザは、タッチスクリーンディスプレイ17を用いて、手書き図形入力エリア52内に、辞書に登録したい図形を手書きする。そして、ユーザは、オブジェクト選択エリア53内の一覧から、手書きした図形に関連付ける図形オブジェクト(第1図形オブジェクト)54を選択するための操作を行う。換言すると、ユーザは、一覧から手書き図形が認識された場合に認識結果として提示されるべき図形オブジェクトを選択する。
なお、図6では、ユーザが、辞書に登録したい図形をインタラクティブに手書きする例を示したが、ストレージに保存された手書き図形を含む手書き文書データ(時系列情報)を読み出してもよい。
登録部306は、図形オブジェクト辞書データベース401に、入力された手書き図形52を構成する1以上のストロークに対応する時系列情報(以下、第1ストロークデータとも称する)と、選択された第1図形オブジェクト54とを関連付けて保存する。すなわち、登録部306は、第1図形オブジェクト54に対応する手書き図形52の第1ストロークデータを学習する。
次いで、変形図形生成部305は、変形図形グループデータベース402を参照して、選択された第1図形オブジェクト54に対応する変形図形オブジェクト(以下、第2図形オブジェクトとも称する)を検出する。選択された図形オブジェクトに対応する変形図形オブジェクトは複数であってもよい。ある図形オブジェクトに対応する変形図形オブジェクトとは、その図形オブジェクトに対して、回転、反転、拡大、縮小、アスペクト比の変更、一部のみの拡大、縮小、伸長、萎縮、その他任意の幾何学的変換等の変形を施した図形オブジェクトであればどのようなものであっても良い。変形図形グループデータベース402では、図形オブジェクトに対応する変形図形オブジェクトと、図形オブジェクトをその変形オブジェクトに変換するための変換方法とが規定されている。この変換方法は、ある図形オブジェクトに対応する変形図形オブジェクトを規定できればどのような情報であっても良く、例えば、「90度回転」や「上下反転」等である。変形図形グループデータベース402は、例えば、コンピュータ10内のストレージに格納されている。
変形図形生成部305は、変形図形グループデータベース402から、検出された第2図形オブジェクトへの変換方法を読み出し、その変換方法に基づいて、第1ストロークデータを、第2図形オブジェクトに対応する第2ストロークデータ(時系列情報)に変換する。そして、登録部306は、第2図形オブジェクトと第2ストロークデータとを関連付けて、図形オブジェクトデータベース401に保存する。すなわち、登録部306は、第1図形オブジェクト54に対応する手書き図形52の第1ストロークデータを学習する際に、この第1図形オブジェクト54を変形した第2図形オブジェクトに対応する第2ストロークデータも学習する。
図7を参照して、変形図形グループデータベース402で規定される、図形オブジェクトに対応する変形図形オブジェクトと、図形オブジェクトをその変形オブジェクトに変換するための変換方法とについて説明する。
図7に示す例では、右向きの矢印である第1図形オブジェクト54に対応する変形図形オブジェクトが、上向きの矢印である図形オブジェクト54A、下向きの矢印である図形オブジェクト54B、および左向きの矢印である図形オブジェクト54Cであることと、それら図形オブジェクト54A,54B,54Cへの変換方法がそれぞれ、90度回転、270度回転、180度回転であることとが示されている。
同様に、三角形の図形オブジェクト55に対応する複数の変形図形オブジェクト55A,55B,55Cと、三角形の図形オブジェクト55から、それら変形オブジェクト55A,55B,55Cへの変換方法がそれぞれ、90度回転、上下反転、−90度回転であることとが示されている。
その場合、変形図形生成部305は、図6に示す画面において選択された第1図形オブジェクト54に対応する変形図形オブジェクト54A,54B,54Cを検出する。そして、変形図形生成部305は、入力された手書き図形52に対応する第1ストロークデータを、変形図形オブジェクト54A,54B,54Cの各々への変換方法に基づいて、変形図形オブジェクト54A,54B,54Cの各々に対応するストロークデータに変換する。
図8に示すように、手書き入力された手書き図形52は、図7に示した変形図形オブジェクト54A,54B,54Cの各々への変換方法に基づいて、変形手書き図形57,58,59に変換することができる。例えば、右向きの矢印である手書き図形52は、反時計回りに90度回転させることによって上向きの矢印である手書き図形57に変換される。つまり、変形図形生成部305は、右向きの矢印である手書き図形52に対応する時系列情報(ストロークデータ)に含まれる複数の座標の各々を90度回転させた座標を算出することによって、上向きの矢印である手書き図形57に対応する時系列情報を生成する。同様にして、右向きの矢印である手書き図形52は、反時計回りに270度回転させることによって下向きの矢印である手書き図形58に変換される。また、右向きの矢印である手書き図形52は、反時計回りに180度回転(または左右反転)させることによって左向きの矢印である手書き図形59に変換される。
登録部306は、変形図形オブジェクト54A,54B,54Cと各々に対応する、変換されたストロークデータとを関連付けて、図形オブジェクト辞書データベース401に保存する。
なお、例えば、上向きの矢印である手書き図形が入力された場合にも、図7に示した、右向きの矢印54から上向きの矢印54A、下向きの矢印54Bおよび左向きの矢印54Cの各々への変換方法を用いて、上向きの矢印である手書き図形を、右向きの矢印である手書き図形、下向きの矢印である手書き図形、および左向きの矢印である手書き図形にそれぞれ変換することができる。例えば、図7に示した変換方法では、右向きの矢印から上向きの矢印への変換方法が反時計回りに90度回転することであることが示されているので、上向きの矢印から右向きの矢印への変換方法は、その逆の、反時計回りの−90度回転(時計回りの90度回転)であることが分かる。また、上向きの矢印を左向きの矢印に変換する場合には、上述の上向きの矢印から右向きの矢印への変換を経て、右向きの矢印から左向きの矢印への変換である、反時計回りの180度回転を適用すればよい。つまり、上向きの矢印から左向きの矢印への変換方法は、反時計回りの−90度回転(上向きの矢印から右向きの矢印への変換)と反時計回りの180度回転(右向きの矢印から左向きの矢印への変換)とが組み合わせられた、反時計回りの90度回転であることが分かる。このような方法によって、同一の図形グループに属する図形を相互に変換することができる。
次いで、図9は、図形オブジェクト辞書データベース401に格納される図形オブジェクトデータの一構成例を示す。
図形オブジェクトデータは、複数の図形オブジェクトに対応する複数のエントリを含む。各エントリは、例えば、図形ID、図形オブジェクト、手書き図形のストロークデータを含む。ある図形オブジェクトに対応するエントリにおいて、「図形ID」は、その図形オブジェクトに付与された識別情報を示す。「図形オブジェクト」は、その図形オブジェクトの形状を示す。例えば、「図形オブジェクト」は、その図形オブジェクトのベクトルデータや画像データを示す。「手書き図形のストロークデータ」は、その図形オブジェクトに関連付けられるストロークデータ(時系列情報)を示す。つまり、「手書き図形のストロークデータ」は、図形オブジェクトの手書き図形が入力された際のストロークデータ、または変形図形オブジェクトの手書き図形が入力された際のストロークデータを変換したストロークデータを示す。
また、図10は、変形図形グループデータベース402に格納される変形図形グループデータの一構成例を示す。
変形図形グループデータは、複数の図形グループに対応する複数のエントリを含む。各図形グループには複数の図形オブジェクトが属する。1つの図形グループに属する複数の図形オブジェクトは、回転、反転、およびアスペクト比変更の内の少なくとも一つの変形方法によって互いに変換可能である。
各エントリは、例えば、グループID、代表図形ID、変形図形ID、変換方法を含む。あるグループに対応するエントリにおいて、「グループID」は、そのグループに付与された識別情報を示す。「代表図形ID」は、そのグループに属する複数の図形オブジェクトの内の代表の図形オブジェクトに付与された図形IDを示す。「変形図形ID」は、そのグループに属する複数の図形オブジェクトの内、代表の図形オブジェクト以外の図形オブジェクト(変形図形オブジェクト)に付与された図形IDを示す。「変換方法」は、代表の図形オブジェクトを、「変形図形ID」に示される図形オブジェクトに変換する方法を示す。「変換方法」には、例えば、“90度回転”、“上下反転”、“左右反転”等が記述される。なお、“90度回転”のような回転の向きは、時計回りと反時計回りのいずれを用いるかが予め規定されている。また、回転の角度は、90度毎に限らず、45度毎であってもよいし、任意の角度であってもよい。
例えば、図9に示すエントリ402Aでは、図形ID“0001”の図形(図形オブジェクト)を90度回転させること(変換方法1)によって、図形ID“0002”の図形が得られることと、図形ID“0001”の図形を上下反転させること(変換方法2)によって、図形ID“0003”の図形が得られることとが規定されている。
各エントリには、そのグループに属する変形図形オブジェクトの数だけ、「変形図形ID」と「変換方法」とのペアが含まれる。なお、エントリ402Bに示すように、1つの変形図形オブジェクト(図形ID“0016”)に対して、2種類の変換方法(“180度回転”および“左右反転”)が規定されてもよい。
また、上述のエントリの例では、「代表図形ID」で示される図形オブジェクトを、変形図形オブジェクトに変換する変換方法が規定されたが、1つの図形グループに属する複数の図形オブジェクトのそれぞれを相互に変換するための変換方法が規定されてもよい。
以上により、ユーザによって選択された第1図形オブジェクトと、入力された手書き図形を構成する1以上のストロークに対応する第1ストロークデータとのペアと共に、第1図形オブジェクトを変形した第2図形オブジェクトと、第1ストロークデータを変換した第2ストロークデータとのペアも、図形オブジェクト辞書データベース401に登録することができる。したがって、手書きされた図形を図形オブジェクトに変換するための辞書を効率的に作成することができる。
さらに、作成された辞書(図形オブジェクト辞書データベース401)を参照することによって、手書き文書内の手書き図形を図形オブジェクトに変換することができる。手書き文書(手書きページ)内に含まれる手書きの図形は、PowerPoint(登録商標)などのプレゼンテーション資料を作成するためのソフトウェアや、ドロー系のグラフィクスソフトウェア等で利用可能な図形オブジェクトに変換される。
具体的には、認識部307は、手書き文書内に手書きされた複数のストロークに対応する時系列情報(時系列順に並べられた複数のストロークデータ)が読み出されたとき、それら複数のストロークをグループ化処理することによって、1以上のストロークを含む複数のブロック(手書きブロック)に分割する。グループ化処理では、近傍に位置し且つ連続的に手書きされた1以上のストロークに対応する1以上のストロークデータが同一ブロックに分類されるように、時系列情報によって示される複数のストロークデータがグループ化される。
認識部307は、グループ化によって得られた複数のブロックの各々に含まれる1以上のストロークを、複数の図形オブジェクトの内の一つに変換する。つまり、認識部307は、図形オブジェクト辞書データベース401を参照して、複数のブロックの各々に含まれる1以上のストロークに類似するストロークが関連付けられた図形オブジェクトを検出する。
例えば、認識部307は、図形オブジェクト辞書データベース401に保存された第1図形オブジェクトの第1ストロークデータと、処理対象のブロックに含まれる1以上のストロークに対応する1以上のストロークデータ(以下、第3ストロークデータとも称する)とを用いて、第1ストロークデータに対応する1以上のストロークと第3ストロークデータに対応する1以上のストロークとの類似度(第1類似度)を算出する。この類似度は、例えば、第1ストロークデータを用いて算出された、第1ストロークデータに対応する1以上のストロークの傾きおよび筆順を表す多次元特徴ベクトルと、第3ストロークデータを用いて算出された、第3ストロークデータに対応する1以上のストロークの傾きおよび筆順を表す多次元特徴ベクトルとの内積である。認識部307は、算出された類似度がしきい値以下である場合に、処理対象のブロックに含まれる1以上のストロークを第1図形オブジェクトに変換する。
また、例えば、認識部307は、図形オブジェクト辞書データベース401に保存された第2図形オブジェクト(すなわち、第1図形オブジェクトの変形図形オブジェクト)の第2ストロークデータと、処理対象のブロックに含まれる1以上のストロークに対応する1以上のストロークデータ(第3ストロークデータ)とを用いて、第2ストロークデータに対応する1以上のストロークと第3ストロークデータに対応する1以上のストロークとの類似度(第2類似度)を算出する。この類似度は、例えば、第2ストロークデータを用いて算出された、第2ストロークデータに対応する1以上のストロークの傾きおよび筆順を表す多次元特徴ベクトルと、第3ストロークデータを用いて算出された、第3ストロークデータに対応する1以上のストロークの傾きおよび筆順を表す多次元特徴ベクトルとの内積である。認識部307は、算出された類似度がしきい値以下である場合に、処理対象のブロックに含まれる1以上のストロークを第2図形オブジェクトに変換する。
上述の説明では、類似度が、図形オブジェクトの1以上ストロークと処理対象のブロックに含まれる1以上のストロークとが類似しているほど小さく、類似していないほど大きいものと規定されている。なお、認識部307による類似度としきい値とに基づく判定は、類似度の算出方法に応じて適宜変更され得る。例えば、類似度は、図形オブジェクトの1以上ストロークと処理対象のブロックに含まれる1以上のストロークとが類似しているほど大きく、類似していないほど小さいものと規定されてもよい。その場合、認識部307は、例えば、算出された類似度がしきい値以上である場合に、処理対象のブロックに含まれる1以上のストロークを図形オブジェクトに変換する。
認識部307は、図形オブジェクト辞書データベース401に規定された複数の図形オブジェクトの各々に関連付けられた1以上のストロークと、処理対象のブロックに含まれる1以上のストロークとの類似度を算出し、類似度が最大であるストローク(すなわち、最も類似しているストローク)に対応する図形オブジェクトを検出することによって、処理対象のブロックに含まれる1以上のストロークを、その検出された図形オブジェクトに変換してもよい。
なお、図形オブジェクト辞書データベース401に規定された図形オブジェクトに、まだ手書き図形のストロークが関連付けられていない場合には、手書き図形のストロークの傾きおよび筆順を示す多次元特徴ベクトルを利用することができない。その際には、認識部307は、入力された手書き図形(1以上のストローク)の形状に関する特徴量と、図形オブジェクトの形状に関する特徴量との類似度を算出してもよい。
以上により、図形オブジェクト辞書データベース401を用いて、手書き文書内の手書き図形を図形オブジェクトに変換することができる。上述のように辞書を作成することによって、ユーザが辞書に登録するために手書き入力した第1図形オブジェクトの手書き図形だけでなく、第1図形オブジェクトと同一のグループに属する変形図形オブジェクトの手書き図形も、適切に変換することができる。
なお、手書き図形に対応する時系列情報は、「90度回転」や「上下反転」のような変形手書き図形毎の変換方法に基づいて、変形手書き図形に対応する時系列情報に変換される。しかし、変換された時系列情報に示される筆順は、ユーザが実際に手書きする筆順とは異なっている場合がある。
図11を参照して、手書き図形61が、変形図形グループデータ402に示される変換方法に基づいて変換された際の筆順の例について説明する。この手書き図形61は、右向きの矢印であり、第1画目の左端から右端への「−」形状のストロークと、第2画目の上端から下端への「>」形状のストロークとから構成されることを想定する。
上下反転された変形手書き図形64は、左向きの矢印であり、第1画目の左端から右端への「−」形状のストロークと、第2画目の下端から上端への「>」形状のストロークとから構成される。この変形手書き図形64は、元の手書き図形61と同じ右向きの矢印であるが、手書き図形61とは筆順が異なっている。
180度回転された変形手書き図形62は、左向きの矢印であり、第1画目の右端から左端への「−」形状のストロークと、第2画目の下端から上端への「<」形状のストロークとから構成される。左右反転された変形手書き図形65も、左向きの矢印であり、第1画目の右端から左端への「−」形状のストロークと、第2画目の上端から下端への「<」形状のストロークとから構成される。変形手書き図形62と変形手書き図形65とは、同じ左向きの矢印であるが、第2画目の「<」形状のストロークの筆順が異なっている。
90度回転された変形手書き図形63は、下向きの矢印であり、第1画目の上端から下端への「|」形状のストロークと、第2画目の右端から左端への「∨」形状のストロークとから構成される。
270度回転された変形手書き図形66は、上向きの矢印であり、第1画目の下端から上端への「|」形状のストロークと、第2画目の左端から右端への「∧」形状のストロークとから構成される。
このような変換によって示される筆順は、ユーザによる実際の筆順とは相違している可能性がある。そのため、変形図形生成部305および登録部306は、筆順のバリエーションを考慮した変形手書き図形の時系列情報(ストロークデータ)を生成し、図形オブジェクト辞書データベース401に登録してもよい。
図12を参照して、図11に示した変形手書き図形63に対して、筆順のバリエーションを考慮した時系列情報が生成された例について説明する。変形手書き図形71〜77には、変形手書き図形63とは、2つのストロークが手書きされる順序(すなわち、どちらのストロークを第1画目に手書きするか)や、各ストロークの筆順(すなわち、ストロークがどちらの端部から手書きされるか)が異なるバリエーションが示されている。
このように、変形手書き図形の筆順のバリエーションを考慮した時系列情報が生成されることによって、認識部307は、ユーザがどのような筆順で図形を手書きしたとしても、手書きされた図形に対応する図形オブジェクトを正しく認識することができる。なお、利用される可能性が低い筆順のバリエーションの時系列情報は、生成されないようにしてもよい。さらに、実際に変形手書き図形が手書きされた場合には、その手書きされたストロークに対応する時系列情報を、当該変形手書き図形に対応する図形オブジェクトに関連付けて図形オブジェクト辞書データベース401に保存し、その図形オブジェクトに関連付けられていた他の筆順のバリエーションの時系列情報をデータベース401から削除してもよい。
次いで、図13は、手書き文書内の手書き図形を図形オブジェクトに変換するための手書き文書認識画面80の例を示す。この手書き文書認識画面80では、手書き文書内の手書き図形を図形オブジェクトに変換する際に、手書き図形の学習を行うこともできる。
手書き文書認識画面80には、手書き文書エリア81と認識結果エリア86とが含まれる。ここでは、手書き文書エリア81に、手書きの円形82、矢印83および三角形84を含む手書き文書が表示されている。そして、認識結果エリア86には、手書き文書エリア81に表示された手書き図形82,83,84の認識結果である図形オブジェクトが表示されている。
認識結果エリア86では、手書きの円形82が変換された円形の図形オブジェクト87と、手書きの三角形84が変換された三角形の図形オブジェクト89とが表示されている。そして、手書きの矢印83には、複数種の矢印の図形オブジェクト88A,88B,88Cの候補が示されている。これら候補88A,88B,88Cは、例えば、認識結果エリア86に、一つの矢印の図形オブジェクト88Aが表示されているときに、この図形オブジェクト88Aを選択(例えば、タッチ)する操作に応じて、プルダウンメニューとして表示される。
ユーザは、複数種の矢印の図形オブジェクト88A,88B,88Cから、手書きの矢印83に対応する図形オブジェクトを、選択(変更)する操作を行うことができる。このユーザによる選択操作に応じて、手書きの矢印83が変換される矢印の図形オブジェクトが決定される。
変形図形生成部305および登録部306は、上述のように、決定された矢印の図形オブジェクトに、手書きの矢印83を構成する複数のストロークに対応する時系列情報(ストロークデータ)を関連付け、また、決定された矢印の図形オブジェクトの変形図形オブジェクトに、変換された時系列情報を関連付ける。
これにより、ユーザは、手書き文書内の手書き図形を図形オブジェクトに変換する際に、手書き図形に対応する図形オブジェクトを選択する操作を一度行うだけで、手書き図形を図形オブジェクトに変換するための辞書を作成することができる。
ある図形オブジェクトに対応する手書き図形は、ユーザ毎に多様な書き方がある。例えば、図13に示した矢印の手書き図形83が、矢印の図形オブジェクト88A,88B,88Cのいずれを意図しているかは、ユーザ毎に異なる可能性がある。しかし、同一のユーザであれば、図形オブジェクトと手書き図形との対応は一貫している可能性が高い。さらに、その図形オブジェクトの変形図形オブジェクトと変形手書き図形との対応も同様に一貫している可能性が高い。したがって、本実施形態によって、手書きされた図形を図形オブジェクトに変換するための辞書を効率的に作成することができる。
図14のフローチャートを参照して、デジタルノートブックアプリケーションプログラム202によって実行される手書き図形学習処理の手順について説明する。
まず、軌跡表示処理部301は、タッチスクリーンディスプレイ17上での手書き入力操作に応じて、手書きによる軌跡(ストローク)を表示する(ブロックB11)。時系列情報生成部302は、手書きされたストロークに対応する時系列情報(時系列順に並べられたストロークデータ)を生成する(ブロックB12)。
次いで、選択部304は、手書き図形の入力が完了したか否かを判定する(ブロックB13)。選択部304は、例えば、手書き図形の入力が完了したことを示す所定の操作(例えば、所定のボタンを押下げる操作)が行われたとき、手書き図形の入力が完了したと判断する。手書き図形の入力が完了していない場合(ブロックB13のNO)、ブロックB11に戻り、手書き図形の入力のための処理が続行される。
手書き図形の入力が完了した場合(ブロックB13のYES)、選択部304は、生成された時系列情報(すなわち、手書き図形に対応する時系列情報)に関連付ける図形オブジェクト(第1図形オブジェクト)を選択する(ブロックB14)。選択部304は、例えば、表示された図形オブジェクトの一覧から、1つの図形オブジェクトを選択するユーザ操作に応じて、生成された時系列情報に関連付ける図形オブジェクトを決定する。そして、登録部306は、選択された第1図形オブジェクトに、時系列情報を関連付けて記憶媒体に保存する(ブロックB15)。
次いで、変形図形生成部305は、変形図形グループデータベース402を参照して、第1図形オブジェクトに関連付けられた変形図形オブジェクト(第2図形オブジェクト)を検出する(ブロックB16)。この変形図形オブジェクトは、第1図形オブジェクトを変形(例えば、回転、反転、アスペクト比変更、等)した図形オブジェクトである。変形図形生成部305は、変形図形グループデータベース402から、検出された変形図形オブジェクトに対応する変換方法を読み出し、その変換方法に基づいて、手書き図形に対応する時系列情報(第1図形オブジェクトに関連付けられた時系列情報)を変換する(ブロックB17)。そして、登録部306は、変形図形オブジェクトに、変換された時系列情報を関連付けて記憶媒体に保存する(ブロックB18)。
次いで、変形図形生成部305は、第1図形オブジェクトに関連付けられた他の変形図形オブジェクトがあるか否かを判定する(ブロックB19)。他の変形図形オブジェクトがある場合(ブロックB19のYES)、ブロックB17に戻り、その変形図形オブジェクトに対して、変換された時系列情報を関連付けるための処理が実行される。他の変形図形オブジェクトがない場合(ブロックB19のNO)、処理を終了する。
なお、図15に示すように、上述のタブレットコンピュータ10による動作は、タブレットコンピュータ10とサーバ2との連係動作によって実現されてもよい。
サーバ2はハードディスクドライブ(HDD)のようなストレージデバイス2Aを備えている。タブレットコンピュータ10とサーバ2との間のセキュアな通信を確保するために、通信開始時には、サーバ2がタブレットコンピュータ10を認証するようにしてもよい。この場合、タブレットコンピュータ10の画面上にユーザに対してIDまたはパスワードの入力を促すダイアログを表示してもよいし、タブレットコンピュータ10のIDやペン100のIDなどを自動的にタブレットコンピュータ10からサーバ2に送信してもよい。
また、タブレットコンピュータ10のタッチスクリーンディスプレイ17に手書き図形登録画面51を表示し、その手書き図形登録画面51に対する各種の操作(手書き入力操作、図形オブジェクト選択操作、等)を示す操作情報をサーバ2に送信してもよい。サーバ2では、上述のデジタルノートブックアプリケーションプログラム202に相当する構成を有するプログラムが実行されており、タブレットコンピュータ10から送信された操作情報に対応する手書き図形のストロークデータの学習処理が実行される。サーバ2は、例えば、タブレットコンピュータ10のタッチスクリーンディスプレイ17上で手書き入力されたストロークのストロークデータと、選択された図形オブジェクトを示すデータとを用いて、図形オブジェクトにストロークデータを関連付け、当該図形オブジェクトの変形手書き図形オブジェクトに、変換されたストロークデータを関連付けて、ストレージデバイス2Aに保存する。サーバ2は、ストレージデバイス2Aに保存された辞書データを用いて、タブレットコンピュータ10で作成された手書き文書に含まれる手書き図形を、図形オブジェクトに変換することができる。
これにより、サーバ2において、図形オブジェクトの辞書データを作成するための学習処理や、手書き文書内の手書き図形を図形オブジェクトに変換する処理が実行されるので、タブレットコンピュータ10における処理の負荷を軽減することができる。
以上説明したように、本実施形態によれば、手書きされた図形を図形オブジェクトに変換するための辞書を効率的に作成することができる。時系列情報生成部302は、タッチスクリーンディスプレイ17を用いて手書き入力された、1以上のストロークに対応する第1ストロークデータを生成する。選択部304は、例えば、ユーザによる選択操作に応じて、この第1ストロークデータに関連付ける第1図形オブジェクトを選択する。そして、変形図形生成部302は、第1ストロークデータを、第1図形オブジェクトを変形させた第2図形オブジェクトに対応する第2ストロークデータに変換する。登録部306は、第1図形オブジェクトと第1ストロークデータを関連付けて記憶媒体に保存し、また、第2図形オブジェクトと前記第2ストロークデータとを関連付けて記憶媒体に保存する。
これにより、選択された第1図形オブジェクトと、入力された1以上のストロークに対応する第1ストロークデータとのペアと共に、第1図形オブジェクトを変形した第2図形オブジェクトと、第1ストロークデータを変換した第2ストロークデータとのペアも、記憶媒体に保存することができる。したがって、手書きされた図形を図形オブジェクトに変換するための辞書を効率的に作成することができる。
なお、本実施形態の手書き図形学習処理の手順は全てソフトウェアによって実行することができる。このため、手書き図形学習処理の手順を実行するプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのプログラムを通常のコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
17A…LCD、202…デジタルノートブックアプリケーション、301…軌跡表示処理部、302…時系列情報生成部、303…図形オブジェクト表示処理部、304…選択部、305…変形図形生成部、306…登録部、307…認識部、401…図形オブジェクト辞書データベース、402…変形図形グループデータベース。
実施形態によれば、電子機器は、第1生成手段、第2生成手段、および記憶制御手段を具備する。第1生成手段は、手書き入力された1以上のストロークに対応する第1ストロークデータを生成する。第2生成手段は、前記第1ストロークデータと第1図形オブジェクトとが関連付けられる場合に、前記第1ストロークデータを用いて、前記第1図形オブジェクトを変形させた第2図形オブジェクトに対応する第2ストロークデータを生成する。記憶制御手段は、前記第1図形オブジェクトと前記第1ストロークデータとを関連付けて保存し、前記第2図形オブジェクトと前記第2ストロークデータとを関連付けて保存する。前記第2図形オブジェクトは、前記第1図形オブジェクトを回転もしくは反転した図形オブジェクト、または前記第1図形オブジェクトのアスペクト比を変更した図形オブジェクトである。
Claims (11)
- 手書き入力された1以上のストロークに対応する第1ストロークデータを生成する生成手段と、
前記第1ストロークデータに関連付ける第1図形オブジェクトを選択する選択手段と、
前記第1ストロークデータを、前記第1図形オブジェクトを変形させた第2図形オブジェクトに対応する第2ストロークデータに変換する変換手段と、
前記第1図形オブジェクトと前記第1ストロークデータを関連付けて保存し、前記第2図形オブジェクトと前記第2ストロークデータとを関連付けて保存する記憶媒体とを具備する電子機器。 - 前記第2図形オブジェクトは、前記第1図形オブジェクトを回転または反転した図形オブジェクトである請求項1記載の電子機器。
- 前記第2図形オブジェクトは、前記第1図形オブジェクトのアスペクト比を変更した図形オブジェクトである請求項1記載の電子機器。
- 前記変換手段は、前記記憶媒体から前記第1図形オブジェクトを前記第2図形オブジェクトに変換するための変換方法を読み出し、当該変換方法に基づいて、前記第1ストロークデータを第2ストロークデータに変換する請求項1記載の電子機器。
- 複数の図形オブジェクトの一覧を表示する表示処理手段をさらに具備し、
前記選択手段は、前記一覧から一つの図形オブジェクトを選択するユーザ操作に応じて、前記第1図形オブジェクトを選択する請求項1記載の電子機器。 - 前記表示処理手段は、前記複数の図形オブジェクトが、前記手書き入力された1以上のストロークとの類似度が高い順に配置された一覧を表示する請求項5記載の電子機器。
- 手書き文書内の1以上のストロークに対応する第3ストロークデータと前記第1ストロークデータとを用いて、前記第3ストロークデータに対応する1以上のストロークと前記第1ストロークデータに対応する1以上のストロークとの第1類似度を算出し、前記第1類似度がしきい値以下である場合に、前記第3ストロークデータに対応する1以上のストロークを前記第1図形オブジェクトに変換する認識手段をさらに具備する請求項1記載の電子機器。
- 前記認識手段は、さらに、前記第3ストロークデータと前記第2ストロークデータとを用いて、前記第3ストロークデータに対応する1以上のストロークと前記第2ストロークデータに対応する1以上のストロークとの第2類似度を算出し、前記第2類似度が前記しきい値以下である場合に、前記第3ストロークデータに対応する1以上のストロークを前記第2図形オブジェクトに変換する請求項7記載の電子機器。
- タッチスクリーンディスプレイをさらに具備し、
前記1以上のストロークは、前記タッチスクリーンディスプレイを用いて手書き入力され、
前記第1図形オブジェクトは、前記タッチスクリーンディスプレイを用いて選択される請求項1記載の電子機器。 - 手書き入力された1以上のストロークに対応する第1ストロークデータを生成し、
前記第1ストロークデータに関連付ける第1図形オブジェクトを選択し、
前記第1ストロークデータを、前記第1図形オブジェクトを変形させた第2図形オブジェクトに対応する第2ストロークデータに変換し、
前記第1図形オブジェクトと前記第1ストロークデータを関連付けて記憶媒体に保存し、前記第2図形オブジェクトと前記第2ストロークデータとを関連付けて前記記憶媒体に保存する手書き文書処理方法。 - コンピュータにより実行されるプログラムであって、前記プログラムは、
手書き入力された1以上のストロークに対応する第1ストロークデータと関連付ける第1図形オブジェクトを選択する手順と、
前記第1ストロークデータを、前記第1図形オブジェクトを変形させた第2図形オブジェクトに対応する第2ストロークデータに変換する手順と、
前記第1図形オブジェクトと前記第1ストロークデータを関連付けて記憶媒体に保存し、前記第2図形オブジェクトと前記第2ストロークデータとを関連付けて前記記憶媒体に保存する手順とを前記コンピュータに実行させるプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012229843A JP5342052B1 (ja) | 2012-10-17 | 2012-10-17 | 電子機器および方法 |
US13/762,670 US20140104201A1 (en) | 2012-10-17 | 2013-02-08 | Electronic apparatus and handwritten document processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012229843A JP5342052B1 (ja) | 2012-10-17 | 2012-10-17 | 電子機器および方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5342052B1 JP5342052B1 (ja) | 2013-11-13 |
JP2014081816A true JP2014081816A (ja) | 2014-05-08 |
Family
ID=49679186
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012229843A Active JP5342052B1 (ja) | 2012-10-17 | 2012-10-17 | 電子機器および方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20140104201A1 (ja) |
JP (1) | JP5342052B1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2023038894A (ja) * | 2021-09-07 | 2023-03-17 | 株式会社リコー | 表示装置、表示プログラム、表示方法 |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
RO128874B1 (ro) * | 2012-12-19 | 2017-08-30 | Softwin S.R.L. | Sistem, pix electronic şi metodă pentru achiziţia semnăturii olografe dinamice, utilizând dispozitive mobile cu ecran capacitiv |
JP6125333B2 (ja) * | 2013-05-31 | 2017-05-10 | 株式会社東芝 | 検索装置、方法及びプログラム |
JP6150652B2 (ja) * | 2013-07-29 | 2017-06-21 | キヤノン株式会社 | 撮像装置、撮像装置の制御方法及びプログラム並びに記録媒体 |
WO2015141260A1 (ja) * | 2014-03-17 | 2015-09-24 | 株式会社河合楽器製作所 | 手書き音楽記号認識装置およびプログラム |
US10528249B2 (en) * | 2014-05-23 | 2020-01-07 | Samsung Electronics Co., Ltd. | Method and device for reproducing partial handwritten content |
KR20160046150A (ko) * | 2014-10-20 | 2016-04-28 | 삼성전자주식회사 | 도형 컨텐트를 생성 및 해석하는 방법 및 장치 |
US10976918B2 (en) | 2015-10-19 | 2021-04-13 | Myscript | System and method of guiding handwriting diagram input |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6128180A (ja) * | 1984-07-18 | 1986-02-07 | Hitachi Ltd | オンライン手書き図形認識装置 |
JPH081660B2 (ja) * | 1984-07-20 | 1996-01-10 | 株式会社日立製作所 | オンライン手書き図形認識装置 |
JPH04195485A (ja) * | 1990-11-28 | 1992-07-15 | Hitachi Ltd | 画像情報入力装置 |
JP3190074B2 (ja) * | 1991-09-11 | 2001-07-16 | 株式会社東芝 | 手書き入力装置 |
JPH07152870A (ja) * | 1993-12-01 | 1995-06-16 | Matsushita Electric Ind Co Ltd | 手書き文字表示装置 |
JP3357760B2 (ja) * | 1995-03-16 | 2002-12-16 | 株式会社東芝 | 文字図形入力編集装置 |
JPH0997311A (ja) * | 1995-10-02 | 1997-04-08 | Matsushita Electric Ind Co Ltd | 手書きパターン認識装置 |
JP3365537B2 (ja) * | 1996-08-01 | 2003-01-14 | 日本電信電話株式会社 | オンライン文字認識方法および装置 |
US5926566A (en) * | 1996-11-15 | 1999-07-20 | Synaptics, Inc. | Incremental ideographic character input method |
JP2000148907A (ja) * | 1999-01-01 | 2000-05-30 | Sharp Corp | 手書き図形認識装置 |
JP2011028697A (ja) * | 2009-07-29 | 2011-02-10 | Pentel Corp | 手書き文字入力用情報交換装置 |
-
2012
- 2012-10-17 JP JP2012229843A patent/JP5342052B1/ja active Active
-
2013
- 2013-02-08 US US13/762,670 patent/US20140104201A1/en not_active Abandoned
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2023038894A (ja) * | 2021-09-07 | 2023-03-17 | 株式会社リコー | 表示装置、表示プログラム、表示方法 |
JP7351374B2 (ja) | 2021-09-07 | 2023-09-27 | 株式会社リコー | 表示装置、表示プログラム、表示方法 |
Also Published As
Publication number | Publication date |
---|---|
JP5342052B1 (ja) | 2013-11-13 |
US20140104201A1 (en) | 2014-04-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5342052B1 (ja) | 電子機器および方法 | |
JP5458161B1 (ja) | 電子機器および方法 | |
JP5349645B1 (ja) | 電子機器および手書き文書処理方法 | |
US9378427B2 (en) | Displaying handwritten strokes on a device according to a determined stroke direction matching the present direction of inclination of the device | |
JP6430197B2 (ja) | 電子機器および方法 | |
JP5355769B1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP6301736B2 (ja) | 電子機器及び方法 | |
JP2015162088A (ja) | 電子機器、方法及びプログラム | |
JP5925957B2 (ja) | 電子機器および手書きデータ処理方法 | |
JPWO2014147712A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
US20150016726A1 (en) | Method and electronic device for processing handwritten object | |
JP2013238919A (ja) | 電子機器および手書き文書検索方法 | |
JP5377743B1 (ja) | 電子機器および手書き文書処理方法 | |
JP6290003B2 (ja) | 電子機器及び方法 | |
JP5284523B1 (ja) | 情報処理システム、プログラムおよび情報処理システムの処理方法 | |
JP6081606B2 (ja) | 電子機器および方法 | |
JP5480357B1 (ja) | 電子機器および方法 | |
JP5330576B1 (ja) | 情報処理装置および筆跡検索方法 | |
JP2014203393A (ja) | 電子機器、手書き文書処理方法、及び手書き文書処理プログラム | |
JP5735126B2 (ja) | システムおよび筆跡検索方法 | |
JP6039066B2 (ja) | 電子機器、手書き文書検索方法およびプログラム | |
JP2014149769A (ja) | 電子機器および手書き文書検索方法 | |
JP6202997B2 (ja) | 電子機器、方法及びプログラム | |
JP2015170150A (ja) | 電子機器及び方法 | |
JPWO2016067417A1 (ja) | 電子機器、方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130716 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5342052 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313121 Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |