JP2012133627A - 手書き数式認識機能を備えた電子計算機およびプログラム - Google Patents

手書き数式認識機能を備えた電子計算機およびプログラム Download PDF

Info

Publication number
JP2012133627A
JP2012133627A JP2010285898A JP2010285898A JP2012133627A JP 2012133627 A JP2012133627 A JP 2012133627A JP 2010285898 A JP2010285898 A JP 2010285898A JP 2010285898 A JP2010285898 A JP 2010285898A JP 2012133627 A JP2012133627 A JP 2012133627A
Authority
JP
Japan
Prior art keywords
recognition
handwritten
mathematical expression
formula
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010285898A
Other languages
English (en)
Other versions
JP5267546B2 (ja
Inventor
Hiroaki Yoshizawa
博明 吉澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2010285898A priority Critical patent/JP5267546B2/ja
Priority to US13/314,442 priority patent/US8659567B2/en
Priority to CN201110410999.3A priority patent/CN102591520B/zh
Publication of JP2012133627A publication Critical patent/JP2012133627A/ja
Application granted granted Critical
Publication of JP5267546B2 publication Critical patent/JP5267546B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F15/00Digital computers in general; Data processing equipment in general
    • G06F15/02Digital computers in general; Data processing equipment in general manually operated with input through keyboard and computation using a built-in program, e.g. pocket calculators
    • G06F15/025Digital computers in general; Data processing equipment in general manually operated with input through keyboard and computation using a built-in program, e.g. pocket calculators adapted to a specific application
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/26Techniques for post-processing, e.g. correcting the recognition result
    • G06V30/262Techniques for post-processing, e.g. correcting the recognition result using context analysis, e.g. lexical, syntactic or semantic context
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Computing Systems (AREA)
  • Computer Hardware Design (AREA)
  • Human Computer Interaction (AREA)
  • Character Discrimination (AREA)
  • User Interface Of Digital Computer (AREA)
  • Calculators And Similar Devices (AREA)

Abstract

【課題】手書き入力した数式の認識率を大幅に向上させることが可能になる手書き数式認識機能を備えた電子計算機を提供する。
【解決手段】手書き数式入力モードに設定されると、タッチパネル表示部16(17)に、手書き入力する各文字の数式としての位置や種類を文字入力の直前に認識補助情報として指定するための10種の認識ガイドボタンGが表示される。任意の数式を構成する各文字・記号を手書き入力する際、その都度前記ボタンGにより各文字・記号に応じた認識ガイドを指定しながら同文字・記号を手書き入力すると、指定された認識ガイドに応じた数式としての文字・記号、種類の認識データベースに基づき、手書き入力された各文字・記号が認識され、表示制御コードCnと認識テキストからなる数式表示データが生成され認識数式データFnとして表示されると共に、演算コードからなる数式演算データが生成される。
【選択図】 図8

Description

本発明は、手書き数式認識機能を備えた電子計算機およびその制御プログラムに関する。
従来から、三角関数などの関数計算機能を備えた小型電子式計算機(関数電卓)が広く実用されている。近年は、従来の関数電卓からその処理可能な関数の種類や計算速度などの各機能を格段に向上させると共に、任意の関数式をグラフにして表示したり、プログラミングによる計算機能も備えたりしたより高機能なグラフ関数電卓が実用されている。
このようなグラフ関数電卓にあっては、高機能であるが故に多種多様な種類の数字・文字・記号を入力可能にする必要があり、キーの数が多くなるのは勿論、簡単な数式、複雑な数式、プログラムを含め、その入力すべき内容に応じて予め設定された順序で各種のキーを選択的に入力しなければならない。
例えば定積分の数式を入力する場合には、積分記号“∫”→積分区間の上限値を示す記号“^”→上限値“a”→下限値を示す記号“_”→下限値“b”→被積分値“x”の順にキー入力する。
このように、入力したい数式の種類に応じた様々なキー入力の順序を、ユーザが全て覚えるのは負担が大きいため、ユーザがタッチパネルを使用して手書きで入力した数式を構成する数値や記号などの部品を認識し、所望の数式を入力することのできる手書き数式の認識装置が考えられている(例えば、特許文献1参照。)。
特開2007−072718号公報
従来の手書き数式の認識装置では、手書き入力されたあらゆる数値や記号などを一部品ずつ、膨大な1つの認識データベースに基づき照合・認識処理するために、認識処理に要する時間が長くなる。また、手書き入力された文字や記号間の位置関係が微妙な場合は、ユーザの意図する数式として認識されない場合がある。
本発明は、このような課題に鑑みなされたもので、手書き入力した数式の認識率を大幅に向上させることが可能になる手書き数式認識機能を備えた電子計算機およびその制御プログラムを提供することを目的とする。
請求項1に記載の電子計算機は、手書き数式認識機能を備えた電子計算機であって、タッチパネル式表示部と、ユーザ操作に応じて認識すべき手書き文字の認識補助情報を入力する認識補助入力手段と、前記タッチパネル式表示部に手書き入力されて表示された手書き文字を、前記認識補助入力手段により入力された認識補助情報に基づき数式の文字として認識する手書き数式認識手段と、この手書き数式認識手段により認識された数式の文字を出力する認識数式出力手段と、を備えたことを特徴としている。
請求項2に記載の電子計算機は、前記請求項1に記載の手書き数式認識機能を備えた電子計算機において、前記認識補助入力手段は、ユーザ操作に応じて認識すべき手書き文字の数式としての位置情報を入力し、前記手書き数式認識手段は、前記タッチパネル式表示部に手書き入力されて表示された手書き文字を、前記認識補助入力手段により入力された数式としての位置情報に基づき、数式の該当する位置の文字として認識する、ことを特徴としている。
請求項3に記載の電子計算機は、前記請求項1に記載の手書き数式認識機能を備えた電子計算機において、前記認識補助入力手段は、ユーザ操作に応じて認識すべき手書き文字の数式としての種類情報を入力し、前記手書き数式認識手段は、前記タッチパネル式表示部に手書き入力されて表示された手書き文字を、前記認識補助入力手段により入力された数式としての種類情報に基づき、数式の該当する種類の文字として認識する、ことを特徴としている。
請求項4に記載の電子計算機は、前記請求項1に記載の手書き数式認識機能を備えた電子計算機において、前記認識数式出力手段は、前記手書き数式認識手段により認識された数式の文字を前記タッチパネル式表示部に表示させ、ユーザ操作に応じて訂正モードを設定する訂正モード設定手段と、この訂正モード設定手段により設定された訂正モードにおいて、前記認識数式出力手段により前記タッチパネル式表示部に表示された数式の中からユーザ操作に応じて指定された訂正対象の文字を識別表示させる訂正文字指定表示手段と、この訂正文字指定表示手段により識別表示された数式の中の文字を、前記認識補助入力手段により新たに入力された認識補助情報に基づき数式の文字として再認識する数式訂正認識手段と、この数式訂正認識手段により再認識された数式の文字に応じて、前記訂正文字指定表示手段により識別表示された数式の中の文字を訂正して表示させる数式訂正表示手段と、を備えたことを特徴としている。
請求項5に記載のプログラムは、タッチパネル式表示部を有する手書き数式認識機能を備えた電子計算機のコンピュータを制御するためのプログラムであって、前記コンピュータを、ユーザ操作に応じて認識すべき手書き文字の認識補助情報を入力する認識補助入力手段、前記タッチパネル式表示部に手書き入力されて表示された手書き文字を、前記認識補助入力手段により入力された認識補助情報に基づき数式の文字として認識する手書き数式認識手段、この手書き数式認識手段により認識された数式の文字を前記タッチパネル式表示部に出力させる認識数式出力手段、として機能させることを特徴としている。
本発明によれば、手書き入力した数式の認識率を大幅に向上させることが可能になる手書き数式認識機能を備えた電子計算機およびその制御プログラムを提供できる。
本発明の手書き数式認識機能を備えた電子計算機の実施形態に係るグラフ関数電卓10の外観構成を示す正面図。 前記グラフ関数電卓10の電子回路の構成を示すブロック図。 前記グラフ関数電卓10の入力イメージデータメモリ26cに記憶される入力イメージデータの内容を示す図。 前記グラフ関数電卓10の数式表示データメモリ26dに記憶される数式表示データの内容を示す図。 前記グラフ関数電卓10の数式演算データメモリ26eに記憶される数式演算データの内容を示す図。 前記グラフ関数電卓10の手書き入力処理を示すフローチャート。 前記グラフ関数電卓10の手書き入力処理に伴う手書き認識処理を示すフローチャート。 前記グラフ関数電卓10の手書き入力処理に伴う表示動作(その1)を示す図。 前記グラフ関数電卓10の手書き入力処理に伴う表示動作(その2)を示す図。 前記グラフ関数電卓10の手書き入力処理に伴う表示動作(その3)を示す図。
以下図面により本発明の実施の形態について説明する。
図1は、本発明の手書き数式認識機能を備えた電子計算機の実施形態に係るグラフ関数電卓10の外観構成を示す正面図である。
このグラフ関数電卓10は、その携帯性の必要からユーザが片手で十分把持し片手で操作可能な小型サイズからなり、この電卓10の本体正面にはキー入力部11および液晶ドットマトリクス型の表示部16が設けられる。
この表示部16は、その表示画面上に透明タブレットのタッチパネル17が重ねて設けられ、手書き入力部としても動作する。
キー入力部11には、数字・文字・各種算術記号を入力したり計算の実行を指示したりするための数字・文字・演算記号キー群12、各種の関数機能を設定したりメモリ機能を設定したりするための計算機能設定キー群13、各種の動作モードを設定したりメニュー画面を表示させたりするためのモード設定キー群14、表示部16に表示されたカーソルの移動操作やデータ項目の選択操作などを行うためのカーソルキー15、表示部16の下端に沿ってメニュー表示される各種の機能を選択的に指定するためのファンクションキー[F1]〜[F4]などが備えられる。
前記数字・文字・演算記号キー群12としては、[0]〜[9](数字)キー、[+][−][×][÷](算術記号)キー、[DEL](削除)キー、[EXE](実行)キー、[AC](クリア)キーなどが配列される。
前記計算機能設定キー群13としては、[log](対数)キー、「√」(平方根)キー、三角関数の[sin]キー、[cos]キー、[tan]キーなどが配列される。
前記モード設定キー群14としては、[Menu](メニュー)キー、[Insert」(挿入)キー、[Graph](グラフ)キー、[Trac](トレース)キー、[EXIT](終了)キー、[訂正]キー14Tなどが配列される。
[訂正]キー14Tは、手書き数式入力モードの設定状態において、前記表示部16およびタッチパネル17からなる手書き入力部にてユーザ任意の数式が手書き入力されて認識された際、当該認識された数式の誤認識部分を訂正するための訂正モードに設定するのに操作される。
このグラフ関数電卓10は、動作モードを手書き数式入力モードに設定すると、タッチパネル表示部16(17)に対して、手書き入力する各文字の数式としての位置と種類とを、文字入力の直前に認識補助情報として指定するための認識ガイドボタンGを表示する機能を備える。
具体的には、例えば数式上での位置指定用ボタンを[最下段][下段][中段][上段][最上段]として表示し、種類指定用ボタンを[始点][終点][分母][分子][べき乗]として表示する。位置指定用ボタンは、その指定後に手書きされるキャラクタに関する手書き認識において、数式のどこに位置するかを認識するための補助情報として与えるもので、例えば[最下段]はΣの始値、[最上段]はΣの終値の入力に用い、種類指定用ボタンは、その指定後に手書きされるキャラクタに関する手書き認識において、数式の何の構成要素かを認識するための補助情報として与えるもの例えば、[始点]は定積分の始値、[終点]は定積分の終値の入力に用いる。
この手書き数式入力モードを設定したタッチパネル表示部16(17)において、前記認識ガイドボタンGにより直後に入力する各文字の数式としての位置や種類を指定しながら任意の数式を手書き入力すると、手書きされた数式データFhがそのまま表示されると共に、前記指定された数式としての位置や種類に基づき認識された数式データFnが画面左上に表示される。
図2は、前記グラフ関数電卓10の電子回路の構成を示すブロック図である。
このグラフ関数電卓10は、コンピュータである制御部(CPU)21を備えている。
制御部(CPU)21は、記憶装置22に予め記憶されているシステムプログラム、あるいはメモリカードなどの外部記憶媒体23から記憶媒体読み取り部24を介して記憶装置22に読み込まれた計算機制御プログラム、あるいは通信ネットワークN上のWebサーバ(プログラムサーバ)30から通信制御部25を介してダウンロードされ前記記憶装置22に読み込まれた計算機制御プログラムに従い、RAM26を作業用メモリとして回路各部の動作を制御する。そして、前記記憶装置22に予め記憶されたシステムプログラムや計算機制御プログラムは、キー入力部11からのキー入力信号に応じて起動される。
記憶装置22には、前記システムプログラムや計算機制御プログラム22aの他、各種の動作モードにおいてタッチパネル17を使用して手書きで入力される手書きデータ(入力イメージデータ26c)を、各種の数字・文字・記号として認識し変換するための手書き認識プログラム22bなどが記憶される。
前記制御部(CPU)21には、前記記憶装置22、記憶媒体読み取り部24、通信制御部25、RAM26、キー入力部11が接続される他に、液晶表示部(LCD)16およびタッチパネル17が接続される。
RAM26には、表示データメモリ26a、入力座標データメモリ26b、入力イメージデータメモリ26c、数式表示データメモリ26d、数式演算データメモリ26eの他、各種の計算処理に伴い制御部21に入出力される種々のデータが必要に応じて記憶されるデータメモリが確保される。
表示データメモリ26aには、表示部16に表示させるための表示画面サイズで生成されたビットマップパターンのデータが記憶される。
入力座標データメモリ26bには、タッチパネル17における現在のタッチ操作位置に対応する座標データが記憶される。
図3は、前記グラフ関数電卓10の入力イメージデータメモリ26cに記憶される入力イメージデータの内容を示す図である。
この入力イメージデータメモリ26cには、ヘッダに続けて、タッチパネル17での手書き入力に伴い当該タッチパネル17から出力された手書きの軌跡を座標列にしたデータd1,d2,…が記憶される。なお、手書き入力の直前に、前記タッチパネル表示部16(17)に表示された認識ガイドボタンGにより手書き入力すべき位置または種類が指定された場合には、当該指定された位置または種類の認識ガイドデータがヘッダの直後に書き込まれる。
図4は、前記グラフ関数電卓10の数式表示データメモリ26dに記憶される数式表示データの内容を示す図である。
この数式表示データメモリ26dには、タッチパネル17から手書きで入力され前記手書き認識プログラム22bにより認識処理されて得られた数式の各構成要素のテキストが、表示画面上のどの位置にどの大きさで表示するかを示す表示制御コードCnに対応付けられて記憶される。
図5は、前記グラフ関数電卓10の数式演算データメモリ26eに記憶される数式演算データの内容を示す図である。
この数式演算データメモリ26eには、タッチパネル17から手書きで入力された数字・文字・記号の手書きデータが、前記手書き認識プログラム22aにより認識処理されて得られた数式を演算処理するためのデータが演算コードとして記憶される。
このグラフ関数電卓10では、手書き数式入力モードにおいて前記手書き認識プログラム22bにより手書きデータを認識処理するときに、個々の手書き入力文字毎に、該手書き文字について数式として認識対象とする位置や文字種を、前記認識ガイドボタンGにより指定できる。
次に、前記構成のグラフ関数電卓10における手書き数式認識機能について説明する。
図6は、前記グラフ関数電卓10の手書き入力処理を示すフローチャートである。
図7は、前記グラフ関数電卓10の手書き入力処理に伴う手書き認識処理を示すフローチャートである。
図8は、前記グラフ関数電卓10の手書き入力処理に伴う表示動作(その1)を示す図である。
[MENU](メニュー)キーの操作に応じて表示部16に表示される動作モードの選択画面(図示せず)に従って、このグラフ関数電卓10の動作モードが手書き数式入力モードに設定されると、図8に示すように、表示画面の下端に沿って認識ガイドボタンGが表示される(ステップS1)。
ここで、ユーザが手書き入力しようとする1キャラクタ毎に、入力するキャラクタの数式としての位置または種類を前記認識ガイドボタンGにより指定する。
例えば、積分記号「∫」を手書き入力するのに、前記認識ガイドボタンGの位置指定用ボタン[中段]がタッチペン(図示せず)によりタッチされると(ステップS3(Yes))、RAM26内の入力イメージデータメモリ26cのヘッダに続けて、認識ガイドデータ[中段]が書き込まれる(ステップS4)。
そして、前記積分記号「∫」がタッチパネル表示部16(17)にて手書き入力されると(ステップS5(Yes))、その手書きの軌跡の座標データd1,d2,…が前記入力イメージデータメモリ26cの認識ガイドデータ[中段]に続けて順次書き込まれると共に、表示部16に手書き数式データFhとして表示される(ステップS6)。
この後、前記手書きによる積分記号「∫」の書き終えに伴い、タッチパネル17からタッチペンが離れたと判断され(ステップS7(Yes))、これから一定時間が経過することで1キャラクタの手書き入力が終了し認識処理への移行であると判断されると(ステップS8(Yes))、前記入力イメージデータメモリ26cに書き込まれた認識ガイドデータ[中段]と手書き軌跡の座標列d1,d2,…に基づき、図7における手書き認識処理が実行される(ステップSA)。
手書き認識処理が起動されると、先ず、前記入力イメージデータメモリ26cのヘッダに続けて認識ガイドデータが有るか否か判断される(ステップA1)。
ここで、認識ガイドデータが有ると判断されると(ステップA1(Yes))、当該認識ガイドデータ[中段]が読み取られ(ステップA2)、この認識ガイドデータ[中段]に応じた数式としての文字・記号、種類の認識データベースに基づき、前記手書き軌跡の座標列d1,d2,…が数式としての積分記号「∫」であると認識される(ステップA3)。
すると、前記図4で示したように、数式表示データメモリ26dに対して積分記号の表示制御コードC1と対応付けてそのテキスト「∫」が書き込まれ、数式表示データが生成される(ステップA4)。
また、図5(B)に示すように、数式演算データメモリ26eに対して積分「∫」の演算コードが書き込まれ、数式演算データが生成される(ステップA5)。
一方、前記ステップA1において、入力イメージデータメモリ26cのヘッダに続けて認識ガイドデータが無いと判断された場合は(ステップA1(No))、同ヘッダに続けて書き込まれた手書き軌跡の座標列d1,d2,…に基づく形状と位置から、数式としての文字・記号とその種類が認識される(ステップA6)。
そして、この認識された数式としての文字・記号とその種類に従い、前記数式表示データメモリ26dに対して表示制御コードCnと対応付けて当該文字・記号のテキストが書き込まれ、数式表示データが生成される(ステップA4)。
また、数式演算データメモリ26eに対して同認識された文字・記号とその種類に対応した演算コードが書き込まれ、数式演算データが生成される(ステップA5)。
すると、前記数式表示データメモリ26dに書き込まれた積分記号の表示制御コードC1とそのテキスト「∫」に従い、表示部16に認識数式データFnが表示される(ステップS9)。
続いて、積分の始値を手書き入力するのに、前記認識ガイドボタンGの種類指定用ボタン[始点]がタッチされると(ステップS3(Yes))、前記入力イメージデータメモリ26cのヘッダに続けて、認識ガイドデータ[始点]が書き込まれる(ステップS4)。
そして、前記積分の始値「1」がタッチパネル表示部16(17)にて前記積分記号「∫」に合わせて手書き入力されると(ステップS5(Yes))、その手書きの軌跡の座標データd1,d2,…が前記入力イメージデータメモリ26cの認識ガイドデータ[始点]に続けて順次書き込まれると共に、表示部16に手書き数式データFhとして表示される(ステップS6)。
この後、前記手書きによる積分の始値「1」の書き終えに伴い、タッチパネル17からタッチペンが離れたと判断され(ステップS7(Yes))、これから一定時間が経過することで前回同様に1キャラクタの手書き入力が終了し認識処理への移行であると判断されると(ステップS8(Yes))、前記入力イメージデータメモリ26cに書き込まれた認識ガイドデータ[始点]と手書き軌跡の座標列d1,d2,…に基づき、図7における手書き認識処理が実行される(ステップSA)。
ここで、認識ガイドデータが有ると判断されると(ステップA1(Yes))、当該認識ガイドデータ[始点]が読み取られ(ステップA2)、この認識ガイドデータ[始点]に応じた数式としての文字・記号、種類の認識データベースに基づき、前記手書き軌跡の座標列d1,d2,…が数式としての積分の始値「1」であると認識される(ステップA3)。
すると、前記図4で示したように、数式表示データメモリ26dに対して積分の始値の表示制御コードC2と対応付けてそのテキスト「1」が書き込まれ、数式表示データが生成される(ステップA4)。
また、図5(B)に示すように、数式演算データメモリ26eに対して積分の始値「1」の数値コードが書き込まれ、数式演算データが生成される(ステップA5)。
すると、前記数式表示データメモリ26dに書き込まれた積分の始値の表示制御コードC2とそのテキスト「1」に従い、表示部16に認識数式データFnが表示される(ステップS9)。
この後、前記同様に種類認識ガイド「終点」を指定して積分の終値「2」を手書き入力し、また、位置認識ガイド「中段」を指定して積分の変数「x」を手書き入力し、また、種類認識ガイド「べき乗」を指定して前記変数「x」のべき乗値「2」を手書き入力し、また、位置認識ガイド「中段」を指定して積分識別子「dx」を手書き入力すると、その都度、当該指定の認識ガイドに応じた文字・記号、種類の認識データベースに基づく手書き認識処理が実行されて数式表示データ(26d)および数式演算データ(26e)が生成され、図8に示すように、順次手書き数式データFhとして表示されながら認識数式データFnとして表示される(ステップS2〜S9)。
こうして、手書き入力された積分の数式[∫(1~2)2dx](以下、明細書中の積分の数式に記載される(1〜2)は積分範囲を示す)が手書き数式データFhおよび認識数式データFnとして表示された状態で、[EXE](実行)キーが操作されると(ステップS10(Yes))、数式演算データメモリ26eに生成された前記数式の演算用データに従った演算処理が実行され、その結果データが表示部16に表示される(ステップS11)。
図9は、前記グラフ関数電卓10の手書き入力処理に伴う表示動作(その2)を示す図である。
図10は、前記グラフ関数電卓10の手書き入力処理に伴う表示動作(その3)を示す図である。
前記図6・図7で示した手書き入力処理(ステップS1〜S10)に従い、ユーザとしては前記同様の積分の数式[∫(1~2)2dx]を手書き入力したものの、認識ガイドボタンGを利用せずに入力したため、そのべき乗値「2」が、図5(A)および図9に示すように乗算値「2」となり、意図しない数式[∫(1~2)x2dx]として認識されてしまった場合に、[訂正]キー14Tが操作されると(ステップS2(Yes))、当該数式の誤った認識部分を訂正するための訂正モードに設定される。
そして、タッチパネル表示部16(17)に表示された認識数式データFnの訂正対象とするテキスト「2」がタッチされて指定されると(ステップS12(Yes))、図10に示すように、当該認識数式データFnの指定されたテキスト「2」が反転表示Hされると共に、手書き数式データFhにおける対応する手書き部が消去される(ステップS13)。
ここで、前記訂正対象としたテキスト「2」をべき乗値「」として訂正するために、認識ガイドボタンGの種類指定用ボタン[べき乗]がタッチされて選択されると(ステップS14(Yes))、当該訂正対象のテキスト「2」が、選択された認識ガイド[べき乗]に応じた数式としての文字・記号、種類の認識データベースに基づき、べき乗値「」として訂正されて認識される。これにより、数式表示データメモリ26d(図4参照)に記憶されている数式表示データの訂正対象テキスト「2」の表示制御コードC5が訂正されると共に、数式演算データメモリ26eに記憶されている数式演算データも、図5(B)に示すようにその数値「2」の乗算コード「×」がべき乗コード「^」に訂正される(ステップS15)。
すると、前記図8で示したように、[∫(1~2)2dx]として訂正された認識数式データFnが表示部16に表示される(ステップS9)。
一方、前記図10で示したように、認識数式データFnの訂正対象のテキスト「2」が反転表示Hされると共に、手書き数式データFhにおける対応する手書き部が消去された状態で(ステップS12(Yes)→S13)、前記認識ガイドボタンGによる認識ガイドの選択を行うことなく(ステップS14(No))、前記消去された手書き部にべき乗値「」を意識して書き直すと、当該書き直した手書き軌跡の座標列d1,d2,…に基づく形状と位置から、数式としての文字・記号とその種類が再認識されて訂正される。これにより、数式表示データメモリ26dに記憶されている数式表示データの訂正対象テキストの表示制御コードCnが訂正されると共に、数式演算データメモリ26eに記憶されている数式演算データも訂正される(ステップS16)。
したがって、前記構成のグラフ関数電卓10における手書き数式認識機能によれば、ユーザ操作に応じて手書き数式入力モードに設定されると、タッチパネル表示部16(17)に、手書き入力する各文字の数式としての位置や種類を文字入力の直前に認識補助情報として指定するための位置指定用ボタン[最下段][下段][中段][上段][最上段]および種類指定用ボタン[始点][終点][分母][分子][べき乗]からなる認識ガイドボタンGが表示される。そして、任意の数式を構成する各文字・記号を手書き入力する際に、その都度、前記認識ガイドボタンGにより各文字・記号に応じた認識ガイドを指定しながら同文字・記号を手書き入力すると、指定された認識ガイドに応じた数式としての文字・記号、種類の認識データベースに基づき、手書き入力された各文字・記号が認識され、表示制御コードCnと認識テキストからなる数式表示データ(26a)が生成され認識数式データFnとして表示されると共に、演算コードからなる数式演算データ(26e)が生成される。
このため、手書き入力された文字や記号間の位置関係が微妙な場合でも、ユーザの意図する数式として効率よく認識できるようになる。
また、前記構成のグラフ関数電卓10における手書き数式認識機能によれば、[訂正]キーを操作した訂正モードにおいて、タッチパネル表示部16(17)に認識されて表示された認識数式データFnの訂正対象のテキストを指定し、前記認識ガイドボタンGにより訂正したい文字・記号に応じた認識ガイドを選択する。すると、選択された認識ガイドに応じた数式としての文字・記号、種類の認識データベースに基づき、前記指定のテキストが再認識され、前記数式表示データ(26a)が訂正されて新たな認識数式データFnとして表示されると共に、前記数式演算データ(26e)も訂正される。
このため、一旦手書き入力した数式を構成する文字・記号について、当該文字・記号のテキストは同じで数式としての位置や種類が異なる場合など、簡単且つ効率よく訂正できるようになる。
なお、前記各実施形態において記載した手法、すなわち、図6のフローチャートに示す手書き入力処理、図7のフローチャートに示す前記手書き入力処理に伴う手書き認識処理等の各手法は、コンピュータに実行させることができるプログラムとして、メモリカード(ROMカード、RAMカード等)、磁気ディスク(フロッピ(登録商標)・ディスク、ハードディスク等)、光ディスク(CD−ROM、DVD等)、半導体メモリ等の外部記録媒体23に格納して配布することができる。そして、タッチパネル表示部16(17)を備えた電子機器のコンピュータは、この外部記録媒体23に記録されたプログラムを記録媒体読み取り部24によって読み込み、この読み込んだプログラムによって動作が制御されることにより、前記各実施形態において説明した数式としての位置や種類を指定可能な手書きの文字・記号による数式認識機能を実現し、前述した手法による同様の処理を実行することができる。
また、前記各手法を実現するためのプログラムのデータは、プログラムコードの形態として通信ネットワーク(インターネット)N上を伝送させることができ、この通信ネットワーク(インターネット)Nに接続されたコンピュータ端末(プログラムサーバ)30から前記のプログラムデータを取り込み、前述した数式としての位置や種類を指定可能な手書きの文字・記号による数式認識機能を実現することもできる。
なお、本願発明は、前記各実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。さらに、前記各実施形態には種々の段階の発明が含まれており、開示される複数の構成要件における適宜な組み合わせにより種々の発明が抽出され得る。例えば、各実施形態に示される全構成要件から幾つかの構成要件が削除されたり、幾つかの構成要件が異なる形態にして組み合わされても、発明が解決しようとする課題の欄で述べた課題が解決でき、発明の効果の欄で述べられている効果が得られる場合には、この構成要件が削除されたり組み合わされた構成が発明として抽出され得るものである。
10 …グラフ関数電卓(電子計算機)
11 …キー入力部
12 …数字・文字・演算記号キー群
13 …計算機能設定キー群
14 …モード設定キー群
14T…[訂正]キー
15 …カーソルキー
16 …液晶ドットマトリクス型表示部
17 …タッチパネル
21 …制御部(CPU)
22 …記憶装置
22a…計算機制御プログラム
22b…手書き認識プログラム
23 …外部記憶媒体
24 …記憶媒体読み込み部
25 …通信制御部
26 …RAM
26a…表示データメモリ
26b…入力座標データメモリ
26c…入力イメージデータメモリ
26d…数式表示データメモリ
26e…数式演算データメモリ
30 …Webサーバ
N …通信ネットワーク
G …認識ガイドボタン
Fh …手書き数式データ
Fn …認識数式データ
H …反転表示

Claims (5)

  1. 手書き数式認識機能を備えた電子計算機であって、
    タッチパネル式表示部と、
    ユーザ操作に応じて認識すべき手書き文字の認識補助情報を入力する認識補助入力手段と、
    前記タッチパネル式表示部に手書き入力されて表示された手書き文字を、前記認識補助入力手段により入力された認識補助情報に基づき数式の文字として認識する手書き数式認識手段と、
    この手書き数式認識手段により認識された数式の文字を出力する認識数式出力手段と、
    を備えたことを特徴とする手書き数式認識機能を備えた電子計算機。
  2. 前記認識補助入力手段は、ユーザ操作に応じて認識すべき手書き文字の数式としての位置情報を入力し、
    前記手書き数式認識手段は、前記タッチパネル式表示部に手書き入力されて表示された手書き文字を、前記認識補助入力手段により入力された数式としての位置情報に基づき、数式の該当する位置の文字として認識する、
    ことを特徴とする請求項1に記載の手書き数式認識機能を備えた電子計算機。
  3. 前記認識補助入力手段は、ユーザ操作に応じて認識すべき手書き文字の数式としての種類情報を入力し、
    前記手書き数式認識手段は、前記タッチパネル式表示部に手書き入力されて表示された手書き文字を、前記認識補助入力手段により入力された数式としての種類情報に基づき、数式の該当する種類の文字として認識する、
    ことを特徴とする請求項1に記載の手書き数式認識機能を備えた電子計算機。
  4. 前記認識数式出力手段は、前記手書き数式認識手段により認識された数式の文字を前記タッチパネル式表示部に表示させ、
    ユーザ操作に応じて訂正モードを設定する訂正モード設定手段と、
    この訂正モード設定手段により設定された訂正モードにおいて、前記認識数式出力手段により前記タッチパネル式表示部に表示された数式の中からユーザ操作に応じて指定された訂正対象の文字を識別表示させる訂正文字指定表示手段と、
    この訂正文字指定表示手段により識別表示された数式の中の文字を、前記認識補助入力手段により新たに入力された認識補助情報に基づき数式の文字として再認識する数式訂正認識手段と、
    この数式訂正認識手段により再認識された数式の文字に応じて、前記訂正文字指定表示手段により識別表示された数式の中の文字を訂正して表示させる数式訂正表示手段と、
    を備えたことを特徴とする請求項1に記載の手書き数式認識機能を備えた電子計算機。
  5. タッチパネル式表示部を有する手書き数式認識機能を備えた電子計算機のコンピュータを制御するためのプログラムであって、
    前記コンピュータを、
    ユーザ操作に応じて認識すべき手書き文字の認識補助情報を入力する認識補助入力手段、
    前記タッチパネル式表示部に手書き入力されて表示された手書き文字を、前記認識補助入力手段により入力された認識補助情報に基づき数式の文字として認識する手書き数式認識手段、
    この手書き数式認識手段により認識された数式の文字を前記タッチパネル式表示部に出力させる認識数式出力手段、
    として機能させるためのプログラム。
JP2010285898A 2010-12-22 2010-12-22 手書き数式認識機能を備えた電子計算機およびプログラム Active JP5267546B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010285898A JP5267546B2 (ja) 2010-12-22 2010-12-22 手書き数式認識機能を備えた電子計算機およびプログラム
US13/314,442 US8659567B2 (en) 2010-12-22 2011-12-08 Electronic device having handwritten mathematical formula recognition function
CN201110410999.3A CN102591520B (zh) 2010-12-22 2011-12-12 具备手写数学式识别功能的电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010285898A JP5267546B2 (ja) 2010-12-22 2010-12-22 手書き数式認識機能を備えた電子計算機およびプログラム

Publications (2)

Publication Number Publication Date
JP2012133627A true JP2012133627A (ja) 2012-07-12
JP5267546B2 JP5267546B2 (ja) 2013-08-21

Family

ID=46316045

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010285898A Active JP5267546B2 (ja) 2010-12-22 2010-12-22 手書き数式認識機能を備えた電子計算機およびプログラム

Country Status (3)

Country Link
US (1) US8659567B2 (ja)
JP (1) JP5267546B2 (ja)
CN (1) CN102591520B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160101683A (ko) * 2015-02-17 2016-08-25 삼성전자주식회사 공식 입력 방법 및 장치

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9588953B2 (en) 2011-10-25 2017-03-07 Microsoft Technology Licensing, Llc Drag and drop always sum formulas
US9280524B2 (en) * 2012-06-28 2016-03-08 Texas Instruments Incorporated Combining a handwritten marking with a rendered symbol to modify the rendered symbol
CN102789362A (zh) * 2012-06-29 2012-11-21 鸿富锦精密工业(深圳)有限公司 电子设备及其智能计算控制方法
JP2014203393A (ja) * 2013-04-09 2014-10-27 株式会社東芝 電子機器、手書き文書処理方法、及び手書き文書処理プログラム
US10360297B2 (en) * 2013-06-14 2019-07-23 Microsoft Technology Licensing, Llc Simplified data input in electronic documents
CN103399698B (zh) * 2013-07-31 2016-08-24 中国船舶重工集团公司第七0九研究所 一种基于手绘草图和手势输入判断处理的笔式交互方法
CN103902051A (zh) * 2014-04-10 2014-07-02 天津三星通信技术研究有限公司 一种输入法及输入法系统
CN105468271A (zh) * 2014-09-03 2016-04-06 富泰华工业(深圳)有限公司 手写符号的识别方法、系统与装置
WO2016133335A1 (ko) * 2015-02-17 2016-08-25 삼성전자 주식회사 공식 입력 방법 및 장치
US10354133B2 (en) * 2015-08-26 2019-07-16 Beijing Lejent Technology Co., Ltd. Method for structural analysis and recognition of handwritten mathematical formula in natural scene image
US10346681B2 (en) * 2015-09-26 2019-07-09 Wolfram Research, Inc. Method and computing device for optically recognizing mathematical expressions
CN105447477B (zh) * 2015-12-25 2019-03-01 北京汉王数字科技有限公司 基于公式库的公式识别方法及装置
CN106021498B (zh) * 2016-05-20 2019-01-22 电子科技大学 基于问题求解过程的动态键盘信息生成方法及系统
CN107169485B (zh) * 2017-03-28 2020-10-09 北京捷通华声科技股份有限公司 一种数学公式识别方法和装置
CN109992121B (zh) * 2017-12-29 2023-02-03 北京搜狗科技发展有限公司 一种输入方法、装置和用于输入的装置
CN111158574A (zh) * 2019-12-27 2020-05-15 北京爱论答科技有限公司 一种数学符号输入的装置、方法、设备及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002269499A (ja) * 2001-03-07 2002-09-20 Masakazu Suzuki 数式認識装置および数式認識方法並びに文字認識装置および文字認識方法
JP2004145408A (ja) * 2002-10-22 2004-05-20 Hitachi Ltd デジタルペンおよびデジタルペーパを利用した計算システム
JP2010211656A (ja) * 2009-03-12 2010-09-24 Casio Computer Co Ltd 計算機及びプログラム
JP2010262535A (ja) * 2009-05-08 2010-11-18 Casio Computer Co Ltd 手書き入力機能を備えた計算機およびプログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5428805A (en) * 1992-12-22 1995-06-27 Morgan; Michael W. Method and apparatus for recognizing and performing handwritten calculations
JP2007072718A (ja) 2005-09-06 2007-03-22 Univ Of Tokyo 手書き数式の認識装置及び認識方法
CN101261554A (zh) * 2008-04-21 2008-09-10 东莞市步步高教育电子产品有限公司 公式、表达式的手写输入及计算系统和方法
CN101719033B (zh) * 2009-11-27 2013-02-13 深圳市学之易软件有限公司 符合传统手写习惯的计算器及其输入方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002269499A (ja) * 2001-03-07 2002-09-20 Masakazu Suzuki 数式認識装置および数式認識方法並びに文字認識装置および文字認識方法
JP2004145408A (ja) * 2002-10-22 2004-05-20 Hitachi Ltd デジタルペンおよびデジタルペーパを利用した計算システム
JP2010211656A (ja) * 2009-03-12 2010-09-24 Casio Computer Co Ltd 計算機及びプログラム
JP2010262535A (ja) * 2009-05-08 2010-11-18 Casio Computer Co Ltd 手書き入力機能を備えた計算機およびプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160101683A (ko) * 2015-02-17 2016-08-25 삼성전자주식회사 공식 입력 방법 및 장치
KR102489578B1 (ko) * 2015-02-17 2023-01-17 삼성전자주식회사 공식 입력 방법 및 장치

Also Published As

Publication number Publication date
US20120162107A1 (en) 2012-06-28
CN102591520A (zh) 2012-07-18
CN102591520B (zh) 2015-07-01
JP5267546B2 (ja) 2013-08-21
US8659567B2 (en) 2014-02-25

Similar Documents

Publication Publication Date Title
JP5267546B2 (ja) 手書き数式認識機能を備えた電子計算機およびプログラム
JP5790070B2 (ja) 表示制御装置およびプログラム
CN105830011B (zh) 用于交叠手写文本输入的用户界面
JP4775462B2 (ja) 計算機及びプログラム
TW200837634A (en) Handwritten character input device
CN102866826B (zh) 一种字符输入方法及其装置
JP6035843B2 (ja) 数式入力装置、数式入力方法およびプログラム
JP4525771B2 (ja) 電子式計算機
JP2003196593A (ja) 文字認識装置および文字認識方法および文字認識プログラム
JP2010262535A (ja) 手書き入力機能を備えた計算機およびプログラム
JP2011034340A (ja) 数式入力装置およびプログラム
JP7334168B2 (ja) 多言語サポートを伴うタッチスクリーンユーザーインターフェース
KR101568716B1 (ko) 드래그 방식을 이용한 한글 입력 장치
US20150347004A1 (en) Indic language keyboard interface
JP6504128B2 (ja) 電子機器、データ処理方法およびプログラム
JP2011043917A (ja) 数式表示演算装置およびプログラム
JP2019168935A (ja) 入力装置、入力方法、およびプログラム
JP4192868B2 (ja) 関数電卓
JP5979212B2 (ja) 電子機器およびプログラム
US11610070B2 (en) Electronic device for determining a character type in a character combination and processes capable of execution therewith, and control method for and storage medium storing program for same
CN107678562B (zh) 词组拼音输入方法及装置、计算机装置及可读存储介质
JP5532890B2 (ja) 表示装置およびプログラム
JP5855794B1 (ja) 動作入力システム、動作入力方法およびプログラム
JP2016177507A (ja) 電子機器、計算処理プログラム
JP6299127B2 (ja) 表示装置および表示プログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130409

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130422

R150 Certificate of patent or registration of utility model

Ref document number: 5267546

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150