JP2765514B2 - 手書き記号認識システム - Google Patents

手書き記号認識システム

Info

Publication number
JP2765514B2
JP2765514B2 JP7135765A JP13576595A JP2765514B2 JP 2765514 B2 JP2765514 B2 JP 2765514B2 JP 7135765 A JP7135765 A JP 7135765A JP 13576595 A JP13576595 A JP 13576595A JP 2765514 B2 JP2765514 B2 JP 2765514B2
Authority
JP
Japan
Prior art keywords
vector
feature
point
dictionary
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP7135765A
Other languages
English (en)
Other versions
JPH08305851A (ja
Inventor
石井  博
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
Nippon Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Electric Co Ltd filed Critical Nippon Electric Co Ltd
Priority to JP7135765A priority Critical patent/JP2765514B2/ja
Publication of JPH08305851A publication Critical patent/JPH08305851A/ja
Application granted granted Critical
Publication of JP2765514B2 publication Critical patent/JP2765514B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Document Processing Apparatus (AREA)
  • Image Analysis (AREA)
  • Character Discrimination (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、手書き記号認識システ
ムに係り、スタイラスペン(stylus pen)等を用いて編
集記号を入力するのに適した手書き記号認識システムに
関する。
【0002】
【従来の技術】スタイラスペンを使用して手書き編集記
号を入力する装置は、例えば特開昭60−75980号
公報に「オンライン手書き入力図形編集装置」として開
示されている。この「オンライン手書き入力図形編集装
置」は、図面上に描かれた種々の図形の中から編集対象
となる図形セグメントを選択するため、編集対象図形セ
グメント指定用の閉図形及びこの閉図形の一部と交差す
る第2の閉図形をスタイラスペンを使って手書き入力
し、これら2種の手書き入力図形を判別して、指定され
た図形セグメントが指示する編集内容を施す構成とされ
ている。
【0003】このオンライン手書き入力図形編集装置に
あっては、手書き記号の形状を認識する部分が編集操作
コマンド識別部に属しており、この編集操作コマンド識
別部は図15に示したフローチャートに従って動作す
る。なお、図16は上記従来の装置による角度量子化を
示す図、図17は図16に示した角度量子化の問題点を
示す図である。
【0004】図15のC1〜C9は各プログラムステッ
プであり、前処理(ステップC1)を行った後、ステッ
プC2において第i番目の座標点を取り込む。ステップ
C3では、ペンダウン(スタイラスペンが手書きの平面
に接触すること)信号が検知されたか否かに基づき、こ
の入力座標が始点か否かを判定する。始点であれば、ス
テップC7にジャンプし、全入力点の処理終了か否か、
すなわちペンアップ(スタイラスペンが手書きの平面か
ら離れること)信号が検出されたか否かを判定する。ス
テップC3の判定において、入力点が始点でないと判定
されたときは、前回入力点と今回入力点の各座標から図
16(a)を基準とした方向ベクトルを求める(ステッ
プC4)。次のステップC5では、同一方向ベクトルが
予定回数に亙って継続して現れたか否かを検知する。同
一方向ベクトルが予定の複数回継続して現れたときは、
ステップC6へと進み、当該ベクトルを方向パターンと
して認知してデータを作成する。
【0005】ステップC5の判定が否定された場合は、
ステップC7へとジャンプする。ステップC7におい
て、ペンアップ信号が検出されず、全入力点の処理が済
んでいないと判定されたときは、ステップC8でiを1
だけ増加してi+1とし、ステップC2へと戻る。そこ
で、今度は(i+1)番目の座標点を読み込み、C3〜
C7−C8−C2の処理を繰り返す。すなわち、ステッ
プC2〜C5−C6〜C2のループで入力図形に対する
方向パターンを作成する。一方、ペンアップ検出信号が
検出されたことが判った場合は、ステップC7に続くス
テップC9において、上記方向パターンを予め辞書に定
義された方向パターンと照合し、その中から一致するパ
ターンを求め、これを編集操作コマンドとして出力し、
もって一通りの手書き記号認識を終える。
【0006】
【発明が解決しようとする課題】上記従来のオンライン
手書き入力図形編集装置における手書き記号認識システ
ムは、以下の問題を抱えるものであった。
【0007】第1には、方向ベクトルの量子化が適切に
行われない場合があり、そうした場合に正しい認識結果
が得られないという問題があった。すなわち、例えば図
16(b)に示す方向6と方向7の中間に方向分類の境
界線が引かれているときに、手書きのための手振れ等が
原因で、図17に示したように、この境界線と殆ど重な
るようにして絡む迷走パターンが描かれたときに、量子
化した迷走パターンからは、方向6と方向7が不規則に
交互に現れた後で方向5に移るという複雑怪奇な方向ベ
クトルしか得られず、このような方向ベクトルをそのま
ま図形認識に用いても正しい認識結果は得られなかっ
た。また、従来の装置は、同一の方向ベクトルが規定回
数に亙って連続的に発生した場合に、そこで初めて方向
パターンとして辞書と比較する方法で対処していたた
め、規定回数が小さな数値に設定されている場合は、手
振れによる雑音によって規定回数を上回る迷走がしばし
ば検出されてしまい、またその逆に規定回数を大きな数
値に設定した場合には、方向パターンとして辞書と比較
すべき部分でありながら、規定回数に達しないために辞
書比較に至らない可能性があった。
【0008】第2に、手書き記号が手書きの途中で中断
された場合の処理が問題であった。すなわち、スタイラ
スペンの筆圧が下がるなどの理由で、入力データが一瞬
途切れた場合に、従来の装置ではステップC7でペンア
ップと判定してしまうため、書き手にしてみれば一つの
編集記号を入力したつもりでも、装置は2つの編集記号
が入力されたものと認識する結果、書き込み意図と認識
結果がずれる誤認識を生じていた。
【0009】第3に、書き手が手書き記号のに入力中に
何らかの理由で入力を取り止める挙動をした場合に問題
が発生していた。例えば、書き手が誤った記号を入力し
始めたことに気付き、書き込み途中でペンアップを行う
と、それまでに入力された不完全なデータに基づく認識
が行われる結果、書き手が全く予期しない別の記号とし
て認識される可能性があった。
【0010】第4に、編集時の操作性の問題がある。す
なわち従来の装置では、まず最初に編集対象を指定する
閉図形を入力し、続いて編集を指示する手書き記号を入
力するといった2段階の手順を踏む必要があり、手書き
認識に2回の入力操作を必要とするため、操作性が劣っ
ていた。また、例えば同一の記号を入力したときに、書
き手の個性で多少とも入力パターンに変形が生ずるのは
致し方ないにしても、上記従来のオンライン手書き図形
入力装置に限らず一般の手書き記号認識システムに言え
ることでもあるが、図形の曲線部分で同一パターンとし
て分類されるべき図形に関して、異なる方向パターンを
発生することがあった。例えば、図18に例示したよう
に、書き手がアルファベットの「V」を書き込むとき
に、同図(a)に示した本来の認識形状に近い、下に凸
の楔状の文字を正確に入力してくれた場合は、誤認識率
は比較的少ないが、アルファベット文字の「U」に近い
形状や、或いは同図(b)に示したごとく、「U」ほど
底辺に横幅と丸みはもたないものの、尖点となるべき
「V」の最下点が鈍って横幅をもってしまった手書き入
力に対しては、誤ったパターン認識に至る確率が大であ
った。
【0011】そこで、従来の装置は、このような変形し
たパターンに対処するため、文字ごとに予め予想される
変形パターンをすべて列挙しておき、これらすべての変
形パターンを辞書内に個別に定義しておく構成を採用し
ていた。その結果、書き手の変形入力に対して許容度の
大きなシステムを構築しようとすればするほど、辞書容
量が肥大化してしまうという問題があった。
【0012】本発明は、かかる問題点を解決するために
なされたものであり、ベクトルの方向の量子化が適切に
実行され、入力が一瞬途切れた場合でもペンアップと誤
判断されることがなく、また編集などの対象を指定する
ためのいわゆるホットスポットを抽出する手段により、
編集対象を指定する閉図形を入力する必要性を排除し、
さらに特徴辞書記憶手段に複数の変形パターンを包含す
る省略可能フラグ付き形状特徴パターンを記憶させて辞
書容量を圧縮するようにした手書き記号認識システムを
提供することを目的とする。
【0013】
【課題を解決するための手段】本発明は、手書きの記号
として描かれた曲線の軌跡を当該曲線上の点列の位置座
標列として入力する入力手段と、前記点列の位置座標列
を記憶する点列データ記憶手段と、前記点列データ記憶
手段に最初に記憶される点を最初の基準点とし、基準点
と該基準点に相次いで入力される点を結ぶベクトルの長
さが予め定めた閾値以上である点を次の基準点として前
の基準点に置き換え、このようにして順次決定された基
準点について隣接基準点を結ぶベクトルの方向を算出す
る方向算出手段と、この方向算出手段が算出した方向
を、所定段階数の主方向と、隣接する主方向の中間の所
定角度範囲の補助方向とに量子化し、量子化した方向を
方向特徴として出力する方向特徴抽出手段と、この方向
特徴抽出手段の出力のうち方向特徴が補助方向であるも
のは、直前のベクトルの方向の方向特徴に従って当該方
向特徴を主方向の方向特徴に変換し、同一主方向の連続
する部分を単一のベクトルとして合成した方向遷移パタ
ーンを生成する方向遷移パターン生成手段と、この方向
遷移パターン生成手段により生成された方向遷移パター
ンの各ベクトルについて、当該ベクトルの長さと前記方
向遷移パターンの全てのベクトルの長さの合計との比率
を求める方向遷移ベクトル長算出手段と、前記方向遷移
パターン生成手段により生成された方向遷移パターンの
各ベクトルの角度を求める方向遷移ベルトル角度算出手
段と、認識対象となる記号の特徴について前記方向遷移
パターンと前記比率と前記角度を一定の許容範囲ととも
に格納した特徴辞書記憶手段と、前記手書き入力された
記号を、前記方向遷移パターンと前記比率と前記角度に
基づいて前記特徴辞書記憶手段の記憶内容と比較し、該
当する記号を検索する特徴辞書比較手段とを具備する手
書き記号認識システムを提供することにより、前記目的
を達成するものである。
【0014】また、前記入力手段が、ペンダウンを点列
入力の開始点とし、ペンアップを点列入力の終了点とす
る手段と、前記ペンアップの時点と次のペンダウンの時
点との間が予め定める時間内であるときは同一手書き記
号の連続入力として処理する手段とを具備すること、或
いは前記特徴辞書記憶手段が、認識対象となる記号の特
徴に関する情報の外に、前記方向遷移パターン生成手段
により単一のベクトルとして抽出された各ベクトルの端
点を手書き記号による対象指定用座標の抽出に使用する
か否かの付加情報を記憶しており、前記方向遷移パター
ン生成手段により単一のベクトルとして抽出された各ベ
クトルの端点を前記付加情報と対比し、対象指定用座標
の抽出に使用すべき端点をホットスポットとして抽出す
るホットスポット抽出手段をさらに具備すること等を特
徴とする手書き記号認識システムを提供することによ
り、前記目的を達成するものである。
【0015】さらに、前記特徴辞書記憶手段が、書き手
の癖によって変形が予想される箇所に冗長ベクトルを挿
入した方向遷移パターンを、該冗長ベクトルに辞書比較
対象から外すことができることを示す省略可能フラグを
付して記憶させてあること、或いは前記特徴辞書比較手
段が、比較時に着目している方向遷移パターンの要素番
号を記憶する判定フラグテーブルと、前記省略可能フラ
グと前記判定フラグテーブルの状態を参照しつつ着目要
素を選択して比較し、比較判定結果に応じて判定フラグ
テーブルを更新する特徴パターン比較器と、入力された
手書き記号に関する一通りの検索が終了した時点で前記
判定フラグテーブルを参照し、該当する記号を認識結果
として出力する認識結果出力器とを具備すること等を特
徴とする手書き記号認識システムを提供することによ
り、前記目的を達成する。
【0016】
【作用】本発明の手書き記号認識システムによれば、主
方向の量子化に際し隣接段階の2方向の何れとも断定で
きない方向は、当該2方向の中間に設けた補助方向に属
するものとし、主方向と補助方向とで方向パターンを構
成し、この方向パターン中の補助方向は、その前の主方
向に関連して主方向に変換し、このようにして主方向だ
けの方向パターンを作成する。また、省略可能フラグ付
きの冗長ベクトルを挿入した方向遷移パターンを用いる
ことにより、複数の変形パターンを統合して辞書容量を
圧縮する。
【0017】
【実施例】以下、本発明の実施例について図1ないし図
14を参照して説明する。図1は、本発明の手書き記号
認識システムを適用した手書き記号認識装置の一実施例
を示すブロック図である。
【0018】図1に示す手書き記号認識装置は、大別し
て入力装置1とデータ処理装置2と記憶装置3と出力装
置4とから構成される。入力装置1は、タブレットやス
タイラスペン(ともに図示せず)等を備え、タブレット
に記されたスタイラスペンの軌跡を点列の座標値データ
として入力するものであり、具体的には手書き記号の曲
線の軌跡を当該曲線上の点列の位置座標列として入力す
る働きをする。データ処理装置2は、プログラム制御に
よって動作し、入力装置1から入力されたデータを処理
し、パターンマッチングにより手書き記号を認識する。
記憶装置3は、データ処理装置2がデータ処理の過程で
取り扱うデータやパターンマッチングに必要な辞書デー
タを記憶しており、データ処理装置2に対して随時必要
なデータを供給する。データ処理装置2による記号認識
結果は、出力装置4から出力される。
【0019】データ処理装置2の構成を機能分類に従っ
て細分化すると、方向算出手段21、8方向特徴抽出手
段22、4方向遷移パターン生成手段23、4方向ベク
トル長算出手段24、4方向ベクトル角度算出手段2
5、特徴辞書比較手段26にブロック化することができ
る。これらの手段のうち、方向算出手段21は、点列デ
ータ記憶手段31に最初に記憶される点を最初の基準点
とし、基準点と基準点に相次いで入力される点を結ぶベ
クトルの長さが予め定めた閾値以上である点を次の基準
点として前の基準点に置き換え、このようにして順次決
定される基準点について隣接基準点を結ぶベクトルの方
向を算出する。8方向特徴抽出手段22は、方向算出手
段21が算出した方向を、8段階の主方向及び隣接する
主方向の中間の所定角度範囲の補助方向に量子化し、量
子化した方向を方向特徴として出力する。4方向遷移パ
ターン生成手段23は、8方向特徴抽出手段22の出力
のうち方向特徴が補助方向であるものは、直前のベクト
ルの方向の方向特徴に従って当該方向特徴を主方向の方
向特徴に変換し、変換後に同一主方向の連続する部分を
単一のベクトルとして合成した方向遷移パターンを生成
する。4方向ベクトル長算出手段24は、4方向遷移パ
ターン生成手段23により生成された方向遷移パターン
の各ベクトルに対し当該ベクトルの長さと、この方向遷
移パターンの全てのベクトルの長さの合計に対する比率
を求める。4方向遷移ベクトル角度算出手段25は、4
方向遷移パターン生成手段23によりにより生成された
方向遷移パターンの各ベクトルの角度を決定する。
【0020】特徴辞書比較手段26は、4方向遷移パタ
ーン生成手段23が生成した4方向遷移パターンと4方
向遷移ベクトル長算出手段24が決定した比率と、4方
向遷移ベクトル角度算出手段25が決定した角度とによ
り特徴辞書記憶手段33を検索し、検索結果を出力装置
4へと出力する働きをする。この特徴辞書比較手段26
は、具体的には、辞書符号列と入力符号列とを比較する
ため、着目している要素番号を記憶する判定フラグテー
ブル26aと、後述する辞書符号を構成する4方向遷移
ベクトルと入力符号を構成する4方向遷移ベクトルと
を、省略可能フラグと判定フラグテーブル26aの状態
を参照しつつ着目要素を選択して比較し、比較判定結果
に応じて判定フラグテーブル26aを更新する特徴パタ
ーン比較器26bと、入力符号に関して一通りのマッチ
ング処理が終了した時点で判定フラグテーブル26aを
参照し、認識結果として該当する辞書符号を出力する認
識結果出力器26c等を備えた構成とされている。
【0021】一方また、記憶装置3についても、機能的
な集約により、前記点列の位置座標列を記憶する点列デ
ータ記憶手段31、点列データから生成される各種ベク
トルに関するデータを記憶するベクトル記憶手段32、
パターンマッチングに必要な辞書データを記憶する特徴
辞書記憶手段33とにブロック化することができる。な
お、特徴辞書記憶手段33には、認識対象となる記号の
特徴について4方向遷移パターンと前記比率と前記角度
を一定の許容範囲とともに格納してあるが、そのうちの
4方向遷移パターンについては後述する。
【0022】図2は、図1の装置の動作を示すフローチ
ャートであり、A1〜A22は各処理ステップを示す。
以下、この図を参照して図1に示す実施例の動作を説明
する。
【0023】ステップA1でペンダウンが検出された時
点から、入力装置1は入力を開始し、ステップA11で
ペンアップの継続が確認された時点で入力を終了する。
最初の基準点は、最初に入力される点の座標位置であり
(ステップA2)、この座標位置が点列データ記憶手段
31の基準点レジスタ(図示せず)に格納される。方向
算出手段21は、この基準点の次に入力される点につい
て、基準点を始点とし当該点を終点とするベクトルを生
成し(ステップA3,A4)、このベクトルの長さが閾
値以下の場合には当該点を間引きし(ステップA5,A
3)、ベクトル長が閾値以上の場合にだけこのベクトル
をベクトル記憶手段32に記憶させ、しかる後に当該点
の座標位置を次の基準点として基準点レジスタに格納す
る(ステップA6)。こうして不必要な点は間引きさ
れ、間引きされずに残った基準点を結ぶベクトルのデー
タがベクトル記憶手段32に記憶される。
【0024】図3は、8方向特徴抽出手段22の動作を
説明するための図であり、ベクトル記憶手段32に記憶
されるベクトルの方向がこの8方向特徴抽出手段22に
より主方向1,2,3,4及び補助方向5,6,7,8
の8段階に量子化される。ここでは、330゜〜30゜
の範囲に含まれるベクトル方向を主方向1に定め、ベク
トル方向の包含範囲45゜〜135゜,150゜〜21
0゜,245゜〜315゜を、それぞれ主方向2,3,
4に対応定義してある。さらに、どの主方向にも属さな
い方向として、30゜〜45゜,135゜〜140゜,
210゜〜245゜,315゜〜330゜の範囲が残る
が、これらはそれぞれ補助方向5,6,7,8に定める
ことにより、すべてのベクトルは主副いずれかの8方向
に分類される。
【0025】なお、説明の便宜上、方向算出手段21と
8方向特徴抽出手段22の動作を分けて説明したが、方
向を算出すると同時にその方向を量子化することもでき
るため、方向算出手段21を8方向特徴抽出手段22内
に含ませることもできる。
【0026】ベクトル方向を図3に示した8方向に分類
したことで、どの主方向に属するかが不明なベクトル方
向は存在しなくなる。また、主方向と補助方向の境界線
の方向は、30゜,45゜,135゜,150゜,21
0゜,245゜,315゜,330゜の8方向である
が、補助方向は4方向遷移パターン生成手段23により
主方向に変換されるので、これらの境界線上にあるベク
トルは始めから主方向として、それぞれ主方向1,2,
2,3,3,4,4,1としておくことができる。
【0027】図4は、4方向遷移パターン生成手段23
の動作を説明するための図であり、図5は、データ処理
装置2における処理経過を説明するための図である。同
図からも明らかなように、問題とするベクトルが補助方
向にあるときは、その前のベクトルの方向に従ってこれ
を主方向に変換し、始点のベクトルにはその前のベクト
ルがないので、仮に、方向5と方向8は方向1に、方向
6と方向7は方向3に変換するよう定めておく。そして
始点から順次変換していくと「その前のベクトル」の方
向は必ず主方向となっているので、始点以外の「現時点
の8方向特徴」は「前の4方向特徴」に応じて図4に示
す変換則に従って4方向特徴に変換する。
【0028】図5(a)は、8方向特徴抽出手段22で
抽出した各ベクトルの8方向特徴の一例を示すものであ
り、図5(b)は、図5(a)の8方向特徴を図4の変
換則に従って変換した結果を示している。4方向遷移パ
ターン生成手段23は、さらに図5(b)から図5
(c)の方向遷移のパターンを生成する。図5(c)で
は、図5(b)で同一方向特徴の中間にある基点は全部
省略され、同一主方向の始点とその終点とが連結されて
新しいベクトルが生成される。これらのベクトルの方向
遷移、個々のベクトルの長さとその角度は、この手書き
記号認識システムが扱う主要な特徴データとなる。
【0029】図2において、ステップA9のペンアップ
が一定時間継続すると、ステップA12へと移行し、図
5(b)を図5(c)のように変換し、ステップA13
では、4方向ベクトル長算出手段24により4方向遷移
ベクトルの長さを算出し、4方向ベクトル角度周出手段
25によりその角度を算出する。ステップA14,A1
5では、4方向遷移ベクトルのうち相対的に短い4方向
遷移ベクトルは処理エラーによって発生したものと判断
してこれを除去し、4方向遷移ベクトルの再編成を行
う。
【0030】図6は、特徴辞書記憶手段33の内容の一
部を示す説明図であり、手書き図形の各カテゴリに対
し、4方向遷移パターン、ベクトル長比、ベクトル角度
を記憶することを示してある。ただし、ベクトル長比と
は当該ベクトルの長さの当該記号を構成する全てのベク
トルの長さの総計に対する比率(%表示)を指す。な
お、ベクトル長比とベクトル角度は、いずれも許容範囲
をもって表してある。
【0031】データ処理装置2が処理したデータは、特
徴辞書比較手段26により特徴辞書記憶手段33の内容
と比較されて手書き記号のカテゴリが決定されるが、ま
ず図2のステップA16において、4方向遷移パターン
が1,4,3,2,1であり、これは図6のカテゴリ1
と合致するのでステップA17へ進むが、ステップA1
6の判定が否定された場合、すなわち候補なしの場合
は、ステップA22へと進んで「認識結果なし」を出力
し、「終わり」となる。また、ステップA16において
「候補あり」の判定が得られた場合は、続くステップA
17において、4方向遷移ベクトル長比を算出し、ステ
ップA18でこれを辞書のカテゴリ1の欄の数字と比較
する。図5(c)の例では、そのベクトル長比は図6に
示す範囲に入っているので、ステップA19へ進む。
【0032】ステップA19では、4方向遷移ベクトル
角度を算出し、ステップA20でこれを辞書のカテゴリ
1の欄の数字と比較する。また、図5(c)の例では、
ステップA20の比較結果が「候補あり」となり、ステ
ップA21に進み、カテゴリ1が出力される。ステップ
A18,A20における比較結果が「候補なし」である
場合は、いずれもステップA22に進み「認識結果な
し」が出力される。また、入力される図形が編集記号の
ようなときは、その編集記号が認識されてその記号の意
味するコマンドが実行される。なお、ステップA10と
A11とを設けたことで、一瞬間入力が途絶えたことを
ペンアップと誤認識することはない。
【0033】ところで、特徴辞書記憶手段33には、認
識対象となる記号の特徴について4方向遷移パターンと
前記比率と前記角度を一定の許容範囲とともに格納して
あるが、4方向遷移パターンに関しては、図7に示した
ように、予め用意した複数の分類カテゴリに分類し、同
一カテゴリに属するものどうしを辞書符号列として記憶
させてある。すなわち、分類カテゴリCφ〜Cuに、辞
書符号D[iφ]〜D[ij](ただし、j=φ,1,
2..,Ni)を分類してあり、このため特徴辞書比較
手段26内の特徴パターン比較器26bは、分類カテゴ
リごとに要素ポインタを立てながらカテゴリ横断的に検
索することができる。また、辞書符号列の各要素である
方向遷移パターンを構成する複数のベクトルには、個々
のベクトルの量子化ビットの最上位又は最下位に辞書比
較対象から外すことができることを示す省略可能フラグ
を割り当てて記憶させてある。具体的には、図8に示し
たように、各辞書符号D[ij]の構成ベクトルを、最
上位ビットに割り当てた省略可能フラグのためのビット
と、それに続く4方向ベクトルを表す7ビットの計8ビ
ットで構成してある。
【0034】この省略可能フラグは、一つの辞書符号が
手書き入力パターンとして予想される複数の変形パター
ンを包含するよう、書き手の癖によって変形が予想され
る箇所に冗長ベクトルを挿入したことを受けて導入した
ものであり、冗長ベクトルが標準的な手書き入力パター
ンに対しては比較対象から外すことができること、すな
わち省略可能であることを明示する働きがある。具体的
には、図9,10に示したように、4方向遷移ベクトル
(1〜4)に挿入された冗長ベクトルの直後に付したア
ステリスク記号「*」が省略可能フラグに相当するもの
であり、この省略可能フラグの付いた冗長ベクトルは、
たとえ検索途中の入力パターンに該当する4方向遷移ベ
クトルが存在しない場合でも、その場で対象外として排
除するのではなく、それに続く4方向遷移ベクトルの当
否をもってパターンマッチングを行うという処理方式を
象徴するものである。
【0035】図9(a),(b),(c)は、4方向遷
移ベクトルと省略可能フラグとを対にした辞書符号の具
体例を示すものである。認識する形状は、「次頁」を意
味する平仮名の「す」の下半分に似た形状を例示するも
のであるが、この場合、辞書パターン「4,3*,2,
1,4」のうち「3*」が冗長ベクトルを表す。すなわ
ち、通常予想される入力パターンである「4,2,1,
4」に冗長ベクトル「3*」を含ませたことで、辞書パ
ターンとして同一認識結果に結びつく2通りのパターン
「4,3,2,1,4」,「4,2,1,4」を用意し
ておく必要から解放され、辞書符号の集約化に伴う辞書
容量の圧縮効果(この場合1/2圧縮)が期待できるこ
とになる。
【0036】また、図10(a),(b),(c)に示
した認識形状は「復元」を意味する螺旋パターンを例示
するものであるが、この場合、辞書パターン「2*,1
*,4,3,2,1」のうち「2*」,「1*」が冗長
ベクトルを表す。すなわち、通常予想される入力パター
ンである「4,3,2,1」に冗長ベクトル「2*」,
「1*」を含ませたことで、辞書パターンとして同一認
識結果に結びつく4通りのパターン「2,1,4,3,
2,1」,「2,4,3,2,1」,「1,4,3,
2,1」,「4,3,2,1」を用意しておく必要から
解放され、辞書符号の集約化に伴う辞書容量の圧縮効果
(この場合1/4圧縮)が期待できる。
【0037】ところで、図2に示したフローチャートの
うち、ステップA16における比較は、具体的には図1
1に示したE1〜E21のステップからなるフローに従
って実行される。ただし、同図中d[i]は、入力符号
列であり、iは要素番号である。D[u,P[u]]
は、辞書符号列であり、uはカテゴリ番号である。P
[u]は、辞書内符号番号である。N[u]は、辞書の
カテゴリuの要素数である。
【0038】まず、ステップE1〜E3において、初期
設定が施される。次に、ステップE4〜E6における判
断により、分類カテゴリごとに逐次辞書検索が遂行され
る。ステップE4で、P[u]=−1であること、すな
わち要素ポインタに無効な値「−1」が立っている場合
は、ステップE12においてカテゴリ番号uを1進め
る。また、ステップE5において、P[u]=N[u]
であることが判れば、一のカテゴリに含まれる全ての要
素に対する検索が終わったことが判明するため、ステッ
プE11においてP[u]=−1として、次のカテゴリ
の検索への移行を推し進める。また、ステップE6にお
いて、入力符号列d[i]が辞書符号列D[u,P
[u]]に一致したことが判ると、続くステップE7に
おいて要素ポインタP[u]を1だけ進める。
【0039】ただし、辞書符号列には冗長ベクトルが含
まれるため、入力符号列d[i]が辞書符号列D[u,
P[u]]に一致しない場合もある。その場合は、続く
ステップE8において、辞書符号列D[u,P[u]]
は省略可能フラグ付きであるか否かが判断される。この
場合、省略可能フラグ付きであることが判明すると、与
えられた入力符号列d[i]に対して辞書符号列D
[u,P[u]]が該当する可能性を残すものとし、続
くステップE9において要素ポインタP[u]を1だけ
増加する。さらに、ステップE10において、要素ポイ
ンタP[u]が検索中のカテゴリの要素数N[u]に一
致しないことが判ると、ステップE4に戻り、同じ分類
カテゴリに対する検索を続行する。ただし、要素ポイン
タP[u]が検索中のカテゴリの要素数N[u]に一致
したことが判ると、P[u]=−1として、そのカテゴ
リにおける検索が完了したことを明示する。
【0040】こうして、ステップE12へと移行し、カ
テゴリ番号uを1だけ増加させて、次の分類カテゴリの
検索へと移行する。まず、ステップE13では、カテゴ
リ番号uが最大カテゴリ番号u_Maxに一致したかど
うかが判定される。一致しない場合は、ステップE4に
戻ってさらなる検索を続行するが、一致した場合は、ス
テップE14において、カテゴリ番号uを0とし、続く
ステップE15において要素番号iを1だけ増加させ
る。さらに、ステップE16において、要素番号iがそ
の最大値i_Maxに一致しているかどうかを判断し、
一致しない場合は、ステップE4に戻って検索を継続す
るが、一致した場合は、ステップE17において、カテ
ゴリ番号uを0とする。さらに、ステップE18では、
要素ポインタP[u]がi_Maxに一致するかどうか
を判定し、一致した場合は、要素ポインタP[u]を出
力し、一致しない場合は、ステップE20においてカテ
ゴリ番号uを1だけ増加させる。最後に、ステップE2
1において、カテゴリ番号がその最大値u_Maxに一
致することが判るまで、ステップE18〜E20を繰り
返し実行する。
【0041】こうして、図2に示したステップA16に
おいて、上記のE1〜E21のステップからなる辞書比
較が実行され、入力符号列d[i]に対して候補となる
辞書符号列D[u,P[u]]が存在するか否かが判定
される。この場合、前述したように、分類カテゴリCφ
〜Cuに、辞書符号D[iφ」〜D[ij](ただし、
j=0,1,2..,Ni)が分類してあるため、特徴
辞書比較手段26内の特徴パターン比較器26bは、分
類カテゴリごとに要素ポインタを立てつつカテゴリ横断
的に辞書検索することができ、しかも辞書符号列D
[u,P[u]]は省略可能フラグ付きであるため、複
数の変形パターンの全てを網羅的に検索する必要はな
く、辞書容量が削減された分だけ検索時間が短縮される
ため、効率的に記号認識が可能である。
【0042】図12は、本発明の他の実施例を示すブロ
ック図であり、データ処理装置5は図1のデータ処理装
置2に対応し、記憶装置6は図1の記憶装置3に対応
し、出力装置7は図1の出力装置4に対応する。また、
特徴辞書比較手段56は図1の特徴辞書比較手段25と
対応し、特徴辞書記憶手段63は図1の特徴辞書記憶手
段33と対応する。図1との顕著な相違点は、データ処
理装置5がホットスポット抽出手段57を備えている点
である。また、図13は図12に示した装置の動作を示
すフローチャートであり、B1〜B23は各ステップを
示し、B1〜B8は図2のA1〜A8の各ステップに相
当し、B17〜B22はA17〜A22に相当し、B1
2〜B14はA9〜A11に相当し、B9はA12に、
B10はA15にそれぞれ相当する。
【0043】以下、図13を参照して図12に示した実
施例の動作を説明するが、図13において図1のステッ
プに相当する動作は同様な動作であるので、重複した説
明は省略する。
【0044】ステップB8までの処理で、4方向特徴が
抽出される。図2に示したステップA8ではペンにより
手書き記号が入力されている最中であり、A9,A1
0,A11でペンダウンであるか途中の休みであるかを
検出するが、これ以上の特徴抽出は行わず、この状態で
特徴辞書記憶手段33との比較は行っていない。しかし
ながら、4方向遷移を始点から終点まで全部採集しなく
ても、例えば、最初の2点の組み合わせだけで、そのよ
うな組み合わせは特徴辞書に存在しないことを判定でき
る場合がある。すなわち、例えば、最初の2点の4方向
特徴の組み合わせが1−3,2−4,3−1,4−2の
ような場合、これが辞書に存在せず、入力者の誤動作に
よってこのような4方向遷移が発生したと判定して、こ
の時点において機械側から入力者に対し「入力のやり直
し」を勧告することが望ましい。
【0045】図13のフローチャートは、このような勧
告を行うことができるようにしたものであり、ステップ
B8に続いてステップB9(ステップA12相当)とス
テップB10(ステップA15相当)を実行し、データ
入力の途中でステップB11で辞書6との比較を行い、
この時点で「候補なし」と判定されたときはステップB
15で認識結果キャンセルを出力する。この出力を観察
した入力者は誤入力をしたことに気付き、ステップB1
からやり直すことができる。また、ステップB11の判
定が「候補あり」の場合には、ステップB12以下ステ
ップB22までの動作は、図2のフローチャートで示す
動作と同様な動作が行われる。ただし、図13のフロー
チャートではステップB23のホットスポット抽出が行
われる。このホットスポットの抽出により、例えば編集
対象が存在する位置を知ることができる。
【0046】図14は、図6に示した内容の外に、ホッ
トスポット抽出のため特徴辞書記憶手段63に付加すべ
き内容を示す説明図であり、4方向遷移パターンの各ベ
クトルのうちホットスポットとして抽出すべきベクトル
にはフラグ(図14では論理「1」で示す)を付してあ
る。ステップB21で認識結果を取得すると、ホットス
ポット抽出手段57は特徴辞書記憶手段63にフラグが
セットされているベクトルの終点座標を読み出してホッ
トスポットとして出力する。このホットスポットの使用
法は予め定められており、入力操作者はこのホットスポ
ットを使用して上記予め定められた座標位置を指定する
ことができる。
【0047】以上説明した図12,13に示した実施例
は、入力操作の途中で書き手に対し誤入力が行われたこ
とを警告することができ、またホットスポット抽出手段
57によりホットスポットを抽出して、予め定められた
取り決めに従って所定の意味を持つ座標位置を指定する
ことができる点で、図1,2に示した実施例とは相違す
る。
【0048】なお、上記の特定の実施例を例示して本発
明を説明したが、本発明はこれらの実施例に限定される
ものではない。例えば、手書き図形の始点と終点とを結
ぶベクトルを算出し、このベクトルの許容範囲を特徴辞
書記憶手段33又は特徴辞書記憶手段63に記憶する許
容範囲と比較するステップを追加することもできる。さ
らに、実施例では、主方向も補助方向も各4方向の場合
について説明したが、例えば主方向を8方向とし、補助
方向を8方向とした場合でも、容易に実施することがで
きる。
【0049】
【発明の効果】以上説明したように、本発明によれば、
基準点間のベクトル方向を量子化する場合に、量子化の
境界線上で不具合が発生することがなく、入力が一瞬間
途絶えたことをペンアップと誤認識することが防止で
き、手書き記号の入力途中で、その手書き記号が辞書に
ないことが判定されたときはこれを入力操作者に通知す
ることができる等の優れた効果を有する。また、ペンア
ップの時点と次のペンダウンの時点との間が予め定める
時間内であるときは同一手書き記号の連続入力として処
理するようにしたから、入力が一瞬途切れたときの誤動
作を防止することができ、また手書き記号の入力中に候
補が無くなった場合に操作者に通知するようにしたの
で、誤った記号を入力し始めたと操作者が気付いて入力
を中断する場合に、書き手が任意にペンを動かしても何
らかの記号に認識されないようにできる等の効果を奏す
る。さらに、本発明は、辞書に記憶する方向遷移パター
ンに省略可能フラグを付加し、複数の変形パターンを1
つのパターンに統合して記憶させるようにしたから、辞
書容量を変形パターンの数に反比例して圧縮することが
でき、また辞書容量の圧縮に伴い検索に要する時間も短
縮することができる等の効果を奏する。
【図面の簡単な説明】
【図1】本発明の一実施例を示すブロック図である。
【図2】図1のシステムの動作を示すフローチャートで
ある。
【図3】図1の8方向特徴抽出手段の動作を説明する説
明図である。
【図4】図1の4方向特徴抽出手段の動作を説明するた
めの説明図である。
【図5】図1のデータ処理装置の処理経過を示す説明図
である。
【図6】図1の特徴辞書記憶手段の内容の一部を示す説
明図である。
【図7】図1の特徴辞書記憶手段が記憶する4方向遷移
パターンに関する分類カテゴリを示す図である。
【図8】図7に示した辞書符号列を構成する一の4方向
遷移ベクトルのビット構成を示す図である。
【図9】一の認識形状に関する辞書パターンと入力パタ
ーンとの関係を(a),(b),(c)に分けて示す図
である。
【図10】他の認識形状に関する辞書パターンと入力パ
ターンとの関係を(a),(b),(c)に分けて示す
図である。
【図11】図2のフローチャートの辞書比較ステップを
詳細に説明するフローチャートである。
【図12】本発明の他の実施例を示すブロック図であ
る。
【図13】図12のシステムの動作を示すフローチャー
トである。
【図14】図12の特徴辞書記憶手段の内容の一部を示
す説明図である。
【図15】従来の装置の動作を示すフローチャートであ
る。
【図16】従来の装置の角度量子化を示す説明図であ
る。
【図17】従来の装置の問題点を示す説明図である。
【図18】従来の装置の他の問題点を示す説明図であ
る。
【符号の説明】
1 入力装置 2 データ処理装置 3 記憶装置 4 出力装置 5 データ処理装置 6 記憶装置 7 出力装置 21 方向算出手段 22 8方向特徴抽出手段 23 4方向遷移パターン生成手段 24 4方向ベクトル長算出手段 25 4方向ベクトル角度算出手段 26 特徴辞書比較手段 26a 判定フラグテーブル 26b 特徴パターン比較器 26c 認識結果出力器 31 点列データ記憶手段 32 ベクトル記憶手段 33 特徴辞書記憶手段 56 特徴辞書比較手段 57 ホットスポット抽出手段 63 特徴辞書記憶手段
フロントページの続き (56)参考文献 特開 平6−187504(JP,A) 特開 平3−142693(JP,A) 特開 昭63−181086(JP,A) 特開 昭62−108384(JP,A) 特開 昭54−69336(JP,A) 特開 平5−225397(JP,A) 特開 平6−289983(JP,A) 特許2727975(JP,B2) (58)調査した分野(Int.Cl.6,DB名) G06K 9/62 G06T 11/60 G06F 17/24 JICSTファイル(JOIS) 特許ファイル(PATOLIS)

Claims (11)

    (57)【特許請求の範囲】
  1. 【請求項1】 手書きの記号として描かれた曲線の軌跡
    を当該曲線上の点列の位置座標列として入力する入力手
    段と、 前記点列の位置座標列を記憶する点列データ記憶手段
    と、 前記点列データ記憶手段に最初に記憶される点を最初の
    基準点とし、基準点と該基準点に相次いで入力される点
    を結ぶベクトルの長さが予め定めた閾値以上である点を
    次の基準点として前の基準点に置き換え、このようにし
    て順次決定された基準点について隣接基準点を結ぶベク
    トルの方向を算出する方向算出手段と、 この方向算出手段が算出した方向を、所定段階数の主方
    向と、隣接する主方向の中間の所定角度範囲の補助方向
    とに量子化し、量子化した方向を方向特徴として出力す
    る方向特徴抽出手段と、 この方向特徴抽出手段の出力のうち方向特徴が補助方向
    であるものは、直前のベクトルの方向の方向特徴に従っ
    て当該方向特徴を主方向の方向特徴に変換し、同一主方
    向の連続する部分を単一のベクトルとして合成した方向
    遷移パターンを生成する方向遷移パターン生成手段と、 この方向遷移パターン生成手段により生成された方向遷
    移パターンの各ベクトルについて、当該ベクトルの長さ
    と前記方向遷移パターンの全てのベクトルの長さの合計
    との比率を求める方向遷移ベクトル長算出手段と、 前記方向遷移パターン生成手段により生成された方向遷
    移パターンの各ベクトルの角度を求める方向遷移ベルト
    ル角度算出手段と、 認識対象となる記号の特徴について前記方向遷移パター
    ンと前記比率と前記角度を一定の許容範囲とともに格納
    した特徴辞書記憶手段と、 前記手書き入力された記号を、前記方向遷移パターンと
    前記比率と前記角度に基づいて前記特徴辞書記憶手段の
    記憶内容と比較し、該当する記号を検索する特徴辞書比
    較手段とを具備する、 ことを特徴とする手書き記号認識システム。
  2. 【請求項2】 前記方向特徴抽出手段は、主方向を33
    0゜〜30゜,45゜〜135゜,150゜〜210
    ゜,225゜〜315゜の4段階に量子化し、補助方向
    を30゜〜45゜,135゜〜150゜,210゜〜2
    25゜,315゜〜330゜の4段階に量子化する、 ことを特徴とする請求項1記載の手書き記号認識システ
    ム。
  3. 【請求項3】 前記入力手段は、ペンダウンを点列入力
    の開始点とし、ペンアップを点列入力の終了点とする手
    段と、前記ペンアップの時点と次のペンダウンの時点と
    の間が予め定める時間内であるときは同一手書き記号の
    連続入力として処理する手段とを具備する、 ことを特徴とする請求項1記載の手書き記号認識システ
    ム。
  4. 【請求項4】 前記方向遷移ベクトル長算出手段は、前
    記単一ベクトルとして抽出された各ベクトルに対し該ベ
    クトルの長さと前記点列データ記憶手段に最初に記憶さ
    れた点と最後に記憶された点を結ぶベクトルの長さとの
    比率をも決定する、 ことを特徴とする請求項1記載の手書き記号認識システ
    ム。
  5. 【請求項5】 前記方向遷移ベクトル角度算出手段は、
    前記点列データ記憶手段に最初に記憶された点と最後に
    記憶された点を結ぶベクトルの角度をも決定する、 ことを特徴とする請求項1記載の手書き記号認識システ
    ム。
  6. 【請求項6】 前記特徴辞書比較手段は、前記点列の位
    置座標列の入力中に、前記方向遷移パターンに基づいて
    前記特徴辞書記憶手段を検索する、 ことを特徴とする請求項1記載の手書き記号認識システ
    ム。
  7. 【請求項7】 前記特徴辞書記憶手段は、認識対象とな
    る記号の特徴に関する情報の外に、前記方向遷移パター
    ン生成手段により生成された方向遷移パターンの各ベク
    トルの端点を手書き記号による対象指定用座標の抽出に
    使用するか否かの付加情報を記憶しており、 前記方向遷移パターン生成手段により生成された方向遷
    移パターンの各ベクトルの端点を前記付加情報と対比
    し、対象指定用座標の抽出に使用すべき端点をホットス
    ポットとして抽出するホットスポット抽出手段をさらに
    具備する、 ことを特徴とする請求項1記載の手書き記号認識システ
    ム。
  8. 【請求項8】 前記特徴辞書記憶手段は、書き手の癖に
    よって変形が予想される箇所に冗長ベクトルを挿入した
    方向遷移パターンが、該冗長ベクトルに辞書比較対象か
    ら外すことができることを示す省略可能フラグを付して
    記憶させてある、 ことを特徴とする請求項1記載の手書き記号認識システ
    ム。
  9. 【請求項9】 前記特徴辞書比較手段は、比較時に着目
    している方向遷移パターンの要素番号を記憶する判定フ
    ラグテーブルと、 前記省略可能フラグと前記判定フラグテーブルの状態を
    参照しつつ着目要素を選択して比較し、比較判定結果に
    応じて判定フラグテーブルを更新する特徴パターン比較
    器と、 入力された手書き記号に関する一通りの検索が終了した
    時点で前記判定フラグテーブルを参照し、該当する記号
    を認識結果として出力する認識結果出力器とを具備す
    る、 ことを特徴とする請求項8記載の手書き記号認識システ
    ム。
  10. 【請求項10】 前記特徴辞書記憶手段は、予め用意し
    た複数の分類カテゴリごとに、要素として複数の方向遷
    移パターンを分類した辞書符号列を記憶しており、 前記特徴辞書比較手段は、前記各分類カテゴリごとに要
    素ポインタを立てながらカテゴリ横断的に検索を実行す
    る、 ことを特徴とする請求項1記載の手書き記号認識システ
    ム。
  11. 【請求項11】 前記特徴辞書記憶手段は、辞書符号列
    の各要素である方向遷移パターンを構成する複数のベク
    トルを、個々のベクトルの量子化ビットの最上位又は最
    下位に辞書比較対象から外すことができることを示す省
    略可能フラグを割り当てて記憶する、 ことを特徴とする請求項10記載の手書き記号認識シス
    テム。
JP7135765A 1995-05-10 1995-05-10 手書き記号認識システム Expired - Fee Related JP2765514B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP7135765A JP2765514B2 (ja) 1995-05-10 1995-05-10 手書き記号認識システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP7135765A JP2765514B2 (ja) 1995-05-10 1995-05-10 手書き記号認識システム

Publications (2)

Publication Number Publication Date
JPH08305851A JPH08305851A (ja) 1996-11-22
JP2765514B2 true JP2765514B2 (ja) 1998-06-18

Family

ID=15159347

Family Applications (1)

Application Number Title Priority Date Filing Date
JP7135765A Expired - Fee Related JP2765514B2 (ja) 1995-05-10 1995-05-10 手書き記号認識システム

Country Status (1)

Country Link
JP (1) JP2765514B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002236926A (ja) * 2001-02-08 2002-08-23 Sony Corp 座標列の特徴算出方法、ならびに映像特殊効果装置の制御方法および映像特殊効果装置の制御システム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102057647B1 (ko) 2013-02-15 2019-12-19 삼성전자주식회사 데이터 입력 방법 및 그 방법을 처리하는 전자 장치
CN107850981B (zh) * 2015-08-04 2021-06-01 株式会社和冠 用户通知方法、手写数据取入装置及存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002236926A (ja) * 2001-02-08 2002-08-23 Sony Corp 座標列の特徴算出方法、ならびに映像特殊効果装置の制御方法および映像特殊効果装置の制御システム
JP4665317B2 (ja) * 2001-02-08 2011-04-06 ソニー株式会社 座標列の特徴算出方法、ならびに映像特殊効果装置の制御方法および映像特殊効果装置の制御システム

Also Published As

Publication number Publication date
JPH08305851A (ja) 1996-11-22

Similar Documents

Publication Publication Date Title
CA2224540A1 (en) Method and apparatus for on-line handwritten input character recognition and recording medium for executing the method
US5659633A (en) Character recognition method utilizing compass directions and torsion points as features
JP2765514B2 (ja) 手書き記号認識システム
US6035062A (en) Character recognition method and apparatus
JP3216800B2 (ja) 手書き文字認識方法
US5841906A (en) Graphic form recognition apparatus
JP2727975B2 (ja) 手書き記号認識システム
KR100301216B1 (ko) 온라인문자인식장치
JP3419251B2 (ja) 文字認識装置及び文字認識方法
JP2903779B2 (ja) 文字列認識方法及びその装置
JP3925011B2 (ja) パターン認識装置及び認識方法
JPH07107698B2 (ja) 文字認識方法
JPH081660B2 (ja) オンライン手書き図形認識装置
JP3249654B2 (ja) 活字文字認識用辞書の作成方法
JP2824704B2 (ja) 文字認識装置
JP2851865B2 (ja) 文字認識装置
JP2000339470A (ja) パターン辞書作成方法及び装置、パターン認識方法及び装置、並びに、記録媒体
JP2677271B2 (ja) 文字認識装置
KR960013818B1 (ko) 다중획인식을 이용한 한글조합인식장치
JP4055974B2 (ja) パターン辞書作成方法及び装置、並びに記録媒体
JP2732527B2 (ja) 文字切出し方式
JPS58105388A (ja) オンライン手書き文字認識方式
JPH0436885A (ja) 光学式文字読取装置
JP2990716B2 (ja) 文字認識方法及び文字認識装置
JPH07182509A (ja) 図形認識装置

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080403

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090403

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100403

Year of fee payment: 12

LAPS Cancellation because of no payment of annual fees