JP3569138B2 - 単語認識装置および方法 - Google Patents

単語認識装置および方法 Download PDF

Info

Publication number
JP3569138B2
JP3569138B2 JP30894398A JP30894398A JP3569138B2 JP 3569138 B2 JP3569138 B2 JP 3569138B2 JP 30894398 A JP30894398 A JP 30894398A JP 30894398 A JP30894398 A JP 30894398A JP 3569138 B2 JP3569138 B2 JP 3569138B2
Authority
JP
Japan
Prior art keywords
word
feature amount
recognition
feature
list
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP30894398A
Other languages
English (en)
Other versions
JP2000137766A (ja
Inventor
浩明 武部
悦伸 堀田
聡 直井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP30894398A priority Critical patent/JP3569138B2/ja
Priority to US09/309,894 priority patent/US6859556B2/en
Priority to DE69924687T priority patent/DE69924687D1/de
Priority to EP99304149A priority patent/EP0997839B1/en
Publication of JP2000137766A publication Critical patent/JP2000137766A/ja
Application granted granted Critical
Publication of JP3569138B2 publication Critical patent/JP3569138B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/19007Matching; Proximity measures
    • G06V30/19013Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • G06V30/1902Shifting or otherwise transforming the patterns to accommodate for positional errors
    • G06V30/1904Shifting or otherwise transforming the patterns to accommodate for positional errors involving a deformation of the sample or reference pattern; Elastic matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/26Techniques for post-processing, e.g. correcting the recognition result
    • G06V30/262Techniques for post-processing, e.g. correcting the recognition result using context analysis, e.g. lexical, syntactic or semantic context
    • G06V30/268Lexical context
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Character Discrimination (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、パターン列を一括して認識するパターン認識に係り、特に、単語を一括して認識する単語認識装置とその方法に関する。
【0002】
【従来の技術および発明が解決しようとする課題】
従来の単語認識方法は、文字切り出しの観点から次の3つの方法に分類できる。
【0003】
第1の方法は、画像特徴を利用して単語を1文字単位に切り出し、切り出された文字を個別に文字認識する方法である。主な画像特徴としては、文字間の空白やピッチ、画像を文字列方向と垂直な方向に射影して得られるヒストグラム、画素の連結成分の外接矩形、、画像の上部輪郭および下部輪郭の凹凸等がある。
【0004】
第2の方法は、切り出し仮説を複数個立て、それぞれの仮説を文字認識結果によって検定する方法である。切り出し仮説は、観測窓を画像内で動かして得る場合と、上述の画像特徴を利用して得る場合とがある。また、検定には、全体の整合性をとるために、動的計画法(Dynamic Programming ,DP)を用いることが多い。
【0005】
しかしながら、制約のない状態で書かれた手書き文字列の場合、文字間ピッチは一定ではなく、切断すべき部分の画像特徴が極めて多様であるため、切り出しがうまくいかないという問題がある。観測窓でサーチする場合でも、文字の大きさやピッチが一定でないため、固定の窓では処理しきれないし、窓の大きさを可変にすれば、処理時間が膨大になる。
【0006】
さらに、切断すべき部分の画像特徴は、漢字、ひらがな、英字、数字のそれぞれの字種に固有であるから、印刷文字の単語においても、それらの字種が混合した場合、接触文字分離の際に同様の問題が生じる。
【0007】
第3の方法は、単語を文字単位に切り出すことなく、単語そのものを一括して認識する方法である。この方法は、文字の切り出しという困難な問題を回避できるものの、個別文字を認識する場合に比べて、認識辞書に登録すべき候補の数が飛躍的に増加するという問題がある。実際には、メモリの量的制約に基づいて認識辞書のサイズを実用的な範囲に抑えるために、限られた個数内の単語しか認識辞書に登録できず、用途が制限される。
【0008】
本発明の課題は、認識可能な単語の範囲をできるだけ制限することなく、単語を一括して認識する単語認識装置とその方法を提供することである。
【0009】
【課題を解決するための手段】
図1は、本発明の単語認識装置の原理図である。図1の単語認識装置は、リスト手段1、辞書手段2、生成手段3、および照合手段4を備える。また、図1には示されていないが、本発明の単語認識装置は入力手段と抽出手段をも備えている。
【0010】
入力手段は、認識対象として1つ以上の文字からなる単語の文字画像を入力する。抽出手段は、入力された文字画像から特徴量を抽出する。リスト手段1は、1つ以上の文字からなる単語のリストを1つ以上格納し、辞書手段2は、少なくとも上記リストに含まれる単語を構成する個々の文字の特徴量を格納する。生成手段3は、上記リストの中から認識候補となる単語が選択される毎に、辞書手段2に格納された上記認識候補となる単語を構成する各文字の特徴量を用いて、上記認識候補となる単語の特徴量を生成する。そして、照合手段4は、生成手段3によって生成された特徴量を、上記抽出手段で抽出された特徴量と照合し、認識結果を出力する。
【0011】
リスト手段1が格納するリストには、1つ以上の文字からなる単語が登録されており、辞書手段2には、それらの単語を構成する個別文字の特徴量が登録されている。生成手段3は、リスト手段1のリストの中から認識候補となる単語が選択される毎に、その単語を構成する各文字の特徴量を辞書手段2から取り出して、その単語の特徴量を合成する。照合手段4は、生成手段3が合成した単語の特徴量を、上記抽出手段で抽出した特徴量と照合し、2つの特徴量の類似度等を求めて、それを認識結果として出力する。
【0012】
このように、あらかじめ多数の単語の特徴量を登録した単語辞書を用意するのではなく、認識処理の過程で候補となる単語が選択される毎に、その単語のみについて特徴量を生成することで、使用するメモリ量を削減することができる。また、リストには単語の特徴量を登録する必要がないので、多数の単語を登録することができ、それらの単語の特徴量を随時生成することができる。このため、従来の単語辞書のように、単語の範囲が制限されることはない。
【0013】
例えば、図1のリスト手段1、辞書手段2、生成手段3、および照合手段4は、それぞれ、後述する図2の単語リスト14、個別文字辞書15、特徴生成部13、および特徴照合部12に対応する。
【0014】
【発明の実施の形態】
以下、図面を参照しながら、本発明の実施の形態を詳細に説明する。以下の説明では、簡潔な記述を行うため、認識対象の画像に含まれる文字列が横書きである場合を想定している。したがって、文字の連結方向は横方向であり、単語も横書きである。しかしながら、本発明は、文字列が縦書きで文字の連結方向が縦方向である場合にも、同様に適用することができる。
【0015】
本実施形態の単語認識装置は、認識候補となる単語が選択される毎に、個別文字の特徴量が登録されている辞書から上記認識候補となる単語の特徴量を生成し、単語を一括認識する。このような単語認識装置を実現する際のキーとなるポイントは、単語画像から得られる特徴量と単語を構成する各文字の特徴量の合成結果とが一致するように、特徴量および特徴量の合成方法を決定することである。
【0016】
個別文字の辞書には、各文字の特徴量が登録されており、複数の文字の特徴量を合成することにより、対応する単語の特徴量が生成される。今、文字Aと文字Bとからなる単語X(=“AB”)を考え、文字A、文字B、および単語Xの画像をそれぞれ画像a、画像b、画像xとし、それらの画像から得られる特徴量をそれぞれα、β、χとする。
【0017】
このとき、個々の文字の特徴量から単語の特徴量を生成するためには、2つの特徴量間にある合成演算fが定義され、χ=f(α,β)が成り立たなくてはならない。このような条件が成り立つことを、演算fは画像の通常の合成に関して可換であるということにする。
【0018】
ところで、従来より用いられている文字および単語の特徴量には、文字位置のずれや字体の変形を救済するために、ぼかし処理が加えられている。ぼかし処理は、画像をある決められた個数でメッシュ分割し、得られた各小領域における方向指数(direction code)ヒストグラムを周囲の小領域のそれに重み付き加算する処理である。このぼかし処理により、1つの小領域の情報に周囲の小領域の情報が取り入れられるため、文字のずれや変形を吸収することができる。
【0019】
しかしながら、このようなぼかし処理を単語に適用した場合、2つの文字の境界で一方の文字の方向指数ヒストグラムが他方のそれに重み付き加算されるため、可換な合成演算fは簡単には見つからない。
【0020】
そこで、本実施形態では、各小領域における方向指数ヒストグラムに対して、文字の連結方向に垂直な縦方向には従来と同様のガウス分布等によるぼかし処理を施し、文字の連結方向である横方向にはぼかし処理を施さないで、特徴量を生成する。
【0021】
横書き単語にこのような特徴量を用いた場合、2つの文字の境界で一方の文字の方向指数ヒストグラムが他方のそれに重み付き加算されることがなく、可換な合成演算fは、単純に2つの文字の特徴量を並べる操作で与えられる。ただし、このままでは横方向の文字のずれや変形が考慮されないため、画像と認識候補の間の距離計算時にDPマッチングを用いて認識精度の向上を図る。
【0022】
また、従来の文字の特徴量は画像を一定数のメッシュで分割することにより得られるが、同様のメッシュ分割を複数の文字が連なる単語にそのまま適用した場合、単語に含まれる文字数が増えれば、それだけ相対的にメッシュは粗くなる。このため、メッシュの解像度が相対的に低くなり、認識精度に悪影響を与える。
【0023】
そこで、本実施形態では、単語の長さに応じてメッシュの個数を可変にする。横書きの単語の場合、文字数が増えても、画像の縦の長さは大きく変わらないので、画像の縦の長さを一定数で割り、得られた商を基本メッシュの大きさと決定する。そして、その大きさに基づいて縦横にメッシュ分割を行う。この場合、画像の横の長さに応じて横方向のメッシュ数は変化するが、距離計算でDPマッチングを用いるので、メッシュ数の変化による不確定性は吸収される。
【0024】
縦書きの単語の特徴量については、上述した横書きの単語の特徴量の説明において、縦と横を入れ替えればよい。
図2は、本実施形態の単語認識装置の構成図である。図2の単語認識装置は、特徴抽出部11、特徴照合部12、特徴生成部13、単語リスト14、および個別文字辞書15を備える。
【0025】
特徴抽出部11は、与えられた画像から特徴量を抽出し、特徴生成部13は、個別文字辞書15に登録された文字の特徴量を用いて、単語リスト14に登録された認識候補の単語の特徴量を合成する。特徴照合部12は、特徴生成部13が生成した単語の特徴量を単語辞書として用いて、特徴抽出部11が抽出した特徴量を、各単語の特徴量と比較する。そして、最も類似した特徴量を持つ単語を認識結果の第1候補として出力する。
【0026】
このとき、単語リスト14は、認識対象の画像が表す単語を含んでいることが望ましいが、単語の数が多過ぎると処理が煩雑になる可能性がある。そこで、あらかじめいくつかの単語リスト14を用意しておき、特徴生成部13は、直前の画像の認識結果に応じて、認識対象の単語を含んでいる可能性の高い単語リスト14を推定し、その単語リスト14を用いる。
【0027】
例えば、多数の手紙に書かれた住所の画像を処理する場合、直前の認識結果が“都”、“道”、“府”、または“県”で終わっていれば、次に市町村名が現れる可能性が高いと判断し、市町村名を含む単語リスト14を選択して、単語の特徴量を合成する。
【0028】
次に、図3から図9までを参照しながら、特徴抽出部11の処理について説明する。図3は、特徴抽出部11の処理のフローチャートである。この処理は、「加重方向指数ヒストグラム法による手書き漢字・ひらがな認識(Handwritten “KANJI” and“HIRAGANA”Character Recognition Using Weighted Direction Index Histogram Method )」(鶴岡 信治ほか,電子情報通信学会論文誌 D,Vol.J70−D,No.7,pp.1390−1397,1987年7月.)に記載された処理を参考にして、新たな変更を加えたものである。
【0029】
まず、特徴抽出部11は、認識対象の画像を入力し(ステップS1)、方向指数ベクトル場を作成する(ステップS2)。次に、画像の基本メッシュ分割を行って方向指数ヒストグラムベクトル場を作成し(ステップS3)、1次元ガウス分布関数による縦方向のぼけ変換を行う(ステップS4)。そして、方向指数ヒストグラムベクトル場のベクトルを圧縮して(ステップS5)、特徴量を抽出し、処理を終了する。
【0030】
ステップS2において、特徴抽出部11は、まず、入力画像について8連結の輪郭追跡を行い、その結果得られる輪郭点系列を{Ci}とする。ここで、Ciは、画像に含まれるパターンの輪郭上の画素に対応する。次に、輪郭点Ciにおける8方向の方向指数diを、その1つ後の輪郭点Ci+1の位置に基づいて決定する。
【0031】
図4は、輪郭点Ciを中心とした場合の輪郭点Ci+1の位置と方向指数の関係を示している。例えば、Ci+1がCiの右にあればdi=1となり、Ci+1がCiの右上にあればdi=3となり、Ci+1がCiの上にあればdi=5となる。
【0032】
次に、Ciにおける方向指数diと、Ciの1つ前の輪郭点Ci−1における方向指数di−1との平均を取ることで、図5に示すような、Ciにおける16方向の方向指数Diを得る。
【0033】
例えば、Ci−1、Ci、およびCi+1が図6に示すような位置関係にある場合、CiはCi−1の下にあるので、di−1=13となり、Ci+1はCiの左下にあるので、di=11となる。したがって、16方向の方向指数Diは、((di−1)+di)/2=12となる。この方向指数は、方向指数13の方向と方向指数11の方向の中間の方向を表している。一般に、方向指数Diが奇数の場合は、図4に示した8つの方向のいずれかを表し、偶数の場合は、それらのうち隣接する2つ方向の中間の方向を表す。
【0034】
次に、画像の各点(画素)に対して、16値ベクトルを割り当てる。ここでは、輪郭点以外の点には、16個の成分がすべて0のベクトルを割り当て、輪郭点Ciには、Di番目の成分が1でそれ以外の成分がすべて0のベクトルを割り当てる。これらの16値ベクトルからなるベクトル場は、方向指数ベクトル場と呼ばれる。
【0035】
例えば、図6の輪郭点Ciにおける方向指数ベクトルは、
(0,0,0,0,0,0,0,0,0,0,0,1,0,0,0,0)
となる。
【0036】
また、ステップS3において、特徴抽出部11は、まず、画像の縦方向の長さyをあらかじめ決められた整数Mで割り、その商Lを基本メッシュの大きさとする。そして、画像の横方向の長さxをLで割った商をnとして、画像全体をM×nのメッシュで分割する。このようなメッシュ分割によれば、横方向の長さに応じてメッシュの数が変化し、常に一定の大きさのメッシュを得ることができる。
【0037】
次に、得られた各メッシュにおいて、方向指数Diのヒストグラムを作成する。ただし、ヒストグラムの重み係数はすべて1とする。このヒストグラムは、メッシュ内に含まれる点の方向指数ベクトルを加算することにより生成され、16値ベクトルで表される。そこで、これを方向指数ヒストグラムベクトルと呼ぶことにし、すべてのメッシュの方向指数ヒストグラムベクトルからなるベクトル場を、方向指数ヒストグラムベクトル場と呼ぶことにする。例えば、
(1,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0)
(0,0,0,0,0,0,0,0,0,0,0,1,0,0,0,0)
(0,0,0,0,0,0,0,0,0,0,0,1,0,0,0,0)
(0,0,0,0,0,0,0,0,0,0,0,1,0,0,0,0)
のような4つの方向指数ベクトルからは、次のような方向指数ヒストグラムベクトルが得られる。
(1,0,0,0,0,0,0,0,0,0,0,3,0,0,0,0)
また、ステップS4において、特徴抽出部11は、縦方向のみについて、1次元ガウス分布関数を重み係数として用いたぼけ変換を行う。ここでは、例えば、図7に示すような5つの重み係数からなる1次元ガウス分布型フィルタを生成し、それを縦方向に並んだ5つのメッシュの方向指数ヒストグラムベクトルに適用する。
【0038】
これにより、5つの方向指数ヒストグラムベクトルの各成分がガウス分布に従って重み付き加算され、新たな方向指数ヒストグラムベクトルが生成される。そして、中心位置のメッシュの方向指数ヒストグラムベクトルは、生成された方向指数ヒストグラムベクトルにより更新される。
【0039】
このように、1次元ガウス分布型フィルタを用いて縦方向にのみぼけ変換を行うことで、縦方向の文字のずれや変形を吸収することができる。一方、文字の連結方向である横方向については、方向指数ヒストグラムベクトルが重み付き加算されず、2つの文字の境界で特徴が混ざり合うことがない。したがって、上述の可換な合成演算fを、後述するように簡単に定義することができる。
【0040】
ここで、m<Mとなるような整数mをあらかじめ決めておき、縦方向のM個のメッシュの中からm個のメッシュをフィルタの中心位置として選べば、M×nの方向指数ヒストグラムベクトル場を、m×nの方向指数ヒストグラムベクトル場に空間情報圧縮することができる。
【0041】
例えば、M=13およびn=13の場合、画像は、図8に示すような13×13のメッシュに分割される。ここで、m=7とし、○印の付いたメッシュをフィルタの中心位置として選べば、13×13の方向指数ヒストグラムベクトル場は7×13の方向指数ヒストグラムベクトル場に空間情報圧縮される。
【0042】
また、ステップS5において、特徴抽出部11は、方向指数ヒストグラムベクトル場のベクトルを、方向圧縮する。まず、方向指数ヒストグラムベクトルの16個の成分のうち、方向指数1、3、5、7、9、11、13、および15に対応する各成分の値に、その前後の成分の値を0.5倍して加算する。そして、方向指数2、4、6、8、10、12、14、および16に対応する各成分を削除して、16値ベクトルから8値ベクトルへ圧縮する。残された8個の成分は、図4に示した8つの方向に対応している。
【0043】
次に、8値ベクトルの成分のうち、互いに反対の向きに対応する2つの方向を同一視して、方向指数1、3、5、および7に対応する各成分の値に、それぞれ方向指数9、11、13、および15に対応する各成分の値を加算する。こうして、8値ベクトルは4値ベクトルへ圧縮される。こうして、m×n個の4値ベクトルからなる方向指数ヒストグラムベクトル場が得られる。
【0044】
ここで、横方向に並んだn個の4値ベクトルを方向指数ヒストグラム系列と呼ぶことにすると、m個の方向指数ヒストグラム系列が得られたことになる。特徴抽出部11は、これらのm個の方向指数ヒストグラム系列を、画像の特徴量として出力する。
【0045】
例えば、図8のような空間情報圧縮に基づいて生成された方向指数ヒストグラムベクトル場の場合、図9に示すような7個の方向指数ヒストグラム系列が得られる。図9において、aij(i=1,2,...,7,j=1,2,...,13)は4値ベクトルを表し、νi(i=1,2,...,7)は方向指数ヒストグラム系列を表す。
【0046】
次に、特徴生成部13による単語辞書の生成処理について説明する。今、単語リスト14としてI個の単語リストδ1,δ2,...,δIが用意されており、i番目の単語リストδiには、各単語のIDと、その単語を構成する各文字のIDのみが記されているものとする。ただし、各文字のIDは、個別文字辞書15にも登録されており、単語の特徴量を生成する際に参照されるものとする。
【0047】
特徴照合部12により処理対象の単語リストδiが指定されると、特徴生成部13は、その中に含まれる各単語について、記されている構成文字のIDに基づいて個別文字辞書15を参照し、単語の特徴量を生成する。
【0048】
ここで、単語wを構成する文字をc1,c2,...,cKとし、i番目の文字ciの特徴量をΛiとする。各文字の特徴量は、あらかじめ上述した特徴量抽出と同様の処理により生成され、IDとともに個別文字辞書15に格納されている。このとき、単語wの特徴量Λwを、Λw=ΣΛiにより定義する。ここで、ΣΛiはK個の特徴量Λ1,Λ2,...,ΛKの総和を表し、2つの特徴量Λ1、Λ2の和Λ1+Λ2は、次のような合成演算により定義される。
【0049】
今、Λ1、Λ2を、それぞれm個の方向指数ヒストグラム系列λ1i、λ2i(i=1,2,...,m)を用いて、Λ1=(λ11,λ12,...,λ1m),Λ2=(λ21,λ22,...,λ2m)のように書くことにする。このとき、Λ1+Λ2は、m個の方向指数ヒストグラム系列λ1iλ2iを用いて、(λ11λ21,λ12λ22,...,λ1mλ2m)と表される。
【0050】
ここで、λ1iλ2iは、方向指数ヒストグラム系列λ1iの後に方向指数ヒストグラム系列λ2iをそのまま付加して生成される新たな方向指数ヒストグラム系列を表す。λ1i、λ2iがそれぞれn個の4値ベクトルからなる場合、λ1iλ2iは2n個の4値ベクトルからなる。
【0051】
例えば、m=7、n=13とすると、特徴量Λ1、Λ2、およびΛ1+Λ2は、図10のようになる。図10において、Λ1の方向指数ヒストグラム系列λ1i(i=1,2,...,7)は、13個の4値ベクトルaij(j=1,2,...,13)からなり、Λ2の方向指数ヒストグラム系列λ2i(i=1,2,...,7)は、13個の4値ベクトルbij(j=1,2,...,13)からなる。
【0052】
また、Λ1+Λ2はΛ1とΛ2をそのまま横方向に並べて生成され、その方向指数ヒストグラム系列λ1iλ2i(i=1,2,...,7)は、26個の4値ベクトルcij(j=1,2,...,26)からなる。ci1〜ci13はai1〜ai13に一致し、ci14〜ci26はbi1〜bi13に一致する。言い換えれば、j=1,2,...,13についてはcij=aijであり、j=14,15,...,26についてはcij=bi(j−13)である。
【0053】
次に、図11から図13までを参照しながら、特徴照合部12の処理について説明する。図11は、特徴照合部12および特徴生成部13の処理のフローチャートである。ここでは、照合に用いられる単語リスト14には、0番目からS−1番目までのS個の単語が含まれているものとする。
【0054】
まず、特徴照合部12は、制御変数iを初期値0に設定し(ステップS11)、単語リスト14に含まれる単語の総数Sとiを比較する(ステップS12)。そして、iがSより小さければ、特徴生成部13にi番目の単語の特徴量を生成するよう依頼する。
【0055】
この依頼を受けて、特徴生成部13は、単語リスト14にアクセスし(ステップS13)、上述したような処理を行って、個別文字辞書の特徴量からi番目の単語の特徴量を生成する(ステップS14)。そして、生成された単語の特徴量を特徴照合部12に出力する。
【0056】
次に、特徴照合部12は、特徴抽出部11から入力された画像の特徴量と特徴照合部12から入力されたi番目の単語の特徴量をメモリ上で照合し、2つの特徴量の距離(類似度)を計算する(ステップS15)。
【0057】
次に、i番目の単語の特徴量が保持されているメモリ領域を解放し(ステップS16)、iを1だけインクリメントして(ステップS17)、ステップS12以降の処理を繰り返す。ステップS16でメモリ領域がフリーになっているため、i+1番目の単語の特徴量を同じ領域に書き込むことができ、使用するメモリ量を節約できる。そして、ステップS12においてiがSに達すると、処理を終了する。
【0058】
ステップS15において、特徴照合部12は、横方向の文字のずれや変形を吸収するために、次のような距離計算を行う。まず、入力画像の特徴量をN=(ν1,ν2,...,νm)とし、比較対象となる単語の特徴量をΛ=(λ1,λ2,...,λm)とする。ただし、νi、λi(i=1,2,...,m)は、図9に示したような方向指数ヒストグラム系列である。このとき、2つの特徴量ΝとΛの距離D(N,Λ)は、
D(N,Λ)=ΣD(νi,λi) (1)
と表される。ここで、ΣD(νi,λi)は、2つの方向指数ヒストグラム系列νiとλiの距離D(νi,λi)のiに関する総和である。
【0059】
上述したように、方向指数ヒストグラム系列は4値ベクトルの系列であるから、それをベクトルの成分毎に分解して考えると、方向指数ヒストグラム系列は4つの数値系列とみなすことができる。そこで、方向指数ヒストグラム系列νiのj番目の数値系列をνi(j)(j=1,2,3,4)と書くことにすると、
νi=(νi(1),νi(2),νi(3),νi(4)),
λi=(λi(1),λi(2),λi(3),λi(4)) (2)
と表される。このとき、D(νi,λi)は、
D(νi,λi)=ΣD(νi(j),λi(j)) (3)
と表される。ここで、ΣD(νi(j),λi(j))は、2つの数値系列νi(j)とλi(j)の距離D(νi(j),λi(j))のjに関する総和である。そして、距離D(νi(j),λi(j))は、動的計画法(Dynamic Programming ,DP)により計算することができる。
【0060】
DPマッチングは、音声等の時系列データのマッチング方法としてよく知られている。この方法では、2つのデータの集合を照合する際に、データの局所的な特徴に注目して、全体的な対応付けの良否を表す評価関数が定義される。ここでは、この評価関数の値から2つのデータの距離が計算される。
【0061】
図12は、n個の数値からなる数値系列{x1,x2,...,xn}と、p個の数値からなる数値系列{y1,y2,...,yp}のDPマッチングの方法を示している。
【0062】
ここでは、xy座標平面において、x軸上に数値系列{x1,x2,...,xn}を並べ、y軸上に数値系列{y1,y2,...,yp}を並べて、2つの数値系列の対応関係を平面上の複数の点で表す。そして、点(x1,y1)を始点として、計算領域A内であらかじめ決められた漸化式に従って評価関数g(xi,yj)を順に計算しながら、2つの数値系列の点同士を対応付けていく。そして、最終的に得られたg(xn,yp)から2つの数値系列の距離を求める。
【0063】
図13は、DPマッチングの過程において、既に求められたg(xi−1,yj)、g(xi−1,yj−1)、およびg(xi−1,yj−1)からg(xi,yj)を求める計算を示している。ここでは、例えば、次のような漸化式が用いられる。
Figure 0003569138
ここで、g(xi,yj)は、部分数値系列{x1,x2,...,xi}を部分数値系列{y1,y2,...,yj}に対応付けた時点における評価関数の値を表す。また、d(xi,yj)は、数値xiと数値yjを対応付けたときの距離を表し、例えば、次式により与えられる。
d(xi,yj)=|xi−yj| (5)
また、min{}は{}内の3つの要素のうちの最小値を表す。こうして、(4)式により、g(xi,yj)を最小にするような部分数値系列{x1,x2,...,xi}と{y1,y2,...,yj}の対応付けが採用され、g(xi,yj)が記憶される。
【0064】
このような計算を繰り返すことで、最終的に数値系列{x1,x2,...,xn}と{y1,y2,...,yp}が対応付けられ、g(xn,yp)が求められる。そして、g(xn,yp)/(n+p)を2つの数値系列の間の距離とする。距離が小さいほど、2つの数値系列は類似しており、距離が大きいほど、2つの数値系列は相異している。
【0065】
こうして、DPマッチングにより距離D(νi(j),λi(j))を計算すれば、(1)、(3)式から2つの特徴量の距離D(N,Λ)を計算することができる。
【0066】
DPマッチングにおいては、2つの数値の組み合わせの生成方法に柔軟性があり、2つの数値系列が非線形に対応付けられる。この柔軟性を用いて画像の横方向の特徴のずれをある程度吸収することができる。このように、本実施形態では、従来のぼかし処理の効果を特徴量の距離計算におけるDPマッチングで代替することで、文字の連結方向のぼかし処理を施さない特徴量の使用を可能にしている。なお、特徴量の距離計算としては、DPマッチングのほかにも、特徴のずれを吸収できるような任意の非線形マッチング方法を用いることができる。
【0067】
次に、入力画像の具体例を用いて処理のフローを説明する。今、図14のような文字列画像のうち、“川崎市”の部分の認識処理が終了し、続いて“中原”の部分が入力された場合を考える。このとき、“中原”の入力画像から特徴量が抽出され、図15のようなフローに従って、特徴照合処理が行われる。
【0068】
単語リスト14には、“川崎”、“幸”、“中原”、“高津”、“宮前”、“多摩”、および“麻生”が単語として登録されており、個別文字辞書15には、すべての文字の特徴量が登録されているものとする。
【0069】
まず、単語リスト14に従って、個別文字辞書15から“川”と“崎”の特徴量が取り出され、“川崎”の特徴量が合成される(ステップS21)。次に、合成された“川崎”の特徴量と入力画像の特徴量が照合され、2つの特徴量の距離が記憶される(ステップS22)。そして、“川崎”の特徴量のメモリ領域が解放される(ステップS23)。
【0070】
次に、“幸”は1文字単語であるので、個別文字辞書15から“幸”の特徴量が取り出され、解放されたメモリ領域に格納される(ステップS24)。そして、“幸”の特徴量と入力画像の特徴量が照合されて、2つの特徴量の距離が記憶され(ステップS25)、“幸”の特徴量のメモリ領域が解放される(ステップS26)。
【0071】
次に、個別文字辞書15から“中”と“原”の特徴量が取り出され、解放されたメモリ領域で“中原”の特徴量が合成される(ステップS27)。そして、合成された“中原”の特徴量と入力画像の特徴量が照合されて、2つの特徴量の距離が記憶され(ステップS28)、“中原”の特徴量のメモリ領域が解放される(ステップS29)。
【0072】
このような照合処理が単語リスト14のすべての単語について行われ、照合処理が終了すると、それらの単語が距離の小さいものから順に認識結果として出力される。
【0073】
図14、15では、漢字からなる単語の処理が記載されているが、平仮名、片仮名、英数字、記号等を含む単語についても同様の処理が行われる。また、日本語のみならず、中国語、韓国語、英語、ドイツ語、フランス語等の任意の言語における単語認識にも同様の処理が適用される。
【0074】
さらに、本発明は、単語認識という枠組みを越えて、1つ以上の個別パターンからなるパターン列の認識処理にも適用できる。この場合、単語リストの代わりに認識結果の候補となるパターン列を登録したリストを用意し、個別文字辞書の代わりに個別パターンの特徴量を登録した辞書を用意しておく。そして、画像の認識処理の過程で、個別パターンの辞書から動的にパターン列の特徴量を生成し、パターン列を一括認識する。
【0075】
ところで、図2の単語認識装置は、図16に示すような情報処理装置(コンピュータ)を用いて構成することができる。図16の情報処理装置は、CPU(中央処理装置)21、メモリ22、入力装置23、出力装置24、外部記憶装置25、媒体駆動装置26、ネットワーク接続装置27、および光電変換装置28を備え、それらはバス29により互いに接続されている。
【0076】
メモリ22は、例えば、ROM(read only memory)、RAM(random access memory)等を含み、処理に用いられるプログラムとデータを格納する。CPU21は、メモリ22を利用してプログラムを実行することにより、必要な処理を行う。
【0077】
図2の特徴抽出部11、特徴照合部12、および特徴生成部13は、メモリ22の特定のプログラムコードセグメントに格納されたソフトウェアコンポーネントに対応する。また、単語リスト14および個別文字辞書15は、データとしてメモリ22の特定の領域に格納される。
【0078】
入力装置23は、例えば、キーボード、ポインティングデバイス、タッチパネル等であり、ユーザからの指示や情報の入力に用いられる。出力装置24は、例えば、ディスプレイ、プリンタ、スピーカ等であり、ユーザへの問い合わせや情報の出力に用いられる。
【0079】
外部記憶装置25は、例えば、磁気ディスク装置、光ディスク装置、光磁気ディスク(magneto−optical disk)装置等であり、取得された情報を格納する。この外部記憶装置25に、上述のプログラムとデータを保存しておき、必要に応じて、それらをメモリ22にロードして使用することもできる。
【0080】
媒体駆動装置26は、可搬記録媒体30を駆動し、その記録内容にアクセスする。可搬記録媒体30としては、メモリカード、フロッピーディスク、CD−ROM(compact disk read only memory )、光ディスク、光磁気ディスク等、任意のコンピュータ読み取り可能な記録媒体が用いられる。この可搬記録媒体30に上述のプログラムとデータを格納しておき、必要に応じて、それらをメモリ22にロードして使用することもできる。
【0081】
ネットワーク接続装置27は、LAN(local area network)等の任意のネットワーク(回線)を介して外部の装置と通信し、通信に伴うデータ変換を行う。また、必要に応じて、上述のプログラムとデータを外部の装置から受け取り、それらをメモリ22にロードして使用することもできる。
【0082】
光電変換装置28は、例えば、イメージスキャナ等であり、認識対象の画像をデジタルデータに変換して入力する。入力された画像データはメモリ22に読み込まれ、そのデータから特徴量が抽出される。
【0083】
図17は、図16の情報処理装置にプログラムとデータを供給することのできるコンピュータ読み取り可能な記録媒体を示している。可搬記録媒体30や外部のデータベース31に保存されたプログラムとデータは、メモリ22にロードされる。そして、CPU21は、そのデータを用いてそのプログラムを実行し、必要な処理を行う。
【0084】
【発明の効果】
本発明によれば、認識候補となる単語が選択される毎に、個別文字の特徴量が登録されている辞書から上記認識候補となる単語の特徴量生成することにより、単語の範囲を制限することなく、単語を一括して認識することができる。したがって、任意の用途における単語認識が可能になる。
【0085】
また、本発明では、特徴量の距離計算にDPマッチングのような非線形なマッチング方法を採用し、文字の連結方向におけるメッシュの区切り方を可変にしているので、単語認識においても一定の認識精度が保たれる。
【図面の簡単な説明】
【図1】本発明の単語認識装置の原理図である。
【図2】単語認識装置の構成図である。
【図3】特徴抽出部の処理のフローチャートである。
【図4】輪郭点の位置と方向指数の関係を示す図である。
【図5】16方向の方向指数を示す図である。
【図6】16方向の方向指数の決定方法を示す図である。
【図7】一次元ガウス分布型フィルタを示す図である。
【図8】基本メッシュ分割とマスクの中心位置を示す図である。
【図9】方向指数ヒストグラム系列を示す図である。
【図10】特徴量の合成を示す図である。
【図11】特徴照合部および特徴生成部の処理のフローチャートである。
【図12】DPマッチングを示す図である。
【図13】DPマッチングの過程を示す図である。
【図14】画像の例を示す図である。
【図15】特徴照合処理の例を示す図である。
【図16】情報処理装置の構成図である。
【図17】記録媒体を示す図である。
【符号の説明】
1 リスト手段
2 辞書手段
3 生成手段
4 照合手段
11 特徴抽出部
12 特徴照合部
13 特徴生成部
14 単語リスト
15 個別文字辞書
21 CPU
23 入力装置
24 出力装置
25 外部記憶装置
26 媒体駆動装置
27 ネットワーク接続装置
28 光電変換装置
29 バス
30 可搬記録媒体
31 データベース

Claims (10)

  1. 認識対象として1つ以上の文字からなる単語の文字画像を入力する入力手段と、
    入力された文字画像から特徴量を抽出する抽出手段と、
    1つ以上の文字からなる単語のリストを1つ以上格納するリスト手段と、
    少なくとも前記リストに含まれる単語を構成する個々の文字の特徴量を格納する辞書手段と、
    前記リストの中から認識候補となる単語が選択される毎に、前記辞書手段に格納された前記認識候補となる単語を構成する各文字の特徴量を用いて、前記認識候補となる単語の特徴量を生成する生成手段と、
    前記生成手段によって生成された特徴量を、前記抽出手段で抽出された特徴量と照合し、認識結果を出力する照合手段と、
    を備えることを特徴とする単語認識装置。
  2. 前記抽出手段は、前記入力手段から入力された文字画像の各小領域における輪郭線の方向指数ヒストグラムに対して文字の連結方向と垂直な方向に1次元のぼけ変換を施し、変換結果から得られた方向指数ヒストグラム系列を前記認識対象となる文字画像の特徴量として抽出する手段をさらに備えることを特徴とする請求項1記載の単語認識装置。
  3. 前記抽出手段は、前記文字の連結方向と垂直な方向における前記入力された文字画像の長さをあらかじめ決められた整数で割り、得られた商を前記小領域の大きさとして用いて、該文字画像を各小領域に分割する手段をさらに備えることを特徴とする請求項2記載の単語認識装置。
  4. 前記生成手段は、前記認識候補となる単語を構成する複数の文字の特徴量を合成して前記認識候補となる単語の特徴量を生成することを特徴とする請求項1記載の単語認識装置。
  5. 前記生成手段は、前記認識候補となる単語を構成する各文字の特徴量に対応する方向指数ヒストグラム系列を並べて新たな方向指数ヒストグラム系列を生成し、生成された方向指数ヒストグラム系列を前記認識候補となる単語の特徴量とすることを特徴とする請求項4記載の単語認識装置。
  6. 前記照合手段は、前記認識候補となる単語の特徴量と前記認識対象となる文字画像の特徴量の非線形マッチングを行い、該認識候補となる単語の特徴量と該認識対象となる文字画像の特徴量の類似度を計算することを特徴とする請求項1記載の単語認識装置。
  7. 前記生成手段は、前記リスト手段に格納されている1つ以上のリストの中から、前記認識対象となる入力画像に対応する単語を含んでいる可能性の高いリストにアクセスして、前記特徴量を生成することを特徴とする請求項1記載の単語認識装置。
  8. 認識対象として1つ以上のパターンからなるパターン列の画像を入力する入力手段と、
    入力されたパターン列の画像から特徴量を抽出する抽出手段と、
    1つ以上のパターンからなるパターンのリストを1つ以上格納するリスト手段と、
    少なくとも前記リストに含まれるパターン列を構成する個々のパターンの特徴量を格納する辞書手段と、
    前記リストの中から認識候補となるパターンが選択される毎に、前記辞書手段に格納された前記認識候補となるパターン列を構成する各パターンの特徴量を用いて、前記認識候補となるパターンの特徴量を生成する生成手段と、
    前記生成手段によって生成された特徴量を、前記抽出手段で抽出された特徴量と照合し、認識結果を出力する照合手段と、
    を備えることを特徴とする認識装置。
  9. コンピュータを、
    認識対象として1つ以上のパターンからなるパターン列の画像を入力する入力手段、
    入力されたパターン列の画像から特徴量を抽出する抽出手段、
    1つ以上のパターンからなるパターンのリストを1つ以上格納するリスト手段、
    少なくとも前記リストに含まれるパターン列を構成する個々のパターンの特徴量を格納する辞書手段、
    前記リストの中から認識候補となるパターンが選択される毎に、前記辞書手段に格納された前記認識候補となるパターン列を構成する各パターンの特徴量を用いて、前記認識候補となるパターンの特徴量を生成する生成手段、
    前記生成手段によって生成された特徴量を、前記抽出手段で抽出された特徴量と照合し、認識結果を出力する照合手段、
    として機能させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
  10. 認識対象として1つ以上のパターンからなるパターン列の画像を入力する入力ステップと、
    入力されたパターン列の画像から特徴量を抽出する抽出ステップと、
    1つ以上のパターンからなるパターンのリストを1つ以上格納するリストステップと、
    少なくとも前記リストに含まれるパターン列を構成する個々のパターンの特徴量を格納する辞書ステップと、
    前記リストの中から認識候補となるパターンが選択される毎に、前記辞書ステップにて格納された前記認識候補となるパターン列を構成する各パターンの特徴量を用いて、前記認識候補となるパターンの特徴量を生成する生成ステップと、
    前記生成ステップによって生成された特徴量を、前記抽出ステップで抽出された特徴量と照合し、認識結果を出力する照合ステップと、
    を備えることを特徴とする認識方法。
JP30894398A 1998-10-29 1998-10-29 単語認識装置および方法 Expired - Fee Related JP3569138B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP30894398A JP3569138B2 (ja) 1998-10-29 1998-10-29 単語認識装置および方法
US09/309,894 US6859556B2 (en) 1998-10-29 1999-05-11 Word recognizing apparatus for dynamically generating feature amount of word and method thereof
DE69924687T DE69924687D1 (de) 1998-10-29 1999-05-27 Worterkennungssystem und Verfahren zur dynamischen Erzeugung von Wortmerkmalen
EP99304149A EP0997839B1 (en) 1998-10-29 1999-05-27 Word recognizing apparatus and method for dynamically generating feature amount of word

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP30894398A JP3569138B2 (ja) 1998-10-29 1998-10-29 単語認識装置および方法

Publications (2)

Publication Number Publication Date
JP2000137766A JP2000137766A (ja) 2000-05-16
JP3569138B2 true JP3569138B2 (ja) 2004-09-22

Family

ID=17987134

Family Applications (1)

Application Number Title Priority Date Filing Date
JP30894398A Expired - Fee Related JP3569138B2 (ja) 1998-10-29 1998-10-29 単語認識装置および方法

Country Status (4)

Country Link
US (1) US6859556B2 (ja)
EP (1) EP0997839B1 (ja)
JP (1) JP3569138B2 (ja)
DE (1) DE69924687D1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000036530A1 (fr) * 1998-12-15 2000-06-22 Matsushita Electric Industrial Co., Ltd. Methode de recherche et dispositif correspondant, support enregistre
WO2002010884A2 (en) * 2000-07-28 2002-02-07 Raf Technology, Inc. Orthogonal technology for multi-line character recognition
US7343041B2 (en) * 2001-02-22 2008-03-11 International Business Machines Corporation Handwritten word recognition using nearest neighbor techniques that allow adaptive learning
JP2005149455A (ja) * 2003-10-21 2005-06-09 Sharp Corp 画像照合装置、画像照合方法、画像照合プログラムおよび画像照合プログラムを記録したコンピュータ読取り可能な記録媒体
JP2009070226A (ja) * 2007-09-14 2009-04-02 Ricoh Co Ltd マッチング装置
CN110503636B (zh) * 2019-08-06 2024-01-26 腾讯医疗健康(深圳)有限公司 参数调整方法、病灶预测方法、参数调整装置及电子设备

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS59177684A (ja) 1983-03-28 1984-10-08 Koji Miyake 光学的文字読取方式
DE3815869A1 (de) * 1987-05-08 1988-11-17 Ricoh Kk Verfahren zum extrahieren von merkmalsmengen eines zeichens
JPH0351982A (ja) 1989-07-19 1991-03-06 Nec Corp 文字列認識方式
US5151951A (en) * 1990-03-15 1992-09-29 Sharp Kabushiki Kaisha Character recognition device which divides a single character region into subregions to obtain a character code
US5699456A (en) * 1994-01-21 1997-12-16 Lucent Technologies Inc. Large vocabulary connected speech recognition system and method of language representation using evolutional grammar to represent context free grammars
US5675665A (en) * 1994-09-30 1997-10-07 Apple Computer, Inc. System and method for word recognition using size and placement models
JP2751865B2 (ja) 1995-04-17 1998-05-18 日本電気株式会社 文字列認識装置
US5999647A (en) * 1995-04-21 1999-12-07 Matsushita Electric Industrial Co., Ltd. Character extraction apparatus for extracting character data from a text image

Also Published As

Publication number Publication date
EP0997839A2 (en) 2000-05-03
EP0997839B1 (en) 2005-04-13
EP0997839A3 (en) 2002-06-19
JP2000137766A (ja) 2000-05-16
DE69924687D1 (de) 2005-05-19
US20020126903A1 (en) 2002-09-12
US6859556B2 (en) 2005-02-22

Similar Documents

Publication Publication Date Title
Zhu et al. Biformer: Vision transformer with bi-level routing attention
CN110738207B (zh) 一种融合文字图像中文字区域边缘信息的文字检测方法
CN112232149B (zh) 一种文档多模信息和关系提取方法及系统
KR101463499B1 (ko) 문자 인식 장치, 문자 인식 방법, 문자 인식 시스템, 및 문자 인식 프로그램
JP4618098B2 (ja) 画像処理システム
Liu et al. Dynast: Dynamic sparse transformer for exemplar-guided image generation
JPH05217019A (ja) ビジネスフォーム識別システム及び画像処理システム
CN111401099B (zh) 文本识别方法、装置以及存储介质
US6035063A (en) Online character recognition system with improved standard strokes processing efficiency
JP2937729B2 (ja) パターン認識方法及び装置及び辞書作成方法
JP2018060389A (ja) プログラム、情報記憶媒体及び文字分割装置
JP3569138B2 (ja) 単語認識装置および方法
JP2007213433A (ja) 文字検索装置
Jiang et al. Self-supervised text erasing with controllable image synthesis
Rabhi et al. Multi-lingual handwriting recovery framework based on convolutional denoising autoencoder with attention model
JP2012043437A (ja) 画像処理方法及び画像処理装置
CN111259176B (zh) 融合有监督信息的基于矩阵分解的跨模态哈希检索方法
KR102335751B1 (ko) 로고 생성 방법
Acharya et al. Neighborhood watch: Using CNNs to predict income brackets from Google street view images
JP4869365B2 (ja) 画像処理装置および画像処理方法
JP7384603B2 (ja) 文書フォームの識別
JP4418726B2 (ja) 文字列探索装置、探索方法およびこの方法のプログラム
JP3815934B2 (ja) 手書き文字認識装置および方法
EL ATILLAH et al. Classification of Arabic Alphabets Using a Combination of a Convolutional Neural Network and the Morphological Gradient Method
CN115083001B (zh) 基于图像敏感位置定位的对抗补丁生成方法与装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040204

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040330

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040524

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040615

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040617

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090625

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100625

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110625

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120625

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120625

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130625

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140625

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees