JP3642615B2 - パターン領域切り出し方式及びパターン抽出装置 - Google Patents

パターン領域切り出し方式及びパターン抽出装置 Download PDF

Info

Publication number
JP3642615B2
JP3642615B2 JP28217195A JP28217195A JP3642615B2 JP 3642615 B2 JP3642615 B2 JP 3642615B2 JP 28217195 A JP28217195 A JP 28217195A JP 28217195 A JP28217195 A JP 28217195A JP 3642615 B2 JP3642615 B2 JP 3642615B2
Authority
JP
Japan
Prior art keywords
straight line
pattern
line
frame
extracting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP28217195A
Other languages
English (en)
Other versions
JPH09128480A (ja
Inventor
敦子 小原
聡 直井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP28217195A priority Critical patent/JP3642615B2/ja
Publication of JPH09128480A publication Critical patent/JPH09128480A/ja
Application granted granted Critical
Publication of JP3642615B2 publication Critical patent/JP3642615B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Character Input (AREA)
  • Image Analysis (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、パターン抽出装置及びパターン領域切り出し方式に関し、手書き用文字認識装置、印刷文字認識装置、図面認識装置等において、文字や図形や記号などのパターンの範囲を示す枠や矩形等を抽出する場合に適用して好適なものである。
【0002】
【従来の技術】
近年、手書き用の入力周辺機器としてOCRなどの手書き文字認識装置の需要が増加している。そして、手書き文字認識装置において個々の文字の高い認識率を実現するためには、認識の前処理である文字の切り出し処理を正確に行うことが重要になる。
【0003】
これまで、帳票などの予め文字を書く位置を指定した文書(ドロップアウトカラーでなく、黒枠などの罫線と文字とが同じ色で、且つ、同じ濃度で書かれたもの)では、指定した範囲内に文字が正確に書かれた場合は、高い確率で文字を正確に自動認識することができた。
【0004】
ところが、文字が指定した範囲を越えて指定範囲を示す枠や罫線に文字が接触したり、枠や罫線から文字がはみ出した場合は、著しく文字の認識率が低下する問題が生じていた。すなわち、現在使用されている文字認識装置では、枠を除去する際、文字枠のわずかな傾きや凹凸に対応することができず、文字枠の位置や線幅の変動により本来の文字部分の所が欠けてしまったり、枠が残存したりする。
【0005】
これらの問題点に対応するため、本出願人は、以前、例えば、特開平6−309498号公報や特開平7−28937号公報に記載されているように、枠の位置やサイズ等のフォーマット情報の入力を必要とせずに、枠の抽出や除去を行うことが可能な技術を提案した。
【0006】
ここで、特開平6−309498号公報や特開平7−28937号公報に記載されている方法により処理可能な帳票は、一文字枠、ブロック枠(横一行枠またはフリーフォマット枠)、または枠の外形が矩形状となっており横枠線が規則的に配置されている構造を持つ表を有するものであった。また、帳票の枠抽出処理で対象としていた罫線は実線のみであり、点線を含んだ帳票に関しては処理の対象外であった。
【0007】
そのため、処理可能な帳票、すなわち、上記のような一文字枠、ブロック枠、枠の外形が矩形状となっており横枠線が規則的に配置されている構造を持つ表を有する帳票のみでは、文字認識に利用可能な帳票の種類が限定されてしまい、様々な形状の枠や表を有する一般帳票の対応には不十分であった。
【0008】
そこで、本出願人は、先願の特願平7−203259の明細書に記載されているように、例えば、図36(a)に示す枠の外形が矩形状となっており横枠線が規則的に配置されている構造を持つ表のほか、図36(b)に示すにように、外形が矩形となっていない表を有する帳票や表の一部分にさらに細かい表構造(図36(b)の網かけ部分)を有する帳票、また点線と実線とが混在している帳票などなどに対しても対応することが可能な技術を提案した。
【0009】
以下、先願の特願平7−203259の明細書に記載されている技術の概要について図面を参照しながら説明する。
図37は、先願の特願平7−203259の明細書に記載されているパターン抽出装置の構成を示すブロック図である。
【0010】
図37において、先願のパターン抽出装置は、連結パターン抽出部151、マスク処理部152、横直線抽出部153、横点線検出部159、縦直線抽出部160、縦点線検出部166、横枠決定部167、縦枠決定部168、入れ子構造処理部169及び矩形表現部172を備えている。
【0011】
横直線抽出部153は、横隣接投影部154、横線分検出部155、横線分統合部156、横直線検出部157及び横直線探索部158を備えている。
また、縦直線抽出部160は、縦隣接投影部161、縦線分検出部162、縦線分統合部163、縦直線検出部164及び縦直線探索部165を備えている。
【0012】
また、入れ子構造処理部169は、矩形内の横枠決定部170及び縦枠決定部171を備えている。
連結パターン抽出部151は、縦、横及び斜めの8方向のいずれかで繋がっている8連結の部分パターンを、ラベリングにより連結パターンとして抽出する。
【0013】
マスク処理部152は、連結パターン抽出部151で抽出された連結パターンに対し、画像全体に対して横長、縦長の2種類のマスクによる走査を行う。そして、マスク内においてパターンが占める割合を算出し、その割合がある所定値より大きければそのマスク内を全てパターンとみなし、また該所定値以下であれば、マスク内のパターンを削除することにより、縦横成分を抽出する。
【0014】
横隣接投影部154及び縦隣接投影部161は、マスク処理されたパターンを横方向及び縦方向に複数に分割し、横方向及び縦方向に分割したそれぞれの範囲内でパターンの隣接投影を算出し、ある一定の長さの線分又は直線の一部を矩形近似により検出する。ここで、隣接投影とは、注目行又は注目列の投影値に周囲の行又は列の投影値を足し合わせたものである。
【0015】
横線分検出部155及び縦線分検出部162は、部分パターンのマスク処理画像に対する隣接投影値に基づいて、横方向及び縦方向におけるある一定長さの線分又は直線の一部を、矩形近似により検出する。
【0016】
横線分統合部156及び縦線分統合部163は、横線分検出部155及び縦線分検出部162で検出された矩形線分のうち、近隣の矩形線分同士を統合して長い直線とする。
【0017】
横直線検出部157及び縦直線検出部164は、横線分統合部166及び縦線分統合部163において得られた直線を矩形近似し、横枠又は縦枠を構成する直線の候補を検出する。
【0018】
横直線探索部158及び縦直線探索部165は、横直線検出部157及び縦直線検出部164で矩形近似された横線または縦線の直線の探索を行い、横線の場合は左右端、縦線の場合は上下端を検出する。
【0019】
横点線検出部159及び縦点線検出部166は、ある一定の間隔で並んでいる小さいパターンを検出して点線が存在するとみなし、この点線に対して上述した直線と同様に矩形近似を行う。
【0020】
横枠決定部157は、上記検出された横線の中から、各行の横枠を構成している2本の横線の組を決定する。これは、上から順番に横線を2本抽出し、抽出した2本の横線の長さが同じ、又は下直線の方が長ければ、その2本を横線の組とする。そして、抽出した2本の横線の長さが同じ、又は下の直線の方が長いようにできない場合に限り、下直線の方が短くても組にする。
【0021】
縦枠決定部168は、枠の検出処理において縦枠を決定する処理を行うもので、縦直線抽出部160で抽出された縦線のうち、横枠決定部167で横枠の2本組として決定された2本の横線に上下とも達しているものを縦枠とする。
【0022】
矩形表現部172は、横枠決定部167で決定された2本組の横枠と、該2本組の横枠の上下に達していると縦枠決定部168で決定された2本の縦枠とで囲まれた矩形を抽出するものである。
【0023】
入れ子構造処理部169は、矩形表現部172で抽出された第1の矩形の中から、その内部にさらに第2の矩形を含む入れ子構造を検出し、この第1の矩形に対して矩形内の横枠決定部170及び縦枠決定部171で処理を行うことにより、入れ子構造の第1の矩形をさらに小さな第2の矩形に分割する。
【0024】
このことにより、様々な構造の表形式枠から直線及び点線を抽出し、この抽出された直線及び点線が枠であるかを判断し、その判断の結果得られた枠情報を基に、文字が書かれる文字記入枠を正確に抽出することが可能となる。
【0025】
【発明が解決しようとする課題】
しかしながら、従来の技術で対応可能な帳票は、枠を構成する罫線としてかすれのない線を対象としており、図38に示すように、かすれのある線で構成される帳票に対しては正確な処理を行うことが困難であった。
【0026】
かすれはスキャナの精度が少しでも悪いと発生し、かすれのない線のみを対象とする場合、パターン抽出装置の利用可能な範囲が限られてしまうため、一般の帳票に対応するには従来の技術では不十分であった。
【0027】
そこで、本発明の第1の目的は、枠を構成する線にかすれが存在する場合でも、パターン領域を正確に抽出できるようにすることである。
また、本発明の第2の目的は、矩形領域内の一部の領域に存在する入れ子構造の枠を正確に抽出できるようにすることである。
【0028】
【課題を解決するための手段】
本発明は、かすれがある枠を正確に抽出するため、空白の長さがしきい値以下である場合、空白領域にパターンがあるものとみなして、枠を構成する直線を抽出するものである。
【0029】
さらに、矩形内に存在する横線および縦線の長さと位置関係を調べることにより、矩形内の一部の領域に存在するさらに小さな矩形を抽出するものである。
上述した課題を解決するために、請求項1の発明によれば、同一直線上の第1の線分と第2の線分との間の空白の長さがしきい値以下である場合、第1の線分と第2の線分との間にパターンがあるものとみなして、パターン領域を決定する枠を抽出する。このことにより、枠を構成する直線にかすれがある場合においても、枠を構成する直線を正確に抽出することができ、パターン領域を正確に決定することができる。
【0030】
また、請求項2の発明によれば、部分パターンの中から所定の長さ以上の第1の直線及びしきい値以下の長さの空白を介して分離している第2の直線を抽出する直線抽出手段と、前記直線抽出手段により抽出された直線が、枠を構成する直線であるか否かを判断する判断手段と、前記判断手段により得られた枠を構成する直線情報に基づいて、矩形枠を抽出する枠抽出手段とを備える。このことにより、直線抽出手段は、枠を構成する直線にかすれがある場合においても、枠を構成する直線を正確に抽出することができ、この直線抽出手段により抽出された直線に基づいて矩形枠を抽出することにより、かすれがあるパターンから矩形枠を抽出することができる。
【0031】
また、請求項3の発明によれば、枠を構成する直線情報に基づいて、第1の矩形枠を抽出する第1の枠抽出手段と、前記第1の枠抽出手段によって抽出された第1の矩形枠内の一部の領域から第2の矩形枠を抽出する第2の枠抽出手段とを備える。このことにより、矩形枠の一部の領域中にさらに小さな矩形枠が存在する表からパターンの切り出しを正確に行うことができる。
【0032】
また、請求項4の発明によれば、第2の枠抽出手段は、第1の枠抽出手段によって抽出された第1の矩形枠内に一定以上の長さを有する横線が存在し、且つ前記第1の矩形枠の上辺又は下辺と前記横線との両方に達する縦線が存在する場合、前記第1の矩形枠内から前記横線と前記縦線とで構成される第2の矩形枠を抽出する。このことにより、矩形枠の一部の領域中に存在するさらに小さな矩形枠を、文字線分と混同することなく抽出できる。
【0033】
また、請求項5の発明によれば、所定の大きさ以上の第1の部分パターンと第1の部分パターンの外接矩形範囲内に存在する第2の部分パターンとに共通のラベルを付すラベル付け替え手段と、前記第1の部分パターンと前記第2の部分パターンとから、所定の長さ以上の第1の直線及びしきい値以下の長さの空白を介して分離している第2の直線を抽出する直線抽出手段とを備える。このことにより、ラベル付け替え手段は、かすれにより第1の部分パターンから分離している第2の部分パターンを、枠を抽出するパターンの候補に付け加えることができ、直線抽出手段は、かすれにより分離しているパターンから枠を構成する直線を抽出することができる。
【0034】
また、請求項6の発明によれば、所定の大きさ以上の第1の部分パターンと第1の部分パターンの外接矩形範囲内に存在する第2の部分パターンとに共通のラベルを付すラベル付け替え手段と、前記第1の部分パターンと前記第2の部分パターンとから、所定の長さ以上の第1の直線及びしきい値以下の長さの空白を介して分離している第2の直線を抽出する直線抽出手段と、所定の間隔で並んでいる所定の大きさ以下の第3の部分パターンからなる点線を検出する点線検出手段とを備える。このことにより、かすれにより分離している直線や点線を含むパターンからパターン領域を区切る枠を抽出することができる。
【0035】
また、請求項7の発明によれば、直線抽出手段は、ある行又は列の投影値に、周囲の行又は列の投影値を足し合わせた値を、その行又は列の投影値とする隣接投影法を用いて、前記部分パターンを構成する複数の矩形線分を検出する線分検出手段と、線分検出手段によって得られた複数の線分を統合し、この統合された線分を矩形近似することにより直線を検出する直線検出手段とを備える。このことにより、周囲の行又は列の投影値を足し合わせた投影値により矩形近似して直線を検出することができ、斜めに傾いた直線を正確に検出することができる。
【0036】
また、請求項8の発明によれば、直線抽出手段は、直線検出手段により検出された直線の原画像のパターンの最も細い部分から、しきい値以下の長さの空白はパターンがあるものとみなして外側へ探索することにより該パターンの両端を検出し、この検出位置を直線の両端の位置として設定する直線探索手段をさらに備える。このことにより、しきい値以下の長さの空白により分離している直線を抽出することができ、枠を構成する直線にかすれがある場合においても、枠を構成する直線を正確に抽出することができる。
【0037】
また、請求項9の発明によれば、直線抽出手段は、しきい値を部分パターンの大きさに対応させて変える。このことにより、枠を構成する分離している直線を抽出する場合、枠を構成するパターンと間違って文字線分を抽出することを防止することができ、枠を構成する直線を正確に抽出することができる。
【0038】
また、請求項10の発明によれば、直線抽出手段は、直線検出手段により検出された直線の傾きを検出する傾き検出手段と、直線の傾きが所定の範囲を越える直線を枠の候補から除去する除去手段とをさらに備える。このことにより、枠内に書かれた斜めの消し線を枠を構成する直線として抽出することを防止することができ、枠を構成する直線を正確に抽出することができる。
【0039】
また、請求項11の発明によれば、直線検出手段により検出された直線のうち、縦方向の距離が所定の値以下の横線を統合するとともに、横方向の距離が所定の値以下の縦線を統合する直線統合手段をさらに備える。このことにより、より長いかすれを有する直線を抽出することができ、入力画像の画質が悪い場合においても、枠を構成する直線を正確に抽出することができる。
【0040】
また、請求項12の発明によれば、部分パターンから所定の長さ以上の第1の直線及びしきい値以下の長さの空白を介して分離している第2の直線を抽出する直線抽出手段と、第1の矩形枠を抽出する第1の枠抽出手段と、前記第1の枠抽出手段によって抽出された第1の矩形枠内に所定の長さ以上の横線が存在する場合、前記横線を枠として有する第2の矩形枠を抽出する第2の枠抽出手段とを備える。このことにより、枠を構成する直線がかすれにより分離している場合においても、矩形枠の一部の領域中に存在するさらに小さな矩形枠を、文字線分と混同することなく抽出できる。
【0041】
また、請求項13の発明によれば、部分パターンから所定の長さ以上の第1の直線、第1のしきい値以下の長さの空白を介して分離している第2の直線及び前記第1のしきい値より小さい第2のしきい値以下の長さの空白を介して分離している第3の直線を抽出する直線抽出手段と、枠を構成する第1の直線、第2の直線及び第3の直線に基づいて、第1の矩形枠を抽出する第1の枠抽出手段と、前記第1の枠抽出手段によって抽出された第1の矩形枠内から、前記第1の直線及び第3の直線に基づいて、第2の矩形枠を抽出する第2の枠抽出手段とを備える。このことにより、より長い直線からなる第1の矩形枠を抽出する場合、かすれを許容するしきい値を大きく設定することができ、より短い直線からなる第2の矩形枠を抽出する場合、かすれを許容するしきい値を小さく設定することができるため、大きな矩形枠を正確に抽出しながら、大きな矩形枠の領域中に存在するより小さな矩形枠を、文字線分と混同することなく抽出できる。
【0042】
また、請求項14の発明によれば、縦方向及び横方向に等間隔で区切られたパターンから所定の長さ以上の第1の直線及びしきい値以下の長さの空白を介して分離している第2の直線を抽出するを抽出する直線抽出手段と、前記直線抽出手段により抽出された第1の直線及び第2の直線のうち、同じ長さを有する第3の直線が一定の本数以上存在する場合、所定の値以上の長さを有する第4の直線の長さを前記第3の直線の長さと同一にする直線補正手段を備える。このことにより、縦方向及び横方向に等間隔で区切られたパターンの場合、枠を構成する直線の端の部分がかすれにより消失しても、端の部分が消失した直線を枠を構成する直線として正確に抽出することができ、かすれがあるパターンから矩形枠を正確に抽出することができる。
【0043】
また、請求項15の発明によれば、縦方向及び横方向に等間隔で区切られたパターンから所定の長さ以上の第1の直線及びしきい値以下の長さの空白を介して分離している第2の直線を抽出するを抽出する直線抽出手段と、所定の間隔で並んでいる所定の大きさ以下の部分パターンからなる第1の点線を検出する点線抽出手段と、前記直線抽出手段により抽出された第1の直線及び第2の直線のうち、同じ長さを有する第3の直線が一定の本数以上存在する場合、所定の値以上の長さを有する第4の直線の長さを前記第3の直線の長さと同一にする直線補正手段と、前記点線抽出手段により抽出された第1の点線のうち、同じ長さを有する第2の点線が一定の本数以上存在する場合、所定の値以上の長さを有する第3の点線の長さを前記第2の点線の長さと同一にする点線補正手段ととを備える。このことにより、縦方向及び横方向に等間隔で区切られたパターンの場合、枠を構成する直線及び点線の端の部分がかすれにより消失しても、端の部分が消失した直線及び点線を枠を構成する直線又は点線として正確に抽出することができ、かすれがあるパターンから矩形枠を正確に抽出することができる。
【0044】
また、請求項16の発明によれば、縦方向及び横方向に等間隔で区切られたパターンから所定の長さ以上の第1の直線及びしきい値以下の長さの空白を介して分離している第2の直線を抽出するを抽出する直線抽出手段と、前記直線抽出手段により抽出された第1の直線及び第2の直線のうち、同じ長さを有する第3の直線が一定の本数以上存在し、且つ等間隔に並んでいる場合、前記第3の直線を矩形枠を構成する直線とみなす判断手段とを備える。このことにより、縦方向及び横方向に等間隔で区切られたパターンの場合、枠を構成する直線のかすれの度合いにかかわらず、同じ長さを有し且つ等間隔に並んでいる直線を枠を構成する直線として正確に抽出することができ、かすれがあるパターンから矩形枠を正確に抽出することができる。
【0045】
また、請求項17の発明によれば、縦方向及び横方向に等間隔で区切られたパターンから所定の長さ以上の第1の直線及びしきい値以下の長さの空白を介して分離している第2の直線を抽出するを抽出する直線抽出手段と、所定の間隔で並んでいる所定の大きさ以下の部分パターンからなる第1の点線を検出する点線抽出手段と、前記直線抽出手段により抽出された第1の直線及び第2の直線のうち、同じ長さを有する第3の直線が一定の本数以上存在し、且つ等間隔に並んでいる場合、前記第3の直線を矩形枠を構成する直線とみなす第1の判断手段と、前記点線抽出手段により抽出された第1の点線のうち、同じ長さを有する第2の点線が一定の本数以上存在し、且つ等間隔に並んでいる場合、前記第2の点線を矩形枠を構成する点線とみなす第2の判断手段とを備える。このことにより、縦方向及び横方向に等間隔で区切られたパターンの場合、枠を構成する直線及び点線のかすれの度合いにかかわらず、同じ長さを有し且つ等間隔に並んでいる直線及び点線を枠を構成する直線又は点線として正確に抽出することができ、かすれがあるパターンから矩形枠を正確に抽出することができる。
【0046】
また、請求項18の発明によれば、縦方向及び横方向に等間隔で区切られたパターンから所定の長さ以上の第1の直線及びしきい値以下の長さの空白を介して分離している第2の直線を抽出するを抽出する直線抽出手段と、前記直線抽出手段により抽出された第1の直線及び第2の直線のうち、同じ長さを有し第1の間隔で並んでいる第3の直線が一定の本数以上存在し、且つ前記第3の直線と同じ長さを有し前記第1の間隔の整数倍の第2の間隔を有する第4の直線が存在する場合、前記第2の間隔内に前記第1の間隔で前記第3の直線と同じ長さを有する第5の直線を生成する直線生成手段とを備える。このことにより、縦方向及び横方向に等間隔で区切られたパターンの場合、枠を構成する直線がかすれにより消失しても、消失した直線を枠を構成する直線として正確に抽出することができ、かすれがあるパターンから矩形枠を正確に抽出することができる。
【0047】
また、請求項19の発明によれば、縦方向及び横方向に等間隔で区切られたパターンから所定の長さ以上の第1の直線及びしきい値以下の長さの空白を介して分離している第2の直線を抽出するを抽出する直線抽出手段と、所定の間隔で並んでいる所定の大きさ以下の部分パターンからなる第1の点線を検出する点線抽出手段と、前記直線抽出手段により抽出された第1の直線及び第2の直線のうち、同じ長さを有し第1の間隔で並んでいる第3の直線が一定の本数以上存在し、且つ前記第3の直線と同じ長さを有し前記第1の間隔の整数倍の第2の間隔を有する第4の直線が存在する場合、前記第2の間隔内に前記第1の間隔で前記第3の直線と同じ長さを有する第5の直線を生成する直線生成手段と、前記点線抽出手段により抽出された第1の点線のうち、同じ長さを有し第3の間隔で並んでいる第2の点線が一定の本数以上存在し、且つ前記第2の点線と同じ長さを有し前記第3の間隔の整数倍の第4の間隔を有する第3の点線が存在する場合、前記第4の間隔の領域に前記第3の間隔で前記第2の点線と同じ長さを有する第4の点線を生成する点線生成手段とを備える。このことにより、縦方向及び横方向に等間隔で区切られたパターンの場合、枠を構成する直線及び点線がかすれにより消失しても、消失した直線及び点線を枠を構成する直線又は点線として正確に抽出することができ、かすれがあるパターンから矩形枠を正確に抽出することができる。
【0048】
また、請求項20の発明によれば、縦方向及び横方向に等間隔で区切られたパターンから所定の長さ以上の第1の直線及びしきい値以下の長さの空白を介して分離している第2の直線を抽出するを抽出する直線抽出手段と、前記直線抽出手段により抽出された第1の直線及び第2の直線のうち、同じ長さを有し第1の間隔で並んでいる第3の直線が一定の本数以上存在し、且つ前記第3の直線と同じ長さを有する第4の直線が前記第1の間隔内に存在する場合、前記第4の直線を枠の候補から除去する直線除去手段とを備える。このことにより、縦方向及び横方向に等間隔で区切られたパターンの場合、枠を構成しない直線を枠を構成する直線の候補から除去することができ、枠を構成する直線のみを正確に抽出することができるので、矩形枠を抽出する精度を上げることができる。
【0049】
また、請求項21の発明によれば、縦方向及び横方向に等間隔で区切られたパターンから所定の長さ以上の第1の直線及びしきい値以下の長さの空白を介して分離している第2の直線を抽出するを抽出する直線抽出手段と、所定の間隔で並んでいる所定の大きさ以下の部分パターンからなる第1の点線を検出する点線抽出手段と、前記直線抽出手段により抽出された第1の直線及び第2の直線のうち、同じ長さを有し第1の間隔で並んでいる第3の直線が一定の本数以上存在し、且つ前記第3の直線と同じ長さを有する第4の直線が前記第1の間隔内に存在する場合、前記第4の直線を枠の候補から除去する直線除去手段と、前記点線抽出手段により抽出された第1の点線のうち、同じ長さを有し第2の間隔で並んでいる第2の点線が一定の本数以上存在し、且つ前記第2の点線と同じ長さを有する第3の点線が前記第2の間隔内に存在する場合、前記第3の点線を枠の候補から除去する点線除去手段ととを備える。このことにより、縦方向及び横方向に等間隔で区切られたパターンの場合、枠を構成しない直線及び点線を枠を構成する直線及び点線の候補から除去することができ、枠を構成する直線及び点線のみを正確に抽出することができるので、矩形枠を抽出する精度を上げることができる。
【0050】
【発明の実施の形態】
以下、本発明の一実施例によるパターン抽出装置の機能的な構成を、図面を参照しながら詳細に説明する。
【0051】
図1は、本発明の一実施例によるパターン抽出装置の機能構成を示すブロック図である。
図1において、連結パターン抽出手段200は、入力されたパターンからラベリングにより連結した部分パターンを抽出するものである。
【0052】
ラベル付け替え手段201は、連結パターン抽出手段200によりラベルが付された第1の部分パターンに対して所定の位置に存在し、且つ所定のサイズより大きな第2の部分パターンのラベルを第1の部分パターンのラベルと同一にするものである。
【0053】
直線抽出手段202は、ラベル付け替え手段201により同一のラベルを付された部分パターンの中から、所定の長さ以上の第1の直線及びしきい値以下の長さの空白を介して分離している第2の直線を抽出するものである。
【0054】
ここで、直線抽出手段202は、検出した直線の傾きを検出する傾き検出手段202aと傾き検出手段202aで検出された直線の傾きが所定の範囲を越える直線を枠の候補から除去する除去手段202bとを備えている。
【0055】
枠抽出手段203は、直線抽出手段202により得られた枠を構成する直線情報に基づいて、矩形枠を抽出するものである。
ここで、枠抽出手段203は、直線抽出手段202により抽出された横直線を上から順番に2本づつ組にして横枠とし、上端及び下端が横枠に達している縦直線を縦枠とする。
【0056】
また、枠抽出手段203は、矩形枠の中に存在するさらに小さな矩形枠を検出する入れ子構造検出手段203aを備えている。この入れ子構造検出手段203aは、枠抽出手段203によって抽出された矩形枠内に一定以上の長さを有する横線が存在し、且つ矩形枠の上辺又は下辺と横線との両方に達する縦線が存在する場合、矩形枠の中にさらに小さな矩形枠が存在すると判断する。
【0057】
パターン切り出し手段204は、枠抽出手段203により抽出された矩形範囲に基づいて、パターン領域を抽出するものである。
次に、本発明の一実施例によるパターン抽出装置の動作を説明する。
【0058】
図1において、連結パターン抽出手段200により抽出された部分パターンから、所定の値より大きな部分パターンを抽出することにより、枠を構成する候補となるパターンを取り出す。
【0059】
次に、ラベル付け替え手段201は、所定の値より大きな第1の部分パターンに対して所定の位置に存在する第2の部分パターン、すなわち、かすれのために第1の部分パターンから分離した第2の部分パターンのラベルを第1の部分パターンのラベルと同一にする。そして、枠を構成する候補となる第1の部分パターンの中に、第1の部分パターンから分離した第2の部分パターンを含むようにする。
【0060】
次に、直線抽出手段202は、ラベル付け替え手段201により同一のラベルを付された部分パターンの中から、しきい値以下の長さの空白領域にはパターンが存在するものとみなして直線を抽出する。このことにより、かすれのために分離している直線を枠の候補として抽出することができる。
【0061】
ここで、検出した直線の傾きを傾き検出手段202aにより検出し、直線の傾きが他の直線と異なっている直線を枠の候補から除去する。
次に、枠抽出手段203は、直線抽出手段202により得られた枠を構成する直線情報に基づいて、矩形枠を抽出する。そして、入れ子構造検出手段203aが第1の矩形枠の中にさらに小さな第2の矩形枠が存在すると判断した場合、第1の矩形枠から第2の矩形枠を抽出する。。
【0062】
次に、パターン切り出し手段204は、矩形枠により区切られたパターン領域を抽出する。
次に、本発明の第1実施例によるパターン抽出装置を、図面を参照しながら詳細に説明する。
【0063】
図2は、本発明の第1実施例によるパターン抽出装置の構成を示すブロック図である。 このパターン抽出装置は、パターンの書き込み領域が規則的な構造を有する表だけではなく、不規則な構造を有する表においても、枠を正確に抽出できるようにしたものである。また、実線と点線の罫線が混在する表や、入れ子構造を有する表、さらには枠を構成する線にかすれがある表にも適用可能である。
【0064】
なお、以下の説明では、枠が単数または複数個あり、また、サイズや位置や傾きなどが分からない枠に対して文字が書かれている(この場合、文字が枠と接触したり、枠からはみ出していてもよい)帳票から、枠を抽出する場合について説明する。また、対象となる入力パターンは、極端な傾きや回転の補正が行われた後の2値画像である。
【0065】
図2に示すように、第1実施例のパターン抽出装置は、連結パターン抽出部1、マスク処理部2、横直線抽出部3、横点線検出部9、横直線統合部10、縦直線抽出部11、縦点線検出部17、縦直線統合部18、横枠決定部19、縦枠決定部20、入れ子構造処理部21及び矩形表現部24を備えている。
【0066】
横直線抽出部3は、横隣接投影部4、横線分検出部5、横線分統合部6、横直線検出部7及び横直線探索部8を備えている。
また、縦直線抽出部11は、縦隣接投影部12、縦線分検出部13、縦線分統合部14、縦直線検出部15及び縦直線探索部16を備えている。
【0067】
また、入れ子構造処理部19は、矩形内の横枠決定部22及び縦枠決定部23を備えている。
連結パターン抽出部1は、複数の枠が配置される位置の相対的な関係に依存することなく、各パターンを安定に抽出するために、縦、横及び斜めの8方向のいずれかで繋がっている8連結の部分パターンを、ラベリングにより連結パターンとして抽出する。
【0068】
このラベリングにより得られる部分パターンは、文字が接触していない枠或いは枠の一部、文字が接触している枠或いは枠の一部、枠に接触していない文字或いは文字の一部、または枠に接触している文字のいずれかである。そして、これらの部分パターンを判別し、所定のサイズより大きな連結パターンの集合を表の候補として抽出する。
【0069】
すなわち、連結パターン抽出部1により抽出された部分パターンのうち、一定以上の大きさを有する第1の部分パターンを表の候補とする。そして、第1の部分パターンに対して所定の位置に存在し、且つ所定のサイズより大きな第2の部分パターンのラベルを第1の部分パターンのラベルと同一になるように変更し、この第2の部分パターンを表の候補に追加する。
【0070】
このラベルの付け替え処理は、本来枠を構成するパターンが、かすれにより分離して別のパターンとして処理されることを防止するためのものである。
なお、ラベリングで得られた部分パターンのサイズが後に必要になるので、部分パターンを矩形近似して得られる矩形の角の座標をラベリングの処理中に算出しておく。
【0071】
図3は、連結パターン抽出部1の動作の一例を示す図である。
連結パターン抽出部1は、図3(a)に示す画像の入力パターンに対しラベリングを行い、8連結で繋がっている各部分パターンにラベル1〜7を付す。図3(a) において、入力パターンは1,2,1,8,4,5の数字とかすれを有する枠からなる。「8連結」のパターンとは、縦、横、斜めの8方向において特定画素に関してその隣接画素が存在するとき繋がっているとし、存在しないとき繋がっていないとすることにより、形成された一続き(連結)のパターンを言う。たとえば、ラベル1は外枠を示す4辺、各辺に連結した内枠および外枠の一辺に繋がった数字5であり、ラベル2は数字1である。
【0072】
次に、一定以上の大きさを有するラベル1が付された部分パターンを枠からなる表の候補とする。
次に、図3(b)に示すように、ラベル1が付された部分パターンに対して所定の位置に存在し、且つ所定のサイズより大きなラベル5〜7が付された部分パターンのラベルをラベル1に変更する。
【0073】
このことにより、本来枠を構成するラベル7が付された部分パターンを表の候補として取り扱うことが可能となる。なお、ラベル5、ラベル6が付された部分パターンは後の処理で表の候補から除かれる。
【0074】
図4は、連結パターン抽出部1の動作を示すフローチャートである。
図4において、まず、ステップS1に示すように、連結パターン抽出部1のラベリング処理により、8連結で繋がっている部分パターンを抽出してラベルを付す。
【0075】
次に、ステップS2に示すように、連結パターン抽出部1により抽出された部分パターンのうち、一定以上の大きさを有する第1の部分パターン(A)を枠の候補とする。
【0076】
次に、ステップS3に示すように、所定のサイズより大きな第2の部分パターン(B)であって、第2の部分パターン(B)の外接矩形の右辺XRbが第1の部分パターン(A)の外接矩形の右辺XRaとが重なっているか又は第2の部分パターン(B)の外接矩形の右辺XRbが第1の部分パターン(A)の外接矩形の右辺XRaより左側にあり、且つ第2の部分パターン(B)の外接矩形の左辺XLbが第1の部分パターン(A)の外接矩形の左辺XLaとが重なっているか又は第2の部分パターン(B)の外接矩形の左辺XRbが第1の部分パターン(A)の外接矩形の左辺XRaより右側にあり、且つ第2の部分パターン(B)の外接矩形の上辺YUPbが第1の部分パターン(A)の外接矩形の上辺XUPaとが重なっているか又は第2の部分パターン(B)の外接矩形の上辺XUPbが第1の部分パターン(A)の外接矩形の上辺XUPaより下側にあり、且つ第2の部分パターン(B)の外接矩形の下辺YBLbが第1の部分パターン(A)の外接矩形の下辺XBLaとが重なっているか又は第2の部分パターン(B)の外接矩形の下辺XBLbが第1の部分パターン(A)の外接矩形の下辺XBLaより上側にあるものを検出する。
【0077】
次に、ステップS4に示すように、ステップS3で検出された第2の部分パターン(B)のラベルを第1の部分パターン(A)のラベルと同一にする。
例えば、図5(a)に示すように、第2の部分パターン(B)の外接矩形31は第1の部分パターン(A)の外接矩形30に囲まれており、ステップS3の条件を満たすので、第2の部分パターン(B)のラベルを第1の部分パターン(A)のラベルと同一にする。
【0078】
また、図5(b)に示すように、第2の部分パターン(B)の外接矩形33は第1の部分パターン(A)の外接矩形32からはみ出しており、ステップS3の条件を満たさないので、第2の部分パターン(B)のラベルの付け替えを行わない。
【0079】
マスク処理部2は、連結パターン抽出部1で抽出されたある一定の大きさを有する第1の連結パターン及び第1の連結パターンと同一ラベルに変更された第2の連結パターンに対し、画像から極端な斜め成分を省き、枠だけに存在する長い直線の抽出を容易にするための処理を行う。
【0080】
すなわち、画像全体に対して横長、縦長の2種類のマスクによる走査を行う。そして、マスク内においてパターンが占める割合を算出し、その割合がある所定値より大きければそのマスク内を全てパターンとみなし、また該所定値以下であれば、マスク内のパターンを削除することにより、縦横成分を抽出する。
【0081】
そして、複数の行または列が続いて、前記の割合が所定値より大きくなった場合、それらをまとめて矩形範囲をつくり、その中心線を処理結果とする。
また、該マスク処理の結果得られる線分どうしの隙間が開かないようにするために、マスク処理を行う範囲がお互いに重なりを持つように設定する。なお、原画像はマスク処理画像とは別に記憶しておく。
【0082】
例えば、縦×横が1×6画素の矩形範囲を指定するマスクにより横成分を抽出する場合、図6に示すようにして原画像の処理が行われる。図6(a)は、互いに重なり合ったマスク「1」〜「9」を示し、図6(b)の原画像に対してこれらのマスクを用いてマスク処理を行うことにより、図6(c)において黒丸で示された横成分の画素が抽出される。
【0083】
図7は、マスク処理部2の動作を示すフローチャートである。
同図において、まず、ステップS11に示すように、連結パターン抽出部1で得られた部分パターンの原画像全体に対して、横長及び縦長の2種類のマスクで走査を行う。
【0084】
次に、ステップS12に示すように、マスク内のパターンの占める割合、すなわち、マスクの面積に対するマスク内のパターンの面積を算出し、この割合が、所定値より大きいかどうかの判断を行う。そして、マスク内のパターンの占める割合が所定値より小さいと判断された場合、ステップS13に進み縦成分又は横成分がないとして処理を終了する。
【0085】
一方、ステップS12でマスク内のパターンの占める割合が所定値より大きいと判断された場合、ステップS14に進み、マスク内を全てパターンとみなし、該パターンを、全て、縦成分又は横成分とする。
【0086】
次に、ステップS15に示すように、ステップS14で得られた成分が、上下の成分又は左右の成分と接しているかどうかの判断を行う。そして、上下の成分又は左右の成分と接していないと判断された場合、ステップS16に進み、ステップS14で得られた成分を処理結果として出力する。
【0087】
一方、ステップS15で上下の成分又は左右の成分と接していると判断された場合、ステップS17に進み、互いに接している成分を統合する。そして、ステップS18において、ステップS17で統合した成分から矩形範囲を作成し、ステップS19において、ステップS18得られた矩形範囲の中心線を処理結果として出力する。
【0088】
以上のマスク処理により、例えば、図8(a)に示す同一のラベル1を付された部分パターンから、図8(b)に示すような斜め成分が除去され線幅が均一化されたパターン34が得られる。
【0089】
横隣接投影部4及び縦隣接投影部12は、マスク処理されたパターンを横方向及び縦方向に複数に分割し、横方向及び縦方向に分割したそれぞれの範囲内でパターンの隣接投影を算出し、ある一定の長さの線分又は直線の一部を矩形近似により検出する。ここで、隣接投影とは、注目行又は注目列の投影値に周囲の行又は列の投影値を足し合わせたものである。このことにより、直線が傾いていて複数の行又は複数の列にわたっている場合においても、直線を正確に検出することができる。従って、隣接投影を用いることにより、ブロック枠などの大きな枠を検出する場合、その枠が傾いていても、枠を構成する直線を検出することが可能である。
【0090】
例えば、図9において、i行の投影値をp(i)とすると、隣接投影値P(i)は、(1)式により算出することができる。
P(i)=p(i−j)+・・・+p(i)+・・・+p(i+j)(1)
なお、図9に示す例は、(1)式においてj=1とおいたものである。
【0091】
図10は、横隣接投影部4及び縦隣接投影部12の動作を示すフローチャートである。
図10において、まず、ステップS21で、マスク処理部2で得られた同一のラベルを有する部分パターンを横方向及び縦方向に複数の部分に分割する。次に、ステップS22で、横方向及び縦方向のそれぞれの分割範囲内で投影値を算出する。
【0092】
次に、ステップS23において、ステップS22で算出されたそれぞれの投影値に周囲の投影値を加算する。次に、ステップS24で、(1)式に基づいて、隣接投影値P(i)を算出する。
【0093】
横線分検出部5及び縦線分検出部13は、部分パターンのマスク処理画像に対する隣接投影値に基づいて、横方向及び縦方向におけるある一定長さの線分又は直線の一部を、矩形近似により検出する。
【0094】
すなわち、横隣接投影部4及び縦隣接投影部12で算出された隣接投影値と縦横それぞれの分割長との比が所定の閾値以上である部分を直線の候補が存在する位置とする。また、連続する複数の行又は列が所定の閾値値以上となった場合は、それらの連続する複数の行又は列をまとめた矩形範囲を直線の候補が存在する位置とする。なお、この矩形近似により検出した一定長さの線分又は直線の一部を、以後「矩形線分」と呼ぶ。この線分検出処理により、例えば、図11(a)に示すような斜めに傾いた横線40から、図11(b)に示す横方向に分割された3つの矩形線分41が得られる。
【0095】
ここで、隣接投影法ではなく、通常の投影法を用いた場合、図11(a)に示すような斜めに傾いた直線40を検出することは不可能である。このため、斜めに傾いた直線40を通常の投影法で検出するには、部分パターンの分割数を増やし分割長を短くする必要がある。しかし、部分パターンの分割長が短くなると、文字を構成している短い直線も多数検出され、文字と枠とを区別することが困難になる。これに対して、隣接投影法を用いることにより、枠を構成する比較的長い直線を文字を構成している短い直線と区別しながら正確に検出することができる。
【0096】
図12は、横線分検出部5及び縦線分検出部13の動作を示すフローチャートである。
図12において、まず、ステップS31で、横隣接投影部4及び縦隣接投影部12で算出された隣接投影値と縦横それぞれの分割長との比が所定のしきい値以上であるかどうかを判定する。そして、隣接投影値と縦横それぞれの分割長との比が所定のしきい値以上でないと判断された場合、ステップS32に進み、線分が存在しないものとみなす。
【0097】
一方、ステップS31で隣接投影値と縦横それぞれの分割長との比が所定のしきい値以上であると判断された場合、ステップS33に進み、線分が存在するものとみなす。
【0098】
次に、ステップS34において、ステップS33で線分とみなされたパターンが、その上下に存在する線分と接しているかどうかを判断する。そして、上記パターンが上下に存在する線分と接していないと判断された場合、ステップS35に進み、そのパターンを矩形線分とする。
【0099】
一方、ステップS34において、ステップS33で線分とみなされたパターンがその上下に存在する線分と接していると判断された場合、ステップS36に進み、上記パターンとその上下に存在する線分とを統合する。そして、ステップS37で、ステップS36で統合した線分を矩形線分として検出する。
【0100】
横線分統合部6及び縦線分統合部14は、横線分検出部5及び縦線分検出部13で検出された矩形線分のうち、近隣の矩形線分同士を統合して長い直線とするものである。
例えば、図13(b)に示すように、途中で途切れていない矩形線分x、y、zが接触しているか又は繋がっている場合、これらの矩形線分x、y、zを統合して長い直線とする。また、図13(a)に示すように、矩形線分x、yが繋がっていない場合、矩形線分x、yの垂直方向の距離が隣接投影法において加算する行又は列数j以内ならば、矩形線分x、y、zを統合して長い直線とする。
【0101】
図14は、横線分統合部6及び縦線分統合部14の動作を示すフローチャートである。
同図において、まず、ステップS41で、横線分検出部5及び縦線分検出部13で検出された矩形線分に対し、矩形線分同士の距離を算出する。次に、ステップS42で、ステップS41で算出された矩形線分同士の距離が、隣接投影法において加算する行又は列数j以内であるかどうかを判定する。そして、矩形線分同士の距離が隣接投影法において加算する行又は列数j以内でない場合、ステップS43に進み、矩形線分の統合を行わない。
【0102】
一方、ステップS42において、矩形線分同士の距離が隣接投影法において加算する行又は列数j以内であると判断された場合、ステップS43に進み、矩形線分の統合を行う。
【0103】
横直線検出部7及び縦直線検出部15は、横線分統合部6及び縦線分統合部14において得られた直線を矩形近似し、横枠又は縦枠を構成する直線の候補を検出する。例えば、図15(a)に示す統合された直線42を矩形近似し、図15(b)で破線により示された直線43を得る。
【0104】
また、検出された直線の傾きを統合された線分の両端の座標から算出し、他の直線の傾きと比較して異なる傾きを有する直線を、枠の中に書かれた斜めの消し線等、枠でない部分であるとみなし、直線の候補から除く。
【0105】
横直線探索部8及び縦直線探索部16は、横直線検出部7及び縦直線検出部15で矩形近似された横線または縦線の直線について、横線の場合は左右端、縦線の場合は上下端を正確に検出するために、矩形近似された直線を構成するパターンの探索を行う。ここで、探索の進行方向にパターンのない空白領域が存在しても、一定の画素数以下の空白領域に対してはパターンがあるとみなして探索を行う。このことにより、かすれのために分離している直線からなる枠の候補を正確に検出することができる。
【0106】
例えば、図16に示すように、横線である矩形近似された直線44に対して、該直線44を構成するパターン45の検索を行う場合、一定の画素数以下の空白領域46に対してはパターンがあるとみなして探索を行う。そして、以後の処理において、この検索で得られたパターン45の左右端を、上記矩形近似された直線44の左右端の代わりに用いる。
【0107】
図17は、横直線探索部8の動作を示すフローチャートである。
図17において、まず、ステップS51に示すように、横直線検出部7で近似した矩形範囲内のパターンのうち、最も細い部分のX座標を算出する。
【0108】
次に、ステップS52に示すように、ステップS51で算出したX座標におけるパターンの中心点を算出する。そして、ステップS53に示すように、ステップS52で算出したパターンの中心点を探索の開始点とする。ここで、探索の開始点をパターンの最も細い部分とするのは、最も細い部分は文字である可能性が低いため、枠となる直線の探索をより確実に行うことができるからである。
【0109】
次に、ステップS54で直線の探索方向を右に設定する。
次に、ステップS55に示すように、空白領域の長さをカウントする変数Kの初期値を0に設定する。
【0110】
次に、ステップS56に示すように、ステップS53で求めた開始点をパターンの探索の現在地と設定する。
次に、ステップS57に示すように、ステップS56で設定した探索の現在地が上記矩形範囲の内部であるかどうかの判定を行い、探索の現在地が矩形範囲の内部でない場合、ステップS66に進む。
【0111】
一方、ステップS57で探索の現在地が矩形範囲の内部であると判定された場合、ステップS58に進み、探索の現在地からみて探索方向隣にパターンがあるかどうか判定する。ここで、探索の現在地からみて探索方向隣にパターンがあるとは、図18に示すように、パターン51からみて右方向隣の位置にパターン52が存在していることを意味している。そして、探索の現在地からみて探索方向隣にパターン52があると判定された場合、ステップS61に進み、探索方向隣にあるパターン52を探索の現在地とする。
【0112】
一方、ステップS58で探索の現在地からみて探索方向隣にパターンがないと判定された場合、ステップS59に進み、探索の現在地からみて探索方向斜め隣にパターンがあるかどうか判定する。ここで、探索の現在地からみて探索方向斜め隣にパターンがあるとは、図18に示すように、パターン53からみて右方向斜め隣の位置にパターン54a又はパターン54bが存在していることを意味している。そして、探索の現在地からみて探索方向斜め隣にパターン54a、54bがあると判定された場合、ステップS63に進み、探索方向斜め隣にあるパターン54a、54bを探索の現在地とする。なお、探索方向斜め隣にあるパターン54a、54bが2つある場合はパターン54a、54bのどちらか一方を探索の現在地とする。
【0113】
一方、ステップS59で探索の現在地からみて探索方向斜め隣にパターン54a、54bがないと判定された場合、ステップS60に進み、空白領域の長さをカウントする変数Kがしきい値以下であるかどうかを判定する。そして、空白領域の長さをカウントする変数Kがしきい値以下である場合、ステップS64に進み、探索の現在地からみて探索方向隣にありパターンを構成しない画素を現在地とする。例えば、図16において、一定の画素数以下の空白領域46に対してはパターンがあるとみなして探索を行う。
【0114】
次に、ステップS65に示すように、空白領域の長さをカウントする変数Kの値を1ドット増やし、ステップS57に戻る。
一方、ステップS60で空白領域の長さをカウントする変数Kがしきい値以下でないと判定された場合、ステップS66に進み、探索方向は右に設定されているかどうかを判定する。そして、探索方向は右に設定されていない場合、処理を終了する。
【0115】
ステップS66で探索方向は右に設定されている場合、ステップS67に進み、探索方向を左に設定する。そして、探索方向を右に設定して行った処理と同様に、ステップS55〜ステップS65の処理を繰り返す。ここで、探索方向を左に設定して処理を行う場合、探索の現在地からみて探索方向隣にパターンがあるとは、図18に示すように、パターン55からみて左方向隣の位置にパターン56が存在していることを意味している。また、探索の現在地からみて探索方向斜め隣にパターンがあるとは、図18に示すように、パターン57からみて左方向斜め隣の位置にパターン58a又はパターン58bが存在していることを意味している。
【0116】
なお、縦直線探索部16の動作は、図17のフローチャートの処理において、横直線検出部7で検出されたパターンではなく縦直線検出部15で検出されたパターンを対象とし、また、探索方向を左右から上下に変更し、さらに、X座標をY座標に変更する以外は横直線探索部8の動作と同様である。
【0117】
なお、許容可能な空白の長さを、それぞれの部分パターンの大きさに対応させて変化させることにより、文字線分を枠とみなしてしまう可能性を低くすることができる。
【0118】
横点線検出部9及び縦点線検出部17は、所定の大きさのパターンがある一定の間隔で並んでいる時、点線が存在するとし、この点線に対して上述した直線と同様に矩形近似を行うものである。点線を検出した後は実線、点線ともに、同じ直線として扱う。
【0119】
図19は、横点線検出部9及び縦点線検出部17の動作を示すフローチャートである。
図19において、まず、ステップS71で、入力された画像の一部を横方向又は縦方向に短冊状に切り出す。
【0120】
次に、ステップS72で、ステップS71で短冊状に切り出した範囲内で、ある一定の大きさの部分パターンが存在するかどうかを判定する。そして、ある一定の大きさの部分パターンが存在しない場合、処理を終了する。
【0121】
一方、ステップS72において、ある一定の大きさの部分パターンが存在すると判定された場合、ステップS73に進み、抽出した部分パターンを含み、且つステップS71で用いた短冊と垂直な短冊状の画像を入力画像から切り出す。
【0122】
次に、ステップS74で、ステップS73で切り出した短冊状の画像の内部に、ある一定の大きさの部分パターンが存在するかどうかを判定する。そして、ある一定の大きさの部分パターンが存在しない場合、処理を終了する。
【0123】
一方、ステップS74において、ある一定の大きさの部分パターンが存在すると判定された場合、ステップS75に進み、上記部分パターンを抽出し、該部分パターンが一定の間隔で並んでいるかどうか判定する。そして、該部分パターンが一定の間隔で並んでいない場合、処理を終了する。
【0124】
一方、ステップS75において、上記抽出した部分パターンが一定の間隔で並んでいると判定された場合、ステップS76に進み、部分パターンの存在する範囲を矩形で囲む。
【0125】
次に、ステップS77で、点と点との一間隔分の長さだけステップS76で得られた矩形の両端を延ばす。そして、ステップS78で、該矩形で囲まれた範囲を点線の存在範囲とする。
【0126】
横直線統合部10及び縦直線統合部18は、横直線抽出部3及び縦直線抽出部11で抽出された直線の再統合を行う。すなわち、横直線統合部10及び縦直線統合部18は、横直線探索部8及び縦直線探索部16による探索処理では吸収できないより大きなかすれの補正を行う。
【0127】
例えば、図20(a)のマスク処理後のパターン34から、図20(b)に示すように、横線61〜66が横直線抽出部3により抽出される。ここで、横線62と横線63との間のかすれ67の大きさが図17で示したしきい値より大きい場合、横直線探索部8による探索処理では吸収できないので、横線62と横線63とに分離している。
【0128】
この横直線探索部8による探索処理では吸収できないかすれ67を補正するため、横線の場合、同じY座標上にあり、且つX方向の距離が所定値以下であるかどうかを調べる。
【0129】
図20(b)の横線62と横線63とがこの条件を満たす場合、図20(c)に示すように、横線62と横線63とを統合して横線72とする。この結果、かすれ67を補正した横線71〜75を得る。
【0130】
また、縦線の場合、同じX座標上にあり、且つY方向の距離が所定値以下である直線の統合を行う。
なお、対象としている枠が不規則な枠である場合、直線の長さや位置が様々であるため、極端に距離が離れた直線の統合を行わないようにする。
【0131】
図21は、横直線統合部10の動作を示すフローチャートである。
図21において、まず、ステップS81に示すように、横線分統合部6において統合された直線を2本ずつ抽出する。
【0132】
次に、ステップS82に示すように、ステップS81で抽出された2本の直線のX方向の距離が所定のしきい値以下であるかどうかを判定する。そして、2本の直線のX方向の距離が所定のしきい値以下でない場合、処理を終了する。
【0133】
一方、ステップS82で2本の直線のX方向の距離が所定のしきい値以下であると判定された場合、ステップS83に進み、ステップS81で抽出された2本の直線のY方向の距離が所定のしきい値以下であるかどうかを判定する。そして、2本の直線のY方向の距離が所定のしきい値以下でない場合、処理を終了する。
【0134】
一方、ステップS83で2本の直線のY方向の距離が所定のしきい値以下であると判定された場合、ステップS84に進み、ステップS81で抽出された2本の直線を統合して1本に直線とみなす。
【0135】
図22は、縦直線統合部18の動作を示すフローチャートである。
図22において、まず、ステップS91に示すように、横線分統合部14において統合された直線を2本ずつ抽出する。
【0136】
次に、ステップS92に示すように、ステップS91で抽出された2本の直線のY方向の距離が所定のしきい値以下であるかどうかを判定する。そして、2本の直線のY方向の距離が所定のしきい値以下でない場合、処理を終了する。
【0137】
一方、ステップS92で2本の直線のY方向の距離が所定のしきい値以下であると判定された場合、ステップS93に進み、ステップS91で抽出された2本の直線のX方向の距離が所定のしきい値以下であるかどうかを判定する。そして、2本の直線のX方向の距離が所定のしきい値以下でない場合、処理を終了する。
【0138】
一方、ステップS93で2本の直線のX方向の距離が所定のしきい値以下であると判定された場合、ステップS94に進み、ステップS91で抽出された2本の直線を統合して1本に直線とみなす。
【0139】
このように、横直線抽出部3及び縦直線抽出部11で抽出された直線を、横直線統合部3及び縦直線統合部11で再統合を行うことにより、長いかすれのある直線の抽出を行うことができる。
【0140】
次に、以上の処理により抽出された直線に基づいて、枠を検出する処理を行う。この枠検出処理は、上述の処理により抽出された縦横の直線の中から、枠を構成する直線を決定し、上下左右の四辺を枠で囲まれた矩形範囲を左上から順番に抽出することで、枠の構造を検出するものである。
【0141】
例えば、図23(a)に示す表80の場合、まず、該表80を、図23(b)に示すように、大枠の複数の行に分割する。次に、図23(c)に示すように、該行をさらに小さい矩形に分割する。尚、この段階で検出された矩形がさらに細い矩形に分割されている状態を「入れ子」と呼び、この「入れ子」状態にある矩形については新たな表とみなして、図23(d)に示すように該矩形をさらに小さな矩形に分割する。
【0142】
横枠決定部19は、上記検出された横線の中から、各行の横枠を構成している2本の横線の組を決定する処理を実行するものである。この処理は以下のような規則に従って行われる。
【0143】
1)横直線抽出部3で検出された横直線(横線)の中から、上から順番に横線を2本抽出し、これらを2本の横線の組の候補とする。
2)上記抽出した2本の横線が、長さが同じ、又は下の直線の方が長ければ、その2本を、横線の組とする。このとき、2本の横線の長さが異なる場合、長い方の横線を再使用可とする。
【0144】
3)上記抽出した2本の横線の内、下の横線の方が短かければ、さらにその下の横線を横枠の候補とし、これらの横線の長さを比較する。また、下の横線の方が右方向又は左方向に短かければ、さらにその下の直線を組の候補とし、これらの横線の長さを比較する。
【0145】
4)該比較の結果、上記条件2)を満足する直線が下部に無いことが分かれば、この場合に限り、上記上の横線とその下の横線とを組みとする。
5)一番下の横線の処理後、上部にまだ未処理の直線がある場合は、再び上から順に未処理の横線と再使用可の横線とを用いて、上記1)〜4)の処理を行い、2本の横線の組を作る。
【0146】
以上のようにして決定される組となった2本の横線は、以後の処理において、行などの矩形枠を構成する横枠の組(2本組の横枠)として取り扱われる。
図24、25は、横枠決定部19における上記横線の組みを決定する処理を示すフローチャートである。
【0147】
図24において、まず、ステップS101で、横直線抽出部3で検出された横直線の中から、最上部の2本を取り出す。
次に、ステップS102で、上記取り出した2本の横直線のうち、上側の横直線をupline、下側の横直線をbllineとする。
【0148】
次に、ステップS103で、直線uplineと直線bllineとに縦方向の重なりがあるかどうかを判定する。そして、直線uplineと直線bllineとに縦方向の重なりがない場合、ステップS104に進み、直線bllineの下の直線を新たにbllineとし、この処理を直線uplineと直線bllineとに縦方向の重なりがあるようになるまで続ける。
【0149】
一方、ステップS103において、直線uplineと直線bllineとに縦方向の重なりがある場合、ステップS105に進み、直線uplineと直線bllineとの長さが同じであるか又は直線uplineより直線bllineの方が長いかどうかを判定する。そして、上記条件を満足する直線uplineと直線bllineが存在する場合、ステップS108に進み、上記直線uplineと上記直線bllineを2本の横線の組(2本組の横枠)とする。
【0150】
一方、ステップS105において、直線uplineと直線bllineとの長さが異なっており、且つ、直線uplineより直線bllineの方が短い場合、ステップS106に進み、直線bllineより下方に直線uplineと長さが同じであるか又は直線uplineより長い直線blline2が存在するかどうかを判定する。そして、上記条件を満足する直線bllineと直線uplineが存在する場合、ステップS107に進み、直線bllineを直線blline2に変更してステップS108に進む。
【0151】
ここで、直線uplineと直線bllineとの長さが同じであるとは、図26(a)のような状態を示し、直線uplineより直線bllineの方が短いとは、図26(b)のような状態を示し、直線uplineより直線bllineの方が長いとは、図26(c)のような状態を示す。
【0152】
一方、ステップS106において、直線bllineより下方に直線uplineと長さが同じであるか又は直線uplineより長い直線blline2が存在しない場合、ステップS108に進み、直線uplineと直線bllineとを2本組の横枠とする。
【0153】
次に、ステップS109で、後述する縦枠決定処理と入れ子処理を行う。
次に、ステップS110で、ステップS108で2本組の横枠とした直線uplineと直線bllineの長さが異なるかどうかを判定する。そして、直線uplineと直線bllineの長さが異なる場合、ステップS111に進み、右方向へ長い直線又は左方向に長い直線を再利用可として、ステップS112に進む。
【0154】
ここで、上記右方向へ長い直線又は左方向に長い直線とは、図26(d)に示す直線blline、図26(e)に示す直線uplineと直線bllineである。
【0155】
一方、ステップS110において、直線uplineと直線bllineとの長さが同じであると判定された場合、ステップS112に進み、直線bllineより下方に直線が存在するかどうかを判定する。そして、直線bllineより下方に直線が存在する場合、ステップS113に進み、直線bllineとその下の直線を抽出し、ステップS102に戻る。
【0156】
一方、ステップS112において、直線bllineより下方に直線が存在しないと判定された場合、ステップS114に進み、再使用可の直線を除いて、処理済の直線を処理対象からはずす。
【0157】
次に、図25のステップS115で、未処理の直線が存在するかどうかを判定する。そして、未処理の直線が存在しない場合、処理を終了する、
一方、ステップS115において、未処理の直線が存在すると判定された場合、ステップS116に進み、最上部から直線を2本抽出し、ステップS102に戻る。
【0158】
縦枠決定部20は、枠の検出処理において縦枠を決定する処理を行うもので、縦直線抽出部11で抽出された縦線のうち、横枠決定部19で横枠の2本組として決定された2本の横線に上下とも達しているものを縦枠と決定する。この縦枠の決定は、図23(b)に示すように、横枠決定部19で横枠の2本組として決定された横線の間隔、すなわち、一行ごとに処理を行う。
【0159】
なお、2本の横線の長さが異なる場合、短い方の直線を一時的に長い方の横線と同じ長さであると仮定して処理を行う。
矩形表現部24は、図23(c)に示すように、横枠決定部19で決定された2本組の横枠と縦枠決定部20で決定された該2本組の横枠の上下に達している2本の縦枠とで囲まれた矩形を抽出するものである。
【0160】
入れ子構造処理部21は、図23(d)に示すように、矩形表現部22で抽出された矩形の中から、その内部にさらに矩形を含む入れ子構造の矩形を検出し、この矩形をさらに小さな矩形に分割する。この入れ子構造の矩形の検出は、矩形表現部24で抽出された矩形について、その内部に、該矩形の左右の2辺に達している横線が存在するか否かを調べることにより行う。例えば、図27(a)に示すように、抽出された矩形81が、その内部に左右の2辺82、83に達している横線84が存在する場合、この矩形81を入れ子構造の矩形とみなす。
【0161】
そして、矩形81内の横枠及び縦枠を決定し矩形表現を行うことにより、入れ子構造内の矩形85〜87を抽出する。
また、図27(b)に示す矩形91のように、矩形91の内部の横線92が存在し、且つ矩形91の内部の横線92と矩形91の横枠94又は横枠95との両方に達している縦線93が存在する場合、矩形91の内部の一部の領域に存在する矩形96を入れ子構造の矩形とみなす。
【0162】
そして、矩形96内の横枠及び縦枠を決定し矩形表現を行うことにより、入れ子構造内の矩形97、98を抽出する。
図28は、入れ子構造処理部21による入れ子処理を説明するフローチャートである。
【0163】
同図において、まず、ステップS120に示すように、ある注目矩形内にあり、ある一定以上の長さを持つ横線を入れ子構造内の横枠とする。
次に、ステップS121に示すように、入れ子構造内の横枠が矩形の左右の枠に達しているかどうか判定する。そして、入れ子構造内の横枠が矩形の左右の枠に達している場合、ステップS122に進み、注目矩形を新たに表とみなす。
【0164】
一方、ステップS121で入れ子構造内の横枠が矩形の左右の枠に達していないと判定された場合、ステップS123に進み、入れ子構造内の横枠と矩形の上枠又は下枠との両方に達している縦線(A)があるかどうか判定する。そして、入れ子構造内の横枠と矩形の上枠又は下枠との両方に達している縦線(A)がない場合、ステップS124に進み、次の矩形の処理を行う。
【0165】
一方、ステップS123で入れ子構造内の横枠と矩形の上枠又は下枠との両方に達している縦線(A)があると判定された場合、ステップS125に進み、入れ子構造内の横枠と縦線(A)と矩形を構成する辺とによって囲まれた矩形を新たに表とみなす。
【0166】
次に、ステップS126に示すように、ステップS126で表とみなした範囲に対し、矩形内の横枠及び縦枠を決定し矩形表現を行うことにより、入れ子構造内の矩形を抽出する。
【0167】
このように、本発明の一実施例による入れ子構造処理部21によれば、矩形内に入れ子構造が存在する場合のほか、矩形内の一部の領域に入れ子構造が存在する場合においても、入れ子構造の枠を検出することができ、様々な形状を有する帳票から文字や記号などを正確に切り出すことができる。
【0168】
次に、本発明の第1実施例による入れ子範囲のかすれ処理について説明する。
入れ子構造を含む矩形範囲は、全体の表の大きさと比較すると小さいので、入れ子構造を含む矩形範囲の内部に対しては、吸収可能なかすれの長さを他の罫線の吸収可能なかすれの長さと比べて短くなるように設定する。このため、入れ子構造を含む矩形範囲については、許容可能なかすれの大きさを設定しなおし、再度探索により直線とみなしてよいかを確かめる処理を行う。
【0169】
このことにより、入れ子構造を含む矩形範囲の直線において、一定の長さ以上のかすれを有する直線を文字線分とみなして入れ子構造を含む矩形範囲の直線候補から除くことにより、文字線分をかすれのある枠線とみなして処理を行うことを防止できる。
【0170】
図29〜33に、本発明の第1実施例の実験例を示す。
図29は、この実験でサンプルとして用いた帳票の原画像を示す図である。
また、図30は、上記帳票を下記に示す入力パターン条件の基で枠線抽出処理を行ってた結果を示す図であり、図31は、図30の枠100で囲んだ部分を拡大して表示した図である。
【0171】
さらに、図32は、図29の枠線抽出処理を行ったパターンに対し、矩形表現処理を行った結果を示す図であり、図33は、図32の枠101で囲んだ部分を拡大して表示した図である。
【0172】
Figure 0003642615
以上説明したように、本発明の第1実施例によるパターン抽出装置によれば、不規則な構造を持ち、かすれが存在している帳票であっても、該帳票から矩形枠を正確に抽出することができる。
【0173】
次に、本発明の第2実施例によるパターン抽出装置を、図面を参照しながら詳細に説明する。本発明の第1実施例によるパターン抽出装置は、不規則な構造の枠と規則的な構造の枠の両方に適用できるものであるのに対し、本発明の第2実施例によるパターン抽出装置は、規則的な構造の枠に適用するようにしたものである。
【0174】
以下、本発明の第2実施例によるパターン抽出装置において、入れ子構造を構成する直線候補の検出方法について説明する。
規則的な構造の枠の場合、縦横の直線を抽出した後、横直線の位置を調べる。そして、左右の端点のX座標が同一の横直線が所定の数以上存在した場合、無条件に入れ子構造を構成する直線の候補であるとみなす。
【0175】
例えば、図34の表において、左右の端点のX座標が同一で所定の数以上の横直線111〜116及び横直線117〜121を、入れ子構造を構成する直線の候補であるとみなす。そして、横直線111〜116及び横直線117〜121に対して横枠を決定する処理を行い、長い方の横直線111〜116を表の横枠とみなし、短い方の横直線117〜121を入れ子構造を構成する直線とみなす。
【0176】
次に、本発明の第2実施例によるパターン抽出装置において、直線候補の生成方法について説明する。
規則的な構造の枠の縦横の直線を抽出した後、横直線の位置及び長さを調べる。そして、左右の端点のX座標が同一で且つ長さが同じ横直線が所定の数以上存在した場合、その横直線のY座標方向での間隔を算出する。ここで、隣接する第1の横直線と第2の横直線との間隔dy2が、他の第3の横直線と第4の横直線との間隔dyの整数倍である場合、第1の横直線と第2の横直線との間に間隔dyを有する第5の横直線を生成する。
【0177】
例えば、図35の表において、左右の端点のX座標が同一で長さが同じ横直線131〜136及び左右の端点のX座標が同一で長さが同じ横直線137、138、140、141を、直線の候補であるとみなす。そして、所定の数以上の横直線137、138、140、141が間隔dyで規則的に並んでおり、間隔dyの整数倍の間隔dy2を有する横直線138、140が存在する場合、横直線138と横直線140との間に間隔dyを有する横直線139を生成する。
【0178】
また、左右の端点のX座標が同一で同じ長さを有する所定の数以上の横直線が同一の間隔で並んでおり、これらの横直線と異なる間隔を有する不規則な横直線が存在する場合、この不規則な横直線を削除する。
【0179】
さらに、左右の端点のX座標が同一で同じ長さを有する所定の数以上の横直線が同一の間隔で並んでおり、これらの横直線と同一の間隔を有し所定の長さ以上であって長さが異なる横直線が存在する場合、この長さが異なる横直線の長さを他の横直線と同一となるようにする。
【0180】
以上説明したように、本発明の第2実施例によるパターン抽出装置によれば、かすれにより直線が消失したりした場合においても、枠を構成する直線を再現することができ、枠の検出の精度を上げることができる。
【0181】
また、規則的な構造を有する表であると分かっており、縦横それぞれについて、同じ長さLを持つ直線又は点線の候補がある一定の本数以上存在する場合、所定の値以上の長さを持つ直線又は点線の長さを、長さLになるように伸ばすことにより、規則的な構造を有する表であると分かっている場合の枠の検出精度を上げることができる。
【0182】
また、規則的な構造を有する表であると分かっており、縦横それぞれについて、同じ長さを持つ直線又は点線の候補がある一定の本数以上存在し、且つその直線又は点線が規則正しく並んでいる場合、それぞれの直線又は点線についてかすれ度合いを算出することなしに枠の候補とみなすことにより、規則的な構造を有する表であると分かっている場合の枠の検出精度を上げることができる。
【0183】
また、規則的な構造を有する表であると分かっており、縦横それぞれについて、同じ長さを持つ直線又は点線の候補がある一定の本数以上存在し、且つそのほとんどの直線又は点線が規則正しく等間隔Aで並んでいる場合、間隔Aの整数倍の間隔Bの領域において、直線又は点線が消えているとみなして直線又は点線の位置を推定し、直線又は点線を生成することにより、枠を検出する精度を上げることができる。
【0184】
また、規則的な構造を有する表であると分かっており、縦横それぞれについて、同じ長さを持つ直線又は点線の候補がある一定の本数以上存在し、且つそのほとんどの直線又は点線が規則正しく等間隔Cで並んでいる場合において、間隔Cより小さい間隔Dを有する直線又は点線について、隣り合う不規則な間隔を足し合わせた結果、間隔Cと等しくなる場合、間隔Dを有する直線又は点線は枠を構成しないとしてその直線又は点線を消去することにより、枠を検出する精度を上げることができる。
【0185】
【発明の効果】
以上説明したように、請求項1の発明によれば、第1の線分と第2の線分との間の空白をパターンがあるものとみなして、パターン領域を決定する枠を抽出することにより、枠を構成する直線にかすれがある場合においても、枠を構成する直線を正確に抽出することができ、パターン領域を正確に決定することができる。
【0186】
また、請求項2の発明によれば、しきい値以下の長さの空白を介して分離している直線を枠を構成する直線として抽出することにより、枠を構成する直線にかすれがある場合においても、枠を構成する直線を正確に抽出することができ、かすれがあるパターンから矩形枠を抽出することができる。
【0187】
また、請求項3の発明によれば、第1の矩形枠内の一部の領域から第2の矩形枠を抽出する第2の枠抽出手段を備えることにより、矩形枠の一部の領域中にさらに小さな矩形枠が存在する表から、パターンの切り出しを正確に行うことができる。
【0188】
また、請求項4の発明によれば、第1の矩形枠内に一定以上の長さを有する横線が存在し、且つ前記第1の矩形枠の上辺又は下辺と前記横線との両方に達する縦線が存在する場合、第1の矩形枠から第2の矩形枠を抽出することにより、矩形枠の一部の領域中に存在するさらに小さな矩形枠を、文字線分と混同することなく抽出できる。
【0189】
また、請求項5の発明によれば、かすれにより第1の部分パターンから分離している第2の部分パターンを、枠を抽出するパターンの候補に付け加えることにより、かすれにより分離しているパターンから枠を構成する直線を抽出することができる。
【0190】
また、請求項6の発明によれば、所定の間隔で並んでいる所定の大きさ以下の部分パターンを抽出することにより、点線を含むパターンからパターン領域を区切る枠を抽出することができる。
【0191】
また、請求項7の発明によれば、隣接投影法を用いて、部分パターンを構成する複数の矩形線分を検出することにより、周囲の行又は列の投影値を足し合わせた投影値により矩形近似して直線を検出することができ、斜めに傾いた直線を正確に検出することができる。
【0192】
また、請求項8の発明によれば、直線の原画像のパターンの最も細い部分から、しきい値以下の長さの空白領域にはパターンがあるものとみなして外側へ探索することにより、しきい値以下の長さの空白により分離している直線を抽出することができ、枠を構成する直線にかすれがある場合においても、枠を構成する直線を正確に抽出することができる。
【0193】
また、請求項9の発明によれば、枠を構成するにもかかわらず分離している直線を抽出する場合、空白をパターンがあるものとみなす際のしきい値を部分パターンの大きさに対応させて変えることにより、枠を構成するパターンと間違って文字線分を抽出することを防止することができ、枠を構成する直線を正確に抽出することができる。
【0194】
また、請求項10の発明によれば、直線の傾きが所定の範囲を越える直線を枠の候補から除去することにより、枠内に書かれた斜めの消し線を枠を構成する直線として抽出することを防止することができ、枠を構成する直線を正確に抽出することができる。
【0195】
また、請求項11の発明によれば、縦方向の距離が所定の値以下の横線を統合するとともに、横方向の距離が所定の値以下の縦線を統合することにより、より長いかすれを有する直線を抽出することができ、入力画像の画質が悪い場合においても、枠を構成する直線を正確に抽出することができる。
【0196】
また、請求項12の発明によれば、空白を介して分離している直線を含めて第1の矩形枠内に存在する第2の矩形枠を抽出することにより、枠を構成する直線がかすれにより分離している場合においても、矩形枠の一部の領域中に存在するさらに小さな矩形枠を抽出することができる。
【0197】
また、請求項13の発明によれば、より長い直線から構成される第1の矩形枠を抽出する場合、かすれを許容するしきい値を大きく設定し、より短い直線から構成される第2の矩形枠を抽出する場合、かすれを許容するしきい値を小さく設定することにより、大きな矩形枠を正確に抽出しながら、大きな矩形枠の領域中に存在するより小さな矩形枠を、文字線分と混同することなく抽出できる。
【0198】
また、請求項14の発明によれば、縦方向及び横方向に等間隔で区切られたパターンの場合、所定の値以上の長さを有する直線の長さを他の直線の長さと同一にすることにより、枠を構成する直線の端の部分がかすれにより消失しても、端の部分が消失した直線を枠を構成する直線として正確に抽出することができ、かすれがあるパターンから矩形枠を正確に抽出することができる。
【0199】
また、請求項15の発明によれば、縦方向及び横方向に等間隔で区切られたパターンの場合、所定の値以上の長さを有する直線及び点線の長さを他の直線又は点線の長さと同一にすることにより、枠を構成する直線及び点線の端の部分がかすれにより消失しても、端の部分が消失した直線及び点線を枠を構成する直線又は点線として正確に抽出することができ、かすれがあるパターンから矩形枠を正確に抽出することができる。
【0200】
また、請求項16の発明によれば、縦方向及び横方向に等間隔で区切られたパターンの場合、同じ長さを有する直線が一定の本数以上存在し、且つ等間隔に並んでいる場合、この直線を矩形枠を構成する直線とみなすことにより、枠を構成する直線のかすれの度合いにかかわらず、枠を構成する直線を正確に抽出することができ、かすれがあるパターンから矩形枠を正確に抽出することができる。
【0201】
また、請求項17の発明によれば、縦方向及び横方向に等間隔で区切られたパターンの場合、同じ長さを有する直線又は点線が一定の本数以上存在し、且つ等間隔に並んでいる場合、この直線及び点線を矩形枠を構成する直線及び点線とみなすことにより、枠を構成する直線のかすれの度合いにかかわらず、枠を構成する直線及び点線を正確に抽出することができ、かすれがあるパターンから矩形枠を正確に抽出することができる。
【0202】
また、請求項18の発明によれば、縦方向及び横方向に等間隔で区切られたパターンの場合、消失した直線を等間隔で並ぶように再生することにより、枠を構成する直線がかすれにより消失しても、消失した直線を枠を構成する直線として正確に抽出することができ、かすれがあるパターンから矩形枠を正確に抽出することができる。
【0203】
また、請求項19の発明によれば、縦方向及び横方向に等間隔で区切られたパターンの場合、消失した直線及び点線を等間隔で並ぶように再生することにより、枠を構成する直線又は点線がかすれにより消失しても、消失した直線及び点線を枠を構成する直線及び点線として正確に抽出することができ、かすれがあるパターンから矩形枠を正確に抽出することができる。
【0204】
また、請求項20の発明によれば、縦方向及び横方向に等間隔で区切られたパターンの場合、等間隔で並んだ直線の間に存在する直線を除去することにより、枠を構成しない直線を枠を構成する直線の候補から除去することができ、枠を構成する直線のみを正確に抽出することができるので、矩形枠を抽出する精度を上げることができる。
【0205】
また、請求項21の発明によれば、縦方向及び横方向に等間隔で区切られたパターンの場合、等間隔で並んだ直線又は点線の間に存在する直線及び点線を除去することにより、枠を構成しない直線及び点線を枠を構成する直線及び点線の候補から除去することができ、枠を構成する直線及び点線のみを正確に抽出することができるので、矩形枠を抽出する精度を上げることができる。
【図面の簡単な説明】
【図1】本発明の一実施例によるパターン抽出装置の機能構成を示すブロック図である。
【図2】本発明の第1実施例によるパターン抽出装置の概略構成を示すブロック図である。
【図3】本発明の第1実施例によるパターン抽出装置の連結パターン抽出処理を示す図である。
【図4】本発明の第1実施例によるパターン抽出装置の連結パターン抽出処理の動作を示すフローチャートである。
【図5】本発明の第1実施例によるパターン抽出装置のラベル付け替え処理を行うパターンの抽出方法を説明する図である。
【図6】本発明の第1実施例によるパターン抽出装置のマスク処理により横線分を抽出する処理を示す図である。
【図7】本発明の第1実施例によるパターン抽出装置のマスク処理の動作を示すフローチャートである。
【図8】本発明の第1実施例によるパターン抽出装置のマスク処理を示す図である。
【図9】本発明の第1実施例によるパターン抽出装置の直線抽出処理における隣接投影法を説明する図である。
【図10】本発明の第1実施例によるパターン抽出装置の直線抽出処理における隣接投影法の動作を示すフローチャートである。
【図11】本発明の第1実施例によるパターン抽出装置の線分抽出処理を示す図である。
【図12】本発明の第1実施例によるパターン抽出装置の線分検出処理の動作を示すフローチャートである。
【図13】本発明の第1実施例によるパターン抽出装置の線分統合処理を説明する図である。
【図14】本発明の第1実施例によるパターン抽出装置の線分統合処理の動作を示すフローチャートである。
【図15】本発明の第1実施例によるパターン抽出装置の直線抽出処理を示す図である。
【図16】本発明の第1実施例によるパターン抽出装置の直線探索処理を示す図である。
【図17】本発明の第1実施例によるパターン抽出装置の横直線探索処理の動作を示すフローチャートである。
【図18】本発明の第1実施例によるパターン抽出装置の横直線探索処理における検索方向を示す図である。
【図19】本発明の第1実施例によるパターン抽出装置の点線抽出処理の動作を示すフローチャートである。
【図20】本発明の第1実施例によるパターン抽出装置の横直線統合処理を説明する図である。
【図21】本発明の第1実施例によるパターン抽出装置の横直線統合処理の動作を示すフローチャートである。
【図22】本発明の第1実施例によるパターン抽出装置の縦直線統合処理の動作を示すフローチャートである。
【図23】本発明の第1実施例によるパターン抽出装置の矩形表現処理を示す図である。
【図24】本発明の第1実施例によるパターン抽出装置の横直線の組の決定処理の動作を示すフローチャートである。
【図25】本発明の第1実施例によるパターン抽出装置の横直線の組の決定処理の動作を示すフローチャートである。
【図26】本発明の第1実施例によるパターン抽出装置の横直線の組の決定処理における横直線の配置状態を示す図である。
【図27】本発明の第1実施例によるパターン抽出装置の入れ子構造の処理を説明する図である。
【図28】本発明の第1実施例によるパターン抽出装置の入れ子構造における縦枠決定処理の動作を示すフローチャートである。
【図29】本発明の第1実施例のパターン抽出装置による原画像を示す図である。
【図30】本発明の第1実施例のパターン抽出装置による枠線抽出処理後の画像を示す図である。
【図31】図29の画像の一部の拡大図である。
【図32】本発明の第1実施例のパターン抽出装置による矩形表現処理後の画像を示す図である。
【図33】図31の画像の一部の拡大図である。
【図34】本発明の第2実施例によるパターン抽出装置の入れ子構造における直線検出方法を示す図である。
【図35】本発明の第2実施例によるパターン抽出装置の直線生成方法を示す図である。
【図36】先願のパターン抽出装置で抽出可能な枠を示す図である。
【図37】先願のパターン抽出装置の概略構成を示すブロック図である。
【図38】従来のパターン抽出装置で抽出不可能な枠を示す図である。
【符号の説明】
1 連結パターン抽出部
2 マスク処理部
3 横直線抽出部
4 横隣接投影部
5 横線分検出部
6 横線分統合部
7 横直線検出部
8 横直線探索部
9 横点線検出部
10 横直線統合部
11 縦直線抽出部
12 縦隣接投影部
13 縦線分検出部
14 縦線分統合部
15 縦直線検出部
16 縦直線探索部
17 縦点線検出部
18 縦直線統合部
19 横枠決定部
20 縦枠決定部
21 入れ子構造処理部
22 矩形内の横枠決定部
23 矩形内の縦枠決定部
24 矩形表現部
200 連結パターン抽出手段
201 レベル付け替え手段
202 直線抽出手段
202a 傾き検出手段
202b 除去手段
203 枠抽出手段
203a 入れ子構造検出手段
204 パターン切り出し手段

Claims (14)

  1. 入力されたパターンから連結した部分パターンを抽出する連結パターン抽出手段と、
    前記連結パターン抽出手段により抽出された部分パターンのうち、所定の大きさ以上の第1の部分パターンと第1の部分パターンの外接矩形範囲内に存在する第2の部分パターンとに共通のラベルを付すラベル付け替え手段と、
    該ラベル付け替え手段により同一のラベルを付された前記第1の部分パターンと前記第2の部分パターンとから、しきい値以下の長さの空白領域にはパターンが存在するものとみなして直線を抽出する直線抽出手段と、
    所定の間隔で並んでいる所定の大きさ以下の第3の部分パターンからなる点線を検出する点線検出手段と、
    前記直線抽出手段により抽出された第1の直線及び第2の直線又は前記点線検出手段により抽出された点線のうち、横直線又は横点線を上から順番に2本づつ組にして横枠とする横枠決定手段と、
    前記直線抽出手段により抽出された第1の直線及び第2の直線又は前記点線検出手段により抽出された点線のうち、上端及び下端が前記横枠に達している縦直線又は縦点線を縦枠とする縦枠決定手段と、
    前記横枠の2本と前記縦枠の2本とで囲まれた矩形範囲を抽出する矩形表現手段と、
    前記矩形表現手段により抽出された矩形範囲に基づいて、パターン領域を抽出するパターン切り出し手段とを備えることを特徴とするパターン抽出装置。
  2. 前記直線抽出手段は、
    ある行又は列の投影値に、周囲の行又は列の投影値を足し合わせた値を、その行又は列の投影値とする隣接投影法を用いて、前記部分パターンを構成する複数の矩形線分を検出する線分検出手段と、
    前記線分検出手段によって得られた複数の線分を統合し、この統合された線分を矩形近似することにより直線を検出する直線検出手段とを備えることを特徴とする請求項1に記載のパターン抽出装置。
  3. 前記直線抽出手段は、
    前記直線検出手段により検出された直線の原画像のパターンの最も細い部分から、しきい値以下の長さの空白はパターンがあるものとみなして外側へ探索することにより前記パ
    ターンの両端を検出し、この検出位置を直線の両端の位置として設定する直線探索手段をさらに備えることを特徴とする請求項2に記載のパターン抽出装置。
  4. 前記直線抽出手段は、前記しきい値を部分パターンの大きさに対応させて変えることを特徴とする請求項3に記載のパターン抽出装置。
  5. 前記直線抽出手段は、
    前記直線検出手段により検出された直線の傾きを検出する傾き検出手段と、
    前記直線の傾きが所定の範囲を越える直線を枠の候補から除去する除去手段とをさらに備えることを特徴とする請求項3に記載のパターン抽出装置。
  6. 前記直線検出手段により検出された直線のうち、縦方向の距離が所定の値以下の横線を統合するとともに、横方向の距離が所定の値以下の縦線を統合する直線統合手段をさらに備えることを特徴とする請求項1〜5のいずれか1項に記載のパターン抽出装置。
  7. 縦方向及び横方向に等間隔で区切られたパターンから、連結した部分パターンを抽出する連結パターン抽出手段と、
    前記連結パターン抽出手段により抽出された部分パターンの中から所定の長さ以上の直線および、内部にしきい値以下の長さの空白を含む所定の長さ以上の直線を抽出する直線抽出手段と、
    前記直線抽出手段により抽出された直線の内、同じ横方向の位置を有し、かつ、同じ長さを有する直線が一定の本数以上存在する場合、同じ間隔を有し、かつ、異なる長さの直線の長さを同じとする直線補正手段と、
    前記直線抽出手段及び前記直線補正手段より得られた直線情報に基づいて、矩形枠を抽出する枠抽出手段と、
    前記枠抽出手段により抽出された矩形範囲に基づいて、パターン領域を抽出するパターン切り出し手段とを備えることを特徴とするパターン抽出装置。
  8. 縦方向及び横方向に等間隔で区切られたパターンから、連結した部分パターンを抽出する連結パターン抽出手段と、
    前記連結パターン抽出手段により抽出された部分パターンの中から所定の長さ以上の直線および、内部にしきい値以下の長さの空白を含む所定の長さ以上の直線を抽出する直線抽出手段と、
    所定の間隔で並んでいる所定の大きさ以下の部分パターンからなる第1の点線を検出する点線抽出手段と、
    前記直線抽出手段により抽出された直線の内、同じ横方向の位置を有し、かつ、同じ長さを有する直線が一定の本数以上存在する場合、同じ間隔を有し、かつ、異なる長さの直線の長さを同じとする直線補正手段と、
    前記点線抽出手段により抽出された第1の点線のうち、同じ長さを有する第2の点線が一定の本数以上存在する場合、所定の値以上の長さを有する第3の点線の長さを前記第2の点線の長さと同一にする点線補正手段と、
    前記直線抽出手段及び前記直線補正手段より得られた直線情報と前記点線抽出手段及び前記点線補正手段より得られた点線情報とに基づいて、矩形枠を抽出する枠抽出手段と、
    前記枠抽出手段により抽出された矩形範囲に基づいて、パターン領域を抽出するパターン切り出し手段とを備えることを特徴とするパターン抽出装置。
  9. 縦方向及び横方向に等間隔で区切られたパターンから、連結した部分パターンを抽出する連結パターン抽出手段と、
    前記連結パターン抽出手段により抽出された部分パターンの中から所定の長さ以上の直線および、内部にしきい値以下の長さの空白を含む所定の長さ以上の直線を抽出する直線抽出手段と、
    前記直線抽出手段により複数の第1の直線及び第1の直線より短い第2の直線が抽出され、これらの内、同じ横方向の位置を有し、且つ、同じ長さを有する直線が一定の本数以上存在し、且つ等間隔に並んでいる場合、前記一定の本数以上存在する、同じ長さを有する直線を矩形枠を構成する直線とみなす判断手段と、
    前記判断手段により得られた直線情報に基づいて、矩形枠を抽出する枠抽出手段と、
    前記枠抽出手段により抽出された矩形範囲に基づいて、パターン領域を抽出するパターン切り出し手段とを備えることを特徴とするパターン抽出装置。
  10. 縦方向及び横方向に等間隔で区切られたパターンから、連結した部分パターンを抽出する連結パターン抽出手段と、
    前記連結パターン抽出手段により抽出された部分パターンの中から所定の長さ以上の直線および、内部にしきい値以下の長さの空白を含む所定の長さ以上の直線を抽出する直線抽出手段と、
    所定の間隔で並んでいる所定の大きさ以下の部分パターンからなる第1の点線を検出する点線抽出手段と、
    前記直線抽出手段により複数の第1の直線及び第1の直線より短い第2の直線が抽出され、これらの内、同じ横方向の位置を有し、且つ、同じ長さを有する直線が一定の本数以上存在し、且つ等間隔に並んでいる場合、前記一定の本数以上存在する、同じ長さを有する直線を矩形枠を構成する直線とみなす第1の判断手段と、
    前記点線抽出手段により複数の第1の点線が抽出され、これらの内、同じ長さを有する点線が一定の本数以上存在し、且つ等間隔に並んでいる場合、前記一定の本数以上存在する、同じ長さを有する点線を矩形枠を構成する点線とみなす第2の判断手段と、
    前記第2の判断手段により得られた直線情報と前記第2の判断手段により得られた点線情報とに基づいて、矩形枠を抽出する枠抽出手段と、
    前記枠抽出手段により抽出された矩形範囲に基づいて、パターン領域を抽出するパターン切り出し手段とを備えることを特徴とするパターン抽出装置。
  11. 縦方向及び横方向に等間隔で区切られたパターンから、連結した部分パターンを抽出する連結パターン抽出手段と、
    前記連結パターン抽出手段により抽出された部分パターンの中から所定の長さ以上の直線および、内部にしきい値以下の長さの空白を含む所定の長さ以上の直線を抽出する直線抽出手段と、
    前記直線抽出手段により複数の第1の直線及び第1の直線より短い第2の直線が抽出され、これらの内、同じ横方向の位置を有し、且つ、同じ長さを有し、第1の間隔で並んでいる第3の直線が一定の本数以上存在し、且つ前記第3の直線と同じ長さを有し前記第1の間隔の整数倍の第2の間隔を有する第4の直線が存在する場合、前記第2の間隔内に前記第1の間隔で前記第3の直線と同じ長さを有する第5の直線を生成する直線生成手段と、
    前記直線抽出手段及び前記直線生成手段より得られた直線情報に基づいて、矩形枠を抽出する枠抽出手段と、
    前記枠抽出手段により抽出された矩形範囲に基づいて、パターン領域を抽出するパターン切り出し手段とを備えることを特徴とするパターン抽出装置。
  12. 縦方向及び横方向に等間隔で区切られたパターンから、連結した部分パターンを抽出する連結パターン抽出手段と、
    前記連結パターン抽出手段により抽出された部分パターンの中から所定の長さ以上の直線および、内部にしきい値以下の長さの空白を含む所定の長さ以上の直線を抽出する直線抽出手段と、
    所定の間隔で並んでいる所定の大きさ以下の部分パターンからなる第1の点線を検出する点線抽出手段と、
    前記直線抽出手段により複数の第1の直線及び第1の直線より短い第2の直線が抽出され、これらの内、同じ横方向の位置を有し、且つ、同じ長さを有し、第1の間隔で並んでいる第3の直線が一定の本数以上存在し、且つ前記第3の直線と同じ長さを有し前記第1の間隔の整数倍の第2の間隔を有する第4の直線が存在する場合、前記第2の間隔内に前記第1の間隔で前記第3の直線と同じ長さを有する第5の直線を生成する直線生成手段と、
    前記点線抽出手段により複数の第1の点線が抽出され、これらの内、同じ横方向の位置を有し、且つ、同じ長さを有し、第3の間隔で並んでいる第2の点線が一定の本数以上存在し、且つ前記第2の点線と同じ長さを有し前記第3の間隔の整数倍の第4の間隔を有する第3の点線が存在する場合、前記第4の間隔の領域に前記第3の間隔で前記第2の点線と同じ長さを有する第4の点線を生成する点線生成手段と、
    前記直線抽出手段及び前記直線生成手段より得られた直線情報と前記点線抽出手段及び前記点線生成手段より得られた点線情報とに基づいて、矩形枠を抽出する枠抽出手段と、
    前記枠抽出手段により抽出された矩形範囲に基づいて、パターン領域を抽出するパターン切り出し手段とを備えることを特徴とするパターン抽出装置。
  13. 縦方向及び横方向に等間隔で区切られたパターンから、連結した部分パターンを抽出する連結パターン抽出手段と、
    前記連結パターン抽出手段により抽出された部分パターンの中から所定の長さ以上の直線および、内部にしきい値以下の長さの空白を含む所定の長さ以上の直線を抽出する直線抽出手段と、
    前記直線抽出手段により複数の第1の直線及び第1の直線より短い第2の直線が抽出され、これらの内、同じ横方向の位置を有し、且つ、同じ長さを有し、第1の間隔で並んでいる第3の直線が一定の本数以上存在し、且つ前記第3の直線と同じ長さを有する第4の直線が前記第1の間隔内に存在する場合、前記第4の直線を枠の候補から除去する直線除去手段と、
    前記直線抽出手段及び前記直線除去手段より得られた直線情報に基づいて、矩形枠を抽出する枠抽出手段と、
    前記枠抽出手段により抽出された矩形範囲に基づいて、パターン領域を抽出するパターン切り出し手段とを備えることを特徴とするパターン抽出装置。
  14. 縦方向及び横方向に等間隔で区切られたパターンから、連結した部分パターンを抽出する連結パターン抽出手段と、
    前記連結パターン抽出手段により抽出された部分パターンの中から所定の長さ以上の直線および、内部にしきい値以下の長さの空白を含む所定の長さ以上の直線を抽出する直線抽出手段と、
    所定の間隔で並んでいる所定の大きさ以下の部分パターンからなる第1の点線を検出する点線抽出手段と、
    前記直線抽出手段により複数の第1の直線及び第1の直線より短い第2の直線が抽出され、れらの内、同じ横方向の位置を有し、且つ、同じ長さを有し、第1の間隔で並んでいる第3の直線が一定の本数以上存在し、且つ前記第3の直線と同じ長さを有する第4の直線が前記第1の間隔内に存在する場合、前記第4の直線を枠の候補から除去する直線除去手段と、
    前記点線抽出手段により複数の第1の点線が抽出され、これらの内、同じ横方向の位置を有し、且つ、同じ長さを有し、第2の間隔で並んでいる第2の点線が一定の本数以上存在し、且つ前記第2の点線と同じ長さを有する第3の点線が前記第2の間隔内に存在する場合、前記第3の点線を枠の候補から除去する点線除去手段と、
    前記直線抽出手段及び前記直線除去手段より得られた直線情報と前記点線抽出手段及び前記点線除去手段より得られた点線情報とに基づいて、矩形枠を抽出する枠抽出手段と、
    前記枠抽出手段により抽出された矩形範囲に基づいて、パターン領域を抽出するパターン切り出し手段とを備えることを特徴とするパターン抽出装置。
JP28217195A 1995-10-30 1995-10-30 パターン領域切り出し方式及びパターン抽出装置 Expired - Fee Related JP3642615B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP28217195A JP3642615B2 (ja) 1995-10-30 1995-10-30 パターン領域切り出し方式及びパターン抽出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP28217195A JP3642615B2 (ja) 1995-10-30 1995-10-30 パターン領域切り出し方式及びパターン抽出装置

Publications (2)

Publication Number Publication Date
JPH09128480A JPH09128480A (ja) 1997-05-16
JP3642615B2 true JP3642615B2 (ja) 2005-04-27

Family

ID=17649023

Family Applications (1)

Application Number Title Priority Date Filing Date
JP28217195A Expired - Fee Related JP3642615B2 (ja) 1995-10-30 1995-10-30 パターン領域切り出し方式及びパターン抽出装置

Country Status (1)

Country Link
JP (1) JP3642615B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012203783A (ja) 2011-03-28 2012-10-22 Fuji Xerox Co Ltd 画像処理装置およびプログラム
JP2012203784A (ja) 2011-03-28 2012-10-22 Fuji Xerox Co Ltd 画像処理装置およびプログラム
JP5769131B2 (ja) 2011-07-12 2015-08-26 富士ゼロックス株式会社 画像処理装置およびプログラム
JP5822865B2 (ja) * 2013-04-25 2015-11-25 京セラドキュメントソリューションズ株式会社 画像処理装置、罫線判定方法、及び罫線判定プログラム
CN115048004A (zh) * 2022-08-16 2022-09-13 浙江大华技术股份有限公司 标注方法及标注装置、电子设备和计算机可读存储介质

Also Published As

Publication number Publication date
JPH09128480A (ja) 1997-05-16

Similar Documents

Publication Publication Date Title
US6226402B1 (en) Ruled line extracting apparatus for extracting ruled line from normal document image and method thereof
JP2951814B2 (ja) 画像抽出方式
JP3904840B2 (ja) 多値画像から罫線を抽出する罫線抽出装置
JPH0844819A (ja) 画像処理方法および画像処理装置
JP3411472B2 (ja) パターン抽出装置
EP1449153B1 (en) Character separation method and device for recognition
JP4613397B2 (ja) 画像認識装置、画像認識方法および画像認識プログラムを記録したコンピュータ読取可能な記録媒体
JP4011646B2 (ja) 行検出方法および文字認識装置
JP3642615B2 (ja) パターン領域切り出し方式及びパターン抽出装置
JP4049560B2 (ja) 網点除去方法及びシステム
EP0766193B1 (en) Optical character reader with skew correction
JPH0950527A (ja) 枠抽出装置及び矩形抽出装置
JPH04270485A (ja) 印刷文字認識装置
JP3268552B2 (ja) 領域抽出方法、宛名領域抽出方法、宛名領域抽出装置、及び画像処理装置
JP2868134B2 (ja) 画像処理方法及び装置
JP3517077B2 (ja) パターン抽出装置及びパターン領域の切り出し方法
JP3187895B2 (ja) 文字領域抽出方法
JP2003317107A (ja) 罫線抽出方法及び装置
JP3565310B2 (ja) 一般の文書画像から罫線を抽出する罫線抽出装置および方法
JP2009272714A (ja) 画像処理装置、画像処理方法、プログラム及びプログラムを記録した記録媒体
JP2003016385A (ja) 画像処理装置、方法、プログラム、及び記憶媒体
JP4439054B2 (ja) 文字認識装置及び文字枠線の検出方法
WO2000038100A1 (en) Improved method and apparatus for deskewing images of symbols having a non-linear baseline
JP2000339408A (ja) 文字切り出し装置
JPH10233930A (ja) 画像処理装置

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20030902

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050125

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080204

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090204

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090204

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100204

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110204

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110204

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120204

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130204

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees