JP4733577B2 - 帳票認識装置及び帳票認識プログラム - Google Patents

帳票認識装置及び帳票認識プログラム Download PDF

Info

Publication number
JP4733577B2
JP4733577B2 JP2006191324A JP2006191324A JP4733577B2 JP 4733577 B2 JP4733577 B2 JP 4733577B2 JP 2006191324 A JP2006191324 A JP 2006191324A JP 2006191324 A JP2006191324 A JP 2006191324A JP 4733577 B2 JP4733577 B2 JP 4733577B2
Authority
JP
Japan
Prior art keywords
item name
detected
frame
character string
recognized
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006191324A
Other languages
English (en)
Other versions
JP2008021068A (ja
Inventor
広 新庄
健 永崎
勝美 丸川
和樹 中島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Information and Telecommunication Engineering Ltd
Original Assignee
Hitachi Computer Peripherals Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Computer Peripherals Co Ltd filed Critical Hitachi Computer Peripherals Co Ltd
Priority to JP2006191324A priority Critical patent/JP4733577B2/ja
Priority to KR1020060074608A priority patent/KR20080006422A/ko
Publication of JP2008021068A publication Critical patent/JP2008021068A/ja
Application granted granted Critical
Publication of JP4733577B2 publication Critical patent/JP4733577B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/414Extracting the geometrical structure, e.g. layout tree; Block segmentation, e.g. bounding boxes for graphics or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • G06V10/225Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition based on a marking or identifier characterising the area

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Artificial Intelligence (AREA)
  • Character Input (AREA)
  • Character Discrimination (AREA)

Description

本発明は、帳票画像の処理技術に関し、特に帳票記載された情報の属性及び帳票に記載された文字を認識する技術に関する。
従来のOCR(Optical Character Reader)によって帳票を認識する方式では、予め読取り位置が決められている定型の帳票しか認識できない方式が多い。このような定型の帳票が認識する従来技術として、「フォーマットジェネレータ」がある(例えば、非特許文献1参照)。非特許文献1に記載された技術では、読取り対象の文字が記入される位置は0.1mm単位で厳密に指定される。既存のOCRは、フォーマットジェネレータと同様の書式情報を採用している機種が多い。
一方、従来の方式では、給与支払報告書及び処方箋等のように、同じ種類の帳票であっても1枚ごとに罫線の本数、枠の位置、及び枠の大きさ等が微妙に異なる帳票は、認識されない。このような帳票では、各項目間の配置関係がほぼ一定であることを利用し、予め登録された枠構造と帳票画像から解析した枠構造とを照合することによって、枠の位置及び枠の大きさ等が1枚ごとに異なる帳票の読取り領域を特定する方式がある(例えば、特許文献1参照)。
給与支払報告書及び処方箋等より自由度が高い帳票として登記済通知書等がある。登記済通知書等の帳票は、同じ種類の帳票であれば項目名はほぼ同じであるが、1枚ごとに帳票の枠の大きさ及び枠の数が異なる。また、項目間の配置関係も異なる場合がある。
このような帳票に対して、まず表構造を解析し、枠内の文字を認識し、項目名が記載されている枠を検出し、項目名が記載された枠の右又は下の枠が読取り対象のデータ領域であると判断して、認識する方式がある(例えば、特許文献2参照)。特許文献2に記載された方式では、項目名の文字列及び項目名枠とデータ枠との対応関係をOCRに予め格納しなければならない。
特開2004−139484号公報 特開平9−319824号公報 「日立OCRソリューションImaging OCR」カタログ、株式会社日立製作所、2005年12月版、P5〜6
本発明の帳票認識装置は、特許文献2に記載された技術で認識できる帳票を認識対象とする。すなわち、本発明は、同じ種類の帳票であっても、枠の大きさ及び枠の位置が異なり、さらに項目の順序も異なる可能性がある帳票を認識できる帳票認識装置を提供する。
前述した枠の位置及び枠の大きさ等が同じ種類であっても異なる帳票に対して、非特許文献1の方式を適用すると、全ての帳票の書式情報を作成し、OCRに作成された全ての書式情報が格納され、OCRは、入力された帳票ごとにどの書式情報を適用するかを識別しなければならない。書式情報を作成するコスト及び識別の精度の観点から、非特許文献1に記載された方式で枠の位置及び枠の大きさ等が同じ種類であっても異なる帳票を認識することは現実的でない。
また、特許文献1に記載された方式も、帳票の項目間の配置が同じであることが前提条件なので、枠の位置及び枠の大きさ等が同じ種類であっても異なる帳票に適用できない。
特許文献2に記載された方式は、枠の位置及び枠の大きさ等が同じ種類であっても異なる帳票に適用できるが、実際に運用する際に以下の三つの課題がある。
第一の課題は、帳票の項目名の文字が正しく認識されない場合、データ枠は検出されないことである。第二の課題は、例えば、「氏名」と「名前」のように、同じ項目を示す文字列であっても、表記が異なる場合、項目名枠が検出されないことである。第三の課題は、ノイズ及び罫線のかすれ等のために、帳票の枠又は文字行を検出できない場合、項目名枠が検出されないことである。
特に、第一の課題は、実際の運用上では、大きな問題である。一般的に項目名が記載されている文字は、小さく、かつ文字と文字との間及び文字と罫線との間で接触が頻発するため、文字が認識される確率は低い。さらに、つぶれ、かすれ、及びノイズを含む低品質の画像の文字が認識される確率は、さらに低下する。
本発明の代表的な一形態によると、演算処理をするプロセッサと、前記プロセッサに接続される記憶部と、帳票の画像情報を帳票認識装置に入力する画像入力装置に接続されるインターフェースと、を備え、前記画像入力装置によって入力された帳票の画像情報を認識する帳票認識装置において、前記記憶部には、各帳票に含まれるべき項目名が登録された項目名辞書、及び項目名と項目名との隣接関係が登録された項目名枠間隣接関係が格納され、前記プロセッサは、前記入力された帳票の画像情報の枠及び文字行を検出し、前記検出された枠内の文字列を前記検出された文字行から検出し、前記検出された文字列から帳票内の項目名を認識し、前記認識された項目名が存在する枠を項目名枠として検出し、前記検出された項目名枠に基づいて、前記認識された項目名に対応するデータ枠を検出し、前記検出されたデータ枠内の文字列を認識する認識処理を実行し、前記項目名辞書に登録された項目名と前記認識された項目名とを比較し、前記項目名辞書に登録された項目名のうち前記認識された項目名を除外し、前記除外されなかった項目名を前記認識されなかった項目名として特定し、前記認識されなかった項目名がある場合、前記検出された項目名枠及び前記検出されたデータ枠を前記入力された帳票の画像情報から除外した不読領域を検出し、前記認識されなかった項目名の項目名枠の前記検出された不読領域における位置を、前記認識された項目名及び前記項目名枠間隣接関係を参照して特定し、前記特定された前記認識されなかった項目名の項目名枠に基づいて、前記認識されなかった項目名に対応するデータ枠を検出し、前記検出されたデータ枠の文字列を認識することを特徴とする。
本発明の一形態によると、類似しているが書式が異なる帳票を、厳密な定義なしに認識できる。さらに、項目名の文字が認識される確率が低い場合であっても、精度よく帳票の属性を解析しながら、認識できる。
本発明を図面を用いて説明する。なお、本発明は、以下の説明によって限定されるものではない。
図1は、本発明の実施形態の帳票認識システムの構成を示す図である。
帳票認識システムは、入力装置10、画像入力装置20、帳票認識装置30、認識辞書40、表示装置50、及び画像データベース(DB)60を備える。
入力装置10は、帳票認識装置30にコマンド及びコードデータ等を入力するためのキーボード及びマウス等の装置である。
画像入力装置20は、帳票を画像データとして、帳票認識装置30に入力するためのスキャナ等の装置である。
帳票認識装置30は、画像入力装置20によって入力された帳票の読み取り領域を検出し、その帳票の文字を認識する計算機であって、図示しないCPU、メモリ、及び記憶装置を備える。
認識辞書40は、帳票認識装置30が帳票を認識する際に参照する辞書データベースである。認識辞書40は、具体的には、帳票認識装置30が文字認識する際に参照する文字認識辞書610を格納し、また、帳票認証装置30は、帳票の読み取り領域を検出する際に参照する帳票情報等を格納する。
表示装置50は、帳票認識装置30によって帳票が認識された結果を表示するディスプレイ等の装置である。
画像DB60は、画像入力装置20によって帳票認識装置30に入力された画像データを格納する。また、画像DB60には、画像入力装置20によって帳票認識装置30が認識する対象となる画像データが予め格納されていてもよい。
なお、本発明は、帳票認識装置30と同じ機能を備えるソフトウェアによって通常の計算機に実装されてもよい。
次に、本発明の概要と効果について説明する。
本発明の概要は、帳票認識装置30が書式の自由度が高い帳票を認識する場合、少ない種類の帳票に基づいた特徴(項目名、項目名枠間の配置、及び項目名枠とデータ枠との配置関係等)を参照し、入力された帳票の項目名を認識し、データ枠の位置及び属性を解析しながら認識することである。さらに、本発明の概要は、項目名の文字列が誤って認識された場合、同じ内容の項目名が異なって表記されている場合、及び枠が誤って検出された場合等、帳票認識装置30が正しくデータ枠が検出されない状況を救済することである。
具体的には、項目名が認識され、認識された項目名からデータ枠が検出される。そして、検出されたデータ枠の文字列が認識される。この一連の処理において検出されない項目がある場合、以下の方針でリトライ処理を繰り返すことによって、検出できなかった項目を救済する。
まず、検出された項目名枠及びデータ枠をリトライ処理の対象から除外し、その他の領域をリトライ処理の対象として、リトライ処理が実行される。次に、帳票に含まれる全ての項目名が登録された項目名辞書と認識された項目名とが比較され、認識されていない項目名が特定される。次に、特定された項目名に対象に、リトライ処理が実行される。
項目名が認識されない領域の文字列が認識され、認識された領域の文字列のデータの属性に基づいて、項目名が認識される。
これらのリトライ処理の一部又は全てが、直列又は並列で実行されることによって、認識される可能性の高い帳票認識装置30を提供できる。
図2は、本発明の実施形態の帳票認識装置30によって実行される帳票処理100の概略を示すフローチャートである。なお、帳票処理100は、図3で詳細を説明する。
帳票認識装置30によって実行される帳票処理100は、認識処理110、リトライ前処理200、及びリトライ処理700に大別される。
認識処理110は、帳票認識装置30に入力された帳票の画像データから項目名とデータとを対応付け、帳票の文字を認識する。
リトライ前処理200は、認識処理110において認識できなかった項目名を検出する。
リトライ処理700は、リトライ前処理200において検出された項目名を再度認識する。なお、リトライ処理700は、図3におけるリトライ処理A300、リトライ処理B400、及びリトライ処理C500の総称である。
次に、図3を用いて帳票処理100の詳細を説明する。
図3は、本発明の実施形態の帳票認識装置30によって実行される帳票処理100の詳細を示すフローチャートである。
まず、認識辞書40について説明する。認識辞書40には、文字認識辞書610、項目名辞書620、項目名枠−データ枠配置630、項目名枠間隣接関係640、及び項目別利用知識650が格納される。
文字認識辞書610には、帳票認識装置30に入力された帳票の画像データから文字を検出するための文字情報が登録される。項目名辞書620には、各帳票に含まれる全ての項目名が帳票毎に登録される。
項目名枠−データ枠配置630には、項目名枠とデータ枠の配置関係が格納される。具体的には、項目名枠−データ枠配置630には、項目名枠の下側にデータ枠が配置されているか、及び項目名枠の左側にデータ枠が配置されているか等の配置関係が格納される。
項目名間隣接関係640には、ある項目名とその項目名に隣接する項目名との関係が格納される。なお、項目名間隣接関係640は、図6、図8、及び図10で詳細を説明する。
項目別利用知識650は、帳票認識装置30がデータ枠の文字列から項目名を検出する際に参照される。なお、項目別利用知識650は、図14に示すように、項目別利用知識650は、図14に示すように、項目名6501と記載内容6502を含む。項目名6501には、帳票に含まれる項目名が登録される。記載内容6502には、各項目名6501に対応するデータに記載された内容が登録される。
なお、項目別利用知識650に含まれる項目名6501「氏名」に対応する記載内容6502は、姓と名を別々に登録してもよいし、項目名6501「住所」に対応する記載内容6502は、都道府県又は市町村等によって階層的に登録してもよい。なお、項目名6501「電話番号」及び「金額」に対応する記載内容6502に含まれる「N」は、0から9までの数字を示す。
次に、帳票処理100の詳細を説明する。
前述したように、帳票処理100は、認識処理110、リトライ前処理200、リトライ処理A300、リトライ処理B400、及びリトライ処理C500を備える。なお、リトライ処理A300、リトライ処理B400、及びリトライ処理C500の全てが実行されなくてもよい。また、帳票認識装置30が、リトライ処理A300、リトライ処理B400、及びリトライ処理C500を直列に実行する場合、リトライ処理A300、リトライ処理B400、及びリトライ処理C500を実行する順番は任意である。また、帳票認識装置30は、リトライ処理A300、リトライ処理B400、及びリトライ処理C500を並列に実行し、実行した結果を統合してもよい。
なお、リトライ処理C500が実行されなければ、認識辞書40には、項目別利用知識650は格納されなくてもよい。
まず、帳票の画像データが帳票認識装置30に入力されると、帳票認識装置30は、前処理を実行する(120)。前処理は、帳票認識装置30に、入力された画像データから表を認識させ、認識された表から文字行を検出させる処理である。
ここで、「表を認識する」とは、帳票認識装置30に入力された画像データから枠の位置を検出することである。なお、「枠」とは、帳票の縦罫線と横罫線で囲まれた矩形領域である。帳票認識装置30が、表を認識する方法については、特開平11−53466号公報に記載された方法を適用できる。
また、帳票認識装置30が文字行を検出する方法として連結成分を分析する方法がある。ここで、連結成分を分析する方法とは、帳票装置30が枠内の隣接する連結成分(黒画素が連続している塊)を横方向又は縦方向に統合することによって、横方向の文字行又は縦方向の文字行の画像を検出する方法である。
次に、帳票認識装置30は、ステップ120の処理で検出された枠に含まれる文字列から項目名の文字列を認識する(130)。具体的には、帳票認識装置30は、ステップ120の処理で検出された文字行の画像から1文字ごとの領域を切り出す。そして、帳票認識装置30は、文字認識辞書610を参照し、切り出された1文字ごとの領域のパターンを認識し、各文字を特定することによって、枠に含まれる文字列を特定する。そして、帳票認識装置30は、特定された文字列と項目名辞書620に登録された項目名の文字列とを照合し、特定された文字列が項目名辞書620に登録された項目名の文字列と一致すると、その特定された文字列を項目名と認識する。
なお、帳票認識装置30が項目名を誤って認識することを防止するため、特定された文字列と項目名辞書620に登録された項目名の文字列とが完全に一致しなければ、項目名と認識されないようにするとよい。
また、帳票認識装置30が枠に含まれる文字列を特定する方法は、特開2004−171316号公報に記載された方法を適用できる。
次に、帳票認識装置30は、ステップ120の処理で項目名と認識された文字列を含む枠を項目名枠として検出する(140)。
そして、帳票認識装置30は、項目名枠−データ枠配置630を参照し、各項目名枠に対応するデータ枠を検出する(150)。なお、帳票認識装置30は、項目名枠−データ枠配置630を参照しないで、項目名枠とデータ枠の配置情報から、各項目名枠に対応するデータ枠を検出してもよい。帳票認識装置30は、項目名枠−データ枠配置630を参照しない場合、項目名枠の周囲(一般には、項目名枠の下又は右)に存在する項目名枠として検出されない枠をデータ枠として検出する。
次に、帳票認識装置30は、ステップ150の処理で検出されたデータ枠に含まれる文字列を認識する(160)。
ここで、帳票認識装置30は、項目別利用知識650を参照し、データ枠に含まれる文字列を認識してもよい。
具体的には、帳票認識装置30は、項目名ごとに記載内容6502に関する情報を切り替え、各項目名に対応する記載内容に関する情報と照合しながら、データ枠に含まれる文字列を認識する。つまり、帳票認識装置30は、各項目名の記載内容6502に登録された情報からデータ枠に含まれるべき文字列の種類(例えば、数字等)を予想して、データ枠に含まれる文字列を認識する。
例えば、帳票認識装置30は、項目名「金額」に対応するデータ枠に含まれる文字列を認識する場合、項目名6501「金額」の記載内容6502を参照し、項目名「金額」に対応するデータ枠に含まれる文字列は、数字であることを前提に、データ枠に含まれる文字列を認識する。
一方、データ枠に対応する項目名が項目別利用知識650に登録されていない場合、又は、項目別利用知識650が認識辞書40に格納されていない場合、帳票認識装置30は、各項目名に対応するデータ枠に含まれる文字列をそのまま認識する。
そして、帳票認識装置30は、全ての文字行について認識処理110を実行する。
認識処理110が実行されると、帳票認識装置30は、認識処理110で認識されていない項目名があるか否かを判定する。実行された結果、項目名辞書620に登録された項目名のうち認識されていない項目名がある場合、帳票認識装置30はリトライ前処理200を実行する。また、帳票認識装置30は、認識処理110が実行された結果、全ての項目名が認識された場合には、帳票処理100を終了する。
次に、認識処理110が実行された結果、項目名が認識されなかった場合に帳票認識装置30によって実行されるリトライ前処理200について説明する。
リトライ前処理200は、リトライ処理700が実行される前に実行される処理で、認識処理110が実行された結果、認識できなかった項目名及びその項目名に対応するデータが特定される。
帳票認識装置30は、認識処理110が実行されることによって、検出された項目名枠及びデータ枠を除いた領域(以下、不読領域という)を検出する(210)。なお、検出されなかった項目名枠が不読領域に存在する。
次に、帳票認識装置30は、ステップ210の処理で検出された不読領域から、認識されていない項目名を特定する(220)。具体的には、帳票認識装置30は、項目名辞書620に登録された項目名と認識された項目名とを比較し、項目名辞書620に登録された項目名のうち認識された項目名を除外することによって、認識されていない項目名を特定する。なお、帳票認識装置30は、ステップ220の処理を、認識処理110で検出されていない項目名があるか否かを判定する場合に、実行してもよい。
そして、帳票認識装置30は、項目名枠間隣接関係640を参照し、認識されていない項目名の項目名枠の位置を検出する(230)。なお、項目名枠間隣接関係640が認識辞書40に格納されていない場合、ステップ230の処理を省略してもよい。
ここで、検出されていない項目名枠が複数検出された場合、及び項目枠間隣接関係640が認識辞書40に格納されていない場合等、つまり検出されていない項目名枠の位置が一意に検出されなかった場合、帳票認識装置30は、リトライ処理700を実行する。一方、認識されていない項目名が一つ検出された場合、帳票認識装置30は、ステップ140処理に戻る。
次に、認識処理110及びリトライ前処理200について具体的な例を用いて説明する。
図4は、本発明の実施形態の帳票自体の一例を示す図である。
図4に示す帳票が帳票認識装置30に入力されると、帳票認識装置30は、認識処理110を実行する。しかしながら、図4に示す帳票には、「電話番号」の「番」の文字に印刷時に生じたノイズがある。帳票認識装置30は、ステップ130の処理において、入力された帳票にノイズがある文字列を認識できない。一方、帳票認識装置30は、「氏名」、「住所」、及び「金額」の項目名に含まれる文字列を認識する。そして、帳票認識装置30は、ステップ140の処理において、項目名辞書620を参照し、これらの項目名を特定する。そして、帳票認識装置30は、ステップ150の処理において、項目名枠−データ枠配置630を参照し、「氏名」、「住所」、及び「金額」の項目名枠の下に配置される枠をデータ枠をとして検出し、検出されたデータ枠の文字列をステップ160の処理で認識する。
帳票認識装置30は、項目名辞書620に登録された項目名のうち認識されていない項目名があるので、リトライ前処理200を実行する。
帳票認識装置30は、ステップ210の処理において、図5に示す太線で囲まれた領域500を不読領域として検出する。次に、帳票認識装置30は、ステップ220の処理において、項目名辞書620を参照し、認識されていない項目名を特定する。ここで、項目名辞書620には、「氏名」、「住所」、「電話番号」、及び「金額」が登録されている。「氏名」、「住所」、及び「金額」はステップ130の処理で項目名として認識されているので、帳票認識装置30は、認識されていない項目名は「電話番号」であると特定する。
次に、帳票認識装置30は、ステップ230の処理において、図6に示す項目名枠間隣接関係640を参照し、「電話番号」の位置が「住所」の項目名枠と「金額」の項目名枠との間に配置されていることを検出する。
なお、図6に示す項目名枠間隣接関係640は、項目名6401及び隣接項目名枠6402を含む。項目名6401には、各帳票の項目名辞書620に登録された項目名が登録される。隣接項目名枠6402は、項目名6401に登録された項目名の枠とその枠に隣接する項目名との隣接関係を示す「左」、「右」、「上」、及び「下」を含む。
なお、項目名6401に登録された項目名に隣接する項目名がない場合には、隣接項目名枠に「−」が登録される。
次に、ステップ210の処理で認識されていない項目名として特定された項目名「電話番号」の位置の検出方法について説明する。
まず、帳票認識装置30は、隣接項目名枠6402を参照し、「電話番号」に隣接する項目名を検出する。ここでは、「住所」と「金額」が検出される。つまり、「電話番号」は「住所」と「金額」との間に存在する。
なお、ステップ140の処理で「住所」と「金額」の項目名枠は検出されているので、「電話番号」の項目名枠の位置が一意に検出される。
従って、「電話番号」の項目名枠の位置が一意に検出されたので、帳票認識装置30は、ステップ140の処理に戻って、再度項目名枠を決定し、ステップ150の処理以降によってデータ枠を認識する。
項目名の隣接関係が異なる帳票(例えば、図4に示す帳票と図7に示す帳票)が混在して帳票認識装置30に入力された場合、項目名枠間隣接関係640は、図8に示すように、一つの項目名に対して複数の隣接関係を登録すればよい。
また、図9に示す帳票のように、各項目名が上下に隣接する場合、項目名枠間隣接関係640は、図10に示すように、隣接項目名枠6402の「上」と「下」の欄に項目名の隣接関係が登録される。
前述したように、認識されていない項目名枠の位置が一意に検出されなかった場合、帳票認識装置30は、リトライ処理700を実行する。
まず、リトライ処理A300について説明する。
帳票認識装置30は、不読領域の枠の文字列を認識し、項目名辞書620を参照し、項目名を認識する(310)。帳票認識装置30が項目名を認識すると、帳票認識装置30は、ステップ140の処理に戻る。
ステップ310の処理について具体的な例を用いて説明する。
ここでは、図4に示す帳票が帳票認識装置30に入力された場合、ステップ210の処理で不読領域の枠として検出された図5に示す帳票の太線枠500がステップ310の処理の対象である。
なお、ステップ230の処理において、太線枠500内の一番上の枠が項目名枠として検出されたが、ここでは太線枠500内で項目名枠が検出されなかった場合について説明する。また、この場合、ステップ220の処理で、検出されていない項目名が「電話番号」であると特定されているものとする。
帳票認識装置30は、検出されていない項目名が「電話番号」と特定されているので、ステップ310の処理において、不読領域の枠内で認識された文字列と項目名辞書620に登録された「電話番号」とを照合し、不読領域の枠内で認識された文字列の中で最も「電話番号」に近い文字列を、項目名「電話番号」として認識する。
なお、検出されていない項目名が複数存在する場合、認識されていない全ての項目名を照合の対象とすればよい。
つまり、帳票認識装置30は、認識されていない項目名を特定し、不読領域の枠内で認識された文字列と照合する項目名辞書620に登録された項目名を減らして、項目名を認識する。これによって、帳票認識装置30は、不読領域の枠内で認識された文字列と項目名辞書620に登録された項目名とを照合する条件を緩和しても、項目名を誤って認識する可能性が少なくなる。
次に、照合条件を緩和する方法について、具体的に説明する。
第一の照合条件を緩和する方法を説明する。帳票認識装置30は、不読領域の枠内で認識された文字列が、項目名辞書620に登録された項目名と一文字相違しても、不読領域の枠内で認識された文字列を項目名辞書620に登録された項目名と認識する。これによって、図5に示す太線枠500内の不読領域の「電話番号」の「番」が、ノイズのため認識されなくても、帳票認識装置30は、不読領域の「電話番号」を項目名と認識できる。
第二の照合条件を緩和する方法を説明する。帳票認識装置30は、不読領域の枠内で認識された文字列が、項目名辞書620に登録された項目名の文字列以外の文字を含む場合であっても、不読領域の枠内で認識された文字列を項目名辞書620に登録された項目名と認識する。これによって、例えば、不読領域の枠内で認識された文字列が「ご住所」であって、項目名辞書620に登録された項目名が「住所」であっても、帳票認識装置30は、不読領域の枠内で認識された文字列「ご住所」を項目名「住所」と認識できる。この結果、帳票認識装置30は、項目名辞書620に登録されていない項目名も認識できる。
第三の照合条件を緩和する方法を説明する。帳票認識装置30は、不読領域の枠内で認識された文字列と項目名辞書620に登録された項目名が異なる表記であっても、不読領域の枠内で認識された文字列を項目名と認識する。
具体的には、帳票認識装置30の認識辞書40は、図11に示す項目名辞書620を格納する。図11に示す項目名辞書620は、項目名6201及び表記6202を含む。項目名6201には、帳票に含まれる項目名が登録される。表記6202には、帳票認識装置30が項目名と認識する文字列が登録される。なお、表記6202に登録される文字列には、項目名が表す意味と同じ意味の文字列が登録されてもよい。例えば、項目名6201「氏名」の表記6202には、「氏名」及び「名前」が登録され、項目6201「住所」の表記6202には、「住所」及び「ご住所」が登録される。
これによって、帳票認識装置30は、不読領域の枠内で認識された文字列と項目名辞書620に登録された項目名とが異なる場合であっても、不読領域の枠で認識された文字列が項目名辞書620の表記6202に含まれる場合には、その表記6202に対応する項目名と認識できる。
なお、第三の照合条件を緩和する方法は、ステップ130の処理に適用してもよい。
照合条件を緩和して項目名の文字列を認識するステップ310の処理は、ステップ130の処理に適用できる。しかし、最初の項目名の文字列を認識する処理に、第一及び第二の照合条件を緩和する方法を適用すると、帳票認識装置30に入力された帳票に類似した項目名が含まれる場合等、帳票認識装置30は、項目名を誤って認識してしまう可能性が高い。一方、第三の照合条件を緩和する方法をステップ130の処理に適用しても、帳票認識装置30が項目名を認識してしまう可能性は、完全一致の照合条件の場合と変わらない。
照合条件を緩和して項目名の文字列を認識する処理は、認識処理110で認識された項目名を除外し、認識する項目名を限定してから、実行される。従って、帳票認識装置30は、項目名を誤って認識する可能性がより低くなる。
次にリトライ処理B400について説明する。
帳票認識装置30は、入力された画像データから枠及び文字行を再検出し(410)、項目名の文字列を認識する(420)。なお、ステップ420の処理は、ステップ310の処理と同じである。そして、ステップ420の処理で項目名の文字列が検出された場合には、ステップ140の処理に戻る。
なお、リトライ処理B400は、帳票認識装置30によって項目名が認識されない場合、ステップ120の処理で枠又は文字行が誤って検出されている場合があるので、帳票の画像データから枠及び文字行を再検出する。これによって、枠又は文字行が誤って検出されたことによって、項目名又はデータが誤って認識されることを救済される。
リトライ処理B400について、具体的な例を用いて説明する。
帳票認識装置30に図12に示す帳票が入力された場合、図12に示す帳票は、「住所」の枠に縦線の例えば印刷時に生じたノイズがあるので、帳票認識装置30は、ステップ120の処理で、この枠を縦線で2つに分割して検出してしまい、「住所」の文字行を検出できない。
従って、帳票認識装置30は、ステップ210の処理で、図12に示すよう、「住所」の項目名を含む太線枠1200を不読領域として検出する。
そして、ステップ210の処理で検出された不読領域内において、縦線によって分割された枠のみが枠の幅が異なるため、帳票認識装置30は、幅の異なる枠を他の枠の幅に合わせて、枠を再検出し、文字行を再検出する(410)。
ステップ410の処理が実行されることによって、帳票認識装置30は、「住所」の文字行を検出し、ステップ310の処理と同じく、照合条件を緩和して項目名の文字列を認識する。
図12に示す帳票では、「住所」の「住」の字に縦線のノイズがあるが、帳票認識装置30は、照合条件を緩和しているため、項目名を「住所」と認識できる。
また、文字の一部が罫線として認識され、枠が誤って検出された場合、帳票認識装置30は、罫線として検出された文字の一部は、罫線でないとして、枠を再検出してもよい。
次に、帳票認識装置30に図13に示す帳票が入力された場合について説明する。図13に示す帳票は、「電話番号」の文字列が2行になっており、「電話」と「番号」との行間が狭いため、帳票認識装置30は、ステップ120の処理で「電話番号」を1行の文字行として検出する。このため、帳票認識装置30は、ステップ130の処理で、「電話番号」の項目名を認識できない。そして、帳票認識装置30は、ステップ210の処理で「電話番号」の項目名を含む太線枠1300内を不読領域として検出する。
帳票認識装置30は、ステップ410の処理で、不読領域の枠の文字行の高さが他の文字行の高さよりも高いか否かを判定し、他の文字行の高さよりも不読領域の枠の文字行の高さが高い不読領域の枠の文字行を分割して、文字行を再検出する。
具体的には、図13に示す帳票の2行である「電話番号」が1行として認識された場合、「電話番号」の文字行の高さが他の文字行よりも高いので、帳票認識装置30は、「電話」と「番号」の2行を検出する。そして、帳票認識装置30は、「電話」と「番号」とを連結し、項目名辞書620と照合し、項目名「電話番号」を認識する。
なお、前述したリトライ処理B400は、項目名を認識する例を説明したが、帳票認識装置30がデータの枠及び文字行を誤って検出した場合にも、適用できる。
次にリトライ処理C500について説明する。
帳票認識装置30は、リトライ処理A300及びリトライ処理B400を実行しても、項目名を認識できない場合、データの文字列を認識し(510)、認識された文字列に基づいて、項目名を認識し(520)、項目名枠を検出する(530)。そして、帳票認識装置30は、項目名枠を検出した場合、ステップ160に戻る。
リトライ処理C500について具体的な例を用いて説明する。
リトライ処理C500が実行される場合、帳票認識装置30の認識辞書40には、図14に示す項目別利用知識650が格納される。
帳票認識装置30に図13に示す帳票が入力された場合、図13に示す帳票は、「電話番号」の文字が罫線に接触しているので、帳票認識装置30は、「電話番号」の文字列を認識できない。そして、帳票認識装置30は、ステップ210の処理で、図13に示すよう、「電話番号」の項目名を含む太線枠1300を不読領域として検出する。
帳票認識装置30は、ステップ510の処理で、不読領域の文字列を認識する。そして、帳票認識装置30は、項目別利用知識650を参照し、認識された文字列が記載内容6502に含まれる項目名6501を検出し、検出された項目名を項目名として認識する。
図13に示す帳票では、不読領域の2行目及び3行目の文字列は数字とハイフンのみであって、桁数及び記載形式が限定されるので、帳票認識装置30は、項目別利用知識650を参照し、電話番号を項目名として認識する。特定の形式を持つ数字列の照合については、特開平8−243505号公報に記載された技術が適用できる。
そして、帳票認識装置30は、ステップ530の処理で、不読領域の上端の枠又は数字以外の文字列を含む枠を、項目名「電話番号」の枠として検出する。なお、不読領域の上端を項目名枠と検出したのは、一般的に表の上端又は左端に項目名が存在することが多いからである。
なお、帳票認識装置30は、ステップ530の処理を実行する前に、ステップ310の処理を再度実行してもよい。
なお、前述した実施の形態では、認識処理110が実行されることによって、認識されない項目が単数の場合の例を挙げたが、複数の項目が認識されない場合であっても、リトライ処理700が実行されることによって、帳票認識装置30が認識できる項目を増やしていくことによって、適用できる。なお、リトライ処理700が繰り返し実行されても、項目が認識されない場合、帳票認識装置30は、その認識されない項目を認識できないものとして、認識できない旨を表示装置50に出力する。
本発明の実施形態の帳票認識システムの構成図。 本発明の実施形態の帳票認識装置によって実行される帳票処理の概略を示すフローチャート。 本発明の実施形態の帳票認識装置によって実行される帳票処理の詳細を示すフローチャート。 本発明の実施形態の帳票の一例を示す図。 本発明の実施形態の帳票の不読領域を示す図。 本発明の実施形態の項目名枠間隣接関係の一例を示す図。 本発明の実施形態の帳票の一例を示す図。 本発明の実施形態の項目名枠間隣接関係の一例を示す図。 本発明の実施形態の帳票の一例を示す図。 本発明の実施形態の項目名枠間隣接関係の一例を示す図。 本発明の実施形態の項目名辞書を示す図。 本発明の実施形態の帳票の一例を示す図。 本発明の実施形態の帳票の一例を示す図。 本発明の実施形態の項目別利用知識を示す図。
符号の説明
10 入力装置
20 画像入力装置
30 帳票認識装置
40 認識辞書
50 表示装置
60 画像データベース

Claims (8)

  1. 演算処理をするプロセッサと、前記プロセッサに接続される記憶部と、帳票の画像情報を帳票認識装置に入力する画像入力装置に接続されるインターフェースと、を備え、前記画像入力装置によって入力された帳票の画像情報を認識する帳票認識装置において、
    前記記憶部には、各帳票に含まれるべき項目名が登録された項目名辞書、及び項目名と項目名との隣接関係が登録された項目名枠間隣接関係が格納され、
    前記プロセッサは、
    前記入力された帳票の画像情報の枠及び文字行を検出し、
    前記検出された枠内の文字列を前記検出された文字行から検出し、前記検出された文字列から帳票内の項目名を認識し、
    前記認識された項目名が存在する枠を項目名枠として検出し、
    前記検出された項目名枠に基づいて、前記認識された項目名に対応するデータ枠を検出し、
    前記検出されたデータ枠内の文字列を認識する認識処理を実行し、
    前記項目名辞書に登録された項目名と前記認識された項目名とを比較し、
    前記項目名辞書に登録された項目名のうち前記認識された項目名を除外し、前記除外されなかった項目名を前記認識されなかった項目名として特定し、
    前記認識されなかった項目名がある場合、前記検出された項目名枠及び前記検出されたデータ枠を前記入力された帳票の画像情報から除外した不読領域を検出し、
    前記認識されなかった項目名の項目名枠の前記検出された不読領域における位置を、前記認識された項目名及び前記項目名枠間隣接関係を参照して特定し、
    前記特定された前記認識されなかった項目名の項目名枠に基づいて、前記認識されなかった項目名に対応するデータ枠を検出し、
    前記検出されたデータ枠の文字列を認識し、
    前記認識されなかった項目名の項目名枠の前記不読領域における位置が前記項目名枠間隣接関係を参照しても特定されなかった場合、リトライ処理を実行し、
    前記リトライ処理は、
    前記不読領域内の文字列を検出し、
    前記認識されなかった項目名の文字列と前記不読領域で検出された文字列とを照合することによって、前記認識されなかった項目名を認識し、前記認識した項目名の項目名枠及び当該項目名枠に対応するデータ枠を検出することを特徴とする帳票認識装置。
  2. 前記プロセッサは、
    前記リトライ処理において、前記認識されなかった項目名の文字列と前記不読領域で検出された文字列とを照合する場合、前記項目名辞書の項目名には、当該項目名が表す意味と同じ意味の文字列が登録されており、前記不読領域で検出された文字列が前記認識されなかった項目名と異なる場合であっても、前記不読領域で検出された文字列が前記項目名辞書に前記認識されなかった項目名が表す意味と同じ意味の文字列として登録されている場合、前記不読領域で検出された文字列を前記認識されなかった文字列と認識する方法を用いて、前記認識されなかった項目名を認識することを特徴とする請求項1に記載の帳票認識装置。
  3. 前記プロセッサは、
    前記リトライ処理でも前記項目名が認識されなかった場合、
    前記検出された枠から、前記不読領域内に含まれる枠を再度検出し、
    前記再度検出された枠内の文字列を検出し、
    前記検出された文字列と前記認識されなかった項目名とを照合することによって、前記認識されなかった項目名を再度認識することを特徴とする請求項1に記載の帳票認識装置。
  4. 前記プロセッサは、
    前記リトライ処理でも前記項目名が認識されなかった場合、
    前記検出された文字行から、前記認識されなかった領域内に含まれる文字行を再度検出し、
    前記再度検出された文字行に基づいて文字列を検出し、
    前記検出された文字列と前記認識されなかった項目名とを照合することによって、前記認識されなかった項目名を再度認識することを特徴とする請求項1に記載の帳票認識装置。
  5. 演算処理をするプロセッサと、前記プロセッサに接続される記憶部と、帳票の画像情報
    を帳票認識装置に入力する画像入力装置に接続されるインターフェースと、を備える帳票
    認識装置に、前記画像入力装置によって入力された帳票の画像情報を認識させるプログラ
    ムであって、
    前記記憶部には、各帳票に含まれるべき項目名が登録された項目名辞書、及び項目名と項目名との隣接関係が登録された項目名枠間隣接関係が格納され、
    前記プログラムは、前記帳票認識装置に、
    前記入力された帳票の画像情報の枠及び文字行を検出させ、
    前記検出された枠内の文字列を前記検出された文字行から検出させ、前記検出された文字列から帳票内の項目名を認識させ、
    前記認識された項目名が存在する枠を項目名枠として検出させ、
    前記検出された項目名枠に基づいて、前記認識された項目名に対応するデータ枠を検出させ、
    前記検出されたデータ枠内の文字列を認識する認識処理を実行させ、
    前記項目名辞書に登録された項目名と前記認識された項目名とを比較させ、
    前記項目名辞書に登録された項目名のうち前記認識された項目名を除外させ、前記除外されなかった項目名を前記認識されなかった項目名として特定させ、
    前記認識されなかった項目名がある場合、前記検出された項目名枠及び前記検出されたデータ枠を前記入力された帳票の画像情報から除外した不読領域を検出させ、
    前記認識されなかった項目名の項目名枠の前記検出された不読領域における位置を、前記認識された項目名及び前記項目名枠間隣接関係を参照して特定させ、
    前記特定された前記認識されなかった項目名の項目名枠に基づいて、前記認識されなかった項目名に対応するデータ枠を検出させ、
    前記検出されたデータ枠の文字列を認識させ、
    前記認識されなかった項目名の項目名枠の前記不読領域における位置が前記項目名枠間隣接関係を参照しても特定されなかった場合、リトライ処理を実行させ、
    前記リトライ処理は、
    前記不読領域内の文字列を検出させ、
    前記認識されなかった項目名の文字列と前記不読領域で検出された文字列とを照合することによって、前記認識されなかった項目名を認識し、前記認識した項目名の項目名枠及び当該項目名枠に対応するデータ枠を検出させることを特徴とするプログラム。
  6. 前記プログラムは、前記帳票認識装置に、
    前記認識されなかった項目名の文字列と前記不読領域で検出された文字列とを照合させる場合、前記項目名辞書の項目名には、当該項目名が表す意味と同じ意味の文字列が登録されており、前記不読領域で検出された文字列が前記認識されなかった項目名と異なる場合であっても、前記不読領域で検出された文字列が前記項目名辞書に前記認識されなかった項目名が表す意味と同じ意味の文字列として登録されている場合、前記不読領域で検出された文字列を前記認識されなかった文字列と認識させる方法を用いて、前記認識されなかった項目名を認識させることを特徴とする請求項5に記載のプログラム。
  7. 前記プログラムは、前記帳票認識装置に、
    前記リトライ処理でも前記項目名が認識されなかった場合、
    前記検出された枠から、前記不読領域内に含まれる枠を再度検出させ、
    前記再度検出された枠内の文字列を検出させ、
    前記検出された文字列と前記認識されなかった項目名とを照合することによって、前記認識されなかった項目名を再度認識させることを特徴とする請求項5に記載のプログラム。
  8. 前記プログラムは、前記帳票認識装置に、
    前記リトライ処理でも前記項目名が認識されなかった場合、
    前記検出された文字行から、前記認識されなかった領域内に含まれる文字行を再度検出させ、
    前記再度検出された文字行に基づいて文字列を検出させ、
    前記検出された文字列と前記認識されなかった項目名とを照合することによって、前記認識されなかった項目名を再度認識させること請求項5に記載のプログラム。
JP2006191324A 2006-07-12 2006-07-12 帳票認識装置及び帳票認識プログラム Active JP4733577B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006191324A JP4733577B2 (ja) 2006-07-12 2006-07-12 帳票認識装置及び帳票認識プログラム
KR1020060074608A KR20080006422A (ko) 2006-07-12 2006-08-08 장표 인식 장치 및 장표 인식 프로그램

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006191324A JP4733577B2 (ja) 2006-07-12 2006-07-12 帳票認識装置及び帳票認識プログラム

Publications (2)

Publication Number Publication Date
JP2008021068A JP2008021068A (ja) 2008-01-31
JP4733577B2 true JP4733577B2 (ja) 2011-07-27

Family

ID=39076957

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006191324A Active JP4733577B2 (ja) 2006-07-12 2006-07-12 帳票認識装置及び帳票認識プログラム

Country Status (2)

Country Link
JP (1) JP4733577B2 (ja)
KR (1) KR20080006422A (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5216985B2 (ja) * 2010-04-13 2013-06-19 寛 江川 データ処理装置及び保険証照合システム
JP5674615B2 (ja) * 2011-09-28 2015-02-25 株式会社日立情報通信エンジニアリング 文字認識装置及び文字認識方法
JP5703191B2 (ja) * 2011-11-02 2015-04-15 株式会社日立製作所 文書認識支援装置、文書検索装置及び文書管理方法
JP6373664B2 (ja) * 2014-07-09 2018-08-15 株式会社東芝 電子機器、方法及びプログラム
JP6364051B2 (ja) * 2016-09-15 2018-07-25 株式会社アイエスピー ガイダンス付き文書情報取得方法、プログラム、及び携帯端末装置
JP6900164B2 (ja) * 2016-09-27 2021-07-07 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP6736012B2 (ja) * 2018-07-23 2020-08-05 日本生命保険相互会社 情報処理装置、情報処理方法、プログラム及び帳票読取システム
JP7275617B2 (ja) * 2019-02-06 2023-05-18 日本電信電話株式会社 情報処理装置、判別方法および判別プログラム
JP7491107B2 (ja) 2020-07-14 2024-05-28 株式会社リコー 情報処理装置、情報処理方法、情報処理プログラム、情報処理システム
KR102643324B1 (ko) * 2020-10-29 2024-03-07 닛폰세이테츠 가부시키가이샤 식별 장치, 식별 방법 및 프로그램

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0291785A (ja) * 1988-09-29 1990-03-30 Canon Inc 画像認識方法及び装置
JPH10207981A (ja) * 1997-01-20 1998-08-07 Ricoh Co Ltd 帳票認識方法
JP2002366893A (ja) * 2001-06-08 2002-12-20 Hitachi Ltd 帳票認識方法
JP2005173730A (ja) * 2003-12-08 2005-06-30 Fuji Photo Film Co Ltd 帳票ocrプログラム、方法及び装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0291785A (ja) * 1988-09-29 1990-03-30 Canon Inc 画像認識方法及び装置
JPH10207981A (ja) * 1997-01-20 1998-08-07 Ricoh Co Ltd 帳票認識方法
JP2002366893A (ja) * 2001-06-08 2002-12-20 Hitachi Ltd 帳票認識方法
JP2005173730A (ja) * 2003-12-08 2005-06-30 Fuji Photo Film Co Ltd 帳票ocrプログラム、方法及び装置

Also Published As

Publication number Publication date
JP2008021068A (ja) 2008-01-31
KR20080006422A (ko) 2008-01-16

Similar Documents

Publication Publication Date Title
JP4733577B2 (ja) 帳票認識装置及び帳票認識プログラム
JP4996940B2 (ja) 帳票認識装置およびそのプログラム
KR101122854B1 (ko) 스캔된 문서들로부터 전자 서식들을 채우기 위한 방법 및장치
US7991709B2 (en) Method and apparatus for structuring documents utilizing recognition of an ordered sequence of identifiers
JP4841227B2 (ja) 不正文字を検出するための装置、システム、プログラム、および方法(複数スキャン手法を用いる不正文字検出のための装置、システム、および方法)
JP4347677B2 (ja) 帳票ocrプログラム、方法及び装置
US20020141660A1 (en) Document scanner, system and method
US20170323170A1 (en) Method and system for data extraction from images of semi-structured documents
JP2016048444A (ja) 帳票識別プログラム、帳票識別装置、帳票識別システム、および帳票識別方法
US11574211B2 (en) Log analysis system, log analysis method, log analysis program, and storage medium
JP2014115781A (ja) 文字認識装置及び方法、文字認識プログラム
JP7282989B2 (ja) テキスト分類
JP2009093305A (ja) 帳票認識装置
JP5669041B2 (ja) 文書処理装置及び文書処理方法
JP5041775B2 (ja) 文字切出方法及び文字認識装置
JP4160206B2 (ja) 文字認識装置を利用したデータベース登録方法
JP3467437B2 (ja) 文字認識装置及びその方法とプログラム記録媒体
US20210042555A1 (en) Information Processing Apparatus and Table Recognition Method
JP2005165978A (ja) 帳票ocrプログラム、方法及び装置
JPH07114619A (ja) 文書認識装置
JP4224914B2 (ja) 文字読取システム及び文字読取方法
JP5669044B2 (ja) 文書検定システム及び文書検定方法
JP2010205122A (ja) レイアウト構造解析装置及びレイアウト構造解析方法
KR20230013836A (ko) 컴퓨터를 이용한 문서 분류 및 문자 추출 방법
JPH117492A (ja) キー入力編集方法及び編集装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100906

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101019

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110329

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110422

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140428

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4733577

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250