JP4416202B2 - 帳票認識装置、情報システム、及び記憶媒体 - Google Patents

帳票認識装置、情報システム、及び記憶媒体 Download PDF

Info

Publication number
JP4416202B2
JP4416202B2 JP09148399A JP9148399A JP4416202B2 JP 4416202 B2 JP4416202 B2 JP 4416202B2 JP 09148399 A JP09148399 A JP 09148399A JP 9148399 A JP9148399 A JP 9148399A JP 4416202 B2 JP4416202 B2 JP 4416202B2
Authority
JP
Japan
Prior art keywords
registered
similarity
image
search target
format data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP09148399A
Other languages
English (en)
Other versions
JP2000285187A (ja
Inventor
健一 数見
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP09148399A priority Critical patent/JP4416202B2/ja
Publication of JP2000285187A publication Critical patent/JP2000285187A/ja
Application granted granted Critical
Publication of JP4416202B2 publication Critical patent/JP4416202B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Character Input (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、帳票の自動認識を行う帳票認識装置と、前記帳票認識装置を備えた情報処理システムと、帳票認識機能を実現させるためのプログラムを記憶した記憶媒体に関する。
【0002】
【従来の技術】
大量の帳票を処理するに際し、帳票のフォーマットごとの自動分類を可能にする帳票認識装置は、従来より既に知られている。
【0003】
従来、この種の帳票認識装置は、通常スキャナーから読み取った帳票画像データの特微量を抽出して、この画像特徴量から帳票書式データを生成する。そして、検索帳票と登録帳票の書式データの類似度を求めることによって帳票認識を行うように構成されている。
【0004】
かかる検索帳票と登録帳票の書式データを比較し類似度の計算を行うには、帳票内に存在するテーブル書式の相違度を求めて、類似度の最高点からこの相違度をマイナスすることで行ってきた。また、帳票内に複数個のテーブルが存在する場合には、すべてのテーブルの相違度を合計してから同じく類似度を計算するようになっている。
【0005】
【発明が解決しようとする課題】
しかしながら、上記従来の帳票を認識装置では、帳票内に複数のテーブルが存在する場合に、帳票内で視覚的に注目すべきにテーブルの類似度と、注目する必要ないテーブルの類似度とを全く同様に取りを扱うため、視覚的な印象と類似度計算で出力される数値との食い違いが生ずることがあった。
【0006】
本発明は上記従来の問題点に鑑み、帳票認識結果として出力される類似度を、より人の視覚的な感覚に近い値にすることを可能にする帳票認識装置、情報処理システム、及び記憶媒体を提供することを目的とする。
【0007】
【課題を解決するための手段】
上記目的を達成するために、本発明の帳票認識装置は、検索対象の帳票画像を領域分割することにより、当該帳票画像内に含まれるテーブルに関する書式データを抽出する抽出手段と、前記抽出手段で抽出された検索対象の帳票画像内に含まれるテーブルに関する書式データと予め登録されている複数の登録帳票それぞれのテーブルに関する書式データとを比較することによって、当該検索対象の帳票に対する各登録帳票の類似度を計算し、当該計算した類似度に基づいて当該検索対象の帳票画像に最も類似する登録帳票を出力する帳票認識手段とを備えた帳票認識装置において、前記帳票認識手段で前記類似度を計算する際、前記検索対象の帳票画像内に含まれる各テーブルのうち面積の大きいテーブルの比較結果に掛けられる係数が面積の小さいテーブルの比較結果に掛けられる係数よりも大きくなるように制御することを特徴とする。
また、本発明の情報処理システムは、検索対象の帳票画像を領域分割することにより、当該帳票画像内に含まれるテーブルに関する書式データを抽出する抽出手段と、前記抽出手段で抽出された検索対象の帳票画像内に含まれるテーブルに関する書式データと予め登録されている複数の登録帳票それぞれのテーブルに関する書式データとを比較することによって、当該検索対象の帳票に対する各登録帳票の類似度を計算し、当該計算した類似度に基づいて当該検索対象の帳票画像に最も類似する登録帳票を出力する帳票認識手段とを備えた情報処理システムにおいて、前記帳票認識手段で前記類似度を計算する際、前記検索対象の帳票画像内に含まれる各テーブルのうち面積の大きいテーブルの比較結果に掛けられる係数が面積の小さいテーブルの比較結果に掛けられる係数よりも大きくなるように制御することを特徴とする。
また、本発明の記憶媒体は、コンピュータに、検索対象の帳票画像を領域分割することにより、当該帳票画像内に含まれるテーブルに関する書式データを抽出する抽出機能、前記抽出機能で抽出された検索対象の帳票画像内に含まれるテーブルに関する書式データと記憶手段に登録されている複数の登録帳票それぞれのテーブルに関する書式データとを比較することによって、当該検索対象の帳票に対する各登録帳票の類似度を計算し、当該計算した類似度に基づいて当該検索対象の帳票画像に最も類似する登録帳票を出力する帳票認識機能、を実現させるためのプログラムを記憶したコンピュータ読み取り可能な記憶媒体であって、前記帳票認識機能では、前記類似度を計算する際、前記検索対象の帳票画像内に含まれる各テーブルのうち面積の大きいテーブルの比較結果に掛けられる係数が面積の小さいテーブルの比較結果に掛けられる係数よりも大きくなるように制御することを特徴とする、前記プログラムを記憶したコンピュータ読み取り可能な記憶媒体である。
【0037】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。
【0038】
[第1実施形態]
図1は、本発明の第1実施形態に係る帳票認識装置の基本構成を示すブロック図である。
【0039】
この帳票認識装置は、装置全体の動作を制御するプロセッサ11と、各種のデータを記憶するメモリ12と、帳票を画像データとして読み取るスキャナー13と、帳票の登録や検索などの指示操作を行うためのキーボード14と、補助記憶装置として機能するディスク15と、認識結果等の各種情報を表示するディスプレイ16とを備え、これらの構成要素がバス20を介して相互に接続されている。
【0040】
プロセッサ11は、スキャナー13より読み取られた帳票の画像データの特徴量を抽出する画像特徴量抽出手段11a、前記画像データ中の文字領域を認識する文字認識手段11b、及び図4のフローチャートに従った帳票の類似度計算を行う類似度計算手段11cとしての処理を行うために、各種制御プログラムに従った演算処理を行い、帳票認識に必要な各種処理を実行する。
【0041】
スキャナで読み取った画像は、2値化処理されて画像特微量抽出手段11aにに送られる。黒ドットのヒストグラム法などの手法により、画像をテーブル、テキスト、ピクチャなど領域ごとに分割する。例えば、テーブル・ブロックであれば、罫線追跡手法などでテーブルの詳細構造を求める。テキスト・ブロックであれば、文字認識手段で文字コードに変換する。
【0042】
このようにして取得した情報の中で、帳票ページのデータ構造およびテーブルのセル詳細構造を、図2に示す書式データとしてメモリおよびディスクに保存する。
【0043】
同図において、帳票サンプルは、画像特微量抽出手段11aで抽出した後のブロック・サンプル例を示し、この例では、テーブル・ブロックが3個と、ピクチャ・ブロックが1個抽出されている。帳票の書式データは、ページ書式とテーブル書式に階層化して保存する。
【0044】
ページ書式は、ブロック属性がテーブルの場合には、位置情報としてブロック左端及びブロック上端、大きさ情報としてブロック幅及びブロック高さの情報を所有する。そして、比較帳票をピックアップするのにページ原点からの距離を使用し、類似度の計算に当該ブロックの面積を全テーブル・ブロックの面積で割った値を使用する。
【0045】
また、テーブル詳細情報とリンクするためにテーブルIDを保存する。このテーブルIDにリンクしたテーブルの詳細構造をテーブル書式で示し、テーブル内のセル個数、セルの位置、及び大きさ情報を保存している。
【0046】
帳票認識装置は、キーボードから帳票の登録や帳票の検索などの命令を受け取り、それに対応する処理をプロセッサ11が前記の書式データを使用して行う。そして、その認識結果をディスプレイに表示する。
【0047】
以下、図3及び図4を参照して本実施形態の帳票認識装置、特にプロセッサ11が実行する各種制御の動作を説明する。
【0048】
図3(a),(b)は、本実施形態の処理手順で類似度を求めるサンプル帳票を示す図であり、同図(a)は検索帳票サンプルを示し、同図(b)は登録帳票サンプルを示している。検索帳票サンプルが登録帳票サンプルとどの程度類似しているかを求め、最も類似している登録帳票を検索帳票と同じ帳票であると見なす。
【0049】
図4は、本実施形態に係る類似度を計算するための手順を示すフローチャートであり、このフローチャートに従ったプログラムをメモリ12またはディスク15に格納し動作することにより、当該制御手順を実現させることが可能となる。
【0050】
処理の開始時には、すべての登録済み帳票の中から類似度を計算する登録帳票をピックアップしているものとする。これらの登録帳票に対して、ステップS11以降の類似度の計算を行う。
【0051】
ステップS11では、検索帳票のテーブルと同じ位置にあるテーブルを登録帳票からピックアップする。すなわち、テーブル・ブロックの左上角座標が近似しているテーブルブロックを抽出する。本例では、検索帳票のテーブル1(1,1)に対して、サンプルの登録帳票のテーブル1(2,1)が近似位置にある。この2つのテーブルの類似度を計算する。
【0052】
ステップS12では、類似度のペナルティ値を計算する時の係数Kを取得する。本発明では、この係数として、検索帳票のページ書式の「当該テーブル面積/全テーブル面積」の値を使用する。
【0053】
ステップS13では、テーブル位置と大きさの相違をペナルティ値にセットする。ここで、検索帳票のページ幅と高さをそれぞれSPW、SPH、登録帳票のページ幅と高さをそれぞれRPW、RPHとすると、その平均値は、
APW=(SPW+RPW)/2=9
APH=(SPH+RPH)/2=13
となる。
【0054】
まず、位置の相違を求める。検索帳票のテーブル座標S1(SX、SY)=(1,1)、登録帳票のテーブル座標RT1(RX,RY)=(2,1)である。
【0055】
Figure 0004416202
次に大きさの相違を求める。検索帳票のテーブル幅と高さをそれぞれSTW、STH、登録帳票のテーブル幅と高さをそれぞれRTW、RTHとする。その平均値ATWは、
Figure 0004416202
となる。
【0056】
テーブル位置と大きさの相違によるペナルティ値をPTとすれば、
PT=1/9+1/6.5=0.265
となる。
【0057】
ステップ14では、テーブル書式情報を利用して、テーブル1のセルの個数、位置、及び大きさの相違をペナルティ値PCにセットする。
【0058】
ステップS15において、テーブル1の相違によるペナルティ値を帳票の類似度計算に組み込めば、この時点の類似度は100%であるから
類似度=現在の類似度−{K×(PT+PC)}=1−{K×(PT+PC)}
となる。
【0059】
ステップS16では、検索帳票のテーブル2のペナルティ値を計算していないから、ステップS11に戻ってテーブル2対する計算を前記のフローで行う。
【0060】
そして、ステップS16に再度進めば、すべてのテーブルに対して計算を行ったので、ステップS17で最終的に検索帳票と当該登録帳票の類似度とが取得できる。
【0061】
ステップS11からステップS17の処理を、あらかじめピックアップした帳票全てに対して実行したとき、最も類似度が高い登録帳票を、検索帳票と同じ帳票であるとして、登録帳票のIDコードを出力することで、帳票認識の処理を終了する。
【0062】
上述したように、本実施形態の帳票認識方式は、視覚的に注目すべきテーブルを面積比率の大きいテーブルと定義し、図2に示す帳票ページ書式に、「テーブル面積/全テーブル面積」の値を、注目度を表すデータとして保存する。そして、この保存データを、テーブルブロックの位置及び大きさの相違を求める計算式の注目度係数として使用する。また、テーブル詳細書式の相違を求める計算式にも、同様に係数として使用する。これらの計算式で求まる値は、テーブル面積の大きいテーブルほど、相違度に関与する数値が大きくなる。つまり、注目度係数は、テーブル面積の大きいテーブルが類似している帳票ほど、類似度を高くするように作用する。
【0063】
このように、帳票の書式データを使用して計算する類似度を、視覚的な印象により近づけるために、検索帳票の書式データのテーブル注目度を使用し、この注目度を、テーブルの位置及び大きさの類似度であるペナルティ値を求める計算式の係数として乗ずると共に、テーブル詳細のペナルティ値の計算式の係数としても乗ずる。これにより、これらのペナルティ値から求める類似度は、より人の感覚に近い値になる。
[第2実施形態]
上記第1実施形態では、視覚的に注目すべきテーブルを単純に、「当該テーブル面積/全テーブル面積」と定義し、これを注目度としてページ書式に保存したが、本実施形態では、これとは別に例えば、テーブル中心座標が帳票ページの中央にあるテーブルを最も注目すべきテーブルと定義する。このように定義するならば、注目度は以下の式で求めることができる。
【0064】
帳票ページの中心座標を(PX,PY)
テーブル1の中心座標を(T1X,T1Y)
テーブル2の中心座標を(T2X,T2Y)
としたとき、帳票にn個のテーブルが存在する時、各々のテーブルの注目度は、次のような式で表すことができる。
【0065】
【数1】
Figure 0004416202
【0066】
また、テーブルの大きさと前記の中心座標の両方を注目度に設定するならば、次式で求めることができる。すなわち、上記第1実施形態で説明したテーブルの面積比率をSRとし、前記テーブルの中心座標の注目度をPRとしたとき、両方の条件を均等に注目度に振り分けると、
注目度=(SR+PR)/2
で設定することができる。
【0067】
本発明は、上述した実施形態の装置に限定されず、複数の機器から構成されるシステムに適用しても、1つの機器から成る装置に適用してもよい。前述した実施形態の機能を実現するソフトウェアのプログラムコードを記憶した記憶媒体をシステムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、完成されることは言うまでもない。
【0068】
この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。プログラムコードを供給するための記憶媒体としては、例えば、フロッピーディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリーカード、ROMを用いることができる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけではなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOSなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0069】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、次のプログラムコードの指示に基づき、その拡張機能を拡張ボードや拡張ユニットに備わるCPUなどが処理を行って実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0070】
【発明の効果】
以上詳述したように、本発明によれば、帳票認識結果として出力される類似度を、より人の視覚的な印象に近い値にすることが可能になる。
【図面の簡単な説明】
【図1】本発明の第1実施形態に係る帳票認識装置の基本構成を示すブロック図である。
【図2】第1実施形態に係る書式データのページ書式とテーブル書式の一例を示す図である。
【図3】第1実施形態の処理手順で類似度を求めるサンプル帳票を示す図である。
【図4】第1実施形態に係る類似度計算処理を示すフローチャートである。
【符号の説明】
11 プロセッサ
12 メモリ
13 スキャナー
14 キーボード
15 ディスク
16 ディスプレイ
20 バス

Claims (7)

  1. 検索対象の帳票画像を領域分割することにより、当該帳票画像内に含まれるテーブルに関する書式データを抽出する抽出手段と、
    前記抽出手段で抽出された検索対象の帳票画像内に含まれるテーブルに関する書式データと予め登録されている複数の登録帳票それぞれのテーブルに関する書式データとを比較することによって、当該検索対象の帳票に対する各登録帳票の類似度を計算し、当該計算した類似度に基づいて当該検索対象の帳票画像に最も類似する登録帳票を出力する帳票認識手段とを備えた帳票認識装置において、
    前記帳票認識手段で前記類似度を計算する際、前記検索対象の帳票画像内に含まれる各テーブルのうち面積の大きいテーブルの比較結果に掛けられる係数が面積の小さいテーブルの比較結果に掛けられる係数よりも大きくなるように制御することを特徴とする帳票認識装置。
  2. 前記帳票認識手段は、当該検索対象の帳票画像に含まれる各テーブルに関する書式データと前記登録帳票内の対応するテーブルに関する書式データとの間の相違度と、前記検索対象の帳票画像に含まれる各テーブルの面積を当該帳票画像内に含まれる全てのテーブルの面積で割った値とに基づいて、前記類似度を求めることを特徴とする請求項1記載の帳票認識装置。
  3. 前記テーブルに関する書式データは、前記帳票画像内に含まれる各テーブルの位置と大きさとに関するデータと、当該各テーブル内に含まれるセルの位置と大きさとに関するデータとを含むことを特徴とする請求項1または請求項2記載の帳票認識装置。
  4. 前記帳票認識手段は、前記検索対象の帳票画像に最も類似する登録帳票の識別コードを帳票認識結果として出力することを特徴とする請求項1記載の帳票認識装置。
  5. 前記帳票認識手段で前記類似度を求める際、更に、前記検索対象の帳票画像内に含まれるテーブルの位置が前記検索対象の帳票画像の中心に近いほど前記係数が大きくなるように制御することを特徴とする請求項1記載の帳票認識装置。
  6. 検索対象の帳票画像を領域分割することにより、当該帳票画像内に含まれるテーブルに関する書式データを抽出する抽出手段と、
    前記抽出手段で抽出された検索対象の帳票画像内に含まれるテーブルに関する書式データと予め登録されている複数の登録帳票それぞれのテーブルに関する書式データとを比較することによって、当該検索対象の帳票に対する各登録帳票の類似度を計算し、当該計算した類似度に基づいて当該検索対象の帳票画像に最も類似する登録帳票を出力する帳票認識手段とを備えた情報処理システムにおいて、
    前記帳票認識手段で前記類似度を計算する際、前記検索対象の帳票画像内に含まれる各テーブルのうち面積の大きいテーブルの比較結果に掛けられる係数が面積の小さいテーブルの比較結果に掛けられる係数よりも大きくなるように制御することを特徴とする情報処理システム。
  7. コンピュータに、
    検索対象の帳票画像を領域分割することにより、当該帳票画像内に含まれるテーブルに関する書式データを抽出する抽出機能
    前記抽出機能で抽出された検索対象の帳票画像内に含まれるテーブルに関する書式データと記憶手段に登録されている複数の登録帳票それぞれのテーブルに関する書式データとを比較することによって、当該検索対象の帳票に対する各登録帳票の類似度を計算し、当該計算した類似度に基づいて当該検索対象の帳票画像に最も類似する登録帳票を出力する帳票認識機能、を実現させるためのプログラムを記憶したコンピュータ読み取り可能な記憶媒体であって、
    前記帳票認識機能では、前記類似度を計算する際、前記検索対象の帳票画像内に含まれる各テーブルのうち面積の大きいテーブルの比較結果に掛けられる係数が面積の小さいテーブルの比較結果に掛けられる係数よりも大きくなるように制御することを特徴とする、前記プログラムを記憶したコンピュータ読み取り可能な記憶媒体。
JP09148399A 1999-03-31 1999-03-31 帳票認識装置、情報システム、及び記憶媒体 Expired - Lifetime JP4416202B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP09148399A JP4416202B2 (ja) 1999-03-31 1999-03-31 帳票認識装置、情報システム、及び記憶媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP09148399A JP4416202B2 (ja) 1999-03-31 1999-03-31 帳票認識装置、情報システム、及び記憶媒体

Publications (2)

Publication Number Publication Date
JP2000285187A JP2000285187A (ja) 2000-10-13
JP4416202B2 true JP4416202B2 (ja) 2010-02-17

Family

ID=14027668

Family Applications (1)

Application Number Title Priority Date Filing Date
JP09148399A Expired - Lifetime JP4416202B2 (ja) 1999-03-31 1999-03-31 帳票認識装置、情報システム、及び記憶媒体

Country Status (1)

Country Link
JP (1) JP4416202B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4154308B2 (ja) 2003-10-06 2008-09-24 キヤノン株式会社 帳票認識装置、帳票認識方法、プログラムおよび記憶媒体
US7508986B2 (en) 2003-11-28 2009-03-24 Canon Kabushiki Kaisha Document recognition device, document recognition method and program, and storage medium
JP2005275820A (ja) 2004-03-25 2005-10-06 Canon Inc 帳票認識装置、方法、プログラムおよび記憶媒体
US7787158B2 (en) 2005-02-01 2010-08-31 Canon Kabushiki Kaisha Data processing apparatus, image processing apparatus, data processing method, image processing method, and programs for implementing the methods
JP4804433B2 (ja) 2007-08-21 2011-11-02 キヤノン株式会社 画像処理装置、画像処理方法、及び、画像処理プログラム

Also Published As

Publication number Publication date
JP2000285187A (ja) 2000-10-13

Similar Documents

Publication Publication Date Title
CN110147774B (zh) 表格式图片版面分析方法和计算机存储介质
JP3469345B2 (ja) 画像のファイリング装置及びファイリング方法
CN112418216B (zh) 一种复杂自然场景图像中的文字检测方法
JP2000090195A (ja) 表認識方法及び装置
WO2000052645A1 (fr) Dispositif de traitement d'image document, procede d'extraction de titre de document et procede d'information d'etiquetage de document
JP2007148677A (ja) 画像処理装置、画像処理方法
JP4416202B2 (ja) 帳票認識装置、情報システム、及び記憶媒体
WO2021179751A1 (zh) 图像处理方法和系统
JP2006227768A (ja) 携帯端末における文字認識のための方法およびプログラム
CN111079749B (zh) 一种带姿态校正的端到端商品价签文字识别方法和系统
JP2002203206A (ja) 文書書式識別装置および識別方法
JP4416204B2 (ja) 帳票認識装置、帳票認識方法、及び記憶媒体
JP2012234345A (ja) 帳票読取装置、角印検出方法、および、角印検出プログラム
JP2002170079A (ja) 文書書式識別装置および識別方法
JP2001101405A (ja) 画像認識方法及び画像認識装置
JP2658136B2 (ja) 文字認識方式
JP2803736B2 (ja) 文字認識方式
JPH11187231A (ja) 画像検索装置及び画像検索方法
WO2022056873A1 (zh) 变压器属性信息的更新方法、装置和计算机可读存储介质
JPH11143990A (ja) 文字認識方法及び装置及びその方法を記録した記録媒体
US10878229B2 (en) Shape discrimination device, shape discrimination method and shape discrimination program
JP4645186B2 (ja) 画像処理装置
JP2020095430A (ja) 情報処理装置、その制御方法とプログラム
JPH07117967B2 (ja) 図面処理システム
CN113506306A (zh) 多人抠图方法、系统、装置和存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040614

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20060210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060731

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20060822

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061023

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20061211

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20070105

RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20070627

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091124

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121204

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131204

Year of fee payment: 4

EXPY Cancellation because of completion of term