JP4329285B2 - 画像認識装置及び方法 - Google Patents
画像認識装置及び方法 Download PDFInfo
- Publication number
- JP4329285B2 JP4329285B2 JP2001224664A JP2001224664A JP4329285B2 JP 4329285 B2 JP4329285 B2 JP 4329285B2 JP 2001224664 A JP2001224664 A JP 2001224664A JP 2001224664 A JP2001224664 A JP 2001224664A JP 4329285 B2 JP4329285 B2 JP 4329285B2
- Authority
- JP
- Japan
- Prior art keywords
- specific pattern
- partial
- determined
- pattern
- size
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、パターンマッチングによる特定形状の対象物の認識に関する。
【0002】
【従来の技術】
近年カラー複写機の機能と性能が上がり、紙幣、有価証券などの有効な偽造防止方法が検討され続けている。偽造防止方法のひとつでは、紙幣などの模様の内に特定パターンを含めておく。そして、紙幣などがカラー複写機でスキャンされたときに、スキャンされた画像を解析し、画像内に特定パターンを検出したならば正常な像生成を禁止する。
【0003】
【発明が解決しようとする課題】
画像中の特定形状の対象物の位置検出、形状認識等のために、通常パターンマッチングが用いられる。パターンマッチングでは、特定パターンを識別するための基準パターンのデータを用意しておき、画像の各々の画素のデータを黒白の2値化データまたは多値化データとして画像メモリに記憶せしめ、この記憶されたデータと、基準パターンの各々の画素のデータを1画素ずつシフトして照合する。ここで、パターンマッチングには、多大な処理時間が必要になる。また、抽出したい領域のサイズが異なることがある場合、各サイズ毎にパターンマッチングを行う必要がある。これにより処理時間がさらに長くなる。
【0004】
入力機器からのデータの多くは情報量の多いカラー画像であり、また入出力機器はますます高速で高解像度になってきている。それにもかかわらず、偽造防止のため、実時間内での画像処理が求められている。それゆえ、特定パターンの検出のため、高速で高精度な画像認識の手法の開発が重要な課題である。
【0005】
この発明の目的は、画像認識の高速化の新しい提案をすることである。
【0006】
【課題を解決するための手段】
本発明に係る画像認識装置は、画像に含まれる特定パターンを検出する画像認識装置であって、画像データを2値化する2値化手段と、2値化手段により2値化された画像データのうち、検出対象とする特定パターンの一部分に対応する第1の領域のパターンマッチングを行って、前記特定パターンの前記画像データ内におけるサイズを決定する決定手段と、前記2値化画像データにおける特定パターンのパターンマッチングのための第2の領域を、決定手段により決定された前記特定パターンのサイズに対応して設定し、前記第2の領域のパターンマッチングの結果に基づいて、前記特定パターンが前記2値化画像データに含まれるか否かを検出する検出手段とを備える。
【0007】
好ましくは、前記第2の領域は複数の部分領域からなり、前記検出手段は、前記複数の部分領域について部分領域ごとに前記特定パターンの一部が含まれるか否かを判定し、前記複数の部分領域の中の1つの部分領域で前記特定パターンの一部が含まれないと判定したときは、前記特定パターンが画像に含まれないと判断する。
好ましくは、前記検出手段は、前記複数の部分領域を,決定手段により決定される前記サイズに応じて設定する。検出したサイズに応じて検査する位置を変更することによって、対象物を高精度で高速に認識することが可能になる。
好ましくは、前記複数の部分領域は、決定手段により決定される前記サイズの形状の内部の部分領域を含む。たとえば、前記サイズの形状の内部の部分領域は複数である。
好ましくは、前記複数の部分領域は、決定手段により決定される前記サイズの形状の周辺の部分領域を含む。
【0008】
本発明に係る画像認識方法では、画像に含まれる特定パターンを検出する画像認識において、画像データを2値化し、2値化された画像データのうち、検出対象の特定パターンの一部分に対応する第1の領域のパターンマッチングを行って、前記2値化画像データにおける前記特定パターンのサイズを決定し、前記2値化画像データにおける特定パターンの全体のパターンマッチングのための第2の領域を、決定された前記特定パターンのサイズに対応して設定し、前記第2の領域のパターンマッチングの結果に基づいて、前記特定パターンが前記2値化画像データに含まれるか否かを検出する。
好ましくは、前記画像認識方法において、前記第2の領域は複数の部分領域からなり、前記第2のパターンを用いた前記特定パターンの検出において、前記複数の部分領域について部分領域ごとに前記特定パターンの一部が含まれるか否かを判定し、前記複数の部分領域の中の1つの部分領域で前記特定パターンの一部が含まれないと判定したときは、前記特定パターンが画像に含まれないと判断する。好ましくは、前記複数の部分領域は、決定される前記特定パターンの前記サイズの形状の周辺の部分領域を含む。
【0009】
本発明に係るプログラムは、画像に含まれる特定パターンを検出する画像認識において、画像データを2値化するステップと、2値化された画像データのうち、検出対象の特定パターンの一部分に対応する第1の領域のパターンマッチングを行って、前記特定パターンの前記画像データ内におけるサイズを決定するステップと、前記2値化画像データにおける特定パターンの全体のパターンマッチングのための第2の領域を、決定された前記特定パターンのサイズに対応して設定し、前記第2の領域のパターンマッチングの結果に基づいて、前記特定パターンが前記2値化画像データに含まれるか否かを検出するステップとをコンピュータに実行させるためのプログラムである。
好ましくは、前記プログラムにおいて、前記第2の領域は複数の部分領域からなり、前記第2のパターンを用いた特定パターンの検出において、前記複数の部分領域について部分領域ごとに前記特定パターンの一部が含まれるか否かを判定し、前記複数の部分領域の中の1つの部分領域で前記特定パターンの一部が含まれないと判定したときは、前記特定パターンが画像に含まれないと判断する。好ましくは、前記プログラムにおいて、前記複数の部分領域は、決定される前記特定パターンの前記サイズの形状の周辺の部分領域を含む。
本発明に係るコンピュータ読み取り可能な記録媒体は、前記のプログラムを記録する。
【0010】
【発明の実施の形態】
以下、添付の図面を参照して本発明の実施の形態を説明する。
図1は、この発明の1実施形態による画像認識システムの構成を示す概略斜視図である。この画像認識システムは、CPUを中心として構成され、システム全体を制御する制御装置1と、画像あるいは文字等を表示し、操作のための各種表示等を行うディスプレイ2と、各種入力、指示操作等を行うためのキーボード3及びマウス4と、データ記録媒体であるフロッピーディスク5及びハードディスク6と、画像データを出力するためのプリンタ7と、画像データを取り込むためのスキャナー8およびCD−ROM装置9とから構成される。
【0011】
図2は、制御装置1を中心とした画像認識システムの制御系のブロック図である。制御装置1は、CPU201を中心として構成され、CPU201に接続されるデータバス220を介して、本システムを制御するプログラム等を記憶しているROM203と、データ及びプログラムを記憶するRAM204と、画像、文字等の表示をディスプレイ2に行う表示制御回路205と、キーボード5からの入力を転送制御するキーボード制御回路206と、マウス4からの入力を転送制御するマウス制御回路207と、フロッピーディスク5を制御するフロッピーディスク制御回路208と、ハードディスク6を制御するハードデイスク制御回路209と、プリンタ7への出力を制御するプリンタ制御回路210と、スキャナー8を制御するスキャナー制御回路211と、CD−ROM装置9を制御するCD‐ROM装置制御回路212とが接続される。また、CPU201には、本システムを動作させるために必要な基準クロックを発生するためのクロック202が接続され、さらにデータバス220を介して各種拡張ボードを接続するための拡張スロット215が接続される。なお、本実施形態では、システムを制御するプログラムや画像認識プログラムはROM203に記憶しているが、他の記録媒体に記憶しておいてもよい。また、通信装置を介してプログラムを受信して、実行させてもよい。
【0012】
この画像認識装置では、入力カラー画像を2値化し、2値化画像中の特定画像をパターンマッチングを用いて認識する。パターンマッチングにおいて、画像の左上端から順に8×8画素の領域を候補領域とし、各候補領域について特定画像を検出する。
【0013】
パターンマッチングの1つの問題は、同じ図形を読み取った画像データであっても2値化により異なったデータが生じることである。図3は、8×8画素領域内で同じドーナツ形状(2重の8角形で示す)を2値化して得られた4つの異なるデータを示す。図においてオン画素はハッチングで示す。この例では、3×3、3×4、4×3、4×4画素の4種類のデータが生じる。このような状況に対して、3×3、3×4、4×3、4×4の4つのサイズのフィルタを用いてパターンマッチングを行うことにより対応できるが、そうすると処理時間が長くなってしまう。
【0014】
そこで、本実施形態では、候補領域の2値化画像においてパターンマッチングを行うときに、まず認識対象(抽出したい形状)のサイズを決定し、次にそのサイズに対応してパターンマッチングを行う。具体的には、特定の部分領域の2値画像を参照して認識対象物のサイズを決定する。ここでは、同じ図形を読み取った画像データの2値化によるサイズの変化を検出するので、サイズの変化は1とする。あらかじめ決めた部分領域のオン画素数をカウントし、オン画素数が基準値未満ならサイズをA画素とし、基準値以上なら(A+1)画素とする。
【0015】
サイズ決定の後に、候補領域内の形状及びその周辺での部分領域ごとに順次パターンマッチングを行う。ただし、先に決定したサイズに対応して探索位置を異ならせる。ここで、複数の部分領域についてパターンマッチングを行う順番を定義し、1つの部分領域についてパターンの適合率が低い場合は、その候補領域での処理を終り、次の候補領域を探索する。これにより、パターンマッチングを高精度で行うとともに、処理の高速化を図る。
【0016】
図4は、パターンマッチングを用いた画像認識処理のフローチャートを示す。まず、画素ごとに複数の色情報を持つカラー画像データを入力する(S10)。この画像には、特定の色と形状で形成されるマークを含んでいる。次に、特定色に関してカラー画像データの2値化を行う(S12)。ここで、画像の各画素のRGB値が指定の範囲内であれば、その画素のビットをオンにし、それ以外の範囲の色であればビットをオフにする。たとえば、以下の条件(所定色の範囲)に合致すれば、ビットをオンにする。
Rmax ≦ R ≦ Rmin
Gmax ≦ G ≦ Gmin
Bmax ≦ B ≦ Bmin
ここで、R、G、Bは注目画素の赤、緑、青の画素値であり、Rmax、Gmax、Bmaxは、赤、緑、青の最大値であり、Rmin、Gmin、Bminは、赤、緑、青の最小値である。
【0017】
次に、あらかじめ決めた場所のオン画素数をカウントすることで、オン画素数が基準値未満ならサイズをA、基準値以上なら(A+1)としてサイズを決定する。まず、第1の部分領域のパターンマッチングを行い(S16)、条件を満たす場合、特定領域を用いたサイズ検出をおこなう(S18)。これにより、パターンマッチングするサイズを決定する。
【0018】
次に、残りの部分領域について部分領域毎にパターンマッチングを行うことで、高精度かつ高速に認識対象を認識する。まず、第2の部分領域のパターンマッチングを行い(S20)、条件を満たす場合、第3の部分領域のパターンマッチングを行う。このように、条件を満たす場合、次の部分領域の処理に移る。最後に、第Nの部分領域のパターンマッチングを行い(S22)、条件を満たす場合、次のステップS24に移る。このように部分領域毎にパターンマッチングを行い、いずれかの部分領域で条件を満足しない場合は、ただちにパターンマッチング処理を中止し、次の候補領域を探索し(S14)、その領域についてステップS16以下の処理を繰り返す。なお、候補領域は画像の左上端から1画素ずつ移動する。
【0019】
すべての部分領域において条件を満足すると、次に、精査のためのパターンマッチングを行う(S24)。条件を満たす場合、対象物と認識する(S26)。ここで、パターンマッチング処理の終了条件を満たさない場合、ステップS14に戻る。パターンマッチング処理の終了条件を満たす場合、パターンマッチングを終了する。
【0020】
次に、具体例について説明する。まず、サイズ決定を図5を参照して説明する。図5は、8×8の候補領域においてサイズ決定のため参照する画素の位置を示す。
(1) 前処理として、まず左上側の部分(○で示した5画素)でのオン画素数を検査する。所定値以上であれば次に進むが、所定値未満であれば、次の候補領域を探索する。
(2) 次に、上述の部分に隣接した+で示した9画素でのオン画素数を検査する。所定値以上であれば次に進むが、所定値未満であれば、次の候補領域を探索する。
(3) 次にサイズを決定する。まず左から6ライン目の□で示した3画素でのオン画素数から対象物の横サイズを検出する。(3画素中2画素以上なら横サイズ=4とし、2画素未満なら横サイズ=3とする。)
(4) 次に、上から6ライン目の☆で示した3画素でのオン画素数から対象物の縦サイズを検出する。3画素中2画素以上なら縦サイズ=4とし、2画素未満なら縦サイズ=3とする。
(5) こうして決定した縦横のサイズにより、パターンマッチングを行う領域(3×3、3×4、4×3、4×4のいずれか)を設定する。
【0021】
次に、決定したサイズに合わせて部分領域ごとのパターンマッチングを説明する。ここで、複数の部分領域についてパターンマッチングを行う順番が定義されている。ただし、サイズごとに探索する画素の位置は異なる。図6は、図4を参照して説明したように、ドーナツ形状を3×3、4×3、3×4、4×4のいずれかのサイズの対象物とした場合についてのパターンマッチング位置をあらわしている。探索する画素は3×3、4×3、3×4サイズのいずれの場合にも、以下の順で行うものとする。それぞれの部分領域についてパターンマッチング検査を行い、条件を満たせば次の部分領域のパターンマッチング検査を同様に行う。全ての部分領域について条件を満たす場合のみ対象物と認識する。いずれかの部分領域に対する検査で条件を満たすことができない場合には、次の検査には進まず、次の候補領域を選択して上述のサイズ決定からはじめる。
【0022】
(6) 部分領域についてのパターンマッチングでは、まず、ドーナツ形状の右下部(○で示す画素の部分領域(4×4の場合●も含む))のオン画素領域のオン画素数を検査する。(なお、左上部は(1)ですでにチェックしている。)所定数以上であれば次に進む。
(7) 次に、ドーナツ形状の中心穴(×で示す画素)の領域オン画素数を検査する。所定数以下であれば次に進む。
(8) 次に、ノイズを調べるため、ドーナツ形状の周辺1ライン目(太線で囲んだ部分)の領域でオン画素数を検査する。所定数以下であれば次に進む。
(9) 次に、ドーナツ形状の周辺2ライン目(◇の部分)の領域でオン画素数を検査する。ここで2ライン目を考慮するのは、ノイズの影響を小さくするためである。2ライン目を考慮することにより精度があがる。
(10) 4×4サイズの場合のみ、頂点位置(△と●で示す画素)のオン画素数を検査する。これにより大きすぎる画像を除く。所定数以下であれば次に進む。
(11) 次に、周辺に連続してオン画素(オン画素塊)が存在するかどうか検査する。存在しないときは、対象物と認識する。なお、8×8の領域の隅の位置にオン画素が存在しなくても、その両側に存在すれば連続と判断する。
【0023】
なお、(1)〜(11)の手順は入れ替えても良い。また、(1)〜(11)の検査領域(部分領域)を、さらに細かな領域に分けて検査してもよい。たとえば、図6に示す周辺1ライン目のオン画素数を計算するとき、左半分と右半分に分けて行っても良い。また、(4)の処理で、6ライン目の3画素中2画素以上がオンならば、縦サイズ=4としているが、6ライン目の3画素中2画素オン、かつ、5ライン目のオン画素数が規定を満たす場合も縦サイズ=4としてもよい。
【0024】
また、ドーナツ形状以外でも、ドーナツ形状の穴の部分をオン画素とした形状の識別も可能である。この場合、図6の中心穴(×の部分)を黒とすればよい。また、4角形状も同様に検出可能である。
【0025】
また、3角形状、十字型や星型の形状も、領域の指定の仕方を変更することで同じ手法で扱える。
【0026】
【発明の効果】
パターンマッチングにおいて、抽出したい形状のサイズが異なることがある場合、従来はサイズ毎にパターンマッチングを行う必要があった。本発明では、部分領域の情報を用いてサイズを決定し、そのサイズに応じて参照画素を変更しパターンマッチングを行うので、全てのサイズ毎にパターンマッチングを行う必要がなくなり、処理時間が短くなる。
【0027】
また、サイズに応じたパターンマッチングを行う際、各部分領域に分けてパターンマッチングを行うが、ここで、各部分領域ごとに一定の基準をあらかじめ設け、その基準を満たさない場合には、次の部分領域を参照しないで、次の候補領域を探索する。これにより、高速でパターンマッチングを行える。
【図面の簡単な説明】
【図1】 画像認識システムのブロック図
【図2】 制御装置を中心とした制御系のブロック図
【図3】 同じドーナツ形状についての異なる2値化データを示す図
【図4】 画像認識のフローチャート
【図5】 サイズ決定のための部分領域の図
【図6】 パターンマッチングのための部分領域の図
【符号の説明】
1 制御装置、 201 CPU、 203 ROM。
Claims (13)
- 画像に含まれる特定パターンを検出する画像認識装置において、
画像データを2値化する2値化手段と、
2値化手段により2値化された画像データのうち、検出対象とする特定パターンの一部分に対応する第1の領域のパターンマッチングを行って、前記2値化画像データにおける前記特定パターンのサイズを決定する決定手段と、
前記2値化画像データにおける特定パターンの全体のパターンマッチングのための第2の領域を、決定手段により決定された前記特定パターンのサイズに対応して設定し、前記第2の領域のパターンマッチングの結果に基づいて、前記特定パターンが前記2値化画像データに含まれるか否かを検出する検出手段と
を備える画像認識装置。 - 前記第2の領域は複数の部分領域からなり、前記検出手段は、前記複数の部分領域について部分領域ごとに前記特定パターンの一部が含まれるか否かを判定し、前記複数の部分領域の中の1つの部分領域で前記特定パターンの一部が含まれないと判定したときは、前記特定パターンが画像に含まれないと判断することを特徴とする請求項1に記載された画像認識装置。
- 前記検出手段は、前記複数の部分領域を、決定手段により決定される前記サイズに応じて設定することを特徴とする請求項2に記載された画像認識装置。
- 前記複数の部分領域は、決定手段により決定される前記サイズの形状の内部の部分領域を含むことを特徴とする請求項2に記載された画像認識装置。
- 決定手段により決定される前記サイズの形状の内部の部分領域は複数であることを特徴とする請求項4に記載された画像認識装置。
- 前記複数の部分領域は、決定手段により決定される前記サイズの形状の周辺の部分領域を含むことを特徴とする請求項2に記載された画像認識装置。
- 画像に含まれる特定パターンを検出する画像認識において、
画像データを2値化し、
2値化された画像データのうち、検出対象の特定パターンの一部分に対応する第1の領域のパターンマッチングを行って、前記2値化画像データにおける前記特定パターンのサイズを決定し、
前記2値化画像データにおける特定パターンの全体のパターンマッチングのための第2の領域を、決定された前記特定パターンのサイズに対応して設定し、前記第2の領域のパターンマッチングの結果に基づいて、前記特定パターンが前記2値化画像データに含まれるか否かを検出する
画像認識方法。 - 前記第2の領域は複数の部分領域からなり、前記第2のパターンを用いた前記特定パターンの検出において、前記複数の部分領域について部分領域ごとに前記特定パターンの一部が含まれるか否かを判定し、前記複数の部分領域の中の1つの部分領域で前記特定パターンの一部が含まれないと判定したときは、前記特定パターンが画像に含まれないと判断することを特徴とする請求項7に記載された画像認識方法。
- 前記複数の部分領域は、決定される前記特定パターンの前記サイズの形状の周辺の部分領域を含むことを特徴とする請求項8に記載された画像認識方法。
- 画像に含まれる特定パターンを検出する画像認識において、
画像データを2値化するステップと、
2値化された画像データのうち、検出対象の特定パターンの一部分に対応する第1の領域のパターンマッチングを行って、前記2値化画像データにおける前記特定パターンのサイズを決定するステップと、
前記2値化画像データにおける特定パターンの全体のパターンマッチングのための第2の領域を、決定された前記特定パターンのサイズに対応して設定し、前記第2の領域のパターンマッチングの結果に基づいて、前記特定パターンが前記2値化画像データに含まれるか否かを検出するステップと
をコンピュータに実行させるためのプログラム。 - 前記第2の領域は複数の部分領域からなり、前記第2のパターンを用いた特定パターンの検出において、前記複数の部分領域について部分領域ごとに前記特定パターンの一部が含まれるか否かを判定し、前記複数の部分領域の中の1つの部分領域で前記特定パターンの一部が含まれないと判定したときは、前記特定パターンが画像に含まれないと判断することを特徴とする請求項10に記載された画像認識装置。
- 前記複数の部分領域は、決定される前記特定パターンの前記サイズの形状の周辺の部分領域を含むことを特徴とする請求項10に記載された画像認識装置。
- 請求項10または11に記載されたプログラムを記録したコンピュータ読取可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001224664A JP4329285B2 (ja) | 2001-07-25 | 2001-07-25 | 画像認識装置及び方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001224664A JP4329285B2 (ja) | 2001-07-25 | 2001-07-25 | 画像認識装置及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003036440A JP2003036440A (ja) | 2003-02-07 |
JP4329285B2 true JP4329285B2 (ja) | 2009-09-09 |
Family
ID=19057785
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001224664A Expired - Fee Related JP4329285B2 (ja) | 2001-07-25 | 2001-07-25 | 画像認識装置及び方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4329285B2 (ja) |
-
2001
- 2001-07-25 JP JP2001224664A patent/JP4329285B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003036440A (ja) | 2003-02-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP0940780B1 (en) | Image processing device and method for detecting a reference pattern | |
JP3052947B2 (ja) | パターン認識装置、パターン認識方法、パターン認識方法を記憶した記憶媒体および複写阻止システム | |
JP3825070B2 (ja) | 偽造防止用紙幣パターン検知器および検知方法 | |
JP4769142B2 (ja) | 実行プロファイルを用いた文書セキュリティマークの検出 | |
JP2000333005A (ja) | パターン検出方法、装置および記録媒体 | |
US7016538B2 (en) | Image processor for detecting specified pattern | |
JP4366886B2 (ja) | 画像認識のための装置と方法 | |
JP3427554B2 (ja) | 画像処理装置及び方法 | |
JP4329285B2 (ja) | 画像認識装置及び方法 | |
JP3963053B2 (ja) | 画像認識装置及び記録媒体並びに画像処理装置 | |
US6408106B1 (en) | Information reading system | |
JPH07212584A (ja) | 画像処理装置並びにそれを用いた複写機 | |
JP2001312732A (ja) | 画像処理装置および方法 | |
JP2003281593A (ja) | 硬貨識別装置と硬貨登録装置と硬貨判定装置、並びに硬貨判定方法 | |
JP4680419B2 (ja) | 円パターン検出装置、方法、コンピュータ実行可能なプログラム、および、そのようなプログラムを記録した記録媒体 | |
JP4140170B2 (ja) | 画像処理装置および方法 | |
JP2003289437A (ja) | 画像処理装置および方法 | |
JP4254008B2 (ja) | パターン検出装置及び方法 | |
JP2003288594A (ja) | 画像処理装置および方法 | |
JP4206605B2 (ja) | 画像処理装置、画像処理方法、および画像処理プログラムを記録した記録媒体 | |
JP2001195584A (ja) | 画像認識装置 | |
JPH0540843A (ja) | 用紙情報入力装置 | |
US20020001096A1 (en) | Image processor for detecting specified pattern | |
JP2001313826A (ja) | 画像処理装置、画像処理方法、および画像処理プログラムを記録した記録媒体 | |
JPH08202876A (ja) | 画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20050614 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060323 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20060420 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20060420 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090202 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090303 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090428 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090526 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090608 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120626 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |