JP4406974B2 - 画像検出装置、画像検出方法および記録媒体 - Google Patents

画像検出装置、画像検出方法および記録媒体 Download PDF

Info

Publication number
JP4406974B2
JP4406974B2 JP28437699A JP28437699A JP4406974B2 JP 4406974 B2 JP4406974 B2 JP 4406974B2 JP 28437699 A JP28437699 A JP 28437699A JP 28437699 A JP28437699 A JP 28437699A JP 4406974 B2 JP4406974 B2 JP 4406974B2
Authority
JP
Japan
Prior art keywords
specific
singular point
singularity
block
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP28437699A
Other languages
English (en)
Other versions
JP2001109892A (ja
Inventor
幸宏 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP28437699A priority Critical patent/JP4406974B2/ja
Publication of JP2001109892A publication Critical patent/JP2001109892A/ja
Application granted granted Critical
Publication of JP4406974B2 publication Critical patent/JP4406974B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、スキャナやファクシミリもしくはデジタル複写機など、画像情報を取り込みデジタル画像を扱う画像入出力技術に関するものであり、特定原稿を自動的に検出することにより、原稿種類の特定による機器制御などを行うための画像検出装置、画像検出方法および記録媒体に関するものである。
【0002】
【従来の技術】
特定の原稿を検出する装置において、予め指定した特定画像を検出する場合、各画像に存在する複雑な図形を認識したり、文字画像を切出した後にOCR(光学的文字認識)を行うなど、複雑な処理が必要であり、特定原稿の検出を終了するまでに多くの時間がかかった。
【0003】
【発明が解決しようとする課題】
しかし、上記ようなの処理は複雑な処理が必要であり、特定原稿の検出を終了するまでに多くの時間がかかるため、高速に検出を行う必要がある場合には、高速な動作が可能なハードウェアが必要となるといった問題がある。
【0004】
本発明は、効率的に特定画像を検出でき、簡単なハードウェアやソフトウェアであっても高速に特定画像を検出できる画像検出装置、画像検出方法および記録媒体を提供することを目的とする。
【0005】
【課題を解決するための手段】
上記した課題を解決するために、本発明の画像検出装置は、画像信号を入力する入力手段と、入力画像中から特異点を検出する検出手段と、検出した特異点の情報を記憶する記憶手段と、特異点の相対位置を調べ特定画像の位置関係であるかを判定する判定手段とを有する画像検出装置とした。
【0006】
この発明によれば、効率的に特定画像を検出でき、簡単なハードウェアやソフトウェアであっても高速に特定画像を検出できる画像検出装置、画像検出方法および記録媒体を提供することができる。
【0007】
【発明の実施の形態】
請求項1に記載の発明は、画像信号を入力する入力手段と、この入力手段から入力された画像信号中から特異点を検出する検出手段と、この検出手段が検出した特異点の位置座標を、複数の画素を一単位とするブロック毎に記憶する記憶手段と、この記憶手段に記憶されている一つの特異点を第一の特定特異点として選択し、この選択された第一の特定特異点の位置座標に基づいて第二の特定特異点の存在が推定されるブロックを設定し、この設定したブロックに対応づけて記憶されている特異点の位置座標についてのみ順次前記第二の特定特異点に相当するか否かの探索を行う判定手段を具備することを特徴とする画像検出装置である。
【0008】
請求項2に記載の発明は、前記判定手段は、前記第二の特定特異点を検出した後には、前記第一の特定特異点及び前記第二の特定特異点の位置座標に基づいて第三の特定特異点の存在が推定されるブロックを設定し、この設定したブロックに対応づけて記憶されている特異点の位置座標についてのみ順次前記第三の特定特異点に相当するか否かの探索を行うことを特徴とする請求項1記載の画像検出装置である
【0009】
請求項3に記載の発明は、画像信号を入力する入力手段と、この入力手段から入力された画像信号中から特異点を検出する検出手段と、この検出手段が検出した特異点の位置座標を、複数の画素を一単位とするブロック毎に記憶する記憶手段と、前記記憶手段に記憶された特異点の位置座標を用いて特定特異点を判定する判定手段とを具備する画像検出装置において、前記記憶手段に記憶されている一つの特異点を第一の特定特異点として選択し、この選択された第一の特定特異点の位置座標に基づいて第二の特定特異点の存在が推定されるブロックを設定し、この設定したブロックに対応づけて記憶されている特異点の位置座標についてのみ順次前記第二の特定特異点に相当するか否かの探索を行うことを特徴とする画像検出方法である。
【0010】
請求項4に記載の発明は、前記第二の特定特異点を検出した後には、前記第一の特定特異点及び前記第二の特定特異点の位置座標に基づいて第三の特定特異点の存在が推定されるブロックを設定し、この設定したブロックに対応づけて記憶されている特異点の位置座標についてのみ順次前記第三の特定特異点に相当するか否かの探索を行うことを特徴とする請求項3記載の画像検出方法である。
【0011】
請求項5に記載の発明は、請求項3及び請求項4記載の方法を実行するためのプログラムを保存した記録媒体である。
【0024】
(実施の形態)
以下、本発明の実施の形態について図面を参照して説明する。図1は、本発明の一実施の形態における画像検出装置の構成図、図2は同画像検出装置の動作説明のフローチャート、図3は同画像検出装置の動作説明のフローチャート、図4は同入力画像の例図、図5は同入力画像の例図、図6は同特異点検出の説明図、図7は同特異点モデルパターンの説明図、図8は同ブロックの説明図、図9は同記憶手段の説明図、図10は同記憶手段のデータの説明図、図11は同判定手段の動作の説明図、図12は同判定手段の動作の説明図、図13は同判定手段の動作の説明図、図14は同判定手段の動作の説明図、図15は同特異点の説明図、図16は同別の構成の説明図である。
【0025】
図1において、1は画像検出装置、2は画像信号を入力する画像入力手段、3は画像を記憶する画像メモリ、4は画像メモリ3内の画像から特異点を検出する検出手段、5は特異点の検出結果を記憶する記憶手段、6は前記記憶手段5に記憶された特異点の配置が特定画像の位置関係であるかを判定する判定手段である。
【0026】
次に画像検出装置の各部分の動作について説明する。画像入力手段2は外部に接続しているスキャナから画像データを読取り、一旦画像メモリ3に蓄積する。このときの画像は、本来カラーの多値画像であるが、本発明の説明を簡単にするために、白黒の2値画像とする。
【0027】
蓄積が終了すると、検出手段4が画像中の特定点を検出するために動作を開始する。この特異点については後述する。以下の動作については図2乃至図3のフローチャートも参照しながら説明を行なう。
【0028】
まず検出手段4は注目エリアを規定する5×5画素の探索ウインドウを初期設定として読取り画像の左上に置き(ステップ201)、探索ウインドウ内のデータが特異点の特徴をなしているか調査する(ステップ202)。特異点の調査方法については後述する。特異点であると判定した位置座標を後述するブロック単位に区切って記憶手段5に記憶する(ステップ203、204)。このときの座標をCn(i)=(Xni、Yni)で表す。但し、ブロックの番号をn、ブロック内で検出された順にi=0、1、2・・・とする。特異点が検出されない場合は、逐次ウィンドウの位置を移動し(ステップ205)、上記動作を繰り返し行い(ステップ201〜205)、画像データ終了まで実行する(ステップ206)。
【0029】
検出手段4の動作が完了すると、続いて判定手段6が動作を開始する。判定手段6は記憶手段5に記憶した座標データをブロック単位で見ていく。まず最初にの注目のするブロックBn(以降、注目ブロックBnと呼ぶ)をn=0として画像左上のブロックに設定する(ステップ301)。特異点検出があれば、続いて特定特異点P(t)をt=0に初期化する(ステップ302、303)。ここで、特定特異点P(t)とは、特定原稿中から予め見つけた特異点のそれぞれに番号t(t=0、1、2、・・・、(T−1))を付しておいたものに相当し、複数の特定特異点の組合せ配置により特定原稿を規定しようとするものである。その詳細については後述する。
【0030】
次に、注目ブロックBnに対して保存されている位置座標Cn(i)を順に取りだし、これを特定特異点P(t)とみなしたとき、次の特定特異点P(t+1)の位置座標を推定し(ステップ304)、当該特定特異点P(t+1)が存在する可能性のある1つ以上のブロックを候補ブロックBmとして設定する(ステップ305)。
【0031】
続いて、候補ブロックBm内に対して保存されている位置座標Cm(i)(i=0、1、2、・・・)を順に取りだし、特定特異点P(t+1)の座標に一致または近い位置座標Cm(i)を探索する(ステップ306)。特定特異点P(t+1)の座標に一致または近い位置座標Cm(i)が見つかった場合(ステップ307)、P(t)がt<(T−1)であれば(ステップ308)、tを(t+1)におきかえることにより次に探索すべき特定特異点設定し(ステップ309)、上記ステップ304以降の処理を繰り返す。最後の特定特異点P(T−1)までの処理が終わると(ステップ308)、検索結果を出力し特定画像が有ったことを出力(通知)し検索を終了する。
【0032】
判定候補ブロック内で特定特異点P(t+1)の座標に一致する位置座標が見つから無かった場合、まだブロックBnが残っている場合は注目ブロックBnを次に進め、全てのブロックBnに対して処理が完了していれば、検索を終了する(ステップ311、312)。ここで、特異点について説明する。ここでいう特異点とは、周辺の画像とは著しく特徴が異なる点を意味する。
【0033】
図4に示した画像(簡単のため白黒2値画像とする)では、多くの直線または曲線により構成されているが、交点が少ない画像であるため、当該交点を特異点として設定することができる。図4の例に対しては、図5の501及び502の破線矩形で示した9箇所の位置に存在する。この9個の特異点を持った画像が特定画像であるとすることも可能であるが、さらに対象を絞り、図4の右上部にある二重楕円と直交直線のマークをこの画像の特定画像とするためのキー画像であるとして、図5の501のような7点(破線矩形で示す)を特異点とすることができる。更に、このような特異点はその相対的な配置が特徴となる。これら特異点の中の1つを特異点P(0)として、他の点をP(1)、P(2)、・・・、P(6)と定め、P(0)を起点としたときの他の点P(t)(t=1〜6)の位置(相対位置情報)を予め記憶しておく。入力画像から、これらの特異点を探索し、これら特異点の相対位置を調査することで、特定画像を検出可能とする。
【0034】
上記特異点の検出方法について説明する。図6乃至図7は特異点の探索方法の説明図である。図6は入力画像にウィンドウを設定したときの様子を表した図である。601は画像を構成する最小単位の画素である。画像のK×K(ここではK=5)の画素601に着目するウィンドウ602を設定し、画像の起点(画像右上)から順に1画素づつ移動させながら、このウィンドウ602中のパターンについて調査する。特定のパターンが存在する場合に、このウィンドウ602の設定した位置を特異点として定める。図7は黒画素が1画素幅で十字状に並ぶときのモデルパターンの一部を示したもので、画像を様々な方向に向けた場合の十字画像の画素配置を示している。注目しているウインドウ内のデータが、これらのうち1つに相当する場合、十字状の点が存在するとして、このウィンドウの設定位置(ここではブロックの中心画素の位置)を特異点の座標として検出する。図6の例では、ウィンドウを603のように設定したとき、604の画素の位置座標が特異点の座標として検出される。
【0035】
但し、実際の画像において、画像の読取り状況などにより検出されるべき特異点であっても図7に示したモデルパターンに完全に一致しない可能性もある。そのため、(数1)に示すような式により特異点らしさをスコア化し、スコアSが一定以上ある場合に限り、特異点として見なす。但し、(数1)において、Sは0〜100のスコア、Tはウィンドウ内でモデルパターンに一致した画素数、Aはウィンドウ内の全画素数である。
【0036】
【数1】
Figure 0004406974
【0037】
上記のようにして検出された特異点の情報は更に、ブロック単位に取りまとめられて保存する。図8はこのときのブロック概念図であり、直線によって区切られた801の一つの区画がブロックを表している。図9はブロック801毎に特異点座標を取りまとめるためのデータのフォーマットを示した図であり、1ブロック毎に検出された特異点の位置座標およびそのスコアSが保存される。またこのとき、保存に際してスコアSが大きい順にソートしながら保存される。
【0038】
ここで、ブロック801の番号とは、画像をN画素×N画素のブロック801に区切ったとき、画像左上を起点として、0、1、2、・・・と順に付けたものである。検出された特異点をどのブロック801のデータとして保存するかは、検出された特異点の位置座標から(数2)により計算し求める。但し、(数2)においてB_NUMはブロック番号、Px,Pyは検出された特異点のx、y座標、IMG_W、IMG_H、BLOCK_SIZEはそれぞれ入力画像の幅、ブロックサイズ(いずれも画素数)、BNUM_Wは横方向ブロック数を表している。
【0039】
【数2】
Figure 0004406974
【0040】
次に、判定手段6の動作について詳細に説明する。図10はブロックと、記憶されたデータを表した概念図である。1001のB0、B1、・・・がブロックを表し、また1002の×印が検出手段により検出された特異点を示しており、各ブロック毎に検出された特異点をまとめている様子を示している。
【0041】
図11乃至図14は、図10の特異点から特定特異点を見つけ出す過程を説明する図である。まず、注目ブロックをB0から順に見ていき注目ブロック内部に検出された特異点が存在するかチェックする。注目ブロックを図11の1101の太枠で囲ったブロックに設定した場合、1ブロック内に2つの特異点があるが、ブロック内に記憶されている順、すなわち特異点らしさを表すスコアの高い順に一つの特異点を選択し(図では左上方の特異点)、これをP(0)と仮定する。続いてP(1)に相当する特異点を探索するために、P(1)の属する可能性の有るブロックを候補ブロックBmとして設定する。すなわち、図11のようにP(0)を中心とし、P(0)P(1)間の距離で円を描いたとき、円の通るブロックをP(1)が候補ブロックBmとして選択される(図11の斜線ブロック)。ここでは、この選択されたいずれの候補ブロックにも特異点が無いため、P(1)は無いものとして、同注目ブロック内の別の特異点あるいは、次の注目ブロックへ処理を移す。
【0042】
一方、注目ブロックが図12の1201の太線で囲ったブロックに到達したとき、上記と同様に1202の候補ブロック(斜線ブロック)を設定する。これらの候補ブロックに保存されている特異点についてP(0)との距離がP(0)P(1)間の距離に近いかチェックする。ここでは、1203の太枠ブロックの特異点条件を満たす点として選択される。
【0043】
続いて、上記で見つかった2つの特異点をそれぞれ特定特異点P(0)、P(1)と見なしたときの次の特定特異点P(2)の候補位置を計算し、そのブロック位置を求める。P(0),P(1)が逆である場合も考慮し、図13の1301および1302の斜線ブロックのように、2つの領域のブロックを候補ブロックBmとして設定する。これらの候補ブロック中、から上記と同様のP(0)P(2)間もしくはP(1)P(2)間の距離と条件が一致する特異点を探す。
【0044】
なお、特定特異点の候補位置を換算した際、その位置がブロックのエッジ部分に近い場合は、隣接する1ブロックも拡張候補ブロックとして設定することで、計算誤差や特異点検出位置のずれなどをカバーした効率的探索を行うことができる。図13では1302の右下がり斜線のブロックがこのような拡張候補ブロックとして設定されている。
【0045】
上記のような処理を繰り返し、図11のような特異点の検出結果からは、図14の○印をつけた特異点を特定特異点として見つけることができ、この入力画像を特定画像とみなすことができる。このように、少ない画素で構成されるウィンドウを走査しながら画像中の特異点を検索し、検出手段4が特異点をブロック毎に記憶することにより、続く判定手段6の動作において、必要なブロックに関するデータのみを調査することができるため、無駄な調査が少なく、効率の良い画像検出を行うことができる。
【0046】
なお、特異点の定義については、上記で説明を簡単に行うために1画素幅十字という簡単な例を述べたが、実際には、カラー画像に対してウィンドウ内に特定の色パターンがある場合や、図15に示すようなウィンドウ内の一部の画素に着目し、例えば、1501の斜線で示した画素が全て等しく、1502の中央の黒塗りで示した画素が赤であるというような条件でも良く、対象とする画像に応じて適した条件を加えることにより、1画像内で非常に特徴的な点とすることができる。
【0047】
また、このような特定特異点のみの配置で特定原稿と判定するよりも精度を向上させるために、特定特異点配置の情報を利用して、特定画像位置を把握し、その画像と予め用意した見本画像との相関値を計算して最終判定結果とするなどの処理があってもかまわない。
【0048】
また、本発明の実施の形態では各手段を専用のハードウェアによる構成のみを述べたが、画像入力手段2を1602のI/F、記憶手段5をRAM1604とし、検出手段4および/または判定手段6をCPU1603とその動作を記述したプログラム記憶したROM1605による構成として実現することも可能である。
【0049】
また、本発明の各機能を実行するプログラムは、汎用のコンピューター上で同様の処理を行えるようにしたアプリケーションプログラムもしくはドライバなどのソフトとしてもよい。
【0050】
【発明の効果】
以上のように本発明は、少ない画素で構成されるウィンドウを走査しながら画像中の特異点を検索し、検出手段が特異点をブロック毎に記憶することにより、続く判定手段の動作において、必要なブロックに関するデータのみを調査することができるため、無駄な調査が少なく、効率の良い特定画像検出を行うことができる。
【図面の簡単な説明】
【図1】本発明の一実施の形態における画像検出装置の構成図
【図2】本発明の一実施の形態における画像検出装置の動作説明のフローチャート
【図3】本発明の一実施の形態における画像検出装置の動作説明のフローチャート
【図4】本発明の一実施の形態における入力画像の例図
【図5】本発明の一実施の形態における入力画像の例図
【図6】本発明の一実施の形態における特異点検出の説明図
【図7】本発明の一実施の形態における特異点モデルパターンの説明図
【図8】本発明の一実施の形態におけるブロックの説明図
【図9】本発明の一実施の形態における記憶手段の説明図
【図10】本発明の一実施の形態における記憶手段のデータの説明図
【図11】本発明の一実施の形態における判定手段の動作の説明図
【図12】本発明の一実施の形態における判定手段の動作の説明図
【図13】本発明の一実施の形態における判定手段の動作の説明図
【図14】本発明の一実施の形態における判定手段の動作の説明図
【図15】本発明の一実施の形態における特異点の説明図
【図16】本発明の一実施の形態における別の構成の説明図
【符号の説明】
1 画像検出装置
2 画像入力手段
3 画像メモリ
4 検出手段
5 記憶手段
6 判定手段

Claims (5)

  1. 画像信号を入力する入力手段と、この入力手段から入力された画像信号中から特異点を検出する検出手段と、この検出手段が検出した特異点の位置座標を、複数の画素を一単位とするブロック毎に記憶する記憶手段と、この記憶手段に記憶されている一つの特異点を第一の特定特異点として選択し、この選択された第一の特定特異点の位置座標に基づいて第二の特定特異点の存在が推定されるブロックを設定し、この設定したブロックに対応づけて記憶されている特異点の位置座標についてのみ順次前記第二の特定特異点に相当するか否かの探索を行う判定手段を具備することを特徴とする画像検出装置。
  2. 前記判定手段は、前記第二の特定特異点を検出した後には、前記第一の特定特異点及び前記第二の特定特異点の位置座標に基づいて第三の特定特異点の存在が推定されるブロックを設定し、この設定したブロックに対応づけて記憶されている特異点の位置座標についてのみ順次前記第三の特定特異点に相当するか否かの探索を行うことを特徴とする請求項1記載の画像検出装置。
  3. 画像信号を入力する入力手段と、この入力手段から入力された画像信号中から特異点を検出する検出手段と、この検出手段が検出した特異点の位置座標を、複数の画素を一単位とするブロック毎に記憶する記憶手段と、前記記憶手段に記憶された特異点の位置座標を用いて特定特異点を判定する判定手段とを具備する画像検出装置において、前記記憶手段に記憶されている一つの特異点を第一の特定特異点として選択し、この選択された第一の特定特異点の位置座標に基づいて第二の特定特異点の存在が推定されるブロックを設定し、この設定したブロックに対応づけて記憶されている特異点の位置座標についてのみ順次前記第二の特定特異点に相当するか否かの探索を行うことを特徴とする画像検出方法
  4. 前記第二の特定特異点を検出した後には、前記第一の特定特異点及び前記第二の特定特異点の位置座標に基づいて第三の特定特異点の存在が推定されるブロックを設定し、この設定したブロックに対応づけて記憶されている特異点の位置座標についてのみ順次前記第三の特定特異点に相当するか否かの探索を行うことを特徴とする請求項3記載の画像検出方法
  5. 請求項3及び請求項4記載の方法を実行するためのプログラムを保存した記録媒体
JP28437699A 1999-10-05 1999-10-05 画像検出装置、画像検出方法および記録媒体 Expired - Lifetime JP4406974B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP28437699A JP4406974B2 (ja) 1999-10-05 1999-10-05 画像検出装置、画像検出方法および記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP28437699A JP4406974B2 (ja) 1999-10-05 1999-10-05 画像検出装置、画像検出方法および記録媒体

Publications (2)

Publication Number Publication Date
JP2001109892A JP2001109892A (ja) 2001-04-20
JP4406974B2 true JP4406974B2 (ja) 2010-02-03

Family

ID=17677795

Family Applications (1)

Application Number Title Priority Date Filing Date
JP28437699A Expired - Lifetime JP4406974B2 (ja) 1999-10-05 1999-10-05 画像検出装置、画像検出方法および記録媒体

Country Status (1)

Country Link
JP (1) JP4406974B2 (ja)

Also Published As

Publication number Publication date
JP2001109892A (ja) 2001-04-20

Similar Documents

Publication Publication Date Title
CN109409398B (zh) 图像处理装置、图像处理方法以及存储介质
CN111640089B (zh) 一种基于特征图中心点的缺陷检测方法及装置
JP3170299B2 (ja) 画像読取処理装置
JP2951814B2 (ja) 画像抽出方式
JP3950777B2 (ja) 画像処理方法、画像処理装置および画像処理プログラム
JP2001109895A (ja) 複数のディジタル画像の処理方法
US5892854A (en) Automatic image registration using binary moments
JP5357612B2 (ja) 下線除去装置
JP4535584B2 (ja) ディジタル画像処理方法
CN110598581B (zh) 基于卷积神经网络的光学乐谱识别方法
JPH08235341A (ja) ドキュメントファイリング装置および方法
CN115578741A (zh) 一种基于Mask R-cnn算法和类型分割的扫描文件版面分析方法
WO2005041128A1 (ja) 顔画像候補領域検索方法及び顔画像候補領域検索システム並びに顔画像候補領域検索プログラム
US20020006224A1 (en) Computer automated process for vectorization of raster images
JP3571128B2 (ja) 図面の寸法数値認識方法及びその装置
JP4406974B2 (ja) 画像検出装置、画像検出方法および記録媒体
JPH08210811A (ja) 円ないし楕円の検出方法およびその装置
JP2002133424A (ja) 文書の傾き角度及び境界の検出方法
JP2000322514A (ja) パターン抽出装置及び文字切り出し装置
JP3090070B2 (ja) 帳票識別方法及び装置
JP3895473B2 (ja) 記入情報抽出方法および記入情報抽出方法をコンピュータに実行させるプログラムを記録した機械読み取り可能な記録媒体
JP3077929B2 (ja) 文字切出し方式
JP4159071B2 (ja) 画像処理方法,画像処理装置および該処理方法を実現させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP4254008B2 (ja) パターン検出装置及び方法
JPH07230549A (ja) 画像処理装置およびその方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061003

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20061114

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090717

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090728

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090925

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091020

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091102

R151 Written notification of patent or utility model registration

Ref document number: 4406974

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131120

Year of fee payment: 4

EXPY Cancellation because of completion of term