JP3956625B2 - 領域切り出しプログラムおよび装置 - Google Patents
領域切り出しプログラムおよび装置 Download PDFInfo
- Publication number
- JP3956625B2 JP3956625B2 JP2001037594A JP2001037594A JP3956625B2 JP 3956625 B2 JP3956625 B2 JP 3956625B2 JP 2001037594 A JP2001037594 A JP 2001037594A JP 2001037594 A JP2001037594 A JP 2001037594A JP 3956625 B2 JP3956625 B2 JP 3956625B2
- Authority
- JP
- Japan
- Prior art keywords
- region
- layout
- candidate
- cutout
- coordinate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Character Input (AREA)
- Character Discrimination (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、画像データから認識対象物の画像データ領域を切り出すプログラム、および装置に関し、特に、認識対象物が
1.画像データ内で自由に移動し、回転、変形する、
2.影がかかったり、ゴミが付着している、
3.背景色と同色である、
などの任意の見え方をする画像データの場合であっても、認識対象物の領域の形状を特定して切り出す、領域切り出しプログラムおよび装置に関する。
【0002】
【従来の技術】
名札や車番などのプレートには個人情報などの対象固有の情報が含まれている。このため、個体認証等の自動化のために、認識対象物、すなわちプレート内の文字列を機械で認識する種々の方法が開示されている。
【0003】
例えば、出入口に取り付けたカメラにより名札を認識するような、特定の場所にカメラを固定設置したシステムがある。
【0004】
このようなシステムの第一の従来例として、直接プレート内の文字を認識する方法がある。( 例えば、田邉ら、" 部分文字列の配置規則を考慮したナンバープレート領域抽出" 、電子情報通信学会論文誌D-II,Vol.J81-D-II,No.10 ,pp.2280-2287 (1998-10))
この文字認識処理方法の例を図9に示す。入力された画像全体のデータを2値化91により2値画像データ化し、該2値画像データをラベリング92により1文字ごとの領域として切り出す。次に、テンプレートマッチング93により、切り出した領域と予め持っているテンプレートとをマッチングすることで文字認識を行う。このようにして認識した文字を、予め持っているプレート内の文字部のレイアウト情報と比較し修正を加える。
【0005】
例えば、図10のように所属及び氏名が記載されたプレートを認識する場合、書かれている文字はプレートごとに異なるが、プレート内に書かれいている文字のレイアウトは図11のように固定されている。そこで、認識された文字のうち、プレート内のレイアウトの所属の部分、姓名の部分に整列している文字の組み合わせを参照し探索することで文字認識の精度をあげる。
【0006】
第二の従来例として、画像データから認識対象のプレートと同じ輪郭の領域を検出して切り出す方法がある。( 例えば,寺田ら" ネームプレート画像による自動個人識別方式”、画像センシングシンポジウム、p.225-230(1996-06))
この方法では、図10のように認識対象のプレートの形状が矩形の場合、画像データから矩形領域を検出して認識対象領域として切り出す。
【0007】
【発明が解決しようとする課題】
しかし、上記の第一の従来例は、カメラに写る対象の大きさや角度などが一定であるということを前提としており、以下に示す問題がある。
【0008】
第一に、変形の問題がある。切り出された領域内の文字の認識は、画像から切り出された1文字ごとの領域と予め持っている文字のテンプレートとのマッチング処理によって行われる。したがって、プレートの見え方が変化しプレート内の文字の形が変化すると、予め持っている文字のテンプレートと切り出された領域の文字の形とが一致しなくなり、文字の認識が行えない。
【0009】
第二に、影の問題がある。一般の環境では、図12(a)に示すごとく、影がかかっている画像データが入力される場合がある。このような状況での画像の2値化を、例えば明るい部分を基準とした閾値で固定閾値処理(画像解析ハンドブックP.502 )を行うと、図12(b)に示すごとく影の部分の文字が2値化によって潰れ、1文字ごとの領域を正しく検出できないる場合がある。
【0010】
このような、影を含む画像データに対処するために動的閾値処理(画像解析ハンドブックP.504 )やMIN/MAX 法( 三島ら, " 画像処理を用いた車番認識システムの開発",電学論(D), 109, 5, p.333-339(1989-05))などの処理方法が提案されているが、これらの手法は、入力画像データ中でのプレートの大きさ、すなわち認識対象物の大きさが予め分っていることが前提となっている。したがって、入力画像データ中での認識対象物の大きさが未知で、認識対象領域の切り出しをも要求される場合には適用できない。
【0011】
第二の従来例では、プレートの輪郭を検出することを前提としている。しかし、例えば、白いシャツに取り付けた白いプレートなどの、背景の色がプレートと同色の場合、プレートの輪郭が検出できず、プレートが切り出せない。
【0012】
以上説明したごとく、従来の認識方法では、認識対象物が
1.画像データ内で自由に動き、移動、回転、変形する、
2.影がかかったり、ゴミが付着している、
3.背景色と同色である、
などの任意の見え方をすることにより認識対象領域を特定できない場合がある。
【0013】
本発明は、任意の見え方の画像のデータであっても、認識対象領域の形状を特定し、領域を切り出すことを目的とする。
【0014】
【課題を解決するための手段】
本発明は、画像データから認識対象物の画像データ領域を切り出すプログラムであって、認識対象物の形状と認識対象物内の配置とからなるレイアウトデータの保持手段と、エッジ検出手段と、エッジ密集度評価手段と、領域切り出し座標候補選択手段とを備える領域切り出し座標候補特定手段と、レイアウト補正手段と評価手段と判定手段とを備えるレイアウト当てはめ手段とを有し、領域切り出し座標候補特定手段において、エッジ検出手段は、画像データをエッジ画像データ化し、エッジ密集度評価手段は、該エッジ画像データ中の各座標におけるエッジ密集度を求め、領域切り出し座標候補選択手段は、該エッジ密集度が所定の値以上の座標を領域切り出し座標候補とし、レイアウト当てはめ手段において、レイアウト補正手段は、該領域切り出し座標候補近傍でエッジ密集度が所定の値以上の連結領域を特定して切り出し領域候補とし、該レイアウトの形状を、座標変換により該切り出し領域候補の形状に一致させる補正を行い、評価手段は、該補正したレイアウトのエッジ密集度と該切り出し領域候補のエッジ密集度との相関値を求め、判定手段は、該相関値が所定の値以上の切り出し領域候補を切り出し領域として出力することを特徴とする。
【0015】
名札や車番などのプレートには、一定のレイアウトの、文字が描かれている文字部と文字が描かれていない背景部とがある。一般に、文字部は文字が描かれているため、背景部と比較して画素間で明るさが変化している部分、すなわちエッジが多いという統計的な性質がある。
【0016】
本発明では、この統計的な性質を利用し、画像データ中の切り出し領域候補と、プレート、すなわち認識対象物のレイアウト全体との相関値を評価することで、任意のプレートの見え方の画像データであっても、認識対象領域の形状を特定して切り出す。
【0017】
なお、切り出し領域候補とレイアウトとの相関値は、レイアウトの形状を補正して切り出し領域候補形状に一致させて求る、あるいは切り出し領域候補の形状を補正してレイアウトの形状に一致させて求める、のいずれでも良い。
【0018】
また、レイアウト保持手段に多角形の認識対象物の形状と認識対象物内の配置とからなるレイアウトデータを保持し、領域切り出し座標候補近傍の画像データから線分を抽出し、抽出した線分からレイアウト保持手段が保持する多角形と同数の辺を有する多角形を特定して切り出し領域候補とし、以下前記と同様にして認識対象領域の形状を特定して切り出しても良い。
【0019】
また、領域切り出し座標候補近傍の画像データの明度値、あるいはエッジ等のプロジェクションを用いて切り出し領域の角度、大きさを限定することで認識対象領域の形状を特定して切り出しても良い。
【0020】
【発明の実施の形態】
図1は本発明の実施例1の概略処理フローを示す。ここでは、図11に示す、矩形の領域に文字部が配置されたプレートを認識対象物とし、入力画像データから認識対象の画像データ領域を切り出す例について説明する。
【0021】
図2は、領域切り出し座標候補特定手段11の処理フローを示す。入力画像データは、エッジ検出手段21で、エッジ画像データ化される。エッジ検出オペレータとしては、例えばSobel オペレータを用いる。
【0022】
エッジ密集度評価手段22では、画像中の各座標におけるエッジ密集度を求める。例えば所定の大きさのエッジ探索ウインドウでエッジ画像を走査し、各座標におけるウインドウ内のエッジの数をカウントし、エッジ密集度として用いる。
【0023】
領域切り出し座標候補選択手段23では、エッジ密集度が所定の値T1よりも大きい座標をプレート座標候補として選択する。
【0024】
図3はレイアウト当てはめ手段▲1▼の処理フローを示す。レイアウト補正手段31では、選択された領域切り出し座標候補近傍における切り出し領域候補を求め、レイアウトの形状を、座標変換により切り出し領域候補の形状に一致させる補正を行う。切り出し領域候補としては、例えば選択された切り出し領域座標候補を含み、エッジ密集度が所定値T2以上の連結領域の外接四辺形とする。
【0025】
評価手段32では、形状が補正されたレイアウトに切り出し領域候補を当てはめて相関値を求める。
【0026】
相関値の式としては、例えば式1
【0027】
【式1】
【0028】
を用いる。
【0029】
判定手段33では相関値が所定の値以上の切り出し領域候補を切り出し領域とし、相関値が所定の値よりも小さい切り出し領域候補は無視する。
【0030】
正規化手段34では、切り出し領域候補の形状をレイアウト形状に一致させる正規化を行う。
【0031】
全切り出し領域候補について以上の処理を行い、正規化した切り出し領域を文字認識部に送る。
【0032】
図4は実施例2の概略処理フローを示す。実施例2においては、実施例1の領域切り出し座標候補特定手段11の後をレイアウト限定手段▲1▼42、レイアウト当てはめ手段▲2▼43とし、レイアウト限定手段▲1▼42で領域切り出し座標候補近傍の直線を検出することにより切り出し領域候補探索を容易にする。
【0033】
図5はレイアウト限定手段▲1▼42の処理フローを示す。直線検出手段51では、領域切り出し座標候補近傍の直線を検出する。直線検出の方法としては、例えばハフ変換(画像解析ハンドブックP.572 )などを用いる。検出された直線データは直線判定手段52に送られる。
【0034】
直線判定手段52では、送られた直線データで四辺形が構成できる場合、あるいは送られた直線データをそれぞれ伸縮させる等の追加操作を行い、四辺形が構成できる場合、当該四辺形を切り出し領域候補として特定し、レイアウト当てはめ手段▲2▼に送る。
【0035】
図6は、レイアウト当てはめ手段▲2▼の処理フローを示す。レイアウト補正手段61では、レイアウトの形状を、座標変換により直線判定手段52で検出した四辺形に一致させる補正を行い、以下レイアウト当てはめ手段▲1▼と同様にして正規化した切り出し領域を文字認識部に送る。
【0036】
直線判定手段52で四辺形が特定できなかった場合は、図7に示すレイアウト限定手段▲2▼での処理を引き続き行う。
【0037】
レイアウト限定手段▲2▼としては、従来から領域切り出しに用いられている、図8に示すプロジェクションの手法を用いる。プロジェクション作成手段71において任意の角度における明度値のプロジェクションを作成する。なお、プロジェクションは、文字部、背景部の違いの指標となるものであればエッジ等のプロジェクションであってもよい。認識対象物には一定のレイアウトで、すなわち行、あるいは桁に合わせて文字が描かれているので、行方向、あるいは桁方向でのプロジェクションの変動量が大きくなる。そこで、プロジェクション評価手段72によって、プロジェクションの分散値が最大となる角度を検出する。図10に示すプレートの場合、図8に示すごとく、行方向( 90度の方向) で分散値が最大となるため、これをプレートの角度とする。また、図8の周辺部に示すプロジェクションによる積分結果の形状から文字幅などの特定による探索範囲の限定も可能となる。
【0038】
なお、この説明では、認識対象物の形状を矩形として説明したが、予め認識対象物の形状と認識対象物内の配置とからなるレイアウトデータが与えられれば、任意の形状の認識対象物に適用できる。
【0039】
【発明の効果】
以上説明したごとく、あらかじめ定義された認識対象物の形状と認識対象物内の配置とからなるレイアウトデータと、入力画像データのエッジの密集度の相関値を求めて評価を行うこと、すなわち認識すべき領域全体の統計的性質を評価することで、任意の見え方の画像データであっても、認識対象領域の形状を特定して切り出すことが可能となる。
【0040】
例えば、図12(a)に示すような影がかかっている画像であっても、図12(c)に示すごとく、エッジ画像化すると、影の境界の部分に線が発生するだけなので、認識すべき領域全体の統計的性質を評価する相関値(E1)に大きな影響を与えることはなく、認識対象領域を正しく切り出すことが可能となる。
【図面の簡単な説明】
【図1】 実施例1の概略処理フロー
【図2】 領域切り出し座標候補特定手段の処理フロー
【図3】 レイアウト当てはめ手段▲1▼の処理フロー
【図4】 実施例2の概略処理フロー
【図5】 レイアウト限定手段▲1▼の処理フロー
【図6】 レイアウト当てはめ手段▲2▼の処理フロー
【図7】 レイアウト限定手段▲2▼の処理フロー例
【図8】 プロジェクションによるレイアウトの限定
【図9】 文字認識の処理方式例
【図10】 プレートの例
【図11】 プレートのレイアウト例
【図12】 プレートに影がかかっている場合
【符号の説明】
11 領域切り出し座標候補特定手段
12 レイアウト当てはめ手段▲1▼
21 エッジ検出手段
22 エッジ密集度評価手段
23 領域切り出し座標候補選択手段
31 レイアウト補正手段
32 評価手段
33 判定手段
34 正規化手段
42 レイアウト限定手段▲1▼
43 レイアウト当てはめ手段▲2▼
51 直線検出手段
52 直線判定手段
61 レイアウト補正手段
62 評価手段
63 判定手段
64 正規化手段
71 プロジェクション作成手段
72 プロジェクション評価手段
Claims (5)
- コンピュータに、画像データから認識対象物の画像データ領域切り出しを実行させるプログラムであって、
予め、該認識対象物の形状と該認識対象物内の文字部、および背景部の配置とからなるレイアウトデータをレイアウトデータ保持手段に保持させ、
領域切り出し座標候補特定ステップと、レイアウト当てはめステップとを有し、
該領域切り出し座標候補特定ステップは、
該画像データをエッジ画像データ化するエッジ検出ステップと、
該エッジ画像データ中の各座標におけるエッジ密集度を求めるエッジ密集度評価ステップと、
該エッジ密集度が所定の第一の閾値以上の座標を領域切り出し座標候補とする領域切り出し座標候補選択ステップとを有し、
該レイアウト当てはめステップは、
該領域切り出し座標候補近傍で該エッジ密集度が所定の第二の閾値以上の連結領域を特定して切り出し領域候補とし、該レイアウトの形状を、座標変換により該切り出し領域候補の形状に一致させる補正を行うレイアウト補正ステップと、
該補正されたレイアウトに該切り出し領域候補を当てはめ、該文字部のエッジ密集度と該背景部のエッジ密集度とから相関値を求める評価ステップと、
該相関値が所定の値以上の切り出し領域候補を切り出し領域として出力する判定ステップとを有する事を特徴とする領域切り出しプログラム。 - コンピュータに、画像データから認識対象物の画像データ領域切り出しを実行させるプログラムであって、
予め、該認識対象物の形状と該認識対象物内の文字部、および背景部の配置とからなるレイアウトデータをレイアウトデータ保持手段に保持させ、
領域切り出し座標候補特定ステップと、レイアウト当てはめステップとを有し、
該領域切り出し座標候補特定ステップは、
該画像データをエッジ画像データ化するエッジ検出ステップと、
該エッジ画像データ中の各座標におけるエッジ密集度を求めるエッジ密集度評価ステップと、
該エッジ密集度が所定の第一の閾値以上の座標を領域切り出し座標候補とする領域切り出し座標候補選択ステップを有し、
該レイアウト当てはめステップは、
該領域切り出し座標候補近傍で該エッジ密集度が所定の第二の閾値以上の連結領域を特定して切り出し領域候補とし、該切り出し領域候補の形状を、座標変換により該レイアウトの形状に一致させる補正を行う切り出し領域候補補正ステップと、
該レイアウトに該補正された切り出し領域候補を当てはめ、該文字部のエッジ密集度と該背景部のエッジ密集度とから相関値を求める評価ステップと、
該相関値が所定の値以上の切り出し領域候補を切り出し領域として出力する判定ステップとを有することを特徴とする領域切り出しプログラム。 - 請求項1、または請求項2に記載の領域切り出しプログラムであって、
前記領域切り出し座標候補特定ステップと、前記レイアウト当てはめステップとの間にレイアウト限定ステップを有し、
前記レイアウト保持手段には、予め、多角形の認識対象領域の形状と認識対象領域内の文字部、および背景部の配置とからなるレイアウトを保持させ、
該レイアウト限定ステップは、前記領域切り出し座標候補近傍の線分を抽出し、該抽出した線分から前記レイアウト保持手段が保持する多角形と同数の辺を有する多角形を特定して切り出し領域候補とすることを特徴とする領域切り出しプログラム。 - 画像データから認識対象物の画像データ領域を切り出す装置であって、
該認識対象物の形状と認識対象物内の配置とからなるレイアウトデータの保持手段と、エッジ検出手段と、エッジ密集度評価手段と、領域切り出し座標候補選択手段とを備える領域切り出し座標候補特定手段と、
レイアウト補正手段と評価手段と判定手段とを備えるレイアウト当てはめ手段とを有し、
予め、該認識対象物の形状と認識対象物内の文字部、および背景部の配置とからなるレイアウトデータを保持し、
該領域切り出し座標候補特定手段において、
該エッジ検出手段は、該画像データをエッジ画像データ化し、
該エッジ密集度評価手段は、該エッジ画像データ中の各座標におけるエッジ密集度を求め、
該領域切り出し座標候補選択手段は、該エッジ密集度が所定の第一の閾値以上の座標を領域切り出し座標候補とし、
該レイアウト当てはめ手段において、
該レイアウト補正手段は、該領域切り出し座標候補近傍で該エッジ密集度が所定の第二の閾値以上の連結領域を特定して切り出し領域候補とし、
該レイアウトの形状を、座標変換により該切り出し領域候補の形状に一致させる補正を行い、
該評価手段は、該補正されたレイアウトに該切り出し領域候補を当てはめ、文字部のエッジ密集度と背景部のエッジ密集度とから相関値を求め、
該判定手段は、該相関値が所定の値以上の切り出し領域候補を切り出し領域として出力することを特徴とする領域切り出し装置。 - 画像データから認識対象物の画像データ領域を切り出す方法であって、
予め、該認識対象物の形状と認識対象物内の文字部、および背景部の配置とからなるレイアウトデータを保持し、
該画像データをエッジ画像データ化し、
該エッジ画像データ中の各座標におけるエッジ密集度を求め、
該エッジ密集度が所定の第一の閾値以上の座標を領域切り出し座標候補とし、
該領域切り出し座標候補近傍で該エッジ密集度が所定の第二の閾値以上の連結領域を特定して切り出し領域候補とし、
該レイアウトの形状を、座標変換により該切り出し領域候補の形状に一致させる補正を行い、
該補正されたレイアウトに該切り出し領域候補を当てはめ、文字部のエッジ密集度と背景部のエッジ密集度とから相関値を求め、
該相関値が所定の値以上の切り出し領域候補を切り出し領域とすることを特徴とする領域切り出し方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001037594A JP3956625B2 (ja) | 2001-02-14 | 2001-02-14 | 領域切り出しプログラムおよび装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001037594A JP3956625B2 (ja) | 2001-02-14 | 2001-02-14 | 領域切り出しプログラムおよび装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002245404A JP2002245404A (ja) | 2002-08-30 |
JP3956625B2 true JP3956625B2 (ja) | 2007-08-08 |
Family
ID=18900694
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001037594A Expired - Fee Related JP3956625B2 (ja) | 2001-02-14 | 2001-02-14 | 領域切り出しプログラムおよび装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3956625B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5023398B2 (ja) * | 2009-03-17 | 2012-09-12 | Necフィールディング株式会社 | 電子アルバム作成装置、方法、プログラム、システム、サーバー、情報処理装置、端末装置、及び撮像装置 |
JP5644097B2 (ja) * | 2009-12-08 | 2014-12-24 | ソニー株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP6222541B2 (ja) * | 2013-03-05 | 2017-11-01 | 富士ゼロックス株式会社 | 画像処理装置及びプログラム |
JP2013229044A (ja) * | 2013-06-24 | 2013-11-07 | Toshiba Corp | 監視システム及び監視方法 |
CN110110726A (zh) * | 2019-05-15 | 2019-08-09 | 深圳供电局有限公司 | 电力设备铭牌识别方法、装置、计算机设备和存储介质 |
CN111652208A (zh) * | 2020-04-17 | 2020-09-11 | 北京三快在线科技有限公司 | 用户界面组件的识别方法、装置、电子设备及存储介质 |
-
2001
- 2001-02-14 JP JP2001037594A patent/JP3956625B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002245404A (ja) | 2002-08-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7110581B2 (en) | Wavelet-enhanced automated fingerprint identification system | |
JP5047005B2 (ja) | 画像処理方法、パターン検出方法、パターン認識方法及び画像処理装置 | |
US7120318B2 (en) | Automatic document reading system for technical drawings | |
US20120057756A1 (en) | Apparatus and method for recognizing identifier of vehicle | |
CN105260733A (zh) | 用于处理图像信息的方法和装置 | |
US20080298648A1 (en) | Method and system for slap print segmentation | |
JP2005148987A (ja) | オブジェクト識別方法とその装置、プログラム及び記録媒体 | |
CN112101108B (zh) | 一种基于图形极点位置特征的左右转交通标志识别方法 | |
CN112215216A (zh) | 一种图像识别结果的字符串模糊匹配系统及方法 | |
US7072496B2 (en) | Slap print segmentation system and method | |
JP3956625B2 (ja) | 領域切り出しプログラムおよび装置 | |
CN111582134A (zh) | 证件边沿检测方法、装置、设备和介质 | |
KR102167433B1 (ko) | 다중 패턴 문자 영상 자동 생성 기반 문자 인식 장치 및 그 방법 | |
CN112818983B (zh) | 一种利用图片相识度判断字符倒置的方法 | |
KR102252286B1 (ko) | 이미지형 문서의 변화 감지 및 인식 장치 및 방법 | |
Fritz et al. | Attentive object detection using an information theoretic saliency measure | |
KR100726473B1 (ko) | 이미지 분별 장치 및 그 방법 | |
JP2898562B2 (ja) | ナンバープレート決定方法 | |
Fan et al. | A robust proposal generation method for text lines in natural scene images | |
US7957555B2 (en) | Method and apparatus for localizing an object part in digital image data by updating an initial position estimate based on a displacement of the object part | |
Mutholib et al. | Optimization of ANPR algorithm on Android mobile phone | |
Su et al. | Automatic seal imprint verification systems using edge difference | |
KR20140112869A (ko) | 문자 인식 장치 및 방법 | |
CN109886265B (zh) | 一种基于Adaboost和模板匹配的车门限位器检测方法 | |
CN116824591B (zh) | 一种用于轮胎胎侧字符的识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20040610 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20040610 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20061127 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20061205 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070124 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070417 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070430 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100518 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110518 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120518 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130518 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140518 Year of fee payment: 7 |
|
LAPS | Cancellation because of no payment of annual fees |