JP4187458B2 - 画像処理におけるアフィン変換係数算出方法および画像処理装置 - Google Patents
画像処理におけるアフィン変換係数算出方法および画像処理装置 Download PDFInfo
- Publication number
- JP4187458B2 JP4187458B2 JP2002121117A JP2002121117A JP4187458B2 JP 4187458 B2 JP4187458 B2 JP 4187458B2 JP 2002121117 A JP2002121117 A JP 2002121117A JP 2002121117 A JP2002121117 A JP 2002121117A JP 4187458 B2 JP4187458 B2 JP 4187458B2
- Authority
- JP
- Japan
- Prior art keywords
- affine transformation
- matrix
- image
- character
- coefficient
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000009466 transformation Effects 0.000 title claims description 78
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 title claims description 77
- 238000004364 calculation method Methods 0.000 title claims description 46
- 239000011159 matrix material Substances 0.000 claims description 104
- 238000000034 method Methods 0.000 claims description 13
- 238000010586 diagram Methods 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 239000013598 vector Substances 0.000 description 4
- 238000012544 monitoring process Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Images
Landscapes
- Character Input (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、幾何学的歪みを含む画像、例えば2つの文字列からなる画像をアフィン変換により補正する画像処理におけるアフィン変換係数算出方法、およびその画像処理装置に関するものであ。
【0002】
【従来の技術】
画像処理装置は、各種検査装置、組立ロボット或いは事務機器等広く利用されている。その画像処理装置の一例として、テレビカメラで撮影された画像から文字や番号を認識する画像処理がある。この種の画像処理装置には、例えば、駐車場等に監視カメラを設置して、撮影した車両のナンバープレートの画像を画像処理して車両番号を認識する装置、所謂車両番号認識装置がある。
【0003】
【発明が解決しようとする課題】
車両番号認識装置等の画像処理装置では、駐車場等の定位置に監視カメラを固定して、駐車する車両を撮影して監視する。監視カメラで撮影された車両映像は、監視室内のモニターに表示され、またビデオテープ・レコーダ(VTR)に記録される。撮影された車両のナンバープレートは、駐車位置や車種によりナンバープレートの取り付けられている位置等が異なるため、撮影するカメラ視野の中心に車両番号が撮影されるとは限らない。従って、車両番号がレンズの中心にくることもあれば、画像の端に撮影されることもあり、このような場合には歪みを伴った画像となる。
【0004】
また、複数のカメラの設置箇所から得られる画像を一つの画像処理装置で処理する場合は、車種の相違により撮影位置が異なるのみならず、カメラの設置箇所の高さ、撮影角度と言った条件等によって、車両のナンバープレートの撮影位置が異なり、複雑に歪みが発生して、車両番号を認識できないことがある。
【0005】
さらに、駐車場で監視に使用されるカメラは、撮影のための照明が施されていない場所での撮影であり、光学的に貧弱な条件で撮影されており、しかも安価なテレビカメラが使用される場合が多い。従って、このような監視カメラから得られる画像は幾何学的に歪んだ画像となり易く、ナンバープレートの車両番号を認識が困難になることが多い。
【0006】
本発明は、上述した課題に鑑みなされたものであって、対象画像の幾何学的歪みを補正するためのアフィン変換係数算出方法およびその画像処理装置を提供することを目的とするものである。
【0007】
【課題を解決するための手段】
本発明は、上記の目的を達成するためになされており、請求項1の発明は、撮影された少なくとも2つの文字列の画像を2値化処理して該文字列の各文字の外接長方形を抽出する手順と、
前記文字列に対応する基準図形の外接長方形間の中心点距離と、前記2値化処理した文字列の外接長方形の幾何学的位置関係とによって、アフィン変換行列の一部の係数を算出する手順と、
前記文字列の一方の文字画像の第1モーメント行列を求める手順と、
前記第1モーメント行列を求めた文字に対応する基準画像の第2モーメント行列を求める手順と、
前記アフィン変換行列の一部の係数と、前記第1と第2モーメント行列とによって、前記アフィン変換行列の残りの係数を求める手順とを有することを特徴とする画像処理におけるアフィン変換係数算出方法である。
【0008】
請求項1の発明では、入力された対象画像をアフィン変換して歪みを補正する際に、対象画像のアフィン変換行列の各係数(a,b,c,d,tx,ty)を算出するアフィン変換係数算出方法であって、撮影された少なくとも2つの文字列からなる画像を2値化処理して文字列の各文字の外接長方形を抽出し、この文字列に対応する基準図形の外接長方形間の中心点距離と、2値化処理した文字列の外接長方形の幾何学的位置関係とによって、アフィン変換行列の一部の係数(a,c)を算出し、続いて、2値化処理して得られた文字列の一方の文字画像の第1モーメント行列を求め、かつこの文字画像に対応する基準画像の第2モーメント行列を求めて、第1モーメント行列、第2モーメント行列およびアフィン変換行列の一部の係数(a,c)により、対象画像のアフィン変換行列の残りの係数(b,d)を求めるアフィン変換係数算出方法である。なお、アフィン変換行列の係数(tx,ty)は、基準図形の中心点を原点とするx,y座標をすると、その基準図形の中心点のx,y成分に相当する。
【0009】
また、請求項2の発明は、請求項1に記載の画像処理におけるアフィン変換係数算出方法において、
前記アフィン変換行列の残りの係数は、前記第2モーメント行列をM、前記第1モーメント行列をM′、前記アフィン変換行列をAおよびその転置行列をAt とした場合、下記(1)式のノルムを最小とする係数によって求める手順によることを特徴とする画像処理におけるアフィン変換係数算出方法である。
【0010】
【数2】
【0011】
また、請求項3の発明は、請求項1又は2に記載の画像処理におけるアフィン変換係数算出方法において、
前記少なくとも2つの文字列がナンバープレートの車両番号であることを特徴とする画像処理におけるアフィン変換係数算出方法である。
【0012】
請求項3の発明では、撮影対象が不特定の位置に存在する駐車場の車両のナンバープレートの車両番号を認識する際、対象画像が明確であるので、ナンバープレートの対象画像文字の歪み補正して認識する際の処理として、アフィン変換係数算出方法による画像処理が好ましい。
【0013】
また、請求項4の発明は、少なくとも2つの文字列の画像を2値化して該文字列の一文字づつの外接長方形を算出する外接長方形抽出部と、
前記文字列に対応する基準図形の外接長方形間の中心点距離と、前記2値化処理した文字列の外接長方形の幾何学的位置関係とによって、アフィン変換行列の一部の係数を算出する第1アフィン変換行列係数算出部と、
前記文字列の一方の文字画像の第1モーメント行列を算出する第1モーメント行列算出部と、
前記第1モーメント行列を求めた文字に対応する基準画像の第2モーメント行列を算出する第2モーメント行列算出部と、
前記第1アフィン変換行列の一部の係数と、前記第1と第2モーメント行列とにより、前記アフィン変換行列の残りの係数を算出する第2アフィン変換行列係数算出部とを備えることを特徴とする画像処理装置である。
【0014】
請求項4の発明では、少なくとも2つの文字列の画像を2値化処理部で2値化処理して、外接長方形抽出部でその画像の一文字づつの外接長方形を算出し、アフィン変換行列係数算出部で、文字列に対応する基準図形の外接長方形間の中心点距離と、2値化処理した文字列の外接長方形の幾何学的位置関係とによって、アフィン変換行列の一部の係数(a,c)を算出する。第1モーメント行列算出部で、文字列の一方の文字画像の第1モーメント行列を算出する。続いて、第2モーメント行列算出部で、第1モーメント行列を求めた文字に対応する基準画像の第2モーメント行列を算出する。なお、基準画像の第2モーメント行列は、予め算出することができる。その場合、対象の基準画像のモーメント行列を記憶手段から読み出すようにしてもよい。第1と第2モーメント行列算出部は、同一の演算手段である。続いて、アフィン変換行列係数算出部によって、アフィン変換行列の一部の係数と、第1と第2モーメント行列とにより、アフィン変換行列の残りの係数(b,d)を算出する。
【0015】
【発明の実施の形態】
以下、本発明に係る実施の形態について、図面を参照して説明する。なお、図1は、本発明に係る実施形態の画像処理装置を示すブロック図であり、図2は、本実施形態のアフィン変換係数算出方法の概要を示す流れ図である。本実施形態では、駐車場に駐車する車両のナンバープレートなどの車両番号から構成される複数の文字列を撮影した場合を想定して説明する。
【0016】
本実施形態では、車両のナンバープレートの2つの文字として、「1」,「0」を撮影した場合を説明する。因みに、図3はテレビカメラで得られた入力画像、図4は基準画像図形であり、図5は入力画像のアフィン変換の説明図である。
【0017】
図1は、本発明の画像処理装置の実施形態を示し、駐車場に駐車する車両のナンバープレートを撮影する監視カメラ(テレビカメラ)1、テレビカメラ1からの映像信号,VTRに録画された映像信号或いはメモリカードに記憶された映像信号をデジタル化するA/D変換器2、A/D変換器2からのデジタル信号を記憶される対象画像を記憶する画像メモリ3、2値化処理した2値化画像を記憶する2値化画像メモリ3a、基準図形を記憶する画像メモリ4、デジタル信号を画像処理する画像処理部5、D/A変換器6、表示部(モニター)7、キーボード等の入力装置8から構成されている。なお、画像メモリは、2値化画像メモリ3aと画像メモリ3とを共用してもよい。また、画像処理装置は、概ねテレビカメラ1を除く部分が含まれる。
【0018】
画像処理部5には、対象画像を2値化処理する2値化処理部5aを含み、図形歪み補正部としては、外接長方形抽出部5b、第1のアフィン変換行列係数算出部5c、対象画像のモーメント行列算出部5d、基準図形のモーメント行列算出部5e、第2のアフィン変換行列係数算出部5fが含まれる。なお、モーメント行列算出部5dとモーメント行列算出部5eとは、対象は異なるが同一の演算手段により演算処理がなされるで、画像処理部5に1つの演算手段を備えればよい。
【0019】
続いて、本実施形態の画像処理装置によるアフィン変換係数算出方法について、図2の流れ図を参照して説明する。一例として、車両のナンバープレートの文字(「1」,「0」)の歪み補正する場合について説明する。
【0020】
先ず、ステップS1では、監視カメラ1より画像を取得し、画像メモリ3に記憶する。なお、監視カメラ1で撮影された画像をVTR1aやカードメモリ1b等に記憶して、必要な画像を画像メモリ3に記憶してもよい。画像メモリ3に記憶した画像の内の対象画像,文字列(「1」と「0」)は、図3に示すように歪んだ画像である。これらの番号認識における画像処理には、基準となる辞書パターンと比較して幾何学的補正をする必要がある。辞書パターン(基準図形)は画像メモリ4に記憶されている。
【0021】
ステップS2では、取得した画像に対して2値化処理部5aにより2値化を行って、図3に示す歪みのある図形を抽出して、2値化画像メモリ3aに記憶し、ステップS3に進む。ステップS3では、2値化処理された処理対象の文字列(「1」と「0」)に対して、外接長方形抽出部5bで演算処理して、図3に示す外接長方形obj1,obj2を抽出する。
【0022】
続いて、ステップS4に進み、第1のアフィン変換行列係数算出部5cにより、アフィン変換行列係数(a,c)を算出する。アフィン変換行列係数は、下記1式(数3)に示すように、a,b,c,d,tx ,ty の6つの係数があり、ステップS4では、アフィン変換行列係数(a,c)を算出する。
【0023】
アフィン変換行列係数(a,c)の算出について、詳細に説明すると、まず、下記1式(数1)で示すように、図4の基準図形から図5の歪みを有する画像へのアフィン変換を定義する。この1式のアフィン変換行列は、2次元座標系でベクトル・マトリックス表現で表している。
【0024】
【数3】
【0025】
図5の外接長方形obj0およびobj1の中心点c0およびc1を定めて、ベクトルc0−c1から下記2式(数4)を用いて、上記アフィン変換行列係数(a,c)を求める。なお、中心点c0のx成分およびy成分をc0xおよびc0yとし、中心点c1のx成分およびy成分をc1xおよびc1yとする。また、本実施形態の場合は、車両のナンバープレートの文字の歪み補正であるので、ナンバープレートの文字間隔Dは一定であり、5.5cmか、8.5cmである。これらの値からアフィン変換行列係数(a,c)は、文字列が水平配列のため下記2式(数4)から算出することができる。
【0026】
【数4】
【0027】
次に、ステップS4に続いて、ステップS5に進み、モーメント行列算出部5cによって、対象画像のモーメント行列M′を求める。ステップS5では、文字列の「1」と「0」のうち、「0」の文字画像のモーメント行列を求める。ある領域Rにおける重心を原点としたξ−η座標系における画像fR(ξ,η)のモーメントmpqとモーメント行列M0 を3式(数5)と4式(数6)で定義する。3式および4式に則り、文字「0」のモーメント行列、すなわち、図5の図形obj0のモーメント行列M′を算出する。
【0028】
【数5】
【0029】
【数6】
【0030】
ステップS6では、文字「0」の基準となる画像のモーメント行列Mを求める。算出方法については、ステップS5と同様にして、3式(数5)および4式(数6)を用いて求める。文字0の基準図形のモーメント行列Mを算出する。なお、モーメント行列Mは、基準パターンであるので、予め算出してもよい。
【0031】
ステップS7では、第2のアフィン変換行列係数算出部5fに基づいて、アフィン変換行列係数(b,d)を求める。第2のアフィン変換行列係数算出部5fでは、ステップS5で算出したモーメント行列M′と、ステップS6で算出したモーメント行列Mと、ステップS4で求めた係数a,cとにより、下記5式(数7)のノルム(norm)から演算処理して算出する。なお、アフィン変換行列Aについての既知の係数aおよびcと、未知の係数bおよびdとによって、転置行列At を求める。
【0032】
【数7】
【0033】
アフィン変換の残りの係数(b,d)は、反復法を用いて、5式のノルムが最小の値になるように求める。なお、反復法について説明すると、第1に係数にある値を代入してノルムを算出し、第2に第1よりはノルムが小さくなるような別の係数を代入していく。この動作を繰り返して、ノルムの最小値を検出したとき、演算処理を終了して、その時の係数値を最終値とする。このようにして、アフィン変換行列係数a,b,cおよびdを算出することができる。
【0034】
なお、アフィン変換行列係数txおよびtyについては、図4のようにobj0に対応する基準図形の中心点を原点とした時、c0のx,y成分に一致する。
【0035】
本実施形態では、上記のような方法でアフィン変換行列係数(a,b,c,d,tx ,ty )を求めることができ、この算出した係数を用いて文字画像を逆変換することで、歪みを補正した画像を得ることができる。この画像からナンバープレートの文字「1」,「0」を認識することができる。このような画像処理を行うことによって、ナンバープレートの全ての文字を認識することができる。
【0036】
なお、本実施形態では、処理対象文字が既知としている場合を説明した。しかし、実際の画像認識では、撮影された対象画像が未知である場合が多く、このような場合には、全ての数字の基準画像に対して係数の算出を行い、ファイン変換行列係数算出後、逆変換を行って基準画像との誤差を算出し、誤差の小さいものを変換係数とする。また、対象画像と基準画像の大きさが異なる場合についても同様に、基準ベクトルと対象画像との特徴ベクトルとのノルムが最小値となるように演算処理して求めることができる。
【0037】
なお、本発明では、ナンバープレートの文字の認識について説明したが、この実施形態に限定することなく、種々の用途、例えば図形処理等に応用できることは明らかである。
【0038】
【発明の効果】
上述のように、本発明によれば、処理対象画像のモーメントと、アフィン変換行列との演算結果の差のノルムの最小値よりアフィン変換行列係数を求めているので、基準図形との誤差を最小にすることができる。そのため、幾何学補正の誤差を最小にすることができるので、後の文字認識等の画像処理の精度を高めることができる効果を有する。
【0039】
また、モーメントを使用することにより、低解像度画像にも使用できる。従って、認識処理を含む監視システムなどに好適な画像処理におけるアフィン変換係数算出方法およびその画像処理装置を提供できる利点がある。
【図面の簡単な説明】
【図1】本発明に係る実施形態の画像処理装置の概要を示すブロック図である。
【図2】本実施形態のアフィン変換係数算出方法の概要を示す流れ図である。
【図3】 本実施形態のテレビカメラで得られた入力画像を示し図である。
【図4】基準画像図形を示す図である。
【図5】入力画像に対するアフィン変換の説明図である。
【符号の説明】
1 テレビカメラ
2 A/D変換部
3 対象画像を記憶する画像メモリ
3a 2値化画像メモ
4 基準図形画像メモ
5 画像処理部
5a 2値化処理部
5b 外接長方形抽出部
5c 第1アフィン変換行列係数算出部
5d 対象画像モーメント行列算出部
5e 基準画像モーメント行列算出部
5f 第2アフィン変換行列係数算出部
6 D/A変換部
7 表示部
8 入力装置
Claims (4)
- 撮影された少なくとも2つの文字列の画像を2値化処理して該文字列の各文字の外接長方形を抽出する手順と、
前記文字列に対応する基準図形の外接長方形間の中心点距離と、前記2値化処理した文字列の外接長方形の幾何学的位置関係とによって、アフィン変換行列の一部の係数を算出する手順と、
前記文字列の一方の文字画像の第1モーメント行列を求める手順と、
前記第1モーメント行列を求めた文字に対応する基準画像の第2モーメント行列を求める手順と、
前記アフィン変換行列の一部の係数と、前記第1と第2モーメント行列とによって、前記アフィン変換行列の残りの係数を求める手順とを有することを特徴とする画像処理におけるアフィン変換係数算出方法。 - 請求項1又は2に記載の画像処理におけるアフィン変換係数算出方法において、
前記少なくとも2つの文字列がナンバープレートの車両番号であることを特徴とする画像処理におけるアフィン変換係数算出方法。 - 少なくとも2つの文字列の画像を2値化して該文字列の一文字づつの外接長方形を算出する外接長方形抽出部と、
前記文字列に対応する基準図形の外接長方形間の中心点距離と、前記2値化処理した文字列の外接長方形の幾何学的位置関係とによって、アフィン変換行列の一部の係数を算出する第1アフィン変換行列係数算出部と、
前記文字列の一方の文字画像の第1モーメント行列を算出する第1モーメント行列算出部と、
前記第1モーメント行列を求めた文字に対応する基準画像の第2モーメント行列を算出する第2モーメント行列算出部と、
前記第1アフィン変換行列の一部の係数と、前記第1と第2モーメント行列とにより、前記アフィン変換行列の残りの係数を算出する第2アフィン変換行列係数算出部とを備えることを特徴とする画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002121117A JP4187458B2 (ja) | 2002-04-23 | 2002-04-23 | 画像処理におけるアフィン変換係数算出方法および画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002121117A JP4187458B2 (ja) | 2002-04-23 | 2002-04-23 | 画像処理におけるアフィン変換係数算出方法および画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003317033A JP2003317033A (ja) | 2003-11-07 |
JP4187458B2 true JP4187458B2 (ja) | 2008-11-26 |
Family
ID=29537154
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002121117A Expired - Fee Related JP4187458B2 (ja) | 2002-04-23 | 2002-04-23 | 画像処理におけるアフィン変換係数算出方法および画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4187458B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100603618B1 (ko) * | 2004-10-18 | 2006-07-24 | 한국전자통신연구원 | 어파인 변환을 이용한 문서 영상의 기하학적 왜곡 보정장치 및 방법 |
KR101035739B1 (ko) | 2009-02-13 | 2011-05-20 | 전남대학교산학협력단 | 문자 인식의 왜곡을 보정하는 방법 |
JP2012222374A (ja) * | 2011-04-04 | 2012-11-12 | Hitachi Consumer Electronics Co Ltd | 車載カメラシステム |
US9020200B2 (en) * | 2012-06-12 | 2015-04-28 | Xerox Corporation | Geometric pre-correction for automatic license plate recognition |
CN112907453B (zh) * | 2021-03-16 | 2022-02-01 | 中科海拓(无锡)科技有限公司 | 一种笔记本内结构图像矫正方法 |
CN113393369B (zh) * | 2021-05-25 | 2023-01-10 | 万翼科技有限公司 | 工程图纸中感应范围的检测方法及相关设备 |
CN115383517B (zh) * | 2022-10-27 | 2022-12-20 | 深圳市睿达科技有限公司 | 一种局部识别n点位置进行整体定位的方法和装置 |
CN117974767B (zh) * | 2024-04-01 | 2024-06-14 | 深圳中科精工科技有限公司 | 一种连接器的目标区域定位方法 |
-
2002
- 2002-04-23 JP JP2002121117A patent/JP4187458B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003317033A (ja) | 2003-11-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111145238B (zh) | 单目内窥镜图像的三维重建方法、装置及终端设备 | |
JP5390943B2 (ja) | 画像処理装置及び画像処理方法 | |
JP3279479B2 (ja) | 映像監視方法及び装置 | |
JP3156817B2 (ja) | 車両周辺監視装置 | |
US10482626B2 (en) | Around view monitoring systems for vehicle and calibration methods for calibrating image capture devices of an around view monitoring system using the same | |
CN113191954B (zh) | 一种基于双目相机的全景图像拼接方法 | |
CN112801870B (zh) | 一种基于网格优化的图像拼接方法,拼接系统及可读存储介质 | |
JP4187458B2 (ja) | 画像処理におけるアフィン変換係数算出方法および画像処理装置 | |
CN114888805B (zh) | 轮胎模具字符图案的机器人视觉自动获取方法及系统 | |
US5621825A (en) | Image processor, image processing method and apparatus applying same | |
KR100640761B1 (ko) | 단일카메라 기반의 영상 특징점의 3차원 위치 검출방법 | |
JP2009260671A (ja) | 画像処理装置及び撮像装置 | |
CN111080683B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
JP3534551B2 (ja) | 動き検出装置 | |
JP6736916B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
CN112802112B (zh) | 视觉定位方法、装置、服务器及存储介质 | |
JPH10283482A (ja) | 移動目標検出装置及び検出方法 | |
JP2000268173A (ja) | 物体認識画像処理方法 | |
JP3658137B2 (ja) | 移動体認識方法 | |
CN111080689B (zh) | 确定面部深度图的方法和装置 | |
WO2020111311A1 (ko) | 관심객체 화질개선 시스템 및 방법 | |
JP2901210B2 (ja) | テレビドアフォン録画装置 | |
JP5568166B2 (ja) | 画像処理装置及び画像処理方法 | |
JPH08272929A (ja) | 動物体3次元位置抽出装置 | |
JP3654092B2 (ja) | 画像認識方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050401 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080812 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080909 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4187458 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110919 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110919 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120919 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120919 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130919 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |