JPH04350546A - 異物検出方法 - Google Patents

異物検出方法

Info

Publication number
JPH04350546A
JPH04350546A JP3121597A JP12159791A JPH04350546A JP H04350546 A JPH04350546 A JP H04350546A JP 3121597 A JP3121597 A JP 3121597A JP 12159791 A JP12159791 A JP 12159791A JP H04350546 A JPH04350546 A JP H04350546A
Authority
JP
Japan
Prior art keywords
defect candidate
image
value
foreign object
differential
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP3121597A
Other languages
English (en)
Other versions
JPH0718812B2 (ja
Inventor
Mitsuru Shirasawa
満 白澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Electric Works Co Ltd
Original Assignee
Matsushita Electric Works Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Works Ltd filed Critical Matsushita Electric Works Ltd
Priority to JP3121597A priority Critical patent/JPH0718812B2/ja
Publication of JPH04350546A publication Critical patent/JPH04350546A/ja
Publication of JPH0718812B2 publication Critical patent/JPH0718812B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Inking, Control Or Cleaning Of Printing Machines (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、成形品等の被検査物を
テレビカメラ等で撮像し、画像としてメモリに貯え、こ
の画像をコンピュータ等で処理を施し、被検査物に存在
する異物を刻印文字等の特定パターンと識別して検出す
ると共に、被検査物の刻印文字等の特定パターンの有無
の検出する異物検出方法に関するものである。
【0002】
【従来の技術】従来の異物検出方法としては、特願平1
−63120号で提案された方法を用いて行っていた。 この異物検出方法では、被検査物を撮像して得られた画
像上で検査領域を設定し、検査領域内で欠陥候補点とし
てのエッジフラッグを検出し、そのエッジフラッグ点の
近傍での原画像における濃度変化を検出して異物を検出
していた。
【0003】
【発明が解決しようとする課題】しかしながら、上記方
法であると、検査領域内に刻印文字などの特定パターン
が存在すると、異物として認識してしまい、不良と判定
されてしまう恐れがあった。つまり、上記方法では刻印
文字などの特定パターンを異物と識別することができな
いものであった。従って、刻印文字などの特定パターン
の有無を検出することもできなかった。
【0004】本発明は上述の点に鑑みて為されたもので
あり、その目的とするところは、特定パターンと異物と
を識別して異物の検出を行うことができ、しかも特定パ
ターンの有無も検出できる異物検出方法を提供すること
にある。
【0005】
【課題を解決するための手段】本発明では、上記目的を
達成するために、特定パターンと異物の識別が困難であ
る場合に、検査領域内をラスタ走査してエッジフラッグ
を探索し、各エッジフラッグの持つ微分値から欠陥候補
点を求め、この欠陥候補点の近傍のエッジフラッグを探
して隣接する欠陥候補点を順次求め、連続する欠陥候補
点のカウント値が基準以上になれば異物と判定している
【0006】なお、近傍画素間の濃度差が所定値より大
きいエッジフラッグ点の微分値の加算値を求め、欠陥候
補点のカウント値あるいは微分値の加算値のいずれかが
基準値以上であれば異物と判定するようにしてもよい。
【0007】
【作用】本発明は、上述の処理を行うことにより、異物
と特定パターンとで異なる特徴を抽出して異物と特定パ
ターンとの識別を行い、異物を確実に検出するようにし
たものである。しかも、異物と特定パターンとを識別で
きることにより、特定パターンの有無も検出することが
できるようになっている。
【0008】
【実施例】
(実施例1)本発明では、第1図に示すように、検査対
象物をテレビカメラ等の画像入力装置1により撮像し、
各画素の濃度をA/D変換部2においてデジタル信号に
変換した後、前処理部3において以下の前処理を行うこ
とにより、A/D変換部2より得られる原画像のほかに
、微分画像、微分方向コード画像、エッジ画像を得る。
【0009】この前処理ではまず微分・稜線抽出処理を
行う。本アルゴリズムでは、画像処理の第1段階として
3×3画素の局所並列ウインドウを用いて空間微分処理
を行う。この処理の概念を図2に示す。注目する画像E
と、その画素Eの周囲の8画素A〜D,F〜Iからなる
3×3画素の局所並列ウインドウWを入力画像としての
原画像に設定する。ここで、A〜Iは各画素の8ビット
濃度値である。上記画素Eの縦方向・横方向の濃度変化
を夫々ΔV,ΔHとすると、 ΔV=(A+B+C)−(G+H+I)    …(1
)ΔH=(A+D+G)−(C+F+I)    …(
2)となる。この画素Eの微分絶対値|e|E は、|
e|E =(ΔV2 +ΔH2)1/2…(3)となる
。また、画素Eの微分方向値∠eE は、∠eE =t
an−1(ΔV/ΔH+π/2)  …(4)となる。
【0010】つまり、画素Eを中心とする周囲の8画素
のデータを同時に取り出し、上記演算を行い、その結果
を画素Eのデータとする。以上の計算を256×256
画素の全画面について行うことによって、画面内の物体
の輪郭や欠陥などの濃度変化の大きい部分と、その変化
の方向を抽出することができる。なお、(3)式の|e
|E をすべての画素について濃度(明るさ)で表した
画像を微分画像と呼び、(4)式の∠eE をコード化
して表した画像を微分方向コード画像と呼ぶ。
【0011】次に、この微分画像に対して稜線抽出処理
を行う。図3(a)が微分絶対値の画像の例である。こ
の画像における山の高い部分は原画像での濃度変化が大
きいことを示している。濃度変化が緩やかな部分では、
これらの山のすそ野が広がり輪郭線が太くなってしまう
。そこで、図3(b)に示すように、これらの山の稜線
のみを抽出する。この処理が稜線抽出処理である。
【0012】なお、実際には各画素の微分絶対値に着目
し、周囲画素の微分絶対値よりも大きなものを稜線とす
る。ここまでの処理により、微分絶対値画像中の値の大
小にかかわらず、すべての稜線が抽出される。従って、
この稜線の中にはノイズなどによる不要な小さな山(図
3(b)中a,c)まで含まれているので、図3(b)
のように、予め定められたしきい値SLによりスライス
することにより、a,cを取り除く。従って、最終的に
はb,b’の太線のみが抽出される。
【0013】上記微分・稜線抽出処理により大きい山の
稜線(以下、エッジと呼ぶ)が抽出されるが、この稜線
は図3(b)に示すように不連続になりやすい。そこで
、次にエッジ延長処理と呼ばれる処理を行い、A点から
B点を図3(b)中の点線で示すように接続する。この
処理では次の評価関数f(ej )を算出する。   f(ej )=|ej |・cos(∠ej −∠
e0 )            ・cos((j−1
)π/4−∠e0 )    …(5)ここで、e0 
:中心画素濃度(図2のE)の微分データej :隣接
画素(図2のEを除くA〜I)の微分データこの評価関
数の値が大きいほど、その方向のエッジを伸ばしやすい
ことを意味している。
【0014】このエッジ延長処理では、図3(b)のA
点を始点として隣接画像に対し、順次(5)式の評価関
数を算出し、その最大値を示す方向へ延長して行き、B
点でもともとのエッジと衝突したならば処理を止める。 このとき得られるエッジは、原画像上の明るさの変化点
を線画で表したものである。ここで、原画像から明るさ
の変化点を輪郭として抽出した線画像を、エッジ画像と
呼ぶ。
【0015】以上の処理により、夫々微分画像、微分方
向コード画像、エッジ画像が得られる。これらの画像の
構成を図4を用いて説明する。図4において、4枚の画
像上のアドレスは共通とし、任意の点P(x,y)と設
定する。原画像f1 は入力された濃淡画像で、通常8
ビット(256階調)の明るさのレベルで表される。点
Pでの明るさaは、 a=f1 (x,y)        (0≦a≦25
5)とおく。
【0016】微分画像f2 における微分値の階調を例
えば6ビットとすると、点Pでの微分値bは、b=f2
 (x,y)        (0≦a≦63)と表さ
れる。微分方向コード画像f3 における微分方向を例
えば16方向でコード化すれば、点Pにおける微分方向
コードcは、 c=f3 (x,y)        (0≦a≦15
)と書ける。
【0017】エッジ画像f4 においては、原画像上の
明るさの変化点を線画として抽出した1ビットの画像で
あるので、線画の部分が ”1”,背景が ”0”とな
っている。そこで、 ”1”である画素をエッジフラッ
グと呼び、点Pがエッジフラッグであるとき、f4 (
x,y)=1 となり、背景であるとき、 f4 (x,y)=0 と表される。
【0018】次に、特定パターンあるいは異物を検出す
る処理について説明図する。なお、以下の説明では特定
パターンとして刻印文字を検出する場合について説明す
る。この処理を行う場合、被検査物X内の刻印文字が発
生する領域に図5に示す任意形状の検査領域Mを設定す
る。なお、図5中のYは異物を示す。次に、微分画像f
2 上で、検査領域M内の各画素の微分値を、f2 (
xj ,yj )=bij     …(6)ここで、
i=1,2,3,… j=1,2,3,… とする。
【0019】次に、検査領域M内の微分値の総和AをA
=Σbij                    
  …(7)とし、検査領域M内の平均微分値Lを L=A/(i×j)              …(
8)として算出する。
【0020】もし、検査領域M内に、刻印文字あるいは
異物が存在している場合には、 (1)  平均微分値Lが大きい(刻印文字が無いとき
に比べて) (2)  拡散照明を用いてあるので、コントラストの
ある異物の平均微分値は刻印文字よりも大きい。 という特徴がある。
【0021】この点を利用して、刻印文字の有無を検出
する検査用しきい値S1 と、コントラストのある異物
を検出する検査用しきい値S2 を予め設定しておき、
これらしきい値S1 ,S2 と平均微分値Lとの比較
を行う。   ここで、      L<S1         
                  …(9)が成立
すれば、検査領域M内には刻印文字及び異物が存在しな
いと判定する。
【0022】   また、        S2 <L       
                   …(10)が
成立すれば、検査領域M内に異物が存在すると判定し、
その被検査物は不良とする。   しかし、      S1 <L<S2     
                …(11)が成立し
た場合、検査領域M内に刻印文字あるいは異物が存在す
るかどうか分からない。
【0023】そこで、この時には検査領域M内をさらに
探索し、刻印文字および異物のどちらが存在しているか
を判定する処理を行う。この処理では、エッジ画像f4
 上で設定された検査領域M内を図6に示す方向でラス
タ走査を開始し、エッジフラッグが存在する点、すなわ
ちf4 (x,y)=1となる点を求める。
【0024】このラスタ走査により最初に求められたエ
ッジフラッグが存在する点をQ0 (x0 ,y0 )
とすると共に、このラスタ走査により求められるエッジ
フラッグが存在する各点をQi (xi ,yi )と
する。但し、i=0,1,2,3,…である。このラス
タ走査により求めたエッジフラッグZを図7に示す。ま
た、この各点Qi (xi ,yi )の微分画像f2
 上での値を、f2 (xk ,yk )=bk   
      …(12)但し、k=0,1,2,3,… とおく。この各点の持つ微分値bk と予め設定された
微分しきい値S3 とを比較し、 bk >S3                   
          …(13)が成立した場合は、そ
のエッジフラッグ点Qi (xi ,yi )を欠陥候
補点とする。
【0025】そして、上記ラスタ走査を検査領域M内に
ついて行い、全欠陥候補点を抽出する。次に、抽出され
た欠陥候補点を中心として図8に示す3×3の近傍探索
マスクを設定し、欠陥候補点から図示する矢印で示す順
番でエッジ画像f4 上を探索し、隣接する画素にエッ
ジフラッグが存在するかどうか検査する。
【0026】もし、隣接する画素にエッジフラッグが存
在し、そのエッジフラッグが欠陥候補点であれば、今度
はその欠陥候補点を中心に3×3の近傍探索マスクを設
定し、前回に探索した画素以外の画素を順に探索してい
く。この際に近傍探索マスクによる探索で求められた欠
陥候補点は開始点も含めてカウントしていく。このカウ
ント値をBとする。そして、近傍探索マスク内に隣接す
るエッジフラッグが存在しない場合、この処理を中止し
、この探索により求められたカウント値Bを予め設定さ
れた隣接する欠陥候補点しきい値S4 と比較する。
【0027】   ここで、        B>S4       
              …(14)が成立すると
、検査領域M内に異物が存在していると判定し、その被
検査物を不良とする。以上の動作をまとめたフローチャ
ートを図9に示す。被検査物を照射する照明としては、
拡散照明を用いているため、被検査物表面の明るさは均
一になっている。従って、刻印された文字の凹凸の部分
の微分値は平均微分値Lに近い値を示す。 これは、検査領域Mを文字の大きさぎりぎりに設定して
いるためである。
【0028】しかし、異物が検査領域M内に存在する場
合には、小さい欠陥でも異物自体の微分値が大きいため
、検査領域M内の平均微分値Lを引き上げてしまい、文
字が存在しているときと同様の値を示す場合がある。 そこで、このような場合には次のようにして異物と刻印
文字との識別を行う。つまり、検査領域M内に異物が存
在すれば、局所的に微分値が大きくなるという特徴があ
るので、(13)式を用いて異物の抽出を行い、その連
続性を調べる。異物の場合には、ノイズ的に欠陥候補点
が存在し、連続性を持たないので、刻印文字との識別が
できる。
【0029】そして、これにより異物でなければ、刻印
文字の有無の検出を行う。 (実施例2)以下、本発明の他の実施例について説明す
る。なお、本実施例の場合は(13)式までの処理は上
記実施例1と同じであり、本実施例の場合にはその後の
処理が異なる。
【0030】上記(13)式が成立した各点Qi (x
i ,yi )の微分方向コード画像f3 上での値を
、 f3 (xi ,yi )=Cq         …
(15)ここで、q=0,1,2,3,… とおく。
【0031】次に、原画像f1 上に微分方向コードC
q に対して垂直方向の任意の対称位置にある複数対(
後述する説明では2対とする)の画素の濃度値を測定す
るために、図10に示すマスク(以下、このマスクをス
ティックマスクと呼ぶ)を設定する。いま、スティック
マスク内の2対の各画素のアドレスを、点R2 (xi
+m ,yi+m ),点R1 (xi+n ,yi+
n ),点S1 (xi−n ,yi−n ),点S2
 (xi−m ,yi−m )とする。
【0032】また、各点の濃度を     R2 =f1 (xq+m ,yq+m )=
s          …(16)    R1 =f
1 (xq+n ,yq+n )=t        
  …(17)    S1 =f1 (xq−n ,
yq−n )=u          …(18)  
  S2 =f1 (xq−m ,yq−m )=v 
         …(19)とする。
【0033】次に、点R2 −S2 ,R1 −S1 
間の濃度差を求め、この値と濃度差のしきい値S5 と
比較する。   このとき、    |s−v|>S5      
         …(20)           
     |t−u|>S5            
   …(21)のどちらか一方を満たせば、そのエッ
ジフラッグ点Qi (xi ,yi )を欠陥候補点と
してカウントする。このときのカウント値をCとする。
【0034】また、上記(20),(21)式のどちら
かを一方を満足したエッジフラッグ点Qi (xi ,
yi )の微分画像f2 上での微分値をf2 (xi
 ,yi )=Dq         …(22)とし
、その微分値を加算していく。そして、その加算値をD
とおく。これを、検査領域M内について行い、全欠陥候
補点を抽出し、以上の処理を行う。
【0035】次に、欠陥候補点のカウント値Cと、カウ
ント値のしきい値S6 との比較、及び微分値の加算値
Dと、加算値のしきい値S7 との比較する。   このとき、          C>S6    
             …(23)       
               D>S7      
           …(24)のいずれかを一方を
満たせば、検査領域M内に異物が存在すると判定する。 つまり、異物が文字と違って、局所的に微分値が大きく
、コントラストもあるという特徴があるので、このこと
を利用して、しきい値の設定を行い、文字と異物との識
別を行うのである。図11に上記動作をまとめたフロー
チャートを示す。
【0036】
【発明の効果】本発明は上述のように、特定パターンと
異物の識別が困難である場合に、検査領域内をラスタ走
査してエッジフラッグを探索し、各エッジフラッグの持
つ微分値から欠陥候補点を求め、この欠陥候補点の近傍
のエッジフラッグを探して隣接する欠陥候補点を順次求
め、連続する欠陥候補点のカウント値が基準以上になれ
ば異物と判定しているので、異物と特定パターンとで異
なる特徴を抽出して異物と特定パターンとの識別を行い
、異物を確実に検出でき、しかも異物と特定パターンと
を識別できるので、特定パターンの有無も検出すること
もできる。
【0037】また、近傍画素間の濃度差が所定値より大
きいエッジフラッグ点の微分値の加算値を求め、欠陥候
補点のカウント値あるいは微分値の加算値のいずれかが
基準値以上であれば異物と判定しても、異物と特定パタ
ーンとで異なる特徴を抽出して異物と特定パターンとの
識別を行い、異物を確実に検出でき、特定パターンの有
無も検出できる。
【図面の簡単な説明】
【図1】本発明の一実施例の方法を適用する装置の構成
を示すブロック図である。
【図2】同上の第1段階の空間微分処理の説明図である
【図3】同上の稜線抽出・エッジ延長処理の説明図であ
る。
【図4】同上で取り扱う画像を示す説明図である。
【図5】検査領域の設定方法の説明図である。
【図6】検査領域をラスタ走査して欠陥候補点を探索す
る方法の説明図である。
【図7】ラスタ走査により求めたエッジフラッグを示す
説明図である。
【図8】近傍探索マスクを設定して欠陥候補点を探索す
る方法の説明図である。
【図9】同上の実施例1の動作をまとめたフローチャー
トである。
【図10】他の実施例における欠陥候補点を求める方法
の説明図である。
【図11】同上の動作をまとめたフローチャートである
【符号の説明】
1  テレビカメラ 3  前処理部 8  演算処理部 9  画像メモリ部

Claims (2)

    【特許請求の範囲】
  1. 【請求項1】  被検査物を撮像して得られた画像上で
    検査領域を設定し、検査領域内の全画素から平均微分値
    を求め、予め設定したしきい値と比較することにより特
    定パターンあるいは異物を検出する異物検出方法におい
    て、特定パターンと異物の識別が困難である場合に、検
    査領域内をラスタ走査してエッジフラッグを探索し、各
    エッジフラッグの持つ微分値から欠陥候補点を求め、こ
    の欠陥候補点の近傍のエッジフラッグを探して隣接する
    欠陥候補点を順次求め、連続する欠陥候補点のカウント
    値が基準以上になれば異物と判定して成ることを特徴と
    する異物検出方法。
  2. 【請求項2】  近傍画素間の濃度差が所定値より大き
    いエッジフラッグ点の微分値の加算値を求め、欠陥候補
    点のカウント値あるいは微分値の加算値のいずれかが基
    準値以上であれば異物と判定することを特徴とする請求
    項1記載の異物検出方法。
JP3121597A 1991-05-28 1991-05-28 異物検出方法 Expired - Fee Related JPH0718812B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP3121597A JPH0718812B2 (ja) 1991-05-28 1991-05-28 異物検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP3121597A JPH0718812B2 (ja) 1991-05-28 1991-05-28 異物検出方法

Publications (2)

Publication Number Publication Date
JPH04350546A true JPH04350546A (ja) 1992-12-04
JPH0718812B2 JPH0718812B2 (ja) 1995-03-06

Family

ID=14815197

Family Applications (1)

Application Number Title Priority Date Filing Date
JP3121597A Expired - Fee Related JPH0718812B2 (ja) 1991-05-28 1991-05-28 異物検出方法

Country Status (1)

Country Link
JP (1) JPH0718812B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003242482A (ja) * 2002-02-14 2003-08-29 Hitachi High-Technologies Corp 回路パターンの検査方法および検査装置
JP2007180171A (ja) * 2005-12-27 2007-07-12 Nikon Corp エッジ位置計測方法及び装置、並びに露光装置
JP2009008564A (ja) * 2007-06-28 2009-01-15 Panasonic Electric Works Co Ltd 画像処理による外観検査方法およびその装置
JP2009008563A (ja) * 2007-06-28 2009-01-15 Panasonic Electric Works Co Ltd 画像処理による外観検査方法およびその装置
JP2010139378A (ja) * 2008-12-11 2010-06-24 Nippon Steel Corp デンドライト傾角測定装置、方法及びプログラム
JP2011137656A (ja) * 2009-12-25 2011-07-14 Sharp Corp 画像処理方法、画像処理装置、プログラムおよび記録媒体
JP2013015359A (ja) * 2011-07-01 2013-01-24 Tokuyama Corp 欠陥検査方法および欠陥検査装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003242482A (ja) * 2002-02-14 2003-08-29 Hitachi High-Technologies Corp 回路パターンの検査方法および検査装置
JP2007180171A (ja) * 2005-12-27 2007-07-12 Nikon Corp エッジ位置計測方法及び装置、並びに露光装置
JP2009008564A (ja) * 2007-06-28 2009-01-15 Panasonic Electric Works Co Ltd 画像処理による外観検査方法およびその装置
JP2009008563A (ja) * 2007-06-28 2009-01-15 Panasonic Electric Works Co Ltd 画像処理による外観検査方法およびその装置
JP2010139378A (ja) * 2008-12-11 2010-06-24 Nippon Steel Corp デンドライト傾角測定装置、方法及びプログラム
JP2011137656A (ja) * 2009-12-25 2011-07-14 Sharp Corp 画像処理方法、画像処理装置、プログラムおよび記録媒体
JP2013015359A (ja) * 2011-07-01 2013-01-24 Tokuyama Corp 欠陥検査方法および欠陥検査装置

Also Published As

Publication number Publication date
JPH0718812B2 (ja) 1995-03-06

Similar Documents

Publication Publication Date Title
US6798906B1 (en) Image processing apparatus and method including line segment data extraction
JPS62214481A (ja) 画質判定装置
JPH04350546A (ja) 異物検出方法
KR100234593B1 (ko) 직물의 고속 검사방법
JP3890844B2 (ja) 外観検査方法
JPS61141087A (ja) 画像処理方法及び装置
CN116843640A (zh) 瓷砖表面凹坑缺陷检测方法、系统及存储介质
JPH0210461B2 (ja)
JPH07333197A (ja) 表面疵自動探傷装置
JPH03175343A (ja) 外観検査による欠陥抽出方法
JPH0718811B2 (ja) 欠陥検査方法
JP3753234B2 (ja) 欠陥検出方法
JPH09288037A (ja) Lcdパネルの検査方法
JP2011153874A (ja) 外観検査装置、外観検査システムおよび外観検査方法
JPH0797410B2 (ja) 画像処理方法
JPH11160046A (ja) 外観検査方法
JP3234636B2 (ja) 欠陥検査装置
JPH0624014B2 (ja) 濃淡画像の処理方法
JP2654294B2 (ja) エッジ検出方法
JPH10214327A (ja) 画像を用いた表面欠陥検出方法
JPH1114317A (ja) 外観検査方法及びその装置
JP2988059B2 (ja) 円形容器内面検査装置
JPH0431751A (ja) 外観検査による欠陥検出方法
JP3038092B2 (ja) 外観検査方法
JPS61126455A (ja) 画像処理方法

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 19950822

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080306

Year of fee payment: 13

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090306

Year of fee payment: 14

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090306

Year of fee payment: 14

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090306

Year of fee payment: 14

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100306

Year of fee payment: 15

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100306

Year of fee payment: 15

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110306

Year of fee payment: 16

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120306

Year of fee payment: 17

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120306

Year of fee payment: 17