JP3568835B2 - 画像認識装置及び該装置を用いた外観検査装置 - Google Patents
画像認識装置及び該装置を用いた外観検査装置 Download PDFInfo
- Publication number
- JP3568835B2 JP3568835B2 JP26059399A JP26059399A JP3568835B2 JP 3568835 B2 JP3568835 B2 JP 3568835B2 JP 26059399 A JP26059399 A JP 26059399A JP 26059399 A JP26059399 A JP 26059399A JP 3568835 B2 JP3568835 B2 JP 3568835B2
- Authority
- JP
- Japan
- Prior art keywords
- image data
- image
- electronic component
- filter
- square matrix
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Processing (AREA)
- Supply And Installment Of Electrical Components (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、順次搬送されてくる電子部品の端子等を画像認識する画像認識装置及び該装置を用いた外観検査装置に係り、特に、電子部品の端子等の入力画像データを強調処理して電子部品の外観を正確に認識する画像認識装置及び該装置を用いた外観検査装置に関する。
【0002】
【従来の技術】
電子部品20(図7においてはリード型電子部品21)は、図7に示すように、不図示の基板への実装段階において、その本体を上面から吸着ノズル23で吸着された状態で搬送アーム24によりY方向へ搬送され、電子部品20の姿勢,外観をCCDカメラやCCDラインセンサ又は変位測定装置等の画像データ入力手段2で下方から視認することができる。
【0003】
図8(a)に示すようなリード端子21aが本体の周囲から突出しているリード型電子部品21は、同図(b)に示すように、搬送時では基板に実装するためにリード端子21aが下方に垂れ下がった状態で搬送される。したがって、CCDカメラ等の画像データ入力手段2で読み取られたリード型電子部品21の画像データは、例えば同図(a)に示す枠内の部分では、同図(c)に示すようなデータとなる。
【0004】
また、図9(a)に示すような、半球状に盛りつけられた複数の半田ボール22aを有するボールグリッドアレイ(以下「BGA」)型電子部品22は、同図(b)に示すように、半田ボール22aが盛りつけられている面が下方に向けられて搬送される。したがって、CCDカメラ等の画像データ入力手段2で読み取られたBGA型電子部品22の画像データは、例えば同図(a)に示す枠内の部分では、同図(c)に示すようなデータとなる。
【0005】
しかしながら、図8(c)及び図9(c)の画像データにはノイズが含まれているため、各電子部品20のリード端子21aや半田ボール22aがどこに位置しているのか認識しにくくなっている。特に半田ボール22aが欠落しているか否かが認識しにくくなっている。
【0006】
また、リード型電子部品21のリード端子21aを抽出する場合、リード端子21aの形状に応じたフィルタ処理を行うが、図8に示すリード型電子部品21のリード端子21aはX方向とY方向に突出しているため、いずれかの方向のリード端子21aしか抽出することができない。
【0007】
【発明が解決しようとする課題】
本発明は、上記欠点を除くためになされたものであって、その目的とするところは、正方行列型の画像強調フィルタを画像データ上で走査することにより、電子部品の向きにかかわらず、電子部品の抽出しようとする部分を認識することにある。
【0008】
また他の目的は、画像強調フィルタの次元を、前記電子部品の抽出しようとする部分の短径に対応する画素数の次元に設定することにより、電子部品の抽出しようとする部分のみを強調させることにある。
【0009】
更に他の目的は、強調処理後の画像データの各画素を強調処理後の画像データに対する基準値と比較して電子部品の外形を検出することにより、画像データに含まれているノイズを除去して検査対象となる電子部品の外形を把握することにある。
【0010】
また他の目的は、基準となる電子部品の基準画像データを予め記憶しておき、検出された電子部品の外形の画像データを2値化処理して、基準となる電子部品の外形データと2値化手段で2値化された電子部品の外形の画像データと比較して一致するか否かを判別することにより、効率よく電子部品を良品か否かを判別することにある。
【0011】
【課題を解決するための手段】
要するに、本発明の請求項1記載の画像認識装置は、電子部品の画像を輝度又は距離情報の画像データとして入力する画像データ入力手段と、
前記画像データ上で走査される正方行列型の画像強調フィルタと、
該画像強調フィルタの次元を、前記電子部品の抽出しようとする部分の短径に対応する画素数の次元に設定するフィルタ設定手段と、
前記画像強調フィルタに基づいて前記画像データを演算処理する演算手段と、
強調処理後の画像データを格納保持する記憶手段と、
を具備することを特徴とする。
【0012】
また、本発明の請求項2記載の画像認識装置は、請求項1記載の画像認識装置において、前記演算手段は、前記画像強調フィルタの各係数と該画像強調フィルタで走査された部分の画像データの各画素値とをそれぞれ乗算し、乗算された各値を合計して1画素分の画像データとすることを特徴とする。
【0013】
更に、請求項3記載の画像認識装置は、請求項1又は2記載の画像認識装置において、前記画像強調フィルタは、各係数がすべて2以上の同一値からなる正方行列型フィルタであることを特徴とする。
【0014】
また、請求項4記載の画像認識装置は、請求項1又は2記載の画像認識装置において、前記画像強調フィルタは、各係数がすべて2以上の同一値からなる正方行列部分を有し、該正方行列部分を囲む各係数がすべて1以下の同一値からなる正方行列型フィルタであることを特徴とする。
【0015】
更に、請求項5記載の画像認識装置は、請求項4記載の画像認識装置において、前記正方行列部分の各係数の合計値と前記正方行列部分を囲む各係数の合計値との和が零であることを特徴とする。
【0016】
また、請求項6記載の外観検査装置は、請求項1〜5のいずれかに記載の画像認識装置と、
前記強調処理後の画像データに対する基準値が設定されており、前記強調処理後の画像データの各画素を前記基準値と比較して前記電子部品の外形を検出する検出手段と、
を具備することを特徴とする。
【0017】
更に、請求項7記載の外観検査装置は、請求項6記載の外観検査装置において、基準となる電子部品の基準画像データが予め記憶されている基準外形記憶手段と、
前記検出手段により検出された電子部品の外形の画像データを2値化処理する2値化手段と、
前記基準外形記憶手段から前記基準画像データを読み出し、前記2値化手段で2値化された電子部品の外形の画像データと比較して一致するか否かを判別する判別手段と、
を具備することを特徴とする。
【0018】
入力された画像データは縮小される。縮小された画像データは、画像強調フィルタにより走査されて、演算処理される。演算処理された画像データは記憶手段に格納保持される。
【0019】
記憶手段に格納保持されている画像データを検出手段に読み出され、所定の基準値と比較されて、電子部品の外形が検出される。また、基準値を基準として画像データを2値化し、判別手段に送出する。基準外形記憶手段には、基準となる電子部品の外形を示す2値化された基準画像データが記憶されており、この基準画像データを読み出して検査対象の画像データと基準画像データとが一致するか否かを比較し、電子部品が良品か否かを判別する。
【0020】
【発明の実施の形態】
図1は本発明の電子部品認識装置1の実施の形態を示すブロック図である。電子部品認識装置1は、画像データ入力手段2と縮小手段3と記憶手段4と演算手段5とフィルタ設定手段6とで構成されている。
【0021】
画像データ入力手段2は、電子部品20を輝度情報として読み取るCCDカメラ若しくはCCDラインセンサ又は距離情報として読み取る変位測定装置等で構成されており、搬送されてくる電子部品20の画像を背面から撮像し、1500画素×1500画素の輝度情報又は距離情報からなる画像データを得る。縮小手段3は、1500画素×1500画素の画像データを例えば200画素×200画素の画像データに縮小処理する。縮小処理された画像データはRAM等の記憶手段4に記憶される。
【0022】
演算手段5には画像強調フィルタFが記憶されており、記憶手段3に格納保持されている入力画像データを読み出して、画像強調フィルタFを用いて演算処理をする。図2(a)に示すように、画像強調フィルタFは、例えば2画素×2画素の正方行列型のフィルタF1である。この画像強調フィルタF1の各係数は、すべて「2」に設定されている。
【0023】
フィルタ設定手段6は、画像強調フィルタFの行列の次元を、電子部品20の抽出しようとする部分、例えばリード型電子部品21のリード端子21aの短径又はBGA型電子部品22の半田ボール22aの短径、即ち直径に対応する画素数の次元に設定する。例えば、図2(b)に示すように、リード端子21aの短径に含まれる画素数が2であれば、画像強調フィルタF1の行列を2次元の正方行列に設定される。
【0024】
次に、本実施の形態の作用について説明する。まず、図7に示すように、リード型電子部品21を搬送アーム24に装着してY方向に搬送する。リード型電子部品21がCCDカメラ等の画像データ入力手段2上に搬送されると、輝度情報や距離情報の画像データが読み取られる。読み取られた画像データは、記憶手段4に格納保持される。
【0025】
格納保持された画像データは縮小手段3により縮小処理され、記憶手段4に格納保持される。縮小処理された画像データは、演算手段5に記憶されている画像強調フィルタF1により演算処理される。例えば、図2(a)の画像強調フィルタF1を用いて図8(c)の画像データを演算処理する場合、図3(a)に示すような演算処理により、重複した画素ごとに乗算され、同図(b)に示すように、乗算された各値を合計して1画素分の画像データにして記憶手段4に格納保持される。次に、画像強調フィルタF1をシフトして同様に演算処理をする。この演算処理により、同図(c)に示すような強調処理後の画像データが得られる。また、BGA型電子部品22を搬送して、図9(c)の画像データを演算処理する場合、図6(a)に示すような画像データが得られる。
【0026】
この画像強調フィルタF1を用いると、図2(b)〜(d)に示すように、抽出しようとするリード型電子部品21のリード端子21aの突出方向が異なっていても、画像強調フィルタF1がリード端子21aの短径に含まれていることがわかる。また、同図(e)に示すように、BGA型電子部品22の場合であっても、正方行列部分F2aが半田ボール22aの短径である直径に含まれていることがわかる。
【0027】
上記実施の形態では、図2(a)に示すような2次元の正方行列型の画像強調フィルタF1を用いたが、抽出しようとする部分の短径が含まれる最大画素数を次元とする正方行列型フィルタであればよい。また、フィルタ係数は2以上の同一値であればよい。
【0028】
次に、図4(a)に示す画像強調フィルタF2を用いた場合について説明する。この画像強調フィルタF2は、各係数がすべて3からなる正方行列部分F2aを有し、この正方行列部分F2aを囲む各係数がすべて−1からなる正方行列型フィルタである。正方行列部分F2aの次元は、抽出しようとする部分、例えばリード型電子部品21のリード端子21aの短径又はBGA型電子部品22の半田ボール22aの直径に含まれる最大画素数となるように、フィルタ設定手段6により設定されている。
【0029】
この画像強調フィルタF2を用いた演算処理内容について説明する。上記第一実施の形態と同様、図5(a)に示すように、重複した画素ごとに乗算され、同図(b)に示すように、乗算された各値を合計して1画素分の画像データにして記憶手段4に格納保持する。次に、画像強調フィルタF2をシフトして同様に演算処理をする。この演算処理により、同図(c)に示すような強調処理後の画像データが得られる。図3(c)に示す第一実施の形態の演算処理後の画像データと比較すると、抽出しようとするリード端子21aが正の値で強調されている反面、正方行列部分をすべて−1からなる係数で囲んでいるため、リード端子21aの輪郭部分が負の値で強調されている。また、BGA型電子部品22を搬送して、図9(c)の画像データを演算処理する場合、図6(b)に示すような画像データが得られる。
【0030】
この画像強調フィルタF2を用いると、図4(b)〜(d)に示すように、抽出しようとするリード型電子部品21のリード端子21aの突出方向が異なっていても、画像強調フィルタF2の正方行列部分F2aがリード端子21aの短径に含まれていることがわかる。また、同図(e)に示すように、BGA型電子部品22の場合であっても、正方行列部分F2aが半田ボール22aの短径である直径に含まれていることがわかる。
【0031】
なお、画像強調フィルタF2の正方行列部分F2aは、各係数がすべて2以上の同一値であれば、上記のように「3」に限定されることはない。また、正方行列部分を囲む各係数についてもすべて1以下の同一値であれば、上記のように「−1」に限定されることはない。
【0032】
また、特に正方行列部分F2aの各係数の合計値と正方行列部分F2aを囲む各係数の合計値との和が零となるように、フィルタ設定手段6により係数を設定すると、入力画像データの画素値が同一値で配列されている部分、例えば電子部品20の本体の画像データは、強調処理後において「0」となり、リード端子21a及び半田ボール22aが強調されることとなる。
【0033】
次に、上記画像認識装置1を用いた外観検査装置10の第1実施の形態について説明する。図1に示すように、外観検査装置10は、上記画像認識装置1と検出手段11とで構成されている。
【0034】
検出手段11には、強調処理後の画像データに対する基準値が設定されており、強調処理後の画像データの各画素をその基準値と比較して電子部品20の外形を検出する。
【0035】
次に、本実施の形態の作用について説明する。画像認識装置1により強調処理されたリード端子21aの画像データは、記憶手段4に格納保持されている。この強調処理後の画像データは検出手段11に読み出され、各画素ごとに基準値と比較される。例えば、画像強調フィルタF1を走査した場合、基準値を300と設定すると、図3(c)に示す強調処理後の画像データは、長方形の枠で囲まれた「392」,「312」の部分が抽出されることとなる。これにより基準値より高い画像データのみが出力され、リード端子21aの外形が検出される。また、画像強調フィルタF2を走査した場合、基準値を150と設定すると、図5(c)に示す強調処理後の画像データは、長方形の枠で囲まれた「336」,「164」の部分が抽出されることとなる。これにより基準値より高い画像データのみが出力され、画像データに含まれているノイズが除去され、リード端子21aの外形が検出される。
【0036】
また、半田ボール22aの画像データを読みだしたとき、画像強調フィルタF1を走査した場合、基準値を300と設定すると、図6(a)に示す強調処理後の画像データは、正方形の枠で囲まれた「320」,「312」の部分が抽出されることとなる。これにより基準値より高い画像データのみが出力され、半田ボール22aの外形が検出される。また、画像強調フィルタF2を走査した場合、基準値を150と設定すると、図5(c)に示す強調処理後の画像データは、正方形の枠で囲まれた「338」,「361」,「352」,「348」の部分が抽出されることとなる。これにより基準値より高い画像データのみが出力され、画像データに含まれているノイズが除去され、半田ボール22aの外形が検出される。
【0037】
次に外観検査装置の第二実施の形態について説明する。図1に示すように、第二実施の形態では、更に、2値化手段12と判別手段13と基準外形記憶手段14を設けられている。2値化手段12は、検出手段13で設定されている基準値よりも大きい画像データを「1」とし、基準値以下の画像データを「0」とする。基準外形記憶手段14には、検査しようとする電子部品20の基準となる外形の2値化された基準画像データが記憶されている。判別手段13は、2値化手段12で2値化された画像データと、基準画像データとに基づいて判別を行う。
【0038】
次に本実施の形態の作用について説明する。画像認識装置1により強調処理されたリード端子21a又は半田ボール22aの画像データは、記憶手段4に格納保持されている。この強調処理後の画像データは検出手段11に読み出され、各画素ごとに基準値と比較される。画像データは2値化処理手段12に出力され、基準値よりも大きい画像データは「1」に変換され、基準値以下の画像データは「0」に変換される。
【0039】
2値化処理手段12で2値化された画像データは判別手段13に出力される。そして、基準外形記憶手段14から基準となる電子部品22の外形の2値化された基準画像データを読み出し、検査対象の画像データと比較する。同じ位置の検査対象の画像データと基準画像データが同一値である画素に関しては、検査対象のリード端子21aと基準となるリード端子とが一致していることとなる。一方、同一値でない部分に関しては、基準外形と一致しておらず、リード端子21aが曲がっていることとなる。また半田ボール22aについても同様で、同じ位置の検査対象の画像データと基準画像データが同一値である画素に関しては、検査対象の半田ボール22aと基準となる半田ボールとが一致していることとなる。一方、同一値でない部分に関しては、基準外形と一致しておらず、半田ボール22aの配列がずれているか、半田ボール22aが欠落していることとなる。
【0040】
判別手段13では一致していないリード端子の画像のずれ量を画素数単位でカウントし、設定された値以下の場合は良品と判別して、設定された値よりも大きくなった場合は不良品と判別する。
【0041】
【発明の効果】
正方行列型の画像強調フィルタを画像データ上で走査することにより、電子部品の向きにかかわらず、電子部品の抽出しようとする部分を認識することができる。
【0042】
また、画像強調フィルタの次元を、前記電子部品の抽出しようとする部分の短径に対応する画素数の次元に設定することにより、電子部品の抽出しようとする部分のみを強調させることができる。
【0043】
さらに、強調処理後の画像データの各画素を強調処理後の画像データに対する基準値と比較して電子部品の外形を検出することにより、画像データに含まれているノイズを除去して、検査対象となる電子部品の外形を把握することができる。
【0044】
また、基準となる電子部品の基準画像データを予め記憶しておき、検出された電子部品の外形の画像データを2値化処理して、基準となる電子部品の外形データと2値化手段で2値化された電子部品の外形の画像データと比較して一致するか否かを判別することにより、効率よく電子部品を良品か否かを判別することができる。
【図面の簡単な説明】
【図1】本発明による画像認識装置及び該装値を用いた外観検査装置のブロック図である。
【図2】本発明による画像認識装置の第一実施の形態における画像強調フィルタ及び画像強調フィルタの実例を示す図である。
【図3】本発明による画像認識装置の第一実施の形態における演算手段の処理内容及び処理結果を示す図である。
【図4】本発明による画像認識装置の第二実施の形態における画像強調フィルタ及び画像強調フィルタの実例を示す図である。
【図5】本発明による画像認識装置の第二実施の形態における演算手段の処理内容及び処理結果を示す図である。
【図6】本発明による画像認識装置の第一及び第二実施の形態における、BGA型電子部品の演算手段の処理結果を示す図である。
【図7】電子部品の搬送段階を示す概略図である
【図8】リード型電子部品の外形及び画像データを示す図である。
【図9】BGA型電子部品の外形及び画像データを示す図である。
【符号の説明】
1…画像認識装置、2…画像データ入力手段、4…記憶手段、5…演算手段、6…フィルタ設定手段、10…外観検査装置、11…検出手段、12…2値化手段、13…判別手段、14…基準外形記憶手段、20…電子部品、21a,22a…電子部品の抽出しようとする部分(リード端子,半田ボール)、F…画像強調フィルタ、F2a…正方行列部分
Claims (7)
- 電子部品(20)の画像を輝度又は距離情報の画像データとして入力する画像データ入力手段(2)と、
前記画像データ上で走査される正方行列型の画像強調フィルタ(F)と、
該画像強調フィルタの次元を、前記電子部品の抽出しようとする部分(21a,22a)の短径に対応する画素数の次元に設定するフィルタ設定手段(6)と、
前記画像強調フィルタに基づいて前記画像データを演算処理する演算手段(5)と、
強調処理後の画像データを格納保持する記憶手段(4)と、
を具備することを特徴とする画像認識装置。 - 前記演算手段は、前記画像強調フィルタの各係数と該画像強調フィルタで走査された部分の画像データの各画素値とをそれぞれ乗算し、乗算された各値を合計して1画素分の画像データとすることを特徴とする請求項1記載の画像認識装置。
- 前記画像強調フィルタは、各係数がすべて2以上の同一値からなる正方行列型フィルタ(F1)であることを特徴とする請求項1又は2記載の画像認識装置。
- 前記画像強調フィルタは、各係数がすべて2以上の同一値からなる正方行列部分(F2a)を有し、該正方行列部分を囲む各係数がすべて1以下の同一値からなる正方行列型フィルタ(F2)であることを特徴とする請求項1又は2記載の画像認識装置。
- 前記正方行列部分の各係数の合計値と前記正方行列部分を囲む各係数の合計値との和が零であることを特徴とする請求項4記載の画像認識装置。
- 請求項1〜5のいずれかに記載の画像認識装置(1)と、
前記強調処理後の画像データに対する基準値が設定されており、前記強調処理後の画像データの各画素を前記基準値と比較して前記電子部品の外形を検出する検出手段(11)と、
を具備することを特徴とする外観検査装置。 - 基準となる電子部品の基準画像データが予め記憶されている基準外形記憶手段(14)と、
前記検出手段により検出された電子部品の外形の画像データを2値化処理する2値化手段(12)と、
前記基準外形記憶手段から前記基準画像データを読み出し、前記2値化手段で2値化された電子部品の外形の画像データと比較して一致するか否かを判別する判別手段(13)と、
を具備することを特徴とする請求項6記載の外観検査装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP26059399A JP3568835B2 (ja) | 1999-09-14 | 1999-09-14 | 画像認識装置及び該装置を用いた外観検査装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP26059399A JP3568835B2 (ja) | 1999-09-14 | 1999-09-14 | 画像認識装置及び該装置を用いた外観検査装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001082939A JP2001082939A (ja) | 2001-03-30 |
JP3568835B2 true JP3568835B2 (ja) | 2004-09-22 |
Family
ID=17350116
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP26059399A Expired - Fee Related JP3568835B2 (ja) | 1999-09-14 | 1999-09-14 | 画像認識装置及び該装置を用いた外観検査装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3568835B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4252365B2 (ja) * | 2003-05-30 | 2009-04-08 | 株式会社ザナヴィ・インフォマティクス | 基板情報作成方法および基板情報作成装置 |
-
1999
- 1999-09-14 JP JP26059399A patent/JP3568835B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2001082939A (ja) | 2001-03-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5174513B2 (ja) | 紙葉類の汚れ検出装置及び汚れ検出方法 | |
JP2001133418A (ja) | 形状特徴に基づく欠陥検出の方法及び装置 | |
CN109584215A (zh) | 一种电路板在线视觉检测系统 | |
JP3568835B2 (ja) | 画像認識装置及び該装置を用いた外観検査装置 | |
CN117169227A (zh) | 插头的生产方法、装置、设备及存储介质 | |
JP2002207996A (ja) | パターン欠陥検出方法および装置 | |
JP3836988B2 (ja) | パターン検査方法およびパターン検査装置 | |
JPH10300689A (ja) | 容器内の異物検出方法とその装置 | |
JPH08234226A (ja) | 液晶基板製造用画像処理装置 | |
JP3665587B2 (ja) | 半導体素子の検査方法並びに半導体素子の検査プログラムおよびその半導体素子の検査プログラムが記録された記録媒体 | |
JPH08147468A (ja) | 画像処理によるbgaの位置認識方法 | |
TWI852571B (zh) | 線路影像檢測方法以及包含其的自動光學檢測系統 | |
JPH1114317A (ja) | 外観検査方法及びその装置 | |
JP5249855B2 (ja) | 電子部品の端子位置検出方法、および電子部品の端子位置検出システム | |
JP5806866B2 (ja) | 欠陥検査方法および欠陥検査装置 | |
JP3481605B2 (ja) | 方向判別装置 | |
JP2007317033A (ja) | 文字画像の照合方法および照合装置ならびにプログラム | |
JPH11328409A (ja) | シート材欠陥検査装置 | |
JPH0155630B2 (ja) | ||
JPH08313580A (ja) | 印刷パターンの検査方法及び検査装置 | |
JPH09288068A (ja) | 外観検査装置 | |
JP2003281538A (ja) | 画像処理装置と画像検査方法と印刷不良検出方法 | |
WO1997043623A1 (fr) | Appareil et procede de detection de defaut | |
JP2954498B2 (ja) | 電子部品の接合部位置推認方法 | |
JP3473114B2 (ja) | 画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040524 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040601 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040616 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313532 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080625 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090625 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100625 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100625 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110625 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120625 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120625 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130625 Year of fee payment: 9 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |