JP3598862B2 - 画像認識装置および画像認識方法 - Google Patents
画像認識装置および画像認識方法 Download PDFInfo
- Publication number
- JP3598862B2 JP3598862B2 JP01558799A JP1558799A JP3598862B2 JP 3598862 B2 JP3598862 B2 JP 3598862B2 JP 01558799 A JP01558799 A JP 01558799A JP 1558799 A JP1558799 A JP 1558799A JP 3598862 B2 JP3598862 B2 JP 3598862B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- recognition
- pattern
- matching
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は、認識対象物の画像を取り込んで画像認識を行う画像認識装置および画像認識方法に関するものである。
【0002】
【従来の技術】
電子部品や機器の製造分野において、検査や位置検出などの目的で認識対象物を画像で取り込み画像認識を行う方法が多用されている。この画像認識の手法の1つとして、パターンマッチングが広く用いられる。このパターンマッチングでは、予め認識対象物の典型画像をリファレンスパターンとして記憶させておき、カメラで取得した認識対象物の画像をこのリファレンスパターンと対比照合し、マッチング率を求めることにより認識対象物であるか否かを判断するものである。そして、このパターンマッチングは、基板や電子部品の位置検出に広く応用されており、基板や電子部品には位置検出用の認識マークが形成される。
【0003】
【発明が解決しようとする課題】
ところが、フレキシブル基板など、撓み易いものに形成された認識マークが認識対象物であるような場合には、画像認識に際し以下のような困難があった。まず、認識対象物の良好な画像を取得するため、認識対象物周囲を照明することが行われるが、認識マークが形成された面が撓んでいる場合には、照明光が反射される方向は撓みの状態によって異り、カメラで撮像して得られた画像上では大きな明暗差が生じる。このため得られた画像データをリファレンスパターンとパターンマッチングさせたときには、本来正しい認識マークであるにも拘らずマッチング率が低くなり、認識エラーを生ずる場合がある。
【0004】
また、認識マークそのものは同一であっても、画像上での認識マーク周辺の背景に差異があるような場合、さらには認識対象物の表面が経時的に変質するような場合(例えば金属表面の酸化など)にも、同様の認識エラーを生じる場合がある。このように、従来の画像認識装置では、認識マークそのものは同一であっても、撮像された画像上で見え方が異ることに起因する認識エラーにより認識精度が低く、その都度照明の調整などの対応を必要として装置稼働率を低下させる一要因となっていた。
【0005】
そこで本発明は、認識精度を向上させ、装置稼働率を向上させることができる画像認識装置および画像認識方法を提供することを目的とする。
【0006】
【課題を解決するための手段】
請求項1記載の画像認識装置は、認識対象物の画像を取り込むカメラと、このカメラで取得した画像データを記憶する画像記憶部と、前記認識対象物の見え方がそれぞれ異る複数のリファレンスパターンを記憶するパターン記憶部と、前記記憶された画像データを前記複数のリファレンスパターンとパターンマッチングさせることにより前記認識対象物を認識する画像処理部と、この画像処理部によって求められたマッチング率の合否判定を行い、マッチング率が不合格ならば順次他のリファレンスパターンとのパターンマッチングを指令する判定手段とを備えた。
【0007】
請求項2記載の画像認識方法は、認識対象物の画像をカメラで取り込み、取得した画像データを画像記憶部に記憶させ、予めパターン記憶部に記憶された前記認識対象物の見え方がそれぞれ異る複数のリファレンスパターンの1つと前記画像データをパターンマッチングさせてマッチング率を求め、求められたマッチング率の合否判定を行い、マッチング率が不合格ならば順次他のリファレンスパターンとのパターンマッチングを行う。
【0008】
各請求項記載の発明によれば、同一認識対象物について見え方が異る複数のリファレンスパターンを予め記憶させておき、1つのリファレンスパターンとのパターンマッチングによって認識エラーを生じたならば、順次他のリファレンスパターンとパターンマッチングさせることにより、同一認識対象物が単に見え方が異なることによる認識エラーを減少させることができる。
【0009】
【発明の実施の形態】
次に本発明の実施の形態を図面を参照して説明する。図1は本発明の一実施の形態のボンディング装置の側面図、図2は同基板およびサブ基板の平面図、図3、図4、図5は同ボンディング装置の部分断面図、図6は同ボンディング装置の制御系のブロック図、図7は同リファレンスパターンの画像図、図8は同ボンディング装置の動作を示すフロー図、図9は同画像認識処理のフロー図である。
【0010】
まず図1を参照して本発明の画像認識装置が組み込まれたボンディング装置の構造を説明する。図1において基台1には第1のXYθテーブル2が配設されている。第1のXYθテーブル2はXテーブル2A、Yテーブル2Bおよびθテーブル2Cを段積みして構成されている。θテーブル2C上には主基板保持テーブル3が装着されており、主基板保持テーブル3は主基板4を吸着して保持する。
【0011】
基台1上の第1のXYテーブル2と反対側の端部には、第2のXYθテーブル5が配設されている。第2のXYθテーブル5はXテーブル5A、Yテーブル5Bおよびθテーブル5Cを段積みして構成されており、θテーブル5C上にはサブ基板保持テーブル6が装着されている。サブ基板保持テーブル6はフレキシブル基板8が予め接続されたサブ基板7を吸着して保持する。
【0012】
第1のXYθテーブル2および第2のXYθテーブル5を駆動することにより、主基板4の縁部に対してフレキシブル基板8の端部を位置合せすることができる。第1のXYθテーブル2および第2のXYθテーブル5の間には、撮像部9が配設されている。基台1上に配設されたカメラ移動手段としてのカメラXYテーブル10上には、カメラ11が装着されている。カメラ11に備えられた鏡筒14には同軸照明部12およびリング照明部13が備えられている。カメラXYテーブル10を駆動することにより、カメラ11は水平方向に移動し、同軸照明部12およびリング照明部13によってフレキシブル基板8の下面を照明された状態で、フレキシブル基板8に設けられた認識マークを撮像する。
【0013】
主基板4の上方には、XYテーブル15が配設されている。XYテーブル15はXテーブル15AおよびYテーブル15Bを重ねて構成されており、Xテーブル15Aの下面には移動ブロック16が装着されている。移動ブロック16には圧着ツール18を備えた圧着ヘッド17が固着されており、移動ブロック16に立設された棒状のブラケットの下端部には透過照明部19が装着されている。透過照明部19が主基板4の縁部の上方に位置した状態で上方より主基板4を照明し、主基板4の下方よりカメラ11で撮像すると、主基板4の上面の認識マークを撮像する。また、主基板4の縁部上にフレキシブル基板8の端部を位置合せした状態で圧着ツール18をフレキシブル基板8の端部に押圧することにより、フレキシブル基板8は主基板4にボンディングされる。
【0014】
次に図2を参照して主基板4とフレキシブル基板8のボンディング部の詳細について説明する。図2において、主基板4の縁部には、多数の端子電極20が列状に形成され、端子列20Aを構成している。それぞれの端子列20Aの両側には、それぞれ主基板4の位置認識用の認識対象物である第1の認識マーク22のA点およびB点が設けられている。主基板4の上面には、縁部に沿ってテープ状の異方性導電材21が貼付されている。ここで、異方性導電材21は本来端子列20Aの範囲のみに貼付されればよいものであるが、貼付時に連続したテープを複数の端子列20A上に一括して貼付する方法が採用されているため、図2において最上部に示す第1の認識マーク22上には異方性導電材21は貼付されず、その他の位置の第1の認識マーク22上には異方性導電材21が貼付されている。
【0015】
フレキシブル基板8の下面には、主基板4の端子列20Aの配列ピッチに対応して、同様に多数の端子電極23によって端子列23Aが構成されている。また端子列23Aの両側のフレキシブル基板8の下面には、フレキシブル基板8の位置認識用の認識対象物である第2の認識マーク24が形成されている。
【0016】
第1の認識マーク22および第2の認識マーク24を認識することにより、主基板4およびフレキシブル基板8の位置がそれぞれ認識される。したがって、第1の認識マーク22および第2の認識マーク24を認識することにより、端子列20Aと端子列23Aの位置ずれ量を求めることができ、この位置ずれ量に基づいて第2のXYθテーブル5を駆動することにより、端子列23Aを端子列20Aに正確に位置合せすることができる。
【0017】
次に図3を参照して撮像部9について説明する。図3において、XYテーブル10に装着されたカメラ11は鏡筒14を備えている。鏡筒14の側面には同軸照明部12が設けられており、同軸照明部12を発光させることにより、照明光はハーフミラー12aにより上方に反射され、カメラ11の上方に位置する対象物を同軸方向(矢印a)から照明する。鏡筒14の上端部にはリング照明部13が鏡筒14の周囲をリング状に取り囲んで装着されている。リング照明部13を発光させることにより、カメラ11の上方の対象物を斜下方(矢印b)から照明する。
【0018】
撮像部9を図3に示す撮像位置Aに位置させ、同軸照明部12およびリング照明部13を発光した状態で、カメラ11はフレキシブル基板8の下面の第2の認識マーク24を撮像する。また撮像部9を撮像位置Bに位置させ、透過照明部19をこの撮像位置Bの上方に位置させた状態でカメラ11により主基板4を撮像することにより、主基板4の上面に形成された第1の認識マーク22(図2)を撮像する。なお、図3においてはフレキシブル基板8が撮像位置Bの主基板4の上方に重なっているが、第1の認識マーク22の位置にはフレキシブル基板8は存在せず、したがって透過照明を阻害しない。
【0019】
次に図6を参照してボンディング装置の制御系の構成について説明する。図6においてカメラ11には画像処理部30が接続されている。画像処理部30は取得された画像データを、予め記憶された認識マークの見え方の異なる複数のリファレンスパターンとパターンマッチングさせることにより、第1の認識マーク22および第2の認識マーク24の認識を行い、位置を検出する。
【0020】
画像処理部30内には、画像記憶部30aおよびパターン記憶部30bが設けられており、画像記憶部30aはカメラ11で所得した画像データを記憶し、パターン記憶部30bは前記複数のリファレンスパターンを記憶する。
【0021】
同軸照明部12、リング照明部13および透過照明部19は照明コントローラ31に接続されている。照明コントローラ31は後述の制御部からの指令に従って各照明部のON−OFFおよび明るさの制御を行う。制御部32はCPUであり、ボンディング装置全体の動作制御や位置補正演算などを行うほか、判定手段としてマッチング率の合否判定処理を行う。すなわち、画像処理部30によって求められたマッチング率が所定値以上であるか否かを判定し、所定値に満たなければ不合格と判定して他のリファレンスパターンとのパターンマッチングを指令する。記憶部33は検出された認識マークの位置座標データや位置補正データを記憶する。
【0022】
第1のXYθテーブル2、第2のXYθテーブル5、XYテーブル15、カメラXYテーブル10はモータ駆動部34によって駆動される。モニター35は認識エラー表示などの報知および操作・入力画面を表示する。操作・入力部36はキーボードであり、一般の操作コマンドや新たなリファレンスパターンの入力操作を行う。
【0023】
図6に示す構成要素のうち、カメラXYテーブル10,カメラ11,画像処理部30,リング照明部13,同軸照明部12,透過照明部19,照明コントローラ31,制御部32,記憶部33が画像認識装置を構成している。
【0024】
このボンディング装置は上記のように構成されており、以下動作について図8のフローに沿って説明する。まず図1において主基板保持テーブル3上に主基板4が載置され、主基板4の第1の認識マーク22のA点、B点をカメラ11により撮像する。このとき、図4、図5に示すように、透過照明部19を撮像対象の第1の認識マーク22上に位置させ、またカメラ11を第1の認識マーク22の下方に位置させ、上方から透過照明光を照射した状態で第1の認識マーク22のA点、B点を順次撮像する(ST1)。
【0025】
なお、図4は第1の認識マーク22上に異方性導電材21が貼付された状態を、図5は異方性導電材21が貼付されていない状態を示している。図5は、図2に示す最上部の第1の認識マーク22に対応しており、図4はそれ以外の第1の認識マーク22に対応している。このように、同一の認識対象物である第1の認識マーク22を同一の照明条件で撮像した場合でも、異方性導電材21の貼付の有無によって、得られる画像は第1の認識マーク22の背景画像が異なる明度で観察される。
【0026】
次に、撮像により取得された画像データに基づき第1の認識マーク22のA点、B点の認識処理を行い(ST2)、この認識結果により主基板4の位置ズレを求める(ST3)。そしてこの位置ズレ検出結果に基づき、第1のXYθテーブル2を駆動して主基板4の位置を補正する(ST4)。
【0027】
この後、第2のXYθテーブル5を駆動してフレキシブル基板8の端部を主基板4の縁部に重ね合せ、サブ基板7を主基板4に対して仮位置決めする。次いで図3に示すようにカメラXYテーブル10を駆動してカメラ11をフレキシブル基板8の第2の認識マーク24の下方に位置させ、第2の認識マーク24のA点、B点を撮像する(ST6)。次いで、取得された画像データを認識処理し(ST7)、第2の認識マーク24の位置を検出する。そして主基板4に対するフレキシブル基板8の位置ズレを求め(ST8)、この位置ズレ検出結果に基づき、第2のXYθテーブル5を駆動して、サブ基板7を主基板4に位置合せする(ST9)。この後、XYテーブル15を駆動して圧着ヘッド17を主基板4の縁部上に移動させ、圧着ツール18を下降させてフレキシブル基板8を主基板4に対して押圧する。これにより、フレキシブル基板8は主基板4に異方性導電材21を介してボンディングされる(ST10)。
【0028】
次に、図9を参照して前述のフロー中の認識処理(ST7)について説明する。ここでは、予め対象物である第2の認識マーク24のリファレンスパターンを複数種類(ここでは6種類)パターン記憶部30aに記憶させておき、これらのリファレンスパターンを撮像により取得された画像データと順次パターンマッチングさせるものである。このように複数のリファレンスパターンを用いるのは、フレキシブル基板8は撓み易くしかもその撓みの傾向には法則性がないため、個々のフレキシブル基板8によって撮像された画像が異り、単一のリファレンスパターンのみを用いると認識エラーが多発するからである。
【0029】
本実施の形態では、図7に示すような6種類のリファレンスパターンが用いられる。図7(a)はフレキシブル基板8がほぼ撓みなく水平に保たれた状態での第2の認識マーク24の画像を示すものである。これに対し図7(b),(c),(d),(e)はフレキシブル基板8の撓みの方向に起因して、画像にそれぞれ左、右、上、下の部分に影が生じた状態を示している。また、図7(f)はフレキシブル基板8そのものは撓みがなく、第2の認識マーク24の画像には影が発生しないものの、第2の認識マーク24の表面が酸化などで変質し、光の反射状況が変化して明度が異る画像となった例を示している。このように通常で想定可能な複数種類のリファレンスパターンを予め用意して、これらと順次パターンマッチングさせることにより、認識マーク自体としては正常であるにも拘らず、カメラ11に対しての認識マークの見え方が異ることによって認識エラーが発生するという事態を防止することができる。
【0030】
図9において、まず複数のリファレンスパターンに付されるインデックスNo.(i)を1にセットする(ST11)。次に、リファレンスパターンNo.(i)と、第2の認識マーク24のA点の画像とをパターンマッチングで照合する(ST12)。そして、マッチング率の合否、すなわち求められたマッチング率が80%以上であるか否かが制御部32によって判断される(ST13)。ここでマッチング率が80%に満たないならば不合格と判定され、制御部32の指令により他のリファレンスパターンを用いてパターンマッチングを行う。すなわちインデックスNo.(i)が6未満であるか否かが判断され(ST14)、6未満、すなわち他に未使用のリファレンスパターンが存在すれば(i)に1を加算し(ST15)、ST12に戻って新たなインデックスNo.のリファレンスパターンを用いてパターンマッチングを行う。そしてST14にてインデックスNo.が6であれば後述のST23に進み、認識エラー処理が行われる。そしてST13にてマッチング率が80%以上であれば、当該リファレンスパターンによって特定された第2の認識マーク24のA点の位置を記憶させる(ST16)。
【0031】
次に、第2の認識マーク24のB点についても、上述のA点についての認識処理(ST11〜ST16)と同様に、ST17〜ST22の認識処理が行われる。そしてST14,ST20にてNOと判断され、すなわち80%以上のマッチング率を与えるリファレンスパターンが存在しないと判断されたならば、認識エラー処理が行われる(ST23)。ここでは、認識エラーである旨がモニター35によって報知され、オペレータはこの報知を受けて照明条件の調整や、新たなリファレンスパターンの登録等の処置を行う。
【0032】
本実施の形態では、第2の認識マーク24についてのみ複数のリファレンスパターンの説明をしているが、第1の認識マーク22に対しても同様に複数のリファレンスパターンが用いられる。前述のように第1の認識マーク22は、上面に異方性導電材21が貼付されるか否かによって、透過照明下で撮像された画像の見え方が異るからである。したがって、この見え方に応じた複数のリファレンスパターンを予め準備しておき、これらのリファレンスパターンと順次パターンマッチングさせることにより、認識エラーを減少させることができる。
【0033】
本発明は上記実施の形態に限定されず、本来同一性を保っていながら、照明条件や背景状況など画像上での見え方が異ることに起因して異る認識結果を与えるような認識対象物について適用することができる。
【0034】
【発明の効果】
本発明によれば、同一対象物について見え方が異る複数のリファレンスパターンを予め記憶させておき、認識エラーを生じたならば順次他のリファレンスパターンとパターンマッチングさせるようにしたので、同一対象物が単に見え方が異なることによる認識エラーを減少させて、認識精度を向上させるとともに、画像認識装置の稼働率を向上させることができる。
【図面の簡単な説明】
【図1】本発明の一実施の形態のボンディング装置の側面図
【図2】本発明の一実施の形態の基板およびサブ基板の平面図
【図3】本発明の一実施の形態のボンディング装置の部分断面図
【図4】本発明の一実施の形態のボンディング装置の部分断面図
【図5】本発明の一実施の形態のボンディング装置の部分断面図
【図6】本発明の一実施の形態のボンディング装置の制御系のブロック図
【図7】本発明の一実施の形態のリファレンスパターンの画像図
【図8】本発明の一実施の形態のボンディング装置の動作を示すフロー図
【図9】本発明の一実施の形態の画像認識処理のフロー図
【符号の説明】
4 主基板
8 フレキシブル基板
9 撮像部
11 カメラ
22 第1の認識マーク
24 第2の認識マーク
30 画像処理部
30a 画像記憶部
30b パターン記憶部
32 制御部
33 記憶部
Claims (2)
- 認識対象物の画像を取り込むカメラと、このカメラで取得した画像データを記憶する画像記憶部と、前記認識対象物の見え方がそれぞれ異る複数のリファレンスパターンを記憶するパターン記憶部と、前記記憶された画像データを前記複数のリファレンスパターンとパターンマッチングさせることにより前記認識対象物を認識する画像処理部と、この画像処理部によって求められたマッチング率の合否判定を行い、マッチング率が不合格ならば順次他のリファレンスパターンとのパターンマッチングを指令する判定手段とを備えたことを特徴とする画像認識装置。
- 認識対象物の画像をカメラで取り込み、取得した画像データを画像記憶部に記憶させ、予めパターン記憶部に記憶された前記認識対象物の見え方がそれぞれ異る複数のリファレンスパターンの1つと前記画像データをパターンマッチングさせてマッチング率を求め、求められたマッチング率の合否判定を行い、マッチング率が不合格ならば順次他のリファレンスパターンとのパターンマッチングを行うことを特徴とする画像認識方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP01558799A JP3598862B2 (ja) | 1999-01-25 | 1999-01-25 | 画像認識装置および画像認識方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP01558799A JP3598862B2 (ja) | 1999-01-25 | 1999-01-25 | 画像認識装置および画像認識方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000213921A JP2000213921A (ja) | 2000-08-04 |
JP3598862B2 true JP3598862B2 (ja) | 2004-12-08 |
Family
ID=11892872
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP01558799A Expired - Fee Related JP3598862B2 (ja) | 1999-01-25 | 1999-01-25 | 画像認識装置および画像認識方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3598862B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4829813B2 (ja) * | 2007-03-01 | 2011-12-07 | 芝浦メカトロニクス株式会社 | 電子部品の実装装置及び実装方法 |
JP2010038762A (ja) * | 2008-08-06 | 2010-02-18 | Micronics Japan Co Ltd | 検査装置 |
JP7308436B2 (ja) * | 2019-02-22 | 2023-07-14 | パナソニックIpマネジメント株式会社 | 情報管理装置及び情報管理方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2660913B2 (ja) * | 1995-06-19 | 1997-10-08 | 名古屋電機工業株式会社 | 印刷配線板の実装部品検査装置 |
JP3594747B2 (ja) * | 1996-08-22 | 2004-12-02 | 豊田工機株式会社 | 物体認識方法及びその装置 |
JPH1097610A (ja) * | 1996-09-20 | 1998-04-14 | Fujitsu Ltd | 図形位置検出装置 |
-
1999
- 1999-01-25 JP JP01558799A patent/JP3598862B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000213921A (ja) | 2000-08-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP0886465B1 (en) | Electronic components mounting method and apparatus | |
JP4628205B2 (ja) | フィードバック補正方法および部品実装方法 | |
JP4190819B2 (ja) | 電子部品実装装置及び画像認識方法の選択方法 | |
WO2002005211A1 (fr) | Procede et dispositif de creation de donnees de reconnaissance de pieces, appareil de montage de pieces electroniques, et support enregistre | |
KR20050118707A (ko) | 반도체 칩 취출 장치 및 방법 | |
CN101666957A (zh) | 拍摄装置中的自动焦点调整方法 | |
JP3598862B2 (ja) | 画像認識装置および画像認識方法 | |
JP4619896B2 (ja) | 基準位置決定方法及び基準位置決定装置並びに接合材料の印刷方法及び印刷装置 | |
JP2005072046A (ja) | 電子部品実装装置 | |
US20050072831A1 (en) | Electronic component mounting apparatus and electronic component mounting method | |
KR101266714B1 (ko) | 부품 장착 장치의 부품 실장 방법 및 부품 장착 장치 | |
JPH11289199A (ja) | 電子部品認識装置 | |
JP3613055B2 (ja) | スクリーン印刷における基板の位置合わせ方法 | |
JP4315752B2 (ja) | 電子部品実装装置 | |
JP2000259830A (ja) | 画像認識装置および画像認識方法 | |
JP5740082B2 (ja) | 複数の表面実装装置からなる基板生産ライン | |
JP3399334B2 (ja) | バンプ付電子部品の熱圧着装置および熱圧着方法 | |
JP2004281983A (ja) | 位置決め装置および位置決め方法並びに塗布装置および塗布方法 | |
JP3600643B2 (ja) | 基板位置検出方法及び基板位置検出装置 | |
JP3555488B2 (ja) | 電子部品の実装装置および実装方法 | |
JP2003142891A (ja) | 電子部品実装装置 | |
JPH10135700A (ja) | データ処理装置及び電子部品装着装置 | |
JPH09307292A (ja) | データ作成装置及び方法並びに電子部品装着装置 | |
JPH07245500A (ja) | 電子部品実装装置および電子部品実装方法 | |
JPH0715186A (ja) | Pgaパッケ−ジ装着装置およびpgaパッケ−ジのピン端子認識装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040202 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040210 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040401 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040824 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040906 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080924 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080924 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090924 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090924 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100924 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110924 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120924 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130924 Year of fee payment: 9 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |