JP2005033102A - 画像認識装置における画素レート算出方法 - Google Patents

画像認識装置における画素レート算出方法 Download PDF

Info

Publication number
JP2005033102A
JP2005033102A JP2003272854A JP2003272854A JP2005033102A JP 2005033102 A JP2005033102 A JP 2005033102A JP 2003272854 A JP2003272854 A JP 2003272854A JP 2003272854 A JP2003272854 A JP 2003272854A JP 2005033102 A JP2005033102 A JP 2005033102A
Authority
JP
Japan
Prior art keywords
image
pixel rate
recognition
calibration
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003272854A
Other languages
English (en)
Other versions
JP4306353B2 (ja
Inventor
Hitoshi Mukojima
仁 向島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2003272854A priority Critical patent/JP4306353B2/ja
Publication of JP2005033102A publication Critical patent/JP2005033102A/ja
Application granted granted Critical
Publication of JP4306353B2 publication Critical patent/JP4306353B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Supply And Installment Of Electrical Components (AREA)

Abstract

【課題】簡便な方法で且つ複数種類の光学倍率に対して適用可能な画像認識装置における画素レートの算出方法を提供することを目的とする。
【解決手段】サイズの異なる複数種類の認識対象をズーム機構を有するカメラによって撮像して得られた取得画像を認識処理して、認識対象の寸法情報を含む所定情報を出力する画像認識装置において、取得画像における画素レートを算出する画素レート算出方法において、形状・寸法が既知に較正マークがズーム機構の特定の光学倍率に対応して複数作り込まれた較正用治具を指定された光学倍率でカメラによって撮像し、得られた画像にマスキング処理して複数の較正マークのうち指定された光学倍率に対応した較正マークM3の画像を所望較正マーク画像として選択的に取得し、この画像を認識処理して得られた画素数と既知寸法に基づいて画素レートを算出する。
【選択図】図5

Description

本発明は、電子部品実装用装置などに使用される画像認識装置において、取得画像における単位画素サイズと寸法情報との対応を特定する画素レートを算出する画像認識装置における画素レート算出方法に関するものである。
基板に電子部品を搭載する電子部品搭載装置などの電子部品実装用装置では、基板や電子部品の位置認識を行う画像認識装置を備えており、電子部品を基板の実装点へ搭載する実装動作などの作業過程では、位置認識結果に基づいて位置合わせが行われる。この位置認識において位置ずれ量などの寸法情報を求める際には、画像上における単位画素サイズと実際寸法との関係を示す画素レートを予め設定しておく必要がある。従来よりこの画素レート設定方法として、予め寸法が既知の基準マークやターゲット部品を当該装置に認識させることにより、画素レートを求める方法が知られている(例えば特許文献1参照)。
特開平11−17395号公報
ところで電子部品搭載装置における電子部品など、認識対象のサイズは大小様々であり、同一装置で広いサイズ範囲を対象とする画像認識においては、ズーム機構を備えたカメラを用いて、対象物の画像を認識処理に適切なサイズで読み込むことが望ましい。このため、画像読み取りに際しては、カメラの光学倍率を対象物に応じて適切に設定する作業が行われる。
ところが、光学倍率の変更は前述の画素レートの変更を伴うことから、従来より光学倍率の変更の際にはその都度対象物に応じたサイズの基準マークやターゲット部品を用いて画素レートを新たに算出する作業を必要としていた。このため、生産現場においては複数の基準マークやターゲット部品を準備し対象物に応じて使い分ける煩雑な管理を必要としており、簡便な方法で複数種類の光学倍率に対して適用可能な画素レートの算出方法が求められていた。
そこで本発明は、簡便な方法で且つ複数種類の光学倍率に対して適用可能な画像認識装置における画素レートの算出方法を提供することを目的とする。
上記課題を解決するために、本発明の画像認識装置における画素レート算出方法は、光学倍率を変更するズーム機構を有するカメラと、前記カメラによって認識対象を撮像して得られた取得画像を認識処理する画像認識部とを備え、前記取得画像の認識処理結果に基づいて認識対象の寸法情報を含む所定情報を出力する画像認識装置において、前記取得画像における単位画素サイズと前記寸法情報との対応関係を示す画素レートを算出する画像認識装置における画素レート算出方法であって、相互の間隔が既知の複数の特徴点を含んで構成された較正マークが前記光学倍率の複数の特定値に対応して略相似形状で複数作り込まれた較正用治具を前記認識対象と同一の撮像位置に装着する治具装着工程と、前記較正用治具を指定された光学倍率で前記カメラによって撮像し、前記複数の較正マークのうち前記光学倍率に対応した較正マークの画像を所望較正マーク画像として選択的に取得する画像選択取得工程と、前記所望較正マーク画像を前記画像処理部によって認識処理する認識処理工程と、前記認識処理工程の認識処理結果と前記特徴点相互の間隔とに基づいて前記所望較正マーク画像における前記画素レートを算出する画素レート算出工程とを含む
本発明によれば、相互の間隔が既知の複数の特徴点を含んで構成された較正マークが光学倍率の複数の特定値に対応して複数作り込まれた較正用治具を用い、較正用治具をカメラによって指定された光学倍率で撮像し、複数の較正マークのうち光学倍率に対応した較正マークの画像を所望較正マーク画像として選択的に取得し、この所望較正マーク画像における画素と特徴点相互の間隔との対応を特定する画素レートを算出することにより、簡便な方法で複数種類の光学倍率に対して画素レートを算出することができる。
次に本発明の実施の形態を図面を参照して説明する。図1は本発明の一実施の形態の電子部品実装装置の全体構成を示すブロック図、図2は本発明の一実施の形態の電子部品実装装置の制御系の構成を示すブロック図、図3は本発明の一実施の形態の画素レート算出方法において使用される較正マークの平面図、図4は本発明の一実施の形態の電子部品実装装置の記憶部に記憶されるデータ内容の説明図、図5,図6は本発明の一実施の形態の画像認識装置における画素レート算出方法の説明図である。
まず図1を参照して、画像認識装置が組み込まれた電子部品実装装置の構成を説明する。図1において、部品供給部1にはトレイ2が載置されており、トレイ2にはチップ3が格子配列で保持されている。トレイ2はトレイY軸駆動機構4によってY方向に移動可能となっており、後述するヘッドXZΘ駆動機構6とともにトレイY軸駆動機構4を駆動することにより、トレイ2上の任意のチップ3を搭載ヘッド7による取り出し位置に移動させることができる。
部品供給部1の上方には、搭載ヘッド7を備えた搭載機構5が配設されている。搭載ヘッド7は、ヘッドXZΘ駆動機構6によってX方向、Z方向およびθ方向(チップ3を保持するノズル軸廻りの回転方向)に可動となっており、部品供給部1のトレイ2からチップ3をピックアップして基板保持部8の上方へ移動し、基板保持部8に保持された基板9上にチップ3を搭載する。基板保持部8は、基板Y軸駆動機構10によってY方向に移動可能となっており、これにより搭載ヘッド7による搭載時のY方向の位置合わせが行われる。
ヘッドXZΘ駆動機構6による搭載ヘッド7の移動経路には、チップ認識カメラ13が撮像方向を上向きにして配設されている。チップ認識カメラ13は搭載ヘッド7に保持されたチップ3を下方から撮像する。チップ認識カメラ13による撮像は、チップカメラコントローラ14によって制御される。
基板保持部8の上方には基板認識カメラ11が撮像方向を下向きにして配設されており、基板認識カメラ11は基板保持部8に載置された基板9を撮像する。基板認識カメラ11による撮像は、基板カメラコントローラ12によって制御される。基板認識カメラ11、チップ認識カメラ13は光学倍率を変更するズーム機構を備えており、ズーム調整リング11a、13aを手動で操作することにより、所望の光学倍率で基板9,チップ3を撮像することが可能となっている。なおズーム機構は自動であってもよい。
搭載ヘッド7によるチップ搭載動作においては、基板認識カメラ11による基板9の認識結果と、チップ認識カメラ13によるチップ3の認識結果に基づいて、搭載ヘッド7の基板9に対する位置決めが行われる。ここで実装対象となるチップ3はサイズが異なる複数の種類を含んでおり、チップ認識カメラ13によるチップ3の撮像および基板認識カメラ11による基板9の実装位置の撮像においては、チップ3のサイズに応じた光学倍率で
画像が取り込まれる。
次に図2を参照して制御系の構成を説明する。図2において、基板カメラコントローラ12、チップカメラコントローラ14に取り込まれた画像データは、制御部20の画像認識部21に送られ、ここで画像データを認識処理することにより、基板9中の実装位置や搭載ヘッド7に保持された状態のチップ3の位置が認識される。認識結果は演算部22に送られここで所定の演算処理を行うことにより、実装位置やチップ3の位置ずれ量が検出される。そして検出結果に基づいて駆動機構制御部23がヘッドXZΘ駆動機構6、基板Y軸駆動機構10を制御することにより、搭載ヘッド7による搭載動作における位置合わせが行われる。
表示部15は表示パネルであり、基板認識カメラ11、チップ認識カメラ13によって撮像された画像を表示するほか、入力部16によるデータや操作コマンド入力時の案内画面を表示する。制御部20による各種の処理実行時には、記憶部24に記憶された各種のプログラムやデータが用いられる。
上記構成において、基板認識カメラ11、基板カメラコントローラ12、チップ認識カメラ13、チップカメラコントローラ14、画像認識部21、演算部22は、電子部品実装装置において基板9やチップ3の位置認識を行うための画像認識装置を構成しており、この画像認識装置は、光学倍率を変更するズーム機構を有するカメラと、カメラによって認識対象を撮像して得られた取得画像を認識処理する画像認識部とを備え、取得画像の認識処理結果に基づいて認識対象の寸法情報を含む所定情報を出力する構成となっている。基板認識系とチップ認識系のいずれかのみを備えた構成であってもよい。
次にこの画像認識装置において、画素レートを算出する画像認識装置における画素レート算出方法について説明する。画素レートは、取得画像における単位画素サイズと基板9やチップ3の位置ずれ量などの寸法情報との対応関係を示すものである。前述のように基板認識カメラ11、チップ認識カメラ13は光学倍率を任意に変更可能であることから、基板認識カメラ11、チップ認識カメラ13による撮像結果から対象物のサイズや位置ずれ量などの寸法情報を求める際には、取得画像における単位画素サイズと実装寸法との換算係数である画素レートを求めておく必要がある。本実施の形態では、以下に説明する較正用治具17を用いて各光学倍率に対応する画素レートを算出する。
図3を参照して較正用治具17について説明する。較正用治具17は透明なガラス板に、正方枠形の相似形状の複数のマークM1,M2,M3,M4,M5を蒸着した構成となっており、各マークの相似比は基板9におけるチップ搭載点のサイズや、チップ3のサイズに基づいて設定される特定の光学倍率(図4(b)参照)に対応している。なおマーク部分を蒸着として背景を透明としてもよいし、マーク部分を透明にして背景を蒸着してもよい。もちろん蒸着以外の方法でマークを形成してもよい。
各マークの対角点(例えばマークM1における対角点A1,B1,C1,D1)は該マークの特徴点となっており、対角点A1〜B1間、B1〜C1間の寸法(特徴点間距離)は既知となっている。すなわち較正用治具17は、相互の間隔が既知の複数の特徴点を含んで構成された較正マークが、光学倍率の複数の特定値に対応して略相似形状で複数作り込まれた形態となっている。
次に図4を参照して記憶部24に記憶されるプログラムデータについて説明する。プログラム記憶部25には実装動作プログラム25a、基板・チップ認識プログラム25b、画素レート算出プログラム25cが記憶されている。実装動作プログラム25aは、搭載ヘッド7によって部品供給部1からチップ3をピックアップし、基板保持部8上の基板9
に搭載する実装動作のためのプログラムである。
基板・チップ認識プログラム25bは、画像認識部21によって、基板9やチップ3を認識する画像認識処理のためのプログラムである。画素レート算出プログラム25cは、較正用治具17を撮像した取得画像を画像認識部21によって認識処理し、演算部22によってこの認識結果を演算処理することにより画素レートを算出するためのプログラムである。
データ記憶部26には実装データ26a、較正マークデータ26bが記憶されている。実装データ26aはチップ3の種類・サイズなどの部品データや基板9における搭載位置のデータおよび搭載順序を示すシーケンスデータなどのデータである。較正マークデータ26bは、較正用治具17に形成された複数のマークの個々について、光学倍率および特徴点間距離を記憶する。すなわち図4(b)に示すように、基板認識カメラ11、チップ認識カメラ13の光学倍率の特定値(ここに示す例では、0.3,0.5,1.0,2.5および6.0の5種類)に対応したマークM1,M2,M3,M4,M5について、特徴点間距離L1,L2,L3,L4,L5が記憶されている。
次に画素レートの算出例を図5、図6を参照して説明する。図1に示す電子部品実装装置において、対象となるチップ3のサイズが異なる場合には、ズーム倍率調整リング11a、13aによって基板認識カメラ11、チップ認識カメラ13の光学倍率を、基板9のチップ搭載点のサイズやチップ3のサイズに応じて変更する必要がある。そして光学倍率を変更すると、画素レートをその都度新たに設定する必要があり、それぞれのカメラの認識対象のダミーに較正用治具17を装着したダミー基板・ダミーチップをカメラに認識させることによって画素レート算出が行われる。ここでは、基板認識カメラ11の画素レート算出例について説明する。
まず較正用治具17が装着されたダミー基板を、基板保持部8上の基板認識カメラ11による撮像位置に装着する(治具装着工程)。次いで較正用治具17を指定された倍率(ここでは光学倍率1倍が指定された例を示す)によって基板認識カメラ11によって撮像する。これにより、図5に示すように、撮像視野30内には複数のマークの画像が位置する。
このとき、指定された倍率1よりも小さい倍率に対応したマークM1,M2のうち、マークM1の光学画像は撮像視野サイズよりも大きくなるため撮像視野30内に表われず、マークM2はその1部のみが撮像視野30内に表われる。そして指定倍率よりも大きい倍率に対応したマークM4,M5は、マークM3の内側に表れる。
この後撮像視野30内の画像を取り込んだ後、指定された光学倍率に対応する所望の較正マークM3のみの画像を選択的に取得するため、マスキング処理を行う。すなわち図5に示すように、マークM3のみが画像取込範囲32に位置するように、すなわちマークM4、M5が排除されるようにマスク範囲31を設定し、マークM3のみの画像を取り込む。この工程は、較正用治具17を指定された光学倍率で基板認識カメラ11によって撮像し、複数の較正マークのうち指定された光学倍率に対応した較正マークの画像を所望較正マーク画像として選択的に取得する画像選択取得工程となっている。
次いで取得された所望較正マーク画像を画像認識部21によって認識処理する(認識処理工程)。これにより、図6に示すマークM3の対角点A3,B3の位置が認識され、この認識結果から特徴点間画素数N3が求められる。そしてこの特徴点間画素数N3と、較正マークデータ26bの特徴点間距離L3に基づき、演算部22によって画素レートR3(光学倍率1に対応した画素レート)が、R3=L3/N3の算出式により算出される(
画素レート算出工程)。すなわち、ここでは認識処理工程の認識処理結果と特徴点相互の間隔とに基づいて、所望較正マーク画像における画素レートを算出する。
そしてこの画素レート算出は、チップ認識カメラ13に対しても同様に実行される。すなわち較正用治具17が装着されたダミー用チップを搭載ヘッド7に保持させ、チップ認識カメラ13によって較正用治具17を撮像して、同様の方法で画素レートを求める。
なお上述の画像選択取得工程において、撮像視野30内の画像を撮像した後の取得画像をマスキング処理する替りに、CMOS型などの画像読み取り範囲が任意に設定可能なカメラを用いて、予め画像取込範囲32のみの画像を取得するようにしてもよい。
そしてこの後に開始されるチップ3の実装作業においては、画像認識部21、演算部22によって行われる基板・チップ認識処理に際し、前述の画素レートが適用される。そして次作業の対象となるチップとしてサイズが異なるものが指定された場合には、そのサイズに応じた光学倍率に対応する画素レートを新たに求める処理を行う。
このように、同一の電子部品実装装置によってサイズの異なる部品を対象とする場合において、本実施の形態に示す画素レートの算出方法を用いることにより、同一の較正用治具を全ての部品に対して適用することができ、複数のターゲットマークを使い分ける必要があった従来方法と比較して煩雑な管理が不要となる。
また本発明の画素レート算出方法においては、ダミー基板やダミーチップをカメラに対して相対移動させる必要がないことから、本実施の形態に示すように、基板9が基板認識カメラ11に対してY方向にのみ移動可能な構成であり、またチップ3がチップ認識カメラ13に対してX方向のみに移動可能な構成であっても、上述構成の較正用治具を撮像して認識処理することによって簡便に画素レートを算出することができる。
本発明の画像認識装置における画素レート算出方法は、簡便な方法で複数種類の光学倍率に対して画素レートを算出することができるという効果を有し、電子部品実装用装置などに使用される画像認識装置において、取得画像における単位画素サイズと寸法情報との対応を特定する画素レートを算出する用途に有用である。
本発明の一実施の形態の電子部品実装装置の全体構成を示すブロック図 本発明の一実施の形態の電子部品実装装置の制御系の構成を示すブロック図 本発明の一実施の形態の画素レート算出方法において使用される較正マークの平面図 本発明の一実施の形態の電子部品実装装置の記憶部に記憶されるデータ内容の説明図 本発明の一実施の形態の画像認識装置における画素レート算出方法の説明図 本発明の一実施の形態の画像認識装置における画素レート算出方法の説明図
符号の説明
1 部品供給部
7 搭載ヘッド
8 基板保持部
9 基板
11 基板認識カメラ
13 チップ認識カメラ
17 較正用治具
21 画像認識部
22 演算部

Claims (1)

  1. 光学倍率を変更するズーム機構を有するカメラと、前記カメラによって認識対象を撮像して得られた取得画像を認識処理する画像認識部とを備え、前記取得画像の認識処理結果に基づいて認識対象の寸法情報を含む所定情報を出力する画像認識装置において、前記取得画像における単位画素サイズと前記寸法情報との対応関係を示す画素レートを算出する画像認識装置における画素レート算出方法であって、
    相互の間隔が既知の複数の特徴点を含んで構成された較正マークが前記光学倍率の複数の特定値に対応して略相似形状で複数作り込まれた較正用治具を前記認識対象と同一の撮像位置に装着する治具装着工程と、前記較正用治具を指定された光学倍率で前記カメラによって撮像し、前記複数の較正マークのうち前記光学倍率に対応した較正マークの画像を所望較正マーク画像として選択的に取得する画像選択取得工程と、前記所望較正マーク画像を前記画像処理部によって認識処理する認識処理工程と、前記認識処理工程の認識処理結果と前記特徴点相互の間隔とに基づいて前記所望較正マーク画像における前記画素レートを算出する画素レート算出工程とを含むことを特徴とする画像認識装置における画素レート算出方法。
JP2003272854A 2003-07-10 2003-07-10 画像認識装置における画素レート算出方法 Expired - Fee Related JP4306353B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003272854A JP4306353B2 (ja) 2003-07-10 2003-07-10 画像認識装置における画素レート算出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003272854A JP4306353B2 (ja) 2003-07-10 2003-07-10 画像認識装置における画素レート算出方法

Publications (2)

Publication Number Publication Date
JP2005033102A true JP2005033102A (ja) 2005-02-03
JP4306353B2 JP4306353B2 (ja) 2009-07-29

Family

ID=34210284

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003272854A Expired - Fee Related JP4306353B2 (ja) 2003-07-10 2003-07-10 画像認識装置における画素レート算出方法

Country Status (1)

Country Link
JP (1) JP4306353B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007311472A (ja) * 2006-05-17 2007-11-29 Juki Corp 部品認識データ作成用画像取得方法及び部品実装機

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7046722B2 (ja) 2018-05-30 2022-04-04 株式会社アーレスティ フリーアクセスフロア

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007311472A (ja) * 2006-05-17 2007-11-29 Juki Corp 部品認識データ作成用画像取得方法及び部品実装機
JP4707607B2 (ja) * 2006-05-17 2011-06-22 Juki株式会社 部品認識データ作成用画像取得方法及び部品実装機

Also Published As

Publication number Publication date
JP4306353B2 (ja) 2009-07-29

Similar Documents

Publication Publication Date Title
JP5318334B2 (ja) 対象物の位置検出方法及び装置
KR100802596B1 (ko) 아이디위치 검사기능을 갖는 레이저마킹 시스템 및 그검사방법
JP5457665B2 (ja) 電子部品装着装置
US7675633B2 (en) Method for measuring positions of structures on a substrate with a coordinate measuring machine
JP2008211009A (ja) 部品ライブラリデータ作成方法
WO2017081773A1 (ja) 基板用の画像処理装置および画像処理方法
JP4306353B2 (ja) 画像認識装置における画素レート算出方法
WO2018096577A1 (ja) 画像処理システム及び画像処理方法
JP2001124700A (ja) ラインセンサーカメラを備えた検査機のキャリブレーション方法
JP2707548B2 (ja) 視覚認識装置の座標補正方法
CN110857924A (zh) 协助阵列排版的电路板辨识且记录缺陷位置的系统
JP2006267191A (ja) 露光装置
KR20100034039A (ko) 미소 치수 측정 방법 및 측정 장치
JP3166816B2 (ja) 画像認識によるパターン位置出し方法及び装置
JP2008151607A (ja) テンプレートマッチングを用いたマーク位置決め方法及び装置
JP2000199704A (ja) 画像処理装置のキャリブレ―ション方法
JPH10288517A (ja) ウェーハ測定方法
JP2010155329A (ja) ワーク保持位置姿勢計測システムおよびワーク搬送システム
JP2008139260A (ja) 画像表示装置、外観検査装置、クリーム半田印刷機、及び画像表示方法
JPH10260016A (ja) 画像認識装置
CN117835690B (zh) 基于机器视觉的贴装平面坐标热补偿方法及系统、存储介质
JP2005121478A (ja) 実装部品の検査方法、実装部品の検査装置及び治具基板
JP2002185199A (ja) 電子部品実装装置におけるプログラムのマーク位置修正方法および装置
JP2004198110A (ja) 校正用基板
KR100586449B1 (ko) 피더 정밀도 교정 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060111

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20060214

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080902

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081015

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20081111

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081216

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20090129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090224

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090319

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090414

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090427

R151 Written notification of patent or utility model registration

Ref document number: 4306353

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120515

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120515

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130515

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130515

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees