JP2008541489A - Method and apparatus for evaluating part picking motion of an electronic assembly machine - Google Patents

Method and apparatus for evaluating part picking motion of an electronic assembly machine Download PDF

Info

Publication number
JP2008541489A
JP2008541489A JP2008512511A JP2008512511A JP2008541489A JP 2008541489 A JP2008541489 A JP 2008541489A JP 2008512511 A JP2008512511 A JP 2008512511A JP 2008512511 A JP2008512511 A JP 2008512511A JP 2008541489 A JP2008541489 A JP 2008541489A
Authority
JP
Japan
Prior art keywords
image
picking
pick
machine
place machine
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2008512511A
Other languages
Japanese (ja)
Inventor
ケース,スティーブン・ケイ
コニセック,ジョン・ピー
ドゥケット,デビッド・ダブリュー
マニカム,スワミナタン
Original Assignee
サイバーオプティクス コーポレーション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by サイバーオプティクス コーポレーション filed Critical サイバーオプティクス コーポレーション
Publication of JP2008541489A publication Critical patent/JP2008541489A/en
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K13/00Apparatus or processes specially adapted for manufacturing or adjusting assemblages of electric components
    • H05K13/08Monitoring manufacture of assemblages
    • H05K13/081Integration of optical monitoring devices in assembly lines; Processes using optical monitoring devices specially adapted for controlling devices or machines in assembly lines
    • H05K13/0812Integration of optical monitoring devices in assembly lines; Processes using optical monitoring devices specially adapted for controlling devices or machines in assembly lines the monitoring devices being integrated in the mounting machine, e.g. for monitoring components, leads, component placement

Landscapes

  • Engineering & Computer Science (AREA)
  • Operations Research (AREA)
  • Manufacturing & Machinery (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Supply And Installment Of Electrical Components (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

改善されたピッキング評価を有する電子アセンブリ機械(10、201)が提供される。本装置(10、201)は、部品(304)を着脱可能にピックアップして保持するための少なくとも一つのノズル(208、210、212)を有する取り付けヘッド(206)を含む。ロボットシステムが備えられて、取り付けヘッド(206)と、工作物(203)、たとえば回路基板との間の相対運動を生成する。画像取得システム(300)が配設されて、部品ピックアップ位置(16)の少なくとも一つのピッキング前画像と、部品ピックアップ位置(16)の少なくとも一つのピッキング後画像とを得る。ピッキング前画像は複数の画像部を含み、異なる視点からのピックアップ位置の視界を各画像部にとらえさせる一方で、ピッキング後画像は複数の画像部を含み、異なる視点からのピックアップ位置の視界を各画像部にとらえさせる。  An electronic assembly machine (10, 201) having an improved picking rating is provided. The apparatus (10, 201) includes a mounting head (206) having at least one nozzle (208, 210, 212) for removably picking up and holding the component (304). A robotic system is provided to generate relative motion between the mounting head (206) and the workpiece (203), eg, a circuit board. An image acquisition system (300) is provided to obtain at least one pre-picking image of the component pick-up location (16) and at least one post-picking image of the component pick-up location (16). The pre-picking image includes a plurality of image portions, and the view of the pickup position from different viewpoints is captured in each image portion, while the post-picking image includes a plurality of image portions, and the views of the pickup positions from different viewpoints are Make it catch in the image part.

Description

著作権保留
本特許文献の開示の一部は、著作権保護の対象となる材料を含む。著作権所有者は、あらゆる者による特許文献又は特許の開示のファクシミリ再生に対して異議を唱えず、これは特許商標庁の特許ファイル又は記録に記されたとおりであるが、一切の無断転載を禁ずる。
Copyright Retention Part of the disclosure of this patent document contains material that is subject to copyright protection. The copyright owner does not object to the facsimile reproduction of patent documents or patent disclosures by anyone, as stated in the Patent and Trademark Office patent file or record, but without any unauthorized reproduction. Forbid.

発明の背景
ピックアンドプレース機械は、一般的に電子回路基板を製造するために用いられる。通常、未加工のプリント回路基板がピックアンドプレース機械に供給され、次にこの機械は部品供給部から電子部品をピッキングし、その部品を基板上に取り付ける。部品は、半田ペーストが溶けるかまたは接着剤が完全に硬化するその後のステップまで、半田ペーストまたは接着剤により、基板上に一時的に保持される。
BACKGROUND OF THE INVENTION Pick and place machines are commonly used to manufacture electronic circuit boards. Typically, a raw printed circuit board is supplied to a pick and place machine, which then picks an electronic component from a component supply and mounts the component on the substrate. The component is temporarily held on the substrate by the solder paste or adhesive until subsequent steps when the solder paste melts or the adhesive is fully cured.

ピックアンドプレース機械の動作は興味深い。機械速度がスループットに対応するため、ピックアンドプレース機械が高速で動くほど、製造された基板はより安価になる。加えて、取り付け精度はきわめて重要である。多くの電気部品、たとえばチップコンデンサ及びチップ抵抗器は比較的小さく、一様に小さな取り付け位置上に正確に取り付けなければならない。その他の部品は、より大きめのものでも、互いに比較的ファインピッチで間隔を置いた相当数のリード線または導体を有する。このような部品もまた、各リード線が適切なパッド上に取り付けられることを確実にするために、正確に取り付けなければならない。このように、機械がきわめて高速で動作しなければならないだけでなく、部品もきわめて正確に取り付けなければならない。   The operation of the pick and place machine is interesting. Since the machine speed corresponds to the throughput, the faster the pick and place machine moves, the cheaper the manufactured substrate. In addition, mounting accuracy is extremely important. Many electrical components, such as chip capacitors and chip resistors, are relatively small and must be mounted accurately on a uniformly small mounting location. Other parts, even larger ones, have a substantial number of leads or conductors spaced relatively fine pitch from each other. Such parts must also be correctly installed to ensure that each lead is mounted on the appropriate pad. Thus, not only must the machine operate at very high speeds, but also the parts must be mounted very accurately.

基板製造の質を向上させるために、一般的に、完全にまたは部分的に実装された基板は、取り付け動作後、半田リフローの前後両方で検査され、不適切に取り付けられた、欠落している、または起こり得るさまざまなエラーのいずれかである部品を特定する。このような動作を行う自動システムは、半田リフローの前に部品取り付けの問題を特定する助けとなるという点で、非常に有用であり、再加工の対象となるリフロー後の欠陥のある基板の再加工または特定を、実質的により簡単に行うことが可能となる。このようなシステムの一例は、ミネソタ州ゴールデンバレーのCyberOptics Corporationより入手可能である、商標名Model KS Flexのもとに市販されている。このシステムを用いて、アライメントおよび回転エラー、欠落したまたははじかれた部品、部品が長辺の縁に不適切に置かれた場合のビルボード、部品が短辺の縁に不適切に置かれた場合のツームストーン、部品がその垂直の向きとビルボード又はツームストーンの向きとの間に向けられた場合の部分的なビルボード及びツームストーン、部品不良、不適切な極性、および誤った部品といった問題を特定することができる。リフロー前のエラーの特定は、多くの利点を提供する。再加工がより簡単になり、閉ループ製造制御を容易にし、エラー発生と対処との間にある工程中の作業がより少なくなる。このようなシステムは大いに有用な検査を提供する一方で、プラントのフロアスペースの他、プログラミング時間、メンテナンスの手間等を費やす。   In order to improve the quality of board manufacture, fully or partially mounted boards are generally inspected both before and after solder reflow after the mounting operation and are missing, improperly installed Identify parts that are either of various errors that can occur. Automated systems that perform such operations are very useful in that they help identify component mounting problems prior to solder reflow, and the rework of defective substrates after reflow to be reworked. Processing or identification can be made substantially easier. An example of such a system is commercially available under the trade name Model KS Flex, available from CyberOptics Corporation, Golden Valley, Minnesota. Using this system, alignment and rotation errors, missing or repelled parts, billboards when parts are improperly placed on long edges, parts are improperly placed on short edges Tombstones in certain cases, such as partial billboards and tombstones when parts are oriented between their vertical orientation and billboard or tombstone orientation, part failure, improper polarity, and wrong parts The problem can be identified. Identifying errors before reflow offers many advantages. Rework becomes easier, facilitates closed-loop manufacturing control, and there is less work in the process between error generation and handling. While such a system provides highly useful testing, it spends programming time, maintenance effort, etc. in addition to plant floor space.

ピックアンドプレース機械自体の内部に位置付けられた取り付け後の検査という利点を備えるための、一つの比較的最近の試みが、Asaiらの米国特許第6,317,972号に開示されている。この参考文献は、電気部品を装着するための方法を報告しており、ここでは部品取り付け前に装着位置の画像が得られ、部品取り付け後の装着位置の画像と比較して、部品レベルで取り付け動作を検査する。Asaiらの開示は、機械内部の部品レベルの検査を使用して部品取り付け動作を検査するという一つの試みを明らかにしているものの、部品をピックアップするプロセスで、部品の向きのエラーもまた発生する可能性がある。このプロセスには、ピックアンドプレース機械の全体の動作の質に対する課題および大きな要因が残されている。   One relatively recent attempt to provide the advantage of post-installation inspection located within the pick and place machine itself is disclosed in US Pat. No. 6,317,972 to Asai et al. This reference reports a method for mounting electrical components, where an image of the mounting position is obtained before mounting the component, and it is mounted at the component level compared to the image of the mounting position after mounting the component. Check operation. Although Asai et al.'S disclosure reveals one attempt to inspect part installation behavior using part-level inspection inside the machine, part orientation errors also occur during the part pick-up process. there is a possibility. This process leaves challenges and major factors to the overall operational quality of pick and place machines.

部品のピックアップは、目的の部品のピックアップポイント上に位置付けられる取り付けヘッドを必要とする。ノズルは一度位置付けられると、部品の真上のポイントまで下げられ、一般的には、ノズルを通して減圧して部品を吸い上げ、ノズルの先端に一時的に付着させる。それぞれの部品は、部品供給機構により、各ピッキングポイントに位置付けられる。一般的な供給機構は、テープ供給部、振動供給部およびトレイ供給部を含む。新しい工作物を組み立てるためにピックアンドプレース機械を構成する必要がある場合、オペレータは、ピックアンドプレース機械のプログラムにより決定された命令手順に従って、部品供給部をそれらの位置に挿入する。加えて、識別マーク、たとえばバーコードを供給機構に位置付けて、ピックアンドプレース機械内の適切な位置およびシーケンスに適切な供給部が位置付けられることを確実にすることができる。部品が一度ノズルによりピックアップされると、供給機構は他の部品をピッキング位置に移動させなければならない。   Part pick-up requires a mounting head that is positioned over the pick-up point of the part of interest. Once the nozzle is positioned, it is lowered to a point just above the part and is generally depressurized through the nozzle to suck up the part and temporarily attach it to the tip of the nozzle. Each component is positioned at each picking point by a component supply mechanism. A general supply mechanism includes a tape supply unit, a vibration supply unit, and a tray supply unit. If it is necessary to configure the pick and place machine to assemble a new workpiece, the operator inserts the parts supply at those positions according to the instruction procedure determined by the program of the pick and place machine. In addition, an identification mark, such as a bar code, can be positioned on the supply mechanism to ensure that the appropriate supply is positioned in the proper position and sequence within the pick and place machine. Once a part is picked up by the nozzle, the supply mechanism must move the other part to the picking position.

部品のピッキング動作がうまくいかない場合、欠陥のある工作物が生産される。不正なピッキング動作により生じるものとして知られる工作物の欠陥は、ツームストーンが生じた部品、欠落した部品、誤った部品、誤った部品極性、および誤配置された部品である。不正なピッキング状態は、オペレータが供給部を正しくない位置にローディングしたり、または供給部が部品切れの状態で放置されたりすることや、欠陥のあるまたは壊れた供給部、部品テープ及びノズル、不適切なプログラミングをされたノズルのピッキング高、通常のピッキングプロセス中での不一致によって生じる可能性があり、結果として部品がノズルにピッキングされて、ツームストーンの向き、ビルボードの向き、又は部品がその一つの角でノズルに接触する角向きに保持される。これらのいずれもが、部品の正しくない配置につながる。   If the part picking operation fails, a defective workpiece is produced. Workpiece defects known to be caused by incorrect picking operations are tombstoned parts, missing parts, wrong parts, wrong part polarity, and misplaced parts. An incorrect picking condition can be caused by an operator loading the supply into an incorrect position, leaving the supply out of parts, or a defective or broken supply, parts tape and nozzle, Properly programmed nozzle picking heights, which can be caused by discrepancies in the normal picking process, resulting in parts being picked into the nozzle, tombstone orientation, billboard orientation, or parts It is held in the corner direction that contacts the nozzle at one corner. Either of these leads to incorrect placement of the parts.

発明の概要
改善されたピッキング評価を有する電子アセンブリ機械が提供される。本機械は、部品を着脱可能にピックアップして保持するための少なくとも一つのノズルを有する取り付けヘッドを含む。ロボットシステムが備えられて、取り付けヘッドと、工作物、たとえば回路基板との間の相対運動を生成する。画像取得システムが配設されて、部品ピックアップ位置の少なくとも一つのピッキング前画像と、部品ピックアップ位置の少なくとも一つのピッキング後画像とを得る。ピッキング前画像は複数の画像部を含み、異なる視点からのピックアップ位置の視界を各画像部にとらえさせる一方で、ピッキング後画像は複数の画像部を含み、異なる視点からのピックアップ位置の視界を各画像部にとらえさせる。
SUMMARY OF THE INVENTION An electronic assembly machine with improved picking evaluation is provided. The machine includes a mounting head having at least one nozzle for removably picking up and holding the part. A robotic system is provided to generate relative motion between the mounting head and a workpiece, such as a circuit board. An image acquisition system is provided to obtain at least one pre-picking image of the component pick-up location and at least one post-picking image of the component pick-up location. The pre-picking image includes a plurality of image portions, and the view of the pickup position from different viewpoints is captured in each image portion, while the post-picking image includes a plurality of image portions, and the views of the pickup positions from different viewpoints are Make it catch in the image part.

詳細な説明
図1は、本発明の実施形態が適用可能である代表的なカーテシアンピックアンドプレース機械201の線図である。ピックアンドプレース機械201は、搬送システムまたはコンベア202を介して工作物、たとえば回路基板203を受け取る。その後、取り付けヘッド206は部品供給部(図示せず)から、工作物203上に装着される一個以上の電気部品を得て、x、yおよびzの方向へ移動し、工作物203上の適切な向きの適切な位置に部品を取り付ける。取り付けヘッド206は、複数のノズル208、210、212を含み、複数の部品をピッキングすることができる。いくつかのピックアンドプレース機械は、各ノズル上の部品位置及び向きを確認するために、部品を撮像するための固定カメラの上を移動する取り付けヘッドを使用することができる。また、取り付けヘッド206は、下向きのカメラ209を含むことができ、これを用いて一般的には工作物203上に基準マークを位置付け、工作物203に対する取り付けヘッド206の相対位置を容易に算出することができるようにされている。
DETAILED DESCRIPTION FIG. 1 is a diagram of a representative Cartesian pick and place machine 201 to which embodiments of the present invention are applicable. The pick and place machine 201 receives a workpiece, such as a circuit board 203, via a transfer system or conveyor 202. Thereafter, the mounting head 206 obtains from the component supply (not shown) one or more electrical components to be mounted on the workpiece 203 and moves in the x, y, and z directions for proper placement on the workpiece 203. Install the parts in the correct position in the correct orientation. The mounting head 206 includes a plurality of nozzles 208, 210, 212 and can pick a plurality of parts. Some pick and place machines can use a mounting head that moves over a fixed camera to image the part to verify the part position and orientation on each nozzle. The mounting head 206 can also include a downward-facing camera 209, which is typically used to position a reference mark on the workpiece 203 and to easily calculate the relative position of the mounting head 206 relative to the workpiece 203. Have been able to.

図2は、本発明の実施形態がさらに適用可能である代表的な回転タレットピックアンドプレース機械10の線図である。機械10は、機械201と類似したいくつかの部品を含み、同様の部品には同じように番号が振られている。タレットピックアンドプレース機械10では、工作物203がコンベアを介してx−yステージ(図示せず)上にローディングされる。ノズル210はメインタレット20に取り付けられ、回転タレットの周囲に一定の角度間隔で配設される。各ピックアンドプレースサイクルの間、タレット20は、隣接する取り付けノズル210の間の角度間隔と等しい角度間隔を割り出しする。タレット20が所定位置へ回転し、工作物203がx−yステージによって位置付けられた後、取り付けノズル210は画定されたピックポイント16において、部品供給部14から部品304(図3に示す)を得る。この同じ間隔の間、もう一つのノズル210はプログラムされた取り付け位置106で、工作物203上に部品304を取り付ける。加えて、タレット20がピックアンドプレース動作を中断する間、上向きのカメラ30はもうひとつの部品304の画像を取得し、これによりその部品のためのアライメント情報が提供される。このアライメント情報を用いて、ピックアンドプレース機械10は、取り付けノズル210が数ステップ後に部品104を取り付けるように位置付けられたとき、工作物203を位置付ける。ピックアンドプレースサイクル完了後、タレット20は次の角度位置を割り出し、工作物203がx−y方向に再度位置付けられて、取り付け位置を取り付け位置106に対応する位置へ移動させる。   FIG. 2 is a diagram of a representative rotary tale topic and place machine 10 to which embodiments of the present invention are further applicable. Machine 10 includes several parts that are similar to machine 201, and like parts are similarly numbered. In the tallet topic and place machine 10, a workpiece 203 is loaded on an xy stage (not shown) via a conveyor. The nozzles 210 are attached to the main turret 20 and are arranged around the rotating turret at regular angular intervals. During each pick and place cycle, the turret 20 determines an angular spacing equal to the angular spacing between adjacent mounting nozzles 210. After the turret 20 is rotated into position and the workpiece 203 is positioned by the xy stage, the mounting nozzle 210 obtains a part 304 (shown in FIG. 3) from the part supply 14 at a defined pick point 16. . During this same interval, another nozzle 210 mounts the part 304 on the workpiece 203 at the programmed mounting position 106. In addition, while the turret 20 interrupts the pick and place operation, the upward facing camera 30 acquires an image of another part 304, thereby providing alignment information for that part. Using this alignment information, the pick and place machine 10 positions the workpiece 203 when the mounting nozzle 210 is positioned to mount the part 104 after several steps. After completion of the pick and place cycle, the turret 20 determines the next angular position and the workpiece 203 is repositioned in the xy direction to move the mounting position to a position corresponding to the mounting position 106.

図3は、本発明の実施形態の取り付けヘッドの線図である。図3は、部品304がノズル210により供給部14の位置16からピックアップされる前後の、ピックアップ位置16における部品304の画像を取得するために配設された、画像取得システム300を図示している。デバイス300は、部品304のピックアップ前およびその直後に、供給部14上のピックアップ位置16の画像を得る。これら前後の画像を比較することにより、部品レベルのピックアップの検査および検証が容易になる。加えて、部品ピックアップ位置16に取り囲まれた領域がさらに撮像される。一般的には、ノズル210がピックアップ位置16の上に位置付けられているときにピックアップ位置16の画像の取得が行われるため、ピックアップ位置16を撮像すると同時に、部品304自体または取り付けノズル210のパーツからの干渉を最小限にするかまたは減少させることができることは重要である。このように、システム300が、ノズル210の軸に対して角度θをなして傾斜されて視認できる光軸を使用することは好ましい。システム300を角度θをなして傾斜させることのさらなる利点は、部品304の垂直運動、供給部、および部品保持テープ/トレイを、画像取得の間にこれらのものの並進運動を判断することにより検出して測定することができることである。画像取得間隔の時間を厳密に計って、ピックアップ位置16および取り付けヘッド210が互いに相対的に並べられ、部品304が供給部14の中にあって、カメラのアングルからみることができるようにすることはさらに有効である。部品304がピックアップされた後、第二の画像は、ピックアップサイクル中の予め選定された時間になるように時間を計ることが望ましい。これら二つの画像の取得の時間を厳密に計るための方法は、同時継続出願番号第10/970,355号に記載されている。   FIG. 3 is a diagram of a mounting head according to an embodiment of the present invention. FIG. 3 illustrates an image acquisition system 300 arranged to acquire an image of the component 304 at the pick-up position 16 before and after the component 304 is picked up from the position 16 of the supply 14 by the nozzle 210. . The device 300 obtains an image of the pickup position 16 on the supply unit 14 before and immediately after the component 304 is picked up. By comparing these images before and after, it becomes easy to inspect and verify the pickup at the component level. In addition, an area surrounded by the component pickup position 16 is further imaged. In general, since the image of the pickup position 16 is acquired when the nozzle 210 is positioned on the pickup position 16, the pickup position 16 is imaged at the same time from the part 304 itself or the part of the mounting nozzle 210. It is important to be able to minimize or reduce the interference. Thus, it is preferred that system 300 uses an optical axis that is visible at an angle θ with respect to the axis of nozzle 210. A further advantage of tilting the system 300 at an angle θ is to detect the vertical movement of the parts 304, the supply, and the part holding tape / tray by determining their translational movement during image acquisition. It can be measured. Strictly measure the time between image acquisitions so that the pick-up position 16 and mounting head 210 are aligned relative to each other so that the part 304 is in the supply 14 and can be viewed from the camera angle. Is even more effective. After the part 304 is picked up, the second image is preferably timed to be a preselected time during the pick-up cycle. A method for precisely timing the acquisition of these two images is described in co-pending application No. 10 / 970,355.

本発明の実施形態では一般的に、対象とするピックアップ位置の二つ以上の連続した(すなわちピックアップ前後の)画像セットが得られる。ピックアップは比較的迅速に行われ、また機械のスループットの低下はきわめて望ましくないため、取り付けヘッドとピックアップ位置との間の相対運動の停止が一瞬であるということから、時々、二つの連続した画像を非常に迅速に取得する必要がある。たとえば、およそ10ミリ秒間以内に二つの画像を取得する必要がある場合がある。   Embodiments of the present invention generally provide two or more consecutive image sets (i.e., before and after pickup) of target pickup positions. Since pick-up takes place relatively quickly and the reduction in machine throughput is highly undesirable, sometimes two consecutive images are taken because the relative movement between the mounting head and the pick-up position is momentary. Need to get very quickly. For example, it may be necessary to acquire two images within approximately 10 milliseconds.

図4は、本発明の実施形態の、ピッキング動作に関連する一つ以上の画像を取得するために配設された、画像取得システム300の線図である。好ましくは、画像取得システム300は、ノズル210によって部品304が保持されているとき、部品304をとらえるように配設された電子カメラ(CCD、CMOS他)を含む。好ましくは、画像取得システム300は光軸を有するように配設されて、水平に対して非ゼロ角度から部品304をとらえる。システム300はまた、好ましくは、照明312を発生させる照明器310を含み、照明312は、照明光学系314によって方向を変えられる。方向を変えられた照明316は、部品304がノズル210上に維持されているときに、部品304に直近の領域を通過する。結像光学系318は、照明の方向を変えて、画像取得システム300上に合焦させるように配設される。照明光学系314および結像光学系318を用いることにより、部品304が画像取得システム300の結像光軸とは異なる角度で維持されていても、画像取得システム300が部品304の逆光側の正面図を得ることが可能になる。好ましくは、画像取得システム300は、ノズル210が部品供給部14から部品304をピッキングする前に、ノズル210の画像を得る。そして、部品304がノズル210によってピッキングされた後、画像取得システム300は、第二のピッキング後の画像を得る。ピッキング前後の画像を比較することにより、ピッキング動作の有効性に関連する重要な情報が提供される。   FIG. 4 is a diagram of an image acquisition system 300 arranged to acquire one or more images associated with a picking operation according to an embodiment of the present invention. Preferably, the image acquisition system 300 includes an electronic camera (CCD, CMOS, etc.) arranged to capture the part 304 when the part 304 is held by the nozzle 210. Preferably, the image acquisition system 300 is arranged with an optical axis to capture the component 304 from a non-zero angle with respect to the horizontal. System 300 also preferably includes an illuminator 310 that generates illumination 312, which is redirected by illumination optics 314. The redirected illumination 316 passes through an area proximate to the part 304 when the part 304 is maintained on the nozzle 210. The imaging optical system 318 is arranged to focus on the image acquisition system 300 by changing the direction of illumination. By using the illumination optical system 314 and the imaging optical system 318, even if the component 304 is maintained at an angle different from the imaging optical axis of the image acquisition system 300, the image acquisition system 300 is in front of the backlight side of the component 304. A figure can be obtained. Preferably, the image acquisition system 300 obtains an image of the nozzle 210 before the nozzle 210 picks the component 304 from the component supply unit 14. Then, after the component 304 is picked by the nozzle 210, the image acquisition system 300 obtains a second post-picking image. Comparing the images before and after picking provides important information related to the effectiveness of the picking operation.

図5は、図4に図示されたシステムの正面平面図であり、図示を簡略化するためにノズル210が取り除かれている。図5は、一対の照明ビーム312A、312Bを発生させている画像取得システム300を図示し、このビーム312A、312Bは、照明光学系314A、314Bにそれぞれ当たる。照明光学系314A、314Bは照明の方向を変え、結像光学系318A、318Bは、二つの異なる視点からの部品304の逆光の視界を提供する。視点の角度間隔は、好ましくは90度である。しかし、本発明の実施形態に従って任意の好適な角度間隔を用いることができ、かつ二つ以上の視点を用いることができることが明確に意図されている。好ましくは、画像取得システム300は、システム300の単一の結像動作で、複数の視点を有する単一の画像を取得する。加えて、光学系314A、314B、及び/又は318A、318Bの構成は、光パワーを有するかまたは有していないエレメント、及び伝送又は反射に用いられるエレメントを含むことができる。好ましくは、これらの光学系は、システム300の一つ以上の照明源から発せられる照明の方向を変えて調整する。しかし、本発明の実施形態はまた、システム300上又は内部に配設しなくてもよい照明源も含む。   FIG. 5 is a front plan view of the system illustrated in FIG. 4 with the nozzle 210 removed for ease of illustration. FIG. 5 illustrates an image acquisition system 300 generating a pair of illumination beams 312A, 312B, which impinge on illumination optics 314A, 314B, respectively. The illumination optics 314A, 314B change the direction of illumination, and the imaging optics 318A, 318B provide a backlight view of the component 304 from two different viewpoints. The angle interval between the viewpoints is preferably 90 degrees. However, it is expressly contemplated that any suitable angular spacing can be used in accordance with embodiments of the present invention and more than one viewpoint can be used. Preferably, the image acquisition system 300 acquires a single image having multiple viewpoints in a single imaging operation of the system 300. In addition, the configuration of optical systems 314A, 314B, and / or 318A, 318B can include elements with or without optical power and elements used for transmission or reflection. Preferably, these optics adjust the direction of illumination emanating from one or more illumination sources of system 300. However, embodiments of the present invention also include illumination sources that may not be disposed on or within the system 300.

図6は、本発明の実施形態で取得された、代表的な3視点のピッキング前の画像の線図である。画像350は、左画像部352、中央画像部354、及び右画像部356を含む。それぞれの画像部352、354、及び356は、異なる角度からのノズル210を示す。加えて、図6は中央画像部354を図示し、左及び右画像部352、356と比較して大きくした拡大率を有する。   FIG. 6 is a diagram of an image before picking of representative three viewpoints acquired in the embodiment of the present invention. The image 350 includes a left image portion 352, a center image portion 354, and a right image portion 356. Each image portion 352, 354, and 356 shows the nozzle 210 from a different angle. In addition, FIG. 6 illustrates the central image portion 354 and has a larger magnification than the left and right image portions 352 and 356.

図7は、図6に図示された3視野の実施形態の代表例の線図であるが、部品304のピッキング動作後である。図7に図示するように、左画像部352は、一方向にある部品304を示し、一方、右画像部356は異なる視点からの部品304を図示する。さらに、中央画像部354は、離れた、中間の視点からの部品354を示す。異なる視点から得られたさまざまな画像を比較及び/又は対比することにより、重要な部品ピッキング情報を判断することができる。さらに、それぞれのピッキング後の画像部を、それぞれのピッキング後の画像部と比較及び/又は対比して、異なる画像を形成することで、無関係な特徴を除去しながら、部品の画像が容易に分離される。そして、三つの異なる画像を比較又は対比することにより、ピッキングの有効性の情報を発するための比較的簡単な手法が提供される。   FIG. 7 is a diagram of a representative example of the three-view embodiment illustrated in FIG. 6, but after the picking operation of part 304. FIG. As shown in FIG. 7, the left image portion 352 shows a component 304 in one direction, while the right image portion 356 shows a component 304 from different viewpoints. Furthermore, the central image portion 354 shows the part 354 from a middle viewpoint that is distant. By comparing and / or contrasting various images obtained from different viewpoints, important part picking information can be determined. In addition, each picked image part can be compared and / or contrasted with each picked image part to form a different image so that the image of the part can be easily separated while removing irrelevant features. Is done. Then, by comparing or contrasting three different images, a relatively simple technique is provided for issuing picking effectiveness information.

図8は、電子アセンブリ機械のピッキング動作に関する複数の画像セットを取得するための方法400のフロー図である。方法400はステップ402で始まり、ここでピッキング前のトリガが生成されるか又は受け取られる。ピッキング前のトリガは、各ピッキング動作前の厳密な時点で確実に信号を送ることができる任意の好適な手法又は装置によって、任意の好適な方法で、提供されることができる。トリガは、電子アセンブリ機械の一つ以上のエンコーダによって提供されるX、Y座標404を監視することによって生成することができる。これに代えて、又は加えて、ピッキング前のトリガを、取り付けヘッド又はノズル210の特定のZ運動406によって生成することができる。またさらには、ピッキング前のトリガは、少なくとも部分的にタイミング機能408に基づいて生成することができる。装着部又は電子アセンブリ装置からのノズル210及び部品304の位置を、デコーダ信号又はその他の好適な信号を介して通信することで、ステップ402からのピッキング前のトリガにより、ブロック410に示すように、画像取得システム300に、異なる視点からのノズルを示す複数の画像部を有する、少なくとも一つのピッキング前画像を取得させる。上述のように、好ましくは、ピッキング前の画像は、画像取得システム300の単一の撮像動作の間に得られる。複数のピッキング前画像部が並べられて、好ましくは90度離されて、異なる視点からのノズルを示す。次に、ブロック412で、アセンブリ機械は部品供給部160から部品304をピッキングする。ブロック414で、ピッキング後のトリガが生成されるか又は得られる。ピッキング後のトリガは、Z運動、たとえば416の所定距離の上方向へのノズル運動に応じて生成することができるか、又はピッキング後のトリガをタイミング418と関連させることができる。たとえば、ピッキング後のトリガは、部品304がピッキングされた後の厳密な時間を生じさせるように設定することができる。いったんピッキング後のトリガが生成されると、画像取得システム300は、ブロック420に示すように、異なる視点からのノズルを示す複数の画像部を有するピッキング後の画像を取得する。ピッキング後の画像部は、実質的にピッキング前の画像部と同じ視点である。さらに、ピッキング後の画像部は、ピッキング後の画像と同じ結像光学系を介して、及び同じ画像取得システムによって得られる。したがって、所定のピッキング前画像部と、それぞれのピッキング後画像部との間の異なる画像の生成は、選択された視点でピッキングされた部品が容易に分離される。ブロック422では、さまざまな画像、好ましくは異なる画像が、対比されて比較される。ブロック422で画像分析が行われ、結果として、ブロック424でピッキング指示が提供される。好適なピッキング指示の例は、誤差や欠陥が生じていないこと、ピッキングされた部品が完全にツームストーンであること、ピッキングされた部品が部分的にツームストーンであること、ピッキングされた部品がビルボード状態であること、部品が一つの角でピッキングされていること、又はピッキングされた部品がないことの指示とすることができる。   FIG. 8 is a flow diagram of a method 400 for obtaining a plurality of image sets for a picking operation of an electronic assembly machine. Method 400 begins at step 402 where a pre-picking trigger is generated or received. The pre-picking trigger can be provided in any suitable manner by any suitable technique or device that can reliably signal at the exact time before each picking operation. The trigger can be generated by monitoring X, Y coordinates 404 provided by one or more encoders of the electronic assembly machine. Alternatively or additionally, a pre-picking trigger can be generated by a particular Z motion 406 of the mounting head or nozzle 210. Still further, the pre-picking trigger can be generated based at least in part on the timing function 408. As shown in block 410 by a pre-picking trigger from step 402 by communicating the position of the nozzle 210 and component 304 from the mounting or electronic assembly device via a decoder signal or other suitable signal, as shown in block 410. The image acquisition system 300 is made to acquire at least one pre-picking image having a plurality of image portions indicating nozzles from different viewpoints. As described above, the pre-pick image is preferably obtained during a single imaging operation of the image acquisition system 300. A plurality of pre-picking image portions are arranged, preferably 90 degrees apart, to indicate nozzles from different viewpoints. Next, at block 412, the assembly machine picks the part 304 from the part supplier 160. At block 414, a post-pick trigger is generated or obtained. A post-pick trigger can be generated in response to a Z motion, eg, an upward nozzle motion of 416 a predetermined distance, or the post-pick trigger can be associated with timing 418. For example, the post-pick trigger can be set to produce a precise time after the part 304 is picked. Once the post-pick trigger is generated, the image acquisition system 300 acquires a post-pick image having multiple image portions showing nozzles from different viewpoints, as shown in block 420. The image portion after picking has substantially the same viewpoint as the image portion before picking. Further, the picked image portion is obtained through the same imaging optical system as the picked image and by the same image acquisition system. Therefore, in the generation of different images between a predetermined pre-picking image part and each post-picking image part, the parts picked at the selected viewpoint are easily separated. At block 422, various images, preferably different images, are compared and compared. Image analysis is performed at block 422 and, as a result, picking instructions are provided at block 424. Examples of suitable picking instructions include no errors or defects, that the picked part is completely tombstone, that the picked part is partially tombstone, and that the picked part is building It can be an indication that it is in the board state, that the part is picked at one corner, or that no part has been picked.

本発明の実施形態は、従来の技術を越える多くの利点を提供する。特に、好ましくは90度離れた、少なくとも二つの異なる観点から撮像が行われ、部品の不都合な方向付けを、より効果的に分析することができる。さらに、各ピッキング動作の直後にデータが取得され、分析された結果はピッキングされた部品の取り付けの必要が生じる十分前に利用可能となる。またさらには、前述のとおり、ピッキング評価及び取り付け評価に、同じカメラ及び照明システムを用いることができる。   Embodiments of the present invention provide many advantages over the prior art. In particular, imaging is performed from at least two different viewpoints, preferably 90 degrees apart, and the inconvenient orientation of the parts can be analyzed more effectively. In addition, data is acquired immediately after each picking operation, and the analyzed results are available well before the need to install picked parts. Still further, as described above, the same camera and illumination system can be used for picking evaluation and mounting evaluation.

好ましい実施形態を参照して本発明を説明してきたが、当業者においては、本発明の本質及び範囲から逸脱することなく、形状及び詳細に改変を加えてもよいことが理解されよう。   Although the present invention has been described with reference to preferred embodiments, workers skilled in the art will recognize that changes may be made in form and detail without departing from the spirit and scope of the invention.

本発明の実施形態を実施することができる、カーテシアンピックアンドプレース機械の線図である。1 is a diagram of a Cartesian pick and place machine in which embodiments of the present invention can be implemented. 本発明の実施形態を実施することができる、タレットピックアンドプレース機械の平面線図である。1 is a plan view of a Tale topic and place machine in which embodiments of the present invention may be implemented. 部品取り付け機械のピックアップポイントとともに並べられた、画像取得システムの簡略化された線図である。FIG. 2 is a simplified diagram of an image acquisition system aligned with a pick-up point of a component mounting machine. 本発明の実施形態のピッキング動作に関する一つ以上の画像を取得するために配設された、画像取得システムの線図である。FIG. 3 is a diagram of an image acquisition system arranged to acquire one or more images related to a picking operation of an embodiment of the present invention. 図を簡略化するためにノズルが取り除かれた、図4に図示されたシステムの正面平面図である。FIG. 5 is a front plan view of the system illustrated in FIG. 4 with the nozzles removed to simplify the illustration. 本発明の実施形態によって取得されたピッキング前画像の、代表的な3視点の線図である。FIG. 4 is a representative three-viewpoint diagram of a pre-picking image acquired according to an embodiment of the present invention. ピッキング動作後に取得された、図6に図示された3視点の実施形態の代表的な線図である。FIG. 7 is a representative diagram of the three-viewpoint embodiment illustrated in FIG. 6 obtained after a picking operation. 電子アセンブリ機械のピッキング動作に関する複数の画像セットを取得するための方法のフロー図である。FIG. 6 is a flow diagram of a method for acquiring a plurality of image sets relating to a picking operation of an electronic assembly machine.

Claims (20)

工作物を組み立てるためのピックアンドプレース機械であって、
部品を着脱可能にピックアップして保持するための少なくとも一つのノズルを有する取り付けヘッドと、
取り付けヘッドと工作物との間の相対運動を生成するためのロボットシステムと、
部品ピックアップ位置の少なくとも一つのピッキング前画像と、部品ピックアップ位置の少なくとも一つのピッキング後画像とを得るために配設された画像取得システムとを含み、
ピッキング前画像が複数の画像部を含み、異なる視点からのピックアップ位置を各画像部にとらえさせ、
ピッキング後画像が複数の画像部を含み、異なる視点からのピックアップ位置を各画像部にとらえさせる、ピックアンドプレース機械。
A pick and place machine for assembling a workpiece,
A mounting head having at least one nozzle for removably picking up and holding the component;
A robot system for generating relative movement between the mounting head and the workpiece;
An image acquisition system arranged to obtain at least one pre-picking image of the component pick-up location and at least one post-picking image of the component pick-up location;
The pre-picking image includes a plurality of image portions, and the pickup positions from different viewpoints are captured in each image portion.
A pick-and-place machine in which an image after picking includes a plurality of image portions and each image portion captures a pickup position from a different viewpoint.
ピッキング前画像が、画像取得システムの単一の撮像動作で得られる、請求項1記載のピックアンドプレース機械。   The pick and place machine according to claim 1, wherein the pre-picking image is obtained with a single imaging operation of the image acquisition system. ピッキング前画像の第一の画像部がピックアップ位置の第一の視点を有し、ピッキング前画像の第二の画像部がピックアップ位置の第二の視点を有し、第一及び第二の視点が異なる、請求項1記載のピックアンドプレース機械。   The first image portion of the pre-picking image has a first viewpoint of the pickup position, the second image portion of the pre-picking image has a second viewpoint of the pickup position, and the first and second viewpoints are The pick and place machine of claim 1, which is different. 第一及び第二の視点が、およそ90度離れている、請求項3記載のピックアンドプレース機械。   The pick and place machine of claim 3, wherein the first and second viewpoints are approximately 90 degrees apart. ピッキング後画像が、画像取得システムの単一の撮像動作で得られる、請求項1記載のピックアンドプレース機械。   The pick and place machine of claim 1, wherein the picked image is obtained in a single imaging operation of the image acquisition system. ピッキング後画像の第一の画像部がピックアップ位置の第一の視点を有し、ピッキング後画像の第二の画像部がピックアップ位置の第二の視点を有し、第一及び第二の視点が異なる、請求項1記載のピックアンドプレース機械。   The first image portion of the picked image has a first viewpoint of the pickup position, the second image portion of the picked image has a second viewpoint of the pickup position, and the first and second viewpoints are The pick and place machine of claim 1, which is different. 第一及び第二の視点が、およそ90度離れている、請求項6記載のピックアンドプレース機械。   The pick and place machine of claim 6, wherein the first and second viewpoints are approximately 90 degrees apart. 画像取得システムに対して、部品を背後から照らすように配設された照明器をさらに含む、請求項1記載のピックアンドプレース機械。   The pick and place machine of claim 1, further comprising an illuminator arranged to illuminate the part from behind with respect to the image acquisition system. 照明器からの照明を受け、照明の方向を部品の直近に変えるように配設された照明光学系をさらに含む、請求項8記載のピックアンドプレース機械。   9. The pick and place machine of claim 8, further comprising illumination optics arranged to receive illumination from the illuminator and to change the direction of illumination to the position of the component. 部品の逆光の画像を、画像取得システム上に合焦させるように配設された結像光学系をさらに含む、請求項9記載のピックアンドプレース機械。   10. The pick and place machine of claim 9, further comprising imaging optics arranged to focus the backlight image of the part on the image acquisition system. 部品の逆光の画像を、画像取得システム上に合焦させるように配設された結像光学系をさらに含む、請求項1記載のピックアンドプレース機械。   The pick and place machine of claim 1, further comprising imaging optics arranged to focus a backlit image of the part on the image acquisition system. 機械が、複数のピッキング後画像部の分析に少なくとも部分的に基づいて、ピッキング指示を提供するように構成される、請求項1記載のピックアンドプレース機械。   The pick and place machine of claim 1, wherein the machine is configured to provide a picking instruction based at least in part on an analysis of a plurality of post-picking image portions. 機械が、複数のピッキング前画像部の分析に少なくとも部分的に基づいて、ピッキング指示を提供するように構成される、請求項12記載のピックアンドプレース機械。   The pick and place machine of claim 12, wherein the machine is configured to provide a picking instruction based at least in part on an analysis of the plurality of pre-picking image portions. 機械が、部分的なツームストーン、完全なツームストーン、部分的なビルボード、完全なビルボード、角、及びなしからなる群から選択されたピッキング指示を提供するように構成される、請求項1記載のピックアンドプレース機械。   The machine is configured to provide a picking instruction selected from the group consisting of partial tombstone, full tombstone, partial billboard, complete billboard, corners, and none. Pick and place machine as described. 画像取得システムがさらに、部品取り付け画像を取得して、工作物上の部品の取り付けを検証するように配設される、請求項1記載のピックアンドプレース機械。   The pick and place machine of claim 1, wherein the image acquisition system is further arranged to acquire a part mounting image and verify the mounting of the part on the workpiece. 電子アセンブリ機械の部品ピッキング動作を評価する方法であって、
ピッキング前画像がノズルの異なる視点に各々が対応する複数の画像部を含む、ノズルのピッキング前画像を得ることと、
ピッキング後画像がノズルの異なる視点に各々が対応する複数の画像部を含む、ノズルのピッキング後画像を得ることとを含み、
ピッキング後画像の各画像部が、ピッキング前画像の画像部の視点と一致する視点を有し、
画像部の分析がピッキング指示を提供する方法。
A method for evaluating a component picking operation of an electronic assembly machine, comprising:
Obtaining a pre-picking image of a nozzle, wherein the pre-picking image includes a plurality of image portions each corresponding to a different viewpoint of the nozzle;
Obtaining a post-picking image of the nozzle, wherein the post-picking image includes a plurality of image portions each corresponding to a different viewpoint of the nozzle;
Each image part of the image after picking has a viewpoint that matches the viewpoint of the image part of the image before picking,
A method in which image portion analysis provides picking instructions.
機械が、部分的なツームストーン、完全なツームストーン、部分的なビルボード、完全なビルボード、角、及びなしからなる群から選択されたピッキング指示を提供するように構成される、請求項16記載の方法。   The machine is configured to provide a picking instruction selected from the group consisting of partial tombstone, full tombstone, partial billboard, full billboard, corners, and none. The method described. 複数の画像部が少なくとも三つの画像部を含み、少なくとも一つの画像部が、その他の画像部とは異なる大きさを有する、請求項16記載の方法。   The method of claim 16, wherein the plurality of image portions includes at least three image portions, and the at least one image portion has a different size than the other image portions. ピッキング後画像の複数の画像部それぞれが異なる視点からのノズルを示し、少なくとも二つの視点が約90度離れている、請求項16記載の方法。   The method of claim 16, wherein each of the plurality of image portions of the post-picking image represents a nozzle from a different viewpoint, and at least two viewpoints are approximately 90 degrees apart. 工作物上に部品を取り付けるための取り付けヘッドと、
取り付けヘッドと工作物との間の相対運動を生成するためのロボットシステムと、
機械のピッキング動作を評価するための方法と、
を含む、電子アセンブリ機械。
A mounting head for mounting the part on the workpiece;
A robot system for generating relative movement between the mounting head and the workpiece;
A method for evaluating the picking motion of the machine;
Including an electronic assembly machine.
JP2008512511A 2005-05-19 2006-05-18 Method and apparatus for evaluating part picking motion of an electronic assembly machine Withdrawn JP2008541489A (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US68245005P 2005-05-19 2005-05-19
PCT/US2006/019281 WO2006125102A1 (en) 2005-05-19 2006-05-18 Method and apparatus for evaluating a component pick action in an electronics assembly machine

Publications (1)

Publication Number Publication Date
JP2008541489A true JP2008541489A (en) 2008-11-20

Family

ID=36992705

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008512511A Withdrawn JP2008541489A (en) 2005-05-19 2006-05-18 Method and apparatus for evaluating part picking motion of an electronic assembly machine

Country Status (2)

Country Link
JP (1) JP2008541489A (en)
WO (1) WO2006125102A1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015099022A (en) * 2013-11-18 2015-05-28 東芝三菱電機産業システム株式会社 Operation confirmation system
WO2019142300A1 (en) * 2018-01-18 2019-07-25 ヤマハ発動機株式会社 Component mounting machine, and method for judging component exposure status

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4896136B2 (en) * 2005-09-14 2012-03-14 サイバーオプティクス コーポレーション Pick and place machine with improved component pick image processing

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62292328A (en) * 1986-06-12 1987-12-19 Matsushita Electric Ind Co Ltd Method for attaching parts
JP2002094296A (en) * 2000-09-13 2002-03-29 Fuji Mach Mfg Co Ltd Suction nozzle, method for detecting holding position of electric component, method for detecting curvature of suction tube, method for specifying rotational position of suction nozzle, and electric component handling unit
US6909515B2 (en) * 2001-01-22 2005-06-21 Cyberoptics Corporation Multiple source alignment sensor with improved optics
US7239399B2 (en) * 2001-11-13 2007-07-03 Cyberoptics Corporation Pick and place machine with component placement inspection

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015099022A (en) * 2013-11-18 2015-05-28 東芝三菱電機産業システム株式会社 Operation confirmation system
WO2019142300A1 (en) * 2018-01-18 2019-07-25 ヤマハ発動機株式会社 Component mounting machine, and method for judging component exposure status

Also Published As

Publication number Publication date
WO2006125102A8 (en) 2007-02-01
WO2006125102A1 (en) 2006-11-23

Similar Documents

Publication Publication Date Title
JP4839314B2 (en) Pick and place machine with improved component pick-up inspection
JP4426585B2 (en) Pick and place machine with image acquisition device
US20070003126A1 (en) Method and apparatus for evaluating a component pick action in an electronics assembly machine
US7559134B2 (en) Pick and place machine with improved component placement inspection
US20060016066A1 (en) Pick and place machine with improved inspection
JP2009514234A (en) Electronic assembly machine with built-in solder paste inspection
US20070010969A1 (en) Pick and place machine with improved setup and operation procedure
US7346420B2 (en) Component feeder exchange diagnostic tool
JP2006220426A (en) Method and system for inspecting mounted electronic component
JP2003264396A (en) Component setting method
JP2006319332A (en) Apparatus for installing electronic components provided with device for inspecting installed electronic components
JP2008541489A (en) Method and apparatus for evaluating part picking motion of an electronic assembly machine
WO2000078116A1 (en) Procedure and system for inspecting a component with leads to determine its fitness for assembly
WO2000078115A1 (en) Procedure and system for inspecting a component with leads to determine its fitness for assembly
JP4750792B2 (en) Diagnostic tool for component feeder replacement
KR102153168B1 (en) Semiconductor Device Attaching Method
JP2008507699A (en) Pick and place machine with improved inspection
JP2000124696A (en) Method and equipment for detecting deviation in position of component recognition reference in mounting apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090508

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20100611

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100614